人工智能的出現將“奇點”這個概念推到了前沿，許多硅谷人相信人工智能將徹底改變人類社會。然而，人們也擔心人工智能可能帶來的潛在負面后果，包括可能摧毀人類的可能性。這篇文章來自編譯，作者在文中針對“奇點”概念展開了探討，同時還探討了硅谷對人工智能的興奮和擔憂，并強調了這種技術所帶來的潛在利益和風險。

奇點是指技術和人工智能極大地改變世界的時刻，這個概念備受期待，但同時也令硅谷感到恐懼。

雖然人們對人工智能的潛在積極影響感到興奮，但大家也擔心其可能對人類產生災難性的后果。

目前，人們對人工智能和奇點的關注主要集中在大型語言模型的發(fā)展上，但人們對這些模型是否真正代表了奇點所承諾的指數級智能增長仍存在爭議。

數十年來，硅谷一直在期待一種新技術的出現，這種技術將會徹底改變人類的生活方式、經濟形態(tài)、社會機構等方方面面。它能夠讓人類和機器結合起來，可能還會帶來前所未有的機遇和挑戰(zhàn)，并且將歷史劃分為“之前”和“之后”的兩個時代。

這一里程碑的名字可以稱作“奇點”（Singularity）。

譯者注：“奇點”（Singularity）是美國科幻作家弗諾·文奇（Vernor Vinge）提出的概念，指的是一種未來可能發(fā)生的事件或情況，即人工智能的智能超越了人類智能的水平，從而引發(fā)了技術和社會的爆炸性變化，讓未來發(fā)生的事情難以預測和理解。

奇點可能以多種方式出現。一種可能性是，人們將計算機的處理能力融入到自己的先天智力中，讓自己變得更加強大?；蛘?，計算機可能會變得更加復雜，以至于它能夠真正思考，從而打造出一個“全球大腦”。

無論是哪種情況，都將帶來劇烈、呈指數級增長的變化，而且這些變化都不可逆轉。一臺具有自我意識的超級智能機器能夠自行進行設計、改進和升級，其速度遠遠快于任何科學家團隊，這也必然將引發(fā)一場智力爆炸。過去幾個世紀的進步可能在短短數年甚至數月內實現突破性進展。奇點就是一個通向未來的彈射器。

如今，人工智能在科技、商業(yè)和政治領域掀起了一場前所未有的波瀾。從硅谷傳出的各種夸張言辭和荒誕論調來看，這種極度美好的未來似乎終于就要到來了。

谷歌一向低調的首席執(zhí)行官桑達爾·皮查伊（Sundar Pichai）表示，“人工智能的重要性和影響已經超越了火、電或任何過去的技術成果”。億萬富翁投資者里德·霍夫曼（Reid Hoffman）表示，“世界將迎來一股空前的力量，這將推動整個人類社會向前邁進?！蔽④浡摵蟿?chuàng)始人比爾·蓋茨（Bill Gates）宣稱，人工智能“將改變人們的工作、學習、旅行、獲得醫(yī)療保健和相互交流的方式”。

人工智能是硅谷推出的終極新產品，它能夠按需實現超越人類的能力。

但其中也隱藏著一個不容忽視的問題。這就好像科技公司在推出自動駕駛汽車時，還附帶了一條警告信息，但這些汽車在開往沃爾瑪的途中可能會爆炸。

今年五月，特斯拉和推特的負責人埃隆·馬斯克（Elon Musk）在接受美國消費者新聞與商業(yè)頻道（CNBC）采訪時表示：“人工通用智能的出現之所以被稱為奇點，是因為在這之后，將很難預測接下來會發(fā)生什么。”他認為，我們將迎來“豐盛時代”（an age of abundance），但人工智能“毀滅人類”的風險性“仍然不可忽視”。

在科技界，人工智能的最堅定支持者是美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）。這家初創(chuàng)公司去年推出的 ChatGPT 聊天機器人也引發(fā)了持續(xù)的熱潮。奧爾特曼表示，人工智能將是“實現經濟賦權和許多人獲得財富的最大力量”。

不過，對于創(chuàng)立開發(fā)腦機接口技術公司的馬斯克所言，他也覺得馬斯克的批評是有道理的。

前不久，奧爾特曼在一封由非營利組織“人工智能安全中心”（Center for AI Safety）發(fā)起的聯名公開信上簽字。信中表示，“防范人工智能帶來的滅絕風險，應該成為全球優(yōu)先關注的問題”，其重要性與“大流行病和核戰(zhàn)爭”相當。其他簽署人包括來自 OpenAI 公司的同事以及微軟和谷歌公司的計算機科學家。

美國人工智能公司 OpenAI 的首席執(zhí)行官山姆·奧爾特曼（Sam Altman）是人工智能的最堅定支持者。圖片來源：Haiyun Jiang

滅世論在硅谷是一個熟悉、甚至是受歡迎的話題。幾年前，幾乎所有的科技領域高管都好像在某個偏遠地區(qū)建立了一個備有充足物資的末日避難所，以備不時之需。2016 年，奧爾特曼還表示，他“儲備了槍支、黃金、碘化鉀、抗生素、電池、水、以色列國防軍的防毒面具，并且在大蘇爾建立了一個可以直接飛過去的大型避難所?！贝罅餍械谋l(fā)，讓這些科技領域的末日求生者至少在一段時間內感到他們的預見性得到了印證。

如今，他們正為奇點的到來做準備。

對此，《智能幻覺》（The Intelligence Illusion）一書作者巴爾杜爾·比亞爾納松（Baldur Bjarnason）稱，“他們自認為自己非常明智，但他們的言辭卻更像是公元 1000 年時談論末日啟示的修道士。這讓人感到有些擔憂?！?/p>

“超越”的起源

“奇點”這一概念的起源可以追溯到上世紀 50 年代的計算機科學先驅約翰·馮·諾伊曼（John von Neumann）。馮·諾伊曼曾經預言，“技術的不斷加速進步”將會引發(fā)“人類歷史上某個關鍵的奇點”。

計算機科學先驅約翰·馮·諾伊曼（John von Neumann）。圖片來源：Getty Images

英國數學家歐文·約翰·古德（Irving John Good）也是這一觀點的有力支持者。他曾在布萊切利園（Bletchley Park，二戰(zhàn)期間英國政府進行密碼解讀的主要場所）協助英國政府破解過德國的恩尼格瑪密碼機。1964 年，他寫道：“盡早建造超級智能機器是人類生存的關鍵。”

美國電影導演斯坦利·庫布里克（Stanley Kubrick）在執(zhí)導拍攝科幻電影《2001 太空漫游》（2001: A Space Odyssey）時，曾向古德請教過該影片中由善良變惡意的人工智能角色 HAL 的問題，這算是計算機科學和科幻小說之間模糊邊界的早期范例。

卡內基梅隆大學（Carnegie Mellon University）機器人研究所兼職教授漢斯·莫拉維克（Hans Moravec）認為，奇點時代的到來，不僅能造福于生者，也能令死者得以重生。

“我們將有機會以真實而直接的方式重新創(chuàng)造過去，并與之互動?！彼凇端枷胫樱簷C器人與人類智能的未來》（Mind Children: The Future of Robot and Human Intelligence）一書中寫道。

近年來，企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點的最大擁護者。庫茲韋爾在 1990 年撰寫過《智能機器時代》（The Age of Intelligent Machines）一書，2005 年撰寫過《奇點臨近》（The Singularity Is Near）一書?，F在，庫茲韋爾正在撰寫《奇點更加臨近》（The Singularity Is Near）一書。

他預測，在本十年末，計算機將通過圖靈測試，達到與人類難以區(qū)分的水平。再過另外十五年后，真正的超越將會到來：“屆時，計算技術將融入我們自身，我們的智力將得到大幅提升，甚至可能增加幾百倍。”

到那時，庫茲韋爾就已經 97 歲了。借助各種維生素和補品的幫助，他希望自己能活到那一天，親眼目睹這個時代的到來。

企業(yè)家、發(fā)明家雷·庫茲韋爾（Ray Kurzweil）也是奇點的最大擁護者。圖片來源：Friso Gentsch/Picture Alliance

一些批評奇點的人認為，奇點的概念試圖在軟件領域中建立一種類似于有組織宗教信仰的信念體系，其中包括對未來的預測和技術潛力的堅定信仰，但這種信仰方式可能缺乏嚴謹的科學證據支持，難以讓人信服。

麻省理工學院（MIT）計算機科學和人工智能實驗室前主任羅德尼·布魯克斯（Rodney Brooks）稱，“他們都想獲得永生，卻不愿意相信‘上帝’?！?/p>

如今，“奇點”爭議中的創(chuàng)新主要涉及到的是大型語言模型（LLM），這一人工智能系統(tǒng)也是驅動聊天機器人發(fā)展的核心。與這些大型語言模型對話，它們可以迅速、連貫地回答問題，而且通常都能提供相當有啟發(fā)性的答案。

人工智能領域的長期創(chuàng)業(yè)者、《人人都應該知道的人工智能》（Artificial Intelligence: What Everyone Needs to Know）一書作者杰里·卡普蘭（Jerry Kaplan）表示，“當你向大型語言模型提問后，它會去理解問題的含義，確定應該給出什么樣的答案，然后將答案以書面語言形式呈現出來。如果這不是對通用智能的定義，那什么才是呢？”

卡普蘭還表示，他對無人駕駛汽車和加密貨幣等備受矚目的技術持懷疑態(tài)度。同樣，他之前對最新的人工智能熱潮也持有同樣的懷疑態(tài)度，但在看到人工智能所展現的潛力后，他已經開始改變對人工智能的看法。

“如果這不是那個‘奇點’，那它肯定也算是一個奇點。這是一項具有重大影響的技術，它將顯著推進人類在藝術、科學和知識領域的發(fā)展。當然，同時也肯定會帶來一些問題?！彼a充說。

批評者反駁稱，即使大型語言模型取得了令人矚目的成果，但這也無法與奇點所描繪的巨大、全球性的智能相提并論。準確區(qū)分炒作和現實兩者界限的部分問題在于，推動這項技術的原理和算法變得越來越難以揭示。

OpenAI 最初是一個使用開源代碼的非營利組織，如今卻轉變?yōu)闋I利性企業(yè)。有批評者指出，OpenAI 公司現在實際上是一個“黑匣子”，大家難以理解其內部運作。在這方面，谷歌和微軟也存在信息公開度不高的情況。

目前許多關于人工智能的研究都是由那些能從研究成果中獲益的公司所主導。微軟公司（該公司已陸續(xù)向 OpenAI 公司投資 130 億美元）研究人員在今年 4 月發(fā)表的一篇研究報告中寫道，OpenAI 最新模型的初步版本“展示出了多個智能特征”，包括“抽象能力、理解能力、視覺能力、編碼能力”以及“理解人類動機和情感的能力”。

斯坦福大學（Stanford University）計算機科學博士生瑞蘭·謝弗（Rylan Schaeffer）表示，一些人工智能研究人員在描述這些大型語言模型表現出的“突現能力”方面并不準確。雖然這些大型語言模型具有一些未知和難以解釋的能力，但這些能力在規(guī)模較小的語言模型版本中并不明顯或不存在。

謝弗和另外兩位斯坦福同事布蘭多·米蘭達（Brando Miranda）和桑米·科耶喬（Sanmi Koyejo）在今年 5 月發(fā)表的一篇研究論文中研究了這個問題，他們得出結論稱，這種突現能力只是由于測量誤差而造成的“錯覺”，并非模型大小和復雜程度的增加所致。實際上，研究人員可能會傾向于看到他們希望看到的結果。

永生不死，永利不衰

在華盛頓、倫敦和布魯塞爾，立法者都逐漸開始認識到了人工智能帶來的機遇和問題，并開始討論有關監(jiān)管問題。奧爾特曼正在為 OpenAI 公司進行推廣路演，旨在消除早起批評，同時將其公司塑造為引領奇點時代的引路人。

這包括對監(jiān)管的開放態(tài)度，但具體的監(jiān)管形式目前還并不明確。不過，硅谷普遍認為，政府機構效率低下且缺乏專業(yè)知識，無法有效監(jiān)管快速發(fā)展的技術領域。

谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）今年早些時候在接受新聞訪談節(jié)目《與媒體見面》（Meet the Press）時表示，“政府機構中沒有誰能夠妥善地處理這個問題”，并提出了人工智能自我監(jiān)管的觀點。“但這個行業(yè)內部卻有能力制定大致正確的監(jiān)管措施?！彼a充說。

人工智能和技術奇點一樣，大家認為其所帶來的變化都不可逆轉。奧爾特曼和他的同事前不久表示，“要遏制人工智能的進一步發(fā)展，必須建立類似于全球監(jiān)管體系的管控機制，但即便如此，也不能保證一定能成功?！彼麄冞€稱，如果硅谷不這么做，肯定也有其他人去做這件事。

但是，目前卻很少有人討論其中產生的巨大利潤。盡管普遍認為人工智能是一臺創(chuàng)造無限財富的機器，但實際上從中獲利的基本上還是那些已經富有的人。

今年，微軟的市值已經飆升了 5 萬億美元。生產運行人工智能系統(tǒng)芯片的英偉達（Nvidia），最近由于對芯片需求的激增，也成為了美國市值最高的上市公司之一。

“人工智能就是人類社會一直期望擁有的技術。”奧爾特曼發(fā)推文說。

不可否認的是，這的確是科技世界一直期望擁有的一項技術，它的出現也正好趕上了最好的時機。

去年，硅谷經歷了裁員和利率不斷上升的雙重打擊，而加密貨幣在經歷一段繁榮和興盛之后，也因欺詐及隨之而來的失望而迅速衰落。

“跟著錢走?！币杂哪绞矫枥L技術奇點的科幻小說《書呆子的狂想》（The Rapture of the Nerds）合著者查爾斯·斯特羅斯（Charles Stross）說。斯特羅斯也是科幻小說《漸速音》（Accelerando）的作者，在這本書中，他也以更嚴肅和認真的口吻描繪了未來生活的樣子。

“其中真正的機會在于，企業(yè)將能夠用軟件來替代許多有缺陷、昂貴、反應遲緩且由人工操作的信息處理單元，從而達到降本增效的目的。”他說。

長期以來，人們一直都把技術奇點想象成一場具有全球性影響的事件，能夠徹底顛覆人類的認知體系，這一變革的威力也令人驚嘆。就目前來看，這種可能性依然存在。

然而，由于當今硅谷對企業(yè)利潤的極端追求，這在一定程度上將導致技術奇點首先被用作一種裁員工具。在追求萬億市值的過程中，次要問題都可以暫時擱置。