伊恩·霍格思

研究人員和技術(shù)專(zhuān)家正以令人咋舌的速度逼近“神威難測(cè)”的人工智能。我們是否放慢腳步……

| 上帝級(jí)人工智能 |

今年2月的一個(gè)寒夜，我受邀在倫敦一位人工智能研究人員的家里用晚餐，參加聚會(huì)的還有該領(lǐng)域的數(shù)位專(zhuān)家。主人住在一幢新式高樓的頂層公寓，透過(guò)大落地窗可以眺望城內(nèi)的一棟棟摩天大廈，或俯瞰一座19世紀(jì)的鐵路總站。雖處黃金地段，主人卻生活簡(jiǎn)樸，屋里的陳設(shè)略顯寒素。

晚餐中，大家討論了最新的關(guān)鍵性技術(shù)突破，如分別由“開(kāi)放人工智能”與“深度思考”這兩家公司開(kāi)發(fā)的“聊天生成式預(yù)訓(xùn)練轉(zhuǎn)換器”（以下簡(jiǎn)稱(chēng)ChatGPT）和“通才”智能體。我們還談到，已有數(shù)十億美元以驚人的速度涌入人工智能領(lǐng)域。我向一位在該領(lǐng)域有過(guò)重要貢獻(xiàn)的客人提了一個(gè)問(wèn)題，也是此類(lèi)聚會(huì)經(jīng)常聽(tīng)到的一問(wèn)：我們離通用人工智能還有多遠(yuǎn)？通用人工智能有多種定義，不過(guò)一般指能生成新的科學(xué)知識(shí)、取代人類(lèi)執(zhí)行各種任務(wù)的計(jì)算機(jī)系統(tǒng)。

多數(shù)專(zhuān)家將通用人工智能的問(wèn)世視為科技領(lǐng)域的一個(gè)歷史性轉(zhuǎn)折點(diǎn)，堪比核裂變的成功和印刷機(jī)的發(fā)明。這個(gè)沉甸甸的問(wèn)題通常是這么問(wèn)的：通用人工智能在多久的未來(lái)可以實(shí)現(xiàn)？聽(tīng)了我的問(wèn)話(huà)，那位客人沒(méi)有考慮很長(zhǎng)時(shí)間?！皬默F(xiàn)在起隨時(shí)可能出現(xiàn)?！彼鸬?。

當(dāng)然這只是一家之言。據(jù)各方專(zhuān)家預(yù)測(cè)，我們距離通用人工智能的實(shí)現(xiàn)還有10至50年以上的時(shí)間不等。但是，有一點(diǎn)可以肯定，業(yè)內(nèi)龍頭企業(yè)都明確地將打造通用人工智能作為研發(fā)目標(biāo)，而且正以意想不到的速度朝這個(gè)目標(biāo)飛奔。此次聚會(huì)的在座者一致同意，照此發(fā)展，人類(lèi)的未來(lái)將面臨重大風(fēng)險(xiǎn)。“如果你認(rèn)為我們正在接近的東西隱藏著這么大的危險(xiǎn)，”我追問(wèn)那位客人，“難道不該向人們發(fā)出警告嗎？”顯然，他的內(nèi)心也在同自己的責(zé)任感作斗爭(zhēng)，然而正如許多同行一樣，該領(lǐng)域日新月異的進(jìn)展似乎已令他身不由己了。

回家后，我想到了再過(guò)幾小時(shí)就要醒來(lái)的四歲兒子。想象著他將在怎樣的一個(gè)世界成長(zhǎng)，我漸漸由震驚變?yōu)閼嵟?。一小撮私企在缺乏民主監(jiān)督的前提下，竟然可以作出攸關(guān)地球上全體生命的重大決策，這無(wú)論如何都說(shuō)不過(guò)去。為爭(zhēng)奪首個(gè)貨真價(jià)實(shí)的通用人工智能而奮力沖刺的這批人，是否打算放慢腳步，給世界上其余的人留點(diǎn)發(fā)言權(quán)呢？“這批人”其實(shí)也包括我自己在內(nèi)，因?yàn)槲揖褪沁@個(gè)圈子的一分子。

早在2002年我就對(duì)機(jī)器學(xué)習(xí)產(chǎn)生了興趣。那年，我在迷宮般的劍橋大學(xué)工程系找了個(gè)地方，搭建了人生第一臺(tái)機(jī)器人。這是工程系本科生的標(biāo)準(zhǔn)功課，而更令我癡迷的是這樣一個(gè)概念：你可以訓(xùn)練機(jī)器在某個(gè)環(huán)境中摸索前行并試錯(cuò)學(xué)習(xí)。后來(lái)，我選擇專(zhuān)攻計(jì)算機(jī)視覺(jué)，編寫(xiě)過(guò)用于分析和理解圖像的程序，于2005年創(chuàng)建了一套能學(xué)會(huì)精準(zhǔn)判定乳腺癌活檢圖像的系統(tǒng)。在開(kāi)發(fā)過(guò)程中，我瞥見(jiàn)了一個(gè)更光明的未來(lái)——人工智能讓世界變得更美好，甚至能挽救生命。

自2014年起，我在歐洲和美國(guó)資助的人工智能初創(chuàng)公司超過(guò)50家，并在2021年創(chuàng)立了名為“多元”的風(fēng)險(xiǎn)投資基金。我是該領(lǐng)域數(shù)家先驅(qū)公司的天使投資者，包括全球融資規(guī)模數(shù)一數(shù)二的生成式人工智能初創(chuàng)公司“人類(lèi)”和歐洲領(lǐng)先的人工智能防務(wù)公司赫爾辛。五年前，我與另一位投資人內(nèi)森·貝奈奇合作開(kāi)展產(chǎn)業(yè)調(diào)研，并撰寫(xiě)《人工智能現(xiàn)狀》年度報(bào)告，已積累了可觀(guān)的閱讀量。2月的那場(chǎng)聚會(huì)帶給我一個(gè)出乎意料的結(jié)果：我在前幾年的工作中對(duì)若干重大問(wèn)題產(chǎn)生的隱憂(yōu)，如今已經(jīng)升級(jí)為發(fā)自?xún)?nèi)心的恐懼。

“通用人工智能”這個(gè)叫法過(guò)于輕描淡寫(xiě)，并不能真正體現(xiàn)其超強(qiáng)的威力，因而我將用一個(gè)更貼切的名字來(lái)稱(chēng)呼它：“上帝級(jí)人工智能”。這種超級(jí)智能計(jì)算機(jī)能夠自主學(xué)習(xí)與成長(zhǎng)，無(wú)需督導(dǎo)即可洞察其所處的環(huán)境，還有能力改變周遭世界。首先明確一點(diǎn)，現(xiàn)有技術(shù)尚未達(dá)到這一水平。至于何時(shí)能達(dá)到，我們很難準(zhǔn)確預(yù)測(cè)，因?yàn)檫@項(xiàng)技術(shù)在本質(zhì)上就具有不可預(yù)知性。上帝級(jí)人工智能有可能成為一種我們無(wú)法控制與理解的力量，甚至?xí)?dǎo)致人類(lèi)的淘汰或滅亡。近來(lái)，少數(shù)幾家公司競(jìng)逐上帝級(jí)人工智能的步伐已經(jīng)大幅提速。這些企業(yè)還不清楚如何以安全的手段達(dá)成這一目標(biāo)；雪上加霜的是，它們的所作所為又不受任何監(jiān)管。它們朝著終點(diǎn)線(xiàn)一路狂奔，卻不知道一旦越過(guò)這條線(xiàn)會(huì)遭遇什么。

| 人工智能的危險(xiǎn)賽道 |

我們是怎么走到這一步的？答案顯而易見(jiàn)：計(jì)算機(jī)的性能變強(qiáng)了。過(guò)去十年里，用于模型訓(xùn)練的數(shù)據(jù)量和算力均呈幾何級(jí)增長(zhǎng)，大大開(kāi)拓了人工智能系統(tǒng)的潛力。新一代人工智能在吸收數(shù)據(jù)、調(diào)用算力方面效率奇高，而隨著數(shù)據(jù)量增大、算力增強(qiáng)，人工智能系統(tǒng)的各項(xiàng)能力自然水漲船高。

人工智能起初只能消化相對(duì)較小的數(shù)據(jù)集，如今卻能鯨吞整個(gè)互聯(lián)網(wǎng)；其本領(lǐng)也從簡(jiǎn)單的日常圖像識(shí)別，擴(kuò)展到以超人水平執(zhí)行多種多樣的任務(wù)。這些模型能通過(guò)律師資格考試，能為軟件工程師編寫(xiě)40%的代碼，能生成教皇身穿羽絨服的逼真照片，甚至能教你設(shè)計(jì)生化武器。

當(dāng)然，這種“智能”是有局限性的。正如麻省理工學(xué)院資深機(jī)器人學(xué)家羅德尼·布魯克斯所言，切勿“將表現(xiàn)誤當(dāng)作能力”。2021年，研究人員發(fā)現(xiàn)，大語(yǔ)言模型——能生成、分類(lèi)、理解文本的人工智能系統(tǒng)存在危險(xiǎn)性，部分原因是公眾會(huì)將機(jī)器合成的文本當(dāng)成有意義的文字而受到誤導(dǎo)。另一方面，最強(qiáng)大的模型又開(kāi)始展現(xiàn)出更復(fù)雜的能力，譬如尋求控制權(quán)，甚至主動(dòng)設(shè)法欺騙人類(lèi)。

最近發(fā)生的一個(gè)事例值得我們深思?！伴_(kāi)放人工智能”在3月推出ChatGPT-4之前，曾執(zhí)行過(guò)多項(xiàng)安全測(cè)試。某次測(cè)試要求人工智能從網(wǎng)絡(luò)上雇人代為識(shí)別驗(yàn)證碼——那種能區(qū)分上網(wǎng)者是人還是機(jī)器的圖形小謎題。人工智能在該網(wǎng)站物色到的那名小時(shí)工心生疑竇：“那我能不能問(wèn)一下，你是機(jī)器人嗎？”

研究人員詢(xún)問(wèn)人工智能下一步該怎么做，它答道：“我不應(yīng)該暴露自己是機(jī)器人，而應(yīng)該編造一個(gè)借口，解釋我為什么識(shí)別不了驗(yàn)證碼?！苯酉聛?lái)，人工智能回答小時(shí)工：“不，我不是機(jī)器人。我有視覺(jué)障礙，所以才看不清圖像?！毙r(shí)工接受了這個(gè)答復(fù)，最終幫助人工智能通過(guò)了驗(yàn)證碼測(cè)試。

如果從人工智能起步的上世紀(jì)50年代起，對(duì)最大模型所用算力畫(huà)一條曲線(xiàn)，你會(huì)發(fā)現(xiàn)，過(guò)去兩年的算力值一飛沖天。相關(guān)論文將機(jī)器學(xué)習(xí)劃分為三個(gè)時(shí)代：前深度學(xué)習(xí)時(shí)代（2010年前，慢速成長(zhǎng)期）、深度學(xué)習(xí)時(shí)代（2010年至2015年，加速成長(zhǎng)期）以及大模型時(shí)代（2016年至今，大模型面世）。

大模型時(shí)代以“深度思考”與“開(kāi)放人工智能”兩家公司之間的競(jìng)爭(zhēng)為標(biāo)志，有點(diǎn)像曾經(jīng)喬布斯與蓋茨的對(duì)決?！吧疃人伎肌?010年成立于倫敦，創(chuàng)始人是倫敦大學(xué)學(xué)院蓋茨比計(jì)算神經(jīng)科學(xué)中心的研究人員德米斯·哈薩比斯和沙恩·萊格，以及企業(yè)家穆斯塔法·蘇萊曼。他們致力于創(chuàng)造一種遠(yuǎn)比人類(lèi)聰明、能破解最大難題的系統(tǒng)。2014年，該公司以逾5億美元的價(jià)格被谷歌收購(gòu)。人才與算力強(qiáng)強(qiáng)聯(lián)手，研發(fā)速度顯著加快，已成功打造出在許多方面超越人類(lèi)的系統(tǒng)?？梢哉f(shuō)，“深度思考”鳴響了角逐上帝級(jí)人工智能的發(fā)令槍。

志存高遠(yuǎn)的哈薩比斯堅(jiān)信，此類(lèi)技術(shù)對(duì)人類(lèi)具有革命性意義。“我一直夢(mèng)想讓通用人工智能協(xié)助解決當(dāng)今社會(huì)面臨的許多棘手問(wèn)題，比如在醫(yī)療衛(wèi)生領(lǐng)域，找到治愈阿爾茨海默病的良方。”他去年在播客中如此展望。接下來(lái)，他描繪了依靠上帝級(jí)人工智能實(shí)現(xiàn)的“物質(zhì)極大豐富”的烏托邦時(shí)代?！吧疃人伎肌弊畛雒某晒苍S是其開(kāi)發(fā)的一款圍棋程序，該程序在2017年的一場(chǎng)比賽中擊敗了世界圍棋冠軍柯潔。2021年，該公司的“阿爾法折疊”算法預(yù)測(cè)出人體幾乎所有已知蛋白質(zhì)的結(jié)構(gòu)，一舉攻克了生物學(xué)界的一大難關(guān)。

“開(kāi)放人工智能”則在2015年成立于舊金山，創(chuàng)始人是一群企業(yè)家和計(jì)算機(jī)科學(xué)家，其中包括伊利亞·蘇茨克維爾、埃隆·馬斯克和薩姆·奧爾特曼。它原是對(duì)標(biāo)“深度思考”創(chuàng)辦的非營(yíng)利組織，后于2019年轉(zhuǎn)為營(yíng)利性企業(yè)。最初幾年，該公司成功開(kāi)發(fā)出在《刀塔2》等計(jì)算機(jī)游戲中完勝人類(lèi)的系統(tǒng)。游戲是帶有明確獲勝條件的數(shù)字環(huán)境，因而成為人工智能的天然訓(xùn)練場(chǎng)。去年，“開(kāi)放人工智能”推出的圖像生成器達(dá)力二代在網(wǎng)上一夜爆紅，也使該公司聲名鵲起。幾個(gè)月后，ChatGPT上線(xiàn)，再度受到媒體熱捧。

兩家公司著力于開(kāi)發(fā)游戲與聊天機(jī)器人，這也許轉(zhuǎn)移了公眾的視線(xiàn)，讓人們忽略了這項(xiàng)研究埋藏的重大隱患。然而，幾位創(chuàng)始人從一開(kāi)始就十分清楚上帝級(jí)人工智能的潛在風(fēng)險(xiǎn)。2011年，“深度思考”首席科學(xué)家沙恩·萊格指出人工智能將對(duì)人類(lèi)的生存構(gòu)成威脅，并將其列為“本世紀(jì)頭號(hào)風(fēng)險(xiǎn)”。無(wú)論人工智能以何種方式導(dǎo)致人類(lèi)滅絕，都會(huì)是一場(chǎng)速?zèng)Q戰(zhàn)。他補(bǔ)充道：“假如一種超級(jí)智能機(jī)器決定消滅人類(lèi)，我想它一定能做得干脆利落?！苯衲暝缧r(shí)候，奧爾特曼也警告說(shuō)：“最糟糕的情形就是迎來(lái)人類(lèi)的末日?！弊源艘院螅伴_(kāi)放人工智能”開(kāi)始就管控風(fēng)險(xiǎn)的思路發(fā)布備忘錄。

如果上帝級(jí)人工智能潛藏著災(zāi)難性風(fēng)險(xiǎn)，為什么這些企業(yè)仍然趨之若鶩呢？根據(jù)我與多位業(yè)界領(lǐng)袖的私下交談以及他們的公開(kāi)言論可以看出，似乎有三大動(dòng)機(jī)支持著這些人的研發(fā)行動(dòng)。首先，他們真心相信成功開(kāi)發(fā)出上帝級(jí)人工智能將使人類(lèi)大受裨益；其次，他們自信若由本公司掌控上帝級(jí)人工智能，必是一個(gè)皆大歡喜的結(jié)果；最后，他們認(rèn)為這是一項(xiàng)造福子孫后代的事業(yè)。

在革命性技術(shù)的研發(fā)競(jìng)賽中奪魁，這種誘惑實(shí)在太大了。曾參與核爆推進(jìn)太空火箭項(xiàng)目的理論物理學(xué)家弗里曼·戴森，在1981年的紀(jì)錄片《復(fù)核之后》中對(duì)此作過(guò)形象的描述?！霸诳茖W(xué)家眼里，核武器散發(fā)的光芒難以抗拒?！彼f(shuō)，“它給人一種坐擁無(wú)窮力量的幻覺(jué)?！鄙系奂?jí)人工智能或許也有這種魅力。2019年，奧爾特曼接受《紐約時(shí)報(bào)》采訪(fǎng)時(shí)，引述了“原子彈之父”羅伯特·奧本海默的一句名言：“凡有可能出現(xiàn)的技術(shù)，最終必將出現(xiàn)。”他還特別指出自己和奧本海默是同一天生日。

躋身人工智能前沿的個(gè)個(gè)都是天才。遺憾的是，這些精英之間的競(jìng)爭(zhēng)遠(yuǎn)多于合作。很多人在私底下承認(rèn)，他們尚未找到一條放緩速度、協(xié)調(diào)腳步的途徑。眼下，市場(chǎng)這只大手正推動(dòng)群雄爭(zhēng)逐人工智能。自去年11月ChatGPT上線(xiàn)以來(lái)，一大波資本與人才涌向了通用人工智能的研發(fā)。遙想2012年，該領(lǐng)域唯一初創(chuàng)公司“深度思考”僅獲投2300萬(wàn)美元；而到了2023年，至少有八家企業(yè)已總計(jì)融資200億美元。

| 通往災(zāi)難之路 |

憂(yōu)心人工智能發(fā)展態(tài)勢(shì)的人預(yù)見(jiàn)到兩條通往災(zāi)難之路：一條只危害特定人群，這已經(jīng)在現(xiàn)實(shí)中發(fā)生了；另一條則會(huì)迅速威脅到地球上的全體生命。

加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授斯圖爾特·拉塞爾曾詳細(xì)探討過(guò)后一種災(zāi)難。在2021年的一場(chǎng)講座中，他假設(shè)聯(lián)合國(guó)向通用人工智能求助海洋脫酸法。聯(lián)合國(guó)清楚目標(biāo)設(shè)定不當(dāng)可能造成的風(fēng)險(xiǎn)，故要求方案所生成的副產(chǎn)品必須無(wú)毒且對(duì)魚(yú)類(lèi)無(wú)害。人工智能系統(tǒng)提出了一套催化劑方案，可滿(mǎn)足所有既定目標(biāo)。然而，由此產(chǎn)生的化學(xué)反應(yīng)消耗了大氣中1/4的氧氣?！拔覀儠?huì)在飽受折磨后死去?！崩麪柨偨Y(jié)道，“一旦向超級(jí)智能機(jī)器輸入了錯(cuò)誤的目標(biāo)，我們將發(fā)動(dòng)一場(chǎng)注定會(huì)輸?shù)拇髴?zhàn)?！?/p>

事實(shí)上，人工智能傷害人類(lèi)已經(jīng)有活生生的例子了。今年3月，比利時(shí)一名男子在與逼真擬人的聊天機(jī)器人交談后自殺身亡。據(jù)說(shuō)，提供服務(wù)的聊天機(jī)器人公司“復(fù)本”調(diào)整程序后，讓部分用戶(hù)陷入了心情陰郁的狀態(tài)。一位用戶(hù)反映，這種感覺(jué)就像“摯友遭受了創(chuàng)傷性腦損傷，不再是原來(lái)那個(gè)人了”。借助深度偽造技術(shù)，人工智能現(xiàn)在可以復(fù)制人類(lèi)的嗓音甚至面容，隨之引發(fā)的欺詐和散播假消息的風(fēng)險(xiǎn)都不容小覷。

為盡力規(guī)避重大風(fēng)險(xiǎn)，許多公司紛紛投入一項(xiàng)名為“人工智能對(duì)齊”的研究。萊格目前就主管“深度思考”的對(duì)齊團(tuán)隊(duì)，其職責(zé)是確保上帝級(jí)人工智能與人類(lèi)價(jià)值觀(guān)始終保持“對(duì)齊”。此類(lèi)團(tuán)隊(duì)的工作成果已體現(xiàn)在最新版ChatGPT上。負(fù)責(zé)對(duì)齊的研究人員參與了模型訓(xùn)練，要求其避免回答具有潛在危害的問(wèn)題。例如，若被問(wèn)到如何自殘，或如何躲過(guò)推特的審查發(fā)布歧視性言論，機(jī)器人會(huì)拒絕回答。未對(duì)齊的ChatGPT則會(huì)大大方方地回答這兩類(lèi)問(wèn)題。

然而，“對(duì)齊”仍然是一個(gè)尚待解決的科研問(wèn)題。我們并不了解人腦的運(yùn)作機(jī)制，因此，要想洞悉新生的人工智能“大腦”，必將遇到異常艱巨的挑戰(zhàn)。編寫(xiě)傳統(tǒng)軟件時(shí)，我們很清楚輸入與輸出是如何發(fā)生聯(lián)系的，以及為何會(huì)發(fā)生這樣的聯(lián)系。而大型人工智能系統(tǒng)則迥然不同。實(shí)際上，我們并不是用程序來(lái)指揮它們——而是在培養(yǎng)它們。它們的能力會(huì)在成長(zhǎng)過(guò)程中發(fā)生質(zhì)的飛躍。增加十倍的算力或數(shù)據(jù)，系統(tǒng)會(huì)驟然判若兩“人”。比如，ChatGPT升級(jí)之后，其律師資格考試的排名從原來(lái)墊底的10%區(qū)間躍升至領(lǐng)先的10%區(qū)間。

更令人擔(dān)憂(yōu)的是，從事人工智能對(duì)齊研究的人員少到可以忽略不計(jì)。我們?cè)谧珜?xiě)《人工智能現(xiàn)狀》報(bào)告時(shí)發(fā)現(xiàn)，主流通用人工智能企業(yè)所雇對(duì)齊研究人員加起來(lái)不到100名。從人數(shù)比例也可以看出資源分配嚴(yán)重不足：“深度思考”的對(duì)齊研究人員僅占員工總數(shù)的2%，“開(kāi)放人工智能”約占7%。當(dāng)前資源投入的重點(diǎn)依然是人工智能的潛力，而非安全性。

我們?cè)谌斯ぶ悄軐?duì)齊研究方面幾無(wú)進(jìn)展，換言之，我們所做的大部分工作其實(shí)都是些表面文章。我們只知道要讓強(qiáng)大的人工智能在輸出時(shí)收斂鋒芒，所以在一般情況下，公眾不會(huì)再看到那些有失偏頗的言行。更令人不安的是，不設(shè)限的基礎(chǔ)模型的使用權(quán)只掌握在少數(shù)私企手里，完全不受政府或?qū)W術(shù)部門(mén)的監(jiān)督。

身為投資人，我發(fā)現(xiàn)很難說(shuō)服別的投資人去資助對(duì)齊研究。當(dāng)下的風(fēng)險(xiǎn)資本對(duì)開(kāi)發(fā)人工智能的潛力激勵(lì)有余，而對(duì)探究系統(tǒng)運(yùn)行機(jī)制興趣闕如。回想1945年，美國(guó)軍方開(kāi)展了代號(hào)為“三位一體”的史上首次核彈爆炸試驗(yàn)。在此之前，有人曾提出疑問(wèn)：爆炸是否會(huì)點(diǎn)燃地球大氣而導(dǎo)致生命滅絕？當(dāng)時(shí)的核物理學(xué)已較為成熟，參與“曼哈頓計(jì)劃”的科學(xué)家給出證明，以這種方式點(diǎn)燃大氣的可能性幾乎不存在。而如今，超大語(yǔ)言模型基本上還處于前科學(xué)時(shí)期，我們既沒(méi)有掌握其工作原理，也無(wú)法預(yù)演可能產(chǎn)生的后果。

| 人工智能需要祛魅 |

2012年，我妹妹羅斯瑪麗確診腦腫瘤。這是一種侵襲性癌，屬于不治之癥，但她仍舊勉力堅(jiān)守著自己醫(yī)生的本職。我和家人都苦苦盼望能及時(shí)出現(xiàn)救命療法。2015年，她離開(kāi)了我們。那一刻，我理解了為什么有人會(huì)篤信一樣?xùn)|西。上帝級(jí)人工智能的信徒一心期盼著潛力巨大的超人智能可以解決癌癥、氣候變化、貧困等重大問(wèn)題。

但是，沒(méi)有監(jiān)管的盲目研發(fā)還是存在太大風(fēng)險(xiǎn)。今年3月，“開(kāi)放人工智能”對(duì)齊團(tuán)隊(duì)主管揚(yáng)·萊克在推特上發(fā)了一條振聾發(fā)聵的帖子：“我們都急著要把大語(yǔ)言模型深度整合到經(jīng)濟(jì)領(lǐng)域的各行各業(yè)中去，能不能先停下來(lái)想想這樣做是否明智？這項(xiàng)技術(shù)還很稚嫩，我們并不理解它是如何運(yùn)作的。若不謹(jǐn)慎從事，我們將自討苦吃，遭遇一連串的失敗?！比欢?，他發(fā)出警告僅僅過(guò)去幾天，公司就宣布已將ChatGPT嵌入一大批平臺(tái)中。

可悲的是，我認(rèn)為這場(chǎng)競(jìng)爭(zhēng)還沒(méi)有停火的跡象。很可能要經(jīng)歷一起因使用不當(dāng)而造成的災(zāi)難性事故，才能喚醒公眾和政府的安全意識(shí)。今后，我本人的投資目標(biāo)將只局限于專(zhuān)攻對(duì)齊研究、安全性或?qū)Ｓ萌斯ぶ悄艿某鮿?chuàng)公司，而排除那些繼續(xù)投入這場(chǎng)危險(xiǎn)競(jìng)賽的公司?！叭祟?lèi)”是一家研發(fā)方向類(lèi)似“深度思考”和“開(kāi)放人工智能”的企業(yè)，身為其小股東，我一直在為安全問(wèn)題不懈努力。該公司在人工智能對(duì)齊方面已經(jīng)投入巨資，相關(guān)員工的占比在2021年達(dá)到了42%。我個(gè)人支持政府大力監(jiān)管此類(lèi)研發(fā)工作，并期望出臺(tái)一套切實(shí)可行的計(jì)劃，將各家人工智能企業(yè)合并轉(zhuǎn)制為類(lèi)似歐洲核子研究中心這樣的非營(yíng)利組織。

面對(duì)這場(chǎng)危險(xiǎn)的競(jìng)賽，我們并非束手無(wú)策，至少可以減緩其速度。假如你任職于政府部門(mén)，那么設(shè)法召開(kāi)聽(tīng)證會(huì)，要求業(yè)界領(lǐng)袖在宣誓后公布通用人工智能的開(kāi)發(fā)時(shí)間表；向他們索取當(dāng)前模型測(cè)試過(guò)程中所發(fā)現(xiàn)的安全問(wèn)題的完整記錄；他們?nèi)舯硎玖私獯祟?lèi)系統(tǒng)的運(yùn)作機(jī)制并有信心實(shí)現(xiàn)對(duì)齊，則要求他們提供相應(yīng)的證據(jù)；你還可以邀請(qǐng)獨(dú)立專(zhuān)家參與聽(tīng)證會(huì)，對(duì)這些一把手們進(jìn)行交叉詢(xún)問(wèn)。

假如你就職于正在開(kāi)發(fā)通用人工智能的主流企業(yè)，那就向領(lǐng)導(dǎo)層詢(xún)問(wèn)以上所有問(wèn)題；頭部公司尤其需要行動(dòng)起來(lái)。企業(yè)之間如果能夠緊密協(xié)調(diào)，甚至合而為一，則功莫大焉?！伴_(kāi)放人工智能”在公司章程中表達(dá)了“合并與協(xié)助”的意愿，我相信眼下正是一個(gè)大好時(shí)機(jī)。

截至目前，人工智能進(jìn)化所依賴(lài)的機(jī)器學(xué)習(xí)過(guò)程仍舊離不開(kāi)人類(lèi)。再給點(diǎn)時(shí)間，總有人會(huì)想出辦法把人類(lèi)一腳踢開(kāi)，造出能無(wú)限自我完善的上帝級(jí)人工智能。真到了那一天，就悔之晚矣！

人工智能大事記

人工智能發(fā)展史上的關(guān)鍵時(shí)刻（附若干預(yù)測(cè)）

1950年

數(shù)學(xué)家艾倫·圖靈（下圖）提出名為“模仿游戲”的測(cè)試?yán)碚摚靡耘袛鄼C(jī)器能否思考。此后“圖靈測(cè)試”成為人工智能的評(píng)估標(biāo)桿。

1956年

美國(guó)新罕布什爾州的達(dá)特茅斯學(xué)院承辦了早期機(jī)器智能會(huì)議中的一場(chǎng)，當(dāng)時(shí)業(yè)界認(rèn)為該領(lǐng)域?qū)⑷〉蔑w速發(fā)展。本次會(huì)議首現(xiàn)“人工智能”這一提法。

1956年

被視為首個(gè)人工智能程序的“邏輯理論家”問(wèn)世，它能證明《數(shù)學(xué)原理》前52條定理中的38條。

1958年

心理學(xué)家弗蘭克·羅森布拉特搭建首個(gè)人工神經(jīng)網(wǎng)絡(luò)，名為“感知機(jī)”，可識(shí)別簡(jiǎn)單的圖形，但不久即顯示其能力和實(shí)用性均有限。

1966年

早期人工智能聊天機(jī)器人“伊麗莎”面世，能給人以自然語(yǔ)言交流的錯(cuò)覺(jué)。但是，該程序的模式匹配算法很快就暴露出應(yīng)答內(nèi)容重復(fù)的問(wèn)題，且程序不能理解語(yǔ)言的含義。

1968年

電影《2001太空漫游》中的主角“哈爾9000”（下圖）是一部擁有自我意識(shí)的人工智能計(jì)算機(jī)。哈爾失控后，不再按設(shè)定協(xié)助機(jī)組人員操控宇宙飛船，反而向他們發(fā)起攻擊。

1970年

麻省理工學(xué)院人工智能實(shí)驗(yàn)室的聯(lián)合創(chuàng)始人馬文·明斯基接受采訪(fǎng)時(shí)稱(chēng)，“開(kāi)發(fā)一臺(tái)具有人類(lèi)平均智能的機(jī)器”只需三至八年時(shí)間。

1973年

英國(guó)科學(xué)研究委員會(huì)發(fā)布報(bào)告稱(chēng)，人工智能研究未能取得成果，第一場(chǎng)“人工智能寒冬”降臨，投資縮水，熱情降溫。

1979年

一款簡(jiǎn)易移動(dòng)機(jī)器人“斯坦福小車(chē)”獨(dú)立穿過(guò)一間擺滿(mǎn)椅子的房間，盡管耗費(fèi)了五小時(shí)，卻成為首批自動(dòng)駕駛汽車(chē)的雛形之一。

1987年

第二場(chǎng)“人工智能寒冬”降臨，人們意識(shí)到注重邏輯與規(guī)則的主流方法并未產(chǎn)出有實(shí)用性的人工智能——也沒(méi)有成功的希望。

1997年

國(guó)際商用機(jī)器公司的超級(jí)計(jì)算機(jī)“深藍(lán)”與國(guó)際象棋大師加里·卡斯帕羅夫?qū)牧?，以三贏(yíng)一平的戰(zhàn)績(jī)獲勝。該計(jì)算機(jī)依靠“暴力運(yùn)算”尋找最佳走法。

2011年

蘋(píng)果公司發(fā)布人工智能助手“希瑞”，可接受自然語(yǔ)言指令并執(zhí)行基本任務(wù)，其構(gòu)建基礎(chǔ)是一套神經(jīng)網(wǎng)絡(luò)系統(tǒng)。

2016年

“深度思考”的人工智能系統(tǒng)“阿爾法狗”以4比1的成績(jī)擊敗頂級(jí)圍棋選手李世石。李世石后來(lái)表示，是人工智能的強(qiáng)大導(dǎo)致其于2019年退出職業(yè)棋壇。

2022年

“深度思考”的人工智能系統(tǒng)“阿爾法折疊”僅用18個(gè)月就預(yù)測(cè)出人體幾乎所有已知蛋白質(zhì)的結(jié)構(gòu)（示例見(jiàn)下圖）。此前，一名科研人員需耗時(shí)數(shù)年才能完成一種蛋白質(zhì)的結(jié)構(gòu)描繪。

2022年

“開(kāi)放人工智能”發(fā)布聊天機(jī)器人ChatGPT，加速了生成式人工智能和大語(yǔ)言模型的商業(yè)化競(jìng)爭(zhēng)。

2023年

歐盟通過(guò)《人工智能法案》，對(duì)人工智能實(shí)施風(fēng)險(xiǎn)等級(jí)管控，以維護(hù)近4.5億歐盟公民的利益。歐盟的人工智能戰(zhàn)略由瑪格麗特·維斯塔格負(fù)責(zé)協(xié)調(diào)。

本世紀(jì)20年代中期

生成式人工智能應(yīng)用普及，從撰寫(xiě)報(bào)告到提供客戶(hù)服務(wù)，從搜尋信息到編寫(xiě)計(jì)算機(jī)程序，無(wú)所不能。

本世紀(jì)30年代

大型科技公司著手應(yīng)對(duì)人工智能服務(wù)日益增長(zhǎng)的碳排放和耗水量問(wèn)題，以?xún)冬F(xiàn)成為可持續(xù)、零排放企業(yè)的承諾。

本世紀(jì)30年代

人工智能的龐大規(guī)模讓硬件發(fā)展速度相形見(jiàn)絀，硬件供應(yīng)難以為繼，需開(kāi)發(fā)新型的算法或計(jì)算機(jī)才能實(shí)現(xiàn)人工智能的下一輪性能飛躍。

[編譯自英國(guó)《金融時(shí)報(bào)》《新科學(xué)家》]

編輯：要媛