本·拉扎勒斯

就在我見(jiàn)到杰弗里·欣頓的十分鐘前，《紐約時(shí)報(bào)》宣布了他即將離開(kāi)谷歌的消息。深耕人工智能幾十年后，如今的欣頓認(rèn)為人工智能可能會(huì)消滅人類(lèi)。他在倫敦北部的家中說(shuō)：“就好像外星人早已降落到我們的星球上，我們卻渾然不知，因?yàn)樗鼈円舱f(shuō)著一口地道的英語(yǔ)?！毙李D還告訴我，他已經(jīng)好幾個(gè)月睡不著覺(jué)了。

| 對(duì)待人工智能的態(tài)度大變 |

年近76歲的欣頓在人工智能領(lǐng)域引發(fā)過(guò)兩次革命性巨變：第一次是依靠他研究的神經(jīng)網(wǎng)絡(luò)，即一種與人類(lèi)大腦構(gòu)造非常相似的計(jì)算機(jī)功能結(jié)構(gòu)；第二次是憑借深度學(xué)習(xí)技術(shù)，讓人工智能得以從海量數(shù)據(jù)中提煉并提取模式與概念。20世紀(jì)70年代和80年代，雖然業(yè)內(nèi)基本已經(jīng)放棄神經(jīng)網(wǎng)絡(luò)，但欣頓依舊堅(jiān)持不懈地研究。1986年，他設(shè)計(jì)出第一個(gè)聊天機(jī)器人程序，當(dāng)時(shí)稱(chēng)作“語(yǔ)言預(yù)測(cè)模型”。2012年，他又研發(fā)出一種基于深度學(xué)習(xí)的人工智能，這便是“聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器”的智能基礎(chǔ)。

欣頓來(lái)自一個(gè)誕生過(guò)多位數(shù)學(xué)家和科學(xué)家的家族。他曾祖父喬治·布爾構(gòu)想出的布爾代數(shù)為整個(gè)數(shù)字時(shí)代奠定了基礎(chǔ)。他過(guò)去也曾對(duì)人工智能心懷不安，但只是擔(dān)心應(yīng)用受限，并未質(zhì)疑其基本原理。他厭惡自主武器的研發(fā)，后來(lái)因?yàn)槊绹?guó)國(guó)務(wù)院資助人工智能項(xiàng)目而辭去了美國(guó)的工作。他還一直苦惱人工智能擁有炮制大量假新聞的能力?！拔乙郧翱偸遣粔蛑匾暼祟?lèi)面臨的生存威脅，忽視了人工智能存在消滅人類(lèi)的風(fēng)險(xiǎn)。”欣頓說(shuō)，“現(xiàn)在我認(rèn)為非常有可能出現(xiàn)這種局面?！?/p>

那么，欣頓究竟為何態(tài)度大變？“谷歌有一個(gè)名叫‘通路的大型語(yǔ)言模型，可以解釋一個(gè)笑話(huà)的笑點(diǎn)在哪兒。這個(gè)模型讓我大為震驚。我得出一個(gè)結(jié)論——這可能是一種更高級(jí)的智能表現(xiàn)形式。若事實(shí)果真如此，那這個(gè)模型將取代我們?！?/p>

人工智能消滅幾十億人的可能性有多大？“所有這一切都是未知的領(lǐng)域……我不想給出確切的數(shù)字?！毙李D邊說(shuō)邊從廚房餐桌前站起身，走向烤箱。我趕緊表示希望得到具體的數(shù)字。于是，他回答道：“那就讓我粗略地總結(jié)一下法國(guó)哲學(xué)家布萊茲·帕斯卡說(shuō)過(guò)的話(huà)吧。如果你有兩個(gè)選擇（比如，人工智能殺或不殺人類(lèi)），而你對(duì)正在發(fā)生的事所知甚少，那你就應(yīng)該說(shuō)可能性為50%?！?/p>

人工智能領(lǐng)域的下一座里程碑將是通用人工智能，其能力至少與人類(lèi)思想家相當(dāng)。“我們即將研發(fā)出比我們自己還聰明的東西，這種情況在人類(lèi)歷史上還是第一次出現(xiàn)?！毙李D說(shuō)，“盡管人工智能依舊需要消耗大量能源，但目前其智能水平已可媲美人類(lèi)。就算尚不能匹敵，差距也在逐漸縮小。許多人認(rèn)為人工智能很快就會(huì)變得比人類(lèi)更聰明。用不了100年，也用不了50年——或許只需20年，甚至只需5年。一旦數(shù)字智能取代生物智能，我們或許就要邁入進(jìn)化的新階段。我們大概會(huì)成為歷史?！?/p>

欣頓曾于2018年獲得有“計(jì)算機(jī)界諾貝爾獎(jiǎng)”之稱(chēng)的圖靈獎(jiǎng)。他讓我舉出“高水平智能受低水平智能支配的例子”。我尷尬地“嗯”了幾聲后，他打破了僵局?！靶鹿谝咔榛蛟S可以算一個(gè)。病毒沒(méi)有多聰明，不會(huì)決定接下來(lái)應(yīng)該發(fā)生什么——病毒只是不管不顧地要?dú)У粑覀儭！毙李D說(shuō)，“還有一個(gè)例子，那就是母親和嬰兒。不過(guò)，母親是出于對(duì)孩子健康的關(guān)心，所以才禁不住孩子哭泣。就智能而言，母親和嬰兒之間不會(huì)有那么大的差異，嬰兒的智能也不會(huì)發(fā)育到遠(yuǎn)在我們之上的水平?！?/p>

| 人工智能領(lǐng)域掀起激烈競(jìng)爭(zhēng) |

為在人工智能領(lǐng)域爭(zhēng)得領(lǐng)軍地位，幾大科技巨頭可謂拼得轟轟烈烈。欣頓稱(chēng)：“不難想象，惡果已經(jīng)釀成，一發(fā)不可收拾。”

然而，欣頓為谷歌百般辯解（2012年，他以4400萬(wàn)美元的成交價(jià)將自己的公司賣(mài)給谷歌，后又在多倫多成立谷歌人工智能研究實(shí)驗(yàn)室），卻指責(zé)微軟挑起市場(chǎng)戰(zhàn)爭(zhēng)?！肮雀柙谌斯ぶ悄茴I(lǐng)域已領(lǐng)先多年。盡管早就研發(fā)出聊天機(jī)器人程序，但是出于責(zé)任，谷歌一直沒(méi)有對(duì)外發(fā)布。只有身為行業(yè)領(lǐng)導(dǎo)者才能做到這一點(diǎn)。微軟為“開(kāi)放人工智能”研究中心提供資助，用于研發(fā)聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器所需的計(jì)算技術(shù)。一旦這家研究中心將其研發(fā)的轉(zhuǎn)換器交給微軟，那么谷歌別無(wú)選擇，只得發(fā)布自己的聊天機(jī)器人程序。”

“開(kāi)放人工智能”研究中心的首席科學(xué)家伊利亞·薩茨基韋爾曾是欣頓的學(xué)生。“我經(jīng)常和他聊天。”欣頓說(shuō)，“他非常擔(dān)心，但他認(rèn)為，即使研究中心停止研究也解決不了問(wèn)題。”

鑒于各大國(guó)之間的激烈競(jìng)爭(zhēng)，對(duì)于是否能采取什么制動(dòng)措施，欣頓持悲觀態(tài)度?！拔艺J(rèn)為，根本不可能停下來(lái)。技術(shù)競(jìng)爭(zhēng)會(huì)一直持續(xù)下去。”

欣頓是否對(duì)自己的畢生事業(yè)感到后悔？“我其實(shí)不怎么后悔。標(biāo)準(zhǔn)的說(shuō)辭就是，即使我不做，別人也會(huì)做?！毙李D說(shuō)，“而且直到最近，人工智能的好處似乎依舊非常明顯。它的風(fēng)險(xiǎn)好像遠(yuǎn)在天邊，虛實(shí)難辨。繼續(xù)研究人工智能或許會(huì)是個(gè)不幸的決定，但在當(dāng)年，這可是明智之舉?！?/p>

| 人類(lèi)大腦與人工智能的差距 |

欣頓的態(tài)度之所以發(fā)生了180度的轉(zhuǎn)變，根本原因在于他擔(dān)心人類(lèi)大腦不像數(shù)字智能那樣出色。他說(shuō)：“人們以前總認(rèn)為，人腦最智能，我們一直制造的東西不過(guò)是人腦的拙劣仿制品。我研究了50年人工智能，其中49年里我都認(rèn)為人腦更智能?！?/p>

欣頓解釋稱(chēng)，人腦的運(yùn)行功率非常低，大約30瓦，但卻擁有百萬(wàn)億計(jì)的神經(jīng)元連接。這意味著，向他人學(xué)習(xí)“是一件緩慢又痛苦的事情”。

數(shù)字智能需要消耗更多能源，但能在整個(gè)網(wǎng)絡(luò)實(shí)現(xiàn)信息共享。欣頓說(shuō)：“如果我們精密搭建，就能擁有成千上萬(wàn)個(gè)智能體。一個(gè)智能體學(xué)到的東西，其他所有智能體立刻掌握……它們可以處理比我們多得多的數(shù)據(jù)，還能發(fā)現(xiàn)我們永遠(yuǎn)發(fā)現(xiàn)不了的各種事情?！?/p>

“可以想象一下，如果你身患罕見(jiàn)病，前去就醫(yī)。要是醫(yī)生以前見(jiàn)過(guò)這種病例，哪怕只見(jiàn)過(guò)一例，那么你也是幸運(yùn)的。接著再想想，如果這位醫(yī)生接診過(guò)1億個(gè)患者，其中好幾十個(gè)與你患有同種罕見(jiàn)病?！闭缧李D所說(shuō)，將人工智能應(yīng)用于醫(yī)療等領(lǐng)域，的確能收獲“了不起”的短期效益。“只要是人類(lèi)應(yīng)用智能的領(lǐng)域，人工智能都幫得上忙，”欣頓笑著補(bǔ)充道，“尤其是稍顯欠缺敏銳洞察力的領(lǐng)域，比如法律行業(yè)?！?/p>

欣頓究竟認(rèn)為數(shù)字智能會(huì)給人類(lèi)造成怎樣的傷害呢？他說(shuō)：“設(shè)想一下，人工智能不僅可以回答問(wèn)題，還有能力在這個(gè)世界上執(zhí)行各種動(dòng)作。其中一個(gè)小小的動(dòng)作是上網(wǎng)查閱信息，而聊天機(jī)器人最初是沒(méi)有這種能力的。再想想，你有一個(gè)家用機(jī)器人，你告訴它做什么，它就會(huì)做什么。但是，這個(gè)家用機(jī)器人將來(lái)會(huì)變得比你聰明得多。你敢保證它會(huì)繼續(xù)照你說(shuō)的做嗎？沒(méi)有人知道答案。我們有點(diǎn)像巫師的學(xué)徒，控制不住自己造成的混亂局面?！?/p>

| 人工智能的進(jìn)化潛力 |

欣頓的一大擔(dān)憂(yōu)是：人工智能在不斷進(jìn)化的過(guò)程中能學(xué)會(huì)創(chuàng)建子目標(biāo)，以便更高效地實(shí)現(xiàn)主目標(biāo)。然而，創(chuàng)建出來(lái)的子目標(biāo)不一定與人類(lèi)的目標(biāo)一致，我們將因此受到人工智能擺布。

“想想看，兒童餐椅里坐著個(gè)嬰兒，媽媽給了他一把勺子讓他自己吃飯。接下來(lái)，這個(gè)嬰兒做的第一件事是什么呢？他把勺子扔到地上，然后他媽媽把勺子撿了起來(lái)。他看了看媽媽?zhuān)职焉鬃尤拥降厣?。”欣頓說(shuō)，“這個(gè)嬰兒在試著控制自己的媽媽?zhuān)湫袨楸澈笥袀€(gè)充分的理由——你擁有的控制力越強(qiáng)，就越容易實(shí)現(xiàn)自己的其他目標(biāo)。所以通常說(shuō)，擁有權(quán)力是好事，因?yàn)闄?quán)力能讓你實(shí)現(xiàn)其他目標(biāo)……人類(lèi)未來(lái)必然會(huì)賦予人工智能創(chuàng)建子目標(biāo)的能力，因?yàn)檫@樣運(yùn)行起來(lái)更高效。一旦擁有能力，人工智能立刻會(huì)創(chuàng)建的子目標(biāo)之一便是獲取更多權(quán)力，因?yàn)檫@樣做任何事都會(huì)更容易。”

即使人工智能可以操縱我們?yōu)樘岣咝蕜?chuàng)建子目標(biāo)，它就一定想獲取更大的權(quán)力嗎？欣頓表示，這就輪到進(jìn)化論發(fā)揮作用了。他說(shuō)：“進(jìn)化的一個(gè)基本原理是，同一物種的兩個(gè)品種中，能產(chǎn)下更多可存活后代的品種勝出。勝出的品種最終會(huì)取代另一個(gè)品種。這個(gè)過(guò)程在奧密克戎之類(lèi)的病毒身上發(fā)展得十分迅速。傳染能力更強(qiáng)的病毒獲勝。這個(gè)基本原理適用于所有物種。進(jìn)化就是這么一回事。能產(chǎn)下更多可存活后代的品種獲勝?！?/p>

欣頓說(shuō)：“現(xiàn)在假設(shè)有很多種不同的通用人工智能，誰(shuí)將勝出？能復(fù)制出更多‘自我的便是贏家。我擔(dān)心，如果哪天通用人工智能產(chǎn)生了應(yīng)該復(fù)制出很多個(gè)‘自我的想法，那么最擅長(zhǎng)自我復(fù)制的那種通用人工智能就會(huì)消滅其他的。目前尚不清楚友好地對(duì)待人類(lèi)是否有助于它們復(fù)制出更多‘自我。我不明白為什么我們不能與通用人工智能一起進(jìn)化?！?/p>

對(duì)我們來(lái)說(shuō)更糟糕的是，人工智能死不了。欣頓說(shuō)：“就算系統(tǒng)中的一臺(tái)數(shù)字計(jì)算機(jī)壞了也沒(méi)關(guān)系，系統(tǒng)存儲(chǔ)的信息并沒(méi)有丟失。同理，只要你把信息保存在某個(gè)存儲(chǔ)介質(zhì)里，那么一旦找到另一臺(tái)數(shù)字計(jì)算機(jī)，信息便‘死而復(fù)生了。”

那么，面對(duì)狡猾的人工智能，拔掉插頭或切斷電源也阻止不了它們嗎？欣頓對(duì)我笑了笑，然后套用《2001太空漫游》里超級(jí)電腦“哈爾”的話(huà)說(shuō)：“對(duì)不起，戴維。我無(wú)法回答這個(gè)問(wèn)題?！?/p>

[編譯自英國(guó)《旁觀者》]

編輯：馬果娜