霍思伊

亞瑟·阿布-穆斯塔法。

由ChatGPT和GPT-4引發(fā)的這一輪“人工智能狂潮”遠比人們最初預(yù)想的持續(xù)更久，伴隨而來的爭議與憂慮近期也在不斷發(fā)酵和上升。

圍繞爭議，人工智能專家分成兩種截然不同的派別，一種對當(dāng)下以ChatGPT為代表的人工智能技術(shù)表達出深切擔(dān)憂，另一些著名的人工智能專家如Meta首席人工智能科學(xué)家楊立昆認為，暫停AI研發(fā)才會對人類科技的進步帶來巨大傷害。

回歸科學(xué)，理性對以GPT-4為代表的AI能力的邊界進行反思：它能做什么？不能做什么？最重要的是，人類現(xiàn)在必須采取什么行動來實現(xiàn)“有益的AI”？

4月8日，《中國新聞周刊》就以上問題專訪了美國加州理工學(xué)院電氣工程和計算機科學(xué)教授亞瑟·阿布-穆斯塔法。他是人工智能領(lǐng)域的知名專家，同時也是IEEE神經(jīng)網(wǎng)絡(luò)委員會的創(chuàng)始人之一，曾在多家科技公司擔(dān)任機器學(xué)習(xí)顧問。以下是記者和他的對話：

AI的應(yīng)用遠比設(shè)計更復(fù)雜和危險

中國新聞周刊：此前，埃隆·馬斯克等人簽署了聯(lián)名公開信，業(yè)內(nèi)形成了對人工智能發(fā)展的兩種截然不同的看法，你更認同哪方？

阿布-穆斯塔法：聯(lián)名公開信，意圖是好的，但無法起到任何實質(zhì)效果，因為不會真的有公司遵守并暫停六個月的AI研發(fā)。我認為這是對人工智能“過于快速發(fā)展”的許多下意識反應(yīng)之一，是一種沒有經(jīng)過深思熟慮、出于沖動的行為。就我個人而言，不贊同暫停更強大AI模型的研發(fā)，現(xiàn)在要做的不是暫停，而是如何更好阻止對這種強大工具的“不良使用”，所以我沒有簽署公開信。

如何推動更強有力的人工智能監(jiān)督？政府需要通過立法對如何“合理地使用”AI進行約束或限制，歐盟《人工智能法案》是一個開始。立法時有很多需要考慮的因素，尤其要注意的是，法案公布后能強制執(zhí)行嗎？副作用是什么？是否會產(chǎn)生意想不到的后果？制定法案或任何監(jiān)管規(guī)則都必須經(jīng)過謹慎考量，而不是短期內(nèi)出于對人工智能的恐懼或為了應(yīng)對想象中的風(fēng)險而匆忙制定，目前為止，我還沒有看到任何提議或法案經(jīng)過了深思熟慮，并且可以得到有效執(zhí)行。很多人擔(dān)心人工智能將接管人類的一切，所以意大利、德國、美國等國政府做出反應(yīng)，動機更多是出于“現(xiàn)在必須要采取一些行動，否則的話公眾會對政府不滿”。

中國新聞周刊：如何使AI真正符合人類的價值觀和道德準則？

阿布-穆斯塔法：這100％取決于AI系統(tǒng)的開發(fā)者和使用者。人工智能沒有內(nèi)在的道德或惡意，人工智能只是服從命令，它會做人類訓(xùn)練它去做的事情，如果人類給它的是充滿偏見的數(shù)據(jù)，就會誕生一個充滿偏見的AI，因此OpenAI需要不斷調(diào)整，選擇一些好的數(shù)據(jù)或者讓ChatGPT不回答惡意的問題。但解決這個問題的復(fù)雜之處在于，即使開發(fā)者把整個AI系統(tǒng)設(shè)計的很“符合人類價值觀”，仍會有非常多元的用戶從不同角度使用它，這是開發(fā)者控制不了的。因此，AI應(yīng)用遠比設(shè)計更復(fù)雜和危險，人類可以用良好的意圖去設(shè)計“好的AI”，然后有一個用戶從一個好的角度去使用它，最后卻讓AI變得很糟糕。

因為在人類社會中，好和壞的標準是非常不明確的。如果你去訓(xùn)練一個AI下棋，比如AlphaGo，規(guī)則是明確的，AI經(jīng)過訓(xùn)練后很清楚如何界定“好的行為”，只要能贏就是一步好棋，在這里，贏是客觀的，可以讓AI系統(tǒng)通過與自己做“對抗練習(xí)”，不斷強化這點。但更多時候，我們要訓(xùn)練AI去完成一些缺乏客觀好壞規(guī)則的任務(wù)，此時，讓系統(tǒng)自身去理解什么是“好的行為”非常困難。

中國新聞周刊：聯(lián)名公開信指出，最近幾個月，人工智能實驗室正陷入一場失控的競賽（out-of-control race），這是否真的在發(fā)生？

阿布-穆斯塔法：這是一種非常情緒化的表述。不過談到所謂競賽，可以預(yù)料到的是，在短期未來的AI產(chǎn)業(yè)格局中，世界范圍內(nèi)很可能只有2～3個非常強大的類似ChatGPT這樣的人工智能工具占領(lǐng)整個全球市場，因為開發(fā)這樣的大模型所涉及成本是巨大的，需要數(shù)千個GPU（圖形處理器）核心運行2個月以及海量的數(shù)據(jù)和算力。我做過一個簡單計算，GPT-3模型有超過1000億個參數(shù)，假設(shè)你的筆記本電腦有足夠的內(nèi)存，在電腦上運行它至少需要20萬年，這也是為什么目前所有最新的大模型進展都來自科技公司，而不是大學(xué)，因為其中涉及到的資金比任何大學(xué)的常規(guī)研發(fā)資金至少多了兩個數(shù)量級。

但話說回來，我們永遠無法預(yù)料未來，五年以后是否可能誕生一種能節(jié)省大量計算資源的新模型，還未可知。這就像GPU在四十余年前剛誕生時，最初只是為了讓游戲中的圖形移動得更快，但就是這個簡單的想法，后來完全改變了計算機這個領(lǐng)域。所以，如果幾年以后真的出現(xiàn)一種完全不同的模型，可以讓成本從10億美元降低至1000萬美元，這就改變了整個游戲規(guī)則，屆時將會有大量的玩家出現(xiàn)。

中國新聞周刊：大模型時代的到來，也和基于“預(yù)訓(xùn)練+微調(diào)”這種自然語言處理（NLP）的主流范式有關(guān)。2018年后，這種模式幾乎重塑了人工智能的商業(yè)形態(tài)，你如何看待這種趨勢？

阿布-穆斯塔法：“預(yù)訓(xùn)練+微調(diào)”是一種分而治之的巧妙方式，一次訓(xùn)練AI專注于一個問題并完善它，例如，要求它造出語法正確的句子（即使表達出來的是胡說八道），然后為這個預(yù)訓(xùn)練的系統(tǒng)提供更具體的引導(dǎo)性信息。這種辦法非常有效，因為它使我們能夠在迄今為止取得的成就基礎(chǔ)上再接再厲，而不是從頭開始。

OpenAI將其對公眾開放的這個主意很聰明，現(xiàn)在他們獲得了大量的數(shù)據(jù)和反饋，可以用來訓(xùn)練更新一代的系統(tǒng)，而且這些資源是獨家的，因為公眾不會對下一個類似的產(chǎn)品產(chǎn)生同樣多的興趣。

AI只是在復(fù)制人類的“外觀”

中國新聞周刊：那么應(yīng)如何理性、客觀去認知當(dāng)下的人工智能水平和ChatGPT的能力邊界？

阿布-穆斯塔法：我有個朋友跑去問ChatGPT：“關(guān)于阿布-穆斯塔法，你知道什么？”然后，ChatGPT列出了關(guān)于我的一份非常詳細的履歷和人物小傳，在答案的首段，它呈現(xiàn)的表述看起來非常專業(yè)，但接下來就有不少錯誤的信息，比如我上過的大學(xué)就搞錯了。這件事充分說明了ChatGPT的本質(zhì)，從某種意義上說，它只是把所有信息以一種非常特殊的彼此相關(guān)的方式放在一起。

因此，我對ChatGPT表現(xiàn)出來的一切并不驚訝，為生產(chǎn)這個系統(tǒng)而投入的資源是巨大的，它有1000多億個參數(shù)，可以記住很多東西，但并不是很聰明。因為它同時給你的是好信息和壞信息，而且完全沒意識到自己做錯了事，只是碰巧能以一種令人信服的方式去構(gòu)建回答。

人工智能的本質(zhì)在于它使用了一種類似于人類大腦的結(jié)構(gòu)，這種結(jié)構(gòu)以一種非常高效的方式存儲信息，看到新的情況之后會推理和判斷什么是“最接近它的東西”，這就是深度神經(jīng)網(wǎng)絡(luò)所做的事情，這一辦法已經(jīng)持續(xù)了幾十年。

目前，人工智能的整體發(fā)展水平很令人振奮。但即使在業(yè)內(nèi)，真正了解所有技術(shù)細節(jié)的人很少，只有OpenAI、Google這些參與了大模型訓(xùn)練的人才能說清楚，但他們對外分享的信息也是有限的。我推測下一步最重要的突破可能集中在：AI系統(tǒng)如何用更少資源達到相同的性能水平。

中國新聞周刊：沿著這條路繼續(xù)往下走，AI是否能進化到理解“概念”和“常識”？有專家認為GPT-4已經(jīng)初步具備了“自我反思”能力，你怎么看？

阿布-穆斯塔法：如果說人工智能已發(fā)展出自我反思能力，那一定是數(shù)量巨大的任務(wù)訓(xùn)練帶來的，是通過合并足夠多數(shù)量的“分散而零碎的智能任務(wù)”實現(xiàn)的。比如說我做1000個ChatGPT，其中一個對語言感興趣，另一個處理數(shù)學(xué)問題，第三個負責(zé)視覺識別，直到它的“能力”覆蓋了幾乎人類所有的領(lǐng)域，再將其合并為一個，它一定能表現(xiàn)出一種“通用的智能”，這就是所謂的“大力出奇跡”，也是“多模態(tài)機器學(xué)習(xí)”的本質(zhì)。但這一切只是表象，只是看起來具備了自我反思能力和通用智能。從某種意義上說，人類嘗試做的其實是擁有一個巨大的系統(tǒng)，這個系統(tǒng)只是試圖復(fù)制人類的“外觀”。

中國新聞周刊：在現(xiàn)有AI概念框架中，無論如何努力，AI也只能是看起來仿佛擁有了人類智能的靈活性和通用性，而不是真正實現(xiàn)這點？

阿布-穆斯塔法：ChatGPT的參數(shù)是1000多億，但大腦中突觸的數(shù)量是在100萬億左右，比AI多了至少三個數(shù)量級，人類大腦運行也遠比人工智能復(fù)雜得多。

實際上，神經(jīng)網(wǎng)絡(luò)之所以能成功，就是因為它類似大腦的架構(gòu)，具體而言，許多簡單的計算單元通過攜帶參數(shù)高度連接。然而，神經(jīng)網(wǎng)絡(luò)的細節(jié)與大腦不同，也沒有必要試圖使它們更相似，我打個比方，飛機看起來像鳥類，但飛機不會像鳥類那樣拍打翅膀，生物學(xué)可以被用作一般的靈感，但不應(yīng)該規(guī)定每一個細節(jié)。

就現(xiàn)有技術(shù)路徑而言，人們的主要方法是訓(xùn)練更大的模型，不斷提高計算能力，嘗試覆蓋更多的領(lǐng)域，并讓這些不同的領(lǐng)域相互作用，但我不知道繼續(xù)通過“蠻力”來做這件事是否會帶來無法管理的后果。

人類為什么這么關(guān)心“通用人工智能”（Artificial General Intelligence，AGI），因為它觸及了人性中最根本的東西，侵犯了人類的自我（Ego），即：人類是否是最獨一無二的存在。對于如何實現(xiàn)AGI，目前所有想法都只是推測，我們只能針對已經(jīng)看到的技術(shù)范式進行突破，但真實情況是，我們根本難以想象會走上一條怎樣的路徑。

回到15年前，如果有人告訴你GPU對機器學(xué)習(xí)有用，大多數(shù)人的反應(yīng)是怎么可能，但現(xiàn)實就是這么發(fā)生了。因此，無論人類是否有實現(xiàn)AGI的一天，至少我認為這肯定不會是世界末日。

中國新聞周刊：既然這樣的話，怎么理解微軟研究人員稱，GPT-4 已經(jīng)顯示出接近人類智能或通用人工智能的“火花”？

阿布-穆斯塔法：問題的關(guān)鍵是，“通用人工智能”到底是什么？目前對于AGI概念還沒有很明確的定義。對于通用人工智能，人類更想追求的目標是：AI突然之間學(xué)會了以上所有，能舉一反三，而不是一次次學(xué)會某個特定任務(wù)，就像魔法一樣，但這是一個非常模糊的描述。

因此，現(xiàn)在迫切需要就“通用人工智能”概念本身達成共識，用非常精確的計算機語言去界定它，制定明確的檢驗規(guī)則，遵照這些規(guī)則，人類才能知道AGI是否已經(jīng)實現(xiàn)？潛在的危險是什么？但我目前還沒看到令人信服的準確定義?，F(xiàn)在，當(dāng)人們談?wù)摗巴ㄓ萌斯ぶ悄堋睍r，承載了太多人類的情感，有時甚至是不切實際的期望和恐懼，但這種恐懼把智能和“自我”混為一談。人們必須冷靜下來，理性地把AGI視作一個科學(xué)目標，而非摻雜了政治、情感和各種主觀因素。

常規(guī)工作或在更短時間內(nèi)被AI替代

中國新聞周刊：在AI研究領(lǐng)域，人工智能是否能產(chǎn)生“自我意識”一直是一個非常熱的話題。對此你怎么看？

阿布-穆斯塔法：對這個問題，我的看法相當(dāng)保守。我認為AI領(lǐng)域的任何技術(shù)進步都不可能產(chǎn)生一個“有意識的實體”，現(xiàn)在不會，20年之后不會，可能永遠都不會。正如我之前所說的，意識和情緒的“顯現(xiàn)”是很容易做到的，AI未來能“看起來像擁有了情感或意識”，就像電影里有一個厲害的演員表達出了某種強烈的情緒，但這只是表演，是純粹的行為表象。

中國新聞周刊：但這種觀點非?！叭祟愔行闹髁x”，有一種說法認為，如果AI的“自我意識”完全超出了人類的理解范圍，其實很難從人類的角度去界定它。

阿布-穆斯塔法：雖然如此，我還是堅持我的看法，或許未來真的如你所說，但目前這只是一種推測。事實上，對人類意識的定義本身在科學(xué)上都是不確定的，客觀上也不可測量，我知道我有意識，你有意識，你知道愛是什么，情感是什么，悲傷是什么，因為你能感覺到它們，你能與它們聯(lián)系起來，但所有這些都是一種人類經(jīng)驗，為什么會這樣？我們不知道。

我認為，AI始終是一個無生命的機器，背后有嚴密的齒輪在驅(qū)動它，這些齒輪就是不同的參數(shù)，復(fù)雜的輸出可能會給我們留下這樣的印象：那里有一個與眾不同的人，但這種輸出不是來自意識，而是一種算法。為什么我們認為有人在那里？因為當(dāng)我們看到這個輸出之后，把它在腦海中與我們過去的記憶、情感，與人類自身聯(lián)系在一起。

中國新聞周刊：未來，哪些行業(yè)會從AI發(fā)展中受益，哪些行業(yè)可能被顛覆？

阿布-穆斯塔法：所有行業(yè)都會從人工智能的發(fā)展中受益，甚至以無法預(yù)料到的方式。

五年前有人問我：人工智能的下一個20年如何發(fā)展？我說，AI將在20年內(nèi)取代人類幾乎所有常規(guī)智能工作（routine intelligence tasks），也就是“完成復(fù)雜任務(wù)但不需要創(chuàng)新的智能”。 自動駕駛是一個典型的例子，未來，職業(yè)司機會失業(yè)，更多低技術(shù)含量的工種會被AI取代，公司會傾向于雇傭更高質(zhì)量的員工。這是一個必須要積極解決的社會問題，否則，很多人將會面臨失業(yè)的痛苦。

ChatGPT誕生后，我修正了我的預(yù)期，我現(xiàn)在認為，可能不需要20年，這些常規(guī)工作在更短的時間內(nèi)就可能被AI全部替代，不管我們?nèi)绾谓缍ā巴ㄓ萌斯ぶ悄堋?，常?guī)智能是通向它的第一步。所有事情都正在加速，這是毫無疑問的。

中國新聞周刊：在常規(guī)智能工作之外，AI未來是否也會取代一些更具有創(chuàng)造力的工作？

阿布-穆斯塔法：還是以AlphaGo為例，你會發(fā)現(xiàn)AI在某種意義上也在進行“創(chuàng)造性的防御”，為了贏得比賽，它發(fā)現(xiàn)了人類沒有想到的防御策略，我不知道這是否是一種創(chuàng)新或者只是自動化的產(chǎn)物，因為這背后是AI對海量策略的嘗試。 “AI的創(chuàng)造力”目前也沒有很可靠的定義。

中國新聞周刊：人類應(yīng)如何與AI共存？

阿布-穆斯塔法：我們沒有與AI共存的壓力，AI永遠是人類的附屬品。