邁克斯·泰格馬克（Max Tegmark）

在世界的某個角落，歐米茄小組研制出了人工智能“普羅米修斯”。它一開始通過租用亞馬遜云計算，在亞馬遜Mechanical Turk（MTurk）上提供智能服務(wù)，賺取了第一桶金。MTurk是亞馬遜提供的一個互聯(lián)網(wǎng)眾包服務(wù)市場，是亞馬遜網(wǎng)絡(luò)服務(wù)的一個組成部分。普羅米修斯的智能水平按小時計，遞歸增長，最終它創(chuàng)建了商業(yè)、媒體帝國?？膳碌氖牵霸姜z”了，最終控制了一切。

這個故事的敘述真假交織，情節(jié)生動，讀來不由暗自心驚。故事背后，是作者對人工智能深度的思考和人類命運的憂思。這本書的作者就是麻省理工學(xué)院的天體物理學(xué)教授邁克斯·泰格馬克。今年8月底他的中文版新書《生命3.0：人工智能時代，人類的進(jìn)化與重生》面市。適逢世界人工智能大會在滬召開，借此契機(jī)《中歐商業(yè)評論》專訪了泰格馬克教授，請他談?wù)剬θ斯ぶ悄艿乃伎肌?/p>

先讓“風(fēng)險”成為主流話題

《中歐商業(yè)評論》（以下簡稱CBR）：你是如何定義智能的？能否談一談關(guān)于生命 3.0的提法，是什么啟發(fā)了你？

泰格馬克：很簡單，智能就是完成任務(wù)的能力。能完成越復(fù)雜的任務(wù)，就越智能。從這個意義上說，即使是便攜式計算器也有一點點智能，它可以完成的任務(wù)就是不斷做加減乘除等運算。

今天我們所說的人工智能指的是非生物的智能?，F(xiàn)在人工智能在某些狹義領(lǐng)域超越了人類，但只能完成某些局限性任務(wù)，比如乘法運算更快，下圍棋能贏過人類棋手等。而目前廣義人工智能甚至抵不上兒童。一個小孩只要勤于訓(xùn)練，可以擅長做幾乎任何事情，這才是我們真正想要的智能。讓智能不像今天這樣狹義，達(dá)到更通用的程度，是激發(fā)我寫這本書的靈感來源。

長期以來人類在智能方面取得的成就甚微，所以并不擔(dān)心人工智能研制成功之后帶來的一系列后果。但如果有朝一日我們真正制造出一種做任何事都比人類更勝任的機(jī)器，就要自問：人類該扮演什么角色？這個思考啟發(fā)了我寫這本書。

縱觀生命和智能之間的關(guān)系，經(jīng)歷了幾個階段。早期的生命，比如說細(xì)菌，我稱之為生命1.0。這些生命終其一生不能學(xué)習(xí)任何新知。以大腸桿菌為例，把它放進(jìn)水里，它有一個傳感器可以感應(yīng)水里的糖分，會朝糖分更多的地方游去，它僅有的一點點智能都編碼在基因當(dāng)中了。大腸桿菌學(xué)習(xí)新知的唯一方式就是通過一代又一代不斷的物種進(jìn)化。相比之下，我將人類稱為生命2.0。因為我們確實有學(xué)習(xí)的能力，因此成了主導(dǎo)地球的生物。生命3.0則不僅能替換人類的軟件，還可以替換硬件。當(dāng)然，生命3.0現(xiàn)在還不存在，但人類已經(jīng)可以制造出人造膝蓋、人造心臟起搏器、人造植入耳蝸，現(xiàn)在還有很多人把自己和智能手機(jī)連接起來，讓智能手機(jī)成為自己的一部分。

CBR：你的書里杜撰了逃出來的普羅米修斯。希臘神話里的普羅米修斯我們都知道，你給超級人工智能起這個名字，是有什么考量嗎？

泰格馬克：從書上普羅米修斯的故事中，我們知道，如果科技的力量比我們掌握技術(shù)的智慧更快，結(jié)果會非常糟糕。我們必須確保我們掌控科技的智慧至少要和人工智能的能力相當(dāng)。過去我們總是吃一塹才長一智，失敗了很多次才會取火，出了很多事故才發(fā)明安全帶和交通信號燈。事實上，事后學(xué)習(xí)是一種非常糟糕的策略，我們可不想從核武器的失敗中學(xué)習(xí)經(jīng)驗教訓(xùn)。同樣的道理，如果我們研發(fā)非常強(qiáng)大的人工智能，就應(yīng)該更加主動，提前計劃安排，在第一次就要成功。

這也是我認(rèn)為中國可以為世界作出獨特貢獻(xiàn)的一方面。這有兩個原因，一個是中國在技術(shù)方面的優(yōu)勢結(jié)合長遠(yuǎn)規(guī)劃方面的獨特智慧，很有價值。中國有一個優(yōu)良傳統(tǒng)，那就是長期思考、長遠(yuǎn)規(guī)劃，這一點比很多西方國家更強(qiáng)。另一個則是求同存異的雙贏智慧。

CBR：你們基于什么考量創(chuàng)建了未來生命研究所？

泰格馬克：我們大多數(shù)都是科學(xué)家、技術(shù)專家。我們決定共同協(xié)作，正是為了去發(fā)揚雙贏的智慧，確保技術(shù)是在幫助而不是傷害人類。在埃隆·馬斯克的幫助下，我們捐獻(xiàn)了大約900萬美元研究基金給全世界的科研人員，致力于讓人工智能更加安全，處理好人工智能和人類工作的關(guān)系，讓所有人生活更美好。

對我而言，這是一個非常有益的經(jīng)驗，我們已經(jīng)取得了一些成效。剛開始，每當(dāng)有人說到人工智能有風(fēng)險，所有人都會批判他，因為這么說聽起來很傻，就像好萊塢電影里的終結(jié)者，大家會覺得很荒謬。而現(xiàn)在人工智能風(fēng)險的話題已成了主流，我們的第一個目標(biāo)，就是讓這個話題變成主流話題。

如果你細(xì)想的話，這也是自然而然的事情。其他領(lǐng)域，比如工程學(xué)領(lǐng)域，沒有任何一個國家的政府會在無法保證核反應(yīng)堆安全性的情況下資助一個核反應(yīng)堆。土木工程領(lǐng)域，你要建造橋梁，橋梁的安全性也是你必須要考量的。我們現(xiàn)在就要思考所有失敗和失誤的可能性，確保人工智能朝好的方向發(fā)展。如果你折一個紙飛機(jī)，失敗了還可以彌補(bǔ)，但一些大的工程可是失敗不起的。

CBR：這本書里還提到2017年未來生命研究所的一個調(diào)查，絕大部分科學(xué)家相信，超級人工智能將會在2047年之前出現(xiàn)。你覺得呢？

泰格馬克：嚴(yán)格地說，并不是絕大多數(shù)科學(xué)家。關(guān)于這個問題有很多不同觀點。有一些科學(xué)家說絕不可能，幾百年之間都不會出現(xiàn)。但也有一些科學(xué)家認(rèn)為在那個時間段會出現(xiàn)。要我說，結(jié)論就是：我們無法肯定，但必須現(xiàn)在就開始謀劃，臨時抱佛腳是不行的。就以網(wǎng)絡(luò)安全為例，網(wǎng)絡(luò)攻擊屢屢發(fā)生，因為我們創(chuàng)造發(fā)明互聯(lián)網(wǎng)的時候，那只是一個游戲，就像玩具一樣，對人類的生活沒什么大的影響。但現(xiàn)在互聯(lián)網(wǎng)技術(shù)開始控制電網(wǎng)、控制我們的資金交易，還控制我們的醫(yī)療記錄等，我們才發(fā)現(xiàn)，糟糕，本應(yīng)該周全考慮，最開始就應(yīng)該植入一些網(wǎng)絡(luò)安全的東西。現(xiàn)在我們將人工智能用于更多基礎(chǔ)設(shè)施，讓人工智能幫助我們決策。這些都需要做好防范，提前預(yù)謀，將今天的那些漏洞軟件轉(zhuǎn)化升級成安全穩(wěn)固、值得信賴的系統(tǒng)。

不僅要創(chuàng)造生命3.0，還要創(chuàng)造財富3.0

CBR：如何看待人工智能在取代人類工作方面的問題？

泰格馬克：建議孩子們進(jìn)入那些計算機(jī)還不太擅長的行業(yè)，而且要將來一段時間計算機(jī)都不太擅長的才行。應(yīng)該避免進(jìn)入那些重復(fù)性、結(jié)構(gòu)性的工作，那些需要創(chuàng)造性或者必須要即時反應(yīng)的工作則是比較好的。還有一類工作，即便有了人工智能代替，人們?nèi)詴Ｍo人工更高的價格。比如心理學(xué)家、按摩師等。但不管你選擇了什么工作，都應(yīng)該利用技術(shù)去完成這份工作，而不是抗拒技術(shù)。舉個例子，你想當(dāng)一名醫(yī)生，但不建議成為放射科醫(yī)生，因為看磁共振圖像然后出診斷結(jié)果這種工作很快就會被人工智能所代替。相反，你要成為拿著人工智能檢測報告和患者討論治療計劃的那種醫(yī)生。如果你對法律感興趣，不要成為低級的律師助理，閱讀卷宗的工作會被人工智能代替，你要努力成為那個拿到最終分析結(jié)果并出庭辯論的律師。不管入哪一行，必須要知道人工智能如何影響這一行業(yè)，要讓自己比同事更會利用人工智能。

CBR：取代人類工作的人工智能有可能引發(fā)風(fēng)險，比如自動駕駛技術(shù)。我們的社會是否已經(jīng)為此做好了準(zhǔn)備？

泰格馬克：這是一個非常棘手的問題，我覺得當(dāng)今時代的司法系統(tǒng)已經(jīng)非常陳舊過時，需要更新。如你所問，萬一事故發(fā)生了之后由誰來負(fù)責(zé)？這個問題的最佳答案不是來自人工智能工程師，而是來自法律學(xué)者。有一個很有趣的觀點：自動駕駛汽車本身就可以有汽車保險，因為那些自動駕駛技術(shù)很差的汽車，保險公司就會要求它支付巨額保費，然后人們就不會買那種車。這方面的立法非常重要，要讓警方更好地判別誰來負(fù)責(zé)。比如有個人他有一輛自動駕駛汽車，如果程序自動設(shè)計它駛?cè)肴诵胁降?，里面放一個炸彈進(jìn)行恐怖襲擊的話，必須要能夠確認(rèn)誰來對此負(fù)責(zé)，而現(xiàn)行法律還不夠完善。再比如人們會接到一些電話，聽起來很像認(rèn)識的人在推銷東西，但其實聲音來自機(jī)器，那么是不是應(yīng)該有相關(guān)法律禁止機(jī)器在沒有任何警告的情況下模仿人的聲音，否則別人可以錄制一段視頻，播放的是你從未真正說過的話。

CBR：這本書的副標(biāo)題是“人工智能時代，人類的進(jìn)化與重生”，這里的“人類”應(yīng)該怎么理解？而未來人工智能是否也可以視為某種“生命”？

泰格馬克：我并不想去定義生命應(yīng)該如何，我只是提出一個問題，讓讀者問問自己，作為人類意味著什么，或者如何做人，因為人工智能將對我們的生活產(chǎn)生巨大影響。

當(dāng)初工業(yè)革命極大地改變了我們的生活。每當(dāng)我們弄清人體某些運動原理，就會創(chuàng)造出一種機(jī)器更好地完成這項工作。比如當(dāng)我們更加了解肌肉的工作原理時，就能創(chuàng)造出更加強(qiáng)大、更加快速的機(jī)器。假如將來我們創(chuàng)造出的機(jī)器比人類大腦更管用，還剩下什么工作可以給人類做呢？這是一個非常重要的問題，我希望引起讀者思考。

人工智能的發(fā)展不會停止，原因有二：第一，科學(xué)家們都有好奇心，總是希望弄清楚一個事物的工作原理；第二，經(jīng)濟(jì)學(xué)上，如果我們能夠提高機(jī)器的工作效率，會讓公司獲得更多利潤，公司自然會做。另外，人工智能發(fā)展也不見得是一件壞事，因為理論上機(jī)器可以創(chuàng)造出我們?nèi)祟愃璧乃猩唐泛头?wù)，我們就可以一直度假玩樂，這樣也很不錯，對吧？

但問題在于，這不會自動發(fā)生。如果政府無所作為，那些擁有機(jī)器的人就會享盡財富，其他人一無所有，這樣一來，社會就將變得很不平等。目前西方社會大多數(shù)人都變得越來越窮，窮人變得非常憤怒，哪個政客承諾要改變現(xiàn)狀，他們就投票給哪個政客，因為他們絕望透頂，別無選擇，即便是這些政客的許諾根本無濟(jì)于事。因此我們現(xiàn)在看到西方社會越來越極端、越來越分裂。我非常希望中國在這方面做得更好，因為中國的建國根基就在于幫助所有的人。問題的關(guān)鍵在于，不僅僅要創(chuàng)造生命3.0，還要創(chuàng)造財富3.0。政府征收了足夠的稅收，就可以讓老百姓共享繁榮。

如果人工智能成功創(chuàng)造出巨大財富，那么我希望政府能真正用好財政稅收，設(shè)置一些有意義的崗位，因為工作真正的意義不僅僅是賺錢，還要有意義和目標(biāo)。中國在這方面可以樹立榜樣，確?？萍歼M(jìn)步帶來的財富增長讓大家共同富裕。

我們還有巨大的潛能

CBR：你覺得人類有一些人工智能無法實現(xiàn)的能力嗎？比如說創(chuàng)造力，比如同情心？

泰格馬克：很多人認(rèn)為，智慧是一種很神秘的東西，只能存在于像人類這樣生理性的大腦當(dāng)中。但我個人認(rèn)為，智慧其實就是信息處理。沒有任何物理學(xué)定律規(guī)定，那種超高級的信息處理能力，比如可以產(chǎn)生創(chuàng)造力和同情心的能力，只能出現(xiàn)在生理學(xué)器官當(dāng)中，換言之，只有碳原子才能實現(xiàn)。硅元素是否也可能實現(xiàn)呢？這是有可能的。

當(dāng)人類創(chuàng)造出和人類同級別的智慧，那就像生了一個孩子。我們有巨大責(zé)任，不僅要讓它們功能強(qiáng)大，還要讓它們有道德。這涉及價值觀的一致性。家長教育孩子是一件挺難的事情，要教育機(jī)器懂倫理道德、明辨是非就更難了。

我們目前在價值觀一致方面做得很糟糕。有一個德國飛行員患了抑郁癥，他讓一架客機(jī)撞上了阿爾卑斯山，導(dǎo)致機(jī)上一百多人死亡。飛機(jī)的電腦上有阿爾卑斯山脈的地圖和衛(wèi)星定位系統(tǒng)等，飛行員讓電腦將飛行高度降低到一百米，電腦說，沒問題，因為電腦對人類價值觀沒有任何概念。事實上要避免撞擊原本很簡單，如果電腦發(fā)現(xiàn)飛行員的指令違背道德，可以從人工控制切換到自動駕駛模式，最后再安全著陸。最近還有很多駕車自殺式恐怖襲擊，應(yīng)該把防止撞人的功能編到軟件程序中，這是很容易做到的技術(shù)解決方案。

因此，我們應(yīng)該關(guān)心的不是人工智能會不會有同情心，而是我們?nèi)绾螢槿斯ぶ悄芗尤脒m當(dāng)?shù)耐樾?。隨著人工智能變得更加高級，我們再加入更高級的同情心。我們不能讓追求完美成為進(jìn)步的絆腳石，可以從簡單開始，但現(xiàn)在連最起碼的都沒有做。

CBR：你是怎么看待人類意識的？

泰格馬克：我覺得人類意識可能是最美妙的事情之一。如果沒有意識，那世界便沒有美好可言、沒有道德可言、沒有目的和意義可言。我的專業(yè)背景是物理學(xué)，沒有任何一條物理學(xué)定律是關(guān)于美好、目的或意義的。然而當(dāng)我用天文望遠(yuǎn)鏡觀察銀河系的時候，卻發(fā)現(xiàn)銀河是如此美麗，因為我們?nèi)祟惔竽X會有意識地去感受這種美麗。

有一些哲學(xué)家說，意識其實都是扯淡。我就會問他們，那么你說酷刑有什么好怕？酷刑之所以不好，是因為創(chuàng)造了一種消極的主觀體驗。那些說意識是扯淡的人，我會邀請他在不麻醉的情況下接受手術(shù)。他們接受手術(shù)之后還是會生存下來，沒有問題，但是沒有人希望有這種負(fù)面的主觀感受。

智慧和意識就是某種信息的處理過程。只是目前科學(xué)家還未研究出來到底是什么樣的信息處理過程導(dǎo)致了意識產(chǎn)生，而我們就應(yīng)該對此展開研究。首先這對醫(yī)療就很有幫助，這樣可以確切知道患者到底是昏迷還是閉鎖綜合征。其次，或許我們可以創(chuàng)造出不同種類的機(jī)器人，一部分有意識，一部分無意識。無意識的機(jī)器人去做無聊的工作，這樣我們就沒有負(fù)罪感；有意識的機(jī)器人可以做人類的伙伴。這是一個非常有趣的科學(xué)問題，而人工智能領(lǐng)域的進(jìn)步又讓這一問題亟待研究。因為意識和智慧不可混為一談，你可以智力很高卻沒有意識。

CBR：《星際穿越》里布倫特博士說的那句詩“不要溫和地走入那個良夜”令人印象深刻，面對死亡的態(tài)度最能體現(xiàn)出一個人的智慧高低。人類對待自己的終極命運應(yīng)該持一個什么樣的態(tài)度？

泰格馬克：那其實是英國詩人狄蘭·托馬斯的詩句。對待人類的終極命運，我覺得應(yīng)該志存高遠(yuǎn)。

很多人說放棄吧，人肯定比不過機(jī)器的。人類被新事物所取代，但并不意味著新事物就一定更好。我們創(chuàng)造人工智能的時候，其實有很大的自由度。但如何才能創(chuàng)造一種可被賦予價值取向的人工智能？我們應(yīng)該好好利用這份自由度去塑造一個真正美好、激動人心的未來。如果我們這一點做得好，未來會非常美好，令人向往。

目前我們注意力都局限在地球上，志向不夠高遠(yuǎn)，只看到了短暫的幾年。我在這本書里談到了接下來的幾百萬年，如果利用好了人工智能技術(shù)，生命可能不僅會繁榮幾百年，而是幾百萬年；不僅地球更加繁榮，甚至整個宇宙都更加繁榮。因此我對這個問題的回答是，我們不要去限制自己，也不一定要待在地球上，這只是宇宙生命的一個開端，我們還有巨大潛能，讓我們創(chuàng)造一個無限美麗、激動人心的未來。

如果我們能正確對待人工智能技術(shù)，人工智能就可以賦予我們力量做好這一切。智慧不邪惡，智慧也不善良，它只是工具，因此我們要將智慧這一工具用來做好事。我之所以這么熱愛文明，那是因為文明是智慧的結(jié)晶。我們現(xiàn)在還不能說晚安，因為現(xiàn)在不是夜晚，現(xiàn)在還是宇宙生命的早晨。感恩我們即將迎來美好的一天。