翟振明

一、弱人工智能和強人工智能

你有可能不在上網(wǎng)，但用人工智能并結(jié)合大數(shù)據(jù)，可以把你的相貌及各種與你相關(guān)的東西傳到網(wǎng)上去，在線和人交流。如果是在虛擬世界，你還會有3D 的似真形象。這種情況下，你會覺得真的在與人交流？不會的。人工智能如果這樣使用，那絕對不會被用來代替你，充其量只是用它來冒充你在線。這就是現(xiàn)在的弱人工智能，或者說作為工具的人工智能。但如果有另一種未來的人工智能呢？也就是強人工智能，用強人工智能把“我”造出來嗎？它有“我”——第一人稱的存在，它有世界，它有意志、訴求，還可以假裝點什么，期望點什么，那它就不是一個工具了，而是真的“我”了。這兩種東西的區(qū)別說起來容易，但擺出來讓大家判斷是很難判斷出來的。因為，有沒有自我意識，是看不到的。對于觀察者來說，只要它足夠像人，就不知道是真人還是假人。但是，有自我意識的人，始終知道自己是存在的，而沒有自我意識的物，只是自在的存在。就像一臺機器放在那里，一支麥克風(fēng)、一只喇叭，可以聽見它說話，但我們不認(rèn)為它有自我意識。所以，這就產(chǎn)生了一個問題，有兩種人工智能：造工具的人工智能和造人的人工智能。這兩種人工智能是同一類 嗎？

有人說，你不能說這么一般的東西啊，你要說“阿爾法狗”之類具體的東西?！鞍柗ü贰笔钦娴淖约涸谙缕迥?，還是有團(tuán)隊用“阿爾法狗”這個工具和李世石在下棋呢？“阿爾法狗”不會在現(xiàn)場存在，它也不是一臺機器，也不知道有多少機器在運行，但據(jù)說每下一盤棋要耗去三千美元電費，不像我們開著一個電腦運行那種電費可以忽略不計的。這么多機器一起來對付李世石一個人，到底是機器“想要”贏，還是某些人想要贏？現(xiàn)在來看看，如果是用另一種人工智能制造出另一個“阿爾法狗”，制造出來后是一個真正的人了，外號就叫“哈巴狗”吧，它就會有“我要贏你”這種想法。如果不是，就是別人要用它來完成“我要贏你”的想 法。

再比喻一下，有人說：“我生了個男孩，因為家里的一畝三分地要有勞動力?！钡珜τ谌藖碚f，無論如何想有個兒子來種這一畝三分地，把他當(dāng)工具使，最后他也不會成為工具，他有自己的訴求。他也許種田，也許不種田，逼著他種田他不種，也許就要打起來。有了矛盾沖突，社會上還有公正一些的程序來判決，但如果是工具，就不會產(chǎn)生這些問題。所以，這個問題是不是很嚴(yán)肅——人工智能最終是要造工具還是造 人？

如果我們用現(xiàn)在的馮諾依曼機想要造人，能不能造出來？很多人認(rèn)為這是有可能的，但我證明過，其實不可能。要是可能，“他”被造出來就有自我意識，這時“他”就要維權(quán)，甚至還可以假裝輸了。最重要的問題不是它輸，而是它能贏卻假裝輸一盤。但假裝輸是不可能的，如果能，那就不是造工具而是造人了，這不是馮諾依曼機能勝任的。“假裝”其實是個很好的指標(biāo)，看它是真的有自我意識還是沒有。如果有，我們也不能直接看見，但我們一般必須有統(tǒng)一認(rèn)識，認(rèn)為它沒有自我意識，也沒有情感意識或權(quán)利意識。自由意識和情感是人的真正特 征。

二、傭工思維

有些人在“阿爾法狗”出來后很著急，為什么著急呢？我們不想干體力勞動就用機器來代替，我們?nèi)祟愄赜械膭趧铀坪蹙褪悄X力勞動，但“阿爾法狗”出來后，人能干的東西好像沒有了。很多人恐慌是因為人特有的能力也被機器代替了。現(xiàn)有的“職業(yè)”，我們有時把它叫作“雇傭關(guān)系”，這個說法好像是把自己看作別人使用的工具，別人不使用，這工具就沒用了。但是，對人來說，活著是為了做工具嗎？當(dāng)然不是，工具沒有自足的價值，如果沒有目的，它就不存在。把自己當(dāng)作工具，作工具價值的自我理解，是一種自我矮化、自我貶低的想法。但是，人類要“干活”是什么意思？因為干活之外有目的，它才叫“干活”，不然它不叫“干活”，也許叫“游戲”，也許叫“藝術(shù)創(chuàng)作”?！案苫睢本褪钦f，我們的生活沒法過了，我們的任務(wù)沒辦法完成了，非要“干”才行，這個“干”的就叫“活”。所以干活這個事情越來越少越好，我們的所有技術(shù)、各種發(fā)明，從古至今都是為了少干活這個目的。全人類都不勞而獲，也許是好事；只有一部分人不勞而獲，其他大多數(shù)人都在“勞”，才是不正當(dāng)?shù)氖?。我們不可能以?dāng)工具為目的，“以當(dāng)工具為目的”這個說法本身就是自相矛盾的。所以，工具被人工智能代替，這是我們樂于見到的事，全人類應(yīng)該為此而高興。為了實現(xiàn)基本需求的“活”要有人干，那是不得不干的事，我們不得不有時候被當(dāng)作工具。這些基本需求實現(xiàn)后，我們?nèi)プ非笞晕覍崿F(xiàn)、快樂、愛情、創(chuàng)造，這些就是“幸?！钡膬?nèi)容，就不是被當(dāng)作工具 了。

追求幸福有用嗎？幸福就是目的本身，不能問它有沒有用。自由也是如此，有沒有自由你在不在乎？我們有自我意識，有自由的意識，不只是為別人服務(wù)的，這就叫做人的尊 嚴(yán)。

三、內(nèi)在價值與工具價值

我們每個人都有自給自足的目的，這叫作內(nèi)在價值。人工智能會不會有呢？我們能不能創(chuàng)造出這樣一種東西，它有它的自我訴求，不是為了當(dāng)工具，不是為了更有效地生產(chǎn)，而是從事所謂生產(chǎn)活動，就像我們一樣，是為了一個目的，也就是說，它有自我意識。這種東西能不能造？要不要造？我們現(xiàn)在見到的人工智能到底是哪一種？這些還是很不清楚 的。

人工智能能不能進(jìn)化到有自己的訴求，有自己的幸福、感覺、快樂，看到東西有“顏色”的質(zhì)感？有沒有這種可能呢？大概是幾年前，聽說馬云宣稱造出了一種機器人，這種機器人叫“辣椒”，它有自己的情感，能理解你的需要，是非常體貼的情感機器人——乍聽起來像是在造人而不是造機器。而且，他還說了一句話：1 萬塊錢人民幣就能買到它。如果它真是有情感的機器人，能賣嗎？其實這兩個說法不能放在一起，他把兩個說法放到一起，是沒有意識到這個問題的嚴(yán)重性，或者他沒有真的相信這個機器人有情感。有情感和有自由意識是差不多的，自由意識預(yù)設(shè)了自我意識，沒有自我意識，會有情感嗎？情感機器人的說法，大家都不知不覺地接受了，也沒人覺得有什么問題。其實，將這兩個說法放在一起，至少在倫理道德法律上有問題。如果真的造出有情感、有自我意識的機器人，我們能賣它嗎？如果真賣，誰又敢買？如果真是情感機器人，能賣能買，豈不是相當(dāng)于販賣人口。說它有情感，又說賣得很便宜，那就違反了最基本的倫理規(guī) 則。

四、強人工智能與量子力學(xué)

在我們這個時代，特別是人工智能與虛擬現(xiàn)實到來的時代，如果人文素養(yǎng)不行，人類就會迷失。我們現(xiàn)在的人工智能，是不是像大部分專家所想的那樣，最終是和人的大腦一模一樣的東西？這是我研究了很久的一個問題，我寫的書里有專門的論證。用現(xiàn)在的計算機的基本模式（其算法的可執(zhí)行性是圖靈講出來的，所以叫“圖靈機”）能否產(chǎn)生強人工智能？我和美國的一個量子物理學(xué)家討論多年以后，得出一個結(jié)論，就是這種計算機永遠(yuǎn)不可能構(gòu)成自我意識，亦即不能產(chǎn)生強人工智 能。

人工智能一開始不是為了做工具，是為了用計算機形式理解人之所以為人的自我意識、身心關(guān)系到底是怎么形成的。很多人以為，搞明白人腦以后，自我意識也就清楚了，“阿爾法狗”再強大一點，就會有自我意識，有想要贏李世石的想法了。這個想法，在那位量子力學(xué)家和我本人這樣的哲學(xué)家看來是錯誤的，現(xiàn)在的計算機（圖靈機）在原則上無法構(gòu)造出那種東西。在量子力學(xué)里，無限遠(yuǎn)的兩個點可以相互作用，這叫“量子糾纏”。無限遠(yuǎn)和挨著很近，是沒有區(qū)別的，空間概念不適用。量子計算機被造出以后，不僅它的計算能力成億倍的提升，它甚至可能造出有自我意識的主體來。但現(xiàn)在的計算機，即圖靈機或馮諾依曼機，不可能造出有自我意識的主體。這種計算機的基本原理和算盤是一樣的，如果算盤不會有自我意識，那么電腦再大、再多也不會 有。

前面提到，“阿爾法狗” 再厲害，連最起碼的“假裝”都不會。計算機是不會假裝的，會“假裝”這個能力，是人特有的，有自我意識才能假裝。會裝，要有分裂的東西：一個是客體，一個是主 體。

我們現(xiàn)在造計算機，不管多強大，還只是造工具，不是造人。以前的機器只是把我們從體力勞動中解放出來，現(xiàn)在的人工智能把我們從腦力勞動中解放出來。它不會征服我們，它沒有意志，但使用它的人有意志，有各種各樣的人，有些人的意志就是要征服別人，利用人工智能這個工具來奴役他人，這是很危險的，但這個危險來自人，而不是人工智能。如果有一小撮人偷偷用大數(shù)據(jù)跟蹤你，從而控制你，貶損你的尊嚴(yán)，以致你以為是自己想做什么，但其實是被他人控制了才想的。這并不是真正的人工智能征服人類，而是少數(shù)人征服大眾。這不是人工智能特有的問題，而是人類自己做的事情失控的結(jié) 果。

五、所謂“失控”

有本書叫《失控》，作者是凱文·凱利，主要觀點是人工智能其實并非新問題，而是原來問題的另一種表現(xiàn)方式。如果把它理解成從來沒有出現(xiàn)過、突然爆發(fā)出來的一個東西，這種理解是錯 的。

失控也不是從來就有的事情。有人覺得制造出強人工智能、有自我意識的機器，我們就倒霉了。如果真的用量子力學(xué)的方式造出來這樣的機器人，它超過了我們，甚至征服了我們，那又怎樣？它是我們造出來的，有獨立的人格，只不過不是不用原來的繁衍后代的方法，所以，不妨把它當(dāng)作我們的孩子——而且是會超越我們的。后代把前輩給打敗，一代征服另一代，這樣的事情以前發(fā)生過無數(shù)次，沒有什么可怕 的。

這個觀點也許是太“毀三觀”了，硬說機器人是我們的孩子。是不是孩子，不是看它是怎么生出來的，主要是看它有沒有獨立自我、獨立的自由意志，是不是我們有意讓它在這世上出現(xiàn)的。如果是你有意讓它出現(xiàn)，而且它有獨立意志，它就相當(dāng)于你的后代。現(xiàn)在有很多生育方式，比如說試管嬰兒，那不也是我們自己的孩子嗎？所以，根本不存在所謂的機器人征服人 類。

總結(jié)起來有兩種可能：第一種，人工智能是工具，我們錯誤地以為被它征服，其實是其他人在控制，用它作為工具把我們征服了，并非真的機器人征服人類；第二種，以量子力學(xué)為基礎(chǔ)的機器人可能有獨立自我意識，那也不是什么征服，而是后代征服前輩。所以，沒有什么顛覆性的事，說“失控”有點夸張，以為之前從來沒有失控而現(xiàn)在要失控了的有兩種人，一種是計算機學(xué)家，一種是哲學(xué)家——前者理解技術(shù)性的人工智能，后者（包括我自己）認(rèn)為，現(xiàn)在人工智能的一些所謂顛覆性都是由誤解造成 的。

六、虛擬現(xiàn)實與擴(kuò)展現(xiàn)實：無縫穿越

現(xiàn)在講講虛擬現(xiàn)實（VR）。我在二十年前寫了本書——Get Real: A Philosophical Adventure in Virtual Reality（中文版書名：《有無之間：虛擬實在的哲學(xué)探險》），這本哲學(xué)書里還有我設(shè)計的頭盔。愛因斯坦說，他設(shè)想自己和光跑得一樣快會發(fā)生什么——這叫“思想實驗”。我這本書有很多思想實驗，有的后來變成了專利。我還排了個時間表，把技術(shù)迭代的順序以時間先后序列的方式表述出來。二十多年過去了，現(xiàn)實的進(jìn)程基本能對上。我現(xiàn)在還有實驗室，叫人機互聯(lián)實驗室。我現(xiàn)在之所以轉(zhuǎn)而講虛擬現(xiàn)實，其實是要將它與人工智能對比一下，看看哪個更有顛覆性——我認(rèn)為是虛擬現(xiàn)實，而不是人工智能。前面提到，所謂人工智能的顛覆性都是誤解造成的，弱人工智能被認(rèn)為有很大顛覆性，仔細(xì)看來其實沒什么，所涉及的問題都是老問 題。

我的人機互聯(lián)實驗室主要涉及的是虛擬現(xiàn)實，而不是人工智能。實驗室是可以體驗的。進(jìn)去有一輛車，它不是虛擬的，戴上頭盔（改裝過的駕駛頭盔）之前和之后都能看到。車上只有兩個座位，一個是駕駛員，一個是副駕。在上車之前戴上頭盔，戴上去以后看到的還都是現(xiàn)場，與沒戴之前一樣是現(xiàn)實世界，而不是虛擬世界。兩個人上車，一個人開，開了一會兒發(fā)現(xiàn)：這場景不是實驗室外的走廊嗎？車竟然開出來了，這是哪兒？一個陌生的場景，明顯是假的。但是，什么時候從真變假了？不知道，誰也沒法知道！路上迎面騎來一輛自行車，車上的人正跟我打招呼，這聲音好耳熟，是與我同行來實驗室的朋友。他在哪兒？這是他正在騎的車嗎？幾番聊天之后，我們揮手告別，繼續(xù)各自的旅程。穿過隧道，來到了長安街，從天安門城樓前駛過的那一瞬，真忍不住想問一問身邊的司機其中玄妙，但他的笑容告訴我他并不想劇透。來到了北京，這不可能是真的。這明明就是從現(xiàn)實景象過渡到虛擬場景了，但是在什么時候過渡的 呢？

滿心疑惑之時，一個科幻電影般的情節(jié)把我?guī)У搅薝FO 上，司機讓我下車，此時的我伸出一條腿小心的試探，確定能夠著陸后，小心翼翼地走下了車，緩緩四處走動時，我在一面鏡子中看到了自己；正當(dāng)驚異之時，又不小心的觸碰開啟了一系列機關(guān)，飛船頂艙打開，瞬間置身燦爛星河之中……意猶未盡之時，我們被扔回“現(xiàn)實”。這不是中山大學(xué)的南校門嗎？車從門口駛?cè)?，道路兩旁的大樹微風(fēng)搖曳，伴隨著陣陣鳥叫聲。這是回來了嗎？這不是實驗室所在的錫昌堂的一樓嗎？這不是我們來訪前經(jīng)過一樓看到的保安大哥嗎？他現(xiàn)在正在與別人聊天？這一切都是實時發(fā)生的？我明明在六樓實驗室，為何來到了一樓？此時，我的疑惑越來越深……“滴”的一聲，體驗空間的大門打開，同行者在門外向我揮手，歡迎我回來。我摘下頭盔正要向他們分享奇妙經(jīng)歷時，他們?nèi)缟系垡话阒獣悦恳粋€情節(jié)……他們也不知道從假變真的過程是什么時候開始的。不知道，不是因為蠢笨，而是場景本身沒有跡象讓人判斷。我自己坐上去體驗的時候，我也不知道，盡管技術(shù)是我設(shè)計的，內(nèi)容是施工公司做的。這個過程就這樣完成了，無縫連接。這樣，進(jìn)來時從實到虛的過渡是無縫的，出來時從虛到實的過渡也是無縫的。這就叫虛實之間的無縫穿越體 驗。

七、物聯(lián)網(wǎng)與阿凡達(dá)

上述無縫穿越的過渡是怎么處理的？我采用的是削足適履法：先讓現(xiàn)實看上去有點像造出來的，但還不至于會因為這個覺得它假。你還是你，但是有點顆粒感，你能說它是假的嗎？所以，不需要很高的科技，也不需要很高的分辨率。比如說，這里有點延遲，我們剩下的虛擬內(nèi)容也有一點點延遲。這樣兩邊接起來就行了，進(jìn)去出來都是這樣。這里是用逆向思維把它做出來 的。

所以，至少在視聽方面，現(xiàn)實世界和虛擬世界的界限可以抹掉?，F(xiàn)在還不是未來，我們科幻的未來技術(shù)還沒用上，用現(xiàn)在粗淺的技術(shù)，我一個人就可以做到無縫連接。這個虛擬現(xiàn)實不是一般的3D，而是要不斷刷新，它計算能力要足夠強。你這么動了以后，它知道你動了，才重新刷新，而在你看來這是同時發(fā)生的，這樣你就可以自己的頭在轉(zhuǎn)卻讓世界保持固定不動。這不是你的錯覺，而是它本來就那樣。這就是虛擬現(xiàn)實的第一步——動作捕捉。那個3D 放映機其實一點都不神奇，任何兩個投影機一擺，有兩副看電影的眼鏡，一副給放映鏡頭，一副給自己戴，就是3D了。拍攝的時候，兩個視角要同時拍；放的時候，那邊看投影就是3D 了。眼鏡的作用是讓你左眼只看到左邊的東西，右眼只看到右邊的東西，摘下來兩個都看到了，是疊在一起的，就沒有3D 效果。頭盔的道理一樣，不過有什么優(yōu)勢呢？它讓這邊只看到這邊的，那邊只看到那邊的。明白了3D 成像的原理，我們知道可以有各種辦法來實現(xiàn)3D，所以虛擬現(xiàn)實不一定和眼鏡有關(guān)系，也不一定與頭盔有關(guān)。所以虛擬現(xiàn)實不單單是轉(zhuǎn)動時可以實現(xiàn)，而且在虛擬的那個世界里，我還可以徑直走進(jìn)去，離開，往前走，繞過去，看看你的頭發(fā)、你的耳朵，看看那位老先生，頭發(fā)會不會是白的……這和3D 電影不一樣，在虛擬現(xiàn)實里你能看到，還能走過去，而且可以相互作用。這是根據(jù)物理學(xué)規(guī)律臨時計算出來的效果。會不會再重復(fù)一次呢？不會，那是計算出來的。虛擬現(xiàn)實里的場景，是過去從來都沒發(fā)生過、將來也不會再次發(fā)生的獨一無二的場景。我們在實驗室還做了一件事，做了一個新的虛擬現(xiàn)實加遙距操作的設(shè)置，這就是ER——擴(kuò)展現(xiàn) 實。

物聯(lián)網(wǎng)對于物（主要是人造物）是什么狀態(tài)、在什么位置等在互聯(lián)網(wǎng)里全都知道。知道以后，人們并不要跑到物體跟前去操作，而是在任何地方都可以操作它。如果說物聯(lián)網(wǎng)要操作，用鼠標(biāo)鍵盤就可以了，而且現(xiàn)在已經(jīng)用圖像了。有了虛擬現(xiàn)實，我們甚至可以在其中直接開動火車。這就像電影《阿凡達(dá)》里的替身，——在潘多拉星球真正干活的、談戀愛的，都是替身在做。用這種虛擬現(xiàn)實來干活，不需要出門，也不需要摘下眼鏡。因為有了替身（暫且就叫它“人體替”），我們現(xiàn)在把整個系統(tǒng)換了個名字——ER，就是體驗加操控的擴(kuò)展現(xiàn)實。它的顛覆性會怎么樣？比起人工智能 呢？

八、《我的世界》及我的假想時間表：擴(kuò)展現(xiàn)實更具顛覆性

戴著頭盔的這個世界，可以把現(xiàn)實世界的生活工作全都搬到計算機里。制造游戲《我的世界》的那個公司是被微軟收購了，而那個世界里的景物大多是由用戶創(chuàng)造的。我女兒只知道這個游戲好玩，創(chuàng)造的興致好像是無窮的，建了以后不滿意，毀掉重建；她在游戲里造怪獸，但控制不住，把房子建在大玻璃罩上，把窗戶建得高高，怪獸進(jìn)不來……她說：“這樣就安全了”——你以為是在玩，她可是當(dāng)真，她很害 怕。

我們成年人現(xiàn)在玩手機不也是這樣，刷朋友圈，沉浸在里邊，現(xiàn)實中的人算什么，有的全在微信里，那才是真正的朋友。但在微信里我們是會被控制的，所以我們要預(yù)先注入鮮活的人文理性，不要讓有的野心家控制我們每個人，一定要阻止它發(fā)生。還有，為了控制我們的感受，有少數(shù)野心家也許要控制物聯(lián)網(wǎng)，直接控制人們的神經(jīng)，刺激人干活。這樣的事情都很危險！搞好了，人類會有一個大進(jìn)化、大跳躍；搞不好，我們的意識就被抹去，那就是人類的末 日。

我在二十年前的假想時間表里，預(yù)測了哪年會發(fā)生什么，基本上都對上了。我說2008 年鼠標(biāo)鍵盤會消失——那年沒有鼠標(biāo)鍵盤的iPad 出現(xiàn)了；我說2015 年人造皮膚要出現(xiàn)，通過觸覺系統(tǒng)會直接把你的動作捕捉到電腦里去，同時可以反向刺激你產(chǎn)生觸覺——2015 年，斯坦福大學(xué)、清華大學(xué)同時宣布，他們造出來了。有人說，新技術(shù)出來要有一個“殺手級”應(yīng)用才能讓它迅速發(fā)展和普及。但是虛擬現(xiàn)實是不用的，它代替了所有屏幕，這個現(xiàn)實是3D 的。遙距操作現(xiàn)在已在應(yīng)用，而且應(yīng)用得很好。我們國家的醫(yī)院買了幾十套設(shè)備，叫達(dá)·芬奇系統(tǒng)，動手術(shù)用的。一個醫(yī)生戴上以后，感覺自己手上戴著傳感器，看著虛擬的器官，手上拿著手術(shù)刀對著它動手術(shù)，遠(yuǎn)處有個跟你做一模一樣的動作的機器手，兩個機器手插進(jìn)去一起成像，插到真的要動手術(shù)的器 官。

現(xiàn)在，中山大學(xué)的醫(yī)院里剛有了一套達(dá)·芬奇系統(tǒng)，動手術(shù)這么復(fù)雜的事情都能做出來，其他東西不行嗎？所有的全都能搞定——把衛(wèi)星送上天，用炸彈拆除建筑……這些都能通過物聯(lián)網(wǎng)使用機器人。有人說你怎么那么大膽，敢預(yù)言那么多年，現(xiàn)在全世界也沒其他人這么說虛擬現(xiàn)實與物聯(lián)網(wǎng)要結(jié)合在一起，你怎么說它會結(jié)合在一起呢？在我看來，反而說它不會結(jié)合在一起的人膽子夠大。這個預(yù)言其實是正在發(fā)生的事情。大家想想，虛擬現(xiàn)實是不是比人工智能更有顛覆 性？