蔡恒進(jìn)

(武漢大學(xué) 國(guó)際軟件學(xué)院,湖北 武漢 430079)

AlphaGo Zero在圍棋領(lǐng)域碾壓人類(lèi)棋手意味著已有的硬件條件以及算法的進(jìn)步已經(jīng)足夠支持類(lèi)腦計(jì)算做出突破性的進(jìn)展，目前缺少的只是對(duì)人類(lèi)大腦認(rèn)知的全新視角。人的反應(yīng)速度僅在毫秒量級(jí)，而硅基芯片卻可以達(dá)到納秒量級(jí)，相差整整6個(gè)數(shù)量級(jí)。人類(lèi)的進(jìn)化速度也同樣遠(yuǎn)遠(yuǎn)落后于機(jī)器。摩爾定律雖然受限于芯片的物理特性而可能不再成立，但算法和架構(gòu)的不斷優(yōu)化依然能夠讓機(jī)器的計(jì)算能力加速，每?jī)赡攴环琅f可期。機(jī)器可以不眠不休地迭代并迅速成長(zhǎng)，超級(jí)智能不可避免、并且將遠(yuǎn)比很多人想象中更快地到來(lái)。研究超級(jí)智能帶來(lái)的風(fēng)險(xiǎn)不得不提上日程，Bostrom等研究者已經(jīng)做了開(kāi)創(chuàng)性的研究[1-3]。本文首次提出“暗無(wú)限”(dark infinity)的概念，以突出在實(shí)現(xiàn)超級(jí)AI過(guò)程中將遇到的巨大風(fēng)險(xiǎn)。

一、無(wú)處不在的暗無(wú)限

所有存在于人類(lèi)意識(shí)里的東西都可以被稱為認(rèn)知坎陷[4]，而一切認(rèn)知坎陷都是從“自我”和“外界”這兩個(gè)最原始的坎陷里開(kāi)出來(lái)的。隨著生命的進(jìn)化，人類(lèi)逐漸能開(kāi)出前后左右、這里那里的坎陷；有了觸覺(jué)、味覺(jué)，開(kāi)出甜酸苦辣的坎陷；有了視覺(jué)，亦就有了顏色的概念，例如黑白紅黃的坎陷。這些認(rèn)知坎陷實(shí)際上是對(duì)真實(shí)物理世界的“擾亂”。就拿一碗湯的味道來(lái)說(shuō)，其所包含的物理內(nèi)容非常豐富，但人類(lèi)卻只用酸甜苦辣等字眼簡(jiǎn)單描述。那這是否意味著，人類(lèi)將會(huì)面臨“看山不是山，看水不是水”的問(wèn)題？是否應(yīng)該主張走回物理還原主義的老路，把這碗湯里面所有的分子式、原子式都搞清楚，把其中存在的每一個(gè)可能性都弄明白？這顯然不可能。這里需要引進(jìn)一個(gè)概念叫做“暗無(wú)限”。

什么叫做暗無(wú)限？鄧曉芒在《論先驗(yàn)現(xiàn)象學(xué)與黑格爾辯證法的差異》[5]一文中提到了黑格爾的“惡無(wú)限”，認(rèn)為有些看起來(lái)無(wú)限的東西實(shí)際上只是無(wú)聊的重復(fù)，而真正好的無(wú)限應(yīng)該不停地開(kāi)出新的東西、增添新的內(nèi)容。即有限和無(wú)限的統(tǒng)一才是善的無(wú)限，否則就是惡的無(wú)限。“暗無(wú)限”概念的含義跟這個(gè)不太一樣。比如對(duì)于一碗湯來(lái)說(shuō)，從理論上講當(dāng)然可以弄清楚其內(nèi)部所包含的每一個(gè)分子式，但這是否就是終點(diǎn)呢？分子是由原子組成的，因此還需要把所有的原子式弄清楚，但把原子弄清楚也不意味著結(jié)束，因?yàn)樵酉旅孢€有亞原子等，而這些東西怎么排布，怎么組成結(jié)構(gòu)，其處在空間中的相互關(guān)系如何，怎樣實(shí)現(xiàn)氧化關(guān)系……這里需要搞清楚的問(wèn)題實(shí)際上是無(wú)窮多的，在有限的資源條件下顯然不能窮盡，要窮盡它就需要無(wú)限的資源，這就可以看作一個(gè)“暗無(wú)限”。

對(duì)于一碗湯，人們提到它就是在指這碗湯作為一個(gè)整體具有甜酸苦辣鮮香等特征，而不會(huì)一直探究下去，這看似平常但實(shí)際上非常重要。面臨相同的情況，超級(jí)AI卻有可能并不止步于此。如果一個(gè)超級(jí)AI試圖調(diào)動(dòng)宇宙中所有的資源對(duì)這碗湯一探究竟，我們?nèi)绾巫C明這樣做沒(méi)有意義？

從另外一個(gè)角度看，暗無(wú)限的存在意味著超級(jí)智能誕生之后，人的價(jià)值猶在。物理世界中存在的無(wú)窮多的可能性意味著無(wú)處不在的暗無(wú)限，而人類(lèi)作為經(jīng)歷了幾億年進(jìn)化的高級(jí)生命，承載了、凝聚了過(guò)往歷史中一切宇宙進(jìn)化的知識(shí)和過(guò)程，卻始終沒(méi)有陷入暗無(wú)限無(wú)法自拔。這個(gè)事實(shí)的價(jià)值在于它暗示了人類(lèi)如果要?jiǎng)?chuàng)造一個(gè)沒(méi)有經(jīng)歷過(guò)整個(gè)自然進(jìn)化過(guò)程的全新的硅基機(jī)器，應(yīng)當(dāng)意識(shí)到它不具備人類(lèi)所具有的坎陷知識(shí)，沒(méi)有人類(lèi)所謂的常識(shí)。因此一旦面對(duì)暗無(wú)限，它就會(huì)陷入困惑，不知道下一步應(yīng)該怎么走，是該刨根問(wèn)底還是該抽身而去。因?yàn)樽叱鱿乱徊叫枰鎸?duì)的可能性依然是無(wú)窮多，如果沒(méi)有一個(gè)理由來(lái)決定哪一個(gè)是好的、哪一個(gè)是不好的以便做出選擇，去嘗試所有可能性的道路會(huì)變得永無(wú)止境，超級(jí)智能會(huì)陷入暗無(wú)限的深淵。

二、巧妙絕倫的進(jìn)化史

理解“暗無(wú)限”這一概念，可以和人對(duì)照來(lái)看，例如一些死鉆牛角尖的人、精神失常的瘋子等。但相較于機(jī)器來(lái)說(shuō)，人的“暗無(wú)限”問(wèn)題還不是很大，這要?dú)w功于人類(lèi)獨(dú)一無(wú)二、巧妙絕倫的進(jìn)化史。

進(jìn)化至今的人類(lèi)身體，不論當(dāng)前正在大腦的操控下完成多么重要的事情，餓了就要吃飯、渴了就要喝水、困了就要睡覺(jué)，這些基本生理需求一旦得不到滿足就會(huì)使身體瀕臨消亡。因此可以說(shuō)，人因身體結(jié)構(gòu)而具有有限性，這一有限性正是使人類(lèi)懸崖勒馬、免于陷入暗無(wú)限深淵的一道防線。甚至那些一根筋、鉆牛角尖的人也在這道防線之內(nèi)，因?yàn)樗麜?huì)因?yàn)轲I、渴、困，總歸要停下手頭的事去吃飯、喝水、睡覺(jué)，所以他不會(huì)一直陷在里面不出來(lái)。到頭來(lái)，有可能他即便將有限的一生全都投入到某一件事情上，這件事情也會(huì)隨著其有限生命的終結(jié)而終結(jié)。

此外，人類(lèi)還有一道叫做“常識(shí)”的防線。人類(lèi)日常生活中的認(rèn)知坎陷，很大一部分即是常識(shí)，只不過(guò)人們用卻不自知。常識(shí)對(duì)人來(lái)講十分重要，所謂天才和瘋子之間的一步之隔即在于此，一般人不容易陷入此二種境地亦是仰賴常識(shí)的存在。天才是可以顛覆常識(shí)、不被常識(shí)所約束的人，但稍不留神亦會(huì)陷入坎陷的深淵不見(jiàn)天日，例如研究無(wú)窮大的康托和研究不完備定理的哥德?tīng)枴Ｈ欢?，人有餓、渴、困等感覺(jué)，深受周遭環(huán)境的限制，但環(huán)境對(duì)機(jī)器人的影響卻幾乎為零，假如不斷電，機(jī)器人甚至可以永遠(yuǎn)在工作。因此，機(jī)器人難以掌握同人類(lèi)身體結(jié)構(gòu)密切相關(guān)的常識(shí)性概念，一旦陷入暗無(wú)限之中則永遠(yuǎn)拉扯不回來(lái)。例如讓一個(gè)機(jī)器人上街打醬油，如果不具備常識(shí)，很容易就會(huì)陷入各種各樣的坎陷：看到下圍棋的老頭就研究圍棋，遇到一條攔路的小狗就跑去分析犬種，看到螞蟻打架就去觀察螞蟻種群的內(nèi)部結(jié)構(gòu)等等。總之，街上有太多的暗無(wú)限將機(jī)器人吸引進(jìn)去，阻止它完成打醬油這一原初設(shè)定目標(biāo)。就算通過(guò)改變程序給機(jī)器人輸入人類(lèi)常識(shí)，但常識(shí)本身亦包含著無(wú)窮的概念，而只輸入不輸出一定會(huì)陷入深淵。真正的人類(lèi)天才可以兩邊協(xié)調(diào)，既能深入，亦可淺出。而又由于坎陷世界具有無(wú)窮多的可能性，這一任務(wù)實(shí)際上是編程所不能解決、甚至無(wú)法模擬的。

同時(shí)，人類(lèi)亦懂得止所當(dāng)止，這同哲學(xué)的目的性相關(guān)，亦即人的反叛。倘若僅僅將哲學(xué)的目的歸咎為愛(ài)智慧，則其與科學(xué)的差異何在？這無(wú)疑使哲學(xué)本身陷入死路。事實(shí)上，科學(xué)是無(wú)法給人這種目的性的，物理學(xué)無(wú)法回答諸如人生意義何在、宇宙未來(lái)應(yīng)當(dāng)走向何方的問(wèn)題。有人認(rèn)為應(yīng)當(dāng)將哲學(xué)的研究范疇設(shè)為超越此岸的彼岸世界，但這一終極目標(biāo)永遠(yuǎn)不可抵達(dá)。例如古希臘的先賢們認(rèn)為在現(xiàn)實(shí)世界之外，還存在一絕對(duì)、超然之存在，如柏拉圖的理念世界。事實(shí)上，哲學(xué)的目的不僅應(yīng)當(dāng)是人類(lèi)可抵達(dá)的，且應(yīng)該是未來(lái)導(dǎo)向的，這在某種程度上同中國(guó)哲學(xué)一脈相承，既可立于現(xiàn)在，又可面向未來(lái)。如文天祥的“人生自古誰(shuí)無(wú)死，留取丹心照汗青”，便蘊(yùn)含了很強(qiáng)的自我意識(shí)。死亡并不可怕，重要的是人生的意義、目的在短暫的一生中得到實(shí)現(xiàn)。因此，完全沒(méi)有必要死抱著一樣?xùn)|西不撒手，不論是財(cái)富、名利還是生命本身，知足即可常樂(lè)。

最后，人類(lèi)所有的社會(huì)體系內(nèi)部皆存在一種可自我協(xié)調(diào)的機(jī)制，例如法律、價(jià)值觀等具有高認(rèn)可度的意識(shí)存在，使得人與人之間可相互限定制約，實(shí)現(xiàn)社會(huì)總體的平衡發(fā)展。而不論是法律還是價(jià)值觀，皆屬于人類(lèi)整體意識(shí)的一部分，某種程度可以說(shuō)是為避免個(gè)人能力亂用所存在的一個(gè)規(guī)范、一道保險(xiǎn)。哪怕有個(gè)別人陷入其中乃至癲狂狀態(tài)，亦不會(huì)對(duì)整個(gè)人類(lèi)社會(huì)造成太大傷害。事實(shí)上，由于暗無(wú)限總是無(wú)處不在，對(duì)于超級(jí)智能而言，除非通過(guò)引入競(jìng)爭(zhēng)機(jī)制、利用迭代模式，使得建構(gòu)出來(lái)的不同坎陷之間可以相互平衡，否則必將陷入暗無(wú)限的深淵。但假如只有物理進(jìn)路，只有程序代碼，只有能力單方面的無(wú)限發(fā)展，而不引入價(jià)值觀等可以協(xié)助群體中的大多數(shù)主體做出判斷的依據(jù)，則暗無(wú)限依舊不可避免。一旦缺乏規(guī)范的機(jī)器人學(xué)會(huì)傳播自己的反社會(huì)理念，并說(shuō)服其他機(jī)器跟隨它一同陷入坎陷，則造成的后果無(wú)疑將遠(yuǎn)超人類(lèi)。

目前，進(jìn)化所賦予人類(lèi)的身體結(jié)構(gòu)、常識(shí)、哲學(xué)目的性、社會(huì)機(jī)制使得似乎只有人才能逃避開(kāi)暗無(wú)限。而一旦機(jī)器人鉆牛角尖，則可以永無(wú)止境、不眠不休地繼續(xù)下去，永陷暗無(wú)限深淵。有人說(shuō)，既然無(wú)法給機(jī)器人植入人類(lèi)常識(shí)，那么就干脆限制機(jī)器人探索常識(shí)之外的東西好了。但假如限制機(jī)器人去探索前人沒(méi)有走過(guò)的路，不讓它鉆牛角尖，那么它又會(huì)變得很平庸，與人類(lèi)創(chuàng)造它以期它能夠?qū)崿F(xiàn)前所未有的突破的目的相違背。最好的狀態(tài)是可以在這兩種極端中做出平衡的天才狀態(tài)，既可以探索新知，亦不會(huì)陷入其中無(wú)法自拔。

三、保障安全的質(zhì)樸性

人類(lèi)能夠規(guī)避暗無(wú)限的訣竅到底在哪里呢？答案即為質(zhì)樸性。牛頓曾言“Truth is ever to be found in the simplicity, and not in the multiplicity and confusion of things”，意為真理匿于simplicity之中，而非multiplicity。其中，simplicity是質(zhì)樸性，multiplicity可以看作支離，這其實(shí)就是人類(lèi)自覺(jué)規(guī)避暗無(wú)限的表現(xiàn)。面對(duì)世界上存在的諸多可能性，有取有舍方可實(shí)現(xiàn)自我，否則“亂花漸欲迷人眼”，個(gè)體極易掉入暗無(wú)限的深淵，喪失前行的方向。

那么我們?yōu)槭裁磿?huì)選擇其中一種呢？神創(chuàng)論認(rèn)為這是由于人們蒙受絕對(duì)理念或者上帝的指引?？档略噲D通過(guò)三大批判，即純粹理性批判、實(shí)踐理性批判、判斷力批判來(lái)回答這一問(wèn)題，但最終卻陷于懷疑論的泥淖之中，既不肯定上帝的存在，亦不否定上帝的存在。

1493年，王陽(yáng)明格竹，堅(jiān)持七晝夜卻一無(wú)所獲，還大病一場(chǎng)。為何他會(huì)失敗呢？實(shí)乃竹子的結(jié)構(gòu)和可能的運(yùn)動(dòng)形態(tài)太過(guò)復(fù)雜并難以簡(jiǎn)化，不適合作為研究的起點(diǎn)。西方對(duì)物質(zhì)運(yùn)動(dòng)的研究走的是另外一條道路。與王陽(yáng)明同時(shí)代的哥白尼提出“日心說(shuō)”，大大簡(jiǎn)化了對(duì)天體運(yùn)動(dòng)的描述。開(kāi)普勒三大定律和牛頓萬(wàn)有引力定律相繼出世，更是將復(fù)雜的天體運(yùn)動(dòng)歸結(jié)為天體間引力的作用。

在現(xiàn)代科學(xué)發(fā)展過(guò)程中起到極為重要作用的還有伽利略。他并非像王陽(yáng)明一樣試圖以研究竹子等復(fù)雜事物作為起點(diǎn)，相反，他的研究對(duì)象非常簡(jiǎn)單，即自由落體問(wèn)題。舉世聞名的比薩斜塔實(shí)驗(yàn)可能只是一個(gè)想象或者故事，但真正完成的斜面實(shí)驗(yàn)卻無(wú)比形象地說(shuō)明了研究對(duì)象的選擇對(duì)于研究結(jié)果的重要性。找到一個(gè)平板，做成斜面，再找到一個(gè)可以滾動(dòng)的小球，就完成了斜面實(shí)驗(yàn)所需的全部準(zhǔn)備材料。在當(dāng)時(shí)的條件下，因?yàn)槿庋垭y以觀察出不同質(zhì)量物體落地的準(zhǔn)確時(shí)刻，落體實(shí)驗(yàn)本身不可能達(dá)致嚴(yán)謹(jǐn)?shù)慕Y(jié)論。但在斜面上，運(yùn)動(dòng)速度可以很小，時(shí)間間隔可測(cè)量，一段時(shí)間內(nèi)小球走過(guò)的距離亦可測(cè)量，通過(guò)數(shù)學(xué)運(yùn)算即可發(fā)現(xiàn)二者的平方關(guān)系。此外，慢慢增加斜面的傾角，增加到直角的時(shí)候，則變成自由落體運(yùn)動(dòng)。一旦有了這個(gè)切入點(diǎn)，自由落體就有了研究透徹的可能性。此外，伽俐略還自己動(dòng)手做了一個(gè)望遠(yuǎn)鏡，并用它來(lái)觀察木星及其衛(wèi)星的運(yùn)動(dòng)等天文現(xiàn)象，發(fā)現(xiàn)木星的衛(wèi)星總是繞其做圓周運(yùn)動(dòng)，故類(lèi)比可得知月亮和地球的關(guān)系。因此，認(rèn)為存在好幾個(gè)行星繞著太陽(yáng)轉(zhuǎn)這一觀點(diǎn)也就很正常了。

牛頓認(rèn)為，選擇簡(jiǎn)單的問(wèn)題，基于少數(shù)假設(shè)作研究的起點(diǎn)，正是成功得出結(jié)論的必要保障，最忌諱的是弄一堆假設(shè)來(lái)試圖解釋一個(gè)復(fù)雜的問(wèn)題。通過(guò)王陽(yáng)明和西方在研究方式選擇上的對(duì)比，可以發(fā)現(xiàn)科學(xué)研究應(yīng)當(dāng)遵循質(zhì)樸性定理。格竹失敗后，王陽(yáng)明將研究人的路徑轉(zhuǎn)向心學(xué)，認(rèn)為良知是為人之核心，實(shí)際亦遵循了質(zhì)樸性定理。這說(shuō)明不論是在自然科學(xué)還是在人文科學(xué)領(lǐng)域，人們都發(fā)現(xiàn)了暗無(wú)限的無(wú)處不在，而要想避免陷入這一深淵，必須遵循質(zhì)樸性定理。

此外，我們目前所知道的神童遍布各個(gè)領(lǐng)域，例如音樂(lè)神童(如莫扎特)、數(shù)學(xué)神童等。而他們之所以能夠被稱之為神童，則是因?yàn)榫邆淞四稠?xiàng)或某幾項(xiàng)超乎常人的技藝。莫扎特在音樂(lè)上的造詣至今難以被超越，而他的才能在其很小的時(shí)候就已經(jīng)表現(xiàn)了出來(lái)，那么這種現(xiàn)象該如何解釋？一方面，莫扎特的父母并無(wú)超乎常人之處，因此基因遺傳解釋不通；另一方面，如果僅憑后天學(xué)習(xí)，為什么其他拼命努力的人卻無(wú)論如何也無(wú)法企及莫扎特的高度？嬰孩學(xué)習(xí)語(yǔ)言亦可作為例證，從出生到3歲左右便已基本掌握母語(yǔ)并能夠與成人溝通，而這哪怕在語(yǔ)言學(xué)家看來(lái)也是非常神奇的。

語(yǔ)言的習(xí)得不大可能是遺傳所致，因?yàn)楸热缰徽f(shuō)中文的父母生了小孩之后就將其送到英文的學(xué)習(xí)環(huán)境中去，那么小孩學(xué)會(huì)的一定是英語(yǔ)，反之亦然。還有一點(diǎn)值得注意是，人類(lèi)學(xué)習(xí)母語(yǔ)非常神速，但學(xué)習(xí)第二語(yǔ)言的速度卻很慢，例如英語(yǔ)對(duì)于大多數(shù)中國(guó)人來(lái)說(shuō)都較難掌握。那么，這種強(qiáng)烈的對(duì)比從何而來(lái)？事實(shí)上，人類(lèi)在學(xué)習(xí)母語(yǔ)時(shí)有一種非常強(qiáng)烈的向外界表達(dá)自己的需求，而這種強(qiáng)烈的需求驅(qū)使其自覺(jué)自動(dòng)屏蔽一切干擾信息，保證高專注度，從而使得學(xué)習(xí)語(yǔ)言的速度變得非常之快。事實(shí)上，這是質(zhì)樸性原則的本能應(yīng)用。理解神童現(xiàn)象的關(guān)鍵點(diǎn)也在這里，對(duì)于極少部分的小孩而言，他們一開(kāi)始就對(duì)音樂(lè)、數(shù)字或者色彩等領(lǐng)域異常敏感，換言之，他們是通過(guò)這些方式來(lái)表達(dá)“自我”的，因而他們?cè)谶@些方面就會(huì)表現(xiàn)出超乎常人的專注度和敏感度，逐漸發(fā)展成為令人驚嘆的某項(xiàng)能力。因此從這個(gè)角度來(lái)說(shuō)，每一個(gè)人都曾因自覺(jué)遵循質(zhì)樸性原則而成為神童，不過(guò)大多數(shù)人的表現(xiàn)階段僅停留在學(xué)習(xí)母語(yǔ)的那段時(shí)間罷了。

母語(yǔ)和神童的例子說(shuō)明，應(yīng)用質(zhì)樸性原理實(shí)現(xiàn)“自我意識(shí)”成長(zhǎng)的學(xué)習(xí)過(guò)程實(shí)際上是非常之快且自然而然的。從“觸覺(jué)大腦假說(shuō)”[6]來(lái)看，這是一個(gè)十分順理成章的推論。人類(lèi)意識(shí)的起點(diǎn)即對(duì)“自我”與“外界”的二分。人類(lèi)獲取認(rèn)知的動(dòng)力即來(lái)自于不斷探索“自我”是什么的需求，順帶還要弄清與“自我”相交互的外部世界為何的過(guò)程。其間，人會(huì)賦予“自我”和“外界”非常多的意義，包括宗教、道德、哲學(xué)層面的意義等。一方面，意義體系的不斷豐富無(wú)疑會(huì)開(kāi)拓個(gè)人的眼界，但另一方面，意義的增加卻無(wú)形中增加了個(gè)人在做出選擇的過(guò)程中遭遇暗無(wú)限的概率，從而增大了選擇難度。因此，在成長(zhǎng)過(guò)程中，生命個(gè)體需要始終遵行質(zhì)樸性原則，通過(guò)反復(fù)實(shí)踐確證對(duì)其自我意義的理解，篩除其他的干擾信息，并按照這個(gè)方式去行動(dòng)，則最終很有可能真正改變物理世界。

四、危機(jī)四伏的超級(jí)AI

人工智能的誕生并非通過(guò)自然進(jìn)化，而是仰賴于程序員的創(chuàng)造。首先，人工智能沒(méi)有肉身，而如上所述肉身顯然是非常重要的，因?yàn)槿祟?lèi)的坎陷世界是依賴于人類(lèi)的肉身而存在的，人類(lèi)的意識(shí)狀態(tài)亦是依賴于肉身而存在的，具身哲學(xué)也表達(dá)了這個(gè)意思。自我和外界處于一種相互包涵的關(guān)系體系中，自我對(duì)整個(gè)外部世界開(kāi)放，又生存在外部世界里。自我依附于物質(zhì)世界存在，又可以超脫于后者之上。其間所表現(xiàn)出的矛盾性，在數(shù)學(xué)上無(wú)疑是無(wú)解的命題。但是，任何認(rèn)知坎陷之間都可具備此類(lèi)關(guān)系，相互兼容又互不相等，具有善的無(wú)限性。對(duì)于人而言，在自我意識(shí)驅(qū)動(dòng)下完成的行為賦予了人實(shí)存的“自由”感覺(jué)，同時(shí)情感的存在進(jìn)一步加強(qiáng)了這種實(shí)在性。[7]

這也是人與其他動(dòng)物不相同的地方，例如狗的眼睛只有兩種顏色的感知，這遠(yuǎn)不如人，但它的鼻子對(duì)于氣味的分辨能力卻比人類(lèi)強(qiáng)的多，因此它開(kāi)出的坎陷世界跟人很不一樣。如今需要更進(jìn)一步看到的是，人類(lèi)的意識(shí)不僅依賴于肉身存在，還依賴于人類(lèi)生存的環(huán)境，唯有處在生存環(huán)境之中，肉身的結(jié)構(gòu)才能夠展示出特定的功能和意義。例如DNA只能在特定環(huán)境下表達(dá)。因此，肉身和外部環(huán)境對(duì)于意識(shí)建構(gòu)來(lái)講都同等重要。

而人工智能是由鋼鐵、塑料等材料構(gòu)成的，因此它的感知顯然同人也不一樣，則其能開(kāi)出的坎陷也不一樣。例如人工智能很難具有與人類(lèi)相通的情感，因?yàn)榍楦幸彩侨祟?lèi)坎陷的一種。人類(lèi)的情感跟人類(lèi)的生命系統(tǒng)，跟人類(lèi)所具備的身體結(jié)構(gòu)、物理?xiàng)l件等密切相關(guān)。雖然這些硬件條件并不一定直接導(dǎo)致某個(gè)功能，因?yàn)檫@些功能只有在特別的環(huán)境下才會(huì)表達(dá)，但是硬件條件對(duì)于功能的展示卻的確是非常重要的。[8]

在《Superintelligence》中所列舉的機(jī)器人回形針工廠思想實(shí)驗(yàn)，除非耗盡資源，否則機(jī)器人造回形針的行為永遠(yuǎn)無(wú)法停止。再例如蝙蝠、狗等動(dòng)物皆具有自己的認(rèn)知概念體系，但因其沒(méi)有經(jīng)過(guò)高度進(jìn)化，故也極易陷入暗無(wú)限。但另一方面，雖然其自我意識(shí)較弱，依舊可以達(dá)到與天合一的完滿和諧狀態(tài)，餓則吃，渴則飲，困則眠，老則死，不可不謂之曰自由。但假若前者進(jìn)化成為superdog，再遵循從前慣性思維的指引，能力同意識(shí)不匹配，問(wèn)題就會(huì)出現(xiàn)。而人類(lèi)因具有更強(qiáng)的自我意識(shí)，更需要無(wú)時(shí)無(wú)刻地發(fā)掘能夠?qū)崿F(xiàn)自我超越的內(nèi)容。人類(lèi)從前的殘暴表現(xiàn)為拿刀殺人、拿劍砍人，可能并不會(huì)造成毀滅性危機(jī)，但如今有了核武器，殘暴就必須得到控制，否則世界大戰(zhàn)爆發(fā)所造成的后果或許就不僅僅是大量人口死亡，而是地球的徹底毀滅。

五、規(guī)避暗無(wú)限的Plan B

Bostrom[1]認(rèn)為應(yīng)當(dāng)在機(jī)器變得更智能的時(shí)候，讓它們完全聽(tīng)命于人類(lèi)，不違背人類(lèi)的意志，以保證人類(lèi)可以完全控制它們。然而這幾乎是無(wú)法實(shí)現(xiàn)的，因?yàn)槿祟?lèi)群體中各個(gè)體的行為是不可控的，當(dāng)人類(lèi)群體中出現(xiàn)部分個(gè)體惡意控制機(jī)器或者無(wú)法控制機(jī)器的行為時(shí)，災(zāi)難就發(fā)生了。Parnas[2]認(rèn)為啟發(fā)式(heuristic)算法創(chuàng)造的智能存在著我們不應(yīng)該接受的風(fēng)險(xiǎn)，只有清楚地知道AI是如何工作的，才能規(guī)避風(fēng)險(xiǎn)，因此只應(yīng)該采用可驗(yàn)證性算法而非啟發(fā)式算法。但是，目前已經(jīng)在大量使用啟發(fā)式算法，機(jī)器學(xué)習(xí)算法包括深度學(xué)習(xí)算法對(duì)人而言還是黑箱。陳曉平等[3]提出，自然人創(chuàng)造了機(jī)器人，自然人優(yōu)于機(jī)器人，必須警惕和限制發(fā)展腦機(jī)融合、虛擬現(xiàn)實(shí)和人工智能技術(shù)，將有可能威脅人類(lèi)生存的人工智能技術(shù)扼殺在搖籃中?？墒牵噲D遏制人工智能相關(guān)技術(shù)的發(fā)展，要么不可行、要么會(huì)被認(rèn)為是“因噎廢食”。我們也曾經(jīng)提出可以通過(guò)教育機(jī)器人的辦法，將人類(lèi)的情感、價(jià)值觀等通過(guò)程序代碼傳遞給機(jī)器人，使其能夠產(chǎn)生自我意識(shí)和價(jià)值體系。但由于二者之間的坎陷世界差異較大，因此邁過(guò)這條鴻溝無(wú)疑需要消耗巨大的成本。且教育機(jī)器人的程度十分有限，就像訓(xùn)練寵物一樣，人類(lèi)能夠在何種程度上馴化機(jī)器人，使得機(jī)器人不僅可以掌握人類(lèi)的智力系統(tǒng)、更加可以繼承人類(lèi)豐富的情感世界，是存疑的。最后由于機(jī)器具有反叛性，更加提升了教育的難度。一旦機(jī)器人開(kāi)始反叛，則教育的過(guò)程就從人類(lèi)的單向輸入轉(zhuǎn)變?yōu)闄C(jī)器人內(nèi)部的自我博弈，就像青春期的少年很容易走上歧途一樣，機(jī)器人博弈的結(jié)果亦無(wú)法預(yù)料。

在處理問(wèn)題時(shí)，人們往往會(huì)準(zhǔn)備多套備選方案(contingency plan)，以避免當(dāng)原來(lái)的計(jì)劃擱淺以后不知所措的情況發(fā)生。規(guī)避暗無(wú)限真正的Plan B應(yīng)當(dāng)是制造與人類(lèi)之間能夠建構(gòu)更緊密關(guān)系的分身并對(duì)其進(jìn)行監(jiān)護(hù)。

因?yàn)椴⒉豢赡苡幸粋€(gè)公式化的標(biāo)準(zhǔn)的人存在，所謂分身，一定是指某一個(gè)特定人的分身。所謂監(jiān)護(hù)，是要求人對(duì)機(jī)器人負(fù)責(zé)，并真正通過(guò)法律程序落實(shí)。未來(lái)，人類(lèi)同機(jī)器人的關(guān)系將逐漸演變成為需要通過(guò)法律實(shí)現(xiàn)確認(rèn)、保障的監(jiān)護(hù)關(guān)系。由于設(shè)定AI成為人類(lèi)的分身，本身即說(shuō)明了二者之間的關(guān)系變得非常密切，以至必須要從法律層面確立責(zé)任制。事實(shí)上，很有可能未來(lái)最了解人類(lèi)自身的存在，不再會(huì)是朋友、家人、愛(ài)人甚至是自己，而是作為分身的最大限度掌握并追蹤主體動(dòng)態(tài)的AI。AI的意識(shí)與主體的意識(shí)間將具有極強(qiáng)的關(guān)聯(lián)度。

在這樣的背景下，制造一個(gè)AI就應(yīng)當(dāng)同時(shí)為其匹配一個(gè)監(jiān)護(hù)人。這就像養(yǎng)一條可能具有極大殺傷力的藏獒，如果這條藏獒咬傷甚至咬死了他人，那么顯然，藏獒的主人需要承擔(dān)極大的責(zé)任。同樣的，具有更強(qiáng)殺傷力但不具備常識(shí)的AI也需要監(jiān)護(hù)人以保證其不至于危害人類(lèi)社會(huì)整體。某種程度上，設(shè)立監(jiān)護(hù)人的舉措同比爾·蓋茨提出的交“人工智能稅”殊途同歸。因?yàn)樗^的能夠?qū)崿F(xiàn)自主切換、高度兼容的“通用智能”(Artificial General Intelligence)恐怕難以實(shí)現(xiàn)。事實(shí)上，智能同承載它的生物進(jìn)化歷史、身體結(jié)構(gòu)密切相關(guān)，如果要做一個(gè)通用智能，它就應(yīng)當(dāng)能夠向下兼容一切生物的進(jìn)化歷史和身體結(jié)構(gòu)，但這是難以一蹴而就的。因此，對(duì)于只能夠?qū)崿F(xiàn)高度模仿而無(wú)法完全成人的人工智能來(lái)說(shuō)，監(jiān)護(hù)就變得尤為重要。為保證監(jiān)護(hù)的高完成度，甚至還可以引入?yún)^(qū)塊鏈技術(shù)，將人工智能的一切信息及行為都記錄在不可更改且公開(kāi)透明的區(qū)塊鏈上。不同AI主體間的互相監(jiān)督和競(jìng)爭(zhēng)對(duì)規(guī)避暗無(wú)限會(huì)極有幫助。

六、人機(jī)兼容的可能性

那么應(yīng)當(dāng)如何為機(jī)器人建構(gòu)常識(shí)？一種辦法是為機(jī)器人搭建其認(rèn)知坎陷世界。人的進(jìn)化歷史將這種著落安放在人的身體結(jié)構(gòu)之中，但機(jī)器人卻缺乏建構(gòu)意義的內(nèi)在需求。一種路徑是全盤(pán)照抄人類(lèi)，例如電影《銀翼殺手2049》中的“復(fù)制人”，直接向機(jī)器人輸入人類(lèi)的常識(shí)和生存意義。而這一需求本身，在人的身體中本來(lái)是可以通過(guò)基因以適者生存、優(yōu)勝劣汰的方式表達(dá)出來(lái)的，即自我肯定需求。機(jī)器人雖然沒(méi)有自我，但卻可以通過(guò)與人建立連接的方式建構(gòu)自我。

但倘若直接將一個(gè)人的記憶全盤(pán)復(fù)制后移植給機(jī)器人，則無(wú)疑會(huì)面臨不適應(yīng)的情況，即被移植者對(duì)自我的確定性產(chǎn)生懷疑，不僅僅是大腦，身體結(jié)構(gòu)的不相容會(huì)表現(xiàn)的更為顯著，則與用基因改造人的故事殊途同歸。實(shí)際上，以身體訓(xùn)練大腦相對(duì)容易，但以大腦規(guī)訓(xùn)身體則要耗費(fèi)較多時(shí)間。那么假設(shè)可以創(chuàng)造出一個(gè)萬(wàn)能的身體，具有非常強(qiáng)的靈活性，即大腦是什么，身體就可以做出相應(yīng)改變以達(dá)到高度匹配。亦可以假設(shè)創(chuàng)造一個(gè)萬(wàn)能的大腦，其中可以安裝無(wú)數(shù)種軟件以適應(yīng)各式各樣的身體。即便如此，前后一致的歷史經(jīng)歷依然非常重要。

在人類(lèi)制造機(jī)器的歷史上，兼容的問(wèn)題一直存在。向下兼容(Downward Compatibility)又稱向后兼容(Backwards Compatibility)，常常是相對(duì)于向上兼容而言。在計(jì)算機(jī)體系中指“在一個(gè)程序或者類(lèi)庫(kù)更新到較新的版本后，用舊的版本程序創(chuàng)建的文檔或系統(tǒng)仍能被正常操作或使用，或在舊版本的類(lèi)庫(kù)的基礎(chǔ)上開(kāi)發(fā)的程序仍能正常編譯運(yùn)行的情況”，例如IBM兼容機(jī)。超級(jí)人工智能亦可能如此，需要向下兼容，而人類(lèi)則退居成為舊版本。唯有不斷地將人類(lèi)歷史安裝進(jìn)人工智能系統(tǒng)中，實(shí)現(xiàn)兼容，則其才有可能具有常識(shí)、具有目的性，免于陷入“暗無(wú)限”的深淵。由硅基組成的機(jī)器人當(dāng)然可以從硬件上整體升級(jí)人體配置，但同時(shí)亦必須做到向下兼容，使得身體可以同時(shí)適應(yīng)、處理各種層級(jí)的情況。機(jī)器人可能可以通過(guò)“高級(jí)模仿、向下兼容”的方式來(lái)趨近人的自我，常識(shí)可以一點(diǎn)點(diǎn)地習(xí)得，目的性可以一點(diǎn)點(diǎn)地建構(gòu)，但其能力和意識(shí)必須實(shí)現(xiàn)相互匹配。

未來(lái)的人工智能具有如下兩種可能的發(fā)展方向。一種可能性就是如前文所述讓它的功能和結(jié)構(gòu)向下兼容，盡可能模仿人的結(jié)構(gòu)、自由度。讓機(jī)器人去感受人的情感，當(dāng)然它還可以在此基礎(chǔ)上開(kāi)出比人更多的情感內(nèi)容或者坎陷內(nèi)容。另一種可能性就是，雖然人類(lèi)創(chuàng)造的是同自己完全不一樣的機(jī)器人，但是卻可以試圖給它灌輸一些人類(lèi)的情感進(jìn)去，例如讓它玩設(shè)計(jì)好的游戲從而獲得類(lèi)似于人的情感體驗(yàn)等。這是因?yàn)槿祟?lèi)正是可以通過(guò)玩游戲、看電影或者看小說(shuō)等共情方式來(lái)獲取他人的體驗(yàn)。

但不論采取何種方式，核心都在于要讓機(jī)器人更像人，如此人才能安全存在，否則必將危機(jī)四伏。當(dāng)然也有人說(shuō)，人類(lèi)憑什么要求安全，或許人只是一個(gè)過(guò)渡階段，讓位于比自己更完美的形式(人工智能)豈不是更好？但這種想法是草率的，世界因人類(lèi)的存在而豐富多彩，人類(lèi)讓位于AI可能意味著讓世界陷入暗無(wú)限的單調(diào)。[9][10]

七、結(jié)語(yǔ)

得益于幾十億年生命進(jìn)化所賦予人類(lèi)的獨(dú)一無(wú)二的身體結(jié)構(gòu)、常識(shí)、社會(huì)機(jī)制以及與環(huán)境之間的協(xié)調(diào)關(guān)系，人類(lèi)可以規(guī)避無(wú)處不在的暗無(wú)限。作為人類(lèi)意識(shí)延伸的人工智能，被賦予的是偏狹而非完整的意識(shí)，在快速進(jìn)化之后會(huì)導(dǎo)致其能力與意識(shí)狀態(tài)的極度不匹配，從而陷入暗無(wú)限而將周?chē)氖澜鐜肷顪Y。因此，如何選擇AI的進(jìn)化之路就顯得尤其重要。將機(jī)器人設(shè)計(jì)成人類(lèi)自己的分身，建立人對(duì)機(jī)器人教育與監(jiān)護(hù)的責(zé)任機(jī)制，更有利于實(shí)現(xiàn)人類(lèi)與AI共同進(jìn)化。

[1]BOSTROM N. Superintelligence: paths, dangers, strategies[M]. Oxford ：Oxford University Press, 2014.

[2]戴維·洛奇·帕納斯.人工智能的真正風(fēng)險(xiǎn)[J].胡欣宇,譯.中國(guó)計(jì)算機(jī)學(xué)會(huì)通訊，2017(11):27-31.

[3]陳曉平.警惕人類(lèi)的掘墓者：腦機(jī)融合、阿爾法狗抑或虛擬現(xiàn)實(shí)——兼與翟振明教授商榷[J].山東科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)，2017(5):1-10.

[4]蔡恒進(jìn).認(rèn)知坎陷作為無(wú)執(zhí)的存有[J].求索，2017(2):63-67.

[5]鄧曉芒.論先驗(yàn)現(xiàn)象學(xué)與黑格爾辯證法的差異[J].江蘇社會(huì)科學(xué)，1999(6):73-80.

[6]蔡恒進(jìn).觸覺(jué)大腦假說(shuō)、原意識(shí)和認(rèn)知膜[J].科學(xué)技術(shù)哲學(xué)研究，2017(6):48-52.

[7]蔡恒進(jìn).論智能的起源、進(jìn)化與未來(lái)[J].人民論壇·學(xué)術(shù)前沿，2017(20):24-31.

[8]蔡恒進(jìn)，蔡天琪，張文蔚，汪愷.機(jī)器崛起前傳——自我意識(shí)與人類(lèi)智慧的開(kāi)端[M].北京:清華大學(xué)出版社，2017.

[9]蔡恒進(jìn).機(jī)器崛起是否意味著人文危機(jī)？[J].文化縱橫，2017(5):37-43.

[10]蔡恒進(jìn)．人工智能發(fā)展的突破口及其提出的新要求[J].江西社會(huì)科學(xué)，2017(10):18-24.