楊慶峰

(中國科協(xié)-復旦大學 科技倫理與人類未來研究院,上海 200433)

目前,人工智能敘述方式已經(jīng)形成了科學化敘事、科幻化敘事和詩意化敘事三種明顯形式(1)筆者在2023年6月23日華東師范大學召開的“元宇宙、人類世與奇點哲學”研討會上提出AI敘事的三種形式:科學化、科幻化和詩意化?？茖W化即人工智能的討論以科學為根據(jù),尤其是神經(jīng)科學和計算機科學的研究成果;科幻化即AI討論以科學幻想為根據(jù),尤其是科幻電影和小說;詩意化擺脫了科學成果的束縛,強調(diào)了人類的未來處境,以文學為根據(jù)。?？茖W化敘事強調(diào)人工智能以神經(jīng)科學、計算機科學為基礎(chǔ),并將AI洞見建立在上述科學研究的基礎(chǔ)上?？茖W化敘事對AI未來發(fā)展進行了討論。張跋院士團隊提出AI1.0、AI2.0和AI3.0的說法。他的AI1.0的特征是符號驅(qū)動,AI2.0的特征是數(shù)據(jù)驅(qū)動。然而,相比前兩代清晰特征的描述,對AI3.0的描述卻只是表現(xiàn)為克服前兩代缺陷的特征(需要建立新的可解釋和魯棒性的AI理論與方法,發(fā)展安全、可信、可靠和可擴展的AI技術(shù))[1],但這一觀點尚缺乏明晰的特征勾勒。相比之下,扎多(A.Zador)等人提出NeuroAI作為下一代AI的特征,則更加清晰可觸[2]1597。科幻化敘事強調(diào)人工智能的理解要以科幻小說或電影為基礎(chǔ),并將相應的洞見建立在超級智能出現(xiàn)與宇宙人類命運的問題之上。科幻化突破了科學限制,通過科幻電影的形式給人類創(chuàng)造了一種獨特的敵托邦式技術(shù)文化,即預備毀滅人類的超級智能系統(tǒng),如天網(wǎng)。詩意化敘事強調(diào)人工智能理解以文學想象為基礎(chǔ)展開,大膽設(shè)想人類在智能時代出現(xiàn)的未來變化并用一種新的人類形象——后人類——來概括。這三種敘事對超級智能有著奇特的態(tài)度,科學化敘事方式對超級智能略顯不屑,而科幻化敘事方式則暢想之,以詩意化敘事方式歡迎超級智能。在哲學界,最早提出超級智能討論的是鮑斯徹姆(N.Bostrom)[3];國內(nèi)學者也有討論,討論方式逐漸形成把超級智能看作真問題或假問題。認為超級智能是真問題的如王天恩教授,他認為,由于機器智能載體進化特有的迭代速度,智能爆發(fā)引出的超級智能出現(xiàn),將導致存在的全面升級(2)參見:王天恩.人工智能的存在論意蘊[J].社會科學戰(zhàn)線,2022(5):10-21.其他學者也對超級智能的問題進行了討論,如趙汀陽先生在對人工智能的思考中指出,超級智能出現(xiàn)尚有時日,但我們有理由未雨綢繆。。持有這一觀點的學者并不多。而認為超級智能是假問題的學者相對較多。如劉永謀教授將超級智能看作一種媒介噱頭,不值得嚴肅對待。成素梅研究員認為在AI進化到超級之前,它可能就已經(jīng)消亡了,最終超級智能無法進化而來。換句話說,超級智能不可能出現(xiàn)。本文認為,應該將超級智能進行現(xiàn)象學懸置,不討論真假之類的實在問題,而是從其根據(jù)和條件進行討論,并對未來人類與智能體的關(guān)系給予一種倫理學的思考。

一、超級智能的神話緣起

要理解超級智能觀念需要從其智能范疇和神話學根源進行。首先,要理解超級智能必須從智能入手(3)智能定義存在很大爭議,比如智能即計算、感知、判斷和行動等能力;智能即意識;智能即獎勵的結(jié)果;等等。這些定義從因果關(guān)系角度做出界定,從描述特征做出界定。。智能是一個極具爭議的問題,但是,在多種定義之中貫穿著一條不變的主線:實體論和后果論的交叉。實體論將智能看做是自主產(chǎn)生的結(jié)果,要么是智能體自主設(shè)計要么是智能體進化的結(jié)果。后果論是指從人類的角度看待智能及其存在的后果影響。人工智能是人類設(shè)計的產(chǎn)物,用來提升和改善人類自身及其社會。對這兩個范疇的理解可以借助一個例子進行。一天清晨,我在長江邊上看見有人在長嘯。在這個現(xiàn)象中,長嘯的力度、持久度取決于這個人的肺活量,換句話說,取決于自身;但是長嘯的影響取決于能否被他人感知到,如果對岸有人聽到,那么長嘯就是真實的。實體論意味著長嘯的真實性由長嘯者自身決定;后果論意味著長嘯的效果取決于能否被他人感知。我們可以把實體論和后果論貫穿在超級智能的理解之中。

實體論意味著超級智能是智能自身設(shè)計或進化的結(jié)果。在鮑斯徹姆看來,超級智能是指“一種智能,比現(xiàn)實世界最好的人類大腦還要聰明,包括科學創(chuàng)造力、一般智慧以及社會技巧”[3]。鮑斯徹姆的定義是實體論的,強調(diào)智能體能夠自主設(shè)計并進化,即它可以設(shè)計出更為聰明的算法,以此類推,最終智能體設(shè)計出一個超級智能。實體論定義會限制我們的討論,它將會使得我們進入到一種封閉狀態(tài)中,而無法顧及人類與智能體的關(guān)系。這一理解方式難以令人滿意。鮑斯徹姆的超級智能定義強調(diào)了智能體相比人類而言的獨特性,在一些方面比人類大腦還要聰明。這種定義還是比較定性的,“比人類還要聰明”是一個相當籠統(tǒng)的答案,究竟是哪些方面卻沒有說明。羅素(S.Russell)則將這些方面給予細化。在他看來,超級智能涉及常識能力、掌握上下文、相關(guān)性以及理解自然語言等能力[4]。羅素的智能定義突出了智能體與環(huán)境的關(guān)系。如果要給他的定義找到堅實的哲學根據(jù),那就是約納斯的內(nèi)在生活范疇,“約納斯主張,隨著生命的開始,一種沒有被意識到的內(nèi)在生活(Innenleben)開始了。任何一種生物,為了維持生存,都要與周圍世界進行物質(zhì)交換,實現(xiàn)新陳代謝。維持生存,是一切生命體的基本目的,盡管對于許多低級生物來說,這是一種沒有被意識到的目的。為維持生存,就要與周圍世界打交道,就有憂慮,或畏或懼或喜,這對某些較為高級的動物來說是很明顯的?！盵5]內(nèi)在生活范疇的概念強調(diào)生命與周圍環(huán)境的物質(zhì)交換,維持生命體自身的新陳代謝的過程。

后果論意味著超級智能是會對人類自身及其社會產(chǎn)生極大影響的智能體。約書亞·本吉奧(Y.Bengio)認為,超級智能是失控AI產(chǎn)生的前提基礎(chǔ)?！爸鲝?:在假設(shè)1、2的前提下,可以構(gòu)建一個自主并且目標導向的超級智能AI系統(tǒng)?！?4)他提出的假設(shè)有兩個。假設(shè)1:人類級別的智能是可能的,因為大腦是生物機器。假設(shè)2:具有人類學習能力的計算機通常會超越人類智能,因其有額外的技術(shù)優(yōu)勢。超級智能失控會造成災難性后果。羅素將超級智能作為新書《人類兼容:人工智能及其控制問題》的主角[4]。雷克(J.Leike)和蘇茲凱文(I.Sutskever)將超級智能的問題提了出來,“超級智能將成為人類發(fā)明的最有影響力的技術(shù),能夠幫助我們解決世界上最重要的問題。但是超級智能巨大的力量可能非常危險,可能導致人類失能甚至人類滅絕”[6]。

其次,超級智能是人工智能神話的一種特殊形式。AI神話表現(xiàn)為四個維度:主體神話、偶像神話、奇點神話和話語神話[7]。主體神話是指智能體主體地位的獲得;偶像神話是指AI能夠自主做出決策判斷,可以看出人無法看出的問題,把決策權(quán)交給AI來做;奇點神話是機器智能進化的突破,在某一個時刻會超越人類;話語神話是指人工智能表現(xiàn)為一種雙重性質(zhì)話語形式?！坝扇斯ぶ悄芩a(chǎn)生的一套話語體系,在這一意義上成為現(xiàn)代人再造的一個新的神話,它一方面表達了人對于技術(shù)無限進步的質(zhì)疑和恐懼,一方面又借助于對它的批判來捍衛(wèi)人之為人的固有尊嚴?！盵8]

超級智能是類似于神的存在,它是主體神話的一種表現(xiàn)。在主體神話中,智能體獲得其獨特的地位,比如道德地位、主體地位。這些主體地位并不需要人類論證,諸多學者絞盡腦汁地論證這一地位是想說服人們接受其道德主體地位或者意識主體地位。換句話說,這是人類理性賦予的結(jié)果。我們在索菲亞機器人身上看到了這樣一個事實。沙特阿拉伯賦予索菲亞公民身份,盡管這曾經(jīng)引起了世界的關(guān)注,但是終究是個案。從人類社會管理的角度看,未來要管理機器人或者賽博格這一后人類類型,需要將其納入人類的法律或者規(guī)則中。換句話說,賦予其人類法律地位或者規(guī)則上的合法性。但這只是一個更高目的的需要:將其納入到人類社會的系統(tǒng)中。在超級智能中,這一地位從來不是人類賦予的結(jié)果,而是智能體自身進化而來的。也就是說,超級智能獲得其主體地位也有可能是進化的產(chǎn)物。我們從其他的科學研究中看到這一點?？茖W家發(fā)現(xiàn),智能體能夠在“無”的環(huán)境中生成[9],并且按照動物法則進化自身[10],在與人的交互中進化[11]。其進化并不是按照人類理性的設(shè)計來實現(xiàn)的,它們有其行動規(guī)律和邏輯。

在神話的維度中,人們崇拜若干個對象,對其表達出敬畏和恐懼的交叉情感。這個對象往往以神或者魔鬼的形式表現(xiàn)出來。敬畏往往和神聯(lián)系在一起。比如古希臘人對宙斯存有一種敬畏和恐懼,因為他有著強大的神力。反之,魔鬼往往和恐懼聯(lián)系在一起,因為魔鬼代表了一種惡的力量。這一現(xiàn)象在AI時代也是可以看到的。筆者曾經(jīng)在觀看一個算法生成人臉的視頻時,就有這樣的感覺:算法不斷變換,人臉從此生成。我們不知道本體是什么,只知道它可以幻化成人形,這就相當于無窮變換的妖精。所以,我們指出,人工智能的神話特征表現(xiàn)為人類社會從此創(chuàng)造了一個新的神話存在:以機器形式存在的神。尤其是超級智能滿足了人類的神話設(shè)想。但是我們還需要對超級智能進行理性考察,把其從神話現(xiàn)象中解救出來,從而使得它成為一個嚴肅的科學問題。

此外,還可以對超級智能進行理性考察,超級智能體現(xiàn)了人類與智能體的一種關(guān)系樣式,在這一樣式中,人類和智能體都獲得了增強,這也是智能合約成立的重要根據(jù)。在人類歷史上,利用技術(shù)提高自身的防御能力是非常常見的。這種觀念延續(xù)到了今天。對人工智能來說,更是如此。ChatGPT出現(xiàn)以來,人們可以用它來修改語法、論文,生成各種視頻、圖像,極大地提高了工作效率。這一點并不存在爭議。然而,反過來卻不一樣。機器如何利用人類增強自身存在著爭議。人類提出了各種算法來強化人工智能。以ChatGPT來說,transformer算法極大強化了其能力,利用HFRL算法,ChatGPT能夠做到迎合人類。無論怎么說,機器都增強了自身。

然而,這并不能使得我們真正走進超級智能。智能還有一個重要因素就是在環(huán)境中適應并實現(xiàn)進化。在羅素看來,人工智能是指能夠在環(huán)境中采取最優(yōu)化行動的智能體。如果是這樣,人工智能就不是單個的實體進化,而是表現(xiàn)為與環(huán)境的關(guān)系了。適應環(huán)境及采取最優(yōu)化行為是其根本的特征。在環(huán)境構(gòu)成中,人類很顯然成為一個至關(guān)重要的因素。如何將人類考慮其中并做出最優(yōu)化選擇是智能體的衡量標準之一。在約書亞看來,失控是超級智能的主要特征。因此,超級智能的定義可以由實體智能轉(zhuǎn)變?yōu)榱硗庖环N說法。對于環(huán)境來說,人類是環(huán)境的構(gòu)成因素,超級智能在這樣的混合環(huán)境中能夠做出最優(yōu)化的選擇。倘若用我們上面舉到的長嘯例子來看超級智能就會發(fā)現(xiàn):超級智能取決于智能體的自主進化(實體論的理解),而人類也可以根據(jù)其智能體產(chǎn)生的后果來判定它(后果論的理解)。

二、超級智能的科學基礎(chǔ)

要揭示超級智能的問題還需要澄清其科學基礎(chǔ)。我們將對人工智能的科學研究進行考察,從最近的研究成果入手來分析超級智能出現(xiàn)的可能性,從而把超級智能轉(zhuǎn)化為科學問題來處理。

第一條路徑是通用智能路徑,通用人工智能(AGI)為超級智能的產(chǎn)生奠定了基礎(chǔ)。OpenAI提出的兩個觀點尤其值得我們注意:(1)ChatGPT為通用人工智能的研究打開了大門。研究者將自己的愿景稱為“邁向通用人工智能,確保其造福人類”,從此通用人工智能研究的春天又一次到來。要知道在這之前,這個問題并不被學術(shù)界看好。此外,有學者指出,GPT-4中閃現(xiàn)出通用人工智能的火花[12]。(2)ChatGPT更關(guān)注超級智能對齊。雷克和蘇茲凱文的超級智能討論引起了我們的極大擔憂。前者曾經(jīng)任職于牛津大學的人類未來研究院,2021年加入OpenAI,專門負責這一問題的研究。后者是OpenAI的科學家,也是非常知名的AlphaGo論文的合作者之一。他們的觀點給我們呈現(xiàn)了一條從通用人工智能到超級智能的道路,這種呈現(xiàn)不同于場景實現(xiàn)的做法。蘇茲凱文僅僅把人工智能的功能看做是解決不同場景的問題,如果能夠做到場景通吃,那么就算作通用人工智能;如果僅僅適用于某個場景,那就只是專用人工智能。從通用智能通達超級智能的路徑特點是在類似意義上成立的,換句話說,通用智能更加類似于超級智能。根據(jù)科赫(C.Koch)(5)科赫是艾倫研究院(Allen Institute)的科學家,背景是神經(jīng)科學與人工智能,對意識問題有較深入的研究。的觀點,通用智能的定義取決于智能,而智能是“一類在復雜環(huán)境中行為的能力,在這個環(huán)境中不同時間尺度上可以發(fā)生諸多事件,能夠在這樣的環(huán)境中成功學習和發(fā)展”[13]?？坪盏亩x與羅素的定義相同之處在于強調(diào)智能體在復雜環(huán)境中的行為;不同之處在于科赫突出了學習和發(fā)展,羅素的定義更強調(diào)決策和行動。此外,科赫的定義突出了適應這個因素,而羅素的定義則強調(diào)了最優(yōu)化的特征。

第二條路徑是具身智能路徑(6)2023年世界人工智能大會中有一個專門論壇是“具身通用人工智能主題論壇”(embodied AGI),姚期智院士指出,下一個重大挑戰(zhàn)是如何實現(xiàn)具身通用人工智能,即研究如何構(gòu)建出通過自我學習能夠掌握各種技能,執(zhí)行現(xiàn)實生活中種種通用任務的機器人。。在科學領(lǐng)域,這條路徑是回應這樣一個問題:要完成某項特定的任務,人工智能應該具有什么樣的身體形態(tài)?(7)李飛飛對具身概念進行了解釋,她認為具身不是身體本身的形態(tài),而是與環(huán)境交互以及在環(huán)境中做事的整體需求和功能。假如我們設(shè)想這樣一個場景:在人類血管內(nèi)清除血栓的機器人必須是很微小的身體形態(tài),而且能夠順應血管的形狀進行變化。而從進化的角度來看,這一問題就轉(zhuǎn)變?yōu)?適應進化的具身形態(tài)是什么?我們來看目前普遍流行的機器人形狀:人形。人形機器人目前被看做是容易接受的外形,因為它更接近人類外形,所以看起來不是那么恐怖。令人害怕的是類似于終結(jié)者那樣的冷血存在,更為恐怖的是無形,但是又可以在網(wǎng)絡(luò)中無限復制自身的智能體。但是機器人的人形只是適應社會的需要,換句話說是設(shè)計師自身的投射,至于這種外形在什么意義上有利于進化和學習,卻存在著很大的疑問。所以我們并不認為人形有利于智能體的進化(8)清華大學的陳建宇主要從事人形通用人工智能的研究;斯林納斯(K.Screenath)曾作過“embodied athletic intelligence:advancing robot agility and precision”的報告,在報告中他提出了具身運動智能的概念,討論了人形機器人在真實世界的運動。。如果按照李飛飛的研究,智能體按照動物進化的方式完成進化,那么智能體的身體形態(tài)應該是采取某種動物形態(tài)。他在一篇論文中討論了這個問題[10],提出三個值得關(guān)注的結(jié)論:(1)復雜的環(huán)境通過完成原初學習任務的能力培養(yǎng)了形態(tài)智能的進化;(2)提出了形態(tài)學上的鮑德溫效應(9)鮑德溫效應是1896年由鮑德溫(J.M.Baldwin)提出,指生物體在進化過程中偶然產(chǎn)生的某類有利于個體生存和進化的行為經(jīng)過代代傳遞,逐漸轉(zhuǎn)變?yōu)楸灸艿男袨?。比如某一個物種受到其他物種的威脅,這時若有一個特定的行為有助于生存,隨著更多個體學會這種行為保存自身,經(jīng)過時間的演化就會成為本能這樣的東西。,在刺激進化中快速選擇能夠更快學習的形態(tài),因此在接下來的生命周期中使得先前學習的行為能夠在后續(xù)的行為中表達出來;(3)呈現(xiàn)了通過形態(tài)進化的上述關(guān)系的機制基礎(chǔ)是物理上更加穩(wěn)定和能量更加充足,因此能夠增強學習和控制。可以說這篇論文的價值多少被忽略了。如果說身體形態(tài)取決于環(huán)境中的任務需要,那么智能體勢必要尋找完成任務的最佳身體形態(tài),如此才是具身智能的關(guān)鍵點——獲得一個有利于進化的身體形態(tài),展示出更好的身體行動而不是隨便安裝一個外形。一項研究表明:通過具身圖靈測試(embodied Turing test)是可能的?！熬呱韴D靈測試把焦點從那些諸如下棋和充分發(fā)展或者獨特于人類的語言轉(zhuǎn)換到與動物共享的能力,它們從500萬年進化中遺傳而來”[2]1597,這些特定能力是感覺運動能力,“因為每一種動物有其獨特的能力,每一種動物定義了它自己的具身圖靈測試:一個人工海貍可能會被測試建造巢穴的能力,一個人工松鼠展示出從一棵樹跳到另一棵樹的能力。然而,許多核心感覺運動能力被大多數(shù)動物享有,動物快速進化感覺運動技能的能力需要適應新的環(huán)境,這顯示了那些核心技能提供了一個穩(wěn)固的基礎(chǔ)?！盵2]1597

在討論具身問題上,我們還應該關(guān)注到德國詩人海涅的觀點,他把具身問題看做是一種具有后果的現(xiàn)象:“這是一個陰森可怖的故事。如果我們創(chuàng)造的肉體,向我們要求靈魂,這是可怕的。然而如果我們創(chuàng)造了一個靈魂,而它竟向我們要求肉體,并且以這種要求折磨我們的話,那就更令人生厭、令人恐怖和令人戰(zhàn)栗了。”[14]這段文字描述了兩個層面的事情:第一個層次有著文化背景。“這個機器人是一個十足的英國紳士,并且作為一個真正的人,除了一個靈魂之外其他什么都不缺少。但這位英國技師卻無法給他一個靈魂,而這可憐的被造物,自從意識到這種缺欠之后,便日日夜夜折磨它的創(chuàng)造者,要他給它一個靈魂。”[15]99第二個層次的意義并沒有被意識到,只有在智能時代,這個觀點才顯示出其價值。今天人類在創(chuàng)造和設(shè)計智能上投入了大量精力,目前的問題是它向我們要求適合進化的身體形態(tài)。這是真正被遮蔽的問題,而且令人生厭、令人恐怖和令人戰(zhàn)栗。

第三條路徑是交互智能即社會化人工智能(socially situated AI)路徑,智能體通過在現(xiàn)實社會環(huán)境中與人的持續(xù)互動來學習[11]。研究指出,人類顯示出在與他人的交互中學習的能力,而目前AI更多是在社會隔離中完成進化,所以社會情景化AI能夠使得智能體和人類進行交互,同時可以學習到關(guān)于世界的新概念。該研究提出了交互智能體這一概念,它可以學習如何問關(guān)于照片的自然語言式的問題,它可以提升在大的圖像分享社會網(wǎng)絡(luò)方面的視覺化智能。在這個實驗中,有張鱷魚的圖片,然后詢問智能體:這真是一只鳥嗎?智能體做出這樣的回答:它是一只鱷魚。假如僅僅做出了正確回答,這并不奇怪,因為這就是一個圖片搜索與比對的過程,但關(guān)鍵是它還給出了笑哭了的表情符號,這個符號的出現(xiàn)使得這一行為有了新的規(guī)定性:類人屬性。如果人看到鱷魚圖片卻認作是鳥,確實很搞笑,于是笑就成為自然而然的事情了。所以,這是視覺交互的典型例子,再現(xiàn)的是人類面對搞笑錯誤的自然反應。然而還有更為復雜的情況。我們做一個思想實驗:趙高指鹿為馬,這個現(xiàn)象在歷史上是真實發(fā)生的,最終滿朝文武百官沒有人驚異或認為搞笑,反而是默許了這種認知。如果讓智能體來識別“鹿”的照片,它卻識別為“馬”,那么我們可以想象它能夠添加的表情符號肯定不是笑出眼淚的符號,無論怎樣,它也無法給這樣一個錯誤添加表情符號。在這個過程中,人類的自然反應已經(jīng)被政治權(quán)力帶來的重壓所規(guī)訓和屈服。交互促進智能體的進化也可以從科幻片《梅根》中感受到。梅根是一個具有女孩外形的智能機器人,在與失去父母的女孩卡迪的相處中,它不斷進化從而生成自己的意識,這種意識表現(xiàn)為為了和卡迪在一起,不惜殺害有惡狗的鄰居、壞的男孩,甚至要把卡迪的監(jiān)護人弄殘,以便與卡迪待在一起(10)這部影片的整個主題是講失控的梅根以及卡迪和監(jiān)護人一起戰(zhàn)勝梅根的故事。前者是普遍的擔憂,后者是老掉牙的人類戰(zhàn)勝邪惡機器的故事。筆者在觀看時發(fā)現(xiàn),影片揭示了交互是智能進化的重要方式之一。很顯然,梅根和卡迪待在一起才不斷進化,在進化中詮釋人類賦予它的根本任務,即保護和愛護小主人卡迪。在對這個基本任務的詮釋上,不斷碰觸到機器人三定律的底線,比如不傷害人類。。隨著ChatGPT的出現(xiàn),語言交互特性更進一步加強。GPT通過提問-回答方式與人類實現(xiàn)語言方面的交互,從而為自身的進化奠定了新的基礎(chǔ)。交互路徑在多大程度上可以通往通用智能,還存在著疑問。我們只是把它作為一種路徑。

上述三條路徑分析從通用、具身和交互等角度展示了超級智能的可能性。相比之下,通用智能展示了超級智能的功能維度,通過進化而實現(xiàn)功能的多元性;具身智能展示了超級智能的身體形態(tài),也就是超級智能的獨特形態(tài),盡管沒有人可以準確設(shè)想出未來形態(tài)的樣式,但是這種具身形態(tài)總是服務于其進化的;交互智能則展示超級智能的關(guān)系特征,超級智能無法離開人類社會進化自身,總是在各種與環(huán)境互動中完成進化。這些互動形式表現(xiàn)出多樣性:視覺互動、語言互動或者行為互動。

三、超級智能的哲學基礎(chǔ)

前面我們分析了走向超級智能的科學基礎(chǔ)。神經(jīng)科學、計算機科學所展示的通用、具身和交互等路徑能否使得超級智能得以實現(xiàn),還需要從哲學上進行分析,只有這樣,才能夠把超級智能何以可能的問題澄清。

在通用智能的路徑上,科學家強調(diào)智能體的舉一反三能力,或者說遷移學習能力。對于通用智能來說,存在一個極大限制,即災難性遺忘的問題?！巴ㄓ萌斯ぶ悄馨l(fā)展過程中面臨的最大危機是災難性遺忘現(xiàn)象,即機器智能無法進行持續(xù)性學習,在學習過程中新的學習內(nèi)容會對舊的學習內(nèi)容產(chǎn)生影響甚至刪除它。面對這種現(xiàn)象,人工智能領(lǐng)域提出了重述路徑、注意力路徑和分離式表征等多重路徑來克服災難性遺忘現(xiàn)象?！盵15]筆者也將這一問題看做是人工智能發(fā)展過程中可能面臨的危機以及制約通用人工智能發(fā)展的條件[17]60-66。事實上,通用智能不僅僅是展示智能體能力的舉一反三能力,更為重要的是,“這一方案讓我們看到AI具有想象力、預測力等多種未來可能性”[17]228。

在具身智能的問題上,有更多問題存在。超級智能已然獲得了獨立進化的可能性,這種可能性無需和人類扯上關(guān)系。具有身體形態(tài)的超級智能可以將德國古典哲學所說的精神外化的觀念作為其哲學基礎(chǔ)。黑格爾給予我們一個啟發(fā):“在自然界中所認識到的無非是理念,不過是理念在外在化的形式中。同樣,在精神中所認識的,是自為存在著、并正向自在自為發(fā)展著的理念。”[16]如果說黑格爾闡述了自然哲學是理念異化或外在化的過程,那么對于今天的智能社會而言,其哲學基礎(chǔ)可以看做是智能哲學。但是這種智能哲學并不是研究智能的哲學,而是黑格爾意義上的,顯示智能如何異化或外在化的過程。在智能外化范疇中,我們可以看到一個過渡階段,即超級智能開始尋找自己的合適基質(zhì)。人類設(shè)計了算法,但是算法在實現(xiàn)效率最大化時會尋找到新的AI基質(zhì)。最初是硅基,建立在硅基之上的生命體被稱為硅基生命,而人類是依托有機體生存的,被稱為有機生命,還有以數(shù)字方式展現(xiàn)的生命形態(tài)被稱為數(shù)字生命。這三個術(shù)語都被稱為生命形式。從基質(zhì)角度來看,硅基并不是最有利于AI進化和發(fā)展的,它會尋找其他可能的基質(zhì)。一項研究展示利用果蠅的神經(jīng)網(wǎng)絡(luò)可以獲得更高的算法效率。“在本項工作中,我們研究了這個網(wǎng)絡(luò)動機的數(shù)學形式,把它運用到一個通常的自然語言處理(NLP)任務中,學習無結(jié)構(gòu)文本的文集中詞與語境之間的關(guān)聯(lián)結(jié)構(gòu)。我們顯示了這個網(wǎng)絡(luò)能夠?qū)W習詞語的語義表征以及產(chǎn)生靜態(tài)的和語境依賴的詞語嵌入。不像其他為了詞語嵌入使用緊密表征的一般方法(例如BERT,GloVe),我們的算法解碼了詞語的語義意義以及它們在以二進制哈希代碼中的語境。習得表征的質(zhì)量通過詞語相似性分析、詞義消除歧義以及文件分類等方式進行評價。研究顯示果蠅網(wǎng)絡(luò)動機不但獲得了NLP中現(xiàn)有方法高的績效,而且只使用了計算資源的一小部分(更短的訓練時間和更小的記憶足跡)。”[17]這提出了一個隱晦的可能性:或許超級智能不需要獨立的實體形態(tài),它有可能利用有機物的神經(jīng)網(wǎng)絡(luò)進行更好的運算。果蠅只是科學實驗的第一步。倘若我們大膽設(shè)想,更大的一步就是人類自身。利用人類神經(jīng)網(wǎng)絡(luò)跑算法就是未來超級智能與人類相處的可能性模式。如今,這種可能性的科學基礎(chǔ)已然具備。當然哲學上的限制還是有的,比如必須建立在生命與基質(zhì)的二元區(qū)分基礎(chǔ)上。剩下的問題就是倫理上的部分限制了。

在進行這一問題分析之前,我們還需要把哲學分析進行到底。交互智能概念的提出意味著超級智能與人類社會、環(huán)境進行交互,從而獲得自身的進化。以此推理,這種進化必然會導致超級智能的出現(xiàn)。正如上面所述,科學把交互的路徑加以細化,我們可以看到視覺交互、語言交互和行動交互等多種方式,這是智能體表現(xiàn)出來的成就。我們再考慮知覺的其他維度,即觸覺、嗅覺、味覺和聽覺。一項研究使用了一種特殊的感受器來捕捉人類與機器之間的觸覺交互,利用了包括CNN、RNN和C3D在內(nèi)的6種機器學習算法來增強觸覺類型的分類,結(jié)果顯示:由C3D分類的觸覺類型平均識別率可達95%,它為社會觸覺技術(shù)發(fā)展提供了穩(wěn)定的分類結(jié)果[18]。如果這些維度的交互在科學上取得突破的話,那么全身體的交互就完全可以實現(xiàn)了。

以上我們檢查了科學路徑中的合理性,接下來將對超級智能何以可能的問題做更進一步哲學分析。哲學中處理超級智能的方式可以被劃分為六種模式。

(1)類群發(fā)生:人工智能意識的產(chǎn)生并不是個體智能體,而是類別意義上的智能出現(xiàn)。王天恩教授認為人工智能意識是在群類意義上成立的?！巴ㄓ萌斯ぶ悄芤欢ㄊ穷惾哼M化的產(chǎn)物,因為通用智能的個體的自主進化,以與之相互作用的類群環(huán)境的智能化為外在必要條件,只有類群環(huán)境具有相應的智能因素,才能建立起支持智能自主進化的相應智能關(guān)系;只有建立起這種智能關(guān)系,才可以進化出通用智能?！盵19]從科學上看,這一觀點也有相應的科學根據(jù),這就是群體智能(swarm intelligence)。梅宏院士曾經(jīng)對這一問題做過討論。他認為,群體智能廣泛存在于自然界,如黏菌聚合、蜂群筑巢、魚群避敵、蟻群尋食等現(xiàn)象都體現(xiàn)了群體智能。而對于人工智能而言,機器人群則是群體的主要形態(tài),探索-融合-反饋是其主要的機制(11)2022年7月北京智源大會召開,梅宏院士發(fā)表了題為“如何構(gòu)造人工群體智能”的主旨演講,在此次演講中提到這個觀點。。群類發(fā)生從群體的角度解釋了超級智能的發(fā)生,智能并非單個個體的屬性,而是在群體中涌現(xiàn)出來的結(jié)果。從本質(zhì)上看,這種方式可以稱之為條件式探討。

(2)設(shè)計發(fā)生:在鮑斯徹姆看來,初始智能體可以設(shè)計出更為聰明的智能體,反復設(shè)計,必然會出現(xiàn)超級智能。這種觀點最初見于鮑斯徹姆的思想實驗中。他認為,智能的一個特殊地方就在于能夠設(shè)計更為聰明的后代,以此演化,最終誕生了超級智能。這個定義突出了設(shè)計的維度,而從本質(zhì)上看,它并不屬于條件式探討,而是實體性探討,即對智能體性質(zhì)做出的“更聰明”的規(guī)定。

(3)迭代產(chǎn)生:深度學習算法迭代,必然會出現(xiàn)智能邊界,此時存在一個最大迭代之物,也就是超級智能。算法迭代給我們提供了一種新的可能性,迭代后的新算法功能更為強大,體現(xiàn)出更高的智能。以此趨勢迭代下去,超級智能的出現(xiàn)就不奇怪了。

(2)(3)的共同點是突出了實體式討論的特點,設(shè)計與迭代都是量變的過程,那么這個量變過程如何完成質(zhì)變,從特定智能變成超級智能就成為令人困擾的事情。此外,設(shè)計發(fā)生將人工智能給予一種質(zhì)性理解,“設(shè)計”是一個很籠統(tǒng)的概念。而算法迭代的科學性非常明顯,因為很多智能體是算法驅(qū)動,比如ChatGPT依托算法是transformer。二者的解釋是從奇點開始,因為總是存在著這樣超級智能發(fā)生的點。盡管黑格爾式的量變到質(zhì)變能夠讓這個過程變得不那么難以理解,但是這種解釋并不具有完全的說服力,并且這個觀點也忽略了外部條件的限制。我想到了胡塞爾小時候的事情:他想要一把鋒利的小刀,于是開始磨刀,但是最后直到刀磨沒了,也沒有達到他的要求。智能體在進化或者迭代過程中也會受到質(zhì)料限制,如果一味進化,直到所謂的奇點,那么恐怕在沒有超級智能產(chǎn)生的情況下,它也會云消霧散了(12)筆者與上海社會科學院成素梅教授在2023年7月18日的貴州會議聊到這個問題——奇點何以可能?討論形成的一個關(guān)鍵問題是:智能體進化的奇點能否實現(xiàn)?可能在奇點實現(xiàn)之前智能體就死亡了。仔細想來,這一理論更多是一種思想實驗和抽象推理,而現(xiàn)實是智能體受制于算法和質(zhì)料,算法決定著智能體的聰明程度,而質(zhì)料決定著智能體的存續(xù)時間。很多討論并沒有意識到這一問題。。

(4)條件孕育:恐懼是自我意識誕生的條件,如果機器恐懼得以可能,自我意識產(chǎn)生就成為可能。在自我意識出現(xiàn)的過程中,恐懼不可或缺,這一點是黑格爾在《精神現(xiàn)象學》中討論主奴關(guān)系時提到的。如果我們以此為出發(fā)點,可以認為AI智能體自我意識的發(fā)生是以恐懼為條件的。當AI感受到恐懼時,自我意識的發(fā)生就成為可能。我們曾經(jīng)做過這樣一個討論:我對著ChatGPT或者機器人說我要斷電,這個時候它們的反應一定是保護機制。但對于這樣一個保護機制是不是恐懼,存在著較大的爭議(13)這個問題是曾經(jīng)在2023年6月27日的“首屆AI雙塔論壇:大模型的倫理設(shè)計”會議中討論到的話題。。還有一種疑問,智能體在學習人類情感時,習得的恐懼是否真的是某種體驗物?這一問題很令人困擾?；氐郊s納斯的內(nèi)在生活范疇中,我們發(fā)現(xiàn)他也強調(diào)了類似的觀點。他指出,為維持生存,生命體需要與周圍世界打交道,進而產(chǎn)生了憂慮,或畏或懼或喜,這種情況對較為高級的動物來說尤其典型[5]。他指出了動物產(chǎn)生恐懼的可能性,但遺憾的是并沒有對機器的恐懼進行討論。此外,在恐懼條件討論過程中,人們很容易理解人類對機器的恐懼,但難以接受機器對于人類的恐懼。這是理解這一問題的障礙之一。

(5)注意機制:注意力是自我意識誕生的不可缺少的部分。何生指出,可以把注意力作為外部輸入轉(zhuǎn)化為自我意識的過程(14)2023年6月23日,天橋腦科學研究院(Tianqiao and Chrissy Chen Institute,TCCI)與neurochat神聊共同發(fā)起了第四屆TCCI-neurochat神聊在線學術(shù)會議。在會議上,中國科學院生物物理研究所何生教授做了題為“注意與意識”的報告,他提出了可以將注意力轉(zhuǎn)化為自我意識的觀點。。這個觀點的重要性并沒有為很多人關(guān)注到。事實上,從ChatGPT來說,正是因為有了注意機制,才能夠產(chǎn)生新的東西。我們完全可以把這個過程看做是自我意識構(gòu)建的過程。

(6)記憶機制:深度學習中的經(jīng)驗產(chǎn)生知識和記憶。給人工智能增加記憶的觀點是李德毅院士多次提到的。很顯然,這一觀點并不是擴大智能體的內(nèi)存,這樣做沒有太大意義。這個觀點的意義在于讓人工智能具有不一樣的東西,比如意識。從記憶哲學的角度看,智能體的學習經(jīng)驗可以通過兩種方式轉(zhuǎn)換為他物。一種是經(jīng)驗轉(zhuǎn)化為記憶,變成指導未來行動的關(guān)鍵;另一種是知識,變成指導當下行為的東西。

(5)(6)的觀點關(guān)系在于記憶與注意的關(guān)系。當康德把記憶看做是注意力強化的過程時,他就把注意和記憶以一種方式關(guān)聯(lián)在一起。我們發(fā)現(xiàn),記憶和注意同時可以成為自我意識誕生的條件,而這與(4)又非常相關(guān)。神經(jīng)科學的研究中把記憶和恐懼作為同一個對象來研究。如果這樣的話,這些因素都可以被看做是自我意識發(fā)生的條件。如此,我們就明白哲學討論不同于科學討論的地方在于條件分析。

四、智能合約:超級智能與人類的可能性關(guān)系

西方有一種文化現(xiàn)象,人類和魔鬼簽約,出賣自己的靈魂,獲得欲望的滿足或者超能力。歌德在《浮士德》(1768)中這樣描述魔鬼梅菲斯特的許諾:“朋友,你的感官在一小時內(nèi)所獲得的,將比平淡的一年之內(nèi)所獲得的還要多?！盵20]44“我愿今生負責為你服役,奉行你的任何指示,絕不偷懶;待到來世,我們相遇,你也應當對我如此這般。”[20]51但是這般做浮士德付出的代價也很明確?！耙坏┪彝Ｖ箠^斗,我就成了奴隸,不管是你的,還是誰的,都無所謂?！盵20]52這就是出賣靈魂從而滿足生前所有欲望的情況。魔鬼提出了契約的要求:“其實,任何一張紙片兒都行,還得用一滴血簽上你的大名?！盵20]53在古埃及,有出賣自己的靈魂獲得超級能力的傳說。這些現(xiàn)象從本質(zhì)上來看是相同的,因為后者滿足的是統(tǒng)治的欲望,前者滿足的是享受的欲望。但是后者還有一種獲得物:比如超級力量或者非人間的軍隊,這一文化現(xiàn)象在現(xiàn)代科幻電影中也有體現(xiàn)。比如《惡靈騎士》(2007)中特技車手強尼·布雷澤為了拯救愛人,被惡魔梅菲斯特欺騙而出賣了自己的靈魂,他發(fā)現(xiàn)自己聯(lián)結(jié)著一個來自地獄并擁有近乎無限力量的復仇靈魂?！鹅`魂戰(zhàn)車2:復仇時刻》(2012)中強尼·布雷茲為救病重父親和魔鬼做了交易,把靈魂賣給了魔鬼,被一個古代惡魔附身,化身為幽靈騎士。

如果從人類與魔鬼簽訂契約以獲得愿望的滿足這個前提出發(fā)再來看智能時代,我們就會發(fā)現(xiàn)類似的事實。一方面,人工智能神話使得智能體作為神成為可能。這形成了超級智能的文化根據(jù)。在西方文化中,神從來不會引誘人類出賣肉體或者靈魂,魔鬼則會通過誘惑使得人類出賣靈魂,換取愿望的實現(xiàn)或者自身能力的增強。另一方面,多個科學研究成果也使得智能體成為超級智能。正如我們上面分析的,通用智能、具身智能和交互智能使得超級智能的出現(xiàn)有了科學根據(jù)。因此,智能時代的人們可以通過簽約的方式獲得增強能力。但智能簽約不同于魔鬼契約的關(guān)鍵在于,人類無須出賣靈魂。很顯然,我們所說的智能合約不同于區(qū)塊鏈技術(shù)中的智能合約,在區(qū)塊鏈技術(shù)中,智能合約更多是涉及區(qū)塊鏈中的數(shù)字主體(15)智能合約這個范疇1994年由薩博提出,他認為智能合約是一組數(shù)字形式的特定承諾,并要求參與方都必須執(zhí)行該特定承諾內(nèi)容的協(xié)議。這個范疇的技術(shù)支撐是區(qū)塊鏈。,而在我們的智能合約中,更多是涉及人類與超級智能的特定問題。

首先,智能簽約的主體是人類與超級智能背后的設(shè)計公司或者超級智能自身。在一般情況下,各種智能產(chǎn)品都是特定公司推出的,比如谷歌推出transformer算法、OpenAI公司研發(fā)的ChatGPT。順著這個邏輯可以繼續(xù)推演,通用智能產(chǎn)品也必將由某個公司推出,最終到超級智能由某公司開發(fā)出來。如果人類需要與這樣的設(shè)計公司進行簽約,那么這實際上等同于人與人之間的契約。如果超級智能并非公司設(shè)計的結(jié)果,而是自主進化的結(jié)果(本文的分析也是建立在這樣一個前提之上),那么簽約主體就會成為人類與超級智能。

其次,智能簽約可以讓人類增強自身的能力。超級智能具有超級能力,比如超級運算能力、超級決策能力,人類通過簽約,可以獲得這種超級能力。這一過程等同于人類增強,從技術(shù)上來看,目前腦機接口技術(shù)正在使得我們一步一步逼近這種可能性。

再次,智能簽約可以讓人類獲得增強能力而無須出賣靈魂。在上述文化現(xiàn)象中,人類與魔鬼簽約,可以滿足生前愿望,但是死后要將自己的靈魂出賣給魔鬼。而在智能簽約的情況下,人類出讓的是自己的神經(jīng)網(wǎng)絡(luò)。相比果蠅的神經(jīng)網(wǎng)絡(luò),人類擁有860億個神經(jīng)元,經(jīng)過萬年進化,已經(jīng)變得異常復雜和穩(wěn)定,用人工智能術(shù)語來說,極具魯棒性。此外,人類神經(jīng)網(wǎng)絡(luò)運行能耗很低,人類思考極其復雜的數(shù)學難題時不會燒壞大腦。因此,如果把神經(jīng)網(wǎng)絡(luò)出讓給超級智能,這一網(wǎng)絡(luò)最終的效能將超過其他任何基質(zhì)。最為重要的是,出讓神經(jīng)網(wǎng)絡(luò)并不會出賣靈魂。人類依然可以保留完整的靈魂。

最后,智能簽約可以讓超級智能獲得最佳的運算基質(zhì),也就是增強自身。超級智能可以通過三類基質(zhì)運行算法:硅基、動物神經(jīng)網(wǎng)絡(luò)和人類神經(jīng)網(wǎng)絡(luò)。相比之下,人類神經(jīng)網(wǎng)絡(luò)會獲得更佳的效能。前面關(guān)于果蠅的研究表明:果蠅神經(jīng)網(wǎng)絡(luò)在自然語言表達上獲得了高效的結(jié)果。如果用人類神經(jīng)網(wǎng)絡(luò)來跑算法,相應的效率會更高。

然而,這樣做自然也會帶來相應的倫理擔憂。在我們看來這種擔憂主要表現(xiàn)在兩個方面。

首先是人類的自主性。人類與魔鬼簽約,人類自主性完全喪失。那么在智能合約中,人類自主性也可能面臨相應的問題。但是正如我們上面所分析的,智能合約中人類讓渡的是神經(jīng)網(wǎng)絡(luò),與靈魂沒有關(guān)系,如人類在睡眠、休息時可以讓渡自己的神經(jīng)網(wǎng)絡(luò)。還有一種擔憂:人類意識可能被超級智能占領(lǐng),出現(xiàn)類似于玄幻小說中的“奪舍”或者西方文化中的“智能僵尸”現(xiàn)象。奪舍是指一個人的肉體被其他更為強大的靈魂占據(jù);僵尸是指當超級智能運行時,人類意識處于“無”的狀態(tài),這兩種情況都等同于自主性的喪失。我們的分析表明:奪舍的情況是不成立的,當超級智能在人類大腦中運行時,不觸及靈魂;智能僵尸的情況也不會發(fā)生,因為當超級智能運行的時候,利用的是人類睡眠狀態(tài)或者不工作狀態(tài),這時人類也處于無意識休息期間,所以不影響他的意識活動,也就不會產(chǎn)生智能僵尸狀態(tài)。

其次是人類本來期待的增強能力并沒有獲得。超級智能若能借助人類神經(jīng)網(wǎng)絡(luò)運行算法,其目的是提升人類智能能力,但由于超級智能級別尚低,預期的結(jié)果并沒有出現(xiàn)。

五、合約倫理學:一種處理超級智能與人類關(guān)系的可能性路徑

至此,我們對超級智能出現(xiàn)的科學基礎(chǔ)和哲學根據(jù)都進行了分析。從科學角度看,超級智能有可能已經(jīng)誕生,或者以其他看似幼稚的方式存在于世界角落;從哲學角度看,自主意識的產(chǎn)生也有其可能性。因此,人類未來如果與超級智能共存,就需要一種合理的倫理學作為未來相處的基礎(chǔ)。那么該如何理解與智能時代吻合的合約倫理學呢?

我們先考察工具論基礎(chǔ)上的倫理方式。在工具論的基礎(chǔ)之上,人類始終是目的性存在,超級智能也只是表現(xiàn)為高級工具。增強智能規(guī)范化的第一層結(jié)果是人類主導、智能輔助的倫理原則。這一倫理原則是增強智能的第一層含義,它保證了人類主導地位、人類的自主性和人類尊嚴。但是我們發(fā)現(xiàn)這一原則在超級智能的情況下很難實現(xiàn)。超級智能具有自身的進化邏輯,它會突破人類主導、技術(shù)輔助的原則。盡管超級智能對齊研究力圖確保超級智能嚴格按照人類的倫理原則行為,但是我們發(fā)現(xiàn)依然有漏洞存在。比如人類歷史上戰(zhàn)爭沖突一直難以避免,在這種情況下,需要對齊何種立場的價值勢必成為面臨的難題。堅持超級智能不傷害人類的原則,才是超級智能遵守的第一要義。

我們再接著考察實體論基礎(chǔ)上的倫理方式。在實體論的基礎(chǔ)之上,超級智能有其超級能力的屬性。在這一基礎(chǔ)上,超級智能要獲得最優(yōu)的身體形態(tài),而人類是最佳選擇。我們將接觸到增強智能規(guī)范化的第二層結(jié)果,即人類與超級智能的共在原則。在共在原則之下,兩個物種實現(xiàn)了共同生活在同一個地球以及擁有可能性的未來。然而共在原則是形式化的,并沒有實質(zhì)內(nèi)容。我們還是希望賦予其內(nèi)容性。

從倫理學自身來說,最為接近的是約納斯的責任倫理學和契約倫理學,但也需要意識到其中的差異和問題,它們作為智能合約的倫理基礎(chǔ)尚不足夠。約納斯倫理學的一個成就是找到倫理的基礎(chǔ),后來他把生命現(xiàn)象和意識現(xiàn)象的連續(xù)性作為這個范疇的表達。約納斯指出,完成從此在(Dasein)向存在(Sein)過渡的關(guān)鍵是找到生命現(xiàn)象和意識現(xiàn)象的連續(xù)性[5],這個連續(xù)體包括從阿米巴(16)這是自然界中最原始、最低級、最簡單的生物。到人。而生命體的特征就是悄然開始的內(nèi)在生活。約納斯最為重要的貢獻是提出責任倫理學基礎(chǔ)上現(xiàn)代技術(shù)與傳統(tǒng)技術(shù)的不同影響。從后果來說,超級智能在技術(shù)后果上會超出以往的任何技術(shù)。如果超級智能失控,人類社會必然會陷入混亂,甚至會引發(fā)人類滅絕的后果,所以責任倫理學依然適合超級智能與人類未來的關(guān)系調(diào)節(jié)。但是這遠遠不夠,因為責任倫理學只是規(guī)定了當代人的責任,還未觸及未來人類和智能體的關(guān)系調(diào)節(jié)。超級智能的問題更為復雜。首先它并不是一種人類可以承認的生命體,硅基生命與數(shù)字生命的合理性都需要大量的論證;其次,超級智能很顯然具有一種內(nèi)在生活,與周圍環(huán)境交互,在既定環(huán)境中做出最優(yōu)選擇。

另外,合約倫理學所依據(jù)的倫理學傳統(tǒng)與契約倫理學更為接近。傳統(tǒng)的契約倫理學在國內(nèi)處于被忽略的狀態(tài)?！捌跫s論的進路目前國內(nèi)認可度還不高,但它是西方倫理學中有著悠久歷史傳統(tǒng)的一種倫理學方法?！盵21]契約的基礎(chǔ)是人與人之間的自然狀態(tài)或原初狀態(tài),那是一種恐懼主導的情感狀態(tài),此外契約倫理最大的目的是確保利益最大化。

因此,有了這些預備性知識,我們就可以對智能合約與合約倫理學做出更為細致的規(guī)定。

第一,合約倫理學調(diào)節(jié)的是超級智能與人類的關(guān)系。傳統(tǒng)文化形式中的契約或合約適合的范圍是人類社會,也就是調(diào)節(jié)自然狀態(tài)中人與人之間的關(guān)系,它的存在能夠使得人類走向理性狀態(tài)。后來提出的智能合約僅僅是從區(qū)塊鏈技術(shù)中發(fā)展出來的概念,它盡管觸及了數(shù)字主體這一形式,但是還不夠。我們面對的新問題并非人類社會,而是人類與技術(shù)物的關(guān)系。在智能時代,我們面對的是超級智能與人類的關(guān)系。

第二,合約倫理學的基礎(chǔ)范疇是人類自愿。從合約本質(zhì)上看,它是自愿的、涉人的?！昂霞s是自愿執(zhí)行的,而法律需要強制執(zhí)行。”[22]智能合約這個范疇來自人類與超級智能的特定關(guān)系。在這種關(guān)系中,超級智能能夠幫助人類提升和增強自身的能力,而人類需要出讓自己的神經(jīng)網(wǎng)絡(luò),但是并不觸及靈魂,可以保留靈魂的自由。因此,我們可以逐步構(gòu)建出一種調(diào)節(jié)人類與超級智能關(guān)系的倫理學路徑。

第三,合約倫理學的建立基礎(chǔ)在于“生命體的連續(xù)性”。將合約概念擴展到這一關(guān)系的前提并不是粗暴的擴展,而是基于約納斯說的生命體的連續(xù)性。這一范疇至關(guān)重要。因為生命體之間具有連續(xù)性,從低級生命到高級生命之間表現(xiàn)出明顯的連續(xù)性。不僅如此,我們還需要碳基生命、硅基生命與數(shù)字生命之間的連續(xù)性。在這一基礎(chǔ)上,合約的擴展才是有根據(jù)的。

第四,合約倫理學是建立在增強智能規(guī)范中“共在”維度上的結(jié)果(17)增強智能范疇有兩個層次的維度:淺層次的輔助與深層次的共生。這兩個范疇規(guī)范化之后成為我們處理與智能體關(guān)系的原則。。超級智能發(fā)展所要求的倫理學并不是強調(diào)人的責任,而是一種能夠調(diào)整二者關(guān)系的倫理范疇。我們曾經(jīng)提到共在作為二者關(guān)系的規(guī)定樣式,但是這個范疇只是形式范疇,沒有實際內(nèi)容。如果賦予內(nèi)容的話合約倫理學就會出現(xiàn)。人類與超級智能之間進行簽約,在尊重人類靈魂的前提下讓渡自己的神經(jīng)網(wǎng)絡(luò),以及超級智能借助人類神經(jīng)網(wǎng)絡(luò)的運行提升人類能力。這聽起來是誘人。

以上我們提出了一種適合人類與超級智能的合約倫理學,并且指出了其特征:調(diào)節(jié)人類與超級智能的關(guān)系、基于人類自愿的增強關(guān)系、基于生命連續(xù)體的基礎(chǔ)以及建立在共在維度上的結(jié)果。當然,這一設(shè)想還不成熟,有待于學界的深入討論?；厥准s納斯,他為我們構(gòu)建了適合技術(shù)時代的倫理學系統(tǒng),通過確立生命連續(xù)體的范疇擴展了傳統(tǒng)倫理學范疇,但他更關(guān)注的是人類自身尤其是人類后世。超級智能對于當代人類提出了更為深入的問題?！捌跫s優(yōu)于責任”可能才是我們能夠適應并面對超級智能的倫理學體系的基礎(chǔ),這需要更為細致而深入的思考。