楊慶峰

（上海人工智能實驗室，上海 200232）

在對人工智能倫理基礎(chǔ)問題的整體思考中，筆者曾經(jīng)指出透明性與關(guān)聯(lián)性是支撐人工智能倫理的兩個基礎(chǔ)概念。［1］這一觀點僅僅是出于智能體考慮的結(jié)果，并沒有從人機(jī)關(guān)系出發(fā)進(jìn)行考量。一般情況下，諸多學(xué)者關(guān)注的是機(jī)器智能能否超越或取代人類智能這樣的問題。但是這種討論要么是認(rèn)為強(qiáng)人工智能導(dǎo)致的結(jié)果必然是機(jī)器智能超越人類智能，［2］如庫茨維爾就從進(jìn)化論的角度論證了奇點的出現(xiàn)；要么是強(qiáng)調(diào)自主進(jìn)化的智能體已經(jīng)出現(xiàn)，如李飛飛認(rèn)為智能體按照動物進(jìn)化規(guī)律發(fā)展進(jìn)化。［3］從兩者關(guān)系角度看，人文學(xué)者所擔(dān)憂、想象的東西逐漸被科學(xué)的研究所證實。人文學(xué)者陷于悖論之中：一方面通過現(xiàn)象闡述人工智能、元宇宙所具有的意義；另一方面，卻擔(dān)憂上述技術(shù)帶來的挑戰(zhàn)與危機(jī)，“如何能夠在不取代我們理性自主性的情況下讓人工智能增強(qiáng)公眾決策的質(zhì)量”？［4］科學(xué)界也面臨類似的悖論：一方面認(rèn)為通用人工智能實現(xiàn)的可能性微乎其微；另一方面，認(rèn)為未來的互聯(lián)網(wǎng)、NFT 等技術(shù)會給人類帶來一個美好未來。這些理解都將人與智能機(jī)器的關(guān)系簡單化。本文試圖從增強(qiáng)智能的范疇來澄清兩者的關(guān)系，并為未來人工智能的倫理提供新的闡釋。

一、智能決策與增強(qiáng)智能

科學(xué)界已經(jīng)對增強(qiáng)智能有過較多的討論。電氣和電子工程師協(xié)會對這一概念做出的解讀認(rèn)為，增強(qiáng)智能主要是增強(qiáng)而不是替代：“設(shè)計增強(qiáng)智能是用來增強(qiáng)而不是替代。術(shù)語‘智能強(qiáng)化’（intelligence amplification）可以追溯到1956年W.R.艾什比的著作《控制論導(dǎo)論》。這個術(shù)語本身相比今天的人工智能少了一些威脅的含義，因為人工智能暗含著取代人類智能。增強(qiáng)智能是AI 機(jī)器學(xué)習(xí)的分支，主要用來增強(qiáng)人類智能而不是獨立運轉(zhuǎn)或者取代人類智能?！保?］2019 年出版的《數(shù)字現(xiàn)實白皮書》明確分析了共生自主系統(tǒng)（Symbiotic Autonomous Systems，SAS）：“在SAS語境中最關(guān)心的事情是它們擁有的不同程度的自主性。它們能夠進(jìn)化（例如學(xué)習(xí)和適應(yīng)）并與環(huán)境交互，并且彼此間實現(xiàn)進(jìn)化以及和人類之間進(jìn)行交互。”［6］1隱含在這一論述之中的技術(shù)哲學(xué)觀點是延伸論與融合論：前者指工具是身體的延伸，計算機(jī)是心靈的延伸工具；后者指人類與人工物之間的無縫融合。這里的論述非常明確地說明了設(shè)計增強(qiáng)智能的目的是增強(qiáng)人類的決策和行動，而不是取代后者。在此基礎(chǔ)上也就引出了人工智能與增強(qiáng)智能的區(qū)分。在一般的定義中，人工智能是指像人一樣思維和行動的智能體。兩者的區(qū)別是通過自定義這樣的關(guān)鍵概念實現(xiàn)的。正如前述《數(shù)字現(xiàn)實白皮書》所言，它們擁有不同程度的自主性。目前國內(nèi)科學(xué)界也注意到這一關(guān)鍵概念。中國工程院院士鄭南寧指出，“混合增強(qiáng)智能”是人工智能的發(fā)展趨向。［7］筆者曾經(jīng)指出，在經(jīng)濟(jì)領(lǐng)域中，人工智能與人的關(guān)系應(yīng)該用一個新的概念來界定，這就是增強(qiáng)智能。［8］在朱迪斯·赫爾維茨（Judith Hurwitz）等人看來，所謂增強(qiáng)智能是指“一種使用人工智能執(zhí)行良好定義的任務(wù)，例如作為決策活動的一部分。但是對于人工智能而言，人類與機(jī)器一道合作。人類需要評估自動任務(wù)的結(jié)果、在非日常環(huán)境中的決策以及由于商業(yè)需求的改變而導(dǎo)致數(shù)據(jù)必須被改變的決定”。［9］可以看出，這里的增強(qiáng)智能實際上著眼于將自動機(jī)器應(yīng)用于人類決策中。

在經(jīng)濟(jì)領(lǐng)域主要是從產(chǎn)業(yè)語境中討論智能化的問題。在企業(yè)招聘過程中，簡歷的篩選可以交給智能機(jī)器來處理。此時一個尖銳的問題就出現(xiàn)了：人員的錄用能否最終都交給智能機(jī)器決定？這種由智能機(jī)器做出的決定具有明顯的缺陷，因為人工智能的數(shù)據(jù)偏見和算法偏見是無法繞開的陷阱。這種決策必然會受到偏見的誤導(dǎo)而失去人才。還有一個就是信任問題，在何種程度上人們能夠采信智能機(jī)器的決策結(jié)果呢？人對于智能機(jī)器的信任本身就是一個頗有爭議的問題。因此，至少這兩點使我們難以將最終的決策權(quán)交給智能機(jī)器。此外，Gartner 的一份研究報告指出，隨著人工智能技術(shù)的發(fā)展，增強(qiáng)智能（結(jié)合了人類和人工智能的能力）將為人類生活帶來顛覆性革命。這份報告也指出增強(qiáng)智能在商業(yè)應(yīng)用中有著極大的前景和未來：“增強(qiáng)智能專注于人工智能的輔助作用，強(qiáng)AI的目的是彌補(bǔ)自然人類的能力不足，同時又將人類智慧應(yīng)用于AI，使商業(yè)智能變得更加完善，實現(xiàn)人類與機(jī)器的優(yōu)勢互補(bǔ)，發(fā)揮最大價值。”［10］

除經(jīng)濟(jì)領(lǐng)域之外，增強(qiáng)智能在教育和醫(yī)療等領(lǐng)域亦呈現(xiàn)出其特有的能量。吳朝暉院士在2019 年國際人工智能與教育大會上提出了三個判斷：以人工智能為標(biāo)志的增強(qiáng)智能時代正在加快到來，更加呼喚面向21世紀(jì)的通識教育；人工智能科技正推動教育1.0轉(zhuǎn)向?qū)W習(xí)2.0，不斷構(gòu)建教與學(xué)互動的新空間；人工智能的賦能應(yīng)用將成為基礎(chǔ)教育、高等教育、社會教育聯(lián)動的關(guān)鍵，加快達(dá)成終身教育共識。［11］事實上，從20 世紀(jì)80 年代至今，計算機(jī)、互聯(lián)網(wǎng)、VR、人工智能等技術(shù)的出現(xiàn)對教育領(lǐng)域產(chǎn)生了極大沖擊。直至當(dāng)下的元宇宙，這種沖擊愈演愈烈。在教育領(lǐng)域產(chǎn)生的問題是線上教育能否取代線下教育以及虛擬教育與現(xiàn)實教育有何關(guān)系？在10 多年前，這些問題的答案是異常明顯的，即線上教育、虛擬課堂無法取代面對面教育，于是就形成了一種技術(shù)輔助人類的教育觀念，即便是面對某些特定的技術(shù)訓(xùn)練，這種觀念絲毫沒有動搖。在這個過程中，人類的主體地位盡管有些改變，但是最終還是占據(jù)主導(dǎo)地位。然而近三年來，這種牢固的觀念開始發(fā)生松動。人們忽然發(fā)現(xiàn)線上教育也成為一種有效模式，這很大程度上沖擊著傳統(tǒng)的教育觀念。

在醫(yī)療領(lǐng)域，隨著深度學(xué)習(xí)算法的成熟，醫(yī)療人工智能開始迅速發(fā)展起來。2021年5月，哈佛醫(yī)學(xué)院Faisal Mahmood 團(tuán)隊開發(fā)了一種人工智能系統(tǒng)，該系統(tǒng)使用常規(guī)組織學(xué)切片就能準(zhǔn)確查找轉(zhuǎn)移性腫瘤的起因，同時能對原發(fā)灶不明癌癥進(jìn)行鑒別診斷。［12］Google公司可以用人工智能來診斷癌癥。由于醫(yī)學(xué)是一個專業(yè)性極強(qiáng)的領(lǐng)域，對醫(yī)療人工智能的可靠性有著非常高的要求，而目前在人工智能醫(yī)療領(lǐng)域會存在一定的誤診。比如《新英格蘭醫(yī)學(xué)雜志》2019年12月刊發(fā)的一篇文章指出，缺乏金標(biāo)準(zhǔn)（gold standard）將導(dǎo)致機(jī)器學(xué)習(xí)帶來癌癥的過度診斷。［13］

至此，通過分析科學(xué)、經(jīng)濟(jì)、教育和醫(yī)學(xué)等領(lǐng)域內(nèi)的情況已經(jīng)明確:在上述領(lǐng)域中存在著增強(qiáng)智能現(xiàn)象，而我們需要做的事情是將各個經(jīng)驗領(lǐng)域中的增強(qiáng)智能現(xiàn)象進(jìn)行哲學(xué)分析，并且將增強(qiáng)智能作為一個新的范疇提出來，對其規(guī)范性意義加以挖掘。這種規(guī)范性意義可以指導(dǎo)不同領(lǐng)域的人工智能的應(yīng)用和治理，尤其是能夠?qū)θ伺c人工智能關(guān)系進(jìn)行有效處理。更為重要的是，這一范疇?wèi)?yīng)該被看作是人工智能倫理的一個基礎(chǔ)范疇。大多數(shù)人工智能的倫理原則更多關(guān)注傳統(tǒng)倫理中的自主性、信任、隱私、偏見等，然而，這些范疇卻不是以人與人工智能的關(guān)系為基礎(chǔ)進(jìn)行討論，而是站在以人類中心的立場的。我們所要采用的新范疇完全是建立在人類與人工智能的關(guān)系基礎(chǔ)上的一個范疇，這一范疇能夠很好地引導(dǎo)我們處理好兩者的關(guān)系。但是就當(dāng)前該范疇本身來看，只是一種經(jīng)驗現(xiàn)象，還需要對其進(jìn)行哲學(xué)化、道德化概括。這個過程類似于礦石的提煉過程。而這個提煉過程包括兩方面：其一，提純過程，哲學(xué)化就是提純過程，去掉這個概念范疇中的經(jīng)驗雜質(zhì)，而保留其結(jié)構(gòu)性的精髓；其二，鍛造過程，道德化所起到的作用就是鍛造，把這個概念改造為道德范疇，使其具有規(guī)范性意義。只有經(jīng)過這樣的改造，將之納入人工智能倫理與治理的范圍中才具有切實的可能性。

二、增強(qiáng)智能范疇的哲學(xué)化

增強(qiáng)智能的哲學(xué)化目的是去掉這一范疇中的經(jīng)驗雜質(zhì)，賦予增強(qiáng)智能一般的意義地位。

首先，從智能哲學(xué)角度區(qū)分智能增強(qiáng)與增強(qiáng)智能。智能增強(qiáng)屬于人類增強(qiáng)的范疇，即通過某種技術(shù)手段實現(xiàn)人類的智能提升。如果采取笛卡爾的二元論劃分，人類是由身體與精神兩種實體構(gòu)成的，那么人類增強(qiáng)可以劃分為身體增強(qiáng)與精神增強(qiáng)，而智能增強(qiáng)可以被劃入精神增強(qiáng)范疇之中。這個劃分也成為當(dāng)前人工智能研究的一個哲學(xué)基礎(chǔ)。然而，笛卡爾式二分中有一個缺陷，即記憶處于何種地位并不明確。從記憶的心理學(xué)理解來看，記憶是認(rèn)知能力之一，是記憶附屬論的形式。①筆者對記憶附屬論的局限做過較系統(tǒng)的論述。參見楊慶峰《記憶、認(rèn)知與記憶本體論》，載《南京社會科學(xué)》，2018年第7期，第32-40頁；楊慶峰：《從記憶與智能的關(guān)系看人工智能的發(fā)展》，載《長沙理工大學(xué)學(xué)報》，2020年第2期，第1-9頁。而記憶附屬論觀念的存在使得記憶本體論地位喪失，所以需要加以批判。哲學(xué)史上很多學(xué)者已經(jīng)為檢討這種附屬論觀念提供了理論上的可能。比如靈魂學(xué)說中有學(xué)者將靈魂三分為智能、記憶和天賦；［14］還有學(xué)者將其劃分為智能、記憶和意志；對于黑格爾來說，回憶既是獲得已經(jīng)知道的東西的條件，又是深入意識內(nèi)核的東西，能夠使得感性意識的中介或前提被呈現(xiàn)出來；［15］布倫塔諾認(rèn)為記憶使得過去對象得以被意識到。這些都是有助于擺脫記憶附屬論束縛的理論基礎(chǔ)。于是，當(dāng)討論智能增強(qiáng)的時候，連帶的還有記憶增強(qiáng)、意志增強(qiáng)等維度，而不僅僅是認(rèn)知與學(xué)習(xí)維度。而增強(qiáng)智能是對人類智能與人工智能關(guān)系的描述。它本義是借助智能機(jī)器強(qiáng)化人類決策，而并不是強(qiáng)化正常大腦功能或者構(gòu)建超級大腦。隨著腦科學(xué)的發(fā)展，大腦功能有望得到加強(qiáng)，經(jīng)過對特定神經(jīng)元進(jìn)行刺激可以實現(xiàn)大腦功能的強(qiáng)化，可以構(gòu)建超級大腦。

其次，是從人類—機(jī)器的關(guān)系角度對其進(jìn)行哲學(xué)化。從表層上看，增強(qiáng)智能范疇確立了人類主導(dǎo)—機(jī)器輔助的關(guān)系模式，但是其實質(zhì)并不是建立在人類直觀的基礎(chǔ)上，而是有著一個關(guān)鍵概念即共生（symbiosis）。②共生描述了不同物種的兩個有機(jī)體之間的生態(tài)關(guān)系，它們有些時候，但并不總是使對方受益。我們將之認(rèn)定為增強(qiáng)智能的深層含義。工程科學(xué)領(lǐng)域已經(jīng)將共生當(dāng)作未來的一個重要形式。“電器和電子工程師協(xié)會共生自主系統(tǒng)倡議預(yù)見了人類可感知的現(xiàn)實空間中網(wǎng)絡(luò)空間與智能機(jī)器的無縫融合。事實上，該倡議預(yù)見了導(dǎo)致人與機(jī)器共生的會聚。然而，如果我們從人類視角來看的話，它不是共生而只是一個同化?！保?］1共生的一個例子是智能耳機(jī)。為了把注意力集中于關(guān)心的對話上，智能耳機(jī)通常會把一些無關(guān)的信號屏蔽掉。它會阻斷腦中的電流活動，通過人工智能來識別大腦感興趣的對話。［6］1在人文學(xué)科中，共生是科幻的話題。心機(jī)接口（Mind Machine Interface，MMI）就是這樣的例子。“通過大腦與計算機(jī)的無縫交互而實現(xiàn)人類與機(jī)器之間建立共生的路徑也即心機(jī)接口這樣的東西，被劃定為科幻小說的領(lǐng)域，它沒有產(chǎn)生任何市場影響?！保?］1但是人機(jī)接口被排除在科學(xué)范圍之外而歸入科幻小說領(lǐng)域，后者也對未來人類形態(tài)加以探討。后人類或者人類2.0 成為人類未來的形態(tài)?！昂笕祟惏l(fā)展到極致可能是新物種的轉(zhuǎn)折，這不是由進(jìn)化驅(qū)動的，而是通過技術(shù)發(fā)展導(dǎo)致的結(jié)果。盡管有學(xué)者認(rèn)為后人類扎根于科學(xué)與技術(shù)發(fā)揮的杠桿作用，但并沒有看到人與人工物之間的共生，而是看到了在基礎(chǔ)層面上改變?nèi)祟悾承┨卣鞯目赡苄??！保?］1從建筑哲學(xué)角度來看，日本建筑師黑川紀(jì)章（Kisho Kurokawa）在1994 年已經(jīng)提出共生哲學(xué)的概念，而且是將之建立在意識哲學(xué)之上的一種界定。［16］19“但是在機(jī)器時代，人類使自身屈服于一個幻覺：借助他們使用的機(jī)器，便獲得了上帝的地位，能夠統(tǒng)治世界和整個宇宙。今天人文主義與人類優(yōu)越性和邏輯中心主義變得同一。機(jī)器時代人類優(yōu)越性在生命時代起著反作用，后者更強(qiáng)調(diào)環(huán)境和生態(tài)?！保?7］當(dāng)我們明確了存在于工程科學(xué)、建筑領(lǐng)域中的這個范疇之后，再來反思就變得有可能了。在對其討論的一貫思路中存在著一個不融貫的地方：輔助與共生。輔助是一種規(guī)范性取向，在這一取向之下，人類的主導(dǎo)地位和機(jī)器的輔助地位獲得了一種規(guī)定，這一規(guī)定防止了人類自主性被剝奪以及機(jī)器的僭越。然而共生卻是一種描述性取向，在這一取向之下，機(jī)器更好地服務(wù)于人類的目的，然而這取決于機(jī)器與人的無縫融合。這一切都是建立在神經(jīng)科學(xué)的發(fā)展之上。在關(guān)于自由度系統(tǒng)（Degrees of Freedom System）的研究中，F(xiàn)ieliba 通過增強(qiáng)對象及增強(qiáng)手段來構(gòu)建運動增強(qiáng)分類，在這一框架之下分析了擴(kuò)展自由度數(shù)量的增強(qiáng)，并明確接受度是一個根本的問題。［18］從文化角度來看，自由度系統(tǒng)類似于傳說中擁有三頭六臂的哪吒。我們都知道哪吒有三頭六臂，六臂拿著不同的武器，戰(zhàn)斗力迅速增強(qiáng)。除此之外還有六指系統(tǒng)。一項關(guān)于第六指的研究指出，第六指能夠改變大腦感覺運動皮層中的表現(xiàn)方式。［19］更為重要的是，這一研究強(qiáng)調(diào)了一個被忽略的事實：經(jīng)過幾十萬年進(jìn)化后的人類身體并沒有做好準(zhǔn)備來迎接上述智能裝備。正如文章作者之一馬金（Tamar R.Makin）指出的：“進(jìn)化并沒有讓我們準(zhǔn)備好使用額外的身體部位?！边@一說法很少被關(guān)注?？茖W(xué)界更關(guān)心的是這項技術(shù)取得的進(jìn)展以及人類如何能夠更好地使用它。按照共生的觀念來說，這項技術(shù)同樣也展現(xiàn)了共生的理念。盡管馬金微不足道的一個觀點只是呈現(xiàn)了實證科學(xué)從生理結(jié)構(gòu)角度為我們揭示的人類進(jìn)化本身的缺陷。對于此，筆者產(chǎn)生了一個疑問：共生的基礎(chǔ)是否牢靠？不得不說，共生是美好的，它展現(xiàn)了一種未來人與機(jī)器關(guān)系的實證圖景；然而技術(shù)做好準(zhǔn)備了，自然進(jìn)化的人類卻沒有做好足夠的準(zhǔn)備迎接這種技術(shù)的到來。這讓我們重新陷入神話語境之中，人們通過普羅米修斯獲得了神的技術(shù)和知識，但是對于普羅米修斯遭受的痛苦卻無能為力，只能眼睜睜地看著他們的文化英雄受盡苦難。更為重要的是，產(chǎn)生了各式的機(jī)心，困擾于其中。這意味著輔助關(guān)系還需要新的道德化基礎(chǔ)。

最后，從技術(shù)現(xiàn)象學(xué)角度進(jìn)行哲學(xué)化。技術(shù)現(xiàn)象學(xué)最重要的貢獻(xiàn)是對人—技術(shù)關(guān)系的闡述。唐·伊德的四重關(guān)系理論——具身關(guān)系、解釋學(xué)關(guān)系、背景關(guān)系和他者關(guān)系以及荷蘭學(xué)者維貝克后來增加的賽博格關(guān)系、復(fù)合意向關(guān)系成為最為重要的理論資源。在六種關(guān)系之中哪一種適合用來描述增強(qiáng)智能關(guān)系呢？具身關(guān)系強(qiáng)調(diào)的是身體的延伸，比如眼鏡之類的東西。很顯然，在上述與增強(qiáng)智能有關(guān)的現(xiàn)象中，智能機(jī)器并不是人的心靈能力的延伸，這只適用于最初級的計算機(jī)系統(tǒng)，所以具身關(guān)系是一種對低級形態(tài)的技術(shù)與人類關(guān)系的描述。如果將智能因素考慮在內(nèi)的話，他者關(guān)系則是較為適合的解釋理論。在類似于人工智能的自主系統(tǒng)中，智能機(jī)器是一個謹(jǐn)守規(guī)則的他者，輔助式成為其基本的原則。這意味著機(jī)器的邏輯不能無限外推，而是有一個明確的邊界。但是他者理論的問題也非常明顯，這一理論預(yù)設(shè)了機(jī)器的自主性，即作為他者的存在。而在增強(qiáng)智能的問題上，很顯然自主性并不是關(guān)鍵的，缺乏自主性也并不妨礙獨立他者的存在。所以在前述電氣和電子工程師協(xié)會的選擇中就確定這一種方式，增強(qiáng)智能不同于人工智能，它缺乏自主性，但是它確實是一個有限度的智能體。背景關(guān)系、解釋學(xué)關(guān)系就更加無法用來解釋增強(qiáng)智能現(xiàn)象。此外，維貝克的賽博格關(guān)系和復(fù)合關(guān)系是否可以用來描述增強(qiáng)智能呢？很顯然，賽博格關(guān)系是一個較小的范疇，僅僅適合用來描述智能增強(qiáng)現(xiàn)象中的一般關(guān)系：“它們不是人類意向性的技術(shù)調(diào)節(jié)性，而是被定位在超人類上。就像借助植入芯片看東西或者在藥物影響下體驗現(xiàn)實的存在一樣，它們都不會是這種存在的意向性?！保?0］177更為準(zhǔn)確地說，賽博格關(guān)系是用來描述賽博格體或者通過技術(shù)手段來實現(xiàn)增強(qiáng)的人類意向，也就是前文所論的智能增強(qiáng)的意向關(guān)系。在維貝克提出的復(fù)合關(guān)系中，人與機(jī)器構(gòu)成了一個復(fù)合系統(tǒng)：“當(dāng)技術(shù)裝置的指向性增加到人類意向性時，復(fù)合意向性產(chǎn)生了：這種意向性源自將技術(shù)意向性附加到人類意向性的過程中?！保?0］144在增強(qiáng)智能問題上，兩者的確構(gòu)成了一個復(fù)合系統(tǒng)，或準(zhǔn)確地說是更為復(fù)雜的共生系統(tǒng)。然而維貝克的復(fù)合關(guān)系分析在靜態(tài)意義上是有效的，并未觸及共生關(guān)系的意向性。在共生關(guān)系中，人類的意向性還是顯示出明顯的自主性和主動性，而機(jī)器意向性則是等待被觸發(fā)的狀態(tài)。此外，增強(qiáng)關(guān)系也是有效的，因為人類智能的確在機(jī)器智能的幫助下獲得了提升，比如可以幫助人類做出更好的決策。

三、增強(qiáng)智能范疇的道德化

前文對增強(qiáng)智能的哲學(xué)化闡述，其目的在于強(qiáng)調(diào)增強(qiáng)智能和人工智能以及智能增強(qiáng)區(qū)分開來的必要性，并指出人機(jī)關(guān)系是建立在共生基礎(chǔ)之上的，這種共生關(guān)系可以通過技術(shù)現(xiàn)象學(xué)獲得解釋。接下來需要對智能道德化的觀念加以闡述。通過這種闡述，使得增強(qiáng)智能的規(guī)范性意義得以顯現(xiàn)，并為智能機(jī)器確定它應(yīng)具有的道德地位。

從理論上看，對智能道德化闡述可以借助維貝克的“將技術(shù)道德化”觀念。維貝克強(qiáng)調(diào)了將技術(shù)道德化的雙重意義：一是闡述了人的道德性是由技術(shù)構(gòu)建的，而不是單獨由理性和行動因素所主導(dǎo)。在維貝克看來，人的意向性是由技術(shù)共同構(gòu)建的結(jié)果?！耙庀蛐圆⒎莾H僅是純粹人類的事物——意向性常常是人—技術(shù)組合的事物?！保?0］81這也是他對兩者關(guān)系進(jìn)行現(xiàn)象學(xué)化的結(jié)果。在此基礎(chǔ)上，他進(jìn)一步將技術(shù)物道德相關(guān)性問題概念化?！安粌H客體有道德意蘊(yùn)，而且主體也是被技術(shù)調(diào)節(jié)的；技術(shù)有道德屬性，倫理在與技術(shù)的交互作用中形成?！保?0］111二是將技術(shù)作為道德相關(guān)性實體來理解。“為了公平對待社會、人類生活中技術(shù)的復(fù)雜作用，需要將技術(shù)作為道德相關(guān)性實體闡述，而不是僅僅作為具有道德的人類手中的工具?！保?0］146這種做法是對技術(shù)工具論理解方式的一種抵抗。但是一些學(xué)者將其誤解為“道德物化”觀念，比如將道德物化到技術(shù)物之中。這種解讀顯然遵循了一種現(xiàn)代主義的路徑，也是維貝克明確反對的。“因此，設(shè)計調(diào)節(jié)不能看作是現(xiàn)代主義者的事業(yè)，其中人類主體將道德銘刻入技術(shù)物，影響人類行為?！保?0］144其觀點的本意是在對抗技術(shù)工具論過程中將技術(shù)作為道德實體來對待。

維貝克確立起技術(shù)的道德能動性和道德相關(guān)性實體的做法，也相當(dāng)于打開了道德物化的潘多拉盒子，給學(xué)術(shù)界帶來了一定的混亂。比如有些學(xué)者認(rèn)為技術(shù)會產(chǎn)生強(qiáng)硬的調(diào)節(jié)作用，因此便提出要以凸顯技術(shù)的柔性調(diào)節(jié)作用來做補(bǔ)充。比如地鐵入口的排隊圍欄與火車站自動取票機(jī)放置身份證的斜面就是兩個不同的設(shè)計。排隊圍欄是用金屬管組裝而成，乘客只能一個接一個地排隊，盡管有序，但是不得不排隊，這就是技術(shù)物的強(qiáng)硬調(diào)節(jié)。而取票機(jī)的斜面設(shè)計則是通過斜面來提醒乘客要按住身份證，否則會掉到地上。這樣的斜面設(shè)計就是一種柔性調(diào)節(jié)，以防止遺忘身份證。還有學(xué)者認(rèn)為，強(qiáng)調(diào)技術(shù)的能動性、實體性會剝奪人的尊嚴(yán)和自由。對于這一點，維貝克做出了很多回應(yīng)，比如他認(rèn)為倫理是在與技術(shù)的交互中形成的，他還提出技術(shù)物的道德相關(guān)性和包括技術(shù)調(diào)節(jié)在內(nèi)的道德能動性（主體）等理論。他并不是要取消人類的能動性、自由和尊嚴(yán)，而是強(qiáng)調(diào)技術(shù)的調(diào)節(jié)作用。大多數(shù)學(xué)者能夠理解建構(gòu)這一表達(dá)，這是拉圖爾、芬伯格等人的理論觀點，它在經(jīng)驗層面上突出了技術(shù)的經(jīng)驗建構(gòu)作用；而維貝克采用調(diào)節(jié)這一概念，其哲學(xué)根基可以追溯到黑格爾，在他的辯證法中，調(diào)節(jié)有著非常重要的作用，更加強(qiáng)調(diào)對立雙方的互動作用。因此，在維貝克這里，人的能動性與技術(shù)的道德性在不斷演化之中。

澄清了維貝克的將技術(shù)道德化觀念之后，再來討論增強(qiáng)智能的道德化就變得容易了。按照電氣和電子工程師協(xié)會的說法，在共生系統(tǒng)中，功能的增強(qiáng)是一個非常明顯的事實。它表現(xiàn)為必須要捍衛(wèi)人的自主性地位，而對機(jī)器的自主性地位加以抑制。但是，共生系統(tǒng)中的道德性絕不是如此簡單。首先，存在于共生系統(tǒng)中的兩個物種是獨立的、不同的子系統(tǒng)，它們之間呈現(xiàn)出一種彼此依存的狀態(tài)。自然界的陸地共生系統(tǒng)多為動物和植物的共生系統(tǒng)；海洋世界也有一些共生系統(tǒng)，珊瑚礁就是一個動植物共生系統(tǒng)，珊瑚礁周圍生存著海葵、小丑魚、巨蛤、海膽、巧克力屑海星。［21］所以，在這樣一個共生系統(tǒng)中，并沒有一個絕對的主體，不同共生的系統(tǒng)元素構(gòu)成一個大的生態(tài)系統(tǒng)。而把人類—機(jī)器這樣的系統(tǒng)稱為共生系統(tǒng)，則有很多問題。其次，人與機(jī)器之間并不存在依存關(guān)系。前文提到的六指或者六臂系統(tǒng)，都是用于增強(qiáng)人體功能。這些裝置或許也具有智能，但是不存在對人體的依賴，換句話說，這是一種單向度的依賴，是人對技術(shù)裝置的依賴。如果人類放棄這個限制，那么也意味著增強(qiáng)系統(tǒng)無法存在；對于智能機(jī)器來說，它始終是作為獨立的智能體存在，其對于人類并不存在依賴關(guān)系。對于治療性的智能系統(tǒng)來說，比如腦機(jī)接口裝置，人類對它的依賴更是如此。在最近關(guān)于漸凍癥的報道中，患者可以通過腦機(jī)接口裝置表達(dá)自己的意圖，一種非常強(qiáng)烈的患者對智能體的依賴關(guān)系建立起來了。這里并不存在具身關(guān)系，患者已然喪失了意識表達(dá)以及身體行動的能力。最后，共生系統(tǒng)不僅能夠使不同物種更好地生存，而且還增強(qiáng)了多樣性。在珊瑚礁共生系統(tǒng)中，如果珊瑚礁健康，那么其他的物種能夠很好地生存，反過來也保證了珊瑚礁的生存。在這個過程中，生物物種的多樣性會增多。［22］在人機(jī)系統(tǒng)之中，只是智能機(jī)器增強(qiáng)了人類生存的多樣性，而機(jī)器本身卻沒有任何可能的多樣性。這一情況在各種智能決策系統(tǒng)中皆如此。只要有利于問題的解決，人的決策可以具有多樣性；但是機(jī)器決策的多樣性最終會停止于人類的終極決策之前。所以，自然界中共生系統(tǒng)的道德化結(jié)果無法在人—機(jī)器這樣的系統(tǒng)中加以復(fù)現(xiàn)。

將增強(qiáng)智能道德化還有一層含義，即將人類主導(dǎo)—機(jī)器輔助的關(guān)系作為規(guī)范性范疇確立起來。在所有經(jīng)驗領(lǐng)域的增強(qiáng)智能分析中，都強(qiáng)調(diào)這樣一個基本觀念：人類主導(dǎo)而機(jī)器輔助。在醫(yī)療領(lǐng)域內(nèi)，醫(yī)生可以參考人工智能的診斷結(jié)果，但是能否最終采納還必須經(jīng)過更大范圍醫(yī)生團(tuán)體的最終決策；在法院系統(tǒng)中，即使有智能審判，最終決策權(quán)也需要掌握在法官手中。這樣做的倫理原則是守護(hù)人類的自主性。所以，電氣和電子工程師協(xié)會的增強(qiáng)倫理定義將這一點看作與人工智能相區(qū)別的地方。而按照維貝克的理論來看，人類自主性屬于道德領(lǐng)域的一個原則，而倫理是在與技術(shù)的互動中形成的。因此，自主性也是在與技術(shù)的互動中形成。技術(shù)可以起到提醒、助推作用，特別是可以通過功能設(shè)計來實現(xiàn)。比如在自動取票機(jī)器上，斜面要比平面更容易防止遺忘身份證。智能技術(shù)不需要通過話語來實現(xiàn)，通過話語的方式是人類強(qiáng)制性的表現(xiàn)，而只是通過一種技術(shù)的方式表達(dá)出來。智能機(jī)器的語音提醒在異常嘈雜的環(huán)境或者緊急狀況下未必能夠發(fā)揮實際作用。這種聲音設(shè)計得如何悅耳都無關(guān)緊要。而對于技術(shù)來說，功能才是根本的。智能技術(shù)可以通過功能的設(shè)計來實現(xiàn)友情提醒。比如在排隊圍欄中，設(shè)計成S 型或者直線型就會直接影響人們的行為。因此，人類主導(dǎo)而機(jī)器輔助的原則并不是一個有效原則，而是傳統(tǒng)的人類中心主義原則的體現(xiàn)。所以，增強(qiáng)智能道德化有利于將某種關(guān)系規(guī)范化，但絕不是人類主導(dǎo)而機(jī)器輔助。隱含在其中的是共生關(guān)系（自然科學(xué)式）、意向—調(diào)節(jié)關(guān)系（后現(xiàn)象學(xué)式），被規(guī)范化的是兩者互相生成，這一點不僅有利于系統(tǒng)多樣性，更有利于個體的進(jìn)化。從根本上來說，這是一種利他主義的原則。從本質(zhì)上看，它不是基于親近關(guān)系的利他原則，也不是同理心生成的利他原則，而是在共生之中孕育的利他主義原則。需要說明的是，共生系統(tǒng)未必總是孕育出利他主義原則。在共生系統(tǒng)之中，有的物種之間甚至存在彼此傷害的關(guān)系。這種情況下，根本不可能生成利他主義原則。而這種情況在共生哲學(xué)的觀念中是沒有地位的。

四、增強(qiáng)智能用于人工智能倫理的可能性探析

通過哲學(xué)化分析可以看出，增強(qiáng)智能凸顯的是人與智能機(jī)器的關(guān)系，應(yīng)該將之放置于更大范圍的人—技術(shù)的關(guān)系之中。增強(qiáng)智能的意向性和關(guān)系可以在調(diào)節(jié)關(guān)系之中加以分析；通過道德化分析，可以看出，目前特定領(lǐng)域的增強(qiáng)智能是建立在人類主導(dǎo)而機(jī)器輔助這樣一種道德關(guān)系之上。這還是人類中心的立場，與人類—智能機(jī)器的真正關(guān)系還離得很遠(yuǎn)。從共生的范疇看，共生不僅是自然世界中的一種重要關(guān)系，而且也是技術(shù)世界中的關(guān)系范疇。日本學(xué)者的做法讓我們看到了存在于建筑界的共生理念，他們甚至將之當(dāng)作日本文化的一個特質(zhì)，“共生概念的根源可以在佛教哲學(xué)和傳統(tǒng)日本文化之中找到”，［16］7它不同于中國文化的和諧觀念。如果將共生作為增強(qiáng)智能的哲學(xué)基礎(chǔ)，那么會對人工智能倫理有著怎樣的幫助呢？這將最后一個問題提上日程，即如何將增強(qiáng)智能作為人工智能倫理的可能性基礎(chǔ)范疇描述出來。

在人工智能治理上存在著技術(shù)路徑與人文路徑的差異。技術(shù)路徑是從技術(shù)出發(fā)去探討倫理問題及其治理的，比如符合倫理原則的人工智能設(shè)計。在這一路徑中，信任成為重要的倫理原則，所以，可信人工智能等技術(shù)解決方案得以出現(xiàn)。從技術(shù)難題入手探討人工智能倫理問題會重新回到人工智能發(fā)展給人類社會帶來的哲學(xué)、社會和技術(shù)三個方面的基本難題。因此，討論人工智能倫理從根本上來說還是要從應(yīng)對人工智能發(fā)展面臨的難題入手。人文路徑從人文原則出發(fā)提出人工智能倫理問題及其治理。目前對人工智能倫理的思考多是從人類的權(quán)利和原則出發(fā)來構(gòu)建倫理框架，如信任、安全、自主和尊嚴(yán)。而增強(qiáng)智能這樣的范疇具有開放性：一方面，它來自技術(shù)領(lǐng)域，它是工程領(lǐng)域中的一個方向，以共生系統(tǒng)為基礎(chǔ)，因此，其自身及根基都屬于技術(shù)領(lǐng)域；另一方面，它又包含明確的人文維度，即人類與機(jī)器的共生狀態(tài)。

從上文分析可以看出，增強(qiáng)智能具有兩個層面的意義：一是表層的輔助關(guān)系，在這個框架之中，人類決策處于最終決策的位置，這種最終決策權(quán)使得系統(tǒng)變得可控。但是這個原則只是規(guī)范性的，這也是人類中心立場的一個必然結(jié)果，人類通過規(guī)范化的方式讓智能機(jī)器處于輔助地位。這意味著在整個系統(tǒng)設(shè)計時繼續(xù)貫穿現(xiàn)代主義的原則，將某些先驗原則嵌入到機(jī)器之中。二是深層的共生關(guān)系。在這個框架之中，人類與智能機(jī)器保持著共生關(guān)系，可能相愛，也可能相殺。這里的關(guān)系不可能像人類中心立場所主張的，機(jī)器始終處于附屬地位。對于人工智能而言，其進(jìn)化是不可避免的，奇點的出現(xiàn)不僅在進(jìn)化論意義上是可以實現(xiàn)的，同時在時間哲學(xué)上也有其根據(jù)：“時刻”（Kairos，moment）的時間觀念成為奇點來臨的前提。借助弗洛里迪的信息圈來看這個共生系統(tǒng)，可能更加容易理解。人們貢獻(xiàn)著信息，同時又享有信息帶來的便利，從而實現(xiàn)了兩者的共生。在人類—機(jī)器的共生系統(tǒng)之中，人類是一個獨立的物種，智能機(jī)器也是一個獨立的物種，分別依賴于硅基生物與碳基生物的不同發(fā)展。在技術(shù)演化當(dāng)中，人類自身的行為促使兩者相互結(jié)合：從生物體角度來說，人類大腦神經(jīng)元將近1000 億，比果蠅的要豐富得多。而現(xiàn)在科學(xué)家可以在果蠅的大腦神經(jīng)網(wǎng)絡(luò)上跑算法，效率大大提高。［23］從這一技術(shù)出發(fā)輔以一點想象力，自然會出現(xiàn)這樣一幅圖景：利用人類大腦跑算法，具有必然的效率。在這個思想實驗之中，一個復(fù)雜的問題出現(xiàn)了：當(dāng)特定的算法進(jìn)入人類大腦運行時，本體的意識被暫停，此時一個特定的哲學(xué)僵尸出現(xiàn)了。當(dāng)問題解決，算法離開人類大腦，本體意識又恢復(fù)原狀。

因此，如果把增強(qiáng)智能作為人工智能治理原則，那么就不應(yīng)該采取表層的輔助關(guān)系含義。這種關(guān)系始終捍衛(wèi)著人類最終的決策地位。這相當(dāng)于讓智能機(jī)器缺乏自主性，而始終擁戴人的自主性地位。將增強(qiáng)智能作為人工智能的倫理原則時，則與人類獨立性無關(guān)。在這個系統(tǒng)中，智能機(jī)器保持著獨立地位，算法獨立運行。堅持這種輔助關(guān)系會延續(xù)傳統(tǒng)技術(shù)邏輯。在傳統(tǒng)技術(shù)邏輯之中，人類自身有一種傲慢情結(jié)，試圖掌控一切。就如《蟲族》（Swarm）的情節(jié)，自認(rèn)為是高級物種的人類想掌控蟲族，使之繁殖并利用它們，最后遭到反噬，“智慧不是有利生存的特質(zhì)”這句臺詞則暗示了人類掌控世界的后果。人類運用智能的結(jié)果就是使得神之笑成為可能，使得蟲族反噬自己?！度齻€機(jī)器人：退出策略》（Three Robots:Exit Strategies）從機(jī)器人的視角展開了后世界末日人類生存狀況（post-apocalyptic humanity）的調(diào)查，為了解機(jī)器文化以及未來生存提供幫助。人類刻薄地對待機(jī)器人，最后遭到機(jī)器人的反抗。這也是傳統(tǒng)技術(shù)邏輯的一種展現(xiàn)，人類利他主義行為的產(chǎn)生是建立在親緣關(guān)系之上的。他們無法與作為工具的機(jī)器之間建立起一種親緣關(guān)系，所以也談不上利他行為的出現(xiàn)。懸置這兩部作品的科幻維度，我們把其中人—機(jī)器、人—蟲族的關(guān)系展現(xiàn)出來，這兩個層次的內(nèi)涵彰顯了一種獨特的道德關(guān)系：人類智能與機(jī)器智能和其他物種之間的關(guān)系，人工智能試圖控制智能機(jī)器、蟲族而最終被反殺。這一邏輯顯然有其不足之處。因為擔(dān)心遭到反殺，所以采取了不被控制的共生關(guān)系。

在共生的哲學(xué)解釋之中，必須懸置所有的未來想象因素。我們可以保留的是其對抗傳統(tǒng)技術(shù)邏輯的規(guī)定性，并且把智能機(jī)器理解為按照動物進(jìn)化法則進(jìn)化的能動體。［24］這一點是人工智能科學(xué)研究給予我們的結(jié)論。20多年前，尼葛洛龐帝在互聯(lián)網(wǎng)的跡象中看到了數(shù)字化生存的未來圖景，如今一切都在緩慢實現(xiàn)中。而今天出現(xiàn)了按照動物進(jìn)化法則自主進(jìn)化的智能體，人們能夠利用果蠅大腦神經(jīng)網(wǎng)絡(luò)跑算法。那么未來生存是怎樣的圖景呢？適當(dāng)?shù)募夹g(shù)想象可以幫助我們揭示出一個場景，即與智能體的共生狀態(tài)。當(dāng)然，從維貝克的后現(xiàn)象學(xué)來看，這種觀念還是顯得有些過度想象。我們與智能體之間的增強(qiáng)關(guān)系顯然需要一種新的解釋，而澄清這一點才能夠為未來人機(jī)關(guān)系的建立確定倫理基礎(chǔ)。

至少在未來人類—智能機(jī)器關(guān)系的過程中，防止人類傲慢的滋生和機(jī)器恐懼的出現(xiàn)才是治理過程中最需要關(guān)注的問題。正如前文所述：共生無法防止傲慢的滋生蔓延，這種傲慢是形而上的產(chǎn)物。另一種做法是求助于謙虛與仁愛的美德，因為我們的確承認(rèn)美德倫理具有的獨特地位。然而，盡管謙遜是一種美德，但是在傲慢面前它難以承擔(dān)對抗的使命。唯有記憶才有此可能性。此外，恐懼是人類自主意識誕生的條件，［25］如此推演下去，機(jī)器恐懼也是機(jī)器自主意識誕生的條件。目前，情感計算為人工智能情感提供了一種算法上的可能。僅僅從路徑上看，似乎并沒有什么可擔(dān)憂之處，而且也能夠為護(hù)理、陪護(hù)機(jī)器人提供理論根據(jù)。但是若從情感構(gòu)成來看，真正的問題卻被現(xiàn)有的情感觀念掩蓋起來。在愛、親切、溫柔等詞匯后面還隱藏著怨恨、冷漠、粗暴等情感狀態(tài)。再回看《三個機(jī)器人：退出策略》中的人類的刻薄導(dǎo)致了機(jī)器的反抗這一問題，這只是指出了其中的一面，而真正的關(guān)鍵是機(jī)器的恐懼導(dǎo)致了機(jī)器的反抗。

五、結(jié)語

在人工智能領(lǐng)域中，存在著一個悖論：一方面奇點呼聲明顯增高，很多學(xué)者指出了奇點到來的不可避免性。庫茨韋爾就指出，在2045 年，計算機(jī)智能將超越人類，英國學(xué)者博斯特羅姆指出了超級智能出現(xiàn)的可能性風(fēng)險和問題。［26］另一方面，面對超級人工智能，學(xué)界卻有諸多的批判，甚至有觀點認(rèn)為其不可能出現(xiàn)。“在本質(zhì)上，包含全體是不可能的，因為這是計算理論內(nèi)在的基本缺陷。假設(shè)一個超級智能包括這樣一個程序：它包含了所有能夠被普遍運行的圖靈機(jī)器的程序，其輸入狀態(tài)與世界狀態(tài)一樣復(fù)雜，需要嚴(yán)格包含這樣程序的模擬，即對一些理論（實踐上）不可能之物的模擬。”［27］這個悖論的背后實際上是人們對超級智能的一種擔(dān)憂。

從表面來看，增強(qiáng)智能規(guī)范化的結(jié)果就是要在人與機(jī)器之間建立起人類主導(dǎo)—機(jī)器輔助的關(guān)系。這種做法略顯短見，從根本上無法擺脫主仆關(guān)系的約束。在這種關(guān)系，主人始終是主導(dǎo)地位，仆人始終是服務(wù)于主人的。此外，在人類與智能機(jī)器之間建立輔助關(guān)系始終還是以人類為中心的，是一種現(xiàn)代主義的邏輯，試圖把機(jī)器控制在人類自己的手中。從深層次來看，共生關(guān)系值得關(guān)注。在自然界、工程科學(xué)領(lǐng)域等共生系統(tǒng)中的增強(qiáng)智能規(guī)范化之后，會有一種新的共生關(guān)系顯現(xiàn)出來。當(dāng)然，在這種關(guān)聯(lián)之中，可能會出現(xiàn)生物學(xué)意義上的反噬現(xiàn)象。我們原有的生物結(jié)構(gòu)并無法接受智能技術(shù)帶給我們的改變。這意味著在這種關(guān)系之中，共生除了互相促進(jìn)之外，還有一種削弱的作用需要受到關(guān)注。如對于智能技術(shù)的依賴性會越來越強(qiáng)，從而導(dǎo)致原有生理功能的退化。