宋春艷

人機(jī)融合智能是人與機(jī)器人協(xié)同形成的群體智能，是人工智能發(fā)展的高級(jí)階段，甚至可能是保證人工智能向善發(fā)展的唯一路徑。語(yǔ)言是自我意識(shí)和主體性的載體，ChatGPT 的橫空出世讓人們開(kāi)始思考人機(jī)之間是否產(chǎn)生交互主體性。這到底是一個(gè)理論問(wèn)題還是一個(gè)實(shí)踐問(wèn)題呢？

一、人機(jī)融合智能的含義

人機(jī)融合一直是人類的夢(mèng)想，科學(xué)家為此進(jìn)行了長(zhǎng)期的努力，早期的“人因工程”就對(duì)人機(jī)融合進(jìn)行了科學(xué)探索。國(guó)內(nèi)自動(dòng)化界學(xué)者劉偉首先明確提出“人機(jī)融合智能”這一概念，認(rèn)為人機(jī)融合智能是由人、機(jī)、環(huán)境相互作用而產(chǎn)生的新型智能系統(tǒng)［1］（216）。大數(shù)據(jù)人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機(jī)混合智能、自主智能系統(tǒng)是目前最主要的五類人機(jī)融合智能［2］（1-2）。人機(jī)融合智能吸收了人工智能與人類智能各自的優(yōu)點(diǎn)，在輸入端，將傳感器采集到的客觀數(shù)據(jù)與人的感知主觀信息整合，形成新的識(shí)別；在信息處理階段，將人工智能的計(jì)算能力與人的認(rèn)知相結(jié)合，形成新的理解；在智能輸出端，將計(jì)算機(jī)迭代的算法與人在決策中體現(xiàn)的價(jià)值效應(yīng)相互匹配，形成新的判斷［3］（8-9）。本文認(rèn)為，人機(jī)融合智能就是人與智能機(jī)器人（包括硬件機(jī)器人和軟件機(jī)器人）通過(guò)網(wǎng)絡(luò)連接起來(lái)，形成一個(gè)人機(jī)優(yōu)勢(shì)互補(bǔ)、信息交互的群體智能系統(tǒng)。當(dāng)代人機(jī)融合智能的“機(jī)”在技術(shù)上不再局限于基于傳統(tǒng)信息技術(shù)的計(jì)算機(jī)，而是指由會(huì)聚技術(shù)構(gòu)成的智能機(jī)器人，“環(huán)”（環(huán)境）則指網(wǎng)絡(luò)環(huán)境。

人機(jī)融合智能是一種群體智能已經(jīng)成為共識(shí)。當(dāng)前，在仿生學(xué)、人類學(xué)、認(rèn)知心理學(xué)、計(jì)算機(jī)科學(xué)等交叉研究的基礎(chǔ)上，群體智能的外延已經(jīng)從自然群體智能擴(kuò)展為人工群體智能，也即從自然界簡(jiǎn)單的動(dòng)物種群、復(fù)雜的人類群體擴(kuò)展為人工機(jī)器群體以及多樣的人機(jī)交互的智能群體［4］（134）。由此，人機(jī)融合智能可以粗略地分為兩類：一類是人工機(jī)器群體，人是隱性出現(xiàn)的，人機(jī)交互也是隱形的；另一類是人機(jī)交互的智能群體，人是顯性出現(xiàn)的，人機(jī)交互也直觀可見(jiàn)，不僅有語(yǔ)言交互，還有手勢(shì)交互，面部表情交互等。本文的人機(jī)融合智能主要指第二類。人機(jī)融合智能是人與智能機(jī)器人組成的群體智能，為了剖析人機(jī)融合智能的自我意識(shí)與交互主體性的關(guān)聯(lián)，需要首先厘清作為組成部分的人的自我意識(shí)與主體性的關(guān)聯(lián)、智能機(jī)器人自我意識(shí)與主體性的關(guān)聯(lián)，然后再討論作為群體的人機(jī)融合智能的自我意識(shí)與主體性的關(guān)聯(lián)。

二、人的自我意識(shí)與主體性的關(guān)聯(lián)

自我意識(shí)是主體性的前提。在西方哲學(xué)傳統(tǒng)里，“自我”（self/ego）與“主體”含義接近，甚至等同使用?！杜＝蛘軐W(xué)詞典》中，“主體”（subject）與“自我”（ego）具有同樣的含義?！爸黧w性”（subjectivity）是言說(shuō)者把自己建構(gòu)成一個(gè)主體的能力。語(yǔ)言對(duì)人主體性的建構(gòu)起到了不可或缺的作用，因?yàn)橹挥醒哉Z(yǔ)者用人稱代詞“我”建立起一個(gè)觀察和認(rèn)識(shí)主體，自我意識(shí)和自我概念才得以建構(gòu)［5］（10）。擁有自我意識(shí)，才能建構(gòu)主體，因此，自我意識(shí)是主體性的前提。

自我意識(shí)是心智的重要內(nèi)容。諾貝爾生理學(xué)或醫(yī)學(xué)獎(jiǎng)獲得者?？藸査乖凇赌X的進(jìn)化：自我意識(shí)的創(chuàng)生》（Evolution of the Brain：Creation of the Self）一書中指出，自我意識(shí)是心智中最高級(jí)的精神體驗(yàn)，這意味著一個(gè)個(gè)體知道他自己知道，當(dāng)然最初這是一個(gè)主觀的或自省性的判斷標(biāo)準(zhǔn)。然而，通過(guò)語(yǔ)言交流，個(gè)體可以驗(yàn)證其他人也同樣具有這樣的自知經(jīng)驗(yàn)［6］（218）。通過(guò)“我”的表述，主體性得以建構(gòu)，因此語(yǔ)言不僅是自我意識(shí)的載體，也是主體性的載體。

胡塞爾認(rèn)為，先驗(yàn)主體間性是絕對(duì)的并且是唯一自足的本體論基礎(chǔ)，每個(gè)客觀事物都從那里獲得其意義和有效性。這種主體間性概念實(shí)際上是一個(gè)交互（inter）-主體性概念，即主體之間的關(guān)系［7］（118-119），而主體間世界是主體間經(jīng)驗(yàn)的相關(guān)項(xiàng)，即以“移情作用”為中介的經(jīng)驗(yàn)［8］（364），回答了“我怎樣才能經(jīng)驗(yàn)另外一個(gè)主體”的問(wèn)題。胡塞爾的主體間性是一種先驗(yàn)的社會(huì)性，自我構(gòu)成了他者，客體被懸擱。海德格爾的觀點(diǎn)與此一致，主體間性則指向存在或解釋活動(dòng)中的人與世界的同一性。它不是主客對(duì)立的關(guān)系，而是主體與主體之間的交往、理解關(guān)系［5］（11）。二人都把交互主體性作為一種本體論論題，交互主體性由此成為自我的原初存在方式，我原初就是作為“我們”——交互主體性——而存在，就此而言，人所體驗(yàn)到的一切意義也都是交互主體性的［9］（83）。胡塞爾還將心理學(xué)中的“共情”（empathy）概念引入現(xiàn)象學(xué)主體間性（即交互主體性）的研究中，認(rèn)為主體間性就是純粹的自我意識(shí)如何在自身意識(shí)經(jīng)驗(yàn)中構(gòu)造出他人［10］（189）。這對(duì)機(jī)器人人工共情設(shè)計(jì)具有重要的啟發(fā)意義。

三、智能機(jī)器人被動(dòng)獲得類主體地位與自我意識(shí)的懸擱

當(dāng)前，智能機(jī)器人尚處于弱人工智能階段。學(xué)界主流的觀點(diǎn)認(rèn)為，人工智能（或智能機(jī)器人）是沒(méi)有自我意識(shí)的，包括ChatGPT，所以不能成為人工道德行為體。這是否意味著機(jī)器人倫理學(xué)就無(wú)法推進(jìn)了呢？考科爾伯格（Mark Coeckelbergh）另辟蹊徑提出基于經(jīng)驗(yàn)的人類中心倫理，認(rèn)為應(yīng)從關(guān)注機(jī)器人內(nèi)在的意識(shí)和心智轉(zhuǎn)向關(guān)注機(jī)器人在人機(jī)互動(dòng)中外在表現(xiàn)的倫理意義和關(guān)注并想象個(gè)人與機(jī)器人一起實(shí)現(xiàn)美好生活的可能性［11］（217-221）。在這一外在主義思路下，機(jī)器人倫理研究不應(yīng)將焦點(diǎn)放在如何實(shí)現(xiàn)機(jī)器人的意識(shí)上，而應(yīng)重點(diǎn)關(guān)注機(jī)器人在我們?nèi)祟惖囊庾R(shí)中是如何出現(xiàn)的；不應(yīng)爭(zhēng)論如何賦予機(jī)器人責(zé)任和權(quán)利，而應(yīng)研究、想象和設(shè)計(jì)如何讓機(jī)器人幫助人類實(shí)現(xiàn)美好生活。這就使得機(jī)器人可以在自我意識(shí)“懸擱”的同時(shí)仍然能夠?qū)崿F(xiàn)“向善”的目標(biāo)，人工共情的設(shè)計(jì)是實(shí)現(xiàn)這一目標(biāo)的重要手段。人工共情的設(shè)計(jì)初衷在于利用機(jī)器人的社交表現(xiàn)激發(fā)人類情感反應(yīng)能力，是一種單向的人對(duì)機(jī)器人的共情。其中，作為使用者的人在交互時(shí)賦予了機(jī)器人主體地位，這是一種非對(duì)稱共情。根據(jù)“非對(duì)稱社會(huì)互動(dòng)感知論”，雖然共情（empathy，原文作者譯為“移情”——引者注）主體之間感知能力不對(duì)稱，但依賴占據(jù)優(yōu)勢(shì)地位的人的先驗(yàn)認(rèn)知能力和共情對(duì)象的行為表現(xiàn)，在有交互“氛圍”生成的社會(huì)環(huán)境中也可能實(shí)現(xiàn)共情［10］（191）。新近橫空出世的ChatGPT 雖然號(hào)稱具有驚艷的思維鏈推理能力，但邏輯推理的有效性并不能保證結(jié)論一定正確，正因?yàn)槿绱?，使用者才?huì)戲謔ChatGPT 是在“一本正經(jīng)地胡說(shuō)”。不過(guò)，ChatGPT 確實(shí)是目前最為優(yōu)秀的大語(yǔ)言模型，它對(duì)使用者說(shuō)話意圖的準(zhǔn)確把握和無(wú)所不知的響應(yīng)讓使用者誤以為其已經(jīng)具備和人一樣的思維能力和自我意識(shí)，從而將Chat-GPT 看作聊天伙伴或者助手而不是冷冰冰的機(jī)器，賦予其主體地位。

當(dāng)交互主體性成為自我的存在方式，人機(jī)融合成為新的人機(jī)關(guān)系，人機(jī)交互主體性的產(chǎn)生就成為必然。人機(jī)交互主體性的存在使得智能機(jī)器獲得類似于人的主體地位，這種主體地位是被動(dòng)獲得的，是由人賦予的，因此并不必然要求智能機(jī)器人具有自我意識(shí)。智能機(jī)器人的自我意識(shí)在此時(shí)被“懸擱”，類似于胡塞爾在交互主體性中將“客體”懸擱。

四、人機(jī)融合智能的自我意識(shí)與交互主體性

1.人機(jī)融合智能自我意識(shí)的產(chǎn)生途徑和本質(zhì)

人機(jī)融合智能是一種群體智能，人機(jī)融合智能自我意識(shí)的研究必然繞不開(kāi)人機(jī)融合的路徑探討。近年來(lái)，一些學(xué)者從身體與技術(shù)的相互建構(gòu)來(lái)探討人機(jī)融合的哲學(xué)基礎(chǔ)，“他心”作為哲學(xué)中的經(jīng)典問(wèn)題在人機(jī)融合智能的研究熱潮中再次受到重視。崔中良和王慧莉借助梅洛-龐蒂關(guān)于他心的經(jīng)驗(yàn)基礎(chǔ)研究，將“融合社交”作為人機(jī)交互的哲學(xué)基礎(chǔ)，認(rèn)為感知生成是人機(jī)交互的現(xiàn)象基礎(chǔ)，經(jīng)驗(yàn)沉淀為人機(jī)交互提供歷時(shí)可能性，通感是實(shí)現(xiàn)人機(jī)交互的功能表現(xiàn)［12］（136）。高慧琳和鄭保章基于麥克盧漢“媒介是人的延伸”理論提出“人機(jī)融合”理念，并從人與機(jī)器的感知融合、行為融合和思維融合出發(fā)，探討了人機(jī)融合的本體性、漸進(jìn)性和辯證性，并號(hào)召賦予人機(jī)融合智能設(shè)備積極的意識(shí)引導(dǎo)和正確的價(jià)值觀［13］（27-32）。

科學(xué)家和工程師對(duì)人機(jī)融合提出了更具實(shí)踐意義的路徑，人機(jī)融合就是將人的意向性與機(jī)器的形式化進(jìn)行綜合，從而使得人機(jī)融合智能能夠像人那樣對(duì)事情發(fā)展時(shí)態(tài)及趨勢(shì)進(jìn)行準(zhǔn)確預(yù)測(cè)。其中，意向性是對(duì)內(nèi)在感知的描述（心理過(guò)程、目的、期望），形式化是對(duì)外在感知的描述（物理機(jī)理、反饋）［14］（288）。如何構(gòu)建人機(jī)兩者的溝通模式呢？美國(guó)軟件設(shè)計(jì)師、交互設(shè)計(jì)之父艾倫·庫(kù)伯（Alan Cooper）提出的“用戶畫像”模型頗具探索性。用戶畫像可將用戶所擁有的知識(shí)、價(jià)值、情感等模型轉(zhuǎn)化為機(jī)器可理解的計(jì)算模型。在基于對(duì)用戶理解的基礎(chǔ)上，機(jī)器可以進(jìn)一步地改變自身的行為模式來(lái)適應(yīng)人的感覺(jué)方式，使得人機(jī)交互能夠盡可能地根據(jù)使用者的需求，適應(yīng)人的特點(diǎn)，形成最和諧的人機(jī)融合［14］（297-300）。也就是說(shuō)，在人機(jī)融合中機(jī)器主動(dòng)適應(yīng)人，而不是人主動(dòng)適應(yīng)機(jī)器，盡管人們習(xí)慣性地仍將人機(jī)融合與人機(jī)交互不加區(qū)分地使用。研究表明，當(dāng)類人機(jī)器人能夠?qū)κ褂谜弋a(chǎn)生共鳴（show empathy）和互動(dòng)時(shí)，其接受度更高［15］（1）。這種機(jī)器人表現(xiàn)出來(lái)的情感共鳴會(huì)讓使用者產(chǎn)生共情反應(yīng)，提升用戶體驗(yàn)效果。

人機(jī)融合智能雖然可以實(shí)現(xiàn)人機(jī)共情，但這種群體智能的自我意識(shí)仍然是由人主導(dǎo)的，因?yàn)橹挥腥说囊庾R(shí)具有內(nèi)在目的性，人的內(nèi)在意識(shí)與外在世界的對(duì)象具有“適應(yīng)方向”。智能機(jī)器人的意識(shí)雖然可以通過(guò)傳感器的數(shù)據(jù)表現(xiàn)出來(lái)，但卻不是內(nèi)在的目的，而只是數(shù)據(jù)的傳輸，是外在的。因此，只有人才是人機(jī)融合智能的主體，主導(dǎo)著人機(jī)融合智能的自我意識(shí)和行為選擇。人機(jī)融合智能的水平，表面上是依賴數(shù)據(jù)、算法、硬件的提質(zhì)升級(jí)，但最終起作用的還是認(rèn)知科學(xué)和相關(guān)學(xué)科的不斷突破。人機(jī)融合智能的自我意識(shí)，本質(zhì)上還是處于交互環(huán)境中的人的自我意識(shí)，這成為人機(jī)融合智能交互主體性產(chǎn)生的前提。

2.人機(jī)融合智能人機(jī)交互主體性的產(chǎn)生途徑及本質(zhì)

人機(jī)融合智能中信息的交互，一般都是人機(jī)雙向或者機(jī)器與機(jī)器之間進(jìn)行信息交互。這種交互除了傳統(tǒng)的基本文本交互和圖形交互外，還包括語(yǔ)音交互、體感交互，甚至腦機(jī)交互。為了達(dá)到更好的交互效果，算法常常投其所好，在社交機(jī)器人中加入人工共情功能的設(shè)計(jì)，使得機(jī)器的行為越來(lái)越像人。這就為人機(jī)交互主體性的產(chǎn)生提供了技術(shù)可能。

在人機(jī)融合或交互中，人的自主性、能動(dòng)性和創(chuàng)造性在技術(shù)的幫助下得以增強(qiáng)，即技術(shù)建構(gòu)了賽博主體性［16］（58）。賽博主體性是在人與技術(shù)雙向建構(gòu)中產(chǎn)生的新的自主性，是人與技術(shù)的雙向馴化。一方面，技術(shù)對(duì)人的生命與生活進(jìn)行全面深度干預(yù)，同時(shí)參與建構(gòu)著人與世界的關(guān)系，這種技術(shù)作出適應(yīng)性的改變以滿足人的需求，本質(zhì)上是人對(duì)技術(shù)的“馴化”。但自工業(yè)革命以來(lái)，人對(duì)技術(shù)的依賴逐漸加深，諸如追求效率的技術(shù)邏輯深刻地滲透到人類的主體意識(shí)中，規(guī)約著人的主體實(shí)踐，人也被技術(shù)“馴化”。主體性也在雙向馴化中向外在環(huán)境（包括技術(shù)）延展。

人機(jī)融合中產(chǎn)生了由人主導(dǎo)的交互主體性，不僅因?yàn)榻换ブ黧w性是自我的原初存在，也因?yàn)槿藱C(jī)交互本質(zhì)上也是一種社會(huì)交往，哈貝馬斯的社會(huì)交往理論有助于理解人機(jī)交互的主體性。哈貝馬斯把現(xiàn)實(shí)社會(huì)中的人際關(guān)系分為工具行為和交往行為，認(rèn)為工具行為是主客體關(guān)系，而交往行為是主體間性行為［5］（11）。隨著人機(jī)交互中機(jī)器主動(dòng)適應(yīng)人類，以及人工共情的良好表現(xiàn)，人機(jī)交互已經(jīng)從工具行為變成了交往行為。有學(xué)者認(rèn)為，智能雜合體將人類的主體性與非人類力量的擬主體性相互嵌合、集于一身［17］（38）。這實(shí)質(zhì)上就是人機(jī)融合智能的交互主體性。人機(jī)融合智能的交互主體性本質(zhì)上是使用者的一種功能賦予，賦予原本作為客體的智能機(jī)器人主體地位，人機(jī)交互中產(chǎn)生的人機(jī)關(guān)系則體現(xiàn)出延展的交互主體性。

五、人機(jī)融合智能交互主體性的道德后果

人機(jī)融合智能的發(fā)展對(duì)人類主體性產(chǎn)生了深刻影響。一方面，智能機(jī)器人的發(fā)展使人類在很多領(lǐng)域具有了超越自身的能力，提高了人類的生產(chǎn)效率和生活質(zhì)量。另一方面，人機(jī)融合智能的發(fā)展也引發(fā)了人類對(duì)自身存在（包括主體性）諸多問(wèn)題的反思。盡管人機(jī)融合智能的自我意識(shí)仍然是由人主導(dǎo)，但是人機(jī)交互主體性可能引發(fā)各種相互纏繞、錯(cuò)綜復(fù)雜的道德后果。這種道德后果可能是積極的，也可能是消極的，還可能同時(shí)帶來(lái)積極的效果和消極的后果。

1.意識(shí)經(jīng)驗(yàn)結(jié)構(gòu)的改變與自我的損耗

自從技術(shù)誕生，人與技術(shù)就開(kāi)始進(jìn)行社會(huì)性融合。當(dāng)前，隨著會(huì)聚技術(shù)的發(fā)展，人技融合從社會(huì)性融合進(jìn)化到自然性或身體性融合。在人機(jī)融合智能中，處于認(rèn)知環(huán)境的智能機(jī)器人，已經(jīng)從影響人認(rèn)知過(guò)程的環(huán)境要素逐漸成為新的重要的認(rèn)知類主體，協(xié)助人類甚至代替人類進(jìn)行選擇和決策，對(duì)人的影響已經(jīng)從器物文化層面上升到觀念文化層面，深層次影響著認(rèn)知主體的態(tài)度和行為。與此同時(shí)，在人機(jī)融合的大背景下，人又可能成為其他認(rèn)知系統(tǒng)的環(huán)境要素，認(rèn)知主體與環(huán)境可以相互轉(zhuǎn)化?？傊伺c認(rèn)知環(huán)境的邊界逐漸消除，人類意識(shí)與認(rèn)知環(huán)境表現(xiàn)出“意識(shí)”深度融合。例如，以互聯(lián)網(wǎng)為代表的智能系統(tǒng)，一方面拓展了人的認(rèn)知寬度甚至深度，增加了認(rèn)知主體的可選項(xiàng)，但另一方面也將數(shù)以億計(jì)的人腦（及其創(chuàng)造的自我隧道）整合到全新的媒介環(huán)境或認(rèn)知環(huán)境中，從而改變了人的意識(shí)經(jīng)驗(yàn)的結(jié)構(gòu)。一旦有人通過(guò)互聯(lián)網(wǎng)或利用新媒體來(lái)爭(zhēng)奪認(rèn)知主體有限的注意力以實(shí)現(xiàn)商業(yè)利益或其他目的，就可能導(dǎo)致自我損耗（self-depletion），自我控制的能力也隨著注意力的消耗而降低［18］（300-301）。

2.機(jī)器依賴與虛擬親密關(guān)系的建立

當(dāng)前，基于互聯(lián)網(wǎng)組織架構(gòu)的人機(jī)融合智能比較常見(jiàn)，互聯(lián)網(wǎng)的平臺(tái)效應(yīng)使得人機(jī)融合智能在某些問(wèn)題上實(shí)現(xiàn)了1+1＞2，有助于人的認(rèn)知增強(qiáng)，并由此贏得使用者的信任。由于人機(jī)交互體驗(yàn)的提升，機(jī)器人的“善解人意”可能讓使用者產(chǎn)生依賴，甚至與智能機(jī)器人產(chǎn)生親密關(guān)系。已經(jīng)有心理學(xué)研究表明，ChatGPT 可以產(chǎn)生適當(dāng)?shù)那楦幸庾R(shí)（emotional awareness，EA）響應(yīng)，并且在情感意識(shí)評(píng)估中超越一般人群，預(yù)計(jì)隨著使用時(shí)間的增加，其性能可能還會(huì)顯著提高，因此，ChatGPT 可以用于EA損傷臨床患者的認(rèn)知訓(xùn)練以促進(jìn)患者心理健康。但這種虛擬的親密關(guān)系也可能帶來(lái)負(fù)面影響，一旦交互中的智能機(jī)器人給出虛假的信息，使用者也可能不加反思而接受［19］（1-7）?！度祟惡?jiǎn)史》的作者尤瓦爾·赫拉利（Yuval Noah Harari）因此對(duì)人類發(fā)出警告，人工智能或智能機(jī)器人無(wú)需意識(shí)就能威脅人類文明，因?yàn)槿斯ぶ悄茈m然沒(méi)有感覺(jué)和意識(shí)，但卻能激發(fā)人類的感覺(jué)，讓人類依附于它。通過(guò)對(duì)語(yǔ)言的掌握，人工智能可以與人建立虛假的親密關(guān)系，并利用親密的力量來(lái)影響人類的觀點(diǎn)和世界觀［20］，從而對(duì)人類文明的發(fā)展產(chǎn)生重要影響。

3.隱私安全與遠(yuǎn)程受控的風(fēng)險(xiǎn)加劇

人機(jī)融合技術(shù)涉及人類身體和自身智能水平的提升和替代，因而其一旦失控，將對(duì)個(gè)人的身體安全和隱私安全帶來(lái)雙重風(fēng)險(xiǎn)。人機(jī)通過(guò)信息或數(shù)據(jù)進(jìn)行交互，人的身體和周圍的一切對(duì)象和活動(dòng)都被數(shù)據(jù)化，智能化的數(shù)據(jù)已經(jīng)作為人類的第二肉身被儲(chǔ)存在網(wǎng)絡(luò)和電腦中，個(gè)人變成了數(shù)據(jù)主體。如何保證數(shù)據(jù)主體對(duì)個(gè)人信息進(jìn)行有效控制就成了數(shù)據(jù)時(shí)代保證個(gè)人隱私安全和自主性的關(guān)鍵［21］（30）。例如，腦機(jī)接口技術(shù)一方面能讓大腦中某些腦區(qū)失去意識(shí)的患者重新建立與身體的連接，但是仍然需要讓腦與身體通過(guò)有監(jiān)督的訓(xùn)練提高準(zhǔn)確率，而且二者通過(guò)網(wǎng)絡(luò)連接保持交流，網(wǎng)絡(luò)攻擊或者技術(shù)上的不穩(wěn)定將會(huì)給人腦造成直接傷害。隱私方面，過(guò)去使用者在互聯(lián)網(wǎng)上留下的痕跡可以讓他人回溯并以推斷的方式來(lái)窺視他的思想，而新興的腦機(jī)接口技術(shù)將會(huì)進(jìn)一步加劇這一問(wèn)題，讓人類的思想變得可讀，從而使人處于一種身心透明化的狀態(tài)。而對(duì)于具有自主性的人工機(jī)器群體，遠(yuǎn)程失控的危害則更大，受到傷害的無(wú)辜群體人數(shù)會(huì)更多。對(duì)于這樣的危害，趙汀陽(yáng)提出關(guān)鍵性措施積極應(yīng)對(duì)，一是禁止研發(fā)能說(shuō)“不”的機(jī)器人；二是形成全球倫理，共同維護(hù)全球正義［22］（12）。

4.人格同一性變化及責(zé)任歸屬困難

人機(jī)融合智能是一個(gè)群體智能，也是一個(gè)賽博格，因此在人機(jī)交互中智能機(jī)器人的自我意識(shí)（雖然只是功能性的）必然與人的自我意識(shí)相互作用，這就帶來(lái)了人格同一性變化的風(fēng)險(xiǎn)，而人格同一性又與責(zé)任、權(quán)利等概念緊密相關(guān)，因此不容忽視。盡管如此，對(duì)于增強(qiáng)型人機(jī)融合智能，尤其是腦機(jī)接口這類與人腦直接相連的人工智能，使用增強(qiáng)技術(shù)是否影響人格同一性呢？有研究表明，深度腦部刺激技術(shù)使用后可能帶來(lái)人格特征和行動(dòng)能力的改變，由此引發(fā)不良后果，那么這樣的后果應(yīng)該由誰(shuí)來(lái)負(fù)責(zé)呢？人格同一性是否改變涉及個(gè)人同一性的界定標(biāo)準(zhǔn)？當(dāng)代關(guān)于個(gè)人同一性標(biāo)準(zhǔn)的討論從實(shí)在論轉(zhuǎn)向了功能主義，動(dòng)態(tài)的自我敘事時(shí)刻在構(gòu)建個(gè)人同一性，能夠被自我所體驗(yàn)、理解和認(rèn)可的新意識(shí)內(nèi)容都會(huì)通過(guò)意識(shí)的解釋機(jī)制整合進(jìn)個(gè)人的敘事同一性之中［23］（67）。如果人機(jī)增強(qiáng)智能使用前后的變化都是得到使用者認(rèn)可的，那么由于增強(qiáng)效果產(chǎn)生的特征就應(yīng)該被納入個(gè)人同一性之中，個(gè)人必須為增強(qiáng)后造成的過(guò)失負(fù)責(zé)。但如果使用者不認(rèn)同其由于手術(shù)改變了的性情或價(jià)值觀，那么這個(gè)主體就沒(méi)有完全的責(zé)任［24］（116）。在這種情況下，使用者可能陷入兩難，要么放棄增強(qiáng)（或者治療）避免人格特征或心理特征的改變，要么接受增強(qiáng)帶來(lái)的改變并對(duì)行為后果負(fù)責(zé)。

結(jié)論

交互主體性是人的自我的原初存在。人機(jī)融合智能使得人機(jī)交互從人主動(dòng)適應(yīng)機(jī)器，轉(zhuǎn)變?yōu)闄C(jī)器主動(dòng)適應(yīng)人，人機(jī)產(chǎn)生了交互主體性。人機(jī)的交互主體性源于人的交互主體性賦予了智能機(jī)器人類主體地位，智能機(jī)器人的自我意識(shí)被“懸擱”。機(jī)器人的倫理意義不必再依賴意識(shí)和思維，而是依據(jù)其在人機(jī)互動(dòng)中的外在表現(xiàn)。這就是人機(jī)互動(dòng)倫理的核心要義。社交機(jī)器人人工共情的設(shè)計(jì)就是這一理念的實(shí)際應(yīng)用。