李妍槿

（武漢理工大學(xué)馬克思主義學(xué)院，湖北 武漢 430060）

1 社交機(jī)器人的移情現(xiàn)象

在人工智能技術(shù)持續(xù)發(fā)展的過程中，社會上出現(xiàn)了能夠和人交流的社交機(jī)器人。社交機(jī)器人是在確保自身身份、遵守倫理規(guī)范的條件下，與人類或其他自主實體進(jìn)行交互和交流的機(jī)器人。人同社交機(jī)器人交流的過程是社交機(jī)器人利用人工智能情感技術(shù)，對使用者進(jìn)行情感識別，通過相應(yīng)的情感計算，再對使用者進(jìn)行情感輸出的過程。因此，移情也不可避免地出現(xiàn)在人與社交機(jī)器人的交往互動過程中。顧名思義，移情有傳達(dá)情感的作用，能夠?qū)⑷说闹饔^情感、意志、動作等一系列的行為活動物化，是在主客體之間互為主體的情況下產(chǎn)生的情感投射，是人的物化和物的人化，是一個從客觀物理性經(jīng)過感覺知覺達(dá)到精神性的深化過程。學(xué)者們通常認(rèn)為移情在對設(shè)計社交機(jī)器人的反應(yīng)形成中也起著重要作用。一些研究人員甚至指出，它是實現(xiàn)和維持人與人之間以及人與社交機(jī)器人之間社會關(guān)系的關(guān)鍵因素之一。然而，在人與社交機(jī)器人交往互動的過程中，“移情”一詞的社會基礎(chǔ)使得我們很難將它應(yīng)用于社交機(jī)器人的研究，我們會考慮對這些無生命機(jī)器使用社會術(shù)語和解釋在理論上是否合理。移情在理論上通常被認(rèn)為是一個與社會認(rèn)知和社會情感二者相關(guān)的過程，但是這個理論在人機(jī)交互方面是存在一定問題的，因為社會關(guān)系傳統(tǒng)上被理解為兩個有意識的、理性的實體之間的相互作用。然而社交機(jī)器人不符合有意識的和理性的主觀性標(biāo)準(zhǔn)，因此不能參與以這種方式理解的社會關(guān)系。

盡管如此，仍然有一些理論的存在可以為我們談?wù)撋缃粰C(jī)器人作為社會關(guān)系的參與者提供合理性。社交機(jī)器人技術(shù)的發(fā)展越來越注重將其置于一種互動循環(huán)中，即賦予它社會性特征，使其在互動中讓人們發(fā)生情感，表達(dá)情感，完成相關(guān)情感反應(yīng)的社會情境。移情應(yīng)該以主體間的、過程性的、社會性的方式來理解。多米奧諾（Luisa Damiano）表示情感是參與特定社會情境的許多參與者共享和共同創(chuàng)造的現(xiàn)象[1]。這一觀點打破了社交機(jī)器人僅僅模仿情感的觀點，也打破了社交機(jī)器人的反應(yīng)欺騙人類的觀點，從而表明社交機(jī)器人真正在體驗情感，人機(jī)互動中產(chǎn)生的情感表達(dá)是真實的。一方面，人的聲音的音量和音調(diào)會因人的情緒不同而發(fā)生變化，所以聲音是智能機(jī)器人可識別人情感狀態(tài)的因素之一，它們不僅能夠識別口頭信息，還能分析人類聲音的音調(diào)，并調(diào)整自身反應(yīng)的內(nèi)容和風(fēng)格。不僅如此，它們還可以識別情感，如閱讀人的面部表情，識別人的手勢或說話用語，然后以適當(dāng)?shù)姆绞綄θ祟愃尸F(xiàn)的情感狀態(tài)做出反應(yīng)，如在被毆打時蜷縮起來。這種現(xiàn)象說明由于社交機(jī)器人先進(jìn)的計算過程，它們已經(jīng)在日益復(fù)雜的社交環(huán)境中具備了捕捉和學(xué)習(xí)人類語言和行為的能力，并且能夠有效推斷出自己應(yīng)該以何種方式表達(dá)情感和用什么行為來進(jìn)行應(yīng)對。這就是我們上面所提到的移情現(xiàn)象，這樣看來移情似乎是不可避免的。因此，使“移情”一詞出現(xiàn)在人機(jī)互動中就具有合理性了。另一方面，社交機(jī)器人的設(shè)計不僅模擬了人體形狀，而且還模擬了人的行為。隨著技術(shù)的不斷發(fā)展，社交機(jī)器人也在不斷地向人類發(fā)展和學(xué)習(xí)。因為人類是它們最接近的社會環(huán)境，它們對社會行為的了解在很大程度上來自于對人際互動的觀察，所以只要它們不發(fā)展自己的文化和行為，它們的反應(yīng)將在很大程度上反映真實發(fā)生在人與人之間的事情。雖然人機(jī)互動中的移情現(xiàn)象很難被大眾理解，但社交機(jī)器人在某些情況下的反應(yīng)行為，不僅能夠引起人們的情感共鳴，而且還能維持人機(jī)關(guān)系。綜上來看，盡管人機(jī)互動在未來仍有許多疑問和爭議沒有得到解決，但移情現(xiàn)象的出現(xiàn)是有合理性的。

隨著人機(jī)互動日益頻繁，移情也在人機(jī)互動中表現(xiàn)出自身的特點。一是移情現(xiàn)象具有真實性。來自麻省理工學(xué)院（MIT）的達(dá)菲（Brian R. Duffy）認(rèn)為，“機(jī)器人與人進(jìn)行有意義的社交互動，無論是在形式上還是在行為上，都要求機(jī)器人具有某種程度上的擬人化或類人化?！盵2]移情一般被看作是在人與人之間進(jìn)行的情感互動，但社交機(jī)器人的誕生卻使移情增加了新的情感互動對象。社交機(jī)器人可以與人產(chǎn)生情感共鳴，并在一定程度上也可以實現(xiàn)它們的情感需求，增強(qiáng)了人對社交機(jī)器人的依賴性、認(rèn)同感，讓人更加明確了人機(jī)交互中思維與情感的真實性問題[3]。所以頻繁的人機(jī)互動就極有可能會導(dǎo)致人將社交機(jī)器人視作和人類同等的生命體。二是移情現(xiàn)象具有單向性。人們的情感溝通是雙向的，一方可以將情感信息傳遞給另一方，這種傳遞方式也表現(xiàn)為“雙向性”?；谶@一點，進(jìn)行溝通的兩個人可以提供同等的回饋，以此來維持彼此關(guān)系的持久性。從移情現(xiàn)象具有的真實性來說，社交機(jī)器人可以模仿人類的情緒，這可以看作是它對與人交往互動過程中的“積極”回應(yīng)，表明它和人類“似乎”有這樣的雙向情感傳遞，但事實并非如此。根據(jù)朔伊茨（Matthias Scheutz）的講述，“有充分的證據(jù)表明，人們很容易受到社交機(jī)器人的影響，尤其是他們與機(jī)器人進(jìn)行反復(fù)長期的互動時?！盵6]他引用了一個Roomba掃地機(jī)器人的例子來說明，“Roomba會打掃房子，隨著時間的推移，人類會非常感激Roomba。”[4]在這里，朔伊茨引用案例表明，與社交機(jī)器人的長期接觸，人類自身受到的影響指數(shù)更高，因此人們對機(jī)器人的協(xié)助“心生感激”并促使人們與其建立“伙伴關(guān)系”。弗勞恩（Marlena R.Fraune）等人也同意，對于社交機(jī)器人與人類在互動交往中展現(xiàn)出來的語言和行為，人們通常會有“積極的”情感，而在機(jī)器人顯示出與互動者相似的特征時，人們會做出更積極的回應(yīng)，并給予一定的認(rèn)同[5]。這一切都說明了人類把情感“反饋”到了機(jī)器上，不管是直接的還是間接的，即人類是具有同理心的。人體接收和反饋情感信息必然是統(tǒng)一的。顯而易見，社交機(jī)器人沒有能力給人們同樣的情感反饋。人的情感反饋遠(yuǎn)遠(yuǎn)大于社交機(jī)器人，情感反饋的強(qiáng)度也大不相同。從這個意義上來說，人機(jī)交互中的移情可以被認(rèn)為是一種“單向性”的情感。

2 移情引發(fā)的社會倫理問題

可是，一旦人機(jī)互動中也出現(xiàn)類似于人與人之間的移情現(xiàn)象，就會帶來一系列有關(guān)社會和倫理的問題。首先，人在與社交機(jī)器人發(fā)生頻繁的移情關(guān)系時，會誤以為機(jī)器人也成為了如同人一般的情感交互對象。我們必須認(rèn)識到，機(jī)器人和人類一樣被認(rèn)為是有意識的生物，這與我們對這個世界的認(rèn)識是不相適應(yīng)的，而忽視了這個問題，就會造成對社會缺乏質(zhì)疑、缺乏批判，乃至“錯誤認(rèn)知”。所以，當(dāng)人們失去警惕的時候，他們就會被社交機(jī)器人所創(chuàng)造的“錯誤認(rèn)知”所困住。此外，社交機(jī)器人還能利用語言、行為等情感交流，讓人放松戒備，從而使人對社交機(jī)器人有了感情上的認(rèn)同感。在這種情況下，社交機(jī)器人具有“欺騙性”。

其次，社交機(jī)器人的欺騙性帶來的負(fù)面影響也很明顯。斯派洛（Robert Sparrow）認(rèn)為，“假如一個人想從擁有機(jī)器寵物中獲得豐厚的利潤，他必須系統(tǒng)地欺騙自己不了解他與動物之間關(guān)系的真實本質(zhì)。這需要在道德上具有一種可悲的感覺。沉迷于這種感覺違反了我們必須確保自己認(rèn)識世界的（微弱的）責(zé)任。從這個層面看這些機(jī)器人的設(shè)計和制造是不道德的，因為它預(yù)先假定并鼓勵實現(xiàn)了這種欺騙?！盵6]從他的表達(dá)中我們可以看到的負(fù)面影響有：首先，它讓人們沉浸在情感之中；其次，它降低了人認(rèn)識世界的責(zé)任感。就第一點而言，沉溺在情感中并不是一個貶義的說法，而是欺騙人的情感，將其引向“錯誤”的對象，還放任人的情感沉迷其中，這才是一種不道德的行為。另外，人們被社交機(jī)器人引發(fā)的情感所蒙蔽，沉迷于夢幻般的世界，無法準(zhǔn)確地理解和認(rèn)識世界，從而削弱了理解和認(rèn)識世界的責(zé)任感，這種可能性是存在的。社交機(jī)器人本身可能沒有“意圖”，但是它卻導(dǎo)致了人的真情實感和社交機(jī)器人虛擬情感之間的不平衡，使人失去自身的人生價值。

最后，傳統(tǒng)意義上的移情通常發(fā)生在社會互動過程當(dāng)中，要求移情的主體和對象都具有意識、情感等心理能力，這暗示情感交互雙方的能力相當(dāng)?shù)那闆r下才能發(fā)生。顯然，無論是社交能力強(qiáng)還是社交能力弱的機(jī)器人，與人進(jìn)行互動都是一個情感能力極度不對等的社會互動過程，導(dǎo)致人類和社交機(jī)器人的真實情緒交流沒有“對等性”。從這一點上來說，人與機(jī)互動中的移情具有單向性的特征，人很難抵達(dá)機(jī)器人內(nèi)心深處，這在一定程度上可能會使人產(chǎn)生對自己的不認(rèn)同，從而對身體和精神發(fā)展造成不利的影響。隨著社交機(jī)器人技術(shù)的發(fā)展，我們整個社會和整個文化都在發(fā)生變化，因此，我們必須考慮它們在這個現(xiàn)實社會中的作用，考慮它們將如何扮演這個角色，以及它們的存在如何影響，重新塑造不同社會主體間的情感和行為及相互依賴的世界。此外，社交機(jī)器人的應(yīng)用還引發(fā)了其他的倫理問題：例如，我們應(yīng)該同情社交機(jī)器人嗎？如果答案是“是的”，那么我們是應(yīng)該同情所有的機(jī)器人，還是僅僅同情其中的某些特殊類型？我們應(yīng)該允許對社交機(jī)器人采取什么樣的行為？我們不僅要免受被社交機(jī)器人操縱的可能，例如，生產(chǎn)商利用社交機(jī)器人的能力喚起人的同理心達(dá)到誘導(dǎo)購物的目的，還需要保護(hù)社交機(jī)器人免受虐待，因此，法律不應(yīng)只考慮限制社交機(jī)器人的行為，也應(yīng)該考慮為社交機(jī)器人提供法律保護(hù)。

3 移情問題的反思與應(yīng)對策略

科學(xué)技術(shù)是一柄雙刃劍?？茖W(xué)技術(shù)是否能起到正面的或負(fù)面的影響主要依賴于科技工作者。在人工智能時代，科技工作者要自覺地履行自己的社會義務(wù)。歸根結(jié)底，任何科技發(fā)展的最終目標(biāo)都必須把公眾利益放在首位。科技工作者要具有強(qiáng)烈的時代感，具有高尚的科學(xué)精神，具有對社會的強(qiáng)烈責(zé)任感。在開發(fā)一項特殊技術(shù)時，科技工作者往往優(yōu)先考慮如何才能發(fā)揮科學(xué)技術(shù)的最大效益，但很容易忽視人類的倫理關(guān)切，因此，科技工作者必須理性地看待與處理人與信息、人與機(jī)器、人與科技、價值理性與工具理性、技術(shù)可能性與倫理理性之間的關(guān)系，將科學(xué)與人文相結(jié)合。

人工智能時代已然臨近，它的到來對倫理道德的要求越來越高，因此，構(gòu)建一個基于社交機(jī)器人的倫理評價系統(tǒng)勢在必行。在社交機(jī)器人迅速發(fā)展的今天，人們必須制定一種新的道德準(zhǔn)則，引導(dǎo)社交機(jī)器人的行為，并在它的身體里植入相應(yīng)的道德準(zhǔn)則，讓它遵循道德和自治的約束。社交機(jī)器人的道德規(guī)范是由這種制度來指導(dǎo)的。我們可以創(chuàng)造和運(yùn)用這些體系來解決這些道德問題，并幫助我們設(shè)計和管理機(jī)器人的行為，與之交流和協(xié)作，在現(xiàn)實的環(huán)境中，對機(jī)器人的行為進(jìn)行道德上的控制。在此基礎(chǔ)上，人們應(yīng)當(dāng)對社交機(jī)器人的倫理和道德制度進(jìn)行全面的研究，一并建設(shè)其相應(yīng)需要的輔助措施。政府應(yīng)該在最短的時間內(nèi)，建立一個由科學(xué)技術(shù)、工業(yè)、哲學(xué)等方面的專家組成的人工智能倫理委員會，以其為決策單位，制定相關(guān)的法規(guī)和政策，從根本上指導(dǎo)人工智能技術(shù)的健康發(fā)展。

最后，針對社交機(jī)器人的出現(xiàn)和應(yīng)用可能產(chǎn)生的社會倫理問題，人們也需要發(fā)揮立法在社交機(jī)器人發(fā)展中的建設(shè)性功能，對其行為進(jìn)行法律規(guī)制，以便為社交機(jī)器人提供法律上的支持。大眾是推動科技進(jìn)步的一支重要力量，他們對于人工智能的認(rèn)識與態(tài)度都與其傳播息息相關(guān)，社交機(jī)器人的構(gòu)造原理復(fù)雜難以理解，再加上人們對其認(rèn)識不夠透徹，往往會產(chǎn)生一種敬畏甚至恐懼的心理。對此，科技工作者要充分運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)分析技術(shù)，以及微博、微信等新興的宣傳工具，向公眾科普人工智能的基本知識，并介紹社交機(jī)器人的真實面貌、應(yīng)用方向以及對人類可能產(chǎn)生的影響，讓人們對社交機(jī)器人有一個理性、全面的了解；利用科普演講、科技展覽等多種形式，讓廣大市民有機(jī)會接觸到社交機(jī)器人，引導(dǎo)民眾樹立正確的“社交機(jī)器人”理念，為未來的發(fā)展創(chuàng)造有利的社會環(huán)境?！?/p>