謝 小 飛，吳 家 華

(安徽大學(xué) 馬克思主義學(xué)院，合肥 230601)

情緒識別(Emotion Recognition)是一種利用公眾個體的面部表情、身體姿態(tài)、語音語調(diào)等特征來進(jìn)行心理活動監(jiān)測的新技術(shù)，它能夠捕捉到人類難以察覺的細(xì)微變化，計算出人的壓力、焦慮度、侵略性等參數(shù)，進(jìn)而通過算法完成“情緒理解”。面對情緒識別技術(shù)逐步嵌入經(jīng)濟(jì)社會生活的新情況，如何審視情緒識別技術(shù)催生的倫理風(fēng)險危機(jī)，詮釋其倫理風(fēng)險的生成原因，并在此基礎(chǔ)上提出規(guī)避倫理風(fēng)險的實踐方案，便成為我們在人工智能時代亟須回應(yīng)的焦點議題。

一、情緒識別技術(shù)的最新應(yīng)用進(jìn)展

德國著名社會學(xué)家烏爾里?！へ惪酥赋觯骸帮L(fēng)險是不可見的。暗含的因果關(guān)系常常維持著或多或少的不確定性和暫時性。”[1]這就意味著，我們只有在明確技術(shù)可行性的基礎(chǔ)之上，才能夠進(jìn)一步探討技術(shù)的倫理可接受性。因此，我們想要將情緒識別技術(shù)置于倫理層面來予以詮釋，就必須首先明晰情緒識別技術(shù)的應(yīng)用價值和最新進(jìn)展。就其應(yīng)用的最新進(jìn)展情況來看，情緒識別技術(shù)應(yīng)用領(lǐng)域十分廣泛，對于經(jīng)濟(jì)社會發(fā)展具有重要價值。

(一)為公共安全提供了強(qiáng)大的技術(shù)工具

一是在刑事審訊場景中，情緒識別技術(shù)能夠幫助工作人員實時掌握犯罪嫌疑人的情緒變化，顯著提高審訊效率。目前，一些審訊機(jī)關(guān)已經(jīng)推出了智慧警務(wù)系統(tǒng)，搭建起以情緒識別技術(shù)為核心的智能分析平臺。例如，江蘇省宜興市人民檢察院早在2014年就開設(shè)了微反應(yīng)實驗室，多次憑借情緒識別技術(shù)取得了案件的突破性進(jìn)展[2]。

二是在交通出行場景中，情緒識別技術(shù)能夠在駕駛員出現(xiàn)異常情緒時發(fā)出實時提醒，輔助人們安全出行。目前已有汽車廠商在車上配置了情緒感知功能[3]，一旦駕駛員出現(xiàn)疲勞、激動、憤怒等異常情緒，這種汽車就會在第一時間發(fā)出警報來加以提醒，從而在一定程度上規(guī)避險情的發(fā)生。

三是在輿論監(jiān)測場景中，情緒識別技術(shù)能夠協(xié)助工作人員實時“閱讀”人們的情緒變化，及時發(fā)現(xiàn)輿情風(fēng)險。當(dāng)前，情緒識別技術(shù)日趨智能化、微型化、遠(yuǎn)程化，在網(wǎng)絡(luò)意識形態(tài)安全維護(hù)中發(fā)揮著重要作用。

(二)為智慧課堂提供了前沿方案

情緒識別技術(shù)可以實時監(jiān)測教學(xué)參與者的情緒狀態(tài)，對人的心理壓力和學(xué)習(xí)強(qiáng)度進(jìn)行總體性評估，反饋出教育教學(xué)的專注度和活躍度。當(dāng)前，情緒識別技術(shù)主要以“智能助教系統(tǒng)”“課堂呵護(hù)系統(tǒng)”“教學(xué)質(zhì)量監(jiān)測系統(tǒng)”等名目介入教育教學(xué)實踐。一是“智能助教系統(tǒng)”。情緒識別技術(shù)能夠直觀揭示學(xué)生的情緒狀態(tài)，幫助教師及時調(diào)整教學(xué)進(jìn)度以及教學(xué)方案，進(jìn)而顯著提升教學(xué)效率。二是“課堂呵護(hù)系統(tǒng)”。情緒識別技術(shù)能夠幫助教育者提高自身的情感連接能力，促使師生之間建立起情感依賴，進(jìn)而充分激發(fā)受教育者的想象力和創(chuàng)造力。三是“教學(xué)質(zhì)量監(jiān)測系統(tǒng)”?！爸耖g智能已經(jīng)推出了一款用于監(jiān)測老師行為的新產(chǎn)品，通過分析老師的影像，計算正向情緒占比與細(xì)分指數(shù)”[4]，這表明，情緒識別技術(shù)不僅可以用來監(jiān)測學(xué)生的學(xué)習(xí)狀態(tài)，還可為教學(xué)管理者監(jiān)管教師教學(xué)質(zhì)量提供技術(shù)支持，給教育者提供科學(xué)的教學(xué)建議。

(三)在商業(yè)領(lǐng)域建樹非凡

情緒識別技術(shù)在商業(yè)決策、商業(yè)生產(chǎn)、商業(yè)營銷環(huán)節(jié)均已成功應(yīng)用。在商業(yè)決策環(huán)節(jié)，商業(yè)公司可以憑借情緒識別技術(shù)，盡可能地掌握潛在客戶的情緒波動，進(jìn)而根據(jù)精準(zhǔn)的信息數(shù)據(jù)作出明智的商業(yè)決策。在商業(yè)生產(chǎn)環(huán)節(jié)，情緒識別技術(shù)不僅能夠幫助生產(chǎn)者獲得更多的商業(yè)信息，提供精準(zhǔn)的生產(chǎn)計劃，還可以實時監(jiān)管產(chǎn)業(yè)工人的情緒狀態(tài)，提高生產(chǎn)效率。在商業(yè)營銷環(huán)節(jié)，商業(yè)公司可根據(jù)消費者的不同情緒狀態(tài)，及時調(diào)整營銷手段，以巧妙的營銷策略激發(fā)潛在客戶的消費欲望，實現(xiàn)精準(zhǔn)營銷。當(dāng)前，包括微軟(Microsoft)、亞馬遜(Amazon)在內(nèi)的一些科技公司已在積極推廣情緒識別技術(shù)，據(jù)估計，情緒識別技術(shù)行業(yè)的市場價值將會高達(dá)數(shù)百億美元。[5]

(四)在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用和發(fā)展值得期待

在醫(yī)療衛(wèi)生領(lǐng)域，情緒識別技術(shù)可以幫助醫(yī)生實時監(jiān)測患者的情緒狀態(tài)，進(jìn)而根據(jù)患者的情緒變化為其提供相應(yīng)的醫(yī)療幫助。例如，一些抑郁癥、焦慮癥患者會對心電、腦電等傳感設(shè)備產(chǎn)生心理抗拒，不利于醫(yī)生進(jìn)行疾病診療。而情緒識別技術(shù)能夠在不用患者配合的情況下悄然判斷患者的情緒狀態(tài)，從而能讓患者在較為放松的狀態(tài)下接受診療。此外，情緒識別技術(shù)還可為保持人的身心健康提供技術(shù)支持。例如，用戶可以通過情緒識別技術(shù)了解自身的焦慮水平和壓力指數(shù)，在第一時間調(diào)節(jié)自身的情緒狀態(tài)，逐漸養(yǎng)成科學(xué)健康的生活習(xí)慣。

二、情緒識別技術(shù)潛在的倫理風(fēng)險

辯證地看，作為一種技術(shù)創(chuàng)新，情緒識別技術(shù)的廣泛應(yīng)用在給人類社會帶來發(fā)展機(jī)遇的同時，也會給人們的社會生活帶來諸多風(fēng)險和挑戰(zhàn)。以人工智能為代表的技術(shù)發(fā)展與人類生存的倫理審思是現(xiàn)代倫理學(xué)關(guān)注的核心議題，這在科學(xué)急速發(fā)展的智能社會顯得更為突出。[6]因此，在情緒識別技術(shù)方興未艾的當(dāng)下，對其可能帶來的倫理風(fēng)險加以必要的審視和反思，已經(jīng)刻不容緩。

(一)倫理關(guān)系失調(diào)風(fēng)險

正如康德所言，“人，實則一切有理性者……在他的一切行為上，總要把人認(rèn)為目的”[7]。任何技術(shù)的創(chuàng)新和應(yīng)用都應(yīng)充分考慮人的尊嚴(yán)和價值，既不可給人的社會生活造成負(fù)面影響，也不可把人當(dāng)工具看待。然而，不難預(yù)見，情緒識別技術(shù)的無序發(fā)展必然會影響人與人之間的倫理關(guān)系，給人的社會交往帶來消極影響。

其一，情緒識別技術(shù)涉嫌侵犯人的自主性。社會實踐深刻地證明，基于外部技術(shù)而建構(gòu)的社會關(guān)系未必是真正富有自主性的倫理關(guān)系，完全掌控他人情緒的社會交往行為也未必是完美的社會交往實踐。情緒識別技術(shù)運用于人，意味著要在一段時間內(nèi)對人進(jìn)行不停歇的監(jiān)測。這不僅會使被監(jiān)測者感到不被信任、不被尊重，還會抑制交往主體真實地表達(dá)自我的意愿和勇氣，導(dǎo)致倫理關(guān)系中人的自主性缺失。用情緒識別技術(shù)來計算和理解交往對象的潛在心理狀態(tài)，會生成一個以精準(zhǔn)識別為起點的技術(shù)主義陷阱，使本該自由而親密的人際倫理關(guān)系異化為壓抑而冰冷的科技倫理關(guān)系。

其二，情緒識別技術(shù)危及人的主體尊嚴(yán)。人作為擁有思維能力和溝通能力的理性存在者，理所當(dāng)然應(yīng)當(dāng)是科學(xué)技術(shù)的服務(wù)對象，而不該成為技術(shù)壓制之下他人的監(jiān)測對象或逐利工具。情緒識別技術(shù)只是人類的智慧結(jié)晶，但如果人類真賦予人工智能機(jī)器理解情緒的能力，使人的情緒變化在人工智能機(jī)器面前暴露無遺，那么人的主體尊嚴(yán)和個性發(fā)展必然會受到擠壓。人的主體尊嚴(yán)原本一直建構(gòu)在人與人之間天然而固定的倫理關(guān)系之上，而今，情緒識別技術(shù)的介入使人的情緒信息變成了“二進(jìn)制代碼”，維護(hù)人的主體尊嚴(yán)便成為一個嶄新的倫理關(guān)系難題。

其三，情緒識別技術(shù)容易誘發(fā)人的社交恐懼。情緒識別技術(shù)所造成的社交恐懼主要源于這一新興技術(shù)的潛在性和透視性。情緒識別技術(shù)的潛在性主要體現(xiàn)為這一技術(shù)能夠悄無聲息地搜集和分析人的情緒信息，這會使被監(jiān)測者產(chǎn)生強(qiáng)烈的恐懼感。而情緒識別技術(shù)的透視性則是指這一技術(shù)能夠直抵人的內(nèi)心深處，使人產(chǎn)生困惑感、迷失感以及深深的焦慮感。

(二)倫理規(guī)范失控風(fēng)險

情緒識別技術(shù)把人的情緒信息作為激活本技術(shù)的關(guān)鍵，使技術(shù)介入了人本身，改變了人與技術(shù)之間邊界分明的“操作與被操作”關(guān)系，顛覆了人與人、人與社會之間的傳統(tǒng)道德，給人類社會帶來了倫理規(guī)范失控風(fēng)險。

一方面是對知情同意原則的挑戰(zhàn)?！吨腥A人民共和國個人信息保護(hù)法》明確規(guī)定，信息處理者處理個人信息時，首先需要“取得個人的同意”?？梢?，知情同意作為一種倫理規(guī)范，因充分尊重人的自主權(quán)利而得到了人們的普遍認(rèn)可。情緒識別技術(shù)使人的情緒信息公開化，理應(yīng)嚴(yán)格遵循知情同意原則。然而，情緒識別技術(shù)能夠悄然搜集和匯總?cè)说那榫w信息，并將人的情緒信息置于數(shù)據(jù)庫中進(jìn)行比對和分析，使被監(jiān)測者難以知曉自己的情緒信息被用于何事。這種技術(shù)目的的不確定性不僅使被監(jiān)測者的自主性難以得到尊重，還造成了對知情同意原則的嚴(yán)重挑戰(zhàn)。

另一方面是責(zé)任歸屬困境。傳統(tǒng)的責(zé)任倫理主張根據(jù)行為后果來鎖定責(zé)任主體，并在此基礎(chǔ)上開展“對與錯”的責(zé)任追究。然而，情緒識別技術(shù)顛覆了傳統(tǒng)的責(zé)任倫理規(guī)則，使責(zé)任規(guī)避和責(zé)任轉(zhuǎn)嫁有了更為廣闊的生成空間。究其原因，主要是情緒識別技術(shù)的可應(yīng)用領(lǐng)域極其廣泛，技術(shù)的研發(fā)者、投資者和實際運用者之間存在著復(fù)雜的利益糾葛，任一行為主體都難以確保這一技術(shù)在實際應(yīng)用中作出最有利于人類的選擇，這就導(dǎo)致了后續(xù)的責(zé)任追溯難以鎖定明確的責(zé)任對象。

(三)倫理價值失衡風(fēng)險

科學(xué)技術(shù)的不均衡發(fā)展會引發(fā)倫理價值的失衡，危及人類社會的公平正義。就最新進(jìn)展來看，情緒識別技術(shù)雖然應(yīng)用領(lǐng)域廣泛，但其核心技術(shù)仍然掌握在少數(shù)人手中，這就導(dǎo)致技術(shù)優(yōu)勢群體有可能壓迫和威脅到技術(shù)劣勢群體。在數(shù)字鴻溝加大的人工智能時代，情緒識別技術(shù)極易對社會弱勢群體造成負(fù)面影響，我們必須高度重視其潛藏的倫理價值風(fēng)險。

第一，情緒識別技術(shù)所導(dǎo)致的倫理價值失衡首先表現(xiàn)為技術(shù)壟斷。憑借情緒識別技術(shù)，相關(guān)的資本占有者會將自身的資本優(yōu)勢轉(zhuǎn)化為技術(shù)優(yōu)勢，賦予社會其他成員一種“科學(xué)”的情緒標(biāo)簽。而這無疑為算法偏見創(chuàng)造了尋租空間，性別歧視、種族歧視、年齡歧視等一系列算法偏見被包裝成技術(shù)推算的“科學(xué)”結(jié)果。技術(shù)的不對稱性造成了巨大的權(quán)利不對稱，嚴(yán)重?fù)p害了社會公平正義。

第二，情緒識別技術(shù)導(dǎo)致倫理價值失衡的另一表現(xiàn)是市場壟斷。在情緒識別技術(shù)運行過程中，情緒信息的生產(chǎn)者是每一位提供情緒信息的被監(jiān)測者。然而，由于被監(jiān)測者數(shù)量龐大，對于數(shù)據(jù)庫整體而言，單個的被監(jiān)測者所提供的情緒信息并不具有很大的邊際貢獻(xiàn)。因此，被監(jiān)測者通常不會去追究情緒信息的所有權(quán)、使用權(quán)問題。這當(dāng)中的倫理價值沖突主要體現(xiàn)在，情緒信息由被監(jiān)測者生產(chǎn)，但是單個被監(jiān)測者沒有能力去使用情緒數(shù)據(jù)庫資料。而當(dāng)技術(shù)優(yōu)勢群體全盤接管了情緒數(shù)據(jù)庫之后，該群體就會在資本增殖的利益驅(qū)動之下想方設(shè)法地實現(xiàn)自身利益的最大化，將技術(shù)壟斷轉(zhuǎn)變?yōu)槭袌鰤艛?，?yán)重破壞市場競爭的公平性。

第三，情緒識別技術(shù)所導(dǎo)致的倫理價值失衡還表現(xiàn)為社會控制的加劇。隨著情緒識別技術(shù)的迅猛發(fā)展，在不久的將來，人的一切情緒變化都可能會被當(dāng)作數(shù)據(jù)信息，接受他人的搜集、匯總和分析，這也就意味著德勒茲所預(yù)言的“控制社會”[8]加速成為現(xiàn)實。試想，當(dāng)人們置身于個體情緒完全透明化的“解析社會”之中時，人的注意力以及個體欲望必然難以擺脫技術(shù)的捕捉和調(diào)制，人的自主性也就難以避免地成為他者加強(qiáng)社會控制的犧牲品。

(四)倫理行為異化風(fēng)險

美國技術(shù)哲學(xué)家唐·伊德開創(chuàng)的后現(xiàn)象學(xué)技術(shù)哲學(xué)深入討論了人、技術(shù)、世界三者之間的四種關(guān)系，即“具身關(guān)系”“解釋關(guān)系”“它異關(guān)系”“背景關(guān)系”[9]，能夠為我們深入探討情緒識別技術(shù)的倫理風(fēng)險提供理論借鑒。

從“具身關(guān)系”看，情緒識別技術(shù)改變了人們參與世界的方式，在一定程度上會干擾人的倫理判斷。當(dāng)人們通過身體器官來理解他人情緒時，人們通常會基于自己的生活經(jīng)驗和知識水平來作出相對獨立的倫理判斷。而情緒識別技術(shù)改變了理解情緒的常規(guī)方式，拓寬了人的情緒理解渠道，使人與人之間的情感交流走向間接化，這就可能導(dǎo)致人在技術(shù)的支配下逐漸失去理性思考能力而作出缺乏批判性的倫理行為。

從“解釋關(guān)系”看，當(dāng)人們根據(jù)情緒識別技術(shù)呈現(xiàn)出的數(shù)據(jù)結(jié)果來間接地理解他人情緒時，人可能會陷入一種隱蔽的被操縱狀態(tài)。在情緒識別技術(shù)運行過程中，情緒識別機(jī)器成為人類情緒的解構(gòu)者，它向人們展現(xiàn)的是一種經(jīng)過數(shù)據(jù)處理的表象。換言之，人通過情緒識別技術(shù)而覺察到的并不是情緒本身，而是一種間接性結(jié)果。這就導(dǎo)致技術(shù)使用者隨時可能陷入一種隱蔽的被操控狀態(tài)，技術(shù)研發(fā)者、投資者甚至被監(jiān)測者都有機(jī)會利用情緒識別技術(shù)來展現(xiàn)出自己想要表達(dá)的“情緒信息”。

從“它異關(guān)系”看，情緒識別技術(shù)在運行過程中能夠“擺置”人的倫理行為?！白馨讶藚R集到技術(shù)展現(xiàn)中，即喚起他的限定方式的全部思想、追求和努力，并使它們只集中在這一種方式的展現(xiàn)上……在我們的時代，不僅僅人，而且所有的存在者，自然和歷史，鑒于他們的存在，都處于某種要求之下。”[10]在海德格爾看來，人在技術(shù)的支配下將逐漸成為異化的人。情緒識別技術(shù)使人成為技術(shù)的對象物，讓人的情緒成為一種象征著財富的信息資源，正在使海德格爾的憂慮部分地成為現(xiàn)實。

從“背景關(guān)系”看，情緒識別技術(shù)通常會以“不在場”的幕后狀態(tài)存在，對人的倫理行為產(chǎn)生隱性的影響。情緒識別機(jī)器在接受指令之后會自主識別被監(jiān)測者的情緒狀態(tài)，這日益成為人類不自覺的技術(shù)背景。然而，情緒識別技術(shù)越是隱性化，就越容易削弱人的知覺和判斷，使人日益陷入“技術(shù)繭房”之中。

三、情緒識別技術(shù)倫理風(fēng)險的成因

情緒識別技術(shù)倫理風(fēng)險的生成原因是復(fù)雜而多元的，其中既包括情緒識別技術(shù)本身的內(nèi)在因素，又包括社會倫理環(huán)境等外在因素。具體而言，情緒識別技術(shù)的倫理風(fēng)險成因主要包括以下幾個方面：

(一)倫理觀念的相對滯后

英國社會學(xué)家安東尼·吉登斯指出：“科學(xué)也造成新的不確定性——其中許多具有全球性。對這些捉摸不定的因素，我們基本上無法用以往的經(jīng)驗來消除?！盵11]在全球風(fēng)險時代，情緒識別技術(shù)引發(fā)的倫理風(fēng)險極有可能引發(fā)“蝴蝶效應(yīng)”，給人類社會造成不可預(yù)見的后果。然而，從時間維度看，人類社會的道德標(biāo)準(zhǔn)和價值判斷通常具有恒久的持續(xù)性、穩(wěn)定性，很難在較短時間內(nèi)作出改變來適應(yīng)新興技術(shù)的飛速發(fā)展。因此，在情緒識別技術(shù)面前，傳統(tǒng)倫理資源所提供的根深蒂固的倫理觀念自然會展現(xiàn)出一定的滯后性和局限性，以致人們對情緒識別技術(shù)的倫理風(fēng)險往往缺乏足夠的警覺性和敏感度。此外，從空間維度看，“全球風(fēng)險社會”使得情緒識別技術(shù)的倫理風(fēng)險極可能演變?yōu)橐环N全球性問題，這就導(dǎo)致傳統(tǒng)的區(qū)域性倫理觀念遭遇了很大的挑戰(zhàn)?？傊?，情緒識別技術(shù)與傳統(tǒng)倫理觀念之間的不對等關(guān)系導(dǎo)致了人們倫理觀念的相對滯后，加大了情緒識別技術(shù)倫理風(fēng)險爆發(fā)和擴(kuò)散的機(jī)會。

(二)資本增殖的利益驅(qū)動

情緒識別技術(shù)原本是為了滿足人的美好生活需要而誕生的新興工具手段，但是這種技術(shù)一旦被逐利者掌握，就會演變?yōu)榉?wù)于資本增殖的技術(shù)工具?！百Y本的邏輯是求利的邏輯，技術(shù)內(nèi)在追求利益和利益最大化的特點和資本追求增殖本性形成內(nèi)在的共契，甚至可以說是共謀?！盵12]在市場經(jīng)濟(jì)中，能否取得經(jīng)濟(jì)效益是技術(shù)研發(fā)者所要考慮的首要因素?？梢哉f，正是由于情緒識別技術(shù)本身所具有的經(jīng)濟(jì)價值決定了這項技術(shù)的存活發(fā)展。然而，“技術(shù)的勝利，似乎是以道德的敗壞為代價換來的”[13]。情緒識別技術(shù)一旦蛻化為資本的附庸，就會按照資本的邏輯來運行，忘卻其本應(yīng)服務(wù)于人類的倫理價值。如果單純把情緒識別技術(shù)看作一種獲取經(jīng)濟(jì)利益的工具，那么即便這種技術(shù)引發(fā)巨大的倫理風(fēng)險，在一些逐利者看來也在所不惜。優(yōu)化情緒識別技術(shù)的用戶體驗，使這一技術(shù)占據(jù)更廣闊的市場并創(chuàng)造更多的經(jīng)濟(jì)效益，才是逐利者眼中最重要的事情。這無疑會使情緒識別技術(shù)的倫理風(fēng)險遭到忽視，使情緒識別技術(shù)在開發(fā)和應(yīng)用過程中逐漸背離以人為本的科技倫理原則，引發(fā)一系列倫理風(fēng)險。

(三)技術(shù)本身的不確定性

情緒識別技術(shù)的廣泛運用讓人類理解他人情緒的方式方法有了更多的可能性。但是，情緒識別技術(shù)需要多種人工智能技術(shù)的支撐，其中主要包括人臉識別技術(shù)、語音監(jiān)測技術(shù)、數(shù)據(jù)處理技術(shù)等。每一項相關(guān)技術(shù)都成熟運用，才能確保情緒識別技術(shù)的安全性和可靠性。多種技術(shù)的交互運用顯著地增加了情緒識別技術(shù)本身的不確定性。而不確定性正是引發(fā)倫理風(fēng)險的主要原因之一?？梢哉f，情緒識別技術(shù)倫理風(fēng)險的產(chǎn)生與該技術(shù)本身的不確定性有著千絲萬縷的聯(lián)系。在運用技術(shù)手段來完成對人的情緒理解之后，我們?nèi)匀恍枰谥T多不確定因素中面對各種風(fēng)險。例如：情緒識別的技術(shù)結(jié)果是否具有客觀性？監(jiān)測結(jié)果能否得到科學(xué)運用？這些不確定性的存在無疑加大了情緒識別技術(shù)倫理風(fēng)險的可能性。此外，情緒識別技術(shù)使用者的自律問題也是影響情緒識別技術(shù)倫理風(fēng)險的主要因素之一。面對可能帶來巨額收益的情緒識別技術(shù)，逐利者通常會逐漸放松道德倫理層面的自我約束。這就進(jìn)一步增強(qiáng)了情緒識別技術(shù)的不確定性，使其倫理風(fēng)險有了更大的生長空間。

(四)倫理規(guī)約的制度缺陷

倫理規(guī)約在技術(shù)發(fā)展過程中扮演著重要的角色，能夠促使技術(shù)更好地服務(wù)于人，引導(dǎo)技術(shù)走向可持續(xù)發(fā)展。但是，由于情緒識別技術(shù)本身的不確定性，與該技術(shù)相關(guān)的倫理規(guī)約往往存在著難以避免的制度缺陷。以個人信息保護(hù)為例，應(yīng)該說，現(xiàn)有的倫理規(guī)范較好地保障了人的信息安全，近期更是通過立法的方式構(gòu)建起大數(shù)據(jù)時代背景下個人信息保護(hù)的制度里程碑。但是，面對情緒識別技術(shù)這一新興技術(shù)，仍有諸多疑問亟待現(xiàn)有的倫理規(guī)約作出進(jìn)一步回應(yīng)。例如：人的情緒是否屬于個人信息？人的情緒泄露是否應(yīng)該維權(quán)？情緒泄露造成的損失又該如何衡量？此外，由于情緒識別技術(shù)本身的復(fù)雜性和專業(yè)性，這一技術(shù)的運行過程不可能像傳統(tǒng)的簡單技術(shù)那樣由單一的社會成員就能夠完成，而是必須通過多人開展團(tuán)隊合作才能完成。因此，在情緒識別技術(shù)的開發(fā)、測試和應(yīng)用過程中，每一位技術(shù)研發(fā)者都只不過是整個技術(shù)運轉(zhuǎn)鏈條上的一環(huán)而已。這就意味著，每一位技術(shù)研發(fā)者都是情緒識別技術(shù)倫理風(fēng)險的制造者，但又都不用承擔(dān)全部的倫理風(fēng)險責(zé)任，甚至不構(gòu)成獨立的責(zé)任者。這就給情緒識別技術(shù)的倫理規(guī)約帶來了責(zé)任追究的難題，導(dǎo)致了倫理風(fēng)險的擴(kuò)大。

四、情緒識別技術(shù)倫理風(fēng)險的防控

為了廓除情緒識別技術(shù)的倫理風(fēng)險，既要更新知情同意機(jī)制，也要提高倫理失范成本，更要合理架構(gòu)法律體系，從公眾觀念、責(zé)任倫理、制度規(guī)約等方面同向推進(jìn)，形成有效防控情緒識別技術(shù)倫理風(fēng)險的多維合力。

(一)更新知情同意機(jī)制，提高公眾的倫理風(fēng)險感知能力

情緒識別技術(shù)所構(gòu)建的情緒理解模式讓技術(shù)使用者自以為掌握了情緒的解鎖密匙，但人類真實而復(fù)雜的情緒并不能完全轉(zhuǎn)化為數(shù)據(jù)符號，人與人之間的社會交往也并不一定需要完全透明化的情緒表達(dá)。公眾只有保持這種倫理風(fēng)險感知能力，對情緒識別技術(shù)慎思明辨，才能為情緒識別技術(shù)的未來發(fā)展開辟一條澄明之路。相反，倘若公眾對情緒識別技術(shù)倫理風(fēng)險認(rèn)知較少甚至存在盲區(qū)，輕則可能產(chǎn)生技術(shù)恐慌，重則可能導(dǎo)致情緒識別技術(shù)倫理風(fēng)險的加劇。因此，更新知情同意機(jī)制，革新社會倫理觀念，提高公眾的倫理風(fēng)險感知能力，有助于情緒識別技術(shù)的倫理風(fēng)險防控。

首先，情緒識別技術(shù)研發(fā)者一定要遵循公開透明原則，在情緒識別程序啟動時明確告知被監(jiān)測者即將與具備情緒識別能力的系統(tǒng)進(jìn)行交互。就好比某些通話會提醒“本次通話可能被錄音”一樣，在涉及情緒識別時，提示用戶“本次程序運行過程中您的情緒可能被監(jiān)測”。

其次，在情緒識別技術(shù)運行過程中，情緒識別程序要采取語音、圖像等多種方式，引導(dǎo)公眾尊重人的主觀能動性和主體價值性，讓技術(shù)使用者深刻地意識到，情緒識別技術(shù)意圖通過算法歸納、數(shù)據(jù)庫對比來開展情緒理解，僅僅是對人類情緒的簡單化、低層次的復(fù)現(xiàn)。

最后，在情緒識別完成后，情緒識別程序要充分尊重被監(jiān)測者的知情同意權(quán)利，除了要明確、醒目地告知被監(jiān)測者情緒識別結(jié)果的用途，還應(yīng)當(dāng)向被監(jiān)測者披露情緒識別技術(shù)數(shù)據(jù)處理的基礎(chǔ)邏輯以及程序運行可能給被監(jiān)測者造成的影響，將情緒識別結(jié)果的數(shù)據(jù)處置權(quán)完全賦予被監(jiān)測者本人，增進(jìn)公眾對于情緒識別技術(shù)不確定性和復(fù)雜性的理性認(rèn)識，盡可能地獲取公眾的支持和理解。

(二)提高倫理失范成本，強(qiáng)化技術(shù)研發(fā)者的風(fēng)險防控意識

情緒識別技術(shù)研發(fā)者的倫理行為是由其利益動機(jī)所決定的。因此，可通過提高倫理失范成本來強(qiáng)化情緒識別技術(shù)研發(fā)者的風(fēng)險防控意識。

第一，要完善情緒識別技術(shù)相關(guān)行業(yè)的準(zhǔn)入和退出機(jī)制，以此來提高情緒識別技術(shù)研發(fā)者的倫理失范成本，維護(hù)情緒識別技術(shù)應(yīng)用市場的良性競爭環(huán)境。完善情緒識別技術(shù)相關(guān)行業(yè)的準(zhǔn)入機(jī)制一方面是要支持和鼓勵具有創(chuàng)新能力的情緒識別技術(shù)研發(fā)機(jī)構(gòu)進(jìn)入市場，另一方面則是要提高情緒識別技術(shù)相關(guān)行業(yè)的準(zhǔn)入門檻，加大資格審查力度，將遵循倫理規(guī)范作為情緒識別技術(shù)應(yīng)用的前提條件，嚴(yán)把情緒識別技術(shù)相關(guān)行業(yè)的市場準(zhǔn)入關(guān)。完善情緒識別技術(shù)相關(guān)行業(yè)的退出機(jī)制一方面是要明確情緒識別技術(shù)相關(guān)行業(yè)退出的程序和標(biāo)準(zhǔn)，形成規(guī)范化、制度化的行業(yè)退出機(jī)制，另一方面則是要充分發(fā)揮市場在情緒識別技術(shù)相關(guān)行業(yè)資源配置中的決定性作用，實現(xiàn)情緒識別技術(shù)應(yīng)用市場生態(tài)的自我凈化。

第二，要針對情緒識別技術(shù)而建立專門的倫理審查機(jī)構(gòu)，實施嚴(yán)格的倫理審查制度，明確告知情緒識別技術(shù)研發(fā)者可能擔(dān)負(fù)的倫理風(fēng)險?；趪鴥?nèi)外新興技術(shù)倫理風(fēng)險防控的成功經(jīng)驗，我國有必要自上而下地建立起新興技術(shù)倫理審查機(jī)構(gòu)，通過建立常態(tài)化的監(jiān)管機(jī)構(gòu)來告知和督促情緒識別技術(shù)研發(fā)者遵從技術(shù)研發(fā)的倫理規(guī)范。

第三，要通過提倡職業(yè)道德、加強(qiáng)社會監(jiān)督來提高情緒識別技術(shù)倫理失范成本。除了加強(qiáng)對專業(yè)機(jī)構(gòu)的審查工作，我們還要大力宣傳科技倫理對技術(shù)研發(fā)者個人職業(yè)生涯發(fā)展和技術(shù)高質(zhì)量發(fā)展的正負(fù)面影響，將與情緒識別技術(shù)倫理問題類似的典型科技倫理失范案例編纂成冊并出版發(fā)行，以此來警示情緒識別技術(shù)研發(fā)者，切實強(qiáng)化他們的倫理風(fēng)險防控意識。

(三)合理架構(gòu)法律體系，運用法律來約束具體技術(shù)行為

加強(qiáng)倫理道德建設(shè)是增強(qiáng)情緒識別技術(shù)道德底蘊、促進(jìn)該技術(shù)健康發(fā)展的重要渠道，但是我們也不能因此而忽視情緒識別技術(shù)發(fā)展的法治環(huán)境。而優(yōu)化法治環(huán)境，首先就是要合理架構(gòu)與情緒識別技術(shù)最新應(yīng)用進(jìn)展相匹配的法律體系。我國雖然已于2021年11月1日起正式施行了《個人信息保護(hù)法》，但就情緒識別技術(shù)的最新應(yīng)用進(jìn)展而言，我國針對這一領(lǐng)域的立法仍然相對滯后。情緒識別技術(shù)直接面向公民的個人敏感信息，其引發(fā)的倫理新挑戰(zhàn)已然在一定程度上打破了傳統(tǒng)的法律假設(shè)。因此，當(dāng)前我國需要加大力度，合理架構(gòu)適應(yīng)情緒識別技術(shù)最新應(yīng)用進(jìn)展的法律體系，針對情緒識別技術(shù)的具體細(xì)分領(lǐng)域而靈活地調(diào)整治理策略，以明確的法律規(guī)定來應(yīng)對情緒識別技術(shù)的不確定性。

第一，應(yīng)當(dāng)堅持禁止性規(guī)定與賦權(quán)性規(guī)定之間的并存和聯(lián)動。情緒識別技術(shù)本身具有極強(qiáng)的專業(yè)性和復(fù)雜性，堅持禁止性規(guī)定與賦權(quán)性規(guī)定之間的并存和聯(lián)動有利于增強(qiáng)司法實踐中的可操作性。對于情緒識別技術(shù)運行過程中的被監(jiān)測者，法律應(yīng)當(dāng)作出賦權(quán)性規(guī)定，充分保障被監(jiān)測者的知情同意權(quán)利、信息支配權(quán)利以及自由自主權(quán)利。對于情緒識別技術(shù)的開發(fā)者和實施者，法律應(yīng)當(dāng)作出相應(yīng)的禁止性規(guī)定，明確情緒識別技術(shù)運行過程中的責(zé)任主體。

第二，應(yīng)當(dāng)堅持公私法律制度之間的內(nèi)在協(xié)調(diào)和互補(bǔ)。我國針對情緒識別技術(shù)這一領(lǐng)域進(jìn)行立法時，應(yīng)當(dāng)做到公私兼顧，一方面憑借行政執(zhí)法來維護(hù)社會群體的公共權(quán)利，另一方面通過民事法律的介入來實現(xiàn)私權(quán)保障，對情緒識別技術(shù)運行中的被監(jiān)測者給予民事權(quán)利保護(hù)和救濟(jì)。在明確被監(jiān)測者的權(quán)利內(nèi)容之外，還應(yīng)當(dāng)就情緒識別技術(shù)應(yīng)用紛爭的訴訟時效、訴訟主體、過錯舉證責(zé)任等內(nèi)容作出明確規(guī)定，力求實現(xiàn)內(nèi)容科學(xué)、體系完備的法律安排。