朱雯熙 李亭慧

關(guān)鍵詞：行政治理 情感計算 公共倫理 公平正義

一、引言

人工情感技術(shù)屬于信息技術(shù)的前沿分支范疇，它的產(chǎn)生源于情感電腦對于人類感性情緒的計算，因此可以將其視為“情感計算”的自然延伸。①作為一個快速興起的交叉學(xué)科，情感計算致力于以信息科學(xué)手段識別、理解、模仿、拓展人類情感，最終實(shí)現(xiàn)自然化、擬人化、人格化的“人一機(jī)”情感交互的目的。然而，技術(shù)創(chuàng)新具有“雙重性”特征，即在升級社會生產(chǎn)方式、催生社會新樣態(tài)的同時，也會對數(shù)據(jù)安全、人的主體地位、人的思維能力造成安全風(fēng)險和倫理挑戰(zhàn)。技術(shù)賦能視域下的情感計算能夠?yàn)槿斯ぶ悄軟Q策提供優(yōu)化路徑，以情感變量的輸入幫助機(jī)器作出更為人性化、更為合理的決策。但是，情感計算在生理信號的采集和通用性程度、情感標(biāo)注的準(zhǔn)確性、用戶隱私數(shù)據(jù)、情感信息捕獲技術(shù)等方面仍然存在問題與挑戰(zhàn)。目前，學(xué)界對于情感計算在應(yīng)用過程中可能產(chǎn)生風(fēng)險已經(jīng)取得了共識。例如，褚婧一認(rèn)為情感計算可能會由于對情感信息的不當(dāng)獲取與利用而引發(fā)情感操縱等隱私風(fēng)險；②王祿生認(rèn)為無論是從法律、倫理還是技術(shù)層面，情感計算的應(yīng)用都會引發(fā)相應(yīng)的風(fēng)險①等等。但是，就情感計算在某一具體領(lǐng)域的應(yīng)用可能產(chǎn)生的風(fēng)險而言，學(xué)界目前的探討主要集中在教育學(xué)領(lǐng)域。例如，龔善要認(rèn)為情感計算在教育學(xué)領(lǐng)域的適用可能會誘發(fā)技術(shù)風(fēng)險、引發(fā)人格權(quán)與受教育權(quán)的保護(hù)危機(jī)、弱化教育場景中“人”的主體地位；②蔣艷雙等學(xué)者也指出，情感計算在教育中的應(yīng)用會存在教師的技術(shù)依賴以及智能體的情感欺騙等問題。③總體來看，學(xué)界對于情感計算在行政治理領(lǐng)域的應(yīng)用所展開的專門探討在目前仍然較少。然而，鑒于情感計算在教育培訓(xùn)、醫(yī)療健康、商業(yè)服務(wù)等領(lǐng)域的應(yīng)用所呈現(xiàn)的技術(shù)優(yōu)勢，情感計算運(yùn)用于行政治理領(lǐng)域也成為趨勢所在。在此背景下，如何預(yù)防和規(guī)制情感計算在行政治理領(lǐng)域可能引發(fā)的風(fēng)險，就成了發(fā)揮情感計算在行政治理領(lǐng)域的技術(shù)優(yōu)勢、提高行政治理效能的必要之舉。鑒于情感計算與倫理道德風(fēng)險的關(guān)聯(lián)性以及行政治理的公共性，④本文將從公共倫理的角度對行政治理中情感計算的風(fēng)險以及可能的規(guī)制路徑予以探討。

二、技術(shù)綁定：行政治理中情感計算的應(yīng)用模式

情感計算作為一門復(fù)合型學(xué)科，涉及計算機(jī)科學(xué)、腦科學(xué)以及社會科學(xué)等多學(xué)科領(lǐng)域的內(nèi)容。目前情感計算的主流應(yīng)用有兩類：一是情感計算的結(jié)果作用于被識別者本人，二是情感計算的結(jié)果作用于被識別者之外的第三人。前者典型的例子是在醫(yī)療領(lǐng)域，通過改變病人的情感狀態(tài)治療疾病。后者則主要通過提供情感數(shù)據(jù)分析以提高人類決策的準(zhǔn)確性和有效性，因此被廣泛運(yùn)用于各類決策輔助領(lǐng)域。⑤基于后一特性，情感計算可以嵌入行政活動之中，輔助行政治理。若要厘清情感計算在行政治理中的運(yùn)行機(jī)制和潛在風(fēng)險，還必須從情感計算的技術(shù)邏輯緣起進(jìn)行研究，找到情感計算的本質(zhì)特征，為發(fā)現(xiàn)并解決其潛在的應(yīng)用風(fēng)險做好充分準(zhǔn)備。

1．技術(shù)基礎(chǔ)：情感計算的基本邏輯

一般認(rèn)為，情感計算的概念緣起于羅莎琳德·皮卡德（Rosalind Picard） 1997年出版的專著《情感計算》。在該書中，皮卡德將情感計算解釋為“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或意圖影響情緒和其他情感現(xiàn)象的計算”。⑥情感計算依托于人工智能、大數(shù)據(jù)等信息技術(shù)，主要通過感知、識別、模擬、影響⑦等環(huán)節(jié)對人類情感產(chǎn)生作用。首先，在情感計算算法運(yùn)行的前端路徑中，感知人類情感是基礎(chǔ)。情感感知可以通過接觸手段和非接觸手段實(shí)現(xiàn)：前者依賴于接觸式的傳感器直接感知人類情感，諸如血壓儀、脈搏檢測儀等；后者通過非接觸式的遠(yuǎn)程技術(shù)間接感知人類情感，諸如攝像頭、麥克風(fēng)等。借助于上述技術(shù)手段，情感計算對人類的語音、姿勢、表情、狀態(tài)等情緒進(jìn)行充分的感知與收集，形成了情感識別的基礎(chǔ)數(shù)據(jù)庫。其次，在情感計算運(yùn)行的中端路徑中，識別與理解是情感計算的核心環(huán)節(jié)。在情感識別過程中，依托于先前的感知數(shù)據(jù)庫，算法設(shè)計會對信息數(shù)據(jù)庫進(jìn)行全面快速分析并提取出關(guān)鍵特征點(diǎn)，以人工介入的方式為上述關(guān)鍵特征標(biāo)注情感標(biāo)簽。當(dāng)上述過程累積到一定程度時，即存在足夠數(shù)量的情感標(biāo)簽時，人工智能就會通過數(shù)據(jù)分析和總結(jié)生成識別模型。情感計算系統(tǒng)在經(jīng)過反復(fù)模擬訓(xùn)練的基礎(chǔ)上，尋找與主體情感信息特征相契合的關(guān)鍵點(diǎn)自動生成情感計算模型，并借助上述模型模擬主體的情感過程。最后，在情感計算的輸出路徑中，情感影響與拓展是情感計算的終端環(huán)節(jié)。在完成上述感知、識別、模擬環(huán)節(jié)后，情感計算系統(tǒng)通過實(shí)時記錄主體的情感變化，根據(jù)已有模型和情感數(shù)據(jù)信息分析主體的情感狀態(tài)，作出情感反饋，從而在人機(jī)交互的呈現(xiàn)中滿足主體要求，拓展和影響人類情感。概言之，情感計算的算法設(shè)計出發(fā)點(diǎn)在于通過感知、識別、模擬、影響等環(huán)節(jié)對人類情感產(chǎn)生作用，其最終導(dǎo)向是使人工智能理解人類情感，具備情感智能，為強(qiáng)人工智能時代的到來打下堅(jiān)實(shí)基礎(chǔ)。

2．管中窺豹：情感計算在行政治理中的應(yīng)用場景

情感計算在應(yīng)用的對象與內(nèi)容上都是以“人”為中心的，突出對人內(nèi)在情緒的感知、識別與干預(yù)，與人格尊嚴(yán)具有最為密切的聯(lián)系。最終輸出的結(jié)果會影響自我與他人的情感狀態(tài)。①那么在行政治理中，情感計算到底是如何來感知、識別、模擬以及影響人類情感的呢？這就需要對情感計算在行政治理中具體的應(yīng)用場景進(jìn)行觀察。概言之，目前情感計算在行政治理中主要被運(yùn)用于以下具體領(lǐng)域：

第一，將情感計算應(yīng)用于海關(guān)檢查中。檢查人員可以根據(jù)情感計算來判斷入境人員的情緒狀態(tài)，發(fā)現(xiàn)其是否存在欺騙行為。人類的情緒變化通常會伴隨著生理信號的變化，用于情感計算的生理信號主要包括腦電、眼動、肌動、皮膚電、心電和呼吸等。②在一些國家，入境檢查會通過掃描入境人員的瞳孔或面部表情來識別其是否撒謊。

第二，將情感計算應(yīng)用于輿情信息管理中。公職人員可以根據(jù)對程序的設(shè)定，通過情感計算的分析，精確地對輿情進(jìn)行監(jiān)測。文本數(shù)據(jù)通常是指使用文字或符號來描述一件事情所形成的數(shù)據(jù)，是人的語言表達(dá)的文字體現(xiàn)。文本情感計算在輿情分析方面有著重要的研究與應(yīng)用價值，是獲取評價、觀點(diǎn)檢索、網(wǎng)絡(luò)輿情檢查、信息預(yù)測的重要技術(shù)支撐。其中主要包括文本數(shù)據(jù)預(yù)處理、情感對象識別、情感信息分類、情感推理等。③而且，文本情感計算還可以通過對文本情感的分析來處理信息的非結(jié)構(gòu)化內(nèi)容。這可以大大減少輿情對社會造成的動蕩與風(fēng)險，保證社會的持續(xù)穩(wěn)定發(fā)展。

第三，將情感計算運(yùn)用到交通管理之中。大量的研究表明，在解決某些實(shí)際問題時，人類只靠理性分析和決策并不會得到最優(yōu)解。但如果在決策過程中加入人的生理反應(yīng)（如情感），這有可能幫助人類得到更優(yōu)的決策結(jié)果，“flow交通”就是一種可以解決交通問題的多智體控制系統(tǒng)。④將情感計算應(yīng)用于交通之中，真實(shí)地模擬情緒對出行者的影響，提高交通管制的及時性和準(zhǔn)確性，有利于改善交通的擁堵情況，提高交通安全保障。

三、風(fēng)險識別：行政治理應(yīng)用情感計算之倫理批判

1．去主體化：人格尊嚴(yán)被情感計算消弭

當(dāng)下的行政治理都在強(qiáng)調(diào)作出治理行為時主體之間展開合作，柔性執(zhí)法，將人的尊嚴(yán)放在第一位是行政治理的原則。但情感計算的應(yīng)用將打破將人的尊嚴(yán)置于第一這一原則。

首先，維護(hù)人格尊嚴(yán)是人開展主體行為的基本出發(fā)點(diǎn)，而情感計算由于缺乏真實(shí)感情的投入在運(yùn)用中容易將人當(dāng)作手段。一方面，情感本就是人類獨(dú)有的一種高級心理現(xiàn)象，情感計算無法將情感與人自身、人的需求結(jié)合。情感計算根據(jù)自身的邏輯往往會對情感進(jìn)行不當(dāng)截取而導(dǎo)致人的情感脫離自我控制而處于“離身”狀態(tài)，⑤不與具體個人產(chǎn)生關(guān)聯(lián)，而僅僅是作為技術(shù)發(fā)展的手段和原則，這使人無法從情感計算中得到足夠的尊重。另一方面，在情感計算中，即使是人與人之間的情感交流也難以得到尊重。人基于生理本性通過身體在場進(jìn)行情感交流，而情感計算則宣告人與人的交流脫離人的生理本性。在情感計算的技術(shù)目標(biāo)設(shè)定中，未來的終極形態(tài)是無身體的交流。但目前身體的不可復(fù)制性使具身情感具有唯一性，而基于情感計算的可復(fù)制性以及程序性產(chǎn)生的離身情感并不具有唯一性，而僅是程式化產(chǎn)物。正是人類的生理特性，才能讓人性變得如此獨(dú)特，因此人性需要得到尊重，而不應(yīng)僅僅被當(dāng)作手段。脫離了人類的生理特性，也就失去了人性的獨(dú)特，情感計算讓我們無法確認(rèn)對方是否具有真正的情感以及進(jìn)行了真正的情感交流，對人性目的具有一定的崩壞作用。

其次，人的道德地位需要被尊重，人的特性不應(yīng)被具體的事物所界定，而情感計算正是將人的感情以具體的規(guī)則進(jìn)行分類，不能保證人的道德地位被尊重。從情感計算的理論特性來看，情感計算的運(yùn)用以人類設(shè)定的情感建模為基礎(chǔ)，而情感建模就是根據(jù)設(shè)定者給予的具體數(shù)值而對人的情感狀態(tài)進(jìn)行可能性推測，但感性的情感是無法通過理性的數(shù)字具體概括的。情感計算得以成立和運(yùn)用的前提是承認(rèn)情感可以被具體數(shù)值予以描述，這就意味著，在情感計算的程序中，人的情感可以成為計算模型中的信號。情感計算的目的就是根據(jù)計算與作為本體的人達(dá)成等價交換?；谌说那楦姓J(rèn)知特性，人的尊嚴(yán)是道德事業(yè)中最應(yīng)當(dāng)被重視的部分，但情感計算只想用具體的數(shù)字去概述人的情感，就注定忽視人的道德地位。從情感計算的內(nèi)部特性來看，情感計算根據(jù)具體的數(shù)值將不可定義且獨(dú)特的人類進(jìn)行分類，根據(jù)性別、種族、膚色以及年齡等物理特點(diǎn)打上固定標(biāo)簽，根據(jù)人們的受歡迎程度，作出不同的評價。根據(jù)物理特性對人進(jìn)行分類評價是對人最不尊重的行為，是對人的尊嚴(yán)的貶低，因?yàn)樗鲆暳嗣恳粋€人獨(dú)特的情感需求以及人的尊嚴(yán)要求的道德地位。

最后，即便基于個人同意也并不意味著情感計算不會危害人的尊嚴(yán)。如前所述，情感計算主流應(yīng)用有兩類：一是應(yīng)用于被識別者本人，二是應(yīng)用于被識別者之外的第三人。不能簡單地將被識別者與情感計算達(dá)成合意作為證明情感計算或其他應(yīng)用沒有危害人的尊嚴(yán)的證據(jù)。①情感計算背后的數(shù)據(jù)主體享有自主決定數(shù)據(jù)使用的權(quán)利，不能僅以使用者個人對目前所使用的程序的意見來證明程序沒有損害人的尊嚴(yán)。人性要求人不能把自己當(dāng)作一個手段實(shí)現(xiàn)別的目的，所以要特別注意自主權(quán)在什么樣的背景和前提下行使，是否符合人的尊嚴(yán)的原理要求，權(quán)利的行使要以維護(hù)人的尊嚴(yán)為目的，換言之，自主權(quán)的實(shí)際行使方式并不一定與人的尊嚴(yán)要求完全符合。另外，根據(jù)現(xiàn)實(shí)中的真實(shí)情況，個人很難完整理解相關(guān)合同的具體條款，甚至并不清楚自己允諾了合同中哪些權(quán)利授予，這就說明，自主權(quán)在實(shí)際運(yùn)用中也受到一定限制。

2．去秩序化：公平正義被情感計算拋棄

情感計算應(yīng)用的倫理沖突不僅局限于對個人尊嚴(yán)的貶低，還有害于社會的公平正義。一方面，情感計算在各種行政治理中加深應(yīng)用，會擴(kuò)大算法歧視的范圍。人的情感通道有很多種，包括人臉表情、語音信號、肢體行為等。情感計算在自然情感判斷中，以面部表情為主要依據(jù)，而這樣的情感計算非常容易犯錯誤，因?yàn)槟壳按蠖鄶?shù)人臉表情識別并不完善，缺乏嚴(yán)格的規(guī)制，也易被人為地種族歧視和性別歧視干擾。②目前的情感計算所依據(jù)的數(shù)據(jù)基礎(chǔ)并不具有代表性，且相關(guān)算法不夠獨(dú)立和中立。情感計算不但技術(shù)上不成熟，還可能存在算法歧視擴(kuò)大化風(fēng)險。若政府等公權(quán)力機(jī)關(guān)直接將情感計算應(yīng)用于日常的行政治理（如行政決策以及部分案件處理），而忽視情感計算可能存在的算法問題或人為操縱的風(fēng)險，就會導(dǎo)致?lián)p害社會公平正義后果的發(fā)生。①情感計算已經(jīng)在案件偵查、部分行政決策、交通等領(lǐng)域獲得了應(yīng)用，但根據(jù)情感計算的特性，其在商業(yè)、教育、娛樂、醫(yī)療健康甚至是文史等領(lǐng)域都具有應(yīng)用前景，甚至更有擴(kuò)展加深的可能性。②情感計算在行政治理的加深應(yīng)用，也會使算法帶來的歧視加深。政府等公權(quán)力機(jī)關(guān)面向國計民生，在實(shí)施具體的行政行為時要接觸具體的行政相對人，若是實(shí)施的具體行政行為帶有歧視，將造成深刻的影響。如果公職人員在進(jìn)行行政決策時過度依賴情感計算，以情感計算來判斷當(dāng)事人的實(shí)際情況，若損害了公民的合法權(quán)益，公民也很難得到合理救濟(jì)，如此就會損害政府的公信力。需要指出的是，情感計算的應(yīng)用導(dǎo)致的倫理沖突已經(jīng)對社會的公平正義造成了影響，若是在行政治理中加深應(yīng)用，更會強(qiáng)化這種惡劣影響。而算法本身的隱患很難排除，隱性歧視會一直伴隨算法的輸出擴(kuò)散，若不能科學(xué)地加以規(guī)制，那最終的后果定是對人性的異化。

另一方面，情感計算與行政公正原則存在沖突。行政公正原則是行政法的基本原則之一，它要求行政行為應(yīng)當(dāng)具有正當(dāng)性、衡平性和說理性。③其中說理性指行政治理遵循著理由思維，即用事實(shí)與規(guī)范的理由來證成某個結(jié)果，這一過程屬于法律論證的范疇。④然而，情感計算存在算法的不透明，若將行政治理中的某些過程變成代碼計算，用計算思維取代理由論證思維，將會與行政公正原則發(fā)生沖突。⑤行政公正原則不僅要求結(jié)果公正，而且要求程序正義，后者甚至比前者更為重要。而情感計算則將程序置于“黑箱”之中，直接根據(jù)算法得出結(jié)果，這顯然無法證明其過程的正義性。而相關(guān)數(shù)據(jù)能否構(gòu)成行政治理，在規(guī)范的維度上也難以自圓其說。公眾可能會認(rèn)為行政治理淪為某種意義上的數(shù)值計算，從該算法中所得出的結(jié)果可能會侵害公平正義。⑥除此之外，算法的不確定性也會產(chǎn)生一定的倫理風(fēng)險。首先，情感計算的算法不確定性不僅是技術(shù)問題，還有情感本身的問題。情感發(fā)生機(jī)制也存在不確定性，學(xué)界沒有關(guān)于情感的概念與發(fā)生機(jī)理的共識。⑦近代以來，情感作為哲學(xué)上的重要概念，洛克、亞當(dāng)·斯密、休謨、康德等哲學(xué)家都以大篇幅進(jìn)行闡述，⑧但哲學(xué)家們并沒有對情感的含義進(jìn)行明確厘定，情感這一概念仍然是模糊的。除了概念的模糊之外，其他學(xué)科諸如計算機(jī)科學(xué)、腦科學(xué)、認(rèn)知科學(xué)、心理學(xué)等，也沒有給出一套統(tǒng)一的情感發(fā)生機(jī)制。情感始終保留著其內(nèi)隱的個體經(jīng)驗(yàn)特征，這導(dǎo)致在人腦的組織結(jié)構(gòu)、激素分泌狀態(tài)、行為表現(xiàn)和情感之間難以建立統(tǒng)一的、有說服力的情感模型。情感計算相較于理性計算更加不確定，理性計算有一些可被接受的原則（諸如利益最大化、帕累托累積等），而情感則不容易被準(zhǔn)確把握，且高度依賴于情感的認(rèn)識。⑨其次，情感計算的算法具有不確定性。情感計算的算法是一種技術(shù)設(shè)計，服務(wù)于技術(shù)目標(biāo)，且面向未來。⑩情感計算具有多學(xué)科交融的特點(diǎn)，技術(shù)結(jié)構(gòu)復(fù)雜和不穩(wěn)定，使得公眾難以對情感計算技術(shù)形成準(zhǔn)確的認(rèn)識。⑩而且，情感計算由一元模態(tài)走向多元模態(tài)，也給其實(shí)踐應(yīng)用帶來了巨大的不確定性。①再次，情感計算的使用具有不確定性。情感計算適用于不同的人機(jī)和生活關(guān)系，相關(guān)算法并不遵循統(tǒng)一的技術(shù)標(biāo)準(zhǔn)，實(shí)現(xiàn)情感計算的方法各有不同，可能會導(dǎo)致技術(shù)功能發(fā)揮的不確定性，引發(fā)技術(shù)風(fēng)險。②并且情感計算中尚未形成統(tǒng)一明確的科技術(shù)語，導(dǎo)致其輸出結(jié)果存在一定的模糊性。最后，從情感計算的技術(shù)邏輯來看，情感賦予和交互環(huán)境下的機(jī)器離身情感都存在不確定性。情感計算會根據(jù)個體差異以及個人對情感的控制，呈現(xiàn)出不確定性。③

四、風(fēng)險規(guī)制：行政治理中情感計算之規(guī)范方案

情感計算在行政治理上有兩種治理方式：一是法律調(diào)整方式，二是非法律調(diào)整方式。法律調(diào)整方式相對于非法律調(diào)整方式的優(yōu)點(diǎn)在于，法律能夠以權(quán)威的方式安排相關(guān)主體的法律權(quán)利和法律義務(wù)，從而建立起行為規(guī)范。④在法律調(diào)整過程中，為了維護(hù)人的尊嚴(yán)，應(yīng)當(dāng)確立知情同意原則的優(yōu)先地位；為了維護(hù)社會公平正義，應(yīng)當(dāng)貫徹算法中立原理和公正原則，進(jìn)而按照比例原則進(jìn)行風(fēng)險規(guī)制。

1．人本關(guān)懷：知情同意原則的優(yōu)先地位

自康德以來，人的尊嚴(yán)已成為現(xiàn)代文明的價值基石。情感計算或一切社會工作的人工智能化都存在一個隱患——將人類作為手段而不是目的，⑤這違背了康德所提倡的“以人作為目的”之要求。⑥為避免情感計算對人尊嚴(yán)的侵害，需要在基本價值上重申人的尊嚴(yán)的絕對不可侵犯性。除此之外，還要在法律上作出相應(yīng)的制度安排。情感計算技術(shù)的快速發(fā)展需要以海量個人數(shù)據(jù)信息為支撐，這意味著人們更多的個人數(shù)據(jù)，包括高度敏感性的個人數(shù)據(jù)，將被機(jī)器廣泛捕捉。因此，個人數(shù)據(jù)隱私安全的保護(hù)可以被視為在法律層面維護(hù)人的尊嚴(yán)的具體體現(xiàn)。而構(gòu)建知情同意原則就是保障個人隱私安全、主體性和自由得以實(shí)現(xiàn)的關(guān)鍵。

（1）既有的知情同意模式及其缺陷

從目前來看，知情同意原則的構(gòu)建存在兩種模式：一種是歐盟的特別知情同意模式，另一種是中國的概括知情同意模式。歐盟較早出臺了以知情同意為原則的《通用數(shù)據(jù)保護(hù)條例》（General DataProtection Regulation）。該條例基于“人的尊嚴(yán)”這一價值信條構(gòu)建了知情同意規(guī)則。根據(jù)該條例，個人資料是指可以確定或識別自然人的一切信息，包括自然人的姓名、身份證號碼、位置數(shù)據(jù)、身體因素等，情感數(shù)據(jù)和信息當(dāng)然也屬于個人資料的范疇。就同意的方式而言，必須基于當(dāng)事人的自愿和充分知悉后明示同意，同一事項(xiàng)或其他事項(xiàng)必須明確地標(biāo)示。在訴訟中，數(shù)據(jù)控制者負(fù)有舉證同意的生效條件之義務(wù)。⑦情感數(shù)據(jù)主體的同意僅僅是一次性的同意，并非持續(xù)性的授權(quán)。同意必須基于自愿，要求合同目的與同意事項(xiàng)符合比例；此外，不允許當(dāng)事人自治的事項(xiàng)還包括司法審判、社會保障、無害處理行為和公共利益等，同意的事項(xiàng)沒有規(guī)定兜底條款。歐盟知情同意規(guī)制模式的實(shí)質(zhì)是“原則一例外”模式，屬于特別同意模式，即個人同意的事項(xiàng)范圍是有限的，法律事先對個人能夠同意的事項(xiàng)作出了規(guī)制，法律優(yōu)先于意思自治。①

根據(jù)我國《個人信息保護(hù)法》的有關(guān)規(guī)定，情感計算收集和處理個人隱私信息的合法性前提是獲得數(shù)據(jù)權(quán)利人的同意，而知情又構(gòu)成了同意的前提。這就是個人信息保護(hù)中的知情同意規(guī)則。具體來說，《個人信息保護(hù)法》強(qiáng)調(diào)收集處理信息的行為必須獲得數(shù)據(jù)權(quán)利人的充分同意，一旦處理目的、方式和種類發(fā)生變化，那么需要權(quán)利人在充分知情的基礎(chǔ)上重新作出同意表示。這表明，知情同意原則既需要數(shù)據(jù)處理主體在法律規(guī)范的框架內(nèi)合法處理個人數(shù)據(jù)，也需要數(shù)據(jù)權(quán)利主體充分意識到自身的數(shù)據(jù)隱私權(quán)利。②盡管我國個人信息保護(hù)中的知情同意充分貫徹了自決權(quán)的正當(dāng)理念，為維護(hù)個人尊嚴(yán)構(gòu)建了規(guī)則的屏障，但是這種意義上的知情同意并不能對個人隱私乃至個人尊嚴(yán)起到實(shí)質(zhì)性的保護(hù)作用。一方面，我國《個人信息保護(hù)法》的知情同意模式是一種靜態(tài)的、一次性的完全同意，對于隱私信息的種類、敏感程度和授權(quán)范圍等事項(xiàng)并沒有進(jìn)行嚴(yán)格限定，數(shù)據(jù)權(quán)利人或者完全同意，或者完全不同意，這種概括同意模式無疑給數(shù)據(jù)權(quán)利人的選擇造成了障礙。另一方面，《個人信息保護(hù)法》設(shè)置了處理個人數(shù)據(jù)的法律兜底條款，這表明情感計算處理個人信息可能存在基于國家或公共利益而無須獲得權(quán)利人知情同意的情形。這無疑大大壓縮了數(shù)據(jù)權(quán)利人的權(quán)利空間。

但是，上述兩種模式都存在一定的不足。首先，面對情感計算收集和處理個人隱私信息的行為，數(shù)據(jù)權(quán)利人可能會有意或無意地忽略數(shù)據(jù)處理主體提供的隱私政策，在沒有充分閱讀了解情感計算處理個人數(shù)據(jù)的范圍、目的和方式等問題的前提下草率運(yùn)用自身的知情同意權(quán)。其次，受制于個人文化程度與知識水平，數(shù)據(jù)權(quán)利人無法充分理解情感計算數(shù)據(jù)處理主體提供的隱私政策，或者就算理解也無法作出符合自身利益的正確選擇。最后，數(shù)據(jù)權(quán)利人在正常情況下能夠充分知情并理解情感計算的隱私政策，但由于各種因素的影響最終也會扭曲自己的選擇。③總之，情感計算的變革發(fā)展必須要盡可能地簡化數(shù)據(jù)權(quán)利人數(shù)據(jù)信息的授權(quán)方式，但既有的知情同意模式無法實(shí)質(zhì)性保護(hù)數(shù)據(jù)權(quán)利人的自主性。

（2）動態(tài)同意模式的提出

鑒于既有知情同意原則存在的缺陷，動態(tài)同意模式被學(xué)界提出，并迅速成為個人信息知情同意機(jī)制的共識性基礎(chǔ)。概括同意模式的“全有或全無”結(jié)構(gòu)催生了動態(tài)同意模式的建立。一方面，隨著數(shù)字技術(shù)對社會生活的全方位重塑，個人信息的應(yīng)用場景正在發(fā)生劇烈變化，傳統(tǒng)前端的、靜態(tài)的知情同意框架已不足以應(yīng)對嚴(yán)峻的風(fēng)險挑戰(zhàn)。④另一方面，知情同意過程既是一個數(shù)據(jù)處理主體向數(shù)據(jù)權(quán)利主體解釋和說明的過程，也是一個雙方互動交流的過程，數(shù)據(jù)處理主體單方面提供信息說明或者數(shù)據(jù)權(quán)利主體被動接受，都不能獲得有效的知情同意。⑤因此，從靜態(tài)化的特別知情同意模式和概括的知情同意模式轉(zhuǎn)向動態(tài)化的同意模式就變得極為必要。

動態(tài)同意模式既適應(yīng)了情感計算技術(shù)發(fā)展需求，強(qiáng)化了個人信息的保護(hù)程度。其核心在于維護(hù)數(shù)據(jù)權(quán)利人的自主性價值，同時提升個人信息安全的保護(hù)水平和有效促進(jìn)數(shù)據(jù)處理或利用，在具體場景、信息分類、風(fēng)險評估、分層同意、持續(xù)披露、動態(tài)同意等機(jī)制上完善靈活的制度體系，允許有條件的“寬泛同意”并賦予自然人“退出權(quán)”，這與既有的同意模式有著極大的不同。①具體而言，第一，動態(tài)同意將數(shù)據(jù)權(quán)利主體置于核心地位，數(shù)據(jù)權(quán)利主體可以基于個人實(shí)際情況選擇是否授權(quán)情感計算處理個人隱私信息。在動態(tài)同意模式建構(gòu)的情感計算數(shù)據(jù)處理交互過程中，數(shù)據(jù)權(quán)利人知情同意的有效性被大幅提升。第二，動態(tài)同意會更為清晰明確地向數(shù)據(jù)權(quán)利人提供個人信息使用的目的、方式和范圍，通過公布情感計算數(shù)據(jù)的具體用途和場景，數(shù)據(jù)權(quán)利人的知情權(quán)將被更為有效地保障。第三，動態(tài)同意賦予數(shù)據(jù)權(quán)利人分層同意和同意撤回權(quán)，進(jìn)一步維護(hù)了數(shù)據(jù)權(quán)利人的自主性。一方面，數(shù)據(jù)權(quán)利人可以根據(jù)情感計算處理數(shù)據(jù)的不同階段、不同場景來決定是否同意對其隱私數(shù)據(jù)的使用，改變既有同意模式中“一次性同意”的僵化機(jī)制；另一方面，數(shù)據(jù)權(quán)利人也可以基于實(shí)際情形的變化撤回對其數(shù)據(jù)處理的同意，從而確保自身的正當(dāng)權(quán)益不被侵犯。第四，動態(tài)同意更貼合數(shù)字技術(shù)躍遷式發(fā)展的現(xiàn)實(shí)，可為情感計算技術(shù)的革新提供靈活發(fā)展的空間，進(jìn)一步提升數(shù)據(jù)收集和處理的效率。盡管動態(tài)同意模式也面臨著主體反復(fù)給予或撤回同意所導(dǎo)致的資源浪費(fèi)和成本增加的風(fēng)險，但其仍然是替代既有同意模式的合理選擇。②

2．現(xiàn)代正義：比例原則的應(yīng)用與調(diào)和

在算法行政中嵌人情感計算技術(shù)，可能存在侵害公平正義的風(fēng)險，對此需要從行政法治基本原則的視角來尋求解決之道。公正原則是情感計算風(fēng)險規(guī)制的核心原則，也是行政治理的目的。在公正原則的支撐下，比例原則成為防范情感計算風(fēng)險的基礎(chǔ)原則。由于比例原則實(shí)質(zhì)上就是正義的內(nèi)在要求，③因此如何構(gòu)建符合比例的情感計算風(fēng)險規(guī)制的法律體系就成為亟須思考的問題。對此，可以從情感計算在算法行政中運(yùn)用而產(chǎn)生的風(fēng)險等級出發(fā)，動態(tài)式地判斷風(fēng)險規(guī)制的內(nèi)容。具言之，首先要明確算法行政運(yùn)用情感計算對于數(shù)據(jù)權(quán)利人的尊嚴(yán)自由和社會公正能夠產(chǎn)生多大程度的影響，并將其具象化為高、中、低三個層級。其次，基于三種層級的風(fēng)險，按照相應(yīng)的比例來建構(gòu)清晰的風(fēng)險規(guī)制方案，其中高風(fēng)險的規(guī)制方案應(yīng)當(dāng)被極度重視。最后，基于比例原則，將各層級的風(fēng)險與風(fēng)險規(guī)制方案一一對應(yīng)——不可接受的風(fēng)險對應(yīng)完全禁止規(guī)制模式，完全可接受風(fēng)險對應(yīng)完全容許規(guī)制模式，高風(fēng)險對應(yīng)高強(qiáng)度規(guī)制，中風(fēng)險對應(yīng)中等強(qiáng)度規(guī)制，低風(fēng)險對應(yīng)低強(qiáng)度規(guī)制。

（1）極端風(fēng)險情形下情感計算的比例原則審查

情感計算存在著不可被法治所接受的嚴(yán)重風(fēng)險和完全可接受的風(fēng)險這兩種極端情形。在存在嚴(yán)重風(fēng)險的情況下，應(yīng)用情感計算將直接有損人的尊嚴(yán)與公正原則，有悖于目的正當(dāng)性原則。例如，未納入法治軌道的情感計算應(yīng)用將會左右相對人的個人情緒及其觀點(diǎn)，這是對人之為人尊嚴(yán)的否定；④再如，通過利用特定范圍內(nèi)人的性格特征一致性達(dá)到非法目的。誠如亞里士多德所言，情感具備激勵和勸阻的功能，修辭術(shù)即借助情感作用來使聽眾保持特定的心理狀態(tài)。⑤行政治理領(lǐng)域的情感計算，如果向工具化與修辭術(shù)的方向深入發(fā)展，那么行政治理將無法承擔(dān)此結(jié)果。為防止這種嚴(yán)重風(fēng)險的發(fā)生，最理性的選擇是明確禁止。而相應(yīng)的是完全可接受的風(fēng)險。此種情形下的情感計算被良好應(yīng)用，能夠根據(jù)不同情景因地制宜地采取不同策略模擬并影響個人情緒。由此，情感計算技術(shù)及其系統(tǒng)在行政法治框架之內(nèi)達(dá)成了其既定的技術(shù)目標(biāo)，既能夠?qū)θ说淖饑?yán)進(jìn)行有效維護(hù)，也與行政法的公正原則相契合。

（2）高風(fēng)險情形下的比例原則審查

在行政治理中，高風(fēng)險情感計算將會嚴(yán)重侵害包括平等享受公共服務(wù)、保障訴訟權(quán)利等在內(nèi)的公民基本權(quán)利。在高風(fēng)險的情感計算活動中，基本權(quán)利是否存在、基本權(quán)利的實(shí)現(xiàn)方式與實(shí)現(xiàn)程度將在很大程度上由情感計算來直接決定，那么必然會損害行政法的公正原則。高風(fēng)險情感計算的場景可能存在于以下三個領(lǐng)域當(dāng)中：首先是刑事偵查領(lǐng)域，刑偵、公安等部門在情感計算技術(shù)的支持下可以深度參與犯罪嫌疑人的供述過程；其次是公共教育領(lǐng)域，實(shí)現(xiàn)規(guī)?；c個性化的有機(jī)結(jié)合已經(jīng)成為《中國教育現(xiàn)代化2035》的主要任務(wù)，而情感計算技術(shù)可能會直接通過數(shù)據(jù)測量和生理反饋等途徑影響個人的受教育權(quán)；再如公共服務(wù)領(lǐng)域，情感計算技術(shù)將會決定個人能否享有公租房、電力、電信等基礎(chǔ)性公共服務(wù)。①情感計算作為新型科學(xué)技術(shù)具有天然不確定性，將會使技術(shù)與法律對公民基本權(quán)利產(chǎn)生深度影響，從而可能直接侵犯個人尊嚴(yán)和公平正義的價值觀，這也就意味著對高風(fēng)險情感計算必須完全禁止。只有在符合公共利益，嚴(yán)格依照法定程序?qū)p害基本權(quán)利的行為進(jìn)行補(bǔ)償和全流程監(jiān)管的前提下，情感計算方能應(yīng)用在涉及公民基本權(quán)利的事項(xiàng)之中。

（3）中風(fēng)險情形下的比例原則審查

中風(fēng)險情感計算意味著情感計算可能對個人權(quán)利造成中度影響，不會產(chǎn)生實(shí)質(zhì)影響。不過，情感計算作為先進(jìn)技術(shù)的內(nèi)在邏輯及其具有天然的不確定性因素，使得應(yīng)用情感計算必然會對個人權(quán)利產(chǎn)生影響，甚至可能對部分個人權(quán)利產(chǎn)生實(shí)質(zhì)影響與風(fēng)險。仍以情感計算技術(shù)在教育領(lǐng)域的應(yīng)用為例，在線學(xué)習(xí)中情感計算技術(shù)的廣泛應(yīng)用，使得人工智能能夠隨時、隨地、隨需地對學(xué)習(xí)者的教育評價和成長產(chǎn)生影響。如果不能充分考慮學(xué)習(xí)者的個體差異并提供多樣化、個性化的在線情感服務(wù)，②雖然可能并不會剝奪公民個人的受教育權(quán)，但仍然會對公民的受教育權(quán)產(chǎn)生負(fù)面影響。③對于中風(fēng)險的情感計算，需要秉持慎重監(jiān)管的原則，既不能完全禁止，亦不可完全放開。對此，歐盟《人工智能責(zé)任指令（提案）》是較為前沿和完整的制度規(guī)則，此規(guī)則為人工智能制定了一個可信框架，允許個人對人工智能技術(shù)的“錯誤行為”造成的損害提出索賠，這一制度可成為情感計算的規(guī)制借鑒，主要體現(xiàn)在以下七個層面：第一是分類規(guī)則層面，需要出臺界定何為中風(fēng)險情感計算的分類規(guī)則，綜合評價應(yīng)用情感計算的目的、程度、不利影響可能、人員狀態(tài)、危害結(jié)果是否可逆等多重考量因素。第二是細(xì)化準(zhǔn)則層面，通過建立風(fēng)險管理系統(tǒng)，識別和預(yù)見中風(fēng)險情感計算可能引發(fā)的風(fēng)險，并確立完善的風(fēng)險告知程序。第三是數(shù)據(jù)治理層面，數(shù)據(jù)是情感計算系統(tǒng)賴以運(yùn)轉(zhuǎn)與計算的基礎(chǔ)。需確保情感計算系統(tǒng)所處理數(shù)據(jù)的質(zhì)量、測試程度、可驗(yàn)證性等因素，建立完善的數(shù)據(jù)治理體系與管理規(guī)范，尤其應(yīng)當(dāng)注重數(shù)據(jù)采集、處理、評估和歧視審查等環(huán)節(jié)。第四是記錄保存層面，為提升情感計算的可驗(yàn)證性與可追責(zé)性，應(yīng)要求情感計算系統(tǒng)能夠自動記錄所預(yù)見的風(fēng)險事件，提升全生命周期之下情感計算系統(tǒng)的功能可追溯性。第五是算法規(guī)則層面，需要對情感計算系統(tǒng)賴以運(yùn)行的算法透明度與可解釋性作出較高要求，使得情感計算在系統(tǒng)設(shè)計、開發(fā)運(yùn)行等方面呈現(xiàn)出高透明度。與此同時，還應(yīng)當(dāng)列明系統(tǒng)提供者的聯(lián)系方式、系統(tǒng)功能與局限、預(yù)期實(shí)現(xiàn)目的等。第六是監(jiān)督管理層面，對情感計算系統(tǒng)設(shè)計過程進(jìn)行有效監(jiān)督，最大限度地降低對個人基本權(quán)利、個人尊嚴(yán)等事項(xiàng)的侵害風(fēng)險。這種監(jiān)督應(yīng)當(dāng)貫穿系統(tǒng)設(shè)計時、系統(tǒng)投入使用時以及投入使用后的全過程中。第七是責(zé)任救濟(jì)層面，應(yīng)盡量減輕情感計算等人工智能系統(tǒng)造成的損害，為個人提供全周期、全流程的保護(hù)框架。

（4）低風(fēng)險情形下的比例原則審查

低風(fēng)險情感計算通常意味著其在行政治理中是輕度影響甚至不影響個人權(quán)利。例如，為辨識和打擊恐怖主義而進(jìn)行的網(wǎng)絡(luò)輿情管理，為優(yōu)化公共區(qū)域人流車流而進(jìn)行的人車識別，這些往往不涉及單獨(dú)個體權(quán)利被侵害的情形，不會對社會公平正義造成較大損害。相應(yīng)地，低風(fēng)險情感計算需要配以輕度的規(guī)制要求，應(yīng)當(dāng)以“透明度”作為情感計算算法設(shè)計與系統(tǒng)信息披露的基本要求，情感計算服務(wù)提供者應(yīng)盡到對使用者進(jìn)行提示的基本義務(wù)。①

綜合來看，為避免情感計算系統(tǒng)在行政治理中所帶來的公平正義侵害風(fēng)險，應(yīng)以比例原則作為調(diào)節(jié)情感計算系統(tǒng)活動的根本價值準(zhǔn)則。通過比例原則進(jìn)行情感計算的風(fēng)險規(guī)制，不僅符合正義的樸素理念，還能有效地解決算法行政中運(yùn)用情感計算所帶來的問題。對于情感計算所帶來問題的系統(tǒng)治理，根本出路是建立以公正為目的、以風(fēng)險控制為基礎(chǔ)的規(guī)制體系。因此，上述對風(fēng)險從高到低的類型化分析是基礎(chǔ)，宜在此基礎(chǔ)上按照對基本權(quán)利限制的法理等原理，對情感計算系統(tǒng)展開全流程的規(guī)制。

五、結(jié)語

情感計算通過特定情感信號和特定情感狀態(tài)之間的映射關(guān)系建立情感模型，其本質(zhì)是對人類情感狀態(tài)的識別、感知、模擬與影響．以達(dá)成讓機(jī)器理解人類感情、具備喜怒哀樂并模擬人類情緒的技術(shù)目標(biāo)。學(xué)界對情感計算在教育培訓(xùn)、醫(yī)療健康、商業(yè)服務(wù)等領(lǐng)域的應(yīng)用所呈現(xiàn)的技術(shù)優(yōu)勢已經(jīng)達(dá)成共識，情感計算運(yùn)用于行政治理領(lǐng)域也成為趨勢所在。然而，情感計算在行政治理中會產(chǎn)生諸如侵害人格尊嚴(yán)、有損社會公正等公共倫理風(fēng)險。因此預(yù)防和規(guī)制情感計算在行政治理領(lǐng)域可能引發(fā)的風(fēng)險便顯得尤為重要。為應(yīng)對這種情感計算的現(xiàn)實(shí)風(fēng)險，需要將知情同意原則置于法律上建構(gòu)規(guī)則的優(yōu)先地位，使得同意作為個人讓渡權(quán)利和自由的前提與基礎(chǔ)。而在此基礎(chǔ)之上，歐盟和我國的兩種知情同意模式是兩個理想范例，但歐盟的特別知情同意模式和中國的概括知情同意模式均陷于同意模式的困境。在歐盟的特別知情同意模式下，個人同意的事項(xiàng)范圍是有限的，法律事先對個人能夠同意的事項(xiàng)作出了規(guī)制，法律優(yōu)先于意思自治。在中國的概括知情同意模式下，隱私信息的種類、敏感程度和授權(quán)范圍等事項(xiàng)并沒有受到嚴(yán)格限定，另外，情感計算在處理個人信息時還可能存在基于國家或公共利益而無須獲得權(quán)利人知情同意的情形，這壓縮了數(shù)據(jù)權(quán)利人的權(quán)利空間。對此，宜將動態(tài)同意模式作為保障情感計算在行政治理中維護(hù)個人尊嚴(yán)、保障社會公正的具體路徑。此外，還應(yīng)當(dāng)以公平正義為目的、以風(fēng)險控制為基礎(chǔ)來系統(tǒng)構(gòu)建情感計算的規(guī)制體系，對情感計算系統(tǒng)進(jìn)行全流程規(guī)制。