謝新水

(首都師范大學(xué) 管理學(xué)院,北京 100048)

從美學(xué)層面看,人是極其愛惜臉的物種;從道德層面看,人是極其愛面子的動物。前者是對自然之美的珍惜,后者是對社會之美的珍愛。在《草稿本》中,利希滕貝格指出:“世上最值得玩味的表面乃是人的臉?！盵1]引言001從社會治理角度看,臉之所以最值得玩味乃是因為臉可以作為社會治理場域。在農(nóng)業(yè)社會,“刺臉”是一種統(tǒng)治工具;在工業(yè)社會,臉逐漸商品化、市場化;到了數(shù)字社會,“刷臉”成為新治理方式并帶來了治理泛化。在本文中,筆者將“刺臉”和“刷臉”統(tǒng)稱為“基于臉的治理”。隨著生成式人工智能技術(shù)形成特別是深度合成技術(shù)普遍應(yīng)用后,非法AI換臉帶來了許多社會問題。由于非法AI換臉引發(fā)了臉的數(shù)字化問題,以此為轉(zhuǎn)向,臉從治理工具變成了被治理的對象,如何治理非法換臉成為人工智能時代的社會問題。在我國,《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》和《生成式人工智能服務(wù)管理暫行辦法》都對非法AI換臉問題進行了規(guī)范。對于公共管理而言,從臉的社會發(fā)展形態(tài)及其治理歷史來探究禁止非法AI換臉的治理價值,既有理論意義又有現(xiàn)實意義。

1 問題提出與文獻綜述

在人工智能時代興起的AI換臉技術(shù),屬于深度合成技術(shù)中的深度偽造技術(shù)。為了深入了解AI換臉,需要界定深度合成技術(shù)、深度偽造技術(shù)和AI換臉技術(shù)之間的關(guān)系。深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)[2]。深度偽造是利用深度學(xué)習(xí)技術(shù)中的對抗生成網(wǎng)絡(luò)模型形成的智能視頻處理技術(shù),AI換臉視頻是該技術(shù)最為典型的應(yīng)用[3]。從技術(shù)淵源來看,AI換臉發(fā)端于PS技術(shù),在影視界,換臉技術(shù)已經(jīng)存在20多年。其后,換臉技術(shù)不斷進化,AI換臉色情視頻帶來了巨大的社會沖擊。2019年9月,針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范,存在數(shù)據(jù)泄露風(fēng)險等網(wǎng)絡(luò)數(shù)據(jù)安全問題,工業(yè)和信息化部網(wǎng)絡(luò)安全管理局對相關(guān)企業(yè)負責(zé)人進行了問詢約談[4]。媒體對這一“裸奔”視覺革命有諸多負面評論:AI換臉影響國家安全、公共安全和政治民主[5]。故而,“對于臉的治理”成為非法AI換臉出現(xiàn)后的大問題。

從學(xué)術(shù)史來分析,在很長時間內(nèi),理論界對臉這個習(xí)以為常的東西缺乏研究熱情。當數(shù)字時代“刷臉”與“換臉”問題出現(xiàn)后,“對于臉的治理”成為熱點問題。在西方哲學(xué)中,“臉”遭受的冷遇命運與“身體”受到的一貫“垂青”在整個哲學(xué)史上反襯分明。只有到了阿甘本那里,“臉”才第一次被賦予形而上學(xué)的韻味與意指,并與倫理學(xué)的討論完美地接榫[6]。但阿甘本對臉的談及也是零碎的,他指出:“一個存在——一張臉,一個姿勢,一個事件——在它不像其他任何一個存在,而像其他所有存在的時候,才是特別的?！盵7]97-98其實,阿甘本更關(guān)注身體的意義,他認為:“人的本性的扭曲導(dǎo)致了對身體的‘發(fā)現(xiàn)’和對赤裸的感知?！盵8]108此外,他還提及20世紀用身份證、正面頭像和指紋來治理社會等問題[8]96。從藝術(shù)史看,貝爾廷的《臉的歷史》既是一部關(guān)于臉的文化史,又對社會治理有重要啟示。他指出,人的面部活動部分可追溯到遠古時期,另一部分則隨著人類進化而逐漸形成;只有在文化中,臉才被賦予了自然之外的意義,臉的文化史構(gòu)成了一個開放性的領(lǐng)域[1]序言004。在我國歷史上,基于臉的治理延續(xù)了很長時間,清代學(xué)者沈家本的《寄簃文存》中“刺字集聚”一章,對我國歷代典籍中的“刺臉”問題進行了系統(tǒng)的研究[9]196-197。此外,現(xiàn)代法學(xué)史領(lǐng)域一些學(xué)者對“刺臉”這類恥辱刑也做了深入研究。

數(shù)字時代來臨,特別是三年疫情期間,新冠病毒迫使人們隔離,致使“刷臉”治理成為熱點,眾多文獻對刷臉、換臉問題做了多學(xué)科分析(1)由于正文中引用了眾多相關(guān)文獻,在此只對已有研究進行簡單陳述。。一些文獻分析了人臉識別的收益與風(fēng)險[10];一些文獻分析了深度偽造規(guī)模、數(shù)量和傳播速度對市場產(chǎn)生的多重影響[11]。有學(xué)者指出,非法深度偽造遲早會導(dǎo)致一系列令人不安的惡意使用[12]。確實,非法AI換臉帶來的憂慮尤甚,有些問題甚至令人毛骨悚然。然而,就現(xiàn)有文獻來看,聚焦于AI換臉問題的研究要少一些。不過,人們對于非法AI換臉問題的社會共識大體形成:AI換臉不僅具有極高的欺騙性,也帶來個人信息安全與肖像權(quán)的侵害、視覺失真與新聞失實等一系列社會風(fēng)險[13]。從制度領(lǐng)域看,2022年11月,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合制定《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,自2023年1月10日起施行。有國外評論指出,中國對深度偽造的監(jiān)管領(lǐng)先于歐洲和美國[14]。從農(nóng)業(yè)社會、工業(yè)社會一直到數(shù)字社會,臉一直是治理工具;在當下,AI換臉技術(shù)已經(jīng)成熟且容易普及,放任非法AI換臉等深度偽造流行將對社會、國家乃至全球秩序的建構(gòu)產(chǎn)生破壞性影響。所以,公共管理領(lǐng)域應(yīng)提升對非法AI換臉引發(fā)的社會治理問題的關(guān)注度。

與既往研究不同的是,本文基于“臉”這一治理場域的發(fā)展歷程,把非法AI換臉作為重要治理議題,將“刺臉”“刷臉”和“換臉”問題置于社會治理的歷史發(fā)展邏輯中來透視非法AI換臉問題。本文主要討論兩方面的問題:“基于臉的治理”和“對于臉的治理”,前者討論不同歷史時期基于臉的治理的過程及其局限,后者討論非法AI換臉帶來的社會混亂及禁止非法AI換臉的緣由。本文具體探討了三個方面的問題:一是從歷史治理視角解讀臉的社會化、市場化和數(shù)字化發(fā)展趨勢及其局限;二是剖析農(nóng)業(yè)社會的“刺臉”統(tǒng)治和數(shù)字社會的“刷臉”治理,以此為基礎(chǔ),界定“基于臉的治理”的邊界;三是探究禁止非法AI換臉的四重治理價值。本文可以為生成式人工智能、通用人工智能的可持續(xù)發(fā)展提供一些理論借鑒。

2 歷史視野中臉的社會狀態(tài)及其局限

臉具有裸露權(quán),是具有反饋性、情感性、可識別性的交互工具;臉亦是人們相互凝視和交換信息的重要場域,更是社會交往不可或缺的界面。從歷史視野中審視可知,臉的社會化、市場化和數(shù)字化是臉的三種社會狀態(tài),以此為線索,能更清晰地闡述“基于臉的治理”。

2.1 臉的社會化及其治理局限

臉是情感的表現(xiàn)場域,人無法逃避漂浮不定的情感和日益滄桑的臉的雙重磨礪。飄浮不定的情感讓人類享受愛與情之美卻又飽受相思之苦與情緒之累,依賴情感生活者經(jīng)常備受折磨,但任何人都無法逃避歲月對臉無情的摧殘(2)在抖音等平臺中,變臉軟件可以讓人看到自己從小到老過程中臉的變化,每個人都可以對比年輕時的青春活力與年老時的衰弱無奈,這種快速、直接的對比讓每個人都心驚肉跳。。從社會視角看,作為社會界面、裸露且展現(xiàn)情感的臉不僅具有可識別性,更加重要的是被賦予了社會性。阿甘本指出:天主教傳統(tǒng)把“衣服”稱為人類在天堂中得到的恩典之禮物,這一事實具有非常重要的意味。人只有通過外在于他的榮耀之衣才能得到說明,后者就和任何衣服一樣[8]17。遮體、保暖并呈現(xiàn)美的服飾是人類文明的標志之一;這一文明行為讓臉成為裸露、特殊、特色的部分而促使臉成為社會治理功能發(fā)生的場域。經(jīng)過錘煉、有城府的臉可以不動聲色,但作為社會交往不可或缺的界面,個體的臉都蘊含著熱情、冷漠、羨慕、慈愛、麻木、僵硬、恐懼、憂心、開懷與興奮等各類情感,個體行為的社會性或多或少都要在臉這一裸露的界面中體現(xiàn)。在社會交往中,臉是個體向社會擴散的符號,不斷呈現(xiàn)出個體的情感狀態(tài)、生存狀態(tài)和交往狀態(tài)。在社會交往中,臉更是連接他者、社會和國家的界面,這種逐漸擴大的社會化提升了臉的治理價值。雖然,作為社會交往界面的臉被賦予了社會治理功能,但也存在明顯局限。

其一,與作為人造物的服飾相比,臉的社會治理功能存在明顯局限。豐富多彩的衣服作為人造物可改變?nèi)说男蜗蟮淖儾涣巳说哪?可識別性致使臉具有自然差異,但僅僅依靠臉難以實質(zhì)性地區(qū)分社會個體。在社會秩序建構(gòu)過程中,社會地位、社會身份以及職業(yè)主要依賴服飾來區(qū)分,眾多王朝對衣冠配飾都有明確規(guī)定——無論國王還是大臣、貴族還是貧民,在衣冠、配飾和武器方面存在重要區(qū)分。在我國古代,象刑是最早的恥辱刑,是一種讓罪犯穿上特殊服飾以示懲罰的象征性刑罰?！渡袝贰吨芏Y》以及荀子的《正論》對象刑都有過記載[15]。在現(xiàn)代社會,平等成為公共產(chǎn)品,但在軍、檢、法等行使公權(quán)力的特殊職業(yè)中,“制服”還是必需品,以此來象征這些職業(yè)所具有的威嚴。與之相反,囚犯“制服”包含了懲罰、區(qū)分、隔離、不認同等復(fù)雜治理意涵。可見,服飾是區(qū)分職業(yè)群體的視覺之物亦或服從標志,然而不借助特殊技術(shù)臉難以成為治理工具。

其二,“面具”的使用,隔斷了臉的社會化與行動主體的聯(lián)系,削弱了臉的社會治理功能。臉是社會化的,既是責(zé)任又是權(quán)利,更是歷史寫照:黑奴解放的笑臉、法國大革命者的激情之臉、戰(zhàn)場上將軍和士兵充滿生死情感的臉、明星品牌般的臉、卑微者被忽視的臉等都隱藏、夾雜了社會情感或社會責(zé)任。在更多時候,臉內(nèi)在地拒絕社會性,于是人們發(fā)明了面具。實體的面具是臉的物化,是掩飾工具和媒介;此外,每個人還有一個情感的“面具”。面具的出現(xiàn)表達了對臉的可識別性的不滿,是現(xiàn)實世界“變臉”的方式。貝爾廷指出:“臉不僅天生適于配戴面具,而且天生適于充當面具。”[1]25人們戴上面具的目的在于娛樂、演戲、曖昧或隱藏身份、保護隱私、藏匿情感,但面具隔斷了臉與身體的聯(lián)系,以“換臉”方式讓臉失去了社會性。在社會生活中,不只是演員通過面具或化妝“變臉”,每個人都或多或少地戴著“面具”。面具使臉和身體不再一體化,“變臉”與“換臉”都有混淆他者、分裂行動的危險,暗含著破壞社會秩序的可能。

2.2 臉的市場化及其肖像權(quán)問題

臉部政治與廣告美學(xué)使臉政治化和市場化[1]39。廣義的臉部政治包含了統(tǒng)治、管理、治理的指向。在農(nóng)業(yè)社會,血緣、身份與臉之間具有直接因果關(guān)系。通過基于血緣的臉來建構(gòu)身份秩序,是一種統(tǒng)治方式,王公貴族因為血統(tǒng)高貴出生后就獲得了一張擁有統(tǒng)治權(quán)且受尊重的臉,也獲得了政治特權(quán),而出身底層的百姓被置于政治秩序的底層。在傳統(tǒng)政治中,“百姓”概念蘊含了屈于“一姓”統(tǒng)治的意涵,本質(zhì)上,臉的政治化是為了維護社會秩序、建構(gòu)政治秩序與階級統(tǒng)治。隨著市場經(jīng)濟的發(fā)展,臉的市場化逐漸形成。臉的市場化是臉的物化過程,意指臉融入市場成為特殊商品,使其經(jīng)濟價值逐漸得以釋放、得以凸顯。19世紀以來,現(xiàn)代廣告業(yè)的發(fā)展使個人的名譽、肖像、姓名等人格權(quán)的經(jīng)濟價值逐漸凸顯,可以大量進行商業(yè)化利用,并隨著電視、報紙等媒體的宣傳而擴大了知名度,獲得經(jīng)濟效益[16]。肖像權(quán)是聲光技術(shù)發(fā)展及照相機和攝像機逐漸普及后的產(chǎn)物,這類技術(shù)讓臉得以留存、進而重復(fù)利用。為了促進臉的市場化,19世紀中葉,肖像權(quán)就已經(jīng)萌芽了,德國、美國、日本等國家開始為肖像權(quán)立法[17]。肖像權(quán)的設(shè)立為臉的市場化提供了保障。

在社會意義上,肖像是對人的必死性的抵抗。繪畫、攝影技術(shù)的普及讓臉得以保存為可持久物,從而將死者和生者聯(lián)系起來、相互慰藉。肖像實現(xiàn)了死者與生者面對面的、儀式性的交流,增強了人類的精神力量。在家庭、家族乃至國家治理中,肖像及其雕塑都有重要社會價值。肖像權(quán)使臉的社會屬性得以張揚、臉的公共屬性乃至政治屬性都因此變得活躍。在工業(yè)時代,臉傳遞著各種事件的激情,在政治選舉、游行示威、個人宣誓、商品電視廣告等社會行為中,臉的角色繁多、任務(wù)繁重,明星等公眾人物都因臉的市場化產(chǎn)生了價值。數(shù)字社會來臨后,為了促進臉的市場化,互聯(lián)網(wǎng)上對個人形象的商業(yè)利用屢見不鮮,無論是在電商平臺上銷售印有明星肖像的紀念品,還是利用社交網(wǎng)絡(luò)上的“網(wǎng)紅”或者“意見領(lǐng)袖”推銷商品,抑或通過明星照片來“引流”都十分普遍[18]。

2.3 臉的數(shù)字化及其治理問題

進入數(shù)字社會后,臉的數(shù)字化進程得以開啟,平臺和流量成為數(shù)字權(quán)力的核心要素,臉的數(shù)字化引發(fā)的問題也隨之而來。當然,臉的數(shù)字化與人的數(shù)字化是相連的。簡單而言,人的數(shù)字化有兩個類型,即整體數(shù)字化和局部數(shù)字化,前者是將人整體數(shù)字化,后者則是將人的器官數(shù)字化。人的數(shù)字化在現(xiàn)實世界和虛擬世界都可以展開。在現(xiàn)實世界,人的整體數(shù)字化表現(xiàn)為各種類型的人型機器人出現(xiàn);人的局部數(shù)字化則針對手臂等助力器官而言,機械手臂等是人的局部數(shù)字化形態(tài)。在虛擬世界中,自20世紀60年代以來,數(shù)字人技術(shù)開始發(fā)展,至今有了幾十年的發(fā)展歷程[19]。隨著虛擬世界不斷迭代更新,作為人的數(shù)字化的新形式,虛擬數(shù)字人活躍在元宇宙等虛實相容的世界中。人的數(shù)字化是數(shù)字時代的重要問題之一。當下的數(shù)字化理論主要關(guān)注產(chǎn)業(yè)數(shù)字化和數(shù)字產(chǎn)業(yè)化,卻忽略了數(shù)字化轉(zhuǎn)型中的另一個特殊對象:人的數(shù)字化。

在數(shù)字社會,隨著人工智能的發(fā)展,屬于人的局部數(shù)字化的臉的數(shù)字化開始活躍,其表現(xiàn)形態(tài)主要有兩種,即“刷臉”與“換臉”。“刷臉”是指人臉識別治理技術(shù)。隨著人工智能技術(shù)的發(fā)展,尤其是因特殊原因?qū)е氯撕腿酥g盡量避免接觸,“刷臉”變成熱詞,臉也再次成為社會熱點,可識別的臉成為出入各種場所的“通行證”。在日常生活中,作為身份認證方式,“刷臉”治理的場景不斷擴大甚至泛化,進而在不同場所流行起來?！八⒛槨贝蛴螒?、寄快遞、住店、進小區(qū)、入景區(qū);“刷臉”坐高鐵、“刷臉”解鎖、辦理公務(wù)、各類支付,甚至用“刷臉”進行考勤等?？梢哉f,“刷臉”治理的場景在不斷泛化,也隨之產(chǎn)生了不同類型的問題。

“換臉”是深度偽造技術(shù)的典型形式。目前,AI換臉技術(shù)已發(fā)展成熟并逐漸普及。從社交平臺獲得照片、視頻和其他文檔,“一鍵換臉”就能生成與某個人“真實地”聊天的“好朋友”。AI換臉是人的局部數(shù)字化的“反叛”形式,具有諸多反社會功能。如果說深度偽造徹底埋葬了人類社會歷久積累的眼見為實的判斷原則,那么非法AI換臉則尤其為甚。例如,非法AI換臉技術(shù)利用“眼見為實”的判斷習(xí)慣或認知偏見詐騙親戚朋友,或生成不雅視頻在網(wǎng)絡(luò)平臺傳播,損害他人聲譽等。AI換臉帶來的侵害可以滲透到政治、經(jīng)濟、文化和社會生活之中,臉的數(shù)字化伴隨著諸多社會治理問題。

3 “基于臉的治理”及其邊界

自古以來,我國就重視臉對社會秩序建構(gòu)的價值,臉亦是不可或缺的治理界面;在統(tǒng)治、管理和治理意義上“基于臉的治理”并不鮮見。從行動視角去考察臉作為治理工具的歷史過程,可以發(fā)現(xiàn),“刺臉”和“刷臉”是“基于臉的治理”的兩種主要形式。

3.1 刺臉

于一般人而言,只有熟人的臉能被識別,陌生人的臉很難識別。從原理上看,只有通過技術(shù)賦能,臉才能成為治理場域。在不同時期,基于臉的治理都是因為賦予了臉以識別和認同功能,增強了臉的可識別性和顯現(xiàn)性。在識別技術(shù)不多的農(nóng)業(yè)社會,如何將那些既要處罰又要教育的違法亂紀人員區(qū)分開來,是社會秩序建構(gòu)中的重要問題。在我國農(nóng)業(yè)社會,基于臉的治理體現(xiàn)為兩類刑罰,即墨刑和劓刑,前者的刺字部位在額頭,后者就是割掉鼻子[15]。這兩種刑罰都是將臉作為治理場域,讓違法者遭受一輩子的精神痛苦,故而有“黥刺一膺,終身僇辱”的話語[9]4。在此,王朝統(tǒng)治者將臉、刀和文字融合成為可識別的刑罰。

從統(tǒng)治的角度看,“刺臉”是通過對臉的進一步標識,進而增強對特殊主體的可識別性。劓刑非常殘酷,在我國歷史上實施的時間不長,但“刺臉”是我國王朝統(tǒng)治中的常用刑法,各王朝的法律大都使用了“刺臉”這一恥辱刑[15]。清代沈家本的“刺字集序”,對刺字刑專門做了歸納總結(jié)。他指出:“墨一名黥”,“黥,墨也。在面也?！盵9]196從統(tǒng)治功能而言,刺臉是一種社會信號。在臉上刺字,讓他者以此知道“刺臉”的人的過去,可以被提防、遠離、回避或者隔離,使之在社會交往中淪為“異類”。在宋代,刺字成為軍人和罪犯共有的體貌特征。軍人和罪犯在刺字內(nèi)容和部位上雖有差異,卻都被社會主流群體視為賤民[20]。在清代,對于“刺臉”有嚴格規(guī)定?！捌烊舜瘫?奴仆刺面,民犯徒罪以上刺面,杖罪以下刺臂。再犯者亦刺面,刺面在鬢之下,頰之上,刺臂在腕之上,肘之下?！盵21]隨著現(xiàn)代社會的進步,“刺臉”這種基于臉的治理因為冒犯人格而被廢除,這是巨大的社會進步。

3.2 刷臉

“刷臉”是人臉識別的俗稱,是使用人臉數(shù)據(jù)進行比對識別,以實現(xiàn)身份認證、解鎖和支付等功能。在“刷臉”治理中,每個人的臉成為社會治理的“通用標準”。根據(jù)《信息安全技術(shù) 人臉識別數(shù)據(jù)安全要求(GB/T 41819—2022)》的規(guī)定:人臉識別數(shù)據(jù)主要用于識別自然人身份,典型應(yīng)用包括機場、火車站使用人臉識別數(shù)據(jù)進行人證比對,移動智能終端、應(yīng)用程序使用人臉識別數(shù)據(jù)實現(xiàn)解鎖、支付等功能,公園、居民小區(qū)等使用人臉識別數(shù)據(jù)核對人員身份。從技術(shù)層面看,之所以說“刷臉”技術(shù)具有重要的治理功能,是因為“刷臉”治理技術(shù)可以提升社會治理效能。比如,醫(yī)?！八⒛槨敝Ц冻蔀槔^醫(yī)保電子憑證、移動支付后看病就醫(yī)的又一“快捷通道”,有效解決了病人高峰期“排隊時間長”的問題,幫助患者省去記憶密碼和輸入密碼的麻煩,真正實現(xiàn)了人證(卡)合一。人證(卡)合一減少了各類作假行為,達到了即時認證和即時治理的效果。

在數(shù)字社會,由于大數(shù)據(jù)、人工智能等技術(shù)的賦能,“刷臉”成為公共領(lǐng)域不可或缺的治理工具,可以視為現(xiàn)代社會基于臉的治理的新方式。目前,人臉識別技術(shù)已被廣泛應(yīng)用于社會生活,大到智慧城市的建設(shè),小到手機等APP應(yīng)用的登錄解鎖,在金融、電商、安保、娛樂等諸多領(lǐng)域都發(fā)揮著巨大作用[22]。“刷臉”治理有塑造社會生產(chǎn)模式和運行方式的價值,是技術(shù)治理的一部分,可以在身份識別、預(yù)約取號、提升社會治理效能和應(yīng)對重大公共安全危機等方面發(fā)揮作用[23]?！八⒛槨币廊皇腔谀樀闹卫?在公私領(lǐng)域都得以使用的“刷臉”治理既提升了社會治理效能,又引發(fā)了社會治理問題。

3.3 “基于臉的治理”的問題

從一般意義上看,在農(nóng)業(yè)社會,臉既是身份又是面子。從統(tǒng)治角度看,臉又是王權(quán)可支配的“公共空間”,是建構(gòu)社會等級秩序的標識和統(tǒng)治工具。當然,即使在個體權(quán)利不被重視的王朝時代,臉作為自然之物或父母所賜之物,只有基于王權(quán)才可以懲罰性地進行“刺臉”,也就是說,只有王權(quán)可以讓臉去承載特定個體的“罪與罰”。在我國歷史上的王朝時期,“刺臉”只是官府依法的行動,僅僅限于王朝統(tǒng)治權(quán)力的作為。在任何時候,都不能非法損害他者的臉,更不能利用臉來開展各類懲罰性的管理。農(nóng)業(yè)社會臉的社會化是基于王權(quán)的社會化,與之相隨的是一種直接的暴力統(tǒng)治。工業(yè)社會臉的社會化主要體現(xiàn)為商業(yè)價值,臉可以被各類主體基于各種利益訴求來應(yīng)用。臉的商品屬性越來越擴大,臉的經(jīng)濟屬性不斷凸顯。與之同時,臉的市場化、商品化也引發(fā)了肖像權(quán)問題。由于相關(guān)法律的保護,個體的臉的權(quán)利得到了尊重,但侵犯肖像權(quán)的事情仍在不斷發(fā)生。

隨著人工智能技術(shù)應(yīng)用場景的不斷開拓,臉的數(shù)字化增強了人臉的可識別性。數(shù)字時代的臉不僅具有道德價值、經(jīng)濟價值,還由于技術(shù)賦能不斷提升了治理價值,但“刷臉”治理也產(chǎn)生了一些負面效應(yīng)。一是“刷臉”技術(shù)帶來了治理主體的泛化。由于“刷臉”技術(shù)泛化,基于臉的治理不再限于政府這一主體,“刷臉”不僅僅是政府的治理工具,企業(yè)、社會組織甚至社區(qū)都利用“刷臉”來進行治理。二是“刷臉”治理導(dǎo)致人臉信息與人臉主體的分離。在“刷臉”過程中,“刷臉”者的姓名、性別、年齡、聯(lián)系方式等信息都被一并收集、儲存。“刷臉”起到身份認證功能,能夠開啟一個通向賽博空間的賬戶,延續(xù)了人臉作為通用標識符的社會功能?！八⒛槨币馕吨J證權(quán)力過程從分布式轉(zhuǎn)向集中化,認證信息與載體的分離[24]。然而,需要知道的是,個體的臉已經(jīng)在被別人“控制”和使用。三是一些企業(yè)利用“刷臉”牟利。在2021年“3·15”晚會上,央視曝光了多家企業(yè)未經(jīng)告知私自通過監(jiān)控攝像頭搜集消費者人臉信息,涉事企業(yè)包含多家知名企業(yè)[25]。“刷臉”治理擴大化提升了社會危害性。

“刷臉”治理泛化帶來了“刷臉”治理問題,規(guī)范人臉識別成為媒體、學(xué)界關(guān)注的重要問題。2019年,郭兵訴杭州野生動物世界有限公司一案,成為全國第一起涉及人臉識別技術(shù)使用糾紛的民事案件。批評者指出,判決所傳遞的信息并不利于加強對個人信息的保護[26]。針對人臉這一生物信息的獨特性、直接識別性、不可更改性、易采集性、不可匿名性等特征,法學(xué)領(lǐng)域的學(xué)者希望厘定人臉識別技術(shù)應(yīng)有的法律底線和法律規(guī)制的要點[10]。不過,“刷臉”治理對權(quán)力邊界的突破,遠不如非法AI換臉的程度大。

4 禁止非法AI換臉的緣由

非法AI換臉是指為達到非法目的而將現(xiàn)實生活中A主體的臉更換給B主體,在虛擬世界中B主體基于A主體的身份展開行動。深度偽造特別是非法AI換臉帶來了多宗罪,包括傳播假新聞、影響選舉、在法庭上引入高度逼真的假證據(jù)、制作假色情電影,等等。這些“罪行”對社會關(guān)系、社會秩序、民主和法治產(chǎn)生了重大影響,之所以提出禁止非法AI換臉,是因為深度偽造已經(jīng)沖擊人類感知的極限[27],引發(fā)了不同類型群體的深度擔(dān)憂。禁止非法AI換臉可以產(chǎn)生多重治理價值。

4.1 非法AI換臉導(dǎo)致行動者主體性喪失

嫁接是人工繁殖植物的方法,是把一株植物的枝或芽嵌入另一株植物的莖或根上,使接在一起的兩個部分發(fā)育成一個完整植株。AI換臉是一種“數(shù)字嫁接”,是用人臉識別和對抗性生成技術(shù)將一個人的臉“嫁接”到另一個人身體上,從而實現(xiàn)不同人之間的換臉。隨著AI換臉一鍵生成與網(wǎng)絡(luò)化,AI換臉形成了比較豐富的類型。根據(jù)應(yīng)用目的,可將AI換臉分為娛樂類、色情類和政治類。其中,娛樂類是出于娛樂、游戲的傳播意向;色情類是將他人臉部圖像嫁接至扮演色情淫穢音視頻的角色身上;政治類是出于表達政治訴求或制造政治輿論沖突的動機,將政治人物的臉部圖像嫁接或處理、生成不正確內(nèi)容的音視頻[13]。

作為娛樂型的AI換臉有助于平凡者將自己的臉更換到喜劇人物、公眾人物甚至杰出人物的身上,這一類型的AI換臉具有角色狂歡、自我表演并力圖開啟走向虛擬世界的主體歷程,力圖在虛擬的邊界中建立自我[13]。根據(jù)筆者的調(diào)查,就娛樂類AI換臉而言,大多數(shù)人可以接受的是私下小范圍的娛樂性換臉,即使如此,絕大多數(shù)人仍然難以接受性別變化的AI換臉,即將臉換到異性身體上。當然,無論哪種類型的換臉,行動者都因此被別人支配而喪失了虛擬世界的數(shù)字主體性。AI換臉猶如戴面具一樣,不但割裂了身體與臉的聯(lián)系,而且可能混亂社會秩序。在現(xiàn)實世界中,戴面具的人讓他者無法判斷臉、身體和行為之間的一致性。在虛擬世界中,非法AI換臉混淆人臉,導(dǎo)致人們無法把控臉和身體的聯(lián)系,由于自我的行動已經(jīng)被他者控制、進而混亂了人的身份,一旦發(fā)生違法行為,就會引發(fā)社會秩序的混亂。如果將現(xiàn)實生活中行動者A的臉更換給B主體,A主體就無法控制其在虛擬世界中的行動,這樣一來,A行動者的主體性就喪失了。隨著生成式人工智能、虛擬人技術(shù)和元宇宙的不斷發(fā)展,非法AI“換臉”帶來的問題將越來越多。

4.2 非法AI換臉帶來不可遏制的惡

“刷臉”是人機合作的治理行為,“刷臉”治理有強制性的,也有非強制性的,比較而言,前者更有可能產(chǎn)生違法問題。之所以提出要禁止非法AI換臉是因為它可能產(chǎn)生不可遏制的惡。

一是利用AI非法換臉形成視覺壓迫,破壞生活原則。一些非法AI換臉者從社交平臺獲得個人的照片、視頻和其他文檔,利用技術(shù)生成與真人一樣的視頻,然后以“眼見為實”的方式讓一些人上當受騙;非法換臉者操控視覺世界,試圖徹底埋葬“眼見為實,耳聽為虛”的原則,形成了巨大的視覺壓迫,生活世界可能因此變得“魔幻”。非法AI換臉帶給人們深刻的教訓(xùn):你看到的是我想讓你看到的,你聽到的是我想讓你聽到的,從而徹底擊垮了人們的判斷能力,致使人們對其判斷能力失去自信、變得怯弱,轉(zhuǎn)而尋求幫助。非法AI換臉等深度偽造技術(shù)對全球商業(yè)、政治和司法系統(tǒng)都將構(gòu)成威脅,篡改證據(jù)成為深度偽造在司法系統(tǒng)中構(gòu)成的主要威脅之一;只有提高檢測技術(shù)、制定有效的刑事解決方案才能提高證據(jù)的可信度。

二是非法AI換臉傳播色情,破壞社會道德。基于非法目的制造和傳播色情視頻是非法AI換臉的主要目標。或者說,這是非法AI換臉者利用人性弱點試圖制造新的“色情陷阱”。2023年5月,福建、浙江、蘇州等地的不法分子用AI換臉發(fā)送個人不雅照、以換臉視頻聊天騙取信任等方式實施詐騙,涉及金額巨大[28]。2023年6月,虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息,利用AI換臉等深度合成技術(shù)非法處理、制作淫穢視頻后在超過2 000人的社交軟件群組傳播,蕭山區(qū)檢察院對此進行了嚴格處理[29]。多年來,美國和英國的立法機構(gòu)一直在尋求網(wǎng)絡(luò)騷擾的解決方案,許多司法管轄區(qū)將“復(fù)仇色情”定為刑事犯罪。由于非法AI換臉制造的色情視頻量大,對社會道德產(chǎn)生的沖擊也很大。

三是非法AI換臉破壞政治秩序,導(dǎo)致社會混亂。在政治層面,人們擔(dān)心的是,深度偽造特別是AI換臉帶來的深度虛假信息會引發(fā)社會混亂、曲解政治觀點和政治事件,進而會威脅國家安全、選舉程序及政治家的聲譽[30]。深度偽造技術(shù)存在侵害民族國家安全的隱患,在一定程度上引發(fā)公眾對于國家民主的質(zhì)疑,引發(fā)官員焦慮;它還以一種諷刺方式突出國家安全精英的缺陷[31]。特別需要注意的是,由于深度偽造是新興人工智能技術(shù),沒有專門的法律對其規(guī)制,在應(yīng)用過程中極易出現(xiàn)侵犯公民合法權(quán)益、威脅社會公共安全、破壞國家秩序甚至國際秩序等問題[32]。如果任意讓AI非法換臉普及,那么未來真正的問題不是個別的深度造假或廉價造假,而是虛假信息生態(tài)系統(tǒng)的整體形成[33]。可以說,非法AI換臉的普及可能破壞整個社會政治秩序。2019年9月,德克薩斯成為第一個將意圖傷害政治候選人或影響選舉的深度假視頻定為犯罪的州[34]。

四是削弱信用根基,形成“說謊者紅利”。在現(xiàn)實生活中,非法AI換臉的“成功”詐騙,沖擊了親情和友情,削弱了社會信用根基。對個人而言,非法AI換臉侵犯肖像權(quán)、名譽權(quán)、身份、尊嚴與情感,是對個人信用的徹底破壞。對社會、政府乃至國家而言,非法AI換臉損害企業(yè)利益、扭曲政策辯論、操縱選舉、侵蝕信任、可能加劇社會分裂、損害國家安全以及破壞國際關(guān)系。所以,以人臉為對象造假,不僅會導(dǎo)致泄露個人身份信息,而且?guī)砩鐣?進而形成政治、經(jīng)濟、社會、文化和倫理等方面的信用危機。特別需要指出的是,深度造假使說謊者更容易逃避問責(zé),形成“說謊者紅利”[12]。

雖然深度合成技術(shù)可應(yīng)用到影視、醫(yī)療、教育、媒體和電子商務(wù)等領(lǐng)域,具有多重商業(yè)和社會價值[32],但非法AI換臉一出生時就帶著原罪,包括侵害個人肖像權(quán)、嵌入色情視頻、考驗人性甚至擾亂社會秩序等。非法AI換臉技術(shù)激活了一些社會主體的欲望,被個人、利益集團和不法分子利用并成為做惡工具,這需要加大力度打擊。但基于“工具理性”的、針對深度偽造技術(shù)的控制,無法從源頭解決技術(shù)濫用問題。只有重塑社會信任關(guān)系才能有效緩解虛假信息對公眾信念的影響[35]。那么如何才能重塑人工智能時代的社會信用關(guān)系呢?禁止非法AI換臉是一個重要且直接的路徑。

4.3 非法AI換臉帶來系統(tǒng)性的監(jiān)管沖擊

在人工智能時代,AI換臉問題已經(jīng)引起了相關(guān)部門的重視。在我國,一些法律法規(guī)為監(jiān)管非法AI換臉提供了依據(jù)?！秱€人信息保護法》將生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息,以及不滿14周歲未成年人的個人信息,歸為敏感個人信息。臉作為敏感信息適用《個人信息保護法》。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求,深度合成服務(wù)提供者提供人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù),可能導(dǎo)致公眾混淆或者誤認的,應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識,向公眾提示深度合成情況[2]。

盡管如此,理論界還是存在諸多擔(dān)憂。一方面,傳統(tǒng)的監(jiān)管體系很難有效監(jiān)管深度偽造技術(shù),也無法有效保障公民個人信息安全,而且在信息時代,僅僅依靠行政部門顯然無法實現(xiàn)全面監(jiān)管[32];另一方面,深度偽造創(chuàng)建音視頻的速度超過了人工智能檢測此類視頻的能力[36]。對于AI換臉帶來的社會問題,權(quán)威媒體大聲呼吁:人臉怎能“想換就換”?有關(guān)部門對那些未經(jīng)肖像權(quán)人同意的“換臉”、詐騙行為,應(yīng)該重拳出擊、嚴厲打擊[37]。禁止非法AI換臉獲得了媒體的支持。在我國,2023年7月,《生成式人工智能服務(wù)管理暫行辦法》頒布并于2023年8月15日起施行。該辦法指出,國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則,采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展,對生成式人工智能服務(wù)實行包容審慎和分級分類監(jiān)管;同時要求提供和使用生成式人工智能服務(wù),應(yīng)當遵守法律、行政法規(guī),尊重社會公德和倫理道德。筆者認為,對生成式人工智能服務(wù)采取包容審慎和分級分類的監(jiān)管策略非常必要,但嚴格依法監(jiān)管非法AI換臉同樣重要。由于非法AI換臉的應(yīng)用范圍大,特別是它的一些負面應(yīng)用迎合了部分人的不良需求,所以嚴厲禁止非法AI換臉十分必要。

4.4 非法AI換臉損害了人工智能的聲譽

對于何為智能,人們的認識是不一致的。在16世紀,對智能的理解就是交換信件或者信號。托馬斯·埃利奧特寫道:“現(xiàn)在Intelligence作為一個文雅的說法,用來表示通過相互交換信件或者口信達成協(xié)議或者約定?！盵38]引子41956年,麥卡錫將人工智能定義為制造智能機器的科學(xué)與工程;或者將AI解釋為Automation of Intelligence[39]。何懷宏認為,人工智能就是人造的機器通過不斷學(xué)習(xí)、自我改良,尋求更優(yōu)良的算法來處理和解決認知與控制的問題[40]。隨著ChatGPT等生成式人工智能的普及,人們對強人工智能的認識分歧正在加大?；艚?、馬斯克等人都認為人工智能的危險非常大,但更多的人認為人工智能風(fēng)險可控。其實,人們是否信任人工智能取決于它們所展示的社會功能,而不僅是人們對智能以及人工智能的定義。

很多人習(xí)慣地認為,所有的技術(shù)都是一把“雙刃劍”,但我們不能認同技術(shù)是“雙刃劍”的辯證式提法。在應(yīng)用過程中,技術(shù)之所以體現(xiàn)出正反兩方面的功能,是不同的人使用的結(jié)果。本質(zhì)上,與其說技術(shù)是一把“雙刃劍”,還不如說人性有善惡兩面,將技術(shù)視為“雙刃劍”是將人的惡性轉(zhuǎn)嫁到技術(shù)身上的“狡計”,技術(shù)的“惡性”主要是因為人性的惡在技術(shù)使用過程中得到了張揚。如果不嚴厲禁止非法AI換臉,就很難阻止AI換臉技術(shù)與人性的惡的高度結(jié)合,依托被抓取的人臉信息和AI換臉技術(shù),敲詐勒索、電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)暴力等違法犯罪活動更易發(fā)生[41]。非法AI換臉所帶來的危害超出了人類的理性判斷、觀察與預(yù)料,非法AI換臉的危害既不可控又不透明,還會引發(fā)人們的不安——現(xiàn)在,一些人誤以為是人工智能搶走了他們的工作、騙空了他們的口袋、破壞了他們和家人的關(guān)系、損害了無辜人的聲譽。如果非法AI換臉全面“搞壞”了全球政治、經(jīng)濟、社會和文化的基礎(chǔ),那么必然影響人工智能技術(shù)的社會信譽。因此,禁止非法AI換臉理所當然。

5 結(jié)論與展望

人類已經(jīng)走進數(shù)智時代,數(shù)字化、智能化既是技術(shù)創(chuàng)新的方向,又是人類社會發(fā)展的方向。于我國而言,數(shù)字化、智能化會持續(xù)較長時間并且日益成為人們生活的重心。在數(shù)智技術(shù)不斷創(chuàng)新發(fā)展并與社會生產(chǎn)生活日益融合的過程中,人的數(shù)字化問題非常值得重視。隨著深度合成社會的來臨,深度偽造技術(shù)對個人和社會所產(chǎn)生的沖擊不斷增大,特別是AI換臉的非法使用不斷加重社會治理的責(zé)任。本文的直接目的是回應(yīng)非法AI換臉引發(fā)的社會治理問題,希望公共管理領(lǐng)域加大對人的數(shù)字化問題、臉與公共秩序建構(gòu)問題的關(guān)注力度。本文探討的是“基于臉的治理”和“對于臉的治理”兩方面的問題。首先,從歷史視角解讀了臉的社會化、市場化和數(shù)字化三種社會發(fā)展形態(tài)及其局限;其次,對“刺臉”和“刷臉”進行了描述并界定了其邊界;最后,從社會治理價值方面提出了禁止非法AI換臉的四重緣由。本文的創(chuàng)新性在于:從公共管理的視角,基于臉的治理歷史及其邊界考察了刺臉、刷臉與換臉問題,基本觀點有以下三個。其一,在人工智能時代,數(shù)字化和智能化是一股巨大的轉(zhuǎn)型力量;產(chǎn)業(yè)數(shù)字化和數(shù)字產(chǎn)業(yè)化是數(shù)字化轉(zhuǎn)型中的重要領(lǐng)域,人的數(shù)字化問題同樣需要引起理論界和實踐界的關(guān)注[42]。其二,在我國社會發(fā)展過程中,“刺臉”與“刷臉”都曾被社會質(zhì)疑或反對;我國有重視臉的傳統(tǒng)文化,失去面子是對一個人尊嚴的最大損害,基于臉可以美化但不可以更換的樸素觀念,禁止非法AI換臉是一種文化要求。其三,非法AI換臉導(dǎo)致行動者數(shù)字主體性的喪失,帶來了道德層面、監(jiān)管層面和社會信用層面的問題,禁止非法AI換臉有利于保護人工智能的信譽。

對于AI換臉問題,筆者的政策建議是:在社會生活領(lǐng)域,作為娛樂工具的AI換臉僅限于私人空間使用;在特定的經(jīng)濟文化領(lǐng)域,AI換臉需要依法有序使用;在政治、經(jīng)濟或者社會領(lǐng)域,非法AI換臉必須禁止。隨著生成式人工智能、通用人工智能技術(shù)的不斷發(fā)展,人的數(shù)字化問題必然隨之凸顯。雖然包容審慎依然是監(jiān)管新經(jīng)濟業(yè)態(tài)和新技術(shù)的基本原則,但在現(xiàn)實世界,如何監(jiān)管智能機器人在不同社會領(lǐng)域中的應(yīng)用是非常重要的問題;在虛擬世界,特別是在虛實融合的元宇宙時代來臨后,不同形態(tài)的數(shù)字人及其在多場景中的應(yīng)用將產(chǎn)生大量的社會治理問題。在公共管理領(lǐng)域,研究者只有不斷加大對人的數(shù)字化問題的研究并提出系統(tǒng)性的監(jiān)管理論,才能為人工智能技術(shù)應(yīng)用創(chuàng)新、數(shù)字經(jīng)濟高質(zhì)量發(fā)展提供理論支持。