萬志前　陳晨

摘? ? 要：深度合成技術(shù)是人工智能領(lǐng)域里一項顛覆性技術(shù)突破，該技術(shù)在滿足人們多元化需求的同時也產(chǎn)生了技術(shù)異化、信息失真、信息泄露等風(fēng)險。應(yīng)從多個維度協(xié)同治理深度合成技術(shù)所生風(fēng)險：在技術(shù)層面，以技術(shù)規(guī)制技術(shù)，提高溯源防偽和反向破解技術(shù)的能力水平，發(fā)揮技術(shù)的規(guī)范功能;在行業(yè)層面，以商業(yè)倫理治理技術(shù)，強化倫理的引導(dǎo)作用和業(yè)內(nèi)組織的協(xié)調(diào)能力;在法律層面，以法律規(guī)范技術(shù)，結(jié)合中國實際和借鑒外國立法經(jīng)驗，以《民法典》的相關(guān)條款為基礎(chǔ)，明確技術(shù)的使用邊界、使用程序及濫用技術(shù)的法律后果等。

關(guān)鍵詞：人工智能;深度合成;人臉識別;技術(shù)異化;商業(yè)倫理;民法典

中圖分類號：D 912 .29? ? ? ? ? ? 文獻標(biāo)識碼：A? ? ? ? ? 文章編號：2096-9783（2021）05-0085-08

一、問題的提出

人工智能已經(jīng)進入技術(shù)與產(chǎn)業(yè)融合發(fā)展的新階段，一個“泛在智能”的新技術(shù)革命時代正在來臨，人工智能基礎(chǔ)設(shè)施逐漸完善，應(yīng)用場景也更加多元和廣闊[1]。深度合成技術(shù)（deep synthesis）1即是人工智能領(lǐng)域的一項重要突破[2]，目前已廣泛應(yīng)用于多個領(lǐng)域，如在影視行業(yè)為影視特效和圖像影音帶來升級，在網(wǎng)絡(luò)社交中提升用戶的虛擬互動和娛樂體驗，在電子商務(wù)領(lǐng)域優(yōu)化服務(wù)和增強在線購物體驗，在媒體傳播上打造虛擬主播、虛擬歌手，在醫(yī)療領(lǐng)域幫助漸凍癥患者、老年癡呆癥患者康復(fù)，構(gòu)建智慧醫(yī)療體系等等，這些應(yīng)用充分展示了深度合成技術(shù)巨大的發(fā)展?jié)摿蛯嵤┻h景。

技術(shù)是一把無形的“雙刃劍”。深度合成技術(shù)在為社會帶來便捷和福祉的同時，也帶來了新的挑戰(zhàn)和風(fēng)險。例如2017年11月，外網(wǎng)Reddit平臺上一位名為“深度偽造”（deepfake）的用戶通過電腦技術(shù)將色情影視片中演員的臉換成明星、政客等名人的臉，制作仿真度極高的視頻并發(fā)布，引起眾多網(wǎng)民模仿制作假電影、假新聞[3]。因其發(fā)展迅猛，“deepfake”一詞由網(wǎng)名演變成深度合成技術(shù)的代稱。該技術(shù)在我國引起普遍關(guān)注源于2019年的3月，Bilibili視頻播放平臺的一位名為“換臉哥”的用戶利用該技術(shù)將電視劇《射雕英雄傳》里原本由朱茵扮演的角色“換臉”成由楊冪“表演”。至2019年9月，一款名為“ZAO-逢臉造戲”的“換臉”應(yīng)用軟件引發(fā)廣泛的輿論與關(guān)注，用戶只需簡單上傳本人或他人的照片等就可以將影視作品中的角色“換臉”，制作出由自己或他人“主演”的小視頻。該軟件因存在未經(jīng)明示同意而收集用戶個人生物識別信息、個人信息處理規(guī)則不清晰、過度索取用戶的肖像權(quán)、數(shù)據(jù)泄露和濫用風(fēng)險等問題而迅速下架。

人工智能的時代已經(jīng)來臨，先進的技術(shù)和開放的數(shù)據(jù)流動能為社會帶來巨大的信息紅利，但是深度合成技術(shù)生成的信息影響力能被瞬間成千成萬倍地放大，其所具備的負面作用不容小覷[4]。目前，國內(nèi)關(guān)于深度合成技術(shù)風(fēng)險與規(guī)制的研究主要集中于技術(shù)濫用問題[4];扭曲信息傳播渠道導(dǎo)致的“后真相”時代危機[5];對技術(shù)的一體化規(guī)制，如加強數(shù)據(jù)平臺責(zé)任、明確技術(shù)使用者權(quán)限、保障公眾數(shù)據(jù)安全等[3]。本文將結(jié)合深度合成技術(shù)原理，進一步分析深度合成技術(shù)應(yīng)用的法律風(fēng)險，并在此基礎(chǔ)上探尋此類風(fēng)險的協(xié)同規(guī)制。

二、深度合成技術(shù)的原理與應(yīng)用

深度合成技術(shù)是人工智能領(lǐng)域里一項“顛覆傳統(tǒng)認(rèn)知”的縱深發(fā)展合成技術(shù)（AI-generated media），即以人工智能為手段，實現(xiàn)視覺、聽覺等方面的模仿和修改，從而達到以假亂真的超高度仿真效果。人工智能是深度合成的技術(shù)支持，深度合成是人工智能的內(nèi)容輸出，二者是手段與目的的關(guān)系[6]。

（一）深度合成技術(shù)的原理

深度合成的過程就是將個人的照片、視頻等數(shù)據(jù)輸入到智能算法當(dāng)中，然后由智能算法在多次訓(xùn)練的基礎(chǔ)上，自動完成“換臉”操作[7]。其革新在于運用對抗生成網(wǎng)絡(luò)模型（Generative Adversarial Networks，簡稱“GAN模型”），該模型與傳統(tǒng)深度學(xué)習(xí)技術(shù)（Deep Learning）的單向性相比，引入了“對抗”機制，并由兩組深度卷積神經(jīng)網(wǎng)絡(luò)雙向進行，包括生成器和判定器[8]。在該網(wǎng)絡(luò)系統(tǒng)中含有圖像空間和隱層子空間，由圖像空間將創(chuàng)作的圖片投影到隱層子空間，由于投影變換具有非正交和非線性特點，且可以根據(jù)不同要求構(gòu)造不同的網(wǎng)絡(luò)[9]，因此創(chuàng)作的圖像具有高度相似性。

基于神經(jīng)網(wǎng)絡(luò)的技術(shù)支撐，對抗生成網(wǎng)絡(luò)模型的工作原理是運用生成器和判定器這兩個神經(jīng)網(wǎng)絡(luò)進行圖像的高仿，先由操作者從互聯(lián)網(wǎng)等移動平臺上獲取較大數(shù)量的目標(biāo)人物視頻或圖像信息，形成可供生成器進行算法訓(xùn)練的數(shù)據(jù)庫，此后由生成器通過神經(jīng)網(wǎng)絡(luò)訓(xùn)練并生成的視頻、圖像等，并經(jīng)過判定器對原來的真實圖像數(shù)據(jù)與偽造數(shù)據(jù)進行博弈，如果兩者誤差很小，達到了“以假亂真”的程度，則可以保留該偽造數(shù)據(jù)作為下一步“換臉”的素材。如果兩者誤差很大，系統(tǒng)將自動把數(shù)據(jù)返回給生成器進行新一輪的計算訓(xùn)練，直至生成的圖像與原真實圖像相比能通過判定器鑒別方可使用。最終，通過反復(fù)地訓(xùn)練和篩選，生成器所創(chuàng)造的數(shù)據(jù)與原有的真實數(shù)據(jù)具有相同的分布排列，使得判定器無法準(zhǔn)確識別生成器所造差異，二者達到相對平衡，從而使偽造視頻能夠欺瞞大多數(shù)人的眼睛[10]。

（二）深度合成技術(shù)的應(yīng)用

深度合成技術(shù)目前已獲得廣泛應(yīng)用，主要的應(yīng)用場景包括人臉替換（face replacement）、人臉再現(xiàn)（face re-enactment）、人臉合成（face generation）和語音合成（speech synthesis）四個方面[2]。具體而言，人臉替換即人們熟知的“換臉”技術(shù)，如曾風(fēng)靡一時的“ZAO”應(yīng)用軟件可以根據(jù)用戶上傳的照片自動替換影視中角色的臉，制作出由用戶“出演”的小視頻。而人臉再現(xiàn)主要是通過操作、改變視頻中人物的面部表情和說話內(nèi)容，使其看起來說出或作出并非基于其本人意愿的事。人臉合成則是通過人工智能技術(shù)改變?nèi)宋锏拿娌刻卣?，或者?chuàng)建新的人臉圖像，這項技術(shù)可被應(yīng)用于社交媒體，如美顏相機、創(chuàng)作虛擬形象等;也可用于影視行業(yè)制作特效，使演員“返老還童”，甚至“起死回生”，如使《速度和激情7》里的角色沃克“復(fù)活”;還可以廣泛應(yīng)用于藝術(shù)體驗、旅游等領(lǐng)域，使參與者能身臨其境的感受更加豐富的視覺體驗。語音合成不僅可以通過機器自動轉(zhuǎn)化文字和聲音、翻譯等，還可以通過機器創(chuàng)作新的語音系統(tǒng)，如虛擬歌手初音未來、洛天依、艾靈，參與新華社兩會報道的3D主播等。除此之外，深度合成技術(shù)開始朝著綜合運用、全身合成、數(shù)字虛擬人（digital person）等方面發(fā)展，這些都表明深度合成技術(shù)蘊含著巨大的發(fā)展?jié)撃芎颓熬啊?/p>

作為人工智能領(lǐng)域的突破性進展成果，深度合成技術(shù)具有高度的仿真性，技術(shù)成果泛在的使用性和快速進化性等特點[3]，這些技術(shù)優(yōu)勢的應(yīng)用中同樣蘊含著風(fēng)險，其不僅是一把雙刃劍，很可能還是一把雙刃不平衡的劍[11]。若使用不當(dāng)或被濫用，深度合成技術(shù)的負面效應(yīng)將愈發(fā)凸顯。例如，網(wǎng)上廣泛傳播的明星或政客的“換臉”視頻涉及色情、虛假言論等不實內(nèi)容，不僅對個人名譽造成不良影響，也對社會信用和公共秩序產(chǎn)生不良影響。

三、深度合成技術(shù)應(yīng)用的法律風(fēng)險

風(fēng)險（risk）不同于危險（danger），風(fēng)險是危險的一種形式，即指“可能發(fā)生的危險”[12]。烏爾里?！へ惪耸鞘状翁岢鲲L(fēng)險社會概念的社會學(xué)家，其認(rèn)為，當(dāng)代社會已經(jīng)是一個風(fēng)險的社會，且最大的風(fēng)險是技術(shù)風(fēng)險[13]。技術(shù)所導(dǎo)致的風(fēng)險可大致分為內(nèi)部風(fēng)險和外部風(fēng)險，內(nèi)部風(fēng)險源于認(rèn)知程度的限制和技術(shù)能力的缺失，外部風(fēng)險則是由內(nèi)部風(fēng)險外溢對人類社會所產(chǎn)生的不良影響[14]。據(jù)此，不當(dāng)使用深度合成技術(shù)所導(dǎo)致的風(fēng)險可分為內(nèi)部的技術(shù)異化風(fēng)險，以及外部的信息失真和信息泄露風(fēng)險。

（一）技術(shù)異化風(fēng)險

所謂異化（alienation），其意有疏遠、背離之意，技術(shù)異化的本質(zhì)在于科學(xué)技術(shù)和人文社會背道而馳，即以經(jīng)濟利益為目的，脫離了技術(shù)創(chuàng)新和以人為本的初衷，違背了法律法規(guī)、倫理道德的約束，以此獲取不正當(dāng)利益而損害社會可持續(xù)發(fā)展的現(xiàn)象[15]，最終將導(dǎo)致社會的異化、人的異化。這是因為相較于傳統(tǒng)技術(shù)的線性增長，新技術(shù)賦能社會呈現(xiàn)指數(shù)級發(fā)展，計算機構(gòu)成了越來越復(fù)雜的操作系統(tǒng)，普通群眾難以真正了解系統(tǒng)背后的運作原理，反而不得不遵循其操作規(guī)范，當(dāng)技術(shù)出現(xiàn)漏洞或被不當(dāng)利用時，其破壞性和威脅性將極度放大并反噬社會，加劇社會的碎裂化。且隨著新技術(shù)應(yīng)用方式和場景的多樣性組合與變換，其不斷模糊著真實世界和數(shù)字世界的界限，逐漸影響到人類生活的方方面面，系統(tǒng)網(wǎng)絡(luò)錯綜復(fù)雜，蘊含著極大的錯誤疊加與連鎖反應(yīng)風(fēng)險。

深度合成技術(shù)具有泛在的使用性，當(dāng)核心技術(shù)攻關(guān)和開源軟件公布后，技術(shù)的普及成本逐漸降低，即使是普通民眾也無需經(jīng)過專業(yè)的訓(xùn)練就能較快地掌握操作方法。隨著深度合成技術(shù)在多場景之中的推廣應(yīng)用，技術(shù)異化的風(fēng)險也愈發(fā)增大，“科學(xué)從原本溫文爾雅、帶領(lǐng)人民走出黑暗時代的‘賽先生， 變成了帶領(lǐng)人們急速駛?cè)胛磥硎澜?、力量極其龐大卻又找不到方向的巨型怪獸賽維坦（Seviathan）”[16]，諸如濫用技術(shù)制作虛假視頻和偽造不實言論侮辱、誹謗、恐嚇?biāo)说壤樱瑢€人權(quán)益、社會穩(wěn)定、國家安全構(gòu)成威脅。

（二）信息失真風(fēng)險

新技術(shù)浪潮下一切皆可數(shù)字化，基于機器深度學(xué)習(xí)和互聯(lián)網(wǎng)發(fā)展優(yōu)勢的深度合成技術(shù)更是具有深度擷取大眾數(shù)據(jù)的風(fēng)險[17]，若再借助網(wǎng)絡(luò)爬蟲技術(shù)2，深度合成科技能夠挖掘和獲取的數(shù)據(jù)將十分可觀。諸如圖像、語音、行為等信息被全方位監(jiān)測、計算，人們在技術(shù)面前將“無所遁形”，現(xiàn)實社會與虛擬世界的界限逐漸被打破，形成“透明的個人與幽暗的數(shù)據(jù)掌控者”[18]之鮮明對比。

越來越難跨越的數(shù)字鴻溝把人們劃分為掌握信息技術(shù)的人和無法獲得信息技術(shù)的人，若那些數(shù)據(jù)掌握者不當(dāng)利用深度合成技術(shù)散布謠言、擾亂公眾視聽，此不當(dāng)引導(dǎo)輿論方向的行為是對公眾意識的操縱和社會信任體系的破壞，嚴(yán)重影響公共秩序的穩(wěn)定。這些虛假信息逼真程度之高，往往以十分令人相信的方式呈現(xiàn)給社會公眾，盡管人們也會忽略一部分與他們認(rèn)知不符的謠言和緋聞，但當(dāng)此類信息達到一定數(shù)量時，很難讓人不得不注意并相信其中的內(nèi)容[19]。這更加快了信息由“眼見為實”向“眼見為虛”的轉(zhuǎn)變，使社會陷入真相與假象紛繁復(fù)雜、界限模糊的困境之中，造成“真相的終結(jié)”，并繼而進入“后真相”（Post-truth）時代3。若不及時消除風(fēng)險，將使人們長期處于真假難辨的社會環(huán)境之中，對所見所聞都產(chǎn)生懷疑和不信任，進而沖擊官方媒體、政府機構(gòu)的公信力，引發(fā)社會信任危機，擾亂社會中原本良好穩(wěn)定的公共秩序[20]。

（三）信息泄露風(fēng)險

目前，高科技犯罪已成為社會治理的重要問題，濫用深度合成技術(shù)最為直接的風(fēng)險之一是信息的過度搜集和泄露，蘊含著極大的安全隱患。

以深度合成技術(shù)為代表的人工智能科技以數(shù)據(jù)搜集和計算為運行基礎(chǔ)，其中又以個人信息為最有價值的數(shù)據(jù)資源，且個人信息是一項包含精神權(quán)利和財產(chǎn)利益的綜合性新型權(quán)利，保障個人信息安全就是保護個人權(quán)利、維護社會穩(wěn)定的前提，其重要性不可小覷。在信息化時代下，個人信息已深度卷入技術(shù)風(fēng)險之中，新技術(shù)把社會上各個領(lǐng)域的信息予以數(shù)據(jù)化和可視化，并通過數(shù)據(jù)畫像進行精準(zhǔn)營銷和信息投放，具有巨大的財富價值，一旦信息數(shù)據(jù)泄露，將在整個網(wǎng)絡(luò)系統(tǒng)曝光和擴散，所有信息都存在被輕易獲取的風(fēng)險[21]。同時，對于臉部、視網(wǎng)膜等包含個人生物特征的生物識別信息也是深度合成技術(shù)極易侵犯的對象。這類信息具有防偽、私密、便攜、難遺失等特征，并具有唯一對應(yīng)性和不可更改性，相較于其他類型的個人信息而言更具敏感性，對其收集、使用和存儲的安全要求更高，一旦發(fā)布將很難被消除或修改[22]。而深度合成技術(shù)恰恰是利用生物特征予以數(shù)據(jù)化處理的運作模式，其通過四通八達的網(wǎng)絡(luò)線路廣泛搜集擬合成對象的臉部神態(tài)、聲音強調(diào)等個性化信息，并存入數(shù)據(jù)庫中，若出現(xiàn)技術(shù)漏洞被黑客入侵竊取，或被技術(shù)使用者不當(dāng)利用，大量的生物識別信息將面臨被泄露和濫用的風(fēng)險，嚴(yán)重威脅個人安全和社會穩(wěn)定。

四、深度合成技術(shù)應(yīng)用的協(xié)同規(guī)制

根據(jù)技術(shù)社會建構(gòu)理論，分析新技術(shù)所帶來的影響時應(yīng)當(dāng)尋求其有益途徑，遏制其消極方面，并著眼于其潛在的正面應(yīng)用和有效的監(jiān)管方式[23]。據(jù)此，為了防止技術(shù)被利益驅(qū)動而破壞社會秩序，應(yīng)當(dāng)積極尋求規(guī)制技術(shù)的方法和出路。美國是最先對人工智能技術(shù)作出回應(yīng)的國家，其主要從平臺規(guī)范、技術(shù)對抗和立法監(jiān)管三個方面進行規(guī)制[24]，歐盟則制定了一系列的條例和方案將深度合成技術(shù)納入到規(guī)制框架之中。也有學(xué)者提出以“R.E.A.L.”模式規(guī)范深度合成技術(shù)的應(yīng)用，即記錄原始內(nèi)容以確保內(nèi)容的真實性（Record original content to assure deniability）、提前曝光深度合成內(nèi)容（Expose deepfakes early）、提倡法律的保護作用（Advocate for legal protection）、使用信用機制調(diào)節(jié)（Leverage trust）[25]。綜合已有研究，本文擬從技術(shù)、倫理、法律三個層面尋求深度合成技術(shù)的規(guī)制路徑。

（一）以技術(shù)規(guī)制技術(shù)

技術(shù)作為社會規(guī)范的一種形式，與道德、習(xí)慣、紀(jì)律、法律互為補充，共同規(guī)制人們的社會行為。技術(shù)規(guī)制的優(yōu)勢在于其能夠更加直接、準(zhǔn)確、高效、經(jīng)濟地發(fā)揮規(guī)范和調(diào)節(jié)作用，它不僅可以為人們樹立相應(yīng)的行為準(zhǔn)則，還可以使人們不得不依據(jù)該準(zhǔn)則行事，更直接地實現(xiàn)規(guī)范的目的。正因如此，人們對技術(shù)規(guī)范的需求甚至?xí)^法律規(guī)范，且技術(shù)規(guī)范的影響力可以打破時間和空間的束縛，不受國界限制，這對于網(wǎng)絡(luò)環(huán)境下人們尋求維權(quán)之道尤具有吸引力[26]。對于新技術(shù)所帶來的問題，需要通過發(fā)展新技術(shù)加以解決，即通過技術(shù)解決技術(shù)所來的問題。

深度合成技術(shù)呈高速發(fā)展的趨勢，相應(yīng)的識別和破解技術(shù)必須及時跟進甚至是超越深度合成技術(shù)的發(fā)展速度，才能及時防范因技術(shù)濫用所引發(fā)的風(fēng)險。對此，布法羅大學(xué)人工智能研究所所長大衛(wèi)·德曼將這場技術(shù)的競爭比喻成“貓抓老鼠的游戲”[27]。目前，對深度合成技術(shù)的規(guī)制主要集中在溯源防偽和反向破解兩項技術(shù)：前者是對原始視頻添加“數(shù)字水印”，從創(chuàng)作源頭保證視頻的真實性，以清晰地辨識視頻的真假;后者是針對深度合成技術(shù)含量高的視頻和圖像進行代碼破解，撕開技術(shù)層面的“面紗”以揭露偽造視頻。

在溯源防偽技術(shù)上，主要是區(qū)塊鏈技術(shù)應(yīng)用，即運用數(shù)據(jù)加密、時間戳、分布式共識和經(jīng)濟激勵等手段，在節(jié)點無需互相信任的分布式系統(tǒng)中實現(xiàn)去中心化信用的點對點交易與協(xié)作[28]。防篡改記錄、數(shù)據(jù)編輯日志等都是可以公開查詢的，有效保證了用戶身份信息和網(wǎng)絡(luò)行為的真實性和不可篡改性，使得任何偽造數(shù)據(jù)的行為都暴露無遺，區(qū)塊鏈技術(shù)在數(shù)據(jù)資產(chǎn)的真實性和原始性保護方面發(fā)揮了重要作用[29]。在國外已有公司開始借助區(qū)塊鏈技術(shù)為原著的照片、音頻、視頻等添加時間戳等“數(shù)字水印”，在分布式賬本上形成永久的元數(shù)據(jù)記錄[30]。這類似于版權(quán)領(lǐng)域中的技術(shù)保護措施，版權(quán)人可以運用特殊的印刷方式和技術(shù)保證正版版權(quán)作品的質(zhì)量，使人們不得不遵守版權(quán)人設(shè)定的消費正版版權(quán)作品的規(guī)則，從而防止盜版、偽造，提高正品的銷售額，減少了大規(guī)模的版權(quán)侵權(quán)現(xiàn)象[26]。在關(guān)于深度合成技術(shù)方面的法律法規(guī)尚未健全的情況下，通過溯源防偽技術(shù)添加“數(shù)字水印”的方式可以保護原版照片、音頻、視頻等媒體不被輕易修改，即使被用于制作虛假視頻，也可以在新視頻中顯示“數(shù)字水印”標(biāo)識，從而提醒觀看者注意辨別視頻的真假，防止不法分子制作和散布不實信息。

在反向破解技術(shù)上，國外已開展多項先進技術(shù)的研發(fā)。如美國加州大學(xué)伯克利分校和南加州大學(xué)合作研發(fā)可以識別生物標(biāo)簽的人工智能系統(tǒng)[31]，甚至還有研發(fā)人員能通過血液進入皮膚時的細微變化來識別視頻中人物是否被深度合成技術(shù)進行了篡改[32]。2020年9月2日，微軟公司還推出一款新視頻認(rèn)證工具，通過檢測合成內(nèi)容的混合邊界，以及人眼無法看出來的微妙褪色或灰度元素，從而識別利用深度合成技術(shù)所制作的虛假視頻[33]。通過提升反向破解技術(shù)，能為人們識別相關(guān)作品是否為深度合成所做提供科學(xué)的鑒別手段。

（二）以商業(yè)倫理治理技術(shù)

商業(yè)倫理是提供判斷主體行為是否合乎道德與真理的一種規(guī)則、標(biāo)準(zhǔn) 、規(guī)范或原則[34]。其本身雖不具有法律意義上的強制性， 但有道德上的導(dǎo)向性和自我約束性[35]。當(dāng)前，我國人工智能企業(yè)的現(xiàn)狀是各企業(yè)的發(fā)展水平和進度參差不齊，導(dǎo)致諸多行業(yè)亂象，原因之一便是缺乏商業(yè)倫理的規(guī)范與引導(dǎo)。

商業(yè)倫理規(guī)范就是按照符合道德的標(biāo)準(zhǔn)和規(guī)則進行行業(yè)自律。行業(yè)自律是一種重要的自主治理形式，能夠構(gòu)建良性的行業(yè)合作秩序、促進行業(yè)健康發(fā)展，是風(fēng)險治理機制的重要手段[36]。一方面，行業(yè)內(nèi)部可以在國家立法基礎(chǔ)上，結(jié)合本行業(yè)自身發(fā)展特點制定更為清晰適用的準(zhǔn)則規(guī)——形成統(tǒng)一的商業(yè)倫理;另一方面，還能有效緩解技術(shù)過快發(fā)展而引起的立法供給不足問題，為后續(xù)立法提供可參考的經(jīng)驗，避免盲目和超前立法扼殺技術(shù)創(chuàng)新的活力[37]。在人工智能飛速發(fā)展的勢頭下，為消除技術(shù)異化可能對人類造成的風(fēng)險，科學(xué)技術(shù)研發(fā)者必須及時對價值訴求、道德期望和安全滿足作出回應(yīng)，否則將會導(dǎo)致行業(yè)失范的危機。為了更好地建立行業(yè)自律體系，商業(yè)倫理不可缺位。通過商業(yè)倫理，企業(yè)之間可以建立信任關(guān)系，降低交易成本，樹立良好形象，獲得長期績效等。且隨著全球經(jīng)濟市場競爭的愈演愈烈，商業(yè)倫理在原有的價值評判基礎(chǔ)外，添加了關(guān)于企業(yè)如何更有效地實施市場行為的引導(dǎo)要素，并從利益相關(guān)者視角出發(fā)，有助于構(gòu)建多元化商業(yè)倫理系統(tǒng)，以加強企業(yè)的社會責(zé)任感[38]。

面對日新月異的人工智能技術(shù)發(fā)展，相對于政府機構(gòu)的后續(xù)監(jiān)管而言，企業(yè)處于獲取行業(yè)發(fā)展最新動態(tài)和解決新技術(shù)復(fù)雜多變問題的最前沿，因此有關(guān)行業(yè)協(xié)會或組織聯(lián)盟通過確立自律規(guī)范實現(xiàn)對內(nèi)部成員的管理和約束，將更有利于引導(dǎo)行業(yè)的正向發(fā)展，從而實現(xiàn)與外部的國家強制監(jiān)管的良性互動和補充。以英國的行業(yè)自律模式為例，該國的行業(yè)組織包括網(wǎng)絡(luò)觀察基金會（IWF）、互聯(lián)網(wǎng)服務(wù)提供商協(xié)會（ISPA）、移動寬帶集團（MBG）等，對入會要求、行業(yè)競爭、非法言論和虛假信息等制定了詳細的互聯(lián)網(wǎng)自律業(yè)務(wù)守則。而作為全球最大的人工智能行業(yè)組織——人工智能伙伴關(guān)系聯(lián)盟（Partnership on? AI，簡稱PAI聯(lián)盟）是一個由美國企業(yè)發(fā)起的非營利性聯(lián)盟，其成員包含Google、Facebook、Amazon、IBM等企業(yè)，該聯(lián)盟在匯聚全球先進技術(shù)力量促進人工智能的發(fā)展、防止人工智能技術(shù)濫用、完善人工智能道德倫理等方面都對世界IT行業(yè)作出了巨大的貢獻。同時，發(fā)揮行業(yè)領(lǐng)軍企業(yè)的帶頭作用亦有助于引領(lǐng)整個行業(yè)良性發(fā)展。如Twitter公司發(fā)布首個反Deepfake策略草案、Google公司發(fā)布的《谷歌AI的原則》、國內(nèi)騰訊公司提倡的“科技向善”理念等都為行業(yè)遵守技術(shù)倫理起到了表率作用。

（三）以法律規(guī)范技術(shù)

法律是最具有明確性、確定性和國家強制性的社會規(guī)范，其通過指引、評價、教育等作用以實現(xiàn)調(diào)整社會關(guān)系和維護秩序的目的[39]，這些特征使法律成為風(fēng)險治理機制的重要手段，立法者必須重視控制風(fēng)險功能的法治化[40]。具體而言，深度合成技術(shù)在法律層面上的規(guī)制可以從技術(shù)的使用邊界、技術(shù)的使用程序、濫用技術(shù)的法律后果三方面予以規(guī)范。

在技術(shù)的使用邊界上，明確應(yīng)當(dāng)予以禁止的不當(dāng)使用深度合成技術(shù)的行為。如美國為應(yīng)對深度合成技術(shù)帶來的挑戰(zhàn)，美國聯(lián)邦與各州共計提出了12項立法法案對該技術(shù)予以規(guī)制[41]，其中尤以弗吉尼亞州、德克薩斯州、加利福尼亞州為代表的州級立法最為嚴(yán)格。例如，弗吉尼亞州將未經(jīng)授權(quán)而傳播利用深度合成技術(shù)制作的圖像和視頻的行為定為犯罪，加利福尼亞州禁止深度合成技術(shù)用于色情傳播和政治助選[24]。而在技術(shù)發(fā)達的歐洲，歐盟的《一般數(shù)據(jù)保護條例》被稱為“史上最嚴(yán)數(shù)據(jù)保護條例”，該條例對深度合成技術(shù)使用邊界作出了十分嚴(yán)苛的規(guī)定，如第9條要求數(shù)據(jù)控制者對涉及數(shù)據(jù)主體“識別自然人的生物性數(shù)據(jù)”都應(yīng)當(dāng)禁止使用[42]。在我國立法中，如《中華人民共和國民法典》（以下簡稱《民法典》）第1019條，即是針對新技術(shù)侵害肖像權(quán)所制定的保護措施[43]，第1024條也規(guī)定了任何組織或者個人不得以侮辱、誹謗等方式侵害他人的名譽權(quán)。

在技術(shù)的使用程序上，制定能夠涵蓋各個應(yīng)用環(huán)節(jié)的使用規(guī)范。如2020年3月12日，美國華盛頓州出臺的首部人臉識別法案《SB 6280法案》規(guī)定了嚴(yán)格的責(zé)任報告制度，主要是對政府機關(guān)使用人臉識別服務(wù)的行為予以規(guī)范，防止公權(quán)力對人臉識別技術(shù)的濫用[44]。歐盟則更強調(diào)自上而下的監(jiān)管，對深度合成技術(shù)予以統(tǒng)一管理。歐盟理事會于2018年6月28日通過的《歐盟反虛假信息行為守則》將利用深度合成技術(shù)制作的不實內(nèi)容納入虛假信息管理范疇，增加有關(guān)抵御虛假信息的保護措施[45]。我國《民法典》第1035條規(guī)定，對個人信息處理應(yīng)當(dāng)征得信息主體的同意，需明示處理的規(guī)則、目的、方式和范圍，且遵循合法、正當(dāng)、必要原則。2021年6月10日通過的《中華人民共和國數(shù)據(jù)安全法》（以下簡稱《數(shù)據(jù)安全法》）第三章“數(shù)據(jù)安全制度”中明確提出了國家要對數(shù)據(jù)進行分級分類的保護，制定數(shù)據(jù)安全風(fēng)險評估、報告、信息共享和監(jiān)測預(yù)警機制以應(yīng)對突發(fā)性數(shù)據(jù)安全問題;第四章“數(shù)據(jù)安全保護義務(wù)”強調(diào)從事數(shù)據(jù)處理的中介機構(gòu)應(yīng)要求數(shù)據(jù)提供者說明數(shù)據(jù)來源，并負有審核數(shù)據(jù)交易雙方身份并留存信息和記錄的義務(wù)。這些都對深度合成技術(shù)的使用程序作出了明確的指引。

同時，立法還應(yīng)明確濫用深度合成技術(shù)的法律后果，懲戒不法分子違法使用技術(shù)的行為，提高技術(shù)濫用成本。如美國弗吉尼亞州對濫用深度合成技術(shù)的犯罪行為最高可判處一年監(jiān)禁和2 500美元罰款[24]。歐盟則規(guī)定對嚴(yán)重違反本條例條款的施加最高10 000 000至20 000 000歐元的行政罰款，對企業(yè)最高可處以其上一年度全球范圍內(nèi)營業(yè)額的2%至4%的罰款[42]。我國《民法典》第995條至第1000條則規(guī)定，受害人有權(quán)請求侵權(quán)人承擔(dān)停止侵害、消除影響、恢復(fù)名譽、賠禮道歉、精神損害賠償?shù)蓉?zé)任，同時還可以向法院申請人格權(quán)行為禁令，據(jù)此可以及時制止濫用深度合成技術(shù)對肖像權(quán)、名譽權(quán)、隱私權(quán)等人格權(quán)的侵犯?！稊?shù)據(jù)安全法》第六章“法律責(zé)任”更是加大了對侵權(quán)行為的懲罰力度，如對違法開展數(shù)據(jù)活動的個人、組織予以警告和罰款，同時追究服務(wù)機構(gòu)和直接負責(zé)人的責(zé)任。通過濫用深度合成技術(shù)危害國家安全、公共利益的，可以依照《刑法》以誹謗罪、敲詐勒索罪、詐騙罪、傳播淫穢物品罪、煽動實施恐怖活動罪等罪名予以懲罰。

整體而言，我國關(guān)于深度合成技術(shù)的法律法規(guī)零散于各部門法之中，其實際操作性有待加強[46]。面對日新月異的深度合成等人工智能技術(shù)的發(fā)展，法律作為最后一道安全防線需不斷更新與完善，以及時應(yīng)對新技術(shù)帶來的挑戰(zhàn)。

結(jié)? 語

深度合成技術(shù)具有高度仿真性、泛在使用性和快速進化性的特點，該技術(shù)在促進社會多元化需求的同時，也具有一定的安全隱患，其潛在的風(fēng)險不僅在于“合成”，更在于“深度”，尤其是智能化水平已遠遠超出一般的視頻、音頻處理技術(shù)。隨著技術(shù)的普及和推廣，技術(shù)濫用現(xiàn)象也愈演愈烈，極可能引發(fā)技術(shù)異化、信息失真、信息泄露的風(fēng)險生成。

在新技術(shù)治理上，不應(yīng)以其風(fēng)險而一概否認(rèn)深度合成技術(shù)存在的合理性和發(fā)展的有益性，相反，應(yīng)當(dāng)積極尋求正向的解決方案和規(guī)范機制。在行業(yè)規(guī)范中，行業(yè)倫理不可缺位，倫理引導(dǎo)是行業(yè)自律的重要指向標(biāo)。而法律是規(guī)制技術(shù)的必要手段，在堅持安全合法的監(jiān)管底線，避免技術(shù)的不當(dāng)利用給公民、社會和國家造成不可控威脅的同時，亦要避免法律規(guī)制過嚴(yán)而可能阻礙技術(shù)發(fā)展。因而，應(yīng)堅持包容審慎的立法和監(jiān)管原則，在合理的范圍內(nèi)包容和鼓勵技術(shù)創(chuàng)新，為技術(shù)發(fā)展創(chuàng)造良好的合適的制度環(huán)境，避免因矯枉過正而挫傷市場主體技術(shù)創(chuàng)新積極性，影響技術(shù)的社會經(jīng)濟價值發(fā)揮。對此，可通過多方參與、風(fēng)險評估、成本效益分析等機制，確保立法和監(jiān)管的科學(xué)化、精細化、靈活化，并可考慮設(shè)立“安全港”規(guī)則或者監(jiān)管例外來鼓勵人工智能的應(yīng)用。當(dāng)然，立法并非唯一有效的方式，法律具有滯后性，難以跟上技術(shù)發(fā)展的步伐，尤其是對于仍在快速發(fā)展的深度合成技術(shù)而言更是如此。因此，需要借助溯源防偽、反向破解等技術(shù)措施，并通過行業(yè)內(nèi)的公約、標(biāo)準(zhǔn)、最佳實踐、倫理指南等行業(yè)自律措施，以及提升公眾數(shù)字素養(yǎng)等，實現(xiàn)對深度合成技術(shù)應(yīng)用風(fēng)險的多維治理。

參考文獻：

[1] 騰訊研究院. 2020騰訊人工智能白皮書[R/OL].（2020-08-01）[2020-08-10] https：//tisi.org/.

[2] 曹建峰. AI生成內(nèi)容發(fā)展報告2020——“深度合成”（deep synthesis）商業(yè)化元年[R/OL]. （2020-05-11）[2020-06-20].

[3] 王祿生. 論“深度偽造”智能技術(shù)的一體化規(guī)制 ——從“楊冪換臉視頻”談起[J]. 東方法學(xué)，2019，（10）：1-14.

[4] 曹建峰，方齡曼. 人工智能時代下的“煩惱”：美國國會聽證會探討“深度偽造（deepfake）”風(fēng)險及對策[EB/OL].（2019-07-02）[2019-12-21].

[5] 張濤. 后真相時代深度偽造的法律風(fēng)險及其規(guī)制[J]. 電子政務(wù)，2020（04）：91-101.

[6] 莊嘉. 涉罪前瞻：AI解鎖暗黑應(yīng)用技能包[J]. 檢察風(fēng)云，2019（11）：11-13.

[7] Samantha Cole. AI-Assisted Fake Porn Is Here and Were All Fucked， MOTHERBOARD[EB/OL]. （2017-11-11）[2020-05-02]https：//motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn.

[8] Goodfellow I J， Pouget-Abadie J， Mirza M， et al. Generative Adversarial Networks[J]. Advances in Neural Information Processing Systems， 2014，3：2672-2680.

[9] S.Y Lee， Y.K Ham， et al. Recognition of human front faces using knowledge- based feature extraction and neurofuzzy algorithm[J] .Pattern Recognition ， 1996 ， 29（11）：1863-1876.

[10] 暴雨軒，蘆天亮，杜彥輝. 深度偽造視頻檢測技術(shù)綜述[J]. 計算機科學(xué)，2020（9）：283-292.

[11] 肖濱. 信息技術(shù)在國家治理中的雙面性與非均衡性[J]. 學(xué)術(shù)研究，2009（11）： 31-36.

[12] 中國社會科學(xué)院語言研究所詞典編輯室編. 現(xiàn)代漢語詞典[M]. 北京：商務(wù)印書館，1980：325.

[13] [德]烏爾里?！へ惪?著，王武龍 編譯. 從工業(yè)社會到風(fēng)險社會（上篇）——關(guān)于人類生存、社會結(jié)構(gòu)和生態(tài)啟蒙等問題的思考[J]. 馬克思主義與現(xiàn)實，2003（3）：26-45.

[14] 張樂. 新興技術(shù)風(fēng)險的挑戰(zhàn)及其適應(yīng)性治理[J]. 上海行政學(xué)院學(xué)報，2021（1）： 13-27.

[15] 陳仕偉. 大數(shù)據(jù)技術(shù)異化的倫理治理[J]. 自然辯證法研究，2016（1）： 46-50.

[16] 高奇琦. 人工智能：馴服賽維坦[M]. 上海：上海交通大學(xué)出版社，2018： 280-281.

[17] 蔡士林. 深度偽造”的技術(shù)邏輯與法律變革[J]. 政法論叢，2020（6）：131-140.

[18] 鄭戈. 在鼓勵創(chuàng)新與保護人權(quán)之間——法律如何回應(yīng)大數(shù)據(jù)技術(shù)革新的挑戰(zhàn)[J]. 探索與爭鳴，2016（7）： 79-85.

[19] Chesney， Danielle Keats Citron.Deep Fakes and the Challenge for Privacy，F(xiàn)ree Expression，and National Security[J].21st Century-Style Truth Decay，2019：882-891.

[20] Chesney R，Citron D K. Deep fakes： A looming challenge for privacy， democracy， and national security[EB/OL]. 107 California Law Review （2019，F(xiàn)orthcoming）; U of Texas Law， Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21. （2019-11-25）[2020-6-02]. https：//ssrn.com/abstract=3213954.

[21] 周佑勇. 論智能時代的技術(shù)邏輯與法律變革[J]. 東南大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2019（5）： 61-75.

[22] 趙淑鈺. 生物識別信息法律規(guī)制的國際經(jīng)驗與啟示[J]. 網(wǎng)絡(luò)空間戰(zhàn)略論壇，2019（11）：37-43.

[23] Andrei O. J. Kwok & Sharon G. M. Koh. Deepfake： a social construction of technology perspective[J]. Routledge Taylor&Francis Group.（Feb. 28， 2020）.

[24] 石婧，常禹雨，祝夢迪. 人工智能“深度偽造”的治理模式比較研究[J]. 電子政務(wù)，2020（5）：69-79.

[25] Jan Kietzmann ， Linda W. Lee ， Ian P. McCarthy ，Tim C. Kietzmann，Deepfakes： Trick or treat？ [J].Business Horizons，2020：135-146.

[26] 羅莉. 作為社會規(guī)范的技術(shù)與法律的協(xié)調(diào)——中國反技術(shù)規(guī)避規(guī)則檢討[J]. 中國社會科學(xué)，2006（1）：72-84.

[27] 曹建峰，方齡曼. “深度偽造”的風(fēng)險及對策研究[J]. 信息安全與通信保密，2020（2）：89-97.

[28] 袁勇，王飛躍. 區(qū)塊鏈技術(shù)發(fā)展現(xiàn)狀與展望[J]. 自動化學(xué)報，2016（4）：481-494.

[29] 孟雪，劉宗媛，李倩. 深度偽造技術(shù)給網(wǎng)絡(luò)可信身份管理帶來的挑戰(zhàn)與對策[J]. 網(wǎng)絡(luò)空間安全，2020（6）：75-79.

[30] Robert Chesney ，Danielle Citron. Deepfakes and the New Disinformation War： The Coming Age of Post-Truth Geopolitics[J].98 Foreign Aff.147，154 （2019）.

[31] Agarwal S， Farid H， Gu Y， et al. Protecting world leaders against deep fakes[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops， 2019： 38-45.

[32] 馮衛(wèi)東. “換臉”也逃不過數(shù)字真探法眼[N]. 科技日報，2018-8-10（2）.

[33] 站長之家. 微軟推出新視頻認(rèn)證工具，可識別AI深度偽造視頻[EB/OL].（2020-09-02）[2020-09-13] https：//www.chinaz.com/2020/0902/1179414.shtml.

[34] Lewis， P.V. Defining ‘business ethics： Like nailing jello to a wall[J]. Journal of Business Ethics， 1985（4）： 377-383.

[35] 黎來芳. 商業(yè)倫理 誠信義務(wù)與不道德控制——鴻儀系“掏空”上市公司的案例研究[J]. 會計研究，2005（11）：8-14.

[36] 鄧小兵，劉曉思. 中英網(wǎng)絡(luò)治理的行業(yè)自律比較研究[J]. 甘肅行政學(xué)院學(xué)報，2017（5）：114-125.

[37] 張新寶. 從隱私到個人信息： 利益再衡量的理論與制度安排[J]. 中國法學(xué)，2015（3）：38-59.

[38] 莫申江，王重鳴. 國外商業(yè)倫理研究回顧與展望[J]. 外國經(jīng)濟與管理，2009（7）： 16-22.

[39] 張文顯.法理學(xué)（第四版）[M].北京：高等教育出版社，2011： 47.

[40] 吳漢東. 人工智能時代的制度安排與法律規(guī)制[J]. 西北政法大學(xué)學(xué)報，2017（5）：128-136.

[41] Deepfake legislation： A nationwide survey — State and federal lawmakers consider legislation to regulate manipulated media[EB/OL]. （2019-09-25）[2019-11-19]. https：//www.jdsupra.com/legalnews/deepfakelegislation-a-nationwide-86809/.

[42] 丁曉東 譯.《一般數(shù)據(jù)保護條例》[EB/OL].（2018-05-23）[2020-06-02]https：//www.tisi.org/5029.

[43] 楊立新. 人格權(quán)編草案二審稿的最新進展及存在的問題[J]. 河南社會科學(xué)，2019（7）：26-35.

[44] 網(wǎng)絡(luò)法專報編委會. 騰訊網(wǎng)絡(luò)法專報2020年4月刊.[EB/OL].（2020-06-04）[2020-09-13] https：//www.tisi.org/14557.

[45] 中國信息化百人會數(shù)據(jù)治理委員會 譯.《歐盟反虛假信息行為守則》.[EB/OL].（2019-02-16）[2020-09-13]https：//www.sohu.com/a/295183284_470089.

[46] 文銘，劉博. 人臉識別技術(shù)應(yīng)用中的法律規(guī)制研究[J]. 科技與法律，2020（4）：77-85.

The Legal Risk and Co-regulation of the Application of Deep Synthesis Technology

Wan Zhiqian， Chen Chen

（College of Humanities & Law， Huazhong Agricultural University， Wuhan 430070， China）

Abstract： Deep synthesis is a disruptive technology breakthrough in the field of artificial intelligence， which not only meets people's diverse needs， but also leads to some risks， including technology alienation， information distortion and information leakage. To guard against these risks arising from the abuse of deep synthesis， it is necessary to take diversified governance. At the level of technical governance， we need to develop security trace ability and reverse decryption technology， and exert the standard function of technology. At the level of industry governance， we need to strengthen the guiding role of business ethics and the coordination ability of industrial organizations by self-discipline. At the level of legal governance， according to some clauses of the Civil Code and combining with Chinese reality and foreign legislative experience， it is better to perfect existing legal system to regulate deep synthesis， including clarifying technology use boundary， procedure as well as the legal consequence of technology abuse.

Key words： artificial intelligence; deep synthesis; face recognition; technology alienation; business ethics; the Civil Code