趙雪芹，李天娥，胡慧慧

（湖北大學(xué)歷史文化學(xué)院，武漢 430062）

1 引言

近年來(lái)，隨著數(shù)字技術(shù)不斷更新迭代，人工智能技術(shù)應(yīng)用不斷推陳出新，尤其是以智能化算法為基礎(chǔ)的深度學(xué)習(xí)使得人們的生活發(fā)生了巨大改變，其中較具代表性的便是Deepfake技術(shù)?！癉eepfake” 由“Deep Learning” 和 “Fake” 結(jié)合而成，即 “深度偽造”，也稱 “深度造假”，是指運(yùn)用深度學(xué)習(xí)算法去創(chuàng)建或修改音視頻、圖像等內(nèi)容，最終偽造一些虛假的信息和內(nèi)容[1]。深度偽造技術(shù)是人工智能技術(shù)發(fā)展過(guò)程中自然而然出現(xiàn)的衍生技術(shù)，其核心是深度學(xué)習(xí)算法中的生成對(duì)抗網(wǎng)絡(luò)（GAN）算法，該算法可以對(duì)語(yǔ)音、圖像、文字等信息內(nèi)容進(jìn)行修改。目前在日常生活中，語(yǔ)音合成、AI 換臉等深度偽造技術(shù)應(yīng)用已十分常見，F(xiàn)aceSwap，Zao，Lyrebird 等移動(dòng)APP 使用戶可以自由地創(chuàng)建并發(fā)布內(nèi)容。然而，技術(shù)一直以來(lái)都具有雙刃劍性質(zhì)，一方面可以創(chuàng)造價(jià)值，造福人類；另一方面具有潛在的安全隱患，危害個(gè)人、社會(huì)、國(guó)家安全，深度偽造技術(shù)也不例外。

目前，國(guó)內(nèi)外關(guān)于深度偽造的研究主要集中在以下主題：一是針對(duì)深度偽造的檢測(cè)和溯源技術(shù)研究，如基于循環(huán)神經(jīng)網(wǎng)絡(luò)的深度偽造視頻檢測(cè)[2]、基于圖像紋理特征的深度偽造圖像檢測(cè)算法[3]、深度偽造圖像追蹤溯源方法[4]等；二是深度偽造所帶來(lái)的困境研究，如使政治輿論復(fù)雜化[5]、威脅國(guó)家安全[6]、破壞社會(huì)穩(wěn)定及民主[7]等；三是深度偽造治理研究，對(duì)深度偽造技術(shù)應(yīng)用過(guò)程中的潛在刑事治理風(fēng)險(xiǎn)[8]、治理模式[9]進(jìn)行探究，并從技術(shù)角度提出規(guī)制深度偽造的方案[10]。由此可知，為引導(dǎo)深度偽造技術(shù)向善發(fā)展，國(guó)家必須對(duì)深度偽造技術(shù)主體的行為進(jìn)行有效管理和限制，不能任其自由發(fā)展。然而，中國(guó)目前尚未有針對(duì)深度偽造技術(shù)的政策，因此，本文采用文本分析法，對(duì)美國(guó)和歐盟的深度偽造政策文本進(jìn)行分析，得出他們治理深度偽造技術(shù)的一般手段，進(jìn)而為中國(guó)深度偽造技術(shù)的治理提出政策建議，以期為中國(guó)深度偽造技術(shù)以及其他人工智能技術(shù)的發(fā)展提供有力的政策保障。

2 深度偽造技術(shù)的威脅

當(dāng)前，深度學(xué)習(xí)算法推動(dòng)了數(shù)字經(jīng)濟(jì)的發(fā)展，成為新的行業(yè)增長(zhǎng)點(diǎn)。但同時(shí)，由深度學(xué)習(xí)算法而衍生的深度偽造技術(shù)，對(duì)網(wǎng)絡(luò)安全造成嚴(yán)重的威脅，加劇網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。2020 年，澳大利亞與美國(guó)分別發(fā)布《深度造假武器化——國(guó)家安全與民主》報(bào)告[11]與《Deepfakes：基本威脅評(píng)估》報(bào)告[12]。根據(jù)這兩個(gè)報(bào)告，可以總結(jié)深度偽造技術(shù)帶來(lái)的威脅主要在3 個(gè)方面：一是在國(guó)家層面，深度偽造技術(shù)降低了國(guó)家之間信息站的成本，惡意行為主體會(huì)利用深度偽造技術(shù)制造虛假信息來(lái)引發(fā)輿論，進(jìn)而給國(guó)家安全帶來(lái)不良影響，如2016 年有人發(fā)布深度偽造內(nèi)容干預(yù)了美國(guó)總統(tǒng)大選；二是在社會(huì)層面，深度偽造技術(shù)逐漸成為網(wǎng)絡(luò)犯罪者的工具，如在2019 年3 月，英國(guó)有犯罪分子利用深度偽造技術(shù)成功詐騙22 萬(wàn)歐元；三是在公眾層面，深度偽造技術(shù)的廣泛使用可能會(huì)破壞人們與個(gè)體或政府機(jī)構(gòu)之間的正當(dāng)溝通機(jī)制，大量虛假的合成內(nèi)容會(huì)削弱公眾對(duì)于信息真?zhèn)蔚谋嬲J(rèn)力，從而降低人們對(duì)政府制度的信任度，引發(fā)信任危機(jī)。如2019 年6月，美國(guó)皮尤研究中心發(fā)布報(bào)告，稱超過(guò)1/3 的調(diào)查者認(rèn)為“虛假新聞” 導(dǎo)致他們不能接收真正的新聞[13]。

綜上所述，可知深度偽造技術(shù)的濫用對(duì)國(guó)家安全、社會(huì)公共安全、個(gè)人隱私和聲譽(yù)均造成了不同程度的威脅，因而有必要從政策層面對(duì)深度偽造技術(shù)的開發(fā)、使用等行為進(jìn)行約束。首先，深度偽造技術(shù)政策可幫助政府更好治理網(wǎng)絡(luò)環(huán)境，使執(zhí)法機(jī)關(guān)能夠有法可依，進(jìn)而更加精準(zhǔn)地打擊網(wǎng)絡(luò)犯罪；其次，深度偽造技術(shù)政策能夠引導(dǎo)技術(shù)主體修正自身行為，不再繼續(xù)借助技術(shù)損害他人權(quán)益；最后，對(duì)于技術(shù)發(fā)展而言，政策的引導(dǎo)和限制是極其必要的。

3 深度偽造政策文本選擇及分析框架構(gòu)建

美國(guó)與歐盟已關(guān)注到深度偽造技術(shù)的異化現(xiàn)象，且制定了一系列的政策加以治理，對(duì)中國(guó)深度偽造技術(shù)的治理具有一定的借鑒意義，因此筆者選擇美國(guó)與歐盟的深度偽造技術(shù)政策文本進(jìn)行分析。

3.1 政策文本選擇

為保證研究的代表性與權(quán)威性，政策文本的選擇將根據(jù)以下原則所進(jìn)行：第一，政策發(fā)文機(jī)構(gòu)必須為美國(guó)的聯(lián)邦政府、州政府或歐盟委員會(huì)；第二，僅收集已在政府網(wǎng)站中公開發(fā)布的政策；第三，所收集的政策主題需與深度偽造緊密相關(guān)，因此本文以 “Deep Fake” “Deceptive” “Disinformation” “Deep Fakes”等作為檢索關(guān)鍵詞，在美國(guó)的國(guó)會(huì)網(wǎng)站、各州政府網(wǎng)站及歐盟委員會(huì)網(wǎng)站進(jìn)行政策收集?；谝陨显瓌t，收集時(shí)間為2022 年1 月20 日—2022 年1 月31 日，初步獲得美國(guó)及歐盟的共25 份相關(guān)政策文本。下一步，需要對(duì)政策文本進(jìn)行整理，首先深入了解每一份政策文本的主題，剔除與深度偽造技術(shù)無(wú)關(guān)的文本；其次，對(duì)所有政策文本進(jìn)行掃描和識(shí)讀，把與本研究相關(guān)的政策內(nèi)容匯總成一個(gè)文檔，比如，在《2020 年國(guó)防授權(quán)法案》中，只需抽取其中與深度偽造相關(guān)的兩個(gè)章節(jié)；最后，經(jīng)過(guò)多次檢查與核對(duì)，整理得到21 份政策文本（表1），以及一份66 837 字符的文檔，以此作為本文的研究材料。

表1 美國(guó)與歐盟深度偽造政策文本Table 1 Deepfake policy text in the US and EU

3.2 政策分析框架

本文采取二維分析框架對(duì)深度偽造政策文本進(jìn)行分析，首先以基本政策工具作為X 維度，然后以技術(shù)異化治理的角度作為Y 維度，最后將二者結(jié)合進(jìn)行綜合分析，即研究政策工具在技術(shù)異化治理上的應(yīng)用情況，分析框架如圖1 所示。

圖1 深度偽造技術(shù)政策分析框架Fig.1 An analytical framework for deepfake technology policy

3.2.1 X 維度：基本政策工具

政策工具是政府達(dá)成某種目標(biāo)的一種重要手段，在政府制定政策目標(biāo)時(shí)，政策工具的科學(xué)設(shè)計(jì)與組合是實(shí)現(xiàn)政策目標(biāo)的前提[14]。因此，可通過(guò)分析政策中的政策工具類型及其組合運(yùn)用去研究政策的合理性與科學(xué)性。目前，政策工具在學(xué)界有許多分類，如HOWLETT 等將政策工具分為信息型、經(jīng)濟(jì)型、權(quán)威型和志愿型[15]；PHHAL 等將政策工具劃分為自愿型、強(qiáng)制型、混合型[16]。雖然政策工具分類方式多樣，但在進(jìn)行政策文本分析時(shí)，研究者可依據(jù)具體研究對(duì)象和研究問(wèn)題進(jìn)行合理的選擇。本文借鑒ROTHWELL和ZEGVELD 的劃分，并以此作為政策分析的X 維度，從政策對(duì)技術(shù)影響的角度將政策工具劃分為供給型、環(huán)境型和需求型[17]。

供給型政策工具是指政府通過(guò)提供基礎(chǔ)設(shè)施、技術(shù)扶持、人才培養(yǎng)、宣傳教育、資金投入等手段來(lái)保障深度偽造技術(shù)的可持續(xù)發(fā)展，此階段最重要的是要培養(yǎng)技術(shù)創(chuàng)新者的科技向善理念及人文主義觀念，在技術(shù)開發(fā)之前就有效規(guī)避其不良影響。環(huán)境型政策工具是指政府為技術(shù)創(chuàng)新創(chuàng)造有利條件，如加大對(duì)深度偽造內(nèi)容的監(jiān)督力度、建立技術(shù)使用反饋機(jī)制，本文所涉及的政策工具包括標(biāo)準(zhǔn)規(guī)范、處罰與獎(jiǎng)勵(lì)、法規(guī)管制、鼓勵(lì)創(chuàng)新、機(jī)構(gòu)管制、監(jiān)督機(jī)制、信息安全文化。需求型政策工具主要是用于降低某種技術(shù)的市場(chǎng)風(fēng)險(xiǎn)，從而促進(jìn)該技術(shù)的可持續(xù)發(fā)展，其重點(diǎn)是要給予技術(shù)創(chuàng)新一定的關(guān)注與扶持，盡量降低不良因素對(duì)技術(shù)創(chuàng)新的影響，防止技術(shù)異化。它具體包括服務(wù)外包、科研活動(dòng)、政府補(bǔ)貼、政府采購(gòu)等工具。

3.2.2 Y 維度：技術(shù)異化治理

技術(shù)異化是當(dāng)前新興科技發(fā)展演進(jìn)中出現(xiàn)的一種現(xiàn)象，即在技術(shù)至上和功利主義的主導(dǎo)下，違背 “以人為本” 的科技發(fā)展初衷，違背法律、倫理和人文精神，以獲取非正當(dāng)收益為主要目標(biāo)的一種不利于國(guó)家、社會(huì)、個(gè)人可持續(xù)發(fā)展的現(xiàn)象[18]。當(dāng)前，科學(xué)技術(shù)無(wú)疑是國(guó)家發(fā)展和社會(huì)進(jìn)步的重要基石，因而技術(shù)創(chuàng)新應(yīng)將 “以人為本” 作為出發(fā)點(diǎn)，以社會(huì)的可持續(xù)發(fā)展作為根本目的。然而，由于目前新興技術(shù)層出不窮且使用門檻較低，導(dǎo)致技術(shù)異化現(xiàn)象屢屢發(fā)生。深度偽造技術(shù)便是當(dāng)前人工智能技術(shù)異化的典型代表，若不采取相應(yīng)措施去規(guī)避深度偽造技術(shù)存在的潛在風(fēng)險(xiǎn)，任其自由地發(fā)展下去將會(huì)對(duì)國(guó)家、社會(huì)和個(gè)人造成不可逆轉(zhuǎn)的影響。

為了對(duì)美國(guó)與歐盟的深度偽造政策文本進(jìn)行深入的分析，本文將技術(shù)異化治理作為政策分析的Y 維度，以探究深度偽造技術(shù)治理的情況。根據(jù)技術(shù)異化的原因，可將技術(shù)異化治理從微觀到宏觀分為6 個(gè)角度，即技術(shù)、個(gè)體動(dòng)機(jī)、組織管理、社會(huì)制度、國(guó)家安全和文化觀念[19]，如圖2 所示。

圖2 技術(shù)異化治理的6 個(gè)角度Fig.2 Six perspectives of dealing with technology alienation

具體而言，技術(shù)異化的原因，在技術(shù)層面體現(xiàn)為技術(shù)的應(yīng)用場(chǎng)景和組合方式不相適應(yīng)，以及不斷增長(zhǎng)的新技術(shù)對(duì)社會(huì)的反噬，即新技術(shù)帶來(lái)的不良影響。在個(gè)體動(dòng)機(jī)上體現(xiàn)為技術(shù)創(chuàng)造者的動(dòng)機(jī)異化，即堅(jiān)持技術(shù)至上和功利主義價(jià)值觀[20]；以及技術(shù)使用者的理念異化，即沒有正確的技術(shù)防控理念。在組織管理的層面表現(xiàn)為技術(shù)創(chuàng)新過(guò)程中缺乏倫理審查機(jī)制，即未考慮新技術(shù)可能造成的倫理問(wèn)題；以及企業(yè)管理者存在 “使命漂移” 現(xiàn)象[21]，即沒有形成規(guī)范的、閉合的管理體系。在社會(huì)制度層面表現(xiàn)為缺乏針對(duì)技術(shù)異化的監(jiān)督和反饋機(jī)制，使得技術(shù)異化的現(xiàn)象愈加嚴(yán)重。在國(guó)家安全層面，由于技術(shù)創(chuàng)新可以提升國(guó)家的整體競(jìng)爭(zhēng)優(yōu)勢(shì)，因此技術(shù)競(jìng)賽一直存在于國(guó)家之間[22]，并且將愈演愈烈，但是目前沒有統(tǒng)一的國(guó)際協(xié)同治理機(jī)制，這將會(huì)影響人類命運(yùn)共同體的構(gòu)建，最終可能會(huì)導(dǎo)致技術(shù)異化在全球范圍內(nèi)發(fā)生，進(jìn)而造成不可估計(jì)的負(fù)面影響。最后，從更加宏觀的層面來(lái)看，技術(shù)異化的產(chǎn)生與技術(shù)文化觀念的教育缺失密不可分，主要原因是在技術(shù)創(chuàng)新過(guò)程中，社會(huì)和國(guó)家缺乏技術(shù)倫理、科技向善、人文主義等理念的教育。綜上所述，技術(shù)異化產(chǎn)生的原因錯(cuò)綜復(fù)雜，所以其治理也需要從原因的角度展開，而政策制定是國(guó)家重要的治理手段之一，因此本文將技術(shù)異化治理角度與政策工具結(jié)合進(jìn)行文本分析，以探究深度偽造政策是否合理、規(guī)范。

4 國(guó)外深度偽造政策文本分析

本文采取Nvivo12 軟件作為政策分析工具，首先對(duì)政策文本進(jìn)行逐一閱讀，了解大致內(nèi)容；其次，利用Nvivo12 軟件完成政策工具的編碼，根據(jù)選定的政策工具類型對(duì)政策條款逐一進(jìn)行編碼；最后，對(duì)編碼結(jié)果進(jìn)行分析，并得出結(jié)論。

4.1 政策主題分析

在對(duì)內(nèi)容進(jìn)行分析之前，筆者利用Nvivo12Plus 軟件分別對(duì)美國(guó)及歐盟的深度偽造政策主題進(jìn)行了統(tǒng)計(jì)分析，經(jīng)過(guò)停用詞、詞長(zhǎng)度、顯示字詞等詞頻條件的設(shè)置，最終得到如圖3 所示的詞語(yǔ)云。字體越大表示該詞在政策中出現(xiàn)的頻次越高，由圖3 看出，美國(guó)與歐盟的深度偽造政策側(cè)重點(diǎn)有所不同，美國(guó)最為突出的3 個(gè)詞是 “individual” “person” “act”，表明其較為關(guān)注技術(shù)對(duì)個(gè)人信息所造成的威脅，嚴(yán)格治理危害個(gè)人安全的深度偽造內(nèi)容，從源頭上杜絕深度偽造技術(shù)對(duì)個(gè)人隱私的侵犯。歐盟最為突出的3 個(gè)詞是 “ict”“data” “cybersecurity”，說(shuō)明歐盟通過(guò)對(duì)通信技術(shù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全的治理，進(jìn)而間接治理深度偽造技術(shù)，原因是深度偽造內(nèi)容依賴于各種通信技術(shù)進(jìn)行傳播，并對(duì)數(shù)據(jù)安全與網(wǎng)絡(luò)安全造成影響。

圖3 深度偽造政策詞語(yǔ)云Fig.3 Word cloud for deepfake policies

4.2 X 維度分析

采用Nvivo12 軟件中的編碼功能對(duì)21 份政策文本進(jìn)行編碼，首先由兩位成員進(jìn)行逐一編碼，然后再由第三人對(duì)兩份編碼結(jié)果進(jìn)行逐一校對(duì)，進(jìn)行兩輪編碼之后最終得到236 個(gè)編碼點(diǎn)，編碼示例如表2 所示。這些編碼點(diǎn)在政策工具上的分布如表3 所示。

表2 深度偽造政策編碼示例Table 2 Coding example of deepfake policy

由表3 可知，供給型政策工具共有36 個(gè)參考點(diǎn)，文字覆蓋率為2.47%。其中，技術(shù)扶持和宣傳教育是使用較多的政策工具，技術(shù)扶持體現(xiàn)為政府明文指出要研究和開發(fā)可以對(duì)抗并打擊深度偽造的技術(shù)，而且政府要為研究此類技術(shù)的機(jī)構(gòu)提供支持。比如美國(guó)加利福利亞州在《犯罪：欺騙性記錄》法案中提出資助加州大學(xué)2 500 萬(wàn)美元用于研究新技術(shù)，以識(shí)別和打擊Deepfake 技術(shù)的不當(dāng)使用。而宣傳教育政策工具主要體現(xiàn)為政府為培養(yǎng)公眾辨別數(shù)字內(nèi)容真實(shí)性的能力所制定的相關(guān)措施，在很大程度上，公民數(shù)字能力的培養(yǎng)可以從技術(shù)使用者層面上減少深度偽造技術(shù)的異化現(xiàn)象。因而，宣傳教育也是促進(jìn)深度偽造技術(shù)持續(xù)性發(fā)展的重要政策工具之一。

表3 基于Nvivo12 的政策工具編碼統(tǒng)計(jì)表Table 3 Statistical table of policy tool coding based on Nvivo12

環(huán)境型政策工具共有177 個(gè)參考點(diǎn)，文字覆蓋率為20.31%，是使用最多的政策工具類型。其中，法規(guī)管制工具使用最多，主要原因是美國(guó)與歐盟對(duì)深度偽造制定的政策多為法案，因此其中的法規(guī)管制條款占比較大。比如，美國(guó)的弗吉尼亞州頒布的《非法傳播或出售他人影像》是針對(duì)深度偽造刑事犯罪的刑法，內(nèi)容明確且具有強(qiáng)制性。除法規(guī)管制之外，標(biāo)準(zhǔn)規(guī)范、機(jī)構(gòu)管制與監(jiān)督機(jī)制3 個(gè)是使用較多的政策工具，標(biāo)準(zhǔn)規(guī)范工具用于制定與深度偽造技術(shù)相關(guān)的定義、標(biāo)準(zhǔn)，以明確生活中的哪些行為屬于深度偽造犯罪，幫助執(zhí)法機(jī)關(guān)落實(shí)法律法規(guī)。機(jī)構(gòu)管制工具主要是用于對(duì)相關(guān)機(jī)構(gòu)的合作、技術(shù)開發(fā)、信息共享等活動(dòng)進(jìn)行管理和控制，以形成一個(gè)良好的技術(shù)創(chuàng)新環(huán)境。監(jiān)督機(jī)制是政府治理深度偽造技術(shù)異化的關(guān)鍵手段，主要是因?yàn)樯疃葌卧旒夹g(shù)是否向善往往取決于技術(shù)開發(fā)者和使用者的主觀行為，不能一味地采取強(qiáng)制性手段去打擊深度偽造技術(shù)本身，因而需要監(jiān)督和審查技術(shù)的開發(fā)與使用者，以便能夠及時(shí)發(fā)現(xiàn)技術(shù)異化現(xiàn)象。此外，政府還采用了處罰與獎(jiǎng)勵(lì)工具，以打擊深度偽造犯罪行為，并激勵(lì)個(gè)體和組織的技術(shù)創(chuàng)新行為。

需求型政策工具共有23 個(gè)參考點(diǎn)，文本覆蓋率為1.89%，是最少使用的工具類型。而在23 個(gè)參考點(diǎn)中，科研活動(dòng)工具占據(jù)一半以上，說(shuō)明目前美國(guó)與歐盟政府都致力于研究新技術(shù)來(lái)對(duì)抗深度偽造技術(shù)，比如開發(fā)檢測(cè)視頻、音頻文件或照片的工具，助力司法實(shí)踐中的數(shù)字取證，以識(shí)別和分析數(shù)字證據(jù)的真?zhèn)巍?/p>

4.3 X&Y 維度分析

在X 維度的統(tǒng)計(jì)分析之上，結(jié)合Y 維度，統(tǒng)計(jì)政策工具中分別涉及了技術(shù)異化治理的哪個(gè)角度，統(tǒng)計(jì)結(jié)果如表4 所示。由表4 可知，X 維度在Y 維度各層面上的運(yùn)用差距較大。在技術(shù)層面，政府使用最多的政策工具是標(biāo)準(zhǔn)規(guī)范，主要是用于界定深度偽造技術(shù)的定義、內(nèi)容、使用規(guī)范等，或是界定哪些行為屬于深度偽造犯罪，有助于執(zhí)法部門發(fā)現(xiàn)深度偽造技術(shù)異化現(xiàn)象。

表4 X&Y 維度統(tǒng)計(jì)表Table 4 Statistical table of X&Y dimension

在個(gè)體動(dòng)機(jī)層面，使用最多的政策工具是法規(guī)管制，政府一方面通過(guò)法規(guī)管控技術(shù)創(chuàng)新者的惡意行為；另一方面以條例保護(hù)技術(shù)使用者的隱私權(quán)、訴訟權(quán)等公民權(quán)益不受侵害。此外，科研活動(dòng)工具全部作用于個(gè)人層面，說(shuō)明對(duì)于深度偽造技術(shù)異化的治理，重點(diǎn)需要對(duì)技術(shù)創(chuàng)新者的科研行為進(jìn)行積極引導(dǎo)。在組織管理層面，政府運(yùn)用最多的政策工具是機(jī)構(gòu)管制，通過(guò)對(duì)深度偽造技術(shù)相關(guān)機(jī)構(gòu)進(jìn)行依法管理，以促進(jìn)機(jī)構(gòu)間的相互協(xié)同合作，實(shí)現(xiàn)對(duì)深度偽造技術(shù)異化的多元協(xié)同治理。在社會(huì)制度層面，使用最多的政策工具是監(jiān)督機(jī)制，該工具一方面可以及時(shí)發(fā)現(xiàn)社會(huì)中的深度偽造技術(shù)異化現(xiàn)象，以便對(duì)其進(jìn)行針對(duì)性治理；另一方面還可以在社會(huì)中形成良好的監(jiān)督響應(yīng)機(jī)制，以對(duì)個(gè)體和組織的行為進(jìn)行全方位監(jiān)管。在國(guó)家安全層面，使用最多的政策工具是機(jī)構(gòu)管制與監(jiān)督機(jī)制，二者共同作用使國(guó)家的整體安全不受侵害。機(jī)構(gòu)管制主要是對(duì)跨國(guó)機(jī)構(gòu)及他國(guó)在本國(guó)的機(jī)構(gòu)進(jìn)行管控，預(yù)防其利用深度偽造技術(shù)散布不利于國(guó)家安全的虛假信息；而監(jiān)督機(jī)制主要是對(duì)其他國(guó)家的深度偽造技術(shù)發(fā)展情況進(jìn)行監(jiān)督，防止本國(guó)在國(guó)際技術(shù)競(jìng)賽上落后于他國(guó)。在文化觀念層面，運(yùn)用較多的政策工具是宣傳教育與信息安全文化，二者本質(zhì)都是通過(guò)教育手段來(lái)加強(qiáng)人們的技術(shù)道德素養(yǎng)，潛移默化地影響人們的動(dòng)機(jī)，實(shí)現(xiàn)“潤(rùn)物細(xì)無(wú)聲” 的技術(shù)異化治理。

5 國(guó)外深度偽造政策分析結(jié)論與啟示

5.1 美國(guó)與歐盟深度偽造政策分析結(jié)論

通過(guò)分析21 份深度偽造政策文本內(nèi)容，筆者發(fā)現(xiàn)美國(guó)、歐盟的深度偽造政策在內(nèi)容具有一定的特色和側(cè)重點(diǎn)，但總體上都是在其現(xiàn)有制度的基礎(chǔ)上增加對(duì)深度偽造技術(shù)異化現(xiàn)象的治理，以加強(qiáng)新政策與舊政策的相互促進(jìn)和融合。

（1）深度偽造政策以環(huán)境型政策為主。由表3 可知，深度偽造政策文本中環(huán)境型政策工具共有177 個(gè)參考點(diǎn)，占全部編碼參考點(diǎn)的75%，由此可知，深度偽造政策以環(huán)境型政策為主。環(huán)境型政策工具對(duì)于限制和規(guī)范深度偽造技術(shù)的使用具有顯著作用，例如，美國(guó)國(guó)會(huì)頒布的《深度偽造責(zé)任法案》是全球第一部針對(duì)深度偽造犯罪所制定的法案，其對(duì)深度偽造合成技術(shù)進(jìn)行針對(duì)性打擊，以遏制深度偽造技術(shù)使用者的惡意行為。再如，美國(guó)德克薩斯州政府制定的《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》與弗吉尼亞州政府頒布的《非法傳播或出售他人影像》，這兩部均屬于明確且具有強(qiáng)制性的法案，其中規(guī)定涉嫌制作或傳播深度偽造內(nèi)容的人將罰款5 000 美元或監(jiān)禁兩年半。綜上可知，在當(dāng)前復(fù)雜多變的互聯(lián)網(wǎng)環(huán)境中，為對(duì)深度偽造技術(shù)異化進(jìn)行有效治理，政府不僅需要制定引導(dǎo)性的環(huán)境型政策，還需要設(shè)計(jì)強(qiáng)制且硬性的環(huán)境型政策。

（2）深度偽造政策工具較為關(guān)注對(duì)技術(shù)、個(gè)體和組織的治理。從表4 中可看出，美國(guó)與歐盟的深度偽造政策工具較多運(yùn)用在技術(shù)、個(gè)體和組織上，主要原因在于以下方面：其一，技術(shù)異化大多是新技術(shù)所造成的不良影響，因而最為科學(xué)的治理方式是彌補(bǔ)技術(shù)的缺陷或創(chuàng)造出可與其對(duì)抗的新技術(shù)；其二，個(gè)體作為技術(shù)的使用者，其使用意圖直接決定了技術(shù)的惡與善，因此對(duì)個(gè)體行為進(jìn)行限制和管制是最為有效的治理方式；其三，組織機(jī)構(gòu)在開發(fā)、研制新技術(shù)的過(guò)程中，具有技術(shù)倫理審查和監(jiān)督的義務(wù)和責(zé)任，因此政府需對(duì)組織進(jìn)行嚴(yán)格的管理，從開發(fā)者層面降低技術(shù)異化概率。

（3）深度偽造政策關(guān)注技術(shù)倫理的宣傳與教育。從X&Y 維度的分析中，可以發(fā)現(xiàn)已有政策工具作用于文化觀念層面，主要是通過(guò)宣傳教育使公眾了解并合理使用技術(shù)，最終實(shí)現(xiàn)對(duì)其技術(shù)素養(yǎng)的提升。對(duì)于正在快速發(fā)展的國(guó)家和社會(huì)而言，技術(shù)倫理的宣傳與教育是其技術(shù)市場(chǎng)穩(wěn)定發(fā)展的 “助推器”，一方面，技術(shù)倫理可引導(dǎo)技術(shù)主體在技術(shù)的設(shè)計(jì)、生產(chǎn)、使用等過(guò)程中充分考慮技術(shù)活動(dòng)的附隨后果，從而做出合乎倫理的選擇；另一方面，當(dāng)技術(shù)主體充分遵循技術(shù)倫理時(shí)，不僅會(huì)促進(jìn)技術(shù)的創(chuàng)新發(fā)展，還會(huì)對(duì)國(guó)家和社會(huì)的發(fā)展帶來(lái)正向的牽引。因此，在對(duì)深度偽造技術(shù)異化進(jìn)行治理時(shí)，政府應(yīng)當(dāng)考慮如何進(jìn)行技術(shù)倫理的宣傳與教育，這樣才能從源頭上減少技術(shù)異化現(xiàn)象的發(fā)生。

5.2 中國(guó)深度偽造異化治理政策啟示

在前文的政策結(jié)論基礎(chǔ)之上，結(jié)合深度偽造技術(shù)在中國(guó)的應(yīng)用以及技術(shù)異化治理的必要性，筆者得出以下政策啟示。

（1）制定深度偽造技術(shù)異化治理方案。在復(fù)雜的網(wǎng)絡(luò)環(huán)境中，為應(yīng)對(duì)突發(fā)的深度偽造違法現(xiàn)象，政府應(yīng)當(dāng)制定技術(shù)異化治理方案：其一，針對(duì)深度偽造內(nèi)容的惡意制作和傳播行為制定相關(guān)法規(guī)管制及懲罰政策，目前中國(guó)的深度偽造惡意行為一般體現(xiàn)為未經(jīng)他人同意的AI 換臉、語(yǔ)音合成等行為，在一定程度上是對(duì)個(gè)人隱私權(quán)的侵犯，因此相關(guān)機(jī)構(gòu)應(yīng)當(dāng)給予重視；其二，建立健全社會(huì)監(jiān)督和反饋機(jī)制，運(yùn)用監(jiān)督機(jī)制政策工具加強(qiáng)社會(huì)中的深度偽造技術(shù)異化監(jiān)督與反饋；其三，制定深度偽造技術(shù)標(biāo)準(zhǔn)體系，國(guó)家立法機(jī)關(guān)應(yīng)與國(guó)標(biāo)委合作制定深度偽造技術(shù)標(biāo)準(zhǔn)規(guī)范，對(duì)技術(shù)的開發(fā)與使用進(jìn)行嚴(yán)格界定，以促進(jìn)共同利益的實(shí)現(xiàn)。

（2）促進(jìn)政府主導(dǎo)的深度偽造技術(shù)創(chuàng)新實(shí)踐。由政府主導(dǎo)的技術(shù)創(chuàng)新實(shí)踐不僅可以降低技術(shù)倫理帶來(lái)的負(fù)面影響，還可以推動(dòng)技術(shù)的創(chuàng)新創(chuàng)造。政府可利用技術(shù)扶持、鼓勵(lì)創(chuàng)新、人才培養(yǎng)、科研活動(dòng)等政策工具的組合實(shí)現(xiàn)上述目標(biāo)。其中，科研活動(dòng)政策強(qiáng)調(diào)政府與高校/ 科研機(jī)構(gòu)的合作，主要形式是由政府出資、高校/科研機(jī)構(gòu)負(fù)責(zé)技術(shù)研發(fā)。除此之外，政府可鼓勵(lì)企業(yè)進(jìn)行技術(shù)創(chuàng)新，并給予一定的政策支持，如技術(shù)扶持與稅收優(yōu)惠政策。

（3）實(shí)現(xiàn)技術(shù)倫理與政策工具的結(jié)合。當(dāng)今人們生活在極為復(fù)雜的信息環(huán)境中，新興技術(shù)帶來(lái)了潛在風(fēng)險(xiǎn)、不確定以及多元價(jià)值選擇等問(wèn)題，因而技術(shù)倫理與政策的結(jié)合愈發(fā)變得迫切。技術(shù)倫理與政策工具結(jié)合指政府將技術(shù)發(fā)展的倫理考量納入政策制定過(guò)程，通過(guò)一系列規(guī)約手段和規(guī)約機(jī)制更好地在實(shí)踐中貫徹技術(shù)倫理要求，從而使技術(shù)發(fā)展更加符合倫理價(jià)值、滿足社會(huì)需求[23]。為實(shí)現(xiàn)技術(shù)價(jià)值的最大化，政策應(yīng)當(dāng)嵌入深度偽造技術(shù)的設(shè)計(jì)、試驗(yàn)、應(yīng)用、推廣階段，實(shí)現(xiàn)以政府為主導(dǎo)、多元主體共同參與的技術(shù)倫理治理機(jī)制，以及前瞻性的制度和規(guī)范建構(gòu)。此外，政府可通過(guò)政策工具作用于輿論和教育，比如進(jìn)行技術(shù)倫理的宣傳教育、培養(yǎng)信息安全文化素養(yǎng)，將深度偽造技術(shù)倫理與社會(huì)價(jià)值相融合。

（4）積極參與國(guó)際深度偽造技術(shù)異化治理。世界局勢(shì)暗流涌動(dòng)，技術(shù)競(jìng)爭(zhēng)一直都是國(guó)家之間的核心競(jìng)爭(zhēng)所在。因此，中國(guó)不僅要關(guān)注國(guó)內(nèi)技術(shù)異化的治理，還要積極參與國(guó)際中的技術(shù)異化治理，具體措施包括以下方面：其一，調(diào)查并評(píng)估其他國(guó)家深度偽造技術(shù)進(jìn)展，比如美國(guó)深度偽造政策中就提出 “對(duì)中國(guó)和俄羅斯使用深度偽造技術(shù)的情況進(jìn)行評(píng)估”，由此看出，在維護(hù)國(guó)家安全同時(shí)也必須未雨綢繆，以保持本國(guó)利益的最大化；其二，參與國(guó)際協(xié)同治理機(jī)制建構(gòu)，國(guó)際協(xié)同治理是一種國(guó)際組織通過(guò) “中間人”，利用軟性約束開展間接治理的方式[24]，這種方式有助于實(shí)現(xiàn)全球技術(shù)異化治理。雖然國(guó)際協(xié)同治理由于種種原因很難實(shí)現(xiàn)，但中國(guó)作為世界大國(guó)之一應(yīng)當(dāng)主動(dòng)開展多層次、多方位的國(guó)際合作，加深與國(guó)際組織的互動(dòng)，適當(dāng)調(diào)整原則并表達(dá)自身訴求，建立國(guó)際協(xié)同治理機(jī)制。

6 結(jié)語(yǔ)

近年來(lái)，人工智能技術(shù)的飛速發(fā)展對(duì)社會(huì)造成了巨大而深遠(yuǎn)的影響，有人認(rèn)為應(yīng)該充分發(fā)揮技術(shù)的潛能來(lái)造福社會(huì)；但也有人極力抵觸新興技術(shù)的廣泛使用，認(rèn)為應(yīng)該加以監(jiān)管和限制。兩種立場(chǎng)均言之有理，但為了避免技術(shù)異化對(duì)個(gè)人、社會(huì)和國(guó)家?guī)?lái)的潛在威脅，確保技術(shù)向善，政府應(yīng)當(dāng)提出強(qiáng)有力的舉措來(lái)治理技術(shù)異化。本文聚焦于深度偽造技術(shù)的政策分析，通過(guò)收集、梳理、分析美國(guó)與歐盟的深度偽造政策文本內(nèi)容，對(duì)政策文本中的政策工具及其所涉及的技術(shù)異化治理維度進(jìn)行量化分析，從而結(jié)合中國(guó)國(guó)情提出關(guān)于深度偽造技術(shù)異化治理的政策建議。研究中還存在不足，如政策文本分析的樣本是以美國(guó)和歐盟為例，因此在樣本選擇上存在一定的局限性，在進(jìn)一步研究中，可擴(kuò)大樣本的選取范圍，以增加政策分析的可信度。