摘? ?要：深度偽造威脅具有脫實(shí)向虛的特點(diǎn)，但是治理又具有由虛向?qū)嵉奶攸c(diǎn)，若治理稍有不當(dāng)，其危害難以估量。文章從深度偽造的主體和場(chǎng)景進(jìn)行了深度偽造的威脅分析，結(jié)合網(wǎng)絡(luò)空間特性，文章從深度偽造的威脅流程、生態(tài)等視角，探討了深度偽造的治理路徑，并基于深度偽造研究的現(xiàn)狀，提出了治理的原則和治理策略。

關(guān)鍵詞：深度偽造;治理框架;治理策略;網(wǎng)絡(luò)空間

中圖分類(lèi)號(hào)： TP274+.2? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：B

Abstract： The threat of deepfake has the characteristics of deviating from reality to reality， and its governance must be from reality to reality. The governance is slightly improper and the harm is difficult to estimate. The threat analysis of deepfake was carried out from the subject and scene of deepfake. Based on the characteristics of cyberspace， the governance path of deepfake was explored from the perspective of the threat process and ecology of deepfake. Principles and governance strategies.

Key words： deepfake; governance framework; governance strategy; cyberspace

1 引言

深度偽造是“深度學(xué)習(xí)”和“偽造”的結(jié)合，是數(shù)字化處理、從未真正發(fā)生的超現(xiàn)實(shí)信息，這些信息內(nèi)容可以是文字、圖片及音視頻等。由于深度偽造利用深度學(xué)習(xí)算法，實(shí)現(xiàn)對(duì)現(xiàn)實(shí)世界的高度模擬和偽造，極具“規(guī)模性”和“欺詐性”，對(duì)網(wǎng)絡(luò)空間安全和數(shù)據(jù)污染治理帶來(lái)了嚴(yán)重挑戰(zhàn)。深度偽造起始于2017年Reddit用戶(hù)發(fā)布的Deepfake視頻[1]。因這些視頻涉及娛樂(lè)和公眾難以分辨真假的明星私生活，在社交媒體上迅速傳播，隨后深度偽造在各個(gè)社交媒體、新聞[2]等行業(yè)發(fā)展迅速。深度偽造可以干預(yù)選舉、顛覆他國(guó)政權(quán)，威脅國(guó)家安全;煽動(dòng)操縱社會(huì)輿論，威脅社會(huì)安全;操作股票金融、實(shí)施詐騙，威脅金融安全;盜用公民個(gè)人信息，威脅公民個(gè)人信息安全，污染網(wǎng)絡(luò)空間威脅數(shù)據(jù)污染治理等[3～7]。深度偽造已成為人工智能時(shí)代不可回避的網(wǎng)絡(luò)空間安全問(wèn)題。

當(dāng)前，世界各國(guó)已經(jīng)開(kāi)始研究防御深度偽造威脅的對(duì)策。美國(guó)是深度偽造的先行地，無(wú)論是社交媒體、新聞、還是民主政治，美國(guó)都最先觸及了深度偽造的威脅。歸納起來(lái)，美國(guó)對(duì)策主要集中在技術(shù)和立法層面。在技術(shù)層面，主張通過(guò)自動(dòng)檢測(cè)技術(shù)（如基于深度學(xué)習(xí)的自動(dòng)檢測(cè)）或新技術(shù)（如基于區(qū)塊鏈的驗(yàn)證系統(tǒng)）的方法檢測(cè)、防御深度偽造[5，8，9]。其中，最有成效和代表性的是加州大學(xué)河濱分校研究人員提出的一種基于神經(jīng)網(wǎng)絡(luò)的混合LSTM和編解碼網(wǎng)絡(luò)的自動(dòng)檢測(cè)算法[10]，該算法由遞歸神經(jīng)網(wǎng)絡(luò)和編碼過(guò)濾器兩部分組成。遞歸神經(jīng)網(wǎng)絡(luò)是將深度偽造圖像分成小塊去找偽造痕跡，編碼過(guò)濾器能夠使算法在更大、更全面的層次上考慮整個(gè)圖像的情況。該算法稱(chēng)其準(zhǔn)確率在71%～95%之間。同時(shí)，美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）于2018年6月先后啟動(dòng)了“媒體取證”和“語(yǔ)義取證”項(xiàng)目[11]，分別從媒體傳播路徑溯源和真?zhèn)涡畔⒉町悓?duì)比中自動(dòng)甄別信息的真?zhèn)巍?/p>

在立法層面，美國(guó)試圖以加強(qiáng)立法來(lái)應(yīng)對(duì)深度偽造的威脅，截止2019年年底，美國(guó)已公布了《禁止惡意深度偽造法案》《2019年深度偽造責(zé)任法案》《2019年深度偽造報(bào)告法案》和《德克薩斯州關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》等法案。這些法案意圖從根源上阻止深度偽造技術(shù)的不當(dāng)利用。2019年5月，我國(guó)中央網(wǎng)信辦發(fā)布了《數(shù)據(jù)安全管理辦法（征求意見(jiàn)稿）》，其中規(guī)定對(duì)網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成新聞、博文、帖子、評(píng)論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣，不得以謀取利益或損害他人利益為目的自動(dòng)合成信息。2019年11月，中央網(wǎng)信辦聯(lián)合文化和旅游部、國(guó)家廣播電視總局印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，要求應(yīng)明確標(biāo)識(shí)由深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)生成的音視頻，不得利用相關(guān)技術(shù)制作、發(fā)布、傳播虛假信息，并建立健全辟謠機(jī)制，標(biāo)志著我國(guó)相關(guān)決策者已經(jīng)意識(shí)到深度造假的威脅，并采取措施積極應(yīng)對(duì)。

由于網(wǎng)絡(luò)空間的特殊性和網(wǎng)絡(luò)武器的重要性，以美國(guó)為首的國(guó)家尤其重視深度偽造所帶來(lái)的安全問(wèn)題。與此同時(shí)，美國(guó)還成立了一個(gè)專(zhuān)家小組，主要針對(duì)其它國(guó)家如何利用人工智能、量子計(jì)算等新興技術(shù)的科技霸權(quán)，打造網(wǎng)絡(luò)攻擊的武器[12]。美國(guó)布魯金斯學(xué)會(huì)發(fā)布報(bào)告指出，未來(lái)十年內(nèi)將出現(xiàn)自動(dòng)檢測(cè)技術(shù)無(wú)法檢測(cè)的“深度造假霸權(quán)”。這表明對(duì)于深度偽造威脅沒(méi)有100%的準(zhǔn)確檢測(cè)技術(shù)，其面臨的挑戰(zhàn)不容忽視。美國(guó)主導(dǎo)的一貫思維是要始終保持科技領(lǐng)域和軍事領(lǐng)域的霸權(quán)，對(duì)其他任何國(guó)家的科技超越和軍事超越，均不可容忍是不爭(zhēng)的事實(shí)。對(duì)深度偽造給其自身所帶來(lái)的政治、民主安全帶來(lái)了嚴(yán)重的挑戰(zhàn)，無(wú)論是在國(guó)家層面、社會(huì)經(jīng)濟(jì)層面，還是公民個(gè)人信息保護(hù)層面，美國(guó)會(huì)加大自身防護(hù)，同時(shí)也加大對(duì)其他國(guó)家威脅的輸出。毋庸置疑，網(wǎng)絡(luò)空間會(huì)成為各種利益主要的博弈場(chǎng)，而深度偽造將會(huì)是其中博弈的主要工具之一。而應(yīng)對(duì)網(wǎng)絡(luò)空間中深度偽造這種新的利益博取工具威脅，我國(guó)還處于起步階段，相關(guān)研究成果比較少，當(dāng)前最具代表性的是國(guó)內(nèi)學(xué)者龍坤、曹建峰等，他們分別從國(guó)家安全和法律角度對(duì)深度偽造進(jìn)行論述并提出了應(yīng)對(duì)之策[13，14]。本文綜合當(dāng)前國(guó)內(nèi)外深度偽造的治理現(xiàn)狀，試圖對(duì)網(wǎng)絡(luò)空間安全中的深度偽造治理問(wèn)題進(jìn)行系統(tǒng)闡述，以供實(shí)踐參考。

2 深度偽造的威脅分析

深度偽造是基于深度學(xué)習(xí)的技術(shù)，其本身不存在威脅。只是在現(xiàn)實(shí)社會(huì)中基于各種利益的考量和爭(zhēng)奪，被人們惡意使用，從而造成威脅。根據(jù)深度偽造惡意使用的發(fā)出點(diǎn)和利益點(diǎn)的不同，深度偽造的使用主體也不同。同時(shí)，不同深度偽造的使用主體、威脅場(chǎng)景所帶來(lái)的威脅影響程度也不同。

2.1 使用主體

深度偽造發(fā)生在網(wǎng)絡(luò)空間，依賴(lài)網(wǎng)絡(luò)空間而生成和發(fā)展。從深度偽造的使用主體分析，大致可以分為六類(lèi)：

（1）Deepfake愛(ài)好者，不以混淆視聽(tīng)、不當(dāng)使用為目地，純屬個(gè)人業(yè)余愛(ài)好的使用者;

（2）Deepfake工具使用者，如攝影、影視、廣告、宣傳、娛樂(lè)等合法從業(yè)者;

（3）參與政治的使用主體，如對(duì)敵國(guó)實(shí)施網(wǎng)絡(luò)暴力、顛覆、政治的煽動(dòng)者，制造網(wǎng)絡(luò)恐怖以及國(guó)與國(guó)之間的各種敵對(duì)、間諜活動(dòng)等，具有“政治意圖”的使用者;

（4）企業(yè)或組織等市場(chǎng)主體使用者，如不當(dāng)商業(yè)競(jìng)爭(zhēng)、虛假的廣告宣傳、假新聞制造等的使用者;

（5）其他惡意使用者，如欺詐、挑起輿論、謀取非法利益等的使用者;

（6）人工智能、深度學(xué)習(xí)算法等的研究者。

2.2 應(yīng)用場(chǎng)景

深度偽造是利用深度學(xué)習(xí)技術(shù)對(duì)影視明星作品進(jìn)行娛樂(lè)化偽造，引起的明星效應(yīng)而開(kāi)始受到重視。其實(shí)，在這之前偽造已經(jīng)運(yùn)用的非常普遍，如攝影行業(yè)的PS修圖軟件、美顏相機(jī)、短視頻等軟件，由于大多限于正當(dāng)合法用途，而廣為社會(huì)所接受。隨著網(wǎng)絡(luò)空間的發(fā)展、深度學(xué)習(xí)的廣泛應(yīng)用，人與人、人與社會(huì)的逐漸網(wǎng)絡(luò)化、空間多維化，深度偽造成為人類(lèi)社會(huì)中新的利益搏擊場(chǎng)。各種應(yīng)用場(chǎng)景層出，威脅造成的影響也日漸擴(kuò)大，從深度偽造使用最常見(jiàn)的場(chǎng)景分析，深度偽造典型的應(yīng)用場(chǎng)景有七類(lèi)：

（1）傳統(tǒng)場(chǎng)景。如攝影、影視、廣告、VR、娛樂(lè)等合法、正當(dāng)使用場(chǎng)景;

（2）新聞媒體場(chǎng)景。制造深度偽造的新聞媒體，從而達(dá)到獲取非法利益的目的。如制造不在第一現(xiàn)場(chǎng)無(wú)法獲取真相的虛假新聞或?qū)地發(fā)生的具有共性的新聞，真假摻半的用于B地的新聞，進(jìn)行虛假宣傳等場(chǎng)景;

（3）政治參與場(chǎng)景。如政治煽動(dòng)、政權(quán)顛覆、國(guó)家黑客攻擊、網(wǎng)絡(luò)恐怖主義和外國(guó)網(wǎng)絡(luò)間諜等，具有政治意圖的應(yīng)用場(chǎng)景;

（4）社會(huì)金融場(chǎng)景。利用深度偽造進(jìn)行金融、股票交易，以及其他各種市場(chǎng)交易的社會(huì)金融場(chǎng)景;

（5）市場(chǎng)商業(yè)場(chǎng)景。利用深度偽造制作虛假資質(zhì)、證書(shū)、信息資料或侵權(quán)產(chǎn)品等，參與市場(chǎng)商業(yè)的場(chǎng)景;

（6）網(wǎng)絡(luò)社交場(chǎng)景。根據(jù)他人或其他信息，利用深度偽造制作實(shí)際不存在的、逼真的社交人信息進(jìn)行偽裝參與網(wǎng)絡(luò)社交的場(chǎng)景;

（7）創(chuàng)作場(chǎng)景。利用深度偽造技術(shù)進(jìn)行的偽科研、學(xué)術(shù)、論文、著作、藝術(shù)等創(chuàng)作場(chǎng)景。

2.3 威脅分析

從深度偽造的使用主體和場(chǎng)景來(lái)看，不同的主體有不同的應(yīng)用場(chǎng)景，產(chǎn)生不同的威脅影響。

Deepfake愛(ài)好者、Deepfake工具使用者以及人工智能、深度學(xué)習(xí)算法等研究者主要集中在傳統(tǒng)場(chǎng)景中，他們不以使用深度偽造獲取非法利益為目的，是無(wú)威脅的。

企業(yè)或組織等市場(chǎng)主體使用者以及其他惡意使用者，主要集中在新聞媒體、網(wǎng)絡(luò)社交、社會(huì)金融、市場(chǎng)商業(yè)和創(chuàng)作等場(chǎng)景中，他們有明確、非法的市場(chǎng)利益訴求，集中在某些領(lǐng)域或行業(yè)，可以給他人、市場(chǎng)、經(jīng)濟(jì)和社會(huì)等帶來(lái)惡劣影響。如企業(yè)或組織等市場(chǎng)主體使用者，可以在新聞媒體場(chǎng)景中，制造真假難辨的新聞，進(jìn)行虛假宣傳，破壞政治、引起恐慌和騷亂;在社會(huì)金融場(chǎng)景和市場(chǎng)商業(yè)場(chǎng)景中，可以利用深度偽造的假音頻在電話上冒充任何金融相關(guān)人，進(jìn)行金融詐騙。特別是深度偽造在視頻通話中也可以被實(shí)時(shí)偽造，這會(huì)對(duì)現(xiàn)有的互聯(lián)網(wǎng)金融認(rèn)證體系帶來(lái)巨大的安全挑戰(zhàn);此外，還可以在創(chuàng)作場(chǎng)景中，利用深度偽造制造偽學(xué)術(shù)、偽科研、偽論文、偽著作等，這將會(huì)對(duì)現(xiàn)有的科研學(xué)術(shù)評(píng)價(jià)體系帶來(lái)嚴(yán)重沖擊，同時(shí)信息、數(shù)據(jù)污染也將變得更加嚴(yán)重。

參與政治的使用主體主要集中在參與政治場(chǎng)景和新聞媒體場(chǎng)景中，他們有明確的政治意圖，具有比企業(yè)、組織等實(shí)體更強(qiáng)的隊(duì)伍和力量，可進(jìn)行規(guī)?；⒊掷m(xù)性的深度偽造，是當(dāng)前深度偽造威脅中最大的一種威脅。特別是在當(dāng)下的網(wǎng)絡(luò)空間中，深造偽造可以當(dāng)作網(wǎng)絡(luò)空間的武器，用來(lái)干擾選舉并引發(fā)內(nèi)亂。利用深度偽造進(jìn)行政治煽動(dòng)、政權(quán)顛覆、民主破壞、國(guó)家黑客攻擊、網(wǎng)絡(luò)恐怖主義等活動(dòng)，來(lái)破壞特定國(guó)家的安全穩(wěn)定。

綜合威脅分析，深度偽造的威脅可以分為三類(lèi)：無(wú)威脅、局部威脅、國(guó)家威脅。如表1所示。這些威脅的分類(lèi)隨深度偽造的使用主體和使用場(chǎng)景變化而變化。無(wú)威脅可轉(zhuǎn)換為局部威脅，局部威脅可轉(zhuǎn)換為國(guó)家威脅，反之國(guó)家威脅也可以潛伏做些局部威脅或無(wú)威脅的深度偽造。這對(duì)深度偽造威脅的治理來(lái)說(shuō)，是巨大挑戰(zhàn)。

3 深度偽造治理

深度偽造的威脅在網(wǎng)絡(luò)空間中無(wú)處不在，因其適用的主體和場(chǎng)景眾多，其本身從現(xiàn)實(shí)高度“偽造”，又超越“現(xiàn)實(shí)”，極具“欺詐性”和“高風(fēng)險(xiǎn)性”，其治理必定面臨復(fù)雜多變，而又迫在眉睫的形勢(shì)。

3.1 治理原則

網(wǎng)絡(luò)空間是跨地域、世界互聯(lián)的虛擬空間。發(fā)明網(wǎng)絡(luò)的初衷就是為了信息共享和提高效率，是人類(lèi)走向“高效協(xié)同”的標(biāo)志，給社會(huì)生產(chǎn)帶來(lái)了巨大的生產(chǎn)力。網(wǎng)絡(luò)已經(jīng)成為人類(lèi)社會(huì)的重要基礎(chǔ)設(shè)施。但由網(wǎng)絡(luò)構(gòu)筑的網(wǎng)絡(luò)空間不同于現(xiàn)實(shí)物理空間，沒(méi)有物理空間的界線，網(wǎng)絡(luò)空間中的“網(wǎng)民”沒(méi)有物理地域活動(dòng)空間的限制，信息傳播基本“零延時(shí)”。

深度偽造要構(gòu)成威脅，必須借助網(wǎng)絡(luò)，深度偽造的威脅離不開(kāi)網(wǎng)絡(luò)空間。深度偽造借助網(wǎng)絡(luò)空間的“無(wú)界性”和“零延時(shí)”特性，可迅速傳播，從而發(fā)生作用，產(chǎn)生影響。這就決定了在網(wǎng)絡(luò)空間中深度偽造的治理問(wèn)題，不同于物理空間的治理，其治理結(jié)構(gòu)必須全面、有效、迅速響應(yīng)、脫“虛”向“實(shí)”的化解威脅。這就決定了深度偽造治理時(shí)，必須注重三個(gè)原則：

（2）劃定界線、明確權(quán)責(zé)、打造共治共享的網(wǎng)絡(luò)空間環(huán)境

深度偽造威脅的不可預(yù)估性、角色和主體復(fù)雜性，單靠政府單方面治理，力量薄弱。加之深度偽造的高度逼真性、廣泛的連接性和易于傳播等特點(diǎn)，其甄別離不開(kāi)現(xiàn)實(shí)的“真實(shí)性”，即深度偽造最怕“真像”，而“真像”是政府無(wú)法面面俱到的第一時(shí)間獲得。加大公眾對(duì)深度偽造的認(rèn)識(shí)能力、甄別能力、防御能力和網(wǎng)絡(luò)空間權(quán)益保障能力的培訓(xùn)、宣傳，打造共治共享的網(wǎng)絡(luò)空間環(huán)境。特別注重對(duì)跨行業(yè)、跨部門(mén)、跨階層的深度偽造防御，打造無(wú)縫對(duì)接的共治共享。管理上，實(shí)現(xiàn)共同參與、深度參與的深度偽造精細(xì)化治理;技術(shù)上，開(kāi)辟深度偽造防御自動(dòng)化監(jiān)測(cè)新技術(shù)、新模式。深度偽造的治理和防范，要更多的集中于敵對(duì)國(guó)家層面來(lái)考慮，特別是對(duì)域外國(guó)家，開(kāi)展國(guó)際合作的共治共享，要著力打造網(wǎng)絡(luò)空間無(wú)法外之地，共同打擊深度偽造威脅。

深度偽造所涉及的網(wǎng)絡(luò)空間主體角色有：制造者、發(fā)布平臺(tái)、“網(wǎng)民”、監(jiān)管者。這些主體角色在物理空間呈現(xiàn)的主體一般是個(gè)人、企業(yè)實(shí)體、組織和各級(jí)政府。深度偽造主體角色和物理主體關(guān)系復(fù)雜，呈多對(duì)多特點(diǎn)。深度偽造制造者的物理主體可能是個(gè)人、企業(yè)實(shí)體、組織，也可能是各級(jí)政府;深度偽造發(fā)布平臺(tái)的物理主體可能是個(gè)人、企業(yè)實(shí)體、組織、各級(jí)政府等實(shí)體搭建的;“網(wǎng)民”的物理主體是網(wǎng)絡(luò)空間中主體的總和;深度偽造監(jiān)管者的物理主體一般只可能是各級(jí)組織或各級(jí)政府。反之，個(gè)人即可以是深度偽造的制造者、發(fā)布平臺(tái)的搭建者、“網(wǎng)民”，也可能是深度偽造的監(jiān)管者。企業(yè)實(shí)體、組織和各級(jí)政府也可能是深度偽造的制造者、發(fā)布平臺(tái)的搭建者和“網(wǎng)民”。

這種復(fù)雜關(guān)系，決定了在深度偽造治理中劃定權(quán)責(zé)、界線的必要性和關(guān)鍵所在。對(duì)個(gè)人、企業(yè)實(shí)體、組織、各級(jí)政府共同的界線是堅(jiān)守深度偽造使用的合法性和深度偽造義務(wù)的防御性。從深度偽造主體角色的網(wǎng)絡(luò)空間行為界線和深度偽造主體的網(wǎng)絡(luò)空間行為界線，分別明確相應(yīng)的權(quán)責(zé)和約束，特別是明確好監(jiān)管者的權(quán)責(zé)，讓網(wǎng)絡(luò)空間安全共享、自由、平等而又可控，并建立各級(jí)深度偽造事件的應(yīng)對(duì)協(xié)調(diào)機(jī)制，既要分而治之，又要統(tǒng)籌協(xié)調(diào)。

其次，深度偽造更大的威脅是來(lái)自域外國(guó)家、企業(yè)實(shí)體或組織、公民的惡意使用，因此劃定域外國(guó)家、企業(yè)實(shí)體或組織、公民的網(wǎng)絡(luò)空間行為界線，明確權(quán)責(zé)，需要專(zhuān)門(mén)組建應(yīng)對(duì)域外深度偽造威脅的體制。

（3）加強(qiáng)深度偽造檢測(cè)技術(shù)扶持和立項(xiàng)支持，建立防御責(zé)任制

鼓勵(lì)科研院所、人工智能及區(qū)塊鏈技術(shù)企業(yè)成立聯(lián)合公關(guān)小組，提升開(kāi)發(fā)檢測(cè)軟件，改善區(qū)分偽造和真實(shí)信息的技術(shù)能力。首先使國(guó)內(nèi)企業(yè)化深度偽造的檢測(cè)準(zhǔn)確度，達(dá)到國(guó)際領(lǐng)先水平的71%～95%。同時(shí)，國(guó)家及各地地方相關(guān)職能部門(mén)聯(lián)合科研院所、企業(yè)及個(gè)人搭建深度偽造競(jìng)技平臺(tái)，開(kāi)展深度偽造生成及檢測(cè)技術(shù)攻防競(jìng)賽，提升深度偽造檢測(cè)、防御能力，選拔、儲(chǔ)備深度偽造技術(shù)管理的網(wǎng)絡(luò)空間人才。

鼓勵(lì)各級(jí)國(guó)家安全、網(wǎng)絡(luò)安全、公安、維穩(wěn)、輿情及廣電媒體等可能與深度偽造威脅相關(guān)的職能部門(mén)，開(kāi)展各自領(lǐng)域的深度偽造檢測(cè)、防御等項(xiàng)目的立項(xiàng)工作，保障經(jīng)濟(jì)、社會(huì)、政權(quán)和國(guó)家安全。網(wǎng)信部門(mén)統(tǒng)領(lǐng)，加強(qiáng)現(xiàn)有各企事業(yè)機(jī)關(guān)單位的互聯(lián)網(wǎng)信息網(wǎng)絡(luò)平臺(tái)的深度偽造治理，建立各信息網(wǎng)絡(luò)平臺(tái)的深度偽造檢測(cè)、預(yù)防、排查和管理工作機(jī)制，并建立防御深度偽造工作責(zé)任制和責(zé)任清單，確保網(wǎng)絡(luò)空間安全和清爽的網(wǎng)絡(luò)空間環(huán)境。

4 結(jié)束語(yǔ)

深度偽造的威脅表面上看是由人主導(dǎo)的人與機(jī)器的一場(chǎng)戰(zhàn)爭(zhēng)，其本質(zhì)仍是人與人的較量，威脅不可小覷，它給美國(guó)為首的西方國(guó)家?guī)?lái)了政治恐怖?，F(xiàn)階段對(duì)于深度偽造治理，單靠技術(shù)是無(wú)能為力的，這將是未來(lái)網(wǎng)絡(luò)空間安全中需要持續(xù)治理的工作。同時(shí)，深度偽造所帶來(lái)的數(shù)據(jù)污染問(wèn)題也將迫在眉睫，特別是它所涉及到的在文化、藝術(shù)、學(xué)術(shù)等方面的造假治理將是頑疾。本文論述了深度偽造的威脅、治理原則和治理策略，分析了深度偽造的主體角色、威脅流程及生態(tài)治理，并從這些方面入手，以技術(shù)層面，加配套管理層面規(guī)約，從整體宏觀層面對(duì)深度偽造治理問(wèn)題給予了分析，供深度偽造治理實(shí)踐和治理布局參考。

參考文獻(xiàn)

[1] MikaWesterlund. The Emergence of Deepfake Technology： A Review[J].Technology Innovatin Management Review，vol.9，no.11，pp.39-49，Nov.2019.

[2] Aldwairi，M.and Alwahedi. Detecting Fake News in Social Media Networks[J]. Procedia Computer Science.Vol.141， pp.215-222. 2018.

[3] Chesney， Robert and Citron， Danielle Keats. Deep Fakes： A Looming Challenge for Privacy， Democracy， and National Security （July 14， 2018）[R]. 107 California Law Review 1753 （2019）; U of Texas Law， Public Law Research Paper No. 692; U of Maryland Legal Studies Research Paper No. 2018-21. Available at SSRN： https：//ssrn.com/abstract=3213954.

[4] J.Johnson. The AI-cyber nexus： implications for military escalation， deterrence and strategic stability[J]. Journal of Cyber Policy，pp.442-460，Dec.2019.

[5] Kevin M. Peters. 21ST CENTURY CRIME： HOW MALICIOUS ARTIFICIAL INTELLIGENCE WILL IMPACT HOMELAND SECURITY[D].AVAL POSTGRADUATE SCHOOL，MONTEREY，2019.

[6] H.Lin. The existential threat from cyber-enabled information warfare[J]. Bulletin of the Atomic Scientists. pp.187-196，Jun.2019.

[7] M.Albahar， J.Almalki. DEEPFAKES： THREATS AND COUNTERMEASURES SYSTEMATIC REVIEW[J]. Journal of Theoretical and Applied Information Technology. Vol.97. No 22.pp：3242-3250.

[8] Gardiner.Facial re-enactment， speech synthesis and the rise of the Deepfake[P/OL]. https：//ro.ecu.edu.au/theses_hons/1530， Nov.2019.

[9] P.Korshunov and S.Marcel. Vulnerability assessment and detection of Deepfake videos[C]. IAPR International Conference on Biometrics， 2019.

[10] Y.Wu， W.A.A， and P.Natarajan. ManTra-Net： Manipulation Tracing Network For Detection And Localization of Image Forgeries With Anomalous Features[C]. The IEEE Conference on Computer Vision and Pattern Recognition （CVPR）， pp. 9543-9552， 2019.

[11] Kelley M. Sayler and Laurie A. Harris. Deep Fakes and National Security[R]. Congressinal Research Service.Oct.2019

[12] Katyanna Quach. Deepfakes， quantum computing cracking codes， ransomware... Find out what's really freaking out Uncle Sam[EB/OL].Oct.2019. https：//www.theregister.co.uk/2019/10/23/homeland_security_ai/

[13] 龍坤，馬鉞，朱啟超.深度偽造對(duì)國(guó)家安全的挑戰(zhàn)及應(yīng)對(duì)[J].信息安全與通信保密，2019（10）：21-34.

[14] 曹建峰.深度偽造技術(shù)的法律挑戰(zhàn)及應(yīng)對(duì)[J].信息安全與通信保密，2019（10）：35-40.

[15] 齊云菲，白利芳，唐剛，朱信銘.網(wǎng)絡(luò)空間測(cè)繪概念理解與分析[J].網(wǎng)絡(luò)空間安全，2018，9（10）：45-49.

[16] 高春東，郭啟全，江東，王振波，方創(chuàng)琳，郝蒙蒙.網(wǎng)絡(luò)空間地理學(xué)的理論基礎(chǔ)與技術(shù)路徑[J].地理學(xué)報(bào)， 2019，74（09）：1709-1722.

作者簡(jiǎn)介：

張樺（1985-），男，漢族，湖北巴東人，廣東工業(yè)大學(xué)，碩士，中共廣州市委黨校，高級(jí)信息系統(tǒng)項(xiàng)目管理師;主要研究方向和關(guān)注領(lǐng)域：新一代信息技術(shù)、網(wǎng)絡(luò)空間安全。

（本文為“2020年429首都網(wǎng)絡(luò)安全日”活動(dòng)征文）