■ 賽迪智庫(kù)網(wǎng)絡(luò)安全研究所 魏書音 劉玉琢

一、深度偽造技術(shù)特征

深度偽造是一種基于人工智能的人體圖像合成技術(shù)。深度偽造技術(shù)的興起是人工智能發(fā)展到一定階段的產(chǎn)物，源于人工智能系統(tǒng)生成對(duì)抗網(wǎng)絡(luò)（GAN）的進(jìn)步。GAN由生成器和識(shí)別器兩個(gè)相互競(jìng)爭(zhēng)的系統(tǒng)組成。建立GAN的第一步是識(shí)別所需的輸出，并為生成器創(chuàng)建一個(gè)培訓(xùn)數(shù)據(jù)集。一旦生成器開始創(chuàng)建可接受的輸出內(nèi)容，就可以將視頻剪輯提供給識(shí)別器進(jìn)行鑒別；如果鑒別出視頻是假的，就會(huì)告訴生成器在創(chuàng)建下一個(gè)視頻時(shí)需要修正的地方。根據(jù)每次的“對(duì)抗”結(jié)果，生成器會(huì)調(diào)整其制作時(shí)使用到的參數(shù)，直到鑒別器無(wú)法辨別生成作品和真跡，以此將現(xiàn)有圖像和視頻組合并疊加到源圖像上生成深度偽造視頻。

深度偽造視頻難以鑒別。目前還沒有鑒別深度偽造視頻的商業(yè)工具。隨著生成器越來(lái)越擅長(zhǎng)創(chuàng)建假視頻剪輯，鑒別器也越來(lái)越擅長(zhǎng)識(shí)別它們。相反，隨著鑒別器在識(shí)別假視頻方面做得越來(lái)越好，生成器在創(chuàng)建假視頻方面也做得越來(lái)越好。理論上，只要給GAN當(dāng)前掌握的所有鑒證技術(shù)，它就能通過(guò)學(xué)習(xí)進(jìn)行自我進(jìn)化，規(guī)避鑒證監(jiān)測(cè)。攻擊會(huì)被防御反擊，反過(guò)來(lái)又被更復(fù)雜的攻擊所抵消。鑒別技術(shù)只可能暫時(shí)領(lǐng)先，深度偽造視頻創(chuàng)造者很快就能趕上最新的檢測(cè)技術(shù)。未來(lái)，生成假視頻和檢測(cè)假視頻將持續(xù)進(jìn)行“道高一尺、魔高一丈”的反復(fù)博弈。

深度偽造軟件價(jià)廉且易操作，廣受用戶歡迎。在深度偽造出現(xiàn)前，視頻換臉技術(shù)最早應(yīng)用于電影領(lǐng)域，需要相對(duì)較高的技術(shù)和資金。2017年以來(lái)，該技術(shù)在“GitHub”的開源軟件涌現(xiàn)，開發(fā)技術(shù)很容易被獲取，能被不具備專業(yè)知識(shí)的普通人利用并輕易制作。制造視頻并不需要很高的技巧，機(jī)器學(xué)習(xí)算法與面部映射軟件相結(jié)合，偽造內(nèi)容來(lái)劫持一個(gè)人的聲音、面孔和身體等身份信息變得廉價(jià)而容易，普通大眾一鍵便可制造想要的視頻。

二、深度偽造技術(shù)濫用帶來(lái)的安全風(fēng)險(xiǎn)

威脅國(guó)家安全和政治安全。深度偽造技術(shù)被運(yùn)用在政治領(lǐng)域，可成為損毀國(guó)家形象、挑撥內(nèi)部矛盾的武器。一是通過(guò)偽造國(guó)家領(lǐng)導(dǎo)人的圖片、視頻，詆毀國(guó)家形象、制造內(nèi)部矛盾。二是通過(guò)攔截篡改相關(guān)事件的新聞報(bào)道，傳播虛假信息，削弱對(duì)國(guó)家機(jī)構(gòu)和官方新聞媒體的公信力，擾亂政治秩序。三是深度偽造技術(shù)已經(jīng)濫用于情報(bào)工作。此外，還可能影響選舉活動(dòng)，比如在選舉前故意傳播虛假信息，誹謗選舉人，進(jìn)而影響選舉的公正性。

侵犯?jìng)€(gè)人肖像權(quán)、名譽(yù)權(quán)等合法權(quán)益。深度偽造技術(shù)最初被應(yīng)用于色情行業(yè)。2019年出現(xiàn)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動(dòng)生成相應(yīng)的裸照。受害者通常沒有追索權(quán)，而且照片上傳之后很難刪除。這一技術(shù)會(huì)損害當(dāng)事人聲譽(yù)，甚至毀掉其職業(yè)生涯。對(duì)此，美國(guó)弗吉尼亞州擴(kuò)大了《色情報(bào)復(fù)法》調(diào)整，已將利用深度偽造、photoshop 或其他工具制作的虛假照片、視頻納入管理范疇。

帶來(lái)個(gè)人信息安全風(fēng)險(xiǎn)。深度偽造軟件收集的用戶照片，以及眨眼、搖頭等動(dòng)態(tài)行為信息，都是用戶不可更改的敏感信息，一旦被非法使用，后果不堪設(shè)想。同時(shí)，被用作生物識(shí)別身份的語(yǔ)音也非常容易被模仿者欺騙。

三、幾點(diǎn)思考

開展深度偽造技術(shù)安全風(fēng)險(xiǎn)評(píng)估。美國(guó)高度重視深度偽造技術(shù)的應(yīng)用問(wèn)題，兩黨議員分別在眾、參兩院同時(shí)提出《2019年深度偽造報(bào)告法案》（Deepfakes Report Act of 2019），要求評(píng)估深度偽造技術(shù)的安全風(fēng)險(xiǎn)。2019年6月13日，美國(guó)眾議院情報(bào)委員會(huì)為此專門召開聽證會(huì)，公開討論深度偽造技術(shù)給國(guó)家、社會(huì)和個(gè)人帶來(lái)的風(fēng)險(xiǎn)及防范措施。我國(guó)也應(yīng)將深度偽造技術(shù)納入新技術(shù)新應(yīng)用的安全風(fēng)險(xiǎn)評(píng)估中，充分評(píng)估該技術(shù)目前的發(fā)展?fàn)顩r、適用領(lǐng)域和范圍，未來(lái)發(fā)展方向和應(yīng)用趨勢(shì)，以及對(duì)國(guó)家安全和政治安全的影響、對(duì)公民個(gè)人權(quán)益的損害等。

制定與深度偽造技術(shù)有關(guān)的規(guī)范標(biāo)準(zhǔn)。近年來(lái)，美國(guó)陸續(xù)出臺(tái)《2018年惡意偽造禁令法案》和《深度偽造責(zé)任法案》，主張對(duì)深度偽造技術(shù)進(jìn)行嚴(yán)格限制。建議我國(guó)相關(guān)部門盡快制修訂相關(guān)技術(shù)標(biāo)準(zhǔn)，明確深度偽造技術(shù)的適用范圍，涉及國(guó)家安全、公共利益和公民合法權(quán)益的，要對(duì)其適用性進(jìn)行明確限制，尤其是對(duì)深度偽造視頻的傳播應(yīng)嚴(yán)格限制，如傳播需用水印等進(jìn)行標(biāo)明。將偽造視頻納入違法和不良信息規(guī)制范圍，嚴(yán)禁違法有害信息的傳播；對(duì)深度偽造軟件收集使用信息的行為進(jìn)行評(píng)估，加強(qiáng)對(duì)人臉等生物識(shí)別信息的保護(hù)；明確互聯(lián)網(wǎng)平臺(tái)和偽造視頻者的責(zé)任，督促互聯(lián)網(wǎng)平臺(tái)利用自身技術(shù)優(yōu)勢(shì)，加強(qiáng)對(duì)違規(guī)違法行為的管理。

強(qiáng)化對(duì)深度偽造鑒別技術(shù)的研發(fā)。美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）設(shè)立“媒體鑒證”項(xiàng)目，開發(fā)能夠識(shí)別深度偽造視頻的工具。我國(guó)相關(guān)部門在加強(qiáng)管理的同時(shí)，應(yīng)大力促進(jìn)第三方檢測(cè)機(jī)構(gòu)開展深度偽造監(jiān)測(cè)鑒別業(yè)務(wù)，鼓勵(lì)企業(yè)加大對(duì)鑒別技術(shù)研發(fā)的投入；利用區(qū)塊鏈、電子認(rèn)證簽名等技術(shù)，開發(fā)相關(guān)鑒別工具。