張 璐，季昊龍，江 寧，張國杰

（山東警察學院 偵查系 刑事科學技術系，山東 濟南 250200）

一、深度偽造技術介紹

近些年，人工智能技術發(fā)展迅速，深度偽造技術便是其中重要的研究成果之一。深度偽造技術包括人臉合成、視頻偽造、音頻模擬、文本仿造等多模態(tài)的欺騙技術，生成并不存在的或者張冠李戴的音視頻合成品。深度偽造技術在各行各業(yè)應用廣泛。一方面可以為工作提供技術支持，例如在影視娛樂領域，可以通過視頻與音頻偽造，實現(xiàn)比替身演員更加真實的效果。在服務業(yè)，可以借由人臉生成技術增強人機交互感受，以提高服務質量。此外在藝術、醫(yī)療、教育、社交等領域也有應用。另一方面，深度偽造技術的不恰當使用同樣會帶來風險，損害個人和企業(yè)權益、威脅國家安全和公共安全。

二、深度偽造技術研究現(xiàn)狀

（一）技術現(xiàn)狀

深度偽造技術種類繁多，視頻偽造是深度偽造技術最為主要的代表，包括直接換臉、表情操縱、動作遷移等多種類型。深度偽造的核心原理是利用深度學習訓練神經網(wǎng)絡，將目標對象的面部“嫁接”到被模仿對象上。視頻是由連續(xù)的幀組成，把每一幀中的人臉對象進行替換便能得到換臉后變臉的新視頻。因此，在偽造的步驟上，大致可以分為三個流程，一是將原始視頻逐幀轉化成大量圖片，并使用人臉識別技術識別、對齊視頻圖像中的人臉；二是利用生成的偽造人臉直接完成對原始對象面部的替換；三是將替換完成的圖片重新合成、壓縮、還原為視頻。從偽造人臉的生成技術上來看，可大致分為兩類：自動編碼器（Auto Encoders,AE）與生成對抗網(wǎng)絡（Generative Adversarial Net,GAN）。

自動編碼器是由編碼器與解碼器組成的一對網(wǎng)絡結構。其中，編碼器用于從訓練數(shù)據(jù)中學習提取出樣本特征，解碼器則是從提取出的樣本特征中學習，恢復重建至原始數(shù)據(jù)的參數(shù)映射。在實際訓練過程中，通過訓練兩組“編碼器—解碼器”實現(xiàn)兩個身份的互換，即用編碼器 A 實現(xiàn)對A 的特征提取，然后用解碼器B 對其進行解碼重建。

生成對抗網(wǎng)絡[1]，源于博弈論“零和博弈”思想，通過生成模型G 和判別模型D 互相博弈的方法來學習數(shù)據(jù)分布。生成模型可按照偽造目標的數(shù)據(jù)分布樣式隨機采樣生成數(shù)據(jù)樣本，判別模型 D 則要判斷其數(shù)據(jù)真?zhèn)巍Ｔ趯共┺南?，兩者通過對抗式訓練提升其能力，生成模型學習如何生成與原始分布無法區(qū)分的樣本，而判別模型卻對其真?zhèn)涡噪y以判別。至此，將判別模型丟棄，使用生成模型便可生成各類偽造內容。

（二）制度現(xiàn)狀

近些年，深度偽造技術快速發(fā)展，在各個領域被廣泛應用。各國對此類人工智能生成技術發(fā)布了相關研究報告與政策要求，以規(guī)范生成技術合理、合法、合規(guī)地應用。美國作為人工智能大國，在深度偽造的研究與治理方面研究較為深入。2018 年美國國會提出的《深度偽造責任法案》要求任何創(chuàng)建深度偽造視頻媒體文件的人，必須使用“不可刪除的數(shù)字水印以及文本描述”說明該媒體文件是篡改還是生成的，否則便屬于犯罪行為。2019 年，美國發(fā)布的研究報告《2019年全球威脅評估》中明確提到了深度偽造技術已經對國家安全造成威脅并呼吁各國政府應當對其在技術與制度上進行有效管控。2023 年以來，全球范圍內虛假信息泛濫現(xiàn)象更加嚴重[2]。在內容監(jiān)管方面，美國政府對濫用深度偽造技術的擔憂也體現(xiàn)在其最新的《網(wǎng)絡安全戰(zhàn)略》和《國家安全戰(zhàn)略》報告中，其中列舉了偽造信息對網(wǎng)絡安全和國家安全的威脅。

我國深度偽造及各類生成式技術的政策性規(guī)范出臺起步較晚，但是發(fā)展迅速。2022 年11月國家互聯(lián)網(wǎng)信息辦公室、公安部等部門審議通過的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》[3]對利用深度學習生成的各類型數(shù)據(jù)提出了要求，尤其對語音生成、人臉生成、人臉替換、人臉操控、姿態(tài)操控等顯著改變個人身份特征的編輯服務應當明確進行標識注明。2023 年4 月，國家互聯(lián)網(wǎng)信息辦公室出臺《生成式人工智能服務管理辦法（征求意見稿）》[4]，對包括深度偽造技術在內的所有生成式人工智能服務從數(shù)據(jù)采集、數(shù)據(jù)保存、模型訓練、算法設計、監(jiān)督管理等多方面進行了明確規(guī)范。

三、深度偽造技術在案件中的濫用

深度偽造技術作為一項新興的技術類別，被犯罪分子應用于犯罪案件中的案例相對較少，但已出現(xiàn)增加的趨勢。因為深度偽造技術的高仿真與難辨別等特性，加之犯罪分子利用被害人“耳聽為虛、眼見為實”的思維習慣，使得被害人難以在第一時間有效甄別其真?zhèn)?，造成各類損失。結合目前已出現(xiàn)的各類案件，總結深度偽造技術在案件中的濫用場景如下。

（一）電信網(wǎng)絡詐騙案件

這是深度偽造技術在具體案件中應用并且造成較大經濟損失的一類應用場景。詐騙分子首先利用社會工程學手段或者網(wǎng)絡黑客技術向被害人的手機中植入木馬，通過分析手機中的通話錄音與個人相冊等文件獲取被害人的聲紋及面部圖像特征，用于后續(xù)的音頻、圖像及視頻偽造生成。2020 年以前，此類犯罪多集中于音頻偽造。據(jù)中華人民共和國公安部網(wǎng)絡安全保衛(wèi)局公布的案例，2020 年12 月，某公司財務小王接到領導電話，要求立刻給供應商轉款2 萬元。由于老板的口音十分逼真，小王信以為真，在1 小時內轉款完成，然后發(fā)現(xiàn)被騙[5]。隨著人們對于此類技術的了解程度與防范心理的加深，利用深度偽造進行詐騙的手段也由音頻詐騙轉向圖像及視頻詐騙。2021 年10 月，安徽發(fā)生非法利用深度偽造技術生成人臉動態(tài)視頻以破解身份核驗，為黑灰產業(yè)提供注冊虛擬手機卡支撐的案件[6]。2023 年5 月發(fā)生在包頭的一起電信網(wǎng)絡詐騙案件中，詐騙分子利用被害人好友的偽造視頻，通過微信視頻的形式讓被害人放下警惕，損失達幾百萬元[7]。

當前深度偽造技術在視頻偽造領域發(fā)展迅速，出現(xiàn)了各種“一鍵式”“傻瓜式”生成工具，犯罪成本大大降低。人們普遍信奉“眼見為實”的理念，犯罪分子利用這一點，通過開視頻、面對面的方式，并借由網(wǎng)絡信號差等原因解釋偽造視頻的模糊性與不真實性，讓被害人放松警惕，遭受詐騙。

（二）個人侵權案件

深度偽造對象的現(xiàn)實存在性可分為兩類：一是生成現(xiàn)實生活中不存在的人像、視頻與音頻等，二是生成實際存在的人像、視頻與音頻等。相較于第一類偽造對象，第二類則存在對于公民的侵權問題，因為在大多數(shù)情況下，偽造方不會通過合法正規(guī)的途徑獲取被偽造方的音頻、照片與視頻資料。

第二類偽造對象中，使用深度偽造視頻技術進行淫穢色情視頻牟利犯罪被廣泛關注。利用深度偽造技術將被偽造方的人臉圖像遷移至其他客體上，對被偽造方個人的肖像權和名譽權造成嚴重侵犯。同時，若偽造者以營利為目的，將其故意進行散播，則將進一步觸犯刑法，升級為刑事案件。

深度偽造所生成的偽造品，對公眾個人帶來肖像權與名譽權的侵犯，其偽造品對原始客體的侵權也將表現(xiàn)在其他方面。例如前段時間大火的某知名歌手的AI（Artificial Intelligence）形象，網(wǎng)友通過對該歌手聲紋特征的提取分析，偽造出音色幾乎完美復制的偽造音頻。此舉雖然能夠滿足網(wǎng)友及粉絲對“歌手”嘗試多種曲風的愿望，但在實際的應用過程中，由于該AI 形象的主體對象，即真實的歌手本人并沒有對其進行授權，加之偽造者們通過上傳此類偽造音頻從而帶動網(wǎng)絡流量，進而獲取經濟利益的行為，因此該深度偽造的AI 翻唱版本涉嫌侵犯了歌手的聲音權利，呈現(xiàn)這樣的作品還需要歌、詞、曲的配合，這種情況將涉嫌對詞曲者版權權利的侵犯[8]。

（三）危害社會與國家安全案件

深度偽造技術的非法使用將對社會穩(wěn)定與國家安全造成危害。[9]社會上別有用心之人與各類非法組織也借助深度偽造技術生成與現(xiàn)實相違背的文本、圖片、視頻等數(shù)據(jù)，制造熱點話題，從而煽動民眾的情緒，進而引發(fā)更大規(guī)模的群體性事件。因此，這些偽造品的出現(xiàn)，不僅會對重要人物的個人形象進行了嚴重地抹黑與造謠，同時也將對各國國內與國際社會的穩(wěn)定及國家安全帶來巨大影響[10]。

深度偽造技術還將進一步增加公民與公民之間、國家與國家之間的不確定與不信任。不良個人或組織將借由該技術生成虛假信息，進一步使用人工智能技術生成若干虛假賬號并大肆傳播偽造信息，散布放大社會矛盾，從而挑撥群體對立、民眾對立，增加公民之間的不信任甚至隔閡。在國際上，恐怖組織將惡意偽造的信息展現(xiàn)為某一國家對另一國家的煽動性言論及視頻，挑撥兩國關系，對各國構建和諧國際關系帶來巨大挑戰(zhàn)。

四、深度偽造技術的打擊與治理手段

伴隨著深度學習與人工智能技術的發(fā)展，深度偽造技術的進步迅速，技術迭代周期極短。當前學術界對其研究使用的數(shù)據(jù)集均有較明顯的偽像，但在實際互聯(lián)網(wǎng)上流傳的各類高質量偽造品幾乎無法靠人力簡單辨別。因此，若犯罪嫌疑人將深度偽造技術應用于刑事犯罪過程中，被害人單憑人眼、人耳已無法有效辨別真?zhèn)?，個人權益受到侵害的概率極大，給公安機關辦理該類案件帶來極大的困難。從技術發(fā)展與制度建設兩方面入手，隨時關注該技術領域內的最新發(fā)展，及時更新各類案件中深度偽造技術濫用的打擊與治理手段。

（一）技術打擊

深度偽造技術的傳播與惡意使用所帶來的嚴重后果進一步促使了近年來對于深度偽造檢測算法的研究熱潮。相較于文本與音頻偽造，在學術界與工業(yè)界，圖像與視頻偽造技術依然是研究主流。同時，在各類案件中被濫用的深度偽造技術也以利用人臉圖像及視頻的偽造品進行欺詐的案例居多。因此，對于圖像與視頻的偽造檢測技術相較于音頻與文本更加成熟。

圖像與視頻的深度偽造檢測，應當重點聚焦于挖掘真?zhèn)螛颖镜膮^(qū)別。對于圖像偽造檢測，結合當前絕大多數(shù)主流的偽造品只會替換圖像中的關鍵性區(qū)域（如圖像中的人臉區(qū)域）而非整個圖像的全盤偽造的特點，可重點檢測真?zhèn)螀^(qū)域的分界線以判別圖像真假。對于視頻深度偽造檢測，則可從視頻的各幀間連貫性與一致性方面入手[11]，因為視頻偽造是對圖像進行獨立的逐幀偽造而實現(xiàn)的，其必定喪失了真實視頻中各幀間的一致性。

開展深度偽造檢測技術的研究是有效打擊與遏制其在各類案件中被濫用的前提與基礎。但在實際案件中，該技術的準確率能否達到實際應用的標準、檢測結果能否被檢察院與法院所認可與采納，目前仍是未知。

除了案件發(fā)生之后對涉案音視頻真?zhèn)螜z測等事后工作之外，更應大力推動和發(fā)展數(shù)字水印技術，通過區(qū)塊鏈等技術，在音視頻的最初生成階段打入“標記”，能夠有效追蹤音視頻等數(shù)據(jù)的每一次修改、備份與擴散，并且每一次數(shù)據(jù)偽造也將有跡可循，真正實現(xiàn)從源頭打擊和杜絕深度偽造技術的非法使用。

（二）制度建設

深度偽造技術發(fā)展迭代迅速，由于對抗與檢測技術的滯后性很難從根源上遏制其被非法應用，應從制度與治理手段的層面加大對于此類現(xiàn)象與問題的預防與打擊。

一是落實法律法規(guī)、健全技術標準體系。當前我國針對深度偽造技術及生成式人工智能的濫用已出臺了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》與《生成式人工智能服務管理暫行辦法》等相關制度法規(guī)，對數(shù)據(jù)生成與偽造的全流程進行規(guī)范。當前應進一步完善法律法規(guī)建設，結合具體技術細化深度偽造技術的各種類別與全流程的標準體系建設，進一步明確各類數(shù)據(jù)與模型的使用場景、條件與模型檢測方法，加大數(shù)字水印技術的推廣實施力度。

二是加強信息保護、杜絕模型的非法數(shù)據(jù)來源。數(shù)據(jù)是模型的底層動力，深度偽造模型的數(shù)據(jù)來源均為潛在受害目標的個人音頻、圖像、視頻等數(shù)字資料，并且數(shù)據(jù)的獲取涉及黑灰產業(yè)，其中具有較為完善的利益鏈條。因此，應當加強個人信息的保護力度，完善等保機制，提高各類模型獲取數(shù)據(jù)的門檻，杜絕深度偽造模型的非法數(shù)據(jù)來源。

三是更新偵破思路、完善宣傳打擊手段。向公眾普及深度偽造技術及相關案例信息，提高人民群眾的反詐防騙意識，倡導民眾不要輕易相信“眼見為實”，通過詢問個人信息的方式鑒定對方是否為不法分子，并做好錄屏錄音等證據(jù)保存。對于涉及深度偽造技術的刑事案件，在打擊到窩點之后，快速了解分析其偽造模型與原理，掌握嫌疑人獲取被害人相關圖像、視頻、音頻等信息途徑。

五、結語

深度偽造技術是當前人工智能技術快速發(fā)展的重要成果之一，已在電影制作、廣告拍攝等多個領域發(fā)揮了重要作用。與此同時，不法分子也已將深度偽造技術濫用于各類案件中，對于個人與社會均造成一定的影響。因此應當重點研究深度偽造檢測方法，并進一步完善制度建設，實現(xiàn)與加強源頭保護，這必將能夠有效遏制深度偽造技術的濫用，保障人工智能等新興技術促進人類社會的新發(fā)展。