◆陳雪

（國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心吉林分中心 吉林 130000）

深度偽造是指運用機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)對人的圖像、音頻開展“學(xué)習(xí)—模仿”，從視覺角度來說就是一種對視頻、圖像、聲音進行重現(xiàn)、替換、編輯和合成的新型技術(shù)，包括語音合成、換臉、表情操縱等[1]。2017年，網(wǎng)名為deepfakes的用戶在美國社交新聞網(wǎng)站Reddit上發(fā)布了一段由斯嘉麗·約翰遜等知名娛樂明星臉合成的淫穢視頻，效果極其逼真，引起社會上廣泛關(guān)注，“深度偽造”的概念由此進入大眾的視線。2019年國內(nèi)熱門的一鍵換臉APP“ZAO”就是人們最為熟悉的深度偽造產(chǎn)品，網(wǎng)民上傳一張帶有正臉的照片后就能“出演”影視劇中的角色。深度偽造也是2021年初“螞蟻呀嘿”熱潮的基礎(chǔ)。深度偽造技術(shù)作為人工智能領(lǐng)域的典型代表，最近幾年有了創(chuàng)新性的發(fā)展，帶來一定益處，同時也帶來了許多危害，網(wǎng)絡(luò)空間安全面臨新的風(fēng)險與挑戰(zhàn)。隨著網(wǎng)絡(luò)信息環(huán)境的互相作用和有害的認知偏見，思想市場已經(jīng)遭受了真理衰變，深度偽造將顯著加劇這種情況。個人和企業(yè)將面臨新形式的威脅與侵害。我們的民主政治和國家安全也將面臨重大的風(fēng)險和挑戰(zhàn)。因此，加強深度偽造相關(guān)技術(shù)的研究對維護國家政治、社會安全以及公民在網(wǎng)絡(luò)空間的合法權(quán)益具有重大意義，也可進一步提升網(wǎng)絡(luò)空間防護能力。

1 深度偽造的發(fā)展趨勢和潛能

1.1 應(yīng)用的大眾化和終端化

幾年前，受深度偽造技術(shù)研究的限制，深度偽造工具只在資源豐富并且技術(shù)發(fā)達的國家應(yīng)用，但是現(xiàn)在隨著偽造技術(shù)的迅速發(fā)展，使用和獲取成本低、門檻低，深度偽造工具廉價且簡單易操作，即使用戶不具備任何深度學(xué)習(xí)的知識，也可以讓任何能夠上網(wǎng)的普通用戶隨時隨地制作虛假圖像、音視頻等內(nèi)容，然后利用社交網(wǎng)絡(luò)、自媒體等平臺進行廣泛傳播。

1.2 算法的平臺化

“深度偽造”依靠海量用戶數(shù)據(jù)特別是社交網(wǎng)絡(luò)媒體數(shù)據(jù)進行算法訓(xùn)練與優(yōu)化。深度偽造的目標(biāo)可以是在網(wǎng)上有著豐富素材的娛樂明星、政客等公眾人物，也可以是普通用戶群體。深度偽造者可以輕而易舉地從社交網(wǎng)絡(luò)媒體上獲取海量的個人照片，以此對他們的算法進行訓(xùn)練與提升，進而用于敲詐勒索和誹謗等目的。深度偽造與社交媒體之間是相互依存關(guān)系，社交媒體平臺為深度偽造提供數(shù)據(jù)，深度偽造為社交媒體提供內(nèi)容信息。深度偽造與社交網(wǎng)絡(luò)媒體為代表的互聯(lián)網(wǎng)平臺相聯(lián)合，深度偽造將在日益以平臺為基礎(chǔ)的環(huán)境中深入發(fā)展，成為維持對平臺控制的新生力量。

1.3 商品化或貨幣化的潛能

大部分“深度偽造”技術(shù)起源于學(xué)術(shù)界，隨后被想要使用這些產(chǎn)品和技術(shù)賺錢的初創(chuàng)公司所利用，也就是說深度偽造本身也具有商品化或貨幣化的潛能。從學(xué)術(shù)界到商界，深度偽造正成為大買賣、賺錢的工具。積極的一面可以幫助影視制作公司創(chuàng)造更好的影視頻效果，更換未發(fā)行影片中“負面”演員，給影視制作方損失降到最低；或者用于制作與真實還原歷史人物的照片、特定場景特定事件的視頻內(nèi)容，進而來提升人們的感官認知。消極的方面是濫用個人照片、視頻等影像資料生成虛假信息內(nèi)容，對個人隱私、財產(chǎn)安全等構(gòu)成威脅。

2 深度偽造技術(shù)帶來的安全風(fēng)險

2.1 政治安全方面

深度偽造技術(shù)被運用在政治領(lǐng)域，可成為毀壞國家形象、破壞國際關(guān)系格局的“隱形”新工具[2]。一是，利用深度偽造技術(shù)制作關(guān)于國家領(lǐng)導(dǎo)人、國家對外部門主要發(fā)言人等政治人物的虛假負面圖片、音頻、視頻等信息內(nèi)容，抹黑其政治形象，必將會破壞其在廣大人民群眾中的形象，影響政治穩(wěn)定。二是通過攔截和篡改有關(guān)事件的新聞報道，散布不實資訊，必將引發(fā)公眾對政府機構(gòu)和新聞媒體的信任危機，破壞政治生態(tài)秩序。三是破壞國家之間戰(zhàn)略信任關(guān)系，威脅著國際關(guān)系格局與國家外交安全。

2.2 社會安全方面

對社會穩(wěn)定造成威脅。深度偽造技術(shù)的日益精進使得虛假圖片、視頻等信息能夠以高度可信的形式展現(xiàn)給廣大用戶，并利用發(fā)達的社交網(wǎng)絡(luò)廣泛傳播，從而輕易操控網(wǎng)絡(luò)輿論價值導(dǎo)向，將嚴(yán)重威脅社會公共安全。利用獲得方便和操作簡單的深度偽造工具，犯罪分子能夠創(chuàng)造與傳播真假難以區(qū)分的不實信息內(nèi)容，激化社會矛盾，煽動暴力沖突和恐怖活動，造成惡劣后果[3]。現(xiàn)有法律體系尤其是公安、司法機關(guān)等取證方面將面臨新的挑戰(zhàn)與困難，給社會治理帶來難度。

2.3 個人和企業(yè)方面

帶來個人信息安全風(fēng)險。深度偽造技術(shù)可以生成高精度可信的圖像和音視頻信息，給廣大民眾的生活將帶來新的安全威脅。不法之徒使用深度偽造技術(shù)可以輕而易舉冒用他人身份信息[4]，甚至可能利用該技術(shù)進行污名化個人、打擊報復(fù)、商業(yè)競爭、勒索詐騙等非合規(guī)、非合法行為。深度偽造技術(shù)的濫用也會對企業(yè)的經(jīng)營活動與形象造成無法預(yù)估的消極影響。利用深度偽造技術(shù)借用商界領(lǐng)袖的公開演講影像資料，操縱面部表情和演講內(nèi)容，偽造企業(yè)高層的負面消息，散布不實信息，必將誤導(dǎo)廣大民眾的合理判斷，進而給企業(yè)的信譽與經(jīng)濟利益等方面帶來影響。

3 深度偽造技術(shù)的濫用的應(yīng)對策略

3.1 鼓勵研發(fā)深度偽造檢測與溯源技術(shù)，建立多元互動的風(fēng)險防控機制

在深度偽造技術(shù)日益精進、廣泛應(yīng)用的環(huán)境下，多媒體數(shù)據(jù)真實性檢測與信息溯源技術(shù)的重要性毋庸贅述。隨著深度偽造技術(shù)的改進完善，同時發(fā)展了與之相應(yīng)的偽造檢測與追蹤技術(shù)，為了能快速識別和準(zhǔn)確地標(biāo)識深度偽造的產(chǎn)品以及其來源，從而防止負面媒體內(nèi)容的擴散和傳播。當(dāng)前，在算法方面一些學(xué)者與科研院所提出基于圖像分割網(wǎng)絡(luò)、空洞卷積網(wǎng)絡(luò)、膠囊網(wǎng)絡(luò)[5-8]等的視頻和圖片內(nèi)容檢測識別算法；在檢測工具方面，RealAI研發(fā)的DeepReal能夠?qū)Σ煌袷脚c多種質(zhì)量的視頻和圖片進行真假辨識，TruePic與Adobe平臺通過提取特征點來判斷圖片或視頻的真假。雖然上述研究取得了一定的成果，然而這些方法還遠遠不夠成熟，目前還沒有通用的視頻鑒偽網(wǎng)絡(luò)，且在溯源跟蹤領(lǐng)域研究較少。因此政府應(yīng)加大深度偽造檢測與溯源技術(shù)科研經(jīng)費的資助與投入，鼓勵各大高校、相關(guān)企業(yè)第三方檢測機構(gòu)進行技術(shù)研究，以應(yīng)對不斷更新。利用區(qū)塊鏈、電子認證簽名、語義取證等技術(shù)，開展研究具有自動化、完整的深度偽造檢測與溯源工具，并結(jié)合針對性的人工審查機制，構(gòu)造完善可靠的治理體系與治理結(jié)構(gòu)。

深度偽造風(fēng)險治理具有復(fù)雜性和廣泛的社會性，不能依靠單一技術(shù)手段就可解決，還需要學(xué)術(shù)界打破學(xué)科之間的阻礙，加強各相關(guān)學(xué)科之間的交流與合作，及時交換檢測與溯源深度偽造內(nèi)容的研究進展，進而形成一個打擊深度偽造的學(xué)術(shù)共同體與治理合力。強化產(chǎn)業(yè)界技術(shù)研究與交流、政府部門和民眾積極開展有效交流，建立包括政府部門、智庫、重點企業(yè)、專業(yè)技術(shù)人員、民眾等多方參與的多元一體化深度偽造安全治理體系，構(gòu)建包括法律規(guī)制、倫理監(jiān)管、行業(yè)監(jiān)管、自律機制的多元互動風(fēng)險防控機制，從而為人工智能的創(chuàng)新和發(fā)展創(chuàng)造良好的生態(tài)環(huán)境。

3.2 注重安全風(fēng)險評估，完善監(jiān)管措施

面對深度偽造技術(shù)帶來的風(fēng)險與挑戰(zhàn)，必須加強安全風(fēng)險評估與完善監(jiān)管措施。一方面應(yīng)將深度偽造技術(shù)納入新技術(shù)新應(yīng)用的安全風(fēng)險評估中，根據(jù)《網(wǎng)絡(luò)安全法》、《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》、《個人信息保護法》等要求加強對相關(guān)深度偽造技術(shù)與應(yīng)用的安全管理，規(guī)范互聯(lián)網(wǎng)信息服務(wù)活動，切實維護國家安全、社會秩序和公共利益。組織開展安全風(fēng)險評估工作，構(gòu)建完善的風(fēng)險防控體系與手段，并對評估過程中發(fā)現(xiàn)的安全問題與風(fēng)險點及時采取有效的整改措施，企業(yè)承擔(dān)起信息內(nèi)容安全管理主體責(zé)任。另一方面，強化政府監(jiān)督力度與不斷完善監(jiān)管措施。相關(guān)企業(yè)部門要針對新技術(shù)、新應(yīng)用快速發(fā)展的現(xiàn)狀，抓緊完善法律的配套制度，提高法律的精準(zhǔn)度和可操作性。監(jiān)管需要結(jié)合技術(shù)進行一定的治理，對深度偽造軟件收集使用用戶信息的行為進行評估審查，加強對人臉等個人生物識別信息的保護力度；鼓勵督促互聯(lián)網(wǎng)平臺充分利用自身技術(shù)優(yōu)勢，承擔(dān)起個人信息保護、網(wǎng)絡(luò)安全“閘門”作用，強化對違規(guī)違法行為的管理，切實承擔(dān)起平臺治理責(zé)任。

3.3 加強國際合作，推進深度偽造的全球治理

隨著“深度偽造”這一新興技術(shù)的飛速發(fā)展與快速傳播，跨國犯罪組織、恐怖組織和其他非常規(guī)威脅很可能利用這項先進技術(shù)進行策劃、籌集資源和實施復(fù)雜的恐怖襲擊、金融詐騙等嚴(yán)重危害國家社會安全的行為，面對“深度偽造”技術(shù)的廣泛濫用帶來的挑戰(zhàn)與危害，任何人任何國家都無法獨善其身，人類只有和衷共濟、和合共生發(fā)展這一條出路，推進深度偽造技術(shù)全球治理，符合各國共同利益。必須加強國際合作，在國際層面上進行充分的對話與交流，以應(yīng)對最為緊迫的問題，構(gòu)建系統(tǒng)化的全球治理體系，形成使用這一技術(shù)共同的國際規(guī)范。強化跨境互聯(lián)網(wǎng)企業(yè)特別是跨境社交媒體在管控深度偽造產(chǎn)品上的法律和社會主體責(zé)任，確?？缇硵?shù)據(jù)傳輸安全，嚴(yán)厲打擊跨境網(wǎng)絡(luò)犯罪和網(wǎng)絡(luò)謠言，嚴(yán)懲謠言的制造者和散布者，不斷加強信息內(nèi)容安全主體責(zé)任，創(chuàng)造良好的網(wǎng)絡(luò)生態(tài)，維護世界各國共同的網(wǎng)絡(luò)空間安全。

3.4 組織開展“深度偽造”宣傳教育培訓(xùn)，提高公民網(wǎng)絡(luò)安全意識和對信息的辨別力

面對錯綜復(fù)雜、真假難辨的網(wǎng)絡(luò)信息，全民應(yīng)提高對信息內(nèi)容的警惕性，用批判的眼光去認知圖片、音視頻等信息，提升網(wǎng)絡(luò)安全意識。政府應(yīng)該加強“深度偽造”技術(shù)和產(chǎn)品等內(nèi)容的宣傳與教育工作，讓社會各界了解該技術(shù)在帶來娛樂的同時可能帶來的安全隱患，提升人民群眾對深度偽造技術(shù)和產(chǎn)品的警惕性和批判性思維，加強用戶對網(wǎng)絡(luò)有害信息的鑒別力與防范風(fēng)險的能力。同時，教育與引導(dǎo)民眾不做謠言和有害信息的制造者、傳播者。教育與引導(dǎo)民眾在社交網(wǎng)絡(luò)媒體平臺上審慎制作和散播虛假圖片和音視頻等內(nèi)容；引導(dǎo)公民仔細甄別信息內(nèi)容的真?zhèn)?，用批判和質(zhì)疑的視覺去瀏覽音視頻內(nèi)容并對“新奇”觀點內(nèi)容進行多方面求索與驗證，在轉(zhuǎn)發(fā)或評論互聯(lián)網(wǎng)上內(nèi)容時要保持審慎的態(tài)度，防止成為有害信息的放大器與虛假內(nèi)容傳播擴散的“幫兇”。另外鼓勵企業(yè)為用戶提供技術(shù)手段和工具。通過可信的技術(shù)手段或工具檢測追蹤圖像、音頻、視頻等信息內(nèi)容的原創(chuàng)性和真實性，幫助用戶進行辨別并告知用戶，使用戶能及時知悉信息內(nèi)容的真?zhèn)危M而防止上當(dāng)受騙與蒙受財產(chǎn)損失。

4 結(jié)束語

深度偽造技術(shù)是一把雙刃劍，在教育、文化、娛樂等領(lǐng)域帶來了很多有益價值的同時，技術(shù)被濫用的風(fēng)險也不斷凸顯，給個人權(quán)益、社會穩(wěn)定乃至國家安全帶來嚴(yán)重威脅，帶來嚴(yán)重的安全問題，保障網(wǎng)絡(luò)空間安全對個人、社會、國家來說至關(guān)重要。本文針對深度偽造技術(shù)濫用帶來的安全風(fēng)險與挑戰(zhàn)，提出了加強研發(fā)深度偽造檢測與溯源技術(shù)與建立多元互動的風(fēng)險防控機制、加強安全風(fēng)險評估和完善監(jiān)管措施、推進深度偽造的全球治理、組織開展“深度偽造”宣傳教育培訓(xùn)等四項可行的應(yīng)對策略。