徐燕萍

摘 要 社交媒體時代，虛假新聞泛濫，原先的新聞事實核查已經(jīng)發(fā)生了變化。但“深度偽造”技術(shù)的出現(xiàn)，給新聞事實核查又帶來了新難題。應(yīng)對這一困境，需要國家、社交媒體、把關(guān)者的共同努力，同時，更重要的是技術(shù)層面的探索，如開發(fā)檢測技術(shù)、聯(lián)手區(qū)塊鏈等新興技術(shù)以及研發(fā)“數(shù)字取證”技術(shù)。

關(guān)鍵詞 深度偽造；虛假新聞；新聞事實核查

中圖分類號 G2 文獻(xiàn)標(biāo)識碼 A 文章編號 2096-0360（2021）04-0008-03

根據(jù)中國互聯(lián)網(wǎng)數(shù)據(jù)資訊網(wǎng)最新發(fā)布的報告顯示，2020年Deepfake增長率超330%，美英成重災(zāi)區(qū)。自2017年“深度偽造”技術(shù)被某Reddit用戶制作偽造色情視頻以來，“深度偽造”已逐漸滲透至政治、媒體等多個領(lǐng)域。至2020年，偽造品的數(shù)量已經(jīng)達(dá)到49 081個，創(chuàng)下歷史新高。“虛假新聞泛濫”這一現(xiàn)象長期以來都困擾著媒體，而“深度偽造”可能會使這一問題更加嚴(yán)峻。面對移動互聯(lián)網(wǎng)和社交平臺的日益普及，傳統(tǒng)的人工核查已經(jīng)難以應(yīng)對，原先的事實核查也發(fā)生了一定嬗變。應(yīng)對“深度偽造”，事實核查的路徑還需做出更多轉(zhuǎn)變與創(chuàng)新。

1 “深度偽造”簡述

“深度偽造”是“deep learning（深度學(xué)習(xí)）”和“fake（偽造）”的合成詞，作為“深度合成”技術(shù)的一種，“深度偽造”本質(zhì)上是一種人體圖像合成技術(shù)，能夠根據(jù)人類的行為特征，合成圖片、視頻、語音，完成人臉替換[1]。催生“深度偽造”的是技術(shù)人員的一個簡單想法，將兩個深度學(xué)習(xí)的算法相互疊加，即可獲得逼真的圖像輸出結(jié)果。兩個算法分別是生成器與判決器，生成器負(fù)責(zé)原始數(shù)據(jù)的收集、復(fù)制，判決器負(fù)責(zé)鑒別偽造數(shù)據(jù)。

“深度偽造”的代表性應(yīng)用是AI換臉，多應(yīng)用于色情領(lǐng)域，如今，“深度偽造”已經(jīng)開始涉獵政治、廣告、科學(xué)、醫(yī)療等其他領(lǐng)域?！吧疃葌卧臁遍_發(fā)者表示，該技術(shù)正在迅速發(fā)展，他們可以模仿的對象沒有限制，這意味著每一個人都是潛在的目標(biāo)，未來“深度偽造”可能帶來一系列風(fēng)險。同樣地，“深度偽造”技術(shù)對新聞?wù)鎸嵭砸矔?gòu)成威脅。在“后真相”時代，公眾對媒體已經(jīng)產(chǎn)生了信任危機(jī)，而“深度偽造”技術(shù)的出現(xiàn)會加劇這一現(xiàn)象，對新聞媒體的公信力造成進(jìn)一步的沖擊[2]。

2 新聞事實核查的現(xiàn)狀

基于“深度偽造”技術(shù)篡改的視頻、圖片，雖然對虛假新聞的傳播會起到推波助瀾的作用，但虛假新聞并非起源于“深度偽造”。自新聞?wù)Q生的那天起，虛假新聞便如影隨形。新聞事實核查作為應(yīng)對虛假新聞的有效措施，能從源頭避免虛假新聞的傳播，在社交媒體環(huán)境下，原先的新聞事實核查也發(fā)生了一定變化。

2.1 核查范圍廣泛

為確保政治新聞的真實性，2007年，《華盛頓郵報》針對2008年的美國大選推出了名為“Factchecking”的事實核查項目。同年，《坦帕灣時報》也成立了“PolitiFact”網(wǎng)站，并于2009年破格獲得了普利策新聞獎。起初，這些機(jī)構(gòu)和平臺核查的內(nèi)容均為政治或公眾人物的言論。然而，在媒體“搶新聞”的社會化媒體時期，海量信息的實時化傳播雖然獲得了可能，但也造成了虛假新聞的泛濫，嚴(yán)重影響了新聞的傳播品質(zhì)與媒體的公信力[3]。由此，核查對象由政治人物擴(kuò)散至社會化新聞，這一轉(zhuǎn)變以2010年4月美國“Storyful”網(wǎng)站的創(chuàng)立為標(biāo)志，該網(wǎng)站致力于對美國各社交媒體上的用戶生產(chǎn)內(nèi)容進(jìn)行核查，并根據(jù)信息的真實情況貼上相應(yīng)標(biāo)簽。

2.2 核查方式多元

傳統(tǒng)媒體時期，事實核查工作主要依靠人工，核查人員通過已有的知識與經(jīng)驗、查閱文獻(xiàn)資料、跑現(xiàn)場溝通等途徑核查信息。隨著技術(shù)的迭代與進(jìn)步，新興技術(shù)成為了核查人員提高核查效率的得力助手。核查人員能夠利用大數(shù)據(jù)、算法提供的數(shù)據(jù)庫進(jìn)行智能核查，迅速準(zhǔn)確地定位、識別、排除虛假信息[4]。美國的信源調(diào)查網(wǎng)站“Storyful”發(fā)明的信息檢測工具——“新聞專線”便是基于大數(shù)據(jù)等技術(shù)進(jìn)行信息檢測。一些機(jī)構(gòu)還專門推出了事實核查客戶端，如國外《華盛頓郵報》的“事實核查者”（TruthTeller），國內(nèi)的“騰訊較真平臺”等，這些平臺利用機(jī)器人和新興技術(shù)，能自動對網(wǎng)上冗雜的新聞數(shù)據(jù)進(jìn)行核查，及時糾正錯誤信息。

2.3 核查過程趨動態(tài)化

傳統(tǒng)媒體時期，新聞發(fā)布由專業(yè)媒體壟斷，核查一般在事前，且核查主體為專業(yè)的新聞從業(yè)者。社交媒體時期，普通網(wǎng)民的主體地位凸顯，話語權(quán)提升，這種壟斷被打破[5]。同時，傳播速度的實時化要求與海量信息使得核查人員的工作負(fù)擔(dān)加重。由此核查過程發(fā)生了兩點明顯的變化：第一，核查順序由“事前核查”變成了“后續(xù)糾正”或“事件追蹤”；第二，核查主體由專業(yè)媒體擴(kuò)散至普通網(wǎng)民。移動互聯(lián)時代，新聞由新近發(fā)生的事件轉(zhuǎn)變?yōu)榧磿r發(fā)生的事件，事實核查也轉(zhuǎn)變?yōu)閯討B(tài)的過程，需根據(jù)事件發(fā)展?fàn)顟B(tài)及時跟進(jìn)核查進(jìn)度。而普通網(wǎng)民在提供一手信息，搜集信息素材方面能夠起到重要作用，因此一些核查機(jī)構(gòu)也鼓勵網(wǎng)民主動參與核查工作[6]。

從以上幾點變化可以看出新聞事實核查在不斷完善，但從互聯(lián)網(wǎng)上“虛假新聞依然泛濫”這一現(xiàn)象可以發(fā)現(xiàn)，新聞事實核查存在以下效果困境。第一，社會化新聞魚龍混雜，加重了核查人員的負(fù)擔(dān)。第二，信息處于即時更新的狀態(tài)，大數(shù)據(jù)提供的數(shù)據(jù)庫未必全面。算法在定位虛假信息時存在立場偏差，這些虛假信息未必最值得核查，但一定最吸引人的眼球[7]。第三，網(wǎng)民缺乏專業(yè)媒介素養(yǎng)，容易被虛假信息蒙蔽雙眼。而“深度偽造”技術(shù)的出現(xiàn)，則為核查新聞事實帶來了更多難題。

3 “深度偽造”技術(shù)下新聞事實核查的困境

3.1 偽造內(nèi)容成為虛假新聞的信息素材

在“全民皆記者”的社交媒體時代，社交媒體是重要的新聞來源場所。移動網(wǎng)絡(luò)的廣泛普及，使得專業(yè)記者不需要跑現(xiàn)場，滑動手指便能獲取最新信息。但社會化媒體作為一個以用戶生產(chǎn)內(nèi)容為主體的平臺，信息質(zhì)量參差不齊。虛假新聞久久得不到根治，主要是因為有盈利市場，能博人眼球。如今圖片、視頻等元素使得新聞的形式更加多元，而經(jīng)過“深度偽造”合成的圖片、視頻更具趣味性，更能貼近用戶需求，抓住人們的獵奇心理[8]。在“深度偽造”技術(shù)加持下，各類虛假照片、視頻在社交媒體上瘋狂蔓延。不僅誤導(dǎo)了大眾，也誤導(dǎo)了專業(yè)媒體人，將這些合成內(nèi)容作為新聞來源，進(jìn)行二次傳播。

3.2 偽造內(nèi)容常人難以鑒別

早期，“深度偽造”需借助同一面孔的多張不同角度照片才能完成人臉替換，且替換痕跡較明顯。隨著技術(shù)的不斷進(jìn)步，如今僅憑一張照片就能實時匹配面部表情，生成換臉視頻，還能自動調(diào)節(jié)替換后臉部的色差、亮度及替換邊緣的差異。雖然已有相關(guān)檢測技術(shù)能識別出偽造內(nèi)容，但未來前景仍不樂觀。在“深度偽造”技術(shù)背后，生成器和鑒別器是相輔相成的，鑒別器在識別偽造內(nèi)容方面可能會做的越來越好，但同時，生成器也能通過當(dāng)前的鑒別技術(shù)進(jìn)行防御和反擊。這意味著，鑒別技術(shù)無法永遠(yuǎn)保持在生成技術(shù)前方[9]。面對技術(shù)都無法完全鑒別的偽造內(nèi)容，常人更是難以鑒別。

3.3 偽造信息的傳播范圍廣泛

在每一次的重大事件中，我們幾乎都會在社交媒體上發(fā)現(xiàn)誤導(dǎo)性視頻和照片。這背后體現(xiàn)出的是社交媒體病毒式的傳播特征。與傳統(tǒng)媒體相比，社交媒體具有即時、互動、分享、“多對多”交流等特點。社交媒體UGC的形式得以讓每個用戶成為關(guān)系鏈傳播中的一個節(jié)點，因此，往往能取得“病毒式”的傳播效果[10]。2018年4月網(wǎng)上流傳的“奧巴馬辱罵特朗普”的造假視頻，2020年初在社交媒體上引起廣泛轉(zhuǎn)發(fā)的“被火燒焦的澳大利亞”的造假圖片，這些偽造視頻、圖片都是結(jié)合時下人們關(guān)注的熱點，再借助社交媒體的漣漪效應(yīng)，造成了大規(guī)模的擴(kuò)散，誤導(dǎo)了大眾。

4 “深度偽造”背景下新聞事實核查的應(yīng)對之策

4.1 國家、社交媒體、把關(guān)者的共同努力

在社交媒體信息泛濫的背景下，網(wǎng)絡(luò)信息本就讓人真假難辨，而“深度偽造”技術(shù)進(jìn)一步提高了可靠信息的獲取成本，增加了新聞事實核查的難度。為應(yīng)對這一困境，國家、社交媒體、把關(guān)者需攜手應(yīng)對。

首先，國家應(yīng)出臺規(guī)制“深度偽造”的相關(guān)法案，法律規(guī)制是應(yīng)對技術(shù)風(fēng)險的必要手段。當(dāng)前，美國、歐盟、德國在立法方面較為積極，相關(guān)法案也比較細(xì)致，值得我國借鑒。我國尚沒有針對“深度偽造”專門立法，但相關(guān)法案已有涉及，未來還需繼續(xù)完善[11]。其次，作為虛假新聞肆虐的重要場所，社交媒體也應(yīng)擔(dān)負(fù)起平臺的責(zé)任，完善管控措施。添加事實核查標(biāo)簽、資助研究機(jī)構(gòu)研發(fā)“深度偽造”檢測工具等都是必要的措施。此外，社交媒體也應(yīng)積極與其他平臺、機(jī)構(gòu)合作，完善核查數(shù)據(jù)庫，提高核查效率。最后，把關(guān)者作為新聞事實核查中最重要的一環(huán)，應(yīng)做好把關(guān)，回歸“事前核查”[12]。在發(fā)布新聞前，盡到“把關(guān)”的職責(zé)，從源頭阻斷虛假新聞的傳播。雖然利用相關(guān)技術(shù)能提升核查效率，但技術(shù)可能存在漏洞，人工核查仍是核查工作中不可或缺的一步流程。

4.2 技術(shù)層面

隨著“深度偽造”技術(shù)的門檻大大降低，普通人逐漸也成為了“應(yīng)用者。未來“深度偽造”可能被用于篡改圖像、視頻，制造大量的虛假新聞。為避免“深度偽造”嚴(yán)重挑戰(zhàn)新聞?wù)鎸嵉倪吔纾诟纳菩侣勈聦嵑瞬榈倪^程中，更應(yīng)注重將“深度偽造”考慮在內(nèi)，探索技術(shù)方面的應(yīng)對措施。

1）開發(fā)基于人工智能模型的檢測技術(shù)。目前，學(xué)界和業(yè)界對“深度偽造”檢測技術(shù)的開發(fā)如火如荼。其中，研究最多的是基于人工智能模型的檢測技術(shù)。國內(nèi)清華大學(xué)的人工智能企業(yè)RealAI發(fā)布的深度偽造視頻檢測工具——“DeepReal”，主要利用深度學(xué)習(xí)算法、大量數(shù)據(jù)集訓(xùn)練模型，可在1秒內(nèi)對超過10人同框的圖像與視頻進(jìn)行識別，識別率可達(dá)99%?！癉eepReal”還于近日完成了新一輪的服務(wù)與算法升級，在原有基礎(chǔ)上，新增批量導(dǎo)入、輸出檢測報告等功能，檢測范圍及防御對抗能力大大提高。2020年1月，北京大學(xué)與微軟亞洲研究院聯(lián)合推出深度偽造識別工具“FaceX-Ray”，能將假臉重新混入目標(biāo)圖像或視頻，以從中尋找邊界，能有效地識別出未被發(fā)現(xiàn)的假圖像，并可靠地預(yù)測圖像混合區(qū)域，精準(zhǔn)度可達(dá)99%以上。國外也有許多研究成果，美國Adobe公司推出的反向PS工具。依托于AI算法，該工具能自動識別出人像圖片中經(jīng)過圖像液化工具修改的部分，并將圖像還原，準(zhǔn)確率高達(dá)99%；滑鐵盧大學(xué)的研究人員開發(fā)了被稱為“Darwin.AI”的技術(shù)，該技術(shù)使用深度學(xué)習(xí)來檢測虛假新聞；加州大學(xué)河濱分校的研究人員研發(fā)出了一種由遞歸神經(jīng)網(wǎng)絡(luò)和編碼過濾器組成的自動檢測算法，能夠?qū)卧靾D像分成若干部分，在更全面的層次上去考慮整個圖像的情況，準(zhǔn)確率在71%～95%之間[13]。以上這些檢測工具為核查新聞事實、打擊偽造內(nèi)容帶來了新希望，但基于“生成對抗網(wǎng)絡(luò)”的技術(shù)原理，這些檢測技術(shù)也很容易被識破。因此，未來技術(shù)人員仍需不斷開發(fā)、完善檢測技術(shù)。

2）聯(lián)手?jǐn)?shù)字水印、指紋與區(qū)塊鏈，對視頻進(jìn)行溯源。應(yīng)對“深度偽造”，確保信息真實，僅依靠人工智能模型遠(yuǎn)遠(yuǎn)不夠，有必要結(jié)合數(shù)字水印、區(qū)塊鏈等新興技術(shù)。數(shù)字水印是信息安全領(lǐng)域的前沿技術(shù)，能夠通過信號處理的方法在多媒體數(shù)據(jù)中嵌入隱蔽的標(biāo)記，這種標(biāo)記只有通過專用的檢測器或閱讀器才能提取，通常不可見[14]。數(shù)字水印安全性高，難以篡改，會隨著原始內(nèi)容的變化而變化，從而能夠檢測出原始數(shù)據(jù)的變更。此外，數(shù)字指紋同樣適用于檢測偽造視頻。在發(fā)布相關(guān)視頻前，可以提取視頻中一些重要信息作為視頻指紋，如此每個視頻都能夠生成一個特定的指紋，相當(dāng)于該視頻身份的標(biāo)識，也利于鑒別偽造視頻。區(qū)塊鏈作為記錄互聯(lián)網(wǎng)數(shù)據(jù)的新方式，同樣是應(yīng)對“深度偽造”的有效方式[15]。區(qū)塊鏈最大的特點是能對原始數(shù)據(jù)進(jìn)行溯源，既有利于版權(quán)保護(hù)又能識別篡改內(nèi)容。除了追蹤視頻內(nèi)容的來源，也可以在區(qū)塊鏈上創(chuàng)建視頻的同時加上驗證標(biāo)簽或者圖形。當(dāng)遇到可疑的音視頻文件時就能進(jìn)行身份驗證，與原始文件比較，將偽造內(nèi)容剝離出來。為了應(yīng)對“深度偽造”濫用的增加，Ambervideo.co公司開發(fā)了檢測軟件，可以查看視頻和音頻軌道及其中的各個方面，以尋找可能的修改痕跡。但這種追溯方法無法檢測到新的“深度偽造”算法，為此該公司以區(qū)塊鏈作為基礎(chǔ)結(jié)構(gòu)，每30秒存儲一次哈希值，若參數(shù)被更改則暗示著視頻被篡改的可能性。

3）聚焦新聞媒體，加快“數(shù)字取證”技術(shù)的研發(fā)。目前反“深度偽造”檢測工具已經(jīng)有了一定研究成果，但媒體生成和操縱技術(shù)也在快速發(fā)展，當(dāng)前的檢測技術(shù)還不足以檢測偽造的媒體信息，因而為媒體研發(fā)應(yīng)對虛假新聞的檢測工具迫在眉睫。在這方面，我國可以借鑒美國國防高級研究計劃局設(shè)立的“媒體鑒證”項目，該項目旨在尋求“深度偽造”識別工具，應(yīng)對大規(guī)模的自動化虛假信息攻擊活動。鑒于目前的檢測技術(shù)可能會隨著篡改技術(shù)的飛速發(fā)展而不斷失效，國防高級研究計劃局還研發(fā)了“語義取證”技術(shù)，檢測遭篡改媒體中的“語義錯誤”。這些“語義錯誤”往往是偽造媒體容易忽視的細(xì)節(jié)，如人物佩戴的耳環(huán)前后不一致。這種語義不一致性檢測工具若能最終形成，將會顯著提高媒體偽造者的作惡成本，防御者也可以輕松判斷媒體真?zhèn)?。此外，“深度偽造”作為人工智能的一個分支，我們自然也能通過人工智能來反向助力數(shù)字媒體取證。谷歌母公司Alphabet推出的一款名為“Assembler”的AI工具，能夠幫助人們檢驗原始照片是否被篡改。對于新聞媒體而言，“Assembler”或許可以成為一款得力的事實檢查工具。目前“Assembler”已經(jīng)被法新社、CodeforAfrica和Rappler等在內(nèi)的新聞和事實檢查機(jī)構(gòu)所采用。媒體內(nèi)容作為網(wǎng)絡(luò)數(shù)字內(nèi)容的主體，在網(wǎng)絡(luò)安全中占據(jù)著重要的地位，數(shù)字取證與安全可以維持現(xiàn)代數(shù)字社會秩序，確保數(shù)據(jù)的真實可靠，維護(hù)媒體的信譽(yù)。國內(nèi)目前還未出現(xiàn)成熟的數(shù)字媒體取證技術(shù)，但首屆中國媒體取證與安全大會已于2020年11月6日至11月8日在合肥成功舉辦，相信不遠(yuǎn)的將來數(shù)字媒體取證與安全會發(fā)展至一個新的臺階。

技術(shù)是中立的，“深度偽造”作為一種技術(shù)，并無對與錯?！吧疃葌卧臁币矌砹嗽S多信息紅利，如幫助電商平臺實現(xiàn)“數(shù)字試穿”，幫助廣告主實現(xiàn)“千人千面”的營銷，滿足受眾的多樣化需求等等[16]。但不能忽視“深度偽造”造成的色情犯罪、聲音詐騙、虛假新聞等問題，尤其是虛假新聞，對媒體、政府、社會的信任體系會造成猛烈的沖擊。因此，新聞事實核查仍要堅守，除了政府、社交媒體、把關(guān)者的共同努力，更要在技術(shù)層面積極探索，開發(fā)檢測技術(shù)。

參考文獻(xiàn)

[1]張濤.后真相時代深度偽造的法律風(fēng)險及其規(guī)制[J].電子政務(wù)，2020（4）：91-101.

[2]殷文，張杰，鄭方惠.網(wǎng)絡(luò)謠言傳播過程中的中介化信任研究[J].當(dāng)代傳播，2019，05：36-39，60.

[3]袁玥，馮廣圣.突發(fā)公共事件中農(nóng)村社區(qū)大喇叭強(qiáng)動員效果探析：以新冠肺炎疫情報道為例[J].新聞知識，2020（11）：47-53.

[4]孫夢婷，何晴，黃蓉.故宮文創(chuàng)的跨媒介傳播策略[J].東南傳播，2020（9）：83-85.

[5]李惠敏.助力鄉(xiāng)村文化自信：涉農(nóng)紀(jì)錄片的當(dāng)代價值研究：以記住鄉(xiāng)愁為例[J].東南傳播，2020（6）：35-37.

[6]楊鑫，馮廣圣.基于趣緣的隱形連接下文化的狂歡：基于“驚雷”“淡黃長裙”現(xiàn)象的考察[J].東南傳播，2020（11）：83-85.

[7]位云玲，馮廣圣.算法新聞推薦的社會責(zé)任反思[J].新聞知識，2020（9）：23-26.

[8]馮廣圣.報業(yè)“一體化”轉(zhuǎn)型模型構(gòu)建[J].新聞與寫作，2018（3）：94-96.

[9]魏書音，劉玉琢.深度偽造技術(shù)正在顛覆網(wǎng)絡(luò)空間的可信性[J].網(wǎng)絡(luò)安全和信息化，2020（10）：27-28.

[10]李越，吳斯，馮廣圣.UGC視角下的網(wǎng)絡(luò)社區(qū)內(nèi)容分層管理個案研究：以站酷社區(qū)為例[J].東南傳播，2019（7）：121-123.

[11]位云玲.原創(chuàng)文化類綜藝節(jié)目持續(xù)走紅的原因探究：以《上新了！故宮》為例[J].藝術(shù)評鑒，2019（7）：169-170，76.

[12]位云玲.新聞反轉(zhuǎn)的內(nèi)在機(jī)理、影響及治理探究[J].新聞知識，2019（4）：86-89.

[13]張樺.網(wǎng)絡(luò)空間“深度偽造”的威脅及治理[J].網(wǎng)絡(luò)空間安全，2020，11（5）：45-51.

[14]陳昌鳳，徐芳依.智能時代的“深度偽造”信息及其治理方式[J].新聞與寫作，2020（4）：66-71.

[15]梁瑞剛，呂培卓，趙月，等.視聽覺深度偽造檢測技術(shù)研究綜述[J].信息安全學(xué)報，2020，5（2）：1-17.

[16]丁月明.試論網(wǎng)絡(luò)直播對農(nóng)產(chǎn)品銷售的影響[J].東南傳播，2020（5）：56-58.