范玉吉 于雅潔

一、引言

互聯(lián)網(wǎng)的極速發(fā)展，帶來(lái)的是用戶的極速增加，據(jù)Hootsuite 和We Are Social發(fā)布的一份報(bào)告顯示，截至2021年7月，全球互聯(lián)網(wǎng)用戶已達(dá)48億，占世界總?cè)丝诘?1%；全球移動(dòng)用戶已達(dá)52.7億，占世界總?cè)丝诘?7%；全球社交媒體用戶達(dá)44.8億，幾乎相當(dāng)于全世界總?cè)丝诘?7%。網(wǎng)絡(luò)用戶數(shù)量的激增，對(duì)各類網(wǎng)絡(luò)應(yīng)用技術(shù)的發(fā)展產(chǎn)生了巨大的推動(dòng)作用，許多新的技術(shù)在滿足用戶需求的同時(shí)，也帶來(lái)了許多意想不到的新問(wèn)題，科技的每一次突破都可能帶來(lái)意想不到的“副產(chǎn)品”，如人工智能技術(shù)領(lǐng)域的技術(shù)創(chuàng)新日新月異，而“深度學(xué)習(xí)”技術(shù)就是其中一例，但由其引發(fā)的“深度偽造”（Deepfake）技術(shù)，卻給網(wǎng)絡(luò)傳播帶來(lái)極大的負(fù)面影響。任何技術(shù)都具有其“陰暗面”，許多技術(shù)僅僅是因商業(yè)利益的驅(qū)動(dòng)而非為滿足用戶的需要而開發(fā)的。因此，這些技術(shù)為日常生活帶來(lái)一定便利的同時(shí)，也會(huì)引發(fā)不少風(fēng)險(xiǎn)。用戶數(shù)量的增加不僅僅反映了網(wǎng)絡(luò)空間的繁榮，同時(shí)也帶來(lái)了網(wǎng)絡(luò)犯罪量的激增。

“深度偽造”這一術(shù)語(yǔ)最早產(chǎn)生于2017年，由“深度學(xué)習(xí)”和“偽造”（fake）兩個(gè)詞合成，是一種利用生成對(duì)抗網(wǎng)絡(luò)等深度學(xué)習(xí)模型來(lái)創(chuàng)建逼真的虛假圖像和視頻的技術(shù)。根據(jù)《現(xiàn)代漢語(yǔ)詞典》的解釋，“偽”是“有意做作掩蓋本來(lái)面貌的”，是“虛假”，與“真”相對(duì)，同時(shí)也有“不合法”的意思。雖然“深度偽造”與“深度合成”技術(shù)原理相同，但“深度偽造”技術(shù)及其產(chǎn)物更加突出其虛假性。因此，本文所指“深度偽造”技術(shù)及其產(chǎn)物主要是針對(duì)“深度偽造”生成的圖像、音頻、視頻等，主要關(guān)注這種技術(shù)的欺騙性及其偽造生成物的危害性。

刑法作為重要的社會(huì)治理工具，主要是通過(guò)對(duì)違法犯罪者實(shí)施刑罰以達(dá)到保護(hù)公民權(quán)利、保障社會(huì)穩(wěn)定、保衛(wèi)國(guó)家安全的目的。因此，刑法既有保護(hù)權(quán)利的功能，也有保障秩序的功能。由于刑罰手段的嚴(yán)厲性，刑法一般作為抑止違法犯罪行為，維護(hù)社會(huì)秩序的最后手段，這是刑法謙抑性原則的體現(xiàn)。但當(dāng)代社會(huì)學(xué)的研究表明，工業(yè)社會(huì)經(jīng)由其本身系統(tǒng)制造的危險(xiǎn)而身不由己地突變?yōu)轱L(fēng)險(xiǎn)社會(huì)。隨著網(wǎng)絡(luò)和信息技術(shù)的發(fā)展，社會(huì)風(fēng)險(xiǎn)對(duì)刑法的謙抑性原則提出了挑戰(zhàn)，刑法的保護(hù)秩序功能超越保障權(quán)利功能成為主導(dǎo)，預(yù)防犯罪的功能更加突出。

本文以“深度偽造”技術(shù)及其產(chǎn)物為研究對(duì)象，梳理網(wǎng)絡(luò)傳播中“深度偽造”技術(shù)及其產(chǎn)物可能侵害的法益種類，通過(guò)論述刑法規(guī)制的正當(dāng)性，提出在堅(jiān)持罪刑法定原則前提下的刑事規(guī)制路徑，為營(yíng)造天朗氣清、生態(tài)良好的網(wǎng)絡(luò)空間提供參考。

二、“深度偽造”技術(shù)及其產(chǎn)物

所謂“深度偽造”就是將計(jì)算機(jī)獲取的他人的音頻、圖片、視頻等生物信息數(shù)據(jù)交給“智能算法”，然后在深度學(xué)習(xí)的基礎(chǔ)上由智能算法自動(dòng)完成偽造操作?！吧疃葌卧臁奔夹g(shù)依托深度學(xué)習(xí)使得偽造的行為脫離了人工的直接參與，僅通過(guò)人工智能就可以自動(dòng)完成。它將偽造從被動(dòng)性偽造推入了自主性偽造的全新階段，“深度偽造”不再是單純的復(fù)制和冒用，而是全新的生產(chǎn)。這種偽造技術(shù)生產(chǎn)出來(lái)的產(chǎn)品不同于傳統(tǒng)的拼接式偽造（如Photoshop圖片處理技術(shù)，即PS技術(shù)），一般的監(jiān)測(cè)手段很難發(fā)現(xiàn)其中的“拼接”痕跡，它是一個(gè)完整的“新作品”，具有極大的迷惑性，被濫用甚至是亂用后，會(huì)成為新的犯罪工具。根據(jù)“深度偽造”技術(shù)類型進(jìn)行分類，主要可分為圖片、語(yǔ)音和視頻三種類型，其偽造“作品”的類型雖然不同，但其原理卻有極大的相似性。

（一）圖片的“深度偽造”

圖片偽造并非新生事物，在傳統(tǒng)感光膠片時(shí)代圖片偽造就時(shí)有發(fā)生，但因?yàn)閭卧旒夹g(shù)難度大，所以發(fā)生的概率并不高。在膠片攝影的年代里，攝影師完成拍攝后，要想后期改動(dòng)攝影作品中的視覺(jué)元素，其技術(shù)成本和時(shí)間成本都很高，需通過(guò)暗房在負(fù)片上加減修改的部分，然后重新顯影、定影，并使用顏料、刻刀等工具進(jìn)行細(xì)節(jié)修飾。在數(shù)碼攝影出現(xiàn)后，影像編輯軟件功能雖然可以在短短幾分鐘內(nèi)就改變一張照片的色溫、色度、色彩等視覺(jué)元素，甚至是影像的疊加和某些視覺(jué)元素的增刪都變得易如反掌，但由于這種偽造后的視覺(jué)元素分布過(guò)于均勻、對(duì)稱、整齊、有規(guī)律，而且拼接痕跡明顯，極易被識(shí)破，如 2006年路透社黎巴嫩籍?dāng)z影記者阿德南·哈吉拍攝的關(guān)于黎以沖突的照片就被發(fā)現(xiàn)使用了PS技術(shù)造假。而運(yùn)用數(shù)字圖像編輯軟件則大大降低了篡改難度，且提高了被識(shí)破的難度，其主要是運(yùn)用生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Network，GAN）提供的一種基于零和博弈的高質(zhì)量圖像偽造方法，直接由隨機(jī)噪聲通過(guò)深度神經(jīng)網(wǎng)絡(luò)生成圖像。原始 GAN 經(jīng)過(guò)不斷改進(jìn)發(fā)展，已經(jīng)可以生成高分辨率的逼真圖像。GAN 偽造圖像與傳統(tǒng)偽造圖像相比，不存在圖像拼接以后留下的痕跡，所以傳統(tǒng)的偽造圖像檢測(cè)技術(shù)無(wú)法有效甄別GAN 偽造圖像。圖片偽造技術(shù)不僅破壞了新聞圖片的真實(shí)性原則，更為網(wǎng)絡(luò)色情泛濫提供了“技術(shù)支持”。

（二）語(yǔ)音的“深度偽造”

語(yǔ)音的“深度偽造”主要包括身份風(fēng)格偽造、語(yǔ)音音色偽造與語(yǔ)音韻律偽造三部分。風(fēng)格偽造主要是對(duì)聲學(xué)特征的偽造，每個(gè)人語(yǔ)音的聲紋特征都具有獨(dú)特性，計(jì)算機(jī)系統(tǒng)通過(guò)對(duì)說(shuō)話人的語(yǔ)音進(jìn)行靜音剔除和降噪等技術(shù)處理以得到純凈有效的語(yǔ)音片段，之后提取出特定語(yǔ)音對(duì)應(yīng)的聲學(xué)特征參數(shù)，根據(jù)系統(tǒng)建模算法得出說(shuō)話人的特征模型。音色偽造主要是通過(guò)儲(chǔ)存大量目標(biāo)說(shuō)話人的語(yǔ)料庫(kù)，然后通過(guò)波型拼接式語(yǔ)音偽造技術(shù)，將在大量自然語(yǔ)流中豐富的語(yǔ)音單元按照一定的規(guī)則拼接，得到高自然度與相似度的語(yǔ)音。韻律偽造是模擬目標(biāo)說(shuō)話人在日常生活語(yǔ)言交流中的態(tài)度、思想以及注意力等個(gè)性化信息。一個(gè)好的韻律預(yù)測(cè)可以讓偽造語(yǔ)音與真實(shí)語(yǔ)音相比難以判斷，從而進(jìn)一步提升語(yǔ)音偽造水平。2018年，蒙特利爾大學(xué)的三名博士聯(lián)合創(chuàng)辦了一家名為“琴鳥”的公司，開發(fā)出了一種“語(yǔ)音合成”技術(shù)，只要對(duì)目標(biāo)人物的聲音進(jìn)行1分鐘以上的錄音，把錄音丟給“琴鳥”處理，就能得到一個(gè)特別的密鑰，利用這個(gè)密鑰可以用目標(biāo)人物的聲音，生成任何想說(shuō)的話。

（三）視頻的“深度偽造”

視頻“深度偽造”的技術(shù)較聲音和圖片的偽造難度要高，但其基本的技術(shù)邏輯仍然是運(yùn)用相互聯(lián)系節(jié)點(diǎn)組成的多層神經(jīng)網(wǎng)絡(luò)，通過(guò)深度學(xué)習(xí)，對(duì)輸入的數(shù)據(jù)進(jìn)行自動(dòng)計(jì)算，并根據(jù)特定的建模由算法在訓(xùn)練的基礎(chǔ)上來(lái)完成特定視頻內(nèi)容的轉(zhuǎn)換生成任務(wù)。通俗地講，就是將目標(biāo)人物（比如明星、政治家等）的不同角度、不同姿態(tài)、不同表情的視頻進(jìn)行深度的學(xué)習(xí)，提取其必要的特征數(shù)據(jù)，并根據(jù)特定的建模進(jìn)行新的運(yùn)算，在反復(fù)訓(xùn)練的基礎(chǔ)上自動(dòng)生成偽造的視頻，并將其覆蓋到原有視頻人物的形象之上，形成新的“視頻”。其實(shí)質(zhì)可以簡(jiǎn)單理解為從現(xiàn)有“源數(shù)據(jù)”（目標(biāo)人物）中通過(guò)算法生成“新數(shù)據(jù)”（偽造視頻）的過(guò)程。前期的偽造視頻生成主要依靠共享權(quán)重的自動(dòng)編碼器，生成對(duì)抗網(wǎng)絡(luò)（GAN）的出現(xiàn)克服了自動(dòng)編碼器刻意逼近真實(shí)數(shù)據(jù)概率分布的缺點(diǎn)，使得生成的偽造視頻更難以分辨。同時(shí)，一些團(tuán)隊(duì)還提出了多種改進(jìn)的 GAN算法，以實(shí)現(xiàn)更逼真的“偽造”效果?！吧疃葌卧臁奔夹g(shù)以假亂真給個(gè)人和社會(huì)都造成了現(xiàn)實(shí)的威脅。但是，目前還沒(méi)有一個(gè)完美的解決方案能夠有效阻斷“深度偽造”內(nèi)容的傳播。目前流行的基于VGG（Visual Geometry Group）的深度卷積神經(jīng)網(wǎng)絡(luò)和Google工程師的人臉識(shí)別系統(tǒng)FaceNet都無(wú)法抵御“深度偽造”視頻的“攻擊”，唇同步、圖像質(zhì)量度量等其他方法也存在非常高的錯(cuò)檢率?！吧疃葌卧臁敝饕ㄟ^(guò)修改或生成新的人臉——包括修改表情、口型、臉型以及合成新臉等四種模式來(lái)達(dá)到偽造的逼真效果，其中影響最為惡劣的應(yīng)用模式是換臉型和對(duì)口型。

“深度偽造”技術(shù)和針對(duì)“深度偽造”的防偽技術(shù)一直在進(jìn)行博弈，但是目前完全用技術(shù)手段來(lái)抵抗技術(shù)風(fēng)險(xiǎn)還是存在太多的不確定性。因此，用預(yù)防刑法的理論加以預(yù)防，也許會(huì)成為最有效的手段。

三、“深度偽造”的法益侵害類型

技術(shù)本身是中立的，不中立的是使用技術(shù)的人。“深度偽造”技術(shù)所依賴的生成對(duì)抗網(wǎng)絡(luò)、深度學(xué)習(xí)、多層神經(jīng)網(wǎng)絡(luò)等技術(shù)本不具有負(fù)面價(jià)值，但被人非法利用生成造假工具，就產(chǎn)生了危害類型各異、危害程度不同的犯罪行為。目前，Github開源社區(qū)中有Faceapp、Faceswap、Deepfacelab、Openfacewap等數(shù)量眾多的“深度偽造”項(xiàng)目，大部分項(xiàng)目都提供了一鍵式操作的應(yīng)用程序，極大降低了“深度偽造”技術(shù)使用的門檻，也大大增加了偽造技術(shù)被濫用的可能性。

（一）侵犯公民人身權(quán)利、財(cái)產(chǎn)權(quán)利

1.合成色情圖片與視頻，侵犯人身權(quán)

利用“深度偽造”技術(shù)制作內(nèi)容最常見的犯罪行為就是傳播淫穢色情。2017年12月，一個(gè)名為“deepfake”的用戶在“Reddit”網(wǎng)站發(fā)布了一段假冒好萊塢知名女演員蓋爾·加朵的臉插入到色情場(chǎng)景中，在全世界范圍內(nèi)引起了巨大轟動(dòng)，這是“深度偽造”技術(shù)第一次被廣泛關(guān)注。隨后，利用“深度偽造”技術(shù)制作的色情視頻與圖片層出不窮，據(jù)安全分析公司Sensity調(diào)查顯示，2019年7月“深度偽造”的總數(shù)達(dá)到14678個(gè)，相比于2018年12月的7964個(gè)造假視頻量幾乎翻了一番。而截至2020年6月，造假視頻已多達(dá)49081個(gè)，較2019年7月增長(zhǎng)了330%以上。而在2019年公布的14678個(gè)“深度偽造”作品中，假色情視頻占據(jù)了96% 。2019年4月，一位印度女記者因?yàn)榻衣队《裙偶乇﹣y中官員的黑幕和不作為而遭到報(bào)復(fù)，以其為主角的“深度偽造”色情視頻在社交媒體上傳播，并且視頻中還出現(xiàn)了她的家庭住址等信息，使其承受巨大的精神折磨，最后不得不斷網(wǎng)乃至住院治療?！吧疃葌卧臁北粦?yīng)用于合成色情圖片與視頻，是對(duì)公民名譽(yù)權(quán)、肖像權(quán)、聲音權(quán)等人身權(quán)利的侵犯，一般情況下公民可以通過(guò)提起民事訴訟尋求救濟(jì)。考慮到目前網(wǎng)絡(luò)與自媒體的發(fā)達(dá)程度與傳播速度，其負(fù)面影響短期內(nèi)難以消除，且傳播趨勢(shì)具有不可控性。當(dāng)這類色情制品搭乘網(wǎng)絡(luò)傳播這趟快車時(shí)，其產(chǎn)生危害的嚴(yán)重性已經(jīng)超越民法所調(diào)整的范疇，達(dá)到《中華人民共和國(guó)刑法》（以下簡(jiǎn)稱《刑法》）第246條所規(guī)定的“情節(jié)嚴(yán)重”的情況，應(yīng)當(dāng)按照“侮辱、誹謗罪”追究相關(guān)人員的刑事責(zé)任。

2.制作3D頭像破解人臉識(shí)別系統(tǒng)，侵害財(cái)產(chǎn)權(quán)

隨著人工智能技術(shù)和大數(shù)據(jù)的興起，“生物識(shí)別”因其高效、快捷、準(zhǔn)確等優(yōu)勢(shì)逐漸成為各類軟件普遍采用的身份信息識(shí)別方式。個(gè)人生物信息具有普遍性、唯一性及穩(wěn)定性。在眾多生物信息中，人臉相較于指紋等生物信息具有可遠(yuǎn)距離獲取的優(yōu)勢(shì)，但這也正是隱患之所在。人臉識(shí)別支付已成為金融支付領(lǐng)域的一種重要支付方式，其將人臉圖像信息與個(gè)人身份信息和銀行賬戶信息進(jìn)行關(guān)聯(lián)，在支付過(guò)程中，通過(guò)采集人臉信息進(jìn)行身份鑒別，達(dá)到認(rèn)證身份進(jìn)而合法授權(quán)支付的作用。利用“深度偽造”換臉技術(shù)制作的假視頻足以以假亂真，生成的假人臉或假視頻可以欺騙人臉驗(yàn)證系統(tǒng)，對(duì)人臉識(shí)別支付系統(tǒng)安全威脅極大。

目前，利用“深度偽造”的相關(guān)軟件并結(jié)合3D打印技術(shù)，可以生成并制作高清的3D面具，對(duì)人臉識(shí)別支付系統(tǒng)的安全性構(gòu)成了巨大的潛在危險(xiǎn)。據(jù)財(cái)富中文網(wǎng)2019年12月18日?qǐng)?bào)道，美國(guó)人工智能公司Kneron使用由日本特種面具制造商專門定制的高質(zhì)量3D面具，成功地欺騙了人臉識(shí)別系統(tǒng)，完成購(gòu)物支付程序，其中包括中國(guó)的微信和支付寶的人臉識(shí)別支付系統(tǒng)。計(jì)算機(jī)科學(xué)家們同時(shí)還進(jìn)行了一場(chǎng)與Kneron相似的實(shí)驗(yàn)，他們使用從Facebook上獲取的圖片，也成功地騙過(guò)了人臉識(shí)別傳感器。

隨著“人臉識(shí)別”技術(shù)的優(yōu)化，愈來(lái)愈多的系統(tǒng)采用該技術(shù)進(jìn)行身份認(rèn)證和支付認(rèn)證。而隨著這類應(yīng)用技術(shù)的普及，利用“深度偽造”技術(shù)制作 3D頭像破解人臉識(shí)別系統(tǒng)的行為不斷增加，其所引發(fā)的破解“人臉識(shí)別”系統(tǒng)的違法犯罪活動(dòng)也逐漸增多。2021年3月，上海市虹口區(qū)人民檢察院公訴一起特大虛開增值稅普通發(fā)票案，犯罪嫌疑人就通過(guò)對(duì)他人的高清頭像和身份證信息進(jìn)行技術(shù)處理，讓照片“動(dòng)起來(lái)”，形成包括點(diǎn)頭、搖頭、眨眼、張嘴等動(dòng)作視頻，從而破解人臉識(shí)別技術(shù)，虛開增值稅普通發(fā)票，合計(jì)超過(guò)5億元。2020年1月，浙江省衢州市中級(jí)人民法院對(duì)一起侵犯公民個(gè)人信息的刑事案件進(jìn)行二次審判。據(jù)判決書顯示，自2018年7月開始，被告人以牟利為目的，通過(guò)使用軟件將非法獲取的公民頭像照片制作成3D頭像，從而通過(guò)支付寶人臉識(shí)別認(rèn)證注冊(cè)賬戶，非法獲利30324元。2019年，四川省成都市郫都區(qū)人民法院審理了一起利用3D人臉動(dòng)態(tài)圖破解支付寶人臉識(shí)別認(rèn)證系統(tǒng)的案件，被告人非法獲利2.4萬(wàn)余元。作為一種新的犯罪類型，利用“深度偽造”技術(shù)制作 3D人像破解人臉識(shí)別系統(tǒng)的犯罪手段具有較大的危害性，除了對(duì)公民財(cái)產(chǎn)權(quán)利構(gòu)成侵犯外，還可能構(gòu)成破壞金融管理秩序罪，如除對(duì)金融系統(tǒng)等需要身份認(rèn)證的網(wǎng)絡(luò)系統(tǒng)進(jìn)行破壞外，“深度偽造”對(duì)公民財(cái)產(chǎn)權(quán)利破壞應(yīng)用最多的場(chǎng)景就是網(wǎng)絡(luò)詐騙。聲音偽造在網(wǎng)絡(luò)詐騙和電信詐騙中的發(fā)案率比較高，有一些“猜猜我是誰(shuí)”的升級(jí)版已經(jīng)不需要用“猜”，因?yàn)椤奥曇簟备嬖V對(duì)方自己就是可信任的“朋友”，被騙者完全放松了警惕。隨著AI換臉的偽造視頻出現(xiàn)，利用視頻聊天來(lái)“面對(duì)面”行騙的危害就更大，受害人被騙的可能性很高，不能不加以嚴(yán)厲打擊。

（二）妨害社會(huì)管理秩序

1.制作虛假新聞，造成社會(huì)信任危機(jī)

虛假新聞已經(jīng)成為世界公害。美國(guó)皮尤研究中心2019年6月的一份報(bào)告稱，許多美國(guó)人都認(rèn)為虛假新聞已經(jīng)成了一個(gè)迫切需要解決的關(guān)鍵問(wèn)題。鑒于對(duì)虛假新聞的擔(dān)憂，美國(guó)人開始改變自己新聞獲取和閱讀的習(xí)慣，約 63%的人不再?gòu)哪硞€(gè)特定媒體渠道獲取新聞，約 52%的人改變了他們使用社交媒體的方式，約 43%的人減少了他們接受新聞的數(shù)量。網(wǎng)絡(luò)傳播中虛假新聞的危害不同于網(wǎng)絡(luò)詐騙的違法犯罪行為，后者的危害性直接且顯而易見，而前者的危害則來(lái)自眾多不良影響的疊加，并且具有一定的持續(xù)性。新聞以傳遞信息為主要目的，而信息是為了消除人們工作和生活中的隨機(jī)不確定性。如果新聞失真，就會(huì)對(duì)人們的工作和生產(chǎn)造成影響。首先，虛假新聞?dòng)绊懯鼙姷臎Q策與行為。利用“深度偽造”生產(chǎn)出的虛假新聞，可能誤導(dǎo)公眾的決策、誤導(dǎo)輿論方向、引發(fā)受眾的模仿。其次，“深度偽造”的新聞對(duì)于一般受眾來(lái)說(shuō)很難辨識(shí)，所以其在誤導(dǎo)輿論方面危害十分明顯。目前算法技術(shù)的發(fā)展使“個(gè)性化推薦”的應(yīng)用普遍存在?！吧疃葌卧臁奔夹g(shù)與算法結(jié)合，分析用戶喜好，推送符合其偏好的內(nèi)容，潛移默化地加深了固有的認(rèn)知模式，塑造了受眾的認(rèn)知偏好，使得虛假信息更具吸引力，其傳播速度比真消息更快 ，閱讀量也更高。再次，由于“深度偽造”技術(shù)門檻逐漸降低，網(wǎng)絡(luò)傳播中基于“深度偽造”技術(shù)生產(chǎn)的虛假新聞隨處可見，一般通過(guò)“換臉”視頻或圖片配以對(duì)應(yīng)的文字進(jìn)行播報(bào)。此類虛假新聞不僅可能侵犯原視頻或圖片作者的著作權(quán)，包括修改權(quán)、保護(hù)作品完整權(quán)、信息網(wǎng)絡(luò)傳播權(quán)等合法權(quán)益，而且還可能侵犯原作品表演者的表演權(quán)。最后，這些十分逼真的虛假新聞在欺騙了受眾后，會(huì)使受眾對(duì)媒體產(chǎn)生不信任感，進(jìn)而影響媒體的公信力。

2.偽造證據(jù)，妨害司法

法律注重證據(jù)，證據(jù)的真實(shí)性將直接影響案件的判決結(jié)果?！吧疃葌卧臁钡膬?nèi)容被用作證據(jù)時(shí)，由于缺乏對(duì)此類虛假影像資料的鑒別技術(shù)，虛假內(nèi)容將對(duì)司法實(shí)踐產(chǎn)生巨大的挑戰(zhàn)。2021年播出的電視劇《巡回檢察組》中就出現(xiàn)了篡改監(jiān)控視頻，將故意殺人偽造成過(guò)失致人死亡的情節(jié)，其中篡改視頻的技術(shù)正是“深度偽造”。雖然此類行為是以電視情節(jié)的方式出現(xiàn)，實(shí)務(wù)中尚未出現(xiàn)案例，且對(duì)技術(shù)、資金要求較高，但隨著“深度偽造”技術(shù)門檻的降低與人工智能的發(fā)展，并不能保證此類行為不會(huì)成為現(xiàn)實(shí)案例。法律面前人人平等，任何違法犯罪行為都應(yīng)當(dāng)受到法律的制裁，法律的尊嚴(yán)與權(quán)威不容踐踏。用“深度偽造”技術(shù)制造證據(jù)，會(huì)構(gòu)成妨害司法的犯罪。

（三）危害國(guó)家安全、公共安全

根據(jù)ASI數(shù)據(jù)科學(xué)公司的一項(xiàng)測(cè)試，通過(guò)語(yǔ)音生成算法，只需要借助兩小時(shí)的語(yǔ)料并訓(xùn)練五天時(shí)間，就可以模擬出一份以假亂真的特朗普向俄羅斯宣戰(zhàn)的語(yǔ)音。由于網(wǎng)絡(luò)傳播解構(gòu)了傳統(tǒng)意義上信息傳播的壟斷、控制、地域、國(guó)家等限制，傳播范圍具有全球性。如果不法分子利用“深度偽造”技術(shù)發(fā)布煽動(dòng)反對(duì)政府、挑撥民族和諧、分裂國(guó)家政權(quán)等內(nèi)容的視頻，再利用網(wǎng)絡(luò)傳播的全球性在各類網(wǎng)絡(luò)平臺(tái)中傳播，極易引發(fā)危害國(guó)家安全、危害公共安全、妨害社會(huì)管理秩序等犯罪，甚至還會(huì)對(duì)地區(qū)安全、國(guó)際和平造成巨大的影響。

綜上所述，“深度偽造”技術(shù)的不當(dāng)運(yùn)用不僅侵害公民、法人的民事權(quán)益，還對(duì)社會(huì)、國(guó)家造成危害，其危害程度已經(jīng)超出了民法調(diào)整的范圍，因此需要用刑法進(jìn)行及時(shí)應(yīng)對(duì)。

四、刑法規(guī)制正當(dāng)性：秩序與自由之爭(zhēng)

秩序與自由都是法律所保障的具體價(jià)值。秩序是法的目的性價(jià)值中的基礎(chǔ)性價(jià)值，“與法律永遠(yuǎn)相伴隨的基本價(jià)值，便是社會(huì)秩序”。秩序意味著控制，意味著社會(huì)對(duì)人的行為加以限制與禁止?！缎谭ā返?條明確規(guī)定了刑法的任務(wù)是保護(hù)公民權(quán)利、維護(hù)社會(huì)秩序、保衛(wèi)國(guó)家安全，這是秩序價(jià)值在刑法中的體現(xiàn)。刑法通過(guò)刑法規(guī)范，以犯罪行為人的行為為對(duì)象，以刑事制裁為手段，實(shí)現(xiàn)對(duì)社會(huì)行為的控制。刑罰是最嚴(yán)厲的一種法律制裁，它只能由國(guó)家有組織地實(shí)施。刑法規(guī)范是強(qiáng)制性規(guī)范，是社會(huì)秩序的最后保障。自由是社會(huì)價(jià)值體系中的核心要素之一。自由并不意味著“隨心所欲”，法律尊重自由，也保障自由，但自由在實(shí)際中卻受到諸多限制，一個(gè)人的自由以他人的權(quán)利為邊界，這就是基本的社會(huì)規(guī)范，也是基本的法律規(guī)范。社會(huì)規(guī)范對(duì)自由的限制包括自我限制與外在限制。自我限制是指主體主動(dòng)遵循社會(huì)規(guī)范，外在限制是主體被動(dòng)遵守社會(huì)規(guī)范。自由價(jià)值在刑法中體現(xiàn)為罪刑法定原則，該原則規(guī)定“法無(wú)明文規(guī)定不處罰”，目的在于限制國(guó)家濫用刑罰權(quán)，保障公民的自由。秩序與自由之間存在矛盾，但這種矛盾不是根本性、對(duì)抗性的沖突，在刑法中二者處于動(dòng)態(tài)平衡的狀態(tài)，在不同背景下有所側(cè)重。例如，《刑法》第246條第2款將侮辱、誹謗罪規(guī)定為“告訴才處理”的犯罪，但嚴(yán)重危害社會(huì)秩序和國(guó)家利益的除外。根據(jù)該條規(guī)定，一般情況下公民享有訴與不訴的自由，此時(shí)注重自由價(jià)值；一旦出現(xiàn)危害社會(huì)秩序和國(guó)家利益的情形就要強(qiáng)制提起公訴，此時(shí)秩序高于自由。

傳統(tǒng)刑法注重刑法的懲罰功能，以罪責(zé)理論為基礎(chǔ)，充分體現(xiàn)了對(duì)公民權(quán)利和自由的保障，符合法治國(guó)家的要求。但是，面對(duì)新型的技術(shù)風(fēng)險(xiǎn)時(shí)，傳統(tǒng)刑法滯后性的負(fù)面影響逐漸顯現(xiàn)，面對(duì)新型犯罪出現(xiàn)“無(wú)法歸責(zé)”的尷尬局面。這是因?yàn)閭鹘y(tǒng)刑法強(qiáng)調(diào)的是刑法的事后應(yīng)對(duì)，將實(shí)害結(jié)果作為刑法治理的出發(fā)點(diǎn)。然而，以“深度偽造”為代表的技術(shù)與網(wǎng)絡(luò)傳播相結(jié)合，其風(fēng)險(xiǎn)往往具有危害的嚴(yán)重性、影響的全球性和災(zāi)難的不可恢復(fù)性，如“深度偽造”中的“換臉”是由于面部生物信息泄露后引發(fā)的，不法侵害一旦發(fā)生便無(wú)法挽回，因?yàn)槊艽a信息泄露可以重新更換一組，但受害人個(gè)人信息泄露卻無(wú)法重新更換。為了防患于未然，法律必須對(duì)潛在的法益侵害加以防范。那么，以維護(hù)社會(huì)秩序?yàn)榧喝蔚男谭?，面?duì)新興技術(shù)風(fēng)險(xiǎn)必須作出相應(yīng)的回應(yīng)，必須從事后懲罰轉(zhuǎn)向事前預(yù)防，以保障法益不被實(shí)際侵害。

法律是社會(huì)的重要調(diào)節(jié)器，法律應(yīng)當(dāng)對(duì)社會(huì)問(wèn)題作出積極的回應(yīng)。當(dāng)技術(shù)風(fēng)險(xiǎn)帶來(lái)的犯罪危害超越傳統(tǒng)犯罪產(chǎn)生的危害后果時(shí)，就應(yīng)當(dāng)堅(jiān)持功能主義的立法觀，主動(dòng)介入變化了的社會(huì)生活及其社會(huì)實(shí)踐。一方面，將傳統(tǒng)刑法以自由為重心的價(jià)值取向，轉(zhuǎn)變?yōu)橐灾刃驗(yàn)橹匦?，?duì)“深度偽造”的自由和其偽造物傳播的自由進(jìn)行限制，強(qiáng)調(diào)傳播秩序的價(jià)值和法益保護(hù)的重要性。另一方面，注重發(fā)揮刑法的預(yù)防功能，防止不可逆轉(zhuǎn)的法益侵害后果發(fā)生。萬(wàn)物互聯(lián)的今天，網(wǎng)絡(luò)空間已成為億萬(wàn)民眾共同的精神家園，而“深度偽造”產(chǎn)物的大肆傳播，污染了原本良好的網(wǎng)絡(luò)生態(tài)環(huán)境，有人利用網(wǎng)絡(luò)鼓吹推翻國(guó)家政權(quán)、煽動(dòng)宗教極端主義、宣揚(yáng)民族分裂思想、教唆暴力恐怖活動(dòng)，利用網(wǎng)絡(luò)進(jìn)行欺詐活動(dòng)，散布色情材料，嚴(yán)重破壞了社會(huì)秩序，危及國(guó)家安全，讓民眾感到不安與恐懼。在此特定背景下，民眾對(duì)于穩(wěn)定秩序和維護(hù)安全的渴望超越了對(duì)自由的追求，通過(guò)發(fā)揮刑法的預(yù)防功能，阻止侵害公民權(quán)利、擾亂社會(huì)秩序、挑起各種爭(zhēng)端的犯罪行為發(fā)生。

五、刑法規(guī)制路徑：公平分配各主體責(zé)任

“深度偽造”是人工智能技術(shù)發(fā)展帶來(lái)的負(fù)效應(yīng)，雖然其對(duì)社會(huì)造成了潛在的技術(shù)風(fēng)險(xiǎn)，但法律卻并不能直接對(duì)技術(shù)本身進(jìn)行規(guī)制，刑法規(guī)制的客體是利用“深度偽造”及生產(chǎn)內(nèi)容進(jìn)行犯罪的行為。2020年1月1日起實(shí)施的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》就規(guī)定，“網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)”。對(duì)于違法違規(guī)內(nèi)容，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)及時(shí)停止傳輸該信息，并采取消除等處置措施，防止信息擴(kuò)散?！吧疃葌卧臁奔夹g(shù)及其生產(chǎn)的內(nèi)容在網(wǎng)絡(luò)中的傳播是一個(gè)完整的產(chǎn)業(yè)鏈，在這個(gè)產(chǎn)業(yè)鏈上包括了技術(shù)提供、內(nèi)容生產(chǎn)、內(nèi)容傳播、網(wǎng)絡(luò)服務(wù)等不同主體。各主體所處位置不同，發(fā)揮的作用也不同，因此所要承擔(dān)的職責(zé)也各不相同。面對(duì)新興風(fēng)險(xiǎn)，雖主張發(fā)揮刑法的積極預(yù)防作用，但罪刑法定原則始終是刑法的核心。因此，“深度偽造”技術(shù)刑事規(guī)制中最主要的步驟在于明確各主體的責(zé)任即主觀要件。在違法行為已經(jīng)發(fā)生，即法益已經(jīng)遭受侵害的前提下，根據(jù)各主體的主觀要件來(lái)分析其責(zé)任，從而判斷其行為是否構(gòu)成犯罪，是否應(yīng)當(dāng)受刑罰處罰。

（一）技術(shù)提供者

這里的技術(shù)提供者主要是指提供“深度偽造”技術(shù)的軟件開發(fā)者、網(wǎng)站制作者等。技術(shù)提供者的主觀責(zé)任分為故意和過(guò)失?！肮室狻笔侵讣夹g(shù)提供者開發(fā)“深度偽造”技術(shù)軟件的目的是用于犯罪，那么該技術(shù)提供者的行為構(gòu)成犯罪。例如，“DeepNude”（深裸）就是依托“深度偽造”技術(shù)開發(fā)出來(lái)的軟件，使用者僅需提供任何一張女性的照片，該軟件就可以通過(guò)算法自動(dòng)生成裸體照片。這類軟件開發(fā)者的主觀惡意明顯，這些軟件嚴(yán)重侵害了女性的人身權(quán)益，也因傳播淫穢色情而妨害社會(huì)管理秩序。“過(guò)失”是指技術(shù)提供者未盡到其應(yīng)盡的注意義務(wù)。技術(shù)提供者基于其專業(yè)的知識(shí)背景，對(duì)其開發(fā)制造的產(chǎn)品及其影響應(yīng)當(dāng)承擔(dān)與其能力相當(dāng)?shù)淖⒁饬x務(wù)。雖然技術(shù)提供者應(yīng)當(dāng)為自己未盡到注意義務(wù)而承擔(dān)責(zé)任，但注意義務(wù)也存在限度，畢竟“法律不能強(qiáng)人所難”。根據(jù)《刑法》第15條規(guī)定，違反注意義務(wù)是構(gòu)成過(guò)失犯罪的必要非充分條件。也就是說(shuō)，當(dāng)技術(shù)提供者未盡到注意義務(wù)時(shí)，是否成立過(guò)失犯罪應(yīng)當(dāng)具體問(wèn)題具體分析。原因在于技術(shù)具有“自主性”，“深度偽造”技術(shù)作為人工智能的產(chǎn)物，具備深度學(xué)習(xí)能力，可能與其他技術(shù)耦合而產(chǎn)生超出技術(shù)提供者預(yù)期的“新技能”，技術(shù)提供者對(duì)此類結(jié)果不具有期待可能性，此時(shí)要求其承擔(dān)刑事責(zé)任不符合罪刑法定原則的精神。

（二）內(nèi)容生產(chǎn)者

“深度偽造”的內(nèi)容生產(chǎn)者是技術(shù)的使用者，他們運(yùn)用“深度偽造”技術(shù)進(jìn)行文本、圖片、音頻和視頻的偽造。我們一直樂(lè)觀地堅(jiān)持技術(shù)中立的觀念，對(duì)技術(shù)所帶來(lái)的效益懷有極高的、不理性的期待。但事實(shí)卻往往與愿望相左，技術(shù)中立并不等于技術(shù)使用也是中立的，技術(shù)會(huì)被使用者帶偏方向，走向人類良好愿望的反面。技術(shù)風(fēng)險(xiǎn)的特征之一是“人為性”，即技術(shù)使用者可以用善意來(lái)為人類創(chuàng)造價(jià)值，但是也可能懷有惡意而給人類帶來(lái)災(zāi)難。除個(gè)別用于音樂(lè)、影視、廣告等娛樂(lè)領(lǐng)域外，大部分“深度偽造”的內(nèi)容都可能與違法犯罪活動(dòng)有關(guān)聯(lián)，除了色情視頻泛濫之外，人們更擔(dān)心的是侵害公民隱私、威脅信息安全、制造社會(huì)矛盾、破壞民族團(tuán)結(jié)、操縱政治選舉、煽動(dòng)分裂國(guó)家等方面的問(wèn)題。上述行為可根據(jù)《刑法》第363條制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪，第364條傳播淫穢物品罪，第291條之一編造、故意傳播虛假恐怖信息罪，編造、故意傳播虛假信息罪，第246條侮辱罪、誹謗罪，第249條煽動(dòng)民族仇恨、民族歧視罪，第120條之三宣揚(yáng)恐怖主義、極端主義、煽動(dòng)實(shí)施恐怖活動(dòng)罪，第103條煽動(dòng)分裂國(guó)家罪，以及第105條煽動(dòng)顛覆國(guó)家政權(quán)罪等條款，對(duì)生產(chǎn)相關(guān)“深度偽造”內(nèi)容者進(jìn)行處罰。對(duì)于“深度偽造”內(nèi)容的生產(chǎn)者來(lái)說(shuō)，一般都明知自己的行為會(huì)產(chǎn)生什么樣的危害后果，并且還希望或放任這種結(jié)果發(fā)生，因此屬于故意犯罪。

（三）內(nèi)容傳播者

“深度偽造”內(nèi)容傳播者的主觀責(zé)任僅包括故意。對(duì)于內(nèi)容傳播者而言，不管是首發(fā)還是轉(zhuǎn)發(fā)，都應(yīng)當(dāng)對(duì)傳播內(nèi)容的真實(shí)性、合法性有注意義務(wù)。在不能確信傳播內(nèi)容真實(shí)性和合法性的情況下，應(yīng)當(dāng)停止對(duì)該內(nèi)容的傳播。所以，從立法的原意來(lái)看，之所以強(qiáng)調(diào)傳播者的主觀責(zé)任僅包括故意，就是為了強(qiáng)化注意義務(wù)。一旦傳播者傳播某一“深度偽造”的內(nèi)容，不管他是否明知該內(nèi)容虛假不實(shí)、違規(guī)違法，都推定該傳播者明知或者應(yīng)知該內(nèi)容真實(shí)合法。《刑法》第363條關(guān)于傳播淫穢物品入罪的條件是“以牟利為目的”，而第364條“傳播淫穢物品罪”則沒(méi)有，但都有“情節(jié)嚴(yán)重”這一入罪條件?！蹲罡呷嗣穹ㄔ?、最高人民檢察院關(guān)于辦理利用互聯(lián)網(wǎng)、移動(dòng)通訊終端、聲訊臺(tái)制作、復(fù)制、出版、販賣、傳播淫穢電子信息刑事案件具體應(yīng)用法律若干問(wèn)題的解釋（二）》對(duì)“情節(jié)嚴(yán)重”和“情節(jié)特別嚴(yán)重”進(jìn)行了量化。如果傳播淫穢物品達(dá)到“情節(jié)嚴(yán)重”的標(biāo)準(zhǔn)，則不管是否以牟利為目的，都構(gòu)成犯罪。

（四）網(wǎng)絡(luò)服務(wù)提供者

網(wǎng)絡(luò)服務(wù)提供者在網(wǎng)絡(luò)傳播時(shí)代的職責(zé)主要是為內(nèi)容生產(chǎn)者和傳播者提供平臺(tái)、通道，它既不生產(chǎn)內(nèi)容，也不直接傳播內(nèi)容，但卻和內(nèi)容的傳播、意義的產(chǎn)生關(guān)系十分密切。參考《中華人民共和國(guó)民法典》第1194條至1197條的相關(guān)規(guī)定，網(wǎng)絡(luò)服務(wù)提供者是網(wǎng)絡(luò)傳播過(guò)程中法律責(zé)任的主要承擔(dān)者之一，這種責(zé)任主要包括：當(dāng)網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實(shí)施犯罪后，收到通知就必須采取刪除、屏蔽、斷開鏈接等必要措施，不采取措施也應(yīng)承擔(dān)刑事責(zé)任；網(wǎng)絡(luò)服務(wù)提供者知道或者應(yīng)當(dāng)知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)實(shí)施犯罪，未采取必要措施的應(yīng)承擔(dān)刑事責(zé)任。由此可見，網(wǎng)絡(luò)服務(wù)提供者因不作為而造成后果的需要承擔(dān)刑事責(zé)任?！毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第12條和《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第47條都規(guī)定，網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的，應(yīng)當(dāng)依法依約停止傳輸該信息，采取消除等處置措施，防止信息擴(kuò)散，保存有關(guān)記錄，并向有關(guān)部門報(bào)告。停止傳輸違法信息、消除違法信息等措施具體包括刪除、屏蔽、斷開鏈接等，對(duì)于未履行規(guī)定義務(wù)的網(wǎng)絡(luò)服務(wù)提供者可以按照《刑法》第286條的“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”進(jìn)行處罰。

六、結(jié)語(yǔ)

通過(guò)刑法的預(yù)防功能規(guī)制“深度偽造”技術(shù)帶來(lái)的犯罪風(fēng)險(xiǎn)雖然有不可低估的作用，但是其所伴隨而生的問(wèn)題也無(wú)法回避。首先，對(duì)“深度偽造”的風(fēng)險(xiǎn)評(píng)估難，對(duì)風(fēng)險(xiǎn)的認(rèn)知與評(píng)估容易受到主體主觀因素的影響，不易量化，無(wú)法做到準(zhǔn)確測(cè)定。安全問(wèn)題是社會(huì)心理構(gòu)造之下的產(chǎn)物，公眾對(duì)于風(fēng)險(xiǎn)的認(rèn)知與評(píng)估差異性大，因此可能并不切合實(shí)際，由此容易導(dǎo)致對(duì)安全的訴求也不一定合乎理性。其次，強(qiáng)調(diào)刑法的秩序價(jià)值易造成對(duì)公民自由的侵害，因?yàn)閷?duì)風(fēng)險(xiǎn)的預(yù)判缺乏統(tǒng)一性與確定性，那么也就可能模糊了刑法與行政法的邊界。最后，過(guò)度的規(guī)制會(huì)阻遏技術(shù)和經(jīng)濟(jì)的發(fā)展，為了某種夸大的技術(shù)風(fēng)險(xiǎn)而使刑法對(duì)“深度偽造”從嚴(yán)規(guī)制，加強(qiáng)了法律限制，進(jìn)而可能妨礙甚至制約信息技術(shù)的發(fā)展。