黃小明

我國(guó)既有的一些法律法規(guī)已經(jīng)將“深度偽造”涵蓋其中，如《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》《民法典》人格權(quán)編等，正在制訂中的《數(shù)據(jù)安全管理辦法》對(duì)此也會(huì)予以回應(yīng)。在已有的立法中，很多關(guān)于“不實(shí)信息”“虛假?gòu)V告”的立法均可以擴(kuò)大解釋?zhuān)鳛橐?guī)制“深度偽造”的法律依據(jù)，如《治安管理處罰法》第25條、《廣告法》第4條及第28條、《刑法》第291條等。

盡管不必急于針對(duì)“深度偽造”進(jìn)行統(tǒng)一的專(zhuān)門(mén)性立法，但并不妨礙我國(guó)政府根據(jù)國(guó)內(nèi)的實(shí)際情況，參照國(guó)外經(jīng)驗(yàn)，從以下兩個(gè)方面完善因應(yīng)“深度偽造”的法律框架。

規(guī)制模式的選擇

采用“政府+公司+行業(yè)”的合作規(guī)制模式。

從規(guī)制空間的角度看，對(duì)“深度偽造”的規(guī)制本質(zhì)上可以納入廣泛意義上的互聯(lián)網(wǎng)規(guī)制。從歷史沿革來(lái)看，互聯(lián)網(wǎng)規(guī)制大致經(jīng)歷了三個(gè)階段，分別是20世紀(jì)90年代的自我規(guī)制、21世紀(jì)初的重新規(guī)制以及自2005年開(kāi)始的合作規(guī)制。

一般認(rèn)為，合作規(guī)制是一種可執(zhí)行的、嚴(yán)格的規(guī)制模式，它可以在強(qiáng)化政府規(guī)制的同時(shí)，發(fā)揮自我規(guī)制的靈活性;可以在保護(hù)公民合法權(quán)益的同時(shí)，適應(yīng)科學(xué)技術(shù)的不斷發(fā)展。因此，就“深度偽造”的規(guī)制模式而言，應(yīng)當(dāng)選擇合作規(guī)制，共同發(fā)揮政府、公司和行業(yè)的作用。

一是完善政府的算法監(jiān)管職責(zé)。

雖然“深度偽造”處于整個(gè)互聯(lián)網(wǎng)大環(huán)境中，但是其運(yùn)作原理和載體的核心是算法。因此，首先應(yīng)當(dāng)明確政府部門(mén)的算法監(jiān)管職責(zé)。我國(guó)《電子商務(wù)法》第18條、第40條首次對(duì)網(wǎng)絡(luò)平臺(tái)的算法責(zé)任進(jìn)行了規(guī)定，它體現(xiàn)了立法者對(duì)算法的地位和作用的合理認(rèn)知，也將風(fēng)險(xiǎn)預(yù)防原則融入網(wǎng)絡(luò)平臺(tái)治理，變“事后監(jiān)管”為“事前監(jiān)管”。

然而，上述法條依然存在不夠具體、實(shí)踐操作困難等問(wèn)題。換言之，對(duì)于未履行算法責(zé)任的網(wǎng)絡(luò)平臺(tái)，執(zhí)法部門(mén)難以進(jìn)行有效的監(jiān)督。

有鑒于此，應(yīng)當(dāng)建立算法問(wèn)責(zé)制。在《個(gè)人信息保護(hù)法》或《數(shù)據(jù)安全法》中，應(yīng)明確政府部門(mén)的算法監(jiān)管職責(zé)，作為行政機(jī)關(guān)對(duì)“深度偽造”等算法進(jìn)行規(guī)制的一般性依據(jù)。

二是強(qiáng)化網(wǎng)絡(luò)平臺(tái)的法律責(zé)任。

社交媒體平臺(tái)的快速發(fā)展，加劇了“深度偽造”信息的傳播。社交媒體具有的“匿名”或“杜撰身份”的特征，對(duì)于計(jì)劃利用互聯(lián)網(wǎng)刻意散播“深度偽造”假信息的“有心人”來(lái)說(shuō)，大幅降低了其散播“深度偽造”信息的成本;通過(guò)社交媒體平臺(tái)的分享功能，這類(lèi)信息能夠快速且大量地傳播，亦令行動(dòng)迅速且有實(shí)效性的監(jiān)管機(jī)制難以建立。因此，網(wǎng)絡(luò)平臺(tái)在“深度偽造”規(guī)制體系中的地位越發(fā)突出。然而，關(guān)于政府是否應(yīng)當(dāng)以及如何規(guī)制社交媒體平臺(tái)的“虛假信息”問(wèn)題，目前各界尚未形成共識(shí)。

我國(guó)《網(wǎng)絡(luò)安全法》第47條規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者對(duì)其用戶(hù)發(fā)布的信息負(fù)有監(jiān)督管理責(zé)任，一旦發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或傳輸?shù)男畔?，?yīng)當(dāng)立即停止傳輸該信息，并采取刪除等措施。《網(wǎng)絡(luò)安全法》第49條還規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)建立舉報(bào)制度，公布投訴、舉報(bào)方式等信息。

《網(wǎng)絡(luò)安全法》的規(guī)定為網(wǎng)絡(luò)平臺(tái)對(duì)“深度偽造”信息的管理提供了依據(jù)。在此基礎(chǔ)上，應(yīng)當(dāng)進(jìn)一步細(xì)化網(wǎng)絡(luò)平臺(tái)的三項(xiàng)義務(wù)：一是“通知—?jiǎng)h除”義務(wù)。網(wǎng)絡(luò)平臺(tái)接到受害人的舉報(bào)后，應(yīng)當(dāng)在規(guī)定時(shí)間內(nèi)對(duì)明顯違法的“深度偽造”信息進(jìn)行刪除;二是“發(fā)現(xiàn)—?jiǎng)h除”義務(wù)。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)主動(dòng)對(duì)其用戶(hù)發(fā)布的“深度偽造”信息進(jìn)行核查，對(duì)于明顯違法的，應(yīng)當(dāng)予以刪除;三是“發(fā)現(xiàn)—標(biāo)記”義務(wù)。網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)主動(dòng)對(duì)其用戶(hù)發(fā)布的“深度偽造”信息進(jìn)行核查，對(duì)于難以確定合法性的“深度偽造”信息，應(yīng)當(dāng)予以明確標(biāo)記，提醒公眾注意。

三是發(fā)揮行業(yè)的自我規(guī)制作用。

所謂自我規(guī)制，即利用社會(huì)私人主體的自律性行為間接達(dá)成規(guī)制目的，用以協(xié)助國(guó)家完成公共任務(wù)。換言之，當(dāng)大量公司和個(gè)人對(duì)其行為施加控制時(shí)，就會(huì)形成自我規(guī)制。一般情況下，是否將自我規(guī)制的要素納入政府規(guī)制框架，主要取決于對(duì)專(zhuān)業(yè)知識(shí)和效率的考慮。

純粹的自我規(guī)制，往往在授權(quán)、問(wèn)責(zé)制和程序公平等相關(guān)問(wèn)題上受到質(zhì)疑。

一度風(fēng)靡的“換臉”軟件“ZAO”

有鑒于此，有學(xué)者提出“強(qiáng)制性自我規(guī)制”，即利用透明度、責(zé)任、目標(biāo)性、一致性等規(guī)制因素來(lái)彌補(bǔ)純粹的自我規(guī)制的不足，同時(shí)取代傳統(tǒng)的命令和控制型規(guī)制。歐盟近年來(lái)在個(gè)人數(shù)據(jù)保護(hù)、不實(shí)信息消除等領(lǐng)域都引入了“強(qiáng)制性自我規(guī)制”。

我國(guó)可以以此為鑒，發(fā)揮行業(yè)在“深度偽造”規(guī)制框架中的作用，通過(guò)行業(yè)共識(shí)制定一些行為準(zhǔn)則或倡議，約束技術(shù)人員及私營(yíng)企業(yè)的行為，提高規(guī)制的有效性及效率。

例如，2019年5月25日，由多家高校、研究機(jī)構(gòu)、企業(yè)聯(lián)盟共同發(fā)布的《人工智能北京共識(shí)》，以及2019年6月17日，由國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》等，都是行業(yè)在加強(qiáng)自我規(guī)制方面的努力和探索成果。

規(guī)制工具的運(yùn)用

采用“技術(shù)+約談+信用”的復(fù)合規(guī)制工具。

規(guī)制工具的多元化，是合作規(guī)制的重要特征之一?！吧疃葌卧臁庇绊懮钸h(yuǎn)，單純依靠行政處罰等傳統(tǒng)“事后監(jiān)管”手段恐難奏效。因此，在保留行政處罰等剛性手段的同時(shí)，適當(dāng)引入技術(shù)性規(guī)制、行政約談、信用規(guī)制等柔性手段，可以涵蓋事前、事中和事后各階段，實(shí)現(xiàn)對(duì)“深度偽造”的全周期規(guī)制。

一是利用技術(shù)進(jìn)行規(guī)制。

就“深度偽造”的技術(shù)規(guī)制而言，目前可行的策略主要體現(xiàn)在兩個(gè)方面：其一，建立系統(tǒng)性的“事實(shí)核查機(jī)制”。所謂“事實(shí)核查機(jī)制”，是指通過(guò)媒體、獨(dú)立機(jī)構(gòu)等非政府組織，配合網(wǎng)絡(luò)科技（算法、大數(shù)據(jù)、AI、云計(jì)算等）搜索公開(kāi)信息及訪查可靠信息來(lái)源，審視網(wǎng)絡(luò)言論，特別是公眾人物、網(wǎng)紅大V等的公開(kāi)發(fā)言，判斷其內(nèi)容是否真實(shí)。事實(shí)核查可以在作品發(fā)布或以其他方式公開(kāi)之前進(jìn)行，也可以在作品發(fā)布之后進(jìn)行。

目前，國(guó)際上比較有代表性的第三方事實(shí)核查機(jī)構(gòu)是“PolitiFact”，該機(jī)構(gòu)的記者對(duì)原始聲明進(jìn)行評(píng)估，并在PolitiFact.com網(wǎng)站上公布他們的調(diào)查結(jié)果。在PolitiFact.com網(wǎng)站上，每一份聲明都會(huì)獲得“Truth-O-Meter”評(píng)級(jí)。

目前，一些社交媒體公司也建立了事實(shí)核查機(jī)制。例如，美國(guó)“臉書(shū)”為應(yīng)對(duì)“虛假信息”建立了四種機(jī)制：FactCheck.org（通過(guò)第三方國(guó)際機(jī)構(gòu)核查網(wǎng)站信息的真實(shí)性）、News Literacy（辨識(shí)不實(shí)報(bào)道的10個(gè)原則）、Informed Sharing（若發(fā)現(xiàn)文不對(duì)題的新聞或帖文，就降低其在“臉書(shū)”信息流上的排序）、Related Articles（發(fā)布一則新聞時(shí)，提供至少兩則相關(guān)新聞的鏈接）。我國(guó)可以以此為鑒，在法治框架內(nèi)，完善不同類(lèi)型的事實(shí)核查機(jī)制。

其二，開(kāi)發(fā)專(zhuān)門(mén)的“深度偽造”辨識(shí)技術(shù)?！吧疃葌卧臁钡谋孀R(shí)是規(guī)制框架中的核心部分。只有辨識(shí)出“深度偽造”內(nèi)容，才能進(jìn)一步采取相應(yīng)的應(yīng)對(duì)措施。目前，美國(guó)一些官方機(jī)構(gòu)、民間組織、私營(yíng)企業(yè)都在開(kāi)發(fā)“深度偽造”辨識(shí)技術(shù)。我國(guó)也面臨“深度偽造”造成的威脅，相關(guān)技術(shù)的發(fā)展應(yīng)當(dāng)引起政府部門(mén)、私營(yíng)企業(yè)和科研機(jī)構(gòu)的高度重視。

二是利用行政約談進(jìn)行規(guī)制。

行政約談作為一種柔性規(guī)制工具，近年來(lái)隨著互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，逐漸成為互聯(lián)網(wǎng)信息規(guī)制的重要工具。一方面，行政約談在制度理念上體現(xiàn)了“回應(yīng)性規(guī)制”，即按照規(guī)制工具的威懾效力，依循“執(zhí)法金字塔”自下而上逐級(jí)選擇;另一方面，行政約談成為政府規(guī)制機(jī)構(gòu)傳遞規(guī)制信息的工具，并將部分規(guī)制責(zé)任“分包”給互聯(lián)網(wǎng)平臺(tái)。

在實(shí)踐中，我國(guó)政府的規(guī)制機(jī)構(gòu)已經(jīng)將行政約談引入“深度偽造”規(guī)制。例如，名為“ZAO”的AI換臉App在全社會(huì)引發(fā)熱議之時(shí)，我國(guó)工業(yè)和信息化部網(wǎng)絡(luò)安全管理局就對(duì)“ZAO”的運(yùn)營(yíng)公司進(jìn)行了問(wèn)詢(xún)約談，要求其開(kāi)展自查整改，強(qiáng)化個(gè)人信息保護(hù)。未來(lái)，我國(guó)可以總結(jié)行政約談的經(jīng)驗(yàn)教訓(xùn)，完善行政約談的程序機(jī)制、監(jiān)督機(jī)制及救濟(jì)機(jī)制，發(fā)揮其在“深度偽造”規(guī)制中的作用。

三是利用信用工具進(jìn)行規(guī)制。

“深度偽造”技術(shù)本身涉及誠(chéng)信問(wèn)題，其不當(dāng)使用很有可能加劇社會(huì)誠(chéng)信危機(jī)。當(dāng)前，我國(guó)正在進(jìn)行社會(huì)信用體系建設(shè)。一方面，利用信用工具來(lái)應(yīng)對(duì)社會(huì)誠(chéng)信危機(jī);另一方面，借助信用工具來(lái)規(guī)范和加強(qiáng)“事中、事后監(jiān)管”。

信用工具是政府規(guī)制機(jī)構(gòu)在履行職責(zé)的過(guò)程中，通過(guò)收集公民、法人或其他組織的公共信用信息，對(duì)信用狀況進(jìn)行評(píng)價(jià)，并將結(jié)果予以公開(kāi)和使用，以實(shí)現(xiàn)規(guī)制目標(biāo)的規(guī)制工具。未來(lái)，若個(gè)人、法人或其他組織濫用“深度偽造”技術(shù)，并引發(fā)較大的法律風(fēng)險(xiǎn)，政府規(guī)制機(jī)構(gòu)在法治框架內(nèi)可以考慮將其納入信用評(píng)價(jià)范疇，利用信用工具對(duì)其予以規(guī)制。