梅鵬超 王鵬遠(yuǎn)

習(xí)近平總書記指出：“網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益；網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化，不符合人民利益。”互聯(lián)網(wǎng)的發(fā)展推動了全球政治、經(jīng)濟(jì)與文化的交流和共享，改善了人們的生產(chǎn)生活方式，但同時也給有害信息的滋生和蔓延提供了條件。因此，加強(qiáng)網(wǎng)上有害信息治理，已然成為凈化網(wǎng)絡(luò)生態(tài)，維護(hù)國家網(wǎng)絡(luò)空間安全和政治穩(wěn)定，保障人民群眾切身利益的重要工作。近年來，以歐盟、美國等為代表的發(fā)達(dá)經(jīng)濟(jì)體在治理網(wǎng)上有害信息方面進(jìn)行了有益實踐。研究學(xué)習(xí)這些經(jīng)驗做法，對于推動我國網(wǎng)上有害信息治理工作的開展具有積極意義。

做法

1.加強(qiáng)網(wǎng)絡(luò)社交平臺監(jiān)管

2018年1月1日，德國《社交媒體管理法》正式實施，對包括臉書、推特等提供內(nèi)容服務(wù)的社交網(wǎng)絡(luò)平臺提出了嚴(yán)格的監(jiān)管要求。根據(jù)該法，在德國擁有200萬以上用戶的社交網(wǎng)絡(luò)平臺須自行承擔(dān)清理其平臺上涉及誹謗、詆毀和暴力煽動內(nèi)容的責(zé)任，且必須在7天內(nèi)刪除用戶舉報的非法內(nèi)容，明顯的違法言論需在舉報后24小時內(nèi)刪除或屏蔽，爭議言論也必須在舉報后7日內(nèi)作出處理，否則將面臨最高達(dá)5000萬歐元的罰款[1]。2019年4月，英國發(fā)布了《在線社交媒體平臺行為準(zhǔn)則》和《網(wǎng)絡(luò)危害白皮書》（簡稱《白皮書》），要求強(qiáng)化社交網(wǎng)絡(luò)平臺的自我監(jiān)管，倡導(dǎo)社交媒體平臺承擔(dān)在其平臺上發(fā)布的不良言論的監(jiān)管責(zé)任?！栋灼分饕槍υ试S用戶自主創(chuàng)作并分享內(nèi)容的網(wǎng)絡(luò)平臺，包括推特、臉書、Instagram、論壇、網(wǎng)盤以及搜索引擎等，強(qiáng)制要求社交媒體網(wǎng)站刪除包含暴力、虛假信息及網(wǎng)絡(luò)欺凌等在內(nèi)的有害內(nèi)容。《白皮書》還指出，英國政府將立法規(guī)定社交媒體公司應(yīng)履行的法律義務(wù)，同時成立一個獨(dú)立的監(jiān)管機(jī)構(gòu)，負(fù)責(zé)監(jiān)管社交媒體，它將有權(quán)對違法的公司開出巨額罰單、要求其關(guān)閉網(wǎng)頁，甚至追究公司高管的個人責(zé)任[2]。

2.嚴(yán)厲打擊網(wǎng)上虛假信息

2018年7月，法國通過《反假新聞法》，旨在更有效地阻止假新聞的傳播。2018年9月26日，歐洲主要線上平臺、社交媒體巨頭、廣告主和廣告經(jīng)營者聯(lián)合發(fā)布?xì)W盟首份《反虛假信息行為守則》，以應(yīng)對假新聞和網(wǎng)絡(luò)虛假信息，其中將“虛假信息”定義為可驗證的虛假或具有誤導(dǎo)性的信息，系出于謀取經(jīng)濟(jì)利益或故意欺騙公眾的目的，而被創(chuàng)造、展示和傳播的以及可對公眾造成損害、對民主政治和決策過程、公共利益（如歐盟公民的健康、環(huán)境或安全等）產(chǎn)生威脅的信息[3]。2018年12月，美國參議員提出《2018年惡意偽造禁令法案》，旨在規(guī)范制作并散布深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的平臺。2019年6月28日，美國參眾兩院提出一項名為《深度偽造報告法》（Deepfake Report Act）的兩黨合作法案，目的在于減少使用人工智能（AI）技術(shù)操縱原創(chuàng)視頻內(nèi)容的“深度偽造（Deepfake）”視頻的危害。根據(jù)該法案，“深度偽造”視頻是指利用人工智能技術(shù)對真實內(nèi)容進(jìn)行超現(xiàn)實的數(shù)字化篡改，使之成為并未真實發(fā)生的事情。2019年9月，美國通過名為《識別對抗生成網(wǎng)絡(luò)輸出法案》（IOGAN法案）的立法，要求國家科學(xué)基金會（NSF）和國家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）加快對被操縱的具有破壞性的視頻進(jìn)行檢測，以打擊日益猖獗的深度偽造技術(shù)。

3.重點(diǎn)整治網(wǎng)上極端主義思想和內(nèi)容

2017年5月，七國集團(tuán)峰會（G7 Summit）在意大利陶爾米納舉行。七國集團(tuán)發(fā)表聲明，呼吁互聯(lián)網(wǎng)服務(wù)提供商和社交媒體巨頭采取行動打擊極端分子的在線內(nèi)容，并鼓勵行業(yè)立即開發(fā)并分享新技術(shù)和工具，以提升自動檢測暴力煽動內(nèi)容的能力。2017年9月，原英國首相特蕾莎·梅在與臉書、微軟、推特及谷歌等公司的一次會議上敦促與會企業(yè)持續(xù)更新探測和消除有害信息的技術(shù)，并要求大型互聯(lián)網(wǎng)公司在2小時內(nèi)自動刪除恐怖主義內(nèi)容。2019年4月，歐洲議會通過《關(guān)于解決在線傳播恐怖主義內(nèi)容的規(guī)則》，規(guī)定如果臉書、谷歌以及推特等網(wǎng)絡(luò)、社交公司不能在被監(jiān)管部門要求后的1小時內(nèi)移除極端主義內(nèi)容，可向它們征收多達(dá)全球營業(yè)收入4%的罰款[4]。2019年5月15日，多個國家政府首腦、部門主管以及科技企業(yè)代表在巴黎舉行特別會議，共同商討有關(guān)防止社交媒體傳播極端主義的議題。會議發(fā)布了“克賴斯特徹奇呼吁”，要求政府和在線服務(wù)提供商集體地且自愿地承諾消除恐怖主義、極端主義和暴力內(nèi)容，以防止互聯(lián)網(wǎng)被濫用。據(jù)悉，已有加拿大、澳大利亞、英國、新西蘭、德國、法國、歐盟委員會、印度尼西亞、印度、愛爾蘭、意大利、日本、約旦、荷蘭、挪威、塞內(nèi)加爾、西班牙和瑞典等國家及國際政府以及臉書、谷歌、推特、亞馬遜、微軟、Daily Motion、Qwant和YouTube8家科技公司在這份呼吁上簽字[5]。

特點(diǎn)和趨勢

1.技術(shù)過濾成為主流趨勢

近年來，西方國家主要社交媒體越來越重視運(yùn)用人工智能、語音識別及圖片視頻識別等新技術(shù)手段來過濾網(wǎng)上有害信息。2015年3月，推特推出一項名為“質(zhì)量過濾器”（Quality filter）的測試功能，聲稱能夠刪除限定時間內(nèi)所有包含威脅、攻擊性、虐待的信息或者從可疑賬號發(fā)送的信息[6]。2018年9月，谷歌發(fā)布人工智能工具“內(nèi)容安全應(yīng)用程序界面”（Content Safety API），用于識別網(wǎng)上兒童性侵圖片。據(jù)稱該技術(shù)能幫助審查人員識別出與無此技術(shù)相比多700%的兒童性侵犯內(nèi)容。同年10月，臉書宣稱公司借助自動標(biāo)注識別圖片工具累計刪除870萬張兒童色情圖片，同時開發(fā)出了一款代號為“Rosetta”的新型人工智能系統(tǒng)，可用于檢測仇恨性言論。

2.設(shè)立專門機(jī)構(gòu)并強(qiáng)化跨國合作

2016年12月，德國宣布成立“假新聞防御中心”，該中心由聯(lián)邦新聞辦公室組建，專門打擊虛假新聞。2017年10月，英國撥款組建打擊網(wǎng)絡(luò)仇恨的專職部門，處理針對少數(shù)群體的網(wǎng)絡(luò)侮辱和謠言、謾罵。2017年4月，來自歐盟和北約的9個國家在芬蘭赫爾辛基聯(lián)合簽署成立“混合威脅”中心，以應(yīng)對網(wǎng)絡(luò)攻擊和其他新興領(lǐng)域威脅，如故意散布傳播的虛假消息等。美國、英國、法國、德國、瑞典、波蘭、芬蘭、拉脫維亞和立陶宛成為首批成員。2018年2月，美國國務(wù)院宣布已經(jīng)與國防部簽訂協(xié)議，將從國防部獲得4000萬美元以加強(qiáng)其所屬全球作戰(zhàn)中心打擊外國宣傳和虛假信息的工作。據(jù)了解，全球作戰(zhàn)中心成立于2016年4月，是奧巴馬任美國總統(tǒng)期間設(shè)立的揭露和反擊外國虛假宣傳的辦公室。

3.服務(wù)于政治目的

網(wǎng)上有害信息嚴(yán)重?fù)p害了國家領(lǐng)導(dǎo)人的政治形象，給選舉帶來重大威脅。法國2018年頒布的《反假新聞法》，旨在遏制選舉期間出現(xiàn)的虛假新聞，打擊境外勢力“操縱新聞”的企圖。2019年5月，加拿大出臺的《數(shù)字憲章》宣稱，加拿大的政府將捍衛(wèi)言論自由、防范旨在破壞選舉和民主制度完整性的網(wǎng)絡(luò)威脅和虛假信息[7]。2019年9月，美國加利福尼亞州通過一項舉措，禁止居民和各類組織在選舉后60天內(nèi)分享政治候選人的虛假視頻。美國國會公開表示將在2020大選之前對深度偽造技術(shù)進(jìn)行調(diào)查，并推進(jìn)立法行動。

啟示和建議

網(wǎng)上有害信息治理已經(jīng)成為維護(hù)國家政治安全穩(wěn)定的重要工作。據(jù)《人民日報》消息，2019年1月至6月12日，國家網(wǎng)信辦累計清理淫穢色情、賭博詐騙等有害信息1.1億余條，注銷各類平臺中傳播色情低俗、虛假謠言等信息的違法違規(guī)賬號118萬余個，關(guān)閉、取消備案網(wǎng)站4644家[8]，凸顯我國網(wǎng)上有害信息治理工作的嚴(yán)峻形勢。雖國情不同，但西方國家的一些做法和經(jīng)驗或可為我們提供一些治理思路。

1.持續(xù)推進(jìn)網(wǎng)上有害信息法制體系的完善和健全

近年來，我國關(guān)于網(wǎng)上有害信息治理的法律法規(guī)密集出臺。僅2017年、2018年兩年間出臺的相關(guān)法律規(guī)定便有《互聯(lián)網(wǎng)跟帖評論服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)用戶公眾賬號信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)新聞信息服務(wù)單位內(nèi)容管理從業(yè)人員管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》《微博客信息服務(wù)管理規(guī)定》和《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》等。2019年以來，國家互聯(lián)網(wǎng)信息辦公室又陸續(xù)印發(fā)《區(qū)塊鏈信息服務(wù)管理規(guī)定》《金融信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》和《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等文件，不斷推動網(wǎng)上有害信息治理法制體系的健全完善。值得一提的是，2019年12月15日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》明確提出，網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺應(yīng)堅持主流價值導(dǎo)向，鼓勵網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者制作、復(fù)制、發(fā)布含有“宣傳習(xí)近平新時代中國特色社會主義思想，全面準(zhǔn)確生動解讀中國特色社會主義道路、理論、制度、文化”和“弘揚(yáng)社會主義核心價值觀，宣傳優(yōu)秀道德文化和時代精神，充分展現(xiàn)中華民族昂揚(yáng)向上精神風(fēng)貌”等內(nèi)容的正能量信息，同時列舉了網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者不得散布傳播的11類違法信息和9類不良信息[9]。2019年11月29日發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》提出，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息[10]。以上法律規(guī)范共同構(gòu)建了我國網(wǎng)上有害信息治理的法制體系，為網(wǎng)上有害信息治理工作的開展提供了有力保障。未來，相關(guān)部門仍需緊密圍繞網(wǎng)信事業(yè)發(fā)展大局和互聯(lián)網(wǎng)新技術(shù)新應(yīng)用發(fā)展趨勢，持續(xù)推進(jìn)網(wǎng)上有害信息法制體系的完善和健全，不斷扎緊網(wǎng)上有害信息治理的制度籠子。

2.重點(diǎn)整治極端主義等威脅國家社會安全穩(wěn)定的有害信息

網(wǎng)上有害信息類目繁多，要抓住突出問題和主要矛盾，精準(zhǔn)發(fā)力、重點(diǎn)打擊，集中力量整治清理影響和危害最大的有害信息。從近年來國內(nèi)外安全形勢和國際網(wǎng)上有害信息治理運(yùn)動發(fā)展情況來看，網(wǎng)上極端主義思潮和內(nèi)容的肆意傳播，已經(jīng)成為危害國家安全和人民群眾安全的關(guān)鍵問題。我國也必須未雨綢繆、居安思危、嚴(yán)陣以待，將網(wǎng)上極端主義思潮治理作為有害信息治理的重中之重，全面排查其在我國網(wǎng)上的傳播情況、傳播途徑及傳播手法。建立網(wǎng)上極端主義打擊機(jī)制，組建網(wǎng)上極端主義打擊力量，強(qiáng)化反極端主義教育宣傳。對散布傳播極端主義內(nèi)容的個人、組織，對刪除極端主義內(nèi)容不及時、不作為的平臺、企業(yè)，要施以嚴(yán)厲懲罰。

3.強(qiáng)化互聯(lián)網(wǎng)企業(yè)主體責(zé)任，推動行業(yè)自律

互聯(lián)網(wǎng)平臺是有害信息產(chǎn)生、傳播的主要場所。互聯(lián)網(wǎng)平臺企業(yè)在網(wǎng)上有害信息治理工作中必須承擔(dān)起主體責(zé)任。一要加強(qiáng)互聯(lián)網(wǎng)企業(yè)的剛性約束。監(jiān)管部門要加快建立健全完善的監(jiān)管制度體系，明確互聯(lián)網(wǎng)企業(yè)的責(zé)任、義務(wù)，加大懲治力度，提高違規(guī)成本、“不作為”成本。二要鼓勵互聯(lián)網(wǎng)企業(yè)加強(qiáng)自身內(nèi)部責(zé)任建設(shè)，推動其自覺參與網(wǎng)上有害信息治理工作，鼓勵互聯(lián)網(wǎng)企業(yè)加大技術(shù)探索和創(chuàng)新，充分運(yùn)用人工智能等新技術(shù)研發(fā)能夠有效提升網(wǎng)上有害信息治理效率的新工具新手段。對于在網(wǎng)上有害信息治理工作中表現(xiàn)優(yōu)秀的互聯(lián)網(wǎng)企業(yè)，政府應(yīng)給予表彰。三要推動行業(yè)自律。網(wǎng)上有害信息的治理要靠整個社會的共同參與。要加快建立起網(wǎng)上有害信息治理的行業(yè)標(biāo)準(zhǔn)和規(guī)范，重視網(wǎng)上宣傳和引導(dǎo)，推動網(wǎng)上有害信息治理工作從“單兵作戰(zhàn)”走向“協(xié)調(diào)治理”，從“被動參與”走向“主動作為”。

4.積極促進(jìn)跨國合作，提升網(wǎng)上有害信息的全球打擊能力

互聯(lián)網(wǎng)信息的流動性、跨境性、開放性及煽動性等特點(diǎn)大大加強(qiáng)了網(wǎng)上有害信息治理的難度，也加大了有害信息從境外向境內(nèi)倒灌傳播的風(fēng)險。事實上，近年來網(wǎng)上有害信息的跨境傳播特點(diǎn)越來越明顯，建立跨國合作機(jī)制已是當(dāng)務(wù)之急。一是可以積極融入國際上已經(jīng)成立的網(wǎng)上有害信息治理組織。二是可以借助世界互聯(lián)網(wǎng)大會、“一帶一路”高峰論壇等國際性會議發(fā)起倡議，共同商討建立全球性網(wǎng)上有害信息的治理模式。三是可以和重點(diǎn)國家建立“1+1”的網(wǎng)上有害信息治理合作機(jī)制?？傊?，在網(wǎng)上有害信息威脅日趨嚴(yán)峻的態(tài)勢下，加強(qiáng)跨國合作，提升有害信息全球打擊能力，必定是一個互利共贏的選項。我國作為世界互聯(lián)網(wǎng)大國，應(yīng)當(dāng)主動承擔(dān)起維護(hù)國際網(wǎng)絡(luò)空間生態(tài)秩序安全的責(zé)任，在推動全球網(wǎng)上有害信息治理中發(fā)揮更加積極的作用。

■金龍彩鳳 陳寶林/攝