◆甄曉宇

（新疆互聯(lián)網(wǎng)信息辦公室 新疆 830000）

恐怖主義是網(wǎng)絡(luò)極端化信息的重要表現(xiàn)形式。英國社會凝聚力研究中心（Centre for Social Cohesion）2008 年的報告指出，網(wǎng)絡(luò)已成為恐怖分子的“圣戰(zhàn)圖書館”，恐怖組織的傳教平臺，激進分子的交流場地[1]。前“基地”組織阿拉伯半島分支重要成員安瓦爾·奧拉基（Anwar al-Awlaki）在美國長大并接受大學教育，被稱為“郵件上的伊瑪目”、“網(wǎng)絡(luò)中的本·拉登”，利用網(wǎng)站傳播“圣戰(zhàn)文學”文章，鼓吹網(wǎng)民稱為“互聯(lián)網(wǎng)圣戰(zhàn)者”[2-3]。倫敦警方2005 年逮捕網(wǎng)民“伊爾哈比007”，英美情報部門認定其為“基地”組織的網(wǎng)絡(luò)恐怖活動服務，參與了發(fā)布恐怖主義資料、在線招募極端分子、為極端組織籌集資金等網(wǎng)絡(luò)恐怖活動，并在規(guī)避一般網(wǎng)絡(luò)議題監(jiān)管、建立可靠的網(wǎng)絡(luò)通信等網(wǎng)絡(luò)技術(shù)方面起到了關(guān)鍵作用[4]。

極端主義在不同國家或地區(qū)的政治斗爭、武裝沖突、突發(fā)事件中，存在通過網(wǎng)絡(luò)快速傳播的現(xiàn)象。2020 年7 月聯(lián)合國秘書長古特雷斯也指出，疫情凸顯了人們在濫用數(shù)字技術(shù)、網(wǎng)絡(luò)攻擊和生物恐怖主義等極端行為面前的脆弱性[5]。在美國、歐洲等地，黨派斗爭、反猶主義、白人/反白人主義等社會群體結(jié)構(gòu)性沖突在網(wǎng)絡(luò)傳播中顯示出更多的不確定性。

為打擊網(wǎng)絡(luò)恐怖（極端）主義犯罪和管控網(wǎng)絡(luò)極端意識形態(tài)傳播，不同國家（組織）和主要互聯(lián)網(wǎng)公司均采取了相關(guān)措施。美國參議院2015 年出臺《美國國土安全部社交媒體改進法案》、2019 年歐洲議會通過《關(guān)于解決在線傳播恐怖主義內(nèi)容的規(guī)則》。2017 年 6 月，F(xiàn)acebook、Microsoft、Twitter 和YouTube 四家公司成立全球網(wǎng)絡(luò)反恐論壇（GIFCT），旨在共同遏制互聯(lián)網(wǎng)平臺宣傳暴力極端主義和恐怖主義。相對于政府行政部門在管控網(wǎng)絡(luò)極端信息方面的能力，YouTube 公司在2019 年的一季度顯示了更全面的能力，公司處理的視頻共計140 萬個，數(shù)量是政府提供問題視頻數(shù)量的數(shù)百倍[2]。

從開源信息的語言（符號）、議題極端導向、主體規(guī)避監(jiān)管的組織架構(gòu)等方面做特征分析，提出相應的對策建議，可為做好開放網(wǎng)絡(luò)空間中極端化信息綜合治理提供一定參考。

1 極端信息的內(nèi)容特征

極端信息的網(wǎng)絡(luò)傳播依賴于網(wǎng)絡(luò)可接入性和信息個體從眾程度。在網(wǎng)絡(luò)可接入性不斷提高的環(huán)境下，符合個體從眾心理的信息，將有更廣泛的傳播。

1.1 語言的廣泛性和精準性

1.1.1 語言的有效傳播

網(wǎng)絡(luò)空間中極端意識形態(tài)內(nèi)容的傳播，具有廣泛影響力的語言主要包括英語、法語、阿拉伯語等。2015 年11 月13 日巴黎系列恐襲事件發(fā)生后，“伊斯蘭國”組織在社交網(wǎng)站上用阿拉伯語和法語發(fā)表聲明，宣稱對此事件負責。在恐怖（極端）組織向非洲發(fā)展的案例中，“基地”組織北非分支在“提問-回答”的社交式網(wǎng)絡(luò)互動提供了阿拉伯語、英語、法語等語言服務[6]。

網(wǎng)絡(luò)極端意識形態(tài)內(nèi)容小語種的傳播，具有精準、高效的特征?！斗纯置孛軕?zhàn)：美國如何打擊“基地”組織》中多次提到普什圖語極端信息在巴基斯坦和阿富汗交界地區(qū)的傳播、俄語極端信息在中亞地區(qū)以及俄羅斯高加索地區(qū)的傳播等，而美國網(wǎng)絡(luò)情報部門也以烏爾都語、波斯語以及其他伊斯蘭世界語言進入網(wǎng)絡(luò)開放論壇聊天室制造“混亂”[7]。

網(wǎng)絡(luò)中極端化或具有極端化隱喻的符號、圖片等具有情感動員的特征。具有一定宗教表達能力的服裝在伊斯蘭教、猶太教、佛教等宗教中均有體現(xiàn)，而一些服裝被用于網(wǎng)絡(luò)極端宗教傳播具有象征意義，比如蒙面寬大的罩袍等。

1.1.2 多語境下的隱秘性

特定群體的語境下理解，具有一定的語境隔離。例如，包含民族主義框架的官方宣傳對于威權(quán)人格低、意識形態(tài)偏右的個體很可能會漠視這些信息，也可能會產(chǎn)生逆反心理[8]。網(wǎng)絡(luò)信息的監(jiān)管造成被監(jiān)管對象規(guī)避監(jiān)管的能力提高，例如拼音、諧音、“黑話”等規(guī)避基于敏感詞信息過濾的監(jiān)管。

基于信息利用價值不同而產(chǎn)生的監(jiān)管沖突，造成信息“不合理存在”。例如針對2005 年伊拉克大選投票前發(fā)布在網(wǎng)絡(luò)上的“投票站清單”信息，執(zhí)勤的美國軍方為了投票站安全希望清理網(wǎng)絡(luò)信息，而美國情報部門則不希望暴露他們已掌握的信息能力。

1.2 社會結(jié)構(gòu)性沖突的極端化

網(wǎng)絡(luò)空間中社會相對階層間沖突的極端化。社會創(chuàng)傷尤其是經(jīng)濟創(chuàng)傷割裂社會，造成“受害人”的極端化傾向。近年來發(fā)生在歐洲的暴恐事件導致歐洲社會存在一定的穆斯林恐懼癥，加上美國政府的禁穆令等，導致部分穆斯林背景的青年在西方社會中身份認同建構(gòu)上失敗，形成相對經(jīng)濟能力差的底層力量。社會經(jīng)濟底層群體與社會既得利益者之間的矛盾，在不當?shù)纳鐣W(wǎng)絡(luò)輿論或網(wǎng)絡(luò)極端主義言論的影響下向極端化方向發(fā)展，導致不同階層的青年激進化或者成為潛在的激進行為支持者。

網(wǎng)絡(luò)空間中社會群體間沖突的極端化。在同一社會中不同文化背景、種族背景的群體中，有利益沖突的網(wǎng)絡(luò)渲染地緣政治沖突，如阿以戰(zhàn)爭、敘利亞內(nèi)戰(zhàn)和伊拉克戰(zhàn)爭等導致部分激進阿拉伯背景青年群體將美國、以色列視為敵人，并付諸行動。激進主義者利用網(wǎng)絡(luò)自媒體平臺、網(wǎng)絡(luò)社交話題等，惡意引導和擴大不同群體對現(xiàn)實經(jīng)濟和政策的不滿，以此來塑造一個對立的網(wǎng)絡(luò)世界，繼而導致網(wǎng)絡(luò)外報復社會的極端行為發(fā)生[9]。

網(wǎng)絡(luò)空間中其他社會結(jié)構(gòu)性沖突的極端化。歷史遺留問題、多元文化沖突、政治利益訴求沖突等社會結(jié)構(gòu)性矛盾在網(wǎng)絡(luò)的推波助瀾下，社會極端事件多發(fā)。美國2020 年總統(tǒng)選舉中標志性事件“攻占國會山”，是特朗普Twitter 治國的負面案例，特朗普及其支持者網(wǎng)絡(luò)鼓動支持者通過暴力影響正常的政治程序，體現(xiàn)了美國所謂民主向民粹的轉(zhuǎn)變，而參與群體的白人特征也表明多元主義急劇增加了社會結(jié)構(gòu)的內(nèi)在張力，繼而導致社會分化事件發(fā)生[10]。馬里蘭大學主持的全球恐怖主義數(shù)據(jù)庫（GTD）中記錄了2019 年13 起香港極端事件，其中12 件極端事件無實施者說明（Unknown），1 件實施者標注為極端反政府分子（Anti-Government extremists），社會結(jié)構(gòu)性沖突成為社會極端事件的誘發(fā)因素。

1.3 暴力極端

非主觀意愿傳播暴力極端的新聞鏡頭或社交媒體鏡頭，可能在網(wǎng)絡(luò)上造成更廣泛的影響。普利策獎作品《黑旗：ISIS 的崛起》，立場并非極端主義但是書的內(nèi)容如“屠場主人扎卡維”、“這個國家，由扎卡維奠基”等，顯然具有一定的負面鼓動性。暴恐案件經(jīng)主流媒體報道后，自媒體大眾會通過網(wǎng)絡(luò)再加工后廣泛的傳播，甚至將不符合事件主流認知的信息大范圍傳播，造成偏離主流價值觀的信息歪曲。而暴恐案件在極端意識形態(tài)信息中則被描述成“圣戰(zhàn)”，被擊斃的暴恐（極端）分子則被描述成將享受“天國的喜悅”。

暴力犯罪、斬首、爆炸物制作等暴力極端內(nèi)容在網(wǎng)絡(luò)空間的非法傳播。2016 年07 月20 日人民法院報文章《男子“翻墻”下載暴恐視頻、圖片網(wǎng)上售賣》，被告人非法持有宣揚恐怖主義、極端主義物品，并通過淘寶、百度、微信等網(wǎng)絡(luò)工具傳播。2016 年10 月被廣泛報道的文章《職校女孩被網(wǎng)友洗腦 要去參加“圣戰(zhàn)”》，受害人網(wǎng)絡(luò)上與一名自稱“阿卜杜拉”的人成為好友，“阿卜杜拉”向其發(fā)送宣揚宗教極端思想、恐怖主義、極端主義的音頻、電子書等資料。

2 極端信息發(fā)布主體的網(wǎng)絡(luò)能力特征

2.1 網(wǎng)絡(luò)恢復能力

極端組織或個人基于網(wǎng)絡(luò)平臺的規(guī)則通過注冊賬號、申請賬號恢復、儲備平臺賬號等方法，具備恢復使用目標網(wǎng)絡(luò)平臺的能力?！耙了固m國”組織創(chuàng)建《網(wǎng)絡(luò)開放式安全平臺指南》（ISIS OPSEC Manual）、《支持者的安全》（The Supporter's Security）等刊物，指導極端分子恢復個人的網(wǎng)絡(luò)平臺使用能力。

極端意識形態(tài)信息在有限訪問賬號平臺中因為個人隱私權(quán)力而獲得有限規(guī)避監(jiān)管能力。有限訪問的論壇、個人平臺賬號、平臺房間等，基于開源信息搜索的有限規(guī)則，無法實現(xiàn)有效監(jiān)管。例如2015年美國土安全部開展了“If You See Something，Say Something”網(wǎng)絡(luò)運動，以期在法律范圍內(nèi)通過網(wǎng)民積極參與，合法獲取更多可能涉及國家反恐安全的個人信息。

開源網(wǎng)絡(luò)工具中具有可讀信息功能的均具有成為傳播極端主義意識形態(tài)平臺的可能。例如涉及個人隱私的電子郵箱、不具備聊天信息存儲能力的游戲房間、Tor 瀏覽網(wǎng)頁等在法律層面、技術(shù)層面等規(guī)避網(wǎng)絡(luò)監(jiān)管。公開報道顯示，美國國家安全局在網(wǎng)絡(luò)戰(zhàn)爭游戲的監(jiān)控中遇到了游戲暴力語言和極端分子語言有相似之處的困擾，“他們是在談論恐怖行動，只不過是在游戲中”[11]。

2.2 網(wǎng)絡(luò)組織結(jié)構(gòu)能力

極端組織結(jié)構(gòu)有功能化分割的趨勢，不同功能結(jié)構(gòu)的網(wǎng)絡(luò)行為區(qū)分以實現(xiàn)規(guī)避打擊和實現(xiàn)組織目標。付舉磊根據(jù)境內(nèi)外“東突”組織活動信息做的“恐怖分子-恐怖組織”網(wǎng)絡(luò)中部分組織的中心性指標分析顯示，某些恐怖分子與恐怖事件的具體執(zhí)行者聯(lián)系并不多，但與其他恐怖組織的上層人物聯(lián)系緊密，起著“領(lǐng)頭人”作用[12]。

組織的現(xiàn)實變動導致網(wǎng)絡(luò)信息的變動，需要網(wǎng)絡(luò)信息的長期研判和網(wǎng)絡(luò)信息主體溯源。例如聯(lián)合國的一份報告認為從屬于敘利亞“基地”組織的“東伊運”武裝人員因在敘利亞損失嚴重有遷往阿富汗并投靠“東伊運”阿富汗分支的跡象[13]。極端組織的跨地理位置、跨網(wǎng)絡(luò)平臺的信息主體判斷需要數(shù)據(jù)庫比照。

3 網(wǎng)絡(luò)極端信息管控的建議

3.1 做好特定語言信息管理

針對已發(fā)生極端事件區(qū)域或具有不穩(wěn)定動態(tài)的對象開展語種或方言的網(wǎng)絡(luò)信息動態(tài)掌握。根據(jù)已認定的極端符號、隱喻詞語等做重點信息的管控。建立動態(tài)管理的特定語言或符號數(shù)據(jù)庫，依據(jù)違法違規(guī)案例做好網(wǎng)絡(luò)管控空間內(nèi)非法語言或符號的存量信息清理和新增信息阻斷工作；封堵可管控網(wǎng)絡(luò)空間外與我國法律法規(guī)不相符信息或敵對極端信息的網(wǎng)絡(luò)“信息倒灌”、“信息入侵”。

3.2 強化網(wǎng)絡(luò)平臺公司責任

強化手機APP 商城的網(wǎng)絡(luò)產(chǎn)品審核，避免小眾APP 成為網(wǎng)絡(luò)極端信息的傳播工具。審核體系應滿足法律法規(guī)要求尤其是各地方法律法規(guī)的要求，避免地方性法律法規(guī)在可控網(wǎng)絡(luò)空間的失效，防止網(wǎng)絡(luò)空間相對無地域性和地方法律法規(guī)地域內(nèi)執(zhí)行的現(xiàn)實沖突。

根據(jù)已處置違規(guī)違法案例，實行網(wǎng)絡(luò)平臺案件指向性管控，提高境內(nèi)網(wǎng)絡(luò)存儲、網(wǎng)絡(luò)通訊企業(yè)的案件責任。根據(jù)各網(wǎng)絡(luò)平臺已發(fā)生案例中極端信息的文字、圖片、語音等特征做平臺自查，并建立比對數(shù)據(jù)庫，杜絕相同極端信息在同一網(wǎng)絡(luò)平臺的反復出現(xiàn)。

規(guī)范平臺企業(yè)內(nèi)部網(wǎng)絡(luò)議題設(shè)置管理和輿情導向管理，維護議題指向或輿情涉及主體的合法權(quán)益。

3.3 建立網(wǎng)絡(luò)極端信息數(shù)據(jù)庫

建立極端信息內(nèi)容的數(shù)據(jù)庫。依據(jù)已處置極端案件中信息特征建立文字關(guān)鍵詞庫、符號比對庫、圖片樣本庫、語音識別庫，在技術(shù)識別和人工識別的基礎(chǔ)上，創(chuàng)新AI 智能應用、大數(shù)據(jù)模型應用等，壓縮極端主義信息的網(wǎng)絡(luò)生存空間，提高網(wǎng)絡(luò)公司用戶信息自我審核能力，保障政府監(jiān)管的可覆蓋能力。

建立極端信息主體的數(shù)據(jù)庫。已處理的網(wǎng)絡(luò)極端信息發(fā)布主體在保障公民合法用網(wǎng)的基礎(chǔ)上，進行網(wǎng)絡(luò)標記，并建立預防性網(wǎng)絡(luò)使用主體案例數(shù)據(jù)庫。已處理網(wǎng)絡(luò)極端信息未處置的信息發(fā)布主體予以關(guān)注，已處理網(wǎng)絡(luò)極端信息無信息發(fā)布主體的將極端信息本身做主體特征納入信息主體數(shù)據(jù)庫，為可能的信息比對做好大數(shù)據(jù)基礎(chǔ)。

3.4 全民監(jiān)管

宣傳網(wǎng)絡(luò)典型違法違規(guī)案件，提高網(wǎng)民對網(wǎng)絡(luò)違法違規(guī)的鑒別能力。鼓勵網(wǎng)民參與網(wǎng)絡(luò)安全建設(shè)，對于一些網(wǎng)絡(luò)有限訪問論壇或房間、有限訪問個人網(wǎng)絡(luò)空間的信息，開源技術(shù)下不可能完全閱讀與審核，而廣大網(wǎng)民則有一定的能力發(fā)現(xiàn)隱藏其中的極端信息，尤其是論壇或房間的發(fā)起人需具備一定的網(wǎng)絡(luò)安全意識。

4 結(jié)語

傳統(tǒng)的網(wǎng)絡(luò)恐怖暴力信息持續(xù)存在，而社會結(jié)構(gòu)性沖突信息在網(wǎng)絡(luò)的傳播中出現(xiàn)了相關(guān)議題極端化。網(wǎng)絡(luò)極端信息發(fā)布主體在網(wǎng)絡(luò)監(jiān)管下開始以社會批評者的偽裝出現(xiàn)，并和網(wǎng)絡(luò)極端組織進行切割，試圖逃避監(jiān)管。建立網(wǎng)絡(luò)極端信息和信息發(fā)布主體的數(shù)據(jù)庫并合理共享，有利于監(jiān)管機構(gòu)和網(wǎng)絡(luò)平臺企業(yè)清除已有極端信息，阻止極端信息發(fā)布，并對極端信息發(fā)布主體進行管控。