【摘要】網(wǎng)絡(luò)內(nèi)容安全是網(wǎng)絡(luò)內(nèi)容治理的重要方面，也是信息安全和國家安全領(lǐng)域的重要命題。網(wǎng)絡(luò)內(nèi)容的內(nèi)涵隨著互聯(lián)網(wǎng)技術(shù)和全球化趨勢(shì)的演進(jìn)發(fā)生了變化，傳統(tǒng)的技術(shù)領(lǐng)域風(fēng)險(xiǎn)逐漸向認(rèn)知領(lǐng)域拓展。在生成式人工智能出現(xiàn)和發(fā)展的背景下，網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)進(jìn)一步出現(xiàn)了隱蔽化、長線化轉(zhuǎn)向，為社會(huì)帶來了深層次風(fēng)險(xiǎn)與挑戰(zhàn)。深刻認(rèn)識(shí)網(wǎng)絡(luò)內(nèi)容安全的發(fā)展變化與風(fēng)險(xiǎn)挑戰(zhàn)，厘清網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)升級(jí)背后的基本邏輯關(guān)系，構(gòu)建現(xiàn)代化的網(wǎng)絡(luò)內(nèi)容安全治理體系，是推進(jìn)互聯(lián)網(wǎng)治理、應(yīng)對(duì)網(wǎng)絡(luò)安全問題和維護(hù)國家安全的重要使命與目標(biāo)。

【關(guān)鍵詞】網(wǎng)絡(luò)內(nèi)容安全 信息安全 互聯(lián)網(wǎng)治理 生成式人工智能 國家安全

【中圖分類號(hào)】G206 【文獻(xiàn)標(biāo)識(shí)碼】Ａ 【文章編號(hào)】1003-6687（2024）7-060-07

【DOI】10.13786/j.cnki.cn14-1066/g2.2024.7.008

網(wǎng)絡(luò)安全是新時(shí)代國家安全的重要命題，網(wǎng)絡(luò)內(nèi)容建設(shè)是關(guān)系網(wǎng)絡(luò)文化建設(shè)與數(shù)字文化繁榮，推動(dòng)中國式現(xiàn)代化進(jìn)程的重要驅(qū)動(dòng)。2023年7月，習(xí)近平總書記提出網(wǎng)信工作“舉旗幟聚民心、防風(fēng)險(xiǎn)保安全、強(qiáng)治理惠民生、增動(dòng)能促發(fā)展、謀合作圖共贏”的使命任務(wù)，為新時(shí)代新征程網(wǎng)絡(luò)強(qiáng)國建設(shè)提供了行動(dòng)指南。當(dāng)前在全球化背景下，各國對(duì)網(wǎng)絡(luò)主權(quán)的爭(zhēng)奪漸趨激烈，加之大數(shù)據(jù)、云計(jì)算、生成式人工智能等技術(shù)的發(fā)展，網(wǎng)絡(luò)安全戰(zhàn)略由信息域向認(rèn)知域拓展，網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)不斷升級(jí)，相應(yīng)治理面臨轉(zhuǎn)型與挑戰(zhàn)。對(duì)于網(wǎng)絡(luò)內(nèi)容安全的討論需要在網(wǎng)絡(luò)安全系統(tǒng)的整體性語境下進(jìn)行，因此，厘清網(wǎng)絡(luò)安全的層級(jí)及其作用機(jī)制，明確網(wǎng)絡(luò)內(nèi)容安全在當(dāng)前網(wǎng)絡(luò)安全體系中的地位和作用形式，是研究網(wǎng)絡(luò)內(nèi)容安全問題的理論基礎(chǔ)與邏輯起點(diǎn)。從主體的作用形式看，可將網(wǎng)絡(luò)安全分為三個(gè)主要層級(jí)：

第一層級(jí)，外在表現(xiàn)層，即網(wǎng)絡(luò)安全的技術(shù)層級(jí)。該層級(jí)是網(wǎng)絡(luò)安全攻防的關(guān)鍵領(lǐng)域，扮演著網(wǎng)絡(luò)安全的外部關(guān)卡、攻防對(duì)象等重要角色。網(wǎng)絡(luò)安全的技術(shù)層面關(guān)系到網(wǎng)絡(luò)安全系統(tǒng)建立的整體性過程：在常規(guī)使用方面，涉及網(wǎng)絡(luò)技術(shù)的發(fā)展與維護(hù)，及時(shí)發(fā)現(xiàn)和規(guī)避安全缺陷、技術(shù)漏洞等風(fēng)險(xiǎn)，確保網(wǎng)絡(luò)的正常使用和安全運(yùn)行；在關(guān)鍵設(shè)施層面，涉及核心技術(shù)的研發(fā)與突破，關(guān)鍵信息基礎(chǔ)設(shè)施的運(yùn)行支持與安全保護(hù)等；在信息安全方面，涉及個(gè)人信息等數(shù)據(jù)保護(hù)的技術(shù)支持，以及信息采集技術(shù)的合理應(yīng)用等。與此同時(shí)，網(wǎng)絡(luò)安全技術(shù)不僅包括技術(shù)開發(fā)和應(yīng)用本身，也包含相應(yīng)技術(shù)標(biāo)準(zhǔn)體系的建立，以及與技術(shù)風(fēng)險(xiǎn)相關(guān)的預(yù)案、應(yīng)急措施、演練等。

第二層級(jí)，機(jī)制保障層，即網(wǎng)絡(luò)安全的制度層級(jí)。該層級(jí)是網(wǎng)絡(luò)安全運(yùn)行方式和規(guī)律的總體反映，對(duì)于網(wǎng)絡(luò)安全相關(guān)的各項(xiàng)工作的開展以及網(wǎng)絡(luò)安全體系建設(shè)的發(fā)展方向具有重要的指引作用。網(wǎng)絡(luò)安全的制度層級(jí)包括相關(guān)法律、規(guī)章制度、政策文件等的制定出臺(tái)與修訂更新，相應(yīng)執(zhí)法工作的有序開展，相關(guān)部門和機(jī)構(gòu)的設(shè)置與改革，以及司法工作、公開機(jī)制的推進(jìn)和完善等。

第三層級(jí)，直接作用層，即網(wǎng)絡(luò)安全的內(nèi)容層級(jí)。網(wǎng)絡(luò)內(nèi)容是網(wǎng)絡(luò)使用者所接觸的最直接的層面，也是網(wǎng)絡(luò)風(fēng)險(xiǎn)借以潛藏和偽裝最直接的形式。因此，該層級(jí)是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的最終“著陸點(diǎn)”，也是網(wǎng)絡(luò)安全的重要防線與底線。目前，一些網(wǎng)絡(luò)攻擊以網(wǎng)絡(luò)內(nèi)容為表現(xiàn)形式，以技術(shù)攻擊、認(rèn)知攻擊等為手段，以實(shí)現(xiàn)攻擊方利益企圖為目的。此類風(fēng)險(xiǎn)可能存在于內(nèi)容的生產(chǎn)、傳播與接收過程中，隨著全球網(wǎng)絡(luò)空間沖突的加劇，網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)也逐步升級(jí)。

一、概念演變：全球網(wǎng)絡(luò)內(nèi)容安全的發(fā)展階段

在國內(nèi)外學(xué)者的研究視域中，有關(guān)網(wǎng)絡(luò)內(nèi)容安全的討論由來已久。本文認(rèn)為，網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)指的是由網(wǎng)絡(luò)內(nèi)容直接引起的或以網(wǎng)絡(luò)內(nèi)容為形式的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。因此，網(wǎng)絡(luò)內(nèi)容安全包含內(nèi)部和外部兩個(gè)層面，內(nèi)部安全主要指內(nèi)容創(chuàng)作與傳播的安全，內(nèi)容本身含有不良信息，內(nèi)容創(chuàng)作帶有某種不良企圖，如色情信息傳播、輿論引導(dǎo)等；外部安全主要指內(nèi)容訪問和使用的安全，攻擊性技術(shù)手段以網(wǎng)絡(luò)內(nèi)容為依附，利用內(nèi)容形式傳播技術(shù)風(fēng)險(xiǎn)，如網(wǎng)絡(luò)病毒、非法數(shù)據(jù)采集等。隨著ChatGPT等生成式人工智能的出現(xiàn)，網(wǎng)絡(luò)內(nèi)容安全在內(nèi)部和外部都面臨變革與挑戰(zhàn)?？v觀內(nèi)容安全研究的發(fā)展歷程，可以厘清網(wǎng)絡(luò)內(nèi)容安全概念的動(dòng)態(tài)變遷。隨著互聯(lián)網(wǎng)技術(shù)及其應(yīng)用方式的發(fā)展變化，網(wǎng)絡(luò)內(nèi)容安全概念經(jīng)歷了三個(gè)階段的演進(jìn)過程：技術(shù)應(yīng)用型階段、內(nèi)容滲透型階段、智能生成型階段。在此過程中，網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)從技術(shù)域向信息域、認(rèn)知域不斷延伸，網(wǎng)絡(luò)內(nèi)容安全也從技術(shù)應(yīng)用問題上升為對(duì)國家戰(zhàn)略的重要關(guān)切。

1. 技術(shù)應(yīng)用型階段：網(wǎng)絡(luò)技術(shù)攻擊為核心的網(wǎng)絡(luò)安全研究

互聯(lián)網(wǎng)廣泛商用并走入大眾視野后，保障用戶對(duì)網(wǎng)絡(luò)內(nèi)容的安全訪問和使用是相關(guān)企業(yè)和技術(shù)開發(fā)者長期關(guān)注的基本問題之一，由此形成了以技術(shù)保障為主的網(wǎng)絡(luò)內(nèi)容安全階段。在此階段，網(wǎng)絡(luò)技術(shù)攻擊是網(wǎng)絡(luò)安全的核心問題，網(wǎng)絡(luò)內(nèi)容主要作為技術(shù)攻擊的渠道和載體而發(fā)揮作用。早期研究重點(diǎn)關(guān)注互聯(lián)網(wǎng)內(nèi)容訪問的安全性，聚焦網(wǎng)絡(luò)下載過程中可能包含的惡意內(nèi)容及其對(duì)計(jì)算機(jī)系統(tǒng)造成的風(fēng)險(xiǎn)等，并積極探索利用技術(shù)手段應(yīng)對(duì)相關(guān)風(fēng)險(xiǎn)的方法，彌補(bǔ)安全漏洞。[1-2]

在發(fā)展過程中，網(wǎng)絡(luò)技術(shù)攻擊形成了體系化、類型化特征。從技術(shù)攻擊手段看，網(wǎng)絡(luò)內(nèi)容安全攻擊可分為兩類：主動(dòng)攻擊和被動(dòng)攻擊。在主動(dòng)攻擊中，入侵者與目標(biāo)系統(tǒng)互動(dòng)，通過修改目標(biāo)計(jì)算機(jī)數(shù)據(jù)或創(chuàng)建虛假數(shù)據(jù)流等方式，影響系統(tǒng)運(yùn)行。在被動(dòng)攻擊中，通常不涉及數(shù)據(jù)的修改，入侵者只是收集與被攻擊者相關(guān)的信息，例如網(wǎng)絡(luò)竊聽等。[3]從技術(shù)攻擊目的看，網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)會(huì)破壞網(wǎng)絡(luò)安全四方面屬性。第一，保密性，指網(wǎng)絡(luò)竊聽、黑客攻擊、釣魚網(wǎng)站等可能竊取個(gè)人用戶及企業(yè)的重要信息，造成保密數(shù)據(jù)的泄露。第二，完整性，指只有獲得授權(quán)的人才能夠?qū)τ?jì)算機(jī)數(shù)據(jù)進(jìn)行創(chuàng)建、編輯、刪除等，網(wǎng)絡(luò)病毒、木馬等攻擊能夠破壞計(jì)算機(jī)系統(tǒng)的完整性，實(shí)現(xiàn)對(duì)計(jì)算機(jī)的控制，從而造成內(nèi)容安全風(fēng)險(xiǎn)。第三，隱私性，指用戶個(gè)人信息的安全，即避免他人在網(wǎng)絡(luò)空間對(duì)私人領(lǐng)域的入侵，常見的隱私性問題包括垃圾郵件攻擊、cookie竊取等。第四，可訪問性，指特定使用者所具有的訪問某些系統(tǒng)的權(quán)利，一些惡意行為可能阻止用戶的合理訪問，或者造成未經(jīng)授權(quán)的訪問等，如早期個(gè)人計(jì)算機(jī)安全問題中較為常見的拒絕訪問、MBR病毒等。[4]可以看出，該階段對(duì)網(wǎng)絡(luò)內(nèi)容安全的探討主要集中在E-mail和Web服務(wù)等技術(shù)方面，一些研究認(rèn)為與內(nèi)容安全相關(guān)的風(fēng)險(xiǎn)包括“通過E-mail傳播的網(wǎng)絡(luò)病毒”“頁面中的惡意移動(dòng)代碼”，涉及不良內(nèi)容的網(wǎng)站、垃圾郵件、網(wǎng)絡(luò)泄密等，[5-6]對(duì)于網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)的認(rèn)知也更多停留在互聯(lián)網(wǎng)使用行為的范疇。

與此同時(shí)，該階段相關(guān)研究也探討了網(wǎng)絡(luò)內(nèi)容安全對(duì)于國家戰(zhàn)略的重要意義。有學(xué)者關(guān)注互聯(lián)網(wǎng)在社會(huì)動(dòng)員等方面的重要作用，認(rèn)為互聯(lián)網(wǎng)的開放性和連接性推動(dòng)了社會(huì)運(yùn)動(dòng)的組織和開展。[7]信息戰(zhàn)這一概念在研究中也得到了闡釋，丹寧在《信息戰(zhàn)與信息安全》一書中指出，信息戰(zhàn)相關(guān)的活動(dòng)涵蓋廣泛，但尤其指恐怖分子利用計(jì)算機(jī)開展的各類恐怖襲擊，可能造成飛機(jī)墜毀、大面積停電、股市崩盤等大型災(zāi)難。[8]由此可見，網(wǎng)絡(luò)與社會(huì)穩(wěn)定、國家安全的關(guān)聯(lián)性話題在早期研究中已經(jīng)受到關(guān)注。但該階段的研究中，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)多以顯性方式呈現(xiàn)，其破壞性和影響也較為顯著和即時(shí)，網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域的潛在風(fēng)險(xiǎn)尚未得到充分揭示。

2. 內(nèi)容側(cè)重型階段：社交媒體與網(wǎng)絡(luò)內(nèi)容的“武器化”

網(wǎng)絡(luò)內(nèi)容承載大量互聯(lián)網(wǎng)數(shù)據(jù)與信息，在外部關(guān)聯(lián)各類技術(shù)問題，在內(nèi)部則關(guān)聯(lián)意識(shí)形態(tài)等認(rèn)知問題。隨著社交媒體的出現(xiàn)和發(fā)展，網(wǎng)絡(luò)用戶與內(nèi)容的接觸更加頻繁和緊密，信息以泛在化、碎片化的形式嵌入人們的日常生活之中，也為認(rèn)知戰(zhàn)等現(xiàn)代意識(shí)形態(tài)競(jìng)爭(zhēng)創(chuàng)造了空間，網(wǎng)絡(luò)內(nèi)容安全也從技術(shù)應(yīng)用型向內(nèi)容側(cè)重型轉(zhuǎn)變。在此背景下，網(wǎng)絡(luò)內(nèi)容呈現(xiàn)“武器化”趨勢(shì)，部分主體出于價(jià)值滲透目的進(jìn)行認(rèn)知干預(yù)，將網(wǎng)絡(luò)內(nèi)容作為攻擊的重要目標(biāo)。在全球化背景下，內(nèi)容安全逐漸上升至國家安全戰(zhàn)略層面，不僅關(guān)乎用戶使用體驗(yàn)、個(gè)人隱私保護(hù)等問題，更關(guān)系到國家網(wǎng)絡(luò)主權(quán)與政治安全，以及重要基礎(chǔ)設(shè)施安全等國家安全命題。

在社交媒體環(huán)境中，網(wǎng)絡(luò)內(nèi)容攻擊已成為一種普遍存在的全球現(xiàn)象，如輿論操縱、網(wǎng)絡(luò)文化滲透等。目前，網(wǎng)絡(luò)內(nèi)容攻擊的主要手段包括四個(gè)方面。第一，操控社交媒體評(píng)論，即通過發(fā)布支持或反對(duì)政府決策的言論來影響公眾態(tài)度，或發(fā)布大量中性言論、無關(guān)話題內(nèi)容等，以掩飾公眾的觀點(diǎn)沖突和轉(zhuǎn)移視線。第二，聯(lián)系目標(biāo)個(gè)體，即對(duì)社交媒體中的重要人物（知名博主、記者等）進(jìn)行說服，或針對(duì)某些個(gè)人發(fā)布抹黑性消息，損害個(gè)人形象等。第三，虛擬賬號(hào)創(chuàng)作，即通過在社交媒體當(dāng)中部署機(jī)器賬號(hào)，制造和強(qiáng)化某種聲音和觀點(diǎn)。第四，賬號(hào)偽裝，即組織群體以普通網(wǎng)民身份為偽裝，發(fā)布具有勸說意味的社交媒體內(nèi)容，以取得更多用戶的信任，達(dá)成傳播目的。[9]

事實(shí)上，早期文獻(xiàn)已關(guān)注社交媒體內(nèi)容安全問題，但多集中在不良信息方面，如BBS、聊天室當(dāng)中的色情、暴力、違法等信息被納入內(nèi)容安全監(jiān)管的研究視野當(dāng)中。[10]隨著網(wǎng)絡(luò)空間國際競(jìng)爭(zhēng)的日趨激烈，輿論操控、認(rèn)知戰(zhàn)等現(xiàn)代意識(shí)形態(tài)競(jìng)爭(zhēng)手段被更多研究者注意到，社交媒體武器化、信息武器化、影響力行動(dòng)、認(rèn)知安全等概念受到更多學(xué)者關(guān)注。蘭德·沃茲曼在《信息的武器化》一書中指出，以技術(shù)特征為核心的網(wǎng)絡(luò)安全觀念在當(dāng)今已經(jīng)顯得過于狹隘?；ヂ?lián)網(wǎng)和社交媒體的發(fā)展使人們的認(rèn)知在前所未有的時(shí)間和空間維度上被改變，這也是個(gè)體在社交媒體時(shí)代最為顯著的脆弱性之一，是當(dāng)前社會(huì)亟須應(yīng)對(duì)的問題。一方面，社交媒體使影響他人變得更加容易；另一方面，新技術(shù)推動(dòng)了影響手段和方式的進(jìn)化，例如大數(shù)據(jù)手段能夠?yàn)閮?nèi)容攻擊主體提供更加準(zhǔn)確的策略設(shè)計(jì)和決策支持。[11]可見，隨著技術(shù)手段的演進(jìn)和傳播環(huán)境的變化，技術(shù)攻防已經(jīng)無法完全滿足網(wǎng)絡(luò)安全保障需求，以網(wǎng)絡(luò)內(nèi)容為重點(diǎn)的網(wǎng)絡(luò)安全體系亟待研究和建立。

3. 智能生成型階段：生成式人工智能的雙重抉擇

人工智能技術(shù)的廣泛應(yīng)用開啟了網(wǎng)絡(luò)內(nèi)容安全的新場(chǎng)景，以ChatGPT為引領(lǐng)的生成式人工智能出現(xiàn)后，網(wǎng)絡(luò)內(nèi)容安全由以人為主導(dǎo)的內(nèi)容側(cè)重型階段向以機(jī)器為創(chuàng)作主體的智能生成階段轉(zhuǎn)型。這一階段，“雙重性”成為智能技術(shù)應(yīng)用的突出特點(diǎn)。一方面，生成式人工智能為網(wǎng)絡(luò)技術(shù)攻擊和網(wǎng)絡(luò)內(nèi)容攻擊提供了便捷化途徑，與此同時(shí)，智能技術(shù)也能夠直接作為網(wǎng)絡(luò)攻擊的自主實(shí)施者，使網(wǎng)絡(luò)內(nèi)容安全面臨全新挑戰(zhàn)。另一方面，相關(guān)技術(shù)也能夠?yàn)榫W(wǎng)絡(luò)內(nèi)容安全防御提供支持，在漏洞檢查、代碼安全、誘捕系統(tǒng)建設(shè)等方面發(fā)揮關(guān)鍵作用。[12]

智能生成階段對(duì)網(wǎng)絡(luò)內(nèi)容安全的挑戰(zhàn)主要表現(xiàn)在網(wǎng)絡(luò)攻擊成本、技術(shù)門檻的降低和效率的提升方面。隨著自然語言處理技術(shù)的成熟，機(jī)器對(duì)人類語言的理解和使用能力逐漸提升，尤其是在Transformer模型推出后，以BERT（Bidirectional Encoder Representations from Transformers）、GPT（Generative Pre-trained Transformer）等為代表的預(yù)訓(xùn)練模型大幅提高了機(jī)器學(xué)習(xí)的效率和質(zhì)量，從而誕生了ChatGPT等能夠?qū)崿F(xiàn)多風(fēng)格內(nèi)容生成以及長文本上下文關(guān)聯(lián)的對(duì)話人工智能，與之相似的視頻、圖畫、語音生成技術(shù)也漸趨成熟。由此，機(jī)器與人實(shí)現(xiàn)了自然語言對(duì)話，這也意味著缺乏計(jì)算機(jī)相關(guān)技術(shù)背景的主體也能夠通過自然語言描述向ChatGPT傳達(dá)代碼編寫等任務(wù)。一些研究發(fā)現(xiàn)，使用者能夠通過靈活使用自然語言而避開人工智能的倫理機(jī)制，從而短時(shí)間內(nèi)借助人工智能技術(shù)實(shí)施網(wǎng)絡(luò)攻擊行為。[13]

從攻擊類型看，生成式人工智能所能運(yùn)用的網(wǎng)絡(luò)攻擊場(chǎng)景涵蓋技術(shù)攻擊和內(nèi)容攻擊兩個(gè)層面。在技術(shù)攻擊方面，生成式人工智能能夠完成惡意軟件開發(fā)、釣魚郵件撰寫、自動(dòng)黑客攻擊等。已有研究表明，ChatGPT生成的釣魚郵件能夠成功避開垃圾郵件過濾機(jī)制，[14]通過假托身份、虛構(gòu)場(chǎng)景等方式實(shí)現(xiàn)誘騙目的。在內(nèi)容攻擊方面，生成式人工智能能夠進(jìn)行虛假信息創(chuàng)作、發(fā)布網(wǎng)絡(luò)評(píng)論、虛擬對(duì)話等行為，進(jìn)而實(shí)施網(wǎng)絡(luò)詐騙、輿論操控、意識(shí)形態(tài)滲透等惡意攻擊。

總的來說，該階段的網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)概念主要?dú)w結(jié)為人工智能技術(shù)被以危險(xiǎn)方式使用，這種使用不僅指借助ChatGPT等技術(shù)開展的攻擊，也包括通過不同語言手段實(shí)現(xiàn)對(duì)人工智能倫理和行為邊界的突破，例如采用角色扮演、反向心理學(xué)等策略引導(dǎo)ChatGPT提供違法信息等。這一變化為網(wǎng)絡(luò)內(nèi)容安全帶來漏洞性風(fēng)險(xiǎn)，為生成式人工智能的行為底線以及危險(xiǎn)性帶來更多未知性。

二、現(xiàn)實(shí)表現(xiàn)：全球網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)升級(jí)

網(wǎng)絡(luò)內(nèi)容安全概念不斷演變和發(fā)展，網(wǎng)絡(luò)內(nèi)容安全的相關(guān)理念與方法也隨之發(fā)生變化。在實(shí)踐過程中，全球網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)逐步加劇，在網(wǎng)絡(luò)內(nèi)容安全戰(zhàn)略規(guī)劃、網(wǎng)絡(luò)空間爭(zhēng)奪的重點(diǎn)領(lǐng)域、網(wǎng)絡(luò)內(nèi)容安全攻防的手段方式三個(gè)方面出現(xiàn)了重要轉(zhuǎn)向，這些現(xiàn)實(shí)表現(xiàn)也直接反映了全球網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)的升級(jí)。

1. 隱匿化與長線化：全球網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)的戰(zhàn)略轉(zhuǎn)向

近年來，全球網(wǎng)絡(luò)安全戰(zhàn)略出現(xiàn)轉(zhuǎn)型趨勢(shì)，傳統(tǒng)網(wǎng)絡(luò)作戰(zhàn)理念和方式發(fā)生變化，高成本、突擊式網(wǎng)絡(luò)作戰(zhàn)方式漸趨退出主流戰(zhàn)略，微戰(zhàn)式、防御式戰(zhàn)略開始興起。[15]這種變化一方面來自全球互聯(lián)網(wǎng)治理理念的發(fā)展：互聯(lián)網(wǎng)作為開放性、交互性的虛擬空間，為世界各國共用共治共享，以“網(wǎng)絡(luò)空間命運(yùn)共同體”為代表的新型互聯(lián)網(wǎng)治理理念逐漸成為各國共識(shí)，傳統(tǒng)的網(wǎng)絡(luò)威懾戰(zhàn)略及網(wǎng)絡(luò)霸權(quán)主義逐漸式微。在此背景下，有關(guān)互聯(lián)網(wǎng)公平性的討論壓力日趨增加，一些國家的網(wǎng)絡(luò)戰(zhàn)略形式也由強(qiáng)權(quán)威懾式向隱蔽防御式轉(zhuǎn)型，由此使網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)更加長線化、隱匿化。另一方面，這一轉(zhuǎn)變也是網(wǎng)絡(luò)內(nèi)容在網(wǎng)絡(luò)安全戰(zhàn)略中的重要性上升的現(xiàn)實(shí)需求：網(wǎng)絡(luò)意識(shí)形態(tài)同時(shí)具有“灌輸性”和“滲透性”。[16]灌輸性指網(wǎng)絡(luò)內(nèi)容在價(jià)值觀念上對(duì)客體的入侵性，即通過強(qiáng)勢(shì)的思想灌輸實(shí)現(xiàn)自身價(jià)值的傳播；滲透性側(cè)重網(wǎng)絡(luò)內(nèi)容的傳播形式，多以漸進(jìn)式的方式實(shí)現(xiàn)對(duì)客體的潛移默化。由此可見，網(wǎng)絡(luò)內(nèi)容戰(zhàn)略地位的提升進(jìn)一步加速了全球網(wǎng)絡(luò)戰(zhàn)略的隱蔽型轉(zhuǎn)向。

2. 輿論戰(zhàn)到認(rèn)知戰(zhàn)：網(wǎng)絡(luò)空間意識(shí)形態(tài)爭(zhēng)奪加劇

伴隨全球化趨勢(shì)的發(fā)展，互聯(lián)網(wǎng)成為各國意識(shí)形態(tài)競(jìng)爭(zhēng)的陣地，傳統(tǒng)輿論戰(zhàn)、信息戰(zhàn)向認(rèn)知戰(zhàn)延伸。從目標(biāo)上看，當(dāng)代網(wǎng)絡(luò)空間爭(zhēng)奪不僅表現(xiàn)為信息戰(zhàn)的技術(shù)競(jìng)爭(zhēng)，或者輿論戰(zhàn)、心理戰(zhàn)對(duì)目標(biāo)對(duì)象的視聽直觀感受的影響，同時(shí)也拓展到對(duì)人的思維方式、認(rèn)知習(xí)慣的控制，從而使目標(biāo)對(duì)象產(chǎn)生長期的、自主的思想意識(shí)，以適應(yīng)攻擊者的利益訴求?！皬谋举|(zhì)上看，認(rèn)知戰(zhàn)是現(xiàn)代科技革命催化下的一種更高階的政治戰(zhàn)”，[17]隨著大數(shù)據(jù)、云計(jì)算等技術(shù)的成熟，分析和掌握網(wǎng)絡(luò)用戶的行為習(xí)慣、觀點(diǎn)認(rèn)識(shí)具有了技術(shù)上的可操作性和精準(zhǔn)性，認(rèn)知域也逐漸成為許多國家在網(wǎng)絡(luò)空間的重要作戰(zhàn)領(lǐng)域。

在網(wǎng)絡(luò)內(nèi)容迅速發(fā)展的現(xiàn)實(shí)語境當(dāng)中，網(wǎng)絡(luò)內(nèi)容平臺(tái)極有可能成為意識(shí)形態(tài)滲透的重要入口，一些國家和組織可能通過捏造、散布各類謠言及煽動(dòng)性觀點(diǎn)，制造負(fù)面輿論事件，傳播不當(dāng)價(jià)值觀念、圖文信息，從而實(shí)現(xiàn)民意的“武器化”，為自身政治利益服務(wù)。近年來，一些國家已經(jīng)開始了認(rèn)知領(lǐng)域競(jìng)爭(zhēng)的布局，著手制定探索性的認(rèn)知戰(zhàn)計(jì)劃，將認(rèn)知戰(zhàn)等作為未來參與全球競(jìng)爭(zhēng)的重要手段。通過增強(qiáng)自身在全球認(rèn)知領(lǐng)域的主導(dǎo)地位，建立以其為中心的全球話語體系，從而達(dá)成提高“認(rèn)知優(yōu)越性”和“認(rèn)知復(fù)原力” 等目標(biāo)。[18]

3. 危險(xiǎn)性與智能性：技術(shù)歸因下的網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)升級(jí)

信息技術(shù)的進(jìn)步帶來了網(wǎng)絡(luò)攻擊的升級(jí)，大數(shù)據(jù)、人工智能等技術(shù)的出現(xiàn)和成熟不僅為網(wǎng)絡(luò)攻擊行為提供了直接的技術(shù)支持，同時(shí)也降低了網(wǎng)絡(luò)攻擊的成本和門檻，從深度和廣度兩個(gè)層面加劇了網(wǎng)絡(luò)安全風(fēng)險(xiǎn)與挑戰(zhàn)。在此語境下，信息技術(shù)與網(wǎng)絡(luò)內(nèi)容的結(jié)合為網(wǎng)絡(luò)安全增加了更多不確定性與危險(xiǎn)性，網(wǎng)絡(luò)內(nèi)容本身的傳播力、滲透力使得認(rèn)知攻擊等網(wǎng)絡(luò)攻擊手段更加容易實(shí)現(xiàn)，云計(jì)算等技術(shù)通過對(duì)網(wǎng)絡(luò)內(nèi)容的分析提供具有針對(duì)性的數(shù)據(jù)支持，為網(wǎng)絡(luò)攻擊策略提供精準(zhǔn)化、定制化的建議支撐。

信息技術(shù)極大地豐富了網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)的形式，同時(shí)也增加了風(fēng)險(xiǎn)防御的技術(shù)難度。網(wǎng)絡(luò)攻防本身具有非對(duì)稱性，風(fēng)險(xiǎn)等級(jí)的提升意味著防御技術(shù)需要在多個(gè)領(lǐng)域?qū)崿F(xiàn)重要突破，以達(dá)到適應(yīng)當(dāng)前風(fēng)險(xiǎn)等級(jí)的預(yù)防水平。對(duì)于網(wǎng)絡(luò)內(nèi)容而言，技術(shù)攻擊的智能化、自動(dòng)化，使得深度偽造、機(jī)器人輿論操控等新型攻擊方式不斷出現(xiàn)和更新，導(dǎo)致虛假信息真?zhèn)坞y辨，內(nèi)容安全防御難度提升。技術(shù)使用的失范也造成諸多網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)，特別是生成式人工智能出現(xiàn)后，相應(yīng)管理機(jī)制尚未完善，存在各類管理不暢、制度漏洞等問題，算法偏見、信息繭房、技術(shù)倫理、信息失真等問題也逐漸產(chǎn)生。[19]同時(shí)，“西方錯(cuò)誤社會(huì)思潮耦合智能技術(shù)進(jìn)行隱蔽滲透”，[20]使得一些以先進(jìn)技術(shù)為外殼的內(nèi)容產(chǎn)品淪為親西方價(jià)值的傳播工具。此外，相關(guān)制度設(shè)置的不公平性也進(jìn)一步激化了信息技術(shù)帶來的網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)，國際網(wǎng)絡(luò)空間仍然存在著人為設(shè)置的技術(shù)壁壘等問題，一些國家主導(dǎo)實(shí)施各類網(wǎng)絡(luò)戰(zhàn)略，以擴(kuò)大其網(wǎng)絡(luò)空間勢(shì)力范圍，為全球網(wǎng)絡(luò)安全帶來諸多隱患。

三、邏輯內(nèi)核：網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理中的矛盾關(guān)系

當(dāng)前，隨著網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)態(tài)勢(shì)的持續(xù)演變，全球網(wǎng)絡(luò)安全戰(zhàn)略向長線化轉(zhuǎn)變，網(wǎng)絡(luò)安全策略的重點(diǎn)朝認(rèn)知域轉(zhuǎn)向，智能技術(shù)在網(wǎng)絡(luò)內(nèi)容安全中的作用日益提升。在梳理和分析網(wǎng)絡(luò)內(nèi)容安全發(fā)展態(tài)勢(shì)以及現(xiàn)實(shí)問題的基礎(chǔ)上，需要進(jìn)一步對(duì)當(dāng)前網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理中的核心邏輯進(jìn)行揭示，從而為網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理轉(zhuǎn)型提供參照。其主要表現(xiàn)為幾組矛盾關(guān)系：

1. 互聯(lián)網(wǎng)開放性與制度排他性的矛盾關(guān)系

互聯(lián)網(wǎng)是具有開放性的技術(shù)體系和虛擬空間，網(wǎng)絡(luò)空間為世界各國所共用、共享、共治也逐漸成為全球互聯(lián)網(wǎng)治理的共識(shí)。隨著互聯(lián)網(wǎng)大規(guī)模商業(yè)化以及移動(dòng)化，網(wǎng)絡(luò)成為人們?nèi)粘＝涣?、傳遞、獲取信息的重要渠道，互聯(lián)網(wǎng)技術(shù)成為政治、經(jīng)濟(jì)、文化等領(lǐng)域的重要支撐，網(wǎng)絡(luò)在國家發(fā)展中的戰(zhàn)略地位越發(fā)受到關(guān)注并持續(xù)提升。因此，互聯(lián)網(wǎng)不僅是網(wǎng)絡(luò)使用者的信息共享空間，也成為大國技術(shù)角逐和意識(shí)形態(tài)競(jìng)爭(zhēng)的重要場(chǎng)域。在此背景下，一些國家憑借其技術(shù)先進(jìn)性及話語權(quán)優(yōu)勢(shì)對(duì)互聯(lián)網(wǎng)領(lǐng)域的制度規(guī)則進(jìn)行設(shè)置，試圖建立全球網(wǎng)絡(luò)空間使用規(guī)范。

2. 互聯(lián)網(wǎng)使用便利性與安全性的矛盾關(guān)系

在互聯(lián)網(wǎng)建設(shè)發(fā)展以及不斷推廣商用的歷程中，網(wǎng)絡(luò)使用便利性和網(wǎng)絡(luò)安全性的矛盾始終存在。在早期研究中，已有學(xué)者認(rèn)為，在一些情況下，人們會(huì)有意識(shí)地用安全性來換取互聯(lián)網(wǎng)使用的便捷性。[21]這一矛盾具有其合理性，反映了互聯(lián)網(wǎng)走進(jìn)大眾生活，消除技術(shù)歧視的不懈努力，同時(shí)也是信息技術(shù)不斷提升，互聯(lián)網(wǎng)行業(yè)服務(wù)屬性漸趨增強(qiáng)的探索性過程。但是，在網(wǎng)絡(luò)內(nèi)容飛速發(fā)展的過程中，平臺(tái)對(duì)用戶閱讀偏好、位置信息、行為習(xí)慣的讀取在提升平臺(tái)服務(wù)針對(duì)性與定制性的同時(shí)，也潛藏了數(shù)據(jù)泄露和非法使用所帶來的風(fēng)險(xiǎn)隱患。隨著網(wǎng)絡(luò)內(nèi)容形式的不斷豐富，分眾化與隱私保護(hù)、數(shù)字身份與個(gè)體自主權(quán)、數(shù)字社交與個(gè)體認(rèn)知之間的矛盾不斷出現(xiàn)。與此同時(shí)，對(duì)技術(shù)便利性的追逐可能進(jìn)一步引發(fā)內(nèi)容安全問題，生成式人工智能的機(jī)器整合內(nèi)容可能建立起人與機(jī)器的孤島，培養(yǎng)速食化和便捷化的閱讀思維等，最終導(dǎo)致人的認(rèn)知水平受到制約。[22]

3. 互聯(lián)網(wǎng)內(nèi)容交互性與影響不確定性的矛盾關(guān)系

交互性是計(jì)算機(jī)及互聯(lián)網(wǎng)服務(wù)的基本特征及屬性，這種屬性一方面源于技術(shù)開發(fā)和使用本身的需求，另一方面也形塑著網(wǎng)絡(luò)應(yīng)用方式的發(fā)展方向。網(wǎng)絡(luò)內(nèi)容作為互聯(lián)網(wǎng)信息的呈現(xiàn)形式，成為人們連接和溝通的重要載體，六度空間理論與社交網(wǎng)絡(luò)的興起和發(fā)展，以及互聯(lián)網(wǎng)商業(yè)浪潮席卷全球，進(jìn)一步確立了交互屬性在互聯(lián)網(wǎng)應(yīng)用中的核心地位。長期以來，交互功能成為網(wǎng)絡(luò)內(nèi)容創(chuàng)新的核心概念，從博客、即時(shí)通信工具，到微博、視頻軟件、網(wǎng)絡(luò)社區(qū)等內(nèi)容平臺(tái)，用戶對(duì)內(nèi)容的創(chuàng)作、發(fā)表、評(píng)論等不斷構(gòu)成內(nèi)容平臺(tái)的觀點(diǎn)流和信息流，使網(wǎng)絡(luò)內(nèi)容成為價(jià)值觀念、社會(huì)心理、公眾情緒的重要反映，也成為公眾觀點(diǎn)的形成和聚集地。由此，互聯(lián)網(wǎng)完成了技術(shù)交互性向內(nèi)容交互性的延伸，這一過程也使網(wǎng)絡(luò)空間具有了更多意識(shí)形態(tài)屬性和戰(zhàn)略價(jià)值。但是，這一變化加劇了內(nèi)容影響力所潛藏的網(wǎng)絡(luò)風(fēng)險(xiǎn)，使得惡意網(wǎng)絡(luò)內(nèi)容借助互聯(lián)網(wǎng)交互屬性實(shí)現(xiàn)其不良企圖，為網(wǎng)絡(luò)內(nèi)容安全增加了潛在危險(xiǎn)性。

四、治理對(duì)策：我國網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理體系建設(shè)

面對(duì)全球網(wǎng)絡(luò)內(nèi)容安全的風(fēng)險(xiǎn)升級(jí)與戰(zhàn)略轉(zhuǎn)型，我國必須建立適應(yīng)當(dāng)前階段的現(xiàn)代化網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理體系，從制度、話語、技術(shù)等領(lǐng)域協(xié)同推進(jìn)，促進(jìn)新安全格局的形成，適應(yīng)新發(fā)展格局的需要。

1. 制度保障：完善網(wǎng)絡(luò)內(nèi)容安全制度體系建設(shè)

網(wǎng)絡(luò)內(nèi)容安全制度是網(wǎng)絡(luò)內(nèi)容運(yùn)行的規(guī)則基礎(chǔ)與行動(dòng)參照，建立和完善網(wǎng)絡(luò)內(nèi)容安全制度體系，是適應(yīng)全球互聯(lián)網(wǎng)治理話語權(quán)競(jìng)爭(zhēng)的必然要求。21世紀(jì)以來，世界各國及國際組織著手建立網(wǎng)絡(luò)及信息安全制度體系。目前，全球?qū)用嫘纬闪艘月?lián)合國頒布的《日內(nèi)瓦原則宣言》（2003）和《日內(nèi)瓦行動(dòng)計(jì)劃》（2003）為基本框架的信息安全基本共識(shí)和指導(dǎo)意見，網(wǎng)絡(luò)內(nèi)容也納入網(wǎng)絡(luò)安全保障的框架之中。歐盟自1999年以來持續(xù)實(shí)施“五年網(wǎng)絡(luò)安全計(jì)劃”，出臺(tái)了《關(guān)于網(wǎng)絡(luò)和信息安全領(lǐng)域通用方法和特殊行動(dòng)的決議》（2002）、《關(guān)于建立歐洲信息社會(huì)安全戰(zhàn)略的決議》（2007）等政策文件，頒布《通用數(shù)據(jù)保護(hù)條例》（2018），嚴(yán)格保護(hù)個(gè)人數(shù)據(jù)安全和隱私。世界各國積極建立由其主導(dǎo)的全球網(wǎng)絡(luò)安全治理制度話語，相關(guān)規(guī)則和制度的完善成為各國重點(diǎn)戰(zhàn)略領(lǐng)域。

面對(duì)全球網(wǎng)絡(luò)內(nèi)容安全挑戰(zhàn)，我國亟須建立全面的網(wǎng)絡(luò)內(nèi)容安全制度體系。從制度層面來看，需要建立多維度的網(wǎng)絡(luò)內(nèi)容安全制度，完善從法律制度到執(zhí)行標(biāo)準(zhǔn)的制度體系，夯實(shí)網(wǎng)絡(luò)內(nèi)容安全治理工作的制度基礎(chǔ)。在法律法規(guī)層面，當(dāng)前以《中華人民共和國網(wǎng)絡(luò)安全法》為核心的網(wǎng)絡(luò)安全法律法規(guī)，初步奠定了我國網(wǎng)絡(luò)內(nèi)容安全的制度框架，但在一些新興及細(xì)分領(lǐng)域仍然存在法律解釋空間。為此，需要加快對(duì)人工智能、算法倫理、個(gè)人隱私、網(wǎng)絡(luò)用戶權(quán)利保障等方面的解釋進(jìn)程，提升政策話語對(duì)網(wǎng)絡(luò)內(nèi)容動(dòng)態(tài)性的適應(yīng)能力和引領(lǐng)能力，滿足新興內(nèi)容領(lǐng)域的治理需求。與此同時(shí)，在制度建設(shè)過程中強(qiáng)化前瞻性研究，為相關(guān)工作提供理論支持。積極應(yīng)對(duì)全球網(wǎng)絡(luò)空間制度轉(zhuǎn)型，對(duì)全球網(wǎng)絡(luò)空間新形勢(shì)、新技術(shù)、新的應(yīng)用場(chǎng)景、新的流行文化、新的社會(huì)問題等予以充分關(guān)注，并對(duì)可能產(chǎn)生的全球性網(wǎng)絡(luò)內(nèi)容治理問題進(jìn)行科學(xué)研判和預(yù)測(cè)，從而提高制度層面的敏銳度和先進(jìn)性，增強(qiáng)我國在全球互聯(lián)網(wǎng)治理改革中的引領(lǐng)力。

2. 話語權(quán)力：推進(jìn)全球網(wǎng)絡(luò)空間話語體系建設(shè)

2023年，習(xí)近平總書記強(qiáng)調(diào)了網(wǎng)信工作“堅(jiān)持統(tǒng)籌發(fā)展和安全”的重要原則。在網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)治理工作中，平衡好發(fā)展與安全尤為重要，在進(jìn)行風(fēng)險(xiǎn)防范與處理的同時(shí)，更需要加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，推進(jìn)我國在全球網(wǎng)絡(luò)中的話語體系的建構(gòu)。目前，網(wǎng)絡(luò)意識(shí)形態(tài)工作的戰(zhàn)略地位日益提升，網(wǎng)絡(luò)輿論引導(dǎo)愈發(fā)成為網(wǎng)絡(luò)宣傳工作的重中之重。從國際形勢(shì)來看，全球網(wǎng)絡(luò)戰(zhàn)略重心逐漸向認(rèn)知領(lǐng)域轉(zhuǎn)移，在國際網(wǎng)絡(luò)空間，西方國家長期渲染“中國網(wǎng)絡(luò)威脅”，為其對(duì)我國的網(wǎng)絡(luò)攻擊行為尋找借口，同時(shí)對(duì)我國在國際網(wǎng)絡(luò)空間的大國形象進(jìn)行抹黑，給我國網(wǎng)絡(luò)安全帶來隱患。在各國網(wǎng)絡(luò)話語權(quán)爭(zhēng)奪意識(shí)和能力不斷提升的現(xiàn)實(shí)背景下，推進(jìn)我國在全球網(wǎng)絡(luò)空間的話語體系建設(shè)，筑牢我國網(wǎng)絡(luò)內(nèi)容安全的全球話語基礎(chǔ)顯得尤為關(guān)鍵。

推進(jìn)網(wǎng)絡(luò)話語體系建設(shè)需要遵循內(nèi)外兼濟(jì)的漸進(jìn)式思路。在國內(nèi)層面，要以宣傳工作和網(wǎng)絡(luò)輿論引導(dǎo)為抓手，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)和治理，形成健康文明的網(wǎng)絡(luò)生態(tài)，豐富主流話語的表達(dá)方式和敘事策略，促進(jìn)數(shù)字文化繁榮和文化自信的加強(qiáng)。在國際層面，要積極探索適應(yīng)國際傳播語境的主流話語形態(tài)，以各類網(wǎng)絡(luò)文化產(chǎn)品為載體，提升我國在國際網(wǎng)絡(luò)傳播中的話語權(quán)和影響力，在網(wǎng)絡(luò)意識(shí)形態(tài)主戰(zhàn)場(chǎng)上把握主動(dòng)權(quán)。為此，要繼續(xù)發(fā)揮主流媒體在內(nèi)容安全領(lǐng)域的積極作用，加快推進(jìn)新型主流媒體建設(shè)，促進(jìn)輿論宣傳工作與互聯(lián)網(wǎng)時(shí)代的傳播特點(diǎn)和傳播要求相適應(yīng)；積極傳播與新時(shí)代新發(fā)展、中國經(jīng)濟(jì)光明論、中國式現(xiàn)代化等相關(guān)的中國故事，著力構(gòu)建中國話語和敘事體系。在全球網(wǎng)絡(luò)傳播語境中，要不斷優(yōu)化傳播平臺(tái)建設(shè)，加快推進(jìn)5G、4K、8K、AI等先進(jìn)傳播技術(shù)布局，提升海外傳播的生動(dòng)性、大眾性、引領(lǐng)性；持續(xù)深化以“媒體外交”為代表的國際影響力建設(shè)，加強(qiáng)與國際主流媒體、國際組織的交流合作，不斷拓展中國話語在海外的落地空間。

3. 技術(shù)賦能：探索智能驅(qū)動(dòng)型網(wǎng)絡(luò)安全體系建設(shè)

人工智能技術(shù)作為第四次工業(yè)革命的關(guān)鍵技術(shù)之一，深刻影響了網(wǎng)絡(luò)內(nèi)容安全的技術(shù)手段和工作思路。人工智能具有較強(qiáng)的溢出帶動(dòng)性，不斷形成新的應(yīng)用形態(tài)，也為網(wǎng)絡(luò)內(nèi)容安全體系建設(shè)帶來更多可能性。網(wǎng)絡(luò)內(nèi)容安全演進(jìn)至智能生成型階段，內(nèi)容風(fēng)險(xiǎn)表現(xiàn)形式更加多元，風(fēng)險(xiǎn)影響力極大增強(qiáng)。全球網(wǎng)絡(luò)攻擊手段不斷智能化、自動(dòng)化，機(jī)器人賬號(hào)、自動(dòng)內(nèi)容生產(chǎn)、用戶反饋分析等手段都助長了網(wǎng)絡(luò)攻擊能力。因此，網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)治理需要將以生成式人工智能為代表的核心技術(shù)應(yīng)用提升至重要戰(zhàn)略地位，增強(qiáng)以先進(jìn)技術(shù)為驅(qū)動(dòng)的安全體系建設(shè)。

針對(duì)全球網(wǎng)絡(luò)內(nèi)容安全風(fēng)險(xiǎn)，需要從實(shí)踐和認(rèn)識(shí)兩個(gè)方面出發(fā)，探索構(gòu)建智能驅(qū)動(dòng)型網(wǎng)絡(luò)安全體系建設(shè)。在實(shí)踐層面，要推動(dòng)相關(guān)技術(shù)突破與創(chuàng)新，鼓勵(lì)企業(yè)主體的技術(shù)創(chuàng)新積極性，運(yùn)用大數(shù)據(jù)、人工智能、云計(jì)算等技術(shù)推進(jìn)內(nèi)容治理手段的智能化、多樣化，適應(yīng)當(dāng)前網(wǎng)絡(luò)內(nèi)容復(fù)雜化、內(nèi)容安全問題隱匿化的現(xiàn)狀。在此過程中，不僅要關(guān)注網(wǎng)絡(luò)技術(shù)中法規(guī)體系的智能化建設(shè)，也要加強(qiáng)內(nèi)容發(fā)展與生成技術(shù)的開發(fā)和應(yīng)用。在認(rèn)識(shí)層面，要深入推進(jìn)對(duì)智能時(shí)代網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)形勢(shì)的研判與分析工作，全面掌握當(dāng)前全球范圍主要的內(nèi)容安全威脅和潛在風(fēng)險(xiǎn)，建立相應(yīng)的風(fēng)險(xiǎn)預(yù)警和監(jiān)測(cè)機(jī)制。此外，要深入了解人工智能等技術(shù)在網(wǎng)絡(luò)安全工作中的作用方式，靈活掌握機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語言信息處理、知識(shí)再現(xiàn)與推理、專家系統(tǒng)等重要概念，推進(jìn)建立網(wǎng)絡(luò)安全治理的智能決策系統(tǒng)，全面推進(jìn)網(wǎng)絡(luò)內(nèi)容風(fēng)險(xiǎn)治理的轉(zhuǎn)型與升級(jí)。

參考文獻(xiàn)：

[1] Islam N， Anand R， Jaeger T， et al. A flexible security system for using Internet content[J]. IEEE Software， 1997， 14（5）： 52-59.

[2] Molva R. Internet security architecture[J]. Computer Networks， 1999， 31（8）： 787-804.

[3] De Vivo M， de Vivo G O， Isern G. Internet security attacks at the basic levels[J]. ACM SIGOPS operating systems review， 1998， 32（2）： 4-15.

[4] Olalekan Adeyinka.Internet Attack Methods and Internet Security Technology[EB/OL].[2024-05-07].https：//ieeexplore.ieee.org/document/4530455.

[5] 趙仲孟，陳劍，張選平，等. 網(wǎng)絡(luò)內(nèi)容安全分析與對(duì)策[J]. 計(jì)算機(jī)工程，2002（5）：41-43.

[6] 萬國根，秦志光，劉錦德. 網(wǎng)絡(luò)內(nèi)容安全分析及審計(jì)技術(shù)研究[J]. 計(jì)算機(jī)應(yīng)用研究，2004（1）：117-118，155.

[7] Froehling O. The cyberspace "war of ink and Internet" in Chiapas， Mexico[J]. Geographical Review， 1997， 87（2）： 291-307.

[8] Denning D E.Information warfare and security[M]. New York： Addison-Wesley， 1999： 113.

[9] Bradshaw S，Howard P．Troops，Trolls and Troublemakers： A Global Inventory of Organized Social Media Manipulation[EB/OL].[2023-11-26].https：//www.oii.ox.ac.uk/blog/troops-trolls-and-troublemakers-a-global-inventory-of-organized-social-media-manipulation/.

[10] 劉琦，李建華. 網(wǎng)絡(luò)內(nèi)容安全監(jiān)管系統(tǒng)的框架及其關(guān)鍵技術(shù)[J]. 計(jì)算機(jī)工程，2003（2）：287-289.

[11] Waltzman R. The Weaponization of Information[EB/OL].[2024-04-26].https：//www.rand.org/pubs/testimonies/CT473.html.

[12] Gupta M， Akiri C， Aryal K， et al. From chatgpt to threatgpt： Impact of generative ai in cybersecurity and privacy[J]. IEEE Access， 2023（7）： 218-245.

[13] Al-Hawawreh M， Aljuhani A， Jararweh Y. Chatgpt for cybersecurity： practical applications， challenges， and future directions[J]. Cluster Computing， 2023， 26（6）： 3421-3436.

[14] Karanjai R.Targeted Phishing Campaigns using Large Scale Language Models[EB/OL].[2024-06-11].http：//arxiv.org/pdf/2301.00665.

[15] 卜哲，葛悅濤，崔梟飛. 美國網(wǎng)絡(luò)威懾戰(zhàn)略漸弱化趨勢(shì)研究[J]. 信息安全與通信保密，2023（7）：1-11.

[16] 米華全. 網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)導(dǎo)權(quán)的內(nèi)涵特征及機(jī)制構(gòu)建[J]. 理論導(dǎo)刊，2022（2）：64-69.

[17] 門洪華，徐博雅. 美國認(rèn)知域戰(zhàn)略布局與大國博弈[J]. 現(xiàn)代國際關(guān)系，2022（6）：1-11，61.

[18] NATO. Allied Command Transformation 20 Years： AS NATO's Military Leader for Change[EB/OL].[2023-06-01].https：//www.act.nato.int/wp-content/uploads/2023/06/NATO-booklet-2023-LR.pdf.

[19] 金雪濤，周也馨. 從ChatGPT火爆看智能生成內(nèi)容的風(fēng)險(xiǎn)及治理[J]. 編輯之友，2023（11）：29-35.

[20] 洪曉楠，劉媛媛. 人工智能時(shí)代網(wǎng)絡(luò)意識(shí)形態(tài)安全建設(shè)的發(fā)展契機(jī)、潛在風(fēng)險(xiǎn)與調(diào)適進(jìn)路[J]. 思想教育研究，2022（10）：138-144.

[21] De Vivo M， De Vivo G O， Isern G. Internet security attacks at the basic levels[J]. ACM SIGOPS operating systems review， 1998， 32（2）： 4-15.

[22] 彭蘭. 智能生成內(nèi)容如何影響人的認(rèn)知與創(chuàng)造？[J]. 編輯之友，2023（11）：21-28.

Internet Content Security and Internet Content Risk Governance in the Context of Globalization

XIE Xin-zhou， ZHANG Jing-yi（School of New Media， Peking University， Beijing 100871， China）

Abstract： Network content security is an important aspect of network content governance， as well as an important research topic in the field of information security and national security. The connotation of network content has changed with the evolution of Internet technology and globalization， when traditional risks in the technical field is gradually expanding to the cognitive field. Against the background of the emergence and development of generative artificial intelligence， the risk of network content security shows a new trend of concealment and longevity， bringing deep-seated risks and challenges to society. It is an important mission and goal to promote Internet governance， deal with cybersecurity issues and safeguard national security by gaining a deep understanding of the development and challenges of network content security. It is also urgent to clarify the basic logic behind the escalation of network content security risks and build a modernized network content security governance system.

Key words： Internet content security; information security; Internet governance; generative artificial intelligence; national security