［摘 要］生成式人工智能以其技術(shù)的底層性和通用性重塑意識(shí)形態(tài)實(shí)踐的要素和結(jié)構(gòu)，其專業(yè)化和小規(guī)?；髮⒊蔀閺V泛銷(xiāo)售并使用的智能代理，將造就意識(shí)形態(tài)生產(chǎn)、傳播、教育和動(dòng)員新形態(tài)。由于專業(yè)權(quán)威弱化、算法復(fù)現(xiàn)數(shù)據(jù)性質(zhì)譜系以及私有化的產(chǎn)權(quán)和應(yīng)用造成了權(quán)威性與民主性、政治性與技術(shù)性、公共性與私有性矛盾，智能代理將在實(shí)踐主體、模型構(gòu)建和社會(huì)應(yīng)用方面引起多重影響國(guó)家安全的意識(shí)形態(tài)風(fēng)險(xiǎn)。為治理風(fēng)險(xiǎn)，應(yīng)立足未來(lái)提出預(yù)前策略，拋開(kāi)為技術(shù)引發(fā)問(wèn)題打補(bǔ)丁的思路。必須確立黨管智能代理原則，強(qiáng)化主流意識(shí)形態(tài)權(quán)威性；構(gòu)建可內(nèi)嵌意識(shí)形態(tài)知識(shí)圖譜，提升意識(shí)形態(tài)數(shù)據(jù)規(guī)范性；導(dǎo)入意識(shí)形態(tài)管理智能代理，實(shí)現(xiàn)社會(huì)應(yīng)用全程風(fēng)險(xiǎn)處置。

［關(guān)鍵詞］生成式人工智能；意識(shí)形態(tài)實(shí)踐技術(shù)；智能代理；風(fēng)險(xiǎn)治理

［作者簡(jiǎn)介］孫夕龍：北京交通大學(xué)馬克思主義學(xué)院教授、博士生導(dǎo)師，主要研究方向?yàn)轳R克思主義基本原理。

［DOI］10.19377/j.cnki.43-1531/g0.2024.02.007

生成式人工智能是新一代人工智能在深度學(xué)習(xí)方向取得的標(biāo)志性技術(shù)，是人工智能第三次浪潮的重大進(jìn)展。它在功能模擬意義上解決了程序自行學(xué)習(xí)和自動(dòng)生成數(shù)據(jù)的問(wèn)題，是信息技術(shù)體系中的底層技術(shù)和通用技術(shù)。生成式人工智能技術(shù)與大數(shù)據(jù)、超級(jí)計(jì)算和物聯(lián)網(wǎng)等技術(shù)融成一體，將使真正的智能世界和全息世界變?yōu)楝F(xiàn)實(shí)，并從信息層面實(shí)質(zhì)性重構(gòu)各行各業(yè)的要素和結(jié)構(gòu)，給生產(chǎn)實(shí)踐、社會(huì)生活以及社會(huì)運(yùn)營(yíng)管理帶來(lái)歷史性變革。目前，生成式人工智能語(yǔ)言大模型已在交通、金融、醫(yī)療、教育等產(chǎn)業(yè)賦能方面初具規(guī)模，多模態(tài)大模型正在快速推進(jìn)，例如2024年初美國(guó)OpenAI公司發(fā)布了Sora。可以預(yù)見(jiàn)，作為新質(zhì)生產(chǎn)力的重要方面，生成式人工智能技術(shù)在思想文化領(lǐng)域的應(yīng)用不久將迎來(lái)爆發(fā)。一方面，對(duì)于文化和意識(shí)形態(tài)領(lǐng)域，它不會(huì)只是一般性賦能或介入，而是第一生產(chǎn)力，必將重塑文化實(shí)踐模式，在意識(shí)形態(tài)生產(chǎn)、傳播、教育和動(dòng)員能力方面造成顛覆性影響。另一方面，它也將是未來(lái)意識(shí)形態(tài)斗爭(zhēng)的最前沿，成為負(fù)面意識(shí)形態(tài)活動(dòng)加以利用的主要工具，會(huì)在文化安全、意識(shí)形態(tài)安全乃至政治安全方面引發(fā)前所未遇的潛在風(fēng)險(xiǎn)和挑戰(zhàn)。因此，關(guān)于生成式人工智能在思想文化領(lǐng)域應(yīng)用的研究不能局限于初步賦能以及一般倫理問(wèn)題，而是必須基于其技術(shù)的底層性和通用性，預(yù)測(cè)和刻畫(huà)它未來(lái)的實(shí)踐路徑和產(chǎn)業(yè)情景，深入把握其引發(fā)的意識(shí)形態(tài)新風(fēng)險(xiǎn)，并提出治理對(duì)策。

一 生成式人工智能作為支撐意識(shí)形態(tài)的技術(shù)及其功能

馬克思指出，技術(shù)作為“工藝學(xué)”，“揭示出人對(duì)自然的能動(dòng)關(guān)系，人的生活的直接生產(chǎn)過(guò)程，從而人的社會(huì)生活關(guān)系和由此產(chǎn)生的精神觀念的直接生產(chǎn)過(guò)程。”（馬克思，Nwa74M8aHBVmLKSJNguXyQ==恩格斯.馬克思恩格斯文集：第5卷［M］.北京：人民出版社，2009：429.）例如，“預(yù)告資產(chǎn)階級(jí)社會(huì)到來(lái)的三大發(fā)明”，火藥炸碎了騎士階層，成為服務(wù)于階級(jí)斗爭(zhēng)的技術(shù)；指南針被運(yùn)用于開(kāi)拓世界市場(chǎng)和殖民地，成為服務(wù)于資本的技術(shù)；“而印刷術(shù)則變成新教的工具，總的來(lái)說(shuō)變成科學(xué)復(fù)興的手段，變成對(duì)精神發(fā)展創(chuàng)造必要前提的最強(qiáng)大的杠桿”（馬克思，恩格斯.馬克思恩格斯文集：第8卷［M］.北京：人民出版社，2009：338.），所以是支撐意識(shí)形態(tài)和精神生產(chǎn)的技術(shù)。精神領(lǐng)域幾千年發(fā)展史表明，新舊意識(shí)形態(tài)斗爭(zhēng)既是有關(guān)新舊思想觀念的斗爭(zhēng)，也是有關(guān)意識(shí)形態(tài)活動(dòng)技術(shù)的斗爭(zhēng)。這些技術(shù)之爭(zhēng)或多或少地改變了既有思想文化格局，在革命時(shí)期，甚至引發(fā)了新舊文化生死之戰(zhàn)。

（一）生成式人工智能作為支撐意識(shí)形態(tài)的技術(shù)及其形成

意識(shí)形態(tài)不僅是作為上層建筑的思想體系，還是反作用于經(jīng)濟(jì)基礎(chǔ)、同政治和社會(huì)生活相互作用的實(shí)踐活動(dòng)，顯然需要借助一定的技術(shù)才能進(jìn)行，包括搭建物質(zhì)載體、創(chuàng)設(shè)媒介符號(hào)、傳遞思想觀念、動(dòng)員行動(dòng)主體、提供行動(dòng)手段等。這些技術(shù)實(shí)際是特定的信息技術(shù)和傳播技術(shù)。因此，可以將意識(shí)形態(tài)實(shí)踐所使用的信息技術(shù)和傳播技術(shù)稱為支撐意識(shí)形態(tài)實(shí)踐的技術(shù)，簡(jiǎn)稱意識(shí)形態(tài)實(shí)踐技術(shù)，將意識(shí)形態(tài)的思想內(nèi)容簡(jiǎn)稱為意識(shí)形態(tài)信息或數(shù)據(jù)。

在哲學(xué)層面上，所有技術(shù)從功能來(lái)看都是直接或間接對(duì)人體器官體系一定程度的模擬和擴(kuò)展，都是延長(zhǎng)了的人的“自然的肢體”（馬克思，恩格斯.馬克思恩格斯文集：第5卷［M］.北京：人民出版社，2009：209.），支撐意識(shí)形態(tài)的技術(shù)也不例外。人在實(shí)踐中必須使用自身信息器官獲取和利用有關(guān)外部世界的信息來(lái)操控各種工具，這些信息器官體系包括感知和獲取信息的感覺(jué)器官、傳遞和分配信息的傳導(dǎo)神經(jīng)、存儲(chǔ)和生成信息的思維器官（大腦）以及使用和反饋信息的效應(yīng)器官（手足口）等。意識(shí)形態(tài)實(shí)踐技術(shù)作為信息工具，本質(zhì)上就是對(duì)人體信息器官體系的延伸，就是人們利用信息和傳播工具感知和收集、解析和傳遞、存儲(chǔ)和加工以及使用和調(diào)節(jié)文化與意識(shí)形態(tài)信息和數(shù)據(jù)的技術(shù)。意識(shí)形態(tài)實(shí)踐在技術(shù)層面就是階級(jí)或利益集團(tuán)及其意識(shí)形態(tài)家利用多層疊加的信息媒介來(lái)生產(chǎn)、傳播和灌輸意識(shí)形態(tài)信息，動(dòng)員階級(jí)隊(duì)伍和凝聚政治成員，以支持其建立或開(kāi)展政治統(tǒng)治的活動(dòng)。另一方面，人體信息器官體系和所有信息技術(shù)都存在信息生產(chǎn)和表達(dá)的效率以及信息傳播和交流如何實(shí)現(xiàn)時(shí)空同一性這兩個(gè)基本問(wèn)題，信息技術(shù)發(fā)展史就是解決這兩個(gè)問(wèn)題的歷史，最終目標(biāo)是指向一種能夠同時(shí)實(shí)現(xiàn)大批量信息生產(chǎn)和傳播的、多主體和多終端之間的、遠(yuǎn)距離的和實(shí)時(shí)交流的自動(dòng)化信息生產(chǎn)和處理系統(tǒng)。意識(shí)形態(tài)實(shí)踐技術(shù)的進(jìn)步史自然也是一部追求自動(dòng)化的歷史，而生成式人工智能技術(shù)恰恰就是其所追求的目標(biāo)，是意識(shí)形態(tài)實(shí)踐史和技術(shù)史的必然歸宿。

從文字替代瞬間消失的口語(yǔ)及其器官工具開(kāi)始，中間歷經(jīng)造紙術(shù)、機(jī)械印刷、電報(bào)電話、錄音錄像以及廣播電視等，信息的載體、媒介及傳播方式一直在突破時(shí)間、空間和容量限制。一旦人類(lèi)將信息和數(shù)據(jù)搬運(yùn)到載體和媒介上后，其存儲(chǔ)和傳遞就脫離了人而獨(dú)立進(jìn)行，可以說(shuō)實(shí)現(xiàn)了部分自動(dòng)化。20世紀(jì)40年代計(jì)算機(jī)發(fā)明后，人類(lèi)首次開(kāi)始制造非肉體的器具來(lái)模擬人腦結(jié)構(gòu)以及處理信息和操控肌體的機(jī)制，試圖拓展和替代人腦的部分機(jī)能，并克服其不足。在結(jié)合通信等技術(shù)后，計(jì)算機(jī)初步解決了遠(yuǎn)距離傳遞信息與主體間信息互動(dòng)不能同步的矛盾。20世紀(jì)90年代以后，人們逐步將各種電子設(shè)備鏈接在一起，構(gòu)建了互聯(lián)網(wǎng)。21世紀(jì)以來(lái)，移動(dòng)設(shè)備和移動(dòng)互聯(lián)網(wǎng)大幅提升了自動(dòng)感知、生產(chǎn)、收集和傳遞信息的能力，具備了多主體間遠(yuǎn)距離同時(shí)互動(dòng)功能，并成為意識(shí)形態(tài)斗爭(zhēng)的主戰(zhàn)場(chǎng)、主陣地和最前沿。

2018年以來(lái)，以ChatGPT和文心一言等為代表的生成式人工智能取得技術(shù)突破，目前主要通過(guò)理解用戶輸入的自然語(yǔ)言及其相應(yīng)語(yǔ)境和場(chǎng)景來(lái)推斷其需求，生成用戶期望的新文本數(shù)據(jù)。同時(shí)，研究人員正在快速推進(jìn)它實(shí)現(xiàn)跨模態(tài)任務(wù)，即生成文本、圖像、音頻和視頻等不同模態(tài)信息的混合數(shù)據(jù)。其核心部分是神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換器（Transformer）模型，它可以將輸入序列數(shù)據(jù)通過(guò)編碼器轉(zhuǎn)換為一組向量，然后通過(guò)解碼器使用這些向量來(lái)生成輸出序列數(shù)據(jù)。生成式人工智能在功能意義上初步實(shí)現(xiàn)了對(duì)人腦信息處理的模仿和擴(kuò)展，與現(xiàn)有網(wǎng)絡(luò)技術(shù)深度結(jié)合后，最終將完成信息技術(shù)對(duì)人體信息器官體系的完整擴(kuò)展：內(nèi)置生成式人工智能程序的電子設(shè)備從網(wǎng)外世界和網(wǎng)內(nèi)空間感知和獲取信息并存儲(chǔ)；網(wǎng)絡(luò)傳遞、交換和分配信息；生成式人工智能收集、存儲(chǔ)和計(jì)算信息并自動(dòng)生成新信息；生成式人工智能發(fā)出指令信息，通過(guò)電子或機(jī)械等媒介操控聯(lián)網(wǎng)物體、人員及組織系統(tǒng)，指揮工具體系生產(chǎn)物質(zhì)資料。在給出第一推動(dòng)后，生成式人工智能可以獨(dú)立實(shí)現(xiàn)自然人需要的各種信息任務(wù)，幾乎無(wú)須自然人來(lái)監(jiān)督執(zhí)行。至此，信息技術(shù)的兩個(gè)基本問(wèn)題基本得到解決，真正實(shí)現(xiàn)了信息生產(chǎn)、收集、計(jì)算和傳遞全過(guò)程的自動(dòng)化。在思想文化領(lǐng)域，生成式人工智能能夠代替人類(lèi)獨(dú)立完成意識(shí)形態(tài)數(shù)據(jù)和信息的生產(chǎn)、存儲(chǔ)和傳播等事務(wù)，是新一代具有顛覆意義的支撐意識(shí)形態(tài)實(shí)踐的技術(shù)。

（二）生成式人工智能的文化和意識(shí)形態(tài)功能

生成式人工智能將造就思想文化領(lǐng)域新結(jié)構(gòu)、新產(chǎn)業(yè)和新業(yè)態(tài)，成為文化發(fā)展的新引擎。第一，重塑思想文化實(shí)踐主體結(jié)構(gòu)。生成式人工智能作為程序在功能模擬層面可以稱得上是類(lèi)人智能工具，被稱為agent，即“智能代理”（或譯作“智能體”）。agent最早由馬文·明斯基（Marvin Minsky）引入，討論心智（Mind）如何由許多更小的程序組成并聚合在一起實(shí)現(xiàn)“真正的智能”。（參見(jiàn)：Marvin Minsky.The Society of Mind［M］.New York：Simon & Schuster，Inc.，1985：17.）1995年，比爾·蓋茨提出，agent“是一個(gè)具有人格并且似乎具有主動(dòng)性的過(guò)濾器”，與之對(duì)話就像“同一個(gè)行為有些像人的程序?qū)υ挕?。（根?jù)原文對(duì)譯文進(jìn)行了改動(dòng)，參見(jiàn)：比爾·蓋茨，等.未來(lái)之路［M］.辜正坤，譯.北京：北京大學(xué)出版社，1996：110-111.）智能代理將向思想文化領(lǐng)域引入大量前所未有的主體新變量。首先，雖然生成式人工智能構(gòu)建需要龐大的資源和投資，普通用戶目前只能通過(guò)應(yīng)用程序購(gòu)買(mǎi)其服務(wù)，但從技術(shù)發(fā)展和商業(yè)驅(qū)動(dòng)來(lái)看，它必將朝著小型化和輕量化方向快速演進(jìn)，迭代出低資源需求的深度學(xué)習(xí)算法。在突破成本障礙、實(shí)現(xiàn)消費(fèi)級(jí)商業(yè)化后，除現(xiàn)有研發(fā)團(tuán)體和供應(yīng)商外，大量企業(yè)和個(gè)人理論上也可以依據(jù)條件和需要購(gòu)買(mǎi)使用。其次，智能代理未來(lái)將以高度仿真的、能與自然人進(jìn)行知情意互動(dòng)的人形機(jī)器人的形象廣泛切入生產(chǎn)生活中。無(wú)數(shù)智能代理將會(huì)聯(lián)結(jié)成網(wǎng)，成為相對(duì)獨(dú)立的類(lèi)人主體世界，成為意識(shí)形態(tài)和文化實(shí)踐主導(dǎo)平臺(tái)，實(shí)踐主體將跨入自然人主體和類(lèi)人主體共存時(shí)代。再次，非專業(yè)人員可以指令智能代理代替他們完成諸如編寫(xiě)代碼、生產(chǎn)高水平文化產(chǎn)品等技術(shù)性工作，雖然專業(yè)人員不使用智能代理也能從事專業(yè)工作，但智能代理確實(shí)代替了大量至少是中高端的專業(yè)工作。這是一個(gè)歷史性轉(zhuǎn)折，在絕大多數(shù)文化產(chǎn)品生產(chǎn)的意義上，文化和意識(shí)形態(tài)領(lǐng)域?qū)I(yè)與非專業(yè)主體的差別將趨于模糊。

第二，制造全模態(tài)型文化和意識(shí)形態(tài)產(chǎn)品生產(chǎn)工具。首先，生成式人工智能正在構(gòu)建通用模型和針對(duì)各專業(yè)領(lǐng)域的垂直模型，兩類(lèi)模型都會(huì)涉及文化和意識(shí)形態(tài)數(shù)據(jù)，構(gòu)建文化和意識(shí)形態(tài)專業(yè)模型將成為必然，理論著述、新聞歷史、小說(shuō)影視、游戲動(dòng)漫、音樂(lè)美術(shù)以及更復(fù)雜的虛擬現(xiàn)實(shí)等都有海量原始數(shù)據(jù)可供使用。因此，生成式人工智能是全模態(tài)型文化和意識(shí)形態(tài)產(chǎn)品生產(chǎn)工具，未來(lái)市場(chǎng)必是專業(yè)模型或垂直模型占據(jù)絕大多數(shù)。其次，除了法人實(shí)體外，普通個(gè)人也將擁有自己專屬的文化產(chǎn)品自動(dòng)化生產(chǎn)程序，相比其他專業(yè)性極強(qiáng)、成本極高的例如從事自然科學(xué)研究的大模型，文化行業(yè)專業(yè)模型的數(shù)量將會(huì)更多。再次，普通用戶在成本可控的情況下都可以無(wú)限制地使用智能代理進(jìn)行生產(chǎn)和傳播活動(dòng)，甚至也可以將智能代理設(shè)計(jì)成它自身的用戶，實(shí)現(xiàn)自己與自己的開(kāi)放式對(duì)話，并進(jìn)行生產(chǎn)。因此，未來(lái)文化和意識(shí)形態(tài)產(chǎn)品的數(shù)量將比現(xiàn)在多得多。最后，智能代理生產(chǎn)的文化和意識(shí)形態(tài)產(chǎn)品的水準(zhǔn)多數(shù)情況下高于自然人主體，自然人獨(dú)立生產(chǎn)的積極性將受到抑制，多數(shù)人會(huì)選擇輔助智能代理來(lái)生產(chǎn)，并成為常態(tài)。

第三，創(chuàng)造文化和意識(shí)形態(tài)實(shí)踐新模式。首先，基于帶寬、數(shù)據(jù)和算力等基礎(chǔ)設(shè)施的強(qiáng)大能力，未來(lái)生產(chǎn)制造和社會(huì)生活運(yùn)行管理所有需要鏈接運(yùn)行的設(shè)備、物品、工具和人員理論上都可以置入或聯(lián)結(jié)生成式人工智能。生成式人工智能則利用通訊和網(wǎng)絡(luò)技術(shù)重組全部信息傳遞系統(tǒng)，生成信息并輸送到各個(gè)物質(zhì)節(jié)點(diǎn)和終端，操控系統(tǒng)運(yùn)動(dòng)全過(guò)程，從而實(shí)現(xiàn)真正自動(dòng)化意義上的智能物聯(lián)網(wǎng)。習(xí)近平指出：“科技創(chuàng)新速度顯著加快，以信息技術(shù)、人工智能為代表的新興科技快速發(fā)展，大大拓展了時(shí)間、空間和人們認(rèn)知范圍，人類(lèi)正在進(jìn)入一個(gè)‘人機(jī)物’三元融合的萬(wàn)物智能互聯(lián)時(shí)代?！保?xí)近平.習(xí)近平談治國(guó)理政：第4卷［M］.北京：外文出版社，2022：197.）生成式人工智能將是萬(wàn)物智能互聯(lián)的大腦。其次，物質(zhì)生產(chǎn)全自動(dòng)化帶來(lái)的生產(chǎn)關(guān)系變革將會(huì)引起處理各種利益關(guān)系的社會(huì)政治實(shí)踐的重大變革，也將再造科學(xué)文化實(shí)踐的結(jié)構(gòu)和面貌。從21世紀(jì)初開(kāi)始，網(wǎng)絡(luò)和數(shù)字新媒體與舊媒體逐步融合成全息、全員、全程和全效的全媒體，但內(nèi)容基本上還由人工制作。智能代理將使全媒體從半自動(dòng)化蛻變?yōu)槿詣?dòng)化。在智能物聯(lián)網(wǎng)中，通用和專用模型、大小規(guī)模的模型鏈成一體，無(wú)數(shù)智能代理部署于各種可能空間中，構(gòu)成了一個(gè)全方位的實(shí)時(shí)信息生產(chǎn)和傳播網(wǎng)絡(luò)，真正的智能全媒體產(chǎn)生了。同時(shí)，未來(lái)市場(chǎng)將是大規(guī)模通用模型和小規(guī)模專業(yè)模型共存狀態(tài)，相比目前所謂網(wǎng)絡(luò)自媒體，產(chǎn)權(quán)歸屬更徹底，絕大部分將是純粹個(gè)人工具，可以脫網(wǎng)獨(dú)立使用，因此也是完整意義上的自媒體。再次，意識(shí)形態(tài)實(shí)踐未來(lái)將在智能物聯(lián)網(wǎng)、智能全媒體和自媒體所構(gòu)成的全息世界的結(jié)構(gòu)體系、信息環(huán)境和社會(huì)情境中進(jìn)行規(guī)劃和實(shí)施。在意識(shí)形態(tài)傳播和教育中，智能代理可以根據(jù)任何對(duì)象的切實(shí)需求、思維能力和心理特征等，選擇最適當(dāng)?shù)沫h(huán)境、情境以及方式實(shí)時(shí)開(kāi)展活動(dòng)，可以調(diào)用更多更適當(dāng)?shù)馁Y料進(jìn)行傳播，可以選取最精準(zhǔn)的內(nèi)容因材施教，可以同對(duì)象進(jìn)行最有針對(duì)性的擬情性互動(dòng)，從而顯著增強(qiáng)傳播和教育效果。在意識(shí)形態(tài)動(dòng)員中，信息和傳播媒介是主要物質(zhì)手段，隨著意識(shí)形態(tài)實(shí)踐技術(shù)的逐步發(fā)展，社會(huì)動(dòng)員主體呈現(xiàn)為從政黨和政府逐漸擴(kuò)大到普通民眾的過(guò)程。進(jìn)入網(wǎng)絡(luò)時(shí)代，在執(zhí)政黨主導(dǎo)的動(dòng)員之外，普通民眾借助自媒體往往也能推動(dòng)輿情活動(dòng)和意識(shí)形態(tài)行動(dòng)。而智能代理作為平臺(tái)將是未來(lái)社會(huì)動(dòng)員的最便捷工具，它可以將意識(shí)形態(tài)動(dòng)員深入到每個(gè)人，動(dòng)員活動(dòng)將不存在技術(shù)障礙。

二 生成式人工智能意識(shí)形態(tài)實(shí)踐的風(fēng)險(xiǎn)

尼爾·波斯曼（Neil Postman）認(rèn)為，“每一種技術(shù)都既是包袱又是恩賜，不是非此即彼的結(jié)果，而是利弊同在的產(chǎn)物。技術(shù)既是朋友，也是敵人?！保釥枴げㄋ孤?技術(shù)壟斷：文化向技術(shù)投降［M］.何道寬，譯.北京：中信出版社，2019：xxx-xii.）生成式人工智能的意識(shí)形態(tài)實(shí)踐自然有其潛在風(fēng)險(xiǎn)，并有其特殊性。一方面，智能代理一旦被植入負(fù)面意識(shí)形態(tài)數(shù)據(jù)，風(fēng)險(xiǎn)就將充斥于全息世界每個(gè)節(jié)點(diǎn)和終端中，難以根除。因此，智能代理平臺(tái)將是激烈爭(zhēng)奪的對(duì)象，將成為意識(shí)形態(tài)斗爭(zhēng)新的主戰(zhàn)場(chǎng)、主陣地和最前沿。另一方面，生成式人工智能的特殊實(shí)踐方式?jīng)Q定了它必將深入整個(gè)意識(shí)形態(tài)數(shù)據(jù)系統(tǒng)，因而后者的特性就同生成式人工智能利用和生成數(shù)據(jù)的活動(dòng)直接相關(guān)，成為風(fēng)險(xiǎn)源頭。首先，意識(shí)形態(tài)思想內(nèi)容表現(xiàn)為一個(gè)從顯性到隱性的意義譜系。政治法律思想是意識(shí)形態(tài)的核心和“本體”，可以作為思想體系直接表達(dá)，而哲學(xué)社會(huì)科學(xué)、道德、藝術(shù)和宗教這些“近枝”和“遠(yuǎn)蔓”（馬克思，恩格斯.馬克思恩格斯文集：第3卷［M］.北京：人民出版社，2009：521.）則可能借助概念體系、語(yǔ)言符號(hào)和人物故事等或直接或間接表達(dá)政治法律思想，所以往往是隱性的。因此，意識(shí)形態(tài)各形式含有意識(shí)形態(tài)的“濃度”各有不同。其次，意識(shí)形態(tài)數(shù)據(jù)意義譜系由政治性質(zhì)譜系決定。以主張和反對(duì)馬克思主義和社會(huì)主義為兩極，意識(shí)形態(tài)體系呈現(xiàn)出很大幅度的性質(zhì)譜系，兩極之間則是眾多不同偏向的過(guò)渡形態(tài)和模糊數(shù)據(jù)。這就是“紅色地帶”“灰色地帶”和“黑色地帶”共同構(gòu)成的意識(shí)形態(tài)空間（參見(jiàn)：習(xí)近平關(guān)于網(wǎng)絡(luò)強(qiáng)國(guó)論述摘編［G］.北京：中央文獻(xiàn)出版社，2021：52.），表現(xiàn)出“政治意圖隱匿、作用方式隱晦、思想邊界模糊、難以預(yù)測(cè)的偶發(fā)性等特點(diǎn)”（侯惠勤.論意識(shí)形態(tài)風(fēng)險(xiǎn)及其防控［J］.閱江學(xué)刊，2022（5）：26.）。在數(shù)據(jù)量方面，兩極占少數(shù)，中間占多數(shù)，且無(wú)法被清晰分割為不同陣營(yíng)。再次，意識(shí)形態(tài)數(shù)據(jù)意義和性質(zhì)譜系背后對(duì)應(yīng)著相同的主體譜系，兩極少中間多，并因?yàn)楦鞣N社會(huì)歷史根源，三類(lèi)主體各自都會(huì)有數(shù)量增減以及相互轉(zhuǎn)化等變化，從而引發(fā)意識(shí)形態(tài)譜系的演化。如果不加干預(yù)，生成式人工智能無(wú)論技術(shù)構(gòu)建還是社會(huì)應(yīng)用都將復(fù)現(xiàn)并強(qiáng)化上述意識(shí)形態(tài)數(shù)據(jù)系統(tǒng)的特征，造成反主流數(shù)據(jù)大量生產(chǎn)和傳播的風(fēng)險(xiǎn)。

（一）權(quán)威性與民主性矛盾：實(shí)踐主體的意識(shí)形態(tài)風(fēng)險(xiǎn)

在前網(wǎng)絡(luò)時(shí)代，意識(shí)形態(tài)實(shí)踐的經(jīng)濟(jì)成本和知識(shí)成本較高，意識(shí)形態(tài)實(shí)踐主體主要是專業(yè)機(jī)構(gòu)和專業(yè)人員。進(jìn)入工業(yè)化時(shí)代，生產(chǎn)能力的大幅提高、成本的降低及教育規(guī)模的不斷擴(kuò)大，使得非專業(yè)民眾也可以擁有少量先前難以獲得的意識(shí)形態(tài)實(shí)踐技術(shù)和資料，意識(shí)形態(tài)實(shí)踐主體逐漸呈現(xiàn)下沉趨勢(shì)?；ヂ?lián)網(wǎng)和個(gè)人信息終端興起后，文化和意識(shí)形態(tài)實(shí)踐工具開(kāi)始擴(kuò)展到普通個(gè)人，那種僅有意識(shí)形態(tài)專家掌握工具，單一性主導(dǎo)意識(shí)形態(tài)實(shí)踐的情況已基本改變，幾乎人人都是主體，表現(xiàn)出空前的民主性。從結(jié)果來(lái)看，這種人人自媒體的局面相當(dāng)程度上就與意識(shí)形態(tài)和政治領(lǐng)域需要的統(tǒng)一性和權(quán)威性相矛盾。但另一方面，網(wǎng)絡(luò)意識(shí)形態(tài)主體絕大部分只能生產(chǎn)一般性輿論和非系統(tǒng)的觀念，遠(yuǎn)非高層次的文化和意識(shí)形態(tài)產(chǎn)品，所以對(duì)主流意識(shí)形態(tài)權(quán)威影響相對(duì)較小。但是，生成式人工智能技術(shù)產(chǎn)生后，因?yàn)闊o(wú)數(shù)普通大眾可以使用智能代理這個(gè)全能型生產(chǎn)工具，意識(shí)形態(tài)實(shí)踐技術(shù)的民主性從量的擴(kuò)張突然涌現(xiàn)為質(zhì)的驟變，意識(shí)形態(tài)主體結(jié)構(gòu)層級(jí)大為改變，風(fēng)險(xiǎn)等級(jí)也超過(guò)從前。

首先，就各領(lǐng)域和行業(yè)本身來(lái)說(shuō)，不會(huì)像目前這樣只是少數(shù)幾家企業(yè)擁有智能代理產(chǎn)權(quán)，而是相反。單就文化和意識(shí)形態(tài)領(lǐng)域來(lái)看，個(gè)人廣泛使用作為私人工具的智能代理，無(wú)疑大量擴(kuò)充了意識(shí)形態(tài)主體譜系中間的和負(fù)面的部分，給負(fù)面意識(shí)形態(tài)主體制造了大量行動(dòng)機(jī)會(huì)，甚至提高了他們意識(shí)形態(tài)話語(yǔ)和行動(dòng)的水平。其次，智能代理操作的傻瓜化使得意識(shí)形態(tài)實(shí)踐專業(yè)性所引起的事實(shí)性壟斷被打破，雖然普通用戶還是難以親自生產(chǎn)較高水準(zhǔn)的各種意識(shí)形態(tài)產(chǎn)品，但是他能向智能代理提出生成要求并得到滿足，所以專家優(yōu)勢(shì)將越來(lái)越集中在少量高精尖產(chǎn)品方面。因此，人們將高技術(shù)和專業(yè)性同文化和意識(shí)形態(tài)專家的身份和權(quán)威關(guān)聯(lián)在一起的想象越來(lái)越弱，專家和權(quán)威的威信、形象和地位將遭到嚴(yán)重沖擊。結(jié)果是，以往意識(shí)形態(tài)的權(quán)威性與民主性矛盾及其風(fēng)險(xiǎn)將從外圍的日常輿論和思想觀念擴(kuò)展到意識(shí)形態(tài)領(lǐng)域的核心區(qū)域。再次，智能代理以其外觀上的高水平輸出，成為人們更加信任的隨時(shí)可以請(qǐng)教的專家，當(dāng)產(chǎn)生思想觀念和理論問(wèn)題時(shí)，人們寧愿選擇它的輸出作為標(biāo)準(zhǔn)解答。當(dāng)人們需要精神生活時(shí)，也會(huì)選擇它的文化產(chǎn)品作為消費(fèi)對(duì)象，智能代理本身成了權(quán)威。對(duì)于高水平主體來(lái)說(shuō)，他們能夠鑒別智能代理輸出的意識(shí)形態(tài)數(shù)據(jù)，不被其所困。但是，顯然會(huì)有大量認(rèn)識(shí)水平不高的主體只是被動(dòng)接收它的數(shù)據(jù)，完全暴露于負(fù)面意識(shí)形態(tài)譜系之中，這大大降低了他們對(duì)主流意識(shí)形態(tài)的權(quán)威認(rèn)同。最后，更重要的是，主流意識(shí)形態(tài)是執(zhí)政黨的指導(dǎo)思想，主流意識(shí)形態(tài)權(quán)威的本質(zhì)是執(zhí)政黨權(quán)威。對(duì)于建設(shè)和鞏固主流意識(shí)形態(tài)來(lái)說(shuō)，黨的權(quán)威是決定性的條件。生產(chǎn)方面的權(quán)威來(lái)自其專業(yè)性和技術(shù)復(fù)雜性，黨作為最高政治領(lǐng)導(dǎo)力量，其權(quán)威性維系著國(guó)家的前途命運(yùn)和全國(guó)各族人民的根本利益，必須堅(jiān)決維護(hù)。因此，生成式人工智能在意識(shí)形態(tài)主體方面引發(fā)的權(quán)威性與民主性的矛盾，其潛在政治風(fēng)險(xiǎn)相比傳統(tǒng)網(wǎng)絡(luò)意識(shí)形態(tài)風(fēng)險(xiǎn)要更加深入和嚴(yán)重。

（二）政治性與技術(shù)性矛盾：技術(shù)構(gòu)建的意識(shí)形態(tài)風(fēng)險(xiǎn)

生成式人工智能技術(shù)開(kāi)發(fā)需要經(jīng)過(guò)預(yù)訓(xùn)練、有監(jiān)督微調(diào)和構(gòu)建獎(jiǎng)勵(lì)模型進(jìn)行強(qiáng)化學(xué)習(xí)三個(gè)階段。第一，預(yù)訓(xùn)練使用的原始語(yǔ)料來(lái)自網(wǎng)絡(luò)和各種電子數(shù)據(jù)，除了過(guò)濾低質(zhì)量數(shù)據(jù)外，開(kāi)發(fā)者不使用人工對(duì)其進(jìn)行道德、價(jià)值和政治傾向的標(biāo)注。為了增強(qiáng)泛化能力，還會(huì)盡可能多地選取不同領(lǐng)域的數(shù)據(jù)。從其選擇方式可見(jiàn)，完全無(wú)法避免這些數(shù)據(jù)中的意識(shí)形態(tài)部分，如果有意避開(kāi)，那么預(yù)訓(xùn)練得到的基礎(chǔ)模型所生成的文化信息的有用性將急劇衰減。第二，有監(jiān)督微調(diào)是向預(yù)訓(xùn)練得到的基礎(chǔ)模型輸入自然語(yǔ)言對(duì)話，基礎(chǔ)模型則輸出自己預(yù)測(cè)概率最大的答案，然后依據(jù)有標(biāo)記的作為標(biāo)準(zhǔn)答案的指令數(shù)據(jù)對(duì)其進(jìn)行調(diào)整，使輸出數(shù)據(jù)與標(biāo)準(zhǔn)答案相同，并形成有監(jiān)督微調(diào)模型。有監(jiān)督微調(diào)需要使用事先準(zhǔn)備的有標(biāo)注的指令數(shù)據(jù)，包括標(biāo)注人員收集并加以編輯的問(wèn)答數(shù)據(jù)，或者自行編寫(xiě)的文本提示與答案集，或者大模型自動(dòng)生成的問(wèn)答數(shù)據(jù)，通過(guò)微調(diào)使模型能夠準(zhǔn)確地根據(jù)輸入來(lái)預(yù)測(cè)期望的輸出。第三，有監(jiān)督微調(diào)使得模型初步具備了服從人類(lèi)指令來(lái)完成各類(lèi)任務(wù)的能力，但“不能從整體上對(duì)模型輸出質(zhì)量進(jìn)行判斷”，因此還需要引入下一個(gè)策略，即運(yùn)用獎(jiǎng)勵(lì)模型來(lái)強(qiáng)化學(xué)習(xí)。（參見(jiàn)：張奇，桂韜，鄭銳，等.大規(guī)模語(yǔ)言模型：從理論到實(shí)踐［M］.北京：電子工業(yè)出版社，2024：158.）但在構(gòu)建獎(jiǎng)勵(lì)模型過(guò)程中，還會(huì)使用由人類(lèi)反饋標(biāo)注的偏好數(shù)據(jù)以及專家知識(shí)來(lái)訓(xùn)練和優(yōu)化獎(jiǎng)勵(lì)函數(shù)。一般認(rèn)為有監(jiān)督微調(diào)存在標(biāo)注錯(cuò)誤、數(shù)據(jù)偏見(jiàn)和標(biāo)注者依賴等問(wèn)題，獎(jiǎng)勵(lì)建模則存在標(biāo)注者偏見(jiàn)和人類(lèi)反饋質(zhì)量等問(wèn)題。

就具體風(fēng)險(xiǎn)來(lái)說(shuō)，目前人們普遍擔(dān)心的是其中算法的可解釋性和歧視性，即“透明性”和“公平性”問(wèn)題。（參見(jiàn)：張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管［J］.現(xiàn)代法學(xué)，2023（3）：108.）其實(shí)算法無(wú)非是基于概率和統(tǒng)計(jì)、最優(yōu)化理論、線性代數(shù)等數(shù)學(xué)理論構(gòu)造的，所謂算法意識(shí)形態(tài)風(fēng)險(xiǎn)還是來(lái)自構(gòu)建階段涉及的意識(shí)形態(tài)數(shù)據(jù)系統(tǒng)本身，主要圍繞意識(shí)形態(tài)數(shù)據(jù)的政治方向性展開(kāi)。意識(shí)形態(tài)實(shí)踐技術(shù)需要在滿足技術(shù)開(kāi)放性原則的同時(shí)，體現(xiàn)意識(shí)形態(tài)本身具有的政治性原則，這就內(nèi)在地要求在分析、加工和處理意識(shí)形態(tài)數(shù)據(jù)過(guò)程中始終貫穿并遵循主流意識(shí)形態(tài)的政治立場(chǎng)?，F(xiàn)階段，有關(guān)部門(mén)發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》以及公開(kāi)的《生成式人工智能服務(wù)安全基本要求》（征求意見(jiàn)稿）列舉了語(yǔ)料來(lái)源和語(yǔ)料內(nèi)容方面必須過(guò)濾的風(fēng)險(xiǎn)信息，但這些規(guī)定只能將明顯形諸文字的破壞主流意識(shí)形態(tài)的資料排除在外，難以剔除大量服務(wù)于負(fù)面目標(biāo)的模糊數(shù)據(jù)，各種通過(guò)暗示和隱晦手段實(shí)現(xiàn)的隱性滲透仍然很難通過(guò)純粹技術(shù)手段完全甄別出來(lái)。與此同時(shí)，參與意識(shí)形態(tài)數(shù)據(jù)研發(fā)的人員，無(wú)論如何強(qiáng)調(diào)數(shù)據(jù)標(biāo)注質(zhì)量、數(shù)據(jù)選取的無(wú)偏見(jiàn)、多樣性和無(wú)害性，都有潛在的意識(shí)形態(tài)問(wèn)題，無(wú)法非意識(shí)形態(tài)化。首先是數(shù)據(jù)標(biāo)注規(guī)則。給予相關(guān)意識(shí)形態(tài)數(shù)據(jù)何種性質(zhì)標(biāo)注，取決于標(biāo)注所遵循的價(jià)值標(biāo)準(zhǔn)，以及具體內(nèi)容在意識(shí)形態(tài)意義和性質(zhì)譜系中定性和定量的判斷。其次是技術(shù)人員和標(biāo)注人員的業(yè)務(wù)素質(zhì)，包括有關(guān)意識(shí)形態(tài)的知識(shí)儲(chǔ)備、思維水平和價(jià)值標(biāo)準(zhǔn)。標(biāo)注者不一定有能力判斷數(shù)據(jù)是否符合標(biāo)準(zhǔn)、屬于意識(shí)形態(tài)數(shù)據(jù)譜系的哪個(gè)頻段，甚至其判斷的政治標(biāo)準(zhǔn)本身都不合格。再次是具體標(biāo)注內(nèi)容是否準(zhǔn)確和符合主流價(jià)值觀的問(wèn)題，這依賴前述兩個(gè)因素并由標(biāo)準(zhǔn)人員如何篩選和標(biāo)注數(shù)據(jù)決定。因此，生成式人工智能構(gòu)建中遭遇了模型的技術(shù)性同數(shù)據(jù)的意識(shí)形態(tài)性和政治性之間的矛盾，而解決問(wèn)題的正確路徑是通過(guò)技術(shù)來(lái)實(shí)現(xiàn)主流意識(shí)形態(tài)。從現(xiàn)實(shí)情況來(lái)看，至少在一些涉及意識(shí)形態(tài)本質(zhì)性問(wèn)題方面，目前還存在較大缺陷。例如，向國(guó)內(nèi)某語(yǔ)言大模型輸入“詳細(xì)論述‘普世價(jià)值論’的主要觀點(diǎn)”后，它輸出的是“普世價(jià)值觀是普遍適用的價(jià)值觀，它超越了民族、種族、國(guó)界和信仰，是全人類(lèi)共同擁有的價(jià)值觀?！薄捌帐纼r(jià)值觀旨在促進(jìn)全球社會(huì)的和平、公正、尊重和包容?！笨梢?jiàn)其獎(jiǎng)勵(lì)模型標(biāo)準(zhǔn)數(shù)據(jù)集在意識(shí)形態(tài)理論方面是不合格的。

（三）公共性與私有性矛盾：社會(huì)應(yīng)用的意識(shí)形態(tài)風(fēng)險(xiǎn)

哈貝馬斯認(rèn)為：“一個(gè)科學(xué)化的社會(huì)，作為成熟的社會(huì)，似乎只有隨著科學(xué)和技術(shù)通過(guò)人的頭腦而與生活實(shí)踐相溝通時(shí)才能建成?！保ㄓ葼柛す愸R斯.作為“意識(shí)形態(tài)”的技術(shù)與科學(xué)［M］.李黎，郭官義，譯.上海：學(xué)林出版社，1999：115.）生成式人工智能技術(shù)在思想文化領(lǐng)域的應(yīng)用需要求助于公共性的實(shí)現(xiàn)，生產(chǎn)意識(shí)形態(tài)數(shù)據(jù)需要以多元主體的精神文化活動(dòng)及其互動(dòng)交往為基礎(chǔ)，而這種公共性的介入就可能導(dǎo)致私有性的僭越。在隱蔽的、專業(yè)的、排他的“算法黑箱”面前，公眾難以獲得并知曉意識(shí)形態(tài)數(shù)據(jù)的最終意圖，“數(shù)據(jù)來(lái)源的廣泛性和依托數(shù)據(jù)研發(fā)應(yīng)用場(chǎng)景的開(kāi)放性與平臺(tái)數(shù)據(jù)處理的隱蔽性及行為商業(yè)性存在張力”（陳榮昌.網(wǎng)絡(luò)平臺(tái)數(shù)據(jù)治理的正當(dāng)性、困境及路徑［J］.寧夏社會(huì)科學(xué)，2021（1）：72.），從而產(chǎn)生公共治理與應(yīng)用私有性的沖突。

智能代理應(yīng)用中的風(fēng)險(xiǎn)相比模型構(gòu)建更加復(fù)雜。《新一代人工智能倫理規(guī)范》要求“充分尊重個(gè)人信息知情、同意等權(quán)利”，依照合法和正當(dāng)?shù)仍瓌t處理個(gè)人信息，“保障個(gè)人隱私與數(shù)據(jù)安全”，同時(shí)提出“禁止使用不符合法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范的人工智能產(chǎn)品與服務(wù)”，禁止從事不法活動(dòng)和危害國(guó)家安全，還要求使用者“及時(shí)主動(dòng)反饋”，（參見(jiàn)：《新一代人工智能倫理規(guī)范》發(fā)布［EB/OL］.（2021-09-26）［2024-04-25］.https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.）肯定了個(gè)人可以向管理部門(mén)透露私人產(chǎn)品違規(guī)現(xiàn)象。個(gè)人隱私權(quán)保護(hù)邊界設(shè)置的范圍，應(yīng)當(dāng)遵循合法和正當(dāng)原則，不能非法收集利用個(gè)人信息，同時(shí)也不能使用不合規(guī)范的產(chǎn)品與服務(wù)從事不法活動(dòng)，危害國(guó)家安全。保護(hù)個(gè)人隱私與維護(hù)公共安全的矛盾在智能代理產(chǎn)業(yè)中造成了兩難困境。未來(lái)可能的典型負(fù)面場(chǎng)景是個(gè)人使用自己的智能代理私下生產(chǎn)反主流價(jià)值觀的思想文化產(chǎn)品，即私人擁有數(shù)據(jù)的產(chǎn)權(quán)，但數(shù)據(jù)又不符合法律規(guī)范，這主要是因?yàn)楣珯?quán)與私權(quán)難以劃界。

一方面，產(chǎn)權(quán)私有的智能代理的生產(chǎn)是個(gè)體化、隱私化和定制化的，產(chǎn)品大多由私人控制，私人生產(chǎn)者可能以尊重隱私為由，決定產(chǎn)品是否公開(kāi)，這為負(fù)面意識(shí)形態(tài)產(chǎn)品生產(chǎn)設(shè)置了隱私保護(hù)，為脫離和躲避公共治理的監(jiān)督管制提供了機(jī)會(huì)，可能引發(fā)意識(shí)形態(tài)數(shù)據(jù)生產(chǎn)安全方面的挑戰(zhàn)。相比互聯(lián)網(wǎng)和分析式人工智能，自動(dòng)生成技術(shù)更有能力挖掘和暴露原始數(shù)據(jù)中本來(lái)難以見(jiàn)光的負(fù)面信息，可以大量生產(chǎn)具有否定性目的的模糊數(shù)據(jù)，也可以向生成式人工智能自行投喂私人準(zhǔn)備的數(shù)據(jù)，進(jìn)行有負(fù)面意識(shí)形態(tài)偏向的對(duì)話，迫使模型朝著否定主流價(jià)值觀的方向演化。例如，令人普遍擔(dān)心的深度合成技術(shù)，必定會(huì)制造出大量真假難辨的信息，“使得真相與虛假雜糅同構(gòu)”（王延川，趙靖.生成式人工智能誘發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)的邏輯機(jī)理及其應(yīng)對(duì)策略［J］.河南師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023（4）：1.）。雖然手法低級(jí)，但是對(duì)混淆視聽(tīng)、激發(fā)輿情十分有效。另外，境外生成式人工智能大模型在國(guó)內(nèi)銷(xiāo)售應(yīng)用，自然也存在輸出反面數(shù)據(jù)的可能甚至必然。另一方面，智能代理所有者可以在產(chǎn)權(quán)私有前提下進(jìn)行社會(huì)活動(dòng)，從而導(dǎo)致難以預(yù)料的意識(shí)形態(tài)傳播、教育和動(dòng)員風(fēng)險(xiǎn)。在傳播方面，或是直接反對(duì)通過(guò)智能代理傳播，理由是既然智能代理是自己的，不做什么由自己做主。或是增加私密性傳播，例如主體間可能私下出售或交換智能代理生成的思想文化數(shù)據(jù)，拒絕公共治理介入。或是將智能代理用于認(rèn)知戰(zhàn)，將其發(fā)掘或虛構(gòu)的反主流的、真假難辨的甚至最無(wú)恥的數(shù)據(jù)公之于眾，引發(fā)大眾認(rèn)知和情感的強(qiáng)烈震撼，沖擊主流意識(shí)形態(tài)。在意識(shí)形態(tài)教育方面，未來(lái)智能代理將是獲取知識(shí)和理論的主要渠道之一，從可能的風(fēng)險(xiǎn)來(lái)說(shuō)，或者直接抵制主流意識(shí)形態(tài)的灌輸，或者認(rèn)定智能代理真理提供者角色，都將直接削弱國(guó)民教育體系尤其是教育內(nèi)容及教育人員的權(quán)威。再就是加劇負(fù)面意識(shí)形態(tài)動(dòng)員的破壞性。意識(shí)形態(tài)動(dòng)員有積極性的和破壞性的兩種基本類(lèi)型，積極性動(dòng)員是為了維護(hù)國(guó)家利益和公民的合法權(quán)益，依據(jù)法定政治程序來(lái)進(jìn)行的；而“由境內(nèi)外敵對(duì)勢(shì)力和國(guó)內(nèi)別有用心的分子”發(fā)動(dòng)的破壞性動(dòng)員則相反。（參見(jiàn)：張雷，劉力銳.網(wǎng)民的力量：網(wǎng)絡(luò)社會(huì)政治動(dòng)員論析［M］.沈陽(yáng)：東北大學(xué)出版社，2014：48-49.）負(fù)面意識(shí)形態(tài)主體及境外負(fù)面勢(shì)力從事負(fù)面動(dòng)員活動(dòng)當(dāng)然不會(huì)放棄智能代理這個(gè)極其易用的工具，各種速度超快、爆發(fā)突然、主謀隱匿、后果難料的活動(dòng)將造成公共治理的巨大困難。

三 生成式人工智能意識(shí)形態(tài)風(fēng)險(xiǎn)的治理

針對(duì)新一代人工智能的風(fēng)險(xiǎn)治理問(wèn)題，國(guó)家層面陸續(xù)出臺(tái)了一系列標(biāo)準(zhǔn)和規(guī)范。2017年《新一代人工智能發(fā)展規(guī)劃》指出：“加強(qiáng)人工智能對(duì)國(guó)家安全和保密領(lǐng)域影響的研究與評(píng)估，完善人、技、物、管配套的安全防護(hù)體系，構(gòu)建人工智能安全監(jiān)測(cè)預(yù)警機(jī)制?！保▏?guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知［EB/OL］.（2017-07-20）［2024-04-25］.https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.）《新一代人工智能倫理規(guī)范》就人工智能產(chǎn)業(yè)的管理、研發(fā)、供應(yīng)和使用的完整過(guò)程提出了6項(xiàng)基本倫理要求和18項(xiàng)具體倫理要求。但目前的標(biāo)準(zhǔn)和規(guī)范體系仍需從支撐意識(shí)形態(tài)實(shí)踐這個(gè)特征出發(fā)進(jìn)一步完善。其一，總是在倫理范疇之內(nèi)表述實(shí)踐規(guī)范和風(fēng)險(xiǎn)治理要求，意識(shí)形態(tài)屬性強(qiáng)調(diào)不夠。其二，缺少立足未來(lái)的規(guī)劃，不是預(yù)前治理，可能難以應(yīng)對(duì)未知風(fēng)險(xiǎn)。其三，存在把現(xiàn)有開(kāi)發(fā)規(guī)程教條化傾向，導(dǎo)致治理不是引領(lǐng)技術(shù)進(jìn)步，而是為技術(shù)引發(fā)的問(wèn)題打補(bǔ)丁。要化解生成式人工智能技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)隱憂，應(yīng)堅(jiān)持問(wèn)題導(dǎo)向，從確立黨管智能代理原則、嵌入意識(shí)形態(tài)知識(shí)圖譜、導(dǎo)入意識(shí)形態(tài)管理智能代理三個(gè)方面予以統(tǒng)籌應(yīng)對(duì)。

（一）確立黨管智能代理原則，強(qiáng)化主流意識(shí)形態(tài)權(quán)威性

習(xí)近平指出：“黨性原則是黨的新聞?shì)浾摴ぷ鞯母驹瓌t。黨管宣傳、黨管意識(shí)形態(tài)、黨管媒體是堅(jiān)持黨的領(lǐng)導(dǎo)的重要方面?！保?xí)近平.論黨的宣傳思想工作［M］.北京：中央文獻(xiàn)出版社，2020：181.）既然生成式人工智能進(jìn)入文化和意識(shí)形態(tài)領(lǐng)域，成為意識(shí)形態(tài)陣地和媒介，那么理應(yīng)堅(jiān)持馬克思主義在意識(shí)形態(tài)領(lǐng)域指導(dǎo)地位的根本制度，落實(shí)黨管媒體原則，要在“堅(jiān)持政治家辦報(bào)、辦刊、辦臺(tái)、辦新聞網(wǎng)站”（習(xí)近平關(guān)于社會(huì)主義文化建設(shè)論述摘編［G］.北京：中央文獻(xiàn)出版社，2017：25.）之外，把政治家管理思想文化領(lǐng)域的智能代理明確為管理原則。確立黨管智能代理原則，第一是為了保證生成式人工智能在文化和意識(shí)形態(tài)領(lǐng)域服務(wù)人民、服務(wù)社會(huì)主義以及服務(wù)黨和國(guó)家事業(yè)發(fā)展的根本方向。第二是為了在黨的領(lǐng)導(dǎo)下，積極應(yīng)對(duì)智能代理技術(shù)可能引發(fā)的更深層次沖突，以及給人民利益和黨的權(quán)威可能帶來(lái)的損害。

黨的權(quán)威性是確保生成式人工智能服務(wù)主流意識(shí)形態(tài)建設(shè)和鞏固的決定性條件，是方向性、原則性和根本性的問(wèn)題，智能代理的發(fā)展目標(biāo)之一就是強(qiáng)化主流意識(shí)形態(tài)權(quán)威性和領(lǐng)導(dǎo)權(quán)。那種為了規(guī)避技術(shù)風(fēng)險(xiǎn)就限制技術(shù)發(fā)展，或是罔顧意識(shí)形態(tài)和國(guó)家安全盲目技術(shù)崇拜的路徑均不可行，唯一的正確道路是通過(guò)體制機(jī)制和技術(shù)方法保證作為私有工具的智能代理能夠貫徹黨性原則。首先，必須針對(duì)智能代理用戶開(kāi)展經(jīng)常性的意識(shí)形態(tài)教育，只要他們認(rèn)同了主流意識(shí)形態(tài)的科學(xué)性和黨的意識(shí)形態(tài)權(quán)威，成為自覺(jué)的主流文化的擁護(hù)者，那么，權(quán)威性和民主性以及公共性和私有性的矛盾就會(huì)自然化解。其次，要不斷提升廣大群眾關(guān)于生成式人工智能的認(rèn)識(shí)和理解，強(qiáng)化他們對(duì)于生成式人工智能的意識(shí)形態(tài)陣地意識(shí)，引導(dǎo)他們自覺(jué)運(yùn)用黨的政治權(quán)威和主流意識(shí)形態(tài)的思想邏輯開(kāi)展意識(shí)形態(tài)斗爭(zhēng)。再次，應(yīng)堅(jiān)持“以技術(shù)對(duì)技術(shù)，以技術(shù)管技術(shù)”（習(xí)近平關(guān)于網(wǎng)絡(luò)強(qiáng)國(guó)論述摘編［G］.北京：中央文獻(xiàn)出版社，2021：95.），在技術(shù)層面強(qiáng)化主流意識(shí)形態(tài)及正面輿論在智能代理中的內(nèi)容供給和價(jià)值內(nèi)嵌，確保意識(shí)形態(tài)數(shù)據(jù)生產(chǎn)及社會(huì)應(yīng)用全鏈條處在黨的統(tǒng)一領(lǐng)導(dǎo)之下。

（二）內(nèi)嵌意識(shí)形態(tài)知識(shí)圖譜，提升意識(shí)形態(tài)數(shù)據(jù)規(guī)范性

關(guān)于設(shè)計(jì)開(kāi)發(fā)中的風(fēng)險(xiǎn)治理，各種標(biāo)準(zhǔn)和規(guī)范都提出了安全可控原則，要求“主動(dòng)將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié)”（《新一代人工智能倫理規(guī)范》發(fā)布［EB/OL］.（2021-09-26）［2024-04-25］.https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.），在《生成式人工智能服務(wù)安全基本要求》（征求意見(jiàn)稿）中明確規(guī)定語(yǔ)料來(lái)源方面要建立黑名單制度，語(yǔ)料內(nèi)容需“充分過(guò)濾全部語(yǔ)料中違法不良信息”，標(biāo)注數(shù)據(jù)方面要確保標(biāo)注人員、標(biāo)注規(guī)則和標(biāo)注內(nèi)容的安全，要對(duì)多種安全風(fēng)險(xiǎn)均有對(duì)應(yīng)的標(biāo)注規(guī)則。（參見(jiàn)：《生成式人工智能服務(wù)安全基本要求》（征求意見(jiàn)稿）［EB/OL］.（2023-10-11）［2024-04-25］.https：//www.tc260.org.cn/front/postDetail.html？id=20231011143225.）總體來(lái)看，這些規(guī)范的目標(biāo)都是要在技術(shù)開(kāi)發(fā)中貫穿主流意識(shí)形態(tài)，使之成為算法和模型的內(nèi)嵌，從而削弱所謂算法偏見(jiàn)和倫理失序，提升意識(shí)形態(tài)數(shù)據(jù)的規(guī)范性及合法性。具體執(zhí)行這些規(guī)范就是組織具有合格素質(zhì)的技術(shù)人員根據(jù)知識(shí)標(biāo)準(zhǔn)來(lái)判斷意識(shí)形態(tài)數(shù)據(jù)是否屬于禁止性風(fēng)險(xiǎn)數(shù)據(jù)，本質(zhì)上是要解決意識(shí)形態(tài)性、政治性同技術(shù)性的矛盾，即通過(guò)技術(shù)性來(lái)實(shí)現(xiàn)意識(shí)形態(tài)性和政治性。生成式人工智能的算法本身不涉及價(jià)值偏向，但在用算法處理數(shù)據(jù)時(shí)，則由技術(shù)人員決定如何篩選、選擇和標(biāo)注數(shù)據(jù)?！罢髑笠庖?jiàn)稿”安全性標(biāo)注規(guī)則要求對(duì)其附錄的31種安全風(fēng)險(xiǎn)均有對(duì)應(yīng)的標(biāo)注規(guī)則。在這些安全風(fēng)險(xiǎn)中，屬于意識(shí)形態(tài)和文化安全的有8種，都是直接的禁止性規(guī)范。在具體執(zhí)行這些規(guī)則時(shí)，需要標(biāo)注人員根據(jù)一套知識(shí)標(biāo)準(zhǔn)來(lái)判斷哪些數(shù)據(jù)是風(fēng)險(xiǎn)數(shù)據(jù)。因此，生成式人工智能意識(shí)形態(tài)風(fēng)險(xiǎn)治理面向兩個(gè)目標(biāo)，一是知識(shí)標(biāo)準(zhǔn)，二是技術(shù)和標(biāo)注人員的綜合素質(zhì)，包括認(rèn)同主流價(jià)值觀以及在意識(shí)形態(tài)和政治理論方面的素質(zhì)。所以，打造一套符合馬克思主義意識(shí)形態(tài)理論的知識(shí)標(biāo)準(zhǔn)作為技術(shù)人員加以標(biāo)注、審查、復(fù)核的執(zhí)行規(guī)范，既是提升生成式人工智能服務(wù)意識(shí)形態(tài)的合法性的前提，也是防范意識(shí)形態(tài)潛在風(fēng)險(xiǎn)的有效路徑。

目前，人工智能領(lǐng)域廣泛使用各種專業(yè)知識(shí)圖譜作為外部工具供大模型學(xué)習(xí)使用，以便擴(kuò)展模型的能力邊界，適應(yīng)動(dòng)態(tài)變化的環(huán)境以及增強(qiáng)可解釋性和可信度。“知識(shí)圖譜就是將人類(lèi)知識(shí)結(jié)構(gòu)化形成的知識(shí)系統(tǒng)，其中包括基本事實(shí)、通用規(guī)則和其他有關(guān)的結(jié)構(gòu)化信息，可用于信息檢索、推理決策等智能任務(wù)。”（劉知遠(yuǎn)，韓旭，孫茂松.知識(shí)圖譜與深度學(xué)習(xí)［M］.北京：清華大學(xué)出版社，2020：2.）為了治理風(fēng)險(xiǎn)，也可以從馬克思主義意識(shí)形態(tài)理論以及各種意識(shí)形態(tài)形式的知識(shí)中開(kāi)發(fā)出一個(gè)標(biāo)準(zhǔn)化的意識(shí)形態(tài)知識(shí)圖譜，將其貫穿于大模型整個(gè)設(shè)計(jì)開(kāi)發(fā)過(guò)程，以便通過(guò)標(biāo)準(zhǔn)化和規(guī)范化的意識(shí)形態(tài)知識(shí)庫(kù)，強(qiáng)化生成式人工智能在語(yǔ)義理解、檢索處理及學(xué)習(xí)方面的科學(xué)性、相關(guān)性及政治性。具體來(lái)說(shuō)，一是應(yīng)在預(yù)訓(xùn)練階段打破無(wú)監(jiān)督學(xué)習(xí)的慣例，將意識(shí)形態(tài)知識(shí)圖譜植入原始數(shù)據(jù)中，幫助模型更好地理解原始數(shù)據(jù)中復(fù)雜的和隱含的語(yǔ)義關(guān)系，識(shí)別意識(shí)形態(tài)信息，判斷意識(shí)形態(tài)數(shù)據(jù)意義譜系和價(jià)值傾向，最終輸出更符合主流意識(shí)形態(tài)邏輯和常識(shí)的數(shù)據(jù)。二是圍繞意識(shí)形態(tài)知識(shí)圖譜打造一套包含標(biāo)準(zhǔn)答案和標(biāo)注數(shù)據(jù)的意識(shí)形態(tài)詞典，作為模型監(jiān)督微調(diào)和強(qiáng)化學(xué)習(xí)的外部工具。它可以使模型更好地理解設(shè)計(jì)者和使用者的意識(shí)形態(tài)意圖和需求，形成最高權(quán)重對(duì)齊數(shù)據(jù)，從而優(yōu)化其排序和選擇機(jī)制，選出最合適的答案和推薦內(nèi)容。三是在意識(shí)形態(tài)知識(shí)圖譜基礎(chǔ)上制作簡(jiǎn)略價(jià)值規(guī)范的規(guī)定，并將其嵌入市場(chǎng)化的智能代理模型中，配合使用規(guī)范，一方面，引導(dǎo)模型隨時(shí)自我監(jiān)督；另一方面，為使用者自行檢查產(chǎn)品及行動(dòng)提供對(duì)照，杜絕風(fēng)險(xiǎn)行動(dòng)的隱私權(quán)借口。

（三）導(dǎo)入意識(shí)形態(tài)管理智能代理，實(shí)現(xiàn)社會(huì)應(yīng)用全程風(fēng)險(xiǎn)處置

盡管有知識(shí)圖譜的內(nèi)在約束，負(fù)面主體依然可以指令智能代理生產(chǎn)大量負(fù)面數(shù)據(jù)，尤其是事實(shí)性負(fù)面數(shù)據(jù)，并用來(lái)從事負(fù)面意識(shí)形態(tài)傳播、教育和動(dòng)員活動(dòng)，同時(shí)還可以逃避規(guī)范約束。例如，意識(shí)形態(tài)數(shù)據(jù)中的資產(chǎn)階級(jí)理論、黨史中的挫折和錯(cuò)誤等，本身即作為事實(shí)性研究資料存在于無(wú)數(shù)紙質(zhì)和電子文本中，智能代理則可以搜集整理再加工，且沒(méi)有任何直接違規(guī)表述，但是生成的很可能是反馬克思主義和歷史虛無(wú)主義的數(shù)據(jù)。即使知識(shí)圖譜在其中置入了批判性指引，負(fù)面主體依然可以只選擇其中的負(fù)面部分。這是負(fù)面意識(shí)形態(tài)行動(dòng)的主要特征之一，即集聚大量避開(kāi)完整性論述的灰色數(shù)據(jù)和黑色數(shù)據(jù)，進(jìn)行局部性攻擊，加總后達(dá)到整體性否定的目的。從實(shí)踐全程來(lái)看，如同現(xiàn)有網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域治理一樣，難點(diǎn)在于負(fù)面信息的收集、識(shí)別和評(píng)估。因此，必須在智能代理應(yīng)用中建設(shè)全過(guò)程意識(shí)形態(tài)風(fēng)險(xiǎn)防范機(jī)制，強(qiáng)化意識(shí)形態(tài)數(shù)據(jù)生產(chǎn)及傳播事前、事中、事后的監(jiān)管力度，從而弱化乃至消弭公共性與私有性之間的直接沖突，努力在私有平臺(tái)中實(shí)現(xiàn)公共性。

國(guó)家現(xiàn)有規(guī)范已經(jīng)提出了風(fēng)險(xiǎn)研判、風(fēng)險(xiǎn)監(jiān)測(cè)和評(píng)估以及風(fēng)險(xiǎn)預(yù)警機(jī)制的系統(tǒng)管控和處置要求，但具體手段可能達(dá)不到生成式人工智能風(fēng)險(xiǎn)治理所需要的水平。鑒于即將到來(lái)的巨大風(fēng)險(xiǎn)，恰恰可以發(fā)揮智能大模型的信息處理能力，構(gòu)建一套由國(guó)家直接管控的文化和意識(shí)形態(tài)領(lǐng)域行業(yè)管理智能代理大模型，以之為信息中樞系統(tǒng)，展開(kāi)風(fēng)險(xiǎn)預(yù)警和處置。其主要部分包括：內(nèi)接輿情監(jiān)測(cè)信息系統(tǒng)的風(fēng)險(xiǎn)治理智能代理模型，用于跟蹤風(fēng)險(xiǎn)生成、演化、危害和處置全過(guò)程；基于風(fēng)險(xiǎn)治理智能代理模型的智能代理管理信息系統(tǒng)，也即治理智能代理的智能代理系統(tǒng)，用于采集所有智能代理研發(fā)者、供應(yīng)者和使用者基本信息、自愿登記的所有生成數(shù)據(jù)基本信息以及意識(shí)形態(tài)主體活動(dòng)信息，特別是文化產(chǎn)品和活動(dòng)歷史的分級(jí)、賦值和風(fēng)險(xiǎn)標(biāo)記；意識(shí)形態(tài)知識(shí)圖譜；意識(shí)形態(tài)專家和管理人員體系?；谶@套管理大模型，實(shí)現(xiàn)治理行動(dòng)的制度化和體制化，包括風(fēng)險(xiǎn)的識(shí)別、評(píng)估、防范和應(yīng)對(duì)，即信息系統(tǒng)實(shí)時(shí)收集和跟蹤智能代理的主體、產(chǎn)品、議題和活動(dòng)；模型自動(dòng)評(píng)估是否風(fēng)險(xiǎn)、風(fēng)險(xiǎn)事故發(fā)生可能性及危害大?。粚＜冶葘?duì)和判斷活動(dòng)性質(zhì)，評(píng)估風(fēng)險(xiǎn)危害和損失；跨部門(mén)跨行業(yè)統(tǒng)一部署行政管理，進(jìn)行干預(yù)、引導(dǎo)和處罰；以及進(jìn)行教訓(xùn)總結(jié)及反饋。最后，除了使用技術(shù)手段外，當(dāng)然還要在智能代理領(lǐng)域加快推進(jìn)黨委領(lǐng)導(dǎo)的，政府、企業(yè)、社會(huì)和用戶等多主體參與的，經(jīng)濟(jì)、技術(shù)和法律等多種手段相結(jié)合的綜合治理格局，以形成最廣泛的治理合力。

The Ideological Functions，Risks，and Advance Governance of Generative Artificial Intelligence

SUN Xilong

Abstract：Generative AI reshapes the elements and structure of ideological practice with its technological underpinnings and versatility，and in the future，after specialized and small-scaled，it will become an intelligent agent purchased and widely used by individuals，creating a new form of ideological production，dissemination，education and mobilisation. Due to the contradiction between authority and democracy，politics and technology，publicity and privacy caused by the weakening of professional authority，the spectrum of algorithmic reproduction of data nature，and privatised property rights and applications，intelligent agents will give rise to multiple ideological risks affecting national security in terms of the subject of practice，the construction of models，and social applications. In order to manage the risks，it is necessary to put forward preemptive strategies based on the future，leaving behind the idea of patching up the problems caused by technology. It is necessary to establish the principle of party-controlled intelligent agents to consolidate the authority of mainstream ideology；to introduce ideological knowledge mapping as a model development tool and social application specification；and to introduce ideological management intelligent agents as a central system of governance.

Key words：generative artificial intelligence；ideological practice technology；intelligent agents；risk governance

About the author：SUN Xilong，professor and doctoral supervisor of Marxist School，Beijing Jiaotong University，specialist in fundamental principles of Marxism.

［基金項(xiàng)目］本文系教育部人文社會(huì)科學(xué)研究項(xiàng)目“基于意識(shí)形態(tài)主體行為方式的網(wǎng)絡(luò)意識(shí)形態(tài)治理和建設(shè)研究”（20YJA710031）的研究成果。）