陳力鈞　陳志勇

[摘要]算法技術為社會經(jīng)濟發(fā)展激發(fā)新潛力、注入新動力，引發(fā)信息傳播方式、傳播權力結(jié)構變革與價值生態(tài)秩序變革，給意識形態(tài)領域帶來娛樂成癮、輿論操縱、價值失序等風險挑戰(zhàn)。在算法推薦技術影響下，一定程度上用戶認知被技術異化，內(nèi)容傳播把關權力失控，平臺行為逾矩失范，價值滲透愈發(fā)隱蔽。治理意識形態(tài)的算法風險不僅是互聯(lián)網(wǎng)智能系統(tǒng)的技術性問題，還涉及政治權力、公共倫理、信息傳播、心理意志等多學科領域，應采取多維分析視角綜合考量，優(yōu)化算法邏輯、完善監(jiān)管體系、強化話語陣地、推進算法透明，探索算法時代的治理思路和現(xiàn)實路徑。

[關鍵詞]意識形態(tài);話語權;算法推薦;技術異化

中圖分類號：D035文獻標識碼：A文章編號：1008-410X（2022）03-0067-09

一、研究背景

信息是人與世界的互動方式，人類對信息的處理效率深刻影響著人們的生活方式與交互方式。信息傳播的基本問題是如何在一處準確或近似地再現(xiàn)信息，然后在另一點上選擇接收消息[1]。信息分發(fā)技術是信息發(fā)布者與接收者間的技術媒介，對網(wǎng)絡空間信息傳播有決定性作用。在互聯(lián)網(wǎng)各個發(fā)展階段，主流信息分發(fā)技術兼收并蓄地開辟了諸多應用場景：超文本技術的分類索引創(chuàng)造了信息百科全書的門戶時代;信息爬取技術為互聯(lián)網(wǎng)開啟了搜索引擎的窗口，實現(xiàn)了人對信息的高效獲取;社交網(wǎng)絡技術揭開了訂閱時代的序幕，推動網(wǎng)絡信息產(chǎn)品服務從運營商主導到用戶主導的轉(zhuǎn)型變革;算法推薦技術加持“無限瀑布流”的推送設計實現(xiàn)了為用戶自動適配場景的傳播模式變革。算法推薦技術是通過生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等向用戶提供信息的算法技術。伴隨算法應用在網(wǎng)絡空間“大行其道”，技術的“雙刃劍”屬性逐漸凸顯。一方面，算法推薦技術憑借向用戶提供信息精準識別、精準推送的強大運算能力，為在泛濫信息流中無所適從的用戶群體提供了優(yōu)良適配方案，滿足了不同群體千差萬別的信息需求，催化了網(wǎng)絡空間的流量“馬太效應”。另一方面，新技術媒介必然會以隱蔽而有力的方式來重新定義人們看待和了解事物的方式[2]。算法技術隱性權力的延伸使算法場域成為多元主體搶奪關注流量，輸出話語思想，利導輿論趨勢的重要戰(zhàn)場，給意識形態(tài)帶來不可忽視的影響。

意識形態(tài)算法風險的相關研究伴隨近年來抖音視頻推薦、淘寶商品推薦、美團商家推薦、頭條新聞推薦、小紅書社交分享推薦等算法應用的普及走進公眾視野，逐漸成為理論界關注焦點。從宏觀上看，對該議題的研究主要沿著三條脈絡展開。一是批判算法通過擾亂經(jīng)濟秩序、滲透錯誤思潮、誘導數(shù)字沉迷等方式擴張隱性權力對意識形態(tài)產(chǎn)生消極影響。二是聚焦算法對意識形態(tài)的價值失序風險，研究算法推薦技術信息分發(fā)結(jié)果對主流意識形態(tài)話語主導權、價值凝聚力的沖擊消解。三是關注算法推薦技術對傳播格局與傳播生態(tài)的影響，探討算法場域倫理性與規(guī)范性的缺失問題。從微觀上看，該主題具備較高的適配性與較為寬闊的研究空間，常與傳播效應、思政教育、思潮滲透、技術異化、智能治理相結(jié)合，由點到面切入剖析算法對意識形態(tài)的沖擊影響及對策思路。在技術顛覆性變革背景下，該議題的研究方興未艾，在理論視角、分析框架和治理路徑方面仍有進一步的探索空間。在理論視角上，算法推薦技術邏輯與意識形態(tài)理論關聯(lián)有待拓展，對技術與意識之間的交互關系還缺乏一個解析風險因素的中觀視角;在分析框架上，具體的算法推薦技術與抽象的意識形態(tài)概念間存在錯綜復雜的影響關系，需要從多個維度展開論證深入挖掘;在治理路徑上，往往偏重對西方傳播倫理視角理論與實踐的移植，在本土治理實踐與理論提煉方面有待深化，中國式現(xiàn)代化的治理策略有待開拓。因此，圍繞用戶主體、內(nèi)容題材、平臺行為與價值生態(tài)多個維度建構分析框架，研究意識形態(tài)的算法風險，探索促進算法應用健康規(guī)范發(fā)展的治理策略具有強烈的問題導向和鮮明的現(xiàn)實意義。

二、意識形態(tài)算法風險的四維解構

算法推薦技術的廣泛應用，不僅推動了互聯(lián)網(wǎng)流量生態(tài)向高層次的轉(zhuǎn)型進階，而且對意識形態(tài)思想傳播和話語權力格局產(chǎn)生顛覆性的沖擊。一方面，搜索時代和訂閱時代所顯露的諸如信息泛濫、倫理偏差、價值分化、流量尋租等固有問題仍然存在，并且在算法技術催化下有著持續(xù)惡化的趨勢。另一方面，新技術的更迭可能引發(fā)一系列新風險、新挑戰(zhàn)，如后臺系統(tǒng)對用戶行為隱私數(shù)據(jù)的全景監(jiān)控、信息推送下“過濾氣泡”“數(shù)字致癮”等機制對受眾主觀世界的認知重塑、對輿論宣傳的暗箱操縱等。算法推薦技術居于幕后成為影響意識形態(tài)、操縱價值秩序“看不見的手”。理解算法這一智能化信息配置技術手段必須建構從用戶層面、信息層面到技術層面、價值層面多維解析框架。

（一）用戶維度：在互動中被“異化”的實踐主體

算法推薦技術在對信息內(nèi)容標簽化分類和對信息用戶行為大數(shù)據(jù)畫像的基礎上為用戶個性化信息需求提供了更優(yōu)解決方案。信息供給的精準化與用戶體驗的個性化是算法推薦的顯著特征[3]。精準化、個性化推送內(nèi)容形成了技術包裝下“千人千面”的擬態(tài)“客觀世界”，在這樣的擬態(tài)空間中，人們主觀世界與虛擬世界不斷交互認知、“雙向”實踐。馬克思主義實踐觀認為，人與技術的關系是主客體雙向運動的辯證統(tǒng)一，人類改造客觀世界的意圖主動影響著技術演進，而技術也會對人本身形成反作用[4]。從橫向看，在人與算法程序互動的過程中，系統(tǒng)根據(jù)行為數(shù)據(jù)構建出專屬用戶的個性化認知世界，動態(tài)迎合著用戶的各種喜好。一方面，該過程是人們主觀世界對客觀世界能動反映的過程，意識在擬態(tài)空間中不斷被迎合、取悅與滿足，主觀世界對算法擬態(tài)空間產(chǎn)生愈發(fā)強烈的黏性需求。另一方面，算法推薦技術在人們行為中持續(xù)采集關鍵數(shù)據(jù)，再反作用于人們的主觀世界，循環(huán)往復“采集偏好—推送內(nèi)容—采集偏好”的過程。從縱向看，人們虛擬行為伊始便處于系統(tǒng)采集數(shù)據(jù)的監(jiān)視下，用戶瀏覽信息內(nèi)容的停留時長、關注、點贊、轉(zhuǎn)發(fā)、評論等操作被算法記錄、統(tǒng)計、分類，分析，成為構建擬態(tài)空間的重要參考。伴隨算法系統(tǒng)對用戶偏好把握愈發(fā)精準深入，人們興趣、審美、信息需求得到極大滿足，對技術的依賴隨之加強。隨著算法推薦應用深度融入現(xiàn)實生活，成為人們消遣時光、消費娛樂不可或缺的日常工具，技術實踐對人的思想行為產(chǎn)生愈發(fā)顯著的塑形效應。

從實踐主體層面看，人機交互過程是人的主體性被弱化乃至缺失的過程。從表面上看，人們在各個虛擬場景中與系統(tǒng)雙向互動，似乎是被技術尊重、理解與認可的過程。然而，這種對人性的理解與迎合離不開算法的過濾包裝，被加工后的虛擬認知空間對主體性格養(yǎng)成、價值認知產(chǎn)生負面影響。從短期來看，擬態(tài)空間不斷對個體的自律、自控能力發(fā)起挑戰(zhàn)，誘導用戶投入大量時間精力沉溺在自我舒適區(qū)無法自拔。從長遠來看，以流量、興趣為指標的內(nèi)容推薦機制將不符合用戶價值立場的差異信息選擇性過濾，長此以往用戶認知視野在信息繭房中被窄化，理性思考在流量信息中被弱化，價值偏好在曲意逢迎中被固化。智能算法越先進，人們越能夠享受到算法迎合的“幸福感”，與此同時主體精神世界“偏好密碼”也被算法理解得越發(fā)深刻。在海量信息沖擊下，用戶的思維認知被改造重塑而不自知。人們所以為的真相僅是信息分發(fā)機制下被包裝與誘導后看似“深思熟慮”的真相，人們所看到的真實只是信息選擇過濾后算法技術想讓人看到的真實。日益強大的智能算法與持續(xù)弱化的用戶理性形成鮮明對比，技術理性與人類理性鴻溝被逐步擴大，沖擊著意識形態(tài)主導權與話語權。當算法的技術理性逐漸取代人類政治理性時，算法權力會出現(xiàn)異化：國家社會治理建基于算法秩序，人們成為算法的奴仆，其政治意識和政治行為受到算法約束[5]。

（二）內(nèi)容維度：以“失控”為特征的話語表達

“內(nèi)容為王”是互聯(lián)網(wǎng)時代意識形態(tài)傳播的前提和準則，包含雙重意義，即“只要內(nèi)容足夠好，就會獲得關注度和影響力;只有內(nèi)容足夠好，才能獲得關注度和影響力”[6]（P52）。在信息過載、資訊泛濫、供給過剩、競爭激烈的信息空間，話語自由表達的去中心化格局催化了自媒體話語空間的持續(xù)擴張，拓寬了個人、組織發(fā)言渠道，提升了個體的話語張力。更加自由的話語環(huán)境意味著人人都是話語表達者，在這樣的傳播環(huán)境里內(nèi)容質(zhì)量決定了誰的話語能被看見，誰的聲音能傳得更遠。“內(nèi)容為王”始終是決定信息影響力與傳播力的重要標準。雖然內(nèi)容的優(yōu)劣在互聯(lián)網(wǎng)各發(fā)展階段都是不可忽視的要素，但在不同的技術背景和傳播格局下，內(nèi)容信息的評判主體和評價標準存在著明顯的區(qū)別。在訂閱時代，關注行為基礎上信息內(nèi)容可以直接從發(fā)布者傳遞到接收者視野范圍內(nèi)，從“粉絲”打開閱讀到“粉絲”認可分享，再到非“粉絲”群體的打開、認可、轉(zhuǎn)粉、再分享，訂閱用戶是內(nèi)容傳播的核心要素。伴隨著新媒體時代躍升至全媒體時代，訂閱模式進入算法推薦模式，以“失控”為特征的傳播法則不僅需要“真金不怕火煉”的真材實料，還要有“酒香也怕巷子深”的思維認識。在算法推薦技術主導的傳播場域，內(nèi)容的生產(chǎn)者和發(fā)布者對信息發(fā)出、傳播、接收的過程處于近乎失控的狀態(tài)。內(nèi)容發(fā)出后的傳播節(jié)點不再是以人為主體的網(wǎng)民受眾，而是平臺后臺極其復雜的算法系統(tǒng)。內(nèi)容作品必須被系統(tǒng)識別理解、認可賦值、分類推薦、反饋再推薦，“內(nèi)容為王”的直接裁判和評委由人變?yōu)榱怂惴?，算法主導了?nèi)容會被投放至哪些受眾群體、進入多少規(guī)模的流量池，也決定著用戶會被推送看見什么樣的內(nèi)容。

“一個媒體發(fā)達的社會，算法所擁有的權力會越來越大”[7] 。當算法推薦技術的權力觸角蔓延至意識形態(tài)領域，算法就演變成對內(nèi)容發(fā)布方的一種強制性審批機制與流量枷鎖。主流意識形態(tài)的內(nèi)容信息在傳播前必須邁過算法門檻，即必須以迎合用戶為導向，以算法認可為前提，以吸引流量為目的。這對全媒體時代宣傳工作的話語輸出質(zhì)量提出了更高的要求，倒逼話語的制作者必須設計產(chǎn)出有益、有趣、有用的議題與內(nèi)容。去中心化的傳播格局圍繞算法規(guī)則“再中心化”，主流意識形態(tài)話語主導權受制于信息技術的分發(fā)權，主流意識形態(tài)話語影響力被海量非主流意識形態(tài)信息內(nèi)容分散稀釋。于是，價值興趣的個性化模糊了意識形態(tài)的主導性，表達的自由掩蓋了利益的驅(qū)動，技術的效用遮蔽了理性的扭曲。在這樣的傳播生態(tài)下，主流意識形態(tài)話語權威可能被千人千面的推薦機制削弱限制，主流價值的話語表達在多元主體的話語擴張中易被分化稀釋，主流思想的凝聚力會被無所不用其極的流量經(jīng)濟沖擊消解，信息內(nèi)容的意義開始演化為浮光掠影式的印象，人們?nèi)菀紫萑雽χ饔^價值、個體興趣的追求中，社會主流價值、主旋律的宣傳內(nèi)容被選擇性忽視。此外，算法極易成為利益的砝碼，內(nèi)容淪為附庸甚至發(fā)生“劣幣”驅(qū)逐“良幣”的現(xiàn)象[8]。系統(tǒng)算法猶如一只“看不見的手”，成為隱藏在幕后操控信息資源的配置機制，誘導內(nèi)容生產(chǎn)者在算法規(guī)則指引下產(chǎn)出作品，競相獲取關注流量。信息生產(chǎn)者與消費者依據(jù)符合自身效用最大化原則作出決策，供給方與需求方在算法智能匹配下無縫銜接，算法控制者通過“算法黑箱”掌控了網(wǎng)絡空間話語權。因此，看似自由的話語接收與表達，實則處于算法控制下的技術理性與利益邏輯枷鎖之中。

（三）平臺維度：以流量為導向的技術邏輯

“社會一旦有技術上的需要，這種需要就會比十所大學更能把科學推向前進”[9]（P732）。企業(yè)對經(jīng)濟效益執(zhí)著追求不僅是推動信息技術進步的內(nèi)在動因，而且這種追求會滲透到技術體系，改變技術邏輯的發(fā)展方向?；ヂ?lián)網(wǎng)時代技術理性的顯性傾向表現(xiàn)在“流量為王”的算法“進化”趨勢上，即互聯(lián)網(wǎng)平臺會不斷優(yōu)化算法以實現(xiàn)吸引流量、創(chuàng)造價值的經(jīng)濟目的。平臺流量代表著在網(wǎng)絡空間的熱度和關注度，是將用戶注意力轉(zhuǎn)化為經(jīng)濟價值的必要基礎，也是直播帶貨、廣告引流等商業(yè)模式創(chuàng)造效益的前提條件。因此，在技術邏輯上，算法推薦技術作為互聯(lián)網(wǎng)謀求利潤的技術工具，必然要以網(wǎng)絡流量、用戶關注為首要準則。以市場效益為目標的算法技術要匹配用戶類型與作品內(nèi)容，把握受眾圈層與興趣指標，以便在個性化理解的基礎上進行精準推送。在技術機理上，算法系統(tǒng)首先對信息內(nèi)容和用戶進行識別分類、貼上屬性標簽，實現(xiàn)“物以類聚”“人以群分”，再分析用戶瀏覽頁面停留時長、點贊、轉(zhuǎn)發(fā)等操作評價信息作品的反饋情況，進而決策加權投放或是減少推薦為作品賦予曝光率。算法推薦技術有能力通過控制流量，引導信息發(fā)布者設置話語議題、制作指定內(nèi)容，構建算法使用者想要構建的擬態(tài)空間。算法設計者必然會通過不斷優(yōu)化，探索更加先進的信息分發(fā)機制以迎合用戶，誘導受眾投入時間、精力與金錢，實現(xiàn)為平臺場域獲取高額網(wǎng)絡流量的目的。在算法生態(tài)下，流量是互聯(lián)網(wǎng)追求效益過程中手段與目的的統(tǒng)一體。

作為市場經(jīng)濟的組成部分，流量經(jīng)濟的運營模式無可厚非，然而當“唯流量論”的算法推薦技術成為一種普及化的傳播范式，在用戶數(shù)量、平臺規(guī)模、經(jīng)濟體量等方面突破一定量級之后，技術與政治之間就呈現(xiàn)比較微妙且復雜的內(nèi)在關聯(lián)。在數(shù)億用戶量級的傳播空間，話語互動不僅是表面上信息內(nèi)容的交流表達，還涉及話語內(nèi)容背后意識形態(tài)的價值主張、利益追求與斗爭博弈。當技術邏輯嵌入平臺經(jīng)濟運營體系中，成為承載思想傳播、輿論引導、價值宣傳的重要樞紐時，“流量為王”的系統(tǒng)規(guī)則就演變成主流意識形態(tài)主導網(wǎng)絡空間話語生態(tài)的“最大變量”，為意識形態(tài)的安全穩(wěn)定帶來一系列風險挑戰(zhàn)。一是算法技術淪為平臺謀取利益的工具。算法推薦技術的精準投放功能拓寬了銷售渠道，帶來了繁榮的平臺電商經(jīng)濟。在算法營銷手段包裝下，憑借媒介技術的信息匹配能力形成壟斷地位在供應商與消費者交易過程中抽取大量經(jīng)濟價值，層層加碼消費、“大數(shù)據(jù)殺熟”、肆意提高價格、逼迫商家二選一等失范表現(xiàn)屢見不鮮。算法技術的運行起點、服務對象、目的導向與意識形態(tài)引領思想、凝聚人心的價值歸宿相背離。二是“流量為王”的標準削弱了主流意識形態(tài)在平臺空間的可見性與影響力。只有持續(xù)獲得用戶的積極反饋，信息才能在更大的流量池延展傳播，這是算法推薦技術的基本特征。話語的傳播必須以算法認可為前提、以網(wǎng)絡流量為導向、以平臺利益為考量，在重重關卡限制過濾下主流意識形態(tài)權威性與影響力都將大打折扣。三是主流意識形態(tài)在泛娛樂化傳播生態(tài)中失語式微。在迎合受眾需求方面，以弘揚主旋律、宣傳正能量為底色，以馬克思主義為根本立場的意識形態(tài)信息內(nèi)容在吸引力、關注度等方面難以持續(xù)滿足用戶情感、興趣等方面需求，在技術過濾與公眾選擇后可能進一步喪失傳播優(yōu)先權。

（四）價值維度：以爭奪為前提的話語博弈

算法推薦技術創(chuàng)造了平臺獲取流量新模式，逐漸形成以場景適配為特征的經(jīng)濟模式、傳播空間和輿論生態(tài)。算法場域不再局限于信息生產(chǎn)者與信息消費者間的供求交互，已具有明顯的意識形態(tài)屬性，是多元主體話語權力爭奪、思想交織滲透及價值觀念交鋒的大舞臺、主戰(zhàn)場。算法推薦技術主導下的內(nèi)容競爭不僅是表面上的內(nèi)容優(yōu)劣之爭與信息傳播之爭，更演化為理念之爭、文化之爭、利益之爭及意識形態(tài)之爭。在算法推薦技術主導的傳播空間，意識形態(tài)傳播格局、權力結(jié)構發(fā)生著顛覆性的變革。一是算法憑借信息分發(fā)權掌控了思想價值主導權。憑借對人性偏好的深入把握、對公眾生活的高度融入，算法推薦技術的推送結(jié)果潛移默化地改變著人們的思維認知，算法權力也隨之從信息主導躍升至價值主導。二是算法分發(fā)結(jié)果的非中立性加劇了價值生態(tài)的無序性。技術作為算法平臺謀取利益、達成目的的工具以看似中立的方式執(zhí)行著非中立的標準。在算法偏向性扭曲下，主流意識形態(tài)所倡導的核心價值被功利主義、享樂主義、感官刺激等題材內(nèi)容沖擊消解。三是算法推薦技術對價值的有限判斷力導致了價值治理問題的復雜性。算法推薦技術能夠?qū)π畔?nèi)容精準識別并貼上標簽，然而對信息內(nèi)容背后的價值立場、潛在意圖判斷并不擅長。各種社會思潮在算法監(jiān)管盲區(qū)下潛藏進信息產(chǎn)品中不易察覺，利用技術迎合用戶的規(guī)則缺陷借勢滲透，侵蝕主流意識形態(tài)的方式方法防不勝防，算法場域價值秩序治理難度與日俱增。

在算法推薦傳播場域，話語表達環(huán)境日益復雜，思潮滲透方式更加隱晦，價值權威被沖擊消解，意識形態(tài)的價值風險日趨嚴峻。一是多元主體共存的價值格局壓縮主流意識形態(tài)價值空間。各類主體、各種題材的信息在算法場域爭奪流量，交鋒對峙，謀求一席之地。在經(jīng)濟利益的追逐下，資本邏輯驅(qū)動眼球新聞、趣味迎合、低俗娛樂等內(nèi)容充斥算法空間，價值分化、價值沖突、價值爭奪愈演愈烈。在算法規(guī)則制約下，多元主體百家爭鳴的傳播場域為主流意識形態(tài)脫穎而出設下重重關卡，思想引領與價值凝聚愈發(fā)困難。二是算法“黑箱”掩蓋錯誤思潮滲透。在算法“黑箱”掩護下，敵對意識形態(tài)、“高級紅低級黑”、歷史虛無主義等錯誤思潮有了隱蔽傳播的可乘之機，利用規(guī)則漏洞引起輿論暗流，以泛化、固化甚至極化觀點的方式誘導受眾形成錯誤歷史認知和價值觀念[10]。三是算法的內(nèi)在缺陷導致意識形態(tài)價值失守。算法推薦技術的“數(shù)字致癮”機制誘導用戶在泛娛樂氛圍中價值錯位，“過濾氣泡”效應加劇了“圈層化”阻隔話語傳播效應[11]，人們的理性思考在算法對個性深度迎合中被遮蔽誤導，主流意識形態(tài)在多極化推薦生態(tài)下持續(xù)面臨著價值失序、錯位、扭曲的風險。作為大眾傳播領域的信息媒介，算法推薦技術信息分發(fā)結(jié)果不僅沒有在擬態(tài)空間構建良性互動的價值體系，維護意識形態(tài)的安全穩(wěn)定，反而演變成意識形態(tài)的風險機制，擾亂網(wǎng)絡空間的價值秩序，加劇了意識形態(tài)價值生態(tài)的現(xiàn)實危機。

三、意識形態(tài)算法風險的多元呈現(xiàn)

算法推薦技術在用戶、內(nèi)容、平臺、價值等維度對意識形態(tài)產(chǎn)生影響，遮蔽用戶理性、變革內(nèi)容傳播、扭曲分發(fā)導向、沖擊價值秩序，給意識形態(tài)帶來一系列風險。在算法推薦技術的掩蓋下，以資本逐利為目的的技術邏輯借勢滲透，非中立的系統(tǒng)規(guī)則加劇了價值分化，以迎合用戶為導向的成癮機制侵蝕主流話語權威，以選擇過濾為手段的結(jié)果趨勢沖擊社會共識，利益入侵、價值失守、算法失控等問題讓意識形態(tài)陷入算法困境。

（一）以資本逐利為目的的技術邏輯沖擊主流話語引領力

在市場逐利性規(guī)則驅(qū)使下，各類企業(yè)、自媒體人競相涌入抖音、小紅書、頭條新聞等以算法推薦為核心技術的熱門流量空間，資本力量以若隱若現(xiàn)的方式融入并影響信息傳播生態(tài)。在我國，從開始的直接拒絕到后來嘗試性地介入再到后期的全面對接，資本一直摸索著介入傳媒業(yè)后的行動界限[12]。然而，有資本存在的地方就有相應的“超越力量”嘗試著去追逐資本，并最終控制資本[13]，算法推薦技術的信息支配權賦予了資本更強大且更隱晦的干涉力場。在資本邏輯驅(qū)動下，輿論、流量、印象、注意力都被包裝成商品，甚至出現(xiàn)少數(shù)媒體為資本制造商業(yè)鼓吹，誤導輿論聲量的行為。有的互聯(lián)網(wǎng)平臺應用為資本開通專屬“氪金”渠道，讓算法后臺系統(tǒng)為信息商品加權賦值“開后門”。在以資本趨利為內(nèi)生動力的算法場域，意識形態(tài)傳播生態(tài)面臨失控乃至失序的風險。一是失真噪聲擾亂公眾理性邏輯。以流量為導向的傳播環(huán)境讓人們在資本包裝渲染下的海量信息面前無所適從，誘導用戶陷入片面信息、失真信息、認知門檻、感官刺激等認知陷阱。二是市場價值削弱意識形態(tài)凝聚力與向心力。對利益指標的追求、對公眾偏好的迎合滋生了消費主義、享樂主義、眼球新聞等扭曲的價值導向，在算法“黑箱”包裹下暗流涌動的社會思潮擾亂了主流意識形態(tài)宣傳正能量、弘揚主旋律的引領共識功能。三是追求經(jīng)濟效益的內(nèi)生動力使平臺社會價值與社會功能錯位。網(wǎng)絡應用是面向大眾，具有一定社會影響和現(xiàn)實功能的信息傳播平臺，實現(xiàn)社會價值、履行社會責任、發(fā)揮社會功能是社會主義制度下企業(yè)主體不可或缺的內(nèi)在要求。當資本與利潤介入平臺在社會性與市場性的角色選擇時，其社會屬性難以避免地受到干預影響，產(chǎn)生責任錯位與價值偏差。

（二）以系統(tǒng)規(guī)則為標準的分發(fā)方式加劇社會價值分化

在既定的程序代碼和算法規(guī)則的運作下，算法推薦技術表現(xiàn)出中立性與偏向性的矛盾特質(zhì)。一方面，智能算法按照客觀中立的技術參數(shù)處理海量內(nèi)容，配置信息資源。系統(tǒng)以內(nèi)容優(yōu)劣性與反饋度為標準，為每一條信息定位合適的用戶群體，根據(jù)受眾反饋作出流量池投放規(guī)模的決策。在這個過程中內(nèi)嵌規(guī)則是算法系統(tǒng)執(zhí)行信息分發(fā)的唯一標準。另一方面，在多重因素影響下，信息分發(fā)的結(jié)果呈現(xiàn)非中立性特征。一是由于信息發(fā)布者自身立場的非中立性導致了話語內(nèi)容的價值偏向性。任何信息傳遞的不僅是信息本身，從話語構思到編寫制作再到發(fā)布推廣的過程都是為了達成某種目的而進行的內(nèi)容生產(chǎn)，滲透著設計者的價值立場和追求目的。算法從誕生就代表了某種意志的工具理性，倫理偏差、歧視、誤導等問題難以避免。二是算法的“把關人”身份被干擾弱化。系統(tǒng)規(guī)則與利益規(guī)則交織糾纏，原有的技術中立性失去標準規(guī)范。在內(nèi)容、過程、手段的綜合影響下，算法推薦技術以看似中立的規(guī)則執(zhí)行著非中立、非公正的內(nèi)容判斷與價值分發(fā)，意識形態(tài)的倫理失范與價值偏差被進一步激化。新聞的質(zhì)量失去了標準把控，價值觀失去統(tǒng)一引導，媒體公共性和社會責任缺位，工具理性和價值理性失去了平衡[14]。算法嵌入政治體系對政治權力和政治價值的施力將導致算法時代新的社會風險，非常有可能演化成“利維坦”的智能形態(tài)——“算法利維坦”[6]。在算法規(guī)則的“操控”下，多元主體話語空間擴張，話語表達更自由，話語價值輸出加快，算法技術帶來的并不是意識形態(tài)領域的思想自由與百花齊放，反而催生了視野狹隘、理性缺失、立場固化等風險，致使受眾群體從多元化走向多極化，價值觀念從自由化走向分散化。

（三）以迎合用戶為導向的成癮機制侵蝕主流話語權威

從數(shù)字經(jīng)濟發(fā)展的過程看，在便捷化的虛擬操作縮減現(xiàn)實時間成本后，受眾的習慣性依賴與沉迷式上癮是算法時代的特征，且伴隨著技術與人類社會的相生相融，數(shù)字致癮的機制運用會愈發(fā)成熟，算法系統(tǒng)對人性的把握也將越發(fā)深入全面。數(shù)字技術已高度融入人們的社會生活，只要出現(xiàn)適合的產(chǎn)品，誰都可能上癮，而且數(shù)字時代的環(huán)境和氛圍比人類歷史上任何一個時代都更容易讓人上癮[15]（P2）。用戶本位信息生產(chǎn)與分發(fā)機制從本質(zhì)上看就是對人性趨利避害本能的理解迎合。然而這種曲意逢迎的技術邏輯不斷地刺激著人性的消極方面，為娛樂至上、享樂主義、慵懶懈怠的思想氛圍提供滋生土壤。在信息供給方，運營者致力于生產(chǎn)誘導人們更加沉迷的技術與內(nèi)容：平臺龐大用戶基數(shù)和用戶行為采集孵化了空前強大的算法后臺系統(tǒng)，信息致癮機制對人性弱點的把握愈發(fā)精細;企業(yè)、自媒體人等信息發(fā)布者秉承“內(nèi)容為王”“流量至上”的理念在系統(tǒng)規(guī)則的指導下精耕細作，以迎合為目的生產(chǎn)海量的信息，競相誘導用戶投入關注。在信息的接收方，人們前所未有地依賴這些獲取快樂的簡便渠道，不斷被弱化的意志力難以抵抗日益增強的致癮機制，理性思考逐漸被非理性的感官刺激左右，專注式學習被碎片化娛樂取代，社會價值凝聚被個體思想沉浸侵蝕，主流價值傳播被泛濫的個性化信息供給稀釋，受眾最終可能淪為數(shù)字時代的“烏合之眾”。

（四）以選擇過濾為推送機制的結(jié)果導向沖擊社會共識凝聚

雖然算法能夠過濾并推送人們想要看到的信息，但信息過濾的結(jié)果并不是人們自由獨立的主動選擇?！斑^濾氣泡”里的信息內(nèi)容取決于個人的關注興趣，然而個人無法決定什么信息被過濾掉，什么信息被留下來。在算法構建的擬態(tài)空間，受眾接收信息的真實性、客觀性、全面性由算法系統(tǒng)識別、篩選并投放。技術對個性的深度理解進一步促使個體虛擬空間封閉固化，群體的價值差異與觀念偏見在過濾隔離中不斷被孤立放大，社會共識在一個個“過濾氣泡”“信息繭房”“回音室”中被沖擊分化。一是算法并不擅長在道德規(guī)范和社會立場上作出價值判斷，這就導致某些低劣但能滿足人們欲望的信息能夠在短時間內(nèi)大行其道，甚至由于優(yōu)質(zhì)內(nèi)容的“曲高和寡”，出現(xiàn)劣質(zhì)信息驅(qū)逐優(yōu)質(zhì)信息的錯位推送現(xiàn)象。二是要將海量的信息剝繭抽絲辨析真相，無論是媒體從業(yè)者還是智能算法系統(tǒng)都難以具備撕開重重虛假偽裝識破本質(zhì)的判斷力。然而人們獲取資訊的即時性要求算法系統(tǒng)必須在短時間內(nèi)高效配置信息資源，這就產(chǎn)生了片面信息、主觀信息、人造真相蔓延的可能性。在算法推薦技術高速運轉(zhuǎn)下，全面真相與理性思考被片面信息與情緒訴求取而代之，各類謠言、猜想、假新聞、反轉(zhuǎn)劇情泥沙俱下充斥了網(wǎng)絡空間。三是在規(guī)則機制與傳播氛圍的影響下，用戶無意識地在“過濾氣泡”中窄化視野、在“信息繭房”自縛認知、在“回聲室”里固化偏見，人的自主判斷力與理性思考能力在潛移默化中被滲透影響。最終用戶的思維認知被推送系統(tǒng)改造塑形，用戶的知情權被算法技術蒙蔽干預，社會價值共識在信息價值孤島中式微失語。

四、意識形態(tài)算法風險的治理路徑

算法推薦技術重塑了意識形態(tài)的影響機制和傳播范式，實現(xiàn)信息資源高效配置的同時陷入用戶體驗與價值傳播的兩難困境。面對算法時代權威弱化、價值分化、群體極化、立場固化的意識形態(tài)困境，必須采取系統(tǒng)化、體系化、全方位的綜合性思路視角建構治理路徑。要夯實制度機制體系建設，推動算法技術體系倫理優(yōu)化，促進監(jiān)管體系轉(zhuǎn)型升級，以嵌入技術、責任意識優(yōu)化算法信息分發(fā)流程，以適應智能算法時代的法律體系規(guī)范算法價值生態(tài);要筑牢話語傳播陣地，擁抱算法規(guī)則提升主流媒體價值話語輸出，以算法透明、算法問責、算法自律規(guī)避算法黑箱、算法失控，算法致癮的意識形態(tài)風險。

（一）優(yōu)化算法守衛(wèi)主流價值

一是優(yōu)化算法社會功能與政治屬性，堅持主流價值導向[2]，構建信息開放體系，破除封閉固化價值趨勢。一方面，為主流媒體、官方媒體等穩(wěn)定可靠信息來源渠道充分賦值權重，提升優(yōu)質(zhì)主旋律內(nèi)容推薦廣度與深度，高頻投放與主流意識形態(tài)同向的優(yōu)秀作品，實現(xiàn)滲透受眾信息繭房，抵御資本侵蝕，規(guī)避價值固化。另一方面，重塑用戶認知空間，以開放全面透明的信息體系破除“過濾氣泡”封閉化趨勢。供給全局性、可視化、可選擇的信息推送系統(tǒng)，為用戶打開全方位認知渠道，避免在“回音室”中一葉障目，實現(xiàn)受眾知情權的充分回歸。二是強化算法識別把關力，提升算法內(nèi)容意識形態(tài)判斷能力。算法推薦技術對話語信息的內(nèi)容識別與價值判斷是實現(xiàn)算法正義、算法善治的必要前提。應將道德情感、社會責任等價值判斷融入算法程序機制，提升算法的鑒別能力，在“斷物識人”技術上實現(xiàn)從內(nèi)容判斷到價值評價的躍升，準確識別并嚴厲懲治博眼球、標題黨、虛假信息、拜金主義、享樂主義、鼓吹西方意識形態(tài)等不良信息及其內(nèi)容發(fā)布者，防止標題炒作、價值滲透等負面內(nèi)容在網(wǎng)絡空間蔓延，保證積極正面的信息占據(jù)社會主流，在傳播實踐中重塑算法社會責任，清正網(wǎng)絡空間風氣。三是優(yōu)化算法理性培育力，引導用戶自我養(yǎng)成理性思考和辯證思維，構建意識形態(tài)理性培育機制。要筑牢算法推薦技術原則底線，通過完善人工審核機制、價值糾偏機制、注意力回歸機制、防范沉迷機制、信息破繭機制保證算法分發(fā)信息的結(jié)果不失范、不逾矩。探索發(fā)揮算法推薦技術對人類的價值觀念、思維模式培育養(yǎng)成的積極作用，因勢利導構建知識性與娛樂性、批判性與建設性、顯性宣傳與隱性滲透相統(tǒng)一的算法育人模式。

（二）法規(guī)監(jiān)管匡正算法正義

算法推薦技術以網(wǎng)絡應用為載體將權力延伸至政治、社會、文化等諸多領域，治理算法推薦技術引發(fā)的一系列意識形態(tài)問題，需要夯實基礎，建立與之相應的國家治理制度體系、權責關系、法治規(guī)范。一方面，要堅持推進算法時代治理理念、治理體系、治理能力的現(xiàn)代化。政府主體既要激發(fā)市場活力，保障算法經(jīng)濟健康發(fā)展，又需要彌補市場缺陷，提供政策引導和法律保障，監(jiān)管市場行為，維護市場秩序，規(guī)避因算法技術過度使用引發(fā)的風險危機。平臺主體需對其傳播空間內(nèi)流通信息嚴格把關，防止資本力量操縱輿論，警惕西方意識形態(tài)的網(wǎng)絡滲透，保障平臺消費者的合法權益。因此，要根據(jù)算法推薦技術傳播場域的風險隱患完善相應法律規(guī)則、監(jiān)管體系，重構新技術環(huán)境下多元主體的權責關系與治理格局，構建政府部門、媒體、企業(yè)、自媒體創(chuàng)作者有序參與、協(xié)同共治的良性傳播生態(tài)。另一方面，要全面推進算法經(jīng)濟法制規(guī)則與法治生態(tài)建設，警惕大型互聯(lián)網(wǎng)平臺壟斷信息行為，防范壟斷資本市場控制影響話語生態(tài)。完善以反壟斷法為代表的法律規(guī)范體系、監(jiān)督審查機制、整治懲罰機制，規(guī)避互聯(lián)網(wǎng)壟斷企業(yè)憑借壟斷地位影響風向、操縱輿論的風險，穩(wěn)定市場經(jīng)濟秩序，守衛(wèi)主流話語主導性與權威性。既要圍繞互聯(lián)網(wǎng)經(jīng)濟的新問題新挑戰(zhàn)科學立法、壓實責任、防范風險，規(guī)范平臺發(fā)展，也要發(fā)揮政府主體作用，主動監(jiān)管主動作為，持續(xù)推進研判識別機制、響應處置機制、監(jiān)管方式與監(jiān)管技術的現(xiàn)代化。在治理算法經(jīng)濟的過程中要把握好強化監(jiān)管、規(guī)范行為與鼓勵創(chuàng)新、激發(fā)活力之間的關系，避免一管就死、一放就亂的治理生態(tài)。

（三）擁抱算法提升話語影響力

智能算法技術以不可遏制的趨勢融入人類社會生活，互聯(lián)網(wǎng)信息生態(tài)在算法推薦技術的過濾分發(fā)下已陷入“酒香也怕巷子深”媒介時代。如何正確理解算法，適應算法時代的“生存法則”，是算法時代鞏固意識形態(tài)話語陣地、凝聚意識形態(tài)價值共識，打好宣傳工作攻堅戰(zhàn)的必要前提。官方媒體、主流媒體及高校等宣傳陣地只有具備算法規(guī)則下的內(nèi)容輸出能力，突出“傳播力、引導力、影響力、公信力”[9]，增強主流價值話語的吸引力和感染力，才能在多元話語內(nèi)容中立主流，在多元價值博弈中確主導，在多種意識形態(tài)交鋒中明主線。探索算法推薦技術下意識形態(tài)陣地建設與話語轉(zhuǎn)型問題，是在意識形態(tài)變局中開新局、意識形態(tài)困境中謀出路、意識形態(tài)交鋒中占高地的必要途徑。一是要轉(zhuǎn)變思路，擁抱算法規(guī)則。官方媒體、主流媒體和內(nèi)容創(chuàng)作者應轉(zhuǎn)變工作理念，認識算法、理解算法、尊重算法、適應算法，創(chuàng)造能被算法識別的優(yōu)質(zhì)內(nèi)容。二是要加大投入，提升話語輸出力。在生產(chǎn)制作團隊、算法技術研究、激勵保障機制等方面完善配套設施機制，加大理論研究與實踐投入，尤其要注重以滲透性傳播、隱性宣傳為主的話語輸出研究為重點，全面提高優(yōu)質(zhì)內(nèi)容產(chǎn)出能力，促進網(wǎng)絡意識形態(tài)的話語轉(zhuǎn)換。三是要適應公眾現(xiàn)代審美轉(zhuǎn)變話語風格，推動話語內(nèi)容與形式轉(zhuǎn)型，盡可能創(chuàng)造用戶喜愛的內(nèi)容。如在短視頻領域，主流媒體應基于粉絲畫像，推出與粉絲需求相吻合的短視頻作品;利用抖音平臺擴大作品發(fā)布范圍;挖掘系列主題短視頻，打造賬戶特色;針對性利用平臺推廣擴大流量池[16]。

（四）算法透明推動算法問責

算法透明是倒逼平臺自律、培育用戶理性、建構問責機制的技術基礎和必要前提。只有在足夠公開化、透明化、開放化的環(huán)境里，人們才有可能看到算法包裝外衣下信息資源的真實全貌。構建算法透明機制就是通過算法公開、算法監(jiān)管、算法問責、算法培育實現(xiàn)信息過濾分發(fā)過程機理的透明可溯，推動政府、平臺、創(chuàng)作者、媒體機構、用戶各主體相互監(jiān)督、外向把控、內(nèi)在約束、有效銜接、動態(tài)協(xié)作的過程。一是要對算法推薦的分發(fā)內(nèi)容與處理過程公開透明化。平臺應將算法技術嵌入信息內(nèi)容的分析，對發(fā)布責任主體、信息傳播動因、價值立場傾向，以及信息傳播過程的真實性與規(guī)范性作出盡可能詳盡的分析，以倒逼媒體機構、自媒體創(chuàng)作人發(fā)布規(guī)范健康信息，減少劣質(zhì)新聞流通。二是有效發(fā)揮政府主體監(jiān)管問責作用。通過壓實平臺和內(nèi)容發(fā)布者的主體責任;定期公開披露平臺和媒體發(fā)布者的失責、失范行為;組織專家研究解讀不良信息的類型、表現(xiàn)形式、惡劣影響等以提升公眾對算法推薦的技術警覺;研發(fā)算法監(jiān)管技術及時識別、整治不良信息，懲處違規(guī)主體，落實問責機制。三是調(diào)動用戶參與算法監(jiān)管的積極性。算法擬態(tài)空間不是法外之地，任何組織與個人都應當成為秩序維護的參與主體[17]。進一步完善信息舉報制度并設立相應獎懲機制，引導民眾廣泛參與，形成自下而上、多方參與的監(jiān)管格局，不僅要及時整治虛假宣傳、引人不適、價值扭曲的不良違規(guī)信息，還應對“標題黨”“眼球新聞”、曲解誤讀等劣質(zhì)信息和相關責任者相應懲罰，硬性規(guī)則底線與柔性評判標準相結(jié)合，打造風清氣正的網(wǎng)絡空間。

參考文獻：

[1]CE Shannon，W Weaver，RE Blahut，B Hajek.A Mathematical Theory of Communication[J].The Bell System Technical Journal，1948，（1）.

[2]李鋼，唐月衛(wèi)，劉章儀.推薦算法與網(wǎng)絡意識形態(tài)風險防范[J].當代傳播，2020，（3）.

[3]張林.算法推薦時代凝聚價值共識的現(xiàn)實難題與策略選擇[J].思想政治教育，2021，（1）.

[4]劉偉杰，周紹東.新科技革命背景下的人與技術關系——馬克思主義政治經(jīng)濟學視角的解讀[J].經(jīng)濟縱橫，2020，（9）.

[5]張愛軍.“算法利維坦”的風險及其規(guī)制[J].探索與爭鳴， 2021，（1）.

[6]張佳.短視頻內(nèi)容算法[M].北京：人民郵電出版社，2020.

[7]S.Lash.Power after Hegemony. Cultural Studies inMutation？[J].Theory，Culture& Society，2007，（3）.

[8]陳志勇，李天麗.社交媒體應用于高校思想政治教育的邏輯理路[J].思想教育研究，2020，（1）.

[9]馬克思恩格斯選集（第四卷）[M].北京： 人民出版社，1995.

[10]葛彬超，郭怡菲.算法推薦場域歷史虛無主義精準化滲透的策略與應對[J].思想教育研究，2021，（8）.

[11]陳志勇.自媒體環(huán)境下高校社會主義意識形態(tài)話語體系建構[J].思想理論教育導刊， 2019，（12）.

[12]黃楚新.論資本影響與媒體輿論的博弈[J].國際新聞界，2018，（11）.

[13]吳凱.網(wǎng)絡輿論的資本批判與價值重塑[J].中共天津市委黨校學報，2019，（6）.

[14]張幟.智媒時代對新聞生產(chǎn)中算法新聞倫理的思考[J].海南大學學報（人文社會科學版），2019，（3）.

[15][美]亞當·奧爾特. 欲罷不能：刷屏時代如何擺脫行為上癮[M].北京：機械工業(yè)出版社，2018.

[16]張媛，劉林.算法視域下央視頻抖音號內(nèi)容建設路徑研究[J].電視研究， 2020，（10）.

[17]陳志勇.網(wǎng)絡空間治理背景下的高校網(wǎng)絡思想政治教育應對[J].思想教育研究，2018，（12）.責任編輯：王篆

Research on Algorithmic Risk and Governance Path of Ideology

Chen Lijun， Chen Zhiyong

Abstract：Algorithm technology has stimulated new potential and injected new power into social and economic development. At the same time， it has triggered the transformation of information communication mode， communication power structure and value ecological order， and brought a series of risks and challenges such as entertainment addiction， public opinion manipulation and value disorder to the ideological field.Under the influence of algorithm recommendation technology， user cognition is alienated by technology， content communication control power is out of control， platform behavior is out of order and anomie， and value penetration is becoming more and more hidden. Ideological risk management in the field of algorithm recommendation involves not only a technical problem of internet intelligent system， but also multi-disciplinary fields such as political power， public ethics， information dissemination and psychological will. We must take a comprehensive consideration from a multidimensional analysis perspective， optimize the logic of the algorithm， improve the regulatory system， strengthen the discourse position，promote the transparency of the algorithm， and explore the governance ideas and practical paths in the algorithm era.

Key words：ideology， discourse power， algorithm recommendation， technological alienation