關(guān)鍵詞 算法污染 權(quán)力 人工智能

一、引言

算法是“一種有限、確定、有效并適合用計算機程序來實現(xiàn)的解決問題的方法”。① 算法作為概念被明確提出是在公元８世紀(jì)的波斯，之后，其逐漸成為數(shù)學(xué)學(xué)術(shù)討論的重要概念。從數(shù)學(xué)計算角度來看，算法是求解某類問題的一系列計算法則。作為一系列解決問題的清晰指令，算法天然就是程序。因此，隨著電子計算機的發(fā)明，算法開始與編碼發(fā)生關(guān)聯(lián)，成為程序設(shè)計的核心，并成為邏輯和規(guī)則的代言詞。②在算法技術(shù)的應(yīng)用上，一方面，算法推薦信息使得用戶避免“瓦釜效應(yīng)”的消極影響，提升用戶沉浸式體驗，增強用戶黏性；另一方面，算法存在算法黑箱的問題，制造算法污點，瓦解用戶對于技術(shù)的信任，阻礙平臺與媒體的發(fā)展。近年來，超級算法與超級算力的出現(xiàn)，加快機器計算速度的同時，也為技術(shù)治理帶來了挑戰(zhàn)。

對于算法問題的研究，國內(nèi)外學(xué)者均有討論，具有針對性、持續(xù)性的特點，聚焦算法倫理、算法權(quán)力、算法正義等領(lǐng)域。其一，算法倫理問題涉及公共領(lǐng)域的話語表達，通過擬人化的算法系統(tǒng)自主做出決策，削弱人的自主性，代替人的主體性。算法社會化倫理利用算法技術(shù)，產(chǎn)生算法歧視、算法黑箱等社會化問題，擾亂秩序的構(gòu)建?！八惴▋r值化的現(xiàn)象可以通過算法自動化生成的藝術(shù)作品以及加密算法的數(shù)字貨幣等體現(xiàn)，成為實現(xiàn)社會價值的新形態(tài)?！雹偎惴▋rzFQQgbrWGrjgXpnpM/CnkfxiaSFkQutgwlrS217reG4=值作為多元價值的組成部分，改變?nèi)说膶徝篮鸵庾R形態(tài)，形成算法價值化倫理問題。其二，算法作為一種新的權(quán)力形態(tài)，有平臺與技術(shù)的雙重加持。平臺天然具有逐利性，利用算法技術(shù)實現(xiàn)利益最大化。“算法的運行過程不僅僅是智能技術(shù)運用的過程，在其技術(shù)的背后體現(xiàn)的是設(shè)計者的意志，在其工具的外表下暗藏的是權(quán)力的歸屬?！雹谄淙?，算法倫理與算法權(quán)力的異化呼吁算法正義，構(gòu)建算法秩序。算法正義旨在設(shè)計合理程序，將定性正義向定量正義轉(zhuǎn)變。程序正義從結(jié)果出發(fā)，認(rèn)為符合算法計算的程序，規(guī)避算法黑箱、堅持態(tài)度中立的原則，其產(chǎn)生的結(jié)果帶有正義的鐵律?！八惴ǖ倪壿嫵尸F(xiàn)出簡明的悖論性質(zhì)：算法的目的乃是‘使自動化’（ａｕｔｏｍａｔｅ），于是‘自動化’本身產(chǎn)生了‘正義自動化’的效果。”③

現(xiàn)代技術(shù)持續(xù)迭代，算法問題仍不斷凸顯。技術(shù)與權(quán)力異化導(dǎo)致倫理失焦，衍生出算法問題的新議題，不同于算法黑箱、算法歧視，將微觀權(quán)利侵?jǐn)_擴大至中觀平臺秩序沖突，產(chǎn)生出對于“算法污染”的研究。“算法污染”的內(nèi)涵是什么，如何生成，如何造成權(quán)力的失衡，又如何規(guī)制權(quán)力實現(xiàn)平衡仍然需要繼續(xù)探索。如果不清楚“算法污染”的內(nèi)涵，就無法理解權(quán)力與技術(shù)平衡的邏輯；如果不對“算法污染”中的權(quán)力進行規(guī)制，就無法清楚權(quán)力的本質(zhì)，無法構(gòu)建算法正義。隨著元宇宙、ＣｈａｔＧＰＴ技術(shù)的升級，算法能夠自主學(xué)習(xí)，污染更加隱蔽，更加具有針對性，將會給個體、網(wǎng)絡(luò)空間帶來高風(fēng)險。本文將對“算法污染”的權(quán)力失衡進行初步探討，并提出權(quán)力規(guī)制建議。

二、“算法污染”的概念厘定及生成邏輯

算法技術(shù)是一把雙刃劍，它既能為用戶提供便捷化、智能化的服務(wù)，也會出現(xiàn)權(quán)力俘獲，污染個體的社交領(lǐng)域、網(wǎng)絡(luò)空間，造成“算法污染”?！八惴ㄎ廴尽痹诶碚撋鲜羌夹g(shù)與政治的結(jié)合；在實踐中，算法推薦、ＣｈａｔＧＰＴ、Ｓｏｒａ視頻都是算法技術(shù)的延伸，并不斷更新，“算法污染”也帶有融合性、拓展性、智能性的特征。

１．“算法污染”的概念厘定

“污染通常意味著污染水、骯臟的空氣或者其他環(huán)境危害。候選人利用政治金錢形成腐敗，污染政治系統(tǒng)。污染隱喻提出的最困難的問題：政府努力監(jiān)管表達造成污染的合憲性。”④就環(huán)境污染的閾值而言，政治穩(wěn)定一直是社會福祉的核心。政治環(huán)境不穩(wěn)定會導(dǎo)致經(jīng)濟效率低下，加大二氧化碳的排放量。從道德層面講，“厭惡是一般動機系統(tǒng)的一部分，該系統(tǒng)是為了保護個人免受疾病侵害而進化的。厭惡會激發(fā)對與污染威脅相關(guān)的行為的負面評價；對可能通過身體接觸構(gòu)成污染威脅的陌生群體的消極態(tài)度；以及更多地支持某些將污染風(fēng)險降至最低的社會和政治態(tài)度”。⑤ 從政治污染的角度出發(fā)，２０世紀(jì)６０年代，西方對其研究較為集中，包含黑人運動中的政治污染、利益污染腐化政治選舉，造成性別歧視。２１世紀(jì)初，隨著新媒體技術(shù)的應(yīng)用及普及，出現(xiàn)信息污染，公民的權(quán)利受限，進而影響制度運行的有效性。綜上，政治與污染有著表象與本質(zhì)的關(guān)聯(lián)。表象是指我們可以觀察到的具體形態(tài)的污染，例如環(huán)境污染、氣象污染等。本質(zhì)是對于具象污染究其本源，探討解決路徑。

“算法污染”是技術(shù)與政治的結(jié)合，它既從微觀污染個體的社交場域、污染網(wǎng)絡(luò)空間，影響信息傳播秩序，也從宏觀隱喻權(quán)力借助算法技術(shù)污染政治系統(tǒng)，侵?jǐn)_公民權(quán)利。“算法污染”具體表現(xiàn)為信息污染、意識形態(tài)污染、商業(yè)污染，是用戶與技術(shù)平臺合力產(chǎn)生的結(jié)果。信息污染是平臺利用算法技術(shù)搜集用戶數(shù)據(jù)，提供相對應(yīng)的信息。用戶數(shù)據(jù)的收集是偶然性與必然性的結(jié)合。機器不具有情感認(rèn)知，機械化搜集信息，不能做到信息與用戶完全匹配，形成信息污染。算法工程師植入個體的意識形態(tài)、平臺逐利性交易傳播意識形態(tài)、意見領(lǐng)袖流量性傳播意識形態(tài)，合力形成意識形態(tài)污染。商業(yè)污染是指平臺為了盈利運轉(zhuǎn)，使用算法技術(shù)打造沉浸式、消費式的媒介環(huán)境，污染網(wǎng)絡(luò)空間。喬萬尼·薩托利在《民主新論》中講道：“目前對于民主制度中的信息過程所作的大多數(shù)批評，都指出傳遞信息的權(quán)力是少數(shù)人的權(quán)力，具體言之，它的分配是不平等的”。① 因此，算法技術(shù)發(fā)展需要兼顧傳播秩序、傳播權(quán)力的分配，避免信息極化污染政治系統(tǒng)。

２．“算法污染”生成的基本邏輯

第一，算法標(biāo)簽與用戶標(biāo)簽混合產(chǎn)生認(rèn)知污染。如今，“數(shù)據(jù)處理者、算法掌控者已不再是普通的私主體，而是在擁有巨大技術(shù)優(yōu)勢與數(shù)據(jù)資源勢能的基礎(chǔ)上，形成了相對于個人而言的、能夠輔助甚至替代公權(quán)力的數(shù)據(jù)權(quán)力、算法權(quán)力或平臺權(quán)力”。② 智能算法依托互聯(lián)網(wǎng)實時計算，利用數(shù)據(jù)模型進行數(shù)據(jù)分析，跟蹤用戶變化，產(chǎn)生個性化的算法標(biāo)簽。在社交平臺中，用戶擁有不同的身份，被貼上高達上千種的社會化標(biāo)簽，打破用戶對于現(xiàn)實個體的認(rèn)知。算法標(biāo)簽固化、僵化用戶形象，成為互聯(lián)網(wǎng)用戶的第二張名片。用戶將線下社交圈遷移至網(wǎng)絡(luò)社會，線下關(guān)系轉(zhuǎn)換至互聯(lián)網(wǎng)，或維系、或屏蔽或沉默。線下存在的標(biāo)簽也會投射到線上，影響用戶點贊、評價的行為。用戶標(biāo)簽產(chǎn)生的行為，向算法技術(shù)釋放出強烈的信號。算法技術(shù)不能完全靈活處理，使得用戶標(biāo)簽與算法標(biāo)簽混合，造成認(rèn)知與標(biāo)簽的盲目匹配，干預(yù)用戶的價值判斷。用戶自我標(biāo)簽基于現(xiàn)實生活中的“鏡中我”理論凸顯，具有一定的情感性特征。機器判斷基于用戶有意識、無意識的行為數(shù)據(jù)計算，帶有片面理性的局限性。

算法工程師作為個體是情感本體的體現(xiàn)，一定程度上影響算法標(biāo)簽。算法工程師將自己的認(rèn)知導(dǎo)入信息傳播機制中，送至用戶端。算法標(biāo)簽與用戶標(biāo)簽或沖突、或重合、或不相干。算法標(biāo)簽與用戶標(biāo)簽沖突，將出現(xiàn)用戶信念體系坍塌，造成認(rèn)知盲亂。群體急于在網(wǎng)絡(luò)空間自證觀點，引發(fā)網(wǎng)絡(luò)謾罵，造成網(wǎng)絡(luò)空間的認(rèn)知污染。算法標(biāo)簽與用戶標(biāo)簽融合，用戶偏見由固化向僵化過渡，在網(wǎng)絡(luò)空間擴散，與主流認(rèn)知形成反差，出現(xiàn)主流與非主流的認(rèn)知錯亂，污染網(wǎng)絡(luò)空間。算法標(biāo)簽與用戶標(biāo)簽不相干，用戶標(biāo)簽傳播一系列信息，算法標(biāo)簽傳播其他信息，不論信息是否符合主流價值觀、是否能夠擴大政府的公信力，都在一定程度上造成信息轟炸。用戶認(rèn)知水平有限，過多的信息加大用戶的認(rèn)知負荷，降低用戶的辨別能力，污染社交平臺的信息承載空間。

第二，領(lǐng)域界限模糊引發(fā)用戶權(quán)利污染。在社交平臺中，用戶的權(quán)利包括看見與被看見權(quán)利、遺忘與被遺忘的權(quán)利以及話語表達的權(quán)利。智能媒體的出現(xiàn)，打破時空界限、人機界限，拓寬信息傳播的渠道。算法推薦以用戶為中心的同時，也會形成網(wǎng)絡(luò)的“巴爾干”化，出現(xiàn)網(wǎng)絡(luò)“去殖民化”到“再殖民化”的現(xiàn)象。用戶私人領(lǐng)域搶占公共領(lǐng)域。私人領(lǐng)域強調(diào)用戶個體空間，用戶處在舞臺的后端，展示真實的自我。公共領(lǐng)域強調(diào)社會價值的宏觀導(dǎo)向，用戶處在舞臺前端，打造人設(shè)。算法技術(shù)利用信息推送的功能，以用戶興趣導(dǎo)向為傳播模式。用戶群體分散于社會各地，認(rèn)知能力與認(rèn)知水平參差，出現(xiàn)興趣的低俗化、劣質(zhì)化區(qū)隔的現(xiàn)象。低俗化內(nèi)容成為娛樂大眾的首選，符合算法推送的一般條件。用戶在瀏覽、觀看、評論、轉(zhuǎn)發(fā)低質(zhì)化內(nèi)容的信息時，形成沉浸式體驗，縮小用戶權(quán)利的選擇。社交用戶將私人領(lǐng)域的興趣擴大，算法技術(shù)主動識別分配流量，占用公共領(lǐng)域，造成領(lǐng)域界限的模糊，以及前臺人設(shè)與后臺自我的混合。低質(zhì)化內(nèi)容成為用戶權(quán)利的導(dǎo)向，算法技術(shù)成為污染網(wǎng)絡(luò)空間的抓手，打破倫理綱常，影響網(wǎng)絡(luò)空間的傳播秩序。

第三，社交分發(fā)強化算法圈層污染。社會交往是生活的重要組成部分。人們通過社交獲取信息、傳播信息，形成社交分發(fā)?；ヂ?lián)網(wǎng)社交分發(fā)聚焦用戶群體之間強關(guān)系與弱關(guān)系、強情感與弱聯(lián)系之間的傳播?！爱?dāng)人們將算法推薦的內(nèi)容分享到社交平臺時，算法分發(fā)也會影響到社交分發(fā)的內(nèi)容?！雹偎惴夹g(shù)捕捉到用戶與好友的聊天記錄、轉(zhuǎn)發(fā)記錄，從而形成跨平臺的聯(lián)動，批量生產(chǎn)社交模式下的信息內(nèi)容，造成用戶情感的排斥。即使用戶刪除社交內(nèi)容，算法也會自動保留數(shù)據(jù)痕跡，持續(xù)向用戶推薦個性化內(nèi)容。用戶所處的社會地位不同，交友范圍不同，信息傳播局限于用戶周圍的圈層。與之相應(yīng)，信息形成近鄰?fù)扑]的傳播模式，占據(jù)了用戶的時間、精力，也使得算法模式中社交權(quán)重加大。用戶強關(guān)系網(wǎng)絡(luò)聯(lián)系緊密，直接或間接影響用戶的判斷，自覺或不自覺遵守強關(guān)系行為規(guī)范，勾勒出圈層模型。根據(jù)《第５３次中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》，截至２０２３年１２月，中國網(wǎng)民規(guī)模達到１０．９２億。② 網(wǎng)民都有自己的社交圈層，算法滲透圈層內(nèi)部，強化圈層信息污染。

第四，利益驅(qū)使刺激算法商業(yè)污染?！霸趲缀鯇崿F(xiàn)算法‘全覆蓋’的數(shù)字化社會里，算法直接控制著人們的消費、思考、娛樂乃至情感活動，人成了資本權(quán)力支配的對象?！雹凵虡I(yè)利益是互聯(lián)網(wǎng)信息傳播的驅(qū)動力之一。商業(yè)利益刺激用戶的感官，反復(fù)誘導(dǎo)消費者買單，進一步提升平臺流量變現(xiàn)。信息內(nèi)容涵蓋消費主義、拜金主義、娛樂主義的傾向，網(wǎng)民產(chǎn)生非理性消費的行為。算法技術(shù)的投入，使得商業(yè)化信息能夠精準(zhǔn)匹配到用戶的訴求，造成用戶對于信息內(nèi)容、商業(yè)內(nèi)容上癮的結(jié)果。算法技術(shù)的野心不局限于商業(yè)信息的精準(zhǔn)送達，還會根據(jù)用戶的消費水平進行“大數(shù)據(jù)殺熟”。算法商業(yè)信息的投入與商品價格的差異形成算法的商業(yè)污染。算法商業(yè)污染本質(zhì)上是資本權(quán)力的體現(xiàn)?！熬W(wǎng)絡(luò)符號消費的媒介權(quán)力就是媒介所有者影響、操縱以及支配受眾消費行為與觀念的力量，是一種軟權(quán)力?！雹芷脚_方有匯聚用戶的能力，商家有入駐平臺的資格，形成ＣｔｏＣ的商業(yè)閉環(huán)。資本不甘心單純成為用戶與商家的信息橋梁，利用算法權(quán)力獲取利益，掌握用戶的數(shù)據(jù)動向，甚至想要販賣用戶數(shù)據(jù)獲取更大、更多的利益。平臺在追求更大利益空間的過程中，忽略法律法規(guī)的束縛推送誘導(dǎo)性信息，形成用戶端更大范圍、更深層次的算法商業(yè)污染，技術(shù)“道德化”發(fā)展任重道遠。

第五，政府部門俘獲導(dǎo)致算法權(quán)力污染。民主與平等的關(guān)系是一個經(jīng)久不衰的議題。有學(xué)者認(rèn)為“僅有基本的政治身份平等、投票權(quán)的平等以及法律面前的人人平等，還不能令人滿意。完全意義上的實質(zhì)性平等，則是任何社會難以企及的”。⑤ 平臺信息的審核模式包括機器初審與人工終審。機器初審能夠過濾掉大部分敏感內(nèi)容，人工終審結(jié)合平臺運營標(biāo)準(zhǔn)，確定信息的發(fā)布。平臺結(jié)合商業(yè)、流量、內(nèi)容、成本等因素，制定最低限度的運營標(biāo)準(zhǔn)。隨著媒體轉(zhuǎn)型的深化發(fā)展，政府部門想要分享平臺的用戶紅利，利用政務(wù)媒體進入信息平臺。流量成為平臺、政府的共需。除此之外，政府部門需要數(shù)據(jù)監(jiān)測輿情，隱性介入算法的設(shè)置模式，干預(yù)算法工程師的算法推送模型，使得算法帶有一定的目的性與政治性。算法平臺想要與政府達成合作，則將用戶數(shù)據(jù)提供給政府。在美國大選時，政府能夠提前獲取用戶的數(shù)據(jù)，了解選民的政治傾向，制定針對選民的動員方案。在此過程中，平臺算法與政府部門交易處于公眾不被察覺的地方。權(quán)力被隱藏，出現(xiàn)用戶自主性偏移，產(chǎn)生算法權(quán)力污染，影響用戶對于政治的判斷與選擇。

三、“算法污染”引發(fā)的權(quán)力失衡

“算法污染”借助算法技術(shù)造成權(quán)力主體與權(quán)力客體在一定程度上對立，激發(fā)顯性與隱性的社會矛盾。

１．話語權(quán)力失衡

“算法污染”建立在算法標(biāo)簽與用戶標(biāo)簽基礎(chǔ)上，在用戶使用過程中被塑造，所產(chǎn)生的算法偏見不再局限于算法工程師的偏見價值觀，也包括用戶個體的偏見。一方面，算法偏見受算法工程師個體情感影響。比如女權(quán)、自由、國際新聞等的輸出，算法工程師分散于不同的意識形態(tài)群體，產(chǎn)生不同群體的認(rèn)可結(jié)果。用戶本身就存在有意識與無意識的偏見，接收信息強化偏見認(rèn)知，形成算法信息壁壘，造成官方話語權(quán)與算法話語權(quán)失衡。對于國際傳播而言，算法話語成為壟斷話語的形式之一。國際信息流的流向、流量仍然掌握在老牌媒體手中，國際信息秩序在趣緣化再結(jié)構(gòu)的算法邏輯下再次固化。① 西方媒體植入算法偏見進行精準(zhǔn)性傳播，形成算法推動下的話語霸權(quán)，造成國際話語權(quán)與算法話語權(quán)的失衡。另一方面，用戶個體本身就持有不同的意識形態(tài)，帶有不同的偏見性質(zhì)。用戶根據(jù)個體的偏見檢索信息內(nèi)容，算法設(shè)置推送用戶檢索的內(nèi)容，強化偏見，污染網(wǎng)絡(luò)空間。“算法污染”實時捕捉用戶的行為習(xí)慣，在互聯(lián)網(wǎng)“全景監(jiān)獄”中釋放大量意識形態(tài)信息，僵化用戶個體的算法偏見。算法偏見的僵化使得假新聞、反轉(zhuǎn)新聞增多，網(wǎng)絡(luò)個體間出現(xiàn)對抗與撕裂，導(dǎo)致意見領(lǐng)袖與個體之間的話語失衡。

２．信息權(quán)力失衡

算法馴化是“算法污染”的現(xiàn)實表現(xiàn)，也是信息權(quán)力失衡的直接原因。算法馴化經(jīng)歷占用—客體化—納入—轉(zhuǎn)換的過程，信息流傳播擴散污染網(wǎng)絡(luò)空間。算法馴化包括平臺馴化、內(nèi)容創(chuàng)作者馴化與用戶群體馴化。算法工程師是算法模型的建構(gòu)者，其受到平臺文化的熏陶、行為理念的加固。“對于這一類平臺管理人員來說，適應(yīng)職業(yè)生涯變遷的過程就是從接受算法思維馴化到馴化他人的過程。”②馴化后的算法工程師想要通過信息傳播馴化更多的人，使互聯(lián)網(wǎng)上的認(rèn)知統(tǒng)一，掌握信息選擇與傳播的權(quán)力。被馴化了的算法工程師馴化算法模型，進行信息分類，控制信息的傳播端，產(chǎn)生平臺與用戶間的信息權(quán)力失衡。平臺推出內(nèi)容創(chuàng)作者激勵計劃，構(gòu)建優(yōu)質(zhì)內(nèi)容職責(zé)聯(lián)盟。內(nèi)容創(chuàng)作者撰寫自媒體文章，拍攝短視頻迎合用戶也馴化用戶，形成內(nèi)容創(chuàng)作者與用戶間的信息權(quán)力失衡。意見領(lǐng)袖傳播者與用戶處在不對等的位置，用戶被動接收過濾后的信息。獲得馴化信息的用戶會二次或多次傳播馴化的信息，使得信息內(nèi)容馴化范圍擴大。信息意識形態(tài)內(nèi)容推動用戶的行為，營造集體行動的媒介景觀，污染網(wǎng)絡(luò)，固化信息壁壘，制造多層級的信息焦慮。

ＣｈａｔＧＰＴ的誕生，使得“算法污染”更加隱蔽地深入用戶端，信息權(quán)力在機器、官方、用戶之間失衡。ＣｈａｔＧＰＴ的輿論發(fā)展呈現(xiàn)出動態(tài)演化階段特征，可以分為緩慢萌發(fā)期、火爆出圈期、波動下降期以及穩(wěn)定發(fā)展期四個階段。意見領(lǐng)袖以其獨特的創(chuàng)新視角、創(chuàng)新理念在一定程度上影響了輿論的傳播，進而影響了輿論中的關(guān)注主題和網(wǎng)絡(luò)中的公眾情感。① 機器將用戶作為節(jié)點式的存在，一對一進行馴化，馴化的深度、強度都在增加。機器與用戶間天然地存在信息鴻溝，官方信息難以一對一加工傳播，難以實時在線，進入用戶視野的難度增大。信息權(quán)力在機器、官方、用戶三方之間失衡。

３．技術(shù)權(quán)力失衡

“算法污染”的形成使得算法從神壇地位過渡到用戶焦慮、恐懼的處境?！八惴ㄉ裨挕蓖ㄟ^算法技術(shù)、算法平臺以及算法傳播的包裝，構(gòu)建了人與技術(shù)不平等的想象。② 算法技術(shù)能夠為用戶提供個性化、精準(zhǔn)化以及交互化的服務(wù)，降低用戶搜集信息的時間成本與精力成本。用戶對于平臺的黏性增強，將技術(shù)神秘化，最終產(chǎn)生“算法神話”的語境。“算法神話”夸大技術(shù)的使用權(quán)引起“算法污染”的問題。技術(shù)是把雙刃劍，算法技術(shù)既能夠提升用戶獲得信息的成就感、喜悅感、幸福感，也能夠根據(jù)用戶的習(xí)慣偏好進行大數(shù)據(jù)殺熟、大數(shù)據(jù)交易，造成技術(shù)權(quán)力的失衡?！八惴ㄎ廴尽崩糜脩粜湃?，跨平臺聯(lián)動獲取精準(zhǔn)的用戶畫像，從用戶的消費數(shù)據(jù)窺探用戶的收入水平，提供差異化價格商品，侵犯用戶的個人權(quán)利，產(chǎn)生技術(shù)與人的不對等的關(guān)系。用戶在算法權(quán)利污染的背景下，想要逃離算法陷阱，呼吁算法權(quán)力的規(guī)制。除此之外，“算法污染”讓用戶詬病的是算法背后的隱私數(shù)據(jù)被出賣，使得用戶處于被監(jiān)控的“全景監(jiān)獄”中，行為與情感被量化。用戶處于透明網(wǎng)絡(luò)環(huán)境中，收到騷擾信息增多，個人信息安全問題引起關(guān)注，算法技術(shù)的使用權(quán)失衡。算法技術(shù)即使識別到錯誤的數(shù)據(jù)信息，也會時時刻刻推送與錯誤信息有關(guān)的商業(yè)信息，使用戶淪為數(shù)據(jù)的勞工，人權(quán)價值被商業(yè)價值取代。

４．公權(quán)力失衡

“算法污染”是算法權(quán)力濫用的彰顯，也是公權(quán)力遷移的后果。算法權(quán)力遷移一方面涉及用戶個體權(quán)利，用戶能夠根據(jù)個人喜好選擇、建立信息群組，控制群組輿論，約束成員行為。倘若群組成員和主流價值觀相悖，會夸大個人權(quán)利、群體權(quán)利，從言論、行為等方面與公權(quán)力對抗，造成公權(quán)力與公民權(quán)利的失衡。另一方面，在政治選舉方面，選民的權(quán)利、資本的權(quán)力以及政府的權(quán)力發(fā)生沖突。資本借助算法操控選民，選民成為資本的俘虜。網(wǎng)絡(luò)空間中，用戶在匿名性的庇護下，言論表達權(quán)利化、暴力化，希望通過言論表達彌補現(xiàn)實生活的境遇，形成用戶權(quán)利的向后遷移。政治選舉涉及宏觀政治與微觀政治。“算法污染”依托平臺利用算法技術(shù)推送信息，造成算法權(quán)力前移。根據(jù)扎根理論，選民更傾向于以已有認(rèn)知進行選舉。媒介環(huán)境營造非虛構(gòu)的網(wǎng)絡(luò)空間，用戶在“算法污染”的作用下，難免成為技術(shù)的工具，權(quán)利選擇出現(xiàn)遷移?！靶侣劦姆职l(fā)權(quán)由大眾媒體轉(zhuǎn)移到了算法平臺，新聞的把關(guān)權(quán)由‘前置’變?yōu)椤笠啤?，新聞的選擇權(quán)由受眾部分轉(zhuǎn)移到了算法平臺?！雹垡虼?，算法平臺占據(jù)權(quán)力，導(dǎo)致政府與公眾之間的不信任，出現(xiàn)公權(quán)力與平臺權(quán)力的失衡。

社交媒體時代，政府與群眾由弱連接逐漸過渡到強連接，政府部門改變以往刻板嚴(yán)肅的形象，轉(zhuǎn)變信息傳播形式，利用算法推薦技術(shù)包裝權(quán)力，融入民眾生活。民主政治從宏觀轉(zhuǎn)向微觀，從線下轉(zhuǎn)向線上線下相結(jié)合的狀態(tài)。算法技術(shù)根據(jù)用戶閱讀習(xí)慣、視覺習(xí)慣、付費習(xí)慣，將政治信息以用戶喜愛的形式分發(fā)到用戶的社交賬號，讓用戶接受政治信息的滲透。公權(quán)力超過法律邊界，將用戶暴露在互聯(lián)網(wǎng)空間，干擾民間輿論場，使用戶被迫貢獻數(shù)據(jù)，使政治傳播變?yōu)檎螤I銷，民主走向崩潰。權(quán)力過多地介入民眾生活中，民眾的政治態(tài)度趨于中和，“沉默的螺旋”加大，政治權(quán)力裹挾政治情感，導(dǎo)致公權(quán)力與公民權(quán)利在網(wǎng)絡(luò)空間失衡，網(wǎng)絡(luò)秩序混亂。長此以往，民主在網(wǎng)絡(luò)空間出現(xiàn)網(wǎng)絡(luò)的“巴爾干”，內(nèi)外部矛盾聯(lián)動，威脅國家主權(quán)。

總體而言，“算法污染”的現(xiàn)實表現(xiàn)在算法問題基礎(chǔ)上得以深化，權(quán)力平衡的邊界被打破，并伴隨著政治風(fēng)險威脅。內(nèi)部權(quán)力受到技術(shù)操控，外部敵對勢力時刻準(zhǔn)備滲透意識形態(tài)。長此以往，權(quán)力失衡轉(zhuǎn)向權(quán)力失控，政治風(fēng)險演變成政治危機，文化安全受到威脅。針對權(quán)力失衡需要找到對應(yīng)權(quán)力相互抗衡，達到穩(wěn)定的狀態(tài)，保證網(wǎng)絡(luò)空間風(fēng)清氣正。

四、“算法污染”的權(quán)力抗衡

１．法治支撐：以行政立法權(quán)抗衡算法自主權(quán)

約翰·羅爾斯在《正義論》中提到“自由的優(yōu)先性意味著只要基本自由能夠有效地確立，一種較少或較不平等的自由就不能與經(jīng)濟狀況的改善相交換。”①行政立法權(quán)指立法機關(guān)行使立法權(quán)制定部門規(guī)章、法律法規(guī)，約束算法生成的內(nèi)容以及分發(fā)信息的機制。算法自主權(quán)包含兩個方面：一方面是算法平臺的自主選擇信息，進行深度學(xué)習(xí)，不斷升級算法功能，進一步替代人的價值；另一方面是用戶以權(quán)利為借口，設(shè)置群組區(qū)隔群組外成員和信息，造成圈層式的“算法污染”。算法自主權(quán)超出法律法規(guī)控制范圍，不僅會造成技術(shù)發(fā)展的失控，使得負面輿論、謠言蔓延至網(wǎng)絡(luò)空間，而且還會加劇網(wǎng)民的認(rèn)知偏見，阻礙主流價值觀的引導(dǎo)，形成網(wǎng)絡(luò)的“再殖民化”現(xiàn)象。

以行政立法權(quán)抗衡算法自主選擇權(quán)，重點在于官方制定算法相關(guān)的法律法規(guī)，平臺遵守算法規(guī)則，識別主流價值觀與非主流價值觀的內(nèi)容，規(guī)范算法技術(shù)的應(yīng)用范圍。用戶在此過程中沒有喪失自由的權(quán)利，而是擁有規(guī)則下的自由，共同構(gòu)筑算法正義。以行政立法權(quán)抗衡算法的自主選擇權(quán)也并非剝奪平臺對于算法的合理應(yīng)用，而是在合理立法權(quán)范圍內(nèi)抗衡算法與用戶造成的圈層式污染。“網(wǎng)信部門需與國家數(shù)據(jù)局等機構(gòu)充分考慮算法平臺的公私主體雙重身份，以法律制度為基礎(chǔ)，調(diào)和算法平臺商業(yè)逐利與公共利益間的價值沖突。”②行政立法權(quán)在算法制造端設(shè)定算法規(guī)則，保護用戶人權(quán)；在算法傳播端設(shè)置關(guān)鍵詞篩選，避免圈層式的“算法污染”；在用戶接收端設(shè)置隱私條款，保護用戶的數(shù)據(jù)痕跡。

“無論是宏觀上公共政策的選擇，還是微觀上具體規(guī)則標(biāo)準(zhǔn)的確立，行政行為的合法性是作出行政行為的最基本要求?！雹坌姓⒎?quán)若過大，一定程度上會擠占用戶的權(quán)利空間，增加用戶選擇信息的成本。立法時需要考慮用戶自主選擇的權(quán)利，保證權(quán)力運行的適時性、適度性、適宜性，將用戶納入權(quán)力主體中，共同管理、運行算法技術(shù)。算法平臺提供權(quán)力渠道，用戶根據(jù)內(nèi)容進行標(biāo)記，標(biāo)記最多的內(nèi)容進入機器初審環(huán)節(jié)，信息內(nèi)容倘若被機器再次標(biāo)記則會進入官方人工終審環(huán)節(jié)，最終由官方進行信息內(nèi)容的取締或保存。用戶與官方并不總是保持一致，需要對權(quán)力運行進行升級優(yōu)化，構(gòu)建統(tǒng)一規(guī)則和標(biāo)準(zhǔn)。行政立法權(quán)的權(quán)限由立法部門搜集民意，聽取專業(yè)人士的建議，形成草案，在網(wǎng)絡(luò)空間試行。

２．利益讓渡：以數(shù)據(jù)保護權(quán)抗衡數(shù)據(jù)交易權(quán)

數(shù)據(jù)的應(yīng)用范圍廣泛，既包括官方輿情數(shù)據(jù)的全景監(jiān)測，商業(yè)數(shù)據(jù)的分析、支撐、變現(xiàn)，還包括個人數(shù)據(jù)的計劃匯總。數(shù)據(jù)成為人們生活中不可或缺的存在，它既能帶來商業(yè)盈利，也會讓個人處于互聯(lián)網(wǎng)的“全景監(jiān)獄”中，一舉一動都在掌控中。哈耶克認(rèn)為“一個有效的競爭制度和其他制度一樣，需要一種明智規(guī)劃的并不斷加以調(diào)節(jié)的法律框架。強制力量的控制者是否應(yīng)該將自己限制于籠統(tǒng)地創(chuàng)造條件，充分發(fā)揮每個人的知識和創(chuàng)造力”。① 數(shù)據(jù)化時代，用戶數(shù)據(jù)安全意識也在不斷提升，注意到數(shù)據(jù)顯性交易與隱性交易，渴望個人數(shù)據(jù)的刪除與被遺忘，避免成為商業(yè)的數(shù)字畫像。對于數(shù)據(jù)顯性交易的現(xiàn)象，可借助區(qū)塊鏈構(gòu)建用戶數(shù)據(jù)的保護傘，強調(diào)數(shù)據(jù)的去中心化，保護每個用戶的數(shù)據(jù)，以安全保護防止數(shù)據(jù)污染，抗衡商業(yè)數(shù)據(jù)的不法交易權(quán)。對于數(shù)據(jù)隱性交易的現(xiàn)象，數(shù)據(jù)保護權(quán)抗衡隱匿的數(shù)據(jù)交易權(quán)，將權(quán)力賦能用戶。用戶可以選擇數(shù)據(jù)的公開或不公開，在互聯(lián)網(wǎng)設(shè)備上設(shè)置私密賬號，避免監(jiān)聽的選項。除數(shù)據(jù)用于公共領(lǐng)域的維穩(wěn)，用戶的數(shù)據(jù)安全需要得到政府部門的保護。

數(shù)據(jù)關(guān)乎用戶的權(quán)利，數(shù)據(jù)交易權(quán)關(guān)乎商家在互聯(lián)網(wǎng)生存的權(quán)利。數(shù)據(jù)保護還需要為數(shù)據(jù)交易權(quán)留有空間，達到權(quán)力平衡的狀態(tài)?！盁o論企業(yè)的生產(chǎn)經(jīng)營活動還是國家機關(guān)履行法定職責(zé)，抑或公共機構(gòu)提供公共服務(wù)，都需要進行個人數(shù)據(jù)的收集、存儲、加工、使用、提供等各種處理活動?！雹跀?shù)據(jù)交易權(quán)需要商家與用戶處于平等地位，尊重用戶的隱私。在用戶許可的范圍內(nèi)，借助算法技術(shù)推薦相應(yīng)的商品信息，降低用戶尋找商品的成本。商家也可以根據(jù)用戶購買習(xí)慣，推薦相應(yīng)的購買平臺，建立與用戶之間的交往關(guān)系。數(shù)據(jù)保護權(quán)與數(shù)據(jù)交易權(quán)并不是沖突、對立的存在，而是權(quán)力抗衡、規(guī)制后，共存于網(wǎng)絡(luò)空間。若過分夸大數(shù)據(jù)保護權(quán)，就會讓用戶在互聯(lián)網(wǎng)空間“野蠻生長”，從而失去管理。若過分夸大數(shù)據(jù)交易權(quán)，就會讓用戶陷入消費主義的陷阱，“娛樂至死”將會蔓延至整個互聯(lián)網(wǎng)。數(shù)據(jù)保護權(quán)與數(shù)據(jù)交易權(quán)要在適度允許的范圍內(nèi)規(guī)制雙方，既能夠讓用戶處于被保護的范圍，也能夠讓商戶獲取相應(yīng)利益。

３．權(quán)利自衛(wèi)：以信息公開權(quán)抗衡信息控制權(quán)

信息公開強調(diào)政府信息的公開表達，是保障公民知情權(quán)利的重要方式?！罢呶募闹贫梢苑从吵龈鳈C關(guān)部門權(quán)力和職責(zé)所在，即權(quán)力主體的所在?！雹蹅鹘y(tǒng)媒體時代，公民獲取信息渠道有限，政府信息選擇性呈現(xiàn)，信息公開的權(quán)力主體更多針對掌控信息的政府而言。智媒時代，用戶數(shù)據(jù)形成用戶畫像，信息流、數(shù)據(jù)流被控制在資本方。政府議題呈現(xiàn)也受平臺推送制約，差異化的分發(fā)結(jié)果影響公共議題的傳播效率?！八惴ㄎ廴尽北举|(zhì)上是資本方掌握了用戶數(shù)據(jù)、官方議題，植入商業(yè)利益，造成大數(shù)據(jù)殺熟以及數(shù)據(jù)污染的局面，是資本信息控制權(quán)力的體現(xiàn)。為了更好地傳播主流意識形態(tài)，打破資本對于信息的束縛，用戶需要信息公開，監(jiān)督資本平臺的運營，維護個體權(quán)利。對于宏觀議題、重大事件，用戶擁有知情權(quán)，要求資本方設(shè)置公共議題，拓寬用戶參與公共話題討論的渠道，同時，用戶要合理利用官方創(chuàng)建的網(wǎng)絡(luò)學(xué)習(xí)平臺，了解中央以及各地市的重大新聞、政策，規(guī)避信息權(quán)力失衡。然而信息公開并不是指所有的信息都要暴露在互聯(lián)網(wǎng)空間，用戶個人的隱私數(shù)據(jù)仍需保護，避免因為商業(yè)污染造成用戶算法焦慮的后果。

算法技術(shù)既能污染網(wǎng)絡(luò)空間，也能夠維護網(wǎng)絡(luò)主權(quán)，增強網(wǎng)民的凝聚力、向心力。算法推薦根據(jù)用戶對于信息的接收程度進行個性化分配，影響網(wǎng)民的認(rèn)知和行為。一方面，算法推薦主流信息以多種形式進行美化，間接傳遞到用戶端，被用戶所接受，建立用戶對于主流信息的信任；另一方面，算法推薦與信息公開存在對立關(guān)系。算法推薦將個性化的信息窄化傳播，注重信息的高接收率，期望產(chǎn)生“皮下注射論”的效果。信息公開是一對多或多對多的傳播，注重信息的傳播范圍、傳播廣度，決定用戶是否知曉信息，卻無法判定用戶是否采納信息。信息公開是用戶的需求所在，只有信息公開，用戶才能真實了解各領(lǐng)域的最新情況，也是抗衡權(quán)力的途徑之一。信息公開與算法推薦技術(shù)結(jié)合，能夠?qū)⒐俜叫畔€性化到達用戶界面，也同時實現(xiàn)了信息公開。以信息公開權(quán)抗衡信息控制權(quán)不單純是權(quán)力的規(guī)制，更是用戶權(quán)利自衛(wèi)的結(jié)果，是維護信息秩序的需要。

４．三方共治：以技術(shù)監(jiān)督權(quán)抗衡技術(shù)使用權(quán)

技術(shù)監(jiān)督權(quán)規(guī)范技術(shù)的發(fā)展方向，追蹤技術(shù)的升級需求，糾偏技術(shù)的發(fā)展軌道。技術(shù)使用權(quán)是指在技術(shù)的操作層面，平臺擁有一定的自主選擇空間。機器具備自主學(xué)習(xí)的能力，意味著即使離開算法工程師，機器也能夠自己運行。弱人工智能時代，“算法污染”的表現(xiàn)停留在用戶數(shù)據(jù)的收集、整合、傳播方面。強人工智能時代，“算法污染”不僅是數(shù)據(jù)流侵蝕，還會帶有意識形態(tài)的滲透，強化用戶的認(rèn)知偏見，激發(fā)社會矛盾，擾亂網(wǎng)絡(luò)秩序?！霸谀撤N程度上，技術(shù)帶來的很多問題其實都可以通過技術(shù)本身的進一步優(yōu)化和完善而得以解決?！雹俟俜铰?lián)合公民實時、全景監(jiān)督算法平臺的運行，在平臺端開通公民舉報窗口，用戶發(fā)現(xiàn)自己被“算法污染”，通過舉報可以鎖定算法相關(guān)賬號。此行為既能保證官方權(quán)力的合法化，也能提升公民的參與感，將技術(shù)的發(fā)展過程展現(xiàn)在公眾視野之下。當(dāng)然，算法機器具有隱匿性，用戶未必可以發(fā)現(xiàn)自己被算法污染，可聘用專業(yè)人員，鑒定算法傳播的內(nèi)容，對出現(xiàn)算法污染的情況及時制止。官方也可培養(yǎng)自己的技術(shù)團隊，若發(fā)現(xiàn)平臺偏離運行方向，可隨時介入平臺的操作端進行修正。技術(shù)的監(jiān)督權(quán)關(guān)乎技術(shù)的發(fā)展方向，也關(guān)乎用戶的數(shù)據(jù)安全、隱私安全、文化安全，需要官方與用戶共同參與。

技術(shù)監(jiān)督權(quán)與技術(shù)使用權(quán)需要將權(quán)力細分，確定多主體的權(quán)力范圍，明確官方監(jiān)督什么樣的算法內(nèi)容，用戶監(jiān)督什么樣的信息推送，平臺聘請專職人員監(jiān)督什么樣的算法信息。技術(shù)監(jiān)督權(quán)本質(zhì)上是借助外力實現(xiàn)權(quán)力規(guī)制，技術(shù)使用權(quán)則是權(quán)力的自我規(guī)制。技術(shù)使用權(quán)能夠保證技術(shù)走在現(xiàn)代社會的前沿，探索服務(wù)人類的便捷化方式。算法技術(shù)的初衷并不是為了污染個體的社交場域和網(wǎng)絡(luò)空間，而是為了精準(zhǔn)推送信息，提升用戶的體驗。算法技術(shù)使用權(quán)掌握在技術(shù)的生產(chǎn)方、運營方，就需要相關(guān)責(zé)任方遵守行業(yè)的基本原則，遵守社會發(fā)展的基本規(guī)律，進行權(quán)力的自我規(guī)制，實現(xiàn)刀刃向內(nèi)的效果。權(quán)力自我規(guī)制并沒有實質(zhì)性懲戒措施，僅僅是道德教化，在利益、權(quán)力面前，可能會超越法治的界限。我們對算法規(guī)制的討論越多，反而陷入技術(shù)控制的“科林格里奇困境”越深，即監(jiān)管者對人工智能技術(shù)異化風(fēng)險的規(guī)制存在明顯的遲滯與缺陷。② 以技術(shù)監(jiān)督權(quán)抗衡技術(shù)使用權(quán)，將自律與他律相結(jié)合，“算法污染”的問題才能從根本上得以解決。

５．價值引領(lǐng)：以話語主權(quán)抗衡話語霸權(quán)

“話語不僅作為一種交往工具使用，而且被賦予了特殊的含義，具有越來越強大的社會功能。”③話語權(quán)體現(xiàn)在言論的轉(zhuǎn)發(fā)、復(fù)刻、傳播方面，本質(zhì)上是一種影響權(quán)力?！八惴ㄎ廴尽蓖ㄟ^數(shù)據(jù)詞條制造言論、算法機制分發(fā)言論、“信息繭房”解釋言論，從而擠占官方話語通道，形成話語霸權(quán)，影響用戶心智。ＣｈａｔＧＰＴ的研發(fā)弱化了人與機器的邊界，機器參與到用戶話題的討論過程中，傳播速度、傳播規(guī)模、傳播滲透力相繼擴大，話語傳播、引導(dǎo)難度加大，甚至出現(xiàn)權(quán)力遷移、言論失控的局面。以話語主權(quán)抗衡話語霸權(quán)，一方面要求主流媒體掌握議題的設(shè)置，借助網(wǎng)言網(wǎng)語，弱化官方的角色扮演，深入到民間輿論場中，引領(lǐng)主流價值觀，形成觀點的遍在效果。另一方面，應(yīng)建立智慧政府平臺，監(jiān)測輿論的形成，設(shè)置峰值等級。如果言論影響力不斷上升，并且有意制造性別對立、種族對立、民族對立等矛盾，需要以技術(shù)手段打破言論圈層，將話題隱藏縮小傳播范圍，明確官方態(tài)度，塑造主流認(rèn)知。需要注意的是，話語主權(quán)抗衡話語霸權(quán)并不是形成一種新的霸權(quán)，而是通過權(quán)力制約實現(xiàn)技術(shù)向善。

在“算法污染”問題上，權(quán)力抗衡權(quán)力看似是權(quán)力間的對抗，實則是權(quán)力間的規(guī)制。權(quán)力理論將權(quán)力主體與權(quán)力客體對立，忽略權(quán)力在隱性議題中的影響力。算法權(quán)力可以引起網(wǎng)絡(luò)社會動亂，也可以打造和諧社會。本文以權(quán)力抗衡權(quán)力并在一定程度上約束、規(guī)制失衡權(quán)力，最終以權(quán)力平衡的狀態(tài)保護用戶的私人場域，維護網(wǎng)絡(luò)空間的秩序。

五、結(jié)語

“算法污染”是權(quán)力與技術(shù)合謀的結(jié)果，造成話語權(quán)力、信息權(quán)力、技術(shù)權(quán)力和公權(quán)力的失衡。為了規(guī)制“算法污染”造成的負面影響，應(yīng)從法治、平臺、用戶、價值方面抗衡“算法污染”。隨著ＣｈａｔＧＰＴ、Ｓｏｒａ技術(shù)的應(yīng)用，算法從弱污染向強污染跨越。權(quán)力對于“算法污染”的抗衡需要繼續(xù)深化，從技術(shù)制約人向人制約技術(shù)拓展。政府已出臺相關(guān)的算法約束條例，設(shè)置獎懲規(guī)則。例如，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二章第九條要求算法推薦服務(wù)提供者應(yīng)當(dāng)加強信息安全管理，建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴散，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)部門報告。①

權(quán)力也需要自我規(guī)制。權(quán)力需要關(guān)進制度的籠子里，保證權(quán)力的合理合法。權(quán)力運用的過程中難免出現(xiàn)利益交換，政府權(quán)力俘獲的現(xiàn)象可引發(fā)政治僵局，進而造成政治危機?！八惴ㄎ廴尽钡热斯ぶ悄芗夹g(shù)的應(yīng)用，將官方與公民聚合在同一戰(zhàn)線。但是，公民本身的認(rèn)識水平有限，偏好不同、地域不同、地位不同，容易掉入算法設(shè)置的陷阱，削弱聯(lián)合權(quán)力主體監(jiān)督算法的效果。權(quán)力的約束不可忽略，需要將法治與德治結(jié)合，在制度上給予權(quán)力支持，對于原則上的非正義進行取締。德治提倡社團道德，鼓勵公民角色性參與。約翰·羅爾斯在《正義論》中講到社團道德，社團是一個共同體，每個人在社團中擁有適合自己的角色和地位。② 法律與道德共同發(fā)力，從權(quán)力主導(dǎo)向全方位參與轉(zhuǎn)變，算法弱污染與強污染得到制約，技術(shù)向善成為一種可能。