馬英芹

新時代人工智能飛速發(fā)展，算法正成為網(wǎng)絡(luò)傳播的核心技術(shù)。算法是憑借代碼設(shè)置、數(shù)據(jù)運(yùn)算及自動化審核而進(jìn)行決策的機(jī)制，以完成特定指令[1]。算法推薦是網(wǎng)絡(luò)信息傳播的重要創(chuàng)新，它緩解了信息過載，提升了信息傳播的精準(zhǔn)性，有利于正確分析、科學(xué)決策，彌補(bǔ)了傳統(tǒng)經(jīng)驗判斷的不足。目前算法推薦已占網(wǎng)絡(luò)內(nèi)容傳播的70%[2]，而算法一旦偏離主流價值導(dǎo)向，就容易出現(xiàn)算法失范，危及個人合法權(quán)益、社會公共利益和國家安全利益。習(xí)近平指出，“網(wǎng)信事業(yè)要發(fā)展，必須貫徹以人民為中心的發(fā)展思想”[3](P5)，要“用主流價值導(dǎo)向駕馭‘算法’”[4]，“加強(qiáng)網(wǎng)絡(luò)新技術(shù)新應(yīng)用的管理，確?；ヂ?lián)網(wǎng)可管可控”[5]。2022年3月，國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱《管理規(guī)定》)正式施行，旨在依法依規(guī)管好、用好、發(fā)展好網(wǎng)絡(luò)算法。研究網(wǎng)絡(luò)算法價值引導(dǎo)與治理問題，既是完善網(wǎng)絡(luò)智能傳播倫理的學(xué)理訴求，更是推進(jìn)新時代網(wǎng)絡(luò)空間治理與總體國家安全觀的實踐需要。

一、論點(diǎn)與表征：洞察網(wǎng)絡(luò)算法價值偏離的情境

智能算法是通過全景式記錄方式，根據(jù)用戶社會關(guān)系、行為交往、職位屬性等特征進(jìn)行畫像，進(jìn)而推送與之匹配的信息資訊的技術(shù)。針對網(wǎng)絡(luò)中存在算法推薦偏離主流價值的問題，需要澄清其理論、研究其表征、揭示其實質(zhì)。

(一)論點(diǎn)：算法價值不中立

智能算法是人類主體思想理念的外化、實踐化，兼有技術(shù)理性和價值理性的基本屬性。算法技術(shù)是算法價值的載體，價值理性主導(dǎo)算法創(chuàng)新發(fā)展。算法內(nèi)含研發(fā)者、執(zhí)行者、應(yīng)用者的判斷標(biāo)準(zhǔn)或情感要求，算法價值并非“中立”。偏離社會主義主流價值導(dǎo)向的算法容易帶來算法異化，走向技術(shù)創(chuàng)新的反面。一方面，算法技術(shù)有價值屬性。算法看似由諸多代碼、式子構(gòu)成的命令，以解決具體問題，但該問題在被提出和界定之前就帶有特定背景、意圖，表明某種算法推薦從產(chǎn)生時就附有研發(fā)主體的意志。算法的符號代碼、程序指令、界面范圍及大數(shù)據(jù)采集、篩選、標(biāo)注都蘊(yùn)含主體價值評價。另一方面，算法應(yīng)用是有意識、有目的之活動。算法技術(shù)如何使用、為誰服務(wù)、怎么服務(wù)，體現(xiàn)算法服務(wù)者的價值問題。算法在網(wǎng)絡(luò)傳播場域，在網(wǎng)絡(luò)信息服務(wù)市場中如何釋放技術(shù)效應(yīng)，取決于網(wǎng)絡(luò)平臺、媒體如何使用算法技術(shù)。也就是說，網(wǎng)絡(luò)平臺媒體本著“用戶至上”理念，創(chuàng)設(shè)了信息資訊分眾化、定制化的推送模式。

技術(shù)承載著價值，決定其可以且應(yīng)該成為主流價值的載體[6]。算法“技術(shù)中立”是偽命題、陷阱，“不能讓算法決定內(nèi)容”[7]，“別被算法困在信息繭房”[8]，“警惕算法走向創(chuàng)新的反面”[9]。偏離主流價值導(dǎo)向的算法推薦帶來了當(dāng)下技術(shù)為所欲為、同質(zhì)劣質(zhì)信息大肆傳揚(yáng)、用戶自我沉溺的亂象。“技術(shù)中性”不能等同于“價值中性”，別讓價值觀淪為算法技術(shù)的附庸[10]。對一般人而言，由于算法本身以數(shù)字代碼、公式程序的方式呈現(xiàn)，容易造成算法技術(shù)無意識的假象，不易察覺算法價值偏離的根源。用主流價值引領(lǐng)算法是傳播發(fā)展的需要。從紙質(zhì)媒體、廣播電視媒體到計算機(jī)網(wǎng)絡(luò)媒體，縱然在傳播載體、技術(shù)、流程方面發(fā)展變化，但信息傳播的基本職業(yè)守則、價值規(guī)范未曾變更。實踐中，若算法缺乏正確價值導(dǎo)向，就會出現(xiàn)大眾在享有算法技術(shù)紅利而遭遇算法失范的困境。從這個意義講，主流價值充當(dāng)著算法推薦的“方向盤”作用。

(二)表征：算法價值偏離的鏡像

我國主流價值是人民大眾的基本價值追求，其內(nèi)核是社會主義核心價值觀。在網(wǎng)絡(luò)實踐中算法推薦存在偏離主流價值導(dǎo)向的鏡像。

第一，算法黑箱。由于算法從數(shù)據(jù)輸入到結(jié)果輸出，其背后邏輯并不公開透明，便形成了算法“黑箱”。一些設(shè)計者、運(yùn)營公司未適當(dāng)公示算法服務(wù)的基本原理、目的意圖、運(yùn)行機(jī)制，算法程序的數(shù)據(jù)來源、采集范圍、使用場景都具有隱蔽性，存在某種程度的“暗箱操作”，其常常預(yù)設(shè)過度消費(fèi)、用戶沉迷的算法模型。在實際應(yīng)用中，有的網(wǎng)絡(luò)平臺利用算法機(jī)器人進(jìn)行流量造假，誘導(dǎo)、誤導(dǎo)網(wǎng)絡(luò)用戶，如利用算法引誘未成年人迷戀電子動漫；有的媒體借用算法操縱熱搜，干預(yù)網(wǎng)絡(luò)輿論走向，破壞網(wǎng)絡(luò)信息資訊傳播秩序，如2016年美國大選中由算法推薦帶來的假新聞泛濫引發(fā)廣泛關(guān)注[11]。這涉及算法黑箱、智能陷阱的問題，影響著用戶理性選擇與政府科學(xué)決策。

第二，算法霸權(quán)。算法霸權(quán)在網(wǎng)絡(luò)App中體現(xiàn)得較為突出。App是用戶進(jìn)入消費(fèi)互聯(lián)網(wǎng)的通道，是消費(fèi)互聯(lián)的實現(xiàn)形式。在算法應(yīng)用過程中，對于一些App設(shè)置的程序性指令，用戶即便知曉該要求不合理也須點(diǎn)擊“同意”，否則就放棄使用該App；或在用戶獲悉自身信息被采集的情況下，同樣面臨“不同意即停用”的窘境；有的服務(wù)商未向用戶提供關(guān)閉算法服務(wù)的選項或不針對個人特征的選項。這些算法推薦帶有強(qiáng)制性色彩，使用戶被動、單向度地接受信息，而難以享有推薦信息的選擇權(quán)、自主權(quán)。

第三，算法歧視。有的算法推薦將不良或違法信息關(guān)鍵詞記入用戶興趣點(diǎn)，或設(shè)置偏見性用戶標(biāo)簽來推送信息；有的算法模型常常推送一些生動活潑但偏離主流文化思想的信息，而具有公共性、深刻性價值的信息被程序“減持”，致使“劣幣”驅(qū)逐“良幣”；有的算法推薦基于大眾獵奇心理，采用浮夸文風(fēng)，如憑借大量“哭暈體”“震驚體”標(biāo)題黨信息以吸引眾人眼球，這些算法推薦容易固化受眾選擇性偏好心理，使其信息“孤島化”、視野狹窄化，進(jìn)而帶來社會心理圈層隔閡、“群體極化”的風(fēng)險；有的智能推送存在算法區(qū)域性歧視，造成社會“數(shù)字鴻溝”，或存在算法人群歧視，如把老年人群體排除在算法服務(wù)之外。一些平臺運(yùn)營商根據(jù)消費(fèi)者偏好、交易習(xí)慣的“畫像”，在交易條件上實行區(qū)別對待，對不同群體差別定價，進(jìn)行“價格歧視”，如2022年北京市消協(xié)調(diào)查了16個平臺，提取了32個樣本，發(fā)現(xiàn)14個樣本新老賬戶的價格不一致[12]，算法“殺熟”違背了市場公平原則，損害了消費(fèi)者權(quán)益。

第四，算法隱私侵?jǐn)_。在智能媒體時代，受眾獲得了網(wǎng)絡(luò)便利，但付出的代價是容易喪失個人隱私。數(shù)量眾多、良莠不齊的智能程序常對用戶數(shù)據(jù)進(jìn)行抓取，帶來隱私侵權(quán)風(fēng)險。有的算法運(yùn)營商采取全景敞視對用戶進(jìn)行智能追蹤，通過瀏覽器“記住”用戶搜索痕跡并同步投射到其他設(shè)備上，致使用戶隱私“被泄密”；有的求職招聘類App、上網(wǎng)導(dǎo)航、AE等瀏覽器類App、短視頻類App等在未經(jīng)用戶同意的情況下暗訪手機(jī)及電腦等終端設(shè)備，出現(xiàn)違規(guī)違法收集用戶數(shù)據(jù)的問題[13]；有的網(wǎng)上購物平臺將用戶要求刪除的個人數(shù)據(jù)繼續(xù)留存在系統(tǒng)里，或有意泄露用戶信息，侵犯用戶隱私保護(hù)權(quán)。

第五，大數(shù)據(jù)濫用。算法離不開海量數(shù)據(jù)支持，大數(shù)據(jù)是算法的基礎(chǔ)資源。大數(shù)據(jù)應(yīng)用須合法合規(guī)，但在網(wǎng)絡(luò)算法中出現(xiàn)大數(shù)據(jù)濫用的現(xiàn)象，帶來數(shù)據(jù)安全隱患。有的網(wǎng)頁、應(yīng)用軟件、設(shè)備公司利用算法搜集的數(shù)據(jù)，已經(jīng)超出了其提供正常服務(wù)所用數(shù)據(jù)的權(quán)限；有的網(wǎng)絡(luò)運(yùn)營者在未向網(wǎng)信部門備案的情況下，以經(jīng)營為目的違規(guī)收集用戶敏感信息或社會公共數(shù)據(jù)；有的算法企業(yè)靠銷售爬蟲工具獲利；有的網(wǎng)上銀行惡意篡改數(shù)據(jù)，破壞了數(shù)據(jù)的完整性；有的數(shù)據(jù)經(jīng)營者倒賣國家大數(shù)據(jù)、核心數(shù)據(jù)，危及國家數(shù)據(jù)安全。

二、遮蔽與解蔽：揭示網(wǎng)絡(luò)算法價值偏離的原因

算法偏離主流價值問題源于算法的研發(fā)主體、運(yùn)營主體、服務(wù)主體、監(jiān)管主體、受眾主體偏離主流價值的理念和實踐，包括政府職能部門對網(wǎng)絡(luò)智能信息傳播監(jiān)管失責(zé)，研發(fā)主體對智能算法技術(shù)失敬，運(yùn)營企業(yè)對網(wǎng)絡(luò)算法經(jīng)營失序，媒體服務(wù)平臺對網(wǎng)絡(luò)算法推薦失信，廣大網(wǎng)民在享有網(wǎng)絡(luò)智能信息推送服務(wù)時對網(wǎng)絡(luò)算法失察等。

(一)法律邏輯：智能法律法規(guī)供給滯后與不足

為規(guī)范大眾網(wǎng)絡(luò)交往和網(wǎng)絡(luò)智能信息傳播，我國加強(qiáng)了互聯(lián)網(wǎng)法律法規(guī)建設(shè)，頒布實施了一系列法律法規(guī)，如《互聯(lián)網(wǎng)信息搜索服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》《中華人民共和國網(wǎng)絡(luò)安全法》等，這對加強(qiáng)網(wǎng)絡(luò)空間治理，推進(jìn)網(wǎng)絡(luò)強(qiáng)國建設(shè)具有重要作用。但總的來看，我國關(guān)于網(wǎng)絡(luò)傳播的法律法規(guī)還存在供給不足的情況，相關(guān)法律法規(guī)存在滯后性。習(xí)近平要求用發(fā)展的眼光看待網(wǎng)絡(luò)發(fā)展，指出我國“互聯(lián)網(wǎng)領(lǐng)域立法仍有很多空白，依法治網(wǎng)水平仍有待提高”[14](P45)。從客觀上講，算法技術(shù)既有本身商業(yè)機(jī)密的不透明性，又因其專業(yè)性具有黑箱特質(zhì)，使得算法技術(shù)主體的權(quán)利和義務(wù)很難界定，對算法技術(shù)帶來的數(shù)據(jù)濫用與歧視、隱私侵犯與保護(hù)等法律問題難以定性和定量。從主觀上看，由于網(wǎng)絡(luò)及網(wǎng)絡(luò)主體活動的復(fù)雜性，已有法律制度難以充分應(yīng)對在商業(yè)領(lǐng)域算法應(yīng)用所帶來的用戶利益受損問題。基于主客觀方面因素，網(wǎng)絡(luò)平臺可能會憑借用戶已通過“同意”算法決策的協(xié)議，而無須為用戶的不利選擇承擔(dān)法律責(zé)任；算法“個性化價格差異”“用戶畫像”是否合法仍有較大爭議；部分網(wǎng)絡(luò)內(nèi)容生產(chǎn)者通過打法律“擦邊球”的方式推送非主流信息等。數(shù)據(jù)屬于新型的財產(chǎn)權(quán)，對數(shù)據(jù)的歸屬與使用、數(shù)據(jù)的安全性及國家大數(shù)據(jù)的保護(hù)等在法律規(guī)范方面存在一定難度。

《管理規(guī)定》的實施意味著我國算法治理工作進(jìn)入新階段。該法規(guī)對于打造企業(yè)履責(zé)、行業(yè)自律、政府監(jiān)管、社會監(jiān)督的多元共治算法格局具有重要意義，但該法規(guī)的精神內(nèi)容需大力宣傳學(xué)習(xí)、貫徹執(zhí)行，其法律效力還有待進(jìn)一步在實踐中驗證，其法律條文還需在實踐中健全。同時，與之配套的體制機(jī)制、保障措施等有待完善。在現(xiàn)有網(wǎng)絡(luò)法規(guī)不完善而原有法規(guī)又不同程度失效的情境下，算法推薦主體在網(wǎng)絡(luò)交往中的約束力、心理壓力會有所降低，在網(wǎng)絡(luò)市場逐利性驅(qū)使下，一些企業(yè)平臺、網(wǎng)絡(luò)媒體一旦放棄社會良知，就會出現(xiàn)網(wǎng)絡(luò)算法價值失范。

(二)技術(shù)邏輯：人工“把關(guān)權(quán)”轉(zhuǎn)移與抽離

從技術(shù)的角度看，智能算法推送本身存在一些弱點(diǎn)。計算機(jī)大多是定量處理信息，算法推送注重“類群”而少“個體”，它是在喜好相似的群體里進(jìn)行推薦活動的。算法存在個例特殊性與經(jīng)驗普適性之間的矛盾。算法通常忽略現(xiàn)實中的小概率事件，而大多依據(jù)普遍適用的經(jīng)驗事實，因而存在技術(shù)和數(shù)據(jù)的漏洞。由于算法結(jié)果的準(zhǔn)確性與抓取的數(shù)據(jù)質(zhì)量有強(qiáng)關(guān)聯(lián)性，若取得的數(shù)據(jù)樣本分布不均，就會導(dǎo)致算法歧視。“沒有歷史深度和社會深度的計算深度只是淺薄學(xué)習(xí)，而非深度學(xué)習(xí)”[15]。目前智能機(jī)器在歷史深度和社會深度計算方面存在不足，使得智能算法的信息甄別和過濾功能不強(qiáng)，這些原因會在交互情景中輸出帶有偏見性的結(jié)果。西方有學(xué)者對人的主體性不夠重視，而更多強(qiáng)調(diào)智能體的主體性，如溫德爾·瓦拉赫、科林·艾倫希望設(shè)計主體性極強(qiáng)的人工道德智能體即道德機(jī)器[16](P119)，并希望智能體能獨(dú)立進(jìn)行道德判斷[17]，但從當(dāng)前情況看，人工智能還無法達(dá)到人類智慧高度，算法存在著信息“把關(guān)權(quán)”缺陷。

人類能定性處理信息。在傳統(tǒng)信息傳播領(lǐng)域，信息的把關(guān)權(quán)由編輯掌控，向用戶推送什么樣的信息、如何反饋用戶的信息需求等都有專業(yè)編輯把關(guān)。這些“把關(guān)人”是社會不良信息的判斷者、篩選者。“把關(guān)人”承擔(dān)著守護(hù)公序良俗、捍衛(wèi)法律尊嚴(yán)以建構(gòu)公共價值的責(zé)任。就公共媒體而言，“把關(guān)人”認(rèn)真甄別信息真?zhèn)?，合理設(shè)置討論議題，堅持正確輿論導(dǎo)向，在捍衛(wèi)公共媒體公信力、權(quán)威性方面起到“壓艙石”作用。進(jìn)入智媒時代，智能算法根據(jù)用戶點(diǎn)擊量、興趣偏好進(jìn)行信息配置，弱化了“把關(guān)人”作用。在算法推薦的實踐場域，有的媒體平臺編輯“把關(guān)權(quán)”逐步被算法消解，主流價值觀失去統(tǒng)一引導(dǎo)，出現(xiàn)媒體公共性與社會責(zé)任缺位的問題。信息的“把關(guān)權(quán)”讓渡給機(jī)器，可以一定程度規(guī)避傳統(tǒng)人工編輯預(yù)設(shè)的主觀情感，但算法代替編輯，“把關(guān)人”離場或轉(zhuǎn)移，難以保證主流價值導(dǎo)向，容易出現(xiàn)算法價值失范。我們需要深思、警惕的是規(guī)則代碼化帶來的不透明、不準(zhǔn)確、不公平問題[18]，以算法為代表的智能技術(shù)創(chuàng)新發(fā)展，需要防范人類成為機(jī)器擺布的客體，甚至淪為媒介主宰的附庸。

(三)市場邏輯：數(shù)據(jù)流量競爭走偏與失序

從市場邏輯講，網(wǎng)絡(luò)算法價值失范有著網(wǎng)絡(luò)數(shù)據(jù)流量競爭走偏與失序的因素。如今智能算法正助推數(shù)字經(jīng)濟(jì)迅猛發(fā)展。馬克思指出: “人們?yōu)橹畩^斗的一切，都同他們的利益有關(guān)。”[19](P187)各個算法推薦主體追求自己的利益本無可厚非，若主體崇尚“私利至上”理念，則會導(dǎo)致算法推薦對公共利益的忽視，由此產(chǎn)生的市場失序現(xiàn)象值得審視。收集海量用戶身份、用戶行為及其相互關(guān)系的數(shù)據(jù)是建構(gòu)商業(yè)模式、實現(xiàn)商業(yè)目的之前提和基礎(chǔ)。高能的算法是實現(xiàn)商業(yè)目的之利器，網(wǎng)絡(luò)媒體平臺必然運(yùn)用算法為數(shù)字市場擴(kuò)疆、增值。算法設(shè)計者以受眾需求為導(dǎo)向，構(gòu)建增強(qiáng)用戶黏性的程序機(jī)制，打造流量變現(xiàn)模式，使算法推薦服務(wù)于使用者。在商業(yè)利益誘使下，有的算法模型出現(xiàn)一定程度的“算法黑箱”問題，其在設(shè)計理念、運(yùn)行程序方面存在“流量至上”的導(dǎo)向。算法不透明使消費(fèi)者與研發(fā)者之間的信息鴻溝被放大，加劇市場主體地位不平等[20]。

網(wǎng)絡(luò)媒體平臺為在網(wǎng)絡(luò)市場中擴(kuò)大自身生存和發(fā)展空間，通過算法推送、流量引流來壓縮生產(chǎn)和銷售成本，采用疊加推薦和熱度加權(quán)模式，增加流量指標(biāo)，以此提升信息市場競爭力。事實上，無論是廣告標(biāo)簽、社交關(guān)系鏈、運(yùn)營熱搜榜，還是社交軟件、新聞客戶端，以及電商網(wǎng)站、直播App等，都有著市場競爭機(jī)制的介入與形塑。為了追求市場利益最大化，有的媒體平臺在商業(yè)競爭中偏離市場公平原則，采取不正當(dāng)競爭手段收割流量、變現(xiàn)數(shù)據(jù)，這無疑擾亂了網(wǎng)絡(luò)信息市場秩序，削弱了智能媒體傳播的公共價值。

(四)管理邏輯：媒體權(quán)限越位與云端權(quán)責(zé)失衡

從平臺服務(wù)角度看，媒體職能越位是算法失范的因素。網(wǎng)絡(luò)社會的開放性、自由性使網(wǎng)絡(luò)主體行為的邊界與范圍難以劃清，其權(quán)利與責(zé)任難以明確。在平臺服務(wù)治理上雖有智能記錄跟蹤手段、高效還原再生與模擬技術(shù)，但網(wǎng)絡(luò)智能傳播失范在取證、定性方面還存在一定困難，算法行為主體應(yīng)承擔(dān)的責(zé)任容易處于“匿懸”狀態(tài)。一些媒體平臺恃著網(wǎng)絡(luò)監(jiān)管不嚴(yán)而放大算法推送的自由度，如推送大量同質(zhì)化信息、標(biāo)題黨信息。在一些定性違規(guī)智能傳播案件中，存在涉事主體所受處罰相對較低而不足以對其失范行為構(gòu)成威懾的情況?；谥黧w對其網(wǎng)絡(luò)行為后果責(zé)任分散的判斷，會降低主體對網(wǎng)絡(luò)算法失范嚴(yán)重性的懼怕或擔(dān)憂，進(jìn)而可能誘發(fā)其做出違法行為。

從管理角度看，智能算法在管理方面存在一些梗阻性問題。有的管理部門的數(shù)據(jù)庫不具備與其他數(shù)據(jù)庫交互的條件，只能在本部門范圍內(nèi)有限共享；有的管理部門數(shù)據(jù)資源不整合、不開放，數(shù)據(jù)資源之間存在“縱向分割”“橫向獨(dú)立”問題；有的管理部門權(quán)力交叉、管理邊界不清，出現(xiàn)“九龍治水”的傾向。這致使智能算法相關(guān)管理部門的統(tǒng)一協(xié)調(diào)性不夠、工作效率不高，給大數(shù)據(jù)云端管理帶來挑戰(zhàn)。同時，有的管理部門在法規(guī)執(zhí)行過程中存在對法律法規(guī)貫徹不力、落實不到位的問題；有的管理部門不作為、亂作為，存在一些“云端”亂象。這些云端權(quán)責(zé)失衡問題顯然不利于算法失范治理。

(五)素養(yǎng)邏輯：“智能迷思”與價值理性弱化

工具理性與價值理性內(nèi)在統(tǒng)一，不可分離。工具理性是一種以工具崇拜和技術(shù)主義為生存目標(biāo)的價值觀。價值理性是主體注重行為本身所能帶來的正能量。價值理性和工具理性共同構(gòu)成算法推薦主體的基本素養(yǎng)，算法推薦主體素養(yǎng)高低影響著信息推送的質(zhì)量、效率。算法推薦技術(shù)的創(chuàng)新發(fā)展離不開主體人的思維活動和實踐活動。網(wǎng)絡(luò)算法推薦是人的思維實踐活動的過程，是主體價值觀念的傳導(dǎo)和思想認(rèn)識的外化。從這個意義講，算法推薦價值失范與主體的價值理性弱化、價值理性與工具理性的分離有關(guān)。

從推薦主體看，算法服務(wù)主體技術(shù)倫理意識薄弱，缺少行業(yè)自治的倫理要求。有的智能算法企業(yè)、媒體平臺主體受一般智識眼界和專業(yè)素養(yǎng)不足的制約，崇尚算法“技術(shù)至上”，滑入“智能迷思”?！叭藗兛偸莾A向于相信互聯(lián)網(wǎng)是一種好的、慈善的力量”[21](P246)，而忽略了互聯(lián)網(wǎng)兼有的真?zhèn)紊茞簩傩浴Ｊ軐嵱弥髁x和功利主義影響，智能算法公益、媒體社會責(zé)任被擱置，出現(xiàn)算法失范行為。從技術(shù)研發(fā)主體看，研發(fā)主體對算法推薦的認(rèn)知有一個過程，包括對算法推薦規(guī)律性的認(rèn)識、算法技術(shù)如何兼顧工具理性和價值理性的問題、算法傳播在兼顧個體利益和社會利益時如何優(yōu)化的問題等。由于算法設(shè)計方與社會公眾之間存在專業(yè)知識差距，使得算法難以被公眾所理解和詮釋。按照行業(yè)慣例，大部分算法設(shè)計者并不會將運(yùn)算細(xì)節(jié)公之于眾。長期以來，這種不透明的算法機(jī)制被看作是“自然化”的存在，鮮有人去質(zhì)疑其合理性，這必然弱化大眾對算法合理性的監(jiān)督。從受眾本身看，真正了解算法運(yùn)行機(jī)制的人并不多。有研究表明：僅有43.0%的受訪者認(rèn)為熟悉算法，更多受訪者表示對算法“知道又好像不太熟悉”“一知半解”，我國當(dāng)下“算法素養(yǎng)”培育仍然缺位[12]。受眾算法智能素養(yǎng)欠缺在主觀上縱容了算法推薦主體價值失范行為。

(六)消費(fèi)邏輯：網(wǎng)絡(luò)“消費(fèi)至上”與“消費(fèi)內(nèi)卷”

消費(fèi)是人們?yōu)闈M足美好生活需要而消耗物質(zhì)資料、精神產(chǎn)品的行為。馬克思指出：“沒有需要，就沒有生產(chǎn)。而消費(fèi)則把需要再生產(chǎn)出來。”[22](P15)消費(fèi)對個人生存與社會發(fā)展具有支撐和推動作用。在資本主義條件下消費(fèi)從生產(chǎn)的目的轉(zhuǎn)變?yōu)橘Y本增值的工具，消費(fèi)不再是以需求為導(dǎo)向的消費(fèi)，而是以潛在欲望為導(dǎo)向的建構(gòu)消費(fèi)，消費(fèi)異化為消費(fèi)主義，這是當(dāng)代資本主義利用消費(fèi)控制公眾的秘密。消費(fèi)主義是一種欺騙、過度、過剩與浪費(fèi)的文化[23]。在當(dāng)今數(shù)字經(jīng)濟(jì)時代，網(wǎng)絡(luò)算法推薦存在消費(fèi)主義傾向，這是網(wǎng)絡(luò)算法價值失范的重要原因。

從推薦主體看，一些媒體奉行“消費(fèi)至上”理念，在推薦機(jī)制里植入消費(fèi)主義因素，推動消費(fèi)從實物消費(fèi)遁入符號消費(fèi)、從目的性消費(fèi)轉(zhuǎn)向工具性消費(fèi)，推動消費(fèi)從真實需要走向消費(fèi)欲望。受消費(fèi)增值驅(qū)使、數(shù)據(jù)變現(xiàn)誘惑，有的網(wǎng)絡(luò)購物平臺、搜索引擎及各類資訊App在算法傳播機(jī)制及傳播過程中增添消費(fèi)渠道或憑借算法系統(tǒng)占有、分析商業(yè)數(shù)據(jù)而向消費(fèi)者推送各種產(chǎn)品服務(wù)，增加消費(fèi)、創(chuàng)造消費(fèi)、刺激消費(fèi)，催生消費(fèi)主義泡沫。從消費(fèi)主體看，面對算法主導(dǎo)下的信息營銷，有的消費(fèi)者沉迷而引發(fā)過度性消費(fèi)、攀比性消費(fèi)，陷入消費(fèi)主義“內(nèi)卷”；有的用戶更多關(guān)注商品所代表的符號價值，重視商品給人的心理愉悅體驗，這使消費(fèi)本身演變成消遣、解壓的方式，凸顯消費(fèi)主義背后“商品拜物教”特征。用戶非理性消費(fèi)強(qiáng)化了算法推薦的消費(fèi)主義傾向，使得算法企業(yè)平臺在更大范圍內(nèi)衍生數(shù)據(jù)信息消費(fèi)主義。算法推薦機(jī)制的消費(fèi)主義文化因素，外化為張揚(yáng)感性、推崇本能、蠱惑攀比的消費(fèi)，這顯然違背了算法推薦的初衷。

三、引導(dǎo)與治理：優(yōu)化網(wǎng)絡(luò)算法價值規(guī)范的路徑

織密智能傳播治理之網(wǎng)可以防范算法價值偏離。政府、媒體平臺、網(wǎng)民等多主體協(xié)同推動算法傳播規(guī)范透明、公正公平，促進(jìn)網(wǎng)絡(luò)信息傳播向上向善，打造網(wǎng)絡(luò)空間命運(yùn)共同體，把網(wǎng)絡(luò)這個“最大變量”轉(zhuǎn)化為“最大正能量”，釋放“最大正效應(yīng)”，造福于人民。

(一)算法價值引領(lǐng)：堅持“黨的領(lǐng)導(dǎo)-黨媒領(lǐng)航”

第一，堅持黨管算法推薦原則。習(xí)近平指出，“過不了互聯(lián)網(wǎng)這一關(guān)，就過不了長期執(zhí)政這一關(guān)”[14](P3)，“必須旗幟鮮明、毫不動搖堅持黨管互聯(lián)網(wǎng)，加強(qiáng)黨中央對網(wǎng)信工作的集中統(tǒng)一領(lǐng)導(dǎo)，確保網(wǎng)信事業(yè)始終沿著正確方向前進(jìn)”[14](P10)。堅持黨管網(wǎng)絡(luò)算法的思想，基于“服務(wù)人民”“新發(fā)展”“擔(dān)當(dāng)”的理念，加強(qiáng)網(wǎng)絡(luò)算法頂層設(shè)計，推進(jìn)算法研發(fā)與媒體服務(wù)一體化、系統(tǒng)化建設(shè)，把黨的領(lǐng)導(dǎo)貫徹到隊伍建設(shè)、數(shù)據(jù)集成、內(nèi)容推送環(huán)節(jié)及平臺媒體運(yùn)營管理之中。在黨的領(lǐng)導(dǎo)下積極構(gòu)建政府、媒體平臺、網(wǎng)民共同參與的算法安全共建共享格局，讓個性化定制、智能化生產(chǎn)、精準(zhǔn)化推送為正面宣傳服務(wù)，為公眾需求服務(wù)。

第二，強(qiáng)化黨媒算法及其引領(lǐng)力。黨的主流媒體是傳達(dá)黨和人民心聲的媒介、載體。主流媒體既要“埋頭拉車”，也要“抬頭看路”，要發(fā)揮技術(shù)的“賦能”作用，讓黨媒搭乘算法技術(shù)快車，用主流價值擦亮黨媒算法“成色”[6]，優(yōu)化黨媒算法，發(fā)揮黨媒算法的價值引領(lǐng)作用。一方面，黨媒算法秉持人民至上的設(shè)計理念，完善人工干預(yù)機(jī)制，確保黨媒的黨性、公共性、人民性。借助智能技術(shù)打造黨媒優(yōu)質(zhì)內(nèi)容“流量池”，擴(kuò)大數(shù)字資源的價值承載量和影響輻射面，以增強(qiáng)黨媒的思想引領(lǐng)力。另一方面，黨媒通過示范作用引領(lǐng)社會大中型媒體健康發(fā)展，引導(dǎo)大中型媒體抓住內(nèi)容創(chuàng)作優(yōu)勢，多做反映主流價值、促進(jìn)主流價值共識的作品，提升主流價值信息的推送率；通過設(shè)立要聞區(qū)、置頂區(qū)及個性化區(qū)，并按照適當(dāng)比例在要聞區(qū)、置頂區(qū)推送重要資訊，增加公共信息分發(fā)權(quán)重，擴(kuò)展主流價值傳播版圖，形成網(wǎng)絡(luò)傳播的積極效應(yīng)。

(二)算法價值規(guī)范：優(yōu)化“數(shù)據(jù)-算法-平臺”

第一，明晰數(shù)據(jù)算法權(quán)限和增加算法透明度。一方面，堅持正確的算法數(shù)據(jù)價值觀，明晰數(shù)據(jù)算法權(quán)限。以數(shù)據(jù)安全法和個人信息保護(hù)法為依據(jù)，明晰算法企業(yè)對社會公共信息、政府核心數(shù)據(jù)的使用權(quán)限，防范大數(shù)據(jù)資源濫用；注重用戶個人數(shù)據(jù)、隱私信息的保護(hù)，防止過度采集或不當(dāng)使用個人信息。明確社交媒體平臺的權(quán)責(zé)分界，算法推薦服務(wù)提供者不得超越獲取或過度利用用戶信息的權(quán)限，以平衡人工智能發(fā)展和數(shù)據(jù)安全保障的關(guān)系。另一方面，增加算法設(shè)計與算法應(yīng)用的透明度。建立數(shù)據(jù)審查、問責(zé)和事后救濟(jì)機(jī)制，以強(qiáng)化算法的“透明性”“可解釋性”。算法設(shè)計人員應(yīng)向社會公開數(shù)據(jù)保密的方式及安全保障措施，設(shè)計方或使用方應(yīng)披露算法邏輯、輸入數(shù)據(jù)等要素，告知公眾所收集用戶信息的用途、限度，以增強(qiáng)算法設(shè)計的公正性。算法運(yùn)營者應(yīng)引入知識圖譜、因果推斷等可解釋技術(shù)，對于算法模型進(jìn)行可視化設(shè)計，以算法“透明”抵御算法“黑箱”，糾正算法不良程序，增強(qiáng)算法運(yùn)行的科學(xué)性和合理性。

第二，恢復(fù)算法“把關(guān)人”權(quán)力。對算法推薦進(jìn)行“技術(shù)把關(guān)”的同時，要發(fā)揮算法推薦從業(yè)者的主體性，恢復(fù)對信息的人工審核、把關(guān)，實現(xiàn)信息傳播的公共性和人性化。算法推薦的編輯應(yīng)切實承擔(dān)把關(guān)責(zé)任，明確主流價值在新聞信息傳播過程中的導(dǎo)向作用，隨時追蹤、評估算法信息推送的影響，擺脫算法模式在書寫代碼、搭建技術(shù)架構(gòu)時價值判斷的無意識狀態(tài)，避免在信息智能推薦時片面追求流量最大化，防止信息傳播過程對公共利益的忽視。特別指出的是，應(yīng)增強(qiáng)人機(jī)審核的協(xié)調(diào)性，算法推薦的編輯在智能信息推送環(huán)節(jié)要加強(qiáng)對歷史虛無主義等敏感信息的人工篩查，注重對標(biāo)題黨信息、“三俗”內(nèi)容的人工干預(yù)，當(dāng)信息智能推送出現(xiàn)偏差時，要及時糾偏或阻斷不當(dāng)算法。通過改進(jìn)安全風(fēng)險評估和把關(guān)規(guī)則，加大人工審核的投入力度，實現(xiàn)“人-機(jī)”把關(guān)的優(yōu)勢互補(bǔ)，確保信息的安全性、有效性。

第三，壓實網(wǎng)絡(luò)媒體平臺主體責(zé)任。網(wǎng)絡(luò)媒體和社交平臺作為網(wǎng)絡(luò)內(nèi)容生產(chǎn)者、智能傳播者，應(yīng)從維護(hù)國家網(wǎng)絡(luò)安全的高度，合理合法使用智能算法，優(yōu)化信息供給，維護(hù)網(wǎng)民權(quán)益。一是對媒體平臺內(nèi)信息經(jīng)營者提交的信息進(jìn)行核驗、登記，定期向監(jiān)管部門報送經(jīng)營者身份信息；顯著區(qū)分標(biāo)記未登記、已登記的信息經(jīng)營者，以供消費(fèi)者能夠清晰辨認(rèn)。二是對媒體平臺內(nèi)信息經(jīng)營活動構(gòu)建檢查、監(jiān)控制度，對有關(guān)違法的信息智能傳播行為及時處置、報告；對媒體平臺內(nèi)經(jīng)營者采取警示、暫停及終止信息智能傳播服務(wù)等措施的，應(yīng)及時予以公示。三是按照相關(guān)要求，提供媒體平臺內(nèi)經(jīng)營者身份、商品、算法服務(wù)及交易信息，并配合相關(guān)部門開展網(wǎng)絡(luò)信息智能推送違法行為監(jiān)測工作。

(三)算法價值治理：抓好“貫徹-監(jiān)督-整治”

第一，貫徹落實算法推薦相關(guān)法律法規(guī)。網(wǎng)絡(luò)空間不是法外之地，要把依法治網(wǎng)作為基礎(chǔ)性手段。針對算法價值失范，依法施治是根本之策，讓智能傳播在法治軌道下發(fā)展。良法善規(guī)需要較強(qiáng)的落實機(jī)制，將形成的制度和法律優(yōu)勢有效轉(zhuǎn)化為治理效能[24]。依據(jù)《中華人民共和國數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全審查辦法》《中華人民共和國個人信息保護(hù)法》《關(guān)于加強(qiáng)網(wǎng)絡(luò)直播規(guī)范管理工作的指導(dǎo)意見》等法律法規(guī)權(quán)責(zé)一致原則，貫徹《管理規(guī)定》相關(guān)內(nèi)容要求，使法律法規(guī)在規(guī)范算法推薦信息服務(wù)方面真正發(fā)揮作用。一方面，落實算法推薦的程序規(guī)范性要求。相關(guān)政府部門必須嚴(yán)格執(zhí)行算法推薦的事先登記備案和準(zhǔn)入制度，做好算法推薦服務(wù)的法律程序規(guī)范，從源頭上規(guī)避不良算法的傳播。另一方面，落實算法推薦的應(yīng)用規(guī)范性要求。依法要求算法推薦服務(wù)者完善以保障算法安全、維護(hù)網(wǎng)絡(luò)傳播秩序、保護(hù)消費(fèi)者公平交易為內(nèi)容的落實機(jī)制，避免算法霸權(quán)、算法侵權(quán)。通過健全相關(guān)服務(wù)機(jī)制，使算法推薦服務(wù)者真正落實“應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項”，“應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利”等16項“應(yīng)當(dāng)”要求，以及“不得利用算法屏蔽信息、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)信息呈現(xiàn)”等10項“不得”規(guī)定，使相關(guān)法律法規(guī)產(chǎn)生實際效力。

第二，開展多維的算法執(zhí)法監(jiān)督。一是發(fā)揮好政府的監(jiān)督職能。政府管理部門應(yīng)在算法設(shè)計、數(shù)據(jù)應(yīng)用、內(nèi)容傳播等方面進(jìn)行常態(tài)化巡察，確保算法價值觀正確、數(shù)據(jù)信息安全、智能傳播規(guī)范。二是注重對算法企業(yè)主體的監(jiān)督。算法企業(yè)在算法設(shè)計上應(yīng)對算法科技有敬畏之心，在算法模型設(shè)計過程中做到自覺自警、自查自糾，堅持以正確、客觀的畫像來體現(xiàn)用戶興趣點(diǎn)，防止算法歧視。三是開展對網(wǎng)絡(luò)平臺的監(jiān)督。網(wǎng)絡(luò)平臺應(yīng)提升內(nèi)部監(jiān)測升級預(yù)警機(jī)制，加強(qiáng)對信息源、推薦規(guī)則的核查，運(yùn)用平臺外部監(jiān)督機(jī)制，對平臺發(fā)布內(nèi)容進(jìn)行人工審核和隨時抽檢，以保證算法推薦內(nèi)容安全有效，重點(diǎn)對新聞客戶端、網(wǎng)絡(luò)直播、短視頻等媒體平臺首頁首屏、熱搜榜單類等進(jìn)行監(jiān)督，把好算法信息傳播的源頭關(guān)。四是重視對網(wǎng)絡(luò)媒體、自媒體的監(jiān)督。在網(wǎng)絡(luò)媒體、自媒體賬號管理上，杜絕借用算法打造“網(wǎng)絡(luò)水軍”、進(jìn)行“流量造假”等失信炒信行為，維護(hù)網(wǎng)絡(luò)算法正義，促進(jìn)網(wǎng)絡(luò)算法平等發(fā)展。特別要加強(qiáng)網(wǎng)絡(luò)媒體、自媒體資本來源與運(yùn)作監(jiān)管，因為“資本”具有“發(fā)展社會勞動生產(chǎn)力”[25](P288)的正義性，也具有“發(fā)財致富就是目的本身”[26](P228)的非正義性,要防止算法推薦“資本思維”凌駕于公共利益之上，讓網(wǎng)絡(luò)媒體、自媒體資本兼有社會責(zé)任。五是注重對算法推薦的社會監(jiān)督。社會監(jiān)督是規(guī)范算法推薦不可或缺的力量，必須發(fā)揮好算法推薦的社會監(jiān)督功能，通過暢通算法推薦的社會申訴渠道，優(yōu)化舉報流程，完善核實獎勵機(jī)制等，推動算法推薦健康有序發(fā)展。

第三，依法整治算法推薦亂象。一方面，加大對涉事算法企業(yè)、媒體平臺的懲戒力度，彰顯智能推送公平正義，對違規(guī)算法、濫用數(shù)據(jù)行為依法予以懲戒。針對一些平臺媒體或個人利用算法侵犯他人隱私、“大數(shù)據(jù)殺熟”的行為，視情節(jié)依法進(jìn)行懲治；對低信用網(wǎng)絡(luò)直播、網(wǎng)絡(luò)主播進(jìn)行推薦降權(quán)、減持信譽(yù)分處理，建立違反者檔案，定期巡查，以發(fā)揮法律的震懾和教育作用。另一方面，打擊云端權(quán)力腐敗，增強(qiáng)執(zhí)法本身的硬核實力，鍛造網(wǎng)絡(luò)執(zhí)法隊伍，使之有情懷使命、有敬業(yè)精神及執(zhí)行能力，針對網(wǎng)絡(luò)權(quán)力尋租、徇私枉法的云端管理者，用“云網(wǎng)絡(luò)”捕獲“微腐敗”，嚴(yán)明公法，嚴(yán)肅處理，同時，優(yōu)化績效考核，讓算法行政權(quán)力運(yùn)行規(guī)范有效。

(四)算法價值保障：提升“規(guī)則-技術(shù)-素養(yǎng)”

第一，健全算法政策法律公約。一是健全算法政策體系。算法推薦政策是政府為保證智能信息傳播規(guī)范、安全而確定的行動指導(dǎo)準(zhǔn)則，具有普遍性、指導(dǎo)性，應(yīng)把算法推薦規(guī)則納入國家相關(guān)政策所建構(gòu)的社會規(guī)則體系中，讓國家政策指引網(wǎng)絡(luò)算法健康、長遠(yuǎn)發(fā)展。二是健全算法法律體系。政策是法律制定的依據(jù)，法律的實施以政策為指導(dǎo)，健全算法領(lǐng)域的立法體系，劃定算法權(quán)利和義務(wù)的邊界及行為規(guī)則，形成算法權(quán)力向善的制度框架，把算法權(quán)力關(guān)進(jìn)制度的籠子里，用法律制度規(guī)范算法權(quán)力，從而打造主體清晰、權(quán)責(zé)統(tǒng)一、互聯(lián)互通的算法法律規(guī)范格局。三是構(gòu)建算法公約?！叭斯ぶ悄軙r代需以倫理道德為基礎(chǔ)建構(gòu)相應(yīng)的系統(tǒng)性規(guī)范，從而調(diào)整多方利益”[27]，積極構(gòu)建算法行業(yè)公約、職業(yè)道德倫理，發(fā)揮算法推薦主體的自覺性，促進(jìn)算法行業(yè)自律。

第二，堅持算法技術(shù)創(chuàng)新與向善?！盎ヂ?lián)網(wǎng)核心技術(shù)是我們最大的‘命門’，核心技術(shù)受制于人是我們最大的隱患”[3](P10)，推動核心技術(shù)自主創(chuàng)新，將人工智能運(yùn)用到新聞傳播中[4]。算法推薦作為具有代表性的網(wǎng)絡(luò)核心技術(shù)，對網(wǎng)絡(luò)信息智能傳播起到巨大的推動作用，國家應(yīng)推進(jìn)算法技術(shù)創(chuàng)新發(fā)展、向善發(fā)展。一方面，政府應(yīng)統(tǒng)籌政策、資金、渠道及人力資源，群策群力，重點(diǎn)攻關(guān)，打通基礎(chǔ)研究和技術(shù)創(chuàng)新銜接的綠色通道，研發(fā)多元化算法系統(tǒng)，在算法創(chuàng)新中植入公平、正義元素，實現(xiàn)技術(shù)創(chuàng)新與技術(shù)倫理的平衡。另一方面，政府應(yīng)引入市場公平競爭機(jī)制，鼓勵、支持、引導(dǎo)民營資本研發(fā)算法、優(yōu)化算法，通過設(shè)入用戶滿意度、傳播時效、傳播內(nèi)容影響力等指標(biāo)，讓智能算法有溫度、兼人性。

第三，提升算法主體素養(yǎng)。提升主體德性與智識是防范算法走偏的根本性要求。一方面，注重“專業(yè)學(xué)習(xí)+思政灌輸”以培訓(xùn)專業(yè)人才。通過專業(yè)培訓(xùn)，提升專業(yè)人員的智能素養(yǎng)、數(shù)據(jù)信息素養(yǎng)及傳播素養(yǎng)；通過理念和情懷教育，把建設(shè)網(wǎng)絡(luò)強(qiáng)國、服務(wù)大眾的理念情懷融入算法研發(fā)和應(yīng)用；開展對算法應(yīng)用倫理的研討，將社會公德、職業(yè)道德融入行業(yè)價值體系，提升從業(yè)人員媒介素養(yǎng)。另一方面，通過“政府宣傳+科普教育”以提升大眾素養(yǎng)。政府應(yīng)注重對算法推薦的宣傳，不斷提升用戶網(wǎng)絡(luò)審美趣味和數(shù)據(jù)保護(hù)意識；融通多元渠道，上好全民算法普及課，增強(qiáng)公眾數(shù)字化信息檢索、信息甄別和信息選擇能力，通過提升用戶信息素養(yǎng)以“反馴化”算法，規(guī)范算法。