■陰衛(wèi)芝 李小趣

算法的影響、塑造用戶價值觀的強大而無形的作用力，已給傳播秩序、國家安全帶來諸多的挑戰(zhàn)與沖擊。對算法價值質(zhì)疑，常常集中于技術(shù)本身。但是，算法技術(shù)只是平臺價值的“替罪羊”，對算法的規(guī)制，歸根到底是對人的規(guī)制，是對信息傳播過程中人與人關(guān)系的調(diào)節(jié)。

作為價值塑造者的算法

算法技術(shù)自應用以來，就被認為存在“黑箱”問題，數(shù)據(jù)采集、運算機制設(shè)計與價值排序的過程被技術(shù)遮蔽，人們獲取的信息似乎僅受到算法技術(shù)的自主決策。其實，算法的實質(zhì)是“包含一系列數(shù)學規(guī)則、通過預先設(shè)定的步驟模擬人類決策過程的自動化程序”。①“預先設(shè)定”的表述已經(jīng)透露，算法“自主學習”“自動化決策”的過程，首先需要人為設(shè)計。算法產(chǎn)生的價值偏向不是“自動”的，而是存在人的價值判斷和選擇。

在民商法領(lǐng)域，有“刺破公司面紗”的說法，在公司管理不善，作為自然人的股東與作為“法人”的公司界限不明時，股東應當對公司的債務承擔連帶責任。在算法技術(shù)與開發(fā)者間，同樣存在這樣一層“面紗”——算法的價值選擇本是“自動決策”的結(jié)果，但當開發(fā)者將自己的某些價值判斷“植入”算法，開發(fā)者就有義務對算法的價值偏移負起“連帶責任”。②

算法的價值選擇體現(xiàn)在算法形成“排序、分類、關(guān)聯(lián)和過濾規(guī)律”③、滿足用戶的個性化信息需求的過程中。換言之，算法成為平臺信息生產(chǎn)過程中的“把關(guān)者”，把關(guān)人既包括平臺的決策者，也包括具體的算法工程師。算法機制中蘊藏的動搖主流價值觀的風險，來自算法研發(fā)和應用過程中的價值沖突。

算法價值風險的三重來源

算法作為一種價值觀，其價值引導的復雜流程受到一定的技術(shù)遮蔽，但仍然可以分析出以下三個方面。

1.算法強化社會固有偏見。算法的深度學習，離不開海量數(shù)據(jù)的“喂養(yǎng)”，而它依據(jù)的“數(shù)據(jù)池”本身就帶有結(jié)構(gòu)性的缺失和偏向，這種價值偏向源于人類社會長期形成的價值觀?！蹲匀弧冯s志曾用“Bias In，Bias Out（偏見進，偏見出）”形容當下的數(shù)據(jù)環(huán)境，算法無法“清洗”掉性別歧視、職業(yè)歧視、種族歧視等固有的價值偏差，反而會將這些偏見“固定”在自身運行機制內(nèi)。比如，亞馬遜公司曾試圖利用算法篩選簡歷以減輕負擔，但由于錄入的5000 份達標的簡歷中，男性占比較高，于是算法自動將性別識別為“顯著的”關(guān)聯(lián)變量，使之成為評價標準，給同等條件的女性打出更低的分數(shù)。這是算法“學習”人類偏見的典型。邵國松等學者認為，算法復制歧視性的歷史記錄，會形成“輸入-歧視-輸出”的惡性循環(huán)，反而“導致弱勢群體越來越被無情排斥，加劇現(xiàn)存的社會不公平現(xiàn)象”。④

2.算法研發(fā)階段難以規(guī)避的利益沖突。平臺的算法設(shè)計被宣稱為“商業(yè)機密”，秘不外宣，因而也被稱為“算法黑箱”?！昂谙洹钡倪\作意味著算法在研發(fā)階段缺乏監(jiān)督，“平臺的價值選擇可以通過排序、分類、關(guān)聯(lián)和過濾的自動決策過程，隱秘地嵌入算法中?！雹萜脚_的價值選擇必然包括平臺自身的利益訴求，但這種利益訴求與社會公益時有沖突，“艾莎門”就是典例。以《冰雪奇緣》主角艾莎等卡通人物為主角，卻隱含大量血腥、暴力、性愛內(nèi)容的“兒童邪典動畫”在Youtube 平臺大量存在，不僅沒有被平臺算法判斷為“兒童不宜”，還屢屢登上Youtube Kids（兒童視頻）的熱門推薦。許多專家質(zhì)疑，其背后可能有一個成熟的產(chǎn)業(yè)鏈，而Youtube 是利益相關(guān)者。國內(nèi)平臺公司同樣面臨著類似的利益沖突。算法的“個性化推薦”功能，可以對信息進行評判、篩選與排序，被“選中”到信息流前端的信息，可獲得更多注意力，實現(xiàn)利益變現(xiàn)。像“邪典動畫”這樣低俗、獵奇、不符合主流價值觀的內(nèi)容，同樣可以收獲大量點擊，這就意味著平臺需要在“流量至上”與“價值至上”之間做出抉擇，錯誤的選擇會導致整個社會價值觀的沖突和震蕩。

3.用戶是算法的貢獻者，也成為算法的“被算計者”。根據(jù)用戶行為習慣和選擇偏好形成的“用戶畫像”，是算法信息分發(fā)的重要依據(jù)。用戶頻繁點擊的信息類別、停留在某個頁面的時長、經(jīng)常參與的話題，均可以被平臺“捕獲”，成為商品本身，被平臺賣給廣告商實現(xiàn)“關(guān)注變現(xiàn)”；同時，用戶作為貼上了無數(shù)標簽的“數(shù)據(jù)人”，在被平臺精準服務的同時，其所創(chuàng)造的各種數(shù)據(jù)，也源源不斷流入“數(shù)據(jù)池”，成為新一輪的算法形成的依據(jù)。這種由全體用戶共同形成的、不斷修訂的算法，帶有每個用戶自身的價值偏見。而用戶一方面被算法塑造、受算法價值的影響進行“真實決策”；另一方面又在提供強化這種偏見的新的信息。算法價值觀就在這樣的循環(huán)當中，形成一種自由的、不加控制的價值觀培育機制。

算法價值糾偏思考

算法的濫用正在引起價值觀的偏移，全世界都在面對這一挑戰(zhàn)。人類期待算法能創(chuàng)造平等、公正的信息環(huán)境，各國學者、立法者、管理者也正在從法律、規(guī)則中想辦法解決這一問題。

（一）規(guī)范化的解決路徑

通過法律制度和行業(yè)規(guī)范實現(xiàn)算法治理，國外已有部分有益嘗試。2016年，歐盟率先通過《全面數(shù)據(jù)保護法》，將解釋權(quán)作為提升算法透明性與可歸責性的關(guān)鍵機制。該法規(guī)定，算法平臺應當告知用戶算法對信息的處理邏輯、預期后果以及“用戶畫像”的必要信息，以法律保障用戶的知情權(quán)和自主決策權(quán)，“數(shù)據(jù)主體有權(quán)反對完全依靠自動化處理（包括用戶畫像）對數(shù)據(jù)主體做出具有法律影響或類似嚴重影響的決策?！雹捱@是從權(quán)利救濟的層面保障用戶自主權(quán)。2017年，美國計算機學會公眾政策委員會公布了提升算法透明性的6 個標準：用戶可知情、信息可獲取/補救、問題可歸責、程序可解釋、標準可證實、決策可備案、模型可驗證。⑦這是將算法研發(fā)的程序分解成具體步驟，并對每個步驟提出相關(guān)倫理要求。這些既有的倫理規(guī)范，可為我國相關(guān)制度建立提供參考。

“中國人工智能新聞倫理的建構(gòu)，應該加入現(xiàn)代的、東方的、發(fā)展中國家的、特別是有中國特色的傳統(tǒng)倫理和新聞理論?！雹辔覈嘘P(guān)部門出臺了《互聯(lián)網(wǎng)新聞信息服務管理規(guī)定》等法律法規(guī)，用以規(guī)制算法平臺出現(xiàn)的假新聞、低俗化等具體問題。有學者提出，民法典有關(guān)個人信息權(quán)的規(guī)定，如果可以限制平臺收集種族、宗教、性取向等敏感信息的行為，有利于避免“算法歧視”。⑨但民法屬于私法領(lǐng)域，維權(quán)有賴于用戶主動行使權(quán)利。在公眾媒介素養(yǎng)有限的情況下，算法傷害往往是隱蔽的、不易察覺的，如果僅用民事法律進行算法規(guī)制，很容易造成權(quán)利的“沉睡”。此外，算法的價值偏向所侵害的法益屬于社會公益，是社會價值觀的整體失范，而非特定人的特定利益。所以算法的研發(fā)、應用，還需納入公法領(lǐng)域進行規(guī)制，由相關(guān)部門主動監(jiān)管，提升算法透明性，減少“算法尋租”的空間。

（二）道德化的解決路徑

法律是一種事后救濟，而價值風險不同于一般的風險，價值偏移的影響傷害巨大，難以徹底消除。因此，應對價值風險，需要以行業(yè)價值觀引領(lǐng)算法開發(fā)、應用，實現(xiàn)事前預防。

1.為算法的數(shù)據(jù)采集設(shè)定合理的價值標準。雖然大數(shù)據(jù)是現(xiàn)實社會的折射，只要現(xiàn)實中仍然存在種種道德問題，數(shù)據(jù)中的價值偏向就難以根除，但是算法對數(shù)據(jù)的采集和呈現(xiàn)是可控的。以上文提到的性別歧視為例，如果技術(shù)人員預先為算法的深度學習設(shè)定“不可變項”，比如種族、性別、國籍等，就可以避免算法以此作為篩選的標準，實現(xiàn)基礎(chǔ)的公正性。在新聞傳播領(lǐng)域，算法采集信息并分發(fā)的過程同樣需要遵循基礎(chǔ)的價值原則。一方面是自動識別包含了色情、暴力、恐怖等不良價值觀的內(nèi)容并拒絕采集；另一方面，則是為算法的信息采集設(shè)定“優(yōu)先級”，讓符合主流價值觀的內(nèi)容可以被優(yōu)先采集和呈現(xiàn)。

2.為算法的程序設(shè)計“植入”正向價值理念。技術(shù)本身就是一種社會文化的選擇，算法作為信息分發(fā)的“把關(guān)者”，其“算出”的信息整體，體現(xiàn)著算法技術(shù)的價值屬性。有學者研究了今日頭條上的健康信息傳播，發(fā)現(xiàn)算法的價值傾向主要表現(xiàn)為信息的“可見性”，用戶針對自身需求而搜索的健康信息，經(jīng)常不被算法“記住”。信息流中具有更大“可見性”的是熱點健康話題，這些內(nèi)容中“標題黨”和健康謠言泛濫，而且時常涉及癌癥等容易引發(fā)恐慌情緒的嚴重健康問題。⑩“選擇”是一種價值判斷，選擇這條信息、不選擇那條信息本身，就凸顯了“選中”的信息所傳遞的價值。當算法技術(shù)標準的設(shè)計師將這種標準置于“黑箱”中，就會給信息的使用者形成算法所設(shè)定的信息環(huán)境，這種信息環(huán)境也只能培養(yǎng)出特定的算法價值觀。

價值觀是一個場域內(nèi)部的共同理念，以非強制的方式，引領(lǐng)共同體的自覺行動。只有以價值共識引領(lǐng)行業(yè)發(fā)展，平臺公司才有更大的內(nèi)生動力，進行技術(shù)治理，實現(xiàn)“自我糾偏”。目前，阿里巴巴、騰訊、今日頭條等都開發(fā)了“謠言粉碎機”等用以整治虛假信息的產(chǎn)品，體現(xiàn)了企業(yè)對真實性的追求。開發(fā)者對信息價值的重視和倡導，才是“技術(shù)道德化”的最佳路徑。

結(jié) 語

學界曾提出“信息價值觀”概念，指出不同的算法意味著不同的價值觀考量，算法所引導的傳播關(guān)系，就是算法價值觀的體現(xiàn)。?實踐中，算法工程師與研發(fā)人員大多并不認同甚至不了解新聞傳播職業(yè)價值引領(lǐng)的責任，更未能將傳播秩序與國家價值安全作為技術(shù)之上的戰(zhàn)略考量。因此，在行業(yè)內(nèi)形成統(tǒng)一的“信息價值觀”非常迫切。

“信息價值觀”是信息聚合平臺與新聞職業(yè)傳播行業(yè)價值的“最小公倍數(shù)”，而非“最大公約數(shù)”；“信息價值觀”是一種價值上的“求同存異”，是一套整合主流價值觀、平衡各方利益的具體、明確、完整的價值體系。正如救死扶傷是醫(yī)生職業(yè)公示的標準、真實客觀是新聞職業(yè)的標準、維護委托人的合法權(quán)益是律師職業(yè)的標準一樣，“信息價值觀”也應以簡潔的理念對外公示?！凹夹g(shù)中立”不是利益交換的蔭蔽，也不能作為規(guī)避社會價值引領(lǐng)責任的主張。只有在明晰的價值觀引領(lǐng)下，技術(shù)才不會成為脫韁野馬。以價值駕馭算法、而非讓算法動搖價值，需要監(jiān)管部門、行業(yè)的共同努力。

注釋：

①鄧建國：《機器人新聞：原理、風險和影響》，《新聞記者》2016年第9期。

②此處的“連帶責任”并非特指法律責任，而是喻指倫理和社會價值影響責任，也即“算法開發(fā)者應當對算法價值風險負責”的倫理主張。

③方師師：《算法機制背后的新聞價值觀——圍繞“Facebook 偏見門”事件的研究》，《新聞記者》2016年第9期。

④邵國松、黃琪：《算法傷害和解釋權(quán)》，《國際新聞界》2019年第12期。

⑤方師師：《算法機制背后的新聞價值觀——圍繞“Facebook 偏見門”事件的研究》，《新聞記者》2016年第9期。

⑥邵國松、黃琪：《算法傷害和解釋權(quán)》，《國際新聞界》2019年第12期。

⑦ 原 文 參 見 https：//www.acm.org/binaries/content/assets/public- policy/2017_joint_statement_algorithms.pdf。

⑧蔣曉、韓鴻、蘭臻：《中國語境下的人工智能新聞倫理建構(gòu)》，《西南民族大學學報》（人文社會科學版），2019年第6期。

⑨石佳友：《人格權(quán)立法的進步與局限——評〈民法典人格權(quán)編草案（三審稿）〉》，《社會科學文摘》2020年第2期。

⑩聶靜虹、宋甲子：《泛化與偏見：算法推薦與健康知識環(huán)境的構(gòu)建研究——以今日頭條為例》，《新聞與傳播研究》2020年第9期。

?師文、陳昌鳳：《新聞專業(yè)性、算法與權(quán)力、信息價值觀：2018 全球智能媒體研究綜述》，《全球傳媒學刊》2019年第1期。