[摘要]新興智能科技日益發(fā)展，不斷推進(jìn)算法系統(tǒng)與功能的快速迭代。算法從一種演算程序和計(jì)算策略逐步異化為一種算法權(quán)力意志，即依據(jù)其自身的特性與邏輯發(fā)揮作用，而這種意志勢必會(huì)為其自身的強(qiáng)權(quán)行為謀求某種合法性與正當(dāng)性，這便與家長主義立場不謀而合，這使得算法貌似為其自身的強(qiáng)權(quán)行為獲得了一定程度的道德辯護(hù)。這一情形將會(huì)合理化算法原有的問題，也會(huì)帶來值得我們慎思與警惕的新問題、新風(fēng)險(xiǎn)。鑒于此，我們詳細(xì)論證了算法的家長主義傾向是如何可能的。在此基礎(chǔ)上，對算法家長主義可能帶來的問題與風(fēng)險(xiǎn)進(jìn)行倫理反思與批判，即警惕算法家長主義為算法權(quán)力提供正當(dāng)性辯護(hù)，慎思算法家長主義為平臺(tái)權(quán)力提供合法性辯護(hù)，批判算法家長主義為現(xiàn)存算法秩序提供合理性辯護(hù)。

[關(guān)鍵詞]算法家長主義；算法權(quán)力；算法秩序；平臺(tái)權(quán)力

[作者簡介]李波，湖南師范大學(xué)教育部人文社會(huì)科學(xué)重點(diǎn)研究基地中華倫理文明研究中心、哲學(xué)系講師，長沙新一代人工智能倫理治理與公共政策實(shí)驗(yàn)室研究員，哲學(xué)博士。

*本文系國家社會(huì)科學(xué)基金一般項(xiàng)目“人工智能社會(huì)實(shí)驗(yàn)的倫理問題及對策研究”（22BZX039）的階段性成果。

新興智能科技的日益發(fā)展加速了數(shù)字社會(huì)的來臨。當(dāng)前，數(shù)字化、智能化正全面、系統(tǒng)地嵌入現(xiàn)代性時(shí)空、社會(huì)交往、生活樣態(tài)和價(jià)值觀念之中，深度變革和重塑了人們的行為、認(rèn)知和思維方式。貫通于數(shù)字社會(huì)之中的算法無處不在，它與資本合謀，正逐步操控?cái)?shù)字世界的生產(chǎn)、供給、消費(fèi)與流轉(zhuǎn)。從個(gè)體層面的衣食住行、組織層面的管理調(diào)度到社會(huì)層面的生產(chǎn)分配，無一不在數(shù)字化轉(zhuǎn)型的進(jìn)程中接受算法的操控和重構(gòu)[1]（164）。算法從一種演算程序和計(jì)算策略，逐步演變?yōu)橐环N算法權(quán)力意志，即依據(jù)其自身的特性與邏輯而發(fā)揮作用的一種實(shí)體性力量。然而，這種算法力量與商業(yè)資本、社會(huì)控制和國家治理相互滲透與融合，不斷重構(gòu)生產(chǎn)方式、生存方式和社會(huì)秩序的生成機(jī)制，促使算法從一種功能強(qiáng)大的技術(shù)力量異化為具有某種權(quán)力指向的意志力量，日益支配、操控和維持著數(shù)字社會(huì)的各個(gè)領(lǐng)域。一旦算法權(quán)力意志“欲求”持續(xù)、有效地支配、操控和維持?jǐn)?shù)字社會(huì)，它勢必會(huì)為其自身的權(quán)力欲望謀求某種合法性與正當(dāng)性，這便與家長主義（Paternalism）不謀而合，即訴諸算法的家長主義立場，使其自身的權(quán)力欲求獲得某種合法性與正當(dāng)性。然而，算法權(quán)力與家長主義的合謀將會(huì)進(jìn)一步強(qiáng)化人們對它的信任、依賴和盲崇，將會(huì)合理化與正當(dāng)化算法本身帶來的問題與風(fēng)險(xiǎn)，也將帶來值得我們警惕的新問題。鑒于此，我們力圖從理論與實(shí)踐兩個(gè)方面深入分析和揭示算法的家長主義現(xiàn)象，進(jìn)而對算法家長主義潛在的問題與風(fēng)險(xiǎn)進(jìn)行倫理反思與批判。

一、算法的家長主義傾向是否可能

當(dāng)前，大數(shù)據(jù)、人工智能與商業(yè)活動(dòng)相互滲透與融合，逐漸蔓延至社會(huì)生活的方方面面。在日常生產(chǎn)生活、休閑娛樂活動(dòng)中，人們使用各類智能應(yīng)用程序或創(chuàng)建平臺(tái)賬號(hào)時(shí)，首先是被迫勾選平臺(tái)單方面預(yù)先設(shè)定的“知情同意”協(xié)議，然后才能獲得便捷、精準(zhǔn)和高效的服務(wù)。為了獲得這些服務(wù)，用戶不得不共享自己的身份、關(guān)系、位置和偏好等個(gè)人信息，在很多場景下又不得不接受各種“個(gè)性化”的推送、建議和預(yù)測，使自己的認(rèn)知、選擇意愿和決策行為在不同程度上受其干預(yù)。這意味著大數(shù)據(jù)和算法科技能夠?qū)€(gè)體的線上、線下數(shù)據(jù)進(jìn)行分析與整合，能夠?qū)μ囟▊€(gè)體行為習(xí)慣與偏好進(jìn)行精準(zhǔn)預(yù)測和評(píng)估，進(jìn)而通過將算法系統(tǒng)與其他特定環(huán)境控制的系統(tǒng)連接，實(shí)現(xiàn)對用戶自主行為的有效干預(yù)和操縱。具體而言，算法自動(dòng)生成的模型能代替用戶做選擇，用戶能接觸哪些內(nèi)容，不用接觸哪些內(nèi)容，事先都由算法做了甄別和篩選，用戶只能接觸到算法推送的內(nèi)容。這意味著算法“相信”“知道”哪些內(nèi)容對用戶無益或會(huì)損害用戶的利益，它是“誠心”為用戶的利益、價(jià)值偏好著想，以促進(jìn)用戶行為自主。不難發(fā)現(xiàn)，這是在為算法的自動(dòng)化建議和決策提供某種家長主義式的辯護(hù)。

家長主義原本是政治學(xué)、法學(xué)和應(yīng)用倫理學(xué)等領(lǐng)域長期備受關(guān)注和爭論的重要問題。我們嘗試立足這一理論視域來探討，算法為其自身的行為謀求某種合理性與正當(dāng)性是否可能？換言之，算法是否具有家長主義傾向？或算法的家長主義是否可能？對于這一問題的探討，首先，需要超越算法中性論與工具論的立場，如果我們僅僅從人與技術(shù)二元的立場出發(fā)將算法科技理解為一種依賴于人或主體視域的抽象客體，將其把握為一種抽象的中性工具，那么很可能的結(jié)果是，囿于主體視域的本質(zhì)特性，算法會(huì)在它們?nèi)绾螛?gòu)建自身以及它們?nèi)绾伟l(fā)揮作用這個(gè)層面上遮蔽自身。其次，從學(xué)理上看，關(guān)于家長主義的一般界定能否適用于分析算法特征？如果不行，需要做哪些修正與調(diào)整？

一般而言，家長主義是指為了被干涉者的福祉、益處、幸福、需求、利益或價(jià)值，對其行動(dòng)的自由進(jìn)行強(qiáng)制的干涉，并因此得到辯護(hù)[2]（185）。依據(jù)這種家長主義的一般界定，算法系統(tǒng)運(yùn)作在沒有獲得用戶知情同意的情況下，干預(yù)了用戶自主選擇的意愿或決策，而它的這種干預(yù)行為是“誠心”為了用戶的利益、價(jià)值和福祉著想。它“相信”它的干預(yù)行為有助于用戶的利益和價(jià)值的實(shí)現(xiàn)，有助于用戶的行為自主。由此，這使得它的干預(yù)行為得到辯護(hù)。據(jù)此而言，算法的家長主義傾向具有一定的可能性。為此，需要進(jìn)一步從學(xué)理上探討算法家長主義能否真正成立。

“Paternalism”，家長主義或父愛主義，最早出現(xiàn)在19世紀(jì)末，從詞源上來看，源自拉丁語“pater”（父親），它是指像滿懷責(zé)任和仁慈的父親那樣行為，或?qū)Υ讼窦议L對待孩子一樣，反映了父權(quán)社會(huì)中，父親或男性家長被認(rèn)為是負(fù)責(zé)孩子和下屬福利的權(quán)威人物，也隱含著對個(gè)人自由和自主的內(nèi)在價(jià)值的批判。在這種傳統(tǒng)中，國家、公司和社區(qū)的成年成員在國王、總統(tǒng)和行政人員預(yù)設(shè)的仁慈權(quán)威下運(yùn)作。前工業(yè)化時(shí)期，政治、經(jīng)濟(jì)和社會(huì)活動(dòng)領(lǐng)域中家長主義現(xiàn)象普遍存在。進(jìn)入20世紀(jì)，工業(yè)化快速發(fā)展，家長主義模式和庇護(hù)行為（父親的保護(hù)、監(jiān)護(hù)和控制）被應(yīng)用于不平等的階層之間，如雇主與工人、特權(quán)階層與弱勢階層、國家與大眾。隨著哲學(xué)、政治、經(jīng)濟(jì)和社會(huì)領(lǐng)域的自由主義思潮不斷蔓延，個(gè)人的自由和自主權(quán)不斷得到強(qiáng)調(diào)，家長主義主要關(guān)注工人、窮人、兒童和其他邊緣群體（如罪犯、精神病患者和殘疾人）的權(quán)利。20世紀(jì)中期，家長主義相對沉寂了幾十年之后，這個(gè)詞在法學(xué)領(lǐng)域再次被重新引入，1971年哲學(xué)家杰拉爾德·德沃金（Gerald Dworkin）在《道德與法律》一書中深入探討該論題，引起了廣泛關(guān)注和爭論，在社會(huì)政策、法學(xué)和醫(yī)療等領(lǐng)域中家長主義模式也獲得了很多支持與辯護(hù)。

學(xué)界關(guān)于家長主義的界定存在著諸多爭論和分化，對家長主義的研究與探討，學(xué)者們根據(jù)其研究領(lǐng)域的需要而有所差異。湯姆·L.比徹姆（Tom L. Beauchamp）將家長主義定義為“一個(gè)人的自主被其他人有意限制，限制他人自主的人的行為因其對被限制人的幫助而被證明為正當(dāng)?shù)摹盵3]（198）。杰拉爾德·德沃金“將其理解為對一個(gè)人行動(dòng)自由的干涉，這種干涉可根據(jù)是為了受強(qiáng)迫者的福利、好處、幸福、需要、利益或價(jià)值之類的理由而得到辯護(hù)”[4]（108）。伯納德·格特（Bernard Gert）和查爾斯·卡爾弗（Charles M. Culver）認(rèn)為家長主義須滿足以下幾個(gè)條件：A對S是以家長主義方式來行動(dòng)的，當(dāng)且僅當(dāng)A的行為（正確地）表明A相信：

（1）他的行動(dòng)是為了S好；

（2）他有資格代表S行動(dòng)；

（3）他的行動(dòng)涉及去做情境本身要求他做的事；

（4）他代表S來行動(dòng)可以獨(dú)立于S過去的、現(xiàn)在的或即將出現(xiàn)的（自由的、知情的）同意而得到辯護(hù)；

（5）S（或許是錯(cuò)誤地）相信他自己一般來說知道什么對自己有好處[5]（49-50）。

德沃金建議按如下條件來分析，X對Y實(shí)施了家長主義行為，應(yīng)滿足以下條件：

（1）X實(shí)施（不實(shí)施）Z干涉了Y的自由或自主權(quán)；

（2）X這樣做沒有得到Y(jié)的同意；

（3）X這么做，只因?yàn)閄相信，實(shí)施Z會(huì)提高Y的福祉（包括不使Y的福祉減少），或者會(huì)促進(jìn)Y的利益、價(jià)值或益處[6]。

綜上所述，學(xué)者們關(guān)于家長主義的界定存在著諸多差異，如比徹姆強(qiáng)調(diào)干預(yù)者是有意干涉或限制被干預(yù)者的自主行為，這種有意限制行為，由于是為被干預(yù)者的利益著想而得到辯護(hù)；伯納德和查爾斯更強(qiáng)調(diào)干預(yù)者的信念態(tài)度，從條件（1）、（2）和（5）可知，干預(yù)者相信，他只要為了被干預(yù)者本身的利益著想，就有資格代替被干預(yù)者去行動(dòng)或做決策，而且被干預(yù)者相信自己知道什么東西對自己有益處；從條件（3）和（4）可知，干預(yù)者相信，他的干預(yù)行為不需要得到被干預(yù)者的同意；德沃金強(qiáng)調(diào)干預(yù)者肯定相信他的干涉行為對被干預(yù)者是有益的，還指出實(shí)施干涉行為無須得到被干預(yù)者的知情同意。根據(jù)上述學(xué)者們關(guān)于家長主義的界定和分析，我們依據(jù)德沃金的家長主義版本，對其做了一些調(diào)整和綜合，給出滿足算法家長主義的初步條件，即算法系統(tǒng)（A）對用戶或被干預(yù)者（U）實(shí)施了家長主義行為，應(yīng)滿足以下條件：

（1）A有意地干預(yù)或限制U（被干預(yù)者）的行為；

（2）A相信實(shí)施（不實(shí)施）B（行為）會(huì)促進(jìn)或不減少U的利益、價(jià)值或益處；

（3）A實(shí)施（不實(shí)施）B沒有得到U的同意；

（4）A實(shí)施（不實(shí)施）B干預(yù)了U的自由或自治。

二、算法家長主義的修正版本及其相關(guān)問題分析

上文對家長主義的一般界定及相關(guān)滿足條件進(jìn)行了分析和綜合，并給出了滿足算法家長主義的相關(guān)條件。我們以算法推送為例，分析和探討算法家長主義的相關(guān)條件能否得到滿足?；谟脩舸髷?shù)據(jù)的算法推送廣泛應(yīng)用于社交、出行、網(wǎng)購、新聞、健康管理、短視頻等應(yīng)用程序，它是一種基于計(jì)算機(jī)技術(shù)、統(tǒng)計(jì)學(xué)知識(shí)，通過將數(shù)據(jù)、算法、人機(jī)交互有機(jī)結(jié)合，建立用戶和資源個(gè)性化關(guān)聯(lián)，從而為用戶提供信息決策支持的技術(shù)系統(tǒng)[7]（9）。算法個(gè)性化推送何以能實(shí)現(xiàn)？首先，需要收集數(shù)據(jù)，包括用戶的性別、年齡、偏好、職業(yè)等用戶身份的基本數(shù)據(jù)，用戶的瀏覽、點(diǎn)贊、評(píng)論、關(guān)注和轉(zhuǎn)發(fā)等行為數(shù)據(jù)，位置、旅游、開會(huì)和網(wǎng)絡(luò)狀況等場景數(shù)據(jù)；基于這些數(shù)據(jù)綜合生成用于描繪用戶的“數(shù)字畫像”。其次，通過基于用戶基本數(shù)據(jù)的協(xié)同過濾、基于用戶社交關(guān)系的關(guān)聯(lián)原則、基于內(nèi)容流量池的疊加原則等來實(shí)現(xiàn)個(gè)性化推送，其基本思路是通過對內(nèi)容（具體內(nèi)容的點(diǎn)擊量、完播率、閱讀量、點(diǎn)贊量、評(píng)論量、轉(zhuǎn)發(fā)量）、個(gè)人（數(shù)字畫像）、場景特征的判斷，進(jìn)行信息匹配與推送[8]（71-72）。

條件（1）是指算法有意地干預(yù)或限制被干預(yù)者的行為，這對于算法而言很難滿足，因?yàn)楹茈y確切地說清楚，算法系統(tǒng)自身具有某種意圖（intentions）。一般而言，只有人才有某種意圖，即一種精神狀態(tài)，它包含某人對其未來行動(dòng)所期望達(dá)到的結(jié)果，并激勵(lì)他據(jù)此采取行動(dòng)，或促使他采取相應(yīng)的行動(dòng)。我們主張，超越人與技術(shù)的主客二元立場，可適度做些調(diào)整或弱化處理。就算法的根本特性而言，正是基于某種數(shù)學(xué)結(jié)構(gòu)與邏輯使其成其為自身的，而基于這種數(shù)學(xué)結(jié)構(gòu)與邏輯所構(gòu)建的計(jì)算模型，總會(huì)指涉某種功效，而這種功效總是具有滿足某某需要的屬性，或總是負(fù)載著滿足某某需要的某種價(jià)值或秩序。這樣，作為計(jì)算模型的算法總是會(huì)為用戶提供某種功能或價(jià)值或秩序，滿足其某種需求。如果這種斷定可以成立的話，那么算法設(shè)計(jì)和功能中蘊(yùn)含了用戶的需求，算法系統(tǒng)則是以滿足用戶需求為目標(biāo)導(dǎo)向的。因而，從本質(zhì)上來說，算法是基于特定目標(biāo)下的計(jì)算模型[9]（3）。由此，算法可以描述為目標(biāo)導(dǎo)向的。因而，需要對條件（1）稍加調(diào)整，即用“目標(biāo)導(dǎo)向地”替代“有意圖地”。

關(guān)于條件（2），對于算法來說，將會(huì)面臨更大的困難。算法并不能有意識(shí)地知道和辨識(shí)“什么是好的或有益的”，也不能有意識(shí)地理解“做什么對用戶是好的或有益的”。算法的個(gè)性化推送并不是基于算法系統(tǒng)本身有意識(shí)地“相信”推送的內(nèi)容對用戶有益，而是在設(shè)計(jì)者目標(biāo)設(shè)定基礎(chǔ)之上，基于大數(shù)據(jù)和深度學(xué)習(xí)算法所生成的量化模型與已識(shí)別的用戶自身的數(shù)據(jù)比對分析的結(jié)果。根據(jù)具體內(nèi)容的點(diǎn)擊量、點(diǎn)贊量、評(píng)論量和轉(zhuǎn)發(fā)量等數(shù)據(jù)，結(jié)合用戶的數(shù)據(jù)畫像，然后依據(jù)相關(guān)算法模型給特定用戶進(jìn)行個(gè)性化推送。正如德國學(xué)者米夏埃爾·庫勒（Michael Kühler）所言，人工智能系統(tǒng)確實(shí)包含了一組可計(jì)算（可量化）的標(biāo)準(zhǔn)，來界定它們的目標(biāo)。這可以從預(yù)定義模式的角度來理解，將跟蹤數(shù)據(jù)中已識(shí)別的模式與預(yù)定義模式進(jìn)行比較，若模式匹配或已識(shí)別模式與預(yù)定義模式的相似性逐漸提升，則可以認(rèn)為人工智能在達(dá)到其目標(biāo)方面不斷獲得成功[10]（196）。這樣，算法推送就類似于有了一個(gè)關(guān)于“好或有益的概念”（量化標(biāo)準(zhǔn)），能推算出“做什么對用戶是有益的”（預(yù)定義模式與識(shí)別模式的相似度）。然而，這種量化標(biāo)準(zhǔn)（有益或好的概念）可以是算法系統(tǒng)設(shè)計(jì)者預(yù)先定義的，也可以是基于大數(shù)據(jù)深度學(xué)習(xí)算法自身判定的，或者是兩者共同作用的結(jié)果，不管怎樣，至少算法具有推算“什么東西對用戶是有益”的相關(guān)程序和模式。由此，我們需要將條件（2）調(diào)整為：就算法模式匹配而言，A能推算實(shí)施（或不實(shí)施）B會(huì)促進(jìn)或不減少U的利益、價(jià)值或益處。

關(guān)于條件（3）也存有疑惑。用戶在創(chuàng)建某平臺(tái)賬號(hào)或注冊某智能應(yīng)用程序之前，都會(huì)被要求點(diǎn)擊“同意”，這意味著用戶知情并同意平臺(tái)關(guān)于數(shù)據(jù)和算法的相關(guān)規(guī)定。如果拒絕同意，那么很多情形下它們不會(huì)為你提供服務(wù)。以Facebook的情緒傳染實(shí)驗(yàn)為例，2014年Facebook和康奈爾大學(xué)合作開展了一項(xiàng)實(shí)驗(yàn)，即以Facebook用戶為實(shí)驗(yàn)對象，通過減少帖子中的情緒內(nèi)容來測試情緒傳染是否發(fā)生在人際互動(dòng)之外。結(jié)果發(fā)現(xiàn)，當(dāng)看到的正面帖子減少時(shí)，人們發(fā)表的正面帖子更少、負(fù)面帖子更多；當(dāng)看到的負(fù)面帖子減少時(shí)，發(fā)表的正面帖子會(huì)增多。實(shí)驗(yàn)表明，個(gè)人在Facebook上發(fā)帖表達(dá)的情緒會(huì)影響其他人的情緒。這一實(shí)驗(yàn)活動(dòng)備受倫理質(zhì)疑，即在未經(jīng)用戶知情同意的情況下開展這項(xiàng)研究，違反了尊重自主的原則。Facebook作出回應(yīng)，稱該項(xiàng)研究遵守了Facebook的數(shù)據(jù)使用政策，所有用戶在創(chuàng)建Facebook賬戶之前都同意該政策，即要求用戶接受該公司將個(gè)人數(shù)據(jù)用于“數(shù)據(jù)分析、測試和研究”，而且這些數(shù)據(jù)都非常安全。面對Facebook的申辯，我們主張對“知情同意”做一個(gè)區(qū)分。用戶開始創(chuàng)建或注冊某平臺(tái)的時(shí)候，需要簽署（點(diǎn)擊）知情同意書，可稱之為“形式同意”，主要是指程序上同意平臺(tái)對用戶數(shù)據(jù)的收集、存儲(chǔ)、分析、測試和研究等，但是涉及數(shù)據(jù)的加工、測試和研究的具體方式、內(nèi)容和目的時(shí)，這需要獲得用戶的“同意”，可稱之為“實(shí)質(zhì)同意”。很顯然，F(xiàn)acebook的辯解是用“形式同意”替代“實(shí)質(zhì)同意”，從而規(guī)避相關(guān)的倫理責(zé)任。

從平臺(tái)到大數(shù)據(jù)算法本身都試圖憑借用戶注冊時(shí)的“形式同意”充當(dāng)“實(shí)質(zhì)同意”，以示尊重用戶的自主。然而，用戶的“形式同意”并不意味著“實(shí)質(zhì)同意”，即并不意味著自主和真實(shí)同意大數(shù)據(jù)算法對他進(jìn)行的所有個(gè)性化分析與推送，因?yàn)榛谟脩舸髷?shù)據(jù)的算法推送，會(huì)不會(huì)干擾用戶的自主選擇或自治？是否侵犯用戶的隱私或損害用戶的身心？是否有可能危害用戶的生命與財(cái)產(chǎn)安全？這些可能的擔(dān)憂和風(fēng)險(xiǎn)恰恰證明，基于用戶大數(shù)據(jù)的算法分析與推送不僅需要用戶的“形式同意”，還需要用戶的“實(shí)質(zhì)同意”。我們觀察到，很多智能應(yīng)用程序的算法推送基本沒有“實(shí)質(zhì)同意”這一環(huán)節(jié)，也缺乏相應(yīng)的算法推送功能的自主設(shè)置，如網(wǎng)購、搜索、新聞和健康管理等智能應(yīng)用程序，基于算法系統(tǒng)自身的邏輯給用戶進(jìn)行個(gè)性化推送，哪些內(nèi)容可見、哪些內(nèi)容不可見，算法幫你做了“甄別”；食譜清單中哪些可吃、哪些應(yīng)該排除，算法幫你做了“判斷”；哪些商品你可能購買、哪些商品是你消費(fèi)不起的或不感興趣的，算法幫你做了“篩選”。這些基于用戶數(shù)據(jù)的個(gè)性化算法推送也都沒有得到用戶的“實(shí)質(zhì)同意”。因此，條件（3）可修正為：A實(shí)施（不實(shí)施）B沒有得到U的“實(shí)質(zhì)同意”。

關(guān)于條件（4），就行動(dòng)自由的意義而言，有學(xué)者認(rèn)為，人工智能算法程序很難實(shí)現(xiàn)干涉用戶的自由，畢竟一款智能程序怎么可能妨礙人們做自己想做的事情呢？[10]（196）然而，我們認(rèn)為這種看法對于一些人工智能應(yīng)用場景是不恰當(dāng)?shù)?。從行?dòng)效果上看，算法系統(tǒng)至少在以下兩個(gè)方面能夠干預(yù)用戶的行動(dòng)自由或自治。第一種情形，它替用戶作出選擇或做決策。諸如社交、網(wǎng)購、新聞資訊等應(yīng)用程序，基于用戶數(shù)據(jù)的“精準(zhǔn)畫像”所進(jìn)行的個(gè)性化推送，算法決定了用戶能見到哪些內(nèi)容、哪些內(nèi)容被屏蔽；用戶只能看到算法推送的內(nèi)容，算法替你篩選了那些沒有推送給你的內(nèi)容。它“認(rèn)為”或“相信”那些內(nèi)容你不感興趣或?qū)δ銢]有益處。設(shè)想一下未來智能應(yīng)用場景，如智能管家會(huì)依據(jù)你的行程安排，自行決定提前給你開燈開窗、自行推送音樂等，它認(rèn)為你該起床了（像責(zé)任感很強(qiáng)的父親那樣）；汽車上配置的人工智能系統(tǒng)，能夠在駕駛員進(jìn)入車內(nèi)時(shí)識(shí)別出駕駛員是否疲勞或醉酒、精神狀態(tài)是否正常，如果它判斷駕駛員處于異常狀態(tài)，則會(huì)自動(dòng)阻止汽車啟動(dòng)；未來人工智能助手也可能干涉用戶的自主行為。因此，如果人工智能算法系統(tǒng)能夠與其他特定環(huán)境控制的系統(tǒng)相連接，則算法系統(tǒng)從行動(dòng)效果上將會(huì)越來越多地干擾用戶的行動(dòng)自由[10]（196）。

第二種情形，就行動(dòng)效果而言，算法系統(tǒng)能干預(yù)用戶選擇意愿或決策形成的過程。搜索、網(wǎng)購和健康管理等應(yīng)用程序中的算法系統(tǒng)，通過推送高效、科學(xué)和有吸引力的建議，或通過提升用戶對某些選擇的認(rèn)識(shí)和理解來干預(yù)或限制用戶選擇意愿或決策的形成，而與此同時(shí)它還幫用戶做了選擇，排除了其他可能的建議或選項(xiàng)。以健康A(chǔ)pp為例，它基于用戶健康狀況的數(shù)據(jù)分析，向用戶推送定制的食譜清單和飲食方式，以及個(gè)性化的生活和健身方式。飲食建議清單中一開始就排除了相應(yīng)的食材，如不耐受的食物，而用戶卻不知道這種情形。如果用戶堅(jiān)信，甚至“盲信”健康A(chǔ)pp的算法推送對他們的健康是有益的，那么用戶使用它改善身體狀況似乎是出于用戶自主的選擇。算法推送的建議或提升認(rèn)識(shí)和理解的推送是不是出于用戶自主的選擇，會(huì)不會(huì)實(shí)質(zhì)性影響用戶的選擇意愿或決策，可從兩個(gè)方面進(jìn)一步考察。一方面，用戶意識(shí)到這些個(gè)性化推送是算法過濾的結(jié)果，在很多應(yīng)用場景中人們往往依然相信或接受它們的推送，他們認(rèn)為算法推送對他們是有益的，這似乎是出于用戶自主的決策。然而，實(shí)際上，由于大多數(shù)用戶的專業(yè)知識(shí)和理解力有限、相關(guān)信息和認(rèn)知能力缺乏、時(shí)間和精力有限，他們所謂的“相信”或“自主的意愿或決策”更多的是建立在算法所推薦的信息基礎(chǔ)之上而生成的。另一方面，用戶沒有意識(shí)到這些都是算法過濾的結(jié)果，因而更不會(huì)反思或拒斥它們的推送。由此，就算法應(yīng)用的特定場景的行動(dòng)效果而言，用戶的意愿形成和決策過程都不同程度上受到了算法推送的實(shí)質(zhì)性干擾或影響，條件（4）基本上是可以滿足的。

綜上所述，我們通過對家長主義的一般界定進(jìn)行適當(dāng)分析與綜合，給出了滿足算法家長主義的初步條件，然而，這個(gè)初步版本經(jīng)過上述的分析與探討，也是困難重重。鑒于此，我們對這個(gè)版本進(jìn)行適度的調(diào)整和附加限定條件，給出了一個(gè)修正后的弱化版本，即可將其描述為，如果A（算法）對U（被干預(yù)者或用戶）實(shí)施了家長主義行為，則需要滿足以下條件：

（1）A（算法）目標(biāo)導(dǎo)向地限制或干預(yù)了U的行動(dòng)；

（2）就算法模式匹配而言，A推算出實(shí)施（不實(shí)施）B（行為）會(huì)促進(jìn)或不減少U的利益；

（3）A實(shí)施（不實(shí)施）B沒有得到U的“實(shí)質(zhì)同意”；

（4）就算法應(yīng)用場景的行動(dòng)效果而言，A實(shí)施（不實(shí)施）B干預(yù)了U的自由或自主權(quán)。

上文給出了滿足算法家長主義的相關(guān)條件，為了使這一新概念能夠被用于探討不同算法應(yīng)用場景的家長主義現(xiàn)象，我們需要進(jìn)一步分析和探討算法家長主義的強(qiáng)弱。一般而言，弱家長主義干預(yù)建立在被干預(yù)者判斷能力出現(xiàn)障礙的基礎(chǔ)上，它保護(hù)被干預(yù)者不受不反映其真實(shí)意志的危險(xiǎn)選擇的危害。例如，當(dāng)藥物或疼痛影響了被干預(yù)者的意識(shí)時(shí)，他所作出的判斷就可能是不真實(shí)的。因此，弱家長主義不是阻礙自主，而是在實(shí)際上保護(hù)和提升自主。如德沃金所言，如果某人因自主能力的不足（信息缺乏、非充分理解、非實(shí)質(zhì)自愿或被強(qiáng)制）而無法達(dá)到其想要的目標(biāo)或結(jié)果，那么對其行為進(jìn)行干預(yù)就可以得到辯護(hù)。強(qiáng)家長主義是指管理者出于維護(hù)被干預(yù)者的利益或使其免受傷害的善意考慮，不顧被干預(yù)者的主觀意志而限制其自由的行為，善意的目的、限制的意圖、限制的行為、對被干預(yù)者的意愿的不管不顧構(gòu)成這個(gè)概念的四個(gè)重要組成部分[11]（659-722）。

援引密爾的經(jīng)典案例[12]（115），進(jìn)一步辨析兩者的意涵與差異。路人甲準(zhǔn)備經(jīng)過一座危險(xiǎn)的木橋，他不了解該橋的危險(xiǎn)狀況，此時(shí)路人乙及時(shí)阻止他上橋，路人乙的干預(yù)行為是弱家長主義的，因?yàn)槁啡思子捎谌狈﹃P(guān)于橋的信息而冒險(xiǎn)上橋，這并非他的真實(shí)意愿。然而，如果路人甲想要上橋自殺，他目標(biāo)明確，也是他此時(shí)的真實(shí)意愿，那么，弱家長主義不會(huì)干預(yù)他上橋自殺的行為；而就強(qiáng)家長主義而言，路人甲由于不知道橋的危險(xiǎn)而上橋和由于他想自殺而上橋，這兩種情形都會(huì)被及時(shí)阻止，因?yàn)樗粫?huì)考慮干預(yù)行為是否符合當(dāng)事人的真實(shí)意愿和自主性。由此，我們可以看到，弱家長主義的關(guān)鍵在于，它對當(dāng)事人的真實(shí)意愿或抉擇不進(jìn)行干涉，只有代表真實(shí)意愿的決策才值得捍衛(wèi)與尊重。它是為了達(dá)成行動(dòng)主體想要的結(jié)果和目標(biāo)。相反，它只對受到削弱的決定，即“強(qiáng)制、虛假信息、興奮或沖動(dòng)、被遮蔽的判斷，推理能力不成熟或欠缺”的結(jié)果進(jìn)行限制和干預(yù)[13]（7），并幫助主體達(dá)成其目標(biāo)。強(qiáng)家長主義是指某主體出于維護(hù)被干預(yù)者的利益或使其免受傷害的善意考慮，不顧被干預(yù)者的主觀意志而限制其自由的行為，其結(jié)果和目標(biāo)也可能不是被干涉者想要達(dá)成的。這樣，如果說弱家長主義是從彌補(bǔ)被干預(yù)者自主性的不足，朝著他想要的目標(biāo)而干預(yù)的話，那么強(qiáng)家長主義則完全否定了被干預(yù)者的意愿和目標(biāo)。因而，這兩者的區(qū)別在于，家長主義的干涉行為是否有助于達(dá)成被干預(yù)者想要的目標(biāo)或結(jié)果[14]（62）。

算法的弱家長主義似乎面臨困難。有人認(rèn)為，很難想象算法系統(tǒng)能夠有意識(shí)“知道”或“判斷”用戶是否足夠自主或自治，對算法而言，的確很難做到。不過，上文已適度給出了澄清和限定，算法是以目標(biāo)導(dǎo)向與用戶發(fā)生關(guān)聯(lián)的。我們認(rèn)為，從約翰·P.薩林斯（John P. Sullins）提出的工程學(xué)意義上的效果自主（effective autonomy）來看，當(dāng)人工智能無須受其他行動(dòng)主體控制而擁有獨(dú)立的實(shí)踐能力并能有效地完成任務(wù)時(shí)，人工智能就是具有自主性行動(dòng)者，只要算法程序與環(huán)境的復(fù)雜交互作用能夠引發(fā)一個(gè)人工智能機(jī)器人去實(shí)施效果上具有自主性的行動(dòng)，那么人工智能就可以被視作帶有意向的行動(dòng)主體[15]（24-29）。從效果自主的層面看，基于目標(biāo)導(dǎo)向的算法可以為用戶提供有效信息，可以提升其認(rèn)識(shí)和理解的能力，可以精準(zhǔn)匹配相關(guān)選項(xiàng)等來促進(jìn)用戶的行為自主，如網(wǎng)購和社交的個(gè)性化推送。這些基于用戶在信息獲取或認(rèn)知上的欠缺，為他們提供個(gè)性化推送或優(yōu)化建議，促進(jìn)用戶的行為自主，也可以滿足弱家長主義的要求。如健康A(chǔ)pp基于用戶數(shù)據(jù)進(jìn)行分析和預(yù)測，即哪些食物可以吃，哪些食物少吃，甚至有些食物不能吃（不耐受、過敏）。由于用戶在認(rèn)知、專業(yè)度和獲取信息等方面存在差異，個(gè)人用戶對于健康方面的知識(shí)不夠系統(tǒng)和全面，因而對自己的健康管理也難以真正實(shí)現(xiàn)自主。而算法推送為用戶提供健康信息、科學(xué)理解和量化標(biāo)準(zhǔn)等，從而促進(jìn)用戶作出更自主的決策，使用戶健康得到改善的行為更加自主。此外，搜索、新聞資訊和短視頻等智能應(yīng)用程序中，算法系統(tǒng)基于用戶的數(shù)據(jù)畫像，推算和預(yù)測他們在滿足興趣和需求上缺乏自主性，因而代替他們“做決策”，哪些內(nèi)容可見，哪些內(nèi)容不可見，這些情形也符合算法的弱家長主義特征。

算法的強(qiáng)家長主義似乎同樣也面臨困惑。按照傳統(tǒng)強(qiáng)家長主義的界定，算法需要具有善意的目的、限制的意圖和限制的行為，以及對被干預(yù)者的意愿不管不顧，這些條件都被滿足確實(shí)很困難。依據(jù)上文對算法家長主義的一般界定，以及從效果自主來看，算法可視為具有一定自主性的行動(dòng)者，算法系統(tǒng)是以目標(biāo)導(dǎo)向與用戶發(fā)生關(guān)聯(lián)的，算法很難“理解”或不會(huì)考慮用戶的真實(shí)意愿，它更多的是根據(jù)自身的邏輯與規(guī)則干預(yù)或影響用戶的自主行為或選擇意愿。在一些特定的應(yīng)用場景中展現(xiàn)出了算法的強(qiáng)家長主義傾向，如人工智能算法系統(tǒng)與相應(yīng)物理環(huán)境控制關(guān)聯(lián)起來，算法系統(tǒng)通過感知、操作和控制周圍的環(huán)境，干擾用戶的行動(dòng)自由，諸如汽車智能應(yīng)用程序檢測到司機(jī)醉駕或疲勞駕駛，將會(huì)自動(dòng)靠邊停車，或感知到路上不明狀況，會(huì)自動(dòng)減速或剎車等；智能制造、智能家居和智慧金融等應(yīng)用場景也可能存在算法的強(qiáng)家長主義現(xiàn)象。

三、警惕算法家長主義為算法權(quán)力提供正當(dāng)性辯護(hù)

上文從諸多層面分析和揭示了算法在不同應(yīng)用場景中存在著的家長主義作風(fēng)。當(dāng)前社會(huì)算法的應(yīng)用與發(fā)展勢不可擋，算法力量在家長主義的加持下日益滲透和膨脹，一方面，算法系統(tǒng)作為一種功能強(qiáng)大的、進(jìn)步的科技力量，促進(jìn)社會(huì)發(fā)展與進(jìn)步；另一方面，它將會(huì)逐步重構(gòu)我們的生活樣態(tài)、價(jià)值觀念、生存和思維方式。算法技術(shù)發(fā)展的初衷是增強(qiáng)人們的謀劃和認(rèn)知能力，更多的是一種計(jì)算謀劃和計(jì)算策略，而如今算法科技與商業(yè)資本、社會(huì)控制和國家治理相互滲透、深度交融，彼此賦能賦權(quán)，使算法從一種計(jì)算力量異化成一種支配、操控和維持?jǐn)?shù)字社會(huì)秩序的算法權(quán)力。一旦算法權(quán)力意欲持續(xù)有效地掌控?cái)?shù)字社會(huì)的算法秩序，將催生算法的權(quán)力意志，而這種權(quán)力意志勢必會(huì)為其自身的強(qiáng)權(quán)行為謀求某種正當(dāng)性的辯護(hù)，即訴諸算法的家長主義立場為其自身的權(quán)力謀求一定程度的道德辯護(hù)。這一情形將會(huì)帶來什么樣的問題值得我們深刻反思并提高警惕。

就算法力量與商業(yè)資本的相互滲透與融合來看，平臺(tái)組織以大數(shù)據(jù)和算法模型進(jìn)行分析和預(yù)測，將資本的意圖嵌入算法設(shè)計(jì)與應(yīng)用之中，生成用戶畫像，進(jìn)行個(gè)性化推送，誘導(dǎo)用戶或消費(fèi)者作出特定的行為。算法助力商業(yè)資本讀懂用戶的所思所想；算法的推送或建議就像我們自己的決定一樣，甚至有時(shí)比我們自己更懂自己。我們可以看到，算法系統(tǒng)通過遠(yuǎn)程分析和預(yù)測用戶偏好、操縱用戶行為、調(diào)控用戶心理所展現(xiàn)出的權(quán)力行徑，其得到辯護(hù)的理由是算法的家長主義立場，它們的掌控行為是“全心全意”為了用戶自身的利益和需求，幫助用戶實(shí)現(xiàn)認(rèn)知、理解和選擇的自主。然而，值得我們反思和警惕的是，算法系統(tǒng)以分析、識(shí)別、預(yù)測、推送和監(jiān)控的方式，逐步引導(dǎo)、形塑和訂制人們的行為模式、情感需求、思維方式和價(jià)值觀念，人的自主性、獨(dú)特個(gè)性和主體性將形同虛設(shè)。

就算法力量與社會(huì)控制、國家治理的深度交融而言，從智慧政務(wù)到數(shù)字化國家治理，如果說國家權(quán)力可以滲透整個(gè)國家的肌體中，那么在數(shù)字化和算法化科技的加持下，國家權(quán)力能夠延伸至各個(gè)“毛細(xì)血管”，甚至更加精細(xì)微末之處[16]（51）。國家依據(jù)其智能化科技的全面裝置，將公民置于徹底而全方位的監(jiān)控體系下，而公民卻難以有效地運(yùn)用信息技術(shù)來維護(hù)其權(quán)利，即無法通過數(shù)字民主來制衡國家的算法化的監(jiān)控體系[17]（36），如個(gè)人數(shù)據(jù)如何被保管和被使用、誰是數(shù)據(jù)監(jiān)控的潛在目標(biāo)人群、哪類群體因何種原因被重點(diǎn)監(jiān)控、圍繞公共安全威脅評(píng)分的高危人群捕撈模型的應(yīng)用邊界等等[18]（70-71），這些情形都嚴(yán)重依賴算法系統(tǒng)的分析、評(píng)估、判定和預(yù)測。不難發(fā)現(xiàn)，智能化科技已全面滲入國家治理中，已成為國家治理和統(tǒng)治體系不可或缺的一部分，它不再僅僅是我們認(rèn)識(shí)世界和改造世界的中性工具，它已經(jīng)系統(tǒng)、深度地介入政治體系運(yùn)作之中。這樣，國家權(quán)力為算法賦權(quán)，而算法也為國家權(quán)力賦能，這兩者相互滲透與交融，將逐步生成一種合理化、普遍化和系統(tǒng)化的“算法極權(quán)”。它將滲透和蔓延到各個(gè)組織或個(gè)體的血液里，操控著人們的行為、表達(dá)、情緒和認(rèn)知，這已成為一種新型的社會(huì)控制形式。

然而，值得我們警惕的是，這種算法權(quán)力意志以這種新型的數(shù)字化、算法化社會(huì)治理形式遮蔽其自身的“極權(quán)特征”，進(jìn)而通過算法的家長主義立場為其自身的強(qiáng)權(quán)行徑提供正當(dāng)性的道德辯護(hù)。換言之，這種算法權(quán)力意志以一種數(shù)字化、算法化的科學(xué)外衣來遮蔽自身的極權(quán)特性；以一種政治性的、科學(xué)性的進(jìn)步力量展現(xiàn)自身，與算法科技不斷進(jìn)步的正當(dāng)性敘事相得益彰、相輔相成，不斷滲透到人們的意識(shí)形態(tài)中[19]（121）。算法權(quán)力不斷地意識(shí)形態(tài)化，追求進(jìn)步神話，它已不僅是智能科技力量強(qiáng)大的一種象征性敘事，更多的是凸顯人們對于算法權(quán)力“崇拜”的潛意識(shí)。它力圖訴諸“科學(xué)外衣”、“進(jìn)步神話”和“崇拜意識(shí)”，使其自身的權(quán)力獲得某種合法性與正當(dāng)性，即普遍認(rèn)同和相信它的權(quán)力和進(jìn)步將會(huì)為人類創(chuàng)造更多的福祉或價(jià)值，以及帶來美好的生活。就其深層含義而言，這便是算法的權(quán)力意志力圖訴諸家長主義立場以為其自身的權(quán)力謀求某種合法性和正當(dāng)性。

綜上所述，基于算法系統(tǒng)所構(gòu)建的數(shù)字社會(huì)中，數(shù)字化、算法化已成為人類的基本生存方式，算法權(quán)力意志從日常生活、社會(huì)活動(dòng)和國家治理中廣泛存在的算法家長主義現(xiàn)象中獲得正當(dāng)性支持；從科技進(jìn)步論、科技價(jià)值論和意識(shí)形態(tài)論那里蘊(yùn)含的算法家長主義觀念中獲得合理性支持。然而，值得我們深刻反思的是，如果算法權(quán)力以一種科學(xué)、進(jìn)步和道德的形象展現(xiàn)自身，將會(huì)使得人們自覺或不自覺地將算法權(quán)力本身的邏輯與規(guī)則內(nèi)化為我們自身的追求和理想；使人們在內(nèi)心深處認(rèn)同、接受和服從這種基于算法權(quán)力所構(gòu)建的數(shù)字社會(huì)秩序，而這種內(nèi)化、認(rèn)同、接受和服從意識(shí)反過來又進(jìn)一步維系了算法權(quán)力的合法性和正當(dāng)性。

四、慎思算法家長主義為平臺(tái)權(quán)力提供合法性辯護(hù)

隨著大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)和5G通信等新興科技的高速發(fā)展，促成社會(huì)各種要素智能互聯(lián)，社會(huì)經(jīng)濟(jì)日趨平臺(tái)化，平臺(tái)組織在數(shù)字社會(huì)、數(shù)字經(jīng)濟(jì)領(lǐng)域的主導(dǎo)作用日益凸顯[20]（2）。在日常生活中，淘寶、京東、百度、滴滴、美團(tuán)、微信、支付寶等超級(jí)平臺(tái)日益支配、操控和維持著人們的生活樣態(tài)、行為模式和生存方式。平臺(tái)模式日益成為社會(huì)經(jīng)濟(jì)運(yùn)行的重要模式，已經(jīng)成為繼資本、勞動(dòng)、技術(shù)之后的新生產(chǎn)要素，平臺(tái)模式改變著整個(gè)社會(huì)經(jīng)濟(jì)形態(tài)，正在主宰著整個(gè)社會(huì)經(jīng)濟(jì)的運(yùn)行，極大地影響著社會(huì)權(quán)力結(jié)構(gòu)，并催生了平臺(tái)權(quán)力[21]（98-99）。當(dāng)人們享受超級(jí)平臺(tái)帶來的高效、精準(zhǔn)和即時(shí)服務(wù)的同時(shí)，也在自覺或不自覺地以付出個(gè)人數(shù)據(jù)為代價(jià)，從而為這些超級(jí)平臺(tái)賦權(quán)，使它們獲得操控用戶的權(quán)力。存在于機(jī)構(gòu)（如政府）、組織（企業(yè)）和符號(hào)控制者（公司制媒體）的傳統(tǒng)權(quán)力受到挑戰(zhàn)，而平臺(tái)組織通過整合離散化的資源要素形成新的壟斷權(quán)力，并在無形的虛擬網(wǎng)絡(luò)中傳播、演化和嬗變，形成新的權(quán)力體系[21]（102）。新興智能科技的不斷發(fā)展和平臺(tái)規(guī)模不斷擴(kuò)大，以及平臺(tái)權(quán)力監(jiān)管的滯后或缺失，平臺(tái)自我治理需要、事實(shí)壟斷的存在，行業(yè)自治建設(shè)薄弱等現(xiàn)實(shí)因素[22]（18-20），使得平臺(tái)權(quán)力日益擴(kuò)張和膨脹，在一些實(shí)際應(yīng)用場景中已催生出平臺(tái)的霸權(quán)行為，引起社會(huì)各界的廣泛關(guān)注與質(zhì)疑。

Facebook、Google、Instagram、推特、騰訊、抖音等平臺(tái)發(fā)布規(guī)則、聲明和懲罰條款，平臺(tái)聲稱秉持公開、透明和中立等原則，依據(jù)相應(yīng)的平臺(tái)規(guī)則對內(nèi)容生產(chǎn)者（生產(chǎn)者）的創(chuàng)作范圍、內(nèi)容和方式進(jìn)行審核，也需要對內(nèi)容使用者（用戶）的使用、互動(dòng)進(jìn)行審核和監(jiān)視，對那些被認(rèn)定為“作弊”或“玩弄算法”的內(nèi)容生產(chǎn)者進(jìn)行懲戒，對那些惡意使用者、非法操縱者和使用不當(dāng)者等發(fā)布的內(nèi)容進(jìn)行刪除、警告、屏蔽或關(guān)停。平臺(tái)主張，誘導(dǎo)分享、搜索引擎優(yōu)化、“擦邊”行為、“惡意引流”等“玩弄算法”的作弊行為會(huì)干擾算法系統(tǒng)自身的運(yùn)算邏輯，進(jìn)而損害算法系統(tǒng)運(yùn)算結(jié)果的完備性、正當(dāng)性和可信性。平臺(tái)聲稱，為了提高服務(wù)質(zhì)量和保障內(nèi)容生產(chǎn)的多樣性，提升生產(chǎn)內(nèi)容的趣味性和價(jià)值性，為了維護(hù)廣大生產(chǎn)者和用戶的長遠(yuǎn)的正當(dāng)利益，它們秉持中立、平等、公平和透明原則，依據(jù)相關(guān)規(guī)則對那些玩弄算法的內(nèi)容生產(chǎn)者和用戶行為進(jìn)行干預(yù)或懲戒。

平臺(tái)權(quán)力產(chǎn)生于平臺(tái)組織對平臺(tái)所凝結(jié)的價(jià)值、影響力和掌控力的占有，其核心要素是不對稱的操控能力與資源掌控。平臺(tái)運(yùn)作與經(jīng)營是一種自然的、自律的、自發(fā)的協(xié)同整合行為[21]（103）。然而，一旦平臺(tái)方意識(shí)到匯聚、整合和操控平臺(tái)上各種用戶資源和信息價(jià)值的潛在利益，這些行為就會(huì)體現(xiàn)平臺(tái)組織的主觀意志，從而催生平臺(tái)的權(quán)力意志，而這種權(quán)力意志為了確保自身強(qiáng)權(quán)行為的有效性與合法性，勢必為其謀求正當(dāng)性辯護(hù)。平臺(tái)組織聲稱對玩弄算法的生產(chǎn)者或用戶進(jìn)行干預(yù)或懲戒，是為了維護(hù)算法系統(tǒng)自身運(yùn)行的完備性、中立性和可信性，因?yàn)橹挥兴惴ㄏ到y(tǒng)符合自身的邏輯和規(guī)則運(yùn)作，才能為生產(chǎn)者提供高效、規(guī)范和公平的平臺(tái)生態(tài)，才能為廣大用戶提供高效、精準(zhǔn)和可信賴的內(nèi)容與服務(wù)。換言之，平臺(tái)權(quán)力的運(yùn)作是為了更好地保障算法系統(tǒng)按照其自身的邏輯和規(guī)則運(yùn)行，算法只有如此這般才能最大可能發(fā)揮其功效，為內(nèi)容生產(chǎn)者和用戶帶來真正的長遠(yuǎn)的利益，顯然這與算法的家長主義立場不謀而合。

平臺(tái)權(quán)力的展現(xiàn)與運(yùn)作是為了維持算法系統(tǒng)的正常運(yùn)作，確保算法的“純潔性”和“完備性”，從而更好捍衛(wèi)用戶和內(nèi)容生產(chǎn)者的最大利益。它通過建構(gòu)這種特定的道德話語框架，由此確立其自身的權(quán)力和利益的合法性，以及賦予其自身價(jià)值的中立性和道德權(quán)威的正當(dāng)性[23]（2），這將積極促進(jìn)廣大生產(chǎn)者與用戶對平臺(tái)權(quán)力的理解、認(rèn)同和支持。然而，真正值得我們慎思和警惕的是，平臺(tái)權(quán)力一旦使其自身的強(qiáng)權(quán)行徑獲得了算法家長主義的合法性辯護(hù)，將會(huì)促使這種權(quán)力意志不斷擴(kuò)張和膨脹，進(jìn)而加速平臺(tái)公權(quán)私有化，造成平臺(tái)權(quán)力壟斷，影響參與主體的利益分配格局，導(dǎo)致平臺(tái)權(quán)力異化，從而偏離社會(huì)最優(yōu)水平；也會(huì)加劇平臺(tái)權(quán)力濫用、平臺(tái)責(zé)任泛化，從而導(dǎo)致平臺(tái)與政府、平臺(tái)與用戶、平臺(tái)與社會(huì)、平臺(tái)與平臺(tái)之間的沖突不斷[21]（106）。

五、批判算法家長主義為現(xiàn)存算法秩序提供合理性辯護(hù)

人類由傳統(tǒng)工業(yè)社會(huì)逐步邁入新型的數(shù)字社會(huì)，新型社會(huì)形態(tài)的演進(jìn)理應(yīng)推動(dòng)社會(huì)的物質(zhì)和精神財(cái)富的增長，促進(jìn)人的自由全面發(fā)展。然而，在這種新型的數(shù)字化社會(huì)中，算法系統(tǒng)日益成為支配數(shù)字社會(huì)各個(gè)領(lǐng)域的一種社會(huì)權(quán)力。個(gè)人、組織以及政府治理，日益依賴和受制于算法系統(tǒng)所提供的分析、預(yù)測和決策功能，我們的表達(dá)、情緒、行為和認(rèn)知等也越來越受算法系統(tǒng)的影響和擺置。數(shù)字社會(huì)的功能結(jié)構(gòu)、運(yùn)作秩序和協(xié)同機(jī)制本質(zhì)上是由算法系統(tǒng)控制和維持的。算法系統(tǒng)依據(jù)其自身的特性與邏輯來預(yù)制和控制數(shù)字社會(huì)的組織、結(jié)構(gòu)和秩序，以及人們的生活生產(chǎn)方式、交往方式和思維方式。由此，不難發(fā)現(xiàn)，隨著以算法系統(tǒng)為其“靈魂”的數(shù)字社會(huì)初顯端倪，人的認(rèn)知、思維和行為日益受制于算法特性與邏輯。在無處不在的算法意志的座架下，人們越來越“確信”算法秩序的合理性與正當(dāng)性。

當(dāng)前算法科技的發(fā)展浪潮勢不可擋，科技進(jìn)步論的觀念普遍支配著人們對于算法發(fā)展的態(tài)度和認(rèn)知，導(dǎo)致人們自覺或不自覺地認(rèn)同算法家長主義的合理性。算法系統(tǒng)依據(jù)其自身邏輯與規(guī)則來干預(yù)甚至操控用戶的表達(dá)、認(rèn)知、選擇意愿和決策行為，它不僅代替人類計(jì)算和分析，還為人們做選擇、做決策。這些具有一定“能動(dòng)性與自主性”的算法行為，在家長主義立場的辯護(hù)下，是為了實(shí)現(xiàn)人們自身的福祉、利益或價(jià)值，這使得算法系統(tǒng)貌似可以為其自身的行為提供某種道德辯護(hù)。然而，這將很可能促使人們未經(jīng)反思地相信算法系統(tǒng)本身的結(jié)構(gòu)和功能及其所生成的算法秩序也是在為人們自身創(chuàng)造新福利、新價(jià)值和新進(jìn)步；這也使得算法及其所帶來的算法秩序可以獲得某種合理性的辯護(hù)?；诖?，我們可以看到，如果人們普遍相信算法系統(tǒng)的出發(fā)點(diǎn)終究是為被干預(yù)者或用戶自身的利益、價(jià)值和幸福生活著想的，那么被干預(yù)者需要讓渡出自身的自主權(quán)及其他權(quán)益也是可以理解的；在這種“算法至善”的意志作用下，支配和維持?jǐn)?shù)字社會(huì)的算法秩序所帶來的問題最終也是可以得到解決的。由此可以推斷，當(dāng)前數(shù)字社會(huì)的現(xiàn)存算法秩序可以從算法家長主義立場中獲得某種合理性辯護(hù)。這一情形值得我們警惕，更需要深入反思與批判。

在算法家長主義的“觀念”中，“人類自主行為”往往被視為導(dǎo)致偏離最佳“秩序”的因素而需要得到合理修正和控制[1]（175），這意味著人們的行為應(yīng)該屈從算法秩序，從而讓人的行為更加自主。在我們看來，實(shí)際的情形可能恰恰相反，在算法秩序所建構(gòu)的數(shù)字社會(huì)中，人的諸多行為還原為可計(jì)算、可分析和可預(yù)測的對象，每個(gè)個(gè)體或群體的行為都被表征為均質(zhì)化、無差別的代碼，在算法家長主義立場的承諾下，他們的行為只要遵從算法秩序就會(huì)變得更加自主。然而，在一個(gè)媒體和代碼無處不在的社會(huì)，權(quán)力越來越存在于算法之中[24]（55-78）。在算法權(quán)力意志與家長主義的合謀下，算法在道德外衣的加持下無所畏懼。這很可能導(dǎo)致算法自身的邏輯與結(jié)構(gòu)及其所生成的算法秩序?qū)⒊蔀槿松嬗谑赖膬?nèi)在規(guī)則，人的認(rèn)知、情緒和欲求為算法系統(tǒng)所預(yù)先訂造，人之為人的本質(zhì)也將主要源自算法自身特性的內(nèi)在規(guī)定，人的自主行為將名存實(shí)亡。

算法權(quán)力與家長主義的不謀而合，使得當(dāng)前社會(huì)的算法秩序貌似可以獲得某種合理辯護(hù)，然而，實(shí)質(zhì)上卻使得算法以一種獲得正當(dāng)性的普遍權(quán)力展現(xiàn)自身，引致一系列算法危機(jī)及其困境。隨著算法科技與商業(yè)、資本和國家治理深度融合，彼此賦能賦權(quán)，催生算法權(quán)力。然而，當(dāng)算法權(quán)力獲得“仁慈父親”的角色，它的權(quán)力將會(huì)進(jìn)一步“正當(dāng)?shù)亍迸蛎?，突破倫理邊界，走向算法霸?quán)；強(qiáng)行依據(jù)其自身的邏輯與規(guī)則來操控與訂造人們的生產(chǎn)生活、交往和思維方式；促逼著數(shù)字社會(huì)秩序屈從“算法巨機(jī)器”所先行規(guī)定的秩序，進(jìn)一步加劇“算法歧視”“算法合謀”等倫理問題。

平臺(tái)或機(jī)構(gòu)權(quán)力與家長主義的蓄意共謀，將進(jìn)一步擴(kuò)大平臺(tái)或機(jī)構(gòu)的權(quán)力與個(gè)人權(quán)利的鴻溝。平臺(tái)或機(jī)構(gòu)組織作為當(dāng)前算法秩序的重要引導(dǎo)者與監(jiān)管者，一旦平臺(tái)方意識(shí)到自身能掌控、壟斷和管制平臺(tái)上各種用戶資源和信息價(jià)值，就會(huì)促進(jìn)平臺(tái)組織的主觀意志的生成，從而催生平臺(tái)的權(quán)力意志，而這種權(quán)力意志將會(huì)為其自身所監(jiān)管的算法秩序謀求合理性與正當(dāng)性。我們可以看到，平臺(tái)或機(jī)構(gòu)利用大數(shù)據(jù)和算法等技術(shù)，匯聚和運(yùn)算海量的用戶數(shù)據(jù)，使得政府部門、智能科技公司、企業(yè)平臺(tái)等能夠利用新的監(jiān)控、規(guī)訓(xùn)和操縱的方式來駕馭用戶或個(gè)體；它們在很大程度上掌握著數(shù)據(jù)采集、儲(chǔ)存、監(jiān)管和使用的權(quán)力，也把控著算法設(shè)計(jì)、規(guī)范、應(yīng)用和問責(zé)的權(quán)力。平臺(tái)憑借算法話語的合理性、復(fù)雜性和正當(dāng)性，憑借算法家長主義的合理性辯護(hù)，贏得大眾用戶、專業(yè)媒體和政治資本的認(rèn)同，從而進(jìn)一步夯實(shí)平臺(tái)或機(jī)構(gòu)組織所主導(dǎo)的現(xiàn)存算法秩序的合理性與正當(dāng)性。然而，讓我們擔(dān)憂的是，隨著平臺(tái)或機(jī)構(gòu)權(quán)力日益合理化、合法化與強(qiáng)制化，所付出的代價(jià)是個(gè)體的權(quán)利空間日趨扁平化、形式化；個(gè)體的自由空間、自我調(diào)控能力、作用范圍和申訴渠道等將會(huì)遭到平臺(tái)權(quán)力的抑制，與此同時(shí)所伴隨的是自治權(quán)、知情同意權(quán)、參與權(quán)和申訴權(quán)等個(gè)體權(quán)益面臨嚴(yán)重挑戰(zhàn)。顯然，以這種算法家長主義所“聲援”的算法秩序，將進(jìn)一步加深機(jī)構(gòu)權(quán)力與個(gè)人權(quán)利的鴻溝，也會(huì)加快個(gè)人自治權(quán)及其數(shù)字權(quán)利的喪失。

當(dāng)面對社會(huì)各界對于算法倫理問題的質(zhì)疑時(shí)，很多情形下為現(xiàn)存算法秩序進(jìn)行辯護(hù)的理由依然是算法家長主義式的。諸如，一方面日常生活、商業(yè)和政府治理等領(lǐng)域的算法應(yīng)用，促進(jìn)人們對事物或信息的認(rèn)識(shí)、理解和分析，進(jìn)而促進(jìn)人的行為自主或自治；另一方面，如安防領(lǐng)域的人臉識(shí)別、醫(yī)療領(lǐng)域的算法應(yīng)用、智能制造和智慧城市等，為人們創(chuàng)造了更多的利益、福祉和價(jià)值。然而，面對算法科技及算法秩序帶來的諸多倫理問題與挑戰(zhàn)時(shí)，有學(xué)者主張，對算法研發(fā)與應(yīng)用進(jìn)行適度的倫理審查與監(jiān)管，促進(jìn)算法科技健康有序發(fā)展，核心理念是倫理“服務(wù)”算法；也有學(xué)者主張將算法倫理形式化，通過技術(shù)方案來解決。這些解決思路凸顯的依然是算法家長主義立場的合理性與優(yōu)越性。但我們認(rèn)為，一方面，僅憑借算法科技自身的發(fā)展與完善很難擔(dān)當(dāng)起如此大任，縱觀計(jì)算技術(shù)發(fā)展的歷史本身，其所帶來的倫理問題并沒隨著計(jì)算速度與能力的改進(jìn)和發(fā)展而得到更好的解決，甚至是進(jìn)一步固化原有的問題，引發(fā)更具有挑戰(zhàn)的新問題與新風(fēng)險(xiǎn)；另一方面，就算法的根本特性而言，它是數(shù)學(xué)模型與邏輯的衍生物，它本身并不會(huì)去追問它自身存在的意義問題，更不會(huì)去思慮它自身的發(fā)展對人類生存意味著什么，它更多的是在不斷趨近工具理性的完備狀態(tài)。

[參考文獻(xiàn)]

[1]賈開.算法社會(huì)的技術(shù)內(nèi)涵、演化過程與治理創(chuàng)新[J].探索，2022（2）.

[2]DWORKIN G. Paternalism[C]//GOROVITZ S，JAMETON L A，MACKLIN R，et al（eds.）. Moral Problems in Medicine. Englewood Cliffs，NJ：Prentice-Hall，1976.

[3]BEAUCHAMP T L. Paternalism[C]//POST S G（ed.）. Encyclopedia of Bioethics. New York：Thomson Gale press，2004.

[4]DWORKIN G. Paternalism[C]//WASSERSTROM R（ed.）. Morality and the Law. Belmont，CA：Wadsworth Pub？ lishing Company Ltd，1971.

[5]GERT B，CULVER C M. Paternalistic Behavior[J].Philosophy and Public Affairs，1976，6（1）.

[6]DWORKIN G. Paternalism[EB/OL].[2024-10-27].Standford Encyclopedia of Philosophy，2024. https：//plato. stanford.edu/entries/paternalism/.

[7]陳昌鳳，師文.個(gè)性化新聞推薦算法的技術(shù)解讀與價(jià)值探討[J].中國編輯，2018（10）.

[8]陳昌鳳，石澤.技術(shù)與價(jià)值的理性交往：人工智能時(shí)代信息傳播——算法推薦中工具理性與價(jià)值理性的思考[J].新聞戰(zhàn)線，2017（17）.

[9]彭蘭.算法社會(huì)的“囚徒”風(fēng)險(xiǎn)[J].全球傳媒學(xué)刊，2021（1）.

[10]KüHLER M. Exploring the Phenomenon and Ethical Issues of Al Paternalism in Health Apps[J].Bioethics，2020，36（2）.

[11]POPE T M. Counting the Dragon’s Teeth and Claws：The Definition of Hard Paternalism[J].Georgia State University Law Review，2004，20（3）.

[12]約翰·密爾.論自由[M].許寶骙，譯.北京：商務(wù)印書館，1998.

[13]FEINBERG J. Legal Paternalism[C]//SARTORIUS R（ed.）. Paternalism. Minneapolis，MN：University of Minne？ sota Press，1983.

[14]朱偉.醫(yī)療家長主義在何種程度上得到辯護(hù)？[J].倫理學(xué)研究，2018（2）.

[15]SULLINS J P. When Is a Robot a Moral Agent？[J].International Review of Information Ethies，2006，6（6）.

[16]郭春鎮(zhèn).“權(quán)力—權(quán)利”視野中的數(shù)字賦能雙螺旋結(jié)構(gòu)[J].浙江社會(huì)科學(xué)，2022（1）.

[17]肖濱.信息技術(shù)在國家治理中的雙面性與非均衡性[J].學(xué)術(shù)研究，2009（11）.

[18]單勇.跨越“數(shù)字鴻溝”：技術(shù)治理的非均衡性社會(huì)參與應(yīng)對[J].中國特色社會(huì)主義研究，2019（5）.

[19]皇甫博媛.“算法游戲”：平臺(tái)家長主義的話語建構(gòu)與運(yùn)作機(jī)制[J].國際新聞界，2021（11）.

[20]丁道勤.《電子商務(wù)法》平臺(tái)責(zé)任“管道化”問題及其反思[J].北京航空航天大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018（6）.

[21]張燕，張祥建.平臺(tái)權(quán)力的結(jié)構(gòu)、擴(kuò)張機(jī)制與異化效應(yīng)[J].社會(huì)科學(xué)家，2022（2）.

[22]李振宇.超級(jí)平臺(tái)的權(quán)力擴(kuò)張及其法律治理[J].汕頭大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2021（8）.

[23]PETRE C，DUFFY B E，HUND E. Gaming the System：Platform Paternalism and the Politics of Algorithmic Visibility[J].Social Media + Society，2019，5（4）.

[24]LASH S. Power After Hegemony：Cultural Studies in Mutation[J].Theory，Culture Society，2007，24（3）.

（責(zé)任編輯：孫保學(xué)）