□譚九生 范曉韻

（湘潭大學(xué)公共管理學(xué)院，湖南湘潭411105）

算法作為人工智能的核心技術(shù)，其具有的自主學(xué)習(xí)、輔助決策、配置社會資源等工具性作用早已引起各界的高度關(guān)注。自從斯科特·拉什（Scott Lash）提出“通過算法獲得權(quán)力”的觀點(diǎn)之后①2007年英國學(xué)者斯科特·拉什（Scott Lash）在其研究中指出，無處不在的媒體社會意味著權(quán)力越來越多地存在于算法中。參見Lash S.，“Power after Hegemony：Cultural Studies in Mutation，”The ory，Cul ture&Soc ie ty 24，No.3（2007 b）：71.，對于算法嵌入權(quán)力運(yùn)行系統(tǒng)、算法支配社會行動、算法權(quán)力規(guī)制等方面的研究引起了國內(nèi)外學(xué)者的關(guān)注，并取得了一些研究成果。如有研究者指出，算法權(quán)力同時具備技術(shù)特征和資本特性，算法權(quán)力的應(yīng)用不僅會引起國家與社會關(guān)系的變革，還會引發(fā)資本與國家關(guān)系的重塑，需要加強(qiáng)國家和國際層面對于算法權(quán)力的規(guī)制[1]；另有觀點(diǎn)認(rèn)為，算法憑借機(jī)器優(yōu)勢、架構(gòu)優(yōu)勢和嵌入優(yōu)勢產(chǎn)生了算法權(quán)力，但缺乏有效規(guī)制的算法權(quán)力呈現(xiàn)出異化的表征，導(dǎo)致公權(quán)力運(yùn)行失范、公民權(quán)利受損等問題，需要從限權(quán)與賦權(quán)兩個方面對異化的算法權(quán)力進(jìn)行法律規(guī)制等[2]。這些成果為進(jìn)一步深化算法權(quán)力研究奠定了基礎(chǔ)。然而學(xué)界并沒有對算法為何是權(quán)力、是何種性質(zhì)的權(quán)力、其表現(xiàn)形式怎樣等基礎(chǔ)性問題做出系統(tǒng)性論述，僅是將其作為一個規(guī)范性概念來論證各自需要解決的問題。這很容易導(dǎo)致立論基礎(chǔ)不清晰、學(xué)術(shù)對話概念口徑不統(tǒng)一、理論建構(gòu)不嚴(yán)謹(jǐn)?shù)葐栴}。因此，本文嘗試在梳理“算法即權(quán)力”的爭議基礎(chǔ)上，遵循政治哲學(xué)中有關(guān)“權(quán)力”的核心特征標(biāo)準(zhǔn)，經(jīng)知識遷移，通過對算法權(quán)力的釋義與證成，梳理算法權(quán)力的表現(xiàn)形式，歸納算法權(quán)力的生成基礎(chǔ)，以澄清目前學(xué)界對此概念使用較為混亂的問題。

一、算法權(quán)力成立與否的爭論

算法是權(quán)力嗎？就目前而言，學(xué)界對此看法不一，產(chǎn)生分歧的根源在于學(xué)者們對算法的概念存在不同認(rèn)知和理解。

（一）“算法不是權(quán)力”之理解

以奈蘭（Neyland）和莫勒斯（M?llers）為代表的一些學(xué)者不認(rèn)同“算法權(quán)力”概念，更質(zhì)疑“算法權(quán)力”的生成基礎(chǔ)，認(rèn)為權(quán)力的產(chǎn)生并不完全歸因于算法本身。他們認(rèn)為算法的核心是“如果……那么”（“If…Then…”）的結(jié)構(gòu)規(guī)則，規(guī)則被設(shè)計為按照某種方式運(yùn)行[3]。據(jù)此，可以基本判定他們是基于本體論視角來認(rèn)識算法的，算法本體論即回答算法本身是什么，或算法本源的問題。他們在這個意義上所塑造的算法本身，是以數(shù)學(xué)結(jié)構(gòu)為基礎(chǔ)，以計算機(jī)代碼為載體的程序、指令或規(guī)則。同時，奈蘭和莫勒斯遵循法國當(dāng)代哲學(xué)家拉圖爾（La?tour）的權(quán)力觀，認(rèn)為權(quán)力應(yīng)該如同任何人工制品一般，是一種需要產(chǎn)生和實現(xiàn)的結(jié)果，而不是固有的或已經(jīng)給定的，也不是事件的原因。他們依照這個邏輯進(jìn)一步探索算法與權(quán)力形式之間的聯(lián)系，認(rèn)為權(quán)力不是算法的主體特征，不能將“權(quán)力”僅僅歸功于作為單個實體的算法。另外，他們認(rèn)為算法本身會對社會產(chǎn)生影響，簡單地將算法的社會影響力等同于算法權(quán)力是創(chuàng)造了一條從算法規(guī)則飛躍到算法輸出的捷徑，事實上其間忽略了構(gòu)成結(jié)構(gòu)規(guī)則所需的條件，也忽略了算法系統(tǒng)的情境特征。換句話說，算法要通過成功運(yùn)行這樣的規(guī)則產(chǎn)生社會力量，需要具備多種條件（If）和結(jié)果（Then）[3]。在奈蘭和莫勒斯之外，還有一些學(xué)者持類似觀點(diǎn)，例如，羅布·基欽（Rob Kitchin）圍繞公眾難以知道算法是如何對其自身行使權(quán)力的這一問題，批判性地思考了算法的本質(zhì)，認(rèn)為算法不能被理解為一種技術(shù)的、客觀的、公正的知識形式或操作方式，“‘算法’是更廣泛的設(shè)備中的一個元素”[4]，它不能孤立地工作。大衛(wèi)·比爾（David Beer）在對算法的社會權(quán)力研究中指出，“將某一特定算法視為其社會生態(tài)之外的單獨(dú)研究項目很可能是錯誤的，算法不應(yīng)該被理解為存在于這些社會過程之外的對象”[5]，需要超越作為一種技術(shù)和物質(zhì)而存在的算法本身來探索算法的權(quán)力（作為社會權(quán)力），算法的概念（即算法本身）只是它們潛在力量的一個重要特征。整體上，不認(rèn)同“算法權(quán)力”概念的學(xué)者們實質(zhì)上是不主張作為單個實體的算法本身擁有某些形式的權(quán)力。

（二）“算法是權(quán)力”之理解

另一種觀點(diǎn)認(rèn)為，算法是一種權(quán)力。帕斯奎爾（Pasquale）提出的“權(quán)力越來越多地通過算法來表達(dá)”這一觀點(diǎn)，開啟了一系列關(guān)于算法在權(quán)力部署或表達(dá)中的作用的問題[6]。比爾指出了算法權(quán)力的生成原因，一方面，算法的功能部署了算法權(quán)力，即算法的權(quán)力在于它們做出選擇、分類、整理、排序和排名的能力；另一方面，算法權(quán)力的一種方式與真理的產(chǎn)生有關(guān)，算法進(jìn)行的實質(zhì)性干預(yù)、隨機(jī)性干預(yù)或兩者的結(jié)合所產(chǎn)生和維護(hù)的某些真理提供了算法權(quán)力[5]。同樣，國內(nèi)也不乏該觀點(diǎn)的支持者，如周輝認(rèn)為包括政府公權(quán)力和平臺企業(yè)私權(quán)力在內(nèi)的算法權(quán)力是在算法、互聯(lián)網(wǎng)、大數(shù)據(jù)應(yīng)用“三位一體”的算法社會中產(chǎn)生的[7]；陳鵬認(rèn)為算法權(quán)力是一種新型的權(quán)力形態(tài)，是算法技術(shù)平臺的研發(fā)者和控制者憑借自身的技術(shù)優(yōu)勢而生成的對政府、社會組織、公民等對象的影響力和控制力[1]。的確，算法的工具性功能可以使其演化為一種資源、商品、財產(chǎn)甚至是一種社會建構(gòu)力量，如果不認(rèn)為算法是一種權(quán)力，那么算法具有的事實上的影響力和支配力又應(yīng)該如何解釋呢？奈蘭和莫勒斯給出了他們的答案——與其認(rèn)為算法擁有權(quán)力，不如認(rèn)為權(quán)力來自于“算法關(guān)聯(lián)”（algorith?mic association）[3]，即算法的權(quán)力應(yīng)該在算法規(guī)則運(yùn)行所需的條件和結(jié)果中實現(xiàn)，算法規(guī)則的條件和結(jié)果只有通過一系列人員、資源、流程和特定情境之間相對不穩(wěn)定的關(guān)聯(lián)與結(jié)合才能形成。羅布·基欽提出的“算法的完整社會技術(shù)集合”也表達(dá)了這一層意思[4]?？梢园l(fā)現(xiàn)，他們是基于聯(lián)系的視角來看待產(chǎn)生社會影響和社會力量的算法的，起碼不能脫離算法開發(fā)、部署和運(yùn)行的條件來探究算法，在這個意義上，也可以認(rèn)為作為“社會技術(shù)集合”的算法是一種權(quán)力。

（三）爭論焦點(diǎn)與本研究主張

算法是權(quán)力或不是權(quán)力的觀點(diǎn)對峙，其原因乃是各學(xué)者對于算法的不同認(rèn)知和理解。主張“算法不是權(quán)力”的學(xué)者是基于本體論的視角看待算法，認(rèn)為算法是建立在抽象數(shù)學(xué)模型基礎(chǔ)上的計算機(jī)代碼鏈；主張“算法是權(quán)力”的學(xué)者則是基于系統(tǒng)的觀點(diǎn)看待算法，認(rèn)為算法是社會技術(shù)集合中的一個元素或算法運(yùn)行系統(tǒng)的一部分。

蒙福特（Montfort）等人指出，代碼（code）不是純粹的抽象和數(shù)學(xué)，它具有重要的社會、政治和審美維度”，編程“不是一種枯燥的技術(shù)練習(xí)，而是對審美、材料和形式品質(zhì)的探索[8]?；诖?，羅布·基欽（Rob Kitchin）認(rèn)為“創(chuàng)建一種算法是通過試錯、游戲、協(xié)作、討論和談判等過程在上下文中展開的”，算法“需要被理解為關(guān)系型的、偶然性的、上下文相關(guān)的，在其社會技術(shù)集合的更廣泛的上下文中被框定”[4]。從國家治理的角度，本研究認(rèn)為算法不是純粹的數(shù)學(xué)結(jié)構(gòu)和計算機(jī)代碼，它具有重要的社會性，內(nèi)在地由各種資本、法律制度、技術(shù)標(biāo)準(zhǔn)、使用協(xié)議，以及使其實施的硬件和基礎(chǔ)設(shè)施實質(zhì)性地構(gòu)成和塑造。因此，本文傾向于從系統(tǒng)的觀點(diǎn)看待算法，把算法視為在實踐過程中將基礎(chǔ)資源要素、技術(shù)要素和外在力量要素緊密關(guān)聯(lián)的算法系統(tǒng)。

二、算法是權(quán)力：基于支配力的證成

權(quán)力的本質(zhì)是一種支配力，本文將從支配力的視角出發(fā)，證成“算法是權(quán)力”。

（一）權(quán)力的本質(zhì)是支配力

權(quán)力存在于一定的社會關(guān)系之中，只有當(dāng)主體憑借其擁有的資源對受體發(fā)生強(qiáng)制影響，即通過支配受體以實現(xiàn)主體自身意志時，才構(gòu)成權(quán)力。很明顯，在權(quán)力關(guān)系中，強(qiáng)制性是最為本質(zhì)的特點(diǎn)，這意味著權(quán)力主體和權(quán)力受體之間的權(quán)勢是不相稱的，權(quán)力的運(yùn)行以主體的命令和受體的服從為條件。簡言之，權(quán)力關(guān)系是支配與服從的關(guān)系。由此可見，權(quán)力的本質(zhì)是一種支配力，正如馬克斯·韋伯所指出的，“‘支配’乃是共同體行動（Gemeinschaftshandeln）中最重要的環(huán)節(jié)之一”[9]。另有學(xué)者認(rèn)同此見解，認(rèn)為支配是權(quán)力的主要特征、權(quán)力的支配功能是“整個社會結(jié)構(gòu)體系穩(wěn)定運(yùn)作的必需”[10]。

權(quán)力主體之所以能夠?qū)Ψ叫惺怪淞Γ谟谄鋼碛械奈镔|(zhì)資源、精神資源等。如政府等公權(quán)力機(jī)構(gòu)代表國家，并憑借國家機(jī)器等統(tǒng)治資源形成的對社會主體的強(qiáng)制力；私人資本憑借資金、產(chǎn)業(yè)等經(jīng)濟(jì)資源產(chǎn)生的對勞動者的支配力；非政府組織憑借信息、社會輿論等社會資源產(chǎn)生的對政府和市場主體的社會壓力，等等。不過，基于權(quán)力主體和權(quán)力受體的不同，支配力存在大小和軟硬的區(qū)別。權(quán)力主體是國家政治機(jī)構(gòu)時，行使的就是國家權(quán)力，相對于社會主體，國家擁有較大較硬的支配力；權(quán)力主體是社會組織、社會群體或公民個人時，就被稱為社會權(quán)力，它們對政府機(jī)構(gòu)和其他社會主體的支配力一般屬于軟權(quán)力。

（二）擁有支配力的算法是權(quán)力

算法技術(shù)能夠為政治體系鞏固權(quán)力，為企業(yè)獲取豐厚利潤，為社會公民擴(kuò)大政治參與，其強(qiáng)大的工具性價值使政府、市場以及社會行動者均對算法這一前沿技術(shù)表現(xiàn)出強(qiáng)烈的需要，可見算法技術(shù)在國家治理體系中舉足輕重。實際上，算法的所有者憑借他們所掌握的巨大技術(shù)優(yōu)勢，在各個領(lǐng)域廣泛且持續(xù)地行使著支配力，在微觀層面上引導(dǎo)、支配著人的認(rèn)知模式和行為方式，在宏觀層面上控制著社會運(yùn)行方式。因此本文認(rèn)為，擁有支配力的算法是權(quán)力，具體而言，算法權(quán)力是一種社會權(quán)力，是一定的社會主體憑借其對所擁有算法系統(tǒng)資源的控制，而形成的一種對國家和社會的支配力。當(dāng)算法權(quán)力作為一種積極的建設(shè)性權(quán)力時，能夠?qū)液蜕鐣卫砥鹜苿幼饔?，而?dāng)算法權(quán)力作為一種消極的破壞性權(quán)力時，將產(chǎn)生一系列負(fù)效應(yīng)。以下行文討論算法在政治領(lǐng)域和市場經(jīng)濟(jì)領(lǐng)域所擁有支配力的具體表征。

算法在政治領(lǐng)域的支配力。一個國家的政府作為主要的政治行為者，掌握著具有強(qiáng)制約束性的政治權(quán)力。“政治權(quán)力一經(jīng)形成，就會成為支配性的能動力量”[11]，且具有內(nèi)在的擴(kuò)張延展性。理論上，技術(shù)具有的工具性作用能夠滿足權(quán)力確立、鞏固和擴(kuò)張的需要，新技術(shù)的發(fā)展能夠不斷地為政治權(quán)力的擴(kuò)展趨向提供基礎(chǔ)，并盡可能地擴(kuò)大權(quán)力支配功能的作用范圍。這意味著算法技術(shù)和政治的結(jié)合實現(xiàn)了政治權(quán)力的再生產(chǎn)，提高了支配力行使的效率。其一，算法配置社會資源。有學(xué)者指出，執(zhí)政黨和官僚體制在國家支配形式中的主從地位雖未發(fā)生實質(zhì)性的改變，但官僚體制對于執(zhí)政黨行使權(quán)力的合法性訴求的支持使其獲得了前所未有的擴(kuò)展[12]，政府在這一擴(kuò)展中擁有了強(qiáng)大的組織能力以及資源配置能力。隨著算法社會的到來，官僚制支配形式在演變中有了新的表現(xiàn)，政府代表著代碼規(guī)則和數(shù)據(jù)秩序，通過算法來輔助或替代自身作出決策，進(jìn)而實質(zhì)性地調(diào)配各種社會資源。其二，算法支配公民行為。公民對社會行為規(guī)范的遵守是政治行為者獲得合法性權(quán)力的基礎(chǔ)，即政治權(quán)力意志通過社會行為規(guī)范來表達(dá)。這一權(quán)力支配形式在算法社會因技術(shù)的演進(jìn)而產(chǎn)生了一些變化，政治權(quán)力意志的表達(dá)由傳統(tǒng)行為規(guī)范的話語秩序轉(zhuǎn)向了社會行為規(guī)范的數(shù)據(jù)秩序，“公民的社會認(rèn)知與行為在微觀中受到算法權(quán)力的引導(dǎo)、建構(gòu)與規(guī)訓(xùn)”[13]。例如，算法技術(shù)可以決定信息傳播的內(nèi)容、信息流動的方向與速度、營造擬態(tài)信息環(huán)境，政治權(quán)力可以通過運(yùn)用遍及社會的算法技術(shù)來傳播主流價值觀念、鞏固公民認(rèn)知模式，進(jìn)而形成公民自覺的服從行為，只是這一過程相對于傳統(tǒng)的傳播模式而言，通常是高效且隱蔽的。

算法在市場經(jīng)濟(jì)領(lǐng)域的支配力。韋伯指出，在大多數(shù)情況下，支配是以各種不同的方式利用經(jīng)濟(jì)權(quán)力來建立和保持的，“為求保持支配而使用經(jīng)濟(jì)手段的模式，反過來又對支配結(jié)構(gòu)產(chǎn)生了決定性的影響”[14]。在市場經(jīng)濟(jì)領(lǐng)域，互聯(lián)網(wǎng)公司和算法平臺企業(yè)憑借龐大的私人資本、巨大的技術(shù)優(yōu)勢以及排他的平臺資源，形成并主導(dǎo)了一個個算法生態(tài)。換句話說，算法技術(shù)和市場經(jīng)濟(jì)力量的結(jié)合，使互聯(lián)網(wǎng)公司和算法平臺企業(yè)獲得了隱蔽的支配性權(quán)力。其一，私人資本對公權(quán)力的支配力。算法技術(shù)對資本和市場的過度依賴是促使私人資本對公權(quán)力產(chǎn)生支配力的根源，對于國家和政府而言，這一支配力將激發(fā)出極大的社會經(jīng)濟(jì)進(jìn)步潛力。但若以智慧城市治理和發(fā)展為分析場域來闡釋該支配行為，智慧城市發(fā)展的最強(qiáng)烈倡導(dǎo)者是大企業(yè)，例如IBM、微軟、英特爾等，事實上，這些掌握核心算法技術(shù)和算法平臺的技術(shù)公司占據(jù)了智慧城市運(yùn)行的指揮中心：他們一方面將城市視為一個巨大的潛在市場，大力推動自己的算法技術(shù)以參與智慧城市建設(shè)進(jìn)程；另一方面將創(chuàng)造一種使城市受制于特定技術(shù)平臺和供應(yīng)商的技術(shù)鎖定，形成自身的壟斷地位，進(jìn)而能夠通過與政府博弈、尋求放松監(jiān)管，以提高資本效率、獲得更多的權(quán)力。這也就意味著公共權(quán)力被技術(shù)公司的私人資本所支配將成為一種難以避免的結(jié)果。其二，算法平臺對使用者的支配力。對于任何算法平臺的構(gòu)建者而言，他們可以憑借具有排他性的平臺資源對使用者發(fā)揮“支配性”影響。例如，使用者在進(jìn)入算法平臺之前需要同意用戶協(xié)議，平臺創(chuàng)建者可能會將一些條件和要求強(qiáng)加給潛在的算法用戶，如果那些潛在用戶需要使用該算法，為自身的利益考慮，也就必須服從這些條件和要求。再如，購物網(wǎng)站使用推薦算法精準(zhǔn)調(diào)控消費(fèi)者的消費(fèi)行為，推薦算法通過挖掘、分析消費(fèi)者在互聯(lián)網(wǎng)上產(chǎn)生的“留痕”數(shù)據(jù)，能夠了解個人的消費(fèi)習(xí)慣、預(yù)測其消費(fèi)行為，進(jìn)而以精準(zhǔn)投放商業(yè)廣告等方式調(diào)控消費(fèi)者的消費(fèi)行為。此外，算法平臺的服務(wù)提供者也會受到平臺規(guī)則和要求的約束，他們往往不得不服從算法平臺所提出的規(guī)則。例如，百度（全球最大的中文搜索引擎）曾要求眾多醫(yī)療健康平臺與其簽訂排他性補(bǔ)充協(xié)議，這些醫(yī)療健康平臺需保證醫(yī)療健康信息只能出現(xiàn)在自身平臺和百度平臺上。換句話說，所有提供在百度平臺上的醫(yī)療健康信息不可以提供給任何第三方平臺，許多中小規(guī)模的醫(yī)健平臺為了不失去百度帶來的巨大用戶流量，不得不簽訂該補(bǔ)充協(xié)議。

（三）算法權(quán)力的特征

算法擁有的強(qiáng)大支配力使其通常與公權(quán)力或私權(quán)力結(jié)合在一起，在此基礎(chǔ)上，算法權(quán)力有別于傳統(tǒng)理論意義上的公權(quán)力①在傳統(tǒng)理論中，權(quán)力、公權(quán)力、國家公權(quán)力等概念經(jīng)常被混同，而實際上，公權(quán)力有多種二次劃分方法，根據(jù)公共領(lǐng)域界分可以將公權(quán)力劃分為國家公權(quán)力、社會公權(quán)力以及國際公權(quán)力三種。這里的傳統(tǒng)理論意義上的公權(quán)力等同于國家公權(quán)力。，主要表現(xiàn)出以下三個特征：

一是算法權(quán)力具有彌散性。算法權(quán)力作為一種“知識型權(quán)力”，與自上而下行使的公權(quán)力不同，在實際運(yùn)作中呈現(xiàn)出網(wǎng)絡(luò)化結(jié)構(gòu)，是一種“無處不在的微觀權(quán)力”[15]253，具有極大的彌散性。這里的彌散指的是一種彌漫狀態(tài)，算法權(quán)力的彌散特指算法權(quán)力到處彌漫、無處不在。傳統(tǒng)意義上的公權(quán)力與算法權(quán)力之間的區(qū)別可以采用邁克爾·曼（Michael Mann）的權(quán)力類型劃分方式來加以解釋，他將權(quán)力劃分為權(quán)威性（authoritative）權(quán)力和彌散性（diffused）權(quán)力[16]10。權(quán)威性權(quán)力貫徹的是集團(tuán)或制度的意志力，基于命令方式而具有深入性；而彌散性權(quán)力體現(xiàn)的是權(quán)力主體本能的、無意識的想法，包含的是理解和非明確控制，基于漫散方式而具有廣泛性。基于此，算法權(quán)力的彌散性主要體現(xiàn)在兩個方面。其一，權(quán)力主體的彌散。算法技術(shù)與私人資本、政治力量交織在一起，形成了一張覆蓋整個社會空間的權(quán)力網(wǎng)絡(luò)，那么很多主體都有掌握算法的可能，也就意味著這些主體都有行使算法權(quán)力的可能。換句話說，在算法權(quán)力的運(yùn)行實踐中，權(quán)力主體多元而不確定。首先，國家政治機(jī)構(gòu)是掌握著算法權(quán)力的公權(quán)力主體，他們憑借具有強(qiáng)制力的國家權(quán)力、龐大的國家資本以及更占優(yōu)勢的公共大數(shù)據(jù)資源，能夠?qū)⑺惴{入公共治理體系之中，充分發(fā)揮算法技術(shù)的工具性作用，進(jìn)而與算法技術(shù)聯(lián)袂實現(xiàn)其治理目標(biāo)，進(jìn)一步強(qiáng)化公權(quán)力主體對權(quán)力對象的支配力；其次，互聯(lián)網(wǎng)企業(yè)和網(wǎng)絡(luò)平臺公司等是掌握算法權(quán)力的私權(quán)力主體，他們作為龐大私人資本和強(qiáng)大算法技術(shù)的占有者以及網(wǎng)絡(luò)平臺和算法系統(tǒng)架構(gòu)的提供者，對經(jīng)濟(jì)社會各方面具有一定的算法支配力，即他們擁有算法私權(quán)力；最后，其他社會機(jī)構(gòu)也有可能是掌握算法權(quán)力的主體，實際上，算法權(quán)力行使的軌跡已經(jīng)擴(kuò)展到了日常生活和實踐的各個領(lǐng)域，不僅存在于政治機(jī)構(gòu)和公司企業(yè)，學(xué)校、醫(yī)院等機(jī)構(gòu)之中也普遍存在。例如，2009年美國華盛頓學(xué)區(qū)使用了一個名叫IMPACT的教師評估算法，其評估結(jié)果直接影響教師的去留①2009年，華盛頓特區(qū)為了對教育質(zhì)量不佳的學(xué)校進(jìn)行改革，教育部門采用IMPACT教師評估算法對教師的各項教學(xué)效果進(jìn)行評估，通過開除在評分最低限度之下的教師來優(yōu)化教師系統(tǒng)。參見凱西·奧尼爾：《算法霸權(quán)》，馬青玲譯，中信出版社，2018，第20頁。。其二，權(quán)力對象的彌散。?？抡J(rèn)為“知識型權(quán)力”遍布現(xiàn)代社會的方方面面，每個人都有使用權(quán)力的能力，反過來看，這也意味著任何一個人都有可能是權(quán)力行使的對象。正如?？滤赋龅?，“每個人都可能是雙重身份，既是權(quán)力的幫兇，也是被權(quán)力壓迫的人”[15]256。因此，在算法權(quán)力彌散于整個社會的情境下，算法公權(quán)力、算法私權(quán)力以及其他機(jī)構(gòu)掌握的算法權(quán)力都在不斷地對其他對象施以影響和控制，人人都有可能是算法權(quán)力的對象。

二是算法權(quán)力具有隱蔽性。傳統(tǒng)意義上的公權(quán)力貫徹的是國家的意志力，包含明確的命令和下意識的服從，對于權(quán)力對象而言，這種權(quán)力是直接的、強(qiáng)制的，甚至是建立在暴力懲罰之上的。但隨著現(xiàn)代化進(jìn)程的推進(jìn)，互聯(lián)網(wǎng)技術(shù)、大數(shù)據(jù)技術(shù)、機(jī)器學(xué)習(xí)算法技術(shù)等的發(fā)展使得權(quán)力的實現(xiàn)方式發(fā)生了一些變化，即“從實體向符號，從沉重向輕靈，從有形向無形”變化②這些變化不僅僅存在于權(quán)力領(lǐng)域，現(xiàn)代社會自我運(yùn)行的各個領(lǐng)域都改變了發(fā)展形態(tài)，這也正是鮑曼所提出的“流動的現(xiàn)代性”。參見齊格蒙特·鮑曼：《流動的現(xiàn)代性》，歐陽景根譯，中國人民大學(xué)出版社，2018。。換句話說，權(quán)力越來越強(qiáng)調(diào)的不是強(qiáng)制和直接，而是理解和自然開誠。同時，權(quán)力在現(xiàn)代技術(shù)的作用下實現(xiàn)了“隱身”，或者說信息的符號化、數(shù)字化使權(quán)力看不見了[17]，但權(quán)力的隱身并不意味著權(quán)力的消失，而是指權(quán)力本身以及權(quán)力的行使不能被權(quán)力對象意識到?；诖?，本文認(rèn)為算法權(quán)力具有隱蔽性，算法權(quán)力的隱蔽性特征是互聯(lián)網(wǎng)技術(shù)、大數(shù)據(jù)技術(shù)和算法技術(shù)發(fā)展的綜合產(chǎn)物。這里值得一提的是，算法權(quán)力與公權(quán)力不是割裂或?qū)α⒌?，部分算法?quán)力的生成離不開公權(quán)力的嵌入，因此在這個意義上也可以將算法公權(quán)力看作是隱蔽的公權(quán)力。算法權(quán)力的隱蔽性主要體現(xiàn)在權(quán)力主體與權(quán)力目的兩個方面。其一，權(quán)力主體的隱蔽。首先，算法權(quán)力作為一種無處不在的彌散性權(quán)力，權(quán)力主體彌漫于整個算法社會，要想找到某一特定權(quán)力的掌控者，是一件非常困難的事情；其次，技術(shù)的飛躍發(fā)展極大地改變了人的生存和生活方式，我們?nèi)找嬉砸环N“數(shù)字化生存”的方式生活在一個“微粒社會”之中③美國學(xué)者尼古拉·尼葛洛龐帝在《數(shù)字化生存》一書中描繪了因信息革命帶來的人類生活方式的改變，“數(shù)字化生存”指的是在后信息時代人們生活的數(shù)字化和人的個人化；德國學(xué)者克里斯多夫·庫克里克在《微粒社會》一書中呈現(xiàn)了數(shù)字化時代的社會模式，“微粒社會”指的是人、制度、社會關(guān)系等都被高度解析和解體的一種新型社會。分別參見尼古拉·尼葛洛龐帝：《數(shù)字化生存》，胡泳、范海燕譯，電子工業(yè)出版社，2017；克里斯托夫·庫克里克：《微粒社會》，黃昆、夏柯譯，中信出版社，2017。，人類本身及其所有的行為都可以被高度解析為各種精細(xì)的數(shù)據(jù)，進(jìn)而成為進(jìn)入各種算法輸入端的原材料。通過算法技術(shù)發(fā)揮支配力的權(quán)力主體往往被隱藏在數(shù)據(jù)和計算機(jī)代碼之后，他們無需親自出現(xiàn)在真實情境中來直接發(fā)布命令，只需要掌握算法的編寫技術(shù)、運(yùn)行規(guī)則或所有權(quán)，就可以以隱蔽的身份行使算法權(quán)力。其二，權(quán)力目的的隱蔽。由于算法技術(shù)本身具有高度的專業(yè)性和復(fù)雜性，加之算法技術(shù)在應(yīng)用過程中主要受到大型互聯(lián)網(wǎng)公司和算法平臺企業(yè)的掌控，導(dǎo)致了“算法黑箱”的產(chǎn)生。從理論上而言，“黑箱”的存在使大部分人無法了解算法的含義、運(yùn)行規(guī)則以及運(yùn)作目標(biāo)；從實際上來看，“黑箱”的存在讓算法帶來的技術(shù)影響和技術(shù)支配關(guān)系得以掩藏，并且是隱藏在自然的、基于共同利益的，抑或是合格合法的外衣之下。因此，無論是出于維護(hù)算法安全、保護(hù)算法機(jī)密的需要，還是出于操縱獲利、避免被追責(zé)等目的，權(quán)力主體一開始都能夠在“算法黑箱”的掩護(hù)下被隱藏起來。

三是算法權(quán)力具有非均衡性。政府機(jī)構(gòu)代表國家是行使國家公權(quán)力的唯一主體，社會組織和團(tuán)體是行使社會公權(quán)力的主體。換言之，傳統(tǒng)意義上公權(quán)力的主體具有單一性，而算法權(quán)力在該方面有別于公權(quán)力。基于上文的分析，可以明確算法權(quán)力的主體具有多元性，主要包括政府、企業(yè)和其他掌握算法的社會機(jī)構(gòu)。權(quán)力主體多元就意味著權(quán)力主體存在異質(zhì)性，也就意味著這里隱含了一個更深層次的問題，即算法權(quán)力在多元主體之間的分配問題。人工智能是一個新的領(lǐng)域，它所依托的算法是一種前沿技術(shù)，政府、企業(yè)和其他社會力量在這個領(lǐng)域內(nèi)競逐權(quán)力，試圖通過掌握算法技術(shù)來實現(xiàn)自己的意愿。由于新興技術(shù)是保持經(jīng)濟(jì)增長的重要因素，經(jīng)濟(jì)績效又是政治合法性的重要基礎(chǔ)，所以國家領(lǐng)導(dǎo)人和政治精英出于內(nèi)在需求將表現(xiàn)出對算法技術(shù)的重視，進(jìn)而投入大量資本以推動算法技術(shù)的發(fā)展。很明顯，政府在算法發(fā)展的基礎(chǔ)設(shè)施建設(shè)、資金投入以及政策扶持等方面發(fā)揮了領(lǐng)導(dǎo)作用，在這個意義上而言，政府似乎掌握了絕對的算法權(quán)力，相對于強(qiáng)勢的算法公權(quán)力而言，其他主體掌握的算法權(quán)力完全處于弱勢，形成算法權(quán)力極不均衡的格局。實際上，一旦政府將算法技術(shù)平臺這樣開源開放的基礎(chǔ)設(shè)施建立起來，“它們就可以被視為是公共產(chǎn)品”，那么，在一定意義上可以認(rèn)為，算法公權(quán)力的行使將使所有的行為者受益，然而“從這些基礎(chǔ)設(shè)施中產(chǎn)生的益處，其分配是相當(dāng)分散化的。”[18]也就意味著算法公權(quán)力將造成算法權(quán)力的再分配，這些基礎(chǔ)建設(shè)和政策為其他主體獲得算法權(quán)力提供了機(jī)會，政府并不能一直是算法權(quán)力的絕對掌控者。實際上，一個“算法社會”的形成不僅使政府受益，也使企業(yè)、社會機(jī)構(gòu)等行為主體受益，尤其是為企業(yè)家們提供了大量的機(jī)遇和機(jī)會，互聯(lián)網(wǎng)領(lǐng)域涌現(xiàn)出一批如谷歌、微軟、騰訊、百度、阿里等科技巨頭公司的事實即是佐證。不同的科技公司和企業(yè)廣泛地開發(fā)和使用算法來為自己的經(jīng)濟(jì)活動服務(wù)，憑借廣闊市場和排他性技術(shù)逐漸獲得并持續(xù)擴(kuò)大算法私權(quán)力，甚至產(chǎn)生了技術(shù)公司抗議政府的行為。例如，2015年美國商品期貨交易委員會（CFTC，Com?modity Futures Trading Commission）為了幫助監(jiān)管部門理解某些交易算法的原理、診斷存在問題的交易活動以及監(jiān)管交易算法，制定了一項無須進(jìn)行傳喚即可訪問交易公司算法源代碼的規(guī)則。然而這一決定激起了公憤，金融業(yè)的交易公司一致認(rèn)為源代碼是其制定交易策略的獨(dú)門絕技，不愿意與無法充分保守秘密的機(jī)構(gòu)共享自己獨(dú)有的資源[19]6。此外，學(xué)校、醫(yī)院等社會機(jī)構(gòu)作為算法技術(shù)的“使用”行為主體，也能夠通過使用具有公共產(chǎn)品性質(zhì)的算法平臺或向企業(yè)購買算法模型等方式，對機(jī)構(gòu)對象行使一定的算法權(quán)力。但相較于政府和企業(yè)，這些社會機(jī)構(gòu)占有和使用算法技術(shù)的能力較弱，因此他們所掌控的算法權(quán)力也是有限的。顯然，算法權(quán)力在多元主體之間的分配不均衡。

三、算法權(quán)力的生成基礎(chǔ)

技術(shù)集合的支撐，包含有物力資本、人力資本的私人資本的嵌入，以及公權(quán)力的嵌入，共同使算法具有了社會支配力和權(quán)力屬性。

（一）技術(shù)集合支撐算法產(chǎn)生巨大的社會支配力

上文關(guān)于算法權(quán)力的探討，明確了產(chǎn)生權(quán)力的算法是作為社會技術(shù)集合的一部分而存在的。實際上，在算法參與實踐的過程中，作為計算機(jī)代碼鏈的算法與人、物、資源、技術(shù)、資本和政治力量等因素緊密結(jié)合在一起，伴隨著各因素的支撐和嵌入，算法嵌入權(quán)力運(yùn)行系統(tǒng)、支配社會行動等行為和現(xiàn)象將不斷顯現(xiàn)和增強(qiáng)。因此，明確辨分與算法緊密結(jié)合的各種要素，是探索算法權(quán)力生成基礎(chǔ)的關(guān)鍵性問題。

算法權(quán)力的生成基礎(chǔ)之一是技術(shù)集合的支撐。一個基礎(chǔ)的數(shù)學(xué)模型或一條簡單的計算機(jī)代碼鏈就可以被看作是最基本的算法，能夠幫助使用者解決某些特定的問題，但產(chǎn)生的效果在廣延性、綜合性和強(qiáng)度等方面較為有限，然而只有在互聯(lián)網(wǎng)技術(shù)、大數(shù)據(jù)技術(shù)以及深度學(xué)習(xí)技術(shù)等的支撐下，算法才可以產(chǎn)生巨大的社會支配力。這與霍桑納格在《算法時代》中展開的生動描述相映成趣，他指出過去算法像是一份食譜，使用者通過它能且只能做出一道菜，而現(xiàn)在算法卻像一位大廚，它能夠在大數(shù)據(jù)的環(huán)境中不斷推陳出新[19]29。實際上，算法是由設(shè)計者們編寫和構(gòu)建的，他們的主要工作是將人類自然語言編為代碼，在此基礎(chǔ)上設(shè)置參數(shù)變量，并將它們和某個結(jié)果聯(lián)系起來，進(jìn)而構(gòu)建算法模型，但由于自然語言中的詞義和語法規(guī)則相當(dāng)復(fù)雜，如果僅僅依靠少數(shù)程序員教機(jī)器學(xué)習(xí)自然語言，就只能形成食譜般的算法。但互聯(lián)網(wǎng)技術(shù)的發(fā)明使算法的語言能力實現(xiàn)了飛躍，人們在互聯(lián)網(wǎng)平臺上工作、社交和購物所敲打的字母為機(jī)器提供了學(xué)習(xí)自然語言的途徑，這意味著全世界的人們在無意間為算法模型建立了龐大的訓(xùn)練數(shù)據(jù)庫，而經(jīng)過海量數(shù)據(jù)訓(xùn)練的算法實現(xiàn)了進(jìn)階，能夠自行挖掘數(shù)據(jù)、自行創(chuàng)建因果統(tǒng)計模型，成為獨(dú)立于程序員而具有創(chuàng)新能力的“大廚”?？梢园l(fā)現(xiàn)的是，互聯(lián)網(wǎng)技術(shù)、大數(shù)據(jù)技術(shù)以及其他技術(shù)之間的銜接與集成造就了性能更先進(jìn)、功能更強(qiáng)大的智能算法，其中互聯(lián)網(wǎng)是營造大數(shù)據(jù)環(huán)境的關(guān)鍵性技術(shù)，在此基礎(chǔ)上的全量數(shù)據(jù)投喂將使算法模型逐漸獲得深度學(xué)習(xí)的能力?？梢灶A(yù)見，在技術(shù)集合支撐下的算法能夠作為控制數(shù)據(jù)以及代替決策的強(qiáng)大工具，對使用者行使持續(xù)而有力的支配力。

（二）私人資本嵌入算法權(quán)力

算法權(quán)力的生成基礎(chǔ)之二是私人資本的嵌入。邁克爾·曼認(rèn)為經(jīng)濟(jì)是社會權(quán)力的來源之一，經(jīng)濟(jì)的生產(chǎn)、分配、交換和消費(fèi)關(guān)系通常結(jié)合有高水準(zhǔn)的深入而廣泛的權(quán)力[16]30。資本作為一個經(jīng)濟(jì)概念，本質(zhì)上是一種社會關(guān)系，在現(xiàn)象上表現(xiàn)為一定數(shù)量的經(jīng)濟(jì)財富，社會主體可以憑借其擁有的經(jīng)濟(jì)財富對其他社會主體發(fā)揮支配性影響。實際上，算法技術(shù)的研發(fā)與應(yīng)用離不開物力資本、人力資本等的巨大投入，可以說算法技術(shù)伴隨著資本力量的嵌入得到了極大的發(fā)展，同時算法技術(shù)也賦予并增強(qiáng)了私人資本擁有者的支配力，即算法權(quán)力。就物力資本而言，基于資本生成的算法權(quán)力表現(xiàn)為對市場的獨(dú)占性支配，具有市場主導(dǎo)地位的企業(yè)對其他企業(yè)和消費(fèi)者帶來了諸多支配性影響。由于特定算法的設(shè)計和運(yùn)行依托于科技企業(yè)，這意味著這些企業(yè)占據(jù)了一定的優(yōu)勢，而算法技術(shù)的自動分析能力、數(shù)字產(chǎn)品的非競爭性特征等促進(jìn)了數(shù)字市場的集中化，進(jìn)一步為他們帶來了市場壟斷地位。在很多應(yīng)用領(lǐng)域，任何科技巨頭都可以基于其獨(dú)占性地位發(fā)揮支配性影響，一方面，他們?yōu)榱藙?chuàng)造和獲取持續(xù)的利益，不斷兼并和收購其他小型科技公司，形成了“多寡頭壟斷”的局面。如谷歌收購DoubleClick、臉書收購What?sApp、微軟收購領(lǐng)英等。另一方面，他們可能會憑借壟斷地位將一些條件和要求強(qiáng)加給潛在的算法用戶，而那些潛在用戶為了使用該算法提供的服務(wù)，也就必須服從這些條件和要求，甚至有時不得不過度提供個人信息以及接受軟件捆綁協(xié)議。而算法用戶對使用條件和要求的同意，無異于他們對算法權(quán)力的服從。

另外，就人力資本而言，相比傳統(tǒng)企業(yè)，算法中蘊(yùn)含的人力資本會更深刻地嵌入社會權(quán)力?？萍计髽I(yè)處于人力資本占比高、產(chǎn)品變化更新快、市場容量巨大的行業(yè)，使一些不具有壟斷優(yōu)勢、處于競爭環(huán)境中的中小型互聯(lián)網(wǎng)公司，往往由于算法設(shè)計人才的關(guān)鍵作用，而在實際中也可能會擁有與大型互聯(lián)網(wǎng)公司同樣的地位，因為他們也可以在看似不強(qiáng)加給算法用戶任何服從“義務(wù)”的情況下，將某種行為方式強(qiáng)加給他們。因此，算法中的人力資本在一定程度上分享和抵消了物力資本的作用，但卻給中小型互聯(lián)網(wǎng)公司更多嵌入算法權(quán)力的機(jī)會，也增強(qiáng)了整個私人資本的嵌入程度?？傊梢灶A(yù)見，即使沒有任何形式上的命令權(quán)，那些具有實際支配性影響的科技企業(yè)，也可以借助物力和人力資本優(yōu)勢來行使廣泛的算法權(quán)力甚至是算法霸權(quán)。

（三）公權(quán)力的嵌入使算法技術(shù)有了權(quán)力屬性

算法權(quán)力的生成基礎(chǔ)之三是公權(quán)力的嵌入。政治與技術(shù)是目的與手段或目的與途徑的關(guān)系[20]，步入現(xiàn)代化社會以來，技術(shù)一直是政權(quán)合理化的外在標(biāo)志，也是掌權(quán)者用以解釋和辯護(hù)的工具，換句話說，技術(shù)以及技術(shù)化現(xiàn)象通常被用來證明政治制度的正當(dāng)性和合理性。以19世紀(jì)中后期興起的官僚制為例，原則上用來協(xié)調(diào)一系列技術(shù)工作的官僚制，其本質(zhì)是一套旨在服務(wù)社會制度的技術(shù)手段。用韋伯的話來說，官僚制一直是“官僚機(jī)器控制者頭等重要的權(quán)力工具”，一經(jīng)存在就不可能被擯棄或取代，這是因為它效率原則至上的隱性假設(shè)加之特有的非人格性質(zhì)，使其獲得了在客觀上不可或缺的地位；而統(tǒng)治者在“面對官僚制內(nèi)行的優(yōu)勢”時，也顯示出了主觀上的倚賴[14]1360。換言之，政治對技術(shù)的需要以及技術(shù)具有的回應(yīng)政治發(fā)展需要的能力，是公權(quán)力嵌入技術(shù)發(fā)展的首要原因，工具性的技術(shù)與公權(quán)力結(jié)合在一起，進(jìn)而使技術(shù)也具有了一定的權(quán)力屬性。這也意味著在算法社會中，公權(quán)力在與算法技術(shù)交織的過程中實現(xiàn)了再生產(chǎn)，催生了一種與傳統(tǒng)公權(quán)力非常類似的技術(shù)支配力，即算法權(quán)力。實際上，相對于互聯(lián)網(wǎng)公司所掌握的來自用戶使用電腦和手機(jī)而產(chǎn)生的瀏覽數(shù)據(jù)，公權(quán)力還掌握著更高數(shù)量級的數(shù)據(jù)，如人類本身的數(shù)據(jù)、環(huán)境數(shù)據(jù)、各種人類勞動過程數(shù)據(jù)等[21]?？梢灶A(yù)見，當(dāng)公權(quán)力嵌入算法時，算法就作為維護(hù)和鞏固公權(quán)力的一種技術(shù)工具和手段，能夠在服務(wù)社會、維護(hù)社會秩序等方面發(fā)揮出強(qiáng)大的力量。

四、算法權(quán)力的表現(xiàn)形式

“權(quán)力”是一個典型的多維度概念，面對眾多學(xué)者言人人殊的權(quán)力概念界定，本文傾向于采用丹尼斯·朗（Dennis H.Wrong）提出的權(quán)力概念。他將權(quán)力定義為“某些人對他人產(chǎn)生預(yù)期效果的能力”，進(jìn)而“把武力、操縱、說服和權(quán)威區(qū)分為不同的權(quán)力形式”[22]28，其中權(quán)威又分為強(qiáng)制性權(quán)威、誘導(dǎo)性權(quán)威、合法權(quán)威、合格權(quán)威以及個人權(quán)威五類。本文通過分析算法權(quán)力概念及其生成基礎(chǔ)，把算法權(quán)力的形式限定于作為操縱的算法權(quán)力形式、作為合格權(quán)威的算法權(quán)力形式以及作為合法權(quán)威的算法權(quán)力形式。沒有泛化至所有權(quán)力形式的原因是，根據(jù)丹尼斯·朗的觀點(diǎn)，武力的行使通常是通過刑罰使他人的肉體、思想或情緒遭受損害，從而限制他人行動和自由；說服是他人根據(jù)自己的目標(biāo)和價值觀，對權(quán)力主體提出的論據(jù)、意見或勸告進(jìn)行評估之后選擇接受，從而使權(quán)力主體取得預(yù)期效果的一個過程。五類權(quán)威形式之中的強(qiáng)制性權(quán)威是建立在武力威脅之上的；誘導(dǎo)性權(quán)威是建立在物質(zhì)獎勵或服務(wù)之上的；個人權(quán)威是建立在愛情、尊敬、友誼或存在傾向于統(tǒng)治與屈從的心理素質(zhì)等基礎(chǔ)之上的。然而具有隱蔽性的算法權(quán)力與只能以顯明方式存在的武力和說服截然不同；算法權(quán)力作為一種技術(shù)權(quán)力，也與武力威脅、物質(zhì)誘導(dǎo)以及心理因素大相徑庭。

（一）作為操縱的算法權(quán)力形式

如果A意圖對B施加影響，但A未將該意圖告訴B或者B不知道A將影響他的意圖，一旦B在事實上做到了A的意愿或者說A的意圖成功了，那么這就構(gòu)成了操縱，人們所熟知的大多數(shù)商業(yè)廣告都涉及這種操縱方式。從這個意義上來說，操縱似乎是一切算法權(quán)力形式中最常見且最令人生畏的形式，這是因為“算法黑箱”的存在為作為操縱的算法權(quán)力形式創(chuàng)造了產(chǎn)生的場域?！八惴ê谙洹钡谋举|(zhì)是技術(shù)黑箱，一種作為知識的人工制造品，結(jié)合“算法黑箱”的形成原因①“算法黑箱”的形成原因主要包括，算法技術(shù)的高度復(fù)雜性和專業(yè)性、要求算法公開的相關(guān)法律政策較為匱乏、公眾算法素養(yǎng)的限制、技術(shù)公司公開算法動力不足，以及出于算法安全維護(hù)的需要五個方面。參見譚九生、范曉韻：《算法“黑箱”的成因、風(fēng)險及其治理》，《湖南科技大學(xué)學(xué)報（社會科學(xué)版）》，2020年第6期。來看，知道的“部分人”實際上指的是極少數(shù)專業(yè)人士，而不一定知道的“另一部分人”具體包括由于受到算法素養(yǎng)限制而無法理解復(fù)雜算法結(jié)構(gòu)及其運(yùn)作邏輯的社會公眾，也包括出于維護(hù)算法安全或保護(hù)商業(yè)機(jī)密等需要而盡可能被蒙在鼓里的使用者。算法的“黑箱”特征和操縱特性在算法權(quán)力的操縱形式上實現(xiàn)了緊密結(jié)合，同時由于“算法黑箱”涉及的技術(shù)不可解釋的問題以及技術(shù)掌控者不愿解釋的問題，導(dǎo)致了算法使用者不理解以及被隱瞞的現(xiàn)象，那么在這種情況下的算法設(shè)計者以及掌控者為了完成一項任務(wù)或達(dá)到一個具體目標(biāo)而建立和維護(hù)的權(quán)力（例如算法的使用條件或協(xié)議），在形式上都等同于操縱。

接下來本文從權(quán)力對象不理解以及權(quán)力對象被隱瞞兩個方面，來進(jìn)一步說明算法權(quán)力主體是如何對權(quán)力對象行使操縱的。第一，權(quán)力對象不理解。算法本身作為一種具有高度復(fù)雜性和專業(yè)性的前沿技術(shù)，只有極少數(shù)專業(yè)人士能理解。從形式來說，算法是以計算機(jī)代碼鏈而非能被常人理解的自然語言呈現(xiàn)的；從結(jié)構(gòu)來說，算法包括技術(shù)基礎(chǔ)層、技術(shù)程序?qū)右约凹夹g(shù)結(jié)果層三部分；從輸入端來說，算法往往涉及數(shù)量龐大且雜亂無章的訓(xùn)練數(shù)據(jù)；從運(yùn)行過程來說，算法模型的運(yùn)行完全由算法獨(dú)立完成，且算法具有的深度學(xué)習(xí)能力能夠幫助其自動修改、擴(kuò)展和完善程序模型，使其在相當(dāng)短的時間內(nèi)實現(xiàn)多次版本迭代，換言之，算法在獨(dú)立于創(chuàng)建者工作的過程中被重寫了；從實際應(yīng)用來說，算法幾乎總是以算法系統(tǒng)的形式存在的，也就是說任意軟件通常都是由數(shù)十乃至上百種算法交織而成的算法系統(tǒng)所創(chuàng)建的，這些算法系統(tǒng)實際上由許多具有不同目標(biāo)任務(wù)的人在不同的時間制作、維護(hù)和修改，特別是還有一些外包至世界各地的大型算法系統(tǒng)，其中嵌入了更為復(fù)雜的社會關(guān)系。由此可見，算法是一種存在技術(shù)門檻的知識，是大部分公眾難以理解的對象。因此，在絕大部分算法使用者無法了解算法及其設(shè)計意圖的情況下，算法設(shè)計者與掌控者能夠非常輕易地實現(xiàn)他們的意圖。

第二，權(quán)力對象被隱瞞。權(quán)力對象被隱瞞算法，原因有二：一是算法設(shè)計者不愿解釋，二是算法設(shè)計者不能解釋。受算法結(jié)果影響的使用者如政府部門，通常想要知道這一特定算法是否有效，那么他們就需要知道該算法的設(shè)計者與掌控者要實現(xiàn)什么目的。但從技術(shù)公司的角度而言，利潤才是實效和真理的象征，他們投入大量的資本設(shè)計開發(fā)算法，吸收龐大的用戶數(shù)據(jù)訓(xùn)練算法模型，微調(diào)算法運(yùn)行結(jié)果等，其根本目的在于看到熱錢的流入、獲得投入的反饋，而不是通過揭示算法信息和設(shè)計意圖來證明算法的有效性。在這個意義上，控制算法的技術(shù)公司缺乏公開披露算法信息以及解釋算法設(shè)計意圖的動力，他們擔(dān)心一旦算法模型參數(shù)等信息因公開解釋而被泄露，極有可能被同領(lǐng)域的競爭者惡意復(fù)制或修改，因此，出于防止核心技術(shù)泄露和維護(hù)公司利益的考慮，他們將算法視為需要嚴(yán)格保護(hù)的公司機(jī)密，有的公司甚至?xí)驗檫@個問題與政府部門進(jìn)行博弈。此外，算法設(shè)計者故意隱瞞設(shè)計意圖還有另一個目的，算法模型實際上是將設(shè)計者的想法和擁有的信息轉(zhuǎn)化為一個具象化的計算機(jī)操作程序，可見其實質(zhì)就是將豐富的信息簡化為代碼，因而算法模型無可避免地會忽略某些復(fù)雜因素或是遺漏部分重要信息，導(dǎo)致的結(jié)果是，算法的“意外缺陷”①“意外缺陷”指的是在預(yù)期的正面結(jié)果之外產(chǎn)生的未預(yù)期到的負(fù)面結(jié)果?？倳a(chǎn)生。因此，設(shè)計算法的技術(shù)員或技術(shù)公司可能會因為程序漏洞、方法不當(dāng)、結(jié)果有誤等問題而面臨法律追責(zé)。但是如果人們無法了解算法的運(yùn)行邏輯和具體運(yùn)作方式，那么就意味著人們沒有條件找到算法系統(tǒng)的漏洞，也就難以對算法運(yùn)行結(jié)果質(zhì)疑或抗議。以上是算法設(shè)計者不愿解釋算法原理和設(shè)計意圖的情形，除此之外，還存在法律、社會因素導(dǎo)致算法設(shè)計者不能解釋的情形，主要涉及犯罪風(fēng)險評估算法等警用系統(tǒng)采用的算法模型。以基于LSI-R量表②LSI-R量表（Level of Service Inventory-Revised），即分類監(jiān)管量表（修訂版），是一個在西方國家廣泛應(yīng)用的犯罪危險性評估工具。的再犯評估算法為例，LSI-R量表實際上是一份納入了犯罪歷史、就學(xué)/就業(yè)、經(jīng)濟(jì)狀況、家庭/婚姻、居住環(huán)境、休閑/娛樂、同輩群體、酒精/毒品、情感/精神、態(tài)度/傾向共十個方面風(fēng)險因素的調(diào)查問卷，算法設(shè)計者利用大量罪犯填寫的問卷信息設(shè)計一種評估罪犯再犯率的算法模型。這里可以嘗試著提一個問題，如果作為算法模型參與者的罪犯知道自己將要被該算法模型評估，或者說知道該算法模型的設(shè)計意圖是什么，那么該算法模型仍將有效嗎？填寫這些調(diào)查問卷的罪犯如果知道目的是什么，他們多多少少會弄虛作假，將答案往模范市民方向靠近。因此，這些接受調(diào)查的罪犯需要被盡可能地隱瞞，算法設(shè)計者需要竭盡所能隱藏算法模型的存在以及運(yùn)算結(jié)果。即使這些算法模型的設(shè)計初衷是良性的，但隱瞞還是會給人一種被操縱的感覺。

（二）作為權(quán)威的算法權(quán)力形式

作為權(quán)威的算法權(quán)力形式包括以下兩類：

其一是作為合格權(quán)威的算法權(quán)力形式。合格權(quán)威是一種權(quán)威關(guān)系，其中對象服從權(quán)威的指令是出于信任權(quán)威有卓越的才能或?qū)ｉT知識去決定何種行動能最好地服務(wù)于對象的利益與目標(biāo)[22]60。本文從兩個方面對該概念進(jìn)行分析，以進(jìn)一步理解算法合格權(quán)威的內(nèi)涵。第一，合格權(quán)威的生成基礎(chǔ)。合格權(quán)威又可以被稱為專家權(quán)威，合格權(quán)威擁有者發(fā)布命令依賴的是自身具備的專門知識或技能，這意味著權(quán)力對象遵從指令不是被迫的，也不是義務(wù)性質(zhì)的，而是基于對權(quán)力擁有者卓越的才能或?qū)ｉT知識的信任。算法是一種專門的知識和技能。算法的核心是一套告訴計算機(jī)該執(zhí)行什么的清晰指令，它用一系列計算機(jī)能理解的語言來表達(dá)人的思想、模仿人的決策方式，其背后隱含的是一定的數(shù)學(xué)知識和計算機(jī)基礎(chǔ)知識。自17世紀(jì)后期德國學(xué)者萊布尼茨發(fā)現(xiàn)任何認(rèn)知思維和邏輯都可以被簡化為二進(jìn)制表達(dá)式以來，后人逐漸可以將人類的邏輯思維分解為一長串無限延伸的二元判定，形成一種數(shù)學(xué)演算推論器以解決爭議?；诖?，現(xiàn)在的算法設(shè)計者可以將理論轉(zhuǎn)化成算法，他們也可以將自己想象的東西通過編寫計算機(jī)代碼構(gòu)建成型。因此，在數(shù)學(xué)意義上，也可以將算法看作是數(shù)學(xué)知識的應(yīng)用，算法是由一長串連續(xù)的二元決策構(gòu)成的決策樹，在起點(diǎn)接收輸入信息、輸入值而后進(jìn)入數(shù)學(xué)模型或函數(shù)中運(yùn)行，所得到的輸出值在下一個節(jié)點(diǎn)作為新的輸入值參與運(yùn)行，這樣，最初的輸入信息通過沿著決策樹層層迭代運(yùn)行的方式，最終在端點(diǎn)得出輸出信息。正如《算法帝國》所述：“正是高斯函數(shù)、布爾邏輯等數(shù)學(xué)理論成就了今天的算法世界”[23]。第二，合格權(quán)威的目的。合格權(quán)威行使的目的是服務(wù)于權(quán)威對象的利益和目標(biāo)，即合格權(quán)威擁有者能夠用專門知識或技能為權(quán)威對象提供他們所需的服務(wù)，專家咨詢便是一個常見的例子。從這個意義上來說，合格權(quán)威應(yīng)該是一切算法權(quán)力形式中最基本的形式，這是因為算法實質(zhì)上是某些特定知識的應(yīng)用，是一種用來幫助解決問題的技術(shù)，算法的知識性質(zhì)及其解決問題的能力在算法的合格權(quán)威形式上實現(xiàn)了緊密結(jié)合。實際上，我們今天已經(jīng)生活在算法時代，算法無處不在，我們在使用計算機(jī)的很多時候都有可能涉及算法，例如使用搜索引擎時搜索結(jié)果的顯示、郵箱里垃圾郵件的過濾、登錄淘寶等網(wǎng)站時某些商品的推薦等。算法不僅存在于計算機(jī)承載的網(wǎng)絡(luò)空間，還存在于我們每天的生活之中，例如我們一早開車去上班，車載導(dǎo)航將為我們選擇規(guī)避擁堵的最佳路線；工作時，一些文字處理軟件為我們提供查找語法和拼寫錯誤的服務(wù)；在休息時間聽到的是音樂軟件根據(jù)我們喜好推薦的歌曲等。這里值得一提的是，算法并不是一項完美的技術(shù)，但智能算法的重要意義在于它極大地解放了人力，為人們減少了需要做的大部分選擇。因此這里需要暫時忽略數(shù)據(jù)獲取對于人們隱私的侵犯、設(shè)計者的主觀性與偏見、算法運(yùn)行的不透明性等問題，也暫時不關(guān)注由算法模型主導(dǎo)的現(xiàn)實層面在實踐活動中產(chǎn)生的系列后果，重點(diǎn)關(guān)注的是算法的設(shè)計初衷及其預(yù)期效果。正如有學(xué)者所指出的，新技術(shù)的發(fā)明與使用本質(zhì)上是要反映人的意志，要為人類的社會生活與政治理想服務(wù)[24]。

其二是作為合法權(quán)威的算法權(quán)力形式。有學(xué)者指出，權(quán)威在某個層面上可以分為事實權(quán)威和合法權(quán)威，其中事實權(quán)威是描述性概念，指的是權(quán)威擁有者能夠?qū)嶋H有效地運(yùn)用權(quán)力影響權(quán)力對象的命運(yùn)及抉擇；而合法權(quán)威是規(guī)范性概念，指的是建立在權(quán)力對象對權(quán)威尊重和認(rèn)同基礎(chǔ)上的正當(dāng)性統(tǒng)治，而尊重和認(rèn)同的產(chǎn)生又是基于掌權(quán)者為權(quán)力對象服務(wù)這一前提[25]。換言之，合法權(quán)威是一種建立在掌權(quán)者擁有命令控制權(quán)利，同時權(quán)力對象也負(fù)有遵從義務(wù)基礎(chǔ)之上的權(quán)力關(guān)系，具有天然的強(qiáng)制性。從理論上而言，算法不滿足合法權(quán)威形式的條件，因為算法本身不具備合法權(quán)威擁有的天然強(qiáng)制性，算法設(shè)計者對算法使用者并無約束控制的權(quán)力。然而在實際中，算法憑借其機(jī)器優(yōu)勢能夠嵌入社會權(quán)力運(yùn)行系統(tǒng)的各個環(huán)節(jié)，在公權(quán)力領(lǐng)域被高度依賴的算法甚至可以代替決策者做出具有法律效力的算法決策，可見算法是一種事實上的合法權(quán)威。簡言之，算法權(quán)力是一種事實權(quán)威，但它在滿足某些條件的前提下可以轉(zhuǎn)變?yōu)楹戏?quán)威。那么，作為一種事實權(quán)威的算法如何才能成為合法權(quán)威？第一，發(fā)揮“二階理由的作用”[25]。技術(shù)體系所共同擁有的巨大自然力和社會力使其能夠回應(yīng)公權(quán)力發(fā)展的某種需求，公權(quán)力嵌入算法技術(shù)是一種必然結(jié)果，因此，算法技術(shù)實際上是有權(quán)力維度和意義的，并且是與公權(quán)力有關(guān)的。縱觀歷史發(fā)展，我們有理由認(rèn)為公權(quán)力具有合法性，即公權(quán)力對其權(quán)力對象擁有合法權(quán)威，那么在這個意義上，我們也就有“二階理由”認(rèn)為被公權(quán)力內(nèi)嵌的算法是一種合法的權(quán)威。換言之，算法技術(shù)之所以能成為合法意義上的權(quán)力工具，原因在于政治家和行政官員掌控了算法，他們可以憑借公權(quán)力控制和支配算法技術(shù)，將算法納入公權(quán)力的體系之中，為維護(hù)和鞏固公權(quán)力服務(wù)。第二，源于算法合格權(quán)威形式的轉(zhuǎn)變。拉茲（Joseph Raz）的服務(wù)型權(quán)威觀實質(zhì)上設(shè)定了合法權(quán)威的標(biāo)準(zhǔn)，他指出在合法權(quán)威擁有者為權(quán)力對象提供“服務(wù)”的基礎(chǔ)上，其向權(quán)力對象發(fā)布的命令必須符合“正確理由”這一要求，即相較于按照自己的方式行事，權(quán)力對象服從于該命令能夠做得更好[26]。在這個意義上，來源于專門知識和技能且為對象利益計的合格權(quán)威能夠更可靠、更成功地指向“正確理由”，換言之，知識的優(yōu)越性有助于事實權(quán)威轉(zhuǎn)變?yōu)楹戏?quán)威，這也就意味著算法合格權(quán)威形式在某些情況下可以轉(zhuǎn)變?yōu)樗惴ê戏?quán)威形式。例如，在算法合格權(quán)威擁有者擔(dān)任某種職業(yè)角色的情況下，他們擁有的算法知識和技能通過得到政府、社會或組織的承認(rèn)，得以在實際上擁有較大的控制力和自主權(quán)，即他們能夠憑借這種公認(rèn)的合格權(quán)威來實現(xiàn)對組織內(nèi)部對象合法的約束和控制。第三，算法建立的普適性準(zhǔn)則。在某個意義上來說，算法能否成為一種合法權(quán)威形式依賴于它是否得到了普遍的遵從，因此，除了公權(quán)力的嵌入以及它本身具有的知識優(yōu)越性以外，算法還可以因為有能力解決某些具體的社會公共問題而擁有合法權(quán)威。例如，新冠肺炎疫情的有效防控依賴于社會合作與全球合作，在信息數(shù)字化和經(jīng)濟(jì)全球化的當(dāng)下，健康碼等算法技術(shù)的普遍應(yīng)用使全面落實疫情防控和全面復(fù)工復(fù)產(chǎn)成為可能?？梢?，當(dāng)算法模型得到規(guī)?；瘧?yīng)用時，不斷發(fā)展的算法將在各行各業(yè)以及生活的方方面面快速建立起普適性準(zhǔn)則，進(jìn)而能夠“產(chǎn)生一種非常類似于法律的權(quán)威性影響”[27]。

結(jié)語

羅伯特（Robert）和約瑟夫（Joseph）指出權(quán)力來源于非對稱相互依賴[28]。公權(quán)力出于維護(hù)和鞏固自身基礎(chǔ)的天然需求而嵌入算法，私人資本為了獲得更多的利潤而投資、研發(fā)以掌控算法技術(shù)；反過來，算法技術(shù)在公權(quán)力和私人資本的支持下得到了飛速發(fā)展，不斷提升自身回應(yīng)公權(quán)力與私人資本需求的能力。因此，在某種意義上，算法技術(shù)實際與公權(quán)力掌控者、私人資本保持了一種“共贏”的關(guān)系，這也是產(chǎn)生算法權(quán)力的重要基礎(chǔ)。既然算法是權(quán)力，那就有被濫用的可能性，也就有規(guī)制該權(quán)力的必要性。算法在不同的使用場景下會形成不同的算法權(quán)力形式，如算法操縱、算法合格權(quán)威、算法合法權(quán)威等。梳理算法權(quán)力的多種形式，厘清算法權(quán)力理解的異議與生成基礎(chǔ)，有助于在認(rèn)識上和在現(xiàn)實中更有針對性地規(guī)制算法權(quán)力、約束算法權(quán)力主體、維護(hù)權(quán)力對象的利益。