詹娜?布瑞爾 馬里恩?弗爾卡德/文 楊澤凡/譯

［譯 者 按］ 通過將數(shù)據(jù)集與代碼進(jìn)行配對（或算法處理）的方式，在大部分社會機(jī)構(gòu)中都取得了發(fā)展。文章旨在研究這一現(xiàn)象所帶來的社會結(jié)構(gòu)的變化。首先，“編碼精英”作為新職業(yè)階層開始崛起，這一群體通過對數(shù)字生產(chǎn)手段的技術(shù)性控制，從“新邊緣化”或未獲得報(bào)酬的“網(wǎng)絡(luò)無產(chǎn)者”（Cybertariat）中攫取勞動價(jià)值。其次，在社會各領(lǐng)域中被廣泛應(yīng)用的數(shù)字優(yōu)化技術(shù)對于算法決策的主導(dǎo)地位的強(qiáng)化，不僅可能改變社會再生產(chǎn)以及社會流動的路徑，還可能激起被管理者的抵抗。最后，文章分析了數(shù)字通信系統(tǒng)中普遍存在的算法中介是如何轉(zhuǎn)變?nèi)藗兓印⒔煌退伎挤绞降?。作者認(rèn)為在謹(jǐn)慎對待人工智能所作出極端承諾的同時(shí)，也要認(rèn)識到算法、社會結(jié)構(gòu)以及個人主體性之間日益緊密的聯(lián)系。

一、黑客倫理與硅谷精神

在20 世紀(jì)40 年代，綿延起伏在圣何塞和舊金山間的圣克拉拉群山低谷，以其花果飄香、牛羊成群的果園和牧場而聞名。在電子工程學(xué)領(lǐng)域，盡管斯坦福大學(xué)是最早的開拓者之一，但其仍被稱為“農(nóng)場”——雖然這一叫法仍體現(xiàn)了“19 世紀(jì)強(qiáng)盜大亨和他妻子多愁善感的淳樸”。①M(fèi)argaret O’Mara, The Code: Silicon Valley and The Remaking of America, New York: Penguin, 2019, p. 29.斯坦福大學(xué)從田園般的象牙塔徹底轉(zhuǎn)變?yōu)槿蚪?jīng)濟(jì)的強(qiáng)大集團(tuán)，源自冷戰(zhàn)開始時(shí)政府大規(guī)模的投資活動。乘著科學(xué)的崇高語言“無盡邊境”開發(fā)的東風(fēng)（Bush 1945），國防部的豐沛財(cái)力開始涌入大學(xué)，最終覆蓋到西海岸。

然而，與政府的聯(lián)姻并非易事。越南戰(zhàn)爭和20 世紀(jì)60 年代“反文化運(yùn)動”的興起，使得軍方贊助以及技術(shù)創(chuàng)新軍事化，這日益引起居住在該地區(qū)的工程師和計(jì)算機(jī)科學(xué)家階層的反對。他們急切地宣示自己的自治權(quán)，主張信息自由流通、社區(qū)政治優(yōu)先以及平等互惠。在一次又一次的技術(shù)革命②這些技術(shù)革命包括半導(dǎo)體、個人電腦、互聯(lián)網(wǎng)、生物技術(shù)、社交媒體等。的沖擊下，“硅谷”（Silicon Valley）這個永恒的神話開始逐漸凝結(jié)成晶。在帕洛奧爾托，許多大公司都是在車庫和地下室里誕生的。高管們都是大學(xué)輟學(xué)生，沒有人佩戴領(lǐng)帶，企業(yè)的等級結(jié)構(gòu)扁平化。工程師們通過壯觀的文化形式如“火人節(jié)”來頌美這些價(jià)值原則以及他們自己。然而，他們粗魯絕俗的倫理觀念與無政府的自由主義政治關(guān)聯(lián)在一起，便充當(dāng)了意識形態(tài)的功能，而這也幫助他們消除聯(lián)邦政府干預(yù)和推動這個行業(yè)開拓者依靠自己取得成功的商業(yè)史神話。盡管人們喜歡討論社區(qū)政治和互惠交流，但科技領(lǐng)袖和普通員工都把個人主義、競爭和適者生存作為堅(jiān)定的信仰。

在2000 年3 月互聯(lián)網(wǎng)泡沫破滅后，一場重要的轉(zhuǎn)變開始了。硅谷處在了十字路口。當(dāng)時(shí)，與互聯(lián)網(wǎng)相關(guān)的企業(yè)雖然還是處于初創(chuàng)階段，但是這些企業(yè)卻在努力展示其長期的盈利能力。其中，幸存下來的初創(chuàng)企業(yè)，比如谷歌，至今仍在提供免費(fèi)服務(wù)，但他們并沒有明顯的盈利策略。這是比較蹊蹺的現(xiàn)象。改變?nèi)藗儗@一現(xiàn)象認(rèn)識變化的原因，源于肖沙娜?祖博夫（Shoshana Zuboff）所稱的“行為剩余”的偶然發(fā)現(xiàn)。這是祖博夫的功勞。突然間，她發(fā)現(xiàn)人們在網(wǎng)上閑逛和駐留時(shí)留下的數(shù)字記錄痕跡，居然在沒有利潤的搜索、聊天、社交互動等業(yè)務(wù)中可以被廣告商們利用。這樣的事情也確實(shí)發(fā)生了。公司開始將它們所產(chǎn)生的偶發(fā)數(shù)據(jù)與新的機(jī)器學(xué)習(xí)算法技術(shù)相結(jié)合來預(yù)測人類行為。通常是開放和名義上免費(fèi)的廣告支持平臺，開始取代昂貴的盒裝軟件的舊模式?，F(xiàn)在似乎任何人都可以開發(fā)一個應(yīng)用，而且任何人都能負(fù)擔(dān)得起使用它。獨(dú)立開發(fā)者可能會獲得巨大利潤，有些人也確實(shí)取得了成功。

這種民主化的開放獲取和發(fā)展的另一面，是對用戶監(jiān)視和操縱的加強(qiáng)?，F(xiàn)在，對用戶隱私或消費(fèi)者福利的狡詐使用阻礙了業(yè)務(wù)的發(fā)展。創(chuàng)造收入越來越依賴于欺騙。為了吸引用戶的注意力，開發(fā)人員采用了源于賭博行業(yè)的成癮心理。與他們自己對開放、自由和社會聯(lián)系的崇高贊美不同的是，這些公司現(xiàn)在專注于從更多人那里生成越來越多的數(shù)據(jù)，并巧妙地操縱它們以確保預(yù)期的結(jié)果：滑動、點(diǎn)擊或者更好的購買行為。使這種“工具性權(quán)力”③Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power,New York: Public Affairs, 2019, p. 8.的發(fā)展成為可能的辦法，是采用現(xiàn)有法律來滿足信息資本主義的需求。首先，科技公司將通過cookie 和跟蹤器把生成的個人數(shù)據(jù)確定為大量且免費(fèi)獲取。他們通過平臺協(xié)議和看似良性的樣板合同來獲取數(shù)據(jù)，這些合同將該過程構(gòu)建為互惠互利的交換。①科恩將此稱之為“生命政治領(lǐng)域”的構(gòu)建：愿意接受至少某些類型的cookies 已日益成為在線交易和參與在線社區(qū)的必要先決條件……同意提取數(shù)據(jù)塑造了編程的環(huán)境。參見Julie E. Cohen, Between Truth and Power: The Legal Constructions of Informational Capitalism, Oxford, UK: Oxford University Press, 2019, pp. 54-58。——作者注其次，他們通過涉及專利的合法所有權(quán)和關(guān)于商業(yè)機(jī)密的爭論來小心翼翼地保護(hù)他們的數(shù)據(jù)賞金。一旦其被標(biāo)記為“法律特權(quán)的標(biāo)志”，②Julie E. Cohen, Between Truth and Power: The Legal Constructions of Informational Capitalism, Oxford, UK: Oxford University Press, 2019, p. 64.那么，本應(yīng)屬于個人或公共領(lǐng)域的數(shù)據(jù)，就仿佛處于封閉或殖民的現(xiàn)代化進(jìn)程之中，他們將被侵占并重新編碼為私人資本或資產(chǎn)。

今天，在對數(shù)字生產(chǎn)資料所有權(quán)前所未有的爭奪中，一種新的階級關(guān)系體系呼之欲出。本文分析了與科技產(chǎn)業(yè)崛起有關(guān)的社會分工以及通過算法——一組編寫成代碼并在計(jì)算機(jī)上運(yùn)行的指令，對社會進(jìn)程重組。③算法的概念起源于9 世紀(jì)。原則上，算法獨(dú)立于執(zhí)行其指令的機(jī)器。如今算法已經(jīng)成為所有計(jì)算機(jī)軟件的重要組成部分。隨著我們與公司、機(jī)構(gòu)以及人與人之間的互動日益以計(jì)算機(jī)為媒介，人們也日益接觸算法并受算法影響?！髡咦⒃谙挛摹熬幊叹⒌尼绕鸷痛蟊姷念A(yù)自動化”中，本文將論證數(shù)字資本主義的核心分歧是編程精英和網(wǎng)絡(luò)無產(chǎn)者之間的對立，編程精英掌握并控制著數(shù)據(jù)和軟件，而網(wǎng)絡(luò)無產(chǎn)者必須生產(chǎn)、精煉和處理供養(yǎng)或訓(xùn)練算法的數(shù)據(jù)，有時(shí)甚至將自己的工作自動化，使自己變得多余。同樣，我們還表明這樣的主張，即技術(shù)、經(jīng)濟(jì)效率以及公正是編程精英社會權(quán)力的重要組成部分。接下來，在“精算主義及其不滿”這部分中，本文討論了算法在零售、交通、保險(xiǎn)、社會工作、醫(yī)學(xué)、銀行、警察和司法系統(tǒng)等職業(yè)領(lǐng)域的廣泛影響。我們分析了算法工具在社會機(jī)構(gòu)中普及帶來的希望，同時(shí)也指出了其缺陷以及對社會階級形成和不平等的影響。在“量化分類及他者的不滿”這部分中，我們展示了算法過程構(gòu)建了人們相互認(rèn)識和聯(lián)系的方式，并且技術(shù)中介與自我、社區(qū)的感知產(chǎn)生交叉。最后，我們思考了關(guān)于這種技術(shù)軌跡可能的未來路徑的預(yù)測，提出了兩個可能的方向。一個是回歸一個具體的、但現(xiàn)在由算法增強(qiáng)的“賽博人格”（Cyborg Self）——一種帶著我們回到一個以身體為基礎(chǔ)的、但現(xiàn)在又經(jīng)過算法增強(qiáng)的半人半機(jī)器的自我狀態(tài)的途徑。另一個是帶我們進(jìn)入一個平行的非物質(zhì)社會的途徑，在其中，我們的數(shù)據(jù)自我與制度監(jiān)護(hù)者互動，其后果模糊而通過間接感知。

二、編程精英的崛起和大眾的預(yù)自動化

對待這一議題，不必急于求成。讓我們首先回到千禧年初的“世界技術(shù)容量存儲，傳遞和處理信息能力”④Hilbert Martin and Priscila López, The World’s Technological Capacity to Store, Communicate, And Compute Information, Science, vol. 332, 2011, pp. 60-65.的迅猛發(fā)展的重要性上。在各類機(jī)構(gòu)中，對“數(shù)據(jù)要求”⑤Fourcade Marion and Kieran Healy, Seeing Like a Market, Socio-economic Review, vol. 15, no. 1, 2017, pp. 9-29.的制度化是具有革命性影響的，不僅影響科技產(chǎn)業(yè)，也深刻影響了整個資本主義體系。商業(yè)雜志廣告宣稱數(shù)據(jù)是“新的石油”。每個小公司、每個公共或非營利性公司都可以參與其中，并嘗試進(jìn)行數(shù)據(jù)挖掘。針對這一目的，任何有編碼能力的人都可以建立一個網(wǎng)站，開發(fā)一個應(yīng)用程序，或者編寫一個軟件。任何一個網(wǎng)頁都可以充斥著追蹤器，而對收集數(shù)據(jù)進(jìn)行分析則是實(shí)現(xiàn)貨幣化的途徑之一。

在互聯(lián)網(wǎng)一榮一衰之后，硅谷實(shí)現(xiàn)了涅槃重生。由大數(shù)據(jù)和分析驅(qū)動的新生產(chǎn)模式正在興起。這種信念讓有希望的計(jì)算機(jī)科學(xué)家和工程師涌入了海灣地區(qū)，他們也希望能夠騎上“獨(dú)角獸”。由于不斷增長的收入推高了當(dāng)?shù)胤康禺a(chǎn)價(jià)值，所以工薪階層開始不斷離開他們的居住區(qū)，但同時(shí)也留下了許多流浪漢的露營地。這一地區(qū)的政治氛圍仍然堅(jiān)定地屬于加州風(fēng)格：原則上是進(jìn)步的，但在實(shí)踐中則于己無助。雖然硅谷的工程師們加入了激進(jìn)的延長生命運(yùn)動以及參加其他超人類主義追求的邊緣主義運(yùn)動中——通過食用代餐品以消除浪費(fèi)時(shí)間的活動，或像他們黃金時(shí)期的前輩們一樣設(shè)立了雄心勃勃的新慈善機(jī)構(gòu)，但是越來越多的人正在挨餓，正露宿在圣何塞和舊金山街頭。新冠病毒疫情遠(yuǎn)不止讓這些人的生活捉襟見肘，反而進(jìn)一步強(qiáng)化了技術(shù)“解決主義者”①Evgeny Morozov, To Save Everything, Click Here: The Folly of Technological Solutionism, New York: Public Affairs,2013.的主張，同時(shí)在數(shù)字教育等方面催生新的不平等。

城市中極端的富裕與貧困并存，是算法社會建立在新經(jīng)濟(jì)中最顯著的特征。從傳統(tǒng)馬克思主義的視角來看，這種區(qū)別將最極端的資本所有者（主要是風(fēng)險(xiǎn)投資家、公司創(chuàng)始人和科技員工，其中許多人也拿到了股票）與為他們辛勤工作的人群（服務(wù)工人、分包商和臨時(shí)工人）對立起來，后者承受著生活成本上漲的沖擊，但沒有享受任何福利。截至2018 年，在加利福尼亞最不平等的圣馬特奧縣，最富裕的1%人口的收入比最底層的99%人口高出49.1 倍。作為整體，舊金山灣區(qū)的收入差距增長是全國最快的地區(qū)之一：在1980 年到2018 年間，90%家庭收入增長了60%，而50%（中位數(shù)）和10%家庭的收入分別增長了24%和20%。在低收入層級和技術(shù)產(chǎn)業(yè)勞動力的底層社會，黑人和拉丁裔人占比也超過其他人種。2016 年，主要技術(shù)公司員工中，白人或亞洲人占78%，而女性僅占30%（Tomaskovic-Devey & Han 2018）。在數(shù)字資本主義發(fā)達(dá)的其他中心（如亞馬遜和微軟所在的西雅圖），也具有類似的結(jié)構(gòu)，并經(jīng)歷了類似的發(fā)展。

（一）編程精英：龐大的權(quán)力

卡爾?馬克思把生產(chǎn)關(guān)系及其形成的意識形態(tài)與技術(shù)的發(fā)展密切聯(lián)系在一起。在《哲學(xué)的貧困》一書中，馬克思的一段名言清楚地闡明了這一觀點(diǎn)：

“社會關(guān)系和生產(chǎn)力密切相聯(lián)。隨著新生產(chǎn)力的獲得，人們改變自己的生產(chǎn)方式，隨著生產(chǎn)方式即謀生的方式的改變，人們也就會改變自己的一切社會關(guān)系。手推磨產(chǎn)生的是封建主的社會，蒸汽磨產(chǎn)生的是工業(yè)資本家的社會。人們按照自己的物質(zhì)生產(chǎn)率建立相應(yīng)的社會關(guān)系，正是這些人又按照自己的社會關(guān)系創(chuàng)造了相應(yīng)的原理、觀念和范疇。”②譯文參照《馬克思恩格斯文集》（第1 卷），中共中央馬克思恩格斯列寧斯大林著作編譯局譯，人民出版社，2009 年，第602~603 頁。

今天人們利用數(shù)據(jù)和由算法推動的軟件系統(tǒng)進(jìn)行生產(chǎn)，它帶給我們一個軟件資本的社會。一群精英占據(jù)了數(shù)字化社會的高層，這是一個新的階級或者說是原初階級，我們將之稱為“編程精英”。這一稱謂，是在致敬米爾斯意義上提出的。編程精英包括：軟件開發(fā)人員、科技公司CEO、投資者、計(jì)算機(jī)科學(xué)和工程學(xué)教授，等等。在這些有影響力的角色之間，他們經(jīng)常毫不費(fèi)力地進(jìn)行轉(zhuǎn)換。在包括斯坦福大學(xué)在內(nèi)的全國各地大學(xué)里，學(xué)術(shù)界和科技產(chǎn)業(yè)間的壁壘往往是很弱的，教授們可以在自己的創(chuàng)業(yè)公司、大型公司的重要職位、政府贊助的研究實(shí)驗(yàn)室和課堂之間轉(zhuǎn)換。在這里的世界，最有價(jià)值的人是那些能接觸和理解計(jì)算機(jī)代碼的人。最有權(quán)勢的人，是那些擁有代碼并可以雇傭他人按照他們的意愿執(zhí)行的人。在這里，掌握了計(jì)算技術(shù)，就意味著被賦予了特殊的權(quán)力。這些權(quán)力，體現(xiàn)在文化、政治以及經(jīng)濟(jì)等方面。

在文化方面，編程精英們生活在可靠的數(shù)字世界中。因?yàn)?，他們的形式邏輯在?shù)學(xué)上是可以證明的，因此這些技術(shù)似乎具有普遍性，從而遠(yuǎn)離了混亂的人類政治世界。編程精英們將算法視為幾乎可以開啟包括社會學(xué)在內(nèi)的所有學(xué)科的、可以改變政府行動每一個領(lǐng)域的、可以解決人類社會面臨大多數(shù)問題的鑰匙。但是，只有經(jīng)過學(xué)習(xí)的人，才能穿透其隱晦的語言，并通過它來解決棘手的問題。在此過程中，他們提高了自己的社會地位。

在政治方面，編程精英們生活在充滿控制力的世界中。狹義上，為了將社會規(guī)范和法律規(guī)則從自然語言轉(zhuǎn)化為計(jì)算機(jī)代碼，計(jì)算機(jī)科學(xué)家必須執(zhí)行解釋性工作，這肯定會扭曲和簡化社會規(guī)范和法律規(guī)則。但廣義上來講，代碼指揮著世界，換言之，“代碼即法律?！雹貺awrence Lessig, Code: And other laws of cyberspace, New York: Basic Books, 1999.這意味著兩件事：一是代碼使世界易于理解——它通過將人和物重新構(gòu)建為可讀取的機(jī)器實(shí)體來代表它們；二是代碼是強(qiáng)制性的——像法律一樣，它同樣具有承認(rèn)和排斥、分離和分配的權(quán)力。但是，與書面規(guī)定的法律必須由不同的機(jī)構(gòu)——通常是人類，因此能行使自由裁量權(quán)——來執(zhí)行不同，代碼一旦被編譯和運(yùn)行，那么它就既規(guī)定了規(guī)則，又自動化了它們。

在物質(zhì)層面上，編程精英們處于賺錢的有利領(lǐng)域。對于風(fēng)險(xiǎn)投資家來說，數(shù)字技術(shù)行業(yè)企業(yè)產(chǎn)品最有吸引力的是它們的良好擴(kuò)展性。例如，“Facebook”現(xiàn)在全球已經(jīng)擁有超過26 億用戶，每個用戶都自愿地為該平臺貢獻(xiàn)核心內(nèi)容。正如莫羅佐夫?耶夫根尼（Evgeny Morozov）所說：“在Facebook 上，人越來越多，它的價(jià)值也就越來越高……這也適用于搜索引擎：使用谷歌的人越多，它就變得越好，因?yàn)槊看嗡阉鞫际菍Ψ?wù)進(jìn)行調(diào)整和改進(jìn)的某種形式?！边@是第一個優(yōu)勢，可稱其為網(wǎng)絡(luò)效應(yīng)。第二個優(yōu)勢是機(jī)器學(xué)習(xí)的工作方式所帶來的直接結(jié)果：它以自動化反饋循環(huán)為動力，不斷地吞噬新的數(shù)據(jù)并逐漸提高預(yù)測準(zhǔn)確性（或者至少聲稱如此），從而擴(kuò)大市場可能性。

信息技術(shù)的悠久歷史，或多或少是一種不斷完善對勞動力控制的過程，是對源于工業(yè)革命中不斷變化的原材料產(chǎn)地和市場的控制。伯里斯?貝弗利（Burris H. Beverly）認(rèn)為，這種內(nèi)在的趨勢，使得負(fù)責(zé)技術(shù)控制的專家階層越來越獨(dú)立于他們的官僚控制。計(jì)算機(jī)化的控制形式尤其如此。這種形式，往往有利于社會等級制度的扁平化、專家和非專家部門之間的組織兩極分化，以及技術(shù)和管理職能之間的融合。正如貝弗利所說，“已經(jīng)證明的專業(yè)知識和獲得認(rèn)證的證書，傾向于取代等級權(quán)威成為合法權(quán)力的基本來源?！雹貰urris H. Beverly, Technocratic Organization and Control, Organization Studies, vol. 10, 1989, p. 11.

編程精英的權(quán)力完全在于他們對技術(shù)的控制，而非曾經(jīng)的定義職業(yè)權(quán)力的制度化過程。值得注意的是，編程精英普遍對資格考試不屑一顧，他們普遍持有的理念是通過具體的應(yīng)用證明自身技藝的價(jià)值。他們通過“更好更快地完成一項(xiàng)任務(wù)的純粹能力”②Eyal Gil, For A Sociology of Expertise: The Social Origins of The Autism Epidemic, American Journal of Sociology,vol. 118, 2013, p. 869.來獲得權(quán)力。必要時(shí)，他們還會依靠將“預(yù)言、壯觀和承諾”的誘惑力嵌入技術(shù)演示中以獲取權(quán)力。用科米薩?蘭迪（Komisar Randy）的話說，“是浪漫，而不是金融，讓業(yè)務(wù)值得追求?！雹跭omisar Randy, Kent L. Lineback and Kent Lineback, The Monk and The Riddle: The Education of A Silicon Valley Entrepreneur, Boston: Harvard Business Press, 2000, p. 93.由管理大師、專業(yè)雜志和技術(shù)狂熱者（負(fù)責(zé)傳播特定技術(shù)的信念并建立忠實(shí)的追隨者）組成的文化網(wǎng)絡(luò)，進(jìn)一步有助于這種組織的神話制造，并將權(quán)力鞏固在能夠?qū)嵤┖屠斫獯a的人以及資助他們的機(jī)構(gòu)和個人手中。

在追求市場擴(kuò)張的過程中，科技行業(yè)越來越多地削弱和宣稱曾經(jīng)作為專業(yè)判斷領(lǐng)域受到保護(hù)的任務(wù)，這些任務(wù)曾涉及從商業(yè)管理、醫(yī)療和刑事司法系統(tǒng)到國防、教育和社會福利的各個職業(yè)領(lǐng)域。深植固有的權(quán)力和人為機(jī)構(gòu)只不過是暫時(shí)性妥協(xié)，等待著他們的是最常規(guī)任務(wù)乃至工作領(lǐng)域的自動化。無論職業(yè)多么崇高或者入行的門檻多么高，都不能避免被二次算法意見所評判，甚至完全被其替代。合法性已從專業(yè)人士轉(zhuǎn)移到了編程大師，而且的確越來越多地依賴于算法。

在挑戰(zhàn)專業(yè)領(lǐng)域的過程中，通過使用行為經(jīng)濟(jì)學(xué)或社會心理學(xué)作為論據(jù)，編程精英們通常會依靠人類決策者和算法工具之間的正式比較，但這些比較往往會偏向技術(shù)。工程師們借鑒了大量文獻(xiàn)（其中一些已經(jīng)被行業(yè)媒體和主流媒體濫用），而這些文獻(xiàn)表明即使是最有聲望的專業(yè)人士在客觀性或最佳決策方面也會犯錯誤。他們以機(jī)器連貫的一致性對抗這些失敗，相比于醫(yī)生，“算法不需要休息，無論是在凌晨2 點(diǎn)還是早上9 點(diǎn)，它們的警覺度都相同。”④Obermeyer Ziad and Ezekiel J. Emanuel, Predicting the Future - Big Data, Machine Learning, And Clinical Medicine,The New England Journal of Medicine, vol. 375, no. 13, 2016, p. 1218.在他們看來，堆積如山的數(shù)據(jù)（有時(shí)被特別生成來用于訓(xùn)練機(jī)器學(xué)習(xí)算法），使人的決策不足；相反，人們應(yīng)該使用算法來改革他們自己的理性推理實(shí)踐。這里，其主要理念是：“人類思維脆弱而有缺陷，導(dǎo)致作出非理性的選擇，未能充分考慮廣泛的選擇結(jié)構(gòu)”。⑤Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power,New York: Public Affairs, 2019, p. 343.然而，在代碼的承諾之下，要馴服人類的“不可預(yù)測的、倔強(qiáng)和其他的非理性”⑥Mark Andrejevic, Automated Media, New York: Routledge, 2019.的傾向，背后隱藏著經(jīng)濟(jì)上的強(qiáng)大激勵，以更好地預(yù)測或控制行為，其做法主要是：使人們能夠生產(chǎn)更多的數(shù)據(jù)或看到更多的廣告；滿足人們的欲望，甚至在他們意識到之前就促使他們購買；或者在經(jīng)常處于資金短缺狀態(tài)下的公共機(jī)構(gòu)中獲得立足之地，希望加速、簡化和自動化過程；取代客戶服務(wù)；或者解決工作積壓問題。

（二）全球網(wǎng)絡(luò)主義者及其分裂

權(quán)力集中于編程精英，也體現(xiàn)在他們從新舊工作中搜刮勞動力的獨(dú)特手段上。如果工業(yè)資本透過商品物神崇拜來掩蓋勞動力的存在，那么數(shù)字資本主義則故意透過對人工智能（Artificial Intelligence）和虛假自動化的崇拜來隱匿勞動力。即時(shí)應(yīng)用程序、搜索引擎、地圖網(wǎng)站、社交媒體網(wǎng)站乃至自動駕駛車輛等許多產(chǎn)品的順利運(yùn)行，都依賴大量人群從事幽靈工作的集體智慧。這是因?yàn)?，在沒有對內(nèi)容進(jìn)行精心準(zhǔn)備、在沒有檢查和糾正缺陷的結(jié)果、在沒有人類完成所謂的“最后一公里”工作的情況下，大多數(shù)算法系統(tǒng)是無法有效運(yùn)作的。時(shí)至今日，配對司機(jī)和乘車請求的工作、為網(wǎng)絡(luò)頁面評分、糾正數(shù)字地圖、標(biāo)記和注釋視頻、雙重檢查虛擬助手的回答、糾正偏見并進(jìn)行社交媒體帖子的監(jiān)管等工作，仍然需要大量真實(shí)人力參與。①盡管用戶生成內(nèi)容的審核已經(jīng)有自動化參與，但大量人工審核員也會承擔(dān)對被標(biāo)記內(nèi)容進(jìn)行核實(shí)，并在內(nèi)容違反組織政策或版權(quán)法時(shí)將其刪除等任務(wù)。——作者注AI 崇拜背后的事實(shí)是：一個全球數(shù)字裝配線，那些默默無聞的男女勞工經(jīng)常在不穩(wěn)定的環(huán)境下勞動，其中許多人在全球南方的后殖民地工作。這樣，一個新的工人階級站在編程精英的對立面：網(wǎng)絡(luò)無產(chǎn)階級。

不管是對于小型初創(chuàng)企業(yè)還是大公司來說，勞動力被套入算法系統(tǒng)中的日常運(yùn)營，都是一個負(fù)債。這是因?yàn)椋麄兊墓乐岛屠麧欘A(yù)測依賴于盡可能完全自動化系統(tǒng)執(zhí)行的所有任務(wù)的可行性。例如，當(dāng)大規(guī)模投資于開發(fā)自動化車輛的時(shí)候，共乘平臺Uber 公司認(rèn)識到勞動力法規(guī)可能會威脅他們不得不支付司機(jī)更具正當(dāng)性的生活工資。然而，令人意外的是，在加利福尼亞州的選民通過了由行業(yè)贊助的22 號提案后不久，該公司便放棄了這一計(jì)劃。22 號提案將App 司機(jī)分為承包商而非員工（這些員工可能會向公司施壓以獲得福利和更高工資）。有時(shí)，人員的招募被視為一種臨時(shí)解決方案，但隨著程序員們在可以自動化的計(jì)算限制上的掙扎，臨時(shí)的情況可能變得永久化。在各個行業(yè)和組織層級中，工作的平臺化正日益增長，這使得企業(yè)能夠?qū)⒉淮_定性轉(zhuǎn)移到外部勞動力身上。沒有人是可以幸免的：技術(shù)也滲透并剝奪了管理角色的專業(yè)能力，例如出租車調(diào)度或班次安排。

理解這些重組和創(chuàng)新，并不僅僅是為了將傳統(tǒng)的模擬任務(wù)數(shù)字化或?qū)⑵渫獍o全球分布的更廉價(jià)的勞動力。這一點(diǎn)非常重要。相反，它們也是數(shù)字資本主義運(yùn)作的本質(zhì)和必要條件。就像工業(yè)產(chǎn)品的生產(chǎn)導(dǎo)致了無產(chǎn)階級的產(chǎn)生一樣，數(shù)字產(chǎn)品（算法和人工智能）的生產(chǎn)也導(dǎo)致了“網(wǎng)絡(luò)無產(chǎn)階級”②Ursula Huws, Labor in The Global Digital Economy: The Cybertariat Comes of Age, New York: NYU Press, 2014.的誕生。這些“網(wǎng)絡(luò)無產(chǎn)階級”承擔(dān)著“一系列未支付、微支付和低薪人類任務(wù)”。③Antonio A Casilli, Global Digital Culture| Digital Labor Studies Go Global: Toward A Digital Decolonial Turn,International Journal of Communication, vol. 11, 2017, pp. 3934-3935.然而，與馬克思等人描述的工業(yè)無產(chǎn)階級相比，網(wǎng)絡(luò)無產(chǎn)階級存在明顯的差異。在具身層面上，工人階級是同時(shí)存在的，并密集地聚集在工廠中。雖然數(shù)字倉庫和點(diǎn)擊農(nóng)場有時(shí)也具備這些特點(diǎn)，但是卻越來越少。伴隨著“眾包”平臺的崛起，這個不穩(wěn)定的數(shù)字階層的成員越來越原子化，并且他們彼此孤立。實(shí)際上，他們的工作，更類似于舊的原型工業(yè)中分包系統(tǒng)的工作，或者稱為計(jì)件工作，工人在家中接收材料并對其進(jìn)行加工。對于網(wǎng)絡(luò)自由主義者來說，工作和家庭生活之間的界限也變得模糊起來。數(shù)字化勞動力的分散化、算法式（而非官僚式）管理，以及工作項(xiàng)目細(xì)分成微觀任務(wù)，使得集體行動和團(tuán)結(jié)變得困難。

對于馬克思和恩格斯來說，讓無產(chǎn)階級感到痛苦的是產(chǎn)業(yè)工人（即工業(yè)后備軍）和科技本身帶來的競爭。而對于網(wǎng)絡(luò)無產(chǎn)階級來說，這兩個威脅已經(jīng)被完全內(nèi)化。首先，數(shù)字公司通過平臺擴(kuò)大勞動力規(guī)模并將其工作分解為無數(shù)微型任務(wù)的投資，旨在支持該勞動力的自主替代——一個被詹娜特?A.韋特西（Janet A. Vertesi）等學(xué)者稱為“自動化前期”①Janet A Vertesi, et al, Pre-automation: Insourcing and Automating the Gig Economy, Sociologica, vol. 14, 2020, pp.167-193.的過程。換句話說，平臺既利用其自身不穩(wěn)定的網(wǎng)絡(luò)勞動者來執(zhí)行那些難以自動化的任務(wù)，也同時(shí)利用他們產(chǎn)生的數(shù)據(jù)來自動化這些任務(wù)。這些勞動者的工作場所，只能是在被宣傳為具有人工智能的平臺和系統(tǒng)上。他們的貢獻(xiàn)被刻意掩蓋，許多購買他們服務(wù)的人希望最終完全消除對這種人工計(jì)算的需求。第二，平臺也加大了勞動者之間的競爭，它允許某些職業(yè)（如教師、文化演員）大幅擴(kuò)大其覆蓋范圍，有可能減少人力需求并使贏者通吃的邏輯占據(jù)主導(dǎo)地位。第三，不論線上還是線下，平臺化的勞動力一般都實(shí)行算法管理，以便實(shí)時(shí)優(yōu)化市場條件、服務(wù)質(zhì)量、地理距離或薪資報(bào)酬，所以它能根據(jù)市場的需求、服務(wù)質(zhì)量、地理距離或薪酬進(jìn)行實(shí)時(shí)優(yōu)化，在任何地方都能管理。工作經(jīng)驗(yàn)的不確定性，②其不確定性，包括不穩(wěn)定的工作、不規(guī)律的工作時(shí)間表、壓抑人心的監(jiān)控、不斷進(jìn)行高風(fēng)險(xiǎn)評估和薪資的不穩(wěn)定性，等等。導(dǎo)致了一系列社會問題（其中也包括負(fù)面的健康結(jié)果）。此外，平臺勞工可能會遭受算法殘酷對待，例如由于算法規(guī)則的變化或危險(xiǎn)閾值的越過而突然逆轉(zhuǎn)命運(yùn)。許多兼職工作者或內(nèi)容提供者，例如，由于評級的下降或工作時(shí)間的減少，他們會突然被從其主要收入來源的平臺上剔除。值得注意的是，這種強(qiáng)制的勞動靈活性，行業(yè)勞動法規(guī)對此堅(jiān)決反對（例如加州的“第五議案”）。③共享乘車公司和外賣App 公司投入了兩個多億美元，成功說服選民通過了加州第22 號提案，該提案為他們的員工創(chuàng)造了不受第5 號議案約束的特定豁免權(quán)?！髡咦⒃撟h案提議將平臺工作者視為雇員而非獨(dú)立承包商。

最后，網(wǎng)絡(luò)無產(chǎn)階級的邊界并不限于廉價(jià)的平臺勞動力。數(shù)字資本主義的一個顯著特征是依賴于自由勞動力。實(shí)際上，在分類和識別方面，許多相關(guān)工作都是由未被付費(fèi)的平臺用戶和“微任務(wù)”完成的。正如哈米德??？吮葋啠℉amid R. Ekbia）和邦妮?納迪（Bonnie A. Nardi）所定義的那樣，這個“異構(gòu)化”過程包括生成內(nèi)容、共同解決問題、提供反饋，或者僅僅被追蹤。特斯拉駕駛員在每次駕車的時(shí)候，都在訓(xùn)練公司的自動駕駛算法；在完成“我不是機(jī)器人”驗(yàn)證碼測試后他們進(jìn)入網(wǎng)站時(shí)也同樣如此。在這個意義上，幾乎每個人都屬于網(wǎng)絡(luò)無產(chǎn)階級。歷史學(xué)家尤瓦爾?哈拉里（Yuval Harari）寫道：“如果馬克思今天復(fù)活了，他可能會敦促他的少數(shù)信徒多花時(shí)間研究互聯(lián)網(wǎng)和人類基因組，而不是閱讀《資本論》?！雹躖uval Noah Harari, Homo Deus: A Brief History of Tomorrow, New York: Harper, 2017, p. 276.在21 世紀(jì)，一位現(xiàn)代的馬克思主義者或許會指出，對于資本來說，人的真正價(jià)值并不在于他們的勞動力和肉體勞動的減少，而更多地體現(xiàn)在更親密、也許更接近于他們物種本質(zhì)的東西上：關(guān)于他們是誰以及他們?nèi)绾蜗嗷ヂ?lián)系的數(shù)百萬比特信息。他會發(fā)現(xiàn)，數(shù)十億用戶進(jìn)行在線生活時(shí)，在未經(jīng)報(bào)酬給付的點(diǎn)擊工作中，卻產(chǎn)生了新形式的剩余價(jià)值。而且，他試圖指明與這種積累模式有關(guān)的某種類似敵對的關(guān)系，以及相關(guān)的意識形態(tài)斗爭。

那么，集體動員和階級團(tuán)結(jié)的可能性將如何發(fā)展？對于網(wǎng)絡(luò)無產(chǎn)階級來說，正如過去的無產(chǎn)者所做的那樣，通過進(jìn)行車間組織來抵制勞動力的提取可能更為困難。然而，他們的工作現(xiàn)實(shí)不允許這樣做。盡管如此，抵抗行動仍在積極進(jìn)行中。例如，在線下組織的在線論壇。致力于網(wǎng)絡(luò)勞工權(quán)益的編碼人員扮演著一定的角色。他們創(chuàng)建工具來幫助網(wǎng)絡(luò)無產(chǎn)階級進(jìn)行信息共享和自我組織。以設(shè)想巧妙的“Turkopticon”程序?yàn)槔?。它是一款網(wǎng)頁瀏覽器插件，可以在亞馬遜MTurk（Amazon Mechanical Turk）平臺上疊加功能，幫助那些按任務(wù)計(jì)酬的點(diǎn)擊工作者避免糟糕的工作質(zhì)量、延遲付款和直接的工資竊取。相應(yīng)的伙伴平臺“Dynamo”，則支持工作者集體組織以解決這些問題。最后，過去曾使用的蟄伏和按章辦事的策略，重現(xiàn)于工作場所算法的操縱之中。這些以及其他形式的算法行動主義，通過利潤型算法系統(tǒng)內(nèi)部反對和超越其范圍發(fā)揮作用。

事實(shí)上，也出現(xiàn)了一些傳統(tǒng)的組織形式，包括工會組成和努力實(shí)現(xiàn)勞工保護(hù)法的努力。以公平調(diào)度運(yùn)動為例，其旨在監(jiān)管、限制和加劇工人不穩(wěn)定性的排版軟件的使用，并取消對其工作之外時(shí)間的控制權(quán)。在洛杉磯，“代駕”公司的司機(jī)們組成了“共乘司機(jī)聯(lián)合會”（Rideshare Drivers United）。現(xiàn)在，該組織正在增加其在加利福尼亞的會員數(shù)量，并在美國其他地區(qū)開設(shè)分部。最終，作為企業(yè)平臺主導(dǎo)的一種替代方案，由工人階級所有的平臺出現(xiàn)了?，F(xiàn)有的合作社，提供了股票照片收藏、換貨和互換托兒服務(wù)以及流媒體音樂服務(wù)。這種平臺合作主義運(yùn)動，旨在將各種職業(yè)和行業(yè)中的高科技合作社聯(lián)結(jié)成一個財(cái)團(tuán)，或者說是一種合作社的合作社。

三、精算主義及其不滿

通過另一種根本方式，編程精英廣闊的領(lǐng)域相關(guān)性已經(jīng)聲明改變了組織流程：基于技術(shù)效率和機(jī)械客觀性推進(jìn)治理邏輯。確實(shí)，通過數(shù)字進(jìn)行治理并不是新事物，早在計(jì)算機(jī)出現(xiàn)的幾個世紀(jì)前就有了。在刑事司法系統(tǒng)、金融與保險(xiǎn)、勞動管理和教育等領(lǐng)域，算法思維模式（例如通過決策樹結(jié)構(gòu)）已有長期的繁榮發(fā)展。新的模式是采用行為跟蹤數(shù)據(jù)，包括我們在設(shè)備上執(zhí)行的操作以及捕捉在設(shè)備環(huán)境中的各種信息，而且新的模式越來越依賴計(jì)算能力來處理這些數(shù)據(jù)。

大量的各種類型的數(shù)據(jù)，使得現(xiàn)有的某些算法類別變得更加強(qiáng)大。此外，一種新的算法類別（也叫深度學(xué)習(xí)，它是神經(jīng)網(wǎng)絡(luò)模型的進(jìn)化），利用這種豐富性直接從數(shù)據(jù)中推斷出結(jié)論。雖然這并不完全恰當(dāng)?shù)匕凳具@些算法自己進(jìn)行編程，但它們確實(shí)以超越人類理解的方式進(jìn)行自我優(yōu)化。盡管這些技術(shù)可以追溯到20 世紀(jì)50 年代，但它們在20 世紀(jì)80 年代才真正開始迅速發(fā)展，當(dāng)時(shí)在金融領(lǐng)域開始得到實(shí)施應(yīng)用。如今的學(xué)習(xí)算法已嵌入社交媒體動態(tài)、工作場所監(jiān)控系統(tǒng)、智能城市、港口和邊境，而且還應(yīng)用于現(xiàn)代戰(zhàn)爭中。一個重要的結(jié)果是，許多常用于預(yù)測人們行為的模型，現(xiàn)在能夠根據(jù)新數(shù)據(jù)的不斷更新而進(jìn)行動態(tài)調(diào)整，并且通過控制論反饋回路進(jìn)行持續(xù)調(diào)整。這些技術(shù)放大了大衛(wèi)?哥倫比亞（David Columbia）所稱的計(jì)算主義的文化權(quán)力，即計(jì)算機(jī)能夠并且必須為社會組織和資源分配的基本過程提供支持。

編程精英通過利用人類理性的有限性來鞏固自己的權(quán)力。他們認(rèn)為，在技術(shù)層面，機(jī)器推理不僅更快更優(yōu)秀，而且更公平。對機(jī)械化、非人性化過程優(yōu)于源于個人決策權(quán)過程的相信，并不僅是計(jì)算機(jī)時(shí)代的發(fā)明。一個多世紀(jì)以前，馬克斯?韋伯（Max Weber）討論了專業(yè)行政官僚崛起的問題，他們遵循“可計(jì)算規(guī)則”并做出“不考慮個人”的決定。①M(fèi)ax Weber, Economy and Society: An Outline of Interpretive Sociology, Berkeley: Univ. Calif. Press, 1978, p. 975, p. 974.他指出，官僚行政取代了可能受到“個人同情和好處，體面和感激”的領(lǐng)主行政。相比之下，任何接受官僚流程管轄的人都會獲得同樣的公正考慮。實(shí)際上，官僚體制越是非人性化，就越能呈現(xiàn)出更為完美的特征。這與資本主義市場經(jīng)濟(jì)要求“精確、明確、持續(xù)和盡可能快地完成公共行政公務(wù)”②Max Weber, Economy and Society: An Outline of Interpretive Sociology, Berkeley: Univ. Calif. Press, 1978, p. 975, p. 974.的理念，是相輔相成的。

將社會群體的歷史數(shù)據(jù)納入規(guī)則驅(qū)動的官僚制流程中，使得對未知個體進(jìn)行更精確的風(fēng)險(xiǎn)評估成為可能。將這種精算學(xué)提升為崇高的目標(biāo)，與提供更公平的社會機(jī)構(gòu)使用權(quán)和改善被排除者生活機(jī)會的進(jìn)步思想緊密相連。例如，在信貸和保險(xiǎn)領(lǐng)域，包容往往采取積極的市場擴(kuò)張形式，推動對以前未見過的人群的信息搜索。隨著客戶群體的增長和貸款業(yè)務(wù)的逐漸疏離，統(tǒng)計(jì)數(shù)據(jù)，作為一種標(biāo)準(zhǔn)化決策標(biāo)準(zhǔn)以及更好管理不確定性的方法被引入。通過信用記錄的普及化和風(fēng)險(xiǎn)的定量評估而建立的國家信托基礎(chǔ)設(shè)施，使得貸款人更容易與未知的借款人合作。同時(shí)，日益豐富的數(shù)據(jù)可用性擴(kuò)大了與風(fēng)險(xiǎn)確定相關(guān)的變量范圍，這推動了從風(fēng)險(xiǎn)評估的群體化逐漸向其個性化的轉(zhuǎn)變。

推動精算方法吸引力的另一個重要因素，是各種機(jī)構(gòu)中變化不定的政治環(huán)境。20 世紀(jì)70年代，一波新的反歧視立法出現(xiàn)了，這使得依賴人類判斷變得越來越棘手。證據(jù)表明，私營和公共決策者們經(jīng)常傾向于根據(jù)模糊直覺、個人偏見和主觀意見進(jìn)行決策。而這些決策被認(rèn)為是不公平的，因?yàn)樗鼈兺鶎Φ匚惠^低群體產(chǎn)生偏見，或者它們根本不一致。精算技術(shù)崛起的歷史記載表明，技術(shù)的發(fā)展進(jìn)步十分重視對于機(jī)構(gòu)責(zé)任的追究以及通過反思偏見、偏愛和排斥的歷史來實(shí)現(xiàn)?，F(xiàn)代算法的機(jī)制，則提供了透明的、平等的、不帶情感色彩的處理方式——而人為的幕后操縱則無能為力。這種處理方式，不會因?yàn)榉N族或者性別等禁止的人口特征而作出判別。舉個例子，由紐約市警察局開發(fā)的用于跟蹤和繪制犯罪信息的COMPSTAT 系統(tǒng)，就是通過更加客觀地警務(wù)決策和基于數(shù)據(jù)的方式減少歧視性警務(wù)執(zhí)法的系統(tǒng)。同樣地，洛杉磯警察局采用了預(yù)測工具作為對嚴(yán)重的合法性和問責(zé)性質(zhì)疑的回應(yīng)。③Sarah Brayne, Predict and Surveil: Data, Discretion, and the Future of Policing, Oxford, UK: Oxford Univ. Press,2020, p. 138.

由于消除了人的主觀傾向，新的算法分類制度似乎更容易成為程序公平的論據(jù)。然而，它可能無法滿足關(guān)于公平的其他社會定義?，F(xiàn)在，學(xué)者們逐漸認(rèn)識到，算法系統(tǒng)可能會再現(xiàn)某些群體的不平等，同時(shí)也可能創(chuàng)造新的社會等級制度。與遵守規(guī)則的機(jī)構(gòu)或直覺的人類決策制定者產(chǎn)生不平等的方式不同，算法（尤其是機(jī)器學(xué)習(xí)算法）產(chǎn)生不平等的機(jī)制和方式，主要是通過檢測數(shù)據(jù)中的模式并從這些模式概括出新的情況來實(shí)現(xiàn)的。最后，由于算法決策依賴于高度多維、復(fù)雜且常常是專有的模型，所以它們也更加不透明和難以被質(zhì)疑。

（一）算法不平等

在韋伯的分析框架中，最終塑造階級（或階級狀況）的是財(cái)富和機(jī)會在各種制度領(lǐng)域內(nèi)外的社會分配方式。無論算法如何分配獎勵、機(jī)會或懲罰，它們都有能力改變個人的生活機(jī)會。算法機(jī)制實(shí)現(xiàn)這一目標(biāo)的方式，主要是通過精確而理性地分配資源并通過其高效擴(kuò)展的能力增加可能發(fā)生這種分配場所數(shù)量的方式。然而，通過這種方式，他們卻暗自改變了社會階級劃分的過程。不同于以包容與排斥為基礎(chǔ)（例如那些能獲得信用與那些被排除在外的人之間的區(qū)分）的傳統(tǒng)門檻機(jī)制，新的算法機(jī)制產(chǎn)生了一個滑動的分類情況，這個分類情況具有更加精細(xì)的職位差異化。例如，享有有利于信用風(fēng)險(xiǎn)評估的理想借款人將得到慷慨的信貸合同，不理想的借款人將面臨深度高利率的合同，而位于兩者之間的人將得到一系列或多或少有利的提議。與其完全排除不同，數(shù)字化因此可能促進(jìn)各種形式的捕食性包容。由于這些常常會對種族少數(shù)群體造成不平等，所以種族資本主義的熟悉過程正被數(shù)字時(shí)代重新塑造。

在理論上，算法分配被視為完美、準(zhǔn)確和公平，但在實(shí)踐中卻存在多種問題。一個關(guān)鍵的問題是編碼人員和模型構(gòu)建者很少質(zhì)疑他們使用的輸入數(shù)據(jù)的質(zhì)量，盡管模型構(gòu)建中數(shù)據(jù)質(zhì)量的問題正在得到解決。許多培訓(xùn)數(shù)據(jù)集生產(chǎn)時(shí)，對不同目標(biāo)群體的代表性很少關(guān)注，他們或從用戶或通過“眾包”平臺雇傭的工人獲取的數(shù)據(jù)。例如，廣泛使用的用于訓(xùn)練人臉識別系統(tǒng)的數(shù)據(jù)集，以及警務(wù)數(shù)據(jù)都很可能具有偏見和錯誤。這些錯誤和偏見會在領(lǐng)域內(nèi)傳播。就算警務(wù)數(shù)據(jù)被廣泛應(yīng)用于預(yù)測執(zhí)法等領(lǐng)域，也并不意味著它們能夠透明地反映犯罪行為。實(shí)際上，警方報(bào)告很可能反映制度化的自我呈現(xiàn)或個人和集體繞過官僚標(biāo)準(zhǔn)的策略。社會學(xué)家早就知道這一點(diǎn)，值得引起我們重視。正如奧尼爾（O’Neill）所指出的那樣，結(jié)果就是基于那些可能是警務(wù)實(shí)踐而不是犯罪評估的小違規(guī)行為來形成風(fēng)險(xiǎn)預(yù)測模型。

在決策中，證明精算邏輯的一個重要前提是，“相信過去觀察到的模式提供了關(guān)于未來可能發(fā)生的活動和事件的有用信息。”①Oscar H. Gandy, Coming to Terms with Chance: Engaging Rational Discrimination and Cumulative Disadvantage,New York: Routledge, 2016, p. 9.但是在人類事務(wù)中，基于過去來預(yù)測未來的做法可能會進(jìn)一步實(shí)化和再生產(chǎn)現(xiàn)有機(jī)構(gòu)對待不平等的問題，并可能對其進(jìn)行復(fù)制。由于人們的可見性受到數(shù)據(jù)收集引擎的社會組織的反對，數(shù)字編碼成為種族、性別和階級結(jié)構(gòu)熟悉操作的新渠道。因此，針對有色社區(qū)的過度執(zhí)法，再加上制度化的種族偏見的慣例，制定的犯罪數(shù)據(jù)集嚴(yán)重偏向于過度代表這些群體，并對這些群體的認(rèn)知嚴(yán)重偏頗。社會服務(wù)資格自動化執(zhí)法將最脆弱的家庭定罪，并使他們偏離他們應(yīng)享受的福利。相反，針對主要以白人或主要以男性為數(shù)據(jù)集進(jìn)行訓(xùn)練的算法可能根本無法看到被統(tǒng)治的群體。一個基于機(jī)器學(xué)習(xí)的算法審查工作申請者，發(fā)現(xiàn)了亞馬遜存在男性招聘偏向的模式，并對包含女性候選人信號的申請給予低分。

預(yù)測系統(tǒng)的其他陷阱，與概念不良或誤用有關(guān)。雖然使用算法可以使決策更為客觀，但這些系統(tǒng)中的目標(biāo)函數(shù)往往反映出其他目標(biāo)，尤其是機(jī)構(gòu)成本優(yōu)化和風(fēng)險(xiǎn)最小化。例如，一個被編程用于優(yōu)化醫(yī)療支出的風(fēng)險(xiǎn)評估模型低估了黑人患者病情的嚴(yán)重程度，因?yàn)樗麄兤骄幂^少的醫(yī)療資源，則健康結(jié)果更差。①在制度上，對使用機(jī)器學(xué)習(xí)管理人類事務(wù)的批評促使美國國會成立了人工智能核心小組，并創(chuàng)建了“公平、問責(zé)和透明”系列會議?！髡咦⒅档米⒁獾氖?，通過動態(tài)調(diào)整的過程，機(jī)器學(xué)習(xí)模型也可能產(chǎn)生一種有害的反饋循環(huán)。例如，被預(yù)測的高犯罪區(qū)域或高風(fēng)險(xiǎn)個體將受到警方更多的關(guān)注，進(jìn)而導(dǎo)致被逮捕率上升，并加劇對這些人的審查。類似地，對于黑人借款人來說，預(yù)測的更高信用違約率將導(dǎo)致貸款條件的不利，其結(jié)果是很可能導(dǎo)致更多的違約情況。此外，不成比例參與刑事司法系統(tǒng)以及不良的信用記錄都會導(dǎo)致其他社會成本，包括就業(yè)、教育或住房的障礙，進(jìn)而進(jìn)一步造成經(jīng)濟(jì)損害。預(yù)測分析的超級表現(xiàn)創(chuàng)造了一種自我實(shí)現(xiàn)的預(yù)言，即使沒有任何歧視意圖，也會重復(fù)歷史上的不利和結(jié)構(gòu)性的不平等。

最后，這些種類的劣勢，可能更難以在政治上爭議。因?yàn)樗鼈兪峭ㄟ^對個人而非群體行為的測量來進(jìn)行渠道化的，所以它們被認(rèn)為是公平的。而且，因?yàn)樗鼈凅w現(xiàn)在數(shù)學(xué)公式中“被看作比之前的歧視系統(tǒng)更為客觀或進(jìn)步”，②Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code, Cambridge, UK: Polity, 2019, p. 5.因而可能更難被發(fā)現(xiàn)和挑戰(zhàn)。但是，正如伯納德?哈考特（Bernard E. Harcourt）所指出的，將正義（和懲罰）簡化為計(jì)算模型是根本性的問題。預(yù)測未來的犯罪行為過度決定了決策制定，而忽略了其他因素，如威懾、意圖和傷害程度等。這構(gòu)成了對刑事司法的“認(rèn)識扭曲”。③Bernard E. Harcourt, Against Prediction: Profiling, Policing, and Punishing in an Actuarial Age, Chicago: Univ.Chicago Press, 2007, p. 22.

公平性可能是當(dāng)今機(jī)器學(xué)習(xí)領(lǐng)域最受爭議的話題，這常常導(dǎo)致有關(guān)哪種統(tǒng)計(jì)標(biāo)準(zhǔn)最適合特定情況的復(fù)雜爭論：假陰性與假陽性（false negatives versus false positives）的爭論，或者人口平衡性與預(yù)測率平衡性的爭論。然而，有些批評者堅(jiān)決反對在防止社會不公方面，數(shù)學(xué)的客觀性在本質(zhì)上比人類判斷更好的觀點(diǎn)，無論后者多么主觀。弗吉尼亞?尤班克斯（Virginia Eubanks）堅(jiān)持認(rèn)為，在社會服務(wù)提供中，“同理心”起著基本作用：“對人類決策是不透明和不可訪問的假設(shè)使我們放棄了社會承諾的承認(rèn)，即努力理解彼此。”④Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, New York: St.Martin’s, 2017, p. 168.弗蘭克?帕斯夸雷（Frank Pasquale）回應(yīng)了這種情緒，并顛覆了韋伯的觀點(diǎn)。他得出結(jié)論：一個以人為本的規(guī)則比機(jī)器的規(guī)則更能保障合法正當(dāng)程序。⑤Frank Pasquale, A Rule of Persons, Not Machines: The Limits of Legal Automation, Geo. Wash. L. Rev, vol. 87, 2019,no. 1, pp. 1-55.

（二）算法支配

個人信息的納入已成為現(xiàn)代公民身份認(rèn)定的必要條件。數(shù)字化的發(fā)展拓展了打擊欺詐的雄心，同時(shí)也促使公民權(quán)益和福利向更精準(zhǔn)化的方向定制（Fourcade 2021）。這種趨勢在全球范圍內(nèi)都存在：在不同的政治和歷史背景下，信息化、現(xiàn)代化可能看起來既熟悉又截然不同。在印度，身份證是一個綜合性身份識別系統(tǒng)，存儲了每位公民的指紋和虹膜掃描數(shù)據(jù)以及人口統(tǒng)計(jì)數(shù)據(jù)，最初被宣傳為反腐工具和高效提供福利服務(wù)的手段。然而，由于公共和私人機(jī)構(gòu)之間溝通互動的需要，大量的基礎(chǔ)性監(jiān)控設(shè)施被迅速地建造出來。在南非，后種族隔離政府也試圖實(shí)施全國性生物識別身份證系統(tǒng)，以提高社會福利津貼發(fā)放的一致性。政府以韋伯式典范宣稱，該系統(tǒng)的通用性和標(biāo)準(zhǔn)化保證了平等待遇。盡管在南非歷史上出現(xiàn)過令人壓抑的信息基礎(chǔ)設(shè)施，其中最著名的是存檔系統(tǒng)，但這個新的公民數(shù)據(jù)庫還是受到了后種族隔離時(shí)期領(lǐng)導(dǎo)人的歡迎。①作為一種基于種族的全面分類系統(tǒng)，對種族隔離政府政策的實(shí)施至關(guān)重要。參見Geoffrey C Bowker and Susan Leigh Star, Sorting Things Out: Classification and its Consequences, Cambridge, MA: MIT press, 2000?！髡咦?/p>

在中國，地方政府和中央政府都與私營部門合作發(fā)展面向個人和組織的社會信用體系，以增強(qiáng)其金融行為和公民意識。通過將算法生成的社會信用評分與實(shí)際結(jié)果（方便和特權(quán)、公開表揚(yáng)或羞辱）進(jìn)行關(guān)聯(lián)，這些系統(tǒng)促進(jìn)了規(guī)則遵從（例如，通過人行橫道過馬路）和遵守社會期望（例如照顧父母、做志愿工作）。盡管西方評論家對中國社會信用的發(fā)展多有詬病，但是有一點(diǎn)值得記住，其他地方的私有數(shù)據(jù)基礎(chǔ)設(shè)施同樣具有無法逃避的感覺。例如，奧尼爾描述了這樣一種情況：一個求職者在美國零售行業(yè)的大部分工作崗位中被排除在外，原因是他未能通過由一家在該領(lǐng)域簽有合同的軟件公司設(shè)計(jì)的招聘預(yù)篩選測試。其他數(shù)據(jù)系統(tǒng)普遍跨越國界。例如，在自動識別欺詐的網(wǎng)絡(luò)安全工具中嵌入了以歐洲為中心的假設(shè)，已經(jīng)成為全球基礎(chǔ)設(shè)施中普遍存在的一部分。

在這些例子中，公平分配并不是唯一的問題。那些被強(qiáng)制管轄的人無法塑造算法統(tǒng)治的條款，或者規(guī)避代碼的規(guī)則，這引發(fā)了關(guān)于民主和人類自主權(quán)的根本問題。編程精英們將其方法框架化為通用的領(lǐng)域和非特定的領(lǐng)域。但是，依賴單一邏輯來塑造跨機(jī)構(gòu)的做法，導(dǎo)致的結(jié)果是潛在地會將人們困在自我強(qiáng)化的排斥循環(huán)中，包括工作、信用、教育、住房和社會權(quán)利的整個社會存在范圍。不同的決策邏輯為那些在某些特別領(lǐng)域（例如個人金融）②然而，這種策略并不能完全消除結(jié)構(gòu)性劣勢，因?yàn)槌煽儾患押苡锌赡芘c各領(lǐng)域相關(guān)，社會學(xué)家對此深有體會。參見Robert J Sampson, The Characterological Imperative: On Heckman, Humphries, and Kautz's The Myth of Achievement Tests: The GED and the Role of Character in American Life, Journal of Economic Literature, vol. 54, no. 2, 2016, pp. 493-513?！髡咦⒅袛?shù)據(jù)記錄為不可預(yù)測或不具潛力的候選人，創(chuàng)造了機(jī)會和空間。這也是為什么美國監(jiān)管機(jī)構(gòu)在讓車險(xiǎn)公司使用信用評分來預(yù)測事故風(fēng)險(xiǎn)時(shí)持謹(jǐn)慎態(tài)度，以及雇主在處理信用報(bào)告數(shù)據(jù)時(shí)會小心翼翼地尋找差的數(shù)據(jù)背后的人性故事的原因。

被一個不能感知或無情的系統(tǒng)支配或操縱，似乎違反了人類尊嚴(yán)和自主的基本概念。歐盟《通用數(shù)據(jù)保護(hù)條例》回應(yīng)了這些情緒，規(guī)定了一項(xiàng)解釋權(quán)，要求對算法決策進(jìn)行人工審核。類似地，越來越多的人類學(xué)文獻(xiàn)表明，人們在工作生活中悄悄地抵制算法的權(quán)威。在美國，“算法老板”已經(jīng)輸?shù)袅酥匾姆?。在英國，針?020 年大學(xué)錄取考試周期中使用機(jī)器學(xué)習(xí)來確定學(xué)生分?jǐn)?shù)的抗議浪潮，倫敦區(qū)議會也取消了對“使用計(jì)算機(jī)算法來幫助決定福利申請和其他福利問題”的決定。這些民眾的反抗活動與廣泛的人種學(xué)證據(jù)相一致，表明配備了算法工具的專業(yè)人員在日常工作中也經(jīng)常表達(dá)懷疑，或者推翻或者忽略它們。①塞爾加尼等人的研究表明在一個非常豐富的縱向數(shù)據(jù)集上訓(xùn)練的機(jī)器學(xué)習(xí)算法在預(yù)測兒童傷害方面的表現(xiàn)并不比僅使用少量變量的簡單線性回歸模型更好。參見Matthew J Salganik, et al., Measuring the Predictability of Life Outcomes With A Scientific Mass Collaboration, Proceedings of the National Academy of Sciences, vol. 117, no. 15, 2020, pp.8398-8403。——作者注

最后，算法系統(tǒng)及其倡導(dǎo)者極有可能助戰(zhàn)曾經(jīng)被馮?哈耶克（Von Hayek）譴責(zé)過的致命迷信，認(rèn)為只有可測量的東西才是重要的。根據(jù)算法系統(tǒng)的技術(shù)能力構(gòu)建社會的規(guī)范或法律的做法，可能會使我們看不到不可測量但必不可少的過程，或?qū)е挛覀儗Ｗ⒂阱e誤的結(jié)果，或產(chǎn)生不值得回報(bào)的社會成本。特別是，一心一意地關(guān)注對狹窄任務(wù)的預(yù)測準(zhǔn)確性，由于受到可用數(shù)據(jù)和可以提交的分類數(shù)據(jù)的限制，所以可以表達(dá)的政治或道德主張受到制約。正如奧斯卡?甘地（Oscar H. Gandy）所說，在數(shù)字社會中，對風(fēng)險(xiǎn)的關(guān)注已經(jīng)取代了我們對發(fā)現(xiàn)美好生活本質(zhì)的興趣，試圖識別和控制那些可能使其遙不可及的事物。②Oscar H. Gandy, Coming to Terms with Chance: Engaging Rational Discrimination and Cumulative Disadvantage,New York: Routledge, 2016, p. 8.因此，正確的批評必須從認(rèn)識到算法是倫理政治實(shí)體開始，它們會產(chǎn)生自己的“善良、違法和社會應(yīng)該是什么樣子的想法”。③Louise Amoore, Cloud Ethics: Algorithms and the Attributes of Ourselves and Others, Durham, NC: Duke Univ. Press,2020, p. 7.換句話說，算法正在改變我們道德直覺的本質(zhì)——也就是說，我們與自己和他人關(guān)系的本質(zhì)——以及在社會世界中存在的意義。下文將探討這種不斷變化的地形。

四、量化分類及他者的不滿

專家系統(tǒng)，不論是人類還是機(jī)械，都對與其交互的普通人有特定的要求：人們必須讓自己易于辨認(rèn)，否則系統(tǒng)將無法識別他們；人們在與其交互時(shí)，必須遵守規(guī)則；而對系統(tǒng)的決策質(zhì)疑能力通常也會受到限制。在傳統(tǒng)官僚機(jī)構(gòu)中，這些過程的最終仲裁者幾乎總是一個人。但隨著技術(shù)變得越來越自主化，人類處理器和決策者逐漸淡出，甚至這些步驟也可能會被機(jī)器引導(dǎo)。安德烈耶維奇（Andrejevic M.）認(rèn)為，計(jì)算機(jī)通過強(qiáng)制人們進(jìn)行預(yù)處理，標(biāo)準(zhǔn)化和碎片化信息、思想、身份和交互方式，以便機(jī)器識別，從而實(shí)現(xiàn)了一種社會技能下降。編程精英并非讓機(jī)器增強(qiáng)人類智能，而是重新組織社會活動，以使人類支持計(jì)算機(jī)的操作。因此，在某種程度上人類被自動化了。

具體而言，如果將人類的生活壓縮成一堆數(shù)據(jù)包，通過執(zhí)行分類功能的算法來過濾體驗(yàn)流，這意味著什么？通常認(rèn)為，通過當(dāng)代算法分類器實(shí)施的分類情況只在某些關(guān)鍵時(shí)刻才重要，例如允許信用檢查以申請貸款。但是，數(shù)字基礎(chǔ)設(shè)施的運(yùn)作方式越來越全面、持續(xù)、動態(tài)。數(shù)字?jǐn)?shù)據(jù)的痕跡不僅允許來自遠(yuǎn)離數(shù)據(jù)原始收集地的機(jī)構(gòu)的入侵式探測（例如對房東和潛在戀人而言，信用數(shù)據(jù)很重要，警察部門渴望社交媒體數(shù)據(jù)），而且它們還通過反應(yīng)性的、控制行為的網(wǎng)絡(luò)反饋循環(huán)，在實(shí)時(shí)操作中實(shí)現(xiàn)指導(dǎo)或控制。一個人與數(shù)字系統(tǒng)互動得越多，他和社交生活的走向就越依賴于算法運(yùn)算和選擇。這不僅適用于上述重大決策的種類，而且也適用于瑣碎的、瞬時(shí)的行動：例如，每次在線點(diǎn)擊都潛在地揭示某種傾向或表明與以前的基準(zhǔn)有所偏離。隨著新的數(shù)據(jù)流入，類別和分類得到動態(tài)調(diào)整，基于這些類別采取的計(jì)算系統(tǒng)所采取的行動也得到了調(diào)整。這對于人們最終如何感知自己以及社會身份的形成具有重要意義。

（一）身份認(rèn)同的調(diào)和

在現(xiàn)代數(shù)據(jù)提取和分析系統(tǒng)中，個人的屬性往往是從行為痕跡推斷出來的。每個有血有肉、有形體的人都有一個“雙倍數(shù)據(jù)”，由這些痕跡構(gòu)成的數(shù)據(jù)，是一個監(jiān)視組合，其組成部分“在各種計(jì)算中心流通”①Kevin D Haggerty and Richard V. Ericson, The Surveillant Assemblage, Surveillance, Crime and Social Control, vol.51, no. 4, 2017, p. 611.。這些個人行為的“切片”已經(jīng)獲得了金融產(chǎn)品的流動性，可以用于預(yù)測性檔案管理。②Julie E. Cohen, Between Truth and Power: The Legal Constructions of Informational Capitalism, Oxford, UK: Oxford University Press, 2019, p. 67.即使是那些曾經(jīng)被認(rèn)為是在固定或幾乎不會改變的身份方面，如性別、種族、公民身份、國籍，在虛擬化的方式下也變得可讀。例如，網(wǎng)頁瀏覽和其他數(shù)字活動的模式可以被挖掘，以確定一個人可能是女性還是男性。但是，這些評估（另一組基于算法推導(dǎo)的分類情況）總是靈活和臨時(shí)的，它取決于數(shù)據(jù)流和分類器的特定組合。因此，算法推斷性別認(rèn)同可能隨時(shí)發(fā)生改變。因此，技術(shù)正在建立并促進(jìn)更廣泛的文化轉(zhuǎn)變，使性別認(rèn)同可能更多元化和流動化，而不是二元化和穩(wěn)定化。

基于德勒茲（Deleuze）的理論，切尼?利波德（Cheney-Lippold）指出，算法身份具有調(diào)制的特性；也就是說，從行為痕跡中得出的特征，不斷地受到改變和修正。德勒茲稱之為控制的可模塊化性，取代了紀(jì)律的僵化性，它將每個人塑造成相同的形態(tài)，就像組裝線工人、經(jīng)理和家庭主婦一樣。算法對我們作出的推論往往通過可視化、評估、分?jǐn)?shù)或建議反饋給我們，反過來又重新塑造了我們實(shí)時(shí)理解自己的方式。即使是差異——例如生物年齡和算法年齡之間的差異或性別自我認(rèn)同和算法性別之間的差異——也可能不再被視為不完美技術(shù)系統(tǒng)的有趣錯誤，而是作為外部客觀、不斷波動的信號，告訴我們真正的身份是什么。它們甚至可以通過自我強(qiáng)化的反饋過程，如通過提供某種類型的廣告或返回特定的搜索結(jié)果，幫助加強(qiáng)與測量類型的主觀聯(lián)系。

雖然算法可以讓親身經(jīng)歷的真相變得外在和調(diào)節(jié)，并轉(zhuǎn)移“我們在世界中取向的感覺”③Hannah Arendt, Between Past and Future: Eight Exercises in Political Thought, New York: Penguin Books, 2006, p. 252.，但它們不太可能從根本上改變在世界中的運(yùn)作的重要結(jié)構(gòu)形態(tài)，例如性別或種族，正如在上文“精算主義及其不滿”部分所討論的那樣。相反，可衡量類型的權(quán)力可能在用于合法化創(chuàng)造性表達(dá)和自我試驗(yàn)或改革機(jī)構(gòu)分類系統(tǒng)時(shí)最為強(qiáng)大。通過斯諾登的曝光，我們知道，美國政府試圖從數(shù)字信息中獲取公民資料，以實(shí)現(xiàn)違法的數(shù)字通信監(jiān)視，而這種行為被美國憲法所禁止。①根據(jù)該方案，算法會對一個合法公民進(jìn)行涉外性檢測，如果測量值高于51%，就會被視為外國人，從而被剝奪“憲法第四修正案”對隱私的保護(hù)?！髡咦⒃跀?shù)據(jù)驅(qū)動的算法的幫助下，公民身份已經(jīng)從一個二進(jìn)制的機(jī)構(gòu)類別轉(zhuǎn)變?yōu)樾袨檫B續(xù)體。

算法不斷將我們量化分類，促使我們質(zhì)疑自己對自己的認(rèn)識以及這種認(rèn)識的方式。然而，認(rèn)為我們將發(fā)現(xiàn)某種最終的自我真理，可能是錯誤的觀念。相反，我們可能會觀察到令人困惑的自我追蹤尺度上下的移動，或不同時(shí)間和平臺上的多個自我重建和塑造。②在生物領(lǐng)域也是如此，23 and Me 等公司提供快速基因評估，其中包括種族和地區(qū)血統(tǒng)。尼爾森（Nelson）討論了人們?nèi)绾螌⑦@些外部化的表征融入他們的生活和自我認(rèn)識中，參見Alondra Nelson, The Social Life of DNA: Race,Reparations, and Reconciliation After the Genome, Boston: Beacon, 2016。福爾卡德（Fourcade）對“序化”進(jìn)行了概括性的介紹，參見Marion Fourcade, Ordinal citizenship, The British Journal of Sociology, vol. 72, no. 2, 2021, pp. 154-173?！髡咦⒐继貙⑷找鏀?shù)字化的生活描述為“一座鏡面玻璃亭子”（Mirrored Glass Pavilion），③Bernard E Harcourt, Exposed: Desire and Disobedience in the Digital Age, Cambridge, MA: Harvard University Press,2015, p. 253.這是我們有意識地構(gòu)建自己形象的空間，“展現(xiàn)給他人的視線，當(dāng)然，也包括我們自己的視線。”但是，對于自我描述的參數(shù)，我們有著很少的控制力：曝光和被曝光的欲望已經(jīng)沉淀到了技術(shù)環(huán)境中，而那些被認(rèn)為展示我們個人真實(shí)情況的度量、計(jì)算器和可視化工具并不是由我們親手制作的。然而，每天的步行計(jì)數(shù)、月經(jīng)周期、心率、情緒狀態(tài)、社交網(wǎng)絡(luò)和消費(fèi)模式等，雖然有其不準(zhǔn)確之處，但這些數(shù)據(jù)反映了我們的真實(shí)情況，不僅僅依靠主觀自我評估或傳統(tǒng)的模擬自我呈現(xiàn)技術(shù)；同時(shí)，這些數(shù)據(jù)也向我們展示了我們是誰，并成為機(jī)構(gòu)或他人（例如醫(yī)生、保險(xiǎn)公司、福利機(jī)構(gòu)）和整個世界所無可否認(rèn)的證據(jù)。多虧了算法工具，在可衡量的生物或社會指標(biāo)中，我們現(xiàn)在可能被迫不斷地搜索和發(fā)現(xiàn)自己的數(shù)據(jù)指標(biāo)，這些指標(biāo)必須以高度理性化、動態(tài)和持續(xù)的方式加以管理。如此監(jiān)測和調(diào)查我們的睡眠模式、飲食習(xí)慣和社交關(guān)系，已經(jīng)成為我們生活中不可或缺的部分。有時(shí)，可能覺得這只是一種有趣的自我診斷，但是實(shí)際上卻并不是有趣的事情。相反，這是一種不斷自我探究的狀態(tài)，由人類和機(jī)器之間不斷地反饋循環(huán)所推動。

當(dāng)算法在評估方面出現(xiàn)嚴(yán)重錯誤（而不是出奇的準(zhǔn)確）時(shí)，這個過程可能會特別壓抑人心。正如我們已經(jīng)看到的，誤認(rèn)問題的發(fā)生并不是在人口中隨機(jī)分布的。面部識別系統(tǒng)經(jīng)常辨識不出深色膚色的人臉，并且在錯誤地識別黑人女性方面存在不成比例的性別歧視問題。搜索引擎的結(jié)果返回有偏見的描述，嚴(yán)重影響女性和少數(shù)族裔成員。在人與機(jī)器的界面上，歷史上處于主導(dǎo)地位的群體受到新形式的象征性暴力的不成比例的影響。對于他們來說，“鏡子玻璃亭”更像是一個玻璃籠子——充滿著無知、漠視和錯誤分類，堅(jiān)持“不顧個人主張，將種族身體和個人身份（或群體身份）視為真理”。④Simone Browne, Dark Matters: On the Surveillance of Blackness, Durham, NC: Duke Univ. Press, 2015, p. 110.更根本的是，這種機(jī)械化加劇了種族化身份制度和其伴隨的不平等所導(dǎo)致的主體性否認(rèn)。

（二）算法界面的道德經(jīng)濟(jì)

許多負(fù)責(zé)在線交互的廣闊數(shù)字基礎(chǔ)設(shè)施，是以廣告收入為導(dǎo)向的，并需要人類用戶的瀏覽和點(diǎn)擊來維持其運(yùn)營。數(shù)字企業(yè)精心編程社交性，以實(shí)現(xiàn)最大的經(jīng)濟(jì)效益。①例如，當(dāng)YouTube 的推薦算法開始獎勵較長的視頻時(shí)，平臺用戶上傳視頻的時(shí)長也隨之增長?！髡咦⑦@些企業(yè)癡迷于追蹤用戶在某個網(wǎng)站上花費(fèi)的時(shí)間，以此產(chǎn)生個人數(shù)據(jù)并最大化廣告曝光，將其委婉地稱作“參與度”（Engagement）所依賴的。網(wǎng)站訪問者被要求對輸入數(shù)字流程中的數(shù)據(jù)進(jìn)行預(yù)處理。諸如按鈕、表情符號、標(biāo)簽、哈希標(biāo)簽、認(rèn)證和其他形式的用戶指導(dǎo)行為等標(biāo)識，有助于對社交世界的雜亂進(jìn)行分類，以使其變得機(jī)器可讀。但是，它們也創(chuàng)造了新的功能，擁有自己的生命力，推動著數(shù)字環(huán)境中的社交動力學(xué)產(chǎn)生。②吉列斯比（Gillespie）和漢考克（Hancock）等眾多學(xué)者回顧了媒體研究和傳播學(xué)中有關(guān)這些問題的大量文獻(xiàn)，其中以計(jì)算機(jī)為中介的傳媒是一個核心子領(lǐng)域問題。參見Tarleton Gillespie, Pablo J. Boczkowski and Kirsten A.Foot (eds.), Media Technologies: Essays on Communication, Materiality, and Society, Cambridge, MA: MIT Press, 2014;Jeffrey T Hancock, Mor Naaman and Karen Levy, Al-mediated Communication: Definition, Research Agenda, and Ethical Considerations, Journal of Computer-Mediated Communication, vol. 25, no. 1,2020, pp. 89-100?！髡咦?/p>

由 Facebook 等平臺帶來的持久性延續(xù)了人際關(guān)系，否則這些關(guān)系可能會逐漸消失，而算法的聯(lián)想特性和平臺的引導(dǎo)能力，則使人際關(guān)系可以獲得原本不存在的機(jī)會。平臺的策略性提示、被動地更新消息和設(shè)計(jì)上的社交認(rèn)可與批準(zhǔn)等功能，會進(jìn)一步培養(yǎng)社交焦慮、強(qiáng)迫性習(xí)慣和競爭心態(tài)。不參與可能會確保某種自由，但也可能意味著社會孤立。大量參與可能會帶來名利，但也可能導(dǎo)致極度過度曝光。平臺通常會發(fā)現(xiàn)利用病毒式的內(nèi)容和其他出現(xiàn)的社交方式有利可圖，也就是說，除非他們將其解釋為操縱算法，否則必須加以控制或消除。

通過這些心理和經(jīng)濟(jì)技巧，Twitter、Facebook、YouTube、Instagram、Reddit 等其他少數(shù)公司③對網(wǎng)站政策、錯誤信息或Facebook 公司的政治影響感到厭煩的人可能會轉(zhuǎn)向Instagram 上看似更友好的社區(qū)，但他們才意識到這個平臺也歸Facebook 所有。Facebook 還擁有WhatsApp，“谷歌”擁有YouTube，等等。——作者注運(yùn)營的數(shù)字平臺已成為事實(shí)上具有幾乎壟斷社交關(guān)注分配權(quán)的全球公共領(lǐng)域?，F(xiàn)在，由于大多數(shù)人都從社交媒體獲取信息，任何尋求曝光或追求行動目標(biāo)的人都必須掌握這個新的領(lǐng)域。公共辯論、知識傳播、積極追求和新聞報(bào)道都與社交媒體中介及其秘密算法息息相關(guān)。但是，人們被要求自己解析的大量信息“經(jīng)常引發(fā)偏執(zhí)和其他形式的公眾知識和參與的猜測”。④Sun-ha Hong, Technologies of Speculation: The Limits of Knowledge in a Data-Driven Society, New York: NYU Press,2020, p. 8.經(jīng)驗(yàn)豐富或資金充足的活動家新秀、協(xié)調(diào)的在線暴徒和負(fù)責(zé)制作“點(diǎn)擊誘餌”的人不斷取代原先的行業(yè)巨頭。數(shù)字生產(chǎn)手段的不平等斗爭，容易使集體動員和反動員的精神頓挫不前。反而，貪婪的算法法術(shù)催起了陰謀、信仰和閑言碎語等舊惡魔。

（三）從算法化社會到社會化算法

編程精英的終極目標(biāo)以及他們專業(yè)項(xiàng)目的最終目標(biāo)，就像他們構(gòu)建的算法一樣，仍然是不透明的。這可能只是反映了缺乏共識；在所持的未來夢想上，他們的成員存在較大的分歧。許多計(jì)算機(jī)科學(xué)家持有的最雄心勃勃的夢想是：算法社會只是新社會物種降臨的前奏，一種能夠復(fù)制或超過人類智能并可能逃脫人們控制的智能通用人工智能。摩爾定律規(guī)定了計(jì)算機(jī)的能力趨向呈指數(shù)增長。如果我們接受智能的衡量和進(jìn)一步發(fā)展的能力是根植于處理能力的前提，那么這個定律標(biāo)志著一條明確的軌跡。

然而，人工智能在社會中的軌跡并不僅是一個人類是否會受益的問題，而是誰會受益的問題。新的學(xué)習(xí)分野將知者與被知者相對抗；那些使人工智能工作的人對抗那些使人工智能為自己工作的人。不同于受監(jiān)測者、被誤解和疏遠(yuǎn)的群體，數(shù)據(jù)資本家可以修正、控制或改善他們的個人數(shù)據(jù)呈現(xiàn)，或者從監(jiān)視制度中完全出賣自己，或者從人工智能中獲得新的好處。最近，對于神經(jīng)移植、智能義肢和數(shù)據(jù)密集型基因工程等方面的討論和具體投資，重新點(diǎn)燃了舊有的半機(jī)械人幻想，釋放出了哈拉維（Haraway）等人所思考的可能性。如果這種世界真的到來，那么編程精英不僅能通過對新的數(shù)據(jù)輸出（如神經(jīng)信息）的產(chǎn)權(quán)主張而增加其物質(zhì)力權(quán)力，而且能真正地使用新技術(shù)來增強(qiáng)自己的思維和身體。

目前，主導(dǎo)行業(yè)的討論承諾了一種更溫和、更可接受、更少偏見的人工智能，符合最佳實(shí)踐和道德注入。但盡管關(guān)于公平性和價(jià)值調(diào)整的討論很多，已經(jīng)確立的技術(shù)軌跡仍然牢固：風(fēng)險(xiǎn)投資辦公室和初創(chuàng)企業(yè)繼續(xù)推出無處不在的計(jì)算世界，覆蓋人體、平凡的物體和城市中的一切。

多年來，許多人預(yù)言摩爾定律的終結(jié)已經(jīng)迫在眉睫。①就連摩爾定律也可以說是在人類的指導(dǎo)下產(chǎn)生的。英特爾是一家軟件公司，由戈登?摩爾（摩爾定律創(chuàng)始人）共同創(chuàng)建的軟件公司英特爾，根據(jù)這一所謂的定律為微處理器設(shè)計(jì)師設(shè)定了產(chǎn)品開發(fā)時(shí)間表。——作者注根據(jù)那些最有可能實(shí)現(xiàn)這種情況的技術(shù)專家的說法，人類離開發(fā)類似于人類的通用人工智能還有相當(dāng)遙遠(yuǎn)的距離，并且距離超智能開發(fā)更遠(yuǎn)。②在2015 年對兩個有關(guān)機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的大型技術(shù)會議的352 名與會者進(jìn)行的調(diào)查中，受訪者認(rèn)為通用人工智能在未來45 年內(nèi)出現(xiàn)的可能性為50%，而在未來10 年內(nèi)出現(xiàn)的可能性僅為10%。參見Katja Grace, et al., When will AI Exceed Human Performance? Evidence from AI Experts, Journal of Artificial Intelligence Research, vol. 62, 2018, pp.729-754?！髡咦⒚つ康亟邮芫幊叹⒌淖羁駸岬闹С终叩幕孟?、將算法視為“神學(xué)而非科學(xué)或文化”，是一個錯誤的做法。在這方面，社會學(xué)提供了一個有用的現(xiàn)實(shí)檢驗(yàn)。觀察數(shù)字技術(shù)運(yùn)作的民族學(xué)家，已經(jīng)成功地處理了算法的平凡日?，F(xiàn)實(shí)，他們記錄下了對算法系統(tǒng)的相當(dāng)大的抵制、頻繁的錯誤和故障以及在社會內(nèi)外的意義和影響的變化。我們既可以拒絕關(guān)于機(jī)器智能的神奇思考，也可以承認(rèn)科技業(yè)巨大的經(jīng)濟(jì)、政治和文化權(quán)力來改變我們所生活的世界。超越未來主義和炒作現(xiàn)有的人工智能，實(shí)際上相當(dāng)平凡。③薩奇曼（Suchman）討論了人工智能研究語言中如何融入人機(jī)等同的假設(shè)。埃利斯（Elish）和博伊德（Boyd）以及坎波洛（Campolo）和克勞福德（Crawford）討論了關(guān)于魔法和魔力的論述被用來描述這些系統(tǒng)的不透明性，并進(jìn)一步將人工智能描繪成超人。參見Lucy Suchman, Algorithmic Warfare and The Reinvention of Accuracy, Critical Studies on Security, vol. 8, no. 2, 2020, pp.175-187; Madeleine Clare Elish and Danah Boyd, Situating Methods in the Magic of Big Data and AI,Commune. Monogr, vol. 85, no. 1, pp. 57-80; Alexander Campolo and Kate Crawford, Enchanted Determinism: Power without Responsibility in Artificial Intelligence, Engaging Science, Technology, and Society, vol. 6, 2020, pp. 1-19?！髡咦⑺删幊叹⒃O(shè)計(jì)，由網(wǎng)絡(luò)勞動階級維持，以主要的大型數(shù)字公司提取的個人數(shù)據(jù)為燃料，經(jīng)常被優(yōu)化以實(shí)現(xiàn)利潤最大化，并受到授權(quán)（在撰寫本文時(shí)）的一系列法律機(jī)構(gòu)的支持，將數(shù)據(jù)不斷流入企業(yè)和國家服務(wù)器。與先前的控制創(chuàng)新一樣，人工智能不斷監(jiān)視、分類、解析、組裝和自動化。而且，它深深地牽扯著人類，絕非僅僅是被機(jī)械化的問題。與以往形式的社會監(jiān)視和管制一樣，它對貧窮人群和少數(shù)群體的打壓和歧視更為嚴(yán)重。