李宏偉，郝 喜

(華中師范大學(xué) 馬克思主義學(xué)院，湖北 武漢 430079)

2021年6月，《中華人民共和國數(shù)據(jù)安全法》以及《深圳經(jīng)濟特區(qū)數(shù)據(jù)條例》相繼通過，針對數(shù)據(jù)安全、數(shù)據(jù)權(quán)利、數(shù)據(jù)濫用的國家及地方立法引發(fā)社會高度關(guān)注。但是由于數(shù)據(jù)的隱秘性與算法的復(fù)雜性，公眾數(shù)據(jù)安全認知以及權(quán)利意識等亟待加強。對于隱藏在網(wǎng)絡(luò)公司、數(shù)據(jù)平臺背后的算法監(jiān)控資本謀劃機制的揭示，有助于我們對外賣騎手“極限賽跑”以及個性化推薦、大數(shù)據(jù)“殺熟”等社會現(xiàn)象有更加清醒的認識，對于數(shù)據(jù)企業(yè)、網(wǎng)絡(luò)平臺、算法監(jiān)控實施更為精準的社會治理。

一、算法監(jiān)控的隱秘規(guī)訓(xùn)

算法與計算、數(shù)學(xué)相關(guān)，但并不局限于數(shù)學(xué)“純粹理性”，而是具有明確的社會運用指向。算法貌似中立，但其背后總是隱藏著不可告人的籌劃與算計。算法與監(jiān)控相結(jié)合，算法監(jiān)控隱秘規(guī)訓(xùn)的意向目的性更是難以隱藏。

(一)算法監(jiān)控的目的意向性

在計算機科學(xué)界，算法常常被理解為解決某些特定問題的一系列清晰指令，即“有限的、抽象的、有效的、復(fù)合的控制結(jié)構(gòu)，在給定的規(guī)則下完成特定的目的”(1)Hill， R. K .What an Algorithm is. Philosophy & Technology， 2016(1).。算法活動中規(guī)則與目的的有機結(jié)合，表明算法不僅是服從使用者意志的外在工具，更是從技術(shù)設(shè)計伊始就將目的意向性隱含其中賦予自身。算法語境中的監(jiān)控，不同于工業(yè)設(shè)備、生態(tài)環(huán)境、農(nóng)業(yè)種植等方面的有形監(jiān)控，它作為一個學(xué)術(shù)概念指稱對象是“人”而非“物”，旨在將人類一切行為舉止數(shù)據(jù)化，實施對人的行為預(yù)測、誘導(dǎo)、操控。

算法與監(jiān)控原本是兩件不同的事情，但是在算法監(jiān)控中二者緊密聯(lián)系構(gòu)成一體，監(jiān)控為算法提供數(shù)據(jù)資源，算法則謀劃實現(xiàn)監(jiān)控的目的。算法監(jiān)控中的監(jiān)控不再是傳統(tǒng)意義上的監(jiān)控，而是現(xiàn)代大數(shù)據(jù)、人工智能技術(shù)條件下的“升級版”監(jiān)控。算法監(jiān)控不同于傳統(tǒng)監(jiān)控的獨特之處就在于，它不是過往時空范圍一般意義上的監(jiān)控，而是更多側(cè)重于對于人的未來行為預(yù)測與誘導(dǎo)。比如某客戶經(jīng)常在某平臺購買機票，平臺按照客戶的個人數(shù)據(jù)給客戶“畫像”，推算出客戶的購票偏好、心理價位。平臺一旦推測出購票人看重便捷舒適，對于機票價格變動不太敏感，就會針對此客戶上調(diào)機票價格，實施一人一價的“差異性”價格，這就是我們常說的“大數(shù)據(jù)殺熟”。

(二)“圓形監(jiān)獄”的數(shù)據(jù)化升級

傳統(tǒng)監(jiān)控更多地依靠視覺、聽覺等感覺感知、經(jīng)驗判斷，缺少大數(shù)據(jù)、云計算、人工智能等現(xiàn)代技術(shù)支持，但是其中也隱含著現(xiàn)代算法監(jiān)控的思想根基、技術(shù)淵源。英國思想家邊沁首次提出“圓形監(jiān)獄”概念，作為一種利用特殊物理構(gòu)造來自動行使規(guī)訓(xùn)權(quán)力的理想建筑，它是由中心瞭望塔和四周被分割成許多小囚室的環(huán)形建筑構(gòu)成。在這種結(jié)構(gòu)中，監(jiān)視者能夠利用塔樓的百葉窗觀察被監(jiān)視者的一舉一動，而被監(jiān)視者只能看到塔樓高大輪廓，無法知道塔樓中是否有監(jiān)視者一直存在，因此被監(jiān)視者總是“超時間”地處于被支配地位。在這種可見與不可見的二元統(tǒng)一機制中，規(guī)訓(xùn)權(quán)力通過自身的不可見性來施展，這種不可見性保證了權(quán)力的自動實現(xiàn)，迫使被監(jiān)視者始終處于“自我約束”狀態(tài)。

法國哲學(xué)家?？乱庾R到了“圓形監(jiān)獄”的規(guī)訓(xùn)意義，并將現(xiàn)代社會形象地比喻成“監(jiān)獄群島”。他認為，“圓形監(jiān)獄”最大的意義在于，通過技術(shù)使“權(quán)力的齒輪”在時間中不停運轉(zhuǎn)，使“權(quán)力之眼”能夠窺視所有空間，消融規(guī)訓(xùn)權(quán)力的時空界限，使得“被囚禁者”始終受到權(quán)力效應(yīng)的干預(yù)。也就是說，要讓“被囚禁者”始終“處于一種有意識的、持續(xù)的自我約束狀態(tài)，從而確保權(quán)力自動地發(fā)揮作用”(2)米歇爾·?？?《規(guī)訓(xùn)與懲罰》，劉北成、楊遠嬰譯，生活·讀書·新知三聯(lián)書店，2012年，第200頁。。以“美團”“餓了么”外賣平臺為例，平臺以大數(shù)據(jù)為基礎(chǔ)按照人工智能算法核準每一單外賣的最佳路線、標準時間，外賣員的收入按照接單量、準時率、差評率、投訴率等指標由算法系統(tǒng)自動生成。人工智能算法不會考慮天氣、交通等各種偶發(fā)因素，超時自動扣減提成，超時可能掙不到錢，甚至可能還會倒貼錢。我們看不到有人在監(jiān)控外賣員，但是網(wǎng)絡(luò)平臺自動記錄生成外賣員的行蹤、評價、績效，這就是我們看到的外賣員不顧風險穿行在汽車洪流中表面現(xiàn)象背后的算法作用。

算法與監(jiān)控的結(jié)合構(gòu)造出數(shù)據(jù)化“圓形監(jiān)獄”，通過對人們?nèi)粘Ｉ顢?shù)據(jù)的全方位隱蔽監(jiān)控，以新的技術(shù)實踐形式延伸了邊沁所構(gòu)想的“圓形監(jiān)獄”。算法監(jiān)控遵循“圓形監(jiān)獄”中可見與不可見的二元統(tǒng)一機制，大數(shù)據(jù)信息采集、監(jiān)控平臺隱匿不顯而無所不在，被監(jiān)控者時刻處于規(guī)訓(xùn)權(quán)力的施控范圍之內(nèi)。以抽象數(shù)字代碼組成的算法具有不可見性，隱匿了傳統(tǒng)監(jiān)控方式中在場者的權(quán)力地位，成為不在場的在場者，延伸了“圓形監(jiān)獄”的監(jiān)控范圍。算法監(jiān)控作為數(shù)據(jù)化“圓形監(jiān)獄”消解時空結(jié)構(gòu)對監(jiān)控的制約，以超時空控制的方式將自我規(guī)訓(xùn)的觀念內(nèi)化于被監(jiān)視者，迫使被監(jiān)視者時刻處于“敞開”受控狀態(tài)。

算法監(jiān)控具有不同于傳統(tǒng)監(jiān)控特征，大致可歸納為以下幾點：其一，算法監(jiān)控從傳統(tǒng) “單純”監(jiān)控轉(zhuǎn)向“數(shù)據(jù)+算法”監(jiān)控，具有“智能意向性”特征。其二，算法監(jiān)控從傳統(tǒng)監(jiān)控的“過往”時空范圍轉(zhuǎn)向?qū)θ说摹拔磥怼毙袨榈念A(yù)測、操控，反映出算法監(jiān)控的“時空穿越性”特征。其三，算法監(jiān)控從傳統(tǒng)的改善服務(wù)目的轉(zhuǎn)向攫取客戶的“行為剩余”價值，具有“資本驅(qū)動性”特征。其四，算法監(jiān)控不僅是窺探隱私、經(jīng)濟剝削，更重要的是它具有“誘導(dǎo)規(guī)訓(xùn)性”特征。

二、算法監(jiān)控的資本謀劃

對于算法監(jiān)控不能僅僅停留在個人隱私、社會倫理方面的反思批判，必須透過社會表象揭示其經(jīng)濟動因，剖析算法監(jiān)控背后的資本運作機制。在資本主義條件下，“技術(shù)不管如何飛躍，本質(zhì)上依然服務(wù)于資本”(3)Zuboff， S. Big Other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology， 2015(1).。這里問題的關(guān)鍵不在于技術(shù)，而在于技術(shù)的資本主義應(yīng)用。算法監(jiān)控的資本謀劃不僅僅是“行為剩余”的最后榨取，更有“數(shù)據(jù)化”圓形監(jiān)獄“全景式”監(jiān)控的現(xiàn)代技術(shù)支持，是“數(shù)據(jù)主義”利益至上經(jīng)濟意識形態(tài)的整體實施。對于算法監(jiān)控的資本謀劃機制進行剖析，是我們駕馭資本力量、打破資本邏輯的基礎(chǔ)。

(一)算法監(jiān)控從虛擬世界延伸至現(xiàn)實生活

計算機原本主要是用來進行科學(xué)研究、數(shù)據(jù)計算的，即使后來開發(fā)了網(wǎng)絡(luò)游戲，商家可以向玩家推銷各種游戲裝備，數(shù)據(jù)更多反映的還是人們虛擬世界足跡，與人們的現(xiàn)實生活聯(lián)系并不緊密。但是隨著手機移動網(wǎng)絡(luò)設(shè)備的開發(fā)完善，越來越多的App小程序在現(xiàn)實生活中大量應(yīng)用，數(shù)據(jù)愈加翔實真切地記錄、表達人們的生活動態(tài)，為算法監(jiān)控從虛擬到現(xiàn)實的延伸奠定了基礎(chǔ)。數(shù)據(jù)化“圓形監(jiān)獄”無所不在，人們的虛擬世界足跡與現(xiàn)實生活領(lǐng)域都成為資本逐利的領(lǐng)地。數(shù)據(jù)的潛在利潤引發(fā)眾多數(shù)據(jù)企業(yè)之間相互競爭，現(xiàn)實世界的未來行為市場成為資本跑馬圈地的“新大陸”。未來行為市場收益是由預(yù)測產(chǎn)品的準確性決定的，在追求更高確定性預(yù)測產(chǎn)品的競賽過程中，互聯(lián)網(wǎng)公司常常以“便利化”為誘餌竊取用戶行為數(shù)據(jù)，繼而將其轉(zhuǎn)化為資本增值的信息原料。在現(xiàn)代大數(shù)據(jù)技術(shù)、人工智能催化下，數(shù)據(jù)的潛在經(jīng)濟價值得以發(fā)掘，巨大利潤前景觸發(fā)資本的敏感神經(jīng)，算法監(jiān)控在資本的助推下蓬勃興起。算法監(jiān)控與資本具有共同的高利潤追求目標，算法監(jiān)控與資本的“聯(lián)姻”使得算法監(jiān)控的逐利本能在資本邏輯的支配下獲得最大化釋放。

算法監(jiān)控由虛擬世界擴張到現(xiàn)實生活領(lǐng)域，其本質(zhì)是資本增值邏輯“受挫”之后自我揚棄、自我更新的結(jié)果，具體表現(xiàn)為資本增值機制的創(chuàng)新，其背后內(nèi)蘊的是資本增值的內(nèi)在需求。近年來，谷歌作為搜索引擎卻致力于布局導(dǎo)航地圖與智能通信，淘寶作為購物平臺卻致力于布局物聯(lián)網(wǎng)與投資打車軟件，臉書作為社交平臺卻致力于局部虛擬現(xiàn)實與AI家庭助理。這些數(shù)據(jù)企業(yè)似乎有一種不謀而合的資本增值機制，它們的目標不再是生產(chǎn)與銷售更多實質(zhì)性的商品，取而代之的是通過地圖導(dǎo)航與AI家庭助理等“免費”數(shù)字平臺將市場營銷活動延伸至用戶的日常生活。數(shù)據(jù)企業(yè)利用隱藏在數(shù)字平臺背后的“看不見的手”——算法監(jiān)控對消費者數(shù)據(jù)足跡進行數(shù)字式“攔截與檢查”，以貨幣化數(shù)據(jù)的方式對傳統(tǒng)資本主義生產(chǎn)手段、商品模式、市場模式進行顛覆式變革，達到維護、確保資本持續(xù)增值的目的。

數(shù)據(jù)企業(yè)在資本邏輯的助推下，將觸手從虛擬世界延伸至現(xiàn)實生活，它們利用隱藏在平臺背后的算法監(jiān)控把各個層面的人類經(jīng)驗視為原材料的來源，通過這些原材料對用戶進行“行為預(yù)測”，并將預(yù)測結(jié)果賣給廣告客戶實現(xiàn)資本增值。數(shù)據(jù)企業(yè)利用算法監(jiān)控得到的海量數(shù)據(jù)分析用戶性格特征與行為偏好，借此矯正我們的行為規(guī)范，“行為矯正手法”成為社會生產(chǎn)手段的主導(dǎo)形態(tài)。數(shù)據(jù)企業(yè)遵循資本增值的方式誘導(dǎo)、規(guī)訓(xùn)我們的行為，擴大舊市場與開發(fā)新市場，實現(xiàn)供給與需求之間新的動態(tài)平衡。這些平衡對生產(chǎn)方式的變革建構(gòu)出一種以數(shù)據(jù)為基礎(chǔ)，以算法為核心的新生產(chǎn)方式；對商品模式的變革表現(xiàn)在它不生產(chǎn)、銷售任何實質(zhì)性的商品，它的真實商品是“用戶行為預(yù)測”；對市場模式的變革在于預(yù)測產(chǎn)品賣到一個新的市場環(huán)境中，這個市場環(huán)境流通的商品是“用戶行為預(yù)測”，因此市場模式就由之前的自由商品市場轉(zhuǎn)變?yōu)椤拔磥硇袨槭袌觥?。算法監(jiān)控使得傳統(tǒng)資本主義生產(chǎn)方式、商品模式、市場模式等發(fā)生系列新的變化，為資本邏輯得以持續(xù)運行提供保障機制。

算法監(jiān)控的出現(xiàn)是人類監(jiān)控史上一個重要的分水嶺。從監(jiān)控范圍來看，以虛擬代碼為載體的算法監(jiān)控為了得到更精準的預(yù)測結(jié)果，已經(jīng)從虛擬世界蔓延到真實生活，從而消融了虛擬與真實的界限，超越了時間與空間的限制，形成無所不在的“全景式”監(jiān)控體系；從監(jiān)控方式來看，算法監(jiān)控的產(chǎn)品是“用戶行為預(yù)測”，“這使得原來后發(fā)制人式監(jiān)控轉(zhuǎn)變?yōu)橄劝l(fā)制人式監(jiān)控”(4)Elmer G， Opel A. Surviving the Inevitable Future. Cultural Studies， 2006(4).；從監(jiān)控內(nèi)容來看，智能血氧手環(huán)等移動智能設(shè)備可以利用內(nèi)置傳感器隨時采集血氧信息，對身體健康狀況進行監(jiān)控和預(yù)測。這說明，算法“超全景”式監(jiān)控已經(jīng)深入到人的毛細血管中，“身體不再被認為是‘私人空間’，它已經(jīng)是‘超級全景’的一部分”(5)吳雯：《當代“監(jiān)控”技術(shù)的倫理困境》，《自然辯證法通訊》，2019年第7期。。

(二)算法監(jiān)控的“數(shù)據(jù)主義”意識形態(tài)

資本為了利用算法監(jiān)控維護與推進自身持續(xù)增值，需要建構(gòu)與之相適應(yīng)的上層建筑。基于數(shù)據(jù)作為算法的“活的靈魂”，“數(shù)據(jù)主義”成為算法監(jiān)控奉行的意識形態(tài)。在劍橋分析公司的大數(shù)據(jù)“讀心術(shù)”、電商平臺的“殺熟”、打車平臺的算法定價合謀各種平臺應(yīng)用中，人們的線上行為與線下活動都可以轉(zhuǎn)譯為供計算機識別的數(shù)據(jù)。這里的數(shù)據(jù)化不再局限于學(xué)科范圍內(nèi)(科學(xué)研究與管理實踐)的數(shù)據(jù)化，特指的是人類行為實踐與思維活動的數(shù)據(jù)化。當前社會，數(shù)據(jù)化作為大數(shù)據(jù)技術(shù)發(fā)展促成的一種新趨勢，以一種內(nèi)在必然性的力量自我前行。由于數(shù)據(jù)的經(jīng)濟屬性，數(shù)據(jù)企業(yè)對數(shù)據(jù)化趨之若鶩。數(shù)據(jù)化趨勢解構(gòu)了原有的權(quán)力結(jié)構(gòu)，形塑出一種新型權(quán)力結(jié)構(gòu)。在這種新型權(quán)力結(jié)構(gòu)中，個人與數(shù)據(jù)企業(yè)之間權(quán)力的不對稱性賦予算法監(jiān)控無上權(quán)威。算法監(jiān)控如毛細血管式分布在社會各個角落，從某種程度上來說，它實現(xiàn)了笛卡爾將世界數(shù)字化的夢想。數(shù)字化的世界適合利用算法進行數(shù)據(jù)分析，二者之間的互動不僅強化了算法監(jiān)控自身的權(quán)力，也強化了算法監(jiān)控的“數(shù)據(jù)主義”意識形態(tài)。

以數(shù)據(jù)為中心的“數(shù)據(jù)主義”世界觀成為一種科學(xué)認知的通用范式，它擁有強大的解釋與“籌劃”能力，顛覆了人與世界“打交道”的方式，塑造出一個全新的世界。在這個世界中，人與物只有納入數(shù)據(jù)主義所勾勒的數(shù)據(jù)化時空關(guān)系的框架中才能規(guī)定其本性。也就是說，“物之所以是”與“人之所以是”都由二進制數(shù)據(jù)定義，數(shù)據(jù)與算法消融了人與物之間不可逾越的界限。數(shù)據(jù)主義以信息自由為至善，“數(shù)據(jù)主義相信一切的善(包括經(jīng)濟增長)都來自信息自由……如果想要創(chuàng)造一個更美好的世界，關(guān)鍵就是要釋放數(shù)據(jù)，給它們自由”(6)尤瓦爾·赫拉利：《未來簡史》，林俊宏譯，中信出版集團，2017年，第347頁。。信息自由與言論自由有所區(qū)別，前者自由賦予的對象是信息，后者自由賦予的對象是人類；前者追求的是信息流通效率，后者追求的是人類獨立思考與自由表達自身想法的權(quán)利。目前，算法監(jiān)控作為一種新的生產(chǎn)力要素，極大地提高了人們的生產(chǎn)效率，實證“信息自由”的科學(xué)性與合理化。把人當作數(shù)據(jù)流的一片漣漪，數(shù)據(jù)主義范式逐漸取代人本主義范式成為當代主流科學(xué)范式。

數(shù)據(jù)主義、算法監(jiān)控與資本之間，是一種彼此依賴、互動共生的纏繞關(guān)系。一方面，異質(zhì)化、非結(jié)構(gòu)化數(shù)據(jù)只有納入以算法為核心的數(shù)據(jù)處理系統(tǒng)，才能變成同質(zhì)的結(jié)構(gòu)化數(shù)據(jù)，數(shù)據(jù)因此才有意義，才能形成新的價值形式。正如赫拉利所說，“人類可以把自己的體驗吟成詩、寫成博客，再發(fā)表到網(wǎng)絡(luò)上，使全球數(shù)據(jù)處理系統(tǒng)更為豐富。就是這樣，才讓他們的數(shù)據(jù)有了意義”(7)尤瓦爾·赫拉利：《未來簡史》，林俊宏譯，中信出版集團，2017年，第350頁。。而且海量化數(shù)據(jù)的收集、分析、判斷遠非人力所及，只有依靠算法監(jiān)控才能實現(xiàn)。另一方面，算法監(jiān)控之所以受資本青睞，就在于算法對監(jiān)控所得數(shù)據(jù)分析整合后的利潤圖景與資本的增值天性契合一致。算法監(jiān)控擁有最大化數(shù)據(jù)流，才能更好地實現(xiàn)對人的資本謀劃，實現(xiàn)資本擴張。算法監(jiān)控作為數(shù)據(jù)化“圓形監(jiān)獄”式監(jiān)控，它將權(quán)力的可見之光彌散到整個社會，消融了數(shù)據(jù)的時空界限，在數(shù)據(jù)化時空“籌劃”下的個體逃脫不了數(shù)據(jù)化的命運，進而被轉(zhuǎn)化為“0”和“1”為基本代碼的二進制數(shù)據(jù)流，成為加工與處理的對象。

(三)算法監(jiān)控對“行為剩余”的極限榨取

在前數(shù)據(jù)化階段，人類的行為足跡、思維意識與情感是一片尚未被資本開發(fā)的處女地，數(shù)據(jù)企業(yè)收集數(shù)據(jù)的目的主要是為提升產(chǎn)品質(zhì)量、改善服務(wù)品質(zhì)。此時數(shù)據(jù)企業(yè)與用戶行為數(shù)據(jù)的互動產(chǎn)生一種力量平衡的狀態(tài)：數(shù)據(jù)企業(yè)需要借助用戶行為數(shù)據(jù)完善機器學(xué)習(xí)功能，進而產(chǎn)出更相關(guān)、更全面的搜索結(jié)果并借此吸引更多用戶，而用戶則需要借助這些智能化服務(wù)方便自身生產(chǎn)生活。數(shù)據(jù)企業(yè)與用戶之間這種互利共生的關(guān)系，隨著谷歌定向投放廣告模式的出現(xiàn)而被打破。為滿足資本增值需要，谷歌率先發(fā)現(xiàn)海量數(shù)據(jù)中蘊含的經(jīng)濟價值，并推出基于搜索引擎數(shù)據(jù)的個性化廣告投放，從此谷歌不再單純將收集的數(shù)據(jù)拿來提升服務(wù)品質(zhì)，而是更多地利用這些數(shù)據(jù)分析使用者的情感、判斷使用者的想法，并借此向使用者投放個性化定向廣告。通過數(shù)學(xué)運算的精準性，取代原有廣告模式的不確定性，使谷歌獲得巨大的廣告收益。

谷歌基于搜索引擎數(shù)據(jù)向用戶定向投放廣告模式的成功，吸引了眾多大數(shù)據(jù)資本的研究探討，揭示了“行為剩余”的秘密。在互聯(lián)網(wǎng)發(fā)展初期，受數(shù)據(jù)資源不足和計算能力的技術(shù)局限，數(shù)據(jù)的經(jīng)濟價值尚未為人們所認識。數(shù)據(jù)的經(jīng)濟屬性不被大眾所知，也沒人對自身數(shù)據(jù)進行所有權(quán)主張，所以早期數(shù)據(jù)采集方式極其簡單，只需要購買相關(guān)監(jiān)控算法就能實現(xiàn)。此時“‘數(shù)據(jù)采集’描繪了一種社會與物質(zhì)結(jié)構(gòu)，在這一結(jié)構(gòu)中，大數(shù)據(jù)企業(yè)聲稱對這些原材料享有權(quán)威，從而在其原材料供應(yīng)鏈操作中獲得經(jīng)濟利益”(8)Zuboff，S. The Age of Surveillance Capitalism:The Fight for a Human Future at the New Frontier of Power. Public Affairs，2019，p.65.。但隨著大數(shù)據(jù)技術(shù)的發(fā)展，越來越多的人意識到數(shù)據(jù)的經(jīng)濟價值，并對自身隱私權(quán)、遺忘權(quán)的保護愈加重視，傳統(tǒng)“無征求”式的數(shù)據(jù)挖掘不再可能。面對數(shù)字經(jīng)濟這塊大蛋糕，沒有一家數(shù)據(jù)企業(yè)愿意放棄，放棄就意味著“死亡”。這時新的策略與說辭相應(yīng)而生，目的是“合理化”不尋常的新操作。數(shù)據(jù)企業(yè)機智地設(shè)計更加先進的算法軟件，以提升“便利化”服務(wù)質(zhì)量為招牌，以“免費”形式幫助用戶快速獲取目標信息。在此新操作中，“便利化”粉飾了企業(yè)隨意竊取用戶隱私數(shù)據(jù)的卑劣行徑，人們不知不覺就“沉浸”在算法監(jiān)控對自身的規(guī)訓(xùn)之中。例如，臉書(Facebook)于2015年開發(fā)出“個人數(shù)位助理”應(yīng)用，該應(yīng)用通過“協(xié)助”的面紗及“便利化”的精心裝飾，掩蓋了數(shù)據(jù)企業(yè)竊取用戶的生活數(shù)據(jù)并借此謀利的意圖。算法監(jiān)控資本謀劃具有隱匿性，即“以善為名，行惡之實”，“嵌入”內(nèi)在非正義的算法監(jiān)控塑造出來的“個性化”與“便利化”舒適圈為人們被支配與被剝削的現(xiàn)實披上“合理”外衣。

事實上，用戶在互聯(lián)網(wǎng)上留下的搜索記錄、行為變化等數(shù)據(jù)僅僅一小部分被企業(yè)用來提升產(chǎn)品質(zhì)量與用戶服務(wù)體驗，絕大多數(shù)的剩余數(shù)據(jù)被當成資本積累擴張的原材料。數(shù)據(jù)企業(yè)利用這些剩余數(shù)據(jù)形成關(guān)于用戶的抽象規(guī)定，繼而將其加工整理成“用戶行為預(yù)測”，賣給廣告客戶獲取利潤。哈佛大學(xué)教授肖莎娜·祖博夫在《監(jiān)控資本主義時代》中將數(shù)據(jù)企業(yè)通過監(jiān)控收集來的數(shù)據(jù)量大于用來提升產(chǎn)品質(zhì)量與服務(wù)品質(zhì)的數(shù)據(jù)需求量，超出的一部分被企業(yè)私自占用的數(shù)據(jù)稱為“行為剩余”。谷歌定向廣告投放模式的絕佳運營成效是來自行為剩余的價值，行為剩余的發(fā)現(xiàn)幫助早期谷歌獲得強大的預(yù)測能力，同時也助其建構(gòu)出強大的競爭優(yōu)勢。

行為剩余被發(fā)現(xiàn)以后，監(jiān)控資本主義隨之誕生。所謂監(jiān)控資本主義，即“基于數(shù)據(jù)監(jiān)控的新興資本主義經(jīng)濟秩序”(9)武青，周程：《資本主義條件下大數(shù)據(jù)技術(shù)的政治經(jīng)濟學(xué)批判：監(jiān)控資本主義的時代述評》，《科學(xué)與社會》，2020年第1期。，它與傳統(tǒng)資本主義經(jīng)濟秩序的根本區(qū)別在于：首先，“監(jiān)控資本主義無視消費者與生產(chǎn)者長期存在的有機互惠”(10)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進》，溫澤元等譯，臺北時報文化出版公司，2020年，第25頁。?！叭绻髽I(yè)在收集行為數(shù)據(jù)之前，先獲得消費者或用戶的許可，并單純利用這些數(shù)據(jù)來改善產(chǎn)品或服務(wù)品質(zhì)，那這就是資本主義而非監(jiān)控資本主義”(11)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進》，溫澤元等譯，臺北時報文化出版公司，2020年，第57-58頁。。其次，“監(jiān)控資本主義同時擁有知識與自由度的極大特權(quán)”(12)肖莎娜·祖博夫：《監(jiān)控資本主義時代(上卷)：基礎(chǔ)與演進》，溫澤元等譯，臺北時報文化出版公司，2020年，第25頁。。傳統(tǒng)資本主義中無知與自由往往結(jié)伴而行，亞當·斯密曾將市場比喻成“看不見的手”，“市場本質(zhì)上是不可知的，由于缺乏知識造成無知狀態(tài)，因此市場行為者必須擁有采取各式行動的自由”(13)肖莎娜·祖博夫：《監(jiān)控資本主義時代(下卷)：機器控制力量》，溫澤元等譯，臺北時報文化出版公司，2020年，第780頁。。而在監(jiān)控資本主義中，無知與自由不再結(jié)伴而行，取而代之的是同時擁有知識與自由兩大特權(quán)。監(jiān)控資本家通過算法，分析整合“行為剩余”形成的“行為預(yù)測市場”取代了“無法測量的市場”，這種現(xiàn)象從根本上顛覆了古典經(jīng)濟學(xué)中“市場”本質(zhì)上不可知的認識?！笆袌觥蹦軌蛘J識與預(yù)測，這驅(qū)使著監(jiān)控資本家利用“市場”知識優(yōu)勢來維護其不受限制的自由。最后，監(jiān)控資本主義將大眾視為取之不盡的數(shù)據(jù)資源，蠶食人們自主性空間。監(jiān)控資本主義擁有一套新的資本增值邏輯，即以行為剩余為生產(chǎn)原料，以算法機器為生產(chǎn)手段進行資本謀劃。在此過程中，人的存在意義僅僅被看作是制造數(shù)據(jù)、聽從數(shù)據(jù)算法支配。

三、算法監(jiān)控的社會治理

算法監(jiān)控的資本運作機制剖析，并不局限在算法監(jiān)控本身而是具有某種典型代表意義，擴展加深了我們對于當今大數(shù)據(jù)時代人工智能、網(wǎng)絡(luò)平臺公司背后的經(jīng)濟基礎(chǔ)、資本動因的認識和理解。對于算法監(jiān)控的社會治理也不能局限在算法監(jiān)控本身的技術(shù)層面治理，而是要實施價值觀念、社會變革、法律規(guī)范等全方位社會治理，保障大數(shù)據(jù)技術(shù)、數(shù)字產(chǎn)業(yè)的健康和諧發(fā)展。

(一)算法監(jiān)控惡行源于資本邏輯的極權(quán)主義

算法監(jiān)控以榨取人類“行為剩余”為基礎(chǔ)，以智能化算法為核心的生產(chǎn)方式，深刻改變了傳統(tǒng)經(jīng)濟形態(tài)與社會關(guān)系。算法監(jiān)控資本謀劃機制實現(xiàn)了工具理性的“求利”訴求，但也隱含著價值理性畸變、異化的沖動。安全風險、道德淪喪不是算法監(jiān)控發(fā)展過程中的必然直接產(chǎn)物，而是根植于資本無節(jié)制的“增值理性”。資本借助算法監(jiān)控中介實現(xiàn)自身增值，并進一步要求控制社會關(guān)系。算法監(jiān)控將人類行為量化，通過分析用戶行為偏好與性格特征，以“點對點”方式推送預(yù)測產(chǎn)品實現(xiàn)精準推銷。通過“客戶畫像”不僅滿足客戶的個性化需求，更是開發(fā)、引導(dǎo)社會生產(chǎn)與消費。對此雖然不能一概否定，但“人類各方面的經(jīng)驗都被視為原材料，最終是為了轉(zhuǎn)化為行為數(shù)據(jù)”(14)Zuboff，S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. Public Affairs，2019，p.19.，人被異化成取之不盡用之不竭的可供數(shù)字計算的數(shù)據(jù)“資源”，作為一種“無根的存在”消融在資本邏輯的增值理性之中。在資本邏輯的支配下，算法監(jiān)控成為一種新興的霸權(quán)，每個人都成為算法霸權(quán)下被隨意“擺置”的“數(shù)字難民”。

算法監(jiān)控作為資本邏輯的物化力量，為了保障資本持續(xù)增值，盡一切可能將自身蘊含的經(jīng)濟力量轉(zhuǎn)化為政治權(quán)力。算法監(jiān)控帶來數(shù)據(jù)壟斷，使得掌握算法監(jiān)控技術(shù)的科技巨頭成為“數(shù)據(jù)殖民”的新主體，數(shù)據(jù)化世界中的個體成為“數(shù)據(jù)殖民”的難民?！皵?shù)據(jù)殖民”作為新的資源占有方式是通過重塑原有經(jīng)濟與社會關(guān)系，即建立“數(shù)據(jù)關(guān)系”來實現(xiàn)的。所謂“數(shù)據(jù)關(guān)系”，即“一種新興的社會形式，通過這種社會形式，數(shù)據(jù)殖民主義作為一種提取過程在個人、群體和機構(gòu)之間得以持續(xù)，從而穩(wěn)定地促進了新的資本主義秩序的形成”(15)Couldly N， Mejiasu A. The Costs off Connection: How Date is Colonizing Human Life and Appropriation it for Capitalism. Stanford Universal Press，2019，p.27.。數(shù)據(jù)關(guān)系的目的，就是通過既定的社會形式建構(gòu)出能夠保障數(shù)據(jù)生產(chǎn)與自由流通的社會秩序。全新的社會秩序加劇了社會經(jīng)濟權(quán)力的不平等，數(shù)據(jù)企業(yè)與普通用戶之間經(jīng)濟權(quán)力的不對稱性解構(gòu)了原有的權(quán)力結(jié)構(gòu)，塑造出新的權(quán)力結(jié)構(gòu)。這種新型權(quán)力結(jié)構(gòu)表現(xiàn)在它對以算法為核心的智能化操作機器的技術(shù)組織權(quán)力上，肖莎娜·祖博夫稱之為“工具主義權(quán)力”。

“工具主義權(quán)力”將數(shù)據(jù)企業(yè)視為權(quán)力的主體，把行為修正手段當作實施權(quán)力的工具，目的是通過算法監(jiān)控機器把人轉(zhuǎn)化成資本增值的中介手段。在此過程中，“監(jiān)控資本家的意志取代了用戶的意志，將監(jiān)控資本家的目標偽裝成用戶自由行使選擇權(quán)的結(jié)果，從而實現(xiàn)他們的商業(yè)利潤”(16)武青，周程：《資本主義條件下大數(shù)據(jù)技術(shù)的政治經(jīng)濟學(xué)批判——監(jiān)控資本主義時代述評》，《科學(xué)與社會》，2020年第1期。。個體的自律被資本家的他律所剝奪，個體的意志被出售，收入被用來購買監(jiān)控資本家所謂的“自由”。祖博夫認為，在“工具主義權(quán)力”的謀劃下，算法意志取代人的自由意志，以算法監(jiān)控資本操作機器為生產(chǎn)核心的“監(jiān)控資本主義的極權(quán)主義不同于以往的極權(quán)主義，是一種新型極權(quán)主義”(17)Zuboff， S. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power，Public Affairs， 2019， pp.396-397.。而“憑借它組織自己的技術(shù)基礎(chǔ)的方式，當代社會傾向于成為極權(quán)主義的”(18)馬爾庫塞：《單向度的人》，張峰譯，重慶出版社，1988年，第4頁。。這種新型極權(quán)主義不是通過“恐怖與暴力”手段完成社會統(tǒng)治，而是通過經(jīng)濟—技術(shù)相互協(xié)調(diào)的方式進行統(tǒng)治，這種協(xié)調(diào)依靠“行為矯正手段”削弱人們反抗性向度與超越性向度，將個人與強加于他們的生活同一化，進而塑造出一個沒有異議的社會。

(二)基于中國國情的算法監(jiān)控治理路徑

算法監(jiān)控的資本謀劃將人異化為數(shù)據(jù)“資源”，侵犯人的隱私權(quán)、剝奪人的否定性，對于算法監(jiān)控社會應(yīng)用的負面作用我們不能視而不見、聽之任之?！巴赓u平臺系統(tǒng)通過潛移默化地收集、分析騎手數(shù)據(jù)并將數(shù)據(jù)結(jié)果反作用于騎手而使勞動秩序成為可能。‘數(shù)字控制’不僅削弱著騎手的反抗意愿，蠶食著他們發(fā)揮自主性的空間……”(19)陳龍：《“數(shù)字控制”下的勞動秩序：外賣騎手的勞動控制研究》，《社會學(xué)研究》，2021年第6期。我們必須高度警惕算法監(jiān)控資本邏輯驅(qū)動下的社會濫用，對大數(shù)據(jù)企業(yè)、網(wǎng)絡(luò)平臺、算法監(jiān)控實施更為嚴格精準的社會治理。

首先，資本具有增值、擴張的天生沖動，但是對于資本的批判不是簡單否定，而是為了“先行澄清”。資本主義與社會主義的區(qū)別不是以有沒有資本為標準，資本并不意味著必然具備“資本主義的意識形態(tài)”功能，以資本為中心為資產(chǎn)階級服務(wù)是資本主義，以人民為中心為廣大人民群眾服務(wù)是社會主義。我們要依托中國特色社會主義制度優(yōu)勢駕馭資本邏輯，把數(shù)據(jù)的開發(fā)、利用規(guī)約在技術(shù)進步與社會和諧發(fā)展道路。中國特色社會主義市場經(jīng)濟具有“以人民為中心”的社會制度與市場經(jīng)濟相結(jié)合的強大優(yōu)勢，“有為的政府”與“有效的市場”的密切融合建構(gòu)起算法監(jiān)控的法治化環(huán)境，從法律制度上震懾、打擊資本邏輯的“越軌”沖動。《中華人民共和國數(shù)據(jù)安全法》第一條首先明確立法目的，明確了數(shù)據(jù)的開發(fā)利用與安全保護之間的辯證關(guān)系。這部法律的頒布奠定了算法監(jiān)控的發(fā)展方向，即“開展數(shù)據(jù)處理活動以及研究開發(fā)數(shù)據(jù)新技術(shù)，應(yīng)當有利于促進經(jīng)濟社會發(fā)展，增進人民福祉，符合社會公德和倫理”。

其次，加大數(shù)據(jù)知識、數(shù)據(jù)權(quán)利的宣傳普及工作，提高全社會的數(shù)據(jù)安全保護意識，形成管理部門、企業(yè)公司、公民個人積極參與數(shù)據(jù)安全良好社會環(huán)境的建設(shè)。由于大數(shù)據(jù)技術(shù)、網(wǎng)絡(luò)平臺運營的隱秘復(fù)雜，民眾對于數(shù)據(jù)安全、個人權(quán)利保護意識不夠，常常陷進不良商家、網(wǎng)絡(luò)平臺設(shè)置的騙局。對于老年人，社區(qū)要組織開展專門的手機使用、網(wǎng)絡(luò)防騙的公益教育，既要讓老年人跟上信息化社會的技術(shù)進步，也要加強公安打擊網(wǎng)絡(luò)詐騙力度，確保社會安全穩(wěn)定。《深圳經(jīng)濟特區(qū)數(shù)據(jù)條例》明確規(guī)定，對于未滿十四周歲未成年人，除征得其監(jiān)護人明示同意外，不得向其進行個性化推薦。國家管理部門應(yīng)進一步加強數(shù)據(jù)安全立法，組織推動、適時修訂相關(guān)行業(yè)標準、安全標準的制定，完善數(shù)據(jù)安全檢測、評估、認證等專業(yè)性服務(wù)體系建設(shè)，對數(shù)據(jù)實施從“國家安全”到“個人隱私”的“分級分類”保護。2021年6月30日滴滴在美國首次公開發(fā)行籌資40億美元開始交易，7月4日國家網(wǎng)信辦宣布通知應(yīng)用商店下架其應(yīng)用。滴滴之所以被下架應(yīng)用，就在于其在美國的上市可能涉及中國敏感用戶、國家數(shù)據(jù)、地理路網(wǎng)信息泄露風險。

再次，清醒認識國家公共服務(wù)與大數(shù)據(jù)平臺公司之間目標與利益的迭合與差異，對算法控制、資本壟斷實施更加規(guī)范完善的嚴格管控。中國20世紀的互聯(lián)網(wǎng)基礎(chǔ)產(chǎn)業(yè)是由國家啟動建設(shè)，21世紀以來私營互聯(lián)網(wǎng)企業(yè)步入了快速發(fā)展階段。2000年移動互聯(lián)網(wǎng)興起之際，私營互聯(lián)網(wǎng)絡(luò)公司作為外包項目的分包商與中國電信合作，借用國家發(fā)起、控制的互聯(lián)網(wǎng)基礎(chǔ)設(shè)施獲得飛躍式擴張。在這種政商合作中，政府實現(xiàn)了網(wǎng)上的政務(wù)管理與服務(wù)，如繳納各種水電費用乃至征信、身份核驗等等；而互聯(lián)網(wǎng)大數(shù)據(jù)平臺公司則借此資本擴張，將觸角伸展到經(jīng)濟、社會、政治各個層面，甚至有可能發(fā)展成為控制某種技術(shù)、市場的“巨鯨”“寡頭”。實施“互聯(lián)網(wǎng)+”國家戰(zhàn)略、發(fā)展數(shù)字經(jīng)濟、服務(wù)社會民生是我們的美好期許，但是必須警惕、對抗、馴服某些數(shù)據(jù)公司資本沖動的無序擴張，打破技術(shù)壟斷的“捆綁效應(yīng)”“路徑依賴”，維護國家數(shù)據(jù)安全，保障社會民生福祉。自2020年以來，國家對于螞蟻金服、阿里巴巴的處罰，對滴滴出行等平臺公司的安全審查等都是具有標志性意義的政治經(jīng)濟事件。

最后，遵循“最小必要”“告知同意”“保護弱者”的基本原則，從法律、倫理、技術(shù)各個層面約束、規(guī)范大數(shù)據(jù)平臺公司的運營。我們常常反省國人數(shù)據(jù)安全自我保護意識不夠，但是大數(shù)據(jù)網(wǎng)絡(luò)公司已然成為社會運行的基礎(chǔ)平臺，對于某些App小程序的使用及其個人數(shù)據(jù)的讓渡成為不可逃避的設(shè)定。我們離開手機網(wǎng)絡(luò)平臺會遭遇太多困難，醫(yī)院掛號、手機支付、乘車購票等基本生活需求就難以實現(xiàn)。而大數(shù)據(jù)公司常常采用“一鍵式”一攬子授權(quán)認可協(xié)議，要么提供個人信息要么拒絕提供服務(wù)，通過某些便利服務(wù)“綁架”采集個人信息，用戶失去了平等對話或者抗衡自衛(wèi)權(quán)利。個人數(shù)據(jù)“被迫”儲存在“平臺”，要求每一用戶保護隱私、防范泄露不現(xiàn)實，也不符合防范風險的“最小成本”原則。在強大的技術(shù)網(wǎng)絡(luò)、資本利益面前，我們必須嚴懲信息泄露、“大數(shù)據(jù)殺熟”等侵犯公民權(quán)益事件，對受害者采取必要的“公益訴訟”保護，確保數(shù)字經(jīng)濟、信息社會的和諧健康發(fā)展。