黃湘

大數(shù)據(jù)時(shí)代已經(jīng)來臨。大數(shù)據(jù)技術(shù)在給人類創(chuàng)造了諸多便捷的同時(shí)，也引發(fā)了新的倫理危機(jī)。迄今為止，對(duì)這一倫理危機(jī)的討論主要是從“自由”角度切入的。不少論者擔(dān)心，大數(shù)據(jù)技術(shù)會(huì)導(dǎo)致未來社會(huì)不再具有不受監(jiān)控的私人空間，傳統(tǒng)意義上的私人領(lǐng)域和個(gè)人自由不復(fù)存在。

一個(gè)較少為人注意的方面是，大數(shù)據(jù)技術(shù)也會(huì)對(duì)“公平”造成威脅。確切地說，大數(shù)據(jù)技術(shù)所強(qiáng)化的“數(shù)據(jù)中心主義”的政治技術(shù)治理，將會(huì)嚴(yán)重地妨害社會(huì)公平。美國政治學(xué)家尤班克斯（Virginia Eubanks）的《自動(dòng)化不平等：高科技工具如何記錄、管治和懲罰窮人》（Automating Inequality：How High-Tech Tools Profile，Police，and Punish the Poor）一書，就是通過對(duì)美國社會(huì)福利數(shù)據(jù)系統(tǒng)的案例分析，揭示它如何剝奪了本應(yīng)屬于貧困階層的社會(huì)福利和發(fā)展機(jī)遇。

尤班克斯分析的第一個(gè)案例，是印第安納州在2007年耗資11.6億美元建立的申請(qǐng)領(lǐng)取社會(huì)福利的自動(dòng)化登記系統(tǒng)。在此之前，印第安納州的窮人在申請(qǐng)領(lǐng)取社會(huì)福利時(shí)，需要填寫相關(guān)表格，由社工人員審核其是否具備領(lǐng)取福利的資格。

新的自動(dòng)化系統(tǒng)簡化了流程，讓機(jī)器取代了大量此前由人負(fù)責(zé)的工作，理論上這讓領(lǐng)取社會(huì)福利變得快捷。但事實(shí)上，這套系統(tǒng)在使用3年之后，因?yàn)槌霈F(xiàn)大量錯(cuò)誤而停用。在這些錯(cuò)誤中間，只有極少數(shù)是讓那些不符合條件的人通過審核領(lǐng)取了社會(huì)福利，絕大多數(shù)錯(cuò)誤是導(dǎo)致本應(yīng)獲取社會(huì)福利的人未能通過審核。

珀杜（Sheila Perdue）是一位身患耳聾、肺氣腫和躁郁癥的印第安納州居民。2007年冬天，她收到一封政府部門的來信，要求她必須參與一個(gè)電話采訪，以便在新系統(tǒng)中重新登記以領(lǐng)取福利。

按照以往的慣例，珀杜可以找當(dāng)?shù)氐纳绻と藛T解釋自己由于耳聾不能參與電話采訪，由社工人員負(fù)責(zé)審核其資格。但是新的自動(dòng)化系統(tǒng)排除了這種做法，登記者如果有問題，需要自己打電話到州政府的福利部門解釋清楚，電話留言可以被系統(tǒng)存檔。珀杜申請(qǐng)面對(duì)面的資格審核，但是被拒絕。她備齊了所有文件，前往附近的救助中心。那里的社工人員要她在網(wǎng)上填寫相關(guān)表格，不熟悉互聯(lián)網(wǎng)操作的珀杜請(qǐng)求幫助，但是社工人員表示此類表格必須由本人填寫。珀杜盡最大努力完成了申請(qǐng)程序。幾周以后，她被告知自己未能在新系統(tǒng)中重新登記，理由是在資格審核中“不合作”。

類似的例子不勝枚舉。從2007年到2010年，有近100萬件福利申請(qǐng)被系統(tǒng)拒絕，主要理由就是申請(qǐng)者“不合作”。

2010年，在民意的強(qiáng)烈反對(duì)下，印第安納州政府被迫關(guān)閉該系統(tǒng)，并向法庭起訴，要求設(shè)計(jì)該系統(tǒng)的電腦業(yè)巨頭IBM賠償州政府4.37億美元，IBM反訴印第安納州政府賠償1億美元。法官裁定州政府和IBM雙方都無權(quán)勝訴，都應(yīng)該受到譴責(zé)，真正的輸家是印第安納州的納稅人。對(duì)此，尤班克斯評(píng)論說，最大的輸家與其說是泛指的納稅人，毋寧說是那些本應(yīng)接受援助的窮人。

第二個(gè)例子發(fā)生在洛杉磯。在這座全球娛樂之都，有大量無家可歸的流浪人口常年聚集，2017年其數(shù)目超過了5.5萬。洛杉磯市政府制定了為這些無家可歸者提供住房的福利計(jì)劃，通過積分系統(tǒng)決定哪些人可以最先獲得住房。然而，該系統(tǒng)將“關(guān)押進(jìn)拘留所”算成“有住房”，但凡進(jìn)過拘留所的人員都會(huì)被標(biāo)示為最近有過住房，從而積分排名靠后。事實(shí)上，無家可歸者越是絕望，就越是有可能故意犯點(diǎn)事情，以求在拘留所里暫時(shí)覓得庇身之所。洛杉磯市的這套積分系統(tǒng)，其實(shí)是把那些最需要住房的人拒之門外。

另一方面，洛杉磯市政府在數(shù)據(jù)收集階段，讓社工人員對(duì)無家可歸者進(jìn)行訪談，鼓勵(lì)他們坦白自己的經(jīng)歷。但是，執(zhí)法部門可以聯(lián)網(wǎng)查看這些訪談?dòng)涗洠坏┧麄兂姓J(rèn)自己有過輕微的違法行為—例如在禁止夜晚出沒的地方睡覺，在人行道上席地而坐，在禁止乞討的街區(qū)乞討等等—都有可能導(dǎo)致被捕。

第三個(gè)例子發(fā)生在賓夕法尼亞州的阿勒格尼（Allegheny）郡，這是賓州第二大城市匹茲堡的所在地。該郡出于防止父母虐待和忽視兒童的目的，將該郡的社會(huì)福利、兒童保護(hù)和犯罪記錄的系統(tǒng)數(shù)據(jù)予以聯(lián)網(wǎng)，并由專家團(tuán)隊(duì)設(shè)計(jì)了一個(gè)統(tǒng)計(jì)模型，使用多達(dá)130個(gè)指標(biāo)來預(yù)測(cè)兒童是否面臨被父母虐待或忽視的高風(fēng) 險(xiǎn)。

尤班克斯指出，幾乎所有這些指標(biāo)都和貧窮有關(guān)。例如，一個(gè)在貧窮的單親家庭長大的孩子，往往也會(huì)獨(dú)處時(shí)間比較長，住在比較不安全的社區(qū)，住房比較破舊凌亂。系統(tǒng)如此設(shè)定指標(biāo)，本身就是對(duì)窮人的歧視。

該系統(tǒng)的另一個(gè)問題是僅僅使用公立機(jī)構(gòu)社工人員的記錄來判斷兒童和父母的關(guān)系，中產(chǎn)和富裕家庭的保姆、醫(yī)生等等則無需提供證詞。換言之，中產(chǎn)或富裕家庭即使出現(xiàn)虐待或忽視兒童的情況，只要是由私人服務(wù)機(jī)構(gòu)或醫(yī)院處理相關(guān)事宜，就不會(huì)被系統(tǒng)記錄在案；而貧窮家庭的父母則易于遭受社工人員主觀偏見的不公正對(duì)待。

尤班克斯舉例說，有一對(duì)很愛孩子的父母，因?yàn)槲茨芗皶r(shí)繳納女兒打疫苗的費(fèi)用，即被列為懷疑對(duì)象而遭到調(diào)查。他們很擔(dān)心有一天州政府的兒童福利局會(huì)終止他們的撫養(yǎng)權(quán)，將孩子安置到政府安排的監(jiān)護(hù)機(jī)構(gòu)或寄養(yǎng)家庭。

自動(dòng)化數(shù)據(jù)治理會(huì)在很大程度上減少公眾對(duì)窮人的同情心。

那么，為何自動(dòng)化的數(shù)據(jù)系統(tǒng)會(huì)如此歧視和排斥窮人呢？尤班克斯指出，在歷史上，美國社會(huì)一直有歧視窮人的傳統(tǒng)，窮人被主流社會(huì)視為能力低下、游手好閑、易于犯罪，對(duì)社會(huì)有害無益。1820年代，有政客提議美國每個(gè)郡都至少要有一座“窮人屋”（poorhouse），把窮人安置在其中，從事近乎苦役的工作，與主流社會(huì)相隔絕。盡管這個(gè)提議由于開銷太大而未能全面推行，只在部分地區(qū)試點(diǎn)后便不了了之，但是它所體現(xiàn)的思路一直是美國資本主義的基本信條。

1960年代風(fēng)起云涌的民權(quán)運(yùn)動(dòng)在表面上改變了美國的主流文化。民權(quán)運(yùn)動(dòng)的一個(gè)后果就是將窮人的社會(huì)福利視為基本人權(quán)，每一個(gè)窮人都有權(quán)通過正當(dāng)程序獲取應(yīng)得的社會(huì)福利。窮人的處境有了很大改善。然而，美國社會(huì)有很強(qiáng)大的力量反對(duì)社會(huì)福利的擴(kuò)張。在新的時(shí)代背景下，他們無法直接反對(duì)將社會(huì)福利視為窮人的人權(quán)，于是便通過數(shù)據(jù)技術(shù)來達(dá)成目標(biāo)。從1980年代開始，美國社會(huì)福利系統(tǒng)逐漸走向了電腦技術(shù)主導(dǎo)的自動(dòng)化數(shù)據(jù)管理，政客們宣稱新技術(shù)可以減少舞弊，提高效率，但事實(shí)是社會(huì)福利的覆蓋面自此開始日趨縮減。1973年，有近一半生活在貧困線下的美國家庭可以領(lǐng)取“未成年兒童家庭援助”（Aid to Families with Dependent Children），今天這個(gè)數(shù)字只有10%。雖然存在政策變遷的因素，但是這種變化主要是通過數(shù)據(jù)化的政治技術(shù)治理悄然無息地實(shí)現(xiàn)的。

尤班克斯指出，自動(dòng)化數(shù)據(jù)治理所導(dǎo)致的對(duì)窮人的歧視和排斥，遠(yuǎn)比19世紀(jì)曾經(jīng)一度在美國部分地區(qū)試點(diǎn)的“窮人屋”更為可怕?！案F人屋”固然將窮人排斥在主流社會(huì)之外，但同時(shí)也使得窮人們聚集和團(tuán)結(jié)在一起，可以提出集體訴求來主張自己的權(quán)利。而自動(dòng)化數(shù)據(jù)治理所排斥的窮人是“碎片化”的，他們難以彼此聯(lián)系，難以通過集體的力量來爭(zhēng)取權(quán)利。

另一方面，自動(dòng)化數(shù)據(jù)治理會(huì)在很大程度上減少公眾對(duì)窮人的同情心。在歷史上，來自相對(duì)富裕的公眾的同情心是推動(dòng)窮人獲得權(quán)利和社會(huì)福利的關(guān)鍵動(dòng)力。那些關(guān)于窮人受到官僚系統(tǒng)不公正對(duì)待的故事總是能夠打動(dòng)人心，激起強(qiáng)烈的反應(yīng)。然而，自動(dòng)化數(shù)據(jù)治理卻使得相關(guān)機(jī)構(gòu)和人員可以輕易卸責(zé)，讓公眾相信電腦系統(tǒng)所歧視和排斥的窮人真的就是咎由自取，不值得同情。

這正如清朝學(xué)者戴震在《孟子字義疏證》中的感嘆：“人死于法，猶有憐之者，死于理者，其誰憐之！”自動(dòng)化數(shù)據(jù)治理的最大危害就在于它制造出了一個(gè)虛幻的“理”，用貌似中立的技術(shù)掩蓋和助長了實(shí)質(zhì)上的不公 平。

總而言之，大數(shù)據(jù)技術(shù)所引發(fā)的倫理危機(jī)，不僅在于它會(huì)給私人領(lǐng)域帶來前所未有的侵犯，而且在于它有可能對(duì)公共社會(huì)造成嚴(yán)重的威脅。這一危機(jī)正在成為人類面臨的重大考驗(yàn)。