段偉文

(中國(guó)社會(huì)科學(xué)研究院哲學(xué)研究所，北京 100732)

隨著信息化、數(shù)字化和智能化技術(shù)的迅猛發(fā)展，作為世界的存在、事件的發(fā)展和人的行為發(fā)生痕跡的各種數(shù)據(jù)呈指數(shù)增長(zhǎng)，我們?nèi)諠u生活在由數(shù)字化的數(shù)據(jù)所構(gòu)成的信息空間與編碼空間之中。而新一輪人工智能熱潮，不僅源于計(jì)算能力和深度學(xué)習(xí)等智能算法上的突破性發(fā)展，更在于數(shù)據(jù)驅(qū)動(dòng)。近20年來(lái)，網(wǎng)絡(luò)搜索、電子商務(wù)、新媒體的發(fā)展，帶給數(shù)字產(chǎn)業(yè)界巨大的啟示是反映每個(gè)人的特征、行為和偏好的數(shù)據(jù)均有可能構(gòu)成世界的鏡像。如果能夠充分運(yùn)用這個(gè)數(shù)據(jù)構(gòu)成的鏡像世界，就有可能重構(gòu)社會(huì)生活的各種流程，使之變得更加精準(zhǔn)和高效。

基于這一認(rèn)知，通過(guò)各種被稱(chēng)為商業(yè)智能、認(rèn)知計(jì)算等基于數(shù)據(jù)智能的社會(huì)計(jì)算，人的線上和線下行為數(shù)據(jù)越來(lái)越多地被搜集和分析，在一定意義上使每個(gè)人都成為被追蹤、觀測(cè)、分析的對(duì)象。借助特定的算法，數(shù)據(jù)的掌握者可以通過(guò)行為評(píng)分和內(nèi)容推薦等數(shù)據(jù)智能對(duì)人的行為進(jìn)行評(píng)判、引導(dǎo)和干預(yù)。由此，當(dāng)前作為人工智能應(yīng)用熱點(diǎn)的數(shù)據(jù)智能已經(jīng)揭開(kāi)了智能社會(huì)的一種可能形態(tài)——智能解析社會(huì)的序幕。這一新愿景是信息網(wǎng)絡(luò)技術(shù)等數(shù)字烏托邦的新發(fā)展，但由此所帶來(lái)的人工智能未來(lái)是否會(huì)成為人人向往的智能烏托邦尚待進(jìn)一步探討。其中一個(gè)重要的方面是，如何從價(jià)值層面反思智能社會(huì)構(gòu)建的認(rèn)知與行動(dòng)的實(shí)質(zhì)，對(duì)其加以必要的倫理調(diào)適。

智能社會(huì)的技術(shù)實(shí)現(xiàn)與世界的數(shù)據(jù)化

自二十世紀(jì)后半葉以來(lái)，高科技革命引發(fā)了后工業(yè)社會(huì)、信息社會(huì)與知識(shí)社會(huì)的理論探索與創(chuàng)新實(shí)踐，智能社會(huì)的思想與實(shí)踐隨之開(kāi)啟。在觀念層面，20世紀(jì)80年代后期，中國(guó)社會(huì)科學(xué)院童天湘曾發(fā)表系列文章與相關(guān)專(zhuān)著指出，高技術(shù)首先是高智力，高科技的發(fā)展正在帶來(lái)智能革命，未來(lái)社會(huì)應(yīng)是智能社會(huì)。同時(shí)期，也有一些國(guó)外學(xué)者曾提出過(guò)“智能社會(huì)”的概念。近年來(lái)，歐盟和日本等相繼提出了智能社會(huì)的愿景，其主旨是充分運(yùn)用數(shù)字與智能技術(shù)使社會(huì)實(shí)現(xiàn)智能化，同時(shí)更有效地解決健康、醫(yī)療、養(yǎng)老、教育等既存的社會(huì)問(wèn)題以及氣候變化、可持續(xù)發(fā)展等全球問(wèn)題。

從技術(shù)前提來(lái)看，普適計(jì)算和社會(huì)感知計(jì)算等方面的研究為智能社會(huì)的實(shí)現(xiàn)奠定了基礎(chǔ)。1991年，馬克·威賽(Mark Weiser)在《科學(xué)美國(guó)人》雜志上發(fā)表文章《21世紀(jì)的計(jì)算模式》，提出了“普適計(jì)算”(ubiquitous computing或pervasive computing)的概念，指出可以通過(guò)無(wú)處不在的計(jì)算服務(wù)人們的生活和工作，使人置身于遍布計(jì)算能力的人工環(huán)境或智能環(huán)境之中。這一概念標(biāo)明了從信息社會(huì)向智能社會(huì)前進(jìn)的大方向。此后的發(fā)展表明，通往智能社會(huì)的關(guān)鍵路徑是數(shù)據(jù)驅(qū)動(dòng)和智能集成。一方面，人工智能的研究表明，讓機(jī)器具有所謂的智能需要走一條和人的認(rèn)知完全不同的道路。這就是發(fā)揮計(jì)算機(jī)在計(jì)算和存儲(chǔ)方面的特長(zhǎng)，利用大數(shù)據(jù)的完備性，發(fā)現(xiàn)人難以發(fā)現(xiàn)的規(guī)律，得到傳統(tǒng)方式無(wú)法得到的結(jié)果，從而在某些方面超越人的智力。另一方面，普適計(jì)算或智能環(huán)境的實(shí)現(xiàn)必然建立在智能集成之上。這也是錢(qián)學(xué)森提出基于開(kāi)放復(fù)雜巨系統(tǒng)理論的智能系統(tǒng)的主旨所在，其中不僅包括分布式與現(xiàn)場(chǎng)人工智能、智能體,還包括人工社會(huì)研究所關(guān)注的社會(huì)智能的集成。

近年來(lái)成為研究熱點(diǎn)的社會(huì)計(jì)算和社會(huì)物理學(xué)在一定程度上可視為數(shù)據(jù)驅(qū)動(dòng)的普適計(jì)算。早在大數(shù)據(jù)興起前的2005年，MIT科學(xué)家彭特蘭(Alex Pentland)便提出了社會(huì)感知計(jì)算的概念，試圖通過(guò)收集和分析人際交往與社會(huì)生活的數(shù)據(jù)流理解與改進(jìn)人類(lèi)行為，在社會(huì)管理與治理層面推動(dòng)數(shù)據(jù)驅(qū)動(dòng)與智能集成的綜合運(yùn)用；此后，彭特蘭進(jìn)一步倡導(dǎo)，在基于大數(shù)據(jù)的社會(huì)物理學(xué)研究的基礎(chǔ)上，從思想流(idea flow)和社會(huì)學(xué)習(xí)等出發(fā)，構(gòu)建數(shù)據(jù)驅(qū)動(dòng)的智能社會(huì)。(1)[美]阿萊克斯·彭特蘭.智慧社會(huì)： 大數(shù)據(jù)與社會(huì)物理學(xué)[M].汪小凡，汪蓉，譯.杭州： 浙江人民出版社，2015： 7.不論是社會(huì)計(jì)算還是社會(huì)感知計(jì)算，都有一個(gè)基本的假定： 我們可以將世界的全部轉(zhuǎn)化為數(shù)據(jù)，從而實(shí)現(xiàn)世界的數(shù)據(jù)化?；诖?，我們不僅可以用數(shù)據(jù)刻畫(huà)和描述真實(shí)世界，還可以運(yùn)用這些數(shù)據(jù)影響和干預(yù)其所刻畫(huà)和描述的世界。換言之，數(shù)據(jù)世界可能成為與真實(shí)世界相對(duì)應(yīng)的平行世界。而這一假定背后的預(yù)設(shè)是，數(shù)據(jù)即“事實(shí)”，世界的數(shù)據(jù)化意味著我們可以用數(shù)據(jù)刻畫(huà)和影響世界所發(fā)生的全部事實(shí)。

在數(shù)據(jù)驅(qū)動(dòng)的智能應(yīng)用中，世界的數(shù)據(jù)化往往會(huì)發(fā)展成一種理想化的數(shù)據(jù)觀——數(shù)據(jù)主義。在數(shù)據(jù)主義者看來(lái)，在數(shù)據(jù)記錄、觀測(cè)與分析技術(shù)得以普遍應(yīng)用的情況下，關(guān)于世界與生活在其中的人的行為的數(shù)據(jù)等同于世界及生活在世界中的人的行為本身，是可用于計(jì)算和干預(yù)世界及人的行為的資源。在此，數(shù)據(jù)主義者顯然沒(méi)有看到數(shù)據(jù)與世界和資源的等同在技術(shù)、價(jià)值上的合理性限度。

世界的數(shù)據(jù)化可視為一種具體類(lèi)型的技術(shù)化科學(xué)(technoscience)對(duì)世界或?qū)ο蟮男袨榈挠袟l件、有選擇和有目的的表征或干預(yù)。其一般過(guò)程是： 數(shù)據(jù)分析者一般會(huì)為了某個(gè)目的，比方說(shuō)視頻網(wǎng)站要向用戶(hù)推送視頻內(nèi)容和廣告，就會(huì)采集用戶(hù)的相關(guān)數(shù)據(jù)，如觀看內(nèi)容、時(shí)長(zhǎng)等，還可能包括年齡、性別、所在區(qū)域等數(shù)據(jù)，通過(guò)數(shù)據(jù)分析，就可以對(duì)用戶(hù)的行為特征和偏好等進(jìn)行數(shù)據(jù)挖掘和繪制數(shù)據(jù)畫(huà)像，并據(jù)此向用戶(hù)推薦他可能喜歡花時(shí)間看的內(nèi)容，同時(shí)穿插有針對(duì)性的廣告。根據(jù)這一過(guò)程，可展開(kāi)相應(yīng)價(jià)值合理性分析： 數(shù)據(jù)分析者對(duì)用戶(hù)數(shù)據(jù)的采集是否會(huì)侵害用戶(hù)的隱私權(quán)，所采集的數(shù)據(jù)是否得到安全的存儲(chǔ)，所繪制的數(shù)據(jù)畫(huà)像是否存在偏見(jiàn)和歧視，所推送的內(nèi)容是否會(huì)導(dǎo)致用戶(hù)的沉迷，所推送的廣告是否存在蓄意誤導(dǎo)用戶(hù)不合理消費(fèi)的情況，等等。毋庸置疑，這些價(jià)值合理性分析只有通過(guò)對(duì)數(shù)據(jù)驅(qū)動(dòng)的智能社會(huì)的可能形態(tài)的反思和追問(wèn)方能具體地展開(kāi)。

解析社會(huì)與作為揣測(cè)性認(rèn)知的智能監(jiān)測(cè)

從社會(huì)形態(tài)的變遷來(lái)看，認(rèn)知計(jì)算和數(shù)據(jù)智能的廣泛應(yīng)用意味著一種新的社會(huì)形態(tài)——解析社會(huì)或數(shù)據(jù)解析社會(huì)的來(lái)臨。(2)段偉文.人工智能與解析社會(huì)的來(lái)臨[J].科學(xué)與社會(huì),2019,9(1)： 115-128.一方面，政府、企業(yè)等組織的管理與治理活動(dòng)越來(lái)越多地借助數(shù)據(jù)分析與洞察；另一方面，個(gè)人也開(kāi)始運(yùn)用可穿戴設(shè)備采集生活和健康數(shù)據(jù)，對(duì)自我實(shí)施量化管理。從信息社會(huì)向智能社會(huì)發(fā)展的宏觀脈絡(luò)來(lái)看，我們可以認(rèn)為這種社會(huì)形態(tài)是智能社會(huì)的一種可能方案，故又可稱(chēng)之為智能解析社會(huì)。這種新的社會(huì)形態(tài)是顛覆性的。一方面，數(shù)據(jù)所扮演的角色如同13世紀(jì)時(shí)出現(xiàn)的透鏡。透鏡所制造的望遠(yuǎn)鏡和顯微鏡讓宇宙和微觀世界得以清晰地觀測(cè)與呈現(xiàn)。如今，“數(shù)據(jù)透鏡”則使人的行為得到量化地記錄與透視。另一方面，就像17世紀(jì)笛卡爾發(fā)明解析幾何使得自然界的結(jié)構(gòu)與規(guī)律得以探究一樣，數(shù)據(jù)分析與智能算法的應(yīng)用正在使人的行為規(guī)律得到洞察和解析。

用數(shù)據(jù)和智能算法來(lái)分析人的行為，意味著對(duì)人的智能監(jiān)測(cè)。所謂智能監(jiān)測(cè)，大多是在被分析對(duì)象不知情的情況下展開(kāi)的，但也有一些是自我監(jiān)測(cè)，如智能手環(huán)等智能化可穿戴設(shè)備的應(yīng)用。即便是后者，設(shè)備使用者的個(gè)人數(shù)據(jù)也會(huì)被產(chǎn)品及軟件廠家或第三方采集和分析。這種智能監(jiān)測(cè)并不是什么新鮮事，在一定程度上是傳統(tǒng)情報(bào)監(jiān)測(cè)的延伸。根據(jù)斯諾登披露，在大數(shù)據(jù)出現(xiàn)之前，美國(guó)國(guó)家安全局早就通過(guò)元數(shù)據(jù)分析對(duì)公眾的電話進(jìn)行監(jiān)測(cè)。這種監(jiān)測(cè)一般不涉及通話內(nèi)容，因?yàn)閮H依據(jù)通話的號(hào)碼、時(shí)間、長(zhǎng)度、頻率、位置這些元數(shù)據(jù)，就可以了解很多情況。比如，A接通一家大型醫(yī)學(xué)中心的心臟病專(zhuān)家的熱線并進(jìn)行了長(zhǎng)時(shí)間交談，又致電醫(yī)學(xué)實(shí)驗(yàn)室進(jìn)行了簡(jiǎn)短交談，然后接到了藥房的電話，并給家里打了一個(gè)簡(jiǎn)短的電話；B向?qū)ｉT(mén)銷(xiāo)售某種槍支商店打了許多電話，并且還與生產(chǎn)這種槍支的制造商進(jìn)行了長(zhǎng)時(shí)間溝通。這種監(jiān)測(cè)只是提供了一些可能的線索，如A可能有心臟病，B準(zhǔn)備購(gòu)買(mǎi)槍支，但這只是把一些事件串聯(lián)起來(lái)之后所產(chǎn)生的猜想，只要大家略微發(fā)揮想象力，劇情還可以千變?nèi)f化。

毋庸置疑，智能監(jiān)測(cè)這種認(rèn)知方式帶有很大的揣測(cè)成分。早在電報(bào)技術(shù)時(shí)代，亨利·詹姆斯(Henry James)于1898年發(fā)表的短篇小說(shuō)《籠中》(IntheCage)的年輕女報(bào)務(wù)員似乎已深諳此道。憑著一雙明眸和了無(wú)束縛的想象力，透過(guò)從她指間匆匆流過(guò)的只言片語(yǔ)，她瞥見(jiàn)了主顧們各式各樣的風(fēng)流韻事、約會(huì)安排、小把戲和小秘密，加之眾人在態(tài)度、禮節(jié)、言辭、階層、金錢(qián)、性別上的分別，經(jīng)過(guò)幾番琢磨、編織和腦補(bǔ)，硬是把吞吐摩爾斯電碼的電報(bào)機(jī)變?cè)斐闪死L制眾生身份的世界機(jī)器(world machine)，數(shù)據(jù)流在其中被復(fù)原為生命流。那些由此醞釀出的故事隨風(fēng)彌散，其劇情看起來(lái)有多么真實(shí)，就有幾多虛擬。(3)[英]馬修·福勒.媒介生態(tài)學(xué)： 藝術(shù)與技術(shù)文化中的物質(zhì)能量[M].上海： 上海社會(huì)科學(xué)院出版社,2019： 312.通過(guò)這一早期媒介信息監(jiān)測(cè)場(chǎng)景，不難管窺數(shù)據(jù)解析的奧秘在于監(jiān)測(cè)者對(duì)事件的虛構(gòu)與想象。當(dāng)代監(jiān)測(cè)理論的研究者將這種通過(guò)監(jiān)測(cè)捕捉“事實(shí)”的過(guò)程稱(chēng)為“作為生產(chǎn)的監(jiān)測(cè)”或“生產(chǎn)性監(jiān)測(cè)”。而在移動(dòng)互聯(lián)網(wǎng)和即將到來(lái)的萬(wàn)物互聯(lián)甚至想法互聯(lián)時(shí)代，每個(gè)人的生活將變得更加透明。你的手機(jī)提供商會(huì)跟蹤你的位置，并知道與你在一起的人；各種網(wǎng)絡(luò)應(yīng)用會(huì)記錄你的在線購(gòu)買(mǎi)模式，知道你是否失業(yè)、生病或懷孕。

耐人尋味的是，盡管并未訴諸可檢驗(yàn)的理論或假說(shuō)，谷歌、臉書(shū)等掌握了海量個(gè)人數(shù)據(jù)的科技巨頭卻往往將數(shù)據(jù)混同于事實(shí)，把從數(shù)據(jù)中發(fā)現(xiàn)的模式看作絕對(duì)真實(shí)存在的東西。谷歌因?yàn)橛涗浟四愕乃阉鲾?shù)據(jù)，就認(rèn)為可以知道你的想法。當(dāng)你在搜索引擎上輸入“should I tell my w”時(shí)，就會(huì)建議你輸入“should I tell my wife I had an affair”(我應(yīng)該告訴妻子我有外遇)或“should I tell my work about dui”(我是否應(yīng)該告訴單位我酒后駕駛)。曾任谷歌CEO的埃里克·施密特(Eric Schmidt)坦言：“我們知道您在哪里，我們知道您去過(guò)哪里，我們或多或少可以了解您的想法?！?4)Bruce Schneier. Data and Goliath： The Hidden Battles to Collect Your Data and Control Your World [M]. New York and London: W.W. Norton & Company, 2015： 16.對(duì)于那些具有壟斷地位的巨量數(shù)據(jù)追蹤者而言，他們會(huì)越來(lái)越多地?fù)碛杏行У臋C(jī)器學(xué)習(xí)所需要的數(shù)據(jù)，從而可以更好地構(gòu)建算法、更迅速地預(yù)測(cè)趨勢(shì)、更多地了解用戶(hù)，當(dāng)然也要通過(guò)外包業(yè)務(wù)讓更多的人為這些數(shù)據(jù)打標(biāo)簽。盡管大多數(shù)企業(yè)相信數(shù)據(jù)的充分運(yùn)用對(duì)于整個(gè)社會(huì)而言最終利大于弊，而且可以通過(guò)企業(yè)的合規(guī)與自律行為不斷調(diào)整和改進(jìn)；但從產(chǎn)業(yè)規(guī)則與社會(huì)治理的角度來(lái)看，至關(guān)重要的是如何為可能出現(xiàn)的數(shù)據(jù)壟斷與濫用設(shè)定邊界。

數(shù)據(jù)智能與社會(huì)計(jì)算的價(jià)值追問(wèn)

在這種抑制不住的自信背后，充斥著近年最常聽(tīng)到的陳詞濫調(diào)——“數(shù)據(jù)就是石油”。這個(gè)論調(diào)似乎表明，培根提出的“知識(shí)就是力量”的口號(hào)，如今要改為“數(shù)據(jù)就是力量”。就像培根當(dāng)年主張拷問(wèn)自然一樣，或者說(shuō)更像新行為主義者斯金納擺布迷宮里的小白鼠那樣，面對(duì)互聯(lián)網(wǎng)這個(gè)巨型的迷宮，掌握著巨量數(shù)據(jù)資源的企業(yè)研究者在拷問(wèn)著數(shù)據(jù)，讓數(shù)據(jù)交代出人的秘密：

計(jì)算機(jī)科學(xué)家有句行話，說(shuō)的是算法如何不停地尋找模式： 它們折磨數(shù)據(jù)，直到數(shù)據(jù)招供為止。不過(guò)這個(gè)比喻也有未加審視的隱含意義。數(shù)據(jù)就像酷刑的受害者一樣，審訊的人想聽(tīng)什么，數(shù)據(jù)就說(shuō)什么。(5)[美]富蘭克林·福爾.沒(méi)有思想的世界： 科技巨頭對(duì)獨(dú)立思考的威脅[M].舍其,譯.北京： 中信出版社,2019： 58.

但實(shí)際上，這種拷問(wèn)并非對(duì)客觀知識(shí)的探究，而是將人的行為本身視為一種需要解決的問(wèn)題，其目的是通過(guò)對(duì)人的行為數(shù)據(jù)的計(jì)算影響人的行為。正如前文所言，所謂讓數(shù)據(jù)說(shuō)話，不是無(wú)目的地對(duì)人的行為的客觀刻畫(huà)，而是數(shù)據(jù)分析者或算法設(shè)計(jì)者從特定目的出發(fā)，對(duì)計(jì)算對(duì)象作出的具有定向性、引導(dǎo)性和干預(yù)性的社會(huì)計(jì)算與調(diào)控。

典型的社會(huì)計(jì)算有三類(lèi)。一是結(jié)果預(yù)測(cè)。比如，有人用已有的各種審判數(shù)據(jù)和人工智能算法預(yù)測(cè)某個(gè)法官對(duì)某個(gè)案件可能的判決結(jié)果。由于人總有其自由意志，人們所作出的決策是多方面綜合考慮的結(jié)果。不管法官的行為是否有規(guī)律可循，這種預(yù)測(cè)本質(zhì)上與占卜并沒(méi)有什么不同。之所以這么說(shuō)，一個(gè)重要的原因是一旦脫離了原來(lái)的語(yǔ)境，各種計(jì)算和預(yù)測(cè)所依據(jù)的原始數(shù)據(jù)的意義已經(jīng)不完整，而將大量意義不完整的數(shù)據(jù)拼接起來(lái)，得到的可能性拼圖只能說(shuō)是一種大致的猜測(cè)，而且每個(gè)猜測(cè)只能接受一次檢驗(yàn)。

二是偏好預(yù)測(cè)。這與其說(shuō)是機(jī)器智能對(duì)人的行為可能性的認(rèn)知，不如說(shuō)是對(duì)人的行為引導(dǎo)，其所體現(xiàn)的并不是人的意愿，而是設(shè)計(jì)算法的人希望被預(yù)測(cè)者具有的意愿。比方說(shuō)，亞馬遜和奈飛都推薦圖書(shū)和電影，美其名曰理解或幫讀者發(fā)現(xiàn)自己的品位。但前者會(huì)給你推薦瀏覽過(guò)的書(shū)，因?yàn)槟菢幽阗?gòu)買(mǎi)的概率更大；后者則推薦你看一些鮮為人知的內(nèi)容，因?yàn)槟菢涌赡軙?huì)給一些不太熱門(mén)的產(chǎn)品帶來(lái)更多流量，從而獲取更大的利潤(rùn)。

三是先發(fā)制人。先發(fā)制人原本是一種軍事策略，在“9·11”之后，因?yàn)榉纯只驊?yīng)對(duì)所謂“未知的未知”的風(fēng)險(xiǎn)的需要，而成為一種國(guó)家安全策略。這一策略建立在一種基于預(yù)見(jiàn)的可能性而采取控制行動(dòng)的政治邏輯之上，可稱(chēng)之為可能性的政治，而使其得以落地的就是數(shù)據(jù)的采集挖掘和分析預(yù)測(cè)。就像斯皮爾格導(dǎo)演的電影《少數(shù)派報(bào)告》中搶先阻止未實(shí)施的犯罪一樣，人工智能已用于打擊潛在的壞人，對(duì)某些特定人群或特定行為進(jìn)行可能性預(yù)測(cè)，在有些場(chǎng)景中可以實(shí)施強(qiáng)制性阻止，甚至予以懲戒。近年來(lái)，隨著數(shù)據(jù)采集和處理的便捷化和計(jì)算能力的提升，很多國(guó)家和地區(qū)都建立起了各種區(qū)域犯罪預(yù)測(cè)系統(tǒng)，如美國(guó)PredPol公司開(kāi)發(fā)的犯罪預(yù)測(cè)軟件和日本東京警察局(Tokyo’s Metropolitan Police Department， MPD)的犯罪監(jiān)測(cè)與畫(huà)像系統(tǒng)等，其基礎(chǔ)就是對(duì)個(gè)人行為數(shù)據(jù)的采集、分析、預(yù)見(jiàn)和預(yù)警。但先發(fā)制人與可能性的政治無(wú)疑是自相矛盾的，既然罪行沒(méi)有實(shí)施，為何要受到強(qiáng)行處置和打擊。從法理上講，這顯然不符合無(wú)罪推定的基本假設(shè)。

從這三種典型的社會(huì)計(jì)算可以看到，它們?cè)诒举|(zhì)上是技術(shù)和工程層面有效解決具體問(wèn)題的方案。臉書(shū)等社交媒體和網(wǎng)絡(luò)平臺(tái)之所以不遺余力地倡導(dǎo)人們共享數(shù)據(jù)，首先是為了增加流量，更精準(zhǔn)地行銷(xiāo)產(chǎn)品，而不是考慮如何讓這些產(chǎn)品和服務(wù)給每個(gè)人帶來(lái)美好生活，讓全社會(huì)更加和諧幸福。更進(jìn)一步而言，數(shù)據(jù)驅(qū)動(dòng)的認(rèn)知計(jì)算或智能在認(rèn)識(shí)論和方法論上的基本策略，是通過(guò)思維自動(dòng)化解決其關(guān)切的問(wèn)題。思維自動(dòng)化是一種工程思維模式，這種模式在認(rèn)識(shí)論上的目標(biāo)不是發(fā)現(xiàn)客觀真理或所謂先驗(yàn)真理，而是通過(guò)技術(shù)和工程操作造成其希望達(dá)到的既成事實(shí)或后驗(yàn)真理。例如，智能推薦系統(tǒng)給用戶(hù)推薦圖書(shū)時(shí)，僅僅根據(jù)其推薦后用戶(hù)接受的比例來(lái)決定其認(rèn)知計(jì)算的準(zhǔn)確度，其真理性并不是事先存在的，而是完全以設(shè)計(jì)者的滿意程度為評(píng)價(jià)標(biāo)準(zhǔn)。在工程思維模式下，人被當(dāng)成數(shù)據(jù)，當(dāng)成企業(yè)和機(jī)構(gòu)的編碼系統(tǒng)和運(yùn)營(yíng)系統(tǒng)的構(gòu)成部分。

實(shí)際上，無(wú)論這些社會(huì)計(jì)算及其生產(chǎn)性的監(jiān)測(cè)有多么精致，其悖謬在于既頗具創(chuàng)造性，又每每挖坑、誤導(dǎo)乃至構(gòu)陷。從人臉識(shí)別到智能手環(huán)，從行車(chē)記錄儀到布滿天際的電子眼，人們對(duì)世界的認(rèn)識(shí)終于結(jié)出了世界時(shí)刻不知疲憊地關(guān)注我們的奇異果。各種機(jī)器所捕獲的數(shù)據(jù)看似對(duì)人的行為進(jìn)行定格，但這些被剝離場(chǎng)景和意義的原始數(shù)據(jù)的意涵有時(shí)候完全仰賴(lài)數(shù)據(jù)使用者的解釋?zhuān)y免出現(xiàn)根據(jù)特定的視角加以編排的情況。由于數(shù)據(jù)的意義依賴(lài)解讀，對(duì)各種數(shù)據(jù)碎片的整合也時(shí)常會(huì)導(dǎo)致誤解的疊加，這就使得一些基于數(shù)據(jù)智能的監(jiān)測(cè)結(jié)果可能產(chǎn)生類(lèi)似自我兌現(xiàn)諾言的假象。

假使有個(gè)司機(jī)小Q輕微違章不幸偶遇希望打撈“危險(xiǎn)分子”的警察，其所有數(shù)據(jù)記錄被調(diào)出來(lái)交叉比對(duì)。小Q之前在購(gòu)買(mǎi)行車(chē)記錄儀、電視等設(shè)備時(shí)因?yàn)榻邮苷劭鄣恼T惑而應(yīng)允將數(shù)據(jù)與廠家共享。警察在廠家的服務(wù)器中調(diào)出了各種數(shù)據(jù)，以收集與其人格相關(guān)的信息。結(jié)果發(fā)現(xiàn)他喜歡看一級(jí)方程式賽車(chē)和汽車(chē)?yán)?，還喜歡看警方公布的包括汽車(chē)追逐的監(jiān)控錄像，最近還瀏覽過(guò)捷豹和保時(shí)捷網(wǎng)站。據(jù)此，檢控律師將小Q認(rèn)定為沉溺于極速駕駛強(qiáng)迫癥的危險(xiǎn)分子。但辯護(hù)律師指出，小Q之所以關(guān)注高品質(zhì)的跑車(chē)，是因?yàn)樗莻€(gè)負(fù)責(zé)任的公民，希望座駕更安全可靠，而關(guān)注警方監(jiān)控錄像則表明他高度關(guān)注道路交通安全。多少有點(diǎn)莫名滑稽的是，在這種生產(chǎn)性的監(jiān)控生態(tài)中，基于數(shù)據(jù)拼圖游戲的各種解釋都在披露“真相”，似乎都比作為“數(shù)據(jù)—身體”主人的小Q的供述或辯解更加可信。(6)[英]馬修·福勒.媒介生態(tài)學(xué)： 藝術(shù)與技術(shù)文化中的物質(zhì)能量[M].上海： 上海社會(huì)科學(xué)院出版社,2019： 319.

由此可見(jiàn)，在社會(huì)計(jì)算中運(yùn)行的算法正在體現(xiàn)出巨大的力量，其引導(dǎo)性和強(qiáng)制性作用很容易遭到濫用，甚至?xí)l(fā)展為“算法霸權(quán)”。不論其方式是柔性的計(jì)算機(jī)說(shuō)服技術(shù)或智能化助推，還是剛性的簡(jiǎn)歷篩選和對(duì)行動(dòng)自由的限制，都體現(xiàn)了某種宰制性的權(quán)力或霸權(quán)。以前文論及的數(shù)據(jù)畫(huà)像為例，很多擁有數(shù)據(jù)的社交媒體或網(wǎng)絡(luò)平臺(tái)會(huì)根據(jù)所掌握的數(shù)據(jù)繪制用戶(hù)的數(shù)據(jù)畫(huà)像，雖然每個(gè)人的數(shù)據(jù)畫(huà)像如同其數(shù)據(jù)雙胞胎，但卻既不為用戶(hù)本人所掌握也不為其所知，擁有它們的企業(yè)或機(jī)構(gòu)可完全根據(jù)自身目的加以運(yùn)用。雖然這種行為可以視為企業(yè)的商業(yè)秘密，但如果出現(xiàn)對(duì)用戶(hù)的偏見(jiàn)、歧視和傷害等情況，用戶(hù)無(wú)法對(duì)其提出質(zhì)疑和參與改進(jìn)，數(shù)據(jù)分析和算法設(shè)計(jì)者也很難主動(dòng)發(fā)現(xiàn)問(wèn)題并加以修正。

構(gòu)建超越工程思維的倫理反射弧

面對(duì)冷酷無(wú)情的思維自動(dòng)化和工程思維對(duì)人性的挑戰(zhàn)，必須構(gòu)建一種可以制衡其濫用的倫理反射弧。在此，本文無(wú)意贅述關(guān)于透明、負(fù)責(zé)任、可解釋、可信任的數(shù)據(jù)和人工智能之類(lèi)的各種科技向善的口號(hào)，只提幾點(diǎn)相對(duì)可落實(shí)的舉措。首先，要認(rèn)識(shí)到人與技術(shù)在本質(zhì)上相伴而生的關(guān)系，在人與技術(shù)構(gòu)成的行動(dòng)者網(wǎng)絡(luò)中反思和校正新技術(shù)帶來(lái)的價(jià)值倫理問(wèn)題。當(dāng)我們思考人機(jī)關(guān)系時(shí)，不應(yīng)陷入抽象的人機(jī)關(guān)系反思，也要避免將機(jī)器視為獨(dú)立于人的存在，而要認(rèn)識(shí)到人機(jī)關(guān)系的本質(zhì)是人與人之間以機(jī)器為中介的關(guān)系。以人臉識(shí)別技術(shù)應(yīng)用所引發(fā)的爭(zhēng)議為例，如果能以所涉及技術(shù)產(chǎn)品(服務(wù))及其相關(guān)的群體所共同構(gòu)成的行動(dòng)者網(wǎng)絡(luò)為研究對(duì)象，剖析該技術(shù)的應(yīng)用對(duì)人臉識(shí)別技術(shù)的開(kāi)發(fā)者、使用人臉識(shí)別技術(shù)的機(jī)構(gòu)、被人臉識(shí)別的對(duì)象以及原有工作可能被人臉識(shí)別技術(shù)所取代的群體的影響，無(wú)疑有助于深化對(duì)相關(guān)問(wèn)題的認(rèn)知。

其次，通過(guò)有針對(duì)性的“技術(shù)-倫理”設(shè)計(jì)對(duì)數(shù)據(jù)智能應(yīng)用施以適度的倫理治理，在此過(guò)程中無(wú)疑需要通過(guò)人文學(xué)者與科技專(zhuān)家的對(duì)話，以實(shí)現(xiàn)價(jià)值訴求與技術(shù)需求之間的“轉(zhuǎn)譯”。例如，針對(duì)短視頻應(yīng)用中反復(fù)出現(xiàn)推薦低俗內(nèi)容的現(xiàn)象，批評(píng)者應(yīng)該看到，這是由數(shù)據(jù)聚類(lèi)等推薦算法放大了人性的弱點(diǎn)造成的，但機(jī)器所抓取的是數(shù)據(jù)的抽象特征，具體推薦內(nèi)容并非算法設(shè)計(jì)者有意為之；而設(shè)計(jì)者應(yīng)該看到這些現(xiàn)象雖非其故意所為，但必須對(duì)這種技術(shù)在功能上的盲目性進(jìn)行有意識(shí)的價(jià)值引導(dǎo)。由此，一種可操作的解決方案是先對(duì)某些類(lèi)型的低俗內(nèi)容建模，然后對(duì)其加以必要的過(guò)濾。

最后，不論是企業(yè)、機(jī)構(gòu)、政府還是個(gè)人，都應(yīng)該看到人的獨(dú)特性和無(wú)限可能性才是人類(lèi)文明和一切創(chuàng)新的根源。數(shù)據(jù)的無(wú)度采集和濫用不僅會(huì)導(dǎo)致對(duì)人的尊嚴(yán)和隱私等基本權(quán)利的侵害，更重要的是會(huì)讓人喪失自我的獨(dú)立性、能動(dòng)性和創(chuàng)造性。客觀而言，數(shù)據(jù)對(duì)人的行為的絕對(duì)理解是一種不可能實(shí)現(xiàn)的幻術(shù)，因?yàn)榫蘖康臄?shù)據(jù)實(shí)驗(yàn)所捕捉到的往往不是鮮活的人類(lèi)生活，而只是由作為人的行為痕跡的數(shù)據(jù)所構(gòu)造的刻板化世界版本。在走向智能社會(huì)的開(kāi)始，人們應(yīng)該運(yùn)用人類(lèi)最古老的智慧——承認(rèn)自己的無(wú)知，認(rèn)識(shí)到不可能全盤(pán)揭示世界“真相”的現(xiàn)實(shí)，從而給人們反思自我和前瞻未來(lái)留下微妙而必要的縫隙。