人機(jī)伴生：從機(jī)器人倫理到道德機(jī)器(1) 本文系國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目“智能革命與人類深度科技化前景的哲學(xué)研究”(17ZDA028)的階段性成果。

段偉文

所謂人機(jī)伴生，要強(qiáng)調(diào)的是在人工智能和機(jī)器人的發(fā)展進(jìn)程中，一直通過(guò)人與機(jī)器的協(xié)同而演化。如果認(rèn)識(shí)不到這一點(diǎn)，就很容易忽視人類智能與機(jī)器智能的現(xiàn)實(shí)關(guān)系，脫離由兩者構(gòu)成的智能生態(tài)談?wù)撈纥c(diǎn)和強(qiáng)人工智能。這就涉及哲學(xué)研究，不僅僅是提供答案或者解決方案，還要對(duì)問(wèn)題本身進(jìn)行分析和重構(gòu)，讓人們能夠從更好地體現(xiàn)實(shí)際的視角看到問(wèn)題的本質(zhì)。每個(gè)人都想成為解決問(wèn)題的高手，各個(gè)學(xué)科提供了各自的視角，而哲學(xué)總在試圖告訴人們，還可以用另外一種方式來(lái)面對(duì)問(wèn)題。這就是哲學(xué)的思考，不斷地變換角度，使從其他角度不顯見的現(xiàn)實(shí)得以呈現(xiàn)。

一、作為文化創(chuàng)新的機(jī)器人文化

從某種程度上講，這種懼怕技術(shù)和機(jī)器人的技術(shù)文化與機(jī)器人文化決定了西方機(jī)器人文化的基調(diào)，也成為機(jī)器人文化反思與創(chuàng)新的出發(fā)點(diǎn)。此后，比較有代表性的文化創(chuàng)新者有阿西莫夫的機(jī)器人定律和日本的機(jī)器人文化。20世紀(jì)30-40年代，阿西莫夫著手創(chuàng)作科幻小說(shuō)時(shí)，面對(duì)各種機(jī)器人故事中過(guò)于人性化的“威脅人類的機(jī)器人”和“引人同情的機(jī)器人”，他看到了另一種可能——由工程師制造的內(nèi)設(shè)安全機(jī)制并用于執(zhí)行特定工作的機(jī)器人產(chǎn)品，它們既不會(huì)威脅人類，亦無(wú)從引人同情。為此，他在《環(huán)舞》等小說(shuō)中提出了機(jī)器人三定律，為理想的機(jī)器人設(shè)定了一套假想的可通過(guò)機(jī)器執(zhí)行的道德體系，讓人們看到機(jī)器人是可控的。這就從文化層面大大消除了對(duì)機(jī)器人的恐懼，大大鼓舞了早期機(jī)器人的發(fā)展。正是通過(guò)阿西莫夫的康德式的機(jī)器人倫理創(chuàng)構(gòu)，形成了一種可以平衡“機(jī)器人畏懼”的正面的機(jī)器人文化。

再看對(duì)機(jī)器人充滿信任和好感的日本機(jī)器人文化，既沿襲了其神道教與喜愛“機(jī)關(guān)人偶”的傳統(tǒng)，也體現(xiàn)了日本發(fā)展有別于西方的機(jī)器人文化的意圖。眾所周知，20世紀(jì)70年代以來(lái)，日本的機(jī)器人文化可謂獨(dú)樹一幟。而早在20世紀(jì)20年代，《羅素姆萬(wàn)能機(jī)器人》日文版問(wèn)世后，旋即在日本引起廣泛關(guān)注。當(dāng)時(shí)有一位名叫西村真琴(1883—1956)的生物學(xué)家和哲學(xué)家不滿西方作品中作為勞動(dòng)者的實(shí)用機(jī)器人形象，認(rèn)為人不應(yīng)與人造人對(duì)立，主張作為自然之子的人類應(yīng)該將機(jī)器人視如己出，與其攜手共進(jìn)以實(shí)現(xiàn)萬(wàn)物平等、和諧共生。基于這一理念，他于1928年制造了一種他認(rèn)為理想的機(jī)器人“學(xué)天則”(學(xué)習(xí)自然法則之意)，后在京都、廣島、東京等地巡回展出?！皩W(xué)天則”是一個(gè)高、寬均3米多的機(jī)器人，它超越了西洋機(jī)器人的強(qiáng)迫勞動(dòng)的狀態(tài)，而被設(shè)定為與人類平等的“類人”。當(dāng)然，西村倡導(dǎo)這一東洋機(jī)器人文化的初衷，與當(dāng)時(shí)日本想在文化上與西方對(duì)立不無(wú)關(guān)聯(lián)，其中夾雜著軍國(guó)主義和民族主義。

由機(jī)器人文化及其創(chuàng)新可見，科技和人文之間存在著一種內(nèi)生關(guān)系：科學(xué)追求的是有意義的真理，技術(shù)旨在解決有價(jià)值的問(wèn)題，知識(shí)的生產(chǎn)和機(jī)器的部署，都是由人的信念、欲望和意圖驅(qū)動(dòng)的，是為人服務(wù)的。而科技時(shí)代的人文問(wèn)題的關(guān)鍵恰在于其中呈現(xiàn)出的能動(dòng)性：科技追尋的是誰(shuí)的意義和價(jià)值，又受誰(shuí)的信念、欲望和意圖驅(qū)使，具體為誰(shuí)服務(wù)？比方說(shuō)，平臺(tái)根據(jù)消費(fèi)者的數(shù)據(jù)畫像進(jìn)行各種推送，但這符合消費(fèi)者的意愿嗎？如果這會(huì)引導(dǎo)消費(fèi)者的行為，其邊界何在？

二、人類智能與機(jī)器智能的協(xié)同

談到人工智能或機(jī)器人，往往會(huì)將其作為一種獨(dú)立存在的主體來(lái)看待，但實(shí)際上它們目前還只是數(shù)據(jù)驅(qū)動(dòng)的智能體(Agents，又稱智能代理等)。它自身有一套規(guī)則，然后通過(guò)環(huán)境數(shù)據(jù)或其他輸入數(shù)據(jù)的獲取和處理進(jìn)行計(jì)算和學(xué)習(xí)，獲得認(rèn)知結(jié)果并做出反應(yīng)。我們跟智能機(jī)器交互的時(shí)候，要認(rèn)識(shí)到它們是按照機(jī)器的方式來(lái)思考的，只能夠讀懂?dāng)?shù)據(jù)。如在進(jìn)行人臉識(shí)別時(shí)，機(jī)器識(shí)別的是視頻像素之類的數(shù)據(jù)。而人自身在此過(guò)程中也成為賽博物理空間(CPS)中和網(wǎng)絡(luò)數(shù)字平臺(tái)上的可識(shí)別和交互的智能體。

目前，這些數(shù)據(jù)驅(qū)動(dòng)的智能體并不具有意識(shí)、自我意識(shí)和自由意志，更談不上情感、情緒和同理心，它們?cè)诘赖滦袨橹羞h(yuǎn)不像人那樣是完全的道德主體，不可能單獨(dú)為其行為后果承擔(dān)責(zé)任。因此，針對(duì)自動(dòng)駕駛、智能音箱和各種機(jī)器人應(yīng)用中的倫理問(wèn)題，不能簡(jiǎn)單地說(shuō)這是程序、算法或自動(dòng)機(jī)器的錯(cuò)，應(yīng)由它們負(fù)責(zé)，而只能在人和智能機(jī)器構(gòu)成的行動(dòng)者網(wǎng)絡(luò)中找到背后的設(shè)計(jì)者、制造者、部署者和操作者，向相關(guān)人類主體和機(jī)構(gòu)追責(zé)。更進(jìn)一步來(lái)講，固然可以從拉圖爾的行動(dòng)者網(wǎng)絡(luò)理論出發(fā)，探討人類行動(dòng)者與作為非人類行動(dòng)者的智能機(jī)器的建構(gòu)與形塑，但必須看到，在智能機(jī)器的使用中人類智能與機(jī)器智能的協(xié)同。后者恰恰是容易被忽視的智能機(jī)器的具體性——這種忽視使得智能機(jī)器與人的關(guān)系被簡(jiǎn)化為抽象的人工物與人的關(guān)系，而人工智能與機(jī)器人倫理的探討不能脫離人與智能機(jī)器在具體場(chǎng)景中的關(guān)聯(lián)。

一方面，要對(duì)人類與智能機(jī)器的交互環(huán)境即網(wǎng)絡(luò)數(shù)字平臺(tái)的運(yùn)行模式有所認(rèn)識(shí)。在現(xiàn)實(shí)世界中有大量的機(jī)器人，包括陪伴機(jī)器人、聊天機(jī)器人、戰(zhàn)爭(zhēng)機(jī)器人、賽博格(如外骨骼裝置)等，人和這些數(shù)據(jù)驅(qū)動(dòng)的智能體越來(lái)越多地被聚合在網(wǎng)絡(luò)數(shù)字平臺(tái)上。因此，談到數(shù)字技術(shù)和人工智能帶來(lái)的隱私泄露，或Face book會(huì)不會(huì)操縱選舉，不應(yīng)該只是假想個(gè)人通信內(nèi)容會(huì)不會(huì)被偷看，平臺(tái)如何有選擇地發(fā)布信息，而應(yīng)關(guān)注元數(shù)據(jù)如何被分析、社交媒體會(huì)如何短時(shí)間和大面積地影響人的情緒等具體問(wèn)題。例如，在平臺(tái)導(dǎo)流的情況下，一兩分鐘的視頻評(píng)論，會(huì)產(chǎn)生幾百萬(wàn)的流量，這種影響力及其反噬的力量無(wú)疑不容小覷。

另一方面，應(yīng)看到當(dāng)前很多機(jī)器智能的應(yīng)用是通過(guò)人類智能的眾包與之協(xié)同才得以實(shí)現(xiàn)的，這就是人們常說(shuō)的“有多少人工，就有多少智能”。在各種人工智能的應(yīng)用場(chǎng)景中，包括網(wǎng)約車、外賣平臺(tái)、智能音箱、古文字識(shí)別、機(jī)器翻譯等，都伴隨著不斷學(xué)習(xí)人類的群體智能而提升機(jī)器智能的過(guò)程，這實(shí)質(zhì)上是人機(jī)伴生的社會(huì)系統(tǒng)在調(diào)試中運(yùn)行的過(guò)程。比方說(shuō)，上下班高峰時(shí)候，為何滴滴司機(jī)要接市中心擁堵路段的訂單？因?yàn)槟菢铀湍軌虻玫礁嗟莫?jiǎng)勵(lì)分?jǐn)?shù)?，F(xiàn)在的導(dǎo)航軟件為什么越來(lái)越好用？因?yàn)榇蠹叶荚谟?。但同時(shí)不難看到，導(dǎo)航的使用改變了人們出行認(rèn)路的方式，即從以往的人類經(jīng)驗(yàn)學(xué)習(xí)模式轉(zhuǎn)向?qū)?dǎo)航指令的接受與糾錯(cuò)模式，從而通過(guò)反饋和遞歸實(shí)現(xiàn)了駕駛等行進(jìn)活動(dòng)的人機(jī)協(xié)同。如果不加反省地依賴導(dǎo)航，人實(shí)際上會(huì)削弱和喪失通過(guò)直接經(jīng)驗(yàn)學(xué)習(xí)的能力，這是不是科技時(shí)代人們必須付出的代價(jià)？這個(gè)問(wèn)題涉及每個(gè)人，要從科技與人類未來(lái)的角度加以審視，從而促進(jìn)廣泛深入的社會(huì)討論。

當(dāng)前，認(rèn)識(shí)到人工智能通過(guò)人機(jī)協(xié)同而進(jìn)化具有重要的現(xiàn)實(shí)意義：不能只看到機(jī)器智能如何先進(jìn)和加速迭代，而應(yīng)該看到人類智能在整體上依然高于機(jī)器智能，看到人類智能在此過(guò)程中一直發(fā)揮著不可替代的隱形作用。

三、面向泛智能體社會(huì)的倫理考量

近年來(lái)，學(xué)界對(duì)人工智能倫理展開了廣泛的討論，從算法歧視、自動(dòng)駕駛到負(fù)責(zé)任的人工智能、可解釋的人工智能和可信的人工智能，等等。其中，哲學(xué)界討論得最熱的問(wèn)題包括：人工智能和機(jī)器人能不能成為道德主體？能否通過(guò)倫理設(shè)計(jì)使人工智能和機(jī)器人具有某種機(jī)器道德或算法倫理，甚至成為某種道德機(jī)器？但對(duì)于這些哲學(xué)與倫理學(xué)討論的價(jià)值，我保持一定的懷疑態(tài)度。比方說(shuō)，所謂“電車難題”及其自動(dòng)駕駛版，會(huì)不會(huì)始終只是一種哲學(xué)游戲，除了發(fā)表論文，對(duì)具體的自動(dòng)駕駛到底有多大的實(shí)際意義？

機(jī)器人能不能成為道德主體，這涉及機(jī)器人的權(quán)利、責(zé)任等道德地位。對(duì)這一問(wèn)題，哲學(xué)與倫理學(xué)一般會(huì)訴諸本質(zhì)論的討論，即機(jī)器人所具備的本質(zhì)是否使其應(yīng)該擁有道德地位。有人認(rèn)為，機(jī)器人只是工具，就像汽車和電視機(jī)一樣，談不上什么本質(zhì)，也不具備道德地位。但也有人指出，它不僅僅是工具，還可能具有與人類類似的主體性乃至道德地位。但要在哲學(xué)和倫理學(xué)上對(duì)本質(zhì)或?qū)嵸|(zhì)進(jìn)行辨析和論述存在諸多困難。一方面，相關(guān)論述會(huì)運(yùn)用譜系學(xué)的方法展開探討。如談到權(quán)利，就會(huì)追溯人的權(quán)利的發(fā)展過(guò)程。比方說(shuō)，奧德修斯從特洛伊戰(zhàn)爭(zhēng)中歸來(lái)后處死了十幾個(gè)女奴，那是因?yàn)榕`在那個(gè)時(shí)候不是具備道德和法律權(quán)利的主體。接著，會(huì)運(yùn)用與論證動(dòng)物權(quán)利、大自然權(quán)利類似的思路，類推出當(dāng)人工智能與機(jī)器人的智能感知達(dá)到某種程度時(shí)，也將被賦予權(quán)利、成為道德主體，云云。顯然，這種類推的論證模式的說(shuō)服力非常有限。另一方面，相關(guān)論述會(huì)直接從機(jī)器智能的本質(zhì)探討賦予其道德地位的可能。比方說(shuō)，若能制造出某種能夠感受到痛苦的“最大似人自動(dòng)機(jī)”(MHA)，就應(yīng)該視其為道德主體。但這種討論往往會(huì)陷入尷尬境地：如果能夠做出這種機(jī)器人，這種建造本身是不是就違背了被造機(jī)器人的知情同意權(quán)。概言之，哲學(xué)和倫理學(xué)層面的這些本質(zhì)論的探討，應(yīng)該防止陷入自說(shuō)自話與自我詰難的話語(yǔ)游戲循環(huán)。

為了克服工具論、本質(zhì)論等實(shí)體論論述的局限，應(yīng)該面向泛智能體社會(huì)的現(xiàn)實(shí)，從實(shí)際的關(guān)系論角度思考人與機(jī)器的道德關(guān)系。以中國(guó)科技大學(xué)機(jī)器人專家陳小平帶領(lǐng)的團(tuán)隊(duì)制作的佳佳機(jī)器人為例，盡管很多人認(rèn)為目前做不出具有內(nèi)在情感認(rèn)知和真實(shí)情感交互能力的機(jī)器人，但在陳小平看來(lái)，這項(xiàng)工作是有價(jià)值的。從人機(jī)情感關(guān)系的角度出發(fā)，人們會(huì)把情感投射到機(jī)器人上。在與機(jī)器人聊天和互動(dòng)的過(guò)程中，不論是長(zhǎng)時(shí)間的互動(dòng)，還是聊著聊著“把天聊死”，都會(huì)形成某種情感關(guān)系。例如，現(xiàn)在有一種圓形的掃地機(jī)器人，送去維修的時(shí)候，有的主婦會(huì)跟工程師說(shuō)，你不要隨便給我換一個(gè)新的，你要把我們家的“保羅”給我?guī)Щ貋?lái)。其中就有一種泛主體關(guān)系，有著道德關(guān)系和情感的投射。

實(shí)際上，在阿西莫夫的機(jī)器人小說(shuō)中，并沒有抽象地談?wù)摍C(jī)器人定律，而是通過(guò)各種故事，構(gòu)想其應(yīng)用于人機(jī)關(guān)系遇到的沖突與可能的出路。例如，在《鏡像》中，一位年長(zhǎng)的科學(xué)家和一位年輕的科學(xué)家同坐一條船，他們各自有一個(gè)陪伴機(jī)器人，其中一人談到一個(gè)數(shù)學(xué)定理的證明，最后兩人就此內(nèi)容發(fā)表了同樣的論文。在對(duì)這一公案進(jìn)行問(wèn)詢時(shí)，兩個(gè)機(jī)器人的證詞也是一致的：我的主人沒有問(wèn)題，是對(duì)方主人抄襲。小說(shuō)的名字所反映的就是這種人機(jī)關(guān)系的對(duì)稱性，而打破這種對(duì)稱性就需要道德律之外解決沖突的實(shí)踐智慧。

面對(duì)正在來(lái)臨的泛智能體社會(huì)，需要更進(jìn)一步的倫理設(shè)計(jì)與哲學(xué)考量。在此主要談三個(gè)方面。其一，如何設(shè)計(jì)和構(gòu)建一種分布式的道德機(jī)制。在自動(dòng)智能武器的討論中，最常見的觀點(diǎn)是要讓人處在自動(dòng)決策的閉環(huán)之中。但問(wèn)題是，在戰(zhàn)斗狀況下，一個(gè)人監(jiān)控幾十架無(wú)人機(jī)實(shí)際上是不現(xiàn)實(shí)的，如何設(shè)計(jì)一種對(duì)人和機(jī)器進(jìn)行全局監(jiān)控和決策的超級(jí)監(jiān)控者？還有在自動(dòng)駕駛與人類駕駛并行的情況下，如何分配責(zé)任？對(duì)此，荷蘭的兩個(gè)法庭判例具有一定的啟發(fā)性。一個(gè)判例是，法律規(guī)定只能有兩輛自行車同行，第三輛車加入而造成事故時(shí)負(fù)主責(zé)，但前面兩輛車也要承擔(dān)一定責(zé)任。類似地，法律規(guī)定港口航道只能兩艘船并行，第三艘船闖入并發(fā)生事故時(shí)則需要負(fù)全責(zé)。對(duì)比兩個(gè)判例可見，在泛智能體社會(huì)中的分布式道德機(jī)制會(huì)同時(shí)考慮造成后果的原因以及相關(guān)智能體的能力。因此，不論機(jī)器倫理還是機(jī)器道德，不應(yīng)停留在自上而下或自下而上的實(shí)體論視角，還需從泛智能體社會(huì)的智能體之間的關(guān)系展開考察。

其二，要從智能體的角度反思人類主體性所遇到的挑戰(zhàn)。如今，我們?nèi)找嬷蒙砣祟愔悄芘c機(jī)器智能所構(gòu)成的智能生態(tài)系統(tǒng)之中，人類主體正在轉(zhuǎn)變?yōu)榭梢员粰C(jī)器所認(rèn)知的智能體。面對(duì)各種智能監(jiān)測(cè)，從AI教室到通過(guò)人臉識(shí)別才能進(jìn)高鐵站，“我”已經(jīng)不再是內(nèi)在的第一人稱的我，而更多的是機(jī)器能夠理解與接納的第三人稱的“它”，必須在頭腦里有這種意識(shí)才能實(shí)現(xiàn)人機(jī)協(xié)同。比方說(shuō)，進(jìn)高鐵站的時(shí)候，我一定要把口罩拉下來(lái)，機(jī)器才能夠識(shí)別出來(lái)是不是“我”，而且我還不能特別著急地沖過(guò)去，要等機(jī)器反應(yīng)過(guò)來(lái)，才不會(huì)撞到閘機(jī)。在這個(gè)看似自然的過(guò)程中，人類主體不能不做一個(gè)外在的行動(dòng)者。什么叫外在的行動(dòng)者？就是說(shuō)在泛智能體時(shí)代，人與機(jī)器的協(xié)同建立在對(duì)智能體的數(shù)據(jù)刻畫之上，作為智能體的人只有成為一個(gè)可觀察的數(shù)據(jù)才能納入智能系統(tǒng)。換言之，如果人類不加反思地適應(yīng)這種主體性的外在化，是否意味著這將是一個(gè)人變得越來(lái)越像機(jī)器的過(guò)程？假設(shè)對(duì)導(dǎo)航能力進(jìn)行圖靈測(cè)試，認(rèn)路是人的一種基本智能，50年前，我們要檢測(cè)機(jī)器能否像人一樣會(huì)認(rèn)路。而現(xiàn)在隨著很多人依賴智能導(dǎo)航而喪失認(rèn)路能力，是不是意味著機(jī)器的認(rèn)路能力較差才更接近人類智能？如果把人類智能和機(jī)器智能孤立起來(lái)進(jìn)行對(duì)比，就會(huì)看到所謂圖靈邊界實(shí)際上是在變動(dòng)的。但從人機(jī)協(xié)同的角度看，這種變動(dòng)是可以解釋和加以調(diào)節(jié)的?？傊?，對(duì)于由此帶來(lái)的主體性挑戰(zhàn)的哲學(xué)追問(wèn)，無(wú)疑是泛智能體社會(huì)倫理設(shè)計(jì)的基礎(chǔ)。

其三，談?wù)劦赖聶C(jī)器，即用智能機(jī)器來(lái)提升我們的道德水準(zhǔn)。比方說(shuō)，在上海外灘過(guò)馬路時(shí)，已經(jīng)有機(jī)器提醒你現(xiàn)在是紅燈，甚至有的地方會(huì)在大屏幕上顯示違章者的姓名和身份證號(hào)，這就是道德機(jī)器的雛形。如果要將機(jī)器人設(shè)計(jì)成道德機(jī)器，不僅需要道德語(yǔ)言交互能力，或場(chǎng)景與事件觸發(fā)的對(duì)應(yīng)提示機(jī)制，還要具有實(shí)際環(huán)境中的道德判斷力和預(yù)見力。當(dāng)然，這種道德機(jī)器不僅僅是強(qiáng)制性或命令式的，而更多的是行為心理層面的助推或說(shuō)服。對(duì)此可以提出設(shè)計(jì)標(biāo)準(zhǔn)，如能減緩人的破壞傾向，并且給人以安慰；為人提供必要的心理服務(wù)，為人所接受，令人滿意，使人的行為得當(dāng)?shù)?。甚至將?lái)，小孩可以在各種道德機(jī)器人或教育機(jī)器人的陪伴下成長(zhǎng)。但問(wèn)題是，道德機(jī)器究竟根據(jù)什么標(biāo)準(zhǔn)塑造我們？其實(shí)，人類本身對(duì)于什么是善的，什么是好的，什么是好的教育方式，什么是好的品行等，都缺乏一個(gè)固定的衡量標(biāo)準(zhǔn)。

我們的將來(lái)會(huì)是什么樣的未來(lái)？答案應(yīng)該是實(shí)現(xiàn)人和機(jī)器的相互協(xié)同與兼容。從機(jī)器的角度講，將來(lái)的機(jī)器會(huì)是利他的機(jī)器嗎？它會(huì)是一種慈悲的機(jī)器嗎？會(huì)與人類之間產(chǎn)生一種情感依賴嗎？阿西莫夫《機(jī)器人短篇小說(shuō)集》的最后一篇叫《雙百人》，據(jù)此改編的電影名叫《機(jī)器人管家》，其中的機(jī)器人主人公因?yàn)榛畹锰?，目睹過(guò)他經(jīng)歷的人紛紛故去，最后寧愿不做機(jī)器人而變成了終會(huì)逝去的人。所以，面對(duì)智能化的未來(lái)，最重要的問(wèn)題是必須重新思考和構(gòu)建人性。最近，人工智能學(xué)家斯圖爾特·羅素(Stuart Russell)寫了本新書《AI新生》，其中談到未來(lái)的人工智能應(yīng)該純粹利他、更加謙卑、學(xué)會(huì)學(xué)習(xí)和預(yù)測(cè)人類的偏好，等等。在我看來(lái)，最終還是要立足于人機(jī)關(guān)系的維度，構(gòu)建我們想要的合乎倫理的未來(lái)——人類而不是機(jī)器人擁有未來(lái)的未來(lái)。

(作者為中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員)

人工智能、智人與神圣人

吳冠軍

我們都知道：電的發(fā)明，是人類社會(huì)的一個(gè)巨大變化——之前城市是一片黑暗。有了電以后，我們整個(gè)城市都不一樣。然而技術(shù)一旦成熟，立即退隱到社會(huì)背景中，不再被看到，除非它出問(wèn)題了，譬如停電，大家突然意識(shí)到技術(shù)是那么重要。

當(dāng)代人工智能技術(shù)有點(diǎn)反常，因?yàn)樗苋菀拙捅豢吹?、很受關(guān)注——盡管我們都知道人工智能在很長(zhǎng)一段時(shí)間里，即從20世紀(jì)50年代到今天，它都一直處于邊緣狀態(tài)。除了從業(yè)者之外，沒有多少人關(guān)注。那么，為什么最近人工智能突然就被看到了呢？人工智能技術(shù)越來(lái)越成熟，為什么沒有退隱、消失在背景中呢？這個(gè)問(wèn)題和標(biāo)題里第二個(gè)詞語(yǔ)“智人”相關(guān)。

人類給自己起了一個(gè)獨(dú)特的名字：“Homo sapien”,即我們是擁有智慧的。這構(gòu)成了人類的自我理解：人類不只是眾多動(dòng)物之一，并且是具有獨(dú)特性的動(dòng)物，故而創(chuàng)建出了文明。但是，人工智能技術(shù)，尤其是在媒體的放大效應(yīng)下，直接對(duì)人類的自我理解構(gòu)成了挑戰(zhàn)——人工智能打敗世界頂級(jí)圍棋選手。這就是為什么人工智能技術(shù)是當(dāng)代各種技術(shù)中恰恰最易被看到的一種技術(shù)。

其實(shí)，只要我們知道當(dāng)代人工智能的技術(shù)底層，就會(huì)知道其實(shí)它完全是另外一個(gè)“智”，和人類的“智”差別很大。然而，它已然進(jìn)入人類的共同體，改變了它的構(gòu)造(Configuration)。本世紀(jì)中我們可能會(huì)面對(duì)文明意義上的“奇點(diǎn)”：奇點(diǎn)之后，文明——如果還有的話——會(huì)完全不一樣。而當(dāng)下變化已經(jīng)發(fā)生，只是我們都在關(guān)注人工智能與人類智能的對(duì)決，而沒有關(guān)注它們?cè)诠餐w層面上對(duì)文明內(nèi)核構(gòu)造的影響。故此，今天有一個(gè)專門的研究方向叫技術(shù)政治學(xué)，就是去認(rèn)真探討當(dāng)代技術(shù)在政治生活中所發(fā)揮的根本性作用。

今天，如果你對(duì)人工神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)有所了解的話，就會(huì)看到，重復(fù)性工作會(huì)被逐漸淘汰，這已是一件板上釘釘?shù)氖虑?。使用人力勞?dòng)的重復(fù)性工作的價(jià)值將無(wú)限趨近于零，甚至變成負(fù)數(shù)。因?yàn)槿斯ぶ悄苄枰?，電是可以用相?dāng)綠色的方式獲得的，而人每天需要消耗很多能量。

所以，在21世紀(jì)，人類共同體的建構(gòu)方式會(huì)發(fā)生根本性的變化。我們知道，現(xiàn)代社會(huì)所謂現(xiàn)代性的構(gòu)建就建立在一個(gè)基礎(chǔ)上，即人具有價(jià)值。自然權(quán)利的概念(霍布斯、洛克、盧梭)，人是目的的理念(康德)，構(gòu)成了現(xiàn)代性構(gòu)造的核心。然而，一直到20世紀(jì)初，“權(quán)利”才變成人們生活中一個(gè)越來(lái)越關(guān)鍵的概念。理念與現(xiàn)實(shí)之間，至少隔了兩百多年。

換句話說(shuō)，并不是康德說(shuō)了“人是目的”，人就是目的了。而是當(dāng)每個(gè)人都具有高度價(jià)值后，作為個(gè)體的人才在共同體層面上被確認(rèn)為“目的”，被確認(rèn)為擁有“權(quán)利”。為什么每個(gè)人都會(huì)具有價(jià)值呢？在古典時(shí)代，要做好事情是需要技藝的：木匠需要手藝，當(dāng)兵要身強(qiáng)體壯，最好有功夫。然而到了20世紀(jì)初，一個(gè)人成為流水線上的工人，只要有一雙手，你就可以發(fā)揮很大的用。在戰(zhàn)場(chǎng)上，士兵只要有扣動(dòng)扳機(jī)的手，就很有用，不需要功夫。故此，自20世紀(jì)開始，人的權(quán)利不斷增加，不斷擴(kuò)容。

然而，我們現(xiàn)在面臨一個(gè)人工智能的時(shí)代：重復(fù)性的工作，可能在短短的十年、二十年內(nèi)變成和人徹底無(wú)關(guān)的事。按照赫拉利的術(shù)語(yǔ)，絕大多數(shù)人就會(huì)成為“無(wú)用階級(jí)”。那么，問(wèn)題出現(xiàn)了：這些人還會(huì)被賦予普遍的“權(quán)利”嗎？

曾經(jīng)，我們把機(jī)器人視作為“非人”(Inhuman)，最多是“亞人”(Subhuman)——不行就報(bào)廢掉。它們只是別的實(shí)現(xiàn)目的的工具，自身成不了目的。古代的奴隸就是這樣的工具，因此那個(gè)時(shí)候不會(huì)出現(xiàn)“人是目的”這種話語(yǔ)。祭品(包括活人祭品)，就是一種服務(wù)于特殊目的的工具：人們殺死活人祭品也不犯殺人罪。意大利政治哲學(xué)家阿甘本用“神圣人”(Homo sacer)這個(gè)古羅馬術(shù)語(yǔ)來(lái)指稱這樣的工具性生命。換言之，“神圣人”的用處就是被殺死(被祭祀)。

今天，人工智能使得人的價(jià)值急劇下降，至少，絕大多數(shù)人會(huì)面臨這個(gè)狀況。當(dāng)機(jī)器人沒有價(jià)值時(shí)，就是廢銅爛鐵，那么人呢？當(dāng)絕大多數(shù)“智人”(Homo sapien)逐漸成為多余的人，那么，他們?cè)诠餐w中將處于怎樣的位置？這是我們需要從技術(shù)政治學(xué)層面加以認(rèn)真思考的問(wèn)題。

(作者為華東師范大學(xué)政治學(xué)系教授、教育部特聘教授)

社交機(jī)器人與美國(guó)偽選舉

張愛軍

2020年我主要關(guān)注美國(guó)大選，寫文章討論美國(guó)大選時(shí)本身就帶著這個(gè)問(wèn)題，但是后來(lái)發(fā)現(xiàn)美國(guó)大選從來(lái)沒有出現(xiàn)這么多的亂局，也因?yàn)槲耶?dāng)時(shí)觀察了好幾個(gè)大選，一個(gè)是奧巴馬大選，然后是特朗普大選，好不容易把大選的機(jī)制搞清楚了，結(jié)果又出現(xiàn)了一個(gè)社交機(jī)器人。我們講美國(guó)和西方的民主都是一套一套的，現(xiàn)在終于有了轉(zhuǎn)折，即不再只講美國(guó)和西方，講中國(guó)的歷史政治學(xué)、長(zhǎng)周期政治、祖賦人權(quán)、田野調(diào)查等，對(duì)這個(gè)我也不太清楚，我也在學(xué)習(xí)中。但在學(xué)習(xí)過(guò)程中，我產(chǎn)生了一個(gè)問(wèn)題：就是在沒有社交機(jī)器人之前，我們講民主相對(duì)都比較清楚，比如講中國(guó)特色社會(huì)主義民主政治、民主決策、民主選舉、政黨政治、三權(quán)分立，議行合一等都有一套內(nèi)容體系，專家學(xué)者至少在理論層面都講得相對(duì)比較清楚。但有了社交機(jī)器人之后，有些地方就講不清楚了。講不清楚最大的問(wèn)題就是民主的靈魂究竟在哪里？有了社交機(jī)器人就沒有民主的靈魂。沒有社交機(jī)器人，民主靈魂可以體現(xiàn)在這一系列制度、過(guò)程和政策當(dāng)中，也可以體現(xiàn)在人們的信仰當(dāng)中。有魂就是有根的地方，就像馬克思所說(shuō)的共產(chǎn)主義的幽靈在游蕩，首先得有地方游蕩。社交機(jī)器人參與民主，那這個(gè)魂到底在什么地方游蕩?現(xiàn)在有社交機(jī)器人，我們是不是要把民主的價(jià)值、民主的信仰放在社交機(jī)器人里面?但是下面的問(wèn)題就來(lái)了:要是放在社交機(jī)器人里邊，把民主信仰或者把民主的魂放在里面，那民主的制度、過(guò)程、體系怎么辦?民主的公平價(jià)值怎么辦?民主的魂就一個(gè)，安放在社交機(jī)器人里面合適嗎？我講社交機(jī)器人和西方偽民主，主要是基于美國(guó)拜登大選。美國(guó)這次大選偽民主就偽在社交機(jī)器人的參與，尤其是誤導(dǎo)了大選輿論，既得利益集團(tuán)利用社交機(jī)器人操控和干預(yù)了美國(guó)大選的民主。

社交機(jī)器人干擾、影響、破壞、顛覆美國(guó)選舉的基本行為，顛覆了選舉的基本觀念，顛覆了選舉的基本價(jià)值，而且也給我們帶來(lái)一系列新的困惑。這些困惑主要是圍繞人和機(jī)器如何共處的問(wèn)題。社交機(jī)器人究竟是什么東西?社交機(jī)器人在轉(zhuǎn)化為政治社交機(jī)器人之后，政治社交機(jī)器人是人還是工具?說(shuō)機(jī)器是機(jī)器人，無(wú)論弱人工智能，還是強(qiáng)人工智能，首先機(jī)器得是個(gè)人，最后落腳點(diǎn)還是人，社交機(jī)器人也是個(gè)人，那么這樣一個(gè)人能不能成為民主的一個(gè)主體？如果說(shuō)真的把他變成一個(gè)民主工具，究竟是人統(tǒng)治民主還是民主統(tǒng)治人的問(wèn)題就出現(xiàn)了。清華大學(xué)制造了一個(gè)機(jī)器人，又能畫畫，又能聽音樂，又能作為清華大學(xué)的一個(gè)學(xué)生，在此之前還有其他國(guó)家有一個(gè)類似社交機(jī)器人“公民”，它一出現(xiàn)，普通人都辨不清它的身份，也就是說(shuō)將來(lái)它要成為人，如果作為美國(guó)和西方民主制度的一部分，如何共處？現(xiàn)在有人要把社交機(jī)器人當(dāng)“老婆”，那這“老婆”如果輸入了政治程序，就有可能進(jìn)入政治領(lǐng)域，“夫妻”關(guān)系變成了“政治夫妻”關(guān)系。人是具有主體性的，那么社交機(jī)器人的主體性在哪里呢？再者，“夫妻”關(guān)系變成了“政治夫妻”關(guān)系之后，政治機(jī)制也會(huì)相應(yīng)發(fā)生變化，甚至政治組織也會(huì)發(fā)生變化。社交機(jī)器人能不能組織自己的團(tuán)隊(duì)，社交機(jī)器人能不能組織自己的政黨，社交機(jī)器人能不能夠構(gòu)建自己的社會(huì)組織？是誰(shuí)把它當(dāng)人了呢？

如果說(shuō)，現(xiàn)在的弱人工智能機(jī)器人沒有做到這一點(diǎn)，那么強(qiáng)人工智能機(jī)器人是否可以做到這一點(diǎn)？把它定位為社交機(jī)器人，而它又不是獨(dú)立的個(gè)體，卻可以發(fā)揮政治社交和社會(huì)社交的主要職能。如果說(shuō)人和社交機(jī)器人之間的主體關(guān)系變了，其組織肯定也要發(fā)生變化，如何對(duì)以美國(guó)為代表的西方民主進(jìn)行定性就成為一個(gè)新的問(wèn)題，比如說(shuō)，西方人說(shuō)過(guò)去運(yùn)行的民主是真民主，但把社交機(jī)器人加在里面，可能他們也搞不清是真民主還是假民主，人的民主是不是變成了機(jī)器人的民主？這次美國(guó)大選讓人困惑的一個(gè)重要原因在于社交機(jī)器人瞬間變成政治社交機(jī)器人，通過(guò)政治社交機(jī)器人干擾選舉輿論，選舉過(guò)程中的謠言、謊言、陰謀論都與政治社交機(jī)器人有關(guān)。

如果承認(rèn)社交機(jī)器人是有組織的社交機(jī)器人，那么下一個(gè)問(wèn)題就是美國(guó)和西方其他國(guó)家這樣做的時(shí)候，社交機(jī)器人究竟能不能創(chuàng)造出或者輸出政治價(jià)值、政治觀念、政治能力，社交機(jī)器人能不能進(jìn)行政治決策?，F(xiàn)在社交機(jī)器人做的是輔助性決策。如果民主的主體、組織發(fā)生變化，社交機(jī)器人的民主價(jià)值觀念緊隨其后，美國(guó)等西方國(guó)家與社交機(jī)器人究竟是什么關(guān)系就需要弄清楚。一旦社交機(jī)器人這一政治主體及其政治組織出現(xiàn)，社交機(jī)器人的政治觀念緊隨其后，其政治風(fēng)險(xiǎn)就可想而知，好在現(xiàn)在的社交機(jī)器人還沒有達(dá)到強(qiáng)人工智能那種程度。但人們?nèi)匀豢吹矫绹?guó)大選過(guò)程當(dāng)中社交機(jī)器人對(duì)于輿論的介入。當(dāng)時(shí)有好多賬戶非常活躍，一旦選舉結(jié)束之后，原本活躍的賬號(hào)突然消失，或者不再活躍，變成“僵尸號(hào)”。

這個(gè)社會(huì)里面本來(lái)是人支配人的關(guān)系，人和人之間從政治的角度來(lái)說(shuō)是政治輿論輸出、輸入、傳導(dǎo)、相互激蕩的關(guān)系，社交機(jī)器人真的能夠獨(dú)立輸出政治輿論？當(dāng)時(shí)美國(guó)選舉的政治輿論是兩個(gè)人的極化輿論，有的美國(guó)人想選特朗普，有的美國(guó)人想選拜登，社交機(jī)器人在政治輿論里面加入了第三種輿論，就是社交機(jī)器人本身創(chuàng)造的輿論，美國(guó)民眾搞不懂，中國(guó)民眾更搞不懂。

如果有的政治輿論是社交機(jī)器人，不是美國(guó)的民眾，網(wǎng)民又分不清，那就很麻煩：喜歡拜登的，通過(guò)社交機(jī)器人把那些輿論做一個(gè)整合后再進(jìn)行傳播，只支持推送反對(duì)特朗普的政治信息和政治輿論；喜歡特朗普的，要支持反對(duì)拜登的政治信息和政治輿論。我當(dāng)時(shí)已經(jīng)寫好了一萬(wàn)七千多字的文章討論美國(guó)大選民調(diào)問(wèn)題，最后也發(fā)現(xiàn)好多民調(diào)信息是基于社交機(jī)器人，它們參與了政治輿論的制造與傳播。

社交機(jī)器人在美國(guó)大選中起了多少作用不得而知，但社交機(jī)器人破壞民主顯然是不爭(zhēng)的事實(shí)。社交機(jī)器人參與了這種輿論宣傳，最后導(dǎo)致什么結(jié)果呢？社交機(jī)器人破壞了人們的民主價(jià)值，破壞了人們的民主觀念，破壞了民主的主體，破壞了決策的主體，破壞了民主的情感。人們需要民主制度來(lái)保證民主選舉，需要政治情感來(lái)支持民主選舉，但社交機(jī)器人破壞了民主選舉和民主情感，導(dǎo)致美國(guó)的民主選舉成為偽民主。美國(guó)的社交機(jī)器人讓我感到非常震驚，包括我自己在內(nèi)，都傳播了美國(guó)選舉的錯(cuò)誤信息。

人工智能可以往太空發(fā)展，但我不希望社交機(jī)器人侵犯人們的私人生活。中國(guó)的社交機(jī)器人應(yīng)該和美國(guó)在高精尖領(lǐng)域開展競(jìng)爭(zhēng)，別任由它跑進(jìn)人的生活。疫情期間，到處都需要掃碼進(jìn)行人臉識(shí)別，在人群密集的公共場(chǎng)所還需要摘下口罩才能識(shí)別。要發(fā)展社交機(jī)器人，發(fā)展眼睛社交機(jī)器人，對(duì)著你的雙眼拍照就可以。攝像機(jī)器人天天“監(jiān)視”人們的私生活，不恰當(dāng)?shù)仃P(guān)注人們的隱私，使人們似乎感覺自己如同赤身裸體一樣在大門外面到處亂跑。走在哪兒，機(jī)器人都知道你的具體位置，個(gè)人的尊嚴(yán)不僅沒有得到保障，反而遭到侵犯。

(作者為西北政法大學(xué)新聞傳播學(xué)院教授)

社交機(jī)器人領(lǐng)域研究進(jìn)展及趨勢(shì)分析

高山冰

我們團(tuán)隊(duì)這兩年開始關(guān)注社交機(jī)器人應(yīng)用領(lǐng)域，發(fā)表了一些研究成果。為了更好地熟悉這一領(lǐng)域，我們通過(guò)文獻(xiàn)計(jì)量的方式對(duì)社交機(jī)器人國(guó)際發(fā)文現(xiàn)狀做了分析。

社交機(jī)器人近幾年受到非常多的關(guān)注，這從國(guó)際發(fā)文數(shù)量上就能看出來(lái)。從2010年到2020年發(fā)文增長(zhǎng)率非常高，2019年達(dá)到最高的163篇。國(guó)內(nèi)相關(guān)研究也是類似的情況，成果主要集中在2019—2020年。

社交機(jī)器人研究呈現(xiàn)出多學(xué)科的背景，成果分布在61個(gè)學(xué)科領(lǐng)域。其中,主要包括計(jì)算機(jī)科學(xué)、工程科學(xué)、傳播學(xué)及通信科學(xué)等。從科研成果的署名信息來(lái)看，美國(guó)是發(fā)文量最高的國(guó)家，共發(fā)文235篇，占社交機(jī)器人總發(fā)文量的37.24%；其次是英國(guó)，共發(fā)文61篇，占總發(fā)文量的9.83%；其他國(guó)家雖有發(fā)文，但與發(fā)文量最高的美國(guó)依然有一定的差距。從中觀層面統(tǒng)計(jì)科研機(jī)構(gòu)對(duì)社交機(jī)器人領(lǐng)域的關(guān)注情況發(fā)現(xiàn)，全球有600多個(gè)機(jī)構(gòu)曾參與社交機(jī)器人的研究。國(guó)內(nèi)現(xiàn)在也有一些研究團(tuán)隊(duì)，比如北京師范大學(xué)、哈爾濱工業(yè)大學(xué)等。諸多學(xué)者可以從傳播學(xué)、哲學(xué)、法學(xué)等領(lǐng)域一起來(lái)探討社交機(jī)器人應(yīng)用的話題。

我們通過(guò)高頻關(guān)鍵詞及關(guān)鍵詞之間的共現(xiàn)關(guān)系揭示社交機(jī)器人的主要研究主題。圖1呈現(xiàn)的是關(guān)鍵詞聚類圖譜，節(jié)點(diǎn)及關(guān)鍵詞標(biāo)簽的大小代表詞頻的高低，同一顏色代表具有相似研究主題的聚類，節(jié)點(diǎn)之間連線的粗細(xì)代表共現(xiàn)頻次的多少。

目前社交機(jī)器人的研究主題主要聚焦四個(gè)方面。

第一個(gè)是技術(shù)賦權(quán)下的社交機(jī)器人治理。主要是從技術(shù)治理層面來(lái)探討兩部分內(nèi)容，即檢測(cè)和模擬。前者研究?jī)?nèi)容側(cè)重于社交機(jī)器人的檢測(cè)方法與技術(shù)，主要是計(jì)算機(jī)科學(xué)在做的事情。后者是關(guān)于社交機(jī)器人活動(dòng)路徑的實(shí)驗(yàn)及跟蹤的研究結(jié)果，可以幫助助后續(xù)的研究者提出針對(duì)性的檢測(cè)方法和防御策略。

第二個(gè)是社交機(jī)器人的角色和影響。學(xué)者們圍繞一些實(shí)際案例來(lái)研究，比如在美國(guó)大選、法國(guó)大選中，大量的社交機(jī)器人參與選舉活動(dòng)中，干擾了輿論走向。印第安納大學(xué)布盧明頓分校的學(xué)者分析了2016年美國(guó)總統(tǒng)選舉期間及之后的1400萬(wàn)條推特消息，發(fā)現(xiàn)社交機(jī)器人在虛假信息的傳播過(guò)程中起著關(guān)鍵作用。

第三個(gè)是關(guān)于用戶對(duì)社交機(jī)器人的看法及態(tài)度。最初的研究主要落在具體的行為層面上，比如轉(zhuǎn)發(fā)、回復(fù)等?，F(xiàn)在開始延伸到影響更為廣泛的認(rèn)知和態(tài)度層面，即分析社交機(jī)器人和人類用戶在信息發(fā)布的主題以及情感上的差異，并做一些引導(dǎo)關(guān)系的研究。我們團(tuán)隊(duì)也在嘗試運(yùn)用心理學(xué)的相關(guān)實(shí)驗(yàn)來(lái)進(jìn)行分析。

第四個(gè)是社交機(jī)器人和人類特征差異的研究。主要圍繞社交機(jī)器人發(fā)文的長(zhǎng)短、發(fā)布的時(shí)間點(diǎn)、語(yǔ)義的情感表達(dá)，甚至不同社交機(jī)器人的頭像、主題詞的定位等內(nèi)容的差異來(lái)進(jìn)行研究。這個(gè)主題的相關(guān)研究成果多是通過(guò)比較分析法展開的。

針對(duì)社交機(jī)器人應(yīng)用出現(xiàn)的問(wèn)題及后續(xù)研究，我談幾點(diǎn)個(gè)人看法，供大家批評(píng)。

首先我們還是需要關(guān)注社交機(jī)器人檢測(cè)的問(wèn)題。需要去了解社交機(jī)器人的角色與影響，社交機(jī)器人在社交媒體上的活動(dòng)特征，社交機(jī)器人與人類的差異性等核心問(wèn)題，進(jìn)而探討如何從技術(shù)角度對(duì)社交機(jī)器人進(jìn)行治理。

其次，關(guān)于倫理的問(wèn)題。這是現(xiàn)在人文社科類學(xué)者研究比較多的議題。有學(xué)者認(rèn)為使用社交機(jī)器人存在欺騙性,帶有政治操縱的性質(zhì),是一種腐敗的行為，會(huì)擾亂網(wǎng)絡(luò)秩序且不利于形成網(wǎng)絡(luò)信任等。但也有學(xué)者認(rèn)為人類可能高估了社交機(jī)器人帶來(lái)的危害。我們團(tuán)隊(duì)通過(guò)抓取推特上的數(shù)據(jù)對(duì)社交機(jī)器人干預(yù)中國(guó)議題進(jìn)行了分析，結(jié)果發(fā)現(xiàn)相關(guān)議題下可能同時(shí)有不同用途的多種社交機(jī)器人參與其中，但社交機(jī)器人對(duì)一些中國(guó)議題的影響力相對(duì)有限。

再次，關(guān)于研究本土化的問(wèn)題?，F(xiàn)在很多研究都是以推特平臺(tái)為主，很少涉及微博等國(guó)內(nèi)社交平臺(tái)的研究。國(guó)內(nèi)也沒有類似于Botemeter這樣專門識(shí)別社交機(jī)器人的工具。所以，在國(guó)內(nèi)其他平臺(tái)上，社交機(jī)器人的現(xiàn)狀到底是什么樣的，是否跟推特存在差異性等問(wèn)題，也是我們團(tuán)隊(duì)關(guān)注的一個(gè)研究方向。另外，社交機(jī)器人在國(guó)內(nèi)政治動(dòng)員等領(lǐng)域缺乏土壤，但是涉及商業(yè)欺詐、粉絲操控、隱私侵犯等問(wèn)題。針對(duì)這些問(wèn)題，我們?cè)趺慈パ芯?、怎么去?yīng)對(duì)、怎么去治理，值得各方思考。

最后，除了關(guān)注惡意機(jī)器人帶來(lái)的負(fù)面問(wèn)題，也不能忽略對(duì)善意機(jī)器人的研究。

此外，提到社交機(jī)器人，談的更多的是在社交媒體上的算法程序。隨著人工智能技術(shù)的發(fā)展，我們的分析對(duì)象可以從代碼程序集上升到具有社交屬性的其他智能體，比如智能音箱、車載智能體等。此類研究有可能會(huì)顛覆一些經(jīng)典理論，也是我們下一步可以研究和探討的方向。

(作者為南京師范大學(xué)新聞與傳播學(xué)院副教授、碩士研究生導(dǎo)師)

永遠(yuǎn)不會(huì)有主宰人類的智能機(jī)器人

韓東屏

未來(lái)的智能機(jī)器人會(huì)不會(huì)主宰人類，甚至淘汰人類？

在關(guān)于人工智能問(wèn)題的討論中，這是一個(gè)前提性的問(wèn)題，或者說(shuō)前提性問(wèn)題之一。

因?yàn)閷?duì)這個(gè)問(wèn)題的不同回答，將決定我們需要研究哪些具體的人工智能問(wèn)題。如果是肯定的回答，即未來(lái)的智能機(jī)器人會(huì)主宰人類，那么我們現(xiàn)在最迫切的研究課題就是：我們是否應(yīng)該允許這種情況發(fā)生？是否需要對(duì)智能機(jī)器人的技術(shù)發(fā)展采取限制措施？以及采取什么樣的限制措施？如果是否定的回答，即未來(lái)的智能機(jī)器人不能主宰人類，那么，現(xiàn)在已經(jīng)有人在做的如何防范智能機(jī)器人反叛人類的研究,如何與超人機(jī)器人和諧相處的研究，以及人類是否會(huì)在被超人機(jī)器人取代之前就安逸而死的研究之類，就成為不必要的研究。此外，解決這個(gè)問(wèn)題，同時(shí)也能為智能機(jī)器人是不是人，是不是倫理主體，有沒有人格，是不是一個(gè)真正的勞動(dòng)者等問(wèn)題提供答案。

現(xiàn)在，學(xué)術(shù)界在這一問(wèn)題上存在兩種觀點(diǎn)：一種是“能主宰論”，認(rèn)為未來(lái)的智能機(jī)器人會(huì)成為人類的主宰，甚至淘汰人類；另一種是“否主宰論”，認(rèn)為智能機(jī)器人不能主宰人類。這兩種觀點(diǎn)都給出了很多的理由和論證。我對(duì)它們綜合分析后發(fā)現(xiàn)“否主宰論”的論證比較無(wú)力，駁不倒“能主宰論”，盡管后者還含有假說(shuō)成分。

“能主宰論”的立論是靠?jī)煞N說(shuō)法，都有預(yù)測(cè)的假說(shuō)色彩。一種說(shuō)法是，根據(jù)現(xiàn)在智能技術(shù)的發(fā)展速度和倍增定律，推斷出在未來(lái)會(huì)有一個(gè)奇點(diǎn)，人工智能出現(xiàn)爆炸性的質(zhì)的飛躍，于是智能機(jī)器人不僅具有主體性了，還有創(chuàng)造性，然后它在方方面面都會(huì)超越人類，也肯定會(huì)淘汰人類。另一種說(shuō)法是，人工智能的發(fā)展分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能三個(gè)階段。弱人工智能就是目前的狀況，強(qiáng)人工智能比弱人工智能強(qiáng)很多，只是沒有自主性和創(chuàng)造性。如果說(shuō)，現(xiàn)在的弱人工智能只能完成一個(gè)單純的任務(wù)，那么強(qiáng)人工智能可能會(huì)像工作者一樣，能完成工作崗位上的所有任務(wù)，這就比較厲害。超級(jí)人工智能階段的智能機(jī)器人，不僅能做一切人類能做的工作，而且既有自主性又有創(chuàng)造性，加之其計(jì)算能力本來(lái)就比人強(qiáng)大很多，所以其能力必然超越人類，從而成為人類的主宰。

面對(duì)有假說(shuō)成分的“能主宰論”，“否主宰論”之所以仍然不能取勝，在于它都是在弱人工智能的前提下進(jìn)行論證。比如，其技術(shù)性論證就是通過(guò)對(duì)現(xiàn)有的人工智能的狀況及發(fā)展情況的分析，得出智能機(jī)器人的發(fā)展不會(huì)超越人類的結(jié)論。又如在差異性論證中，一個(gè)理?yè)?jù)是智能機(jī)器人與人相比，沒有情感，沒有非理性意識(shí)?？墒牵瑳]有這些意識(shí)，就意味智能機(jī)器人不比人聰明嗎？另一個(gè)理?yè)?jù)是說(shuō)，智能機(jī)器人和人不一樣，沒有社會(huì)經(jīng)歷和社會(huì)實(shí)踐，從而沒有歷史文化規(guī)定性，所以不可能超越并主宰人類。這個(gè)論據(jù)有點(diǎn)幼稚。在有大數(shù)據(jù)的條件下，智能機(jī)器人一“生”下來(lái)，不用實(shí)踐、不用經(jīng)歷，就會(huì)擁有海量的信息，其中就包含比每個(gè)成年人都要多得多的各種知識(shí)，即科學(xué)知識(shí)、哲學(xué)知識(shí)、生活常識(shí)和歷史文化知識(shí)。既然如此，怎能斷言它沒有歷史文化規(guī)定性？再說(shuō)，即便智能機(jī)器人沒有歷史文化規(guī)定性，也不是它無(wú)法超越、主宰人類的原因。人類歷史上，野蠻民族戰(zhàn)勝文明民族的事，并不罕見。還有一個(gè)理?yè)?jù)是說(shuō)，人能相互聯(lián)合和繁衍后代而機(jī)器人不能。這也明顯不對(duì)。智能機(jī)器人不會(huì)死亡就不用繁衍后代，既然機(jī)器人有智能，只要它們想聯(lián)合就能聯(lián)合在一起?！胺裰髟渍摗边€有一種論證比較獨(dú)特，就是認(rèn)為未來(lái)的智能機(jī)器人即便全面超越人類，也不會(huì)淘汰人類，就像人類出現(xiàn)以后不會(huì)淘汰低等動(dòng)植物一樣，智能機(jī)器人也不會(huì)淘汰人類，而是會(huì)和人類和平相處。也許它不會(huì)淘汰人類，但現(xiàn)在問(wèn)題是“主宰”，一個(gè)比人類更聰明的存在者，不會(huì)允許比他“笨”的主體來(lái)主宰自己和地球。

雖然“否主宰論”沒有證成，卻并不意味著“能主宰論”就是對(duì)的。因?yàn)樗旧懋吘勾嬖诩僬f(shuō)的因素，還未能確證奇點(diǎn)或超級(jí)智能機(jī)器人出現(xiàn)的必然性。也就是說(shuō)，它只是說(shuō)會(huì)有奇點(diǎn)、會(huì)有超級(jí)智能機(jī)器人。但為什么會(huì)有和怎樣才能有的問(wèn)題說(shuō)得不清楚，更沒有告訴我們，為什么這個(gè)時(shí)候的智能機(jī)器人就成為主體了，就有創(chuàng)造性了？

在我看來(lái)，這是不可能的。即使讓智能機(jī)器人隨便發(fā)展，發(fā)展到一萬(wàn)年以后也超越不了人類。為什么呢？我們就從最簡(jiǎn)單的事實(shí)說(shuō)起，任何兩個(gè)不同的實(shí)體，它們的性能必定是不一樣的。我們找不到任何一個(gè)反例，即兩個(gè)性能完全一樣，功能完全一樣，性質(zhì)完全一樣的實(shí)體，居然是兩種不同的實(shí)體。

智能機(jī)器人的基本原理是什么?就是算法，算法就是邏輯思維，這就是智能機(jī)器人的基本性能。這個(gè)基本性能是以智能機(jī)器人的機(jī)腦為載體的。而機(jī)腦與人腦對(duì)比，在材料、結(jié)構(gòu)、形態(tài)等方面都是有差異的。既然如此，只要是以電子元件為基本構(gòu)成，然后以物理結(jié)構(gòu)為結(jié)構(gòu)，有一個(gè)非生物性的實(shí)體形態(tài)的機(jī)腦，就肯定同人腦不一樣，性能也不一樣，其中就包括不具備人的創(chuàng)造性思維，即便再發(fā)達(dá)的超級(jí)人工智能也是如此。為什么？因?yàn)闊o(wú)論怎么設(shè)計(jì)智能機(jī)器人的智能，只要它的載體不是生物性的人腦，最終依賴的都只能是算法，算法就是一種邏輯思維，它只能從有推出有，而不能無(wú)中生有。盡管當(dāng)下的人工智能能寫作詩(shī)詞，甚至比一般的人寫得還好，但其實(shí)這并不是創(chuàng)造，仍然是算法，只不過(guò)是把文字和前人的大量詩(shī)詞變成數(shù)據(jù)，然后再將寫詩(shī)詞應(yīng)遵循的規(guī)則、平仄、韻律之類作為條件編入程序設(shè)置好，智能機(jī)器人就可以通過(guò)重新組合文字而形成新的詩(shī)詞。阿爾法狗戰(zhàn)勝人類棋手也一樣，底層機(jī)理都是運(yùn)用數(shù)據(jù)按規(guī)則進(jìn)行大量的快速計(jì)算，也就是從有到有的邏輯演繹。創(chuàng)造卻是從無(wú)中生有，它是非理性的，也是非邏輯性的。在整個(gè)智能里，最厲害的成就就是創(chuàng)造。人之所以從動(dòng)物變成人，就是因?yàn)槿藭?huì)創(chuàng)造并不斷創(chuàng)造，而動(dòng)物不會(huì)，智能機(jī)器人也不可能會(huì)，它只能運(yùn)算，就是從已知推出已知，它創(chuàng)造不出來(lái)未知，所以永遠(yuǎn)不會(huì)比人厲害，永遠(yuǎn)不能成為人類的主宰。

退一萬(wàn)步講，就算智能機(jī)器人也能創(chuàng)造，還是主宰不了人。為什么呢？因?yàn)橹悄軝C(jī)器人自身沒有需要——它不是生物有機(jī)體，就沒有需要，也不會(huì)生長(zhǎng)。而沒有需要又不需要生長(zhǎng)，也就不需要做任何事。正如石頭沒有任何需求，自然沒有做任何事情的動(dòng)機(jī)。既然智能機(jī)器人本身是不需要做事的，也沒有做事的動(dòng)機(jī)，那么肯定是人類輸入指令它才會(huì)行動(dòng)。因此，智能機(jī)器人永遠(yuǎn)不會(huì)有真正的自主性，也不可能成為主體。

智能機(jī)器人沒有需要也不會(huì)生長(zhǎng)這一點(diǎn)，決定了它不具備所有生物都有的自利本性。在本性上，可以說(shuō)智能機(jī)器人只有利人性，因?yàn)槿税阉鼊?chuàng)造出來(lái)就是讓它為人服務(wù)的。

“能主宰論”關(guān)于人工智能能超越人類的技術(shù)論證，基本方法就是兩個(gè)，一個(gè)是整體模仿或系統(tǒng)模仿，一個(gè)是本質(zhì)性構(gòu)造。

對(duì)于系統(tǒng)模仿，只要所用的東西與人腦不同，不是生物細(xì)胞，不是生物結(jié)構(gòu)，不是生物形態(tài)，那就模仿不出來(lái)真正有人腦性能并包括創(chuàng)造力的人腦。而要想模仿出和人一樣的人腦，就只有用和人腦一樣的生物材料，可如此造出來(lái)的腦，最好的結(jié)果就是大腦，差一些的結(jié)果則是還不如人腦的腦。所以，此法不可能成功。

本質(zhì)性構(gòu)造法屬于還原論，認(rèn)為到了量子層面，物質(zhì)和精神就不分彼此了，因而以量子計(jì)算為基礎(chǔ)構(gòu)造的機(jī)腦，就可以達(dá)到甚至超越人腦的水平。問(wèn)題是，哪一個(gè)實(shí)體沒有自己的量子層面？例如石頭也有，可石頭為什么沒有意識(shí)？所以，在量子層面，不可能找到意識(shí)或智能的秘密。由此可推斷，西方的還原論，作為一種解釋方法，是有限度的，不能無(wú)限還原。其限度就是：復(fù)雜或高等級(jí)事物的運(yùn)動(dòng)或問(wèn)題，不能用簡(jiǎn)單或低等級(jí)事物的規(guī)律或道理來(lái)加以解釋。這就意味著，生物性事物才有的性能，不能用物理規(guī)律進(jìn)行解釋，不能到物理層面找成因。而且，同樣是生物性事物，因復(fù)雜程度不同，其性能也會(huì)不同。如最高級(jí)的靈長(zhǎng)類動(dòng)物黑猩猩，雖然也有意識(shí)，卻沒有自我意識(shí)，更沒有能夠形成有創(chuàng)造力的想象力，原因就是其大腦的復(fù)雜程度遠(yuǎn)不如人腦。這就是說(shuō)，要想造就一個(gè)同樣富有創(chuàng)造力的智能機(jī)器人，必須得給它配備有機(jī)體的人腦，而人腦又不可能安裝在一個(gè)無(wú)機(jī)體的身體上。

總之，我覺得對(duì)未來(lái)智能機(jī)器人的事兒一點(diǎn)兒都不用擔(dān)心，讓我們的人工智能大踏步地發(fā)展吧，這只會(huì)給我們?nèi)祟惿顜?lái)巨大的改善。其中最好的事是什么呢？就是未來(lái)的人工智能會(huì)代替我們做很多工作，甚至所有可以還原為邏輯運(yùn)算的各種工作，都可以被它替代。但是，這也并不是說(shuō)人類就無(wú)所事事了，就會(huì)因無(wú)用而成為多余。這樣的狀況其實(shí)很好，它豈不是意味著，我們已經(jīng)進(jìn)入了馬克思所設(shè)想的自由王國(guó)時(shí)代了嗎？

自由王國(guó)是對(duì)必然王國(guó)的超越，必然王國(guó)就是人類必須從事必要?jiǎng)趧?dòng)即物質(zhì)生活資料的生產(chǎn)才能續(xù)存的世界。我們?yōu)槭裁窗l(fā)明那么多機(jī)器？不就是為了讓人在勞動(dòng)中省些氣力，少干點(diǎn)活嗎？我們?yōu)槭裁匆s短工作日？不就是為了讓人擁有更多的閑暇或自由時(shí)間嗎？物質(zhì)生產(chǎn)基本上都是重復(fù)性勞動(dòng)，創(chuàng)造性勞動(dòng)則不然，它是人的本質(zhì)力量的體現(xiàn)，也是人的自由和自我價(jià)值的體現(xiàn)，所以它是快樂的勞動(dòng)。當(dāng)人類把必要?jiǎng)趧?dòng)和物質(zhì)生產(chǎn)交給智能機(jī)器人之后，自由王國(guó)就出現(xiàn)了。這時(shí)，每個(gè)人都可以根據(jù)自己的興趣、愛好，去從事展現(xiàn)自己本質(zhì)力量和創(chuàng)造性的勞動(dòng)，從而讓自己的才能充分發(fā)展或全面發(fā)展。這無(wú)疑是人類最理想的狀態(tài)。

(作者為華中科技大學(xué)哲學(xué)學(xué)院教授、博士研究生導(dǎo)師)

智能倫理亟待重構(gòu)(2) 本文系國(guó)家社會(huì)科學(xué)基金重大招標(biāo)項(xiàng)目“人工智能前沿問(wèn)題的馬克思主義哲學(xué)研究”(19ZDA018)的階段性成果。

孫偉平

人工智能何以成為近些年來(lái)倫理道德反思的焦點(diǎn)？我想，可能主要基于以下兩個(gè)方面的原因。一方面，人工智能是深刻改變世界、有遠(yuǎn)大前途、應(yīng)用前景廣泛的基礎(chǔ)性技術(shù)。近年來(lái)，人工智能的發(fā)展日新月異，各種專用的智能系統(tǒng)表現(xiàn)優(yōu)異，給人以巨大的沖擊和深深的震撼。另一方面，人工智能是一個(gè)具有革命性、顛覆性的“新事物”，它目前遠(yuǎn)未成熟，尚難準(zhǔn)確地預(yù)料其后果。智能技術(shù)與生物技術(shù)有機(jī)結(jié)合，突破“圖靈奇點(diǎn)”、超越人類智能日益成為大概率事件，這可能導(dǎo)致天翻地覆的變化。但在這種前所未有的沖擊中，人類并沒有做好必要的準(zhǔn)備：不僅對(duì)于人工智能是什么、發(fā)展趨勢(shì)如何尚未取得基本的共識(shí)，也無(wú)法掌控人工智能的發(fā)展和應(yīng)用方向，而且相應(yīng)的政策取向比較模糊，倫理規(guī)制比較缺失，法律法規(guī)不太健全，不知道如何應(yīng)對(duì)由之而起的經(jīng)濟(jì)、政治、社會(huì)和文化難題。

正因如此，我們需要未雨綢繆，圍繞“興利除弊”的目的重構(gòu)智能倫理，既努力發(fā)展人工智能，令其“為我所用”，造福人類，又建立必要的防御機(jī)制，防范其可能導(dǎo)致的風(fēng)險(xiǎn)和代價(jià)。

首先，我們應(yīng)該看到，人工智能是一項(xiàng)前沿性的基礎(chǔ)性技術(shù)，是新型的智能社會(huì)的基本技術(shù)支撐，在倫理道德建設(shè)方面具有十分積極的作用。

經(jīng)濟(jì)活動(dòng)的信息化、智能化，例如智能機(jī)器的廣泛使用、智能產(chǎn)業(yè)的快速崛起、商業(yè)營(yíng)銷方式的變革等，在促使產(chǎn)業(yè)、經(jīng)濟(jì)快速轉(zhuǎn)型升級(jí)的同時(shí)，大幅提高了勞動(dòng)生產(chǎn)率和生產(chǎn)力水平，創(chuàng)造出物質(zhì)財(cái)富極大豐裕、人民生活水平普遍提高的局面，為社會(huì)的良性發(fā)展和倫理道德水平的提升奠定了堅(jiān)實(shí)的物質(zhì)基礎(chǔ)。

大規(guī)模使用智能系統(tǒng)(智能機(jī)器人)代替人工作，特別是基于信息化、智能化的“無(wú)人化”運(yùn)動(dòng)，逐步將人從一些繁重、重復(fù)、單調(diào)、有毒、有害、危險(xiǎn)的工作(環(huán)境)中解放出來(lái)，這不僅使得工作環(huán)境和工作條件不斷改善，生產(chǎn)過(guò)程越來(lái)越人性化，而且節(jié)約了大量人力資源和人的勞動(dòng)時(shí)間，增加了人的自由活動(dòng)時(shí)間，使人得以擺脫異化人的舊式分工，有條件獲得自由、全面的發(fā)展。

人工智能在軍事、教育、醫(yī)療、體育、文藝創(chuàng)作、社會(huì)治理、環(huán)境保護(hù)等領(lǐng)域的廣泛應(yīng)用，為人們的學(xué)習(xí)、工作和生活提供了豐富多彩的選項(xiàng)，極大地拓展了人們的生存和生活空間，重塑了人們的學(xué)習(xí)方式、工作方式和休閑娛樂方式，從而全方位地提升了人們的生活品質(zhì)。

人工智能可以運(yùn)用于虛擬現(xiàn)實(shí)之中。在虛擬現(xiàn)實(shí)中，例如虛擬的體驗(yàn)式、交互性活動(dòng)中，一個(gè)人可以在身體及精神方面成為一個(gè)不同的人，并且可以按意愿選擇不同的體驗(yàn)。

此外，人機(jī)結(jié)合、人機(jī)協(xié)同、人機(jī)共生、人機(jī)一體化……可能幫助人自身變得越來(lái)越聰明、能干，越來(lái)越深入許多新的領(lǐng)域、新的智能時(shí)空域人們不斷開發(fā)各種有針對(duì)性的智能系統(tǒng)，幫助殘疾人或身體有疾病的人克服身體的疾患和局限性。人工智能使人們獲得越來(lái)越全面、自由的發(fā)展，成長(zhǎng)為適應(yīng)智能時(shí)代特點(diǎn)的“時(shí)代新人”。

其次，人工智能并非“天使般的高新科技”，它可能導(dǎo)致的負(fù)面效應(yīng)也很令人頭痛，隨之而來(lái)的問(wèn)題與挑戰(zhàn)十分嚴(yán)峻。

人工智能是建筑在大數(shù)據(jù)基礎(chǔ)之上的。大數(shù)據(jù)資源本身是否完整、可靠，是否及時(shí)更新，數(shù)據(jù)采集、存儲(chǔ)是否合法合規(guī)(例如是否遵守“知情同意”等倫理原則)，都可能隱藏著風(fēng)險(xiǎn)。目前的數(shù)據(jù)采集、存儲(chǔ)和應(yīng)用過(guò)程中，存在大量侵犯?jìng)€(gè)人隱私和相應(yīng)主體權(quán)利的做法；一些不法組織或個(gè)人經(jīng)常利用非法收集、持有的大數(shù)據(jù)，對(duì)人進(jìn)行“分析”，利用分析結(jié)果從事騷擾、詐騙、恐嚇活動(dòng)。

算法是人工智能的靈魂和“中樞神經(jīng)”，但算法不過(guò)是以數(shù)據(jù)為基礎(chǔ)的計(jì)算機(jī)運(yùn)行程序，它本身并非天然可靠，而是常常暗含歧視與偏見，或者放大既有的社會(huì)歧視與偏見。例如，市場(chǎng)主體可能基于唯利是圖的“資本的邏輯”，利用從各種渠道收集、購(gòu)買的消費(fèi)者大數(shù)據(jù)，編寫具有歧視性、誘導(dǎo)性甚至煽動(dòng)性的算法，進(jìn)行有針對(duì)性的“智能推送”“大數(shù)據(jù)殺熟”之類的市場(chǎng)營(yíng)銷，從而坑害消費(fèi)者，實(shí)現(xiàn)經(jīng)濟(jì)利潤(rùn)最大化。

隨著人工智能的飛速發(fā)展和廣泛應(yīng)用，智能系統(tǒng)的“類人智能”和勞動(dòng)能力日益增強(qiáng)，正在取代人類承擔(dān)越來(lái)越多的勞動(dòng)任務(wù)和勞動(dòng)職責(zé)。人相對(duì)而言正變得越來(lái)越笨拙，難以適應(yīng)智能科技的快速發(fā)展和社會(huì)的快速智能化。這不僅導(dǎo)致“數(shù)字窮人”等弱勢(shì)群體日益喪失勞動(dòng)的機(jī)會(huì)和權(quán)利，釀成“技術(shù)性失業(yè)”的風(fēng)潮，而且令“數(shù)字窮人”淪落為尷尬的“無(wú)用階層”，被經(jīng)濟(jì)和社會(huì)體系排斥在外，喪失存在的價(jià)值和生命的意義。

人工智能甚至正在侵蝕一些傳統(tǒng)的倫理道德關(guān)系，例如愛情和婚姻關(guān)系，動(dòng)搖傳統(tǒng)的家庭結(jié)構(gòu)。目前人形智能機(jī)器人發(fā)展很快，它們不僅可以做家務(wù)，當(dāng)助手，陪人聊天解悶，一起嬉戲玩耍，甚至可以和人“打情罵俏”“談情說(shuō)愛”、私人訂制性愛機(jī)器人“伴侶”……當(dāng)人形智能機(jī)器人不斷取得實(shí)質(zhì)性突破，以寵物、情人、伴侶之類的身份進(jìn)入家庭，成為家庭中的新成員，歷史上延續(xù)了數(shù)千年的家庭關(guān)系、家庭倫理就難免受到強(qiáng)烈的沖擊。

此外，近年來(lái)一直令人不安的是，有科學(xué)家認(rèn)為，人工智能超越人類的“奇點(diǎn)”正在迫近。這不僅令人類的優(yōu)越性、主導(dǎo)地位和尊嚴(yán)面臨前所未有的挑戰(zhàn)，而且直接將人類自身置于極大的不確定性和風(fēng)險(xiǎn)之中。例如，具有自主意識(shí)、具有學(xué)習(xí)和創(chuàng)新能力的超級(jí)智能，是否可能“失控”，反過(guò)來(lái)統(tǒng)治、主宰人類，“將人類關(guān)進(jìn)動(dòng)物園里”？即使超級(jí)智能本身沒有干壞事的欲望和動(dòng)機(jī)，但如果有人將不良的動(dòng)機(jī)和錯(cuò)誤的價(jià)值觀輸入超級(jí)智能的算法之中，或者利用黑客技術(shù)操縱超級(jí)智能，后果將是人類不可承受之重。

再次，人工智能的快速發(fā)展和廣泛應(yīng)用，對(duì)倫理道德的主體——人本身帶來(lái)了極大的挑戰(zhàn)，這種釜底抽薪的變化令傳統(tǒng)的倫理道德進(jìn)入了“革命的前夜”。

隨著通用人工智能特別是人形智能機(jī)器人的快速發(fā)展，“人是什么”，或者說(shuō)“誰(shuí)”可以成為倫理道德的主體，成了一個(gè)不那么確定的問(wèn)題。一方面，人正在被各種智能技術(shù)、生物技術(shù)所“改造”，自然人日益被各種高新技術(shù)和裝備“武裝”起來(lái)，人機(jī)協(xié)同甚至可望人機(jī)一體地開展生產(chǎn)和生活；另一方面，智能系統(tǒng)特別是人形智能機(jī)器人的智能(思維)水平突飛猛進(jìn)，甚至日益具有自主性、計(jì)劃性和創(chuàng)造性，表現(xiàn)得“越來(lái)越像人”，許多單項(xiàng)能力甚至已經(jīng)超過(guò)了人。自沙特阿拉伯于2017年10月25日授予漢森機(jī)器人公司研發(fā)的智能機(jī)器人索菲婭(Sophia)公民身份以來(lái)，智能機(jī)器人是否是“人”？人的本質(zhì)究竟是什么？這些就成了令人尷尬的“真問(wèn)題”。

在文明史上，人一直占據(jù)著無(wú)可爭(zhēng)議的主導(dǎo)地位，機(jī)器從來(lái)只是人類的工具。如果智能機(jī)器人具有類似人類的智能，在一定意義上是“人”，那么，人是一種什么樣的“類存在物”就變得不確定了，人類的中心地位就被動(dòng)搖了，以往一切立足于人的立場(chǎng)的倫理理論和道德實(shí)踐都需要進(jìn)行革命性反思。即，以往人是唯一的倫理主體或道德主體，現(xiàn)在，智能機(jī)器人也可以擁有公民身份，也可以成為倫理主體或道德主體。那么，什么是善？什么是惡？區(qū)分善惡的標(biāo)準(zhǔn)是什么？應(yīng)該由誰(shuí)掌握道德評(píng)價(jià)、道德教育與道德管理(決策)權(quán)，等等，都需要根據(jù)人機(jī)關(guān)系的發(fā)展?fàn)顩r重新進(jìn)行反思，調(diào)整和重構(gòu)看來(lái)不可避免。

這種倫理道德的主體的反思、調(diào)整和重構(gòu)，無(wú)疑是一場(chǎng)空前激烈的革命，它可能導(dǎo)致許多顛覆性的后果。例如，在重構(gòu)新型的人機(jī)關(guān)系時(shí)，智能機(jī)器人是否具有“人格”和“尊嚴(yán)”？是否應(yīng)該享有與人一樣的權(quán)益?是否應(yīng)該、是否能夠承擔(dān)相應(yīng)的行為后果……這類問(wèn)題誠(chéng)然具有挑戰(zhàn)性，但也并非不可討論。實(shí)際上，目前寵物(如貓、狗等)都已經(jīng)“爭(zhēng)取”到了一定的動(dòng)物權(quán)利，人形智能機(jī)器人明顯更加“高級(jí)”，因而完全有理由獲得更多的尊重，擁有更多的“人權(quán)”。

綜而言之，倫理道德正處在一個(gè)關(guān)鍵的轉(zhuǎn)折點(diǎn)上。無(wú)論如何，在這場(chǎng)前所未有的“倫理大革命中”，人類需要“猛醒”，需要反思，需要行動(dòng)：破除“人類中心主義”意識(shí)，克服狂妄自大的傲慢與偏見，延展哈貝馬斯的主體間的交往理性和商談倫理，重新認(rèn)識(shí)、界定“人”和人機(jī)關(guān)系，重新商討相應(yīng)的倫理規(guī)范和行為準(zhǔn)則(特別是確定不可逾越的“底線倫理”)，從而建構(gòu)一種新型的人機(jī)協(xié)作、人機(jī)和諧的倫理新秩序。

(作者為上海大學(xué)偉長(zhǎng)學(xué)者特聘教授、上海大學(xué)哲學(xué)系教授)

人工智能與意義世界的重構(gòu)

程廣云

人工智能的意義問(wèn)題誠(chéng)然是一個(gè)很重要的問(wèn)題，但人工智能最主要的挑戰(zhàn)是它正在整個(gè)地摧毀我們現(xiàn)有的意義世界。這個(gè)問(wèn)題涵蓋很廣，不限于就業(yè)、創(chuàng)造方面的問(wèn)題。馬克思在《資本論》中討論機(jī)器問(wèn)題時(shí)，就提出了“鐵人反對(duì)有血有肉的人”這一論斷。人工智能正在加速度淘汰我們，使我們成為“多余的人”。如果人最引以為傲的創(chuàng)造性活動(dòng)被人工智能所取代，我們?nèi)松囊饬x又在哪里呢？譬如現(xiàn)在有詩(shī)詞創(chuàng)作軟件和外語(yǔ)翻譯軟件，經(jīng)過(guò)這幾年的發(fā)展，寫得、譯得還真像模像樣，以至于孫周興這樣的翻譯家，都說(shuō)“翻譯的時(shí)代過(guò)去了，說(shuō)唱的時(shí)代到來(lái)了”，大約是說(shuō)人工智能取代翻譯行當(dāng)，說(shuō)唱文化取代書寫文化，但這僅僅是過(guò)渡，說(shuō)唱也將不再是人類的專利。有人以為人工智能不會(huì)動(dòng)情，不會(huì)犯錯(cuò)，總要給人工智能劃出界限，為人類智能留一塊地盤。其實(shí)情感也好，錯(cuò)誤也罷，只要表現(xiàn)為信息的傳輸，原則上人工智能就能模擬。我們周圍的一切幾乎都在被人工智能所取代，這是表象的問(wèn)題。我們今天需要思考的是：我們能不能避免被人工智能所取代？人工智能會(huì)不會(huì)全盤地顛覆我們現(xiàn)有的意義世界？在解構(gòu)原有的意義世界后，我們能不能重構(gòu)我們的意義世界？

為了給出我思考問(wèn)題的框架，首先解釋一下我理解的人工智能。我所謂的人工智能不限于狹義的定義，廣義地講，諸如基因編輯、虛擬現(xiàn)實(shí)之類的高新技術(shù)都應(yīng)該被包括進(jìn)來(lái)。它有三個(gè)方面的基本含義。

首先，人工智能出現(xiàn)了智能機(jī)朝著機(jī)器人方向的技術(shù)改進(jìn)趨勢(shì)。智能機(jī)還是我們的工具和手段，機(jī)器人已經(jīng)作為一種類人主體存在，也就是說(shuō)，人工智能發(fā)展到一定程度，有可能通過(guò)科學(xué)技術(shù)的手段，創(chuàng)造一種未來(lái)的智能生命。從科學(xué)家們提出機(jī)器思維的問(wèn)題起，從弱人工智能、強(qiáng)人工智能、通用人工智能到超級(jí)人工智能，從邏輯推理、概率推理到因果推理即從形式化、經(jīng)驗(yàn)化到理性化，人工智能一直朝著創(chuàng)造一種智能生命的方向發(fā)展。趙汀陽(yáng)說(shuō)：這是“存在論級(jí)別的生命升級(jí)誘惑”。生命，正如思維一樣，不應(yīng)從本質(zhì)主義去定義，而應(yīng)從功能主義來(lái)定義，切忌以生命的現(xiàn)存方式來(lái)限制我們理解生命的可能方式。

其次，一些科幻作品所設(shè)想的機(jī)器人和自然人之間的終極戰(zhàn)爭(zhēng)、機(jī)器人奴役自然人，只是一種可能，其實(shí)還有另外一種可能：不僅機(jī)器可能升級(jí)成為“類人”，即作為機(jī)器人的智能生命(即“硅基人”)，人類本身即自然人的智能生命也有可能升級(jí)，甚至動(dòng)物、植物和微生物都有可能升級(jí)(即“碳基人”)。像基因編輯就是這方面的技術(shù)手段。還有，人機(jī)之間或機(jī)器與動(dòng)物之間同樣出現(xiàn)了由“外掛”到“內(nèi)聯(lián)”的技術(shù)改進(jìn)趨勢(shì)，等到大腦植入智能芯片，賽博格(Cyborg)等出現(xiàn)，就到了所謂“后人類紀(jì)”。

最后，整個(gè)智能環(huán)境的出現(xiàn)，可能比前面兩項(xiàng)更重要。像虛擬現(xiàn)實(shí)就是這方面的技術(shù)手段。比如有一次我置身于上海迪士尼樂園的虛擬現(xiàn)實(shí)環(huán)境中，感覺所謂真實(shí)和虛假的界限完全被突破了。如果一塊智能芯片能夠帶來(lái)一種智能，不僅賦予機(jī)器以智能，而且賦予草木、土石以智能，那么我們整個(gè)生存環(huán)境都會(huì)改變。在這樣一種改變下，從我們現(xiàn)有的科學(xué)技術(shù)可以推論出一種未來(lái)的生存狀態(tài)，我們的意義世界又將會(huì)發(fā)生怎樣的改變呢？

我再簡(jiǎn)單介紹一下什么叫“意義世界”？可以說(shuō)，意義世界的出現(xiàn)，就意味著世界的二元化。李澤厚說(shuō)：中國(guó)人生活在一個(gè)世界，西方人生活在兩個(gè)世界。我認(rèn)為這是錯(cuò)的。所有人都生活在兩個(gè)世界，就是世界的二重化：意義世界和生活世界的分離。具體地說(shuō)，就是人類在意識(shí)到了自身的有限性后，一直要求突破其有限性，當(dāng)然是從幾個(gè)方面分幾條路徑來(lái)尋求突破，比如在生與死的張力中，追求一種永在；在自我與他人的張力中，追求一種共在；在苦與樂的張力中，追求一種善在，等等。意義世界是這樣生成的，這是我們?nèi)祟惣醋匀蝗怂傻囊饬x世界。在歷史上這方面的例子很多，比如上古顓頊時(shí)期“絕地天通”，“地”代表生活世界，“天”代表意義世界，“絕地天通”可能就是中國(guó)人建構(gòu)意義世界的一個(gè)原始證據(jù)。

人類建構(gòu)意義世界的方式和方法當(dāng)然還有很多，從肉體不朽、靈魂不朽到社會(huì)不朽，從歷史理性、生命激情、審美主義到宗教情懷，等等。像《愚公移山》講的，個(gè)人有死，但是通過(guò)代際延傳達(dá)到一種無(wú)限；“《春秋》三不朽”(即“立德、立功、立言”)，就是歷史理性所追求的社會(huì)性不朽；像莊禪講的“瞬刻永恒、剎那終古”，就是審美主義。在某種意義上，建構(gòu)意義世界是現(xiàn)代性的表征，而解構(gòu)意義世界則是后現(xiàn)代的表征。虛無(wú)主義是解構(gòu)意義世界的價(jià)值傾向，當(dāng)然早就有了，如佛教的苦感文化和解脫(涅槃)訴求等。尼采有個(gè)寓言，說(shuō)是一個(gè)獵人抓住了一個(gè)酒神的伴護(hù)，詢問(wèn)什么對(duì)于人類最好，得到的回答是，最好是不要出生，次好是立刻死去，這就是一種虛無(wú)主義的說(shuō)法。末人說(shuō)很流行，許多人都講過(guò)。末人相對(duì)初人而言，初人在創(chuàng)建意義世界，末人在消解意義世界；初人還有生殖欲望，末人已無(wú)生殖需求，既不是沒有條件，也不是沒有能力，而是失去了生殖后代的愿望。我們現(xiàn)在有一些青年人所謂“躺平”，其實(shí)就是一種末人狀態(tài)。這就告訴我們，人類所建構(gòu)的意義世界，其根基是非常不牢靠的，面臨著虛無(wú)主義等解構(gòu)力量的挑戰(zhàn)。

但現(xiàn)在又出現(xiàn)一種態(tài)勢(shì)，就是所謂人工智能“臨近奇點(diǎn)”：在某個(gè)意義上，主要是突破兩個(gè)界限：第一是突破死亡界限，第二是突破自我界限。當(dāng)然突破有相對(duì)突破和絕對(duì)突破兩種可能，比如永生是絕對(duì)突破，長(zhǎng)生是相對(duì)突破，還有再生、復(fù)活，等等。有人以為這不可能，并且以人的需要、創(chuàng)造能力不可移植不可復(fù)制為證據(jù)。其實(shí)不然！人的所謂需要(如食欲、性欲等)是具有物質(zhì)(生理)基礎(chǔ)的，同樣可以模擬；創(chuàng)造能力亦非無(wú)中生有，同樣可以編碼。在某種意義上，對(duì)死亡的突破就是對(duì)自我的突破，這有各種可能，譬如更換載體(從肉體到機(jī)體乃至虛擬形態(tài))，移植記憶，復(fù)制個(gè)性(特定刺激——反應(yīng)模式)，等等。在這種前提下，我們?cè)瓉?lái)建構(gòu)的意義世界應(yīng)該就不成立了，因?yàn)樗且陨妥晕业挠邢扌詾榍疤岬模晕覀冋麄€(gè)的形而上學(xué)亦即原有的意義世界完全被格式化。這就提出了重構(gòu)意義世界的問(wèn)題。

如何重構(gòu)意義世界？我的基本思路就是從前意義世界尋找我們重建后意義世界的經(jīng)驗(yàn)和智慧。簡(jiǎn)單地說(shuō)，人類原來(lái)是通過(guò)突破一種有限性，想象出無(wú)限性，通過(guò)這樣的存在來(lái)建構(gòu)意義世界。現(xiàn)在出現(xiàn)的狀態(tài)又是什么呢？就是人們?cè)瓉?lái)以為是虛幻的東西，比如像《一千零一夜》《西游記》這些神話故事，像《三體》小說(shuō)中的科幻情節(jié)，最終都可能通過(guò)科學(xué)技術(shù)來(lái)實(shí)現(xiàn)。我們從兩個(gè)世界重新回到一個(gè)世界，我們現(xiàn)在的生存狀態(tài)是朝向這個(gè)目標(biāo)運(yùn)行的一個(gè)過(guò)程，我們根本的生存狀態(tài)又改變了，我們從生活在兩個(gè)世界重新回到生活在一個(gè)世界，但不是回到原有的那個(gè)單一的生活世界，而是將意義世界融化于生活世界。假如說(shuō)初人或者說(shuō)類似動(dòng)物的人是生活在一個(gè)世界，就是現(xiàn)象的世界、經(jīng)驗(yàn)的世界或生活的世界的話，那么未來(lái)人們所生活的世界，就是我們?cè)瓉?lái)所建構(gòu)的意義世界，隨著生命的升級(jí)，它降級(jí)為生活世界或者說(shuō)被現(xiàn)實(shí)化亦即被虛擬化。從前我們以為科學(xué)技術(shù)是在解構(gòu)意義世界，現(xiàn)在我們應(yīng)該相信科學(xué)技術(shù)是在實(shí)現(xiàn)意義世界亦即虛擬意義世界，將意義世界降級(jí)為生活世界。在這種情況下，許多東西都將改變。我們?cè)瓉?lái)以為是絕對(duì)真理的基本命題，譬如海德格爾所謂“終有一死的人”(“向死而生”)，可能就不再成立了，這個(gè)問(wèn)題非常嚴(yán)重。但是，假定人不死，人活著還有意義嗎？這仍然要打一個(gè)問(wèn)號(hào)。從前人類在建構(gòu)意義世界時(shí)向往不朽，假定我們都獲得了不朽，人生就有意義了嗎？這仍然要打個(gè)問(wèn)號(hào)。我曾做過(guò)兩個(gè)文本的比較研究，一個(gè)是中國(guó)古代的“吳剛伐桂”仙話，一個(gè)是古代希臘的西西弗斯神話以及加繆的存在主義闡釋，研究的結(jié)論是，早期人類已經(jīng)發(fā)現(xiàn)一個(gè)問(wèn)題：人類即使獲得了不朽，生活的意義問(wèn)題仍然沒有得到解決。波伏瓦有一部小說(shuō)《凡人必死》(或譯《人都是要死的》)就是對(duì)這個(gè)問(wèn)題的存在主義思考。

在這一嚴(yán)峻形勢(shì)下，意義世界的重構(gòu)才是我們真正應(yīng)該思考的一個(gè)形而上學(xué)問(wèn)題，它比我們所謂的倫理道德問(wèn)題或法律問(wèn)題更嚴(yán)重。人們?cè)噲D以人類的倫理道德和法律來(lái)規(guī)范、限制和引導(dǎo)人工智能的發(fā)展，這一努力面臨諸多困難，國(guó)家之間的競(jìng)爭(zhēng)甚至某些個(gè)人的沖動(dòng)，都會(huì)放大人工智能存在的風(fēng)險(xiǎn)。機(jī)器人為什么要遵守自然人的倫理道德和法律？其實(shí)只要知道我們?nèi)祟悶槭裁匆袷刈约旱膫惱淼赖潞头删涂梢粤?。?jiǎn)單地說(shuō)，所謂倫理道德是一種直言律令，即應(yīng)當(dāng)做什么、不應(yīng)當(dāng)做什么；所謂法律則是一種假言律令，即假如你做了不該做的或不做該做的應(yīng)該受到什么懲罰，假如你做了該做的或不做不該做的應(yīng)該受到什么獎(jiǎng)勵(lì)。這種規(guī)范化和制度化的律令之所以具有預(yù)期效應(yīng)，是因?yàn)槿祟惥哂泻蒙鷲核篮挖吚芎Φ谋拘?。如果我們讓機(jī)器人也遵守自然人的倫理道德和法律，那么我們可以輸入必要的指令，同時(shí)也讓機(jī)器人像自然人一樣地?fù)碛锌鞓泛屯纯嗟母杏X，這個(gè)目標(biāo)就基本達(dá)到了。但是，這里仍然存在一個(gè)問(wèn)題，即使機(jī)器人像自然人一樣地遵守人的法律和倫理道德，大家和諧相處，我們的生活意義又在什么地方呢？這比所有與人工智能相關(guān)的問(wèn)題更高級(jí)，甚至是一個(gè)最高級(jí)的形而上學(xué)問(wèn)題。

問(wèn)題的提出就包含了問(wèn)題的解決。既然意義世界降級(jí)為生活世界，形而上學(xué)也就降級(jí)為形而下學(xué)。換句話說(shuō)，意義不在生活之外，而在生活之內(nèi)。意義通過(guò)虛擬而實(shí)現(xiàn)，通過(guò)虛擬化而現(xiàn)實(shí)化。也許，生命突破死亡界限而連續(xù)不斷；個(gè)體突破自我界限而增容擴(kuò)容；苦與樂、幸福與不幸都還原為感覺，而感覺則可以復(fù)制、移植；不再有成就，但可以有成就感；不再有榮耀，但可以有榮耀感……生活具有無(wú)限可能——意義世界和生活世界的合成可能就是未來(lái)智能生命的生存境況，現(xiàn)已漸露端倪。

(作者為首都師范大學(xué)政法學(xué)院教授、博士研究生導(dǎo)師)

尋求人工智能倫理的國(guó)際共識(shí)——以歐盟人工智能倫理建設(shè)為例

楊通進(jìn)

近年來(lái)，隨著逆全球化、反全球化、民粹主義、狹隘民族主義等極端思潮的沉渣泛起，冷戰(zhàn)思維、東西文明對(duì)抗的觀念在一些國(guó)家或地區(qū)得到追捧，國(guó)際局勢(shì)變得撲朔迷離。在這種情況下，談?wù)摵统珜?dǎo)全球共識(shí)，似乎顯得有點(diǎn)不合時(shí)宜。但是，從維護(hù)全人類共同利益的角度看，越是在國(guó)際局勢(shì)晦暗不明的時(shí)候，學(xué)界越是要保持頭腦的清醒。殷海光曾說(shuō)“知識(shí)分子是時(shí)代的眼睛”，知識(shí)分子的這雙眼睛不應(yīng)當(dāng)、也不能被時(shí)代的各種濁流所遮蔽。歷史上，對(duì)國(guó)際秩序的思考與建構(gòu)往往是在國(guó)際局勢(shì)的晦暗不明的背景下展開的?？涤袨樵?902年寫下倡導(dǎo)世界主義與世界國(guó)家之《大同書》的時(shí)候，正是中華民族救亡圖存、嘗試建構(gòu)現(xiàn)代民族國(guó)家的關(guān)鍵時(shí)期。雅斯貝爾斯也是在德國(guó)戰(zhàn)后重建、冷戰(zhàn)開始形成的時(shí)期，倡導(dǎo)世界主義和全球公民理念的。因此，在全球網(wǎng)絡(luò)共同體建構(gòu)初期、AI研發(fā)的國(guó)際合作前途未卜的敏感時(shí)期，思考、討論和尋求人工智能倫理的國(guó)際共識(shí)正當(dāng)其時(shí)。

一、全球共識(shí)的緊迫性與重要性

思考、討論和尋求人工智能倫理的國(guó)際共識(shí)之所以是必要的和緊迫的，這是由AI技術(shù)本身的重要性決定的。從某種意義上說(shuō)，AI技術(shù)是到目前為止對(duì)人類的社會(huì)生活、社會(huì)關(guān)系、人的歷史產(chǎn)生的影響最為深刻、最為廣泛和最為長(zhǎng)遠(yuǎn)的一項(xiàng)技術(shù)。

首先，AI技術(shù)對(duì)人本身、對(duì)人的自我認(rèn)識(shí)和自我理解產(chǎn)生了深刻的影響。人是什么？人與機(jī)器的區(qū)別在哪？人的自我以及自我的邊界在哪兒？智能是什么？人的身體與心靈的關(guān)系是什么？人工智能技術(shù)尤其是以強(qiáng)人工智能為基礎(chǔ)的機(jī)器人技術(shù)對(duì)這些問(wèn)題的思考和回答都向人類提出了前所未有的挑戰(zhàn)。實(shí)際上，就人的自我認(rèn)同而言，人工智能對(duì)每一個(gè)人都產(chǎn)生了巨大的影響?，F(xiàn)在，大多數(shù)人都離不開手機(jī)，手機(jī)似乎成了“無(wú)機(jī)的身體”；花費(fèi)在手機(jī)上的時(shí)間不僅改變了我們的生活習(xí)慣，還改變了我們感知與認(rèn)識(shí)世界的方式。隨著社會(huì)管理和日常交往方式中電子化程度日益提高，我們所有的信息都將“暴露在電子網(wǎng)絡(luò)”里，我們就是我們的電子信息，我們的電子信息就是我們自己。

AI技術(shù)也將對(duì)人們的社會(huì)關(guān)系產(chǎn)生深刻影響。以強(qiáng)AI技術(shù)為基礎(chǔ)的各種專用和通用機(jī)器人日益進(jìn)入人們的生活世界，人們的社會(huì)關(guān)系將會(huì)變得更為復(fù)雜和多樣。目前，是否研發(fā)和銷售性愛機(jī)器人已經(jīng)成為人們關(guān)注和爭(zhēng)論的一個(gè)焦點(diǎn)問(wèn)題。美國(guó)學(xué)者戴維·萊維在《與機(jī)器人相愛并做愛》(2007)中預(yù)言，到2050年，機(jī)器人將會(huì)獲得與人相愛的能力，并把自己塑造得“浪漫可愛與性感可欲” ；人和機(jī)器人相愛甚至結(jié)婚在2050年都會(huì)成為現(xiàn)實(shí)。2014年以來(lái)，他每年都在世界不同的地方舉辦一次“世界性愛機(jī)器人大會(huì)”，倡導(dǎo)人們承認(rèn)并從法律上認(rèn)可人與機(jī)器人婚姻的合法性。許多人認(rèn)為，當(dāng)我們從立法的角度承認(rèn)和接納同性婚姻后，人類追求“婚姻平等”的任務(wù)就完成了。但是，在萊維看來(lái)，這個(gè)任務(wù)還沒有完成，婚姻革命的下一個(gè)目標(biāo)就是實(shí)現(xiàn)人-機(jī)(機(jī)器人)婚姻的合法性。(3)Levy D, Love and Sex with Robots, New York: Harper Collins e-books, 2005, pp.37, 152.

與萊維針鋒相對(duì)，英國(guó)德蒙福特大學(xué)的倫理學(xué)教授凱瑟琳·理查德森則從2015年起發(fā)起了“反對(duì)性愛機(jī)器人運(yùn)動(dòng)”。理查德森認(rèn)為，性愛機(jī)器人有物化女性和兒童的嫌疑；在與人的性愛活動(dòng)中，性愛機(jī)器人基本上都是被動(dòng)的接受者，這種不平衡的關(guān)系將會(huì)助長(zhǎng)人們的性虐待行為，長(zhǎng)此以往，針對(duì)性愛機(jī)器人的性虐待狂將會(huì)對(duì)真正的人類異性缺乏同理心和同情心；與性愛機(jī)器人的性行為實(shí)質(zhì)上等同于性交易，如果不加以規(guī)制，這種性交易行為將逐漸泛濫。理查德森的結(jié)論是，將性交易行為擴(kuò)展到機(jī)器人身上，既不安全，又有違公序良俗。(4)Richardson K, “Sex Robot Matters”, IEEE Technology and Society Magazine, Vol.35, Issue 2(2016): 46-53.據(jù)報(bào)道，目前荷蘭阿姆斯特丹的紅燈區(qū)已經(jīng)提供機(jī)器人的“性服務(wù)”。關(guān)于人與機(jī)器人的性愛倫理問(wèn)題，現(xiàn)實(shí)已經(jīng)走在理論的前面。我們?cè)摬辉撗邪l(fā)性愛機(jī)器人，該不該銷售和使用性愛機(jī)器人？性愛機(jī)器人與我們平常看到的日本銷售的情趣用品是一回事嗎？人們能夠同時(shí)擁有一個(gè)人類伴侶與一個(gè)機(jī)器伴侶嗎？人-機(jī)(機(jī)器人)婚姻中的夫妻關(guān)系應(yīng)當(dāng)是一種平等的關(guān)系嗎？這對(duì)未來(lái)的人際關(guān)系提出了全新的挑戰(zhàn)。

其次，AI技術(shù)對(duì)人民與政府之間的力量平衡也產(chǎn)生了微妙的影響。在一些國(guó)家或地區(qū)，先進(jìn)的AI技術(shù)給人民提供了更多的自由空間，給民主的實(shí)現(xiàn)提供了更多的有效渠道。但是，先進(jìn)的AI技術(shù)也能成為政府有效控制人民的工具，先進(jìn)的網(wǎng)絡(luò)技術(shù)可以幫助政府建立起空前強(qiáng)大的警察國(guó)家，從而對(duì)公民的基本自由構(gòu)成嚴(yán)重的威脅。如果人們就政府如何使用AI技術(shù)的問(wèn)題無(wú)法達(dá)成某些基本的共識(shí)，那么，AI 技術(shù)將可能會(huì)成為政府剝奪公民權(quán)利、限制公民自由的幫兇。

再次，AI技術(shù)的發(fā)展會(huì)影響國(guó)際關(guān)系的發(fā)展與調(diào)整。目前，關(guān)于如何合理使用無(wú)人機(jī)的問(wèn)題，已經(jīng)引起人們的廣泛關(guān)注。就國(guó)際關(guān)系而言，一般認(rèn)為，每個(gè)國(guó)家的領(lǐng)土和領(lǐng)空都是神圣不可侵犯的；未經(jīng)主權(quán)國(guó)家的同意就越過(guò)其邊界的行為屬于侵略行為。但是，進(jìn)入某個(gè)國(guó)家領(lǐng)空的無(wú)人機(jī)上面沒人，這算是入侵該國(guó)領(lǐng)空的侵略行為嗎？國(guó)際法對(duì)此尚無(wú)定論。自主武器系統(tǒng)的研發(fā)也是人們關(guān)注的一個(gè)焦點(diǎn)問(wèn)題。20世紀(jì)40年代末，愛因斯坦曾撰文指出，他非常后悔參與了原子彈的研發(fā)；在他看來(lái)，在人類的道德能力還沒有得到充分發(fā)展的情況下，研發(fā)先進(jìn)的武器只會(huì)使人類社會(huì)變得更不安全。因此，愛因斯坦晚年積極投身和平運(yùn)動(dòng)，呼吁科學(xué)家承擔(dān)起確?？萍歼M(jìn)步造福于全人類的道德責(zé)任。在目前的國(guó)際局勢(shì)下，科學(xué)家是否應(yīng)當(dāng)參與包括殺人機(jī)器人在內(nèi)的自主武器系統(tǒng)的研發(fā)？對(duì)這類武器系統(tǒng)的研發(fā)會(huì)不會(huì)引發(fā)新一輪的軍備競(jìng)賽？

2019年6月，清華大學(xué)戰(zhàn)略與安全研究中心與美國(guó)布魯金斯學(xué)會(huì)啟動(dòng)了“人工智能國(guó)際治理”項(xiàng)目，力圖就人工智能技術(shù)對(duì)國(guó)際安全提出的挑戰(zhàn)及其治理進(jìn)行研討和對(duì)話。清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩和布魯金斯學(xué)會(huì)會(huì)長(zhǎng)約翰·艾倫分別表達(dá)了各自的觀點(diǎn)。傅瑩認(rèn)為，雖然人工智能武器化不可避免，全面禁止人工智能武器很難達(dá)成全球共識(shí)，但是，目前正是“構(gòu)建人工智能國(guó)際安全規(guī)范的關(guān)鍵窗口期”。作為在人工智能技術(shù)研究和應(yīng)用方面發(fā)展最快的兩個(gè)國(guó)家，中國(guó)和美國(guó)需要在這個(gè)領(lǐng)域加強(qiáng)協(xié)調(diào)與合作；“中美開展對(duì)話與合作非常重要，將能夠?yàn)槿蛉斯ぶ悄苤卫砗献髫暙I(xiàn)智慧。因此，中美兩國(guó)應(yīng)推動(dòng)構(gòu)建國(guó)際層面的規(guī)范和制度進(jìn)行正式討論，在各自利益關(guān)切的基礎(chǔ)上探索合作領(lǐng)域。”(5)傅瑩：《人工智能與國(guó)際安全治理路徑探討》，《人民論壇》，2020年第36期，第6-7頁(yè)。傅瑩與艾倫共同署名發(fā)表《共同合作，美中就能降低來(lái)自AI的風(fēng)險(xiǎn)》，他們指出AI技術(shù)尤其是以AI為基礎(chǔ)的自動(dòng)武器系統(tǒng)尚處于發(fā)展的初期，沒有最終定型，因而，我們?nèi)杂袡C(jī)會(huì)發(fā)展出新的規(guī)范、新的信任措施，劃定新技術(shù)的使用邊界；一旦這類技術(shù)發(fā)展成熟并被廣泛使用，就很難構(gòu)建用于約束這些新興武器之使用的規(guī)則了。(6)Fu Y, Allen J, “Together, the U.S. and China Can Reduce the Risks from AI”, Noema, Dec. 17,2020,https://www.berggruen.org/people/fu-ying-john-allen,July 3,2021.聯(lián)合國(guó)有關(guān)組織也非常關(guān)注致命性自動(dòng)武器系統(tǒng)的研發(fā)。2012年以來(lái)，聯(lián)合國(guó)人權(quán)觀察組織與哈佛大學(xué)國(guó)際人權(quán)法研究中心每年都發(fā)布一項(xiàng)限制和禁止致命性自動(dòng)武器系統(tǒng)的倡議，提醒聯(lián)合國(guó)盡快制定相關(guān)的國(guó)際法，限制、監(jiān)控與規(guī)制致命性自動(dòng)武器系統(tǒng)的研發(fā)、管理與使用。(7)Human Rights Watch and International Human Rights Clinic, “Making the case: The dangers of killer robots and the need for a preemptive ban”, Dec. 19,2016,https://www.hrw.org/report/2016/12/09/making-case/dangers-killer-robots-and-need-preemptive-ban. July 7,2021.

除了會(huì)影響國(guó)際安全和人類和平，AI技術(shù)對(duì)于建設(shè)更加公正的國(guó)際秩序的也構(gòu)成了挑戰(zhàn)。因?yàn)?，隨著數(shù)字鴻溝的出現(xiàn)，某些國(guó)家可能會(huì)借助新的AI技術(shù)更加有力地維護(hù)全球等級(jí)制度；在這種全球等級(jí)制度中，少數(shù)國(guó)家可能會(huì)處于頂層，操控國(guó)際社會(huì)的運(yùn)行規(guī)則，使大多數(shù)國(guó)家永遠(yuǎn)處于被支配與被控制的地位。

最后，AI技術(shù)將會(huì)對(duì)人類歷史的未來(lái)產(chǎn)生深刻的影響。如今，隨著以信息技術(shù)為中心的技術(shù)圈的進(jìn)一步發(fā)展，人類走上了一條日益依賴技術(shù)圈的道路。但是，越是復(fù)雜的技術(shù)系統(tǒng)，所潛藏的風(fēng)險(xiǎn)與不確定性就越大。目前，作為個(gè)體，每一個(gè)人的隱私(包括人際交往信息、銀行賬戶信息等)都有可能被泄露。面對(duì)越來(lái)越完善和無(wú)所不包的信息系統(tǒng)，每個(gè)人都感覺到自己無(wú)所逃遁，我們的所有信息(包括隱私)都完全掌握在信息管理機(jī)構(gòu)(或有權(quán)使用這些信息的機(jī)構(gòu)或個(gè)人)的手中。我們就這樣在不知不覺中走上了一條依賴技術(shù)圈的不歸之路。例如，當(dāng)代人見證了電腦的發(fā)展與完善的過(guò)程筆者這一代人曾經(jīng)用筆和紙進(jìn)行寫作，但是現(xiàn)在，我們的寫作和思考都離不開手邊的電腦和強(qiáng)大的互聯(lián)網(wǎng)了。AI技術(shù)對(duì)人類生活的深刻影響由此可見一斑。

總之，AI技術(shù)對(duì)人類的影響不僅廣泛而且深遠(yuǎn)，因此，必須要對(duì)AI技術(shù)的研發(fā)與使用進(jìn)行某種治理。但是，治理的目標(biāo)是什么？怎么治理？對(duì)AI技術(shù)的治理應(yīng)該達(dá)到什么樣的狀態(tài)？在治理過(guò)程中應(yīng)該采取哪些措施？對(duì)這些問(wèn)題的回答都涉及基本的價(jià)值與規(guī)范。國(guó)際社會(huì)只有首先在基本的價(jià)值與規(guī)范層面達(dá)成共識(shí)，才能就AI技術(shù)的國(guó)際治理達(dá)成統(tǒng)一的認(rèn)識(shí)。

對(duì)AI技術(shù)的治理既涉及政治和法律層面的問(wèn)題，也涉及價(jià)值與倫理層面的問(wèn)題。而國(guó)際社會(huì)在政治與法律層面之所以難以達(dá)成共識(shí)，首先是由于在價(jià)值與倫理層面存在較大的分歧。因此，在價(jià)值與倫理層面達(dá)成共識(shí)，是解決政治與法律層面的國(guó)際分歧的前提。在價(jià)值觀與倫理層面達(dá)成國(guó)際共識(shí)，對(duì)于AI技術(shù)的全球治理至關(guān)重要。

人類的道德能力尤其是國(guó)際道德能力的成長(zhǎng)對(duì)于AI技術(shù)的全球治理也非常重要。在國(guó)際社會(huì)還沒有完全脫離自然狀態(tài)，尚未進(jìn)入國(guó)際法治的文明狀態(tài)的前提下，任何先進(jìn)的殺人武器的發(fā)明都不會(huì)給人類帶來(lái)和平，反而會(huì)使國(guó)際局勢(shì)變得更加復(fù)雜。核武器的發(fā)明給我們提供了一個(gè)悲慘的教訓(xùn)。20世紀(jì)40年代中期美國(guó)發(fā)明原子彈以來(lái)，對(duì)核技術(shù)的控制與爭(zhēng)奪就一直是國(guó)際局勢(shì)緊張動(dòng)蕩的因素之一。在今天的國(guó)際關(guān)系中，朝鮮問(wèn)題、伊朗問(wèn)題都是圍繞核技術(shù)的研發(fā)與控制展開的。以色列派無(wú)人機(jī)攻擊伊朗核工廠的行為是加劇中東緊張局勢(shì)的重要因素之一。目前，人類在控制核武器方面陷入了一種非?；恼Q的困境：一旦擁有，就不愿放棄；對(duì)于使用核武器的毀滅性后果，大家都心知肚明，因此，誰(shuí)都不敢首先使用核武器；核武器雖然不會(huì)被使用，但是，擁有核武器的國(guó)家每年還要花費(fèi)巨額資金來(lái)維護(hù)這些核武器。如果人類任由致命性自主武器系統(tǒng)被研發(fā)與使用，那么，未來(lái)的世界是更安全還是更不安全？殷鑒不遠(yuǎn)，答案一目了然。今天，面對(duì)AI技術(shù)可能給人類帶來(lái)的巨大風(fēng)險(xiǎn)，人類不能忘記發(fā)展科學(xué)的初心和使命。發(fā)展科學(xué)的初心是要促進(jìn)人類的解放，給人類帶來(lái)幸福。如果我們要讓AI技術(shù)實(shí)現(xiàn)這個(gè)初心，那么，就必須對(duì)AI技術(shù)的治理達(dá)成全球共識(shí)，用國(guó)際制度與國(guó)際規(guī)范來(lái)確保AI技術(shù)被用于造福全人類，促進(jìn)全人類的幸福和解放。

二、歐盟AI倫理建設(shè)及其啟示

在民族國(guó)家內(nèi)部，就AI倫理建設(shè)達(dá)成共識(shí)是相對(duì)較為容易的。但是，要在不同國(guó)家之間達(dá)成AI倫理建設(shè)的共識(shí)，卻面臨諸多挑戰(zhàn)。歐盟的AI產(chǎn)業(yè)相對(duì)中國(guó)與美國(guó)來(lái)說(shuō)雖然不是那么發(fā)達(dá)，但是，歐盟的AI倫理建設(shè)，尤其是在跨國(guó)層面對(duì)AI倫理共識(shí)的尋求，值得我們關(guān)注、借鑒和學(xué)習(xí)。

歐盟在跨國(guó)層面的AI倫理建設(shè)工作始于2015年。2015年1月，歐盟議會(huì)法律事務(wù)委員會(huì)成立了專門研究機(jī)器人和AI技術(shù)之法律問(wèn)題的工作小組；次年5月，該小組向歐盟委員會(huì)提交了“機(jī)器人民法報(bào)告草案”，呼吁歐盟重視并評(píng)估AI技術(shù)的社會(huì)經(jīng)濟(jì)、法律與倫理影響。2017年1月，該小組主張制定“機(jī)器人憲章”。同年5月，歐洲經(jīng)濟(jì)與社會(huì)委員會(huì)發(fā)布第一份關(guān)于AI治理的報(bào)告，主張關(guān)注AI給倫理、安全、隱私等11個(gè)領(lǐng)域帶來(lái)的機(jī)遇與挑戰(zhàn)，倡議制定AI倫理規(guī)范，建立AI監(jiān)控與認(rèn)證的標(biāo)準(zhǔn)體系。10月，歐洲理事會(huì)指出，歐盟應(yīng)認(rèn)識(shí)到AI治理的緊迫性與必要性，確保制定出高水平的數(shù)據(jù)保護(hù)和數(shù)字權(quán)利的倫理標(biāo)準(zhǔn)，并要求歐盟委員會(huì)在2018年初提出應(yīng)對(duì)AI發(fā)展新趨勢(shì)的對(duì)策，將AI倫理與AI治理確立為未來(lái)立法工作的重點(diǎn)內(nèi)容。

2018年，歐盟的AI倫理建設(shè)走上快車道。同年4月，歐盟委員會(huì)發(fā)布了AI發(fā)展的戰(zhàn)略性政策文件《歐盟人工智能》。該戰(zhàn)略包括三大支柱：第一，提升AI技術(shù)與產(chǎn)業(yè)能力；第二，積極應(yīng)對(duì)AI帶來(lái)的社會(huì)經(jīng)濟(jì)變革；第三，建立適當(dāng)?shù)膫惱砗头煽蚣?，起草并制定AI倫理指南。6月，歐盟成立由52人組成的人工智能高級(jí)專家小組。12月，歐盟委員會(huì)發(fā)布《人工智能協(xié)調(diào)計(jì)劃》，提出了歐盟人工智能計(jì)劃的三大總體目標(biāo)：符合倫理規(guī)范、安全可靠、技術(shù)先進(jìn)。該計(jì)劃還提出了，項(xiàng)具體的目標(biāo)。其中，第六個(gè)目標(biāo)是建立人工智能倫理監(jiān)管框架，推動(dòng)歐盟AI倫理標(biāo)準(zhǔn)盡快問(wèn)世；第八個(gè)目標(biāo)是加強(qiáng)人工智能國(guó)際合作，組織召開AI國(guó)際部長(zhǎng)級(jí)會(huì)議，就AI倫理準(zhǔn)則尋求國(guó)際共識(shí)。

2018年12月，人工智能高級(jí)專家小組起草了歐盟AI倫理準(zhǔn)則初稿。在征求多方意見并與歐盟委員會(huì)商討完善后，歐盟AI倫理準(zhǔn)則的最終版本《可信人工智能倫理準(zhǔn)則》與歐盟委員會(huì)的相應(yīng)政策文件《建立以人為本的可信人工智能》于2019年4月8日同時(shí)發(fā)布?！犊尚湃斯ぶ悄軅惱頊?zhǔn)則》首先確定了可信AI的三個(gè)特征，即合法性、符合倫理與穩(wěn)健性(魯棒性)。該準(zhǔn)則還提出了建立可信 AI 的四個(gè)基礎(chǔ)性原則：尊重人類自主性原則、防止傷害原則、公平原則、可解釋原則。該準(zhǔn)則最后還提出了實(shí)現(xiàn)可信AI的七條具體的措施，許多措施都涉及倫理規(guī)則(如透明性原則，多樣性、非歧視與公平原則)。這些原則和準(zhǔn)則為歐盟的AI倫理建設(shè)提供了基本的構(gòu)架。隨著《可信人工智能倫理準(zhǔn)則》的發(fā)布，歐盟的人工智能倫理建設(shè)初步完成。

歐盟的AI倫理建設(shè)給我們提供了許多啟示。其中最重要的有兩條。第一，對(duì)AI的治理不能僅僅采取技術(shù)的進(jìn)路。AI技術(shù)的發(fā)展離不開社會(huì)、政治、經(jīng)濟(jì)、法律、文化、倫理等方面的共同支持，合適的社會(huì)背景是AI技術(shù)得以發(fā)展的基本前提。AI技術(shù)帶來(lái)的許多問(wèn)題(包括技術(shù)瓶頸方面的問(wèn)題)，是不能僅僅依靠技術(shù)本身加以解決的。AI技術(shù)所帶來(lái)的倫理問(wèn)題，只能通過(guò)相應(yīng)的倫理對(duì)策來(lái)加以解決。

第二，尋求AI倫理的國(guó)際共識(shí)不僅是可能的，而且是可行的。AI技術(shù)是沒有國(guó)界的，AI治理的某些核心價(jià)值與基本原則也必須是國(guó)際共享的。缺乏AI治理倫理的國(guó)際共識(shí)，不僅無(wú)法實(shí)現(xiàn)AI治理目標(biāo)，AI技術(shù)的發(fā)展可能還會(huì)給人類的生存與發(fā)展帶來(lái)新的困境。AI治理倫理國(guó)際共識(shí)的達(dá)成，不僅有助于消除AI產(chǎn)品的貿(mào)易壁壘，更有助于AI技術(shù)的協(xié)同發(fā)展。尤其重要的是，在以民族國(guó)家為主體的現(xiàn)有國(guó)際秩序下，達(dá)成AI倫理的國(guó)際共識(shí)是可能的。20世紀(jì)80年代以來(lái)，隨著全球化進(jìn)程的加速，一個(gè)真實(shí)的全球共同體(尤其是全球問(wèn)題共同體)正在形成；人類面臨的一個(gè)重要挑戰(zhàn)就是，人們能否超越狹隘的民族主義價(jià)值觀，建構(gòu)一種世界主義的全球倫理和全球公共政治文化，以便為全球問(wèn)題的跨國(guó)治理提供必要的倫理基礎(chǔ)和道德動(dòng)力。歐盟AI倫理準(zhǔn)則的國(guó)際共識(shí)給我們提供了一個(gè)建構(gòu)超越國(guó)界的倫理共識(shí)(尤其是AI倫理共識(shí))案例，為我們構(gòu)建全球?qū)用娴腁I倫理共識(shí)提供了重要的啟迪。

三、尋求何種共識(shí)

AI倫理包括三個(gè)層面的倫理，即宏觀AI倫理(AI研究者、生產(chǎn)者與用戶的倫理)，中觀AI倫理(寫進(jìn)AI程序中的道德編碼)以及微觀AI 倫理(將來(lái)具有道德推理和自我決策能力的機(jī)器人本身的倫理)。AI倫理共識(shí)指的是人們?cè)谶@三個(gè)層面的核心價(jià)值與倫理準(zhǔn)則所達(dá)成的共識(shí)。那么，我們能夠期待人們就哪些AI倫理準(zhǔn)則達(dá)成國(guó)際共識(shí)呢？

瑞士學(xué)者Anna Jobin等在2019年收集了全世界2019年之前發(fā)表的84份與AI倫理有關(guān)的文獻(xiàn)。通過(guò)統(tǒng)計(jì)分析，Anna Jobin等人發(fā)現(xiàn)，這些文獻(xiàn)對(duì)11個(gè)倫理原則(或價(jià)值)的認(rèn)同度比較高。其中，排在第一位的是“透明”(Transparency)，共有73份文件認(rèn)可這一準(zhǔn)則。排在第二位的是“正義與公平”(Justice and Fairness)，共有68份文獻(xiàn)贊成這一準(zhǔn)則。排在第三和第四位的分別是“不傷害”(Non-maleficence)與“責(zé)任”(Responsibility)，共有60份文獻(xiàn)支持這兩個(gè)準(zhǔn)則。排在第五位的準(zhǔn)則是“隱私”(Privacy)，共有47份文獻(xiàn)接受這一準(zhǔn)則。排在第六至十一位的準(zhǔn)則分別是仁愛(Beneficence)、自由與自主(Freedom and Autonomy)、信任(Trust)、可持續(xù)性(Sustainability)、尊嚴(yán)(Dignity)和團(tuán)結(jié)(Solidarity)，提及這些準(zhǔn)則的文獻(xiàn)分別有41、34、28、14、13、6份。(8)Jobin A, Lenca M, Vayena E, “Artificial intelligence: The global landscape of ethics guidelines”, Nature Machine Intelligence, no.1(2019),pp.389-399.這11個(gè)準(zhǔn)則可以作為全球AI倫理準(zhǔn)則的基礎(chǔ)或核心選項(xiàng)。

Anna Jobin等人的論文沒有統(tǒng)計(jì)兩份重要的中文文獻(xiàn)。一份是2018年天津“機(jī)器人與人工智能大會(huì)——雷克大會(huì)”發(fā)表的《人工智能創(chuàng)新發(fā)展道德倫理宣言》。該宣言提及的重要價(jià)值與原則包括尊嚴(yán)、人格權(quán)、人類解放、人的全面發(fā)展、全人類福祉、人類整體利益優(yōu)先、誠(chéng)實(shí)與信用、人道主義、和平等。另一份重要的中文文獻(xiàn)是中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻委員會(huì)于2019年出版的《中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻》。該報(bào)告構(gòu)建了一套關(guān)于機(jī)器人倫理的“中國(guó)優(yōu)化共生設(shè)計(jì)方案”。該方案包括從低到高的三個(gè)理論層級(jí)：整體論意義的善、四個(gè)元價(jià)值與五個(gè)倫理目標(biāo)。整體論意義的善指的是自然與文化的多元價(jià)值與共生秩序。四個(gè)元價(jià)值分別是多元(Pluralism)、自然(Nature)、正義(Justice)與繁榮(Well-doing)。五個(gè)倫理目標(biāo)分別是人權(quán)(Human Rights)、責(zé)任(Accountability)、透明度(Transparency)、防范濫用(Awareness of misuse)與共生繁榮(Shared Flourishing)?！吨袊?guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻》有兩個(gè)特別突出的亮點(diǎn)，第一， “不再把人類中心主義作為自己倫理標(biāo)準(zhǔn)化體系的根本理論依據(jù)”，而是“尊重自然環(huán)境和自然物種的內(nèi)在價(jià)值”，試圖“發(fā)展一套去人類中心主義的倫理系統(tǒng)。” 第二，在強(qiáng)調(diào)機(jī)器人倫理主要是關(guān)于設(shè)計(jì)、生產(chǎn)和使用機(jī)器人的人員之倫理的同時(shí)，對(duì)機(jī)器人在未來(lái)能否成為道德行為體的問(wèn)題持開放態(tài)度，“為尚不可預(yù)期的人工道德智能主體的自主能力增強(qiáng)預(yù)留了足夠的倫理討論空間?！?9)北京大學(xué)國(guó)家機(jī)器人標(biāo)準(zhǔn)化總體組:《中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻》，北京:北京大學(xué)出版社，2019年，第26、24、32、38頁(yè)。因此，相比于歐盟的AI倫理體系，《中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻》的倫理視野更為宏大。

上述綜合討論AI倫理的中外文獻(xiàn)，至少可以說(shuō)，國(guó)際學(xué)術(shù)界在宏觀AI倫理層面已經(jīng)達(dá)成了許多共識(shí)；這些共識(shí)為國(guó)際層面的AI治理提供了必要的倫理基礎(chǔ)，也為國(guó)際社會(huì)在未來(lái)如何擴(kuò)大國(guó)際共識(shí)指明了方向。

四、如何尋求并強(qiáng)化AI倫理的全球共識(shí)

如果國(guó)際社會(huì)認(rèn)識(shí)到了對(duì)AI技術(shù)實(shí)施全球治理的必要性與緊迫性，并且，某些國(guó)家已經(jīng)對(duì)AI倫理的核心價(jià)值與基本原則達(dá)成了某些共識(shí)，那么，在全球?qū)用鎸で蟛U(kuò)大AI倫理共識(shí)就不僅是可能的，而且是有方法可尋的。限于篇幅，這里僅提出以下六點(diǎn)建議，作為人們進(jìn)一步深入討論這一問(wèn)題的起點(diǎn)。

第一，分類建設(shè)，先易后難。AI技術(shù)包含各種不同的類型。國(guó)際社會(huì)可以進(jìn)一步把AI倫理分解成不同的種類和部分，分別針對(duì)不同的AI技術(shù)尋求與該技術(shù)相適應(yīng)的AI倫理。例如，《中國(guó)機(jī)器人倫理標(biāo)準(zhǔn)化前瞻》就針對(duì)護(hù)理機(jī)器人探討和設(shè)計(jì)了護(hù)理機(jī)器人倫理的主要原則與規(guī)范。下一步，國(guó)際社會(huì)可以進(jìn)一步探討和尋求工業(yè)機(jī)器人、家居機(jī)器人等的倫理原則與規(guī)范。此外，國(guó)際社會(huì)可以首先在那些容易達(dá)成共識(shí)的領(lǐng)域(如商用AI技術(shù))尋求共識(shí)，對(duì)那些比較難以達(dá)成共識(shí)的領(lǐng)域(如軍用AI技術(shù))的倫理問(wèn)題則可以開展持續(xù)的討論與對(duì)話。

第二，科學(xué)家主動(dòng)介入，積極參與。科學(xué)家是研發(fā)AI技術(shù)的核心角色，應(yīng)當(dāng)主動(dòng)介入AI倫理的國(guó)際建設(shè)，并推動(dòng)政府和企業(yè)參與AI倫理的國(guó)際建設(shè)。

第三，跨國(guó)公司及時(shí)行動(dòng)，率先垂范。跨國(guó)公司對(duì)AI技術(shù)的全球治理具有重要影響力，一個(gè)開放而健康的全球AI市場(chǎng)符合跨國(guó)公司的長(zhǎng)遠(yuǎn)利益。因此，跨國(guó)公司應(yīng)率先垂范，主動(dòng)參與全球AI倫理的建設(shè)。

第四，各國(guó)政府合理引導(dǎo)，提供支持。在現(xiàn)有國(guó)際秩序下，民族國(guó)家仍然是國(guó)際事務(wù)的主導(dǎo)者。各國(guó)的政治家應(yīng)當(dāng)高瞻遠(yuǎn)矚，積極承擔(dān)起確?？萍歼M(jìn)步造福全人類的道義責(zé)任，引導(dǎo)和推動(dòng)各國(guó)盡快實(shí)施AI倫理的全球構(gòu)建計(jì)劃。

第五，超越狹隘民族主義，創(chuàng)新全球制度。對(duì)于全球?qū)用娴奶魬?zhàn)，只有在全球?qū)用娌扇f(xié)調(diào)統(tǒng)一的行動(dòng)才能加以應(yīng)對(duì)；而全球?qū)用娴膮f(xié)調(diào)統(tǒng)一行動(dòng)要成為現(xiàn)實(shí)，就必須要以相應(yīng)的全球制度的創(chuàng)立為前提。因此，民族國(guó)家與聯(lián)合國(guó)都應(yīng)根據(jù)時(shí)代的需要，及時(shí)建立并強(qiáng)化相應(yīng)的國(guó)際制度，通過(guò)全球制度創(chuàng)新來(lái)解決人類面臨的諸多全球問(wèn)題。

第六，擁抱世界主義理念，構(gòu)建人類命運(yùn)共同體。全球AI倫理建設(shè)面臨的最大挑戰(zhàn)仍然是狹隘的民族主義。目前，以民族國(guó)家為主體的全球制度導(dǎo)致人們以民族國(guó)家為單位相互競(jìng)爭(zhēng)，甚至相互仇恨。為這種全球制度提供合理化證明的觀念就是狹隘的民族主義。近代以來(lái)的許多悲劇(尤其是兩次世界大戰(zhàn))都與狹隘的民族主義有關(guān)。醫(yī)治狹隘民族主義的藥方是世界主義理念。世界主義理念與我國(guó)傳統(tǒng)的天下一家思想、世界大同理念是一脈相承的。吸收了中外世界主義精神遺產(chǎn)的人類命運(yùn)共同體理念是建設(shè)全球AI倫理的最重要的價(jià)值基礎(chǔ)。當(dāng)今時(shí)代，我們必須要用實(shí)際行動(dòng)把人類命運(yùn)共同體這一理念落到實(shí)處。要做到這一點(diǎn)，我們就必須要首先培育和構(gòu)建一種世界主義的全球公共政治文化。對(duì)于AI倫理的全球建設(shè)來(lái)說(shuō)，這種世界主義的全球公共政治文化也是至關(guān)重要的。

(作者為廣西大學(xué)馬克思主義學(xué)院教授)

我們?cè)撊绾螒?yīng)對(duì)人工智能對(duì)人類勞動(dòng)的挑戰(zhàn)？

何云峰

關(guān)于人工智能方面的研究，實(shí)際上文理科的對(duì)話太少。文理科的學(xué)者坐到一起來(lái)對(duì)話，共同思考這些問(wèn)題，會(huì)有更多的共鳴。當(dāng)今時(shí)代，人工智能的發(fā)展突飛猛進(jìn)，被廣泛地運(yùn)用于各個(gè)領(lǐng)域。在這種情況下，人工智能對(duì)當(dāng)今社會(huì)各個(gè)方面的影響必然非常巨大而深遠(yuǎn)，當(dāng)然，對(duì)勞動(dòng)的影響肯定也是很大的。有正面的積極影響，當(dāng)然也存在消極影響和挑戰(zhàn)。無(wú)論積極的影響還是消極的影響，都值得學(xué)界認(rèn)真深入地加以探究。

實(shí)際上，大家對(duì)人工智能的悲觀情緒和樂觀情緒都有。說(shuō)實(shí)話，我屬于樂觀派，我認(rèn)為總體來(lái)講人工智能的積極影響大于消極影響，因?yàn)槭挛锞哂袃擅嫘浴慕?jīng)濟(jì)角度來(lái)看，人工智能對(duì)于人類勞動(dòng)的解放、對(duì)人類追求自由的過(guò)程來(lái)說(shuō)，確實(shí)有很多的幫助，這是不可否認(rèn)的；但是，人工智能帶來(lái)的挑戰(zhàn)，也是非常明顯的。那么應(yīng)該怎么樣看待這個(gè)挑戰(zhàn)，我覺得可以好好地去思考。

就挑戰(zhàn)來(lái)看，我通過(guò)中國(guó)知網(wǎng)進(jìn)行中文文獻(xiàn)檢索，以“人工智能”作為關(guān)鍵詞做初次文獻(xiàn)檢索，再用關(guān)鍵詞“勞動(dòng)”作為進(jìn)階檢索，檢索后發(fā)現(xiàn)這方面文章很少。真正關(guān)于人工智能的研究是2016、2017年以后，文獻(xiàn)數(shù)量很明顯地上升；到2020年文獻(xiàn)量達(dá)到頂點(diǎn)；2021年也有很多，整體文獻(xiàn)數(shù)量是不少的。從文獻(xiàn)來(lái)看，人工智能的研究熱潮主要是在最近幾年逐漸形成的。已有的研究所涉及的學(xué)科比較多，主要包括自動(dòng)化技術(shù)、人才學(xué)、勞動(dòng)科學(xué)、宏觀經(jīng)濟(jì)管理、可持續(xù)發(fā)展、經(jīng)濟(jì)建設(shè)和經(jīng)濟(jì)思想史、信息經(jīng)濟(jì)、郵政經(jīng)濟(jì)，等等?？梢钥闯?，研究的跨學(xué)科性還是十分明顯的，文理科交融趨勢(shì)也日益明顯。所以，人工智能對(duì)人類勞動(dòng)的影響，實(shí)際上已經(jīng)變成跨學(xué)科問(wèn)題了。從研究?jī)?nèi)容來(lái)看，高頻關(guān)鍵詞集中在幾個(gè)主要領(lǐng)域，諸如人工智能、人工智能時(shí)代、勞動(dòng)教育、勞動(dòng)價(jià)值論、勞動(dòng)就業(yè)、勞動(dòng)收入分配等。但仔細(xì)研究發(fā)現(xiàn)，上述高頻關(guān)鍵詞涉及的文獻(xiàn)量實(shí)際上并不是很大，比如直接談人工智能對(duì)勞動(dòng)的挑戰(zhàn)或者積極影響的文獻(xiàn)大概也就兩百多篇。

從文獻(xiàn)來(lái)看，我認(rèn)為目前的研究還是有一些缺陷。大家討論人工智能對(duì)勞動(dòng)的挑戰(zhàn)比較多，經(jīng)濟(jì)影響方面也有學(xué)者進(jìn)行研究。從挑戰(zhàn)的角度看，已有研究對(duì)挑戰(zhàn)本身討論得比較多，也比較深入地關(guān)注了人工智能對(duì)勞動(dòng)有哪些不利的影響。但是，怎么來(lái)應(yīng)對(duì)挑戰(zhàn)？有價(jià)值的研究并不多。如何有效地應(yīng)對(duì)人工智能給勞動(dòng)帶來(lái)的各類挑戰(zhàn)？這個(gè)問(wèn)題可能是最需要我們關(guān)心的。我個(gè)人認(rèn)為，人工智能對(duì)人類勞動(dòng)的影響，應(yīng)該跟以前其他的生產(chǎn)力跨越式發(fā)展和科技的進(jìn)步等類似，其影響都是一樣的，都有雙面性，關(guān)鍵是我們?cè)趺磥?lái)應(yīng)對(duì)?？傮w上說(shuō)，肯定是機(jī)遇大于挑戰(zhàn)，積極作用和消極作用共存。消極作用沒法避免，任何科技都是這樣，關(guān)鍵是怎么來(lái)有效地應(yīng)對(duì)挑戰(zhàn)，這是我們要研究的主要話題之一。

對(duì)此，有三點(diǎn)非常值得關(guān)注。第一，人工智能對(duì)人類勞動(dòng)具有多重挑戰(zhàn)，挑戰(zhàn)是客觀存在的；第二，要應(yīng)對(duì)這個(gè)挑戰(zhàn)，最好的方式就是變革，全面而系統(tǒng)的變革是應(yīng)對(duì)這種挑戰(zhàn)的唯一有效選擇；第三，無(wú)論做什么樣的選擇，必須要提供相應(yīng)的理論依據(jù)，那就是我們要重新反思勞動(dòng)價(jià)值理論。

應(yīng)該反復(fù)強(qiáng)調(diào)人工智能對(duì)勞動(dòng)究竟有哪些挑戰(zhàn)。人工智能大量運(yùn)用對(duì)就業(yè)的挑戰(zhàn)、就業(yè)機(jī)制的影響，大家都關(guān)注到了。實(shí)際上，這種影響遠(yuǎn)遠(yuǎn)超乎我們的預(yù)期，例如人工智能大量運(yùn)用會(huì)對(duì)就業(yè)規(guī)模產(chǎn)生巨大的影響。最主要的是崗位被取代后，人類怎么辦？日本學(xué)者研究發(fā)現(xiàn)，大概60%的現(xiàn)有工作，是可以用機(jī)器人來(lái)取代的，現(xiàn)在沒有被取代可能是因?yàn)闀r(shí)機(jī)還沒有成熟。實(shí)際上好多工作都是可以被機(jī)器人取代的，甚至包括教師的工作，將來(lái)都有可能被取代。我們?cè)瓉?lái)普遍認(rèn)為教師是“穩(wěn)坐釣魚臺(tái)”的工作，教書育人的任務(wù)不會(huì)被機(jī)器所取代。但是將來(lái)還是有可能的，比如知識(shí)傳授這一部分教師工作很有可能被取代。當(dāng)然，這種取代并不是我們悲觀的理由，關(guān)鍵是看我們?nèi)绾螒?yīng)對(duì)。其次，人工智能普遍運(yùn)用對(duì)收入分配的影響是很大的。人工智能相關(guān)領(lǐng)域的就業(yè)，肯定都是高收入，而在其他領(lǐng)域就業(yè)的，則極有可能收入很低。也就是說(shuō)，它很可能導(dǎo)致嚴(yán)重的兩極分化。勞動(dòng)本身決定了工資收入的巨大差距。最后，人工智能對(duì)就業(yè)形態(tài)也有很大影響。將來(lái)很可能會(huì)有一些人只能從事“低端”的工作，而有些人就從事與人工智能相關(guān)的所謂的“高端”的工作。高度專業(yè)化的工作需要長(zhǎng)時(shí)間的專門化準(zhǔn)備，而其他的“普通工作”則不需要長(zhǎng)時(shí)間的訓(xùn)練。這樣就會(huì)形成兩種截然不同的勞動(dòng)形態(tài)。此外，人工智能的大量運(yùn)用還會(huì)對(duì)勞動(dòng)過(guò)程、勞動(dòng)關(guān)系等多個(gè)方面產(chǎn)生巨大的影響。事實(shí)上，當(dāng)今時(shí)代的人們對(duì)這些挑戰(zhàn)都已經(jīng)有了一些感知，所以危機(jī)感自然而然會(huì)產(chǎn)生出來(lái)。

既然人工智能會(huì)對(duì)勞動(dòng)提出諸多挑戰(zhàn)，那么應(yīng)該如何應(yīng)對(duì)呢？我覺得最主要的是要變革。用變革迎接挑戰(zhàn)，就會(huì)把挑戰(zhàn)轉(zhuǎn)化為機(jī)遇。我認(rèn)為，面對(duì)人工智能給人類勞動(dòng)提出的諸多挑戰(zhàn)，人類必須實(shí)施三大變革：第一是人類的自我變革。我們?nèi)祟愖叩搅私裉?，可能很多觀念都要改變。比如說(shuō)，我們的職業(yè)觀念要發(fā)生變化，原來(lái)我們都希望找一個(gè)穩(wěn)定的工作，當(dāng)作一輩子的“職業(yè)”，然后好像有了“職業(yè)”，我們的人生就完美了。那么將來(lái)這種職業(yè)觀念可能要發(fā)生變化，一輩子可能不止有一個(gè)職業(yè)，很可能要跨職業(yè)。這個(gè)可能符合馬克思關(guān)于分工的很多批判，人要全面發(fā)展，多職業(yè)可能恰恰促進(jìn)了我們的全面發(fā)展。還有一個(gè)是對(duì)就業(yè)觀念的影響，我們過(guò)去找工作要找個(gè)穩(wěn)定的、不變的，這個(gè)觀念也會(huì)受到影響。還有對(duì)企業(yè)家的利潤(rùn)觀、財(cái)富觀也會(huì)有影響，甚至我們的學(xué)習(xí)觀也會(huì)受到影響。現(xiàn)在我們中國(guó)的大學(xué)生有一個(gè)學(xué)習(xí)觀，其基本的觀念就是從大學(xué)拿個(gè)文憑，然后靠這個(gè)文憑混一輩子，拿不到文憑就好像沒得救了，就感到“人生絕望”，將來(lái)可能這種現(xiàn)象會(huì)完全改變，包括學(xué)習(xí)觀在內(nèi)的很多觀念都會(huì)轉(zhuǎn)變。對(duì)人類自身的這一系列觀念而言，變革肯定是要及時(shí)地跟上時(shí)代和技術(shù)的發(fā)展。如果人類自身的觀念跟不上的話，人工智能對(duì)勞動(dòng)的挑戰(zhàn)，很有可能會(huì)讓我們無(wú)法適應(yīng)。第二是教育系統(tǒng)的變革，即學(xué)生的學(xué)習(xí)觀念、學(xué)習(xí)理念一定要變化?，F(xiàn)在的大學(xué)課堂往往還是以滿堂灌式地傳輸知識(shí)為主，這樣的方式難以適應(yīng)未來(lái)的大學(xué)教育。未來(lái)的大學(xué)學(xué)習(xí)，應(yīng)該讓學(xué)生學(xué)會(huì)學(xué)習(xí)，這是高等教育的第一要?jiǎng)?wù)。讓學(xué)生將來(lái)能夠自主地學(xué)習(xí)，不是老師把知識(shí)系統(tǒng)地傳授給他們，把知識(shí)透徹地講給他們聽。將來(lái)老師的教育理念也要變，要把學(xué)生“教”到學(xué)會(huì)自學(xué)，而不是僅僅致力于把知識(shí)講透了，這才是真正的厲害。大學(xué)向終身教育的轉(zhuǎn)型，可能會(huì)是一個(gè)很重要的變革趨勢(shì)?，F(xiàn)在我們的許多大學(xué)，比較常見的還是那一種舊式學(xué)歷制的教育。將來(lái)的終身教育可能變成沒有學(xué)制的概念，更多的是學(xué)分制的概念。目前，西方的完全學(xué)分制已經(jīng)可以做到這一點(diǎn)。但是現(xiàn)在我們的許多大學(xué)，基本上還不能完全跟上這個(gè)變革的步伐。每個(gè)人在大學(xué)的學(xué)習(xí)能力是不一樣的，他可以按照他自己的學(xué)習(xí)能力、學(xué)習(xí)動(dòng)力、學(xué)習(xí)興趣，根據(jù)自己的經(jīng)濟(jì)狀況等具體情況獨(dú)立地進(jìn)行自我規(guī)劃。一個(gè)人既可以三年把博士讀完，也可以五年把博士讀完，教育的靈活性和可選擇性應(yīng)該提高。第三是社會(huì)治理系統(tǒng)的變革。隨著勞動(dòng)力市場(chǎng)治理能力的強(qiáng)化，我們發(fā)現(xiàn)勞動(dòng)力市場(chǎng)治理在過(guò)去不是一個(gè)很重要的活動(dòng)，也不是社會(huì)治理的范疇，但將來(lái)可能是一個(gè)很重要的治理范疇。所以，現(xiàn)在隨著社會(huì)關(guān)系的復(fù)雜化，特別是勞資關(guān)系的復(fù)雜化，實(shí)際上勞動(dòng)力市場(chǎng)的治理已經(jīng)有一些問(wèn)題了，包括過(guò)去講的所謂“996”“血汗工廠”等現(xiàn)象，實(shí)際上正是勞動(dòng)力市場(chǎng)治理沒有到位、出現(xiàn)問(wèn)題的表現(xiàn)。過(guò)去我們將醫(yī)療、教育視為“第一民生”，將來(lái)應(yīng)將勞動(dòng)就業(yè)上升為“第一民生”。今后還要更加重視勞動(dòng)幸福保障。

上述三大變革，將來(lái)可能會(huì)成為應(yīng)對(duì)人工智能對(duì)勞動(dòng)挑戰(zhàn)的當(dāng)務(wù)之急。理論是先導(dǎo)，任何變革都需要理論的指導(dǎo)，沒有理論指導(dǎo)的變革可能只是一個(gè)應(yīng)急性的舉措。要全面地、系統(tǒng)地應(yīng)對(duì)變革、應(yīng)對(duì)挑戰(zhàn)。科學(xué)的理論怎么樣進(jìn)一步修訂？我覺得需要馬克思的勞動(dòng)價(jià)值理論進(jìn)行指導(dǎo)，強(qiáng)調(diào)活勞動(dòng)創(chuàng)造價(jià)值。怎么理解這個(gè)“活勞動(dòng)”？我的想法是將來(lái)人工智能的、自動(dòng)化的、智能化的機(jī)器人，可能就是一種替代性的勞動(dòng)，它跟我們現(xiàn)在算法化的、工具性的人工智能不一樣，將來(lái)可能會(huì)有替代性的人工智能出現(xiàn)——相對(duì)于人的“活勞動(dòng)”，這種替代性的人工智能只不過(guò)是對(duì)勞動(dòng)的另外一種理解方式。比如，現(xiàn)在的演員在演危險(xiǎn)性動(dòng)作時(shí)不會(huì)自己去演，會(huì)找個(gè)替身，那么替身性的勞動(dòng)工作量會(huì)算在主演演員身上，不會(huì)算在那個(gè)替身的身上，將來(lái)替代性的人工智能也是這樣。這就算“活勞動(dòng)”的價(jià)值，這個(gè)價(jià)值是歸資本家所有，還是歸我所有，或者是歸社會(huì)所有，相關(guān)的討論應(yīng)該及時(shí)跟上。我們把替代性的勞動(dòng)變成一種“活勞動(dòng)”，并沒有違背“活勞動(dòng)創(chuàng)造價(jià)值”這個(gè)基本原理，但是對(duì)“活勞動(dòng)”本身要重新加以界定。因此，理論要及時(shí)關(guān)注現(xiàn)實(shí)，才能應(yīng)對(duì)各種挑戰(zhàn)。

總之，人工智能對(duì)人類的挑戰(zhàn)是多重的，人類必須進(jìn)行自我變革、教育系統(tǒng)變革、社會(huì)治理系統(tǒng)變革，還需要理論的變革、理論的指導(dǎo)，只有這樣，人類才能夠從容地走向未來(lái)。

(作者為上海師范大學(xué)知識(shí)與價(jià)值科學(xué)研究所教授、博士研究生導(dǎo)師)

生產(chǎn)工藝學(xué)批判：人工智能的理論闡釋與實(shí)踐觀照

劉方喜

人工智能(Artificial Intelligence，簡(jiǎn)稱AI)的“理論闡釋與實(shí)踐觀照”非常必要和重要，總體來(lái)看，AI技術(shù)研發(fā)專家對(duì)此不太關(guān)注，而人文社會(huì)科學(xué)研究者卻必須重視，所以，我這幾年陸陸續(xù)續(xù)發(fā)表十幾篇有關(guān)AI方面的文章，大致形成了一種“理論闡釋與實(shí)踐關(guān)照”思路，即“生產(chǎn)工藝學(xué)批判”，這種思路重視AI研究科學(xué)性與批判性的統(tǒng)一。

我研究AI的方法涉及三種“學(xué)”或英文所謂“-ology”，一是工藝學(xué)Technology，二是本體學(xué)或本體論Ontology，三是社會(huì)學(xué)Sociology。第一，所謂“工藝學(xué)”是馬克思政治經(jīng)濟(jì)學(xué)中的一個(gè)重要概念，以往國(guó)內(nèi)外對(duì)馬克思的研究都沒有足夠重視這個(gè)概念及方法，近些年來(lái)開始有所關(guān)注，而我結(jié)合物聯(lián)網(wǎng)和AI等當(dāng)代新技術(shù)，對(duì)馬克思工藝學(xué)理論作了較為系統(tǒng)的研究和重構(gòu)。第二，本本學(xué)或本體論主要研究人與物的關(guān)系。第三，與此相應(yīng)的，社會(huì)學(xué)主要研究人與人的關(guān)系——在AI領(lǐng)域涉及的就是人腦智能與AI機(jī)器智能之間的關(guān)系等。所謂“生產(chǎn)工藝學(xué)批判”就是把本體論與社會(huì)學(xué)結(jié)合在一起的研究思路。

首先，對(duì)AI的理論闡釋關(guān)乎本體論Ontology，在這方面，“如何提問(wèn)”往往決定著對(duì)AI的認(rèn)知方向?，F(xiàn)在比較通行的提問(wèn)是：“智能”是什么？或什么是“智能”？順著這樣的提問(wèn)方式追索下去，智能就可能成為一種獨(dú)立于一切物質(zhì)的存在，它可以在不同物質(zhì)形態(tài)中存在，既可以存在于人腦這種生物性的物質(zhì)中，也可以存在于機(jī)器即計(jì)算機(jī)這種物理性或非生物性的物質(zhì)中(即AI)，最終還可以脫離計(jì)算機(jī)進(jìn)而脫離一切物質(zhì)而存在——美國(guó)AI理論家?guī)炱濏f爾對(duì)奇點(diǎn)來(lái)臨后的超級(jí)AI的設(shè)想就是如此，這顯然會(huì)引發(fā)諸多爭(zhēng)議?？傮w來(lái)說(shuō)，存在于不同物質(zhì)形態(tài)中的智能，顯然存在相通之處，所以AI機(jī)器神經(jīng)元網(wǎng)絡(luò)可以模擬人腦神經(jīng)元系統(tǒng)；但是，如果認(rèn)為智能不可能脫離一切物質(zhì)而存在，那么，存在于不同物質(zhì)形態(tài)中的智能就會(huì)有所不同：人腦生物性智能就存在機(jī)器物理性智能即AI所不可模擬的功能，即圖靈所謂的不可計(jì)算的部分。而動(dòng)態(tài)地看，AI的不斷發(fā)展又必然會(huì)使不可模擬、不可計(jì)算的部分趨于縮小，但最終能否縮小為零從而導(dǎo)致所謂奇點(diǎn)來(lái)臨，顯然在計(jì)算機(jī)科學(xué)家內(nèi)部也存在爭(zhēng)議。

當(dāng)然，還可以換一種提問(wèn)方式，即不問(wèn)What，而問(wèn)How，即：智能是怎樣生產(chǎn)的？馬克思指出，考察物質(zhì)生產(chǎn)，既可以問(wèn)“生產(chǎn)什么”——這關(guān)乎產(chǎn)品；也可以問(wèn)“怎樣生產(chǎn)”——這關(guān)乎生產(chǎn)的工藝或工具，是一種生產(chǎn)工藝學(xué)的提問(wèn)方式。這同樣可以運(yùn)用于對(duì)智能的考察，而智能“怎樣生產(chǎn)”就可以具體轉(zhuǎn)化為智能的“生產(chǎn)工具有哪些”。在這方面，說(shuō)人腦及其神經(jīng)元系統(tǒng)是智能的一種生產(chǎn)工具，沒有太多爭(zhēng)議，說(shuō)當(dāng)今AI計(jì)算機(jī)這種機(jī)器及其人工神經(jīng)網(wǎng)絡(luò)也成為智能的一種新的生產(chǎn)工具，應(yīng)該也沒有太多爭(zhēng)議。相關(guān)討論往往沒有特別強(qiáng)調(diào)的是：自然語(yǔ)言系統(tǒng)也是智能的一種基本的生產(chǎn)工具，而語(yǔ)言又分口語(yǔ)與文字，從與人的身體的關(guān)系看，口語(yǔ)像人腦一樣離不開人的身體而具有生物性，而文字則是一種存在于人的身體之外的因而是非生物性的智能生產(chǎn)工具。作為兩種智能生產(chǎn)工具，AI機(jī)器系統(tǒng)與文字系統(tǒng)都存在于人的身體之外而具有非生物性，在這方面是相通的。因此，撇開口語(yǔ)和其他符號(hào)系統(tǒng)比如各類科學(xué)與藝術(shù)符號(hào)系統(tǒng)等不論，迄今為止僅存在3種基本的智能生產(chǎn)工具系統(tǒng)：人腦神經(jīng)元系統(tǒng)、文字系統(tǒng)、機(jī)器系統(tǒng)——這種生產(chǎn)工藝學(xué)的理論闡釋和考察，可以避免有關(guān)當(dāng)今AI的討論落入神秘主義的陷阱而爭(zhēng)論不休，有助于既不看輕、也不夸大AI的價(jià)值，從而對(duì)AI的價(jià)值及其劃時(shí)代意義有科學(xué)的定位：作為智能生產(chǎn)工具系統(tǒng)，具有生物性的人腦神經(jīng)元系統(tǒng)是漫長(zhǎng)的自然進(jìn)化史的產(chǎn)物，文字系統(tǒng)是人在自己身體之外創(chuàng)造出的一種非生物性的智能生產(chǎn)工具系統(tǒng)，可以說(shuō)是人類文化進(jìn)化史的產(chǎn)物，而當(dāng)今的AI系統(tǒng)則是人在自己身體之外創(chuàng)造出的又一全新的非生物性的智能生產(chǎn)工具系統(tǒng)。我初步把這三大智能生產(chǎn)工具系統(tǒng)的關(guān)系概括為：機(jī)不盡言、言不盡意，即AI機(jī)器不能充分表達(dá)自然語(yǔ)言所表達(dá)的意義(與圖靈所謂的“不可計(jì)算性”有關(guān))，語(yǔ)言不能充分表達(dá)存在于人腦或人的心理中的意義(即古人所謂的“言不盡意”)。

從研發(fā)現(xiàn)狀看，“自然語(yǔ)言識(shí)別”固然是AI研發(fā)的一種基本路徑，但在整體上，研發(fā)界尚未將自然語(yǔ)言系統(tǒng)尤其是文字系統(tǒng)作為一種基本的智能生產(chǎn)工具系統(tǒng)來(lái)看待，當(dāng)今AI研發(fā)所模擬的對(duì)象主要是人腦神經(jīng)元系統(tǒng)，而不是文字系統(tǒng)。因此，將文字系統(tǒng)作為一種基本的智能生產(chǎn)工具系統(tǒng)并加以深入探討，對(duì)于AI研發(fā)的進(jìn)一步發(fā)展也有一定啟示。

如果說(shuō)理論上的本體論闡釋主要關(guān)乎AI“怎樣生產(chǎn)”或者使用什么樣的智能生產(chǎn)工具進(jìn)行生產(chǎn)的話，那么，“實(shí)踐觀照”或社會(huì)學(xué)的考察則主要關(guān)注AI“怎樣應(yīng)用”。當(dāng)然，AI怎樣生產(chǎn)的“社會(huì)方式”又決定著AI“怎樣應(yīng)用”，比如方式和方向，進(jìn)而對(duì)人產(chǎn)生影響——涉及的一個(gè)基本并且也是爭(zhēng)論不休的問(wèn)題：AI作為一種機(jī)器智能能否“替代”人的大腦的生物性智能。在這方面，我主要在現(xiàn)代機(jī)器兩次革命的歷史脈絡(luò)中展開考察。馬克思的生產(chǎn)工藝學(xué)批判考察的是作為物質(zhì)生產(chǎn)現(xiàn)代化工具的機(jī)器體系，涉及的是現(xiàn)代機(jī)器第一次革命即動(dòng)能自動(dòng)化革命，傳統(tǒng)非自動(dòng)化的生產(chǎn)工具只是“傳導(dǎo)”人的體能，而動(dòng)能自動(dòng)化機(jī)器則可以“替代”人的體能，這種“替代”恰恰意味著把人的物質(zhì)生產(chǎn)力從人身或生物性限制中解放出來(lái)，意味著人可以不再?gòu)氖履切┯伞拔铩奔礄C(jī)器替人從事的活動(dòng)。但在資本框架下，動(dòng)能自動(dòng)化機(jī)器對(duì)人的體能的替代所導(dǎo)致的后果是：越來(lái)越多的藍(lán)領(lǐng)工人面臨失業(yè)進(jìn)而失去收入的威脅——而馬克思強(qiáng)調(diào)：這種威脅的根源不在自動(dòng)運(yùn)轉(zhuǎn)的“機(jī)器”而在自行增殖的“資本”——不能認(rèn)清這一點(diǎn)，使英國(guó)曾出現(xiàn)過(guò)工人打砸機(jī)器的“魯?shù)逻\(yùn)動(dòng)”，與此相關(guān)的對(duì)自動(dòng)機(jī)器的認(rèn)知，后來(lái)被概括為“魯?shù)轮髁x”或“魯?shù)轮囌`”。當(dāng)前，AI正在引發(fā)現(xiàn)代機(jī)器第二次革命即智能自動(dòng)化革命，動(dòng)能自動(dòng)化機(jī)器以及傳統(tǒng)的生產(chǎn)工具也是人的智能的物化，但只是“傳導(dǎo)”人的智能，而AI機(jī)器則可以“替代”人的智能。盡管也存在爭(zhēng)議，比如一些經(jīng)濟(jì)學(xué)家認(rèn)為AI在消滅一些工作的同時(shí)也在創(chuàng)造新的工作，但是從發(fā)展趨勢(shì)看。AI將使越來(lái)越多的白領(lǐng)工人(包括AI研發(fā)者甚至科學(xué)家等在內(nèi))面臨失業(yè)進(jìn)而失去收入的威脅，越來(lái)越多的人將被拋入赫拉利所謂的越來(lái)越龐大的“無(wú)用階級(jí)”隊(duì)伍。如果你認(rèn)為這些困境是由越來(lái)越發(fā)達(dá)、智能自動(dòng)化程度越來(lái)越高的AI機(jī)器本身造成的，你所犯的就是“魯?shù)轮囌`”；由好萊塢科幻大片及各類商業(yè)技術(shù)噱頭所渲染的智能機(jī)器人威脅乃至消滅人類的論調(diào)，體現(xiàn)的不過(guò)是一種更加精致的“魯?shù)轮髁x”或“魯?shù)轮囌`”而已。

在當(dāng)今全球范圍內(nèi)流行的有關(guān)AI社會(huì)影響的認(rèn)知中，存在樂觀主義與悲觀主義或?yàn)跬邪钪髁x與反烏托邦主義的二元對(duì)立——運(yùn)用馬克思生產(chǎn)工藝學(xué)批判，則可以超越這種二元對(duì)立：AI機(jī)器當(dāng)然可以替代——即使現(xiàn)在還是部分地替代——人的智能，但這種“替代”也恰恰意味著把人的精神生產(chǎn)力或智能力量，從人身或生物性限制中解放出來(lái)，意味著人可以不再?gòu)氖履切┯伞拔铩奔礄C(jī)器替人從事的智能活動(dòng)——前提是要揚(yáng)棄“資本”。在這方面有一種樸素的想法是：自動(dòng)機(jī)器可以替人從事體力和智力活動(dòng)了，人還能干啥？在馬克思看來(lái)，在由動(dòng)能自動(dòng)化機(jī)器替人從事的體力活動(dòng)中，人的體力支出是不自由的，而在比如體育等體力支出活動(dòng)中，人是自由的，并會(huì)由體力的自由支出或發(fā)揮而產(chǎn)生愉悅感。同樣，在AI機(jī)器所能替人從事的智力活動(dòng)中，人的智力支出也是不自由的，而在比如文藝等智力活動(dòng)中，人則是自由的，并會(huì)由智力的自由支出或發(fā)揮而獲得愉悅感。

無(wú)論從哪種視角或維度來(lái)看，現(xiàn)代機(jī)器的兩次自動(dòng)化革命在人類文明發(fā)展史上都具有劃時(shí)代的重大意義：動(dòng)能自動(dòng)化機(jī)器替代人的體力，AI自動(dòng)化機(jī)器替代人的智力。普通大眾和許多AI研究者往往不加分析地認(rèn)為這種“替代”對(duì)于人來(lái)說(shuō)只能是負(fù)面的、消極的，澄清這一問(wèn)題的關(guān)鍵是：人的體力與智力對(duì)人本身意味著什么。在馬克思看來(lái)，人的體力與智力也是人的本質(zhì)所在，人的體力與智力的自由發(fā)揮，就意味著人的本質(zhì)(或所謂本質(zhì)力量)的自由實(shí)現(xiàn)——而前提是：人要以自身體力、智力的發(fā)揮為“目的”。在維持生存的活動(dòng)中，人的體力、智力的發(fā)揮只是“手段”，因而作為人的本質(zhì)力量的體力、智力不能得到自由發(fā)揮，人的本質(zhì)也就不能得到自由實(shí)現(xiàn)——AI自動(dòng)化機(jī)器對(duì)人的智力的“替代”，恰恰意味著把人的智力的發(fā)揮從以本身為手段的活動(dòng)(雇傭性的智力勞動(dòng)活動(dòng)等)中解放出來(lái)。只是在資本框架下，這種“解放”才轉(zhuǎn)化為“威脅”，即威脅出賣智力而獲得維持生存收入的白領(lǐng)工人的工作；反過(guò)來(lái)說(shuō)，將這種“威脅”轉(zhuǎn)化為“解放”的前提是揚(yáng)棄“資本”，而一旦揚(yáng)棄資本之后，人不是不再發(fā)揮智力，或者說(shuō)無(wú)處可發(fā)揮智力，而恰恰是在自由王國(guó)中自由地發(fā)揮智力。這種理念其實(shí)一點(diǎn)兒也不抽象，我經(jīng)常舉的經(jīng)驗(yàn)性極強(qiáng)的例子是：你給老板寫報(bào)表可能感覺很痛苦，因?yàn)槟愕倪@種智力支出活動(dòng)是手段；而你玩游戲也要支出智力，卻并不感覺痛苦，因?yàn)檫@種智力支出活動(dòng)本身是目的，你恰恰會(huì)由智力的支出本身而獲得愉悅。微軟AI小冰的詩(shī)寫得再好，會(huì)影響你寫詩(shī)比如也許并不高明的愛情詩(shī)的樂趣嗎？阿爾法狗很厲害，可以打敗人類圍棋高手，會(huì)影響你作為一個(gè)普通圍棋愛好者下圍棋的樂趣嗎？顯然不會(huì)，除非你把AI機(jī)器當(dāng)成“競(jìng)爭(zhēng)對(duì)手”——但為什么要這樣做？汽車作為一種動(dòng)能自動(dòng)化機(jī)器比人跑得快，人會(huì)把汽車當(dāng)成“競(jìng)賽對(duì)手”嗎？與此相關(guān)，教育領(lǐng)域一個(gè)流行的“雞湯”口號(hào)是：在AI時(shí)代，你要讓你的孩子更加努力，否則就會(huì)被AI淘汰——但是對(duì)于絕大多數(shù)孩子來(lái)說(shuō)，即使再努力，尤其在特定的某個(gè)領(lǐng)域比如下圍棋等，能夠在與AI機(jī)器競(jìng)爭(zhēng)中獲勝嗎？如果教育不能提升智力的話，那么，就接受智能芯片植入大腦吧——但這與在體育競(jìng)賽中為提升體能而服用興奮劑有何區(qū)別？一個(gè)簡(jiǎn)單的道理是：不擇手段地提升人的體能、智能，并不符合人性的需要和目的，使人固有的潛在的體能、智能自由充分發(fā)揮出來(lái)，才是符合人性的需要和目的——當(dāng)今許多圍繞AI的流行認(rèn)知或說(shuō)辭，往往忽視了這個(gè)簡(jiǎn)單的道理。

總之，無(wú)論在普通大眾層面還是在專業(yè)精英層面，當(dāng)前全球范圍內(nèi)有關(guān)AI的認(rèn)知皆存在諸多混亂。總體看，一方面，把與AI相關(guān)的負(fù)面、消極影響完全歸咎于AI機(jī)器本身，片面地關(guān)注技術(shù)本身，而忽視操控、壟斷AI技術(shù)的大資本；另一方面，智能機(jī)器人能否發(fā)展到超越人類物種進(jìn)而消滅人類物種這種尚難確定的遠(yuǎn)期問(wèn)題，受到了過(guò)多的關(guān)注，而在資本框架下AI將造成大量失業(yè)等更現(xiàn)實(shí)的中期問(wèn)題，以及把AI武器化或把武器智能自動(dòng)化等更現(xiàn)實(shí)、更迫切的威脅，反而較少被關(guān)注。這種認(rèn)知狀況的意識(shí)形態(tài)后果是：“資本”不再是關(guān)注和斗爭(zhēng)的焦點(diǎn)，當(dāng)全球大眾只憂心忡忡于未來(lái)智能機(jī)器人威脅、消滅人類時(shí)，資本巨頭們就可以安全地悶聲發(fā)大財(cái)了。運(yùn)用馬克思生產(chǎn)工藝學(xué)批判，在理論闡釋上有助于克服關(guān)于AI認(rèn)知的神秘主義等傾向，在實(shí)踐觀照上則有助于克服“魯?shù)轮髁x”等傾向，最終有助于有效解決失業(yè)等中期社會(huì)問(wèn)題，增強(qiáng)人類團(tuán)結(jié)，為應(yīng)對(duì)AI的遠(yuǎn)期挑戰(zhàn)做好準(zhǔn)備。

(作者為中國(guó)社會(huì)科學(xué)院文學(xué)研究所研究員)

如何從歷史唯物主義來(lái)思考數(shù)字勞動(dòng)——數(shù)字資本主義下的數(shù)字勞動(dòng)批判研究

藍(lán) 江

數(shù)字技術(shù)、人工智能技術(shù)面臨的主要問(wèn)題，其實(shí)不是人是否會(huì)被技術(shù)所取代的問(wèn)題，或者說(shuō)由此而產(chǎn)生的我們?cè)诼殬I(yè)生涯中會(huì)不會(huì)遭遇下崗的問(wèn)題。其實(shí)，對(duì)于這些問(wèn)題的討論，需要我們對(duì)數(shù)字勞動(dòng)的進(jìn)一步思考，或者說(shuō)，從更復(fù)雜的角度分析，這不能將問(wèn)題簡(jiǎn)化為機(jī)器或人工智能是否取代人，因?yàn)樵谶@些問(wèn)題背后，最根本是如何重新理解數(shù)字勞動(dòng)的形式。

數(shù)字勞動(dòng)究竟是什么？在生活中表現(xiàn)得更為直接一點(diǎn)，比如原來(lái)工廠里面那種工作被稱作勞動(dòng)，也是亞當(dāng)·斯密、大衛(wèi)·李嘉圖甚至馬克思的論述中的勞動(dòng)，這種勞動(dòng)是脫離了具體生產(chǎn)活動(dòng)的抽象勞動(dòng)，這種抽象勞動(dòng)形成的價(jià)值是衡量生產(chǎn)和交換的根本形式。然而，在今天的數(shù)字技術(shù)的背景下，勞動(dòng)是否還是簡(jiǎn)單抽象勞動(dòng)的形式？因?yàn)閿?shù)字勞動(dòng)形式變了。以滴滴為例。有一次我從南大仙林校區(qū)打滴滴到機(jī)場(chǎng)，滴滴司機(jī)很快就來(lái)了，我十分好奇地問(wèn)司機(jī)：“你怎么反應(yīng)這么快，你究竟怎樣接到我這一單的？”他十分痛快，說(shuō)開滴滴的司機(jī)，在平臺(tái)這里都有一個(gè)積分，接到訂單并不是按照手速快而搶到的，而是平臺(tái)按照積分的高低，給一個(gè)區(qū)域內(nèi)的司機(jī)派單，比方說(shuō)，成這一單是從仙林到南京祿口機(jī)場(chǎng)，屬于優(yōu)質(zhì)單，平臺(tái)會(huì)按照積分順序分配給各個(gè)司機(jī)，而他在那個(gè)時(shí)間段，在仙林地區(qū)的分最高，自然就把我這一單派給他了。我又問(wèn)：“為什么不去機(jī)場(chǎng)接？機(jī)場(chǎng)那邊都是優(yōu)質(zhì)單，機(jī)場(chǎng)離南京市區(qū)這么遠(yuǎn)，隨便可以接到一個(gè)很遠(yuǎn)的單?！钡f(shuō)不行，機(jī)場(chǎng)那邊全部都是250分以上的人，沒達(dá)到那個(gè)分根本就搶不到訂單。我又問(wèn)：“你的積分怎么算呢？”司機(jī)說(shuō)：“比如我接你這一單可以拿0.3分，但我要拒了你的單，我要扣5分，我要做到十幾個(gè)你這個(gè)單，才能把我扣的分慢慢地掙回來(lái)?！边@個(gè)對(duì)司機(jī)來(lái)說(shuō)是不可接受的，或者為了掙回這個(gè)分，滴滴司機(jī)就不得不跑一些“差單”，有些單可能沒什么錢掙，但是會(huì)掙得平臺(tái)的分?jǐn)?shù)，比如周五晚高峰時(shí)期的鬧市區(qū)，在以往這樣的單是沒有的士司機(jī)愿意跑的，因?yàn)槎萝嚽抑挥衅鸩絻r(jià)，乘客給的錢還抵不上堵車耗費(fèi)的油錢。但是在今天可以打滴滴，對(duì)于一些想掙得高分，去跑優(yōu)質(zhì)單的司機(jī)來(lái)說(shuō)，雖然這種“差單”掙的錢沒有多少，甚至可能是虧錢，但可以拿額外的分?jǐn)?shù)，可以幫助他盡快接一些優(yōu)質(zhì)單。如果不能接到優(yōu)質(zhì)單，意味著這些司機(jī)只能在中低收入上徘徊，而想取得質(zhì)的突破，必須依賴少掙錢、多掙分的方式來(lái)讓自己的等級(jí)上升，從而躋身長(zhǎng)期接待優(yōu)質(zhì)單司機(jī)的行列。

在與司機(jī)聊天的時(shí)候，我突然意識(shí)到這個(gè)問(wèn)題不僅僅是掙分還是掙錢的問(wèn)題，而是一個(gè)平臺(tái)通過(guò)算法來(lái)控制每一個(gè)加入平臺(tái)的司機(jī)和乘客的問(wèn)題，每一個(gè)乘客都在不知情的情況下與特定分?jǐn)?shù)的司機(jī)匹配在一起。其實(shí)，不僅是滴滴，包括外賣騎手也有同樣的算法，那么在這里頭發(fā)生了一些什么事情？原來(lái)我從新街口打車到鼓樓，高峰時(shí)段是根本不可能有的士停下來(lái)的，這種情況下是什么“迫使”這些司機(jī)寧愿虧錢，或只賺基本油費(fèi)還要忍受堵車的低速慢慢走，仍然愿意接這種虧本單？是什么促成了這個(gè)行為？顯然，從傳統(tǒng)的政治經(jīng)濟(jì)學(xué)和單純的市場(chǎng)調(diào)節(jié)的方式來(lái)理解這些行為是存在問(wèn)題的，因?yàn)樵谒惴刂频氖澜缋?，貨幣或收入已?jīng)不再是調(diào)節(jié)市場(chǎng)行為的唯一因素，在以貨幣為中心的市場(chǎng)調(diào)節(jié)之下，多了一重調(diào)節(jié)機(jī)制，即以數(shù)據(jù)為中心的算法調(diào)節(jié)。

在這個(gè)基礎(chǔ)上，我們可以重新思考數(shù)字勞動(dòng)的可能性，換言之，原來(lái)被稱為勞動(dòng)的東西，之前是由貨幣決定的，今天卻被算法所控制，導(dǎo)致了以往僅僅從價(jià)值角度對(duì)勞動(dòng)設(shè)置的定義發(fā)生了轉(zhuǎn)變，因此，需要在今天的數(shù)字環(huán)境中重新審視勞動(dòng)的形式。今天的勞動(dòng)屬于新的規(guī)則下的一個(gè)大平臺(tái)，在這個(gè)規(guī)則下面最重要的甚至不是我們?cè)谑袌?chǎng)經(jīng)濟(jì)或者市民社會(huì)中的貨幣，貨幣是屬于市民社會(huì)的評(píng)價(jià)和度量的手段，但是在數(shù)字平臺(tái)上有了新的衡量手段，它甚至成為貨幣手段的根基，是今天用來(lái)衡量數(shù)字勞動(dòng)的一個(gè)很重要的指標(biāo)，包括去年外賣騎手事件中提到的數(shù)字勞動(dòng)問(wèn)題。外賣騎手之所以違反交通規(guī)則，他不是為了錢，而是為了掙分或者說(shuō)避免扣分，因?yàn)榭鄯謱?duì)他來(lái)說(shuō)是比扣錢更嚴(yán)重的事情。

今天，是人管機(jī)器還是機(jī)器管人，這其實(shí)對(duì)平臺(tái)的算法控制是非常次要的問(wèn)題，關(guān)鍵是今天形成了一個(gè)新的算法控制的社會(huì)，即所有人的生命必須要在這個(gè)算法平臺(tái)中重新展開。在市場(chǎng)經(jīng)濟(jì)時(shí)代，即在那個(gè)沒有被數(shù)字技術(shù)中介統(tǒng)治的時(shí)代，我們?nèi)匀灰詡€(gè)體的生命存在著，盡管每一個(gè)個(gè)體的生命是不一樣的，但至少在表面上肉體還是個(gè)人性的，我們?nèi)匀灰詡€(gè)體性的肉體存在參與社會(huì)交換的整個(gè)過(guò)程。但是在數(shù)字時(shí)代，這種肉身化的個(gè)體性已經(jīng)完全不一樣了，因?yàn)槲覀兇嬖诘膬r(jià)值不再是那具肉體，不再是不可分割的最后的個(gè)體性，個(gè)體成為被數(shù)據(jù)所轉(zhuǎn)化，被算法所計(jì)算的數(shù)據(jù)分體(dividual)，這些數(shù)據(jù)分體只有在算法進(jìn)行數(shù)據(jù)分析并獲得對(duì)應(yīng)的數(shù)值時(shí)才能具有價(jià)值。例如，高校教師對(duì)一個(gè)學(xué)校有沒有價(jià)值，并不取決于其讀過(guò)多少書，深入思考過(guò)多少問(wèn)題，而是取決于發(fā)了多少文章，拿了多少課題經(jīng)費(fèi)，得了什么級(jí)別的獎(jiǎng)勵(lì)等，這當(dāng)然也屬于算法系統(tǒng)。所以，我認(rèn)為，對(duì)于高校教師來(lái)說(shuō)，現(xiàn)在已經(jīng)不再是自己想研究什么就去研究什么的階段，一名教師從事的研究，必須在高校平臺(tái)算法中被重新評(píng)價(jià)，只有在這個(gè)算法中獲得對(duì)應(yīng)的值，這名教師才是真正有價(jià)值的存在。例如一位老師有國(guó)家重大課題，有重要的頭銜和稱號(hào)，自然在高校的算法系統(tǒng)中能取得優(yōu)越的地位；同樣，對(duì)于院系和專業(yè)來(lái)說(shuō)，其價(jià)值也取決于擁有多少這樣的人才，培育了多少優(yōu)秀的學(xué)生(優(yōu)不優(yōu)秀也是由平臺(tái)算法所決定的)，有多大的社會(huì)貢獻(xiàn)等。所有這一切都可以轉(zhuǎn)換為數(shù)據(jù)和算法，無(wú)論對(duì)于個(gè)體還是集體，其價(jià)值都是由數(shù)據(jù)化的分體決定的，他們成了這套算法中的一個(gè)值，而這個(gè)值決定了每一個(gè)數(shù)據(jù)對(duì)應(yīng)的個(gè)體或集體的地位和價(jià)值，所以，這才是我們今天必須面對(duì)的主要問(wèn)題。

另外，現(xiàn)在的網(wǎng)絡(luò)平臺(tái)給每個(gè)員工正規(guī)發(fā)全額工資的是非常少的，像起點(diǎn)網(wǎng)，甚至B站、youtube、推特等，他們的營(yíng)業(yè)收入絕對(duì)不是來(lái)自后臺(tái)的營(yíng)收，只有技術(shù)維護(hù)人員和營(yíng)銷人員是長(zhǎng)期發(fā)工資的，那么它們主要的收入來(lái)源在哪里？我從網(wǎng)絡(luò)平臺(tái)看上傳的視頻，然而做視頻的人從平臺(tái)根本得不到任何收入，他們的興趣在于制作的視頻又被點(diǎn)贊了，但制作視頻的確是一種勞動(dòng)，這個(gè)勞動(dòng)的價(jià)值僅僅是有多少人在關(guān)注。

現(xiàn)在我們的勞動(dòng)被數(shù)字平臺(tái)和算法結(jié)構(gòu)重新架構(gòu)了，這種架構(gòu)意味著現(xiàn)實(shí)的社會(huì)必須按照這個(gè)架構(gòu)重新分配和布局，這就是今天需要去重新思考的勞動(dòng)問(wèn)題核心所在。為什么需要思考數(shù)據(jù)和算法對(duì)我們?nèi)粘Ｉ畹闹匦录軜?gòu)？可以說(shuō)，人類最初的活動(dòng)是沒有任何區(qū)分的，人的活動(dòng)就是人的活動(dòng)，飲食是活動(dòng)，狩獵也是活動(dòng)，但是，是什么把勞動(dòng)和休閑區(qū)分開來(lái)？區(qū)分標(biāo)準(zhǔn)是什么？比如一個(gè)孩子喜歡自己動(dòng)手做弓箭，他可以自己沉浸其中，幾乎一天的時(shí)間都沉浸在砍竹子、打磨弓身、搓弦等“工作”中，實(shí)際上這對(duì)他是一種娛樂，但從另外角度來(lái)看，這當(dāng)然也是一種勞動(dòng)。在文明社會(huì)之前，人的活動(dòng)沒有被分成娛樂和生產(chǎn)勞動(dòng)兩個(gè)部分，只有在進(jìn)入一定程度的文明社會(huì)之后，甚至可以說(shuō)直至資本主義社會(huì)以后，一部分活動(dòng)符合資本的創(chuàng)造價(jià)值的要求，并在以貨幣為中心的價(jià)值體系下能夠衡量這種價(jià)值，這樣的人類活動(dòng)才被稱為勞動(dòng)。換句話說(shuō)，進(jìn)入數(shù)字時(shí)代，我們面對(duì)的問(wèn)題，資本主義社會(huì)定義勞動(dòng)的方式是以價(jià)值為根基，價(jià)值是衡量所有的勞動(dòng)的基本尺度，如果一項(xiàng)活動(dòng)能創(chuàng)造價(jià)值，那么該活動(dòng)即勞動(dòng)，反之，那些不能創(chuàng)造價(jià)值的活動(dòng)就是消費(fèi)，就是娛樂。

但是，在今天數(shù)字平臺(tái)上，還有另外一種區(qū)分方式——原來(lái)不視為勞動(dòng)的東西，可能今天也被叫作勞動(dòng)。因?yàn)槿斯ぶ悄芟到y(tǒng)有個(gè)很重要的基礎(chǔ)就是收集與分析數(shù)據(jù)，人工智能下面是框架，框架下面是數(shù)據(jù)，依靠大量的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和邊緣計(jì)算，才能夠讓人工智能存活下去，那么這個(gè)人工智能數(shù)據(jù)從哪里來(lái)呢？事實(shí)上，數(shù)據(jù)是我們每個(gè)人的活動(dòng)創(chuàng)造出來(lái)的，是每個(gè)人生活中所有的表現(xiàn)。現(xiàn)在講的人工智能，不僅僅是機(jī)器人的問(wèn)題，是我們跟周圍環(huán)境的互動(dòng)和關(guān)系化的問(wèn)題，它們被數(shù)據(jù)化，然后被機(jī)器學(xué)習(xí)的一些算法所掌握，最終才能發(fā)展成所謂的智能體。我們對(duì)環(huán)境的任何反應(yīng)都會(huì)變成人工智能的一種對(duì)應(yīng)關(guān)系，而不是簡(jiǎn)單地說(shuō)人和人工智能是彼此獨(dú)立的，人工智能在今天和我們已經(jīng)進(jìn)入一種共生關(guān)系之中，那么我們每次活動(dòng)實(shí)際上是在支持人工智能的發(fā)展，其實(shí)目的也在這里?，F(xiàn)在需要從今天的現(xiàn)實(shí)生活、我們正在經(jīng)歷的一切重新來(lái)思考勞動(dòng)是什么，不僅僅白領(lǐng)坐在辦公室寫文案才叫勞動(dòng)，今天的勞動(dòng)變成了在平臺(tái)和算法下的勞動(dòng)。

(作者為南京大學(xué)哲學(xué)系教授、博士研究生導(dǎo)師)

算法的邊界

吳 靜

數(shù)字與人文研究是我近年來(lái)的主要研究方向。今天，我們討論一下算法的邊界問(wèn)題，如何去看算法在社會(huì)組織層面產(chǎn)生的問(wèn)題，包括勞動(dòng)的規(guī)則問(wèn)題。我先分享一下這兩天看到的一則新聞和自己的一個(gè)體驗(yàn)。我平時(shí)除了開車以外，還比較喜歡用打車軟件，但是這兩天我發(fā)現(xiàn)用軟件打車特別困難，叫車的時(shí)間特別長(zhǎng)，在平臺(tái)叫車后它就會(huì)給你選擇，你可以選擇同時(shí)叫幾種車，有特惠快車、優(yōu)享、出租車。一般情況下，我不趕時(shí)間的話會(huì)選一個(gè)快車，但有的時(shí)候你會(huì)發(fā)現(xiàn)，叫了以后很長(zhǎng)時(shí)間到不了，然后你就會(huì)把優(yōu)享、專車、出租車都勾上，以確定在最短的時(shí)間內(nèi)叫上車，經(jīng)常價(jià)高的就被選上了。

這兩天我看到一則關(guān)于亞馬遜(Amazon)的報(bào)道，跟它有合作關(guān)系的一個(gè)63歲的代理司機(jī)接到平臺(tái)自動(dòng)算法給他發(fā)的一封信，通知他被解雇了。原因就是某一次，平臺(tái)根據(jù)算法在天亮之前派了一個(gè)送件給他，讓他送到某一個(gè)大廈去，但是他去了以后發(fā)現(xiàn)這個(gè)大廈在這個(gè)時(shí)間點(diǎn)之前根本就不開門，幾經(jīng)折騰聯(lián)系到大廈管理人員，說(shuō)讓他送到Amazon的快遞柜里去；他也去了，結(jié)果快遞柜故障怎么也打不開，導(dǎo)致延時(shí)，因此他苦心維持的積分瞬間被扣掉了很多，于是他就被解雇了。這些事件展現(xiàn)了一個(gè)事實(shí)，今天算法凌駕在整個(gè)社會(huì)之上并成了另外一種凝視的體系。我要強(qiáng)調(diào)的是：第一，我不反對(duì)人工智能，第二個(gè)我不反對(duì)算法。但我想問(wèn)的是，我們都知道算法在整個(gè)社會(huì)生活層面構(gòu)筑起新的評(píng)價(jià)標(biāo)準(zhǔn)，大家有沒有想過(guò)，為什么從組織、集體到個(gè)人依舊會(huì)愿意使用今天所有這一切智能軟件？或者說(shuō)就像是股市的原則一樣，用自愿的原則使自己加入這個(gè)體系。

在實(shí)際生活中，我們可能都會(huì)有這樣的操作經(jīng)歷，比如說(shuō)下載一個(gè)APP，然后注冊(cè)，點(diǎn)了以后一定要你勾選同意原則，不同意就沒有辦法進(jìn)入下一步，這個(gè)時(shí)候你基本不會(huì)細(xì)看的，直接就會(huì)勾選一個(gè)同意，然后才可以正常使用。仔細(xì)想想，發(fā)現(xiàn)實(shí)際上我們把自己主動(dòng)地交給算法，但是為什么會(huì)是這個(gè)樣子？算法技術(shù)又是以什么樣的方式進(jìn)入我們的生活當(dāng)中？我想無(wú)非是如下兩點(diǎn)：第一是利益，第二是方便、便捷。便捷性不用展開講，只要分析一下利益。今天，大量的APP搞各種營(yíng)銷活動(dòng)，比如瑞幸咖啡、滴滴打車、美團(tuán)等在最初推廣期間，全部使用補(bǔ)貼的方式，包括不掙錢的高積分派工模式，如此采用高補(bǔ)貼的方式，可以讓大量的服務(wù)提供者自愿進(jìn)入，在這個(gè)過(guò)程當(dāng)中大家都是在利益和便捷性原則的驅(qū)動(dòng)下，自愿進(jìn)入這個(gè)系統(tǒng)當(dāng)中。難道這就是算法真正的目的嗎？我們今天談到算法如何的時(shí)候，我們要去了解算法，知道算法要做什么，算法是如何做到這一切，而算法對(duì)我們的生活到底會(huì)有一個(gè)什么樣的長(zhǎng)遠(yuǎn)影響。我覺得這個(gè)不是從現(xiàn)象層面來(lái)考慮，算法跟我們?nèi)粘Ｌ幚矸绞降淖罨驹瓌t有所不同，算法把所有的問(wèn)題切割成一個(gè)個(gè)項(xiàng)目，讓所有事情都變得環(huán)節(jié)化。在這種環(huán)節(jié)化當(dāng)中，它就用可計(jì)算性的原則來(lái)對(duì)每一個(gè)環(huán)節(jié)精確量化，這也就是斯蒂格勒在他的《技術(shù)和時(shí)間》中提到的確定性原則。而確定性原則最基本的因素就是可計(jì)算性，也就是說(shuō)算法實(shí)際上通過(guò)這樣的方式凌駕于生活之上，實(shí)際上借用所有問(wèn)題的可計(jì)算性進(jìn)入生活當(dāng)中。從本質(zhì)而言，技術(shù)性實(shí)際上正是世界的確定性維度，作為現(xiàn)代性邏輯后果之一的技術(shù)話語(yǔ)的優(yōu)越地位，使得人本主義傳統(tǒng)中的非確定性維度被忽視或簡(jiǎn)化為非理性。而這種簡(jiǎn)單替換正是今天的大數(shù)據(jù)時(shí)代的統(tǒng)治邏輯。所以我們會(huì)發(fā)現(xiàn)那個(gè)被解雇的工人所遭遇的問(wèn)題不在算法考慮范圍之內(nèi)，算法只考慮你在某一個(gè)時(shí)間有沒有把我要求你送的東西送到位，算法設(shè)計(jì)者沒有考慮任何彈性。因?yàn)椋F(xiàn)在的定位、計(jì)時(shí)你都可以看得到。真正的算法只是一個(gè)框架，算法借助數(shù)據(jù)來(lái)完成事情，但是我們會(huì)發(fā)現(xiàn)數(shù)據(jù)算法語(yǔ)言本身和自然語(yǔ)言有類似性，它實(shí)際上是符號(hào)系統(tǒng)，但是這種符號(hào)系統(tǒng)都依賴于符碼能指和所指之間的關(guān)聯(lián)性。但問(wèn)題是在自然語(yǔ)言當(dāng)中，對(duì)于關(guān)聯(lián)性的這種追問(wèn)，對(duì)于能指的霸權(quán)，已經(jīng)在語(yǔ)言學(xué)、文化研究、人類學(xué)當(dāng)中得到重視。但在算法語(yǔ)言當(dāng)中，對(duì)于能指的這種追問(wèn)卻遠(yuǎn)遠(yuǎn)沒有進(jìn)行，因?yàn)槲覀儧]有對(duì)算法進(jìn)行批判性的反思，我們實(shí)際上還停留在問(wèn)題的表面即人被算法困在系統(tǒng)里。但是我們要追問(wèn)算法要實(shí)現(xiàn)的是什么，這一點(diǎn)值得重視。

技術(shù)不是在生活之外添加了一個(gè)新的維度，技術(shù)真正所要做的是改變世界，甚至是重構(gòu)我們存在和發(fā)問(wèn)的方式。最近有一部很火的科幻片《愛、死亡與機(jī)器人》，在這個(gè)故事當(dāng)中，技術(shù)所帶來(lái)的改變是全方位的，甚至我們今天講的倫理、存在，所有的這些問(wèn)題在新技術(shù)的沖擊之下全面被改寫。今天算法所要做的是用利益換規(guī)則，它要換的是對(duì)人類世界進(jìn)行重構(gòu)的規(guī)則方式。當(dāng)我們?yōu)榱吮憬菪?，為了利益看都不看就去勾選同意的時(shí)候，實(shí)際上我們已經(jīng)把規(guī)則的決定權(quán)讓給了算法，當(dāng)技術(shù)以“科技改善生活”作為口號(hào)和愿景不斷進(jìn)入生活，以至于在某些時(shí)候從輔助的工具中介變成了生活選擇本身的時(shí)候，生活面臨著被數(shù)字化再現(xiàn)的現(xiàn)實(shí)。而數(shù)字化的標(biāo)準(zhǔn)評(píng)價(jià)體系是否合理？這是需要重點(diǎn)注意的一點(diǎn)。不能因?yàn)槔婧捅憬荻尪晌覀儗?duì)這些問(wèn)題的思考。

今天看來(lái)，算法的目的實(shí)際上是要對(duì)人類行為作出預(yù)測(cè)，而這種預(yù)測(cè)背后是利潤(rùn)的問(wèn)題，那么這種預(yù)測(cè)本身實(shí)際上是在鉚定選擇的權(quán)利，于是算法造就了一個(gè)意義上的選擇，我自己把它叫作“選擇上的父愛主義”。它代替人來(lái)做選擇，但這里面就會(huì)提出另外一個(gè)問(wèn)題，人類的行為本身是不是能夠完全被剛性的算法所測(cè)量，或者說(shuō)所預(yù)測(cè)和衡量。我個(gè)人覺得是不可能的，但實(shí)際上它制造了一重邊界，這種邊界就是數(shù)字化，在數(shù)據(jù)算法的表現(xiàn)方式之外，其他方式的不可靠性。算法的預(yù)測(cè)方式是線性邏輯加相關(guān)性推測(cè)，它去除了所有情境化的因素。算法的運(yùn)行規(guī)則也同樣決定了數(shù)據(jù)化主體形象無(wú)法完成對(duì)真實(shí)主體的完整映射，而是排除了屬人的柔性屬性。算法的運(yùn)行規(guī)則來(lái)自形式邏輯，輸入的數(shù)據(jù)按照形式邏輯的分析、計(jì)算得出最終的信息，但是社會(huì)生活并不單純只有形式邏輯的一面，主體也并不會(huì)時(shí)時(shí)刻刻按照理性邏輯行事，理性邏輯不是主體的全部，也不可能滿足社會(huì)生活的全部需要。今天所有以數(shù)字算法為基礎(chǔ)的東西被當(dāng)作客觀的、科學(xué)的，所有不能夠數(shù)字化的東西被斥為邊緣，在這個(gè)當(dāng)中是不存在外部性的，不存在他者。所以算法數(shù)字化本身變成一個(gè)話語(yǔ)，甚至變成一個(gè)神話。前面講到的數(shù)據(jù)鴻溝，只能使用現(xiàn)金支付的老人也好，被數(shù)據(jù)化凝固的性別現(xiàn)象也好，我們會(huì)發(fā)現(xiàn)數(shù)字化本身在創(chuàng)造一種神話。神話的意義在于，除此之外，別無(wú)話語(yǔ)。于是，數(shù)字化就構(gòu)筑了今天我們感知世界的唯一的思考方式，或者說(shuō)它即將成為我們感知世界的一個(gè)方式。

今天，尤其在我們可能要全面進(jìn)入智能化的時(shí)候，我覺得重提人本主義十分重要。在所有那些屬于人的經(jīng)驗(yàn)當(dāng)中，偶然的、非數(shù)字化的、柔性的邊界是不是能夠被算法的剛性全部卡?。吭谂行悦鎸?duì)數(shù)據(jù)科學(xué)時(shí)我們必須追問(wèn)三個(gè)問(wèn)題：第一，由誰(shuí)來(lái)做？我們今天看到的技術(shù)權(quán)威，比如有一個(gè)調(diào)查顯示，在硅谷的職業(yè)性別構(gòu)成中男女性別的比例差異遠(yuǎn)遠(yuǎn)高于其他行業(yè)。而在硅谷之外，比如說(shuō)人力資源、前臺(tái)、市場(chǎng)等這些方面可能更多地吸納女性職員，那么核心技術(shù)崗位則以男性為主，所以實(shí)際上算法是由特定的人群來(lái)構(gòu)建的。第二，為了誰(shuí)？算法要構(gòu)筑什么樣新的規(guī)則，它是一個(gè)效率優(yōu)先的規(guī)則。但效率優(yōu)先是不是社會(huì)唯一的取向？第三，體現(xiàn)誰(shuí)的利益？我覺得這三個(gè)問(wèn)題是我們?cè)谂行缘孛鎸?duì)數(shù)據(jù)世界的時(shí)候一定要把握住的問(wèn)題。今天人文學(xué)者需要為此發(fā)聲，但是我覺得那些做技術(shù)的學(xué)者，那些實(shí)務(wù)操作人員更需要面對(duì)這個(gè)問(wèn)題。因?yàn)樵谶@個(gè)意義上來(lái)講，在整個(gè)算法的建構(gòu)過(guò)程中，數(shù)據(jù)世界實(shí)際上是一個(gè)獨(dú)立的封閉空間，它打破了象征界需要不斷地向?qū)嵲诮缢莼剡@樣一種動(dòng)態(tài)反思，從而構(gòu)筑起數(shù)字的全部霸權(quán)可能。那么從這個(gè)意義上來(lái)講，它實(shí)際上是齊澤克的“逆事件”，因?yàn)檎鎸?shí)已經(jīng)被用數(shù)據(jù)來(lái)衡量，真實(shí)本身跟人的體驗(yàn)無(wú)關(guān)，只跟數(shù)據(jù)的捕獲和問(wèn)題式有關(guān)。數(shù)據(jù)重構(gòu)的是對(duì)真實(shí)的標(biāo)準(zhǔn)性的一個(gè)判斷。在一個(gè)由數(shù)據(jù)和算法重構(gòu)的世界里，如何來(lái)把握自身，或者說(shuō)把握數(shù)據(jù)和真實(shí)的距離，是今后必須思考和面對(duì)的現(xiàn)實(shí)問(wèn)題。

(作者為南京師范大學(xué)公共管理學(xué)院教授、博士研究生導(dǎo)師)

反思司法人工智能

鄭 曦

為什么討論今天的這個(gè)話題？很多人覺得，所謂司法，無(wú)論刑事訴訟或者民事訴訟，似乎跟自己的距離都很遠(yuǎn)，仿佛自己做個(gè)良民、不干壞事，司法就與自己無(wú)關(guān)了。然而沈家本先生有言，“刑訴律不善，雖良民亦罹其害”。每個(gè)人都可能在錯(cuò)誤的時(shí)間出現(xiàn)在錯(cuò)誤的地點(diǎn)，從而與司法發(fā)生關(guān)系。倘若在此種情況下，有權(quán)定罪量刑甚至剝奪生命的不是作為法官的人，而是作為法官的機(jī)器，那么會(huì)帶來(lái)什么樣的后果呢？

人工智能運(yùn)用于司法，從某種程度上來(lái)說(shuō)是必然之事，因?yàn)槿斯ぶ悄茉谏鐣?huì)生活各個(gè)方面的運(yùn)用已經(jīng)是一個(gè)不可逆轉(zhuǎn)的時(shí)代潮流，司法本身是社會(huì)生活的一部分，它顯然不能脫離這種時(shí)代潮流。各個(gè)法院、檢察院都面臨著案多人少的問(wèn)題，先看一個(gè)數(shù)據(jù)，2018年全國(guó)各級(jí)地方人民法院和專門人民法院受理的案件數(shù)已經(jīng)達(dá)到2800萬(wàn)件，大家可以猜想每一位法官大概每年要辦理多少案件。在這種情況下，高層的想法是通過(guò)人工智能等技術(shù)的引入來(lái)提高效率，因此當(dāng)前人工智能的運(yùn)用在司法領(lǐng)域已很常見。比如上海高級(jí)人民法院在科大訊飛協(xié)助下開發(fā)的206人工智能輔助辦案系統(tǒng)，就有量刑輔助、類案推送、證據(jù)校驗(yàn)等功能。而在國(guó)外，人工智能在司法領(lǐng)域的運(yùn)用也不少見。2016年歐洲有一個(gè)報(bào)告稱，其調(diào)查的四十多個(gè)國(guó)家的司法系統(tǒng)中都在一定程度上運(yùn)用了人工智能技術(shù)，只不過(guò)運(yùn)用的程度有所不同。美國(guó)幾年前有一個(gè)著名的案件，叫盧米斯訴威斯康星州案，此案中的量刑裁判是依據(jù)一個(gè)叫COMPAS的人工智能工具所做的被告人社會(huì)危險(xiǎn)性評(píng)估報(bào)告，該案的被告人就認(rèn)為由于人工智能算法不公開，他的憲法性權(quán)利——對(duì)質(zhì)權(quán)沒有能夠得到保障，盡管在這個(gè)案件中他最終敗訴，但他提出的問(wèn)題還是引發(fā)了激烈的爭(zhēng)論。

現(xiàn)在運(yùn)用于司法的人工智能面臨著一些問(wèn)題。第一個(gè)問(wèn)題是法律人與技術(shù)之間的隔絕關(guān)系。搞法律的不懂技術(shù)，搞技術(shù)的不懂法律，這樣一來(lái)就可能出現(xiàn)兩套話語(yǔ)體系，甚至是“雞同鴨講”，使得運(yùn)用于司法的人工智能技術(shù)總有種抓不住點(diǎn)的感覺。第二個(gè)問(wèn)題是對(duì)人工智能的研究存在一些誤區(qū)。有的人已經(jīng)在研究人工智能的主體地位，甚至怎么把人工智能看待為人這樣的問(wèn)題，這種問(wèn)題就不免太超前了一些。目前人工智能還處于弱人工智能階段，甚至有一些偽人工智能混雜其中，它真的能夠代替人嗎？目前看來(lái)，短期內(nèi)恐怕這種可能性還是很低的，如果真的有一天人工智能超過(guò)了人類，那么那個(gè)時(shí)候人類恐怕也沒有能力去研究人工智能的權(quán)利保障、主體地位之類的問(wèn)題了，人類首先要做的恐怕是怎么讓自己存活下去，就像《黑客帝國(guó)》里一樣。第三個(gè)問(wèn)題是理念方面的偏差。因?yàn)榘▽?duì)人工智能在內(nèi)的科學(xué)研究，其基本方法之一就是試錯(cuò)，也就是說(shuō)，技術(shù)的發(fā)展是以大量的錯(cuò)誤為成本的，但是這個(gè)成本是司法承受不起的。因?yàn)樗痉ㄖ幸坏┌l(fā)生錯(cuò)誤，就可能導(dǎo)致錯(cuò)誤的羈押，甚至錯(cuò)誤的人頭落地，因?yàn)樗痉ㄊ潜Ｕ瞎秸x的最后一道防線，一旦這道防線被突破其后果不堪設(shè)想。因此技術(shù)和司法之間在理念上存在一些差異，錯(cuò)誤成本的承擔(dān)方式也有所不同。

在這樣的現(xiàn)實(shí)下，人工智能運(yùn)用于司法可能會(huì)帶來(lái)幾方面的風(fēng)險(xiǎn)：

第一個(gè)風(fēng)險(xiǎn)是影響公正。刑事訴訟最基礎(chǔ)的一個(gè)原則是無(wú)罪推定，所謂無(wú)罪推定，就是說(shuō)任何人在被法院正式判定有罪之前，在法律上都被推定為無(wú)罪。用老百姓的話說(shuō)，即便你被公安機(jī)關(guān)抓走了，即便你被檢察機(jī)關(guān)起訴了，在沒有被法院定罪之前，在法律上你還是無(wú)罪的。無(wú)罪推定的意義在于，一方面保障公民的基本權(quán)利，另一方面明確證明你有罪的責(zé)任由控方承擔(dān)。但是人工智能一旦運(yùn)用于司法，就可能損害無(wú)罪推定原則，因?yàn)樵诨ヂ?lián)互通的背景下，數(shù)據(jù)會(huì)從公安機(jī)關(guān)傳輸?shù)椒ㄔ?，那么從偵查中形成的有罪推定的傾向也有可能被推送給法院，讓法官形成先入為主的有罪認(rèn)定，這樣就可能導(dǎo)致錯(cuò)誤的判決，造成司法不公正的情形。

第二個(gè)風(fēng)險(xiǎn)是公民的訴訟權(quán)利可能會(huì)受到很大的影響。例如在剛才提到的盧米斯訴威斯康星州案中，公民的對(duì)質(zhì)權(quán)就因?yàn)樗惴ú还_而受到了影響?，F(xiàn)在有的學(xué)者認(rèn)為人工智能會(huì)被打造成一個(gè)強(qiáng)勢(shì)的裁判者，甚至創(chuàng)造出所謂的“阿爾法法官”，實(shí)際上這種可能性并不大。但是人工智能的運(yùn)用確實(shí)會(huì)對(duì)控辯雙方的力量對(duì)比產(chǎn)生影響，進(jìn)一步加劇控辯雙方的不平等。因?yàn)榭胤?，無(wú)論是檢察院還是公安機(jī)關(guān)，都在運(yùn)用各自的人工智能工具，具有收集數(shù)據(jù)、運(yùn)用數(shù)據(jù)的強(qiáng)大能力，而且這種能力是以國(guó)家資源投入為支撐的。而作為犯罪嫌疑人、被告人，普通公民顯然沒有這種能力，包括專業(yè)知識(shí)能力，也包括經(jīng)濟(jì)能力。這樣一來(lái)，我們努力提倡了幾十年的控辯平等原則，可能在人工智能的運(yùn)用下被突破掉了。人工智能的運(yùn)用使得原本就不平等的控辯關(guān)系變得更加不平等，比如控方可以掌握并使用幾百個(gè)TB的數(shù)據(jù)，讓犯罪嫌疑人、被告人一方淹沒在海量的數(shù)據(jù)中，用形式的平等去掩蓋實(shí)質(zhì)的不平等，這種情況在一些國(guó)家已經(jīng)發(fā)生過(guò)了。

第三個(gè)比較大的風(fēng)險(xiǎn)是對(duì)裁判權(quán)的影響。裁判權(quán)是定罪量刑的權(quán)利，這是一種國(guó)家獨(dú)占的權(quán)力。然而在人工智能運(yùn)用于司法裁判的過(guò)程中，由于前面提到的法律人與技術(shù)之間的隔離關(guān)系，我們必須把技術(shù)的部分給外包出去，比如讓科大訊飛、騰訊這樣的科技企業(yè)去做應(yīng)用、做軟件、設(shè)計(jì)算法。然而問(wèn)題是，這種外包僅僅是技術(shù)工作的外包還是可能把一部分裁判權(quán)給外包出去？比如在設(shè)計(jì)算法的時(shí)候，技術(shù)人員很可能把一些他們自己的觀念、想法甚至固有成見注入軟件或算法中去。作為一個(gè)人工智能算法的研發(fā)人員，我對(duì)LGBT群體(10)LGBT是女同性戀者(Lesbian)、男同性戀者(Gay)、雙性戀者(Bisexual)、跨性別者(Transgender)的縮寫，特指性少數(shù)群體。抱有歧視，就可能把這種觀念體現(xiàn)在算法中，使得LGBT群體在裁判中吃虧。還有，作為科技企業(yè)，在設(shè)計(jì)關(guān)于商業(yè)案件的人工智能時(shí)，也會(huì)盡可能搞出在日后自己可能涉訴的案件中有利的算法，從中獲益。這樣一來(lái)，我們就擔(dān)心技術(shù)的外包會(huì)導(dǎo)致裁判權(quán)的實(shí)際外包，疑惑到底是法官的裁判還是技術(shù)人員的裁判？另外，資本具有天然的逐利性。技術(shù)的進(jìn)步是時(shí)代的必然，資本的逐利性也是一種必然，這兩種必然一旦結(jié)合就可能使得人工智能司法時(shí)產(chǎn)生問(wèn)題。資本的逐利性和司法追求公平正義的目標(biāo)之間是存在沖突的，我們就不得不警惕資本的逐利性加上人工智能運(yùn)用后的裁判權(quán)實(shí)際外包，會(huì)導(dǎo)致司法公正方面出現(xiàn)偏差。

對(duì)于法官而言，還有一個(gè)很現(xiàn)實(shí)的問(wèn)題?，F(xiàn)在推行司法責(zé)任制，審理者裁判、裁判者負(fù)責(zé)，也就是說(shuō)這案子是誰(shuí)判的，那么后續(xù)發(fā)現(xiàn)錯(cuò)誤就由誰(shuí)來(lái)?yè)?dān)責(zé)，而且這種責(zé)任追究是終身的，一旦案子判錯(cuò)了，可能法官要面臨終身追責(zé)。一旦運(yùn)用人工智能，到底案子算誰(shuí)判的？法官判的，還是人工智能判的？發(fā)現(xiàn)錯(cuò)誤了算誰(shuí)的？算法官的，那法官說(shuō)我冤死了；算人工智能的，那人工智能就可能成了法官“甩鍋”的對(duì)象。怎么辦呢？

第一是要對(duì)人工智能作合理的定位。要明確一點(diǎn)，就是人工智能在司法裁判中永遠(yuǎn)只能作為一個(gè)輔助性工具，絕對(duì)不能取代人的裁判。裁判永遠(yuǎn)是人的事兒，對(duì)一個(gè)人的生命、自由、財(cái)產(chǎn)這些最為重要的權(quán)利的剝奪，必須是由人作出的，必須是人的理性的產(chǎn)物，而不能把這種權(quán)力交給機(jī)器。人工智能在此過(guò)程中可以承擔(dān)一些輔助性的工作，比如類案推送、語(yǔ)音識(shí)別，但是最終決定性的裁判權(quán)絕對(duì)不能交給人工智能。

第二是在人工智能的適用范圍上應(yīng)進(jìn)行嚴(yán)格的限制。刑事案件涉及公民生命、自由、財(cái)產(chǎn)這種核心利益，那么適用人工智能時(shí)就要更嚴(yán)格一些，相關(guān)的限制也就要多一些。人工智能一般只能用在司法行政工作方面，在審判中最多提供一些量刑的建議和證據(jù)使用的建議。也就是說(shuō)，我們對(duì)人工智能的適用范圍要嚴(yán)格設(shè)限，別讓人工智能的運(yùn)用替代人的審判，另外，對(duì)于人工智能作出的結(jié)論也只能供法官參考，法官不能依賴于人工智能。

第三是要加強(qiáng)對(duì)公民權(quán)利的保障。在訴訟中，當(dāng)事人的權(quán)利保障，特別是刑事案件中犯罪嫌疑人、被告人的權(quán)利保障，是司法公正永恒的主題。特別是在刑事訴訟中，是一場(chǎng)公民個(gè)人對(duì)抗國(guó)家的“戰(zhàn)爭(zhēng)”。如果沒有權(quán)利的保障，那么就會(huì)出現(xiàn)一邊倒的局面，司法中的說(shuō)理和辯論就很難實(shí)現(xiàn)了。在人工智能運(yùn)用的背景下，司法中對(duì)公民的權(quán)利保障就應(yīng)該進(jìn)一步加強(qiáng)。首先，我們應(yīng)當(dāng)考慮有限的算法公開。其實(shí)這是個(gè)很復(fù)雜的問(wèn)題，因?yàn)樗惴ü_涉及各個(gè)方面的利益，比如科技企業(yè)就會(huì)擔(dān)心算法一旦公開了，他們的知識(shí)產(chǎn)權(quán)難以得到保障，進(jìn)而他們的商業(yè)利益就會(huì)受損。前面提到，企業(yè)逐利是本能，也具有合理性，一味讓他們作出讓步或者犧牲，既不現(xiàn)實(shí)，也會(huì)傷害他們的研發(fā)動(dòng)力，不符合市場(chǎng)經(jīng)濟(jì)的要求。但是算法公開對(duì)于保障公民權(quán)利是有利的，通過(guò)算法公開，辯方可以質(zhì)疑算法，反對(duì)它作出的結(jié)論。這樣就需要二者進(jìn)行平衡，實(shí)施有限的算法公開，僅公開其中部分與裁判結(jié)果關(guān)系最密切的內(nèi)容，還可以通過(guò)與當(dāng)事人簽署保密協(xié)議等方式進(jìn)行算法公開。其次，要運(yùn)用專家輔助人制度。司法機(jī)關(guān)用人工智能，但是當(dāng)事人沒有這個(gè)技術(shù)能力，為保障控辯平等，就可以通過(guò)刑事訴訟法、民事訴訟法規(guī)定的專家輔助人制度，讓專家輔助人為當(dāng)事人提供專業(yè)的幫助，通過(guò)其扮演的更為積極的角色，填平人工智能帶來(lái)的專業(yè)知識(shí)方面的鴻溝。最后，應(yīng)當(dāng)賦予當(dāng)事人一些數(shù)據(jù)權(quán)利。當(dāng)事人在司法領(lǐng)域中也是數(shù)據(jù)主體，那么作為數(shù)據(jù)主體，他們的個(gè)人數(shù)據(jù)被司法機(jī)關(guān)使用，成為人工智能運(yùn)行的原料，那么數(shù)據(jù)主體自身就應(yīng)當(dāng)享有相應(yīng)的數(shù)據(jù)權(quán)利去與司法機(jī)關(guān)抗衡，包括數(shù)據(jù)訪問(wèn)權(quán)、反對(duì)權(quán)、更正權(quán)、被遺忘權(quán)之類的，這些積極主動(dòng)的權(quán)利能夠在一定程度上實(shí)現(xiàn)對(duì)公權(quán)力的制約，防止其濫用。

第四是要在司法和企業(yè)之間建立一定的隔離。盡管在人工智能運(yùn)用的場(chǎng)景下司法輔助性工作的外包已經(jīng)十分常見了，中央對(duì)此也持肯定態(tài)度，但是外包之后仍然有必要在司法和技術(shù)之間、司法機(jī)關(guān)和科技企業(yè)之間、司法人員和技術(shù)人員之間作一定的隔離。一是人員的分離。司法人員是司法人員，技術(shù)人員是技術(shù)人員，盡管有合作關(guān)系，但不要混同。比如在研發(fā)206系統(tǒng)時(shí)，科大訊飛派了好多技術(shù)人員來(lái)法院搞研發(fā)，但他們?nèi)詢H僅是技術(shù)人員。二是利益的分離。人工智能運(yùn)用于司法裁判，國(guó)家投入大量資金，這里面就有巨大的利益關(guān)系。在這種情況下，要防止司法機(jī)關(guān)和企業(yè)出現(xiàn)利益的混同，特別是在招投標(biāo)這些環(huán)節(jié)一定要注意，防止雙方勾結(jié)侵吞國(guó)帑，也要防止某些企業(yè)用低技術(shù)水平的“偽人工智能”騙錢。三是職司的分離。裁判權(quán)是國(guó)家的權(quán)力，不能由企業(yè)或技術(shù)人員去行使，二者要有明顯的隔離，防止國(guó)家獨(dú)占的裁判權(quán)旁落。

(作者為北京外國(guó)語(yǔ)大學(xué)法學(xué)院教授、博士研究生導(dǎo)師)

數(shù)字剝削與社會(huì)正義

秦子忠

一、剝削及其不正義

在馬克思關(guān)于剝削的標(biāo)準(zhǔn)論述中，工人由于沒有生產(chǎn)資料而被迫出賣自己的勞動(dòng)力，資本家則由于占有生產(chǎn)資料，因而不僅控制工人的勞動(dòng)力，還無(wú)償?shù)卣加泄と松a(chǎn)的剩余價(jià)值。馬克思的剝削理論包含三個(gè)不同方面的邏輯。第一個(gè)方面是工人處于生產(chǎn)資料不平等分配的末端，第二個(gè)方面是工人被迫按照別人的要求去工作，第三個(gè)方面是工人被迫把他的剩余勞動(dòng)產(chǎn)品轉(zhuǎn)讓給他人。問(wèn)題是，這三個(gè)方面中的哪一個(gè)使得剝削不是正義的？在回答這個(gè)問(wèn)題之前，我們需要先說(shuō)明一下馬克思的正義觀。

依據(jù)馬克思的相關(guān)文本，他關(guān)于正義的理解，其基本義或是G.A.科恩所說(shuō)的某種平等觀，或是給予每個(gè)人以其應(yīng)得，或是一般而言的不偏不倚。盡管這三者的內(nèi)涵并非固定不變，也不能相互等同，但是它們?cè)诜磳?duì)單向性偏愛上具有家族相似性。

據(jù)此而言，上面提到的第三個(gè)方面，即工人被迫把他的剩余勞動(dòng)產(chǎn)品轉(zhuǎn)讓給資本家，使得剝削不是正義的。因?yàn)楣と吮黄劝阉氖Ｓ喈a(chǎn)品轉(zhuǎn)讓給資本家是一種單向性轉(zhuǎn)移，從而導(dǎo)致了社會(huì)財(cái)富的兩極分化，違背了正義的基本義，即它使得工人處在不平等的劣勢(shì)地位，或者沒有給予工人以其應(yīng)得，或者違背了不偏不倚的觀念。上面提到的第一個(gè)方面，即工人處于生產(chǎn)資料不平等分配的末端，也使得剝削不是正義的。因?yàn)閺臍v史來(lái)看，工人處于生產(chǎn)資料不平等分配的末端，是由于在工人這個(gè)身份產(chǎn)生的過(guò)程中他們?cè)馐芰瞬徽x對(duì)待；也因?yàn)閺倪壿媮?lái)看，第三個(gè)方面是由第一個(gè)方面引起的，因此當(dāng)?shù)谌齻€(gè)方面存在如上所述的社會(huì)財(cái)富單向性轉(zhuǎn)移意義上的不正義時(shí)，第一個(gè)方面也不是正義的(因?yàn)樗鼘?dǎo)致了不正義的后果)。至于上面提到的第二個(gè)方面，它不一定產(chǎn)生剝削情況，因?yàn)楣と吮黄葟氖聞趧?dòng)不一定產(chǎn)生價(jià)值。

二、數(shù)字技術(shù)與馬克思主義分析框架

當(dāng)前由互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、算法等數(shù)字技術(shù)驅(qū)動(dòng)的AI在多個(gè)領(lǐng)域正在取代人類個(gè)體。這個(gè)取代如果持續(xù)下去的話，就觸及這樣的極限場(chǎng)景，即所有人類意義上的工人都被取代了，由此引出了兩種情況。第一種情況，所有人類個(gè)體成了多余人，AI在全領(lǐng)域取代了人類的勞動(dòng)力。在這個(gè)意義上，標(biāo)準(zhǔn)表述中的剝削不存在了，因?yàn)樽鳛閷?shí)體的工人不存在，作為其衍生物的剝削也就不存在了。第二種情況，人類的體力和可重復(fù)的腦力都被AI取代了，而那些沒有被取代的腦力，比如創(chuàng)新能力，在AI賦能下得以增強(qiáng)，由此AI成為未來(lái)社會(huì)的“工人”，而人類成為“資本家”，但由于AI不是人類，所以這個(gè)時(shí)候即便存在剝削的結(jié)構(gòu)，但它并不是真正的剝削。

在這兩種情況中，剝削都不存在，或者成為沒有意義的概念。這里，就剝削的最終消失而言，這兩種情況都符合馬克思的唯物史觀所指向的共產(chǎn)主義景象，但是剝削消失的具體路徑與馬克思的經(jīng)典分析不同。馬克思認(rèn)為，剝削的消失是工人與資本家之間階級(jí)斗爭(zhēng)不可調(diào)和的結(jié)果。而在這里，剝削的消失在第一種情況中是由于AI的替代導(dǎo)致人類喪失了參與生產(chǎn)性活動(dòng)的資格，人類的勞動(dòng)能力對(duì)社會(huì)財(cái)富生產(chǎn)已無(wú)貢獻(xiàn)；第二種情況是由于AI的替代導(dǎo)致人類整體上擺脫了一部分人剝削另一部分人的社會(huì)關(guān)系，人類的勞動(dòng)能力依然對(duì)社會(huì)財(cái)富生產(chǎn)有貢獻(xiàn)。相較而言，第二種情況比第一種情況更符合馬克思關(guān)于剝削消失過(guò)程中人類個(gè)體的處境，即人類個(gè)體的勞動(dòng)能力不僅具有存在論意義上的價(jià)值，也具有促進(jìn)社會(huì)發(fā)展的勞動(dòng)價(jià)值。當(dāng)然，這兩種情況都是極限場(chǎng)景?，F(xiàn)在我們過(guò)渡到現(xiàn)實(shí)場(chǎng)景。

目前，AI對(duì)人類個(gè)體的取代是局部性的，并且人類在AI的賦能之下強(qiáng)化了自身那一部分不可替代的能力。不過(guò)個(gè)體意義上的原始數(shù)據(jù)是否有價(jià)值，有兩種不同的分析進(jìn)路。第一種進(jìn)路認(rèn)為，個(gè)體意義上的原始數(shù)據(jù)不具有價(jià)值，但是在數(shù)字工程師的處理之下能夠產(chǎn)生價(jià)值，由此數(shù)據(jù)工程師依然處在這個(gè)雇傭體系中，遭受著平臺(tái)資本家的剝削。第二種進(jìn)路認(rèn)為，個(gè)體意義上的原始數(shù)據(jù)是有價(jià)值的，只是它的價(jià)值被忽視了?；ヂ?lián)網(wǎng)用戶瀏覽、點(diǎn)擊、書寫網(wǎng)頁(yè)等在線活動(dòng)產(chǎn)生的原始數(shù)據(jù)是有價(jià)值的，因此，剝削不僅發(fā)生在工作領(lǐng)域，也發(fā)生在閑暇領(lǐng)域，受到剝削的不僅有人數(shù)較少的數(shù)據(jù)工程師，而且還包括人數(shù)較多的普通網(wǎng)民。

以上兩種進(jìn)路雖然有所不同，但它們都承認(rèn)大數(shù)據(jù)時(shí)代仍然存在著剝削，并且就其結(jié)構(gòu)特征而言，以前面表述中的剝削作為參照，它的變與不變體現(xiàn)在三個(gè)方面。第一，“工人處于生產(chǎn)資料不平等分配的末端”這一方面沒有改變，即普通網(wǎng)民相對(duì)于平臺(tái)資本家仍處在數(shù)字生產(chǎn)資料不平等分配的末端。第二，“工人被迫按照別人的要求去工作”這一方面有所改變，被迫變得更加柔化、隱蔽，甚至網(wǎng)民的在線活動(dòng)看起來(lái)是自由的。第三，“工人被迫把他的剩余勞動(dòng)產(chǎn)品轉(zhuǎn)讓給他人”這一方面在趨勢(shì)上或者在轉(zhuǎn)變過(guò)程上沒有改變，但是剩余產(chǎn)品的內(nèi)容發(fā)生了改變，比如物質(zhì)產(chǎn)品變成了數(shù)字產(chǎn)品。

據(jù)此而言，在大數(shù)據(jù)時(shí)代，剝削的第一個(gè)方面和第三個(gè)方面在形式上仍然保持不變，因此上文所述的剝削與不正義之間的關(guān)系也仍然保持不變。在這個(gè)意義上，由極限場(chǎng)景和現(xiàn)實(shí)場(chǎng)景共同界定的分析框架可以被看作馬克思主義的。但是由于第三個(gè)方面在內(nèi)容上有所改變，工人的內(nèi)涵也隨之發(fā)生變化，大數(shù)據(jù)時(shí)代的剝削及其不正義變得更加隱蔽。

上面的論述是模式化的，它為我們接下來(lái)考察大數(shù)據(jù)時(shí)代的剝削問(wèn)題提供了一個(gè)馬克思主義分析框架。具體而言，極限場(chǎng)景提供了理論研究指向的兩種終點(diǎn)，分別由第一種情況和第二種情況界定，現(xiàn)實(shí)場(chǎng)景提供了理論研究的兩種起點(diǎn)，分別由第一種進(jìn)路和第二種進(jìn)路界定。兩種終點(diǎn)與兩種起點(diǎn)，共有四種組合，即第一種進(jìn)路與第一種情況的組合，第一種進(jìn)路與第二種情況的組合，第二種進(jìn)路與第一種情況的組合，第二種進(jìn)路與第二種情況的組合，由此這個(gè)分析框架有四種具體形態(tài)。我主張個(gè)體意義上的原始數(shù)據(jù)是有價(jià)值的，因此包含第一種進(jìn)路的前兩種組合不在我的考慮范圍之內(nèi)；又因?yàn)槲抑鲝堅(jiān)谌祟愓w進(jìn)入自由勞動(dòng)可以實(shí)現(xiàn)的歷史階段，人類的勞動(dòng)能力在AI賦能后可以對(duì)人類社會(huì)發(fā)展有貢獻(xiàn)，所以在剩下的后兩種組合中，我只需考慮第二種進(jìn)路和第二種情況的組合。這個(gè)組合大體上界定我理解大數(shù)據(jù)時(shí)代剝削問(wèn)題的理論視野。下面，我依據(jù)這個(gè)視野，闡釋大數(shù)據(jù)時(shí)代剝削的多重性以及相應(yīng)的正義主張。

三、剝削的多重性與社會(huì)正義

在資本主義早期，人類生活空間的工作領(lǐng)域與閑暇領(lǐng)域日漸分化，而工作日大體上就是工人在工作領(lǐng)域勞動(dòng)的時(shí)間長(zhǎng)度。但是在大數(shù)據(jù)時(shí)代，工作領(lǐng)域和閑暇領(lǐng)域的界限已經(jīng)模糊或相互滲透，因此工作日是否仍為一個(gè)解釋力有效的概念，有待研究。讓我們從考察馬克思的工作日概念開始。

在《資本論》中，馬克思把工作日作為一個(gè)核心概念予以考察。他不僅將“工作日”單列為一章，而且他的勞動(dòng)理論、剩余價(jià)值理論、剝削理論都和工作日概念相關(guān)。馬克思如此界定工作日：他用線段ab表示必要?jiǎng)趧?dòng)時(shí)間的長(zhǎng)度，線段bc表示剩余勞動(dòng)時(shí)間的長(zhǎng)度，由此一個(gè)工作日的長(zhǎng)度就等于ab+bc，如下：

工作日
a——b——c

根據(jù)這一界定，延長(zhǎng)工作時(shí)間就是絕對(duì)剩余價(jià)值的生產(chǎn)方式。不過(guò)，這種延長(zhǎng)遭受人類身體自然承受力的限制與人類文化道德的限制。提高勞動(dòng)效率，從而在工作時(shí)間不變條件下縮短必要?jiǎng)趧?dòng)時(shí)間ab，即b點(diǎn)向a點(diǎn)移動(dòng)，則是相對(duì)剩余價(jià)值的生產(chǎn)方式。從歷史上來(lái)看，資本家對(duì)剩余價(jià)值的最大化追求，主要通過(guò)提高勞動(dòng)效率來(lái)實(shí)現(xiàn)。在這個(gè)進(jìn)程中，工作時(shí)間ac表現(xiàn)為歷史性縮短(比如從14小時(shí)縮短為9小時(shí))，因而工人能夠享受一定量的閑暇時(shí)間。但是由于工作場(chǎng)地、技術(shù)水平等條件限制，人類個(gè)體在工作時(shí)間通常只能受雇于某一個(gè)資本，并且他們?cè)陂e暇時(shí)間中的活動(dòng)不產(chǎn)生價(jià)值。

當(dāng)技術(shù)迭代升級(jí)，人們跨入由大數(shù)據(jù)、云計(jì)算、算法等驅(qū)動(dòng)的數(shù)字技術(shù)時(shí)代，人類生活空間也隨之發(fā)生結(jié)構(gòu)性變化。在數(shù)字技術(shù)驅(qū)動(dòng)下，工作領(lǐng)域數(shù)字化，閑暇領(lǐng)域也數(shù)字化。由此，人類個(gè)體不論工作抑或休閑，一般而言都置身于互聯(lián)網(wǎng)之中，參與原始數(shù)據(jù)的生產(chǎn)。因?yàn)殚e暇時(shí)間也存在數(shù)字勞動(dòng)，并且產(chǎn)生價(jià)值，所以需要重構(gòu)馬克思的工作日概念，即把已存在數(shù)字勞動(dòng)的閑暇時(shí)間加進(jìn)來(lái)，以便能夠?qū)Υ髷?shù)據(jù)時(shí)代的剝削有更加全面的把握，如此就得到一個(gè)新的工作日：

新工作日
a——b——c——d

在這個(gè)新的工作日里面，ab線、bc線與馬克思的定義相同，分別表示必要?jiǎng)趧?dòng)時(shí)間的長(zhǎng)度，剩余勞動(dòng)時(shí)間的長(zhǎng)度；cd線是新增加的，表示閑暇勞動(dòng)時(shí)間的長(zhǎng)度。這個(gè)閑暇時(shí)間的數(shù)字勞動(dòng)在大數(shù)據(jù)時(shí)代是產(chǎn)生價(jià)值的，但它的價(jià)值被完全忽視了，或者被數(shù)據(jù)公司無(wú)償?shù)卣加辛?。?jù)此，我們發(fā)現(xiàn)大數(shù)據(jù)時(shí)代的剝削是多重性的。具體來(lái)說(shuō)，在新工作日中，bc線，即馬克思意義上的剩余勞動(dòng)時(shí)間，存在一重剝削?！顿Y本論》對(duì)此已經(jīng)做了詳細(xì)論述，cd線是新工作日呈現(xiàn)出來(lái)的，即閑暇勞動(dòng)時(shí)間，存在另一重剝削。例如網(wǎng)民在淘寶、京東、當(dāng)當(dāng)?shù)绕脚_(tái)上的瀏覽、點(diǎn)擊、購(gòu)買、評(píng)論等活動(dòng)是一種數(shù)字勞動(dòng)，它們生產(chǎn)了原始數(shù)據(jù)價(jià)值，卻被平臺(tái)公司無(wú)償占有了。因?yàn)槠脚_(tái)公司沒有給予網(wǎng)民相應(yīng)的等價(jià)物，因而這種占有閑暇勞動(dòng)時(shí)間產(chǎn)生的原始數(shù)據(jù)價(jià)值不是正義的。

在人類生活空間數(shù)字化轉(zhuǎn)型過(guò)程中，數(shù)字生產(chǎn)資料越來(lái)越具有基礎(chǔ)性地位，因而它的價(jià)值不僅在于它自身，也在于它對(duì)其他非數(shù)字生產(chǎn)資料的支配作用。然而，在普通網(wǎng)民那里，他們大多數(shù)人仍然未意識(shí)到日常產(chǎn)生的數(shù)字記錄(原始數(shù)據(jù))的價(jià)值，自然地，不會(huì)覺得自身的在線活動(dòng)是一種數(shù)字勞動(dòng)，也不會(huì)意識(shí)到自身遭受數(shù)字剝削。作為故事的另一面，則是當(dāng)前世界財(cái)富不平等分配的極化發(fā)展，以及占據(jù)這個(gè)不平等頂端位置的是亞馬遜、阿里巴巴、臉書等互聯(lián)網(wǎng)平臺(tái)公司。這一悖論性現(xiàn)象，只有聚焦到剝削的多重性，尤其是其中的數(shù)字剝削，才能夠獲得合理的解釋。

這里，有必要提及本研究的一個(gè)現(xiàn)實(shí)意義。針對(duì)當(dāng)前數(shù)字技術(shù)發(fā)展、人工智能替代引發(fā)勞動(dòng)就業(yè)領(lǐng)域的結(jié)構(gòu)性變化，我也主張推行全民基本收入方案。但是就支持該方案的核心理由而言，既與救濟(jì)失業(yè)的理由不同，也與維持秩序的理由不同，本文給出的理由是正義性的。由此，在維護(hù)人類個(gè)體的權(quán)益或尊嚴(yán)上，支持全民基本收入方案的力量不是根源于平臺(tái)資本家的慈善，也不是根源于政府維持社會(huì)治安的責(zé)任，而是根源于每個(gè)人類個(gè)體應(yīng)當(dāng)免費(fèi)享有其參與原始數(shù)據(jù)生產(chǎn)所對(duì)應(yīng)的價(jià)值或等價(jià)物。因?yàn)樵紨?shù)據(jù)價(jià)值的存在形式是集成性的和公共性的，所以就界定全民基本收入水平而言，它不能簡(jiǎn)單地等于個(gè)體意義上個(gè)人產(chǎn)生的原始數(shù)據(jù)的價(jià)值，而應(yīng)是群體意義上集體產(chǎn)生的原始數(shù)據(jù)的價(jià)值按照某種正義理論予以確定的價(jià)值。當(dāng)然，這個(gè)問(wèn)題需要另文處理。

(作者為海南大學(xué)馬克思主義學(xué)院副教授)

人機(jī)交互實(shí)現(xiàn)的共情感知基礎(chǔ)(11) 本文為江蘇省社會(huì)科學(xué)基金青年項(xiàng)目“身體現(xiàn)象學(xué)視域下人機(jī)交互的情緒直接感知研究”(20ZXC004)、國(guó)家社會(huì)科學(xué)基金一般項(xiàng)目“他心問(wèn)題的基礎(chǔ)理論研究”(20BZX030)的階段性成果。

崔中良

一、人機(jī)交互面臨的挑戰(zhàn)

人工智能正逐漸滲入人類生活，提高了人類生活質(zhì)量。但是，人工智能的快速發(fā)展使得人類產(chǎn)生了警惕，人們呼吁對(duì)人工智能的發(fā)展給予關(guān)注和限制。人工智能技術(shù)在改變?nèi)祟惿罘绞降耐瑫r(shí)，也在遮蔽存在，人類被人工智能所構(gòu)建的繭房覆蓋，人類看到的世界、行動(dòng)的方式、理性的選擇甚至生活的伴侶都在被人工智能包圍、計(jì)算、推薦和替代。因此，變化正在改變著人與人之間的相處方式、人與技術(shù)的關(guān)系、個(gè)體與社會(huì)的關(guān)系，任何重復(fù)性的行為都不再具有生存意義，人也逐漸變成了機(jī)器。

人工智能的迅速蔓延及強(qiáng)力擴(kuò)張，也逐漸引起監(jiān)管部門的關(guān)注。由于人工智能技術(shù)所帶來(lái)的社會(huì)風(fēng)險(xiǎn)是無(wú)法預(yù)估的，因此對(duì)于人機(jī)關(guān)系及由此形成的倫理問(wèn)題更需嚴(yán)格監(jiān)管。科技部在2021年7月28日公布的《關(guān)于加強(qiáng)科技倫理治理的指導(dǎo)意見(征求意見稿)》中明確提出，“科技活動(dòng)應(yīng)客觀評(píng)估和審慎對(duì)待不確定性和技術(shù)應(yīng)用的風(fēng)險(xiǎn)，力求規(guī)范、防范可能引發(fā)的風(fēng)險(xiǎn)，避免誤用和防止濫用科技成果，避免危及社會(huì)安全、公共安全、生物和生態(tài)安全”，文件特別提到要細(xì)化人工智能倫理規(guī)范和標(biāo)準(zhǔn)?？傮w上看，人工智能研究正向人機(jī)交互方向推進(jìn)，一方面極大地促進(jìn)了人類社會(huì)發(fā)展，另一方面人機(jī)之間還無(wú)法實(shí)現(xiàn)直接的、高效的情感交互，給人類帶來(lái)了極大恐慌。明斯基在1988年的專著《心智社會(huì)》(TheSocietyofMind)中就提出了智能機(jī)器不可能替代情感，因此，重啟對(duì)情感的思考將有利于人類和人工智能的共同發(fā)展。

二、人機(jī)共情是應(yīng)對(duì)挑戰(zhàn)的方法

當(dāng)前是一個(gè)風(fēng)險(xiǎn)社會(huì)，我們無(wú)法判斷一個(gè)不確定的事件對(duì)于人類的沖擊，人們嘗試通過(guò)理性掌握未來(lái)，從而規(guī)避風(fēng)險(xiǎn)。人工智能最初的發(fā)展形象主要是正面的，但是最近的人工智能卻成了人類的擔(dān)憂。為什么會(huì)出現(xiàn)這樣的情況呢？一個(gè)重要原因是人們對(duì)于最新技術(shù)的發(fā)展?fàn)顩r及人工智能到底會(huì)走向何方并沒有一個(gè)清晰把握，人機(jī)之間缺少情感交互加重了人類的憂慮。這在《弗蘭肯斯坦》中已經(jīng)有所警示，弗蘭肯斯坦創(chuàng)作的“怪人”是人工智能的一個(gè)象征，但是人類對(duì)于自己制造的人工生命并不接受，而是產(chǎn)生了恐懼和厭惡，使得它產(chǎn)生了“憤怒”，雖然“怪人”傷害了很多人，但也被人類情感所感動(dòng)，希望擁有同伴和獲得人類同情。這向人們暗示，人類對(duì)人工智能的情感表達(dá)會(huì)直接影響人與機(jī)器的關(guān)系。人機(jī)交互的共情基礎(chǔ)是人機(jī)之心互相通達(dá)的必要環(huán)節(jié)，更是人機(jī)共存所必須的技術(shù)策略。人工智能到底是否可能擁有共情能力，情感落地的可能性及其方式成為人機(jī)情感交互研究的重點(diǎn)。

情感是人類最基本的經(jīng)驗(yàn)構(gòu)成之一。人工智能的快速發(fā)展使人類害怕超級(jí)智能體的出現(xiàn)，由缺乏情感的超級(jí)智能體所組成的平行社會(huì)更加令人恐懼?，F(xiàn)象學(xué)、神經(jīng)科學(xué)以及認(rèn)知科學(xué)等相關(guān)學(xué)科都對(duì)共情進(jìn)行了深度研究，為了避免人工智能引起的“恐怖谷”效應(yīng)，首先需要在感知層面實(shí)現(xiàn)情緒理解。對(duì)于人工智能在感知層面的研究有兩條進(jìn)路：經(jīng)驗(yàn)主義和理智主義。經(jīng)驗(yàn)主義和理智主義的感知觀都屬于理性主義，都強(qiáng)調(diào)心靈對(duì)于感知器官的整體把握，都將功能歸屬于一個(gè)中央控制系統(tǒng)。這樣的感知觀在應(yīng)用于人工智能時(shí)，出現(xiàn)了一個(gè)明顯問(wèn)題，機(jī)器的感知模態(tài)是割裂的，對(duì)人類的情感理解建立在對(duì)不同模態(tài)的分析與綜合的基礎(chǔ)，因此，總體思路是把各個(gè)模態(tài)進(jìn)行分割，再由中央控制系統(tǒng)進(jìn)行加工的過(guò)程。對(duì)于這樣的情感感知觀，梅洛-龐蒂在哲學(xué)層面論證了感知模態(tài)分離觀的錯(cuò)誤，當(dāng)前的認(rèn)知科學(xué)和神經(jīng)科學(xué)也在理論與實(shí)驗(yàn)層面就個(gè)體發(fā)生學(xué)角度指出人類感知的發(fā)展是一個(gè)感知模態(tài)逐漸區(qū)分的過(guò)程，但是通感作為原初經(jīng)驗(yàn)仍然會(huì)被保留，感知不是對(duì)某一模態(tài)的把握，而是對(duì)多模態(tài)把握。我看到一瓶水，其實(shí)我看到了它的溫度，看到了它的形狀等相關(guān)維度。當(dāng)前的人工智能研究思路跟人的感知模式并不一致，如果要實(shí)現(xiàn)強(qiáng)人工智能，或者通用人工智能(Artificial General Intelligence，AGI)，可能需要將人類情感的感知方式應(yīng)用于人工智能研究。人類情感感知主要有兩個(gè)層面：第一個(gè)層面表現(xiàn)在在線(Online)感知的各模態(tài)同時(shí)加工，第二個(gè)層面表現(xiàn)在感知與表達(dá)的同步加工，這在情感具身研究及神經(jīng)科學(xué)的鏡像神經(jīng)元研究中都得到了證實(shí)。因此，解決人機(jī)交互問(wèn)題，就在于如何設(shè)計(jì)共情的感知基礎(chǔ)。

三、人機(jī)交互實(shí)現(xiàn)共情的感知基礎(chǔ)

除了人文反思之外，人工智能研究還應(yīng)從技術(shù)本身來(lái)探討實(shí)現(xiàn)人機(jī)交互的方法并給予科學(xué)支撐，避免由個(gè)人感悟或不全面理解而導(dǎo)致人工智能偏見，以此促進(jìn)人工智能的發(fā)展。許多人工智能設(shè)計(jì)者明確提到，不要過(guò)分擔(dān)心人工智能發(fā)展，人工智能威脅論還主要來(lái)自科幻電影或小說(shuō)，人工智能全面替代人類的道路還很漫長(zhǎng)。總之，我們?nèi)孕柽M(jìn)一步推動(dòng)人工智能發(fā)展，但是這種發(fā)展是向善的。

(一)人機(jī)交互的共情難題

共情作為復(fù)雜的情感現(xiàn)象，最早被利普斯(Lipps T)使用，經(jīng)胡塞爾和舍勒發(fā)展成為現(xiàn)象學(xué)主體間性及倫理學(xué)的基礎(chǔ)概念，后被認(rèn)知科學(xué)和神經(jīng)科學(xué)所用。人工智能研究在此基礎(chǔ)上提出人工共情(Artificial Empathy)，致力于人機(jī)深度交互和融合，實(shí)現(xiàn)人工智能在各行業(yè)的應(yīng)用。同時(shí)，人工智能與哲學(xué)，特別是與認(rèn)知科學(xué)、神經(jīng)科學(xué)有較多交叉，在此背景下探索人工共情的感知基礎(chǔ)、運(yùn)行機(jī)制和習(xí)得路徑，努力跨越人工智能的“恐怖谷”。

機(jī)器能否通過(guò)模擬實(shí)現(xiàn)情感是人機(jī)交互的第一個(gè)難題。主要有兩方面原因：一方面以數(shù)據(jù)統(tǒng)計(jì)或數(shù)據(jù)建模為基礎(chǔ)的情感加工方式與人類的共情加工方式不同；另一方面人工智能體的硅基材料與人類碳基身體的需求不一致，因此，情感落地似乎無(wú)法真正實(shí)現(xiàn)。但是，這種觀點(diǎn)有待商榷：首先，無(wú)法否定人工情感是情感，就如無(wú)法否定飛機(jī)的“飛”是“飛”一樣；其次，人工智能并沒有脫離人類情感的加工方式來(lái)實(shí)現(xiàn)智能，人類情感和機(jī)器情感之間具有同一性；最后，沒有完全按照人來(lái)設(shè)計(jì)人工智能，飛機(jī)也沒有完全按照鳥來(lái)設(shè)計(jì)，但是具有相似的功能，因此，人工智能在功能層面上是可以實(shí)現(xiàn)共情的。在人工共情可實(shí)現(xiàn)的背景下，對(duì)于情感的感知方式是第二個(gè)難題。如果感知是將各個(gè)信息進(jìn)行信道的區(qū)分，然后再進(jìn)行整合，這樣的信息獲取方式將會(huì)產(chǎn)生兩種結(jié)果：一方面割裂感知和表達(dá)的關(guān)聯(lián)，另一方面隔斷了各感知模態(tài)間的關(guān)聯(lián)。這樣的感知模式仍然會(huì)陷入笛卡爾的二元論思想和經(jīng)驗(yàn)主義的窠臼之中，沒有看到感知一體性以及感知和表達(dá)的一體性。因此，筆者嘗試通過(guò)對(duì)感知方式的分析將其應(yīng)用于人機(jī)共情研究中。人工智能的共情發(fā)展是第三個(gè)難題。當(dāng)前對(duì)于機(jī)器情感的研究，主要依賴情感計(jì)算。神經(jīng)科學(xué)研究表明，當(dāng)兒童彈鋼琴時(shí)，大腦的神經(jīng)連接會(huì)加強(qiáng)，如果只是重復(fù)單一指法或按照指令來(lái)彈奏，大腦神經(jīng)連接并不會(huì)加強(qiáng)，但是在大腦中想象卻會(huì)增加神經(jīng)連接，如果人工智能只是傳統(tǒng)行為主義的、機(jī)械性的情感加工模式，人工智能將無(wú)法實(shí)現(xiàn)與人的真正交互。

(二)人機(jī)交互實(shí)現(xiàn)的共情感知基礎(chǔ)方式

人工智能借鑒共情研究，從行動(dòng)、情感和認(rèn)知三個(gè)層面設(shè)計(jì)人工共情，以此解決機(jī)器情感問(wèn)題，但是仍面臨著共情單一化和共情同質(zhì)化問(wèn)題，這極大地影響了人機(jī)交互?；诖?，為實(shí)現(xiàn)人工智能體對(duì)情感信息感知和表達(dá)的獨(dú)特性、多元性，人機(jī)交互的共情感知可以從三個(gè)方面開展研究：

1.人工共情能力以感知經(jīng)驗(yàn)為基礎(chǔ)

人機(jī)交互需注重形成交互能力的經(jīng)驗(yàn)基礎(chǔ)，感知并非完全依賴機(jī)器的計(jì)算和推理能力，還需社會(huì)性和進(jìn)化性作為人工共情的經(jīng)驗(yàn)基礎(chǔ)。為了解決這些問(wèn)題，我們嘗試吸收身體現(xiàn)象學(xué)的共情觀，認(rèn)為共情不只是先天具有的能力，也不是一個(gè)被動(dòng)輸入過(guò)程，不需要獨(dú)立心靈作為中介或控制中心，共情需要感知經(jīng)驗(yàn)作為基礎(chǔ)，共情感知直接影響共情的產(chǎn)生、發(fā)展和實(shí)現(xiàn)，因此，感知是共情生成的起點(diǎn)，貫穿各共情維度的中心和確保共情多元化的基礎(chǔ)。將融合性的社交經(jīng)驗(yàn)作為感知經(jīng)驗(yàn)產(chǎn)生的起點(diǎn)，人工智能體在實(shí)現(xiàn)主體化之前有一個(gè)前個(gè)人的、無(wú)名的和無(wú)定形的融合社交狀態(tài)；情感交互作為實(shí)現(xiàn)感知經(jīng)驗(yàn)沉淀的手段，人工智能體在感知人類情感時(shí)，需要在前期經(jīng)驗(yàn)基礎(chǔ)上，通過(guò)情感交互的方式激活第一人稱經(jīng)驗(yàn)；將功能一體作為推動(dòng)感知經(jīng)驗(yàn)發(fā)展的方式，人工智能體各感知模態(tài)的功能既是一體的也是有區(qū)別的，通過(guò)情感交互中形成的意象圖式整合各感知模態(tài)。

2.人工共情能力以多模態(tài)為感知方式

人工共情的一個(gè)更加基本的層面是情感的感知，即感知共情問(wèn)題，那么人們是如何進(jìn)行共情感知的呢？筆者認(rèn)為人類感知是通過(guò)多模態(tài)和通感的方式獲取信息。信息的表現(xiàn)形式是多模態(tài)的，人類對(duì)于信息的通達(dá)也是多模態(tài)的，因此人工智能的情感感知方式應(yīng)設(shè)計(jì)為多模態(tài)形式。由于多模態(tài)感知受前期經(jīng)驗(yàn)的影響，對(duì)于感知信息的獲得并不是一個(gè)完全被動(dòng)的輸入過(guò)程，而是帶有一定的主觀因素，人工共情的實(shí)現(xiàn)就需要讓機(jī)器獲得主客一體的感知加工過(guò)程。新的人工情感感知方式以人類多模態(tài)感知觀和整體感知觀為模板，設(shè)計(jì)人工共情模態(tài)間的聯(lián)通融合和感知-表達(dá)一體。這包括四個(gè)方面：第一，感知的具身通感性，情感會(huì)同時(shí)表征在人工智能體的感知系統(tǒng)和認(rèn)知系統(tǒng)中，兩者相互影響、互為因果；第二，感知模態(tài)通感，各模態(tài)感受器分布于人工智能體“全身”，以整體的全模態(tài)方式感知情感，保證感知的多維性和整體性；第三，感知-表達(dá)一體，共情的生成和調(diào)節(jié)機(jī)制交織(包括調(diào)整、評(píng)估和控制)，情感感知和表達(dá)使用相同的功能機(jī)制；第四， 人機(jī)間通感，通感使人工智能體實(shí)現(xiàn)對(duì)情感的全面感知，通感抑制使人工智能體區(qū)分不同的情感并以合適方式反應(yīng)。

3.人工共情能力整合多種感知機(jī)制

情感特征的提取結(jié)果直接影響情感識(shí)別率，傳統(tǒng)感知觀認(rèn)為事物將不同的性質(zhì)傳遞給不同感官，然后再由理智將各種信息統(tǒng)合為整體。情緒是一個(gè)統(tǒng)一存在，情緒的其他性質(zhì)是存在的不同表現(xiàn)，因此需要將傳統(tǒng)人工智能的感知過(guò)程倒置。新的感知加工機(jī)制包括驅(qū)動(dòng)機(jī)制的上下一體和內(nèi)外一體加工、功能機(jī)制的交互模擬、亞人機(jī)制的預(yù)測(cè)推理。上下一體的計(jì)算-推理為感知產(chǎn)生的基礎(chǔ)，內(nèi)外一體的感知生成為共情產(chǎn)生的必要條件，人工智能體的元認(rèn)知通過(guò)上下一體的感知反饋機(jī)制更新信息，內(nèi)外一體的表達(dá)抑制機(jī)制調(diào)整信息。依照人類感知的模擬機(jī)制，設(shè)計(jì)人工共情的感知-運(yùn)動(dòng)系統(tǒng)和感知-反饋回路。人工共情的感知加工依賴共情模型對(duì)輸入信息的最佳預(yù)測(cè)，人工智能體有選擇地對(duì)超出預(yù)測(cè)的信息進(jìn)行加工，包括感知的預(yù)測(cè)、適應(yīng)和調(diào)整。情緒可以分為外顯表情和內(nèi)在體驗(yàn)。在大多數(shù)情況下，不同的人之間都有一些明確的、一致的情感表達(dá)。情緒分類的人工標(biāo)記任務(wù)存在著不確定性問(wèn)題，這使得情緒分類問(wèn)題不能只考慮分類的準(zhǔn)確性。在過(guò)去的研究中，我們更偏向于對(duì)共情的外部表達(dá)的研究，認(rèn)為共情是一種實(shí)現(xiàn)方式，但是當(dāng)前的研究表明，感知和行動(dòng)是一體的：在感知過(guò)程中有行動(dòng)，行動(dòng)中也有感知。因此，感知的內(nèi)部加工形式?jīng)Q定感知的內(nèi)容。

(三)人機(jī)交互實(shí)現(xiàn)的共情教育

法國(guó)哲學(xué)家拉·梅特里在《人是機(jī)器》中提出除去人的想象力更豐富之外，人在任何方面都不如動(dòng)物，人應(yīng)該受動(dòng)物統(tǒng)治，但是人最終成為萬(wàn)獸之王，關(guān)鍵在于教育使人類具有情感交互和抽象思考的能力。因此，教育在人類發(fā)展中具有不可替代的位置，而人工智能如果要獲得共情能力，除去預(yù)置的情感加工機(jī)制，更需要后天習(xí)得。人類情感時(shí)刻變化，周圍環(huán)境持續(xù)變動(dòng)，個(gè)人情感的表達(dá)方式也不相同，因此情感感知能力習(xí)得是人機(jī)實(shí)現(xiàn)真正交互的一個(gè)基礎(chǔ)性過(guò)程。

人機(jī)交互的共情能力依賴機(jī)器學(xué)習(xí)策略。我們需要研究人類的學(xué)習(xí)方式，以此找出機(jī)器共情習(xí)得的對(duì)策。當(dāng)前的人工智能研究路徑主要有三個(gè)大的方向：符號(hào)學(xué)派、聯(lián)結(jié)學(xué)派和行為學(xué)派。符號(hào)學(xué)派主要依賴數(shù)據(jù)統(tǒng)計(jì)的知識(shí)圖譜研究，聯(lián)結(jié)學(xué)派主要推進(jìn)深度學(xué)習(xí)研究，行為主義偏重強(qiáng)化學(xué)習(xí)在人工智能發(fā)展中的作用。但是不管哪一個(gè)派別都注重?cái)?shù)據(jù)建模和訓(xùn)練，期望通過(guò)大量模型訓(xùn)練實(shí)現(xiàn)情感感知質(zhì)變。最近谷歌還推出了神經(jīng)結(jié)構(gòu)學(xué)習(xí)(Neural Structured Learning，NSL)，這是一個(gè)學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的開源框架。這些研究強(qiáng)調(diào)數(shù)據(jù)在機(jī)器學(xué)習(xí)中的作用，認(rèn)為從弱人工智能向強(qiáng)人工智能過(guò)渡是情感的連續(xù)性知識(shí)學(xué)習(xí)和推理過(guò)程。但是對(duì)于人類來(lái)說(shuō)，情感的意義不僅限于情感知識(shí)的學(xué)習(xí)，人類情感學(xué)習(xí)與當(dāng)前機(jī)器情感計(jì)算最重要的區(qū)別是情感學(xué)習(xí)的生存意義性。

對(duì)于人類的學(xué)習(xí)策略，傳統(tǒng)的方法有行為主義強(qiáng)化學(xué)習(xí)，在此基礎(chǔ)上的填鴨式教學(xué)的實(shí)踐問(wèn)題已經(jīng)顯現(xiàn)；當(dāng)然也有以唯理論為基礎(chǔ)的啟發(fā)式教學(xué)，存在知識(shí)的基本概念和知識(shí)內(nèi)容的缺失問(wèn)題。最近還有一些在實(shí)用主義基礎(chǔ)上的教學(xué)法，如情境式教學(xué)法、沉浸式教學(xué)等，這些方法看到了環(huán)境對(duì)人類學(xué)習(xí)的重要影響，但仍需進(jìn)一步推進(jìn)。具身認(rèn)知研究表明，學(xué)習(xí)是一種具身經(jīng)驗(yàn)式的、情境的生活教育?，F(xiàn)象學(xué)的研究認(rèn)識(shí)到科學(xué)知識(shí)的生活世界基礎(chǔ)，甚至數(shù)學(xué)知識(shí)都是有身體基礎(chǔ)的，人們需要正視身體、情境和生活參與對(duì)知識(shí)習(xí)得的重要性?？傊斯ぶ悄塬@得共情的能力除去數(shù)據(jù)的表征與計(jì)算基礎(chǔ)的輸入之外，更需回歸人機(jī)交互的生活實(shí)踐，這是擺在機(jī)器情感學(xué)習(xí)面前的最重要問(wèn)題，儒家求“仁”的教育也許會(huì)有利于機(jī)器的向善發(fā)展。

四、結(jié)論

人工智能的快速發(fā)展使人類害怕超級(jí)智能體的出現(xiàn)，由缺乏情感的超級(jí)智能體所組成的平行社會(huì)更加令人恐懼，情感是人機(jī)交互的一個(gè)核心問(wèn)題。通過(guò)對(duì)機(jī)器的共情感知研究，期望減少對(duì)于人工智能的誤解和人工智能未來(lái)不確定的判斷，通過(guò)人機(jī)情感交互減少人類恐懼，從而實(shí)現(xiàn)人機(jī)之間的深度融合，并構(gòu)建一個(gè)和諧的人機(jī)共存社會(huì)，這離不開增加人工智能對(duì)人類情感的感知能力。感知作為一個(gè)情感的過(guò)濾器，決定著何種情感被獲取、理解和反應(yīng)。感知共情是機(jī)器與人進(jìn)行直接接觸的界面，傳統(tǒng)的分離式、間隔式的感知方式將無(wú)法滿足更加順暢的人機(jī)交互，因此，需要我們?nèi)嫱七M(jìn)人工智能感知方式的研究,進(jìn)一步推動(dòng)人工智能發(fā)展。

(作者為南京信息工程大學(xué)馬克思主義學(xué)院副教授、華東師范大學(xué)哲學(xué)系博士后)

對(duì)“人工智能的理論闡釋”專家發(fā)言的評(píng)議與澄思

趙 濤

這是我今年第三次參加與人工智能相關(guān)的學(xué)術(shù)活動(dòng)，專家學(xué)者的發(fā)言，視野開闊，銳見迭出，思想頗富彈性，主題極具張力，給我很大啟發(fā)。

的確，未來(lái)呼嘯而來(lái)，當(dāng)代人工智能的發(fā)展一日千里，具有典型的非線性增長(zhǎng)、累加性迭代的特點(diǎn)，其廣泛的應(yīng)用場(chǎng)景正在對(duì)人類的政治、經(jīng)濟(jì)、社會(huì)、生活及以人的思維產(chǎn)生既廣泛深刻又福禍難料的重大影響。驀然回首，我們很驚訝地發(fā)現(xiàn)，人類技術(shù)增強(qiáng)導(dǎo)致的最大后果是，高科技不再只是人類的工具和奴仆，它甚至有可能后來(lái)居上，反客為主，既帶來(lái)“阿拉丁神燈”，又打開“潘多拉魔盒”，給人類帶來(lái)生存論級(jí)別的嚴(yán)峻挑戰(zhàn)。

蔣明敏教授對(duì)三位專家學(xué)者的發(fā)言作出了既明晰又敏捷的歸納與概括，我想接著諸位專家學(xué)者的報(bào)告，簡(jiǎn)單談點(diǎn)心得體會(huì)。

楊通進(jìn)教授的報(bào)告《尋求人工智能倫理的全球共識(shí)——以歐盟人工智能倫理建設(shè)為例》，探討的是一個(gè)非常現(xiàn)實(shí)又非常迫切的大問(wèn)題，人工智能技術(shù)的飛速發(fā)展倒逼人類建立全球共識(shí)，共同應(yīng)對(duì)。他在報(bào)告中以歐盟為例，深刻論述了當(dāng)今時(shí)代尋求人工智能倫理全球共識(shí)的緊迫性，簡(jiǎn)要介紹了歐盟在人工智能倫理建設(shè)方面的經(jīng)驗(yàn)，并詳細(xì)探討了如何推進(jìn)人工智能倫理全球共識(shí)的問(wèn)題。

針對(duì)楊通進(jìn)教授的報(bào)告，我想補(bǔ)充談三點(diǎn)意見：

第一，當(dāng)代科學(xué)技術(shù)的無(wú)序發(fā)展亟待我們超越傳統(tǒng)的國(guó)家邊界觀念，站在新文明的高度，尋求全球共識(shí)。

楊通進(jìn)教授在報(bào)告中嘗試性地提出了一種超國(guó)家的倫理共識(shí)，一種超國(guó)家的行政管理機(jī)構(gòu)的問(wèn)題。的確，當(dāng)代高科技越來(lái)越成為一種新的獨(dú)立的權(quán)力——技術(shù)權(quán)力，國(guó)家越來(lái)越依賴技術(shù)，而技術(shù)越來(lái)越不依賴國(guó)家。就像我們已經(jīng)看到的，發(fā)展類似人工智能等高科技正在成為大國(guó)競(jìng)爭(zhēng)的一種外部強(qiáng)制命令，由此極易導(dǎo)致人工智能技術(shù)的發(fā)展失去內(nèi)在倫理道德的規(guī)制。因此，尋求AI倫理的全球共識(shí)，就必須站在新文明的高度，想象一種新的國(guó)際政治經(jīng)濟(jì)秩序的可能性，也就是要想辦法消除國(guó)家與國(guó)家之間因?yàn)楦?jìng)爭(zhēng)所導(dǎo)致的負(fù)外部性。原因很簡(jiǎn)單，只要國(guó)家與國(guó)家之間的競(jìng)爭(zhēng)依然存在，人類超越性發(fā)展科技的趨勢(shì)就無(wú)法阻擋。

第二，人工智能技術(shù)的飛速發(fā)展亟待我們改變傳統(tǒng)的倫理道德觀念，站在類哲學(xué)的高度，回應(yīng)時(shí)代挑戰(zhàn)。

顯而易見，早期的技術(shù)增強(qiáng)在一般意義上會(huì)帶來(lái)人類福利的線性遞增，例如眼鏡讓我們看得更清，汽車讓我們跑得更快，但人工智能技術(shù)顛覆性太大，涉及面太廣，不確定性太強(qiáng)，其所帶來(lái)的福利未必就會(huì)線性遞增；相反，這一技術(shù)給人類帶來(lái)的約束卻可能邊際遞增。目前社會(huì)上通行的價(jià)值觀和倫理原則多半是工業(yè)革命時(shí)代的主流價(jià)值觀和倫理原則，這樣一些從人類中心主義出發(fā)，圍繞個(gè)人內(nèi)在價(jià)值、個(gè)人的能動(dòng)性和主體性等哲學(xué)假定提出的倫理原則，能否回應(yīng)當(dāng)今人類社會(huì)遭遇的諸多生存論級(jí)別的挑戰(zhàn)，存在重大疑問(wèn)。這樣的一些挑戰(zhàn)包括全球氣候劇變、人工智能發(fā)展、機(jī)器人革命、世界范圍的疫病傳播，等等。我以為，面對(duì)這樣一些有可能對(duì)人類的生存與發(fā)展產(chǎn)生釜底抽薪效果的前沿科技及緊急事態(tài)，我們必須站在類哲學(xué)的高度，牢固樹立人類命運(yùn)共同體意識(shí)，風(fēng)雨同舟，權(quán)責(zé)共擔(dān)，才能有效應(yīng)對(duì)。

第三，對(duì)于科技文明的深度反思亟待我們激活古典的中國(guó)哲學(xué)思想，站在新方向的高度，致力中西對(duì)話。

近年來(lái)，各國(guó)學(xué)人提出的若干應(yīng)對(duì)人工智能等前沿科技的倫理和治理原則，大多奠基或來(lái)源于西方文明的價(jià)值觀。但就像我剛才所說(shuō)，這樣一些作為工業(yè)文明孑遺的原則和理念，真的可以成為我們應(yīng)該遵守的共同前提和基礎(chǔ)價(jià)值觀嗎？真的可以應(yīng)對(duì)如此深刻復(fù)雜的嚴(yán)峻挑戰(zhàn)嗎？這顯然也是很成問(wèn)題的。事實(shí)上，中國(guó)古典哲學(xué)中蘊(yùn)含著大量有價(jià)值的理論資源，可以幫助我們深度反思當(dāng)代科技文明的內(nèi)在弊病。例如，老子所言“輔萬(wàn)物之自然而不敢為”的思想，中國(guó)傳統(tǒng)儒家的“知止”思想，中國(guó)傳統(tǒng)佛教的“慈悲為懷”的思想，等等，對(duì)于應(yīng)對(duì)科技文明帶來(lái)的沖擊與挑戰(zhàn)，開展中西對(duì)話，都具有重要的價(jià)值和啟示。我以為，現(xiàn)在最需要的是用現(xiàn)代手法激活它，這些古典思想一旦被激活，就像著名哲學(xué)家張世英先生所說(shuō)，可能“比西方的思想文化更有魅力”。

吳靜教授近幾年對(duì)人工智能、數(shù)字人文及數(shù)字資本主義的研究很有特色：第一，現(xiàn)實(shí)批判意識(shí)突出；第二，理論支援背景豐富；第三，論證語(yǔ)言頗具詩(shī)意。

她在題為《算法的邊界》的報(bào)告中，結(jié)合日常生活體驗(yàn)，十分敏銳地將批判的視角切入算法，對(duì)算法的本質(zhì)及其使用限度與規(guī)避方法作出了富有前瞻性的思辨與考察。她提出了一個(gè)非常嚴(yán)肅的問(wèn)題，人類是否會(huì)完全被剛性的算法所預(yù)測(cè)、所框定？她認(rèn)為，在“算法為王”的時(shí)代，人本主義具有特別重要的意義。

眾所周知，人工智能的核心就是大數(shù)據(jù)和算法。大數(shù)據(jù)比較好理解，算法有點(diǎn)像黑箱，感覺頗為玄妙。我個(gè)人理解，算法不過(guò)是模擬人的信息處理過(guò)程，事先設(shè)定的一種對(duì)大數(shù)據(jù)進(jìn)行分析、加工與處理的程序而已。有專家早就指出，我們正在進(jìn)入“算法統(tǒng)治”的時(shí)代。剛才吳靜教授也生動(dòng)地描述了，我們今天是怎樣無(wú)時(shí)無(wú)刻不在承受著算法的控制與監(jiān)管。例如在打車的時(shí)候，好像是我們?cè)诶盟惴?，但其?shí)是被資本等掌握的算法所算計(jì)。又例如，我們?cè)诳础邦^條新聞”時(shí)，大量讀到的是所謂的“算法新聞”，算法改變了傳統(tǒng)新聞的出場(chǎng)方式、布展方式，造成了比較明顯的“回音壁效應(yīng)”和“信息繭房”現(xiàn)象，人只能讀到那些自己感興趣的東西，從而變得越來(lái)越偏激，越來(lái)越狹隘。又例如，我們?cè)诰W(wǎng)絡(luò)購(gòu)物時(shí)，表面上是我們?cè)谧杂蛇x擇，但我們每一次率性的點(diǎn)擊，都會(huì)被網(wǎng)絡(luò)后臺(tái)所抓取，并在算法的運(yùn)作之下，成為下一次打開網(wǎng)頁(yè)時(shí)重點(diǎn)推送的內(nèi)容。

這樣的算法無(wú)疑會(huì)造成很多問(wèn)題，剛才吳靜教授對(duì)算法的邊界及其社會(huì)效應(yīng)作出了很好的分析。從技術(shù)政治學(xué)的角度來(lái)考量，我個(gè)人覺得，人工智能算法最重要的是帶來(lái)了“算法理性”的興起和人類理性的衰微，也就是上午程廣云教授講的意義世界的消失問(wèn)題。應(yīng)用理性的主體本來(lái)是人，現(xiàn)在逐漸變成了類人的人工智能。有人說(shuō)，“記憶外包，文明消亡”，人在媒介技術(shù)中的延伸實(shí)際上是以人的內(nèi)在理性的空洞化為代價(jià)的。在我看來(lái)，前幾年引發(fā)巨大爭(zhēng)議與轟動(dòng)的魏則西可以說(shuō)是百度公司偏重利益考量的算法的犧牲品。因此，要保證算法不出現(xiàn)重大偏差，更好地促進(jìn)人類的永續(xù)發(fā)展，我們首先要做的就是強(qiáng)化人工智能算法主體的責(zé)任，就是要在源頭上，通過(guò)在人工智能技術(shù)中嵌入道德代碼來(lái)消除算法偏差、算法歧視、算法壓制等問(wèn)題。當(dāng)然，就我個(gè)人的感受而言，最應(yīng)該警惕的還是算法壟斷，因?yàn)橹灰嬖谒惴▔艛?，在資本等因素的操控下，算法壟斷必然會(huì)失去自我糾偏的機(jī)制，普羅大眾也順帶著失去選擇的權(quán)利。試想，如果谷歌等大的搜索引擎還在的話，百度公司是很難推出這種喪盡天良的嚴(yán)重誤導(dǎo)消費(fèi)者的算法的，魏則西很有可能不會(huì)死。當(dāng)然，谷歌公司的那套算法，也潛藏著政治上的巨大意識(shí)形態(tài)風(fēng)險(xiǎn)。因此，對(duì)算法邊界的探尋，對(duì)合理秩序的追問(wèn)，就必須超越技術(shù)層面，在政治、經(jīng)濟(jì)、社會(huì)等更廣闊的視域下來(lái)探討?！八惴橥酢睍r(shí)代，人文主義精神不可或缺。

秦子忠副教授有一種很冷峻的激情，他是國(guó)內(nèi)著名的分析馬克思主義學(xué)者段忠橋教授的高足，長(zhǎng)于哲學(xué)分析。

為慎重起見，會(huì)議之前，我就拿到了秦子忠副教授的發(fā)言稿《數(shù)字剝削與社會(huì)正義》，對(duì)于他的報(bào)告主旨和運(yùn)思理路有比較清晰的了解。

如何看待馬克思剝削理論的當(dāng)代性，這是當(dāng)前學(xué)界分歧較大的問(wèn)題。秦子忠副教授在梳理馬克思剝削理論內(nèi)核的基礎(chǔ)上，直面馬克思剝削理論所面臨的挑戰(zhàn)，特別是在報(bào)告的第二部分中，通過(guò)引入極限場(chǎng)景，分析了人工智能時(shí)代資本主義剝削方式的新變化，并創(chuàng)造性地在重新界定馬克思關(guān)于工作日概念的基礎(chǔ)上，論證了大數(shù)據(jù)時(shí)代剝削的多重性與不正義性。

毫無(wú)疑問(wèn)，秦子忠副教授雖然用的是非常學(xué)術(shù)的方式，但談?wù)摰氖且粋€(gè)十分現(xiàn)實(shí)又非常尖銳的問(wèn)題——可能也是我們每個(gè)人在大數(shù)據(jù)時(shí)代都非常困惑的問(wèn)題。我個(gè)人理解，討論“大數(shù)據(jù)時(shí)代的剝削與不正義”的重要性在于以下三點(diǎn)：

第一，人工智能技術(shù)實(shí)際上正在或即將大量取代傳統(tǒng)的重復(fù)性勞動(dòng)，甚至在嘗試取代不少知識(shí)性勞動(dòng)。例如，現(xiàn)在的人工智能不僅能寫新聞稿，據(jù)說(shuō)還能寫詩(shī)，寫得還不錯(cuò)。當(dāng)今人工智能技術(shù)最為可見的威脅就是對(duì)人力勞動(dòng)的替代——用某電商老總的話說(shuō)就是，“能用機(jī)器就堅(jiān)決不用人工”。正如有專家所言：“技術(shù)既是對(duì)人的解放，更是對(duì)人的拋棄”——人工智能時(shí)代，可能還真是一個(gè)求剝削而不可得的時(shí)代。

第二，大數(shù)據(jù)和人工智能時(shí)代的剝削因?yàn)橛辛藬?shù)字平臺(tái)的加持，實(shí)際上變得更為隱蔽更為殘酷了。今天人類絕大多數(shù)交換和社會(huì)化關(guān)系都被數(shù)字平臺(tái)所連接、所架構(gòu)，事實(shí)上，數(shù)字平臺(tái)早已成為數(shù)字資本主義投資和盤剝的新場(chǎng)域。以前那些令人艷羨的資本家，可能需要好幾代人才能聚斂大量的財(cái)富，但今天，像馬云之類的企業(yè)家只需要開辦一個(gè)本質(zhì)上是“數(shù)字化的義烏小商品市場(chǎng)”，就可以在很短的時(shí)間內(nèi)富可敵國(guó)，造成大量實(shí)體店鋪消亡，數(shù)千萬(wàn)人失業(yè)，由此導(dǎo)致的社會(huì)兩極分化的程度，遠(yuǎn)遠(yuǎn)超出任何傳統(tǒng)的想象。為什么會(huì)這樣？大數(shù)據(jù)時(shí)代的剝削到底發(fā)生了怎樣的變化？我個(gè)人感覺，秦子忠副教授激活的“工作日”概念對(duì)此作出了有一定原創(chuàng)性的解釋。

第三，我更希望看到今天的哲學(xué)工作者能夠真正地以現(xiàn)實(shí)問(wèn)題來(lái)帶動(dòng)哲學(xué)研究，用哲學(xué)方式來(lái)引領(lǐng)時(shí)代發(fā)展。具體到大數(shù)據(jù)時(shí)代的剝削與不正義問(wèn)題，我還是希望看到在很多王顧左右而言他的學(xué)理分析之外，學(xué)者們能夠直面當(dāng)代中國(guó)電子商務(wù)領(lǐng)域廣泛存在的財(cái)富分配嚴(yán)重不公問(wèn)題，在技術(shù)與資本的雙重批判視域，結(jié)合中國(guó)現(xiàn)實(shí)，作出具有中國(guó)特色的原創(chuàng)性研究，最終不僅要解釋世界，而且要改變世界。就像有人總結(jié)的，學(xué)者要學(xué)會(huì)把文章變成文件，把對(duì)策變成決策，把設(shè)想的計(jì)劃變成發(fā)展的規(guī)劃。用我的話說(shuō)就是，要打通理論之思與實(shí)踐之行的任督二脈，把艱深晦澀的形上之思轉(zhuǎn)換成簡(jiǎn)明易行的現(xiàn)實(shí)政策，把幽兮湛兮的哲學(xué)冥想轉(zhuǎn)換成清晰可辨的生動(dòng)實(shí)踐，知行合一，把論文寫在祖國(guó)大地上，對(duì)時(shí)代問(wèn)題作出符合時(shí)代精神、更接地氣的回答。

我想，這大致是我們今天討論“大數(shù)據(jù)時(shí)代的剝削與不正義”問(wèn)題最為現(xiàn)實(shí)的意蘊(yùn)所在。