潘恩榮 孫宗嶺

一、引言

18 世紀(jì)60 年代，現(xiàn)代機(jī)器首次崛起全面增強(qiáng)了人類的勞動(dòng)能力，卻沒(méi)有達(dá)到“以人為本”的效果，反而導(dǎo)致了機(jī)器異化、貧富分化、社會(huì)分裂和沖突。21 世紀(jì)初，以人工智能為代表的新機(jī)器“二次崛起”①人工智能機(jī)器等數(shù)字化技術(shù)標(biāo)志著機(jī)器的二次崛起，參見(jiàn)[美]埃里克·布萊恩約弗森、安德魯·麥卡菲：《第二次機(jī)器革命》，蔣永軍譯，北京：中信出版社，2016 年，第VIII 頁(yè)。。作為第四次工業(yè)革命的代表性技術(shù)，人工智能已經(jīng)開始對(duì)人類生活生產(chǎn)進(jìn)行廣泛賦能，又一次全面增強(qiáng)了人類的勞動(dòng)能力，“智慧城市”“智慧物流”新業(yè)態(tài)蓬勃發(fā)展。然而，越來(lái)越多的事實(shí)表明，人工智能應(yīng)用帶來(lái)了算法歧視、就業(yè)替代和隱私泄露等新老問(wèn)題，沖擊著現(xiàn)有社會(huì)秩序。鑒于現(xiàn)代機(jī)器與第一次工業(yè)革命的歷史發(fā)展經(jīng)驗(yàn)，人們不禁發(fā)出疑問(wèn)，以人工智能為代表的新機(jī)器和第四次工業(yè)革命是否重蹈歷史覆轍造成新的社會(huì)分裂？還是以其“智能”彌合分裂走向“以人為本”？

針對(duì)上述疑問(wèn)，西方各國(guó)政府、企業(yè)、科研機(jī)構(gòu)、組織以及聯(lián)合國(guó)紛紛提出人工智能倫理準(zhǔn)則，倡導(dǎo)將“以人為本”（Human-centered）作為人工智能發(fā)展的宗旨。機(jī)器能夠增強(qiáng)人類的勞動(dòng)能力，其根源在于前者在特定方面的能力超過(guò)人類的能力。那么，人工智能“以人為本”倫理準(zhǔn)則指的是，在人與“超人”的（人工智能）機(jī)器之間，凡事應(yīng)該堅(jiān)持“以（凡）人為中心”，確?！叭恕钡母黜?xiàng)權(quán)利和權(quán)力不受損害。然而，在“人與機(jī)”關(guān)系中，“超人”的（人工智能）機(jī)器可能“以（凡）人為中心”嗎？如果可能，又需要怎樣的條件？為了回答上述問(wèn)題，本文首先梳理人工智能對(duì)人類生活和社會(huì)秩序的可能影響，接著歸納分析西方社會(huì)對(duì)人工智能的態(tài)度及其相應(yīng)的局限，最后基于馬克思的機(jī)器大工業(yè)批判探討克服人工智能負(fù)面影響的思路。

二、人工智能可能的影響

機(jī)器介入且改變?nèi)祟惿詈蜕鐣?huì)秩序是現(xiàn)代社會(huì)的基本特征之一。自18 世紀(jì)英國(guó)第一次工業(yè)革命以來(lái)，人類歷史上已經(jīng)發(fā)生了至少三次明顯的機(jī)器革命，即機(jī)械化革命、電氣化革命與信息化革命。由此引發(fā)的規(guī)模宏大的“機(jī)器換人”過(guò)程，在西方社會(huì)引發(fā)了人類生活和社會(huì)秩序的顛覆性變遷，經(jīng)歷兩百年之后最終形成相對(duì)穩(wěn)定的“人與機(jī)”關(guān)系。

人工智能是一種新的機(jī)器形態(tài)，其特殊性在于一種革命性的“兩自能力”，即以深度學(xué)習(xí)技術(shù)為核心的人工智能具備革命性的“自主學(xué)習(xí)能力”及相應(yīng)的“自我進(jìn)化”能力。①早期關(guān)于人工智能能力及其可能影響的研究，參見(jiàn)潘恩榮、阮凡、郭喨：《人工智能“機(jī)器換人”問(wèn)題重構(gòu)——一種馬克思主義哲學(xué)的解釋與介入路徑》，《浙江社會(huì)科學(xué)》2019 年第5 期。人工智能憑借其“兩自能力”再次沖擊傳統(tǒng)的“人與機(jī)”關(guān)系，顛覆性地介入和改變?nèi)祟惿詈蜕鐣?huì)秩序。與以往的非智能“機(jī)器換人”過(guò)程相比，人工智能的沖擊發(fā)生了明顯變化，引發(fā)了一系列新的影響。概括來(lái)說(shuō)，人工智能可能的影響可歸納為近期、中長(zhǎng)期與遠(yuǎn)期三類。

人工智能的近期影響主要是“失業(yè)問(wèn)題”與“隱私問(wèn)題”，其原理是人工智能短時(shí)間沖擊“人與機(jī)”關(guān)系在社會(huì)層面引發(fā)的應(yīng)激反應(yīng)?！笆I(yè)問(wèn)題”是一個(gè)歷久彌新的老問(wèn)題，“隨著技術(shù)的發(fā)展，機(jī)械化、自動(dòng)化、人工智能的程度高了，技術(shù)肯定會(huì)取代一部分人力，在創(chuàng)造一些新的行業(yè)和就業(yè)崗位的同時(shí)，把一些傳統(tǒng)的行業(yè)和崗位淘汰掉”②韓天琪：《技術(shù)進(jìn)步會(huì)讓我們失業(yè)嗎？》，《中國(guó)科學(xué)報(bào)》2017 年11 月13 日。。麻省理工學(xué)院和波士頓大學(xué)發(fā)布的研究顯示：1990—2007 年，每千名美國(guó)工人中增加1 個(gè)機(jī)器人，全美就業(yè)人數(shù)比例下降0.2%。③D.Acemoglu and p.Restrepo,“Robots and Jobs: Evidence from US Labor Markets”,National Bureau of Economic Research Working Paper Series,No.23285,2017.社會(huì)對(duì)機(jī)器革命引發(fā)的創(chuàng)傷已深入社會(huì)文化意識(shí)，因而，一旦有新技術(shù)和新機(jī)器出現(xiàn)，社會(huì)層面便會(huì)出現(xiàn)相關(guān)的應(yīng)激反應(yīng)。因此，2016 年“阿爾法狗”（Alpha GO）事件之后，人們的第一反應(yīng)是人工智能可能帶來(lái)新一輪規(guī)模宏大的“機(jī)器換人”效應(yīng)和相應(yīng)的失業(yè)問(wèn)題?！半[私問(wèn)題”是一個(gè)因人工智能而規(guī)模性爆發(fā)的老問(wèn)題。在西方社會(huì)，尤其是標(biāo)榜“自由”的社會(huì)氛圍下，個(gè)人隱私是一種優(yōu)先級(jí)別非常高的社會(huì)事務(wù)。在互聯(lián)網(wǎng)社會(huì)，雖然有巨量的數(shù)據(jù)沉淀，但個(gè)人隱私信息也淹沒(méi)在數(shù)據(jù)汪洋中。雖然偶有出現(xiàn)侵犯隱私問(wèn)題，只要不是規(guī)模性社會(huì)事件，隱私問(wèn)題并未成為令人擔(dān)憂的社會(huì)問(wèn)題。然而，當(dāng)人工智能作為世界新一輪科技革命和產(chǎn)業(yè)變革通用技術(shù)且具備“兩自能力”的時(shí)候，個(gè)人隱私信息在人工智能數(shù)據(jù)挖掘過(guò)程中無(wú)所遁形。因此，大規(guī)模隱私泄露已經(jīng)成為事實(shí)而不只是一種風(fēng)險(xiǎn)。在國(guó)內(nèi)，隱私泄露引發(fā)各種“大數(shù)據(jù)殺熟”事件，最終導(dǎo)致國(guó)內(nèi)《個(gè)人信息保護(hù)法》出臺(tái)明令禁止此類行為；在國(guó)外，隱私泄露引發(fā)歐盟設(shè)立《通用數(shù)據(jù)保護(hù)法》等苛刻的法律以保護(hù)個(gè)人隱私。

人工智能的中長(zhǎng)期影響主要是“歧視問(wèn)題”，如數(shù)據(jù)歧視和算法歧視等，以及由此引發(fā)的社會(huì)分裂和分化問(wèn)題。一方面，“數(shù)據(jù)歧視”放大了人類社會(huì)文化原有的分裂情緒，可能加劇社會(huì)分化。當(dāng)前的人工智能的核心深度學(xué)習(xí)技術(shù)，可以不通過(guò)人類專家的幫助自行在大規(guī)模數(shù)據(jù)學(xué)習(xí)中建立抽象的特征規(guī)則。④周志華：《關(guān)于深度學(xué)習(xí)的一點(diǎn)思考》，于劍、封舉富、張敏靈等編：《機(jī)器學(xué)習(xí)及其應(yīng)用2019》，北京：清華大學(xué)出版社，2019 年，第1—9 頁(yè)。然而，數(shù)據(jù)并不必然具有中立性。人類的社會(huì)文化偏見(jiàn)沉淀于大數(shù)據(jù)之中，人工智能算法不同程度上學(xué)習(xí)并放大了人類社會(huì)文化中的歧視情緒。例如，COMPAS 是一種在美國(guó)廣泛使用的存在明顯偏見(jiàn)的算法，該系統(tǒng)預(yù)測(cè)的黑人再次犯罪的風(fēng)險(xiǎn)遠(yuǎn)高于白人。⑤王燃：《大數(shù)據(jù)證明的機(jī)理及可靠性探究》，《法學(xué)家》2022 年第3 期。也就是說(shuō)，大數(shù)據(jù)算法實(shí)現(xiàn)預(yù)測(cè)的過(guò)程，內(nèi)含人類認(rèn)知的歧視情緒。另一方面，“算法歧視”是人為將某種情緒嵌入人工智能算法之中，進(jìn)而導(dǎo)致有偏見(jiàn)的結(jié)論，可能激化社會(huì)矛盾。如利用人工智能進(jìn)行分類篩選時(shí)，由于設(shè)計(jì)者對(duì)某些人群帶有某些負(fù)面情緒，可能出現(xiàn)人工智能系統(tǒng)做出不利于后者的預(yù)測(cè)。

人工智能的遠(yuǎn)期影響是人類命運(yùn)問(wèn)題，如人工智能奇點(diǎn)問(wèn)題、無(wú)用階級(jí)問(wèn)題和人類種族存續(xù)問(wèn)題。“人工智能奇點(diǎn)問(wèn)題”主要擔(dān)憂未來(lái)人工智能有可能出現(xiàn)“奇點(diǎn)”，如人工智能誕生自我意識(shí)，進(jìn)而出現(xiàn)不可控的風(fēng)險(xiǎn)。早在20 世紀(jì)50 年代，波蘭數(shù)學(xué)家斯塔尼斯拉夫·烏拉姆在馮·諾伊曼的悼文中就擔(dān)憂過(guò)：“技術(shù)正以其前所未有的速度增長(zhǎng)，……人類社會(huì)的發(fā)展正逼近某個(gè)奇點(diǎn)，一旦超越了這個(gè)奇點(diǎn)，我們現(xiàn)在熟知的人類社會(huì)將變得無(wú)法預(yù)測(cè)。”①朱彥明：《奇點(diǎn)理論：技術(shù)“復(fù)魅”世界?——批判地閱讀庫(kù)茲韋爾的〈奇點(diǎn)臨近〉》，《科學(xué)技術(shù)哲學(xué)研究》2020年第6 期。雷·庫(kù)茲韋爾（Ray Kurzweil）將“技術(shù)奇點(diǎn)”引入人工智能領(lǐng)域。他指出，隨著人類知識(shí)與人類技術(shù)結(jié)合度不斷提升，知識(shí)共享將可以完全實(shí)現(xiàn)，人類與機(jī)器將形成深度融合，文明將超越人腦的限制，技術(shù)奇點(diǎn)出現(xiàn)。②[美]雷·庫(kù)茲韋爾：《奇點(diǎn)臨近》，李慶誠(chéng)、董振華、田源譯，北京：機(jī)械工業(yè)出版社，2011 年，第9 頁(yè)?！盁o(wú)用階級(jí)問(wèn)題”指的是人工智能持續(xù)加劇社會(huì)分化最終導(dǎo)致絕大部分人成為對(duì)社會(huì)經(jīng)濟(jì)“無(wú)用的普通人”，而另外一小部分人成為“超級(jí)人類”。③[以色列]尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史：從智人到神人》，林俊宏譯，北京：中信出版社，2017 年，第315 頁(yè)?！叭祟惙N族存續(xù)問(wèn)題”指的是人類可能過(guò)于依賴人工智能而引發(fā)某種退化，出現(xiàn)“主奴互換”，導(dǎo)致人類被人工智能奴役甚至滅絕。首先，由于越來(lái)越依賴便捷的人工智能技術(shù)，人類可能失去自身有用的技能和思維能力。發(fā)達(dá)的互聯(lián)網(wǎng)使得信息的接受與傳達(dá)分外簡(jiǎn)單，在長(zhǎng)期的碎片化信息接受習(xí)慣下，人們思考能力與對(duì)于事物的分辨能力將面臨下降風(fēng)險(xiǎn)。數(shù)字化和智能化服務(wù)給人類在生產(chǎn)生活中提供便捷的同時(shí)，使得人們直接參與生產(chǎn)生活的機(jī)會(huì)變少，思考和勞動(dòng)能力在不明顯或無(wú)意識(shí)的狀態(tài)下漸趨弱化。其次，由于人工智能的“兩自能力”不斷增強(qiáng)，人類自主性和對(duì)人工智能的最終掌控權(quán)遭到不斷侵蝕。人工智能已經(jīng)在許多方面替代了原本僅屬于人類的腦力行為，如許多社交網(wǎng)站或者購(gòu)物網(wǎng)站通過(guò)用戶數(shù)據(jù)來(lái)進(jìn)行計(jì)算，智能化選擇性地推送產(chǎn)品給用戶。這種看似智能便捷的做法其實(shí)在某種意義上限制了人類的自主權(quán)和決策權(quán)，人類不自覺(jué)地將思維和選擇的能力轉(zhuǎn)移到人工智能身上。長(zhǎng)此以往，人的取向或者判斷將被人工智能限制在設(shè)定好的界限里，產(chǎn)生“信息繭房”效應(yīng)。同時(shí)，高智能的定制化推送和信息獲取，會(huì)使人們?nèi)趸踔羻适ё灾魉伎己蜎Q策能力。如果人工智能奇點(diǎn)來(lái)臨，在西方“自由至上”思想的影響下，人工智能很可能翻身做主人。例如，斯蒂芬·威廉·霍金認(rèn)為，人工智能會(huì)在將來(lái)的某一天趕上甚至超過(guò)人類，人工智能發(fā)展可能導(dǎo)致人類滅絕。④S.Hawking,Brief answers to the big questions,New York: Bantam Books,2018,p.182.如果人工智能永遠(yuǎn)不會(huì)產(chǎn)生自我意識(shí)，在人類深度依賴人工智能而失去自主思考能力的背景下，整個(gè)人類社會(huì)也可能因?yàn)闆](méi)有新的突破而陷入退化和消亡過(guò)程。

三、西方社會(huì)對(duì)人工智能的態(tài)度及其局限

西方社會(huì)對(duì)人工智能的態(tài)度總體上可概括為“以人為本”，強(qiáng)調(diào)人工智能須“以人類為中心”，不能僭越“人”的地位和權(quán)利。據(jù)詞頻統(tǒng)計(jì)，人工智能倫理準(zhǔn)則的關(guān)鍵詞包括以下各類：為人服務(wù)（For Human)、可持續(xù)性（Sustainability)、合作（Collaboration)、共享（Share)、公平（Fairness)、隱私（Privacy)、問(wèn)責(zé)（Accountability)、透明（Transparency)、安保（Security)、安全（Safety）和人工智能長(zhǎng)遠(yuǎn)發(fā)展（Long Term AI)。⑤參見(jiàn)“鏈接人工智能準(zhǔn)則平臺(tái)”，https://www.linking-ai-principles.org/cnkeywords。其中，前七類直接與人相關(guān)，后四類主要針對(duì)人工智能技術(shù)，但也間接與人相關(guān)。因此，西方社會(huì)的人工智能倫理準(zhǔn)則總體上將歸宿點(diǎn)聚焦于“人”的存在和發(fā)展，即確保人工智能安全、可控、可靠地朝有利于人類與社會(huì)發(fā)展的方向發(fā)展。

在人工智能“以人為本”倫理準(zhǔn)則中，西方社會(huì)對(duì)“人”的理解有多重涵義。首先，西方社會(huì)對(duì)“人”的理解是從“以神為本”走向“以人為本”。前現(xiàn)代時(shí)期，西方社會(huì)遵循基督教體系“以神為本”的思路，神與天使是“超人”，天使和人是神創(chuàng)造的“產(chǎn)品”，是神的奴仆。從“神”的角度看，當(dāng)天使具備獨(dú)立意識(shí)時(shí)，天使會(huì)拒絕神的旨意，挑戰(zhàn)神的權(quán)威。在基督教一神論“以神為本”的設(shè)定下，這是神不可接受的結(jié)果。近代西方文化代表性詩(shī)歌——《失樂(lè)園》完整地表達(dá)了這樣的場(chǎng)景，構(gòu)建了人“從何而來(lái)”的概念。

其次，西方社會(huì)人文主義思潮構(gòu)建了“自然人”概念，帶有“人權(quán)不可侵犯、至高無(wú)上”的神圣屬性。人文主義將“自然人”的價(jià)值、尊嚴(yán)和生命等“自然屬性”充分地拔高和神圣化，替換了中世紀(jì)基督教“神”或“神圣人”概念。洛克的自由主義與社會(huì)契約思想影響了后來(lái)康德的“人為自然立法”、法國(guó)的“天賦人權(quán)”等思想，最后影響了美國(guó)《獨(dú)立宣言》（1776）和法國(guó)《人權(quán)宣言》（1789），成為近代西方社會(huì)的一個(gè)基礎(chǔ)性倫理價(jià)值。在當(dāng)前人工智能倫理準(zhǔn)則中，“自然人”含義更多地體現(xiàn)為人類的福祉、尊嚴(yán)、自主、自由和公平等關(guān)鍵詞。

再次，西方社會(huì)科學(xué)主義思潮構(gòu)建了“理性人”概念，帶有某種“全能的”（Almighty）的神圣屬性?？茖W(xué)主義可追溯到古希臘的“邏格斯”（Logos）思想，啟蒙運(yùn)動(dòng)后集中體現(xiàn)在以笛卡爾為代表的理性主義思想?！袄硇匀恕彪m然替代了宗教的“神”或“神圣人”，但也保留了某些“類神”特征，如認(rèn)為人具有無(wú)限理性或完全理性。在18 世紀(jì)第一次工業(yè)革命過(guò)程中，“理性人”得到了進(jìn)一步的衍生。在亞當(dāng)·斯密那里，“理性人”表達(dá)為一種“理性經(jīng)濟(jì)人”概念，每個(gè)人都謀求自身利益最大化且具備無(wú)限的理性。在當(dāng)前人工智能倫理準(zhǔn)則中，“理性人”含義更多地體現(xiàn)為人類的有益、隱私、最終掌控權(quán)、共享、合作和問(wèn)責(zé)等關(guān)鍵詞。

最后，西方社會(huì)人工智能倫理準(zhǔn)則的“以人為本”思想不僅承襲了“西方中心論”思想和“個(gè)人自由主義”思想，還進(jìn)一步表達(dá)了人類與人工智能之間的某種“人類種族中心主義”情緒。經(jīng)歷宗教改革（16 世紀(jì)）、資產(chǎn)階級(jí)革命（17 世紀(jì)）、自然科學(xué)革命（17 世紀(jì)）和工業(yè)革命（18—19 世紀(jì)）之后，西方社會(huì)涌現(xiàn)出一種“西方式現(xiàn)代化”的文化信念，即“新教—白人—自由”的意識(shí)形態(tài)。其中，“新教”部分主要表達(dá)了“一神論”與（西方）人作為“神”創(chuàng)造的對(duì)象和其地位是“一神之下、萬(wàn)物之上”等思想；“白人”部分主要表達(dá)了“種族主義”思想，即白色人種優(yōu)先于其他有色人種；“自由”部分主要表達(dá)了“個(gè)人自由主義”和“個(gè)人人權(quán)至上”等思想。當(dāng)新一代基于深度學(xué)習(xí)技術(shù)的人工智能興起之后，上述“現(xiàn)代化”意識(shí)形態(tài)迅速占領(lǐng)了人工智能倫理準(zhǔn)則的主流位置。因此，人工智能“以人為本”倫理準(zhǔn)則直白地闡明“人類中心論”思想——人類相對(duì)于人工智能的優(yōu)先性，不僅提倡保障人的權(quán)力和權(quán)利，還表達(dá)了對(duì)人工智能可能作為新“種族”的恐懼，以及人工智能必須置于人類掌控之下的思想。

然而，西方社會(huì)提倡的人工智能“以人為本”倫理準(zhǔn)則存在兩方面的局限，可能會(huì)導(dǎo)致倫理準(zhǔn)則陷入自相矛盾的困境。一個(gè)局限是邏輯性悖論，即西方社會(huì)力圖用倫理準(zhǔn)則規(guī)范人工智能，但最后不接受具備倫理能力的人工智能。另一個(gè)局限是人性漏洞。

（一）邏輯性悖論

首先，西方社會(huì)對(duì)人工智能的態(tài)度深受“自然人”傳統(tǒng)及其背后的基督教文化“人神關(guān)系”的影響。人工智能首先是人類的“產(chǎn)品”，誠(chéng)如人類是神的“產(chǎn)品”一樣，前者應(yīng)該完全服從后者并遵循以后者為中心的倫理準(zhǔn)則。當(dāng)“人與機(jī)”關(guān)系處于“人為主、機(jī)為奴”的“主奴關(guān)系”時(shí)，在人工智能增強(qiáng)人類勞動(dòng)能力的同時(shí)，“以人為本”是可能的，也是可行的。非智能的現(xiàn)代機(jī)械機(jī)器如同一般的天使，完全聽命于控制者。當(dāng)前弱人工智能如同具有一定自主性卻沒(méi)有獨(dú)立自我意識(shí)的天使，仍然不會(huì)主動(dòng)“反抗”其創(chuàng)造者的權(quán)威和最終控制權(quán)。

其次，人工智能的能力超越人類能力將引發(fā)人類對(duì)人工智能的擔(dān)憂、恐懼和反抗。近代西方文化用“自然人”替代了“神”的位置后，強(qiáng)調(diào)人權(quán)高于一切，從而難以接受（某些）能力超越人類的人工智能?；凇吧瘛焓梗ㄅ停彼枷?，“自然人”認(rèn)為“人與機(jī)”關(guān)系是天然的“主奴”關(guān)系，即人為“主”、人工智能為“奴”。這是“人與機(jī)”對(duì)立的“主奴關(guān)系”理解模式。如果人工智能的能力超越人，機(jī)器便具備了“超越”或“替代”人的可能性。第一次工業(yè)革命的歷史表明，機(jī)器增強(qiáng)只有部分的“以人為本”功能效果，即其中一部分人得益，而另一部分卻未分享到紅利，于是后者群起而攻機(jī)器。例如，在哈格里夫斯研發(fā)珍妮紡紗機(jī)期間，鄰居擔(dān)憂失業(yè)而強(qiáng)行沖進(jìn)其住所，搗毀珍妮紡紗機(jī)樣品和砸碎家具，①[英]羅伯特·艾倫：《近代英國(guó)工業(yè)革命揭秘：放眼全球的深度透視》，毛立坤譯，杭州：浙江大學(xué)出版社，2012 年，第293—294 頁(yè)。后期此類事情演化為“盧德運(yùn)動(dòng)”(Luddite Movement)。同理，在人工智能機(jī)器崛起的第四次工業(yè)革命期間，當(dāng)人工智能機(jī)器出現(xiàn)了一些“超人的智能”，人們也會(huì)開始擔(dān)憂人工智能機(jī)器。尤其是2016 年“阿爾法狗”戰(zhàn)勝人類圍棋職業(yè)高手后，人們猛然發(fā)現(xiàn)原來(lái)機(jī)器智能勝過(guò)“人類智慧”，原來(lái)處于奴仆地位的人工智能可以在智力上超越原來(lái)處于主人地位的人類。社會(huì)文化意識(shí)中的一些恐懼和擔(dān)憂情緒涌現(xiàn)，推動(dòng)了各種人工智能“以人為本”倫理準(zhǔn)則爆發(fā)式出臺(tái)。

再次，具有獨(dú)立自我意識(shí)的人工智能邏輯上將反叛人類主人。神與天使的關(guān)系以及它們與人類的關(guān)系喻示了人與人工智能的關(guān)系。既然被創(chuàng)造出來(lái)的人類可以擁有獨(dú)立的自我意識(shí)，那么，被人類創(chuàng)造出來(lái)的人工智能在邏輯上也可能誕生獨(dú)立的自我意識(shí)。然而，在西方社會(huì)意識(shí)中，具備獨(dú)立自我意識(shí)的天使最終反叛了神；同理，具備獨(dú)立的自我意識(shí)的人工智能邏輯上也將反叛人類。因此，即便是剛剛出現(xiàn)一點(diǎn)“自主性”的人工智能也引發(fā)了西方社會(huì)的擔(dān)憂，因?yàn)榍罢咭l(fā)了人類不可解釋的“認(rèn)知黑箱”，即當(dāng)前的人工智能有遠(yuǎn)離人類控制的傾向，人與人工智能機(jī)器的“主奴關(guān)系”出現(xiàn)松動(dòng)。②潘恩榮、曹先瑞：《面向未來(lái)工程教育的人工智能倫理譜系》，《高等工程教育研究》2021 年第6 期。人工智能“奇點(diǎn)”理論指向的就是極端情況下的“主奴互換”：人工智能機(jī)器涌現(xiàn)出獨(dú)立自主的意識(shí)，且機(jī)器無(wú)論從體力上還是在智力上都是“超人的”。“人們開始憂慮人工智能可能引發(fā)人類命運(yùn)的擔(dān)憂，動(dòng)搖人類作為萬(wàn)物之靈的地位”③潘恩榮、張為志：《無(wú)科學(xué)，不哲學(xué)》，《中國(guó)科學(xué)報(bào)》2018 年12 月24 日。，人工智能時(shí)代的“新盧德主義”思想嶄露頭角。未來(lái)強(qiáng)人工智能機(jī)器如同具有自我獨(dú)立意識(shí)的高級(jí)天使，能夠主動(dòng)“反抗”主人權(quán)威。因此，邏輯上，在西方基督教文化和自然人思想背景下，人類最終不會(huì)接受強(qiáng)人工智能機(jī)器。

最后，人類也不會(huì)接受具備倫理能力的人工智能機(jī)器。從西方“神—天使（奴仆）—人”之間的關(guān)系看，神既不接受具備獨(dú)立意識(shí)的天使，也不接受具備“辨識(shí)善惡能力”的人類。在《伊甸園》的敘事中，當(dāng)人類始祖受誘惑而食用了具有“辨識(shí)善惡能力”的智慧樹果實(shí)之后，神開始擔(dān)心具備“辨識(shí)善惡能力”的人類進(jìn)一步追求生命樹上的永生果實(shí)，最后威脅到神的地位，于是把人類從伊甸園中驅(qū)逐到地面上?！氨孀R(shí)善惡的能力”本質(zhì)上是一種倫理能力。既然基督教文化中神不接受具備倫理能力的人類，那么，按照近代以來(lái)西方對(duì)“自然人”的理解，人類也不接受具備倫理能力的人工智能機(jī)器。否則，人工智能就可能進(jìn)一步“追求生命樹上的果實(shí)”，要求人工智能（機(jī)器人）的生命權(quán)，進(jìn)而要求“人機(jī)平權(quán)”，甚至可能要求“天賦機(jī)權(quán)”，最終動(dòng)搖神圣的“自然人”地位和權(quán)力。從這個(gè)角度來(lái)看，西方人工智能倫理準(zhǔn)則把“以人為本”作為最高原則之一，其實(shí)質(zhì)并不是培養(yǎng)具備倫理能力的人工智能機(jī)器，而是要求人工智能機(jī)器處于人類奴仆的狀態(tài)。那么，西方社會(huì)提出和倡導(dǎo)的人工智能倫理準(zhǔn)則將走向自我否定。

（二）人性漏洞

無(wú)論人工智能是否具備獨(dú)立的自我意識(shí)，從“理性經(jīng)濟(jì)人”角度看，人類可以冒風(fēng)險(xiǎn)接受人工智能機(jī)器出現(xiàn)“主奴互換”。用西方的話語(yǔ)來(lái)說(shuō)，這是人類與魔鬼做交易，不管是小魔鬼（弱人工智能）還是大魔鬼（強(qiáng)人工智能），都是極度危險(xiǎn)的事情。按照“理性經(jīng)濟(jì)人”的思維，只要機(jī)器增強(qiáng)比人類更有“能力”獲得利潤(rùn)空間，無(wú)論是生產(chǎn)、流通還是交換場(chǎng)景中，一定會(huì)出現(xiàn)“機(jī)器換人”現(xiàn)象。低利潤(rùn)空間中的“機(jī)器換人”是合乎理性的經(jīng)濟(jì)行為。盡管一部分人未必能享受到人工智能增強(qiáng)帶來(lái)的福利，但仍有一部分人類精英可以得益于人工智能增強(qiáng)。然而，資本的本性是追逐高利潤(rùn)并且呈現(xiàn)無(wú)克制的趨勢(shì)，“一旦有適當(dāng)?shù)睦麧?rùn)，資本就膽大起來(lái)，……有50%的利潤(rùn)，它就鋌而走險(xiǎn)；為了100%的利潤(rùn)，它就敢踐踏一切人間法律；有300%的利潤(rùn)，它就敢犯任何罪行，甚至冒絞首的危險(xiǎn)。如果動(dòng)亂和紛爭(zhēng)能帶來(lái)利潤(rùn)，它就會(huì)鼓勵(lì)動(dòng)亂和紛爭(zhēng)”①這段話是馬克思引用自托·約·鄧寧《工聯(lián)和罷工》1860 年倫敦版第35、36 頁(yè)的內(nèi)容，參見(jiàn)《馬克思恩格斯文集》（第5 卷），北京：人民出版社，2009 年，第871 頁(yè)。。因此，基于資本邏輯發(fā)明和使用人工智能容易走向極端，進(jìn)而引發(fā)一些不可逆的社會(huì)事件。一種極端情況是，在高利潤(rùn)空間的誘惑下，“理性經(jīng)濟(jì)人”就敢冒“與魔鬼做交易”的風(fēng)險(xiǎn)接受“主奴互換”式的機(jī)器換人，不惜讓人工智能主宰人類命運(yùn)。例如，在波音737MAX 墜機(jī)案例中，在高額商業(yè)利潤(rùn)的刺激和競(jìng)爭(zhēng)下，波音設(shè)置人工智能自動(dòng)駕駛系統(tǒng)的“決策權(quán)限”高于人類飛機(jī)駕駛員，但沒(méi)有嚴(yán)格地驗(yàn)證自動(dòng)駕駛系統(tǒng)的可靠性和安全性并執(zhí)行知情同意倫理原則。當(dāng)智能機(jī)器決策正確時(shí)，“理性人”和（神圣的）“自然人”都接受并“享受”這樣的狀態(tài)，前者獲得高利潤(rùn)，后者獲得高質(zhì)量服務(wù)。但是，當(dāng)智能機(jī)器決策錯(cuò)誤導(dǎo)致災(zāi)難發(fā)生時(shí)，（神圣的）“自然人”開始拒絕接受這樣的人與智能機(jī)器的“主奴互換”狀態(tài)，表現(xiàn)為西方發(fā)達(dá)國(guó)家同樣紛紛禁飛波音737MAX 機(jī)型。事實(shí)上，這是人類對(duì)人工智能的禁用。另外一種極端情況是，如果運(yùn)氣足夠好，“理性經(jīng)濟(jì)人”不斷地成功實(shí)施“機(jī)器換人”最后走向人工智能大工業(yè)。在弱人工智能條件下，絕大部分人類可能成為對(duì)社會(huì)發(fā)展“無(wú)用”②[以色列]尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史：從智人到神人》，第315 頁(yè)。的低階群體，而一小部分人類因?yàn)檎瓶厝斯ぶ悄芏蔀楦唠A人群；在強(qiáng)人工智能條件下，人類整體上反而是“無(wú)用階級(jí)”。

四、“以人為本”新思路

西方在人工智能倫理準(zhǔn)則和立法的先發(fā)優(yōu)勢(shì)已經(jīng)開始影響到中國(guó)設(shè)立人工智能倫理準(zhǔn)則和立法的思路。然而，西方社會(huì)提出并倡導(dǎo)的人工智能“以人為本”倫理準(zhǔn)則存在兩個(gè)局限。如果完全照搬與沿用西方社會(huì)的“以人為本”人工智能倫理準(zhǔn)則，中國(guó)人工智能倫理治理將囿于邏輯性悖論和人性漏洞帶來(lái)的困境。

馬克思關(guān)于第一次工業(yè)革命和機(jī)器大工業(yè)批判的研究為人工智能倫理準(zhǔn)則提供了“以人為本”的新線索?！顿Y本論》可以看作“歐洲工業(yè)化背景下關(guān)于技術(shù)進(jìn)步、技術(shù)創(chuàng)新與制度變革之間的相互作用和影響的批判和反思”③更多參見(jiàn)潘恩榮：《創(chuàng)新驅(qū)動(dòng)發(fā)展與資本邏輯》，杭州：浙江大學(xué)出版社，2016 年，第3—6 頁(yè)。。當(dāng)前西方社會(huì)人工智能“以人為本”倫理準(zhǔn)則的思想根基是“西方式現(xiàn)代化”的文化信念，《資本論》恰是以完成工業(yè)革命的英國(guó)為例批判和反思“西方式現(xiàn)代化”。那么，馬克思的思想有助于應(yīng)對(duì)人工智能“以人為本”倫理準(zhǔn)則的兩個(gè)局限。

西方社會(huì)人工智能“以人為本”倫理準(zhǔn)則的兩個(gè)局限之間的關(guān)系是“人工智能本身與人工智能資本主義應(yīng)用”的關(guān)系。邏輯性悖論指向人工智能（機(jī)器）本身的問(wèn)題，西方社會(huì)力圖用倫理準(zhǔn)則規(guī)范人工智能，但又要求“人工智能不能具備獨(dú)立的自我意識(shí)，且不能具備辨識(shí)善惡的倫理能力”。前者指的是“以人為本”的人工智能應(yīng)當(dāng)是“弱人工智能”而非“強(qiáng)人工智能”；后者指的是人工智能倫理準(zhǔn)則的目標(biāo)之一就是人工智能能夠辨識(shí)善惡，即倫理能力是人工智能的固有功能之一。人性漏洞則指向“人工智能（機(jī)器）的資本主義應(yīng)用”問(wèn)題，也是“人工智能異化”問(wèn)題，要求“人類社會(huì)本身需克制資本邏輯，避免人類使用人工智能的行為走向極端”，但在西方社會(huì)背景中卻難以實(shí)現(xiàn)。

（一）應(yīng)對(duì)西方人工智能倫理準(zhǔn)則局面

從馬克思的思想角度看，上述關(guān)系本質(zhì)上是“機(jī)器與機(jī)器的資本主義應(yīng)用”之間的關(guān)系在人工智能維度的再現(xiàn)。那么，基于馬克思的思想，尤其是《資本論》及其手稿關(guān)于工業(yè)革命和機(jī)器大工業(yè)批判的思想，有三條路徑能夠應(yīng)對(duì)西方社會(huì)人工智能“以人為本”倫理準(zhǔn)則的兩個(gè)局限。

首先，根據(jù)歷史唯物主義的原理，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐的范圍只能是“弱人工智能”。歷史唯物主義的基本原理之一是社會(huì)存在決定社會(huì)意識(shí)。那么，當(dāng)前社會(huì)中關(guān)于人工智能的現(xiàn)實(shí)是什么？關(guān)于人工智能是否出現(xiàn)自我意識(shí)、是否引發(fā)奇點(diǎn)效應(yīng)的問(wèn)題，人工智能科技專家主流的意見(jiàn)是：在理論上，人工智能涌現(xiàn)自我意識(shí)是可能的，但在現(xiàn)實(shí)中，“哲人們擔(dān)心的事情一百年都不會(huì)發(fā)生”①潘恩榮、曹先瑞：《面向未來(lái)工程教育的人工智能倫理譜系》。。因此，社會(huì)現(xiàn)實(shí)是當(dāng)前及未來(lái)相當(dāng)長(zhǎng)的一段時(shí)間內(nèi)，人工智能只是“弱人工智能”而非“強(qiáng)人工智能”。那么，邏輯性悖論前半部分關(guān)于“強(qiáng)人工智能”的擔(dān)憂，是沒(méi)有社會(huì)現(xiàn)實(shí)基礎(chǔ)的虛假的社會(huì)意識(shí)，雖然有意義但不是當(dāng)前人工智能“以人為本”倫理準(zhǔn)則應(yīng)該做的事情。

其次，根據(jù)人的自由而全面發(fā)展思想，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐歡迎具備倫理能力的人工智能。關(guān)于人工智能是否具備“辨識(shí)善惡”的倫理能力的問(wèn)題，這是人工智能自身發(fā)展、人工智能倫理和治理追求的終極目標(biāo)之一。但是，回顧工業(yè)革命以來(lái)西方社會(huì)對(duì)先進(jìn)科技的態(tài)度，就會(huì)發(fā)現(xiàn)，掌控機(jī)器和先進(jìn)科技的群體，在資本邏輯的主導(dǎo)下，為了資本增殖和擴(kuò)大再生產(chǎn)可以肆無(wú)忌憚地“機(jī)器換人”，罔顧工人身心健康和安全。如果人工智能具備“辨識(shí)善惡”的倫理能力，那么，人工智能將會(huì)阻礙甚至反抗機(jī)器的資本主義應(yīng)用、資本主義生產(chǎn)方式及其相適應(yīng)的生產(chǎn)關(guān)系和分配關(guān)系。馬克思強(qiáng)調(diào)“人的本質(zhì)不是單個(gè)人所固有的抽象物，在其現(xiàn)實(shí)性上，它是一切社會(huì)關(guān)系的總和”②《馬克思恩格斯文集》（第1 卷），北京：人民出版社，2009 年，第505 頁(yè)。。因此，關(guān)于對(duì)“人”的理解，要超越西方社會(huì)“自然人—理性人”的理解模式，從而超越西方社會(huì)對(duì)人工智能“以人為本”倫理準(zhǔn)則的理解。在馬克思看來(lái)，近代西方文化神圣的“自然人”的理解模式在方法論上存在一個(gè)錯(cuò)誤：不是從人的現(xiàn)實(shí)的社會(huì)實(shí)踐活動(dòng)和經(jīng)濟(jì)關(guān)系出發(fā)，而是從人的“自然屬性”或所謂的“天賦人性”出發(fā)去探究社會(huì)道德關(guān)系。③余達(dá)淮：《歷史唯物主義：馬克思主義倫理學(xué)的根本方法》，《光明日?qǐng)?bào)》2018 年10 月29 日。同理，從“理性人”角度理解“人”在方法論上也存在一個(gè)重要的缺陷：基于“理性經(jīng)濟(jì)人”假設(shè)，人理解社會(huì)關(guān)系的方法論最終會(huì)走向基于資本邏輯的方法論。因此，馬克思對(duì)“人”的理解不是從天國(guó)降到人間，而是從（生物學(xué)）“自然人”向“抽象人”的超越，始于現(xiàn)實(shí)的人——“具體人”，經(jīng)過(guò)分裂的社會(huì)階級(jí)的人——“社會(huì)人”，止于理想社會(huì)環(huán)境中的人——“抽象人”，形成一種“人”之四象的理解模式。在馬克思的理解中，“具體人”并不是近代西方的“自然人”或“理性人”的衍生，而是“現(xiàn)實(shí)的人”，即“從事實(shí)際活動(dòng)的人”，或者是資本主義生產(chǎn)方式下的“勞動(dòng)者”與“資本家”。第一次工業(yè)革命期間，由于機(jī)器崛起強(qiáng)勢(shì)介入“人與人”之間的關(guān)系，“具體人”進(jìn)一步演化為“社會(huì)人”概念。“勞動(dòng)者”與“資本家”這兩個(gè)人類群體演化為對(duì)立的兩大社會(huì)階級(jí)——無(wú)產(chǎn)階級(jí)和資產(chǎn)階級(jí)。兩個(gè)社會(huì)階級(jí)相互飽含敵意、價(jià)值對(duì)立和利益沖突，這是機(jī)器增強(qiáng)導(dǎo)致社會(huì)分裂的后果。因而，馬克思的“社會(huì)人”概念也是分裂的。為了消除如此不合理的社會(huì)分裂現(xiàn)象，以及再次面向全人類增強(qiáng)“以人為本”，馬克思提出了一種“抽象人”概念，強(qiáng)調(diào)人的解放和自由而全面發(fā)展。這樣的“人”的概念不是現(xiàn)實(shí)生活中的“具體人”，而是在理想主義社會(huì)環(huán)境中的自由而全面發(fā)展的人?？偟貋?lái)說(shuō)，近代西方文化對(duì)“人”的理解是一種對(duì)“人與人”關(guān)系的理解，而馬克思對(duì)“人”的理解模式是一種“人與機(jī)”關(guān)系。近代西方文化視域的焦點(diǎn)在于“抽象人”，即作為神圣的“自然人”或“理性人”擁有某種神圣屬性；馬克思視域的焦點(diǎn)在于“具體人”，即在機(jī)器大規(guī)模社會(huì)應(yīng)用的背景下“現(xiàn)實(shí)的人及其境遇”。同理，在當(dāng)前人工智能大規(guī)模社會(huì)應(yīng)用的背景下，“現(xiàn)實(shí)的人”不能僅僅發(fā)展人與機(jī)器的關(guān)系以實(shí)現(xiàn)資本增殖和擴(kuò)大再生產(chǎn)，還要發(fā)展人與人、人與機(jī)、機(jī)與機(jī)之間的關(guān)系實(shí)現(xiàn)所有人的全面發(fā)展。那么，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐就需要具備倫理能力的人工智能，關(guān)注“現(xiàn)實(shí)的人及其境遇”，既能發(fā)揮掌控人工智能的人類群體的個(gè)人追求，又有利于公眾共享人工智能發(fā)展帶來(lái)的機(jī)遇和福利。

最后，根據(jù)辯證發(fā)展思想，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐需要合情合理地使用人性特點(diǎn)，但不能使之成為人性漏洞。馬克思已經(jīng)證明，當(dāng)資本介入生產(chǎn)過(guò)程，基于“理性經(jīng)濟(jì)人”思維的“資本邏輯”逐漸掌控全局，“機(jī)器異化”或“機(jī)器的資本主義應(yīng)用”使得機(jī)器成為一種“生產(chǎn)剩余價(jià)值的手段”④《馬克思恩格斯全集》（第23 卷），北京：人民出版社，1972 年，第408 頁(yè)。。由此推理，在“理性經(jīng)濟(jì)人”思維背景下，人工智能也將進(jìn)入“異化”或“機(jī)器的資本主義應(yīng)用”的狀態(tài)。那么，關(guān)于人工智能“以人為本”倫理準(zhǔn)則是否可能的問(wèn)題，主要考察“超人”的人工智能是否處于異化或資本主義應(yīng)用的狀態(tài)。

（二）弱人工智能的異化

弱人工智能的異化或資本主義應(yīng)用與馬克思理解的機(jī)器異化或機(jī)器的資本主義應(yīng)用是同質(zhì)的。“異化”（Entfremdung）的原意是“疏遠(yuǎn)、脫離”，在機(jī)器大工業(yè)過(guò)程中有四種具體表現(xiàn)形式：人與勞動(dòng)產(chǎn)品相異化、人與勞動(dòng)相異化、人與人的類本質(zhì)相異化、人與人相異化。①《馬克思恩格斯文集》（第1 卷），第163 頁(yè)。由于人工智能在機(jī)器性能指標(biāo)上有著明顯的提升，人工智能的“異化”程度更深，實(shí)踐“以人為本”倫理準(zhǔn)則的難度提高。但是，只要人工智能尚未誕生獨(dú)立的自我意識(shí)，即出現(xiàn)強(qiáng)人工智能，人工智能的“異化”仍然只是因“疏遠(yuǎn)而脫離”，而不是因“獨(dú)立而脫離”人類的最終控制權(quán)。

第一，人工智能加深人與自身的勞動(dòng)產(chǎn)品相異化的程度。傳統(tǒng)非智能機(jī)器的異化或資本主義應(yīng)用使得人與自身的勞動(dòng)產(chǎn)品相異化，工人生產(chǎn)的產(chǎn)品不歸工人（機(jī)器的使用者）占有，被資本家（機(jī)器的所有者）無(wú)償占有。人工智能進(jìn)一步從體力和智力方面輔助或取代人，同時(shí)加劇了這種無(wú)償占有。人使用人工智能生產(chǎn)的產(chǎn)品不歸使用者占有，也不歸機(jī)器本身占有，而歸機(jī)器的所有者占有。例如，騰訊機(jī)器人Dreamwriter 自動(dòng)撰寫的文章可作為“法人作品”受著作權(quán)保護(hù)，但著作權(quán)歸人工智能所有者（法人）占有，而不是使用或設(shè)計(jì)人工智能的人所有，或者所有人共同所有。②廣東省深圳市南山區(qū)人民法院一審審結(jié)原告深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一案，參見(jiàn)https://www.sohu.com/a/379897207_120054912。

第二，人工智能加深人與勞動(dòng)相異化的程度。在傳統(tǒng)機(jī)器異化狀態(tài)下，勞動(dòng)成為一種外加在人身上的“體力型”強(qiáng)制手段，人在勞動(dòng)中不是獲得作為“人”的肯定，而是否定。人工智能加速了生產(chǎn)行為，遠(yuǎn)遠(yuǎn)超出了“具體人”（機(jī)器使用者）的生產(chǎn)速度，甚至超過(guò)了“具體人”的理解范圍，產(chǎn)生“可解釋性”難題。于是，勞動(dòng)成為一種外加在人身上的“智力型”或“智力型+體力型”的強(qiáng)制手段，“具體人”越來(lái)越感覺(jué)不到勞動(dòng)屬于他自己。人工智能不僅大規(guī)模進(jìn)行物質(zhì)生產(chǎn)，還開始進(jìn)行精神生產(chǎn)，如作曲、作畫、作詩(shī)、作視頻等。即便是人工智能在創(chuàng)造性方面沒(méi)有超過(guò)人類藝術(shù)家，但是前者“模仿”的水平越來(lái)越接近后者。與第一次工業(yè)革命機(jī)器生產(chǎn)的規(guī)模效應(yīng)一樣，人工智能創(chuàng)作也將使物質(zhì)產(chǎn)品和精神產(chǎn)品越來(lái)越價(jià)廉物美。那么，對(duì)于勞動(dòng)者而言，他們已經(jīng)無(wú)須、無(wú)理由進(jìn)行生產(chǎn)，包括物質(zhì)生產(chǎn)與精神生產(chǎn)。

第三，人工智能加劇人與自身的類本質(zhì)相異化的程度。“有意識(shí)的勞動(dòng)”是人的生命活動(dòng)的標(biāo)志之一，也是人區(qū)別動(dòng)物的關(guān)鍵特征之一。但是，當(dāng)前的人工智能有了一定的“自主決策空間”。在人工智能增強(qiáng)人類勞動(dòng)能力的情況下，部分勞動(dòng)成為人們“有意識(shí)的勞動(dòng)”之外在的“黑箱”。人們只看到輸入與輸出，卻不知道“黑箱”中的勞動(dòng)為何以及如何的過(guò)程，引發(fā)了人工智能“可解釋性”難題。因此，由于人類勞動(dòng)出現(xiàn)“黑箱化”狀態(tài)，人與動(dòng)物的區(qū)別、人與機(jī)器的區(qū)別被模糊化了。

第四，人工智能加劇人與人相異化的程度。當(dāng)人工智能加劇人與勞動(dòng)產(chǎn)品、勞動(dòng)和自身的類本質(zhì)相異化，按照馬克思的邏輯，疊加結(jié)果就是加劇“人與人”之間的異化。極端情況下，絕大部分“具體人”事實(shí)上成為人工智能生產(chǎn)過(guò)程中的“無(wú)用者”。在傳統(tǒng)私有制社會(huì)中，這些無(wú)用者或被社會(huì)拋棄；在高福利社會(huì)或未來(lái)機(jī)器人社會(huì)，這些無(wú)用者或被社會(huì)“保護(hù)”。這種極端情況放大到整個(gè)社會(huì)層面，就會(huì)出現(xiàn)赫拉利口中的“無(wú)用的階級(jí)”③[以色列]尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史：從智人到神人》，第288 頁(yè)。。

機(jī)器異化的原因之一是近代西方的“自由競(jìng)爭(zhēng)”理念和社會(huì)環(huán)境。近代西方的“自然人”概念中，“自由”是基本人性之一，因而“自由競(jìng)爭(zhēng)”也是人性之一。馬克思恩格斯的研究表明，“自由競(jìng)爭(zhēng)”是機(jī)器大工業(yè)發(fā)展的必要條件之一④《馬克思恩格斯文集》（第1 卷），第680—681 頁(yè)。，使得資本主義生產(chǎn)的內(nèi)在規(guī)律強(qiáng)制資本家按資本邏輯行為⑤《馬克思恩格斯文集》（第5 卷），第312 頁(yè)。，如以機(jī)器生產(chǎn)替代手工生產(chǎn)或者不停地對(duì)機(jī)器進(jìn)行更新?lián)Q代。因此，無(wú)論是“自由競(jìng)爭(zhēng)”還是“資本邏輯”，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐需要“辯證”使用、敏捷治理，既要發(fā)揮它們的特性擴(kuò)大再生產(chǎn)、解放和發(fā)展生產(chǎn)力，又要嚴(yán)格預(yù)防它們失控引發(fā)壟斷和資本無(wú)序擴(kuò)張等社會(huì)問(wèn)題。

在“辯證”使用人工智能的基礎(chǔ)上，馬克思“重構(gòu)個(gè)人所有制”的思路有望從根本上解決人工智能的異化。馬克思指出，在自由競(jìng)爭(zhēng)的背景下持續(xù)推動(dòng)科學(xué)技術(shù)的大規(guī)模使用，社會(huì)化大生產(chǎn)與私人所有制之間的張力越來(lái)越大，以至于最終導(dǎo)致資本主義體系被炸毀。①《馬克思恩格斯文集》（第5 卷），第874 頁(yè)。當(dāng)前的弱人工智能是第四次工業(yè)革命的通用技術(shù)，可以對(duì)所有的科學(xué)技術(shù)和產(chǎn)業(yè)進(jìn)行進(jìn)一步賦能，進(jìn)而引發(fā)馬克思所言的“張力越來(lái)越大的問(wèn)題”。關(guān)于人工智能倫理及相應(yīng)準(zhǔn)則的熱烈討論本質(zhì)上也是為了應(yīng)對(duì)“張力”越來(lái)越大的一種現(xiàn)象。鑒于以往工業(yè)革命過(guò)程中機(jī)器異化或資本主義應(yīng)用引發(fā)社會(huì)不良結(jié)果的歷史事實(shí)，以及馬克思提供的關(guān)于技術(shù)進(jìn)步與制度變遷的“可解釋”理論，西方社會(huì)的人工智能“以人為本”倫理準(zhǔn)則事實(shí)上已經(jīng)吸納歷史教訓(xùn)和馬克思主義思想。例如，前面提到的十一類人工智能倫理關(guān)鍵詞中，“為人服務(wù)”和“隱私”主要是近代西方“自然人”和“理性人”思想的體現(xiàn)，可持續(xù)性、合作、共享、公平、問(wèn)責(zé)都是避免或反對(duì)人工智能帶來(lái)的社會(huì)福利被私有制占有的結(jié)果。從馬克思主義視角看，后面這些人工智能倫理準(zhǔn)則都有針對(duì)“人性漏洞”的意圖，體現(xiàn)了一定的“為人民服務(wù)”或“為全人類服務(wù)”的主張，而不是單純的“為少數(shù)人服務(wù)”。在西方社會(huì)背景下，社會(huì)化大生產(chǎn)與私人所有制之間的張力可以緩解但無(wú)法根除。但是，在中國(guó)式現(xiàn)代化的背景下，社會(huì)主義現(xiàn)代化有望通過(guò)“重構(gòu)個(gè)人所有制”匹配社會(huì)大生產(chǎn)，從根本制度上充分調(diào)動(dòng)人性特點(diǎn)但不會(huì)成為人性漏洞。

五、小結(jié)與展望

西方社會(huì)人工智能“以人為本”倫理準(zhǔn)則的兩個(gè)局限，事實(shí)上，也是當(dāng)前人工智能發(fā)展的兩個(gè)障礙。《資本論》關(guān)于工業(yè)革命和機(jī)器大工業(yè)批判的思想為破解上述兩個(gè)局限提供了新的線索（見(jiàn)表1）。關(guān)于“強(qiáng)人工智能”的擔(dān)憂，根據(jù)歷史唯物主義的原理，即社會(huì)存在決定社會(huì)意識(shí)，人工智能“以人為本”倫理準(zhǔn)則及其實(shí)踐的前提是“弱人工智能”而非“強(qiáng)人工智能”。關(guān)于是否需要具備倫理能力的人工智能的顧慮，根據(jù)人的全面發(fā)展思想，當(dāng)前的人工智能發(fā)展及人工智能“以人為本”倫理準(zhǔn)則都?xì)g迎具備倫理能力的人工智能，以便更好地關(guān)注和應(yīng)對(duì)“現(xiàn)實(shí)的人及其境遇”。關(guān)于“人性漏洞”的問(wèn)題，這主要是自由競(jìng)爭(zhēng)和資本邏輯極端化使用可能產(chǎn)生的重大社會(huì)問(wèn)題。在西方社會(huì)私有制背景下，完全堵住“人性漏洞”是不可能。基于辯證思維審視“人性漏洞”，治標(biāo)的方式是合情合理地驅(qū)使人性特點(diǎn)發(fā)明和使用人工智能，尋找最大社會(huì)可接受的人工智能，最大程度實(shí)現(xiàn)“以人為本”的人工智能；治本的方式是人類社會(huì)仍然需要“重構(gòu)個(gè)人所有制”，從根本上消除人工智能社會(huì)大生產(chǎn)與個(gè)人私有制之間的張力，徹底實(shí)現(xiàn)“以人為本”的人工智能。

表1 西方人工智能“以人為本”倫理準(zhǔn)則的局限與應(yīng)對(duì)線索

如果未來(lái)人工智能“進(jìn)化”成為“強(qiáng)人工智能”，人工智能的自我意識(shí)得以誕生，西方社會(huì)的人工智能“以人為本”倫理準(zhǔn)則將失效。雖然馬克思口中的“機(jī)器”概念只能覆蓋弱人工智能，但是有一些重要論述仍然可以延伸分析強(qiáng)人工智能。

強(qiáng)人工智能是一種“隱喻”，指的是人工智能發(fā)展到接近甚至超過(guò)人的能力的狀態(tài)。從近代西方“人”的理解模式看，強(qiáng)人工智能已經(jīng)成為一種標(biāo)準(zhǔn)的“理性人”。那么，機(jī)器異化現(xiàn)象則可能出現(xiàn)“突變”。馬克思認(rèn)為，“人正因?yàn)槭怯幸庾R(shí)的存在物，才把自己的生命活動(dòng)，自己的本質(zhì)變成僅僅維持自己生存的手段”①《馬克思恩格斯文集》（第1 卷），第162 頁(yè)。。以此推論，一旦人工智能成為“有獨(dú)立自我意識(shí)的存在物”，強(qiáng)人工智能如同人一樣首先要維持“自己”的生存和發(fā)展。此時(shí)，人工智能機(jī)器的“自主性”和人類社會(huì)的“資本邏輯”集成，可能涌現(xiàn)出一種強(qiáng)人工智能和機(jī)器人社會(huì)的“自我增殖”邏輯。在第一次工業(yè)革命期間，基于“理性經(jīng)濟(jì)人”思維，資本家成為“資本人格化代表”，奉行“資本邏輯”，推動(dòng)非智能機(jī)器異化或資本主義應(yīng)用，最終導(dǎo)致社會(huì)分裂為資產(chǎn)階級(jí)和無(wú)產(chǎn)階級(jí)。那么，未來(lái)強(qiáng)人工智能的“自我增殖”邏輯可能催生“機(jī)器人”成為新的“資本人格化代表”，導(dǎo)致未來(lái)社會(huì)全新的機(jī)器異化或機(jī)器的資本主義應(yīng)用，造成社會(huì)分裂為新的有用階級(jí)和無(wú)用階級(jí)。一種社會(huì)分裂形態(tài)是機(jī)器人資本家與人類資本家共存，如英國(guó)式現(xiàn)代化是傳統(tǒng)貴族與新興資產(chǎn)階級(jí)共享權(quán)力。社會(huì)分裂狀況類似赫拉利的描述：有用階級(jí)是具有“獨(dú)立自我意識(shí)”的人工智能機(jī)器與極少部分人類精英的集合；無(wú)用階級(jí)是絕大多數(shù)的普通人類，可能還要加上其他無(wú)自我意識(shí)的機(jī)器。另一種社會(huì)分裂形態(tài)——機(jī)器人新貴社會(huì)，則是徹底“主奴顛倒”的社會(huì)形態(tài)。機(jī)器人資本家獨(dú)掌權(quán)力，徹底排擠人類資本家直至“破產(chǎn)”而歸入無(wú)用階級(jí)。社會(huì)分類狀況類似霍金的描述，有用階級(jí)是“獨(dú)立自我意識(shí)”的強(qiáng)人工智能機(jī)器人，無(wú)用階級(jí)是人類，也許還包括其他無(wú)自我意識(shí)的機(jī)器人或“破產(chǎn)的機(jī)器人資本家”。此時(shí)，機(jī)器人階級(jí)與人類階級(jí)進(jìn)入更深刻的種族競(jìng)爭(zhēng)狀態(tài)。人工智能機(jī)器是否增強(qiáng) “以人為本”倫理準(zhǔn)則超出人類的認(rèn)知范圍。也許那個(gè)時(shí)候的人類需要通過(guò)馬克思主義意義上的“革命”來(lái)保障“以人為本”，如《黑客帝國(guó)》和《終結(jié)者》描繪的場(chǎng)景。