江 暢

(湖北大學(xué) 哲學(xué)學(xué)院， 湖北 武漢 430062)

從科學(xué)技術(shù)的角度看，人類今天確實(shí)已經(jīng)進(jìn)入了一個新時代。這個時代究竟自什么時間開始并無定論。按照《人類簡史》作者尤瓦爾·赫拉利的看法，從500年前發(fā)生的科學(xué)革命開始，人類進(jìn)入了一個與以往歷史不同的全新時代，而自21世紀(jì)曙光初露時起，人類進(jìn)入了用智能設(shè)計(jì)(intelligent design)取代自然演化的自然選擇的時代，在這個時代，作為智人的人類正在走向末日(1)參見尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，林俊宏譯，北京：中信出版社，2014年，第4、389頁。。一些人工智能專家從人工智能特別是機(jī)器人的角度印證了這一點(diǎn)。他們有意無意釋放一些危言聳聽的信號，似乎機(jī)器人戰(zhàn)勝人類、統(tǒng)治人類、甚至取代人類成為新人類是必然趨勢。根據(jù)這些看法，那種不同于自然選擇的智人的智能設(shè)計(jì)的超人似乎就是尼采所說的“超人”，人類不過是“末人”，必將會被“超人”所取代?？傊?，“信息技術(shù)和生物技術(shù)的雙重革命，讓人類這個物種遭遇了有史以來最大的挑戰(zhàn)”(2)尤瓦爾·赫拉利：《今日簡史：人類命運(yùn)大議題》，林俊宏譯，北京：中信出版社，2018年，第VIII頁。。面對這種時代挑戰(zhàn)，本文提出人類雖然不可能被作為自己造物的所謂“超人”所戰(zhàn)勝、所替代，但完全有可能被“超人”所奴役(即所謂異化)、所傷害、所毀滅。在高科技挑戰(zhàn)面前，人類最需要的是自律。自律是人類永遠(yuǎn)不會被自己的造物所毀滅的法寶。

一、高科技對人類自信的挑戰(zhàn)

第二次世界大戰(zhàn)結(jié)束以來的高科技迅猛發(fā)展，深刻改變了人類生活和社會面貌，而急劇增強(qiáng)的巨大高科技力量已經(jīng)在挑戰(zhàn)人類的尊嚴(yán)，并進(jìn)而挑戰(zhàn)人類生物學(xué)意義存在的底線。今天，人類的自卑感、無力感、憂慮感甚至末日感空前加重，人類的自信心面臨著前所未有的挑戰(zhàn)。

尤瓦爾·赫拉利認(rèn)為，在人類歷史上有三次重要的革命：大約7萬年前發(fā)生的“認(rèn)知革命”，它讓歷史正式啟動；大約1.2萬年前發(fā)生的“農(nóng)業(yè)革命”，它讓歷史加速發(fā)展；大約500年前發(fā)生的“科學(xué)革命”，它讓歷史劃下句點(diǎn)而另創(chuàng)新局(3)尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第3-4頁。。如果只考慮500年來的歷史，我們可以把它再劃分為四個時代：一是以哥白尼的日心說為標(biāo)志的時代(16世紀(jì)中葉到18世紀(jì)中葉)；二是以牛頓的經(jīng)典力學(xué)為標(biāo)志的時代(18世紀(jì)中葉至19世紀(jì)末)；三是以愛因斯坦相對論和量子力學(xué)為標(biāo)志的時代(19世紀(jì)末至20世紀(jì)中葉)；四是以迅速發(fā)展的信息技術(shù)、生物技術(shù)為主要標(biāo)志的當(dāng)代(20世紀(jì)中葉至今)。我們今天正處于科學(xué)革命后的第四個時代即當(dāng)代，這是一個現(xiàn)代科技迅速發(fā)展的高科技時代(4)關(guān)于20世紀(jì)中葉以來的時代尚未有一個得到公認(rèn)的名稱。當(dāng)前，由于信息技術(shù)突飛猛進(jìn)發(fā)展，人們常常把它稱為信息化時代，更把最近的時代稱為“大數(shù)據(jù)時代”、“人工智能時代”、“機(jī)器人時代”。但是，上述這些語詞并不能表征科技全面而急劇發(fā)展的當(dāng)代。雖然“高科技”一詞并無明確的界定，但它涵蓋的范圍更廣泛，且有高度發(fā)展之義，所以本文暫且用這個詞表示這個時代。。在尤瓦爾·赫拉利看來，高智能時代是作為目前世界上存在的唯一人類的智人結(jié)束自己的歷史而進(jìn)入新的人類的時代。

尤瓦爾·赫拉利斷定，從大約200萬年前到大約1萬年前，整個世界同時存在多種不同人種，至少有六種不同的人，但由于種種原因，10萬年前出現(xiàn)的“智人”在約7萬年前走出非洲，很快席卷了整個歐亞大陸，最終成了人類最后的物種。在他看來，大約在135億年前發(fā)生的“大爆炸”后形成的宇宙，其演化經(jīng)歷了一個從物理學(xué)走向化學(xué)、走向生物學(xué)，然后走向歷史學(xué)的過程。但無論是物理作用、化學(xué)反應(yīng)，或是生物的自然選擇，都對“智人”和其他一切生物一視同仁?！爸侨恕痹谧匀贿x擇方面的發(fā)揮空間雖然遠(yuǎn)大于其他生物，但仍然十分有限，無法打破生物因素的限制。然而，自20世紀(jì)末21世紀(jì)初開始，“智人”開始打破有史以來生物因素的限制，用智能設(shè)計(jì)的法則取代自然選擇的法則，而自然選擇是此前近40萬年地球上每一種生物的演化都依循的法則。于是，擁有40億年的自然選擇系統(tǒng)面臨著一項(xiàng)完全不同的挑戰(zhàn)。

尤瓦爾·赫拉利認(rèn)為，有三種方式可能讓智能設(shè)計(jì)取代自然選擇：一是生物工程。它指的是人類刻意在生物層面進(jìn)行的干預(yù)行為，目的在于改變生物體的外形、能力、需要或欲望，以實(shí)現(xiàn)此預(yù)設(shè)的文化概念，例如，科學(xué)家在一只老鼠背上植入牛軟骨細(xì)胞，讓它長出人類耳朵的形態(tài)。二是仿生工程。它可以將有機(jī)組織和無機(jī)組織結(jié)合起來，創(chuàng)造出“生化人”，讓一些無機(jī)組織與身體結(jié)合而不再分開，改變我們的能力、欲望、個性以及身份認(rèn)同。例如，可以讓生化手臂有著遠(yuǎn)大于人類手臂的力量，而且可以每隔幾年就更新?lián)Q代，也能夠脫離身體遠(yuǎn)距離操作。三是無機(jī)生命工程。它可以創(chuàng)造出完全無機(jī)的生命，其最典型的例子就是能夠自行獨(dú)立演化的計(jì)算機(jī)程序和計(jì)算機(jī)病毒。尤瓦爾·赫拉利說，1818年，英國小說家瑪麗·雪萊寫了《科學(xué)怪人》一書，講的是一個科學(xué)家創(chuàng)造出了人造生物，但失去控制，造成一片混亂。然而，今天人類很難接受的一個事實(shí)是，科學(xué)家不僅能夠改造身體，也能改造心臟，未來創(chuàng)造出來的科學(xué)怪人比人類優(yōu)秀不知凡幾，“他們看著我們，就像是我們看尼安德特人(5)尼安德特人，因其化石發(fā)現(xiàn)于德國尼安德特山谷而得名，從12萬年前開始他們統(tǒng)治著整個歐洲、亞洲西部以及非洲北部，但在兩萬四千年前卻消失了。一樣帶著一種輕蔑和不屑”(6)參見尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第二十章：智人末日。。顯然，不管通過上述哪一種方式制造出來的“機(jī)器怪人”，他們都會比“智人”的身心強(qiáng)大得多，“智人”在它們面前只會感到卑微、畏瑣、可憐。

尤瓦爾·赫拉利指出：“在全球各地的實(shí)驗(yàn)室里，科學(xué)家正在改造各種生物。他們打破自然選擇的法則而絲毫未受懲罰，就連生物最基本的原始特征也完全不看在眼里。”(7)尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第394頁。在尤瓦爾·赫拉利看來，上述改變生命法則三種方式中的任何一種方式都是要徹底改變生命的游戲規(guī)則，都會導(dǎo)致“智人”的末日。不過，人們的注意力由以前對生物工程和仿生工程轉(zhuǎn)向了來勢更兇猛的人工智能和機(jī)器人發(fā)展。雖然生物工程和仿生工程仍然在從事著日益深化和擴(kuò)展的智能設(shè)計(jì)，但人們的注意力太有限了，只能關(guān)切那些對自身威脅最大的力量。更為重要的是，生物工程也好，仿生工程也好，它們往往只能部分地、逐漸地改變?nèi)祟?，而機(jī)器人不僅像真人那樣和我們一起生活在世界上，而且可以不斷地被批量生產(chǎn)，因而是一種更可怕的力量。

機(jī)器人的實(shí)質(zhì)內(nèi)容是人工智能，但機(jī)器人不只是人工智能的容器，它還武裝了人的體能無法與之相提并論的機(jī)器。機(jī)器人確實(shí)有著人類無法比擬的強(qiáng)大能力，僅就其人工智能而言，它擁有人腦無法比擬的強(qiáng)大優(yōu)勢。比如，人腦神經(jīng)元的運(yùn)行頻率最快是200赫茲，而今天的微處理器就能以2G赫茲的頻率運(yùn)行，是神經(jīng)元1000萬倍；大腦的內(nèi)部信息傳播速度最快只有每秒120米，電腦的信息傳播速度是光速，差了好幾個數(shù)量級。何況人腦的大小已經(jīng)固定在顱骨內(nèi)，而電腦的大小不受限制，我國的超級計(jì)算機(jī)天河二號，光是占地面積就有720平方米。有人據(jù)此預(yù)計(jì)，一旦人類給人工智能賦予了思考能力與抽象思維能力等，世界將會迎來智慧大爆發(fā)，那時的人類可以借助電腦解決人腦幾千年來無法解決的問題，完成人類智能力不能及的艱巨任務(wù)。于是，有人據(jù)此推斷，雖然我們不能斷定，隨著超人工智能時代的到來，人類是否會生存下來，但是無論如何，世界將會變得完全不一樣。有人甚至認(rèn)為人工智能很可能導(dǎo)致人類的永生或滅絕(8)《終于有人把“人工智能”講明白是怎么回事了！》，2015年2月12日，http:www.360doc.comcontent1502122118791455_44822 0606.shtml。。美國麻省理工學(xué)院的埃里克·布萊恩約弗森(Erik Brynjolfsson)教授稱機(jī)器人時代的到來為“第二次機(jī)器革命”，“這個時代不是以增強(qiáng)肌肉力量的機(jī)器為特征的，相反，它是以增強(qiáng)人類思維能力為特征的”(9)參見埃里克·布萊恩約弗森、安德魯·麥卡菲：《第二次機(jī)器革命——數(shù)字化技術(shù)將如何改變我們的經(jīng)濟(jì)與社會》，蔣永軍譯，北京：中信出版社，2016年，第17頁。。海量的智能機(jī)器和互聯(lián)互通的智慧大腦結(jié)合在一起，將徹底顛覆之前的世界。

人工智能專家的預(yù)測似乎是有充分根據(jù)的。有專家認(rèn)為，人工智能發(fā)展可能會經(jīng)歷三個階段：弱人工智能，即擅長于單個方面的人工智能，比如能戰(zhàn)勝象棋冠軍的人工智能；強(qiáng)人工智能，即人類級別的人工智能，各方面都能和人類比肩；超人工智能，即在各方面都比人類智能強(qiáng)且可以達(dá)到強(qiáng)萬億倍的人工智能。這種超級人工智能可能就是超越“智人”并且統(tǒng)治甚至毀滅“智人”的“超人”。牛津大學(xué)人類未來研究院院長尼克·博斯特羅姆(Nick Bostroom)認(rèn)為，超人工智能“在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多，包括科學(xué)創(chuàng)新、通識和社交技能”。他預(yù)測，超級人工智能以三種方式工作：(1)先知模式：能準(zhǔn)確回答幾乎所有問題，包括對人類來說很困難的問題。比如：“如何造一個更好的汽車引擎？”(2)精靈模式：能夠執(zhí)行任何高級指令。比如用分子組合器造一個更好的汽車引擎出來。(3)獨(dú)立意志模式：能夠執(zhí)行開放式任務(wù)，能在世界里自由活動，可以自己做決定。比如，開發(fā)出比汽車更快、更便宜、更安全的交通工具。人工智能的發(fā)展方向是從弱人工智能通過強(qiáng)人工智能最終達(dá)到超人工智能。所以有學(xué)者認(rèn)為，“新機(jī)器既是人類的幫手，也是人類的對手。人類將日益面臨與新機(jī)器的殘酷競爭”(10)埃里克·布萊恩約弗森、安德魯·麥卡菲：《第二次機(jī)器革命——數(shù)字化技術(shù)將如何改變我們的經(jīng)濟(jì)與社會》，第3頁。。

現(xiàn)在的弱人工智能系統(tǒng)并不嚇人，最糟糕的情況不過是程序出故障造成停電、核電站故障、金融市場崩盤等等?，F(xiàn)在的單項(xiàng)人工智能不具有威脅人類生存的能力，但它正在快速地向著更加龐大和復(fù)雜的人工智能發(fā)展。每一個弱人工智能的創(chuàng)新，都在給通往總體人工智能和超級人工智能添磚加瓦。亞倫·薩恩斯(Aaron Saenz)認(rèn)為，現(xiàn)在的弱人工智能，就是地球早期泥中的氨基酸——沒有動靜的物質(zhì)，突然之間就組成了生命。美國著名發(fā)明家、預(yù)言家、谷歌技術(shù)總監(jiān)雷·科茲威爾(Ray Kurzweil)認(rèn)為，2000年開始只要花14年就能達(dá)成整個20世紀(jì)一百年的進(jìn)步，而之后2014年開始只要花7年(到2021年)，就能達(dá)到又一個20世紀(jì)一百年的進(jìn)步。幾十年之后，我們每年都能達(dá)成好幾次相當(dāng)于整個20世紀(jì)的發(fā)展，再往后，說不定每個月都能達(dá)成一次。按照加速回報定律(11)加速回報定律(Law of Accelerating Returns)是雷·科茲威爾提出來的。根據(jù)該理論，技術(shù)改良以過去的成就為基礎(chǔ)，每十年革新的步調(diào)會加倍。，科茲威爾認(rèn)為人類在21世紀(jì)的進(jìn)步將是20世紀(jì)的1000倍。如果科茲威爾的預(yù)言是正確的，那么我們可以預(yù)計(jì)，超人工智能時代為期不會很遠(yuǎn)，而這意味著人工智能比人類智能強(qiáng)萬億倍！按照專家預(yù)測的人工智能發(fā)展的三個階段，人類目前僅處于第一階段。機(jī)器人在這個階段尚未對人類生存明確提出挑戰(zhàn)，但它迅猛發(fā)展的態(tài)勢正在動搖人類對自己的信心，許多人已經(jīng)對人類的前途感到迷茫和擔(dān)憂。近年來，人工智能特別是機(jī)器人在越來越廣泛的領(lǐng)域得到了應(yīng)用，各國政府采取各種政策措施加大對機(jī)器人研發(fā)的投入，展開了機(jī)器人研發(fā)制造競賽，一些政府機(jī)構(gòu)、社會組織和媒體也通過比賽、會議、博覽等方式推波助瀾。所有這些政策措施，不僅使機(jī)器人產(chǎn)業(yè)發(fā)展極快，也使機(jī)器人變得越來越神乎其神，似乎大有取代人類之勢。

在人類進(jìn)化的250多萬年間，很長時期人類是非常不自信的，人類完全受制于大自然，“在整整200萬年期間，人類一直就只是一種弱小、邊緣的生物”(12)尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第11頁。。經(jīng)過漫長的進(jìn)化之路，人類進(jìn)入到了文明社會。自那時起，人類開始有了一些自信，出現(xiàn)了人“最為天下貴”的信念(荀子)和人在上帝之下萬物之上的觀念(基督教)，甚至有了“人定勝天”、“制天命而用之”的信心。到了近代，在科技發(fā)展特別是工業(yè)革命的推動下，各種延長人四肢和體能的機(jī)器的出現(xiàn)一度打擊了人類的自信。對于這種情況，馬克思曾指出，“對象化在機(jī)器體系中的價值表現(xiàn)為這樣一個前提，同它相比，單個勞動能力創(chuàng)造價值的力量作為無限小的量而趨于消失”(13)《馬克思恩格斯全集》第31卷，北京：人民出版社，1998年，第92頁。。第二次世界大戰(zhàn)后，這種情況發(fā)生了改變。人類注意到，任何機(jī)器都是人控制的，為人所用，是人類的仆人，因而人類對機(jī)器的自信大大增強(qiáng)。然而，高科技的出現(xiàn)，特別是人工智能和機(jī)器相結(jié)合的機(jī)器人的出現(xiàn)，使人類意識到，機(jī)器可以不受人控制，機(jī)器可以受機(jī)器控制，而機(jī)器控制機(jī)器的力量遠(yuǎn)遠(yuǎn)超過了人。更令人憂心的是，機(jī)器人越來越類人化、仿真化。類人機(jī)器人“索菲亞”的問世及被授予公民身份，使人類預(yù)感到，將來會有越來越多的類人機(jī)器人活動在人群之間，他們各個方面的能力(無論是體能還是智能)都遠(yuǎn)在人之上，這將是多么可怕的局面！即使它們不傷害人，甚至關(guān)懷人、幫助人，人類的自尊心和自信心也根本無法接受。德國當(dāng)代哲學(xué)家京特·安德斯曾明確表示，雖然“創(chuàng)造是人的天性”，但當(dāng)人類在其造物面前常常會有“普羅米修斯的羞愧”，一如在機(jī)器面前，這種“創(chuàng)造與被創(chuàng)造關(guān)系的倒置”會是對人類自信最沉重的打擊！(14)京特·安德斯：《過時的人：論第二次工業(yè)革命時期人的靈魂》，范捷平譯，上海：上海譯文出版社，2010年，第3-6頁。更不用說它們可能從人類這里接受自私、貪婪、無情、冷酷、殘忍、侵略等惡性了。

弗洛伊德在1917年寫的《精神分析的難題》中說，有三次革命給予人類對其自身所具有的那喀索斯主義觀念以沉重的打擊。第一次革命是哥白尼的革命，他證明地球比太陽小并圍繞太陽轉(zhuǎn)動；第二次革命是由達(dá)爾文完成的，他證明人類起源于動物。弗洛伊德本人，則由于發(fā)現(xiàn)心靈的奧秘在于無意識而自認(rèn)為是第三次革命的負(fù)責(zé)者。他指出，從宇宙學(xué)的、生物學(xué)的、心理學(xué)的這三次革命不難發(fā)現(xiàn)，其中每次革命都使人的形象受到損害，這個形象越來越具有相對性和越來越失去其自主性了。正是通過對人類自身所持的那喀索斯主義的這三次革命性打擊，人類越來越認(rèn)清自己的本來面目。這三次革命都是由人類的科學(xué)發(fā)現(xiàn)導(dǎo)致的，而與之不同，由高科技帶來的革命是“地球出現(xiàn)以來最重要的生物學(xué)革命”(15)尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第391頁。。這場革命是由人類的發(fā)明“智能設(shè)計(jì)”實(shí)現(xiàn)的，它不是一種發(fā)現(xiàn)，而是一種發(fā)明。這種發(fā)明使包括人類自己在內(nèi)的生命可以不再遵循40億年來的自然選擇法則，改由智能設(shè)計(jì)來控制，而這種智能設(shè)計(jì)的生命尤其是無機(jī)生命(機(jī)器人)不知能比它的最初設(shè)計(jì)者強(qiáng)大多少倍。人類發(fā)明了智能設(shè)計(jì)，按照目前的發(fā)展態(tài)勢，人類最后不得不被它所設(shè)計(jì)的機(jī)器人所戰(zhàn)勝、所奴役、甚至所毀滅。海德格爾在1930年發(fā)表的《論技術(shù)的本質(zhì)》一文中也表達(dá)過相似的憂慮。他認(rèn)為，技術(shù)原本是人們認(rèn)識自然的一種方式，然而到了現(xiàn)代，由于人們過度迷信技術(shù)，技術(shù)脫離了人類的控制，變成了一種框架，他將之稱為“座架”。它“總是已經(jīng)占用了人，并且這種占用是如此明確，以至于人一向只有作為如此被占用的東西才能是人”?！安徽撊嗽谀睦镩_啟其耳目，敞開其心靈，在心思和追求、培養(yǎng)和工作、請求和感謝中開放自己，他都會看到自己已經(jīng)被帶入無蔽領(lǐng)域中了。無蔽領(lǐng)域之無蔽狀態(tài)已經(jīng)自行發(fā)生出來了，它因此往往把人召喚入那些分配給人的解蔽方式之中”(16)海德格爾：《海德格爾選集》下卷，孫周興選編，上海：上海三聯(lián)書店，1996年，第936-937頁。。也就是說，海德格爾認(rèn)為現(xiàn)代人已然被技術(shù)所掌控，淪為了技術(shù)的奴隸。由此看來，高科技革命不只是使人類更不自信，還有可能毀掉人類的自信，人類因給自己造就了掘墓人而此后再無自信可言了。

二、自律：人類成功應(yīng)對高科技挑戰(zhàn)的基石

機(jī)器人代替人、超越人而成為世界的主人，這是不可能的。人工智能只能超越人的智能的一部分，而不能超過由人性開發(fā)形成的人格或綜合素質(zhì)。人的智能是由人性現(xiàn)實(shí)化形成的人格的構(gòu)成部分。人格是一個復(fù)雜的結(jié)構(gòu)，至少包括觀念、知識、能力和品質(zhì)這幾大基本要素。智能乃人的智力或認(rèn)識能力，它是人類人格中的重要組成部分，但只是能力中的一部分。而且，人的認(rèn)識能力有不同類型，如認(rèn)知、理解、評價、構(gòu)想等等。人工智能至少目前尚只局限于認(rèn)知方面，恰如“中文屋”之類的思想實(shí)驗(yàn)所揭示的那樣，現(xiàn)在的人工智能并不擁有人所具有的理解和思考能力(17)段偉文：《機(jī)器人倫理的進(jìn)路及其內(nèi)涵》，《科學(xué)與社會》2015年第2期。，甚至也許不可能擁有。人工智能在智能方面超過人類并不意味著在能力方面都超過人類，更不意味著在人格的所有方面都超過人類。人工智能只能在部分智能方面超過單個人，但即使在這部分智能方面也不能超過人類群體，更不用說人類整體。人是社會性動物，個人的智能是有限的，個人的生命也是有限的，但人類群體和整體的智能有巨大的加和效應(yīng)，這種效應(yīng)正常發(fā)揮出來是任何個人的智能無法比擬的。而且人類智能以及作為其基礎(chǔ)的知識可以一代又一代的延續(xù)、傳承下去。與之不同，機(jī)器人作為機(jī)器，不具有社會性、群體性，它總是單獨(dú)的、孤立的個體，即使用程序?qū)⑺鼈兟?lián)結(jié)起來，它們不可能在程序之外隨意與同伴合作。它們之間的簡單合作只會有簡單相加效應(yīng)，而似乎不可能產(chǎn)生加和效應(yīng)。機(jī)器人不具有生殖功能，其智能當(dāng)然也不可能一代一代傳下去，更無所謂不斷地進(jìn)化發(fā)展。沒有社會性，這也是機(jī)器人不可能取代人類、超越人類的根本性局限。此外，就好比上帝制造不出上帝而只能制造出比他差的萬物包括萬物之靈長——人一樣，人也不可以制造出像人一樣的東西，更不用說制造出整體上高于人的東西。

然而，機(jī)器人傷害人類以至毀滅人類則是完全可能的。上帝能夠創(chuàng)造出背叛他的人(亞當(dāng)、夏娃)，也沒有預(yù)料到他創(chuàng)造的人的后代(尼采)會殺死他。同樣，人類也能夠創(chuàng)造出殺害以至毀滅自己的東西，如核武器，人工智能亦能如此。也許可以這樣說，機(jī)器人不可能取代人類、超越人類而成為新的人類，成為超人，但它成為人類的殺手，成為人類的葬送者則完全是可能的。今天看來，這不只是一種可能性，更不是一種猜測，而是正在向我們走來的現(xiàn)實(shí)，“索菲亞”就是例證。當(dāng)人工智能與資本相結(jié)合而無有效制約的時候，資本的本性和力量就會把人工智能這種未可限量的智能無所顧忌地用來干任何事情。如此，機(jī)器人就會成為損人利己的打手。任其發(fā)展，人工智能必定會朝著有害于人類整體利益的方向演進(jìn)，人類就有可能被它主宰，成為它的奴隸。實(shí)際上，如果沒有強(qiáng)有力的控制，不只是人工智能，其他的科技與資本結(jié)合，同樣可以置人類于死地。當(dāng)然，不同的科學(xué)可以從各個方面損害人類以至毀滅人類，只是在世界總體上和平的情況下，人工智能對于人類而言是最強(qiáng)有力的殺手锏。實(shí)際上，如果人工智能傷害人類、毀滅人類，那并不是人工智能本身的問題，而是資本的本性和力量使然。

高科技或機(jī)器人歸根到底是人類的產(chǎn)品，人原本是機(jī)器人的主人，而非其奴仆。高科技也好，機(jī)器人也好，都是人類設(shè)計(jì)制造的。人可以設(shè)計(jì)它也可以不設(shè)計(jì)它，可以制造它也可以不制造它，更可以杜絕一切對人類有害的機(jī)器人。所謂“智能設(shè)計(jì)”，至少到目前為止還完全是人類的設(shè)計(jì)，而不是任何“超人”的設(shè)計(jì)。這就是說，人類可以從源頭上控制高科技和機(jī)器人，這一切到目前為止都完全掌控在人類手中。比如，如果人類擔(dān)心索菲亞之類的類人機(jī)器人會破壞人類的正常生活，人類完全可以不生產(chǎn)它，不設(shè)計(jì)它，甚至根本就不去研究它。今天之所以有索菲亞這樣的類人機(jī)器人問世，不過是科學(xué)家追求功名利祿的結(jié)果，而索菲亞被授予公民身份，更是因?yàn)檎渭覟榱顺鲲L(fēng)頭或?yàn)榱藫迫≌钨Y本，歸根到底是為了一己私利。我們完全可以設(shè)想，中國香港的漢森機(jī)器人技術(shù)公司如果不是為了公司或老板的私利去開發(fā)的類人機(jī)器人，或者人類有法律嚴(yán)禁此類的開發(fā)，這種計(jì)算機(jī)能夠問世嗎？沙特阿拉伯政府授予索菲亞公民身份的真實(shí)動機(jī)我們不清楚，但可以肯定，它的動機(jī)絕不會是善良的，不是真正為了人類的幸福。如果全世界所有的人工智能專家都不去研發(fā)類人機(jī)器人，如果人工智能專家研發(fā)出來，廠家不生產(chǎn)，或者生產(chǎn)出來了沒有人買，沒有人授予其公民身份，那么機(jī)器人根本就不可能對人類構(gòu)成挑戰(zhàn)和威脅。

由此看來，機(jī)器人之所以會威脅人類生存甚至毀滅人類，根本原因不在于機(jī)器人，而在于人類自身，在于部分人類的極端利己所致。這些人為了一己私利而置人類整體利益于不顧，不考慮謀一己之私所可能給人類帶來的極其嚴(yán)重的后果。實(shí)際上，不只是機(jī)器人，其他許多人造產(chǎn)品都存在這種情形。且不談核武器的研發(fā)和制造，即便是許多可能破壞生態(tài)平衡的產(chǎn)品(如化學(xué)肥料或農(nóng)藥)的使用，如果不加以有效扼制也會威脅人類生存甚至毀滅人類。新近《新京報》報道，日本政府批準(zhǔn)人獸雜交胚胎實(shí)驗(yàn)。雖然日本政府宣稱此項(xiàng)實(shí)驗(yàn)在理論上有利于器官移植，但這類實(shí)驗(yàn)的后果無疑是極其嚴(yán)重和危險的，最直接的后果是會破壞人類基因的純潔性(18)《日本批準(zhǔn)人獸雜交胚胎實(shí)驗(yàn)，福音還是災(zāi)難？》，2019年7月31日，http://www.bjnews.com.cn/opinion/2019/07/31/609890.html。。然而，日本政府居然批準(zhǔn)此類實(shí)驗(yàn)。也許日本政府有這樣的傳統(tǒng)，人們永遠(yuǎn)不會忘記日本731部隊(duì)，那就是得到日本政府批準(zhǔn)的。從哲學(xué)的角度看，這就是黑格爾和馬克思所指出的那種異化，那些原本是為了人類幸福的目的而制造出來的產(chǎn)品最后卻成為了損害甚至統(tǒng)治人類的東西。異化之所以發(fā)生，還是人類的自私之心導(dǎo)致的短視行為作怪。顯然，人類如果能夠克服這種異化，就能夠克服機(jī)器人挑戰(zhàn)帶來的威脅。異化被克服，人工智能的威脅旋即就會消除。正如有學(xué)者指出的：“在可見的未來，人類要擔(dān)心的不是機(jī)器，人類社會的最大風(fēng)險仍然來自人類本身。”(19)王維嘉：《暗知識：機(jī)器認(rèn)識如何顛覆商業(yè)和社會》，北京：中信出版社，2019年，第301頁。

機(jī)器人是人制造的，它傷害和毀滅人類，從根本上說，就是人類要讓它傷害和毀滅自己(不論是有意的還是無意的)。除了自然災(zāi)難，人自身之外的任何力量都不能對人類造成毀滅性的傷害。即使有萬能的上帝存在，其對人自己作的孽、犯的罪也不會管，也許根本就管不了。這即是中國古代元典《尚書》所斷言的:“天作孽，猶可違；自作孽，不可逭。”(20)《老子》三十八章，李存山注譯，鄭州：中州古籍出版社，2008年，第95頁。因此，只有人類自己才能阻止自己制造的機(jī)器人傷害和毀滅自己。而要做到這一點(diǎn)，唯一的出路就是自律。人類只有在制造機(jī)器人以及制造其他毀滅人類的力量方面嚴(yán)格地自我約束、自我節(jié)制，才會有堅(jiān)定自信而克服悲觀的牢固基礎(chǔ)。

如果我們考察生物進(jìn)化的歷史就會發(fā)現(xiàn)，生物物種的滅絕或被淘汰都是外力作用的結(jié)果，迄今未發(fā)現(xiàn)有任何一種物種是自我毀滅的，因?yàn)槌祟愐酝馑衅渌锓N都沒有這種能力。人類不同，人類作為一種物種，不僅完全有可能被某種外在力量所毀滅，而且完全有可能被自己毀滅。在人類進(jìn)化史上，有許多地方的人類就曾經(jīng)因?yàn)橥獠凯h(huán)境的變化而滅絕，正因?yàn)槿绱?，人類曾?jīng)于約200萬年和約18萬年前兩次走出非洲，到世界各地重續(xù)人類“香火”，一而再地使自己在大地上頑強(qiáng)地生存下來。人類毀滅自己的力量只能是自己制造出來的力量。在人類歷史上雖然未曾有過人類自己使自己完全毀滅的先例，但人類大規(guī)模地自相殘殺的事例就太多了。在一定意義上可以說，人類的歷史就是一個自相殘殺的歷史，只是在20世紀(jì)以前的歷史上，人類還沒有發(fā)明和創(chuàng)造一種可以毀滅所有人的力量。不過，進(jìn)入20世紀(jì)后，這種力量有了，現(xiàn)在還存在著，這就是核武器。隨著人類制造出來的造物越來越強(qiáng)，毀滅人類自己的力量也逐漸增大。有的造物可以單獨(dú)地毀滅人類，有的可以合作起來毀滅人類。前者如核武器、生化武器等，后者如導(dǎo)致生態(tài)破壞、環(huán)境污染的種種物理的、化學(xué)的、生物的排放物。機(jī)器人有高智能，且有機(jī)器的體能，它既可以單獨(dú)地毀滅人類，也可以與其他力量合作毀滅人類。因此，機(jī)器人正在躋身于可以毀滅人類的造物之中，并有可能成為毀滅人類的非武力力量。

要解決包括機(jī)器人在內(nèi)的毀滅人類的力量的形成，從根本上說就是要讓人類不創(chuàng)造或生產(chǎn)毀滅自己的力量。人類自己不讓自己做什么事情，這就是人的自律，也就是自我約束或自我控制。人類只有自我約束才不至于自我傷害、自我毀滅，古今思想家早已有了這種意識?！白鸬蕾F德”是中國傳統(tǒng)價值觀的根本觀念，其本原含義就是尊敬、尊崇“道”與“德”。之所以強(qiáng)調(diào)人要尊道貴德，是因?yàn)槿伺c萬物不同，萬物本來就會自然而然地尊道貴德，而人因?yàn)橛凶灾餍远荒苋绱?。如果沒有道德的約束，人類就會自相殘害而使社會陷入混亂。老子對此作了深刻的闡述。他認(rèn)為，當(dāng)時人們特別重視禮，這正說明是失道的后果。所以他說：“失道而后德，失德而后仁，失仁而后義，失義而后禮。夫禮者，忠信之薄而亂之首?！?21)《老子》三十八章，第95頁。西方基督教相信，上帝在創(chuàng)造亞當(dāng)和夏娃時給人賦予了自由意志，而且也沒有什么外在的制約，如果人類祖先不能自律，就有可能犯罪。人類的祖先果然不能自律而違背了上帝的意志，于是人類就有了世世代代不能赦免的原罪?！妒ソ?jīng)》講的人類祖先亞當(dāng)、夏娃在蛇的引誘下偷吃果子而墮落，從而流落人間受苦受難(22)參見《圣經(jīng)·創(chuàng)世紀(jì)》第三章。的故事實(shí)際上也是要說明，人類如果不能自我約束就會犯罪，就會使自己墜入苦難的深淵。

從人類種族的角度看，人類的自律是多種自律交互作用的復(fù)雜制約機(jī)制，只有當(dāng)其中每一種自律發(fā)揮作用并且彼此之間協(xié)同發(fā)揮作用時，它才能夠?qū)θ祟愋袨檎嬲鸬街萍s作用。這里所說的多種自律包括三個基本的方面，這些方面都是必需的、重要的、不可或缺的。

首先是個人自律。這種自律是指個人在任何情況下都能靠自己的力量進(jìn)行自我約束而不做危害人類、危害同胞的事情。用中國傳統(tǒng)文化的話說，這種自律就是“慎獨(dú)”，即即使一個人獨(dú)處且做壞事不會被人發(fā)現(xiàn)的時候也不做壞事。自律是人類自律機(jī)制中最基本且最重要的機(jī)制。形成這種自律機(jī)制是很難的，某種外在的約束對于這種機(jī)制的形成具有重要作用。中國傳統(tǒng)社會有所謂“頭上三尺有神明，不畏人知畏已知”的說法，這就是要求人們要有敬畏感，有了這種敬畏感就會在任何情況下不作惡。西方人也有對上帝末日審判的畏懼感。只要全人類每一個人在任何情況下都不做壞事，世界上就不會有邪惡存在。就人工智能而言，如果每一個人工智能的開發(fā)者都不研發(fā)那種危害人類的機(jī)器人，就不會有危害人類的機(jī)器人問世，更不用說用機(jī)器人來毀滅人類。

其次是社群自律，即一個社會范圍內(nèi)的各種社會群體或共同體(包括家庭、企業(yè)、社團(tuán)、黨派等)，在任何情況下都能夠憑借自己的力量約束自己不做危害人類和同胞的事情。在當(dāng)代，社會群體尤其是企業(yè)在社會生活中的作用越來越重要，對人類有重大危害的東西也大多出自企業(yè)。幾乎所有足以危害人類生存的東西都出自工廠，而且往往是單個人所不能完成的。在企業(yè)工作的個人即便能夠自律，但出于生計(jì)考慮，常常也會身不由己，被迫與他人合作做出一些危害人類的事情。更何況，今天很多企業(yè)為了做強(qiáng)做大，在科研開發(fā)方面投入重金，給技術(shù)人員提供優(yōu)厚的待遇和優(yōu)越的研發(fā)條件，刺激他們?nèi)パ邪l(fā)那些利潤極大但對人類有害的產(chǎn)品。在這樣的強(qiáng)大誘惑力面前，技術(shù)人員自律的力量常常顯得非常微弱。如果企業(yè)真正有自律，不僅不會破壞企業(yè)職工的自律機(jī)制，相反還可以促進(jìn)企業(yè)職工增強(qiáng)自律精神，形成企業(yè)的自律合力。今天，企業(yè)就是機(jī)器人的研發(fā)制造單位，沒有企業(yè)的作為，也就不可能有機(jī)器人的問世。今天機(jī)器人不僅問世了，機(jī)器人行業(yè)還如日中天。這個時候，如果企業(yè)不能自律，而是唯利是圖，那么，什么樣的機(jī)器人都可能被生產(chǎn)出來，只要有錢賺且企業(yè)有制造能力。

再次是國家自律，即一個社會在任何情況下都能憑借自己的力量約束自己及其成員不做危害同胞和人類的事情?，F(xiàn)代社會是以國家為基本生活共同體的社會，國家具有主權(quán)且控制著一國范圍內(nèi)的一切。國家能夠自律就能夠?yàn)閭€人和組織自律提供良好的環(huán)境和制約，而國家不能自律則個人和組織就會放任自流。更為重要的是，國家能自律就可以約束國家本身，不去做那些危害人類的事情。國家是一個利益共同體，由于種種原因，國家常常會把國家利益或國家某些集國的利益凌駕于人類整體利益之上，做出一些有利于國家而有害于人類、世界的事情。核武器的制造、日本731部隊(duì)的實(shí)驗(yàn)，以及一切人間罪大惡極的事件，幾乎都是在政府領(lǐng)導(dǎo)、組織或支持下發(fā)生的，或者是政府的管理導(dǎo)致的。在危害人類的機(jī)器人的研發(fā)和制造方面，國家也同樣可以如法炮制。事實(shí)表明，國家進(jìn)行那些危害人類的事情，其危害之大是任何個人和組織都不能與之相提并論的。國家如果不能夠自律，就可能成為機(jī)器人肆虐的幫兇。

人類的這三個方面自律必須有機(jī)統(tǒng)一起來發(fā)生作用，其中國家自律是最重要的自律。國家能夠自律，它就可能通過法律、制度、政策、措施、道德等各種途徑和手段來防范個人和企業(yè)研制危害人類的機(jī)器人及其他東西。反之，國家不僅會縱容那些危害人類的行為，甚至?xí)H自出馬領(lǐng)導(dǎo)和組織此類行為。有了國家的自律，再加上個人和組織的自律，三者之間形成合力，就可以形成保護(hù)人類生存的牢不可破的銅墻鐵壁。今天中國學(xué)術(shù)界還在討論“平庸之惡”的問題。平庸之惡實(shí)際上就是一種由被迫到自愿作惡的惡。在生活重壓之下或者在意識形態(tài)的強(qiáng)力影響下，很多人都會作所謂的平庸之惡。平庸之惡不僅會發(fā)生在國家政權(quán)的重壓之下，也會發(fā)生在企業(yè)或單位的種種誘惑之下。當(dāng)然，我們不能否認(rèn)，如果一個國家的每一個人、每一個企業(yè)都能夠做到自律，國家治理者即使不自律，也會受到重重制約。不過，在國家化的今天，國家的力量極為強(qiáng)大，真正成為了霍布斯所描繪的“利維坦”。國家的自律問題不解決，不僅會使直接傷害人類的東西問世，許多對人類并無直接傷害的東西也可能被用于傷害人類。在當(dāng)代人類國家化條件下，在國家至上主義普遍盛行的情況下，國家自律的問題很難從根本上解決。只有當(dāng)人類的基本生活共同體由國家轉(zhuǎn)向世界的時候，或者說，只有實(shí)現(xiàn)了世界大同或建立起人類命運(yùn)共同體的時候，社會自律問題才有望從根本上得到解決。

實(shí)際上，只要人類有了真正有效的自律機(jī)制，就根本不會有人為制造的傷害自己的東西來到世間，至少不會有有意識地利用本來為人類造福而研發(fā)的人為產(chǎn)品來傷害和毀滅自己的行為。只有人類機(jī)器化，機(jī)器才會人類化。人類不成為賺錢的機(jī)器，而保持人類應(yīng)有的尊嚴(yán)和自由，機(jī)器就不可能人類化，更不可能取代人類。因此，人類普遍有了自律，就不會發(fā)生機(jī)器人傷害人類以至毀滅人類的問題。沒有機(jī)器人控制人和毀滅人類問題的發(fā)生，更沒有機(jī)器人超越人類、取代人類問題的發(fā)生，人類的自信就不會受到傷害，人類也就不會產(chǎn)生自悲問題。正是在這種意義上，我們把人類普遍自律視為人類普遍自信的基石。人類有自律才會有自信，沒有有效的自律就不會有真正的自信。在人工智能時代，沒有普遍有效的自律，人類不僅不會有自信，而且會離毀滅之日不遠(yuǎn)。

三、高科技時代構(gòu)建人類自律的根本路徑

在國家化的條件下，形成人類普遍有效的自律是十分困難的，但高科技尤其是人工智能的迅猛發(fā)展又使這個問題十分迫切地擺到了人類面前?！捌仍诿冀薜纳鷳B(tài)危機(jī)、日益增加的大規(guī)模殺傷性武器的威脅，以及一些打破常規(guī)的新技術(shù)崛起，都不允許我們再拖下去”(23)尤瓦爾·赫拉利：《今日簡史：人類命運(yùn)大議題》，第IX頁。。按照人工智能專家的預(yù)測，從人工智能現(xiàn)在的發(fā)展態(tài)勢來看，在各方面都比人類智能強(qiáng)萬億倍的超人工智能時代的到來已經(jīng)為期不遠(yuǎn)。根據(jù)尼克·博斯特羅姆的看法，人工智能的工作方式之一是獨(dú)立意志模式，即能夠執(zhí)行開放式任務(wù)，能在世界里自由活動，可以自己做決定。這就是說，到了超人工智能出現(xiàn)的那一天，地球上會有活動著像人一樣但比人聰明能干萬億倍的機(jī)器人。在強(qiáng)大的機(jī)器人面前，人也許遠(yuǎn)沒有動物之于人類那樣的地位。果真如此，人類的自信和尊嚴(yán)將喪失殆盡。

但正如前面所述，人工智能的這種發(fā)展態(tài)勢只會在人類缺乏自律的情況下才有可能出現(xiàn)。如果人類是普遍有效自律的，人工智能的發(fā)展不可能走到這一步。那么，在人工智能時代，如何使人類建立有效的自律機(jī)制，實(shí)現(xiàn)人類的普遍自律呢？人類可采取的措施很多，也許有兩條是根本性的：一是改變?nèi)祟惉F(xiàn)行的市場經(jīng)濟(jì)模式，從根本上杜絕人們利用科技極端利己的動機(jī)。普遍消除這種動機(jī)，人類才有可能真正做到自律。二是改變?nèi)祟惉F(xiàn)行的國家政治模式，從制度上扼制乃至禁止目前在國家政府主導(dǎo)下的全球性機(jī)器人研發(fā)競賽。停止或撤消這種國家間搶占謀利制高點(diǎn)的競賽，社會才有可能真正做到自律。

人的人性和人格都有一個形成過程，人性的形成要早于人格。在現(xiàn)代社會，人性形成大致在18歲左右，而人格得到30歲左右形成(24)參見江暢：《“成人”與人之為人》，《南國學(xué)術(shù)》2017年第4期。。人格中包含觀念和品質(zhì)要素，人格在形成的過程中都會不同程度地形成具有道德自我約束作用的善惡觀念和德性品質(zhì)。在人格的形成過程中，人的善惡觀念和德性品質(zhì)的形成與人性的利己傾向存在著張力關(guān)系。在正常情況下，觀念和德性品質(zhì)的形成是一個從不顧別人的極端利己到無損于人的合理利己以至于達(dá)到有益于人、服務(wù)于人的成己成人的過程。但是，品質(zhì)的早期形成深受環(huán)境因素的影響，家庭、學(xué)校、同伴的善惡觀念，以及信息化時代無孔不入的媒體所宣傳的善惡觀念，對人格形成的影響極大。在市場經(jīng)濟(jì)條件下，特別是在市場化程度嚴(yán)重的社會，利益最大化法則往往成為了社會的基本道德(善)觀念和道德原則。生長和生活在這種環(huán)境中的人就很容易把利益最大化法則作為自己的道德觀念和行為準(zhǔn)則，甚至以這種觀念來養(yǎng)成自己的德性品質(zhì)。當(dāng)一個人把利益最大化作為追求時，他人性中的那種原本是自發(fā)的不顧別人的極端利己傾向就會得到強(qiáng)化，而無損于人和有益于人的合理利己力量就會弱化。如此發(fā)展下去，最終往往會使唯利是圖、不擇手段的極端利己主義成為人的基本行為動機(jī)和價值取向。如此，人的道德自律就喪失了。

當(dāng)然，在法制健全的社會(國家)中，人們的極端利己主義傾向不可能赤裸裸地表現(xiàn)出來，但在三種情況下，人還是會去極端地利己：一是在法制遺漏的地方，或者說，鉆法制的空子。比如，科學(xué)家為了成名獲利，利用有關(guān)基因編輯的法制缺乏的空子去研發(fā)基因編輯嬰兒。二是有政府支持或作后臺。比如，日本731部隊(duì)當(dāng)年所做的活體實(shí)驗(yàn)就是日本照著關(guān)東軍計(jì)劃實(shí)施的。三是在尚沒有法制約束的世界。當(dāng)年英國殖民者發(fā)動的鴉片戰(zhàn)爭，歐洲殖民者對土著民族的圍剿，今天一些企業(yè)無所顧忌地向環(huán)境排放廢棄物，這些都是人們在沒有法制約束的世界中所做的極端利己行為。在今天，這三種情況仍然普遍存在。在這種環(huán)境下形成人格的人，常常會以極端利己為基本行為動機(jī)，做那些傷天害理的事情。人工智能的發(fā)展原本是科技發(fā)展的重要組成部分，是科技的深化發(fā)展，因?yàn)樗且环N從人肢體的延伸深入到人大腦的延伸。但是，一些人工智能科技人員為了牟取更大的功名利祿，不顧人類的前途，甚至敢冒人類毀滅的風(fēng)險，千方百計(jì)地開發(fā)那些挑戰(zhàn)人類尊嚴(yán)和自信的機(jī)器人，他們與唯利是圖的企業(yè)一拍即合，企業(yè)為了利用機(jī)器人創(chuàng)造更多的資本對這些人進(jìn)行投資，而國家為了搶占機(jī)器人的制高點(diǎn)也縱容企業(yè)和科技人員的任性。如此一來，高科技傷害和毀滅人類就成為了人類生存的現(xiàn)實(shí)威脅。正如尤瓦爾·赫拉利指出的：“擁有神的能力，但是不負(fù)責(zé)任、貪得無厭，而且連想要什么都不知道。天下危險，恐怕莫此為甚。”(25)尤瓦爾·赫拉利：《人類簡史：從動物到上帝》，第408頁。這就是今天人類的真實(shí)狀況。

以上分析表明，人性本有的利己傾向在市場經(jīng)濟(jì)條件下，受利益最大化法則的激發(fā)而膨脹，影響了個人人格正確善惡觀念和德性品質(zhì)的形成，從而使個人的道德自律松弛以至喪失。市場經(jīng)濟(jì)的本質(zhì)和核心是資本，追求利益最大化正是資本的本性和邏輯，也是資本的力量之所在。只要有市場經(jīng)濟(jì)存在，資本的邏輯和力量就會發(fā)生作用，這種力量十分強(qiáng)大，不僅摧毀了封建主義、專制主義，也正在摧毀一切約束它的道德，甚至法制。在這種情況下，人類要保持和增強(qiáng)自身的自律，以抵御那種通過開發(fā)類人機(jī)器人以及其他一切危害人類的行為以牟取暴利的強(qiáng)大利益動機(jī)，就需要改變幾乎成為世界各國普遍經(jīng)濟(jì)形態(tài)的市場經(jīng)濟(jì)。也就是說，在當(dāng)代，要防止機(jī)器人對人類的危害，就必須增強(qiáng)個人和企業(yè)的自我約束力，而要做到這一點(diǎn)就必須改變市場經(jīng)濟(jì)這種經(jīng)濟(jì)形態(tài)，尋求一種新的經(jīng)濟(jì)形態(tài)。

改變市場經(jīng)濟(jì)這種經(jīng)濟(jì)形態(tài)，不僅可以解決個人的自律問題，同樣可以解決企業(yè)的自律問題。今天，許多企業(yè)唯利是圖，不僅不講社會效益，而且給社會特別是人類造成巨大的傷害，其根本原因還是在于實(shí)行市場經(jīng)濟(jì)這種經(jīng)濟(jì)制度或體制。在這種經(jīng)濟(jì)制度之下，企業(yè)以謀求經(jīng)濟(jì)利益為唯一動機(jī)，即使企業(yè)不危害社會甚至講究社會效益，那也主要是為了這樣能夠更好地實(shí)現(xiàn)經(jīng)濟(jì)利益。既然如此，當(dāng)企業(yè)在危害社會可以比不危害社會獲得更多利潤而又不受到法律制裁的時候，它通常的選擇不會是后者。一個國家的企業(yè)很多，整個世界的企業(yè)更是海量。在市場經(jīng)濟(jì)條件下，它們這樣行動，社會管理者根本防不勝防，更何況不少國家為了國家的狹隘利益(在國際市場競爭中取勝)而縱容甚至變相鼓勵企業(yè)這樣做。因此，企業(yè)的真正自律不可能在市場經(jīng)濟(jì)條件下建立起來。市場經(jīng)濟(jì)條件下的約束力只是外在的，一旦外在約束力喪失，企業(yè)實(shí)際上就沒有了約束力。這就是在現(xiàn)代社會企業(yè)之所以成為危害人類的主力殺手的根本原因。

作為私有制發(fā)展到一定階段的產(chǎn)物，國家是維護(hù)統(tǒng)治階級利益的機(jī)構(gòu)，是“階級矛盾不可調(diào)和的產(chǎn)物和表現(xiàn)”(26)《列寧文集》第3卷，北京：人民出版社，1995年，第114頁。。人類進(jìn)入文明社會是與私有制的出現(xiàn)相伴隨的，而其直接的原因則是部落之間的戰(zhàn)爭。當(dāng)一些部落戰(zhàn)勝了另外一些部落而成為統(tǒng)治者并建立暴力機(jī)器來維護(hù)統(tǒng)治的時候，國家就產(chǎn)生了。國家實(shí)際上是本部落與外部落沖突的產(chǎn)物。因此，國家建立后對不在本國范圍的其他部落或國家總是持?jǐn)硨Φ膽B(tài)度，或者說只考慮本國的利益而不會考慮甚至企圖搶占國家以外的人類的利益。當(dāng)然，國家統(tǒng)治者為了家族或統(tǒng)治集團(tuán)的利益也會對本國的被壓迫者(最初是戰(zhàn)敗者)進(jìn)行剝削和壓迫。就是說，傳統(tǒng)國家無論是對外還是對內(nèi)實(shí)際上是沒有有效約束的，用今天的話說，統(tǒng)治者都很任性。近代以來，在西方民族獨(dú)立運(yùn)動的影響下，國家這種基本共同體形式從過去少數(shù)地區(qū)走向了全世界，人類實(shí)現(xiàn)了國家化。當(dāng)然，這種國家是不同于傳統(tǒng)國家的現(xiàn)代國家。

相對于傳統(tǒng)國家而言，現(xiàn)代國家在許多方面發(fā)生了改變。比如，至少在形式上國家成了公民社會，公民是自由平等的，公民而非治理者是社會的主人，治理者治理必須依法行事而不能任性，如此等等。但有一點(diǎn)是沒有變的，那就是它把本國利益置于至高無上的地位，不僅不顧及甚至只要有可能就會去侵占本國以外的國家的利益和本國以外的人類利益。今天，每個國家都極力宣揚(yáng)愛國主義，視之為最為重要的國家原則?！皢栴}在于，有時候良性的愛國主義會搖身一變，成為盲目的極端國家主義。這時，人們不僅相信自己的國家獨(dú)一無二(其實(shí)所有的國家都是獨(dú)一無二的)，更會相信自己的國家至高無上，需要自己付出所有的忠誠，其他人對自己來說就不那么重要了”(27)尤瓦爾·赫拉利：《今日簡史：人類命運(yùn)大議題》，第104-105頁。。在全球化的背景下，地球以至外層空間成為各國均肆意掠奪而對它不負(fù)責(zé)任的“公地”，這里既是各國搶占資源的寶地，也是各國排放廢棄物的垃圾場。這種情況表明，在國家化和民族至上的今天，一個國家即使有了對內(nèi)的自律，也不會真正有對外的自律，而這正是當(dāng)代人類各種危機(jī)的根源。如果高科技會危害以至毀滅人類，那么國家缺乏自律無疑是一個主要原因。

人類歷史事實(shí)證明，不同國家或民族在國際事務(wù)方面都是民族利己主義，沒有什么國際主義，如果有的話，那也是出于利己主義的動機(jī)?！霸谡麄€人類歷史上，大多數(shù)人都以為有戰(zhàn)爭是必然的，而和平只是一個暫時的、不確定的狀態(tài)。國際關(guān)系也遵循‘叢林法則’，就算兩個政體看似和平共處，戰(zhàn)爭也始終會是一個選項(xiàng)”(28)尤瓦爾·赫拉利：《未來簡史：從智人到智神》，林俊宏譯，北京：中信出版社，2018年，第13頁。。國家的這種本性表明，靠國家自己的自律是不可能解決高科技迅猛發(fā)展將會危害以至毀滅人類的問題的，因?yàn)閲也豢赡芙⑦@種自律機(jī)制。因此，想解決高科技及其他人造物危害人類的問題，從根本上說就是要建立人類命運(yùn)共同體，謀求人類大同，以使人類基本生活共同體從國家轉(zhuǎn)向世界。只有這樣，才有可能徹底解決國家有政府而世界無政府這一當(dāng)代人類各種危機(jī)的最大根源，才有可能徹底解決人類各個人、各企業(yè)、各國家對人類整體的危害問題。當(dāng)然，這是一條艱難的道路。中國政府提出構(gòu)建人類命運(yùn)共同體的倡議雖然得到了相當(dāng)多的國家和國際組織的贊成，但并未成為世界各國的普遍共識，更何況人類命運(yùn)共同體真正建設(shè)起來面臨著重重困難。

在這種情況下，解決各國自律問題的比較現(xiàn)實(shí)的路徑只可能有這樣幾條：一是努力突破國家或民族至上觀念，樹立人類至上觀念。在全球化、信息化以及自然環(huán)境的惡化已經(jīng)將人類的命運(yùn)緊緊聯(lián)系在一起的今天，各國相互聯(lián)系、相互依存，全球命運(yùn)與共、休戚相關(guān)，全人類和世界各國都必須破除國家至上的狹隘眼界，增強(qiáng)人類整體意識，為人類生活共同體從國家走向世界奠定觀念基礎(chǔ)。二是加強(qiáng)國際輿論力量，利用強(qiáng)大的輿論制約機(jī)制迫使國家極端利己行為有所收斂。為了本國利益而損害人類共同利益的國家極端利己行為，是當(dāng)代人類一切禍患的最重要根源。世上沒有絕對安全的世外桃源，一國的利益和安全不能建立在別國的損害和動蕩之上，他國的威脅也可能成為本國的挑戰(zhàn)。在世界強(qiáng)制力量尚未建立起來的情況下，必須形成強(qiáng)有力的扼制這種國家極端利己行為日益猖獗態(tài)勢的國際輿論，強(qiáng)化國際道義，使一切損害人類整體利益的行為受到應(yīng)有的譴責(zé)，使之不敢為、不能為。三是強(qiáng)化聯(lián)合國及其安理會對整個世界的控制力量，維護(hù)人類整體的和平、安全和尊嚴(yán)。在今天，聯(lián)合國及其安理會仍然是唯一世界權(quán)威機(jī)構(gòu)，充分發(fā)揮該機(jī)構(gòu)的作用是當(dāng)前克服人類面臨的高科技挑戰(zhàn)，維護(hù)人類整體利益的最佳選擇。各國也要堅(jiān)定維護(hù)以聯(lián)合國為核心的國際體系，堅(jiān)定維護(hù)以聯(lián)合國憲章宗旨和原則為基石的國際關(guān)系基本準(zhǔn)則，堅(jiān)定維護(hù)聯(lián)合國權(quán)威和地位，堅(jiān)定維護(hù)聯(lián)合國在國際事務(wù)中的核心作用。與此同時，也要不斷改革和完善聯(lián)合國及其安理會的制度和機(jī)制，促進(jìn)其盡快向作為管理世界的權(quán)威機(jī)構(gòu)轉(zhuǎn)化。

人類經(jīng)過250多萬年的進(jìn)化發(fā)展，已經(jīng)具有了除上帝之外任何其他物種所不具有的靈性。這種靈性是智慧的根基和土壤。這種靈性絕不僅僅是智能，也不僅僅是機(jī)器可以取代的那部分智能。但是，如果人在資本和邏輯力量的推動下，除了保持對利益的追求和占有以及對欲望的貪得無厭的滿足之外，有意無意地丟棄人所有其他的靈性，也就是將自己降低到動物甚至機(jī)器的層次(機(jī)器運(yùn)行只需要燃料就行)，那么人類不僅完全沒有了自信的根據(jù)，也沒有了不被在能力上更強(qiáng)大的機(jī)器替代的理由。從人類自身看，人類越來越丟掉作為人之為人的那種靈性，淪為工具化、單面化的人，因而人類實(shí)際上自己為被機(jī)器人取而代之或毀滅準(zhǔn)備了條件。但是，如果人類在任何情況下都保持并不斷充實(shí)自己的靈性，像中國古代所強(qiáng)調(diào)的始終保持自己特有的“精氣神”，那人類就在任何時候都不會被自己所生產(chǎn)的產(chǎn)品打垮，更不可能被它們所替代?！斑@并不是人類第一次發(fā)明了比自己強(qiáng)的工具，從第一次折斷樹枝作為大棒開始，人類已經(jīng)有無數(shù)超過自己能力的工具。只不過這次不再是比人的胳膊力氣大，比腿跑得快，比眼睛看得遠(yuǎn)，而是比大腦更能覺察萬事萬物間的隱蔽關(guān)系”(29)王維嘉：《暗知識：機(jī)器認(rèn)識如何顛覆商業(yè)和社會》，第299頁。。只要人類能夠自律，并且有克服極端利己行為的定力，任何科技和機(jī)器都不可能戰(zhàn)勝人類，相反人類完全可以利用科技和機(jī)器造福于自己。