畢亞琴 戴兆國

以AI技術(shù)為代表的第四次工業(yè)革命，也被稱為第三次科技革命，正以勢不可擋之勢席卷全球，并日益深入人們的日常生活，改變著人類的生活方式，人類已不可避免地進(jìn)入AI時(shí)代。包括AI技術(shù)在內(nèi)的高科技不僅帶來了新一輪物質(zhì)財(cái)富的充分涌流，也給人們的生活提供了極大的便利。人們在享受、把玩這些技術(shù)的過程中，對這些技術(shù)全方位地“浸入”生活所帶來的有關(guān)倫理問題，乃至人類未來的存續(xù)問題似乎都缺乏警覺?！度祟愡€有未來嗎》（以下簡稱《人類》）一著以其高度的思想敏感，向人們發(fā)出“人類還有未來嗎”這一憂思之問。面對人工智能技術(shù)和生物技術(shù)在人體上的應(yīng)用，作者重新思考了何以為人？何以為物？分析了人與物的區(qū)別，提醒人類在AI時(shí)代不僅要處理好人與物的關(guān)系、人與人的關(guān)系，還要學(xué)會處理人機(jī)倫理關(guān)系。對于高科技給人類帶來的挑戰(zhàn)，《人類》從中西傳統(tǒng)文化智慧的角度深入思考人曾何為？人將何為？呼吁人類應(yīng)平衡控物與自控能力，注重內(nèi)在精神文明的發(fā)展，認(rèn)識人自身的限度，心中有所敬畏，并根據(jù)其底線倫理的主張，提出了一種預(yù)防性的倫理與法律規(guī)范的設(shè)想，為人類的共同命運(yùn)提供思想治策。

一、“超人”還是“超物”：AI時(shí)代科技發(fā)展呈現(xiàn)的新趨勢

科技對于人類的影響，主要體現(xiàn)在對生產(chǎn)工具的改革上，科技使生產(chǎn)工具越來越先進(jìn)，有利于人們改造自然，促進(jìn)生產(chǎn)力的發(fā)展。從最初的始于二三百萬年前的石器時(shí)代、四五千年前的青銅器時(shí)代、三千多年前的鐵器時(shí)代，到近現(xiàn)代18世紀(jì)60年代開始的蒸汽機(jī)時(shí)代、19世紀(jì)70年代開始的電氣化時(shí)代、20世紀(jì)40年代開始的信息化時(shí)代，現(xiàn)如今人類已經(jīng)進(jìn)入人工智能時(shí)代?；厮萑祟惿a(chǎn)工具的變革歷史，科技呈現(xiàn)出一種加速度的發(fā)展，讓人類的控物能力不斷增強(qiáng)，生產(chǎn)力獲得極大提高。

從目前技術(shù)智能化的發(fā)展來看，“這種從人的智能向超級機(jī)器智能轉(zhuǎn)換的速度，即不是一般的加速度，而是一種指數(shù)的加速度，即人工智能發(fā)展的速度曲線將一下變得陡直，或者通俗地說，智能在奇點(diǎn)臨近的那一刻將開始發(fā)生‘爆炸性’的進(jìn)展，它將突然一下就超過人”。①人工智能在到達(dá)奇點(diǎn)之后，將會成為“超人”或者更確切地說是“超物”。人工智能這種“人化物”現(xiàn)在已經(jīng)學(xué)會自我學(xué)習(xí)，在智能方面越來越像人。在不久的將來，它甚至可能超越人的智能。對于奇點(diǎn)來臨，一部分人是樂觀的，認(rèn)為可以充分享受人工智能帶來的各種便利服務(wù)，甚至利用人工智能將人類從“謀生的勞動(dòng)”中解放出來，有更多閑暇時(shí)間從事“自由自覺的勞動(dòng)”，從而返回“人本身”，實(shí)現(xiàn)人向人的本性復(fù)歸。然而，也有很多人對此憂心忡忡，認(rèn)為“相較于機(jī)器大工業(yè)時(shí)代機(jī)器的資本主義應(yīng)用導(dǎo)致的人機(jī)關(guān)系異化，智能時(shí)代的人機(jī)關(guān)系異化具有一些新特征”。②首先，人工智能將替代人類絕大部分的工作而造成普通勞動(dòng)者的失業(yè)，使其被剝削的資格都喪失殆盡，從而產(chǎn)生大量“數(shù)字窮人”，加劇社會的貧富分化和社會矛盾；其次，人們在生活中越來越依賴人工智能，人工智能“也在不斷弱化人的自我價(jià)值評判能力，解構(gòu)著傳統(tǒng)生命樣式，以至于傳統(tǒng)生活世界面臨著強(qiáng)烈沖擊”③；再次，“人工智能算法的高效率使人的精神話語高地面臨被機(jī)器算法操縱的風(fēng)險(xiǎn)”④，如“算法歧視”對人的操控與統(tǒng)治。此外，還有個(gè)人信息泄露，毫無隱私安全可言等等問題。其實(shí)，這些都可以歸之于人工智能所帶來的“近憂”。

《人類》認(rèn)為，所有危險(xiǎn)中最大的危險(xiǎn)是人工智能在未來可能會給人類的存續(xù)帶來威脅。隨著人工智能的飛速發(fā)展，未來越來越多的人“被”失去工作而變成“無用階級”。與之相應(yīng)的是，人工智能將會深入人類社會生活的方方面面，不可避免地會涉及到價(jià)值判斷的問題。如果人工智能在發(fā)展中有了自己的價(jià)值觀念，形成了自己的價(jià)值判斷，擁有了自我意識，一方面“它們最后大概會看不上人的容易變化的情感、易犯錯(cuò)誤的理性和薄弱的意志，更看不上人的脆弱的肉體和終有一死”⑤，而不再聽命于人。另一方面，因?yàn)槿斯ぶ悄芑诠杌w，不同于人的碳基體而缺乏豐沛的感受性，因而不會具有人的感性的愛的情感能力以及感同身受的憐憫能力，故而，人也無法得知人工智能的價(jià)值觀念而去預(yù)測它的價(jià)值判斷。這就意味著，如果人工智能要反叛人類，人類既無人工智能的超強(qiáng)智能，又無法感受人工智能的所思所想，更無人工智能不死的硅基體，那對于人類而言將會是致命一擊，人類將永無翻盤之日。又或者，即使人工智能無法獲得自我意識，但它具有強(qiáng)大的毀滅人類的能力，如果被別有用心之惡人操控，或者有人無心的操作失誤，都有可能導(dǎo)致人類無法逃脫被奴役、甚至被替代或者被毀滅的命運(yùn)。

現(xiàn)代高科技的另外一個(gè)發(fā)展趨勢是機(jī)器智能技術(shù)和生物技術(shù)越來越多地直接應(yīng)用于人體，使人體越來越脫離碳基體的限制成為“物化人”。通過改造人的“身體自然”，讓人變得更聰明、更強(qiáng)健、更長壽而增強(qiáng)控物能力。比如基因編輯技術(shù)，可以讓人類與某種疾病絕緣，甚至利用生命密碼來設(shè)計(jì)未來的人類；腦機(jī)接口技術(shù)，可以將芯片植入人腦，讓人類也擁有人工智能一般強(qiáng)大的超智能；人造器官移植技術(shù)，可以隨時(shí)替代不夠好的、不夠強(qiáng)健的人體器官……如此這般，可能在不久的將來，人類大概也能夠?qū)崿F(xiàn)永生的愿望了。聽上去似乎不錯(cuò)，但事實(shí)果真如這般美好嗎？對此，《人類》提出了現(xiàn)實(shí)存在的幾種潛在的危險(xiǎn)。一是人在不斷地被“物化”的過程中，最后還能稱之為“人”嗎？會不會出現(xiàn)一個(gè)“新物種”來替代現(xiàn)在的“智人”？二是人類的智能不斷被強(qiáng)化，那人類所獨(dú)有的意識、思想、情感和精神是否會隨著不斷被物化的“強(qiáng)大”的身體顯得無用而漸漸歸于消亡呢？三是因?yàn)檫@些技術(shù)的應(yīng)用費(fèi)用十分昂貴，在能用得起的且愿意用的人和廣大用不起的或者不愿意用的人之間，就會產(chǎn)生分化，人類社會有可能分裂成“高端人”“物化人”和“智人”“低端人”。四是技術(shù)方面的困境。這些科學(xué)技術(shù)目前仍不成熟，如果在人體的應(yīng)用中出現(xiàn)了偏差，將存在不可預(yù)測的巨大的倫理問題和嚴(yán)重的后果。

究竟何以為人？何以為物？在人類進(jìn)入智能化時(shí)代以前，應(yīng)該說人和物的區(qū)別還是十分清晰的，人有別于一般的自然物在于人是有意識、有思想、有精神的，而且會利用和制造工具。但無論是“人化物”，還是“物化人”，它們已經(jīng)漸漸模糊了人與物的界限，“它們非人非物，但又亦人亦物。它們是‘超人’，也是‘超物’”。⑥所以，人和“它們”之間的關(guān)系，既帶有人與物的關(guān)系，亦有人與人的關(guān)系。面對AI的強(qiáng)勢發(fā)展，人在處理人與物、人與人的關(guān)系之外，現(xiàn)在還必須思考如何處理人機(jī)之間的倫理關(guān)系，以及人自身是要“成神”還是要“成人”的問題。

二、“成神”還是“成人”：AI時(shí)代人類命運(yùn)遭遇的新挑戰(zhàn)

AI技術(shù)發(fā)展如此迅猛，它將會給人類帶來怎樣的命運(yùn)？人類未來又將何去何從？《人類》追溯了人類文明的歷史秩序，尤其從中國哲學(xué)的角度去思考人曾何為？人將何為？指出以前的人心中有所敬畏，知道作為人的限度，并通過內(nèi)在精神的發(fā)展努力實(shí)現(xiàn)“學(xué)以成人”；而現(xiàn)在的人強(qiáng)行改變事物的自然進(jìn)程，正在“學(xué)以成神”的道路上漸行漸遠(yuǎn)，這將會給人類帶來前所未有的生存危機(jī)。

在蒙昧?xí)r代，由于人的認(rèn)知有限，無法理解自然現(xiàn)象和人的生老病死，于是就產(chǎn)生了用“神靈”觀念來解釋現(xiàn)實(shí)的宗教性觀念，人們敬畏神、膜拜神。人類進(jìn)入文明時(shí)代后，心中依然有神靈，因?yàn)槿魏挝拿鞯拈_始都是和“神靈”緊密相連的，如西方的古希臘神話、北歐神話、中國的傳統(tǒng)神話等。當(dāng)人類文明發(fā)展到“軸心時(shí)代”，出現(xiàn)了“兩個(gè)主要是宗教性的精神文明（西方的猶太教和東方的佛教）和兩個(gè)主要是人文性質(zhì)的文明（西方希臘城邦的思想文化和中國先秦以儒家為最突出的諸子百家）”。⑦一直到工業(yè)文明之前，人類的精神世界里“神”始終占據(jù)著重要的位置?！靶闹杏小耢`’的人處處感到自己的限度，產(chǎn)生某種敬懼，感覺有無數(shù)有別于人與超越于人的存在，知道自己的知識和能力是很有限的?！雹嘁虼耍度祟悺分赋?，工業(yè)文明之前的人類，往往更加注重內(nèi)在精神的“修煉”，即“人的精神自控和超越能力”，努力“學(xué)以成人”。中國哲學(xué)中無論是儒家還是道家，兩者都強(qiáng)調(diào)“天”的存在。儒家講究“天人合一”，以實(shí)現(xiàn)“天命”和“人道”的和諧；道家認(rèn)為“人法地，地法天，天法道，道法自然”，要“順其自然而成其所以然”。所以，“天”構(gòu)成了對人的作為的限制。人們敬畏“天”，講究順天而為，方能生生不息。除了外在的或者說客觀的“天”之外，中國哲學(xué)還十分關(guān)注人的自身之“物”，即肉身的存在。“中國哲學(xué)是一種強(qiáng)調(diào)身體及其感受性的哲學(xué)。但它并不是要去努力滿足身體的各種感官欲望，而毋寧說是要認(rèn)識到人因其身體的感受性而帶來的脆弱性和有限性，從而追求能符合人之為人的生活?！雹釗Q言之，也就是努力做到“學(xué)以成人”。人通過自身的感受性，“體知”人的生老病死和喜怒哀樂，“體悟”人的脆弱性和有限性。因?yàn)槿说拇嗳跣院陀邢扌?，所以人們才渴求無限，“努力在家族的繁衍、藝術(shù)和宗教的創(chuàng)造中去追求永恒和無限”。⑩由此可見，儒道思想強(qiáng)調(diào)人的有限性，也追求人的無限性，但這種無限性不是對人的欲望的無限滿足，這種人的無限性主要體現(xiàn)為兩點(diǎn)。一是通過人的順應(yīng)自然而尋求人與自然的和諧，通過代代相傳從而共生永續(xù)。二是肉身有限，而精神無限，通過對內(nèi)發(fā)力，追求人的精神的無限性。因此，“儒、道兩家思想的關(guān)注中心都不是人類社會不斷的繁榮之道、富強(qiáng)之道，而主要是考慮其長久之道”?。只不過，兩者之間的區(qū)別在于，儒家講究“入世”，強(qiáng)調(diào)尊尊、親親、賢賢的三綱五常，重視人與人之間的關(guān)系，關(guān)心的是“文明存續(xù)的長久之道”；而道家講究“出世”，信奉“無為而治”，也就是人要遵循自然規(guī)律，不要強(qiáng)行改變自然的運(yùn)行法則和進(jìn)程，重視人與物之間的關(guān)系，關(guān)心的是“人類存續(xù)的長久之道”。

但是到了近現(xiàn)代，不斷工業(yè)化的過程就是不斷“離神祛魅”的過程。人的心中沒有了“神”，也忘記了“天”，由于沒有了畏懼，自然也忘記了人的限度。傳統(tǒng)的宗教和“天道”被“資本拜物教”所替代；資本的開疆?dāng)U土，因乘上科技的翅膀，而自由飛翔。資本和技術(shù)的聯(lián)姻，讓人類毫無畏懼地開始探索任何“禁忌之地”，只要它能夠滿足名利物欲。人類從古典時(shí)代注重控己的內(nèi)在精神而發(fā)展出的“學(xué)以成人”，逐漸轉(zhuǎn)向注重控物的“學(xué)以御物”甚至“學(xué)以成神”。古典時(shí)代人們更注重的是人與人的交往關(guān)系和生產(chǎn)關(guān)系，通過“控己”以保持社會的長治久安。而現(xiàn)代社會更注重的是人與物的關(guān)系，希望通過“控物”而促進(jìn)生產(chǎn)力的發(fā)展。

“人化物”的人工智能是人類的創(chuàng)造物，人們引以為傲，雖然這種人類的創(chuàng)造物可能在某一天會超越人的智能從而統(tǒng)治人類甚至毀滅人類?！拔锘恕钡摹靶氯恕焙盟啤爸侨恕钡纳壈?，其實(shí)從某種意義上來看，也是人類的創(chuàng)造物，雖然這種創(chuàng)造物極有可能會終止人的自然進(jìn)化進(jìn)程，將人類帶向未知的危險(xiǎn)之境。但這二者確實(shí)都給了人以“造物主”的感覺，人成為了“神”一般的存在?！斑@個(gè)極度膨脹的‘人’在尼采著作里成為上帝的弒殺者?！?尼采說“上帝死了”，是因?yàn)樯系墼僖矡o法成為人類社會的價(jià)值信仰、道德標(biāo)準(zhǔn)和法律典章。海德格爾則說，“在技術(shù)的時(shí)代，諸神為什么會逃離？因?yàn)橹T神一定要待在人不可觸及的地方”。?那么，是否“人”果真取代了“神”呢？海德格爾對現(xiàn)代技術(shù)之思給了我們答案。海德格爾認(rèn)為現(xiàn)代技術(shù)的本質(zhì)是“Gestell”（常被譯為“座架”或“集置”），即科技控制了“人”，異化了“人”，成為這個(gè)世界的法典，成為重新估定一切價(jià)值的標(biāo)準(zhǔn)。他說，現(xiàn)代技術(shù)“對人類的威脅不只來自可能有致命作用的技術(shù)機(jī)械和裝置。真正的威脅已經(jīng)在人類的本質(zhì)處觸動(dòng)了人類”。?正如上文所述，現(xiàn)代科技已經(jīng)模糊了人和物之區(qū)別，無論是“人化物”，還是“物化人”都正在慢慢替代現(xiàn)在的人類，“已經(jīng)在人類的本質(zhì)處觸動(dòng)了人類”。

人不是神，“人性中包含著一種理想性的可能，但也標(biāo)志出一種可行性的限度。人性確定了我們所能期望和作為的大致范圍”。?人性有自身的弱點(diǎn)，人不能像神那樣全能和至善。“弒殺上帝讓‘人’變回一個(gè)有限者，這個(gè)有限者在上帝位子上的所思所說因而成了笑柄，換言之，‘人’在弒殺上帝的同時(shí)也在哄笑中終結(jié)了自己?！?當(dāng)對自然和生命失去敬畏心的人類，他的控物能力的飛速發(fā)展如果不能受到與之相等同的精神和道德能力發(fā)展的駕馭時(shí)，無限制的科學(xué)技術(shù)將猶如打開的“潘多拉的盒子”，它能將人捧得有多高，就會讓人摔的有多重，從而將人類拖進(jìn)災(zāi)難的深淵。

當(dāng)未來“人化物”和“物化人”模糊了人和物的界限，人類還剩下什么可以區(qū)別于物？恐怕最后剩下的只能是傳統(tǒng)文化所注重的人的意識、思想、情感和精神。對于高科技帶來的挑戰(zhàn)，人類應(yīng)該如何應(yīng)對？恐怕也還得向被現(xiàn)代社會視為“無用”的“不實(shí)在”或“虛無”的精神尋求解決之道——“人文的智慧作為平時(shí)的一種必要的調(diào)節(jié)和未來非常時(shí)候的一種準(zhǔn)備是可能和必要的。我們需要以‘學(xué)以成人’的古典原則來調(diào)整‘學(xué)以御物’的現(xiàn)代原則，或者更廣義地說，我們要重返‘神’——重返與物質(zhì)相對的精神，不是要自己成為神，而是要承認(rèn)還有超越于人的存在”?，以此來平衡目前人類控物能力的迅猛發(fā)展和自控能力衰落之間的落差。唯有知道人的限度，注重內(nèi)在精神的發(fā)展，提高精神和道德能力，方能減少對追逐物質(zhì)利益的狂熱，為科技確立符合人性的發(fā)展目標(biāo)，讓科技向善發(fā)展。

三、“控物”還是“自控”：AI時(shí)代人類命運(yùn)發(fā)展的內(nèi)生動(dòng)力

科學(xué)技術(shù)作為人類改造自然，促進(jìn)生產(chǎn)力發(fā)展的工具和手段，為的是滿足人們的物質(zhì)和精神追求，促進(jìn)人類社會的全面發(fā)展。但在資本乘風(fēng)破浪的現(xiàn)代社會，萬物的商品化和資本化極大地刺激了人們的致富欲和對物質(zhì)享樂的貪欲。對物欲的渴求，又不斷地刺激著科學(xué)技術(shù)的飛速發(fā)展甚至無所忌憚地進(jìn)入“禁忌之地”，從而不斷地挑戰(zhàn)人類的倫理底線和價(jià)值底線?！度祟悺分赋觯@一方面導(dǎo)致了物質(zhì)文明的極大發(fā)展和精神文明的相對衰落；另一方面導(dǎo)致了人的控物能力的不斷強(qiáng)大和自控能力的相對削弱?？匚锬芰χ饕憩F(xiàn)在生產(chǎn)力的發(fā)展方面；自控能力則主要指向人與人的生產(chǎn)關(guān)系和社會關(guān)系的變革。如果任由科學(xué)技術(shù)被資本裹挾無限度地發(fā)展下去，雖然生產(chǎn)力會獲得單方面的巨大發(fā)展，但無限制地“勇闖科學(xué)無人區(qū)”卻將可能會給人類帶來不可預(yù)測的災(zāi)難。

人將何為？如何讓科技“可控”，防止科技“趨惡”發(fā)展？其實(shí)這背后還是如何防止人“趨惡”的問題。人不是神，人不是至善的，人有善端，也有惡端。如何遏制人的惡端，這需要倫理和法律的規(guī)范。針對AI時(shí)代科技發(fā)展的新趨勢，以及可能給人類帶來的不可預(yù)測的嚴(yán)重后果，《人類》提出了要注重精神文明的發(fā)展，由精神支撐倫理道德，讓道德規(guī)范成為法律之奠基，以此規(guī)約人性及行為，馴化、駕馭乃至超越逐物，節(jié)制過度的好奇和享樂，平衡人的控物和自控能力。這就要求一方面要堅(jiān)持底線思維，以尊重人的生命價(jià)值、人的主體性為導(dǎo)向，適度地限制控物能力的發(fā)展；另一方面，要建立一種預(yù)防性的倫理和法律，從內(nèi)在的精神價(jià)值規(guī)范層面和外在的法律強(qiáng)制規(guī)范層面實(shí)現(xiàn)人的自控。

何為科技發(fā)展的底線思維？底線思維是“防止和化解最壞情況出現(xiàn)的思維”。?而對于人類而言，人之為人長久的存續(xù)就是科技發(fā)展的底線。這包含了兩個(gè)層面，首先，是作為個(gè)體的人的生命和作為人類整體的存續(xù)至上，這是保證人類生生不息的前提。如果科技發(fā)展的結(jié)果導(dǎo)致人類都不復(fù)存在了，那么，人類發(fā)展科技的意義和目的何在？其次，是保證人的主體性。科技發(fā)展的最終目的是為人服務(wù)的，科技的發(fā)展過程中不能損害人的主體性，即人之為人的尊嚴(yán)。人是具有自主意識的存在物，人比其他存在物要偉大的地方，就在于人的精神意識，在于人的道德和信仰，人有尊嚴(yán)，可以為自己的行為負(fù)責(zé)?！拔覀兛赡苓€是不會想讓機(jī)器做自己的決策人。它可能比我們理性，但我們還有感情……自然，我也還是可能犯錯(cuò)誤，但它知道作為一個(gè)能夠自我選擇的主體的尊嚴(yán)和驕傲嗎？”?智能機(jī)器能通過遵守人類事先設(shè)定好的規(guī)則而成為“道德大師”嗎？“答案是否定的，我們或許永遠(yuǎn)無法將道德決策完全卸載給人工智能?！?因?yàn)椋俺墒斓牡赖聸Q策是一種熟練應(yīng)對，道德知識是一種技能知識，在這方面，人心勝于機(jī)器”。?科技發(fā)展的結(jié)果不能讓人喪失人之為人的主體性，人之為人的尊嚴(yán)。這是AI技術(shù)發(fā)展的底線，也是處理人機(jī)關(guān)系最基本的倫理原則。由于“民可與樂成，不可與慮始”?，所以《人類》認(rèn)為，最重要的還是“關(guān)鍵的少數(shù)”要樹立底線意識。影響AI時(shí)代科技發(fā)展新趨勢的“關(guān)鍵的少數(shù)”，主要指“第一線的科研人員、研發(fā)公司的擁有者和管理者以及投資者、政治領(lǐng)導(dǎo)人和觀念人，即藝術(shù)家、人文與社會科學(xué)學(xué)者、媒體人等”。?要防止科技“趨惡”發(fā)展可能會帶來的災(zāi)難，主要還是靠人的危機(jī)意識的建立，不能讓科技發(fā)展突破倫理底線，要適度限制人的控物能力的單向度發(fā)展。

那么，如何保證人能夠遵守科技的道德規(guī)范，堅(jiān)守科技發(fā)展的倫理底線呢？除了人充分發(fā)展個(gè)體自我的精神，以道德信仰進(jìn)行自控之外，《人類》還“概括性地提出了一種旨在控制不可預(yù)測的后果的、預(yù)防性的倫理與法律”?，以倫理和法律從社會層面對人自身進(jìn)行控制約束。它指出，由于現(xiàn)代社會人類要求平等的價(jià)值取向，不可能以某種生活理想或“好”的價(jià)值目標(biāo)為中心來規(guī)范或引領(lǐng)人的德性。因此，現(xiàn)代倫理“主要考慮這些行為的正當(dāng)與否，以及這種正當(dāng)性的根據(jù)何在，如何遵循和制定相應(yīng)的行為規(guī)則等”。?判斷一個(gè)行為正當(dāng)與否，應(yīng)該涉及行為的動(dòng)機(jī)、行為的過程和行為的結(jié)果。而現(xiàn)代倫理兩大流派之一的“道義論”的倫理學(xué)以行為本身的性質(zhì)、規(guī)范來衡量行為的正當(dāng)與否，忽略了行為的動(dòng)機(jī)和結(jié)果。另一流派“目的論”的倫理學(xué)則以行為的目的或結(jié)果來衡量行為的正當(dāng)與否，忽略了行為的動(dòng)機(jī)和行為過程?，F(xiàn)代科技的高速發(fā)展，在不斷地改變自然事物的進(jìn)程，以至于行為結(jié)果難以預(yù)測。面對可能的不可預(yù)知的嚴(yán)重后果，預(yù)防性的倫理不僅要對行為過程和行為結(jié)果給予防范，更要對人的行為動(dòng)機(jī)，尤其是由名利和好奇心驅(qū)使的動(dòng)機(jī)有所限制。這種限制主要體現(xiàn)在“內(nèi)心信念與社會輿論這兩個(gè)方面”。?預(yù)防性的倫理從源頭處即從行為動(dòng)機(jī)到行為過程，直至行為結(jié)果進(jìn)行防范和控制，是底線倫理的具體轉(zhuǎn)化。雖然，倫理道德作為一種主觀的軟約束，它的作用范圍比法律廣，但也要看到倫理道德的限度，即它的“藥效”比較慢，這就需要一種立竿見影的硬約束即法律來與之配合，攜手同行，即“盡量健全相關(guān)的法律，在事先的授權(quán)、事中的監(jiān)管、事后的懲罰等方面都有明確細(xì)密的規(guī)定”?，防止科技“趨惡”發(fā)展。

《人類》同時(shí)也指出，“我們還必須在現(xiàn)有的國家體制和國際體系中來考慮問題”?，因?yàn)椤艾F(xiàn)代技術(shù)發(fā)展的基本單位是民族國家……而國家之間的通常是白熱化的競爭多半會使可能‘為惡利用’的技術(shù)創(chuàng)新脫離倫理監(jiān)控”。?國家之間的激烈競爭會刺激科技無限制的發(fā)展，但人類需要意識到“我們將面臨的問題不是任何一個(gè)國家能夠單獨(dú)解決的，人類面對這樣一種生存危機(jī)真正成了一個(gè)人類命運(yùn)的共同體”?。唯有如此，人類方會團(tuán)結(jié)起來，一起協(xié)同解決日益強(qiáng)大的控物能力和日漸衰落的自控能力這一基本矛盾。解決好這一矛盾將會成為AI時(shí)代人類命運(yùn)發(fā)展的內(nèi)生動(dòng)力。

四、“機(jī)善”還是“人善”：AI時(shí)代人類命運(yùn)向善的時(shí)代之思

上述三個(gè)方面，是《人類》一書的明線，展示了本書的致思理路。如果說可以通過平衡人的控物能力與自控能力，同時(shí)建立底線思維，構(gòu)建一種預(yù)防性的倫理與法律規(guī)范來防止科技“趨惡”，那么，回答AI時(shí)代科技“向善”（即機(jī)善）何以可能這一問題則成為這本書的暗線?；卮疬@個(gè)問題，需要對現(xiàn)代科技的“前世今生”進(jìn)行一些分析，進(jìn)而了解現(xiàn)代科技是如何走上異化之路的。為此，我們可以從四個(gè)角度發(fā)問深思。

一是現(xiàn)代科技與以往的技藝有何不同？也就是“技藝”與“技術(shù)”之別帶來了什么？

以往的技術(shù)主要是手工技術(shù)，或稱為“技藝”更為妥帖。直到近現(xiàn)代，科學(xué)與技術(shù)的深度融合推動(dòng)了人類一次又一次的科技革命，因此，現(xiàn)在人們習(xí)慣將科學(xué)與技術(shù)放在一起使用，簡稱“科技”。那么，現(xiàn)代科技與以往的技藝有何不同？在海德格爾的技術(shù)之思中有深刻的呈現(xiàn)。

海德格爾在其早期的作品中，通過“在操勞活動(dòng)中照面”的“用具”來構(gòu)建“此在”的在世方式，“此在在生存操勞活動(dòng)里，在與用具打交道過程中領(lǐng)會存在，從而展現(xiàn)出此在的敞開狀態(tài)”。?即此在在操勞活動(dòng)中通過用具的指引而與其他存在物發(fā)生關(guān)聯(lián)并實(shí)現(xiàn)展開狀態(tài)，從而通達(dá)真理而恢復(fù)自由。這是一個(gè)通過用具祛除遮蔽，實(shí)現(xiàn)澄明的過程。在之后的《技術(shù)的追問》等作品中，海德格爾對現(xiàn)代科技進(jìn)行了深刻的反思與批判，“他指出了古代用具的使用和現(xiàn)在技術(shù)對于世界的不同展現(xiàn)方式，并追問得出了現(xiàn)代技術(shù)的本質(zhì)就是‘座架’”??，F(xiàn)代技術(shù)“座架”了人，人被技術(shù)逼迫著走上解蔽之路，但是這種解蔽實(shí)則是一種遮蔽，它遮蔽著人以及存在的問題。因此，現(xiàn)代技術(shù)實(shí)質(zhì)上是一種強(qiáng)制性的“解蔽”，它裹挾人和自然，貶損人的“主體性”，讓人失去通達(dá)真理之路。而之前的技術(shù)，因順應(yīng)自然，根據(jù)事物本身的規(guī)律進(jìn)行解蔽，所以還是一種美的產(chǎn)出、藝術(shù)的創(chuàng)作。《人類》也指出之前的“技藝”，多作用于外物，只是人的“身體器官的自然的、可見的延長”?，不會“隨意改變事物的自然進(jìn)程”。?而AI時(shí)代的科技，被各種欲望推動(dòng)著，越來越指向人自身，改變?nèi)说淖匀贿M(jìn)化進(jìn)程，對人的“身體自然”進(jìn)行替代。?

不可否認(rèn)，海德格爾對現(xiàn)代技術(shù)的追問是深刻的，他不僅指向人，更關(guān)照到人依賴并生存于其中的地球（大地）。其后期思想的主題是拯救地球，力圖使技術(shù)時(shí)代的人類擺脫嚴(yán)重的危險(xiǎn)和困境，維護(hù)人類的基本生存條件和人類在地球上的長存永續(xù)?，并把“拯救地球”提高到“拯救萬物之母”的高度。?但通過“技藝”與“技術(shù)”之別，他得出的解決之道是“思”與“詩”，“人詩意地棲居”于世上顯示出其浪漫的烏托邦色彩。要揚(yáng)棄現(xiàn)代科技異化之路，破解科技異化的困局去拯救地球和人類未來，還必須追問使科技走上異化道路的動(dòng)因是什么？

二是現(xiàn)代科技發(fā)展背后的動(dòng)力是什么？是“生存”還是“幸福”？

正如《人類》中所說，從前的人們注重的是生存之道，相較于物質(zhì)文明，人們更注重內(nèi)在的精神世界。?無論是東方的孔孟、老莊，還是西方的希臘三賢，追尋的都是真理，即存在本身。人的物欲被精神所節(jié)制，從而也成就了人類生存的長久之道。

但是，到了近代，西方的啟蒙運(yùn)動(dòng)解放了人的同時(shí)，也解放了人的欲望。資本主義追逐利潤的本質(zhì)，一刻不停地刺激著人們的物欲，放大著人們的欲望?，F(xiàn)代人普遍認(rèn)為占有的越多，生活就越“好”，越“幸?！薄＜夹g(shù)是資本逐利最好的助手，資本促進(jìn)技術(shù)的迅猛發(fā)展，使技術(shù)服務(wù)于人所謂的“幸福生活”。所以，可以理解為何之前的“技術(shù)”不發(fā)達(dá)，因?yàn)椤凹夹g(shù)”并不是人類生存之必須，“技術(shù)”是服務(wù)于人活得“更好”的欲望。但是，在資本刺激之下的人的欲望是無窮無盡的，人在利用技術(shù)不斷得到滿足之后不是獲得充實(shí)幸福感，而是被更加空虛的失落感所包圍。

現(xiàn)代科技發(fā)展背后的推動(dòng)力實(shí)則是資本主義刺激下的人的永無止境的欲望。欲望讓技術(shù)一日千里地發(fā)展并服務(wù)于人，欲望也讓技術(shù)“座駕”逼迫著人和自然，面臨著“失控”的危險(xiǎn)。人類面對資本與技術(shù)的聯(lián)姻，該如何“去蔽”而通達(dá)真理之路呢？

三是科技發(fā)展的目的是什么？究竟應(yīng)該選擇“工具理性”還是“價(jià)值理性”？

科技發(fā)展的目的是為了人的自由全面的發(fā)展。但科技在發(fā)展的過程中，逐漸喪失了它的“價(jià)值理性”，只留下單向度的“工具理性”。尤其在AI時(shí)代，一切都變成“算法”，從“人是機(jī)器”到“機(jī)器是人”，科學(xué)的實(shí)證性和可計(jì)算性，讓一切數(shù)字化。通過計(jì)算可以解構(gòu)一切，消解一切神秘的東西。這種理論甚至認(rèn)為人的情感，也是可以被衡量和計(jì)算的?！扒楦械谋举|(zhì)就是價(jià)值，情感與價(jià)值的關(guān)系實(shí)際上就是主觀和客觀的關(guān)系，既然價(jià)值是可以計(jì)算的，那么情感就必然可以計(jì)算?！?在資本與技術(shù)的雙重逼迫下，“情感”和“價(jià)值”的神秘性或者說精神性、崇高性被算法解構(gòu)而消失了，只留下可以計(jì)算的利益。而“工具理性”講究效率，即最優(yōu)原則，這與資本“用最小的投入獲得最大的產(chǎn)出”的需求不謀而合。于是，被資本權(quán)力和科技權(quán)力宰制的現(xiàn)代社會驅(qū)動(dòng)著“工具理性”蔓延到各個(gè)領(lǐng)域，它不僅在生產(chǎn)領(lǐng)域創(chuàng)造出巨大的物質(zhì)財(cái)富，甚至重塑著人的意識、情感和生活樣態(tài)，成為意識形態(tài)而統(tǒng)治著人。

但人們在為科技理性取得的成就進(jìn)行狂歡的同時(shí)，卻也不得不為其制造的災(zāi)難承擔(dān)后果。馬克思曾生動(dòng)形象地描繪出這一圖景：“技術(shù)的勝利，似乎是以道德的敗壞為代價(jià)換來的。隨著人類愈益控制自然，個(gè)人卻似乎愈益成為別人的奴隸或自身的卑劣行為的奴隸。甚至科學(xué)的純潔光輝仿佛也只能在愚昧無知的黑暗背景上閃耀。我們的一切發(fā)現(xiàn)和進(jìn)步，似乎結(jié)果是使物質(zhì)力量成為有智慧的生命，而人的生命則化為愚鈍的物質(zhì)力量?！?

應(yīng)該如何突破科技單向度的“工具理性”所造成的人的異化，回歸其“價(jià)值理性”，讓科技“向善”，真正地為人類造福？僅僅依靠道德、法律等上層建筑的層面，恐怕是不夠的。

四是科技“向善”何以可能？人類應(yīng)該重點(diǎn)發(fā)展“生產(chǎn)力”還是“生產(chǎn)關(guān)系”？

AI時(shí)代如何破解科技和人文的發(fā)展困局，《人類》指出，我們不是要反對技術(shù)，而是要對現(xiàn)代技術(shù)的本質(zhì)進(jìn)行反思。?海德格爾對現(xiàn)代技術(shù)進(jìn)行了深刻的反思，但他的“破解之道”卻顯得過于浪漫和“詩意化”。讓“機(jī)善”成為可能，還是要從世俗的物質(zhì)生產(chǎn)中去尋找答案。

馬克思認(rèn)為科技通過工業(yè)進(jìn)入人的實(shí)踐活動(dòng)，是“人的本質(zhì)力量的公開的展示”?，雖然是以異化的方式進(jìn)行。在《資本論》中，馬克思闡述了他的“機(jī)器觀”或“技術(shù)觀”，揭示了機(jī)器不僅僅是物，而且還承載了資本主義的生產(chǎn)關(guān)系。人與機(jī)器的對立關(guān)系，是由于“機(jī)器的資本化”，或者說，“這些矛盾和對抗不是從機(jī)器本身產(chǎn)生的，而是從機(jī)器的資本主義應(yīng)用產(chǎn)生的”！?其實(shí)，人工智能的發(fā)展并不必然會實(shí)現(xiàn)人的解放，也并不必然會導(dǎo)致“無用階級”的出現(xiàn)以及人類在身體或精神上的覆滅。關(guān)鍵在于“人工智能”的所有權(quán)掌握在誰的手里，“人工智能”所生產(chǎn)的財(cái)富被誰占有，也就是社會的生產(chǎn)關(guān)系是怎樣的，決定了科技是“向善”的還是“趨惡”的?！耙?yàn)椋a(chǎn)力的運(yùn)動(dòng)與發(fā)展并不是獨(dú)立實(shí)現(xiàn)的，而是在一定的生產(chǎn)關(guān)系的范圍內(nèi)實(shí)現(xiàn)的……人工智能與機(jī)器人的發(fā)展的目的、方向，以及它與人的發(fā)展之間的關(guān)系，在更大程度上并不是由人工智能本身決定的，而是受制于社會生產(chǎn)關(guān)系的作用與影響?！?“機(jī)善”之所以可能是因?yàn)椤叭松啤敝赡堋Ｈ缜拔奶岬?，人類?yīng)該平衡控物能力和自控能力?！翱匚铩笔巧a(chǎn)力的體現(xiàn)，而“自控”即“社會化的人聯(lián)合起來控制‘生產(chǎn)的社會關(guān)系’”。?“我們應(yīng)該運(yùn)用‘生產(chǎn)力與生產(chǎn)關(guān)系、經(jīng)濟(jì)基礎(chǔ)與上層建筑’的辯證關(guān)系，不能僅將‘規(guī)范發(fā)展’停留于道德、法律、經(jīng)濟(jì)、科學(xué)等上層建筑領(lǐng)域，更應(yīng)轉(zhuǎn)向‘生產(chǎn)關(guān)系和社會關(guān)系’領(lǐng)域，警惕和防范各種消極后果”?，讓科技“向善”成為可能，從而實(shí)現(xiàn)人的自由全面發(fā)展和人的真正解放，達(dá)到“機(jī)善”與“人善”的統(tǒng)一。

五、結(jié)語

“我們眼前發(fā)生的、以人工智能、神經(jīng)科學(xué)、讀心術(shù)、互聯(lián)網(wǎng)、新演化論、基因工程等等為領(lǐng)頭羊的‘第三次’（也有人稱為‘第四次’）科技革命顯然全部圍繞人而展開：人的身體和人的智能。”?雖然目前我們所處的AI時(shí)代，仍然是弱人工智能階段，但科技的飛速發(fā)展可以預(yù)見，在不久的將來強(qiáng)人工智能出現(xiàn)，直到“奇點(diǎn)時(shí)刻”來臨，人類將進(jìn)入所謂的“后人類時(shí)代”——超級人工智能時(shí)代。那時(shí)的“新人”將不同于現(xiàn)在的人，因此“他們”的“存在和價(jià)值”以及“他們”的“社會組織形式和生活方式”也會與現(xiàn)在迥然相異。“他們”甚至?xí)驗(yàn)榕c人的“主客體”轉(zhuǎn)換而顛覆人類的世界并取而代之?，F(xiàn)在的人類是否已經(jīng)意識到這一切并為之做好準(zhǔn)備？應(yīng)該如何防范和應(yīng)對可能出現(xiàn)的巨大風(fēng)險(xiǎn)，又該如何處理人和“新人”之間的關(guān)系？人類一直忙于不斷地追求進(jìn)步，是否也該思考下人類命運(yùn)及其文明的長久存續(xù)之道？《人類》一書立足人類命運(yùn)的未來發(fā)展，對我們時(shí)代的“最大真實(shí)”——技術(shù)問題進(jìn)行了倫理和人文的思考，發(fā)出了振聾發(fā)聵的吶喊聲，可不警乎？

注釋：

①⑤⑥⑦⑧⑨⑩????????????????? 何懷宏：《人類還有未來嗎》，廣西師范大學(xué)出版社2020 年版，第 80—81、6、6、112、113—114、120、122、124、189、44、136、19、149、150—151、152、218、155、157、103、103、120、125、118、46 頁。

②③④? 李瓊瓊、李振：《智能時(shí)代“人機(jī)關(guān)系”辯證——馬克思“人與機(jī)器”思想的當(dāng)代回響》，《毛澤東鄧小平理論研究》2021年第1期。

???? 李河：《從“代理”到“替代”的技術(shù)與正在“過時(shí)”的人類？》，《中國社會科學(xué)》2020年第10期。

? ［德］海德格爾：《海德格爾文集：演講與論文集》，孫周興譯，商務(wù)印書館2018年版，第29頁。

? 何懷宏：《在人性的范圍內(nèi)——有關(guān)科技與人文的一些思考》，《華東師范大學(xué)學(xué)報(bào)》（哲學(xué)社會科學(xué)版）2021年第1期。

?? 夏永紅：《人工智能可以成為道德大師嗎》，《道德與文明》2021年版第1期。

?? 宋潔、王伯魯：《從“用具”到“技術(shù)”——海德格爾此在的敞開與遮蔽思想流變解讀》，《北京理工大學(xué)學(xué)報(bào)》（社會科學(xué)版）2019年第1期。

?? 宋祖良：《拯救地球和人類未來》，中國社會科學(xué)出版社1993年版，第3、149頁。

? 仇德輝：《情感機(jī)器人——人工情感的邏輯框架與深度算法》，臺海出版社2018年版，第41頁。

? 《馬克思恩格斯選集》第1卷，人民出版社1995年版，第775頁。

? 《馬克思恩格斯文集》第1卷，人民出版社2009年版，第193頁。

? 《馬克思恩格斯文集》第5卷，人民出版社2009年版，第508頁。

? 林劍：《論人工智能的發(fā)展對人的勞動(dòng)解放與社會解放的意義》，《人文雜志》2019年第11期。

? 張自永、吳宏洛：《人工智能時(shí)代勞動(dòng)解放的四維解析》，《海南大學(xué)學(xué)報(bào)》（人文社會科學(xué)版）2020第6期。