謝新水

(首都師范大學(xué) 管理學(xué)院，北京 100048)

為防止人工智能技術(shù)對人類的“侵犯”，保障這一顛覆性技術(shù)的可持續(xù)發(fā)展并友好地服務(wù)于人類，哲學(xué)社會科學(xué)都在尋找人工智能治理難題的解決方案。

倫理學(xué)領(lǐng)域的學(xué)者注重人工智能主體的擬倫理角色，將倫理作為引導(dǎo)、約束人工智能發(fā)展的重要方式，希望從有限自主與交互智能出發(fā)，調(diào)適人工智能倫理，校準(zhǔn)人工智能的走向[1]。法學(xué)領(lǐng)域的學(xué)者設(shè)計用法律規(guī)制方式來解決人工智能的治理問題，將人工智能的本質(zhì)假定為算法和數(shù)據(jù)[2]，希望通過立法來有效規(guī)制算法和數(shù)據(jù)[3]；還有學(xué)者希望通過整合現(xiàn)代政府立法、行政和司法三種權(quán)力，以侵權(quán)責(zé)任為杠桿，將人工智能系統(tǒng)的外部安全成本內(nèi)部化，以此來保證人工智能產(chǎn)品的安全[4]。公共管理領(lǐng)域的學(xué)者采用建構(gòu)新體制的思路來解決問題。依據(jù)人工智能在技術(shù)、市場和政治三個層面的影響，有學(xué)者希望建立基于倫理的、透明、開放、包容、適用的治理體制[5]，為人工智能城市的整體治理提供了新思路。概而言之，這些學(xué)科所提供的解決方案都重視運(yùn)用本學(xué)科領(lǐng)域的治理資源和治理能力，呈現(xiàn)了比較鮮明的學(xué)科特色。問題在于，這些研究很少從人工智能的“類人性”出發(fā)來設(shè)計治理思路。

哲學(xué)領(lǐng)域的研究彌補(bǔ)了這一缺陷。學(xué)者們從人出發(fā)來考察人工智能的發(fā)展問題，提出了“類人智能”概念，討論了人工智能對人文主義的影響[6]；并意識到人工智能技術(shù)的發(fā)展正在實質(zhì)性地改變?nèi)?，人和人工智能正在形成新的共生關(guān)系[7]。不難發(fā)現(xiàn)，哲學(xué)領(lǐng)域的思考也有學(xué)科思維的局限，即哲學(xué)領(lǐng)域的研究不太關(guān)注治理層面的具體舉措。就人工智能治理而言，哲學(xué)社會科學(xué)的目標(biāo)是雙重的：既要促進(jìn)人工智能的發(fā)展，又要避免人工智能可能帶來的風(fēng)險[8]。為了完成這一目標(biāo)，人工智能治理不能忽略治理對象的新特性，這是思考人工智能治理的邏輯起點。具體而言，無論是倫理層面的引導(dǎo)、法律層面的規(guī)制亦或公共管理層面的治理方案，都不能回避人工智能的新特性，即其“類人性”是什么。

筆者認(rèn)為，人工智能監(jiān)管問題的起點是人性，人工智能的“類人性”需要根據(jù)人性來思考，而人的難題同樣會在人工智能發(fā)展過程中不斷呈現(xiàn)出來。這也是解決人工智能監(jiān)管難題的邏輯起點。因此，本文主要探討了以下三個方面的問題：一是提出通過人性來認(rèn)知“后人類”階段人工智能監(jiān)管的觀點；二是基于赫舍爾的《人是誰》探究了“做人難”與人工智能“類人”的難題；三是分析了人工智能的三重監(jiān)管難題。希望以此為人工智能的監(jiān)管提供可借鑒的思路。

1 通過人性來認(rèn)知“后人類”階段的監(jiān)管難題

人工智能以設(shè)計“類人”為重要基點。甚至可以說，“類人”是人工智能的最終目標(biāo)。人工智能的基本路徑是將人腦的功能賦予機(jī)器，將人的智能融入“物”，使機(jī)器模仿、形成甚至超過人的智能。圖靈是第一個對機(jī)器智能做出深入思考的智者[9]1-2，他在《計算機(jī)與智能》中提出的問題是：機(jī)器能思維嗎？圖靈為求證此問題而開展的設(shè)計是：是否存在一臺想象中的機(jī)器可以在游戲中精彩發(fā)揮[10]265？圖靈的問題包含著這一問題的答案。在技術(shù)層面，一些科學(xué)家對此深信不疑：“凡是人能夠表達(dá)的，毫無例外都是可以模擬的”，人類“能夠制造出真正的人工智能，這已經(jīng)是一個不成為問題的問題……這種人工智能不僅不亞于人類理智，而且無論從哪一方面來說都要超出人類理智”[11]。確實，這些科學(xué)家的預(yù)測正在慢慢實現(xiàn)。

需要思考的問題是：如果出現(xiàn)不亞于人類智慧、甚至超過人類智慧的“類人”，那么人和“類人”之間會形成“新沖突”嗎？或者說，可能形成人和“類人”的“新合作”嗎？就人和“類人”的關(guān)系而言，無論是“新沖突”或“新合作”，都超越了現(xiàn)階段我們所持有的人-物思維關(guān)系的界限。歷史地看，從農(nóng)業(yè)社會到工業(yè)社會，人類一直將物甚至整個自然界作為自己的工具，這意味著人和物被置于分離甚至對立的狀態(tài)，人和物之間的關(guān)系被定位為使用者和被使用者、控制者和被控制者的關(guān)系。說到底，這種關(guān)系的本質(zhì)是有智能的人對無智能的物的單向控制。從這種關(guān)系的發(fā)展進(jìn)程來看，在古希臘哲學(xué)家普羅塔戈拉宣告“人是萬物的尺度”的理念后，人類整體追求對物與自然界的控制更甚。

正因為擁有智能和智慧是人類特有的屬性，所以，當(dāng)人工智能出現(xiàn)時，如何來準(zhǔn)確定義人工智能就變得十分困難。謝勒指出：困難不在于定義“人工”，而在于“智能”一詞在概念上的模糊。人類是具有廣泛承認(rèn)的擁有智能的唯一實體，所以任何關(guān)于智能的定義都毫無疑問跟人類的特征有關(guān)[12]。由于人類將智能視為僅僅屬于自身的特性，一旦人工智能出現(xiàn)，人類要賦予物智能，并讓物擁有、保存和運(yùn)用人的智能時，就不可避免地會沖擊人-物二元對立思維。這是第四次工業(yè)革命過程中人類科學(xué)思維的重大轉(zhuǎn)變。這種轉(zhuǎn)變的力量可能推動并塑造一個新的時代。

人工智能技術(shù)是通過“由人造‘人’”來實現(xiàn)人與物的融合嗎？如果從人性來判斷，答案是否定的。相反，“由人造‘人’”的思想進(jìn)一步強(qiáng)調(diào)、凸顯了人的優(yōu)越性、獨特性和孤獨性，更進(jìn)一步凸顯了人控制物的思維。

其一，“由人造‘人’”的思想進(jìn)一步強(qiáng)調(diào)了人的優(yōu)越性。人類一直認(rèn)為人優(yōu)越于物。人工智能思維延續(xù)了“人是萬物之靈”的思想。雖然人一直希望對物進(jìn)行優(yōu)化，賦予物以人的思維，使之具備人的智能并如同人一樣行動，最終成為甚至超過人的智能的“類人”；但是，制造“類人”的目的并不是使其成為自由的行動者。其二，“由人造‘人’”的思想進(jìn)一步凸顯了人的獨特性。人具有語言能力、制造工具能力、道德約束力，也是能思維、能決策、有情感的行動者。所以，人類一直認(rèn)為自身與物不同。盡管人工智能“類人”有獨特性，然而，這種“獨特性”只是對人的模仿，是其作為人類工具的獨特性。其三，“由人造‘人’”的思想凸顯了人內(nèi)心的孤獨。人有兩重孤獨性：類的孤獨性和個體的孤獨性。人工智能應(yīng)用的一個領(lǐng)域就是通過制造“類人”來緩解人的孤獨，日本設(shè)計“陪伴機(jī)器人”的理念和目標(biāo)就是如此。然而，“類人”最終只能作為“物”而隔離于人之外，因為孤獨是人不可消解的人性。在這個意義上，我們才能更好地理解亞里士多德所說的命題：“人類在本性上，也正是一個政治動物?！盵13]7目前看來，人和“類人”的不可融合是人的思維決定的。或者說，人和“類人”的融合需要一個漫長的思維變革過程。但是，人工智能“類人”出現(xiàn)后，人類需要面對如何和“類人”相處的難題。

20世紀(jì)80年代，科學(xué)家對控制人工智能“類人”很有信心。他們認(rèn)為：“在自動化系統(tǒng)和人工智能發(fā)展的任何水平上都少不了人。只有人才能處理一切信息過程的開端和終端。只有人才能給系統(tǒng)下達(dá)任務(wù)，只有人才能確定標(biāo)準(zhǔn)和對結(jié)果做出評價。這里任何東西也替代不了人?！盵11]但是，這一判斷沒有考慮人工智能“類人”的自主性及其超越人的能力。目前，一些科學(xué)家已開始質(zhì)疑類似的觀點。我們可以設(shè)想，具備超人類能力且有自主性的“類人”，一旦擁有了人的情感，又成功地進(jìn)行了組織化和社會化，那么它們將如何與人類相處呢？它們會和人類爭奪世界的統(tǒng)治權(quán)嗎？就目前而言，這些問題尚難得出明確的結(jié)論，畢竟人工智能還處于發(fā)展初期；但是我們必須在理論上對人工智能監(jiān)管問題進(jìn)行思考，從人性的視角去推斷這一技術(shù)發(fā)展過程中可能出現(xiàn)的風(fēng)險。只有這樣，才能為人工智能的監(jiān)管開拓恰當(dāng)?shù)乃悸?，形成系統(tǒng)性的監(jiān)管思維，找到有效的監(jiān)管路徑。

哲學(xué)、倫理學(xué)、管理學(xué)對人性有豐富的揭示。休謨的《人性論》仿照霍布斯在《法的原理》和《利維坦》的前兩部分來規(guī)劃，雖有一定的局限性[14]，但深刻揭示了人性的復(fù)雜。在倫理學(xué)發(fā)展過程中，倫理本位的人性論、實踐本質(zhì)的人性論、文化人性論、“類哲學(xué)”的雙重人性論、馬克思主義的人性論對人性的揭示深刻而豐富[15]。管理學(xué)領(lǐng)域亦提出了性善論或性惡論等觀點。雖然這些有關(guān)人性的理論都有助于分析人工智能的監(jiān)管難題，但是本文的分析并不基于這些理論。本文分析的基礎(chǔ)建立在對人工智能因具有人的特性而會表現(xiàn)出與人類相同的“做人難”問題之上，本質(zhì)上是從人工智能與人類在“人性”困境方面的相似性出發(fā)，討論人工智能的監(jiān)管問題。

在人工智能發(fā)展過程中，任何時候我們都不能忽略它和人類的密切關(guān)系。當(dāng)前，理論界將“人”作為人工智能的分類標(biāo)準(zhǔn)。由此，人工智能可以分為三類：弱人工智能、強(qiáng)人工智能和超強(qiáng)人工智能。其中，弱人工智能是嚴(yán)格依據(jù)程序規(guī)定，對設(shè)定刺激做出反應(yīng)的人工智能產(chǎn)品，它的設(shè)計依然體現(xiàn)了人對物的控制。因為這一類機(jī)器人根本沒有意識狀態(tài)，它只是受電路和程序支配的簡單來回運(yùn)動而已[16]。強(qiáng)人工智能技術(shù)機(jī)器人具有人類的理解能力，能夠自主進(jìn)行推理和判斷。超強(qiáng)人工智能指的是在各個方面都比人類具有優(yōu)勢的智能系統(tǒng)[17]。超強(qiáng)人工智能具有超過人類的能力，有情感，能夠自主思考決策。所以，人工智能監(jiān)管的對象不只是物，更不只是對物的監(jiān)管，更多地是指對“類人”的監(jiān)管?！邦惾恕辈皇侨?，卻是具有自主性的行動者，其能力甚至?xí)饺祟?。正因為如此，在理論上，基于人性的“做人難”來思考人工智能的監(jiān)管難題，就更合適、更有效。

赫舍爾是20世紀(jì)初很有影響力的哲學(xué)家和神學(xué)家。在《人是誰》一書中，他探究了人性的哲學(xué)問題。他力圖解決的問題是：做人意味著什么？根據(jù)什么來證明人有資格成為人？為什么做人難[18]1？他指出：“難題是處境的產(chǎn)物。它是在處境艱難、理智困窘的時刻中產(chǎn)生的，是在經(jīng)歷到不安、矛盾、沖突時產(chǎn)生的。”[18]1他也指出：“一個問題尋求的是答案，一個難題尋求的是解決方案。”[18]1人工智能技術(shù)將處于長期的發(fā)展過程中，人類對其監(jiān)管亦是長遠(yuǎn)的，所以對于人工智能的監(jiān)管不只是問題，更是難題。

福山考察了生物技術(shù)對人性的改變問題。他指出：“當(dāng)前生物技術(shù)帶來的明顯威脅在于，它有可能改變?nèi)诵?，因此將我們領(lǐng)進(jìn)歷史的‘后人類’階段?！盵19]10-11筆者認(rèn)為，人類社會將在人工智能技術(shù)與“基因工程”的共振中被帶入“后人類”階段?！昂笕祟悺彪A段增加了“人”這一概念的復(fù)雜性，也可能改變“人”的定義。這是社會前進(jìn)和發(fā)展的趨勢?，F(xiàn)在看來，人工智能是人類所渴望的新技術(shù)。這種渴望既體現(xiàn)在農(nóng)業(yè)社會的童話故事和寓言故事中，也體現(xiàn)在工業(yè)時代機(jī)器融入社會的全過程中。工業(yè)社會發(fā)展技術(shù)的目標(biāo)是延伸人的手足、解放人的身體。在后工業(yè)社會，人工智能的目標(biāo)是發(fā)明“類人”，從而延伸、集聚人腦的智能。在“后人類”階段，人腦的解放可能會使人成為旁觀者嗎？

基于人性的“做人難”會在人工智能發(fā)展的過程中體現(xiàn)出來。這是人工智能時代一個需要思考的難題，也是人工智能時代的監(jiān)管難題。如果人工智能科學(xué)要考慮的是如何理性地發(fā)展技術(shù)的問題，那么社會管理者則需要切實解決“后人類”階段的社會難題。人工智能發(fā)展中遇到的科學(xué)問題，需要用原創(chuàng)的科學(xué)理論和技術(shù)去支持；人工智能應(yīng)用中產(chǎn)生的社會難題，則需要在社會管理過程中通過系統(tǒng)有效的監(jiān)管來消除。總體而言，對人工智能的監(jiān)管具有雙重目的：一是促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展，二是促進(jìn)人類的可持續(xù)發(fā)展。為了達(dá)成這些目標(biāo)，人工智能的監(jiān)管難題需要基于人性的“做人難”出發(fā)來認(rèn)知和思考。

在社會治理的意義上，人工智能監(jiān)管的重大難題是人工智能“類人”社會化、組織化后所造成的困境。這個困境中包含著兩個層面的問題。第一個問題來源于人工智能科學(xué)發(fā)展的路徑：科學(xué)會將人工智能的“類人”造成什么樣子？第二個問題來源于人工智能發(fā)展的社會路徑：社會管理中如何處理人和“類人”的關(guān)系。這些問題概括起來可簡化為“人機(jī)共生”問題。筆者認(rèn)為，立足于人性的“做人難”來思考人工智能的監(jiān)管難題，系統(tǒng)科學(xué)地提出人工智能的人性發(fā)展路徑，更有利于人工智能技術(shù)的社會發(fā)展。因此，本文選擇《人是誰》一書中的內(nèi)容來分析人性的“做人難”，并由此分析“后人類”階段人工智能的監(jiān)管難題。

2 “做人難”與人工智能“類人”難題

赫舍爾不僅深刻揭露人性，而且有遠(yuǎn)見地指出了人性發(fā)展的動態(tài)性和可塑性。他指出：我們不僅描繪人的本性，我們也塑造它。我們認(rèn)為自己是什么樣子的人，我們就會成為什么樣的人[18]9。人工智能以人為標(biāo)準(zhǔn)。在人工智能發(fā)展過程中，我們認(rèn)識到了人性是什么樣子，人類認(rèn)識到自身是什么狀態(tài)，就自然而然地希望將人性及人的狀態(tài)在人工智能中呈現(xiàn)。人是行動的，基于人性的行動會產(chǎn)生做人的難題。根據(jù)赫舍爾的《人是誰》，筆者總結(jié)了基于人性的“做人難”及其表現(xiàn)。

其一，用思維行動卻難把握情緒。人是有思維的，有智慧的思維是人區(qū)別于動物的基本特征之一。沒有智慧思維的人通常都遭到了思想家們的極端對待。例如亞里士多德將奴隸視為“工具”時，主要意指其缺乏自主思考形成智慧的能力，他(她)們只要服從主人就夠了(1)亞里士多德認(rèn)為：身從魂、幼從長、奴從主、野蠻民族從自由民族都屬自然。詳見：亞里士多德.政治學(xué)[M].吳壽彭，譯.北京：商務(wù)印書館，1965：514.。人的思維過程和思想觀念寓于其行動之中，系統(tǒng)的思想是指導(dǎo)人的行動、判斷行動效果的重要依據(jù)。思維是人類豐富世界的重要精神力量，正是因為人的思維，人類才拓展、開發(fā)、到達(dá)了超越地球以外的新世界；正是因為人有思維，人才有了比動物更多一重的空間。動物只有物理空間，而人則不同，思想是人的私人空間[18]8。動物會巡視“領(lǐng)地”，但很難說它們有“思想”，而人不僅占有地理空間，而且用思想占有人類的思維空間，歷史巨人就是那些至今依然能在當(dāng)下時空中占有思想位置的人。

“與動物相比，人是不僅行動而且還思考他如何行動的一種存在?！盵18]11沒有思想，人類就是黑暗的。正是思想的力量孕育了人類不斷探索、不斷創(chuàng)新、不斷超越自身局限而積極行動的勇氣和能力，但與此同時，“做人難”的問題也因此產(chǎn)生。由于人會觀察、感受、探究、質(zhì)疑、對比分析自身行為，由此會引發(fā)人對行為起因、行為過程及其行為結(jié)果的反思。在反思過程中，人的心理過程會蘊(yùn)含情感的變化。赫舍爾指出：“人對自身行為的感受能力，對自身行為表示疑問的能力，把自身行為看作是一個難題而不是單純由最小的、不變的和最終的事實組成的結(jié)構(gòu)能力，這是做人的根本性質(zhì)?！盵18]11人通過思維感受行動、產(chǎn)生判斷，在這個過程中，無論是贊同或反對、滿意或不滿意等，都會產(chǎn)生諸多情緒。進(jìn)一步而言，人對“他者”的感知判斷，是人與事、人與人、人與生活環(huán)境相互作用的結(jié)果，這個過程會引起人情緒的變化。

人的情緒復(fù)雜多樣，或高興、樂觀、興奮；或消極、質(zhì)疑、沮喪；或悲哀、絕望……情緒既是現(xiàn)實又是事實，人很難與情緒、情感相脫離。赫舍爾指出：“做人是一個現(xiàn)實，人之為人在于與他基本的情感……或者，更具體地說，是在于他如何同他自己的實存相聯(lián)系，如何同其他人的實存相聯(lián)系，如何同他的直接環(huán)境中所呈現(xiàn)的相聯(lián)系，如何同存在著的但又不是直接呈現(xiàn)的相聯(lián)系?！盵18]19上文提到，模仿人的思維是人工智能的出發(fā)點。如果人工智能“類人”有了思維，進(jìn)而也有了情緒，同樣會產(chǎn)生做人的難題——不僅包括自身情緒難題，還包括與人類相處時的情緒難題。

其二，用價值判斷卻難自我認(rèn)同。人的思維具有社會性和文化性，與之相隨，人的價值觀也就復(fù)雜多樣。在行動過程中，人必須用社會標(biāo)準(zhǔn)、社會價值、社會文化、法律規(guī)制來思考、判斷、對比自我和“他者”的行動。人對其行動的思考是一個基于價值判斷并自我理解的過程。也就是說，“每一種自我理解活動都要運(yùn)用價值判斷、規(guī)范和決定”“做人的實質(zhì)在于價值，價值包含在人的存在之中”[18]14。無論是判斷個體行為、集體行動、社會運(yùn)動、政治現(xiàn)象、國際關(guān)系，乃至這個世界上的所有行動，人都無法脫離價值的“侵襲”。所以，赫舍爾指出：“人對他自己的自我不是中立的或者漠然置之的。愛和知識、價值判斷和事實描述，在確定自我認(rèn)識時不可分割。自我認(rèn)識既包括接受也包括拒斥。如果沒有掌握某種價值標(biāo)準(zhǔn)和價值傾向，認(rèn)同其自我的關(guān)系便不可思議。”[18]13

價值觀、世界觀和人生觀是人自我認(rèn)同的基礎(chǔ)。對何種價值的認(rèn)可，既決定著自我認(rèn)同的標(biāo)準(zhǔn)，又決定著人的自我認(rèn)同方式和生存方式，甚至還決定著生命是否需要延續(xù)、是否幸福。亞里士多德發(fā)現(xiàn)：“人人都愛自己，而且愛出于天賦，并不是偶發(fā)的沖動?！盵13]55由于對自身懷有情感是一種本能，所以人終其一生都無法逃避自我認(rèn)同的問題，這是人的生存需要。無論你生活富足與否、幸福與否，缺乏自我理解和認(rèn)同的人，生活都將再難從容繼續(xù)。然而，價值是一個爭議性的概念。爭議性概念體現(xiàn)的是人們對同一概念內(nèi)涵和外延理解的差異性。由于價值觀的豐富性及其判斷的差異性，價值沖突就成了人類沖突和人自我沖突的源泉，相應(yīng)地，也就增加了人自我認(rèn)同的難題。如果人工智能“類人”有了人的思維，有了倫理價值觀，并要以此來自主地開展決策，同樣會產(chǎn)生用價值判斷卻難自我認(rèn)同的“做人難”問題。如果這樣，那么人工智能的“類人”如何進(jìn)行價值判斷？如何開展自我認(rèn)同呢？它們能自我認(rèn)同嗎？如果不能，我們?nèi)绾伪O(jiān)管它們呢？

其三，難以承認(rèn)現(xiàn)狀卻要服從現(xiàn)實。赫舍爾指出：“人對自己是一個難題，他不把自己的實存看作理應(yīng)如此。”[18]14通俗地說，就是人難以滿意現(xiàn)狀，每個人都希望改變，都希望變得更好；即使不能變得更好，每個人也希望變化。人很難忍受自己的生活是一潭死水。在生活中，很多人會覺得不如意，覺得存在和期望之間有難以消除的矛盾。這種矛盾與做人的過程相伴隨，對很多人來說也是常態(tài)。進(jìn)一步而言，人不把自己的實存看作理應(yīng)如此，既是人性使然，又是伴隨人終生的“做人難”問題，每個人都要不斷挑戰(zhàn)實存的現(xiàn)狀。

人在社會中行動，人的行動構(gòu)成了社會。人既難以脫離紛亂豐富的社會，又要服從社會，并不得不承受社會的支配力。正如盧梭所言：“人是生而自由的，但卻無往不在枷鎖之中?！盵20]4個體的人是弱勢的，其人性也是弱勢的。畢竟，“人的行為不僅由這一實質(zhì)的內(nèi)部過程(即人性)來決定，而且由社會上占有支配地位的力量和標(biāo)準(zhǔn)，由來自外部的異質(zhì)壓力來決定。人被賦予的是一種復(fù)合體”[18]10。所以，人作為社會人，難以承認(rèn)現(xiàn)狀、卻要服從現(xiàn)實的“做人難”問題，會因社會壓力而加劇。

人不自愿地服從現(xiàn)實的內(nèi)在壓力，還與人的尊嚴(yán)相沖突。為了尊嚴(yán)和體面，“表面上，人類可以裝作滿意和堅強(qiáng)；但在內(nèi)心，他卻是貧困的、匱乏的、軟弱的，經(jīng)常處在苦難的邊緣，動輒遭受精神和肉體的折磨”[18]18。在負(fù)面意義上，有人甚至認(rèn)為人生就是一場悲劇?！盀榱吮簧鐣蛹{，他就要接受壓迫。這是他付出的沉重代價。人類的順應(yīng)往往包括從莫名其妙的占卜，包括良心的退讓和必要的偽善。的確，它常常是‘一種沉寂的絕望的生活’。”[18]39社會壓力加重了做人的難度，使“做人難”雪上加霜。

因此，我們需要提出的問題是，人工智能“類人”會如此嗎？如果真的如此，這一監(jiān)管的難題如何來消除呢？

總之，“做人難”是因為人難以把握情緒、難以自我認(rèn)同、難以承認(rèn)現(xiàn)狀。最為艱難的是，人不可能逃避做人的難題，“做人難”的問題只能自己解決，因為“人永遠(yuǎn)不能遠(yuǎn)離他自己的自我”[18]17。“任何人都不得不經(jīng)歷童年、青春期和成年一樣，我也必須經(jīng)歷危機(jī)、窘迫、心靈痛苦以及對這個基本問題的苦苦思索?！盵18]15從人來到這個世界開始，“做人難”就緊隨其后、無法逃脫；人必須面對、思考并解決這些難題，這就是所謂的人生之苦。也就是說，做人的難題是人自己的難題，而不是別人的難題。正如赫舍爾所指出的：“停止做人，必然會終止人的存在。人的存在和做人之間具有本體論的聯(lián)系?！盵18]19所以，無可替代的“做人難”是人必須面對的問題。如果說人生是悲劇，也是因為人沒有意識到“做人難”所導(dǎo)致的。了解了“做人難”來源于人性，就會正確看待人生之苦，也會正確看待人生。解決“做人難”問題的過程，也是賦予人類獨特的價值和意義的過程。正是這個過程成就了人，成就了人對人類世界的貢獻(xiàn)。以此類推，如果解決了人工智能“類人”的“做人難”問題，那么這就對人類未來的發(fā)展作出了巨大貢獻(xiàn)。

3 基于“做人難”的人工智能監(jiān)管難題

強(qiáng)人工智能和超強(qiáng)人工智能是具有“類人”特性的監(jiān)管對象。人工智能“類人”對人類社會的沖擊可分為兩類：一類是顯性沖擊；一類是隱性沖擊。顯性沖擊是指人工智能技術(shù)給社會帶來的直接沖擊；隱性沖擊是指人工智能“類人”的內(nèi)在沖擊給社會造成的影響。如果這些沖擊給人類生活帶來巨大的不確定性，那么人類應(yīng)該如何應(yīng)對這些沖擊呢？一般的思路是要求政府監(jiān)管人工智能的開發(fā)及運(yùn)用，借助政府的力量來引導(dǎo)、控制人工智能的發(fā)展及所引發(fā)的技術(shù)性失業(yè)與技術(shù)性不對等，在接受發(fā)展紅利的同時也要消解風(fēng)險。盡管這種監(jiān)管模式可能有些過時，但仍是正確的思路。然而，無論采用什么樣的監(jiān)管模式，都需要弄清楚監(jiān)管主體及監(jiān)管對象的特征。筆者認(rèn)為，基于人性的“做人難”來思考人工智能的監(jiān)管問題，需要關(guān)注以下三個方面的監(jiān)管難題。

3.1 源于“類人”決策能力的“統(tǒng)治性”監(jiān)管難題

人有不斷反思行為、調(diào)整行為、堅定意志、“不斷做出決定”[18]11的能力。這是人性的一部分?！叭耸侨f物的尺度”這一自然主義哲學(xué)觀隱含著人可以根據(jù)自我意志做出任何決定的意涵。當(dāng)人視自身為萬物的尺度時，這意味著對人和自然、人和人關(guān)系結(jié)構(gòu)的判斷：一是人視自身為萬物的統(tǒng)治者；二是一些人視自身為他人的統(tǒng)治者。這一哲學(xué)判斷激活了人的權(quán)力欲和占有欲，在推動人類不斷發(fā)展的同時，也破壞了自然、惡化了環(huán)境，導(dǎo)致人和自然界的對立以及人類群體間的對立。無論是對“物”的統(tǒng)治還是對人的統(tǒng)治，它們都是人的社會欲望的體現(xiàn)。人“不斷做出決定”的能力，最終發(fā)展成為人的“統(tǒng)治性”問題。

在農(nóng)業(yè)社會發(fā)展過程中，人和自然的關(guān)系逐漸對立，人的統(tǒng)治性也因此得到了極大呈現(xiàn)，形成了以身份和等級關(guān)系為支配力的統(tǒng)治結(jié)構(gòu)。在農(nóng)業(yè)社會的治權(quán)體系中，權(quán)力的“統(tǒng)治性”得到了極大的張揚(yáng)。到了工業(yè)社會，隨著科學(xué)技術(shù)和社會管理技術(shù)的發(fā)展，人對自然和社會的統(tǒng)治也在加強(qiáng)。一方面，人類開發(fā)、利用自然資源的能力逐漸增強(qiáng)，自然界成為人類滿足物質(zhì)欲望的源泉，并由此引發(fā)了嚴(yán)重的環(huán)境問題；另一方面，為提高生產(chǎn)效率，人類通過官僚制組織管理社會，以組織化力量管制社會的能力得以加強(qiáng)?？梢哉f，“統(tǒng)治性”彌漫于農(nóng)業(yè)社會和工業(yè)社會。盡管現(xiàn)代國家中的形式民主也在逐步發(fā)展，但在技術(shù)、經(jīng)濟(jì)、社會領(lǐng)域中各種形式的“統(tǒng)治”仍不同程度地存在。在后工業(yè)社會，人的“統(tǒng)治性”繼續(xù)擴(kuò)張，更是達(dá)到了要改變?nèi)说纳眢w結(jié)構(gòu)來獲得更強(qiáng)能力的程度。

在農(nóng)業(yè)社會和工業(yè)社會，宗教文化中的上帝創(chuàng)造并統(tǒng)治著自然界和人類；后工業(yè)社會的技術(shù)精英也希望成為如同有上帝威力的個體，逾越“上帝之手”，制造出“更完美的人”。這個目標(biāo)需要通過充滿刺激也充滿風(fēng)險的兩個技術(shù)來實現(xiàn)：一是利用“基因工程”來改造人，即通過基因修飾、修復(fù)和修剪，來彌補(bǔ)上帝造人的不足，以增強(qiáng)、完善人的不完美之軀，增強(qiáng)人的各種能力；二是通過人工智能技術(shù)來制造“類人”。當(dāng)人類通過人工智能技術(shù)比擬上帝“造人”時，其深層動機(jī)是展示“智慧”，因為人工智能是人類引以為傲的科技。當(dāng)人類利用人類基因工程比擬上帝“造人”時，其深層動機(jī)是突破“有限性”，在內(nèi)心隱含著人類想徹底自由的宣示。無論選擇哪種途徑，都是“萬物之靈”理念下人的“統(tǒng)治性”的外顯。

由此，人類社會就邁入了福山所說的“后人類”階段。人類“造人”和制造“類人”的初衷除了為解決人本身的問題外，還為了解決社會問題；但是，這些充滿“統(tǒng)治性”的欲望會帶來難以克服的悲劇后果。在過去，戰(zhàn)爭和侵略就是人“統(tǒng)治性”的極端體現(xiàn)，這些行為對人類社會的危害極大，且至今難以控制。今天，如果不對不合倫理和法律要求的“造人”工程加以有效監(jiān)管，就可能危害人類自身。同樣地，我們可以為人工智能“類人”比人更聰明、更能干、更有改造社會的力量，可以解決人類社會更多領(lǐng)域的問題而欣慰，但與此同時，也不能忽視由于“統(tǒng)治性”的作用，“類人”給人類社會帶來巨大的負(fù)面影響。

由于“統(tǒng)治性”來源于人性，人工智能技術(shù)的發(fā)展不可避免地會造成社會發(fā)展的不均衡，引起人們對于機(jī)器是否可控的擔(dān)憂[21]。如果人工智能“類人”后有了不斷做出決策的自主能力，人工智能監(jiān)管者就面對了一個全新的監(jiān)管主體。在“后人類”階段，“類人”的“統(tǒng)治性”難題表現(xiàn)在以下三個方面。

其一，“類人”對人類的統(tǒng)治壓力?！邦惾恕笨赡軙蚱迫耸侨f物之靈的“統(tǒng)治性”界限，因為它們具有“類人性”，比人類更聰明，而且能自主決策，最終會形成統(tǒng)治人的壓力。其二，“類人”的失控。當(dāng)人工智能邁過技術(shù)“奇點”后(2)奇點(singularity)就是指機(jī)器智能超過人類智能的那一刻，或者說智能爆炸、人工智能超越初始制造它的主人的智能的那一刻。詳見：何懷宏.奇點臨近：福音還是噩耗——人工智能可能帶來的最大挑戰(zhàn)[J].探索與爭鳴，2018(11)：50-59.，可能會突破設(shè)計者預(yù)設(shè)的臨界點，走向“失控”。那時，“這些智能機(jī)器人可以制造出比自身智能水平更高的機(jī)器，然后這些更智能的機(jī)器還能繼續(xù)制造出更加智能的機(jī)器，依此類推”[21]55。這里的“失控”包括“類人”的情緒失控、認(rèn)同失控、價值失控等。其三，“新世界”的沖擊。人工智能時代將形成一個“新世界”。這個“新世界”中既包含人和“類人”的關(guān)系，還包含“類人”和“類人”的關(guān)系。從而，這個“新世界”里就形成了新的統(tǒng)治關(guān)系，即“類人”對“類人”的統(tǒng)治和“類人”對人的統(tǒng)治。后者意味著“將人類關(guān)進(jìn)動物園”，甚至判定人類“不完美”“沒有用”，從而輕視人類，漫不經(jīng)心地滅絕人類[7]。

盡管，這些是比較極端的假設(shè)，卻是人工智能發(fā)展過程中最應(yīng)擔(dān)心的問題。因為“類人”的統(tǒng)治性問題來源于人性。如果不思考基于人性來監(jiān)管人工智能，很難說不會產(chǎn)生人類被滅絕的嚴(yán)重后果。

3.2 源于“類人”自主性認(rèn)同的“沖突性”監(jiān)管難題

人是能力有限的自主性動物。在自然界，如果沒有外力作用，植物是靜止的，所以人能意識到和植物相處是安全的。由于人類在法律中將自然界的災(zāi)害性力量定義為“不可抗力”，人類也承認(rèn)了對抗這類風(fēng)險的能力有限，所以能在一定程度上接受地震、洪水、颶風(fēng)、火山爆發(fā)等不可抗力帶來的災(zāi)害。但是，人類卻懼怕動物的自主性，除了被馴化的動物外，人通常將自身與其他動物相隔離，也在盡力躲避、防御兇猛動物自主性運(yùn)動所帶來的危害。此外，工業(yè)社會的非智能機(jī)械是物，只是由人控制的有動力之物。出于人對控制物的自信，人工智能時代以前的倫理法律制度，亦無需考慮“類人”的自主性難題。

然而，人工智能“類人”不但是自動化的，而且具有自主性，這就可能會帶來一些危害。例如，無人駕駛技術(shù)在緩解人的駕駛壓力、縮短通勤時間、找車位更方便的同時，也帶來了很多沖擊：一是高速公路必須電子化；二是需要修改交通政策和交通事故處理規(guī)則；三是引發(fā)隱私權(quán)問題；四是一旦遇到交通事故，無人駕駛體系要依照倫理規(guī)范處理，其自主性決策需要價值體系的支持。本質(zhì)上，無人駕駛的發(fā)展不僅僅是技術(shù)問題，更是重要的社會問題和倫理問題。因為“自動駕駛汽車將會挑戰(zhàn)我們的價值觀和可靠性，并把駕駛從直覺轉(zhuǎn)化到單純依靠數(shù)據(jù)和邏輯”[22]295。如果人工智能“類人”在金融領(lǐng)域、生產(chǎn)領(lǐng)域、娛樂、翻譯、醫(yī)療領(lǐng)域產(chǎn)生結(jié)構(gòu)性影響，就會看到，它們不僅對這些領(lǐng)域的就業(yè)造成巨大壓力，而且會影響、沖擊甚至?xí)氐状騺y這些行業(yè)的生產(chǎn)結(jié)構(gòu)、組織結(jié)構(gòu)、行為模式和思維觀念等，更為重要的是，“類人”在這些領(lǐng)域的參與將對現(xiàn)有的生產(chǎn)、生活乃至社會秩序產(chǎn)生巨大沖擊。

人的認(rèn)同難題產(chǎn)生于我們的自主意識和我們的期望之間的沖突和矛盾，即人是什么與人應(yīng)當(dāng)是什么之間的矛盾和沖突[18]3。當(dāng)人工智能被賦予自主判斷能力時，“類人”的出現(xiàn)給社會帶來了源于人性的價值認(rèn)同難題，這些難題存在于三個層面：一是“類人”自身的認(rèn)同難題；二是人對“類人”的認(rèn)同難題；三是“類人”對人的認(rèn)同難題。所以，人與“類人”的關(guān)系，既不是主體與客體之間的關(guān)系，也不是主體之間的關(guān)系，而是一種主體與類主體之間的關(guān)系[23]。在這種復(fù)雜的認(rèn)同關(guān)系中，人工智能“類人”的價值和期望之間的矛盾與沖突就會更加凸顯出來。這樣一來，人工智能融入的相應(yīng)領(lǐng)域就可能帶來“革命”。這類“革命”既可能是建設(shè)性的，也可能是破壞性的，最終都將重構(gòu)人類既有的生活。

3.3 源于“類人”情感與意義追尋的“重疊性”監(jiān)管難題

情感是人成為人不可缺少的生存體驗。情感使人感覺到溫暖、留戀、羨慕和愛，也會使人感覺到憐憫、痛恨、嫉妒、冷酷。人的情感體驗是人生存的基礎(chǔ)。它對人的思考、人的社會化、人的行動、人的生存和發(fā)展都具有極大價值。如果沒有情感，人就成了機(jī)器，成了“物”。人的情感差異、世界觀差異與社會的復(fù)雜性密切相關(guān)。

人的情感與情緒會不穩(wěn)定、個性化、甚至雜亂無章。情緒的難以控制是“做人難”的重要體現(xiàn)。無論是自我反思、自我理解還是認(rèn)同理想和現(xiàn)實，人都會形成難以控制的情緒或者情感。在現(xiàn)實生活中，積極的情緒讓人心曠神怡、躊躇滿志，成為正面的力量；消極的情緒卻使人頹廢無力、缺乏勇氣，甚至感覺難以容身，成為負(fù)面的力量。由于人很難把握和控制自我的情緒，并以此和“他者”和諧相處，就有了精神痛苦。

赫舍爾指出：“人本身就是并且先是一個難題，成為人就是成為一個難題，這個難題表現(xiàn)在苦惱，表現(xiàn)在人類精神痛苦中?！盵18]3從人與社會發(fā)展關(guān)系的角度分析，我們可以看到情感和欲望兩方面的難題。一方面，如果個體的情緒與物質(zhì)欲望、精神欲望和創(chuàng)造欲望結(jié)合起來，就會成為推動社會發(fā)展的復(fù)雜力量；另一方面，社會生活及其組織化活動又能激活人的情緒和欲望。此外，被激起、被組織起來的情緒和欲望力量可以是善良正義的，也可能變成邪惡非正義的，可以成為社會發(fā)展的基礎(chǔ)，也可能涌起社會沖突的巨浪。

在社會發(fā)展過程中，一些組織引導(dǎo)、使用這些力量來推動社會發(fā)展，也有一些組織煽動社會情緒力量來引發(fā)社會混亂。蘇格拉底指出的“意見世界”(3)趙汀陽指出：“精神世界同樣存在著一個從無序混亂到有序世界的問題，這是精神世界的政治問題。具體而言，意見世界必定是個政治世界，而且是政治世界的根本所在。”“蘇格拉底轉(zhuǎn)向確立了意見世界的對話/爭論結(jié)構(gòu)，這一對話結(jié)構(gòu)定義了意見世界的政治性質(zhì)?！痹斠姡黑w汀陽.城邦、民眾和廣場[J].世界哲學(xué)，2007(2)：64-75.就是人的情感、判斷和社會事件結(jié)合的產(chǎn)物。一直以來，人類社會中的“意見世界”就是混合的、混雜的，除了通過民主的方式達(dá)成“多數(shù)決”認(rèn)同外，最需要通過公共對話的方式，才能找到共同價值，達(dá)成社會共識。然而，公共對話依然非常艱難。

從人工智能的發(fā)展來看，情感作為一種高級的信息處理機(jī)制，在大腦的學(xué)習(xí)和決策中的作用不容忽視，是智能不可分割的組成部分[24]161，所以，情感是人工智能技術(shù)所追求的，也是真正完善的“類人”所不可缺少的。筆者認(rèn)為，人工智能通過科技力量為人類社會增加另一個情感之物——“類人”。在人工智能時代，人類必須嚴(yán)肅考慮的問題是：如果人工智能“類人”有了情感，就有了“類人性”，就會從生存意義上追尋問題，包括對自身意義的追尋和對“他者”意義的追尋。這樣一來，它就成了另一個與人一樣的意義追尋者和價值尋找者?？梢韵胂?，基于情感和意義追尋的人和“類人”之間，無論是促成合作還是消除競爭，都是復(fù)雜而全新的問題。

在人工智能時代，政府不僅需要協(xié)調(diào)現(xiàn)有的社會關(guān)系，還需要協(xié)調(diào)“類人”出現(xiàn)后形成的新社會關(guān)系，人類社會因此增加了新的協(xié)調(diào)維度。但問題不會如此簡單，因為除了“類人”的關(guān)系需要協(xié)調(diào)外，人和“類人”之間的關(guān)系也需要協(xié)調(diào)。如果“類人”的“統(tǒng)治性”與人的“統(tǒng)治性”相沖突，人工智能時代的社會協(xié)調(diào)就會呈現(xiàn)出“重疊性”。這種“重疊性”內(nèi)含著人和“類人”之間的復(fù)雜沖突。也許，這種“重疊性”還可以造就人和“類人”更友好的合作。在這個過程中，有情感的“類人”會形成新的“類人”生產(chǎn)關(guān)系。這種新的生產(chǎn)關(guān)系會與既有的生產(chǎn)關(guān)系相互作用，帶來人工智能時代社會結(jié)構(gòu)的重塑。這樣一來，人類社會就變成了一個復(fù)雜的“人機(jī)社會”。在這個社會中，“人的難題”“類人難題”和“人機(jī)難題”將會相互疊加，形成“重疊性”的監(jiān)管難題。

4 結(jié)語

人工智能打開了人類的幸福之門，也可能打開了人機(jī)新世界中的“潘多拉魔盒”。當(dāng)人工智能“類人”的能力超過能力有限的人類時，人類將因此感到壓力；“類人”的社會化和組織化可能引發(fā)人類對“類人”的“新仇恨”，將沖擊和調(diào)整已有的社會結(jié)構(gòu)，甚至引發(fā)社會失序。理論上而言，只有從人出發(fā)來思考“類人”，從人性出發(fā)來思考“類人”的發(fā)展，才能更合理地建構(gòu)人和“類人”的良好關(guān)系，才能充分認(rèn)識人工智能的監(jiān)管問題。人性是認(rèn)識人工智能的基礎(chǔ)，離開基于人性的“做人難”來思考人工智能監(jiān)管，在短期內(nèi)可能奏效，但長期看來將存在嚴(yán)重風(fēng)險。

歸根結(jié)底，在人工智能發(fā)展過程中，我們需要認(rèn)真思考的基礎(chǔ)性問題是：人和人工智能的關(guān)系是什么？是“工具”還是“伙伴”？人和“類人”的社會關(guān)系是控制關(guān)系、競爭關(guān)系還是合作關(guān)系？如何通過有效的監(jiān)管來處理好這些關(guān)系？赫舍爾說：“人具有高度的接受性、服從性和輕信性。他永遠(yuǎn)不會被完成，永遠(yuǎn)不是不可改變的?！盵18]13筆者認(rèn)為，人的發(fā)展和“類人”的發(fā)展應(yīng)該是同向的。隨著人類對人性認(rèn)識的深入，人類將加深對“類人”的發(fā)展方向、功能、危害、潛力和社會影響力度的認(rèn)識。需要注意的是，人工智能發(fā)展不僅需要法律來規(guī)制，還需要技術(shù)倫理、制度倫理和治理倫理來約束和引導(dǎo)。