朱自強(qiáng)

（上海大學(xué)社會科學(xué)學(xué)部，上海 200444）

20 世紀(jì)60 年代，馬文·明斯基和麥卡錫提出“人工智能”的概念，人工智能誕生以來，由于計算機(jī)運算速度及智能系統(tǒng)等因素的局限，其發(fā)展經(jīng)歷了兩起兩落，時至今日，人工智能已備受人類的關(guān)注和青睞，也經(jīng)歷了前所未有的快速發(fā)展。IBM 公司和谷歌公司開發(fā)的“深藍(lán)”和AlphaGo 已經(jīng)在象棋和圍棋領(lǐng)域戰(zhàn)勝了人類，占領(lǐng)了人類思維活動的高地。不但如此，人工智能未來還會進(jìn)一步影響人類的就業(yè)、生產(chǎn)、甚至是社會關(guān)系等各個方面。因而，人們不免會擔(dān)憂，人工智能是否會擁有自我意識，就像許多智能機(jī)器人的電影中所呈現(xiàn)的那樣，在未來取代人類取得統(tǒng)治地位？

1 人工智能的智能

江怡教授認(rèn)為，人工智能和自我意識是兩個不同的概念，一個是人類智慧的結(jié)晶，一個是人類本能的活動，人工智能產(chǎn)品的智能化程度，并不意味著其具有自我意識[1]。然而，當(dāng)智能機(jī)器能夠像人一樣的思考，甚至和人類的智力相PK 的時候，人們自然會想到機(jī)器的意識問題以及可能會帶來的威脅。這也說明，人工智能雖然和自我意識是兩個不同的概念，但它們之間的區(qū)別并不意味著二者之間不會有聯(lián)系。所以，本文將從智能和自我意識兩個方面展開討論。

根據(jù)現(xiàn)代漢語詞典的定義，智能是智慧和能力的意思[2]。搜狗百科提供的定義是，知識與智力的總和，智力主要是先天決定的，知識主要來自后天的學(xué)習(xí)。本文將從感覺、思維、反思三個方面考察AI 的智能，感覺和思維主要是先天的，反思涉及自我學(xué)習(xí)和知識的累積。

機(jī)器人會有感覺嗎？感覺在通常的意義上來說，包括五大感知：視覺，聽覺，觸覺，味覺，嗅覺。這個不難做到，大部分仿人的機(jī)器人都具有視覺、聽覺和觸覺，至于味覺和嗅覺機(jī)器人當(dāng)然可以擁有，這個主要由機(jī)器人的功能決定的。而且，有些功能部分機(jī)器人并不需要擁有，譬如說味覺，因為機(jī)器人并不需要像人類一樣進(jìn)食。

機(jī)器人有思維能力嗎？思維的嚴(yán)格定義很復(fù)雜，所以本文只能從一些主要方面來闡述。思維活動包括、分析與綜合、比較與分類、抽象和概括等。分析是把問題分解成若干個小的部分，然后逐個解決。綜合是把各個小部分整合在一起，以整體的思路來解決問題，二者是相反的過程。關(guān)于這個問題的答案是肯定的。因為目前的機(jī)器人已經(jīng)初步可以根據(jù)不同的場景與人進(jìn)行合適的交流，而交流的過程中對對方句子的分析必定包括分解句子成分的過程，而回答對方的問題則需要對詞語進(jìn)行組合。在龍泉寺十周年國慶普茶晚會上，賢二機(jī)器僧對小姑娘的問題的回答已經(jīng)初步的說明了這一點。不過，目前機(jī)器人的分析與綜合的能力還是相當(dāng)有限的，處于初步發(fā)展階段。賢二機(jī)器僧在對小姑娘的問題進(jìn)行回答的時候必定會在不同的詞語中進(jìn)行比較和分類，然后從其中挑出合適的詞語形成句子。機(jī)器人具有抽象的能力這是毫無疑問的，而將本質(zhì)特征綜合起來對于具有強(qiáng)大記憶的智能機(jī)器來說也是沒有問題的。

機(jī)器人會進(jìn)行反思嗎？反思不是對現(xiàn)實事物的簡單思考，而是對思維本身的考察，就如笛卡爾的“我思”。動物是不會進(jìn)行反思的，因為動物只懂得滿足目前的，現(xiàn)實的需要，并不能將需要擴(kuò)展至一般，對概念或指稱進(jìn)行思考。普雷麥克和伍德拉夫曾經(jīng)對黑猩猩的欺騙行為進(jìn)行研究，結(jié)果表明，黑猩猩只是試圖影響其他黑猩猩的所做所為，它并不企圖影響其他黑猩猩相信什么。恩格斯曾明確指出：“動物僅僅利用外部自然界，簡單的通過自身的存在在自然界中引起變化；而人則通過他所作出的改變使自然界為自己的目的服務(wù)，來支配自然界[3]?！比怂斐龅臋C(jī)器人可以對概念進(jìn)行分析是毫無疑問的，因為它本身就是由抽象的概念及運算符號組成的。只是它能否對自己“頭腦中產(chǎn)生的知識”進(jìn)行思考，這就涉及到很吸引人的一個研究方向，就是AI 是否可以通過對自己“頭腦中”產(chǎn)生的代碼進(jìn)行分析，而自主研制出更加先進(jìn)的AI 產(chǎn)品來？這個需要時間來說明。不過，谷歌公司的AlphaGo Zero，可以從圍棋小白的水平，在三天之內(nèi)進(jìn)行無數(shù)次的自我博弈，而不需要借助任何人類的經(jīng)驗，進(jìn)行自我提高，從而達(dá)到世界第一的水平，打敗上一代的AlphaGo。這說明了AlphaGo Zero 通過深度學(xué)習(xí)，可以反思，評估進(jìn)而改進(jìn)以前的行棋方式與方法，提高自身的水平。

綜上所述，人工智能基本具有感覺、思維、反思的能力，至于自我意識，是下面著重要討論的，將分別從心理學(xué)層面和哲學(xué)層面對人工智能的自我意識問題進(jìn)行考察。

2 心理學(xué)層面的自我意識

從心理學(xué)層面來說，自我意識是個體對自身身心活動的覺察，就是人對自身的認(rèn)識，包括認(rèn)識自己的生理特征，心理特征，自己與社會的關(guān)系。自我意識主要包括三種成分：自我認(rèn)識，自我體驗，自我監(jiān)控。

AI 能意識到自我之外還有其他的客體對象嗎？答案是否定的。反駁者可能會說，在機(jī)器人的程序里加上一段代碼，時刻提醒它“自我區(qū)別于別物”，并在自己的身體受到傷害的時候保護(hù)自己。但是，這看起來簡單，但是不一定好實現(xiàn)，越是看起來容易的事，越難辦。況且，能保護(hù)自己，并不等同于能“意識到自己”，即使能夠成功的輸入這段代碼，但是“自我”是什么，它卻不能理解。就像猴子一樣，可能在危險的時候用爪子攻擊“別物”，卻不能意識到“自我”的存在。它也可以在需要的時候抓耳撓腮，雖然抓的是自己的耳朵和腮幫，并不是別的猴子的，但卻并無“自我意識”。

AI 產(chǎn)品會自然地害羞或恐懼嗎？

在電影《我，機(jī)器人》中，一個名叫桑尼的五代機(jī)器人，好奇自己的存在，像人一樣的發(fā)問“Who am I ?”桑尼會睡覺，會做夢，在一場殺人案的審訊中會生氣。筆者認(rèn)為，這是不可能的。反對者可能會說，目前的AI 產(chǎn)品面部的類肌肉群那么發(fā)達(dá)，一點表情都做不出來嗎？然而，能呆板地做出一些表情和自然而然流露出來的真情實感并不相同。具體說，害羞是別物的作用使自己感到不自然而表現(xiàn)出來的狀態(tài)，然而AI 意識不到自己的存在也就談不上害羞了?？謶质莿e物或別物的攻擊對自身的刺激而造成的生理反應(yīng)，同樣，AI 意識不到“自己”，也就談不上恐慌了?？赡芊瘩g者還會說，目前機(jī)器在與人打招呼時，會微笑，但是訓(xùn)練過的猴子也能做到這一點，并且做得可能比機(jī)器人更真實、更自然。

AI 會監(jiān)控自己的行為和言語嗎？

AI 產(chǎn)品不懂得“自己”，因此監(jiān)控對象是缺席的。同樣的，AI 產(chǎn)品可以在程序里編制“不要說臟話”“不要扔?xùn)|西”這類的命令語句，然后把臟話的內(nèi)容編到程序里，禁止它說這些，從形式上似乎是能做到。然而，人若是做了過分的事，會從里面就有責(zé)備的感覺（譬如說第一次偷竊），這來自人的良心。然而，AI 是按照指令來行使，并不知道其中的意義，即使有一天代碼出錯，做了違反指令的事，也不會有自我的責(zé)備或處罰。

因此，在心理學(xué)的層面上，智能機(jī)器不具有自我意識。

3 哲學(xué)層面的自我意識

從哲學(xué)層面來說，自我意識是個體覺察到自身的存在，并且在自身之外，有事物與自身相對立。主客關(guān)系的第一個小階段人類開始有自我意識，能區(qū)分自我和對象，意識到自我之外還有物與我對立。例如人吃食物時就能意識到食物在自己之外與自己對立[4]。

江怡教授認(rèn)為，哲學(xué)家關(guān)于意識的討論，基本上是關(guān)于三個方面的：描述性問題，解釋性問題，功能性問題。而這三個方面的提問和探討是屬于語義上行的范疇?！罢Z義上行”的方法，是蒯因提出的哲學(xué)研究的基本方法，在進(jìn)行問題討論時，不是要先分析對象，而是要先分析對象所對應(yīng)的表達(dá)式，通過對概念，表達(dá)式的邏輯澄清，來確定其用法。江怡教授質(zhì)疑這種研究方法，認(rèn)為哲學(xué)的研究變成了對世界所對應(yīng)的語言的研究，而不是研究世界本身。對人工智能和自我意識問題的研究，應(yīng)當(dāng)以“語義下行”的方式來進(jìn)行。所謂“語義下行”，反其道而行，就是從對對象所對應(yīng)的表達(dá)式的強(qiáng)調(diào)，轉(zhuǎn)到強(qiáng)調(diào)世界對象的本身[1]。判斷人工智能產(chǎn)品是否具有自我意識，需要關(guān)注人工智能產(chǎn)品的發(fā)展，而不僅僅是從概念上分析算法的產(chǎn)品具有意識的可能性。

3.1 “我之形而上學(xué)”的問題

關(guān)于自我意識的起源，本質(zhì)和未來，蔡恒進(jìn)教授在他的《我之形而上學(xué)：我之何來，我之何在，我之何往》一文中，作了細(xì)致的論述。雖然他的觀點很新穎，論述也很精彩，但很多地方卻有待商榷。

自我意識是怎樣起源的？蔡恒進(jìn)教授提出了自己的假說：觸覺大腦假說。他認(rèn)為，在人類漫長的歷史里，由于基因突變導(dǎo)致人的毛發(fā)減少，皮膚敏感，由此獲得了敏感的觸覺，而敏感的觸覺將自我和外在的世界區(qū)分了出來。他在自然界找了許多例證：單細(xì)胞生物依靠細(xì)胞膜來趨利避害，攝取所需的營養(yǎng)，同時避開有害的東西；剛出生的小烏鴉羽毛稀少，觸覺敏感，相比剛出生就滿身羽毛的小雞更加聰明[5]。

蔡教授的理論的確打開了一個新的視角，值得專家學(xué)者繼續(xù)深入的研究，進(jìn)一步的完善。然而，就目前的理論本身而言，還存在些漏洞或者是不太明確的地方。比如：單細(xì)胞生物通過細(xì)胞膜與環(huán)境接觸來趨利避害，但接觸并不意味著觸覺，也可能是味覺或者嗅覺，因為這兩種感覺也是通過與物質(zhì)分子的接觸來收集信息的；即使單細(xì)胞生物的感覺是觸覺，那假若其全身都是眼睛，或者是耳朵，通過視覺或聽覺來趨利避害，那么是否可以說聽覺或者視覺是人類智能的來源呢？

自我意識是什么？為了說明自己的觀點，蔡教授首先對忒修斯悖論提出自己的看法。他認(rèn)為，只要船的功能沒有變，材料完全被換過一遍的船就還是原來的船。人身體的細(xì)胞，20 年全部換過一次，但“我”還是原來的“我”。其次，人的意識片段可以擴(kuò)散給動物、植物甚至機(jī)器。人按照自己的意愿改造動植物，如植物嫁接、轉(zhuǎn)基因、導(dǎo)盲狗等。人甚至可以按照需求制造機(jī)器，將自身意識的片段擴(kuò)散給機(jī)器，規(guī)定機(jī)器的功能，來完成特定的工作。

最后，順理成章的得出結(jié)論，結(jié)構(gòu)就是物質(zhì)，功能就是意識，物質(zhì)和意識的關(guān)系，就是結(jié)構(gòu)和功能的關(guān)系。

忒修斯悖論一直以來都有爭議。筆者認(rèn)為，若是用鐵板來替換船上的木板的話，這艘船就不再是原來的船了（假設(shè)船足夠的大，且鐵船仍然可以在水上航行）。雖然功能沒變，結(jié)構(gòu)沒變，但構(gòu)成船的元素變了，鐵船不再是原來的木船。至于人體的細(xì)胞，因為構(gòu)成細(xì)胞的元素沒有變化，并且人的記憶（自我意識）是連續(xù)的，因此“我”還是“我”。但如果人的記憶（自我意識）因故中斷的話，那么此人不再會認(rèn)為“我”還是“我”了。如果人按照自身的意愿制造機(jī)器，或者改造動植物可以算作意識片段的擴(kuò)散的話，并且它們擁有了意識片段的話，那么豈不是可以說動植物擁有自我意識了？

蔡教授認(rèn)為，意識片段（認(rèn)知坎陷）源自認(rèn)知主體，并且意識片段可以擴(kuò)散給其他的認(rèn)知主體。舉例說明，人可以通過閱讀他人的著作，得到他人的意識片段。并且，認(rèn)知膜的契合度越高，擴(kuò)散就越容易，所以電影，書籍等為人廣泛接納。

自我意識通常的意義是，個體覺察到自身的存在，并且自身區(qū)別于外部的世界。按照蔡教授此處關(guān)于自我意識的用法，似乎更像是意圖或者思維。大多數(shù)情況下，意圖是借著思維來傳達(dá)的，意圖并不直接被傳達(dá)。如書籍，人們總是通過它的思想來判斷人物的意圖，價值取向。對于機(jī)器來說，更是這樣。程序員不是直接將自己實現(xiàn)某種功能（如下圍棋，駕駛汽車等）的意圖輸入機(jī)器，而是輸入反映程序員思維的指令，來控制其行動。所以，蔡教授所謂的自我意識的擴(kuò)散，其實是思維的擴(kuò)散。然而，思維不是自我意識。江怡教授認(rèn)為，理智和自我意識是兩個不同的東西。人工智能產(chǎn)品反映了人類的理智，然而意識是本能活動，是不需要理智的參與就可以自發(fā)運作的，不能將理智和意識相等同，人工智能產(chǎn)品的智能（推理，思維等），并不能成為其是否具有意識的判斷標(biāo)準(zhǔn)。蔡教授的觀點——人工智能產(chǎn)品可以具有意識，是建立在程序員的意識可以擴(kuò)散到機(jī)器內(nèi)部的，既然自我意識無法擴(kuò)散到機(jī)器內(nèi)部，那么他的觀點就不能成立。

3.2 人工智能的主體性

孫偉平教授認(rèn)為主體是與客體相對的概念，主體是主動的，客體是被動的。討論人工智能是否具有主體性①，可以參照人的主體性進(jìn)行分析考察。這是自然的：人們?nèi)粝雽σ粋€未知的事物進(jìn)行認(rèn)識，總是從已知的事物及其性質(zhì)、規(guī)律出發(fā)，來推理、分析未知事物的性質(zhì)。孫教授主要從三個方面來論證人工智能不具有主體性：存在論、認(rèn)識論、價值論。

從存在論角度看，具有主體性意味著能夠廣泛的從事各樣的生產(chǎn)活動。馬克思指出，“動物只是按照它所屬的那個種的尺度和需要來構(gòu)造，而人卻懂得按照任何一個種的尺度來進(jìn)行生產(chǎn)，并且懂得處處都把固有的尺度運用于對象?！比斯ぶ悄艿墓δ芑顒邮怯沙绦驔Q定的，而既然輸入的程序的數(shù)量是有限的，那么就不可能“按照任何一個種的尺寸來生產(chǎn)”。但是，人卻可以通過后天的學(xué)習(xí)，從事各樣的生產(chǎn)活動[6]。

通過塞爾的中文屋對圖靈測試的反駁，在認(rèn)識論的范疇進(jìn)行論證。簡單地說，圖靈測試就是詢問者分別問人工智能問題和人問題，若是人工智能產(chǎn)品的回答和人的回答幾乎分不出來，那么就認(rèn)為該人工智能具有心理狀態(tài)。塞爾認(rèn)為，句法不是語義的結(jié)構(gòu)性成分，也不是它的充分條件。人工智能產(chǎn)品被導(dǎo)入許多的代碼，而這些代碼幫助其回答詢問者的問題，但是它本身卻無法理解問題和回答的語義本身，因此也就不具有心靈狀態(tài)（心靈能夠理解）。有些專家提出反對意見，認(rèn)為人工智能除了包含句法外，還有電子因果系統(tǒng)。孫教授為塞爾提出辯護(hù)：語義和辯護(hù)的邏輯相關(guān)，而因果關(guān)系屬于經(jīng)驗性的描述，二者屬于不同的層次，不能混淆，因此人工智能的電子因果系統(tǒng)不能為它的不具有心靈狀態(tài)提供任何的辯護(hù)。

從價值論的角度看，具有主體性，意味著能夠推理反思，以及自由的決策和行動。人工智能產(chǎn)品能夠進(jìn)行推理，甚至反思，譬如AlphaGo Zero 可以通過深度學(xué)習(xí)，不用導(dǎo)入棋譜，而在短時間內(nèi)飛速的提高圍棋水平，以至于打敗世界圍棋冠軍。這證明了其能夠推理下棋的規(guī)律，反思自己下棋的經(jīng)驗，提高自身。真正的自由的決策和行動，指的是可以突破特定的目的甚至自身的限制，在所有可能出現(xiàn)的情況中進(jìn)行選擇。無人駕駛汽車只能在選擇路線以及駕駛方式上是自由的，而無法突破這個目的，故此不能算是真正的自由。假若人工智能可以自己編程，創(chuàng)造新的人工智能產(chǎn)品，那新的產(chǎn)品將受限于初代人工智能，因而仍不是完全自由的。

因此，孫教授認(rèn)為，人工智能在存在論，認(rèn)識論，價值論意義上，均不滿足主體性的要求，因此不具有主體性。即使具有所謂的主體性，也是人為強(qiáng)加的。

江怡教授認(rèn)為智能并不意味著意識，孫偉平教授從人的主體性出發(fā)，得出智能機(jī)器不具有類似人的主體性的主體性，即使擁有，也只是人強(qiáng)行加給的，并不名至實歸。因此，在哲學(xué)層面上，智能機(jī)器不具有類似人類意識的自我意識。

4 結(jié)語

在智能發(fā)面，智能機(jī)器在很多領(lǐng)域已經(jīng)超越了人類，甚至是遙遙領(lǐng)先。人工智能的感官比人類的更加敏銳，智能機(jī)器計算能力，記憶能力毫無疑問已經(jīng)遠(yuǎn)遠(yuǎn)的把人類甩在了后面。谷歌公司的AlphaGo 戰(zhàn)勝世界圍棋冠軍，表明其推理和決策力也超過了人類。然而，這并不意味著，人工智能本身會在將來成為地球的統(tǒng)治者，因為其不具有自我意識或主體性。智能機(jī)器的智能，依靠的是程序員輸入的復(fù)雜的代碼，反映的是人類的智慧。智能機(jī)器的智能化并不意味其具有自我意識，二者是不同的概念，智能也不是自我意識產(chǎn)生的充分條件。智能機(jī)器不具有心理學(xué)意義上的自我意識，也就是沒有類似人的心理活動，如自我認(rèn)識，自我體驗等；也不具有哲學(xué)意義上的自我意識，人的意識不能擴(kuò)散到機(jī)器內(nèi)部，也不能因為其內(nèi)部結(jié)構(gòu)而自己產(chǎn)生自我意識，并且，不能擁有類似人類主體性的主體性，進(jìn)而統(tǒng)治人類。

注釋

①雖然主體性與自我意識是兩個不同的概念，一個說的是主體與客體相區(qū)別，主體對客體進(jìn)行認(rèn)識，改造等，另一個說的是，意識到自我的存在，且自我區(qū)別于外物。但在對人工智能的是否具有自我意識的討論中，二者的基本內(nèi)涵是一致的，可以說，若是人工智能具有主體性，那么就可認(rèn)為其具有自我意識，反之亦然。