魏屹東

關(guān)鍵詞人工智能 莫拉維克悖論 具身人工智能 類(lèi)人智能

人工智能的發(fā)展使我們無(wú)法回避這樣一個(gè)問(wèn)題，即人類(lèi)是否能夠創(chuàng)造出像自身一樣有身體意識(shí)的機(jī)器人或具身人工智能系統(tǒng)。這里的“身體”是生物意義上的，不是形態(tài)意義上的如人形機(jī)器人，也不是人機(jī)交互意義上的，而是人機(jī)集成或整合意義上的。也就是說(shuō)，具身機(jī)器人既不是我們?nèi)祟?lèi)，也不是人工智能體，而是二者的合體，就像科幻中的類(lèi)人機(jī)器人，我們從外表上和行為表現(xiàn)上區(qū)分不出是人類(lèi)還是類(lèi)人。進(jìn)一步說(shuō)，這種類(lèi)人機(jī)器人擁有像人一樣的感受、意識(shí)、智能和情感，甚至擁有道德感和人格。這是強(qiáng)人工智能倡導(dǎo)者雄心勃勃的目標(biāo)，“奇點(diǎn)論”①支持者認(rèn)為這是不遠(yuǎn)的將來(lái)可實(shí)現(xiàn)的理想，即產(chǎn)生超人的智能。作為一種科學(xué)技術(shù)目標(biāo)去追求，這本身并無(wú)不妥，就像人類(lèi)要去探月、探火星。然而，要實(shí)現(xiàn)這個(gè)“野心”，人們必然會(huì)問(wèn)：制造類(lèi)人機(jī)器人在理論和技術(shù)上是否可能，莫拉維克悖論可以在技術(shù)上得以消除嗎？如果可能，類(lèi)人機(jī)器人實(shí)現(xiàn)的機(jī)制是什么？假如實(shí)現(xiàn)了，這種機(jī)器人有何優(yōu)勢(shì)，會(huì)帶來(lái)何種后果？創(chuàng)造這種類(lèi)人智能真的有必要嗎？在探討并回答這些問(wèn)題前，我們先回顧1979年美國(guó)數(shù)學(xué)家和哲學(xué)家侯世達(dá)對(duì)人工智能發(fā)展可能產(chǎn)生的問(wèn)題及其預(yù)測(cè)。

一、侯世達(dá)對(duì)人工智能的預(yù)測(cè)

侯世達(dá)在其名著《哥德?tīng)?、艾舍爾、巴赫———集異壁之大成》中曾?jīng)對(duì)人工智能的發(fā)展提出十個(gè)具有預(yù)見(jiàn)性的重要問(wèn)題，并對(duì)其做出部分回答和推測(cè)。②在這十個(gè)問(wèn)題中，有些現(xiàn)在看來(lái)不成問(wèn)題，有些問(wèn)題的推測(cè)并不準(zhǔn)確，有些問(wèn)題依然存在而且很重要。接下來(lái)我們逐一進(jìn)行分析。

問(wèn)題1：是否計(jì)算機(jī)程序①終將譜寫(xiě)出優(yōu)美的樂(lè)曲？關(guān)于這個(gè)問(wèn)題，侯世達(dá)的推測(cè)是“會(huì)的”，但近期不會(huì)，因?yàn)橐魳?lè)是情感語(yǔ)言，讓計(jì)算機(jī)程序會(huì)哭或笑，尚為時(shí)過(guò)早。顯然，他并沒(méi)有否認(rèn)程序作曲的可能性，比如中央電視臺(tái)的《機(jī)智過(guò)人》就播出過(guò)機(jī)器人寫(xiě)詩(shī)、譜曲、給歌手打分等節(jié)目。不過(guò)，他認(rèn)為計(jì)算機(jī)作曲程序不會(huì)產(chǎn)生新的美感，也就是說(shuō)，計(jì)算機(jī)程序不能體驗(yàn)美感、幽默感、韻律感和驚訝感。這些都是與情感相關(guān)的感受性?？梢哉f(shuō)，侯世達(dá)預(yù)測(cè)了未來(lái)人工智能的情感化問(wèn)題，也就是具身人工智能問(wèn)題。

問(wèn)題2：情感是否能明顯地在一臺(tái)機(jī)器中被程序化？這是問(wèn)題1的自然推論。他的推測(cè)是“不能”，而且認(rèn)為是“荒唐的”。理由是，計(jì)算機(jī)的模擬不可能達(dá)到人類(lèi)情感的復(fù)雜性。因?yàn)槿祟?lèi)情感直接源于心智組織，而程序只能以它們組織起來(lái)的方式間接模擬自己的情感，而不是直接程序化的結(jié)果，如計(jì)算機(jī)程序員編寫(xiě)不出“墜入愛(ài)河”的程序。在筆者看來(lái)，問(wèn)題2與問(wèn)題1相關(guān)，但侯世達(dá)對(duì)這兩個(gè)問(wèn)題的回答似乎前后矛盾。既然計(jì)算機(jī)不能使情感程序化，它就不能編寫(xiě)出帶有情感的程序，也就不會(huì)譜寫(xiě)出動(dòng)聽(tīng)的樂(lè)曲，盡管可編寫(xiě)出有序的音符，且聽(tīng)起來(lái)還悅耳。

問(wèn)題3：智能計(jì)算機(jī)能否更快地做加法？他的推測(cè)是“可能不會(huì)”。理由是，計(jì)算機(jī)不能讓程序干預(yù)其正在進(jìn)行著的計(jì)算活動(dòng)的電路，如同我們不能將數(shù)字裝入我們的神經(jīng)元中。意思是，我們不能往程序里注入“智能”。這個(gè)問(wèn)題現(xiàn)在來(lái)看已不是問(wèn)題，深度學(xué)習(xí)、深度強(qiáng)化學(xué)習(xí)等新算法的出現(xiàn)，讓計(jì)算加減乘除甚至更復(fù)雜的解方程、函數(shù)運(yùn)算等易如反掌，且速度極快。當(dāng)然，這些算法中并沒(méi)有所謂的“智能”，更沒(méi)有“心靈”，它僅僅是按照程序執(zhí)行而已。所以，侯世達(dá)沒(méi)有給出確定的結(jié)論。

問(wèn)題4：是否會(huì)出現(xiàn)能擊敗任何人的下棋程序？他的推測(cè)是“不會(huì)”。這里的下棋程序是指一種“通用智能”程序，即一個(gè)能縱覽全局、大致達(dá)到人類(lèi)水平的智能機(jī)器人。現(xiàn)在看來(lái)，侯世達(dá)的推測(cè)似乎錯(cuò)了，因?yàn)楣雀栝_(kāi)發(fā)的阿爾法狗和大師下棋程序（圍棋）已經(jīng)所向披靡了。不過(guò)，侯世達(dá)強(qiáng)調(diào)的是“通用智能”，一種能同時(shí)下各種棋的通用機(jī)器人，這種機(jī)器人迄今還沒(méi)有出現(xiàn)，而阿爾法狗和大師是特定智能機(jī)（專(zhuān)門(mén)下圍棋），而且沒(méi)有“跳出系統(tǒng)外”的能力，即在下棋之外它們無(wú)法與人類(lèi)匹敵。在這個(gè)意義上，侯世達(dá)的預(yù)測(cè)是對(duì)的。

問(wèn)題5：你是否能在較低的層次擺弄程序一下就可以對(duì)它進(jìn)行調(diào)整？更具體地說(shuō)，在存儲(chǔ)器中是否有一個(gè)特定位置被用來(lái)存控程序行為的參數(shù)，這樣，如果找到并修改了它們，你能使得程序再靈一點(diǎn)或再笨一點(diǎn)或更有創(chuàng)造力或更喜歡足球？他的推測(cè)是“不能”。理由是，存儲(chǔ)器中不存在“有魔力”的位置用以存儲(chǔ)像程序的“智商”之類(lèi)的東西，這如同我們的身體每天會(huì)死掉幾千個(gè)神經(jīng)元而我們沒(méi)有感覺(jué)一樣。這意味著，程序可以被修改，但不會(huì)通過(guò)修改產(chǎn)生智能。這隱含了一個(gè)原理：作為程序的軟件可以改變，但硬件不變。比如我們的思想可以改變，但身體結(jié)構(gòu)不能改變，一臺(tái)計(jì)算機(jī)的軟件可以更新，但硬件基本不變，雖然可更換某些部件。這個(gè)問(wèn)題意味著硬件對(duì)智能很重要。

問(wèn)題6：你是否可能把一個(gè)人工智能程序的行為調(diào)整得像我或像你———或恰好介于我們兩個(gè)之間？該問(wèn)題是問(wèn)題5的深化，他的推測(cè)是“不能”。理由是，人工智能程序依賴(lài)于其工作記憶的穩(wěn)定性，它們與人一樣不是變色龍，不能在不同人格之間變來(lái)變?nèi)?。這一推測(cè)是正確的，計(jì)算機(jī)程序應(yīng)該是相對(duì)穩(wěn)定的，盡管可以通過(guò)升級(jí)補(bǔ)漏，但不能因此改變其結(jié)構(gòu)而失去穩(wěn)定性。一個(gè)程序的穩(wěn)定性是保持其能夠穩(wěn)定運(yùn)行的前提。

問(wèn)題7：一個(gè)人工智能程序是否有個(gè)“心臟”？還是說(shuō)它只不過(guò)包含了一堆“無(wú)意義的循環(huán)和平凡操作的序列”？這也是計(jì)算機(jī)專(zhuān)家明斯基的問(wèn)題，侯世達(dá)認(rèn)為沒(méi)有這樣的“心臟”（引擎），即使有也看不見(jiàn)（隱藏的）。這里的“心臟”是一個(gè)隱喻表達(dá)，意思是，程序是否有一個(gè)像我們心臟的東西。人工智能領(lǐng)域關(guān)于這個(gè)問(wèn)題有兩種觀點(diǎn)：一是主張“心靈無(wú)法程序化”;另一種認(rèn)為可通過(guò)“啟發(fā)式裝置”如多重優(yōu)化器、模式識(shí)別、遞歸處理等獲得智能。侯世達(dá)處于兩種觀點(diǎn)之間，即認(rèn)為人工智能程序就像很深的“水潭”，無(wú)法一眼看到底，但若造出了能夠通過(guò)圖靈測(cè)試的程序，我們知道其中有一個(gè)“心臟”（隱藏的），盡管它并不實(shí)際上存在。事實(shí)上，這是一種模棱兩可的說(shuō)法。

問(wèn)題8：人工智能程序能否具有“超智能”？他的推測(cè)是“不知道”。在他看來(lái)，“超智能”這個(gè)概念本身就令人費(fèi)解，它是什么意思呢？是指超人類(lèi)智能還是某種非人類(lèi)智能如外星人智能？盡管人工智能可能達(dá)到人類(lèi)智能，下一個(gè)目標(biāo)可能就是超智能，他仍然認(rèn)為超智能不是人工智能的研究目標(biāo)。在筆者看來(lái)，超智能其實(shí)沒(méi)有必要，人類(lèi)智能已經(jīng)給世界帶來(lái)了夠多的麻煩！

問(wèn)題9：人工智能程序?qū)嶋H上和人完全一樣嗎？這其實(shí)是問(wèn)人工智能能否具身化的問(wèn)題，即人工智能能否有一個(gè)像我們一樣的軀體（生物意義上）。在侯世達(dá)看來(lái)，兩者之間的差異大得幾乎無(wú)法想象。假如機(jī)器人有了和我們?nèi)祟?lèi)一樣的身體，它們能夠和我們一樣思維，說(shuō)同樣的語(yǔ)言嗎？就如同獅子會(huì)說(shuō)話(huà)，我們無(wú)法理解一樣嗎？即使我們?cè)斐隽伺c我們完全一樣的復(fù)制品（類(lèi)人機(jī)器人），它們也和我們的心智有很大不同，只是同它們打交道時(shí)不知道是真正的人類(lèi)還是類(lèi)人機(jī)器人。這意味著，人類(lèi)心智與機(jī)器人心智無(wú)論在硬件還是軟件上都會(huì)不同。

問(wèn)題10：一旦我們?cè)斐隽艘粋€(gè)智能程序，我們是否就能理解什么是智能、意識(shí)、自由意志和“我”了？這個(gè)問(wèn)題將人工智能與意識(shí)、自由意志和自我意識(shí)聯(lián)系起來(lái)。侯世達(dá)認(rèn)為在某種程度上是這樣的，這完全取決于這里所說(shuō)的“理解”是什么意思。比如聽(tīng)音樂(lè)，不同的人對(duì)其理解不盡相同，“一千個(gè)讀者會(huì)有一千個(gè)哈姆雷特”。即使我們把每個(gè)音符都拆分了，也不一定理解一首樂(lè)曲。這不僅涉及人類(lèi)智能與人工智能的關(guān)系問(wèn)題，也涉及接下來(lái)討論的類(lèi)人智能是否具有創(chuàng)造力的問(wèn)題。

二、類(lèi)人智能是否具有創(chuàng)造力

根據(jù)生物自然主義，意識(shí)是生物現(xiàn)象，心智是基于意識(shí)的，由此推知?jiǎng)?chuàng)造力也是基于意識(shí)的。也就是說(shuō)，沒(méi)有意識(shí)的實(shí)體，就不會(huì)有創(chuàng)造力。人類(lèi)擁有意識(shí)也有創(chuàng)造力這是不爭(zhēng)的事實(shí)，人工智能由于沒(méi)有意識(shí)，當(dāng)然不會(huì)有創(chuàng)造力。正如著名計(jì)算機(jī)科學(xué)家多明戈斯指出的“不像人類(lèi)，計(jì)算機(jī)本身并沒(méi)有自己的意志。它們是工程師生產(chǎn)的產(chǎn)品，而不是進(jìn)化體。即使無(wú)限強(qiáng)大的計(jì)算機(jī)，也僅僅是我們意志的延伸，沒(méi)有什么可怕的。”①這意味著，即使人工智能有創(chuàng)造力，那也是其背后人類(lèi)設(shè)計(jì)者的創(chuàng)造力。這里的問(wèn)題在于：人工智能體不借助人類(lèi)智能自己能夠進(jìn)行創(chuàng)造活動(dòng)嗎？這的確是一個(gè)不好回答甚至沒(méi)有答案的問(wèn)題。

更具體地說(shuō)，計(jì)算機(jī)程序或算法本身是否有創(chuàng)造性，何時(shí)有？這個(gè)問(wèn)題排除了設(shè)計(jì)者參與的人工智能的創(chuàng)造性。對(duì)人類(lèi)設(shè)計(jì)者而言，恐怕他們也未想到一個(gè)程序或算法在何時(shí)在何處具有了創(chuàng)造性。比如像數(shù)學(xué)定理的證明、樂(lè)曲的創(chuàng)作、對(duì)弈中的新走法，計(jì)算機(jī)自己就能夠“想”出來(lái)？大多數(shù)人會(huì)認(rèn)為程序或算法本身不會(huì)產(chǎn)生創(chuàng)造力，正如塞爾的“中文屋論證”所揭示的，符號(hào)操作本身不是思維，更不會(huì)產(chǎn)生理解，當(dāng)然不會(huì)有創(chuàng)造力。創(chuàng)造力應(yīng)該是與意識(shí)、心智相關(guān)的能力，非意識(shí)和非心智的東西怎么會(huì)擁有創(chuàng)造力呢？

然而，問(wèn)題沒(méi)有那么簡(jiǎn)單，我們沒(méi)有觀測(cè)到或進(jìn)入計(jì)算機(jī)程序怎么就能斷定它沒(méi)有創(chuàng)造性呢？你可能會(huì)說(shuō)，我們也沒(méi)有觀測(cè)或進(jìn)入人腦，但我們知道人類(lèi)有創(chuàng)造力。這個(gè)類(lèi)比在這里不一定合適。一個(gè)著名的例子是為初等幾何證明尋找證明的程序。根據(jù)侯世達(dá)的描述，由計(jì)算機(jī)專(zhuān)家明斯基構(gòu)想，IBM公司的設(shè)計(jì)者吉倫特設(shè)計(jì)了一個(gè)被稱(chēng)為“驢橋”的程序，它能得出普通人絕對(duì)想不出的證明方法。任務(wù)目標(biāo)是證明等腰三角形的兩個(gè)底角相等。學(xué)過(guò)初等幾何的人都知道，標(biāo)準(zhǔn)的證明是通過(guò)作輔助線把這個(gè)三角形分為對(duì)稱(chēng)的兩半。而設(shè)計(jì)的程序發(fā)現(xiàn)了不作輔助線的高明方法，即把等腰三角形與其鏡像看作兩個(gè)不同的三角形，只要證明它們?nèi)染涂梢粤?。?jù)說(shuō)這個(gè)“新想法”是從程序得出的，不是設(shè)計(jì)者給出的。這個(gè)絕妙的證明方法讓設(shè)計(jì)者和許多人大為驚訝，這是否可看作是程序具有創(chuàng)造性的證據(jù)呢？證明的功勞應(yīng)歸于誰(shuí)呢？是設(shè)計(jì)者還是程序本身？持計(jì)算機(jī)無(wú)意識(shí)的人會(huì)認(rèn)為，程序本身沒(méi)有創(chuàng)造力，這種表面的創(chuàng)造性可能是通過(guò)兩種方式產(chǎn)生的：一種是程序通過(guò)不同符號(hào)或符號(hào)串的組合意外得出了驚人的結(jié)果;另一種是隱藏在設(shè)計(jì)者心中的想法只不過(guò)被計(jì)算機(jī)程序呈現(xiàn)出來(lái)而已。侯世達(dá)認(rèn)為，后一種看法才是問(wèn)題的關(guān)鍵，即認(rèn)為計(jì)算機(jī)程序只是將設(shè)計(jì)者的創(chuàng)造性浮現(xiàn)出來(lái)。這是生物自然主義者的看法，也是大多數(shù)人的看法。在我看來(lái)，如果設(shè)計(jì)者確實(shí)沒(méi)有預(yù)先給這種證明程序賦予“創(chuàng)造性”，我們不能排除是計(jì)算機(jī)程序通過(guò)符號(hào)或符號(hào)串的組合或它們的相互作用涌現(xiàn)了創(chuàng)造力的可能性，如通過(guò)控制—反饋循環(huán)機(jī)制產(chǎn)生的。如果我們不能說(shuō)明這個(gè)例子中的新證明法是人類(lèi)設(shè)計(jì)者的還是程序涌現(xiàn)的，那么我們最好還是將設(shè)計(jì)者的大腦與程序的“心智”區(qū)分開(kāi)來(lái)。程序的設(shè)計(jì)歸于人類(lèi)，但程序產(chǎn)生的“新想法”卻不能完全歸于設(shè)計(jì)者。按照侯世達(dá)的說(shuō)法，在這種情況下，設(shè)計(jì)者可被看作是“元作者”，而程序被看作“作者”。這里引入了元認(rèn)知的思想，即關(guān)于認(rèn)知的認(rèn)知，如作者的作者。

我們?cè)O(shè)想，如果這個(gè)幾何證明程序不是特例，比如它一而再、再而三地給出些不同于標(biāo)準(zhǔn)證明的新證明方法，那么我們就不得不承認(rèn)計(jì)算機(jī)程序是一個(gè)有思想的“智能體”。然而，這種情形目前并沒(méi)有出現(xiàn)。但是，我們并不敢斷言這種情形一定不會(huì)出現(xiàn)。比如侯世達(dá)所說(shuō)的“元作者”的情形在音樂(lè)創(chuàng)作方面特別突出。有人將兩首不同的進(jìn)行曲輸入計(jì)算機(jī)，結(jié)果產(chǎn)生了組合的新曲調(diào)，盡管聽(tīng)起來(lái)有點(diǎn)奇異之感甚至有點(diǎn)別扭，但的確不同于已有的曲子。這個(gè)過(guò)程沒(méi)有涉及復(fù)雜的和難以理解的計(jì)算，沒(méi)有使用學(xué)習(xí)算法，也沒(méi)有出現(xiàn)隨機(jī)過(guò)程，計(jì)算機(jī)只是機(jī)械地運(yùn)行，但出現(xiàn)了令作曲家驚訝的曲調(diào)。這是計(jì)算機(jī)程序在作曲嗎？顯然不是，計(jì)算機(jī)只是機(jī)械地組合音符。正如侯世達(dá)正確指出的，“這個(gè)程序中沒(méi)有任何結(jié)構(gòu)類(lèi)似于人腦中的‘符號(hào)，在任何意義下也不能說(shuō)它在‘思考它所做的事。把這樣一段音樂(lè)的創(chuàng)作歸于計(jì)算機(jī)，就像把本書(shū)的操作歸功于產(chǎn)生它的計(jì)算機(jī)編輯照排系統(tǒng)一樣?！雹龠@意味著，計(jì)算機(jī)不管有多么智能，它只不過(guò)是人用來(lái)進(jìn)行創(chuàng)造和實(shí)現(xiàn)想法的工具，盡管其中不排除有一些意外的新東西出現(xiàn)，如編輯修改了某個(gè)句子。因?yàn)檎f(shuō)到底，計(jì)算機(jī)程序缺乏自我意識(shí)，沒(méi)有靈性，不知道自己在做什么。即使有一天人類(lèi)真的創(chuàng)造了能夠作曲的智能機(jī)，我們也不能說(shuō)完全是智能機(jī)創(chuàng)作了樂(lè)曲，其中一大部分功勞應(yīng)歸于程序設(shè)計(jì)者，其余部分歸功于程序本身。在侯世達(dá)看來(lái)，這種能創(chuàng)作的智能機(jī)只有其程序的內(nèi)部結(jié)構(gòu)是基于某種類(lèi)似于我們頭腦中的“符號(hào)”及其觸發(fā)模式，并以此來(lái)處理復(fù)雜的概念意義時(shí)，這種情形才會(huì)發(fā)生。

可以看出，侯世達(dá)是將計(jì)算機(jī)程序與人腦類(lèi)比，只有計(jì)算機(jī)程序與人腦的運(yùn)作模式類(lèi)似時(shí)，它才能產(chǎn)生某種創(chuàng)造力。在我看來(lái)，侯世達(dá)還沒(méi)有跳出依賴(lài)人類(lèi)或模擬人腦的思維模式。誠(chéng)然，人工智能包括機(jī)器人的發(fā)展基本上還是模擬人腦的功能，但深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)及其結(jié)合，再加上大數(shù)據(jù)和5G技術(shù)，跳出人腦模式的超人工智能是可能的，正如飛機(jī)模式超越了鳥(niǎo)的飛翔模式。所以，通過(guò)不斷挖掘新的物理規(guī)律，基于新的物理規(guī)律建構(gòu)新型的人工智能模式也不是不可能的。接下來(lái)我們探討這種類(lèi)人智能的可能生成機(jī)制。

三、類(lèi)人智能實(shí)現(xiàn)的意向—自反機(jī)制

我們假設(shè)具身人工智能是可實(shí)現(xiàn)的，但其難度很大，因?yàn)槠渲械恼系K幾乎難以逾越，比如如何讓生物體和硅基材料有機(jī)地結(jié)合，能否將心智注入機(jī)器，或?qū)⒁鈭D、目標(biāo)注入方程式或算法，也就是讓機(jī)器有了靈魂，使笛卡爾的“機(jī)器之幽靈”得以實(shí)現(xiàn)，形成一種所謂的人機(jī)共存共生現(xiàn)象。當(dāng)然，我們不排除科學(xué)家可借助生物克隆技術(shù)（如果允許的話(huà)）實(shí)現(xiàn)人機(jī)融合的可能性。如果這種可能性成立，這種新型的具身機(jī)器人或人機(jī)一體的類(lèi)人機(jī)器人就是可能的。筆者根據(jù)控制論的控制—反饋循環(huán)原理，結(jié)合哲學(xué)的意向性和自反性概念給出人工智能生成的意向—自反循環(huán)涌現(xiàn)機(jī)制。

從控制論的觀點(diǎn)看，意識(shí)和智能這些認(rèn)知行為是通過(guò)一個(gè)控制—反饋循環(huán)涌現(xiàn)的結(jié)果（見(jiàn)圖1）。主體（系統(tǒng)）達(dá)到目標(biāo)或完成任務(wù)的控制行為是意向行為，其特性就是意向性;從目標(biāo)（任務(wù)）到主體（系統(tǒng)）的反饋是自我指涉的或自反的，其特征就是自反性（即指向或返回自身，如知道我是誰(shuí)）。對(duì)于一個(gè)主體（人類(lèi)或智能體）來(lái)說(shuō)，如果他或它只有意向性，即指向他物的屬性，那只能算作刺激—反應(yīng)，如低級(jí)生物;只有當(dāng)他或它同時(shí)也擁有了自我指涉性或自反性，他或它才會(huì)涌現(xiàn)出意識(shí)。自反性是“當(dāng)一個(gè)系統(tǒng)制造另一個(gè)系統(tǒng)時(shí)（不論是復(fù)制還是制造另一個(gè)產(chǎn)物），它都會(huì)變成它所制造的產(chǎn)物的一部分”。① 這個(gè)概念實(shí)質(zhì)上是控制論的反饋概念的拓展———因果循環(huán)和永不結(jié)束的自我指涉，它可能是生命的主要起因，如化學(xué)中的自我催化（反應(yīng)的產(chǎn)物同時(shí)又是催化劑）就體現(xiàn)了自反性。生物系統(tǒng)中的新陳代謝就是一種大規(guī)模的自我催化反應(yīng)，構(gòu)成了生命形態(tài)得以維系的極為重要一環(huán)。在這個(gè)意義上，作為自反性的自我催化可能參與了生命的起源過(guò)程。

在我看來(lái)，意識(shí)的起源也很可能與自反性相關(guān)。我們常常會(huì)反思自己，這種反思就是自我指涉，我稱(chēng)之為“反身性”，因?yàn)樗强杀晃覀凅w驗(yàn)的，比如“我是……”“我感覺(jué)……”“我認(rèn)為我……”等。按照扎卡達(dá)基斯的說(shuō)法，當(dāng)人們反思時(shí)，“我”既是主體又是客體，心理學(xué)上將這種意識(shí)的遞歸稱(chēng)為“元認(rèn)知”。在表征的意義上，這意味著被觀察的事物和觀察過(guò)程不是同時(shí)編碼的，即在不同自然系統(tǒng)和認(rèn)知系統(tǒng)中編碼。只有當(dāng)這種自我指涉性出現(xiàn)時(shí)，自我才能產(chǎn)生，有了自我，意識(shí)方能涌現(xiàn)。這可能是人工智能和機(jī)器人學(xué)制造有意識(shí)機(jī)器的關(guān)鍵，因?yàn)樽晕抑干婊蜃苑葱詫?dǎo)致了有序的形成。所以，我一直主張，意向性和自反性同時(shí)出現(xiàn)才能稱(chēng)得上是有意識(shí)，如我們?nèi)祟?lèi)，不僅具有意圖（目的），也知道我們是誰(shuí)，而其他脊椎動(dòng)物如大猩猩可能不知道它們是大猩猩，如在鏡子面前它們會(huì)將自己的影像看作是其他動(dòng)物。人類(lèi)3歲兒童都知道鏡像是自己。

從適應(yīng)性表征的視角看，人類(lèi)、動(dòng)物以及人工智能體，在達(dá)到目標(biāo)的意義上，都有一個(gè)控制—反饋循環(huán)或一個(gè)意向—自反循環(huán)，因此都是適應(yīng)性表征系統(tǒng)。說(shuō)它們是適應(yīng)性表征系統(tǒng)，不等于說(shuō)它們之間沒(méi)有區(qū)別，區(qū)別在于這些不同主體（系統(tǒng)）在自我指涉方面的表現(xiàn)。對(duì)于物理系統(tǒng)，如汽車(chē)引擎，它只是通過(guò)控制—反饋循環(huán)進(jìn)行物質(zhì)和能量交換;對(duì)于低等生物系統(tǒng)，如螞蟻，可通過(guò)控制—反饋循環(huán)進(jìn)行物質(zhì)、能量和信息（信息素）交換，較之物理系統(tǒng)有較強(qiáng)的適應(yīng)環(huán)境的能力;對(duì)于高等生物系統(tǒng)，如我們?nèi)祟?lèi)，不僅通過(guò)控制—反饋循環(huán)進(jìn)行物質(zhì)、能量和信息交換，也同時(shí)進(jìn)行著攜帶語(yǔ)言表達(dá)的意向—自反循環(huán)，這正是人類(lèi)比其他生物更高級(jí)和更智慧的地方。正是有了意向—自反循環(huán)我們才有了意識(shí)，有了心智和智能。當(dāng)然，“一個(gè)系統(tǒng)必須同時(shí)具有自組織的能力，才能有適應(yīng)性行為涌現(xiàn)”。②而自組織并非復(fù)雜性的結(jié)果，而是系統(tǒng)的各組成部分以特定方式連接產(chǎn)生多層次的正反饋。這些反饋循環(huán)創(chuàng)造了更高層次的自組織復(fù)雜性，從而產(chǎn)生了新的行為，如自主行為。這種復(fù)雜的高級(jí)智能行為如自我意識(shí)是在自然系統(tǒng)的不斷演化中涌現(xiàn)出來(lái)的。人工系統(tǒng)如計(jì)算機(jī)互聯(lián)網(wǎng)中能否產(chǎn)生自我意識(shí)（假如計(jì)算機(jī)數(shù)量達(dá)到人類(lèi)大腦神經(jīng)元的量級(jí)1011）我們還不得而知，至少目前的互聯(lián)網(wǎng)沒(méi)有涌現(xiàn)出意識(shí)（可能數(shù)量不夠不足以產(chǎn)生質(zhì)變）。根據(jù)生物自然主義，即使計(jì)算機(jī)數(shù)量達(dá)到1011的量級(jí)，互聯(lián)網(wǎng)產(chǎn)生意識(shí)的可能性也不大。原因在于，人工認(rèn)知系統(tǒng)與自然認(rèn)知系統(tǒng)不僅在硬件和軟件上不同，它們的組織結(jié)構(gòu)和連接方式也大為不同。

這里產(chǎn)生了一個(gè)非常深刻的問(wèn)題，即自然系統(tǒng)先孕育出生命如生物體，再由生命系統(tǒng)涌現(xiàn)出意識(shí)和認(rèn)知行為如創(chuàng)造力，那么人工系統(tǒng)也遵循這樣的邏輯嗎？人工智能的發(fā)展業(yè)已表明，人工智能的產(chǎn)生不是以人工生命的存在為先決條件的。這有力地說(shuō)明，人工智能的產(chǎn)生和自然智能的涌現(xiàn)有著不同的演化邏輯。比如，人工認(rèn)知系統(tǒng)不會(huì)自發(fā)產(chǎn)生語(yǔ)言，當(dāng)然也不會(huì)形成對(duì)行動(dòng)或事件意義的理解?；蛘哒f(shuō)，抽象符號(hào)的推理不會(huì)自己產(chǎn)生意義，只有將觀察到的事物與觀察者相結(jié)合才能從無(wú)意義的表征中涌現(xiàn)出意義。這意味著要產(chǎn)生意義和理解，語(yǔ)境的介入是必須的。這就是為什么人工智能和機(jī)器人學(xué)近年來(lái)都致力于語(yǔ)境覺(jué)知研究的原因。

然而，在我看來(lái)，兩種認(rèn)知系統(tǒng)都是適應(yīng)性表征系統(tǒng)。人類(lèi)是完全的具身認(rèn)知系統(tǒng)，計(jì)算機(jī)包括人工智能是完全的離身（無(wú)身）的認(rèn)知系統(tǒng)，這兩種認(rèn)知系統(tǒng)在一定程度上的結(jié)合或融合，很可能會(huì)產(chǎn)生新型的具身認(rèn)知———人機(jī)一體的認(rèn)知系統(tǒng)，這種新型具身認(rèn)知系統(tǒng)也一定是適應(yīng)性表征系統(tǒng)。到那時(shí)，人類(lèi)和機(jī)器人的共存共生不僅是可能的，也是現(xiàn)實(shí)的，倫理問(wèn)題、法律問(wèn)題等會(huì)相應(yīng)出現(xiàn)，我們必須未雨綢繆，迎接新型具身機(jī)器人可能帶來(lái)的一系列挑戰(zhàn)。這樣看來(lái)，三種認(rèn)知系統(tǒng)都是適應(yīng)性表征系統(tǒng)，適應(yīng)性表征就是所有認(rèn)知系統(tǒng)的共性。或者說(shuō)，一切認(rèn)知活動(dòng)，其載體不論是生物的（血肉的），還是非生物的（機(jī)械的），擬合是生物—機(jī)械混合的，均是適應(yīng)其所處環(huán)境的，包括自然的、社會(huì)的、歷史的和文化的因素。因此，在適應(yīng)性表征的意義上，具身的人工智能不僅是可能的，而且實(shí)現(xiàn)的可能性極大，只是這種實(shí)現(xiàn)是混合的類(lèi)人智能，而不是純粹的人類(lèi)智能。

如果我們能夠?qū)⑦@兩種系統(tǒng)進(jìn)行耦合，通過(guò)適應(yīng)性表征這個(gè)橋梁有可能創(chuàng)造出一個(gè)人機(jī)融合的類(lèi)人系統(tǒng)或具身人工智能系統(tǒng)，如人工神經(jīng)網(wǎng)絡(luò)的模式識(shí)別、機(jī)器學(xué)習(xí)。在不考慮價(jià)值判斷或道德評(píng)估的情況下，這種類(lèi)人系統(tǒng)有可能出現(xiàn)，除非人類(lèi)擔(dān)憂(yōu)這種類(lèi)人系統(tǒng)會(huì)給人類(lèi)帶來(lái)危害而禁止研究和開(kāi)發(fā)。前者依賴(lài)于計(jì)算機(jī)科學(xué)、人工智能、機(jī)器人學(xué)、生物學(xué)、化學(xué)和認(rèn)知神經(jīng)科學(xué)等學(xué)科的聯(lián)合與協(xié)作，后者還依賴(lài)哲學(xué)、倫理學(xué)、社會(huì)學(xué)、法律學(xué)等人文社會(huì)科學(xué)的介入。

如果這種類(lèi)人機(jī)器人是可能的，這意味著，具有自我意識(shí)的心智系統(tǒng)必須是有身體的。神經(jīng)科學(xué)已經(jīng)揭示，脫離身體的心智是不存在的，或者說(shuō)，心智依附于身體，二元論不成立。我們要?jiǎng)?chuàng)造人工意識(shí)或人工認(rèn)知，機(jī)器人必須有生物的身體，所以身體的存在是人工認(rèn)知系統(tǒng)發(fā)展的必要條件。如果是這樣，那我們離制造出這樣的類(lèi)人機(jī)器人還遙遙無(wú)期，因?yàn)楝F(xiàn)在的技術(shù)還無(wú)法突破符號(hào)計(jì)算和意識(shí)認(rèn)知之間的鴻溝。如果從適應(yīng)性表征入手，不考慮兩種認(rèn)知系統(tǒng)之間的硬件差異，這種類(lèi)人機(jī)器人是有可能實(shí)現(xiàn)的。這與我們制造會(huì)飛的飛機(jī)和會(huì)游泳的潛水艇是一個(gè)道理。只是這些人造物沒(méi)有自我意識(shí)，沒(méi)有情感。

在這里，我們應(yīng)該換一種思考方式，也就是說(shuō)應(yīng)該重新定義什么是意識(shí)，什么是智能。在我看來(lái)，智能和意識(shí)不是一回事。根據(jù)適應(yīng)性表征，智能具有適應(yīng)性表征功能，意識(shí)也有，不同在于意識(shí)表現(xiàn)在體驗(yàn)和感受方面，智能表現(xiàn)在解決問(wèn)題和完成任務(wù)方面。計(jì)算機(jī)是在“適應(yīng)性表征”（根據(jù)邏輯算法處理數(shù)據(jù)或推理），不是在“思考”，思考是隱喻性表達(dá)。我們過(guò)度使用隱喻來(lái)表達(dá)計(jì)算機(jī)的計(jì)算能力，如著名的“計(jì)算機(jī)隱喻”。然而，為了理解和解釋?zhuān)覀冇蛛x不開(kāi)隱喻表達(dá)。這可能是我們?nèi)祟?lèi)的認(rèn)知局限性所致。因此，語(yǔ)言使用和意義理解始終困擾著人工智能研究者，正如塞爾的“中文屋論證”所表明的那樣，意義無(wú)法通過(guò)操作形式符號(hào)來(lái)獲得，計(jì)算機(jī)不能理解它處理的編程語(yǔ)言的意義。而且這種人工編程語(yǔ)言必須由人類(lèi)程序員預(yù)先定義和設(shè)置，而我們?nèi)祟?lèi)則無(wú)需事先定義和設(shè)置。從語(yǔ)境論的視角看，我們?nèi)祟?lèi)是語(yǔ)境化的，計(jì)算機(jī)和人工智能則不是。這就是人類(lèi)智能和人工智能的根本差異所在。要想讓人工智能更“智能”，語(yǔ)境化是必須的。這就是筆者一直主張的人工智能的語(yǔ)境化問(wèn)題，即讓人工智能擁有語(yǔ)境化能力。同時(shí)，為了保證機(jī)器人不危害人類(lèi)，我們必須讓機(jī)器人“人性化”，即創(chuàng)造“友好的人工智能”。

四、莫拉維克悖論是否可以克服

然而，機(jī)器人的具身化和人性化勢(shì)必會(huì)遇到所謂的莫拉維克悖論。這個(gè)悖論是說(shuō)，“讓計(jì)算機(jī)在某些任務(wù)上表現(xiàn)出成人的智力水平是件很容易的事情，如智力測(cè)試或玩跳棋，但是讓其獲得哪怕是一歲兒童的某些能力，如感知和運(yùn)動(dòng)，卻是極其困難甚至是不可能的事情”，①如機(jī)器人不會(huì)做鬼臉，不會(huì)開(kāi)玩笑。

莫拉維克悖論揭示了這樣一個(gè)基本事實(shí)：符號(hào)邏輯表征不是萬(wàn)能的，一定存在某種類(lèi)型的智慧如直覺(jué)、創(chuàng)造力是符號(hào)邏輯不能表達(dá)的。也就是說(shuō)，人類(lèi)智能更多依賴(lài)無(wú)意識(shí)的本能，而不是有意識(shí)的符號(hào)操作，所以無(wú)法通過(guò)形式化規(guī)則來(lái)獲得。這就是德雷福斯在《計(jì)算機(jī)不能做什么》中所表達(dá)的一種觀點(diǎn)。② 神經(jīng)科學(xué)的發(fā)現(xiàn)也表明，意識(shí)不是一個(gè)腦細(xì)胞執(zhí)行的邏輯算法，而是大量無(wú)意識(shí)的、混亂的心理過(guò)程在新皮層上整合的結(jié)果。但這種過(guò)程一定是適應(yīng)性的，這就是為什么筆者力求主張適應(yīng)性表征。

進(jìn)一步說(shuō)，所謂莫拉維克悖論是說(shuō)，對(duì)于人工認(rèn)知系統(tǒng)，最難的問(wèn)題最容易解決，而最簡(jiǎn)單的問(wèn)題反而難以解決。在我看來(lái)，這種看似矛盾的現(xiàn)象其實(shí)是一種錯(cuò)覺(jué)，即表面上似乎是矛盾的，實(shí)質(zhì)上是不同層次的問(wèn)題。比如機(jī)器人在下棋、進(jìn)行復(fù)雜計(jì)算這些按規(guī)則執(zhí)行的事上機(jī)器人比人類(lèi)強(qiáng)很多，當(dāng)讓其做連兒童做起來(lái)都易如反掌的事情如爬樓梯時(shí)，機(jī)器人卻很難做到。這是因?yàn)槿斯ぶ悄芩龅挠?jì)算和人類(lèi)所做的爬樓梯是兩個(gè)完全不同層次的問(wèn)題。機(jī)器人是完全基于理性的，完全按照規(guī)則做事，如計(jì)算、對(duì)弈，而人類(lèi)不完全是按理性規(guī)則做事的，很多時(shí)候是非理性地行事，而且非理性所占比例還不小，如爬樓梯的行為是無(wú)意識(shí)或本能行為;人的計(jì)算完全是有意識(shí)的認(rèn)知行為，計(jì)算機(jī)的計(jì)算是無(wú)意識(shí)操作規(guī)則。因此，這個(gè)悖論其實(shí)是沒(méi)有在有意識(shí)行為與無(wú)意識(shí)行為之間做區(qū)別造成的。這意味著意識(shí)造就了人的能動(dòng)性和靈活性，無(wú)意識(shí)機(jī)器人缺乏能動(dòng)性和靈活性，而缺乏能動(dòng)性和靈活性是造成機(jī)器人爬樓梯困難的真正原因。

然而，簡(jiǎn)單動(dòng)物如蟑螂爬樓梯也很容易，但我們不能說(shuō)它有意識(shí)，這說(shuō)明意識(shí)并不是引起蟑螂爬樓梯容易的唯一原因，無(wú)意識(shí)的本能也是一個(gè)原因。另一個(gè)更深層的原因可能要通過(guò)自然進(jìn)化來(lái)解釋了。這就是構(gòu)成問(wèn)題，即人類(lèi)和機(jī)器人的組成成分完全不同，前者是生物的（碳基的），后者是物理的（硅基的），遵循的規(guī)律也不同。這就是認(rèn)知科學(xué)中的“硬件要緊不要緊問(wèn)題”。也就是說(shuō)，組成智能實(shí)體的“硬件”規(guī)則是決定因素，如我們的大腦是天生的硬件，心智、情感、意圖等均源于這種物理硬件。這就是侯世達(dá)所說(shuō)的“硬件規(guī)則不變”原理，即“各個(gè)層次上的軟件都可以改變，而硬件規(guī)則不變———事實(shí)上，軟件的靈活性來(lái)自硬件的穩(wěn)固性！”③比如芯片的穩(wěn)定性決定智能機(jī)的水平。因此，對(duì)于像爬樓梯這樣的行為，硬件不僅是要緊的，而且是決定性的。這種人類(lèi)可輕易完成而計(jì)算機(jī)難以執(zhí)行的任務(wù)狀態(tài)，即所謂的莫拉維克悖論，在我看來(lái)，就是生物體和非生物體之間的鴻溝問(wèn)題。說(shuō)到底，這是兩種完全不同結(jié)構(gòu)和功能的實(shí)體：人類(lèi)智能和類(lèi)人智能。對(duì)于類(lèi)人智能，如果它是可能的，人們自然會(huì)問(wèn)：它具有何種優(yōu)勢(shì)，會(huì)產(chǎn)生什么后果？這是接下來(lái)要探討的問(wèn)題。

五、未來(lái)機(jī)器人的優(yōu)勢(shì)和可能帶來(lái)的問(wèn)題

從哲學(xué)上看，不論未來(lái)的機(jī)器人如何有智能，在多少個(gè)方面超過(guò)人類(lèi)，其綜合能力如判斷力與人類(lèi)是無(wú)法匹敵的，因?yàn)闄C(jī)器人沒(méi)有意識(shí)和情感，當(dāng)然更沒(méi)有心靈或自由意志。這是類(lèi)人（機(jī)器）智能與人類(lèi)智慧無(wú)法相比的根本原因。說(shuō)到底，人不是機(jī)器，人若按照機(jī)器的方式去思維和行動(dòng)，人就不如機(jī)器了，如計(jì)算機(jī)的存儲(chǔ)和搜索能力遠(yuǎn)勝過(guò)人，人類(lèi)的存在就是多余的了。我們利用機(jī)器人的目的是克服人類(lèi)軀體和智力上的局限性。所以，機(jī)器人不過(guò)是人類(lèi)的有力助手。

在我看來(lái)，作為人類(lèi)助手的未來(lái)機(jī)器人有六大優(yōu)勢(shì)：

第一，集成性，即在短時(shí)間內(nèi)能夠?qū)⑷祟?lèi)所有知識(shí)儲(chǔ)存到自己的知識(shí)庫(kù)中，如大型詞典、百科全書(shū)等，這是人腦無(wú)法做到的（人的生命有限）。

第二，搜索性，人工智能有強(qiáng)大的搜索能力，可以搜索到我們想知道的任何東西，這其中包括了數(shù)以?xún)|計(jì)的網(wǎng)友的智力貢獻(xiàn)。這意味著互聯(lián)網(wǎng)不僅是信息網(wǎng)，也是人際網(wǎng)。

第三，無(wú)私利性，即機(jī)器人是無(wú)私欲的。人類(lèi)骨子里是自私的（生存意義上），比如兒童天生不懂得分享（動(dòng)物性），分享是后天教育的結(jié)果。機(jī)器人是無(wú)私無(wú)畏的，不知道恐懼為何物。

第四，再生性，即機(jī)器人可以再造，如給軟件備份、硬件更換，而人類(lèi)是不可以再生的。這一點(diǎn)機(jī)器人就勝過(guò)人類(lèi)。

第五，合作性，即機(jī)器人之間的協(xié)同工作。與人類(lèi)相比，由于它們之間不存在私欲和利益之爭(zhēng)，也就不存在競(jìng)爭(zhēng)，更不會(huì)“勾心斗角”，合作會(huì)十分融洽。

第六，整合性，即機(jī)器人能夠迅速地將物質(zhì)、能量和信息高效地整合起來(lái)，從而迅速地完成任務(wù)，這一點(diǎn)比人類(lèi)要強(qiáng)很多，因?yàn)槿祟?lèi)要通過(guò)長(zhǎng)期的學(xué)習(xí)才能獲得這種能力。

辯證地看，這些技術(shù)上的優(yōu)勢(shì)同時(shí)也會(huì)給人類(lèi)帶來(lái)麻煩。我們知道，技術(shù)發(fā)明彰顯人類(lèi)發(fā)明者聰明才智的同時(shí)，也使大多數(shù)人變得越來(lái)越“笨”，用戶(hù)習(xí)慣于依賴(lài)機(jī)器，如智能手機(jī)，原來(lái)沒(méi)有這種技術(shù)工具時(shí)形成的技能慢慢消失了，如我們的書(shū)寫(xiě)能力隨著計(jì)算機(jī)的普及明顯下降了，駕駛技能隨著自動(dòng)駕駛技術(shù)的出現(xiàn)也會(huì)逐漸降低（不用學(xué)開(kāi)車(chē)了）。這意味著人的技能被機(jī)器人技術(shù)代替了。機(jī)器越是智能，用戶(hù)就越是省心，其心智能力也就會(huì)慢慢降低。這就是我們都知道的“用進(jìn)廢退”的道理，如心算能力是訓(xùn)練出來(lái)的，而不是天生的。這意味著，人工智能技術(shù)的大行其道，會(huì)使人們?cè)絹?lái)越依賴(lài)人工智能，大多數(shù)人類(lèi)智能（除了少數(shù)人工智能的設(shè)計(jì)者）會(huì)出現(xiàn)倒退。所以，人工智能越智能，人類(lèi)智能就會(huì)越弱智。

當(dāng)然，造成這種局面的責(zé)任不在技術(shù)本身，因?yàn)榧夹g(shù)是中立的，而在制定技術(shù)程式的技術(shù)專(zhuān)家和政策制定者。比如現(xiàn)今普遍流行的微信、支付寶等電子支付方式，已經(jīng)流程化、規(guī)范化、普遍化，不采取這種支付方式，到飯店吃飯都成了問(wèn)題（不收現(xiàn)金），再比如為預(yù)防新冠肺炎，不使用智能手機(jī)注冊(cè)健康碼，出行都寸步難行。這意味著技術(shù)代替人的技能是大勢(shì)所趨，所以人人都必須“與時(shí)俱進(jìn)”，如老年人也不得不學(xué)會(huì)使用智能手機(jī)支付。在這個(gè)意義上，人類(lèi)已經(jīng)淪為技術(shù)的“奴隸”，就像海德格爾所說(shuō)的，人類(lèi)已被技術(shù)“駕馭”。人工智能正讓人類(lèi)變得“沒(méi)有腦子”，“不長(zhǎng)腦的機(jī)器和不思考的人沒(méi)有什么兩樣，不是因?yàn)闄C(jī)器已經(jīng)變得和人類(lèi)一樣善于思考，而是人類(lèi)已經(jīng)變得像機(jī)器一樣沒(méi)有頭腦”。①

我們必須正視這個(gè)問(wèn)題。我們不能讓少數(shù)技術(shù)專(zhuān)家的頭腦取代大多數(shù)人的頭腦。事實(shí)上，圖靈測(cè)試業(yè)已告訴我們，如果我們認(rèn)為通過(guò)這種測(cè)試的機(jī)器和人一樣聰明的話(huà)，那么同時(shí)也意味著人和機(jī)器一樣“笨”?；蛘哒f(shuō)，我們?cè)谑箼C(jī)器有智能的同時(shí)，也在無(wú)意中使大多數(shù)人變笨。我們應(yīng)該有意識(shí)地避免這個(gè)問(wèn)題，有意識(shí)地訓(xùn)練自己，如練字、做心算、玩智力游戲等。從適應(yīng)性表征的視角看，我們?nèi)祟?lèi)在進(jìn)行適應(yīng)性表征的同時(shí)，也要避免淪為只會(huì)適應(yīng)環(huán)境的動(dòng)物（低級(jí)動(dòng)物也本能地適應(yīng)性表征）。對(duì)人工認(rèn)知系統(tǒng)而言，它們具有適應(yīng)性表征能力就足夠了，不必有意識(shí)、情感和心智;人機(jī)融合只是強(qiáng)化適應(yīng)性表征能力，彌補(bǔ)人類(lèi)生物體先天的缺陷，如記憶容量小、計(jì)算速度慢等。

還有一個(gè)問(wèn)題不容小覷，那就是如果機(jī)器人成為勞動(dòng)的主力軍，大多數(shù)工作都由機(jī)器人完成，那機(jī)器人的數(shù)量會(huì)非常龐大，消耗的能量和材料也會(huì)十分驚人。到那時(shí)，地球的資源就會(huì)加速被耗盡。一旦機(jī)器人代替了人力工作，人類(lèi)除了高端人才（管理、設(shè)計(jì)制造機(jī)器人等）外，其余人將無(wú)所事事，這是更可怕的事情。大量無(wú)事可做的人會(huì)無(wú)事生非，制造麻煩，從而引起社會(huì)動(dòng)蕩。而且不良政客會(huì)利用機(jī)器人打仗，如現(xiàn)在的無(wú)人機(jī)可能改變戰(zhàn)爭(zhēng)模式。筆者不是擔(dān)心機(jī)器人會(huì)超過(guò)人類(lèi)智能，而是擔(dān)心有人利用機(jī)器人干壞事，畢竟機(jī)器人是人造的工具（況且人很多情況下也被當(dāng)作工具）。本質(zhì)上作為工具的機(jī)器人是不大可能把其主人作為工具役使的，除非人類(lèi)自己太過(guò)信任和依賴(lài)機(jī)器人。

然而，不可否認(rèn)的事實(shí)是，從外部看機(jī)器人的確擁有智能，問(wèn)題是我們不能輕信機(jī)器智能。比如，人們以為無(wú)人機(jī)會(huì)準(zhǔn)確定位并能夠“定點(diǎn)清除”恐怖分子，而事實(shí)是，它會(huì)誤殺平民甚至兒童，因?yàn)榭植婪肿訒?huì)假扮成平民，機(jī)器智能無(wú)法識(shí)別。所以，我不擔(dān)心人工智能技術(shù)會(huì)發(fā)展出高級(jí)機(jī)器智能，而是擔(dān)心人們過(guò)于相信和依賴(lài)機(jī)器智能。一旦機(jī)器出了差錯(cuò)，如手術(shù)時(shí)機(jī)器失準(zhǔn)，責(zé)任算誰(shuí)的，醫(yī)生還是機(jī)器？這會(huì)引發(fā)一系列道德和法律問(wèn)題。所以，機(jī)器人世界對(duì)人性的沖擊不可小視。假若有一天與我們打交道的全是機(jī)器人，餐廳服務(wù)員、銀行職員、學(xué)校的老師、醫(yī)院的醫(yī)護(hù)人員、公交系統(tǒng)、家政服務(wù)，等等，我們與人打交道的機(jī)會(huì)幾乎沒(méi)有了，我們的“人性”會(huì)變?yōu)椤皺C(jī)性”。這樣一來(lái)，人之為人的性情和樂(lè)趣消失了，剩下的恐怕只是冷冰冰的機(jī)器。這就自然引出下一個(gè)問(wèn)題———類(lèi)人智能是否必要。

六、類(lèi)人或超人機(jī)器人是否必要

科技史告訴我們，任何一種技術(shù)發(fā)明的出現(xiàn)都是社會(huì)需要的推動(dòng)，如蒸汽機(jī)、發(fā)電機(jī)、計(jì)算機(jī)，人工智能和機(jī)器人也不例外。這個(gè)問(wèn)題可從如下兩方面來(lái)考慮。

從人類(lèi)社會(huì)發(fā)展的角度看，智能機(jī)器人是我們需要的。首先，僅從發(fā)展智能這個(gè)角度，認(rèn)知科學(xué)和文化人類(lèi)學(xué)的研究揭示，在進(jìn)化的基礎(chǔ)上是語(yǔ)言和文化塑造我們的心智。這意味著心智是借助某種中介形成的?，F(xiàn)代社會(huì)的互聯(lián)網(wǎng)這種中介，也會(huì)塑造我們的大腦，這是文化塑造心智的必然推論。因?yàn)榛ヂ?lián)網(wǎng)就是一種文化，是人工認(rèn)知系統(tǒng)的一部分。當(dāng)然，這種文化中介現(xiàn)象也要從正反兩方面來(lái)看。一方面，互聯(lián)網(wǎng)這種中介使我們的認(rèn)知更便捷，如搜索需要的信息和答案;另一方面，互聯(lián)網(wǎng)也使得人們懶于去思考，從而造成思維惰性，久而久之我們的心智就會(huì)變得遲鈍。這就是互聯(lián)網(wǎng)帶來(lái)的積極與消極兩方面的后果。事實(shí)上，任何一項(xiàng)技術(shù)發(fā)明都有正反兩種功能，關(guān)鍵是人類(lèi)如何看待和使用了。在我看來(lái)，任何技術(shù)發(fā)明包括智能機(jī)，如何利用關(guān)鍵在我們?nèi)祟?lèi)自己———是善用還是惡用，比如是造核武器（殺人）還是建造核電站（造福人類(lèi)）。

其次，互聯(lián)網(wǎng)讓多智能體的協(xié)作成為可能，這極大地提高了機(jī)器人的工作效率，如固定機(jī)器人的自動(dòng)化生產(chǎn)線，無(wú)人機(jī)的高空搜索和勘測(cè)。這種智能機(jī)器人的廣泛應(yīng)用，對(duì)社會(huì)的方方面面產(chǎn)生了積極影響，實(shí)現(xiàn)了以前靠人力做不到的事情。更為重要的是，在農(nóng)業(yè)、工業(yè)和國(guó)防等關(guān)乎民生和安全領(lǐng)域，智能機(jī)器人具有不可替代的作用。因此，發(fā)展類(lèi)人機(jī)器人是人類(lèi)社會(huì)發(fā)展的必然要求。

從消耗資源的角度看，我們的地球資源是有限的，存在著不可預(yù)知的各種風(fēng)險(xiǎn)———?dú)夂蝻L(fēng)險(xiǎn)、天文風(fēng)險(xiǎn)（外星撞擊）、病毒風(fēng)險(xiǎn)（如新冠病毒、艾滋?。?、資源枯竭、核威脅等。人工智能的發(fā)展與這些風(fēng)險(xiǎn)相比會(huì)小得多，所以我們不必過(guò)于擔(dān)憂(yōu)人工智能會(huì)威脅人類(lèi)的生存。相比而言，倒是制造出數(shù)以?xún)|計(jì)的機(jī)器人而消耗的無(wú)法估量的能源，可能會(huì)加速地球資源的枯竭這一點(diǎn)更令人擔(dān)憂(yōu)。正如斯加魯菲指出的“人類(lèi)不斷創(chuàng)造智能機(jī)器，可能會(huì)加劇災(zāi)難臨近的風(fēng)險(xiǎn)。災(zāi)害可能比超級(jí)智能機(jī)器找到避免災(zāi)難的方法來(lái)的更快。”①也就是說(shuō)，還沒(méi)有等人類(lèi)造出超級(jí)智能時(shí)，災(zāi)難已經(jīng)發(fā)生。這絕不是危言聳聽(tīng)，我們?nèi)祟?lèi)應(yīng)該警覺(jué)清醒，應(yīng)該懂得有所收斂。

在我看來(lái)，在工具的意義上我們沒(méi)有必要制造這樣的類(lèi)人物種，因?yàn)槲覀內(nèi)祟?lèi)已經(jīng)夠多了，何必自找麻煩制造類(lèi)人的東西呢？人工智能無(wú)論多么智能，畢竟還是供人使用的工具，其目的不外是減輕人類(lèi)認(rèn)知上的負(fù)荷而已。只要這個(gè)目的達(dá)到了，作為工具的機(jī)器人有無(wú)意識(shí)、有無(wú)感情、有無(wú)道德感、有無(wú)做人的資格等都不重要了。誰(shuí)會(huì)在乎一件工具（無(wú)論多么精致和有智能）是什么呢？所以我認(rèn)為未來(lái)的機(jī)器人是否達(dá)到人類(lèi)水平無(wú)關(guān)緊要。要緊的是我們不能讓這種機(jī)器人危害人類(lèi)社會(huì)和人類(lèi)自身的安全就可以了。我相信，既然我們?nèi)祟?lèi)能夠造出這樣的機(jī)器人，就一定能夠控制其行為是有利于人類(lèi)的。工具本身并無(wú)好壞之分，關(guān)鍵是使用工具的人是好人還是壞人。這就要控制不能讓壞人掌握機(jī)器人技術(shù)，這與讓核武器掌握在誰(shuí)手中是一個(gè)道理。在這個(gè)意義上，我們不必?fù)?dān)心人工智能會(huì)超越人類(lèi)智能，也不必?fù)?dān)心它會(huì)控制人類(lèi)從而取代人類(lèi)。這是因?yàn)椋绻悄軝C(jī)器人只是代替我們做一些如掃地、排隊(duì)、作代理之類(lèi)的事情，那么“它不需要有意識(shí)、自知或者總體上具有人類(lèi)這樣的智能：它只需要能夠自立，頂多有能力適應(yīng)變化的環(huán)境就行了，就像今天簡(jiǎn)單的病毒一樣。”①也就是說(shuō)，人工智能僅僅有適應(yīng)性表征的能力就足夠了。

如果通過(guò)適應(yīng)性表征能夠讓人工智能像人那樣思維與行動(dòng)，這是否意味著人工智能就會(huì)超越人類(lèi)甚至控制人類(lèi)呢？在我看來(lái)，人們用不著擔(dān)心，即使人工智能可以像人一樣思維和行動(dòng)，但它們?nèi)匀皇菣C(jī)器，缺乏人類(lèi)所擁有的意識(shí)、情感和靈性。這一點(diǎn)是硅基的機(jī)器人恐怕永遠(yuǎn)不會(huì)獲得的，除非人們發(fā)展出人機(jī)融合的智能體。這種人機(jī)融合的智能，既不是純粹的人類(lèi)智能（生物的+文化的）也不是純粹機(jī)器智能（機(jī)械的+算法），而是生物—文化—機(jī)械的整合智能。這將是一種全新的智能形式———具身的人工智能，因此“人工智能是一種與眾不同的技術(shù)。不僅因?yàn)樗軌驈氐椎馗淖兾覀兊纳鐣?huì)、經(jīng)濟(jì)和我們居住的星球，也因?yàn)樗P(guān)乎我們自身———我們是誰(shuí)？我們?nèi)绾嗡伎?、溝通？是什么讓我們成為人?lèi)？”②在這個(gè)意義上，有限地創(chuàng)造新型人工智能還是有必要的、有意義的，至少能有助于我們認(rèn)識(shí)我們自己。

七、結(jié)語(yǔ)

人的“記憶”與計(jì)算機(jī)的“儲(chǔ)存”不是一回事。人類(lèi)的“知道”與機(jī)器人的“感知”也不同。由此我們推知，人類(lèi)智能與機(jī)器智能不同，就像鳥(niǎo)會(huì)飛與飛機(jī)能飛，魚(yú)會(huì)游泳和潛水艇能游泳不同一樣。這是兩種完全不同的實(shí)體，依據(jù)完全不同的理論。目前，人類(lèi)的機(jī)械化（弱人工智能）事實(shí)上已經(jīng)實(shí)現(xiàn)，機(jī)器的人化（強(qiáng)人工智能）能否實(shí)現(xiàn)還未知，至少還有遙遠(yuǎn)的路要走。在我看來(lái)，機(jī)器人無(wú)論多么聰明，只能是人類(lèi)的助手而不是主人，也不會(huì)在綜合能力上特別是精神層次上超越人類(lèi)成為人類(lèi)的替代物。機(jī)器人僅僅是工具，不是有主體意識(shí)和人格的人類(lèi)，因此沒(méi)有人的資格和權(quán)利。是人創(chuàng)造了機(jī)器人而不是相反。因此，自主制造機(jī)器人的機(jī)器（不受人類(lèi)控制的機(jī)器）不會(huì)產(chǎn)生。目前，人們對(duì)人工智能的發(fā)展進(jìn)行反思、批判是必要的，擔(dān)憂(yōu)也是可理解的，畢竟無(wú)人機(jī)造成的危害有目共睹，但不能因此就認(rèn)為應(yīng)該禁止其發(fā)展！人機(jī)共存的時(shí)代幾乎不可避免，我們應(yīng)該考慮如何與機(jī)器人和諧相處，如何制造為人類(lèi)服務(wù)的機(jī)器人，如何防止機(jī)器人被壞人利用，而不是一味地反對(duì)。