顏青山

(華東師范大學(xué) 哲學(xué)系，上海 200241)

基于大數(shù)據(jù)的深度學(xué)習(xí)技術(shù)正快速地應(yīng)用于各個(gè)方面，人工智能的產(chǎn)業(yè)前景已觸手可及，同時(shí)，標(biāo)志性的阿爾法狗(Alpha Go)事件則讓文人們的倫理擔(dān)憂再次躍然紙上。這一波人工智能的紙面熱忱主要集中于技術(shù)前景設(shè)想、政策研究和倫理規(guī)范的討論，而早期感興趣的哲學(xué)基礎(chǔ)則鮮有問津。但哲學(xué)基礎(chǔ)的討論才是最終消除文人們倫理擔(dān)憂的方式。

回溯早期哲學(xué)家對(duì)人工智能之為智能的批評(píng)，主要來自三個(gè)方面：基于哥德爾不完備性定理的反駁、德雷弗斯的現(xiàn)象學(xué)反駁和塞爾的因果力反駁。這些討論雖然取得了不小的進(jìn)展，但并沒有澄清所有的問題，甚至對(duì)某些關(guān)鍵問題也沒有給出明晰的解決方案。哥德爾式反駁只是針對(duì)人工智能的某種研究方式(如符號(hào)主義)，其本身包含了一個(gè)兩難：一方面，它相信人工智能是一個(gè)邏輯一致的系統(tǒng)，但會(huì)遇到完備性困難；另一方面它又要求，人工智能要成為人的智能，則不應(yīng)該是這樣的系統(tǒng)。問題是，為什么人工智能系統(tǒng)非得如他們所相信的那樣一致不可呢？事實(shí)上，新式的人工智能就沒有那么追求系統(tǒng)的一致性。

德雷弗斯基于存在主義的“在世存在”觀念提出人工智能不可能是真正的智能，因?yàn)槿斯ぶ悄苋狈θ祟愔悄苄纬傻谋匾獥l件，即自我意識(shí)從人與世界的互動(dòng)中發(fā)展出來的“在世”過程。[1]與德雷弗斯以著作過于宏闊粗疏、喋喋不休相比，多年后塞爾以一篇論文形式(《心靈、大腦與程序》[2])做的反駁顯得異常簡(jiǎn)單和明快，他利用思想實(shí)驗(yàn)構(gòu)造的“漢字屋”論證，直擊要害，非常符合分析哲學(xué)的清晰風(fēng)格。本文選擇明晰的“漢字屋”論證為出發(fā)點(diǎn)，試圖更進(jìn)一步明確其設(shè)計(jì)條件，并表明身處其中的塞爾對(duì)漢語存在著某種程度不同于中國(guó)人的理解，最終，本文將導(dǎo)向?qū)Φ吕赘ニ狗桨傅木_化。利用這一精確化的成果，可以消除通用人工智能全面超越人的擔(dān)憂，即超級(jí)人工智能不可能是人類智能。

一、塞爾的“漢字屋”論證

塞爾論證直接針對(duì)的目標(biāo)是尚克(Roger C. Schank)和阿貝森(Robert P. Abelson)基于“故事—問答”的“理解”程序。[3]在尚克看來，當(dāng)給出一段故事文本時(shí)，安裝了某種程序的計(jì)算機(jī)能夠回答就故事內(nèi)容提出的問題。這些問題的答案在文本中可能并不明確，而是以推理的形式蘊(yùn)含在故事中，也就是說，程序可以通過推論給出文本所沒有的內(nèi)容。這種問答非常類似于我們?cè)谡Z文測(cè)試時(shí)的閱讀理解形式，因此，他們相信這樣的程序是具有理解能力的。

塞爾反駁使用了一個(gè)叫作“漢字屋”的思想實(shí)驗(yàn)：假如塞爾本人只懂英語，完全不懂漢語，他被關(guān)在一個(gè)僅有小窗口與外界聯(lián)系的屋子里，屋子里有足夠多的漢字符號(hào)和一本如何使用漢字符號(hào)的英文說明書。屋子外的人通過小窗口向塞爾遞進(jìn)寫有漢語問題的紙條，塞爾在那本英文說明書的指導(dǎo)下挑出漢字組成句子，就可以給出回答紙條問題的合適答案。思想實(shí)驗(yàn)的核心問題是，“漢字屋”內(nèi)的塞爾是否理解漢語？

假設(shè)這樣的問答方式可以多輪次進(jìn)行下去，那么，每次當(dāng)塞爾把寫有答案的紙條通過窗口遞出屋子時(shí)，在屋子外面的人看來，塞爾回答了漢語問題，因而是理解漢語的。然而問題是，塞爾本人在這個(gè)過程中始終是不理解漢語的，他甚至可能不知道自己處理的是漢語問答。如果我們把“漢字屋”系統(tǒng)類比于計(jì)算機(jī)程序，漢語問答類比于任何閱讀問答，那么，塞爾本人不能理解漢語，就說明程序本身不能理解任何語言。塞爾論證說，計(jì)算機(jī)程序只是一種依據(jù)定義而真的語法或語形結(jié)構(gòu)，程序沒有語義結(jié)構(gòu)。塞爾的最終結(jié)論是，基于設(shè)計(jì)程序的人工智能不可能具有理解能力，因此也沒有真正的心靈。

在“漢字屋”論證中，有兩個(gè)原則是重要的：[4]第一，語形(syntax)完全不同于且不足以產(chǎn)生語義(semantic)；第二，心靈必須依賴于大腦及其神經(jīng)系統(tǒng)的因果力(causal power)才能發(fā)生。應(yīng)該說，這兩個(gè)前提之間并沒有必然關(guān)聯(lián)，第一個(gè)成立不意味著第二個(gè)成立，它們之間存在邏輯溝壑。第一個(gè)是否定性的，針對(duì)的是推理程序驅(qū)動(dòng)的人工智能；第二個(gè)是積極性的，指明任何強(qiáng)人工智能研究都必須依賴于大腦及其神經(jīng)系統(tǒng)之因果性。盡管如此，這兩個(gè)前提對(duì)塞爾的論證看上去卻是足夠的。存在理解活動(dòng)是心靈的基本特征，而理解的內(nèi)容是語義的，理解能力則是大腦的因果力，它們構(gòu)成了理解活動(dòng)的充分必要條件；如果計(jì)算機(jī)及其程序不具備這兩個(gè)方面的東西，那么，它就不具備理解能力，從而也沒有心靈。

就它們的充要性而言，我們似乎可以提供自然語言學(xué)習(xí)的例子。自然語言中母語學(xué)習(xí)過程似乎表明，足夠復(fù)雜的語義學(xué)習(xí)，就可以充分地產(chǎn)生語法或語形，例如，一個(gè)母語學(xué)習(xí)者(從而是具備大腦因果力的)，即使他從來沒有學(xué)習(xí)過語法，他的言語活動(dòng)或行為也可以非常好地符合語法(第三部分將以不同的方式考察這一點(diǎn))。相反的過程似乎在實(shí)際中難以出現(xiàn)，不能讓一個(gè)人僅僅學(xué)習(xí)語法就掌握一門語言，更不能因此讓他獲得該語言的語義。

從不同人工智能研究方式來看，“漢字屋”論證貌似對(duì)符號(hào)主義的反駁特別有效，而對(duì)聯(lián)結(jié)主義和行動(dòng)主義的反駁就沒有那么強(qiáng)。但其實(shí)，塞爾所列舉的對(duì)“漢字屋”反駁的主要回應(yīng)中就包括了三種人工智能研究方式和它們的聯(lián)合形式：基于“漢字屋”整體系統(tǒng)的回應(yīng)相當(dāng)于符號(hào)主義模型，因?yàn)樗菍?duì)尚克程序的直接辯護(hù)，而該程序可看作是符號(hào)主義的；機(jī)器人回應(yīng)則可以看作是行動(dòng)主義的方案，強(qiáng)調(diào)了行動(dòng)對(duì)智能的重要性；基于模擬大腦的回應(yīng)則應(yīng)屬于聯(lián)結(jié)主義的方案，它強(qiáng)調(diào)了系統(tǒng)對(duì)大腦及其神經(jīng)系統(tǒng)的模擬(而不是因果復(fù)制)。

塞爾的反駁對(duì)當(dāng)時(shí)的強(qiáng)人工智能研究是致命的。所謂強(qiáng)人工智能，就是通過程序和模擬開發(fā)出具有人類智能的人工智能。目前的人工智能則以弱人工智能研究為主，弱人工智能研究不追求產(chǎn)生人類智能的機(jī)器，而只是解決具體問題并形成實(shí)際用途(如基于大數(shù)據(jù)的識(shí)別和診斷作業(yè))，弱人工智能解決問題的能力可以大大強(qiáng)于人類，如下棋的能力。

既然目前的主流是弱人工智能，我們似乎就有理由認(rèn)為，直到今天，塞爾的反駁對(duì)人工智能的反駁依然有效。然而，畢竟弱人工智能已經(jīng)獲得了極大的進(jìn)步，人們可能會(huì)問，如果當(dāng)今最先進(jìn)的人工智能(例如基于深度學(xué)習(xí)的人工智能)依然不具備人的智能，那么，其原則上是否可以還原到“漢字屋”模型呢？如果不能還原到“漢字屋”，那是否意味著這樣的人工智能研究具有產(chǎn)生人類智能的前景呢？

上述第一個(gè)問題的答案基本上是肯定的，深度學(xué)習(xí)就是聯(lián)結(jié)主義的技術(shù)，塞爾在論文中以極其簡(jiǎn)潔的方式做出了回應(yīng)。即使深度學(xué)習(xí)引入了語義(例如，可以編寫一本漢英字典)，這些語義的引入是廣泛收集了漢語和英語的翻譯資料促成的，是對(duì)人的智能成果的歸納整理，而不是機(jī)器智能。這就相當(dāng)于“漢字屋”的英文說明書是一個(gè)懂漢語的人編寫的，是他將漢語語義編入了英文說明書中，“漢字屋”里的塞爾如果由此獲得語義理解，也是來自說明書的編寫者；這也相當(dāng)于計(jì)算機(jī)程序員把語義結(jié)構(gòu)引入程序，但計(jì)算機(jī)本身并沒有獲得語義。由此，第二個(gè)問題的答案是否定的。

第三個(gè)問題比較特別。似乎塞爾的論證并不成功，但我們是否依然有改造“漢字屋”論證繼續(xù)否定強(qiáng)人工智能的可能性？

除了塞爾本人在論文中列舉的類型，“漢字屋”論證一直在經(jīng)受著反駁，大致是針對(duì)其兩個(gè)基本立場(chǎng)的。[4]幾乎所有對(duì)塞爾論證的反駁都試圖表明，“漢字屋”實(shí)驗(yàn)因?yàn)樵谡撟C上是無效的，所以在結(jié)論上也是無效的。然而，在邏輯上，還有其他兩種情形：論證有效但結(jié)論無效，論證無效而結(jié)論有效。

本文的目標(biāo)是第三種情形，即論證無效而結(jié)論有效。我們將承認(rèn)，現(xiàn)有人工智能技術(shù)進(jìn)展原理上仍然可以還原到“漢字屋”結(jié)構(gòu)，只是因?yàn)槿麪栒撟C的某個(gè)步驟無效而使得其論證失效，不過，我們依然可以通過改進(jìn)“漢字屋”論證從其他方面來否定強(qiáng)人工智能的可能性，并且得到與塞爾不同的結(jié)論。這種可能性與“漢字屋”本身的設(shè)計(jì)缺陷有關(guān)。

我們后面的論證將表明，“漢字屋”里的塞爾至少在某種程度上(或部分地)理解了漢語，只不過是以不同于中國(guó)人理解漢語的方式獲得了這些理解能力的。因?yàn)槿麪柋救司哂杏⒄Z理解能力(或者說，具有理解能力)，他完全可以將這種理解力通過研究漢語問答而遷移到漢語理解中；但是，我們也將承認(rèn)，基于程序語言的計(jì)算機(jī)依然不具備理解能力，因?yàn)樗鼈兩踔敛荒軌蚶斫庥⒄Z。塞爾的失敗只在于思想實(shí)驗(yàn)的類比部分，他將他對(duì)漢語的理解能力類比于計(jì)算機(jī)的理解能力是成問題的。我們也將表明，塞爾在“漢字屋”中獲得的對(duì)漢語的部分理解能力基于其他必要條件——心靈通過對(duì)語義的操作，或行為對(duì)大腦或神經(jīng)肌肉系統(tǒng)(因果力)的部分可逆性塑造。這個(gè)過程不同于純粹的語義理解，比語義理解對(duì)心靈而言更為根本。

二、深度“漢字屋”與實(shí)踐理解

在對(duì)塞爾論證的回應(yīng)中，有關(guān)于“理解”問題的深入討論，畢竟塞爾“漢字屋”論證只是訴諸直覺地談?wù)摗袄斫狻眴栴}。不過，這種討論很容易陷入語詞之爭(zhēng)。而本文依然將訴諸思想實(shí)驗(yàn)所蘊(yùn)含的直覺，不過將展示的是“理解”的另一種直覺，即對(duì)語形的“實(shí)踐理解”(practical understanding)。

丘奇蘭夫婦是聯(lián)結(jié)主義的倡導(dǎo)者，他們?cè)?jīng)撰文反駁塞爾論證的第一個(gè)前提，認(rèn)為語形和語義的區(qū)分可能并不絕對(duì)，而是一個(gè)開放的經(jīng)驗(yàn)問題。[5]他們以“光照屋”(Luminous Room)的思想實(shí)驗(yàn)表明，語形和語義的關(guān)系問題或許像磁場(chǎng)變化與光之間的關(guān)系一樣，需要經(jīng)驗(yàn)研究來證明它們是否相關(guān)，也許未來的經(jīng)驗(yàn)研究將表明語形和語義之間是相互關(guān)聯(lián)的。塞爾后來給出的反駁是，語形是與觀察者相關(guān)的，其本體論地位完全不同于磁場(chǎng)變化導(dǎo)致光(電磁波)的觀察者中立，它們不是經(jīng)驗(yàn)關(guān)系。[6](P84)塞爾回應(yīng)的意思是說，語義與語形的關(guān)系不像磁場(chǎng)(變化)導(dǎo)致電磁波那樣客觀中立，與使用者相關(guān)。

然而塞爾回應(yīng)本身就可能承認(rèn)了語義和語形之間沒有明確的界限(即不具有中立性)，從而可以相互轉(zhuǎn)化。至少有兩類可能的證據(jù)表明這一點(diǎn)：

首先，即使語形是先天的，通過語形關(guān)系到達(dá)語義仍然是可能的。例如，算術(shù)系統(tǒng)完全可以看作是一個(gè)基于定義的程序系統(tǒng)或語形系統(tǒng)，但對(duì)于算術(shù)系統(tǒng)的創(chuàng)立者(人類全體或數(shù)學(xué)家)是存在語義的，例如，數(shù)是有含義的，算術(shù)命題是有意義的，人類完全可以理解它們。

其次，如前面提到，自然語言中語法或語形同語義可以是經(jīng)驗(yàn)相關(guān)的，一個(gè)學(xué)習(xí)母語的人可以從來不學(xué)習(xí)語法，而在語言使用熟練化后自動(dòng)地獲得對(duì)語法的掌握。

誠然，塞爾可以反駁說，算術(shù)系統(tǒng)的語義性質(zhì)是由于不完備性造成的。根據(jù)哥德爾不完備性定理，算術(shù)系統(tǒng)作為一個(gè)邏輯一致的命題系統(tǒng)，其中必然至少有一個(gè)命題是不可證明的，這個(gè)命題的真理性只能依賴于人的直覺，而直覺本身是語義學(xué)的，因此，算術(shù)系統(tǒng)的語義學(xué)是通過其不完備性引入的，而其他命題的語義學(xué)特征都是由這個(gè)不可證命題的邏輯傳遞(演繹推理)派生出來的。

關(guān)于自然語言的語義足以充分導(dǎo)致語法的問題，塞爾可以運(yùn)用我們前面給出的說明加以反駁，即語義足以充分地導(dǎo)致語形，并不意味著語形足以導(dǎo)致語義，而語義是理解的必要條件，沒有語義結(jié)構(gòu)的系統(tǒng)不可能具有可理解性。更進(jìn)一步地，即使計(jì)算機(jī)程序中包含了語義結(jié)構(gòu)，也并不意味著這樣的程序具有理解能力，因?yàn)檎Z義只是語言理解的必要條件而不是充分條件——還必須具備大腦因果力。

不過，我們的目標(biāo)并不是反對(duì)塞爾的全部論證，我們只是要表明，“漢字屋”里的塞爾可以具備部分理解漢語的能力。對(duì)我們的論證而言，人類對(duì)算術(shù)系統(tǒng)的理解能力已經(jīng)足以支持我們的結(jié)論，即使“漢字屋”里說明書是如算術(shù)系統(tǒng)那樣的語形結(jié)構(gòu)，塞爾也可以具備理解它的能力，因?yàn)槿祟惸軌蚶斫馑阈g(shù)系統(tǒng)，并且，如果合適地處理“漢字屋”系統(tǒng)，即使塞爾無法理解漢語語義也可以理解漢語語法。

或許塞爾對(duì)語義的理解不同于我們對(duì)算術(shù)系統(tǒng)的理解說明，根據(jù)他對(duì)因果性的自然主義理解，他可能會(huì)訴諸一種語義外部論。在語義外部論看來，一個(gè)語詞有意義必然是有指稱的，而指稱必然與語言之外的某個(gè)對(duì)象關(guān)聯(lián)起來；一個(gè)依據(jù)定義的程序系統(tǒng)不可能與外部對(duì)象關(guān)聯(lián)起來，因此，它是沒有語義學(xué)結(jié)構(gòu)的。

不過，我們這里并不想糾纏于語義外部論和語義內(nèi)部論的爭(zhēng)論，我們打算接受語義外部論作為我們改進(jìn)“漢字屋”設(shè)計(jì)的基本準(zhǔn)則，即避免在“漢字屋”的英文說明書中引入基于外部指稱的漢語語詞翻譯。

毋庸置疑，塞爾設(shè)計(jì)“漢字屋”思想實(shí)驗(yàn)時(shí)做出的論證是漂亮的，但這并不意味著其設(shè)計(jì)的所有條件都是足夠清晰而沒有歧義的。就我們的論證而言，其中有兩個(gè)細(xì)節(jié)是重要的：一個(gè)是“漢字屋”中的塞爾理解漢語的意愿，它涉及語形對(duì)語義是否“充分”的問題；另一個(gè)是英文說明書的編寫方式，它涉及如何最大限度地保持其“語形”色彩的問題。

由于“漢字屋”論證的第一個(gè)要點(diǎn)涉及語形對(duì)語義是否具有充分性的問題，我們必須對(duì)“漢字屋”條件下的這種“充分性”做出說明。所謂充分性，要求考慮所有可能方式對(duì)漢語理解的作用，因此，就“漢字屋”里的塞爾這樣一個(gè)主觀性個(gè)體而言，他對(duì)待理解漢語的態(tài)度就很重要，例如，塞爾是否愿意嘗試各種方式通過漢語問答和英文說明書理解漢語。如果“漢字屋”里的塞爾本身就對(duì)理解漢語缺乏足夠的興趣和動(dòng)機(jī)，那么，即使“漢字屋”邏輯上足以導(dǎo)致對(duì)漢語的理解(例如，將說明書寫成漢英詞典)，塞爾本人可能還是不理解漢語。因此，語形對(duì)語義的非“充分性”就意味著，只有當(dāng)塞爾在“漢字屋”條件下通過各種方式理解漢語的嘗試都失敗了之后，我們才可以認(rèn)定塞爾僅僅通過英文說明書和漢語問答無法理解漢語，由此才可以說，語形對(duì)語義是不充分的。因此，我們這里將“漢字屋”思想實(shí)驗(yàn)提出的問題修改為：“漢字屋”中的塞爾是否能夠?qū)W會(huì)漢語？“學(xué)會(huì)”比“理解”包含了更多的主動(dòng)意味和態(tài)度。

“漢字屋”論證中最核心的東西是英文說明書，但塞爾對(duì)它的描述并不足夠清晰。塞爾只是提示道，通過說明書我們可以擁有不同批次從窗口遞進(jìn)來的漢語文本中漢字之間的關(guān)系，有時(shí)他把這種關(guān)系看作只是純粹的位置關(guān)系，即漢字在漢語句子中的排序。

編寫說明書的人必定是懂漢語的，但不同的編寫方式將影響“漢字屋”中塞爾對(duì)漢語的理解嘗試。有兩種極端的編寫方式，一種是漢英字典，完全是語義學(xué)的；另一方式是，分別編寫問題清單和答案清單，用相同的數(shù)字表示它們的對(duì)應(yīng)關(guān)系，英文說明書只需要一句話：“根據(jù)問題清單中的數(shù)字找到答案清單的同一個(gè)數(shù)字后的漢語語句并抄下答案遞出?！?/p>

很顯然，按照塞爾的論證和我們確立的“漢字屋”設(shè)計(jì)的語義外部論準(zhǔn)則，第一種編寫方式是應(yīng)該避免的。因?yàn)樗钦Z義學(xué)的，如果以這種方式去論證“漢字屋”中的塞爾可以理解漢語，會(huì)陷入惡性循環(huán)。而第二種方式則會(huì)遇到一個(gè)麻煩，即清單將無法完整編制。人類所有自然語言都有一個(gè)共同的特征，就是文字的整體性和句子的組合性，即，文字是歷史地確定的，并且是有限的，而句子則是根據(jù)語法由文字組合而成的，這種組合數(shù)原則上是無限的。問題清單和答案清單既然是句子結(jié)構(gòu)的，那么它們就可能無限長(zhǎng)。這將意味著清單是無法提供的。

因此，一種好的編寫說明書的方式應(yīng)該最大限度地避免第一種方式，而最大限度地接近第二種方式。

如果像前面假定的一樣，塞爾有通過問答和英文說明書學(xué)習(xí)漢語的強(qiáng)烈意愿，那么，塞爾將至少可以獲得如下漢語語法知識(shí)，邏輯連接詞或邏輯常項(xiàng)(包括系詞)的意義、語詞的同義或反對(duì)關(guān)系、概念間的隸屬關(guān)系。這些知識(shí)之所以屬于語法知識(shí)，是因?yàn)樗鼈兪欠治鲂缘幕蚺c分析相關(guān)的。誠然，他可以知道“紅色”“是”“顏色”，但他不知道“顏色”這個(gè)詞語本身的含義，即使他接受中國(guó)人與他具有相同感知框架和事項(xiàng)范疇的先天綜合假設(shè)，他也有可能將“顏色”誤解為“讀物”，而“紅色”誤解為“小說”。概念間的關(guān)系可能是語法知識(shí)中最重要的部分，一組邏輯相關(guān)的概念將構(gòu)成一個(gè)類型或范疇，數(shù)目眾多但有限，雖然概念本身是具有語義的，但只要不給出外部指稱性含義，其關(guān)系仍然是語法的或語形的。

既然塞爾可以獲得這些語法知識(shí)，他本身就可以根據(jù)充分的漢語腳本重新改編說明書。因此，為了簡(jiǎn)單起見，我們可以設(shè)想遞進(jìn)去的說明書本身就包含了上述語法知識(shí)。我們可以進(jìn)一步設(shè)想，為了讓塞爾記憶方便，可以把各種概念關(guān)系圖示于屋子的墻壁上，說明書則是許多組合不同的舞蹈動(dòng)作指令，例如，舞蹈第一個(gè)動(dòng)作代表特定概念關(guān)系的類型，第二個(gè)動(dòng)作表示概念關(guān)系的特定層級(jí)(如“深紅色”“紅色”“顏色”就是三個(gè)層級(jí))，第三個(gè)動(dòng)作表示邏輯常項(xiàng)，等等。這樣，塞爾的每一套舞蹈動(dòng)作組合就對(duì)應(yīng)了一個(gè)問題的答案。

我們將塞爾回答問題的方式編制成舞蹈動(dòng)作并不是出于惡作劇，而是這種“操作”方式類似于語言的組合性，所有語句都是語詞根據(jù)語法的邏輯“演算”，而演算就是符號(hào)的思維操作過程，思維的操作完全可以類比于動(dòng)作的操作。更重要的是，我們?cè)谧匀徽Z言的母語學(xué)習(xí)過程中常常伴隨著行動(dòng)和動(dòng)作演示。

在上述過程，憑我們的理智直覺判斷，雖然塞爾依然不知道每個(gè)漢字的語義，但是他能夠通過操作過程理解漢語語法。這種理解可以類比于解決物理學(xué)問題時(shí)依據(jù)既有物理定律做出數(shù)學(xué)推導(dǎo)卻不知道結(jié)果的物理意義，即推導(dǎo)者不理解計(jì)算結(jié)果，但卻理解計(jì)算過程——其中英文說明(是有語義的)相當(dāng)于既有物理定律，而數(shù)學(xué)推導(dǎo)相當(dāng)于舞蹈動(dòng)作，結(jié)果相當(dāng)于漢語答案(有語義但不被理解)。

對(duì)這種理解方式，可能存在如下兩種認(rèn)為塞爾其實(shí)完全理解漢語的積極回應(yīng)方式。

第一種觀點(diǎn)是，“漢字屋”里的塞爾是以“使用”的方式理解了漢語，而不是以“提及”的方式理解漢語。按照斯特勞森的論證，語言通過使用而提及指稱，使用是一個(gè)基于習(xí)慣和語境相關(guān)的過程，當(dāng)我們僅僅使用一個(gè)句子，如“當(dāng)今法國(guó)國(guó)王是禿頭”時(shí)，只要它符合語法，就是有意義的，從而是被理解了的；只有當(dāng)我們將注意力轉(zhuǎn)向該句子提及的事實(shí)時(shí)，我們才會(huì)覺察到它的悖謬性。[7](P414-446)因此，我們似乎可以接受，塞爾在漢語使用的意義上理解了漢語。

第二種觀點(diǎn)是，塞爾確立了一種關(guān)于漢語的新的語義學(xué)結(jié)構(gòu)。如果把遞進(jìn)來的紙條上的問題看作符號(hào)和語詞，而遞出紙條的答案看作指稱，那么，在符號(hào)和指稱之間就建立了一種聯(lián)系。這種聯(lián)系就是塞爾完成的舞蹈，而舞蹈和答案一道構(gòu)成了問題的“語義”，從而，塞爾以一種特別的方式理解了漢語。

但是，這兩種可能的觀點(diǎn)都違背了我們承諾的語義外部論。就前者而言，塞爾無論如何也不可能知道句子的指稱(事實(shí))是什么，當(dāng)他希望通過句子“提及”事實(shí)時(shí)，他就會(huì)把每一個(gè)漢語句子都看作是沒有對(duì)應(yīng)事實(shí)的，即都是悖謬的——但很顯然，漢語句子在提問者看來并不如此。第二種觀點(diǎn)也不能給出語句的指稱，即使其有“意義”，也是基于系統(tǒng)的內(nèi)部指稱，與外部世界無關(guān)——況且，這種問題-答案對(duì)應(yīng)的語義學(xué)說明充其量是一個(gè)類比。

但由于“漢字屋”內(nèi)的塞爾能夠理解“舞蹈”形式，因此，無論如何，我們都可以承認(rèn)，“漢字屋”里的塞爾可以通過英文說明書和漢語問答方式，以不同于中國(guó)人的方式理解漢語語法。

就此而言，塞爾的“漢字屋”論證是失敗的，其錯(cuò)誤在于假定了理解漢語和理解英語之間完全是不可通約的，從而錯(cuò)誤地將“漢字屋”里塞爾對(duì)漢語的理解類比于計(jì)算機(jī)對(duì)程序的理解(即兩者都無法理解)。即使英文說明書和漢語問答相當(dāng)于程序，作為有理解力的塞爾本人也是可以理解程序的，就像我們可以理解算術(shù)系統(tǒng)一樣。但是，從另一方面看，因?yàn)橛?jì)算機(jī)本身缺乏理解能力，甚至不能夠理解英文說明書，所以計(jì)算機(jī)是不具有理解能力的，也就是說，塞爾的最終結(jié)論依然是可以接受的。不過，塞爾試圖通過“漢字屋”論證反駁強(qiáng)人工智能的企圖是失敗了，因?yàn)樗哪繕?biāo)是要論證計(jì)算機(jī)沒有理解能力，而我們只要接受其作為前提即可。

語法或語形理解是一種操作性理解，如前文提到的，我們可以稱之為“實(shí)踐理解”(我們?cè)趧e的地方也稱之為“實(shí)踐知性”[8](P124-134))。

三、人類心靈的實(shí)踐理解方式

對(duì)我們的論證的一個(gè)可能的反駁是，既然“漢字屋”內(nèi)的塞爾具有部分漢語理解能力，那么，計(jì)算機(jī)程序也就可以有部分理解能力。這種反駁其實(shí)是前文提到的反駁“漢字屋”論證的常用方式，核心方式是承認(rèn)塞爾類比的有效性，即塞爾對(duì)漢語語法的理解可以類比于計(jì)算機(jī)對(duì)任何一種語言語法的理解。然而，我們已經(jīng)說明，這個(gè)類比是不成立的。因?yàn)椤皾h字屋”內(nèi)的塞爾本身具有理解能力，而計(jì)算機(jī)程序卻不具有——其語法理解力至少是需要論證的。

我們接下來的論證有兩個(gè)要點(diǎn)：第一，實(shí)踐理解必須具有通過操作重塑大腦因果力的過程，而計(jì)算機(jī)程序不具備這個(gè)能力。這一點(diǎn)直接否定了程序具有語法理解能力的可能性。第二，僅僅憑語義能力不足以產(chǎn)生心靈，實(shí)踐理解才是心靈的最小充要條件，從而心靈本身是不可復(fù)制的，即塞爾主張的因果力復(fù)制不足以產(chǎn)生心靈。這一點(diǎn)將表明，即使塞爾的論證成立，單純的語義理解對(duì)心靈智能仍然不具有充分性。我們的論證不僅反駁了已有的強(qiáng)人工智能方案，而且也反駁了塞爾的方案。

要論證第一點(diǎn)，必須充分了解實(shí)踐理解的特征，而這要求先從第二點(diǎn)出發(fā)。

塞爾根據(jù)第二個(gè)原則性立場(chǎng)認(rèn)為，真正的智能應(yīng)該像人那樣從進(jìn)化過程產(chǎn)生出來，而其思維內(nèi)容必須是同大腦或神經(jīng)系統(tǒng)具有因果關(guān)聯(lián)的語義結(jié)構(gòu)；如果強(qiáng)人工智能是可能的，則必然是復(fù)制了大腦的因果力，依賴程序采取模擬方式(如聯(lián)結(jié)主義對(duì)神經(jīng)元的模擬)的任何行為都不是真正的智能。

然而，塞爾的這個(gè)結(jié)論是可以反駁的，讓我們考慮如下的思想實(shí)驗(yàn)。

一個(gè)從未學(xué)習(xí)過語言的幼兒顯然是具有大腦因果力的。假設(shè)我們只教他一些有實(shí)指對(duì)象的單個(gè)語詞的發(fā)音和書寫，但從來不教他完整的句子，除了單詞對(duì)應(yīng)的指稱也不再對(duì)其做出其他文字說明。這個(gè)幼兒顯然具有某種程度的語義理解能力，他知道所說或所寫的單詞的指稱，但是他可能無法理解那些無具體指稱的語詞，例如虛詞、邏輯連接詞、范疇概念詞——這些語詞的語義必須依賴于其他文字的說明。又假設(shè)他的記憶力驚人，能夠記住一種語言的所有實(shí)詞和相應(yīng)指稱。那么，他會(huì)自動(dòng)地獲得這門語言的理解能力嗎？很顯然，這是不可能的。因此，即使我們將他的大腦和身體都精確地復(fù)制了，他仍然不可能具備真正的心靈能力，其所具備的初級(jí)心靈能力，大概也只是動(dòng)物或嚴(yán)重智障水平。

這個(gè)思想實(shí)驗(yàn)也說明，我們前面提到的自然語言學(xué)習(xí)中，語義直接產(chǎn)生語形的充分性是可疑的，語形的理解必然依賴于語詞之間的演算和操作實(shí)踐。因此，在自然語言學(xué)習(xí)中，語義導(dǎo)致語形的情況確實(shí)是一個(gè)經(jīng)驗(yàn)問題，而不是先天決定的。

德雷弗斯開始反駁人工智能的符號(hào)主義時(shí)，梳理出當(dāng)時(shí)人工智能的四個(gè)主要假定并做出了精彩的反駁。然而，他關(guān)于真正智能的積極說明卻是模糊的，僅僅只是圖解了現(xiàn)象學(xué)尤其是存在主義的觀點(diǎn)，主張人作為“在世存在”(being-in-the-world)，其心靈的發(fā)生是高度語境(context)關(guān)聯(lián)的，不可能以科學(xué)定律的方式客觀地了解。[1]

雖然人工智能的主要假定是成問題的，但卻比德雷弗斯清晰，因此，我們倒不如先接受其主要假定，然后從實(shí)踐理解或現(xiàn)象學(xué)的角度，看看它們中間缺失了什么。我們可以嘗試預(yù)先接受其生物學(xué)假定和心理學(xué)假定，即生物學(xué)上將大腦和心靈分別類比于計(jì)算機(jī)硬件和軟件，而心理學(xué)上的心靈活動(dòng)基于離散符號(hào)或表征，是以算法規(guī)則運(yùn)行的離散計(jì)算。[9]

還是從語言出發(fā)，從語言的組合性出發(fā)。前文已經(jīng)提到，語言單詞是歷史地、因果地固定的，并且是有限的，而句子則是組合性的、無限的，由單詞到句子的操作規(guī)則是語法或語形。如果我們暫時(shí)接受語言哲學(xué)關(guān)于思維即語言的觀點(diǎn)(或者接受一種認(rèn)知進(jìn)化的重演律：語言現(xiàn)象是認(rèn)知進(jìn)化的最高形態(tài)，在發(fā)育中以微縮的方式重演了其他認(rèn)知活動(dòng)的進(jìn)化過程)，那么我們也可以將人類其他心靈活動(dòng)暫時(shí)如此簡(jiǎn)化：認(rèn)知單元、復(fù)合結(jié)構(gòu)、操作規(guī)則(或認(rèn)知語法)。這一點(diǎn)也符合人工智能心理學(xué)假設(shè)的離散化。

人類的心靈活動(dòng)是一個(gè)經(jīng)驗(yàn)問題，于是，我們有必要比較一下動(dòng)物尤其是最接近我們?nèi)祟惖撵`長(zhǎng)類的心靈水平。雖然靈長(zhǎng)類的心靈能力還不是足夠清楚，但也有相當(dāng)多的研究，其中一些證據(jù)已足以讓我們做出富于洞見的假設(shè)。[10]讓我們注意如下三個(gè)實(shí)驗(yàn)和田野事實(shí)：

第一，松澤哲郎的研究表明，黑猩猩對(duì)數(shù)字的瞬間記憶容量超過人類，可以記住10～20個(gè)隨機(jī)構(gòu)造的數(shù)字順序，而人類的一般水平是7～9個(gè)。

第二，成年黑猩猩在“教”幼年黑猩猩動(dòng)作(如用石塊砸開堅(jiān)果)時(shí)，從不關(guān)心其“學(xué)習(xí)”情況，幼年黑猩猩通過反復(fù)模仿和試錯(cuò)之后便整個(gè)地獲得了使用工具的能力。

第三，黑猩猩能夠識(shí)別假動(dòng)作，而人類兒童則不會(huì)。黑猩猩研究者完成了如下兩個(gè)實(shí)驗(yàn)：首先，由實(shí)驗(yàn)者演示三個(gè)必要的動(dòng)作(假定為A、B、C相繼順序)獲取透明玻璃箱子中的香蕉；結(jié)果是，人類兒童和黑猩猩都會(huì)按照這個(gè)順序獲取香蕉。然后，實(shí)驗(yàn)者修改機(jī)關(guān)，使得只有B和C對(duì)于獲取香蕉是必要的，即A是一個(gè)假動(dòng)作；結(jié)果卻是，人類兒童依然按照A、B、C的順序操作，而黑猩猩則只做了B和C。

如果假定瞬時(shí)記憶量反映了認(rèn)知單元的容量，那么第一個(gè)實(shí)驗(yàn)表明，黑猩猩的單元容量其實(shí)是大于成人的。這是黑猩猩適應(yīng)環(huán)境能力強(qiáng)于人類的地方，通常也被看作黑猩猩沒有進(jìn)化成為人類的原因——較強(qiáng)適應(yīng)能力妨礙了它們運(yùn)用組合(語形)的需要(needs)。對(duì)照人類的幼兒動(dòng)作教學(xué)過程，可以發(fā)現(xiàn)，第二個(gè)事實(shí)表明，黑猩猩“教學(xué)”過程中不需要像人類那樣分解動(dòng)作，而是一次性地完成了整個(gè)動(dòng)作。這再次說明黑猩猩的單元容量大于人類，但同時(shí)也發(fā)現(xiàn)黑猩猩缺乏動(dòng)作分解能力。而這種分解能力的差別在第三個(gè)實(shí)驗(yàn)中也有表現(xiàn)。人類兒童把每個(gè)動(dòng)作都當(dāng)作目標(biāo)，并分別關(guān)注三個(gè)動(dòng)作，然后將它們組合為一套動(dòng)作(典型的語法行為)，這里既有目標(biāo)的分層(最終目標(biāo)和分步目標(biāo))，也有分步目標(biāo)的組合。然而黑猩猩則是適應(yīng)目標(biāo)(最終目標(biāo))導(dǎo)向的，它們可能是后退著嘗試動(dòng)作的，先嘗試離目標(biāo)最近的一個(gè)動(dòng)作，如果失敗，再嘗試次近的一個(gè)動(dòng)作；因此，它們只需要完成兩個(gè)動(dòng)作就可以達(dá)到目標(biāo)(獲取香蕉)，從而看上去能夠“識(shí)別”假動(dòng)作。第三個(gè)實(shí)驗(yàn)也說明了黑猩猩不能分解動(dòng)作目標(biāo)，但適應(yīng)環(huán)境的效率和能力都強(qiáng)于人類。

上述比較認(rèn)知研究恰好表明動(dòng)物缺乏認(rèn)知語形能力，如果“漢字屋”內(nèi)關(guān)著一只黑猩猩，那么它是無法完成全部漢語問答的，即使它憑借其大容量的單元能力能夠完成一些固定的“組合”動(dòng)作——對(duì)它而言并不是真正的組合，只是機(jī)械的記憶。因?yàn)楹谛尚煽梢詫W(xué)習(xí)單元?jiǎng)幼?，我們相信它理解了單元?jiǎng)幼?。回到單元?jiǎng)幼髋c單詞的類比上，我們可以認(rèn)為黑猩猩具有語義理解能力。

回到復(fù)制心靈的思想實(shí)驗(yàn)上。如果幼兒的語義理解能力是可以復(fù)制的，那么它只相當(dāng)于黑猩猩的理解能力。由于缺乏語形或操作規(guī)則的理解能力，他們不具備真正的智能。人類要具備真正的理解能力和心靈能力，必須具有語形理解能力，即我們所謂的實(shí)踐理解能力。然而，實(shí)踐理解能力本身是一套身體化操作，是不可能通過對(duì)大腦的生物學(xué)復(fù)制而獲得的，是必須經(jīng)過訓(xùn)練才能獲得的，因此，心靈本質(zhì)上是不可復(fù)制的。

在實(shí)踐操作的訓(xùn)練過程中發(fā)生了什么呢？如果一個(gè)幼兒永遠(yuǎn)只停留在幼兒的語義理解階段，從不做實(shí)踐理解的訓(xùn)練，那么，當(dāng)他生理上成年的時(shí)候，他的智力將停留在幼兒水平。在實(shí)踐理解的訓(xùn)練過程中，當(dāng)我們熟練化其操作時(shí)，我們的理解活動(dòng)通過神經(jīng)肌肉系統(tǒng)塑造了大腦，這是實(shí)踐理解中發(fā)生的關(guān)鍵性事件，即語形理解因果地塑造了大腦。這也是狼孩故事所表明的事實(shí)。

從現(xiàn)象學(xué)的角度看，語義理解的成果是“感受質(zhì)”(qualia)現(xiàn)象，例如各種具體的顏色、聲音等感知現(xiàn)象，而語形理解的成果則是“領(lǐng)受額”或“領(lǐng)受度”(quanta)。[11]

從可意識(shí)性看，實(shí)踐理解是半透明的，而語義理解是透明的。所謂半透明，就是當(dāng)我們處于完全熟練的狀態(tài)時(shí)，我們可以不用意識(shí)到其操作過程，但通過審慎的反思可以部分描述；而語義的透明理解則是我們完全可明晰意識(shí)到語詞與指稱的對(duì)應(yīng)關(guān)系。

了解了實(shí)踐理解的特征，解決第一個(gè)論點(diǎn)就非常簡(jiǎn)單了。如果人類大腦-心靈可與計(jì)算機(jī)硬件-軟件類比，那么，實(shí)踐理解要求的是，計(jì)算機(jī)軟件的運(yùn)行可以因果地重塑硬件。從這一點(diǎn)看來，我們看不出基于程序的計(jì)算機(jī)過程如何做到這一點(diǎn)。也許人們會(huì)強(qiáng)調(diào)說，聯(lián)結(jié)主義對(duì)大腦的模擬就做到了這一點(diǎn)，而且，深度學(xué)習(xí)的過程像語形理解一樣，是不透明的。確實(shí)，深度理解對(duì)神經(jīng)網(wǎng)絡(luò)的模擬在中間層級(jí)是可塑的，也是不透明的，例如借助貝葉斯分布對(duì)中間層級(jí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)所做的權(quán)值調(diào)整就是這樣。但是，深度學(xué)習(xí)的不透明性乃是基于規(guī)則的復(fù)雜性和概率的不確定性，而不是熟練“使用”意義上的不透明性。更重要的是，模擬的神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)中只是軟件結(jié)構(gòu)，無論其如何調(diào)整都是軟件內(nèi)部的調(diào)整(就像我們知識(shí)結(jié)構(gòu)的變化)，它并沒有塑造計(jì)算機(jī)本身的硬件結(jié)構(gòu)(而我們的知識(shí)結(jié)構(gòu)變化是可以塑造大腦的)。

四、通用人工智能的兩難

基于實(shí)踐理解的智能反對(duì)大腦因果力復(fù)制對(duì)心靈的充分性。塞爾的維護(hù)者可能會(huì)辯護(hù)說，如果塞爾將大腦因果力看作心靈的必要條件而不是充分條件，就可以避免這樣的困難，畢竟實(shí)踐理解對(duì)大腦的因果塑造也要求大腦因果力的存在。

有趣的是，塞爾的批評(píng)者沃菲德(Ted Warfield)就是從另一個(gè)方向強(qiáng)調(diào)心靈最小必要條件來反對(duì)塞爾的。沃菲德認(rèn)為，塞爾關(guān)于“大腦全部因果力就是產(chǎn)生心靈的充分必要條件”的立場(chǎng)過強(qiáng)，應(yīng)該主張一種關(guān)于心靈的最小必要條件，而如果機(jī)器人具備那樣的最小因果力也可能產(chǎn)生心靈。[12]但是，這種最小必要條件的主張邏輯上是沒有意義的。例如，“張三是男人”的必要條件可以是“張三是人”，也可以是“張三是生物”，還可以是其他更弱的事實(shí)命題。作為必要條件，無疑后者比前者更弱，但對(duì)說明張三是男人這個(gè)事實(shí)沒有什么價(jià)值。因此，主張大腦因果力作為心靈必要條件的主張對(duì)于心靈的說明沒有什么價(jià)值。對(duì)心靈的一個(gè)好的說明應(yīng)該提供最小的充要條件，而實(shí)踐理解就是最小的充要條件。

對(duì)心靈的充要條件說明可能引發(fā)乞題(beg the question)的指責(zé)。實(shí)踐理解能力是以人的智能作為樣板的，因?yàn)槿说膶?shí)踐理解事實(shí)上產(chǎn)生了心靈，因此，人的實(shí)踐理解就是心靈的充要條件。這樣似乎就排除了心靈可以以其他方式形成的可能性，從而，對(duì)心靈條件的說明本身就包含在如此這般的心靈已經(jīng)存在的事實(shí)中了。

這種反駁沒有注意到我們揭示的只是心靈的最小充要條件而不是全部條件。誠然，一個(gè)無法避免的問題是，目前世界上只有人類才具有真正意義上的心靈，因此，任何對(duì)心靈的有價(jià)值的說明都必須參考人的心靈樣式。如果我們不這樣做，就可能陷入語詞之爭(zhēng)，事實(shí)上，當(dāng)年圖靈為了避免關(guān)于思維的語詞之爭(zhēng)，就假定人是能夠思考的，然后考察計(jì)算機(jī)與人的行為能否區(qū)分。[13]

更重要的是，避免乞題嫌疑的最小充要條件主張并不否定可以有人類之外的心靈，例如，我們可以如塞爾和德雷弗斯那樣，并不反對(duì)可以以人工方式“制造”出有心靈的機(jī)體，只是這種心靈機(jī)體必須具備實(shí)踐理解能力，并且這種理解方式能夠因果地塑造機(jī)體本身。這種主張具體化了德雷弗斯的方案。

筆者曾經(jīng)設(shè)想的圖靈機(jī)動(dòng)物最有可能產(chǎn)生出具有實(shí)踐理解力的心靈來，[8](P81-94)這個(gè)模型類似最近馬斯克等提出的大腦芯片嵌入。圖靈機(jī)動(dòng)物程序部分的工作是掃描大腦的神經(jīng)電位成像(例如表征“金絲雀”)，并激起另一個(gè)腦區(qū)形成邏輯相關(guān)的語詞圖像(例如表征“鳥”)，通過這個(gè)過程，使得圖靈機(jī)動(dòng)物形成關(guān)于語法的實(shí)踐理解?；蛘呦确謩e讓動(dòng)物完成兩個(gè)邏輯相關(guān)的動(dòng)作，并記錄各自腦區(qū)的活動(dòng)，然后，當(dāng)?shù)谝粋€(gè)動(dòng)作出現(xiàn)時(shí)，刺激第二個(gè)動(dòng)作的腦區(qū)，使得它們關(guān)聯(lián)起來。其中最大的困難是，動(dòng)物有可能不具備形成上位概念的能力，因?yàn)槠渲邪苏Z法的因素，因此，我們只能以其他具體概念圖像替代上位概念。當(dāng)然，這種研究所產(chǎn)生的嚴(yán)重的倫理問題是必須預(yù)先討論的。

如果實(shí)踐理解是心靈的最小充要條件，那么，根據(jù)實(shí)踐理解的其他特征，我們將可以論證，任何通用人工智能都會(huì)面臨一個(gè)兩難困境：如果通用人工智能是心靈智能，那么它不可能全面超越人類智能；如果通用人工智能全面超越人類智能即所謂超級(jí)人工智能，那么它不可能是心靈智能。

所謂通用人工智能(general AI)是區(qū)別于當(dāng)前的專用人工智能(special AI)的，專用人工智能只能解決某方面的具體問題，例如識(shí)別和診斷問題，但它還不像人那樣可以在各個(gè)方面具有智能。為了獲得通用人工智能，我們似乎可以做出如下推理：既然我們可以制造出解決具體問題的人工智能，如果我們把這些智能組合到一個(gè)人工智能體上，它就可以形成全面智能的通用人工智能——當(dāng)然，通用人工智能的倡導(dǎo)者并不主張通用人工智能以這種簡(jiǎn)單組合方式構(gòu)造出來，而是希望有一個(gè)整體的程序或機(jī)制來實(shí)現(xiàn)這些功能。進(jìn)一步地，由于每個(gè)方面的專用人工智能的能力都可以超出人類水平，那么通用人工智能可望全面超過人類智能。這就是波斯特羅姆(Nick Bostrom)提出的超級(jí)智能(super intelligence)。那么，超級(jí)智能可能是一種心靈智能嗎？這個(gè)問題對(duì)倫理學(xué)家來說非常重要：如果是，我們就得將它當(dāng)作人來看待；如果不是，不管其能力如何強(qiáng)大，我們都只把它當(dāng)作手段。

要得到上述關(guān)于通用人工智能的兩難結(jié)論，我們需要考察實(shí)踐理解的兩種方式。由于實(shí)踐理解是語形相關(guān)的，需要組合規(guī)則介入，通常，我們是根據(jù)既有規(guī)則學(xué)習(xí)操作，然后在反復(fù)訓(xùn)練之后熟練化。但在自然學(xué)習(xí)(如母語學(xué)習(xí))過程中，我們可能并不明確知道組合規(guī)則(語法)，而是在語義理解時(shí)通過試錯(cuò)來把握語形的，一旦把握即是熟練化的，可以從來都不明確意識(shí)到這些規(guī)則。我們將那種依據(jù)明確規(guī)則的操作性理解——在自然學(xué)習(xí)中是試錯(cuò)——稱為“嘗試?yán)斫狻保鴮⒛欠N熟練化之后的理解稱為“完全理解”。顯然，實(shí)踐理解通過神經(jīng)肌肉系統(tǒng)塑造大腦因果力的過程主要發(fā)生在完全理解狀態(tài)。

實(shí)踐理解的兩種方式實(shí)際上就是神經(jīng)生物學(xué)和認(rèn)知科學(xué)普遍接受的“雙加工”(dual process)過程，“雙加工”理論認(rèn)為，存在兩個(gè)認(rèn)知過程，自發(fā)的、快速的反應(yīng)和推論的、延時(shí)的反應(yīng)。實(shí)踐理解的嘗試?yán)斫馐峭普撔缘?，而完全理解則是自發(fā)性的。不同的地方在于，“雙加工”理論沒有強(qiáng)調(diào)兩者之間的轉(zhuǎn)化關(guān)系，而實(shí)踐理解則強(qiáng)調(diào)兩者是可以相互轉(zhuǎn)化的。

如果我們把身體及其意向功能看作意向方式，而心理學(xué)內(nèi)容看作意向內(nèi)容，那么，實(shí)踐理解兩種狀態(tài)的轉(zhuǎn)化實(shí)際上相對(duì)化了兩者之間的關(guān)系，即意向內(nèi)容可以塑造意向方式。完全理解由于因果地塑造身體(尤其是大腦)，實(shí)際上就是一種意向方式，而嘗試?yán)斫獾恼Z義內(nèi)容則是其內(nèi)容。在我們的實(shí)際生活中，這種相互轉(zhuǎn)化是廣泛存在的，例如“看”這種意向方式是身體的一種功能，對(duì)于藝術(shù)審美而言，入門者的“看”和專業(yè)級(jí)別的“看”是不一樣的，因?yàn)楹笳唛L(zhǎng)期的意向內(nèi)容訓(xùn)練已經(jīng)改造了“看”的方式，從而，兩者面對(duì)相同的“被看”對(duì)象時(shí)將會(huì)得到不同的“所看”內(nèi)容——這特別符合德雷弗斯對(duì)梅洛·龐蒂知覺現(xiàn)象學(xué)的運(yùn)用。

由此，我們可以發(fā)現(xiàn)，人工智能心理學(xué)假設(shè)所主張的心靈活動(dòng)離散計(jì)算只適應(yīng)于推論階段的理解活動(dòng)，而不適應(yīng)于自發(fā)階段的理解，而完全理解恰恰是心靈活動(dòng)的關(guān)鍵部分。

那么，上述關(guān)于實(shí)踐理解的特征為何會(huì)導(dǎo)致通用人工智能的兩難呢？

首先，我們就人類智能提出一個(gè)基于想象性事例的問題：是否存在一個(gè)人類成員，它在所有能力方面都超越所有其他成員？例如，他同時(shí)是長(zhǎng)跑冠軍、圍棋冠軍、奧數(shù)冠軍、最好的鋼琴家和小提琴手，等等；在凡是我們能夠想到的每個(gè)方面的能力方面，他都是最好的。很顯然，人類中不可能存在這樣的個(gè)體，因?yàn)槿祟愃@得的每項(xiàng)超過一般水平的能力都必須通過規(guī)律性訓(xùn)練維持，而訓(xùn)練需要時(shí)間，就我們現(xiàn)有的各方面的能力而言，如果每個(gè)方面都超越常人，時(shí)間是不夠的。

實(shí)踐理解由嘗試狀態(tài)轉(zhuǎn)化為熟練狀態(tài)需要訓(xùn)練時(shí)間，這是所有智能都具備的。就基于神經(jīng)系統(tǒng)的智能而言，人類或動(dòng)物最基礎(chǔ)的非反射類型是非常有限的(如食物反射、性反射和安全反射)，而在此基礎(chǔ)上形成的條件反射和智能活動(dòng)雖然可以多樣化，但必須規(guī)律性訓(xùn)練，否則就會(huì)退化或消失。這是一種進(jìn)化上的折中，過多的基礎(chǔ)反射類型會(huì)極大地增加神經(jīng)系統(tǒng)的復(fù)雜性以致身體難以承受或過于臃腫。同時(shí)，如果條件反射不會(huì)消失或退化，那么，當(dāng)一個(gè)環(huán)境具備激發(fā)所有條件反射的刺激因素時(shí)，則所有條件反射都將被自發(fā)地啟動(dòng)，其結(jié)果將使得主體處于嚴(yán)重的無序行為中。這種無序化顯然不可能是智能的。因此，實(shí)踐理解的完全狀態(tài)必定是可逆的。

為什么要參照人類智能來看人工智能呢？這是因?yàn)橹悄艿奶卣鲉栴}是一個(gè)開放的經(jīng)驗(yàn)問題，我們只能參照已有心靈的核心特征來考慮人工智能的心靈可能性。

也許，有人會(huì)反駁說，人類智能可以全面超越黑猩猩的智能，那么是否可以設(shè)想通用的強(qiáng)人工智能也可以在各個(gè)方面超越人類呢？答案當(dāng)然是否定的，因?yàn)槿祟愔悄懿]有全面超越黑猩猩，例如在認(rèn)知單元上人類恰恰弱于黑猩猩。

最后，既然超級(jí)智能不可能是人類的智能，如果它出現(xiàn)了，我們可以將其僅僅看作手段。這將告慰那些過度擔(dān)憂倫理問題的文人們。至于超級(jí)智能作為工具可能引起的其他倫理問題，我們完全可以參照對(duì)待其他工具的方式處理。