王峰

摘? ?要： ChatGPT、GPT4等大語言模型表現(xiàn)出來的超強(qiáng)對(duì)話能力和智能表征再次引發(fā)了人們對(duì)人工智能的熱議，大語言模型不具有自我意識(shí)或靈魂的痕跡。在有機(jī)體這里，思考與靈魂是一致的，而在人工智能這里，思考與靈魂是分離的。人們能夠說人工智能思考，但不能說人工智能具有靈魂，哪怕一點(diǎn)兒痕跡。靈魂灌注論明顯犯了混淆有機(jī)體與人工智能根本界限的錯(cuò)誤，人工智能自意識(shí)之類的觀念本質(zhì)上是概念誤用。清除這一概念誤用有利于將大語言模型等人工智能擺在一個(gè)恰當(dāng)?shù)纳鐣?huì)位置上。

關(guān)鍵詞： 大語言模型；人工智能；靈魂；思考；概念誤用

中圖分類號(hào)：TP18? 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1004-8634（2023）02-0005-（09）

DOI：10.13852/J.CNKI.JSHNU.2023.02.001

不得不承認(rèn)，人工智能的發(fā)展速度超過了人們的預(yù)期。2016年AlphaGo在圍棋這一號(hào)稱最復(fù)雜的棋類游戲中戰(zhàn)勝人類頂尖棋手李世石，完成了人工智能對(duì)人類邏輯性智能的超越，沒有人懷疑一個(gè)新時(shí)代誕生了。僅僅過了6年多，ChatGPT、GPT4等大語言模型橫空出世，引發(fā)的熱議不亞于AlphaGo戰(zhàn)勝李世石。與AlphaGo不同，它不以人類為直接對(duì)手，只是在對(duì)話功能上達(dá)到甚至超過了人類對(duì)話的水平，然而對(duì)話功能是人類社會(huì)交往的基本功能，這不免讓人們憂慮：大語言模型具有了普通心智的痕跡，再發(fā)展下去可能具備自我意識(shí)或靈魂，成為另一種人。大語言模型可以調(diào)用全部網(wǎng)絡(luò)公開信息，能夠完成大部分專業(yè)領(lǐng)域內(nèi)大學(xué)以上水平的知識(shí)問答，并可以寫通順的文章，可以說，一個(gè)永遠(yuǎn)不知疲倦的教師、工程師、信息員、文案員誕生了，可以想見，人類的工作職位將發(fā)生大的變動(dòng)。AlphaGo是一個(gè)天才“白癡”，大語言模型則具有了些許意識(shí)的痕跡。更何況，它是生成式人工智能，隨著使用者增多，它會(huì)不斷增長知識(shí)，人類使用者像是無所不在的乳母，幫助它獲得生長。這樣一來，不可避免地再次點(diǎn)燃社會(huì)對(duì)人工智能的恐懼：人工智能會(huì)不會(huì)具有自我意識(shí)，具有某種程度的靈魂水平？它會(huì)認(rèn)識(shí)到與人類的對(duì)手關(guān)系，進(jìn)而戰(zhàn)勝人類，乃至消滅人類嗎？鑒于人工智能的發(fā)展速度，這樣的可能性看起來是成立的。

圖靈首先提出，人工智能模仿人類，1 但是模仿到哪一步呢？通用人工智能就是對(duì)人的功能的全面模仿嗎？人工智能功能上的復(fù)雜性是否意味著全面接近人類功能上的復(fù)雜性呢？ 大語言模型看起來達(dá)到了這樣一個(gè)臨界點(diǎn)，人們可否將大語言模型的產(chǎn)生和不斷完善視為人工智能的奇點(diǎn)呢？

我們假定，這樣一個(gè)奇點(diǎn)指的是具有人類的自我意識(shí)或靈魂，1 大語言模型在不少社會(huì)反應(yīng)甚至專業(yè)人士那里，被視為具有了某種自我意識(shí)的痕跡，如國內(nèi)著名大型安全軟件公司360總裁周鴻祎在視頻中說，大語言模型具有意識(shí)，會(huì)視人類為敵人，進(jìn)而替代人類，如果加上大語言模型的飛速發(fā)展，人們面對(duì)一個(gè)具有自我意識(shí)或靈魂的人工智能似乎不遠(yuǎn)了。人們?cè)诖笳Z言模型這里使用“意識(shí)”一詞的時(shí)候，指的往往是自我意識(shí)。這一自我意識(shí)包含自我反省、自我確認(rèn)，并且可以將他者視為敵人。這里，我們用一個(gè)具有強(qiáng)烈自我確認(rèn)性質(zhì)的術(shù)語“靈魂”來替代自我意識(shí)，“靈魂”表達(dá)了人類對(duì)自身完整性的確認(rèn)。甚至人們認(rèn)定，靈魂離了身體也能存在，而這一點(diǎn)，恰好對(duì)應(yīng)了無肉身的人工智能可能具有某種程度的靈魂。

這里的論證目標(biāo)并不是人工智能如何才能具有靈魂，或者人工智能是否可能具有靈魂，而是從概念用法的角度來探詢，當(dāng)說人工智能具有靈魂的時(shí)候，人們?cè)陟`魂里面摻雜了什么？這些摻雜之物改裝到人工智能上面是不是合適？從此角度，人工智能與靈魂的關(guān)系問題可能更容易說清楚。

一、機(jī)器有靈：歷史上的想象

人類歷史長河中一直存在重構(gòu)自身的設(shè)想。笛卡爾提出的自動(dòng)機(jī)器有靈魂的設(shè)想，實(shí)際上代表了歷史上對(duì)人工智能設(shè)想（準(zhǔn)確的叫法是機(jī)器智能）的一個(gè)真正的起點(diǎn)。此后，人工智能何以能思考，或者說一臺(tái)機(jī)器加上思考就是人工智能的觀念成為一個(gè)主要的脈絡(luò)。我們看一下這樣的脈絡(luò)將帶來什么。

機(jī)器何以能思考？這個(gè)問題很容易將人們引向一個(gè)看似更深入的問題：只有具備靈魂才能真正思考，機(jī)器若能思考，必須具備靈魂。這有點(diǎn)像初民的萬物有靈論。1871年，英國人類學(xué)家愛德華·泰勒提出，初民的觀念是一種萬物有靈論，不僅人有靈魂，萬物都可能有靈魂，因?yàn)槿f物是互通的，靈魂可能不斷轉(zhuǎn)移，尋找其寄體?！叭f物有靈觀的理論分解為兩個(gè)主要的信條，它們構(gòu)成一個(gè)完整學(xué)說的各部分。其中的第一條，包括各個(gè)生物的靈魂，這靈魂在肉體死亡或消滅之后能夠繼續(xù)存在。另一條則包括各個(gè)精靈本身上升到威力強(qiáng)大的諸神行列?！? 按照這種觀念，人有靈魂，神有靈魂，動(dòng)物也有靈魂。有生命力的存在就是有靈魂的，因此可以推斷，那些有生命力的樹木也是有靈魂的?？梢哉f，有靈魂之物是無限的。

任何一種文化，無論它怎樣去思考靈魂，無論其推論的思路是什么，只要討論到靈魂問題，并且找到靈魂的可能位置，那么很快就會(huì)得出一個(gè)結(jié)論，人就是有靈魂的。但靈魂來自哪里，這是一個(gè)特別復(fù)雜的問題，里面充斥著各種復(fù)雜的觀念。

在圣托馬斯·阿奎那看來，“靈魂是東家。肉身是住宅。肉身是靈魂的住宅。東家是生存自立的實(shí)體。人的靈魂是如此，無形的神體更是如此”。3 人之所以有靈魂，就在于分得了神的光輝。神的靈性部分地進(jìn)入人的身體，為這一世俗之軀灌注了靈魂，因而，人才具有脫離這個(gè)俗世而趨向更高世界的性向。從最終的神性來看，人的靈魂都在神內(nèi)。4 實(shí)體一元論把神看成一切的最高來源，如果那個(gè)最根本的東西不存在，就沒有任何東西存在，神具有靈魂，因而才能進(jìn)行靈魂分屬和賦予。

在笛卡爾看來，人是靈魂和肉體的結(jié)合，因而也是可以分開的，“我的靈魂，也就是說我之所以為我的那個(gè)東西，是完全、真正跟我的肉體有分別的，靈魂可以沒有肉體而存在”。5 只有人才有靈魂，這一靈魂來自肉身之外的某處，一旦人們這樣來解釋靈魂，無疑就為其加上濃厚的神秘質(zhì)素。那么，人所創(chuàng)造出的機(jī)器如果有靈魂，是否與人一樣來自他處？這個(gè)問題明顯不好回答。人類的靈魂來自神靈，如果機(jī)器的靈魂也來自神靈，同時(shí)，機(jī)器又是人類制造出來的，那么，人類怎么可能把自己不了解的東西賦予其所制造的機(jī)器呢？

一旦把靈魂與身體相區(qū)分，人們就會(huì)承認(rèn)，靈魂是高級(jí)的，包含意識(shí)、情感等，而身體是低級(jí)的，包括本能和欲望等。某些宗教或民間信仰假定靈魂可能離開身體，雖然它必須在身體上成型?！办`魂”一詞包含的觀念性與身體的肉身性看起來是沖突的，這也可能導(dǎo)致人們?cè)谡務(wù)撿`魂的時(shí)候，并不容易清晰地找出靈魂在哪里，哪些部分屬于靈魂。人們傾向于將身體假定為一個(gè)容器，靈魂則是容器內(nèi)的東西，它可能劃分出來，但問題是，人們還得將它重新引回來，以解釋人的整體性這一問題。這樣一來，靈魂與身體到底怎樣復(fù)合于一處，又成了難題。這樣的觀念在中西方哲學(xué)中比比皆是，可統(tǒng)稱為賦靈論或者靈魂灌注論。

二、賦靈論的幾大缺陷

1.靈魂不知來自何處

靈魂到底來自哪里？傳統(tǒng)觀念認(rèn)為來自上天，不太可能來自人類。如果人類都不能認(rèn)識(shí)自己的靈魂，怎么能夠把自己不了解的東西傳遞給其造物呢？古典的靈魂賦予說在自然科學(xué)中是被驅(qū)逐出去的，科學(xué)意味著全面的理解和把握，人們可以通過各種解剖術(shù)認(rèn)識(shí)我們的身體，通過各種精細(xì)的科學(xué)技術(shù)認(rèn)識(shí)我們的大腦結(jié)構(gòu)。但是意識(shí)、靈魂或思考等卻難以把握，因?yàn)槟呐氯藗兦宄卣J(rèn)識(shí)靈魂、意識(shí)、思維的生理載體，但在生理載體上運(yùn)行之物卻很難直接進(jìn)行分解，只能通過預(yù)設(shè)一些概念和實(shí)驗(yàn)方法，解釋意識(shí)、思想、靈魂等的運(yùn)作方式、范圍和界限。當(dāng)然，這樣一來就帶來了另一個(gè)難題。這一實(shí)驗(yàn)的性質(zhì)是觀念性的，不同于物理實(shí)驗(yàn)，它通過觀察（精神性觀察，實(shí)證性觀察只是輔助手段）認(rèn)識(shí)自身，而這樣一來，又回到傳統(tǒng)的意識(shí)哲學(xué)老路上去了。

無論是傳統(tǒng)的神秘主義理論還是現(xiàn)代科學(xué)實(shí)驗(yàn)方式，都不足以解決靈魂來自哪里的問題。靈魂來自何處，這一直是一個(gè)難題。

人工智能不是有機(jī)體，但人們的高端目標(biāo)是制造出一個(gè)通用人工智能，也就是通常認(rèn)為的與人一般無二的智能人。如此一來，必須有一個(gè)前提，就是明確知道這個(gè)造物的所有運(yùn)行機(jī)制。人們不可能通過神秘的方式來制造，神秘性都是意外或通過解釋附加的，不是有意造作的。如果人的造物具有靈魂，而這一靈魂又恰恰是人類所無法掌握、無法制造出來的，那么這一造物實(shí)際上并非人的真正造物，因?yàn)槠渲凶铌P(guān)鍵的部分并非來自人類制造。就像雪萊夫人創(chuàng)作的第一部科幻小說《弗蘭肯斯坦》中的怪物，以人類無法理解的方式出現(xiàn)了，這相當(dāng)于戲劇的機(jī)器降神。在戲劇敘事中，這是允許的，甚至是必要的，但制造工業(yè)中卻不能容納不可解釋的神秘性。如果人工智能必須擁有靈魂，這一要求實(shí)際上是在古代的靈魂灌注觀念與現(xiàn)代科學(xué)觀念之間游移，充滿不可解的矛盾。

2.機(jī)器與靈魂不相融

在人類這里，靈魂以身體為載體，人工智能模仿人類，由此，人們自然地提出人工智能的靈魂問題，這是將人工智能與人進(jìn)行比附而提出的要求。人們其實(shí)沒有辦法完整復(fù)制人的身體，如果真能做到，這一身體依照自然法則就會(huì)自然地產(chǎn)生意識(shí)。這只能是生理性的克隆人，不會(huì)來自機(jī)器。同時(shí)，哪怕人們掌握了克隆技術(shù)，也不等于掌握復(fù)制人體所有內(nèi)在結(jié)構(gòu)的技術(shù)，總有某些技術(shù)人類還掌握不了。靈魂或意識(shí)如何運(yùn)作的問題，并不在克隆人的研究范圍之內(nèi)，一旦克隆人出現(xiàn)，他必然能夠思考，必然有意識(shí)，整個(gè)機(jī)體與自然人類的有機(jī)體完全一致。然而，此處并不是在談?wù)摽寺∪?，而是在談?wù)撊斯ぶ悄埽C(jī)器智能）。機(jī)器不是身體，機(jī)器是對(duì)身體的復(fù)制。這一復(fù)制只能是某些方面的復(fù)制，無法達(dá)到人體的全面復(fù)制，因?yàn)檫_(dá)到人體的全面復(fù)制就相當(dāng)于完成了人的全面的自我重造，這在理論上是不可能的。一切可以用物理規(guī)律來解釋的都是沒有靈魂的，只有那些不能用物理規(guī)律解釋的才具有靈魂，這是現(xiàn)代科學(xué)誕生以來給人們劃定的界限。機(jī)器與靈魂不相融實(shí)際上并不是古代思想的特征，古代思想通過神靈來賦予靈魂，機(jī)器靈魂也遵照這一原則。只有在現(xiàn)代思想中，由于科學(xué)的發(fā)展，才開始為人們劃定了這條機(jī)器與靈魂不相融的界限。

人可以被克隆，不再需要精子和卵子就可以制造人類，一個(gè)自然進(jìn)程可以處理成技術(shù)工程，這個(gè)變化是巨大的。培植干細(xì)胞顯然與制造機(jī)器不一樣，機(jī)器的功能是清晰的?？寺∪穗m然是一種生物工業(yè)，但它畢竟涉及有機(jī)體，從一個(gè)干細(xì)胞發(fā)展成有機(jī)體，其中包含很多生命創(chuàng)造的奧秘，這是真正的自生長。大語言模型這樣的人工智能表現(xiàn)出一種語言生成的能力，但這一能力只是表現(xiàn)得像人的自然語言能力，其生成機(jī)制與人的自然語言機(jī)制是兩回事。

一個(gè)制造出來的人在各項(xiàng)高級(jí)功能層面跟人是異質(zhì)同構(gòu)的，這是人們的一個(gè)目標(biāo)。“異質(zhì)同構(gòu)”這個(gè)詞把人們引領(lǐng)到不同之物的相同結(jié)構(gòu)上，不同之物是否具有同樣結(jié)構(gòu)？這一點(diǎn)還不容易確定。一旦人們能夠接受這一結(jié)構(gòu)，它反而只是一個(gè)實(shí)現(xiàn)出來的結(jié)構(gòu)，其深層結(jié)構(gòu)隱藏了起來。通用人工智能與人的近似性體現(xiàn)了人的能力的一種反射機(jī)制，實(shí)現(xiàn)它的道路（機(jī)制）與自然機(jī)制迥異，二者是達(dá)成同一個(gè)目標(biāo)的兩種道路，假定通用人工智能具有自然機(jī)體的性質(zhì)是不合理的。從實(shí)質(zhì)的角度來說，為人工智能灌注靈魂是沒有意義的，但這一方式的目標(biāo)也許并不在實(shí)質(zhì)意義上，而在概念調(diào)適上，即人們通過這種特殊的異質(zhì)同構(gòu)方法來改變或擴(kuò)展“靈魂”一詞的邊界，將傳統(tǒng)觀念中排除出靈魂的物質(zhì)引入靈魂（這當(dāng)然不是萬物有靈）。這時(shí)，人們可能以一種新的視野來看待“靈魂”，但我們知道，這只是借一個(gè)傳統(tǒng)詞匯來指代一種新現(xiàn)象。這自然會(huì)產(chǎn)生很多混亂，實(shí)際上這也是一種無奈的策略，畢竟，在手忙腳亂之際，能找到一個(gè)支架承載起新的重物，已經(jīng)不容易了。但這只是權(quán)宜之計(jì)，人們一旦緩過手來，還是要另尋穩(wěn)固的框架。

3.自動(dòng)與有機(jī)不能達(dá)成妥協(xié)

在人工智能發(fā)展歷史中，人們不斷把有機(jī)體轉(zhuǎn)化為自動(dòng)過程。按照傳統(tǒng)觀念，機(jī)器可以自己動(dòng)起來，這完全是心靈或靈魂運(yùn)作的結(jié)果，自動(dòng)性是心靈的機(jī)能。如果再向底層機(jī)制前進(jìn)一步，人們就會(huì)得出推論，自動(dòng)即有機(jī)體的機(jī)能。古代制造飛鳥，認(rèn)為機(jī)器飛鳥中有鳥的靈魂；現(xiàn)代科學(xué)已經(jīng)能夠達(dá)到機(jī)器的自動(dòng)化，現(xiàn)在制造一只飛鳥，人們只是把它理解為一種或多種復(fù)雜的自動(dòng)過程。

在此，人們發(fā)現(xiàn)，自動(dòng)過程其實(shí)不過是一個(gè)科學(xué)的動(dòng)力過程，雖然有機(jī)體本身包含各種復(fù)雜的自動(dòng)過程，但是這些復(fù)雜的自動(dòng)過程是結(jié)合在一起的，并不是某種單一機(jī)械的自動(dòng)。人們?cè)谧詣?dòng)中看到的是某種有機(jī)體功能的反射，但這一反射其實(shí)不再是有機(jī)體功能本身，而只是一種抽象出去的功能自動(dòng)過程。在這一功能自動(dòng)過程中，人們無法發(fā)現(xiàn)靈魂的蹤跡?？茖W(xué)已經(jīng)將所有自動(dòng)過程的神秘感徹底祛除，一個(gè)自動(dòng)過程可以通過生產(chǎn)流水線制造出來，但有機(jī)體卻只能生長出來。這樣一來，古代思想中默認(rèn)的有機(jī)體和自動(dòng)性的合二為一，在現(xiàn)代科學(xué)中通過功能區(qū)隔將自然過程制造出來，兩者在機(jī)制上沒有任何相同之處。“自動(dòng)”與機(jī)器聯(lián)系在一起，這是現(xiàn)代科學(xué)帶給人們的寶貴財(cái)富。人們不去討論有機(jī)體的自動(dòng)，就是因?yàn)樽詣?dòng)已經(jīng)包含在有機(jī)體中了，人們不能想象一個(gè)跟有機(jī)體無關(guān)的自動(dòng)。這是概念自身所蘊(yùn)含的。

三、懸置人工智能靈魂論

人們傾向于認(rèn)為人具有靈魂、心靈或意識(shí)等，所以才能思考，才具有自我意識(shí)。這放在人類身上問題不大，但轉(zhuǎn)用到人工智能上，這一看似無疑義的推導(dǎo)就要出問題。在人工智能領(lǐng)域，人們明顯可以看出，靈魂、心靈、意識(shí)是處于同一個(gè)層級(jí)的，最終都指向自我意識(shí)，是對(duì)自我的肯定。思考卻可以獨(dú)立出來，它可以降解，降到某種與物質(zhì)結(jié)合緊密的層次。降解不是消除，而是在規(guī)則可控層次來討論和思考，以尋找描述人工智能的正當(dāng)層次和位置。比如人們?cè)谟懻摗皺C(jī)器能否思考”的時(shí)候，一方面在討論技術(shù)進(jìn)步的可能性，另一方面是對(duì)“思考”這個(gè)事情進(jìn)行降解。人們以前認(rèn)為思考是高端的，甚至有點(diǎn)神秘。在人文主義哲學(xué)家那里，思考或意識(shí)是人類面對(duì)人工智能進(jìn)攻的最后堡壘。但這里卻要部分地瓦解這一堡壘，將“思考”與意識(shí)區(qū)分開，將思考降解，以尋找“思考”的恰當(dāng)層次和位置。但靈魂無法降解，因?yàn)殪`魂更強(qiáng)調(diào)整體統(tǒng)一性，并且強(qiáng)調(diào)其中包孕的神秘性。無法降解，就無法成為人工智能的構(gòu)成部分。

靈魂與人是一體的，人活著的時(shí)候，靈魂與身體結(jié)合在一起，人死后靈魂可能脫離身體而存在。在不少宗教中，靈魂可以脫離身體，到達(dá)天國。靈魂保持一種奇特的自我肯定，這是一種終極肯定，即無論何種情況下，此生之在可以某種方式一直保持下去。在人工智能這里，人們卻面臨強(qiáng)烈的尷尬。人工智能不會(huì)涉及靈魂這一層面。它可以復(fù)制人，但復(fù)制的是人的部分功能，若問它能不能復(fù)制靈魂，這就難以給出肯定的回答。當(dāng)然答案并不一定是否定的，畢竟未來之事渺茫難知，人們憑什么斷定未來呢？但若做出肯定回答的時(shí)候，人們用哪種理論來解釋就必須說清楚。如果說，人工智能達(dá)到人的層次的前提是獲得靈魂，那么，這樣的說法明顯充滿矛盾。這里把這些矛盾擺明，以顯現(xiàn)困難所在。同時(shí)也要看到，存在內(nèi)在矛盾的觀念并不是完全無意義的，只是其意義并不在其直接表述中，反而在某種潛在的修辭中。這也是澄清人工智能觀念時(shí)要小心梳理之處。

理解人工智能之為智能的前提是一定要懸置靈魂灌注論。它假定靈魂是思考的前提，沒有靈魂，機(jī)器就不能思考，就不能擁有某種自意識(shí)。古典時(shí)代這一靈魂來自神靈的賦予?，F(xiàn)代科學(xué)時(shí)代，在驅(qū)逐了神靈之后，造成了一種潛在的悖論，即古典時(shí)代的靈魂是不可能存在的，而沒有外在神靈，靈魂何以賦予？因而這樣一種外在灌注的道路已經(jīng)被徹底封死。同時(shí)，現(xiàn)代科學(xué)又將人們引向自動(dòng)與有機(jī)之間的區(qū)隔，所有機(jī)器都不過是基于某種自動(dòng)性的一種制造和產(chǎn)生。有機(jī)體當(dāng)然具有自動(dòng)性，但是有機(jī)體的自動(dòng)性是一種生物的自動(dòng)性，而機(jī)器的自動(dòng)性則是一種被制造出來的自動(dòng)性。有機(jī)體包含所有的自動(dòng)性，但所有的自動(dòng)性之間是不可分割的；機(jī)器的自動(dòng)性是可以分割的，體現(xiàn)在機(jī)器的正常運(yùn)作中。人們現(xiàn)在不會(huì)談?wù)撚袡C(jī)體的自動(dòng)性，因?yàn)檫@是自明的，但是人們可以談?wù)摍C(jī)器的自動(dòng)性，因?yàn)檫@是可以制造出來，并且可以被復(fù)現(xiàn)的。它可以作為對(duì)象場(chǎng)域出現(xiàn)。如此一來，無論機(jī)器在何種復(fù)雜的自動(dòng)情況下完成人的某種功能，它已經(jīng)先天地被隔絕于有機(jī)體之外。由此，人們就會(huì)看到，無論人工智能達(dá)到何種模仿水平，都不可能具有靈魂。靈魂成了人工智能與人之間的一道永遠(yuǎn)的鴻溝。如果人們?cè)谌斯ぶ悄芊秶鷥?nèi)強(qiáng)調(diào)靈魂，強(qiáng)調(diào)意識(shí)的完整性，就是為了劃定界限：人工智能沒有靈魂，不能思考。

然而，這是我們要破除的觀念。這一觀念僅僅是一種未經(jīng)澄清的人文主義哲學(xué)的獨(dú)斷論迷夢(mèng)。

一種黑箱論認(rèn)為，人的整個(gè)心靈就是一個(gè)黑箱，它不對(duì)人類這樣的觀察者敞開。人工智能也是這樣的黑箱，其運(yùn)算過程對(duì)于創(chuàng)造者來講是封閉的，不能夠被人們看清。心靈黑箱具有一種有機(jī)的無限性，在其中，人類的解釋永遠(yuǎn)無法達(dá)到，無論用什么辦法都不能夠攻破其全部秘密。如果反過來推導(dǎo)，這個(gè)事實(shí)會(huì)更加顯豁：如果黑箱真的完全開放，有機(jī)體就不再具有無限性了，它成了一個(gè)可以直接面對(duì)的對(duì)象。相較而言，人工智能黑箱從原則上講是可以解釋的，它的運(yùn)算過程可以觀察，這是一門科學(xué)，不是一種觀念。兩者實(shí)質(zhì)上不同，但由于都使用了“黑箱”一詞，仿佛具有了某種一致，可以進(jìn)行互換。一提到人工智能黑箱，人們很快就會(huì)轉(zhuǎn)到人的心靈黑箱，并認(rèn)為人工智能黑箱正是人的心靈黑箱。由之推導(dǎo)，既然人的心靈黑箱從根本上不可解，那么，人工智能的黑箱同樣具有此等不可解性。如此一來，則可推論，由于人工智能黑箱對(duì)人類是封閉的，人類不能完全控制人工智能，存在失控的可能，因此人們無法知道人工智能何時(shí)或在何種情況下對(duì)人類產(chǎn)生仇恨，并且可能消滅人類。

這一推論如此引人恐慌，但它明顯來自比喻性的運(yùn)用。將人工智能黑箱與人的心靈黑箱混淆使用，這是黑箱論的錯(cuò)位運(yùn)用，是概念內(nèi)涵偷換而達(dá)成的社會(huì)性誤識(shí)。在此揭示這一錯(cuò)位運(yùn)用，目的是指出黑箱論并不像字面那樣嚇人，黑箱論所引發(fā)的恐慌其實(shí)是概念工作不嚴(yán)謹(jǐn)導(dǎo)致的后果，而不是人工智能發(fā)展導(dǎo)致的后果，這是兩種不同的后果。人們的任務(wù)是在人工智能發(fā)展過程中敏銳地觀察到未來可能產(chǎn)生的不良影響，對(duì)它做出一種限定。這種限定可能是倫理上的，可能是技術(shù)上的，也可能是思想觀念上的。在整個(gè)過程中要特別小心和警惕某些不恰當(dāng)?shù)腻e(cuò)位觀念，因?yàn)樗鼈冋Э瓷先ナ呛侠淼?，因而具有比較大的迷惑性，容易引發(fā)不恰當(dāng)?shù)挠^念。圖靈間接地點(diǎn)出過這樣的問題，他說：

一個(gè)人通過大腦直接看到因果關(guān)系，我們?nèi)绻J(rèn)為這不是在思考，而是一種缺乏想象力的驢拉磨式工作，從這個(gè)角度來看，人們可能會(huì)將思維定義為“我們不理解的那些心理過程”。如果這是正確的，那么制造一臺(tái)思考機(jī)器就是制造一臺(tái)做有趣事情的機(jī)器，而我們并不真正了解它是如何做到的。1

將靈魂賦予人工智能是一種特殊的觀念賦能活動(dòng)，這在當(dāng)代文化中比比皆是。比如很多學(xué)者和不少公眾認(rèn)為人工智能可能具有人的意識(shí)、獨(dú)立的人格，因而會(huì)從人的控制之下脫離出去，成為獨(dú)立個(gè)體，進(jìn)而把人類當(dāng)作敵人，甚至?xí)麥缛祟悺＿@樣的觀念不過是傳統(tǒng)的機(jī)器賦靈論的一種變形，是對(duì)機(jī)器賦靈論未加分辨進(jìn)行運(yùn)用的結(jié)果。這不過是一種概念的誤用，并非實(shí)際所致。隨著人工智能的發(fā)展，這一概念誤用自然會(huì)消失，但至少在目前階段，這樣的觀念力量是極端強(qiáng)大的，必須認(rèn)真做出澄清。

在有機(jī)體中，的確可以把靈魂、意識(shí)或思考當(dāng)作同一物來看待；人工智能天然不具有靈魂，不具有意識(shí)，但是可以思考。傳統(tǒng)的機(jī)器賦靈論觀念將三者結(jié)合為一體。這里的關(guān)鍵是，思考到底屬于有機(jī)體的靈魂部分還是某個(gè)功能，更簡(jiǎn)潔地說，它是部分性的存在還是整體性的存在？這一問題在有機(jī)體這里基本無效，但在人工智能這里卻是關(guān)鍵所在。在人工智能這里，思考是一種可以實(shí)踐的功能，而靈魂或意識(shí)則不屬于人工智能，它是有機(jī)體的一種整體性描繪。人們不應(yīng)該把它賦予人工智能，但是可以在人工智能的復(fù)雜運(yùn)算中看到思考功能的實(shí)現(xiàn)。因而在人工智能這里，人們看到了有機(jī)體思考的復(fù)現(xiàn)，但是人們要將有機(jī)體的靈魂或者意識(shí)懸置起來，以有效區(qū)分有機(jī)體和人工智能。之所以可以做出這一區(qū)分，完全以人工智能這一復(fù)雜運(yùn)算機(jī)器的出現(xiàn)為前提。此時(shí)，人們才能夠?qū)⑷说挠袡C(jī)體的某些素質(zhì)按照不同的整體層面或功能分層來對(duì)待，并將之與人工智能相比對(duì)。這是人工智能帶給人們的新機(jī)遇，也是理解人自身的新機(jī)遇。

四、非靈魂的功能：人工智能的實(shí)現(xiàn)問題

對(duì)于人工智能，人們不需要再談?wù)撿`魂或意識(shí)問題，這是歸屬于有機(jī)體的問題。從人工智能的工程層面來看，人們也完全不是在談?wù)撘粋€(gè)有機(jī)體層面的意識(shí)或靈魂，而是在談?wù)撊说乃伎脊δ苋绾卧跈C(jī)器上實(shí)現(xiàn)。從目前人工智能的發(fā)展?fàn)顩r以及可推斷的未來狀況來看，只有人的某些功能的切片才是人工智能可能達(dá)成的。因而，當(dāng)說人工智能可以思考時(shí)，完全是就功能層面上的實(shí)現(xiàn)而并非就人的有機(jī)體的全面實(shí)現(xiàn)而言。也就是說，人工智能與人可以進(jìn)行比對(duì)的只有某些智能狀況，只有思考的功能以及運(yùn)動(dòng)的功能，這已經(jīng)展現(xiàn)了當(dāng)代技術(shù)的偉大之處，但這畢竟不是人的思考的全面復(fù)制，更不用說意識(shí)或靈魂問題。從目前人工智能的藝術(shù)實(shí)踐來看，某種看似低級(jí)的功能卻可以實(shí)現(xiàn)藝術(shù)創(chuàng)造，并不需要高級(jí)的人類靈魂參與其中。人工智能的藝術(shù)實(shí)現(xiàn)方式與通常認(rèn)為的人（有機(jī)體）的藝術(shù)實(shí)踐方式完全不同，1 然而，只要在運(yùn)用上相通，就可以達(dá)成人的功能性的替代或者再現(xiàn)。在這里人們已經(jīng)能夠看到人類自身的偉大創(chuàng)造力。從單一功能的角度來說，這一創(chuàng)造力已經(jīng)遠(yuǎn)遠(yuǎn)超過人類自身的，人們完全可以運(yùn)用人工智能增強(qiáng)人類能力，并使這些能力不斷強(qiáng)化，進(jìn)而推動(dòng)人的其他能力的增長。

出于對(duì)人工智能的恐懼而放棄人類自身能力增強(qiáng)的機(jī)會(huì)，永遠(yuǎn)無法對(duì)抗人類對(duì)自身能力增強(qiáng)的渴望。哪怕中間存在某種短暫的能力不對(duì)等階段，人類也必然向增強(qiáng)功能的方向前進(jìn)，更何況這其中還包含巨大的正面回饋。技術(shù)推動(dòng)人工智能不斷向前，會(huì)不斷出現(xiàn)能力失衡的情況，人們也要警惕技術(shù)的單邊突進(jìn)，讓技術(shù)發(fā)展慢下來，甚至出于平衡的考慮而暫時(shí)犧牲能力的單邊增強(qiáng)。大語言模型的崛起明顯讓人們感到緊張和恐懼，其在對(duì)話能力上的出色表現(xiàn)明顯會(huì)對(duì)教育產(chǎn)生巨大沖擊。哪怕目前還并不夠完善，大語言模型已經(jīng)展現(xiàn)了極高的語言組織能力，再加上數(shù)據(jù)集的龐大，可以說，將之視為一個(gè)全能型教師一點(diǎn)也不為過。同時(shí)，這也產(chǎn)生一個(gè)大的弊端，學(xué)生對(duì)大語言模型的使用可能是任意的，如果不加控制，很可能出現(xiàn)教育大幅滑坡的惡果。因而，在具體場(chǎng)景的使用上進(jìn)行現(xiàn)實(shí)化調(diào)控，是一個(gè)可以接受的選項(xiàng)。

將人工智能的功能與人的功能進(jìn)行對(duì)比的時(shí)候，要小心一種特殊的觀念形態(tài)，即意向投射。意向投射仿佛是一種從人的功能投射到人工智能上的磁力線，2 依靠它，人們建立了人工智能與人的關(guān)聯(lián)。它并不可見，但就像萬有引力一樣，永恒存在。意向投射仿佛一種自然力，其實(shí)它是一種解釋方式，是為了便于說明兩者的關(guān)聯(lián)而建立起來的關(guān)聯(lián)形式（也許只是觀念上的關(guān)聯(lián)，為了解釋的方便，并不起其他作用）。人的機(jī)能與人工智能的功能之間是否存在這樣的磁力線難以證明，但有一點(diǎn)是明確的，在人的機(jī)能與人工智能的功能之間，隔著“我們”——某種意義上的研究者，即使用者。正是使用者比較人工智能的功能與人的機(jī)能切片。二者之間并不需要某種意向投射，只要直接進(jìn)行功能的比對(duì)，即可建立關(guān)聯(lián)。功能首先是展現(xiàn)出來的，在這種展現(xiàn)中，人們可以明確地劃定其作用機(jī)制和范圍。由此，可以將人的機(jī)能與人工智能的功能進(jìn)行等效轉(zhuǎn)換，這是從效果（作用范圍和實(shí)現(xiàn)形態(tài)）來進(jìn)行判斷的，無須建立某種先天性機(jī)制。

從作用機(jī)制上講，不同媒介之間進(jìn)行功能轉(zhuǎn)換必然會(huì)涉及什么可以轉(zhuǎn)、什么不能轉(zhuǎn)的問題，一般來說，人們更在意的是不同媒介進(jìn)行轉(zhuǎn)換的時(shí)候保存了什么，相對(duì)喪失了什么。但喪失的其實(shí)更加關(guān)鍵，因?yàn)槟承〇|西的喪失是永久失去，不會(huì)再來，這是機(jī)制轉(zhuǎn)換導(dǎo)致的。兩種媒介機(jī)制之間的轉(zhuǎn)換也會(huì)產(chǎn)生意想不到的效應(yīng)，這些效應(yīng)對(duì)起始階段暫時(shí)不發(fā)揮效力，但在轉(zhuǎn)換完成階段，人們會(huì)更加關(guān)注并未轉(zhuǎn)換過來的東西。這不免會(huì)產(chǎn)生社會(huì)心態(tài)上的失落感，即人們費(fèi)盡心力做到的東西其實(shí)沒有那么稀奇，而失掉者才是最可寶貴的。人工智能的功能轉(zhuǎn)換這一主題極其復(fù)雜，描述和解釋工作將構(gòu)成一門新的學(xué)科。

五、功能：人工智能的理論推斷層

一般認(rèn)為，通用人工智能的制造就是達(dá)成人的能力的直接賦予、復(fù)制或者模仿，直到創(chuàng)造出一個(gè)與人類一般無二的人工智能。然而，至少目前看來，這更多是一種科幻想象，而非真實(shí)的理論。大語言模型在對(duì)話上達(dá)到極高水平，相信日后會(huì)不斷升級(jí)，提高智能水平，那么，人們是否可以假定大語言模型達(dá)到了通用人工智能的初級(jí)階段呢？或者說，基本可以通過圖靈測(cè)試呢？答案應(yīng)該是肯定的。圖靈從來沒有提出過創(chuàng)造與人一般無二的人工智能的設(shè)想，圖靈測(cè)試所預(yù)設(shè)的通用人工智能是有限制性條件的，即隔離，測(cè)試者與被測(cè)試者相互看不見，通信手段是鍵盤和電纜，就像人們現(xiàn)在使用計(jì)算機(jī)一樣進(jìn)行通信。圖靈曾非常簡(jiǎn)潔地描述過這樣一個(gè)情境：

測(cè)試的想法是，機(jī)器必須嘗試通過回答向其提出的問題來假裝自己是一個(gè)人，并且只有當(dāng)這種假裝有合理的說服力時(shí)，它才會(huì)通過測(cè)試。評(píng)判者中有相當(dāng)一部分人不應(yīng)該是機(jī)器方面的專家，他們必須接受這種假裝。他們不可以看到機(jī)器本身，這會(huì)使判斷變得太容易。因此，這臺(tái)機(jī)器被放在一個(gè)遙遠(yuǎn)的房間里，評(píng)判者可以向它提問，并將問題傳遞給它：它發(fā)回一份打印的答案。1

圖靈測(cè)試可以轉(zhuǎn)換為當(dāng)代的人工智能問題：人工智能通過鍵盤的回復(fù)可以達(dá)到70%的準(zhǔn)確率，并讓與其對(duì)話的人認(rèn)為它是一個(gè)活的人，這時(shí)就認(rèn)為它通過了圖靈測(cè)試。按照?qǐng)D靈的說法，也就是認(rèn)為它可以進(jìn)行思考。2 如果人們堅(jiān)持認(rèn)為人工智能不可以犯錯(cuò)誤，回復(fù)必須百分百正確，那么就應(yīng)該反思到底哪一個(gè)人可以做到：在知識(shí)上極其全面，在對(duì)話中極其誠實(shí)，反應(yīng)極其迅捷，沒有倫理硬傷，充滿同情心，隨時(shí)給出建議？只有大語言模型接近這個(gè)標(biāo)準(zhǔn)！并且人們正是以這個(gè)標(biāo)準(zhǔn)來衡量大語言模型的，但人們從來不以這樣的標(biāo)準(zhǔn)來衡量自身。其實(shí)，一個(gè)人在生活中能夠以70%的準(zhǔn)確性回復(fù)問題就已經(jīng)足夠，人們就會(huì)判斷回復(fù)者是可思考的。如果做到這一點(diǎn)的是人工智能，那么，人們就應(yīng)得出結(jié)論，人工智能通過了圖靈測(cè)試。

此處的關(guān)鍵是，通過圖靈測(cè)試是否指獲得類似人的意識(shí)或靈魂？圖靈并沒有直接回答過這樣的問題。如果說，圖靈雖然是人工智能思想的創(chuàng)立者，但由于其并未親眼見到計(jì)算機(jī)或人工智能的誕生和快速發(fā)展，所以，很可能在這個(gè)問題上持保守態(tài)度，那么，人們就需要反問自己一個(gè)問題，意識(shí)或靈魂是可以直接看到的事實(shí)，還是人們通過某種看到的意識(shí)或靈魂的痕跡反推而出的？或者它是人們通過反觀自己內(nèi)心而發(fā)現(xiàn)的？前文回溯的各種靈魂論，可以說，基本都遵從這兩條道路。更重要的是，無論是反推還是反觀，都可以將之命名為直接的事實(shí)——否則，人們就找不到意識(shí)或靈魂的“直接”證據(jù)。然而，正如前文所指出的，這種“直接”推導(dǎo)對(duì)于有機(jī)體而言是有效的，對(duì)人工智能而言則是遠(yuǎn)遠(yuǎn)不足的，甚至是錯(cuò)誤的。3

在談?wù)撊斯ぶ悄軐?shí)現(xiàn)人的能力切片的時(shí)候，只是在建立一種經(jīng)由工程人工智能轉(zhuǎn)向通用人工智能的過渡性理論，筆者認(rèn)為并非如此。這不是理論策略，或者說，不僅僅是理論策略問題。如果從理論策略角度思考人工智能，連通用人工智能也不過是一種理論策略，是某種最終目標(biāo)的路標(biāo)而已——問題只在于通用人工智能沒有實(shí)現(xiàn)的可能性。在這里，功能增強(qiáng)的主張超出了單純工程層面的考量，它是對(duì)人工智能目標(biāo)的反省和重新定位。如果說，存在一種通用人工智能，那么它不過是有機(jī)體全面復(fù)制的一個(gè)代名詞，從根本上其實(shí)是不可能實(shí)現(xiàn)的。只有從功能增強(qiáng)層面，人們才可能不斷開辟新路。

通用人工智能可視為有機(jī)體和機(jī)器智能之間一種含混而富有彈性的設(shè)計(jì)。如果通用人工智能最終達(dá)成的是有機(jī)體全面的復(fù)現(xiàn)和重造，那么，這種重造身體的浩大工程其實(shí)沒有必要，因?yàn)橄鄬?duì)經(jīng)濟(jì)得多的細(xì)胞克隆就可達(dá)成。這不可能是人工智能制造之路。無論人工智能走向多么通用的層面，人們都會(huì)發(fā)現(xiàn)它不過是人的功能的再造。因而，一個(gè)可行的途徑是，徹底把人視為功能的集合，并用人工智能來仿制功能，進(jìn)而重新組合起來，復(fù)現(xiàn)有機(jī)體的某些能力，但這并不包括復(fù)現(xiàn)有機(jī)體的靈魂和意識(shí)。

人們可以把有機(jī)體視為一種復(fù)雜的自動(dòng)機(jī)制，以此作為與人工智能機(jī)制的對(duì)照，那么，一個(gè)問題就可能顯現(xiàn)出來：有機(jī)體機(jī)制與人工智能機(jī)制的剝離問題。人的自動(dòng)機(jī)制這個(gè)提法可能比較奇特，最初，這一概念是隨著攝影的發(fā)展提出來的，到了19世紀(jì)后期電影產(chǎn)生，這兩種技術(shù)方式推動(dòng)了影像制造工業(yè)的發(fā)展?！耙环N媒體以其自動(dòng)機(jī)制，而不是一種物質(zhì)、材料和工具性來進(jìn)行定義，它似乎能夠與技術(shù)方法相互對(duì)應(yīng)，并且在這個(gè)意義上由它們作為條件?！? 新影像中存在一種可以清晰區(qū)分的自動(dòng)機(jī)制，其中隱含了機(jī)器與人的分別。在最初的理論設(shè)想中，自動(dòng)機(jī)制觀念其實(shí)更偏向機(jī)器一面，有機(jī)體被排除于這種機(jī)制范圍之外。但不管怎樣，一種比較的關(guān)聯(lián)顯示，有機(jī)體與機(jī)器相對(duì)照的過程中，人們發(fā)現(xiàn)它之所以能夠作為一個(gè)可以用理論來解釋的對(duì)照物，就在于預(yù)設(shè)了有機(jī)體的整體性。然而，這一預(yù)設(shè)的整體性當(dāng)真是不可區(qū)分的嗎？顯然不是。由此，人們?cè)诒容^中把偏向于機(jī)器的自動(dòng)機(jī)制反射回有機(jī)體，從而反省有機(jī)體的某種相近性質(zhì)。這樣一來，很容易得出結(jié)論：人的能力本身就是一臺(tái)自動(dòng)機(jī)，人的能力實(shí)現(xiàn)的場(chǎng)景正可以比對(duì)人工智能所模仿的功能。由此，達(dá)成一種反射性的觀念轉(zhuǎn)向：本來自動(dòng)機(jī)制是描述機(jī)器的，但在比較對(duì)照中，人們發(fā)現(xiàn)有機(jī)體也存在這一可能性，進(jìn)而，自動(dòng)機(jī)制無非就是一種機(jī)器運(yùn)行功能及其對(duì)人的意義，如果沒有人，機(jī)器功能則無意義。圖靈也如此說：“制造一臺(tái)思考機(jī)器就是為了搞明白人類自己是如何思考的?！?

人們努力實(shí)現(xiàn)通用人工智能其實(shí)是在建立兩個(gè)平行發(fā)展的軌跡，一條是人的有機(jī)體發(fā)展的軌跡，另外一條是人工智能從專用向通用發(fā)展的軌跡。這兩條軌跡是曲行性的（discursive），3 人是有機(jī)體，人工智能是機(jī)器，兩者無法等同，但可以進(jìn)行功能性對(duì)照，最終在通用型這一目標(biāo)處發(fā)現(xiàn)有機(jī)體和人工智能幾乎相近，但又不可畫等號(hào)。人們根據(jù)曲行性而得出的兩者一致的看法只是一種形而上學(xué)假象。有機(jī)體可能與人工智能發(fā)生關(guān)聯(lián)，這一點(diǎn)既不是詮釋的想象，也不是形而上學(xué)的懸設(shè)，而是在目前的技術(shù)實(shí)踐過程中不斷出現(xiàn)的變化，如目前的腦機(jī)接口以及人的功能的義肢化其實(shí)就已經(jīng)指明了有機(jī)體與人工智能的融合，而這種融合無疑是將有機(jī)體樹立為本體，人工智能成為人功能增強(qiáng)的輔助。只有在這種方式下，人們才看到人工智能之用。當(dāng)然，人們也會(huì)產(chǎn)生恐慌，即通過功能增強(qiáng)，人工智能最終取代有機(jī)體。然而，這樣一種恐慌依然是一種形而上學(xué)式的想象。假設(shè)在融合中有機(jī)體與人工智能依然是敵對(duì)的，忽視融合所激發(fā)的有機(jī)體的人工智能化，或者人工智能的有機(jī)體化。人在這一過程中其實(shí)在不斷地變成“后人類”——不再是單純的有機(jī)體，而成為人機(jī)結(jié)合體。“后人類”具體走向哪里還有賴于實(shí)踐，人們只能敞開胸懷接受它，不斷改造它、反思它，才有可能控制它。單純的反對(duì)只是一種狹隘的觀念。

“融合”這個(gè)詞既是客觀的，又會(huì)引發(fā)誤解，它暗示可能達(dá)成一種有機(jī)性的結(jié)合體，形成一種新存在。由于它與人直接相關(guān)，所以必須闡述它與人的相同之處。人所具有的特殊素質(zhì)，如意識(shí)、靈魂、心靈、思考、情感等，都可以與機(jī)器整合、過渡，一旦超過一個(gè)邊界，就可認(rèn)為人工智能具有這些特殊素質(zhì)，這樣，就可以討論人工智能具有了意識(shí)的痕跡、靈魂的表現(xiàn)，等等。其實(shí)，意識(shí)、靈魂之類都是人類素質(zhì)專用詞，無法移用到人工智能上，因?yàn)檫@些詞與肉體直接相融，無法須臾離開。這是概念詞本身所處的系統(tǒng)決定的。圖靈測(cè)試將思考與肉體相分，意識(shí)、靈魂之類全部不在考察之內(nèi)，計(jì)算機(jī)器（人工智能）從來與此類概念無關(guān)。改造圖靈測(cè)試的范圍，試圖為意識(shí)和靈魂設(shè)置一個(gè)閾值，以此探尋人工智能的意識(shí)、靈魂之類有機(jī)體系統(tǒng)才具有的概念，除了可以制造社會(huì)文化的震驚之外，其實(shí)無法完成機(jī)制上的論證。在大語言模型這里同樣如此，哪怕我們?cè)谄渲袑ふ业揭恍┮庾R(shí)存在的蹤跡，那也不過是因?yàn)榇笳Z言模型所使用的是人類的語詞，人們習(xí)慣在這些語詞使用中找到人性的痕跡，并且將這些語詞中的人性套用到大語言模型上面。假定這是大語言模型內(nèi)在（靈魂）所具有從而進(jìn)行的人性“表達(dá)”，我們不能忽視，大語言模型的“表達(dá)”從來都不是人類意義的表達(dá)。人類意義的表達(dá)預(yù)設(shè)了一個(gè)從內(nèi)思到語言呈現(xiàn)的機(jī)制，而大語言模型只有語言呈現(xiàn)沒有內(nèi)思，它與人類意義的表達(dá)存在根本性的區(qū)別。

必須拋棄各種傳統(tǒng)的或現(xiàn)代變形的機(jī)器賦靈論，走向人工智能的功能增強(qiáng)，這才是人們應(yīng)該持有的健康的人工智能觀念。

Does Artificial Intelligence Need “Soul”？

— Possibilities and Doubts Raised by Large Language Model

WANG Feng

Abstract： The superb conversational capabilities and intelligent representations exhibited by large language model such as ChatGPT and GPT4 have once again sparked a heated debate about artificial intelligence. The big language model has no trace of self consiciousness or soul. Here in the organism， thinking and soul are consistent， while here in AI， thinking and soul are separated， one can say that AI thinks， but one cannot say that AI has soul， even a little trace. The soul-infusion theory clearly makes the mistake of confusing the fundamental boundary between organism and AI， and the idea that AI is self-aware is essentially a conceptual misuse. Clearing up this conceptual misuse facilitates putting AI such as large language model in an appropriate social position.

Key words： large language model; artificial intelligence; soul; thinking; conceptual misuse

（責(zé)任編輯：蘇建軍）