薛巍

人機(jī)大戰(zhàn)，哲學(xué)家另有思考方式。

“阿爾法圍棋”（AlphaGo）贏了李世石兩局之后，阿爾法圍棋團(tuán)隊(duì)的工作人員非常喜悅，李世石心情沉重，但我寫(xiě)郵件詢(xún)問(wèn)兩位專(zhuān)家的看法，發(fā)現(xiàn)他們的反應(yīng)都很平靜。一直認(rèn)為人工智能研究一開(kāi)始就注定會(huì)失敗的美國(guó)哲學(xué)家約翰·塞爾說(shuō)：“沒(méi)有意識(shí)，機(jī)器人就無(wú)法真正地下棋。所以（機(jī)器人下棋）只是一個(gè)比喻。比喻是無(wú)害的，除非你把它當(dāng)真?！泵绹?guó)量子物理學(xué)家戴維·多伊奇說(shuō)：“我認(rèn)為這是一個(gè)令人印象極其深刻的成就，但這幾乎跟人類(lèi)意義上的通用智能無(wú)關(guān)?！彼麄兌冀ㄗh我去讀他們以前的文章，說(shuō)明阿爾法狗的勝利并沒(méi)有改變他們之前的觀點(diǎn)。

英國(guó)《衛(wèi)報(bào)》的報(bào)道說(shuō)：“比賽開(kāi)始時(shí)，李世石按照韓國(guó)人的傳統(tǒng)向?qū)κ志瞎硎咀鹁矗@次他的對(duì)手既看不見(jiàn)他，也感知不到他的存在?！边€不僅如此。2014年約翰·塞爾在《你的電腦不知道什么》一文中說(shuō)：“我們經(jīng)常會(huì)看到有人說(shuō)，‘深藍(lán)下棋贏了卡斯帕羅夫。這種說(shuō)法很可疑?？ㄋ古亮_夫要下棋并獲勝，他必須得意識(shí)到他是在下棋，并意識(shí)到無(wú)數(shù)其他東西，如他的王后受到了威脅?！钏{(lán)對(duì)這些都沒(méi)有意識(shí)，因?yàn)樗鼘?duì)什么都沒(méi)有意識(shí)。為什么意識(shí)如此重要？如果你沒(méi)有意識(shí)，你就不能真正地下棋或者做任何認(rèn)知行為?！?/p>

1984年，塞爾在BBC瑞思講座第二講的標(biāo)題是：電腦能不能思考？他的回答是否定的。他說(shuō)，按照電腦的定義，無(wú)論它們多么先進(jìn)，它們都不會(huì)思考，但這不等于說(shuō)電腦不強(qiáng)大。而人工智能研究者的樂(lè)觀和自信也是非常驚人。比如日本人工智能專(zhuān)家松偉豐就說(shuō)：“如果人類(lèi)的思維也是某種計(jì)算的話(huà)，那么它就完全有理由通過(guò)計(jì)算機(jī)來(lái)模擬和實(shí)現(xiàn)。人類(lèi)所有的大腦活動(dòng)，包括思考、識(shí)別、記憶、感情，全部都可以通過(guò)計(jì)算機(jī)得到實(shí)現(xiàn)。只要我們通過(guò)計(jì)算機(jī)來(lái)實(shí)現(xiàn)人工智能，我們就可以為它配備一個(gè)類(lèi)似于人身體的東西，可以將它設(shè)置成偶爾也會(huì)犯些錯(cuò)誤?！比麪柊堰@種樂(lè)觀的看法稱(chēng)作“強(qiáng)人工智能”派。在他們看來(lái)，人腦的運(yùn)行跟電腦的運(yùn)行是類(lèi)似的，人腦就是一個(gè)計(jì)算機(jī)，心靈相當(dāng)于電腦的程序。

根據(jù)這種觀點(diǎn)，人類(lèi)的心靈沒(méi)有什么本質(zhì)性的生物學(xué)特點(diǎn)。所以任何有著恰當(dāng)?shù)某绦?、恰?dāng)?shù)妮斎牒洼敵龅奈锢硐到y(tǒng)都跟人一樣，有其心靈。例如，如果你用舊啤酒罐做了一個(gè)風(fēng)力驅(qū)動(dòng)的電腦，如果有著合適的程序，它就會(huì)有心靈。卡內(nèi)基梅隆大學(xué)的休伯特·西蒙說(shuō)，我們已經(jīng)有了能夠思考的機(jī)器，現(xiàn)在的電腦已經(jīng)跟人一樣有思想。西蒙的同事阿蘭·紐厄爾聲稱(chēng)，我們已經(jīng)發(fā)現(xiàn)，智能只是一個(gè)物理信號(hào)操作的問(wèn)題;它跟生理或身體硬件沒(méi)有本質(zhì)關(guān)聯(lián)。麻省理工學(xué)院的馬文·明斯基說(shuō)，下一代電腦會(huì)非常智能，以致如果它們?cè)敢庾屛覀兞粼诩抑挟?dāng)寵物，我們就很幸運(yùn)了。最夸張的是人工智能一詞發(fā)明人約翰·麥卡錫的說(shuō)法：甚至連溫度計(jì)那樣簡(jiǎn)單的機(jī)器都有信念。溫度計(jì)有什么信念呢？他說(shuō)：“我的溫度計(jì)有三個(gè)信念：這里太熱，這里太冷，以及這里不冷不熱?！?/p>

塞爾說(shuō)，電腦的運(yùn)行是純粹形式化的，我們用抽象的符號(hào)來(lái)確定電腦運(yùn)行的步驟，比如印在紙帶上的0和1的序列。電腦的規(guī)則將確定，當(dāng)電腦處于某個(gè)狀態(tài)、紙帶上有某些符號(hào)時(shí)，它就會(huì)運(yùn)行某種運(yùn)算。但這些符號(hào)是沒(méi)有意義的，它們沒(méi)有任何語(yǔ)義內(nèi)容。比如0和1，它們甚至不代表數(shù)字。正是電腦的這種特征使得它們?nèi)绱藦?qiáng)大。同一種硬件可以運(yùn)行各種程序。同一種程序可以在各種硬件上運(yùn)行。

但程序的這種純粹形式化或句法化的特征決定了，程序的運(yùn)行過(guò)程和人的精神過(guò)程是不一樣的。擁有一個(gè)心靈不只是有一個(gè)形式化、句法過(guò)程。我們內(nèi)在的精神狀態(tài)是有內(nèi)容的?！叭绻蚁氲侥硞€(gè)城市或者想喝點(diǎn)冰啤酒，在其形式化特征之外，我的精神狀態(tài)是有一定的內(nèi)容的。即使我的思想是一系列符號(hào)，但思想不只是抽象的序列，因?yàn)檫@些序列本身沒(méi)有任何意義。如果我的思想是關(guān)于某種東西的思想，那么這一序列必須要有意義。換言之，心靈不只是句法的，還有語(yǔ)義學(xué)內(nèi)容。電腦程序永遠(yuǎn)都成不了心靈，因?yàn)殡娔X程序只是句法的，而心靈不只是句法的。心靈是語(yǔ)義學(xué)的，它們不只有形式化結(jié)構(gòu)，還有內(nèi)容。人的思考不只是操作無(wú)意義的符號(hào)的問(wèn)題，還包括有意義的句法內(nèi)容。這些句法內(nèi)容就是我們所說(shuō)的意義。”所以，“不管電腦技術(shù)發(fā)展到什么階段，不管計(jì)算機(jī)科學(xué)有多么驚人的進(jìn)步，不管計(jì)算機(jī)運(yùn)行得有多快，如果它是一個(gè)電腦，它的運(yùn)行就是句法的，而意識(shí)、思想、感覺(jué)、情緒等都不只涉及句法。電腦的模仿能力不管有多強(qiáng)大，都無(wú)法復(fù)制這些特征”。

塞爾在2014年的文章中以另一種方式說(shuō)明了電腦和人腦的差異：商用電腦是完全沒(méi)有意識(shí)的。“比如我糾正自己的拼寫(xiě)和電腦的拼寫(xiě)檢查。我希望正確地拼寫(xiě)，我也相信我能在詞典里查到一個(gè)詞正確的拼法，所以我就去查。我的行為有三個(gè)層次：神經(jīng)生理學(xué)層次、在神經(jīng)生物學(xué)層面引發(fā)和實(shí)現(xiàn)的精神或意識(shí)層次，以及心理學(xué)層面引發(fā)的意向性行為層次。如果我拼錯(cuò)了一個(gè)詞，電腦把它顯示為紅色，并提示正確的拼寫(xiě)。電腦希望得出正確的拼法嗎？它相信我拼錯(cuò)了嗎？電腦有一個(gè)單詞的清單，如果我打出的詞不在這個(gè)清單上，它就把它標(biāo)成紅色。電腦只有兩個(gè)層次：硬件層次和行為層次，沒(méi)有中間的真實(shí)心理層次?！?/p>

我們會(huì)不會(huì)被比自己更聰明的電腦消滅？塞爾認(rèn)為這是無(wú)稽之談?！半娔X有真正的智能嗎？一點(diǎn)都沒(méi)有。它們也沒(méi)有思考、記憶、決定、欲求、動(dòng)機(jī)、學(xué)習(xí)和信息處理能力，更不用說(shuō)下棋和回答問(wèn)題的能力了。一些商用計(jì)算機(jī)能夠卓越地完成它們的任務(wù)，但永遠(yuǎn)都不要以為它們有任何心理現(xiàn)實(shí)。為什么這種系統(tǒng)要有產(chǎn)生意識(shí)的能力？恰當(dāng)?shù)男袨闉槭裁催€不夠？對(duì)許多目的來(lái)說(shuō)，這確實(shí)足夠了。如果電腦能夠開(kāi)飛機(jī)、駕駛汽車(chē)、贏棋，誰(shuí)管它有沒(méi)有意識(shí)啊？但是如果我們擔(dān)心一個(gè)有著邪惡動(dòng)機(jī)的超智能會(huì)消滅我們，那這種邪惡動(dòng)機(jī)應(yīng)該是真實(shí)的。沒(méi)有意識(shí)的話(huà)，這種可能性就不是現(xiàn)實(shí)的。電腦沒(méi)有任何智能、動(dòng)機(jī)和自主性。我們很容易就能想象一個(gè)有意識(shí)的心靈給機(jī)器人裝上程序，讓它們?nèi)⑷耍?jí)智能電腦有意識(shí)地去殺人是不切實(shí)際的。”

英國(guó)前皇家學(xué)會(huì)副主席阿里斯泰爾認(rèn)為：“再過(guò)幾十甚至幾百年，人類(lèi)大腦進(jìn)化出的許多復(fù)雜的信息處理系統(tǒng)也不能在任何機(jī)器上復(fù)制出來(lái)。大腦極其復(fù)雜。人類(lèi)和機(jī)器之間將依然存在人格鴻溝，人類(lèi)的智能、情緒方面的洞察力和處理不確定性的能力是機(jī)器得不到的。在目前可以想象的將來(lái)，人類(lèi)和機(jī)器將保持互補(bǔ)。我們要學(xué)習(xí)如何跟它們共處，但它們無(wú)法取代我們。”