高霈寧

什么是人工智能？

1950年，“人工智能之父”圖靈提出了一個鑒定機器是否具有智能的方法—“圖靈測試”。他認為，讓若干測試者在與機器隔開的情況下隨意向機器提問，如果機器的所有回答中有30%讓測試者誤認為它是人，那么就可以說機器具有智能。今天，盡管偶爾有計算機程序通過了“圖靈測試”，但是以模擬人的思維為目標(biāo)的通用性人工智能仍然離我們較為遙遠。2017年機器人“索菲亞”被授予沙特阿拉伯國籍，而且在接受媒體采訪時對答如流、妙語連珠。然而不久即曝光出“索菲亞”不過是在背誦事先設(shè)定好的臺詞而已。即使蘋果公司的智能語音助手Siri也不斷被全球用戶吐槽過于笨拙，像個智障。

通用型人工智能的發(fā)展不盡如人意，而美國哲學(xué)家塞爾則將矛頭直接指向了“圖靈測試”。塞爾認為，即使機器能夠與人類進行對話，也絲毫不能證明機器能夠理解人類語言的意義。他提出了一個“中文屋”的思想實驗。假設(shè)有一個完全不懂中文的人被關(guān)在一個屋子里，屋里只有一大堆中文符號和一本說明書。屋外的人頻頻遞進來一些用中文書寫的問題卡片，而屋內(nèi)的人則按照說明書的指示將相應(yīng)的中文符號遞出去。假設(shè)說明書記錄了所有問題的答案，那么屋內(nèi)的人就能夠成功地騙過屋外的人，讓對方相信自己是懂中文的。塞爾的這個反駁有力地證明了，智能的存在與外在行為之間沒有必然的聯(lián)系。

不過，通用型人工智能的發(fā)展遭遇瓶頸并沒有阻礙人工智能的進步，反而引導(dǎo)它更多地向著功能型方向發(fā)展。功能型人工智能不追求“再現(xiàn)”人的思維，而是專注于某個特殊的領(lǐng)域，如自動駕駛、語音識別、人臉識別等方面。這一轉(zhuǎn)變讓人工智能脫胎換骨，不僅不再顯得“笨拙”，而且還展現(xiàn)出了遠超人類的“智力水平”。例如擊敗卡斯帕羅夫的計算機“深藍”和擊敗柯潔的AlphaGo就屬于功能型人工智能。在人工智能如此強大的運算和學(xué)習(xí)能力面前，人類只能望而卻步。

500年前，莎士比亞說人是“宇宙之精華，萬物之靈長”。而如今，人類在智力上卻受到了人工智能的全面碾壓。被自己的造物所超越，這究竟是幸還是不幸？

值得慶幸的是，即使人工智能在功能性上可以完勝人類，但是在通用性上卻依然“弱智”。無法與人類進行流暢的對話，意味著它僅僅能夠完成被指派的特定任務(wù)，卻無法進入意義的世界。北京大學(xué)哲學(xué)系教授何懷宏在《奇點臨近：福音還是噩耗》一文中提出，哲學(xué)、宗教、文學(xué)、藝術(shù)這些人文領(lǐng)域可能是人類最后可以保守的家園，因為這是獨屬于心靈的世界。

機器人會反叛人類嗎？

南風(fēng)窗：通用性人工智能一直是很多人夢寐以求的目標(biāo)。2017年機器人索菲亞被授予沙特阿拉伯國籍，科幻電影中還描述過未來人類撫養(yǎng)機器人小孩，或者和機器人談戀愛的場景。如果當(dāng)有一天，人工智能和人的行為難以區(qū)分時，我們是不是可能會以人的態(tài)度來對待它們？

何懷宏：通用型機器人在某種意義上講就是超級機器人，或者說是很類似于人的智能，乃至超過人的智能的機器人。關(guān)于機器人索菲亞被授予沙特阿拉伯國籍這件事，我覺得這很可能只是一種宣傳，乃至說是媒體的噱頭，因為機器人不可能是真實的公民，也不可能實際履行公民的權(quán)利和義務(wù)。它投票嗎？它定居在哪里？目前的機器人再智能也需要有真實的人在后面管理和操縱它，所以很難說機器人具有自主性和主體性。那么在社會生活中，我們也就不可能把它當(dāng)作真正的人來看待。

我不否認有些人可能會對機器人產(chǎn)生特殊感情，就像某種戀物癖。但這是單向的。如果機器人要普遍地被社會當(dāng)作人來看待，那它就必須具有主體意識，有自我。這個時候它才具備被當(dāng)作“人”的條件。但是目前，我們還看不到這種可能性。人和機器之間仍然有很大的界限。人的感情，甚至包括動物的感情都要立足于碳基生物這個前提，但機器是硅基的，它不具有感受性。如果以后機器有一個獨立的世界，那是另一個世界。其實動物比機器與人更接近，我們對能力上弱于我們的動物甚至應(yīng)該負有某種“道德代理人”的責(zé)任，但它們能夠成為“公民”嗎？還是不可能。

南風(fēng)窗：一提到人工智能，很多人會聯(lián)想到機器人未來可能會“統(tǒng)治”人類。如果我們在程序上為機器人事先設(shè)計一套倫理法則，是不是可以保證機器人在未來不會“反叛”呢？

何懷宏：人類可以為機器人的行為設(shè)定法則，但是使用“倫理法則”這個詞不一定合適。因為倫理法則首先涉及道德主體間的自我意識，而機器人不大可能有類似人的道德意識。我們可以給機器人的行為制定一些規(guī)則，比如說絕不允許它使用暴力，甚至當(dāng)它有可能“造反”或者危害人類的時候，啟動自毀程序。但這并不是要先給它建立一個倫理意識，讓它自覺地遵守規(guī)則，而是人類為了自保而不得不如此。

按照海德格爾的說法，技術(shù)的本質(zhì)就是一個系統(tǒng)、一個架構(gòu)。人一旦被嵌入其中很難擺脫，甚至無法擺脫。

但即便有這樣的規(guī)則是否能確保機器不會“反叛”人類呢？最早的一個寫機器人的科幻小說就描述了這種“反叛”。我的確覺得人的規(guī)則是否能夠成功是很難說的。因為機器如果在智能上超過人，就可能會有破解的方法。即使我們事先給它設(shè)定了規(guī)則，它也可能慢慢發(fā)展出反制的手段。如果它比人類更聰明，那么它就能夠想出超過人的辦法。它們可能毀滅人，而且是不帶感情地毀滅，沒有愛，也沒有恨地毀滅。這個時候就真的沒有什么倫理道德可講。我們不可能跟沒有人類道德意識的機器講道德。

所以，對于一個擁有比我們?nèi)祟惛吣芰Φ拇嬖?，我們能否成功有效地確立這些規(guī)則，我還是懷疑，但有總是比沒有好。

無用階層不一定生活就很糟糕

南風(fēng)窗：就目前來看，機器人的“反叛”離我們還比較遙遠。但是在可預(yù)見的未來，你認為人工智能的普及將給予人自由還是剝奪人的自由呢？

何懷宏：我覺得既是給予也是剝奪。人工智能可以讓少部分人獲得更大的自由，但是對于更多的人來說，情況或許恰恰相反。很多人可能會因此失業(yè)，因為他們之前所學(xué)的專業(yè)技能將被人工智能取代。就像工業(yè)革命時期，很多手藝人失去了他們原來的謀生手段—那些精致的，可能需要畢生學(xué)習(xí)和傳承的手工技藝、工匠技藝，或者說失去了保留原來職業(yè)的自由。所以人工智能的影響是雙向的，它是一把雙刃劍。

我認為更可能的后果是，人工智能將越來越多地限制大多數(shù)人的自由空間。因為機器的功能越是發(fā)達，它對人的監(jiān)督和控制能力也就越強。也許發(fā)展到最后，極少數(shù)人通過操縱機器就能夠牢牢控制整個社會。并非完全不存在這種危險，我對此不抱樂觀態(tài)度。

其實，這個問題的背后涉及技術(shù)的本質(zhì)。技術(shù)會給人們帶來很多的便利，這個是不容否認的，但是能不能帶來更大的自由空間，或者說讓人有更多的閑暇，就要打個大大的問號了。

按照海德格爾的說法，技術(shù)的本質(zhì)就是一個系統(tǒng)、一個架構(gòu)。人一旦被嵌入其中很難擺脫，甚至無法擺脫。不只是人工智能會剝奪人的自由空間，從普遍意義上講，這就是技術(shù)給人類帶來的后果。就以汽車為例，當(dāng)汽車剛剛發(fā)明出來時，人們不會覺得步行受到影響，因為那時路上的車很少。但是當(dāng)汽車變得越來越多時，人們就會發(fā)現(xiàn)不能走在路中央了，大路就不是人走的大路了，而是車走的大路了。因為可能會被撞到，只能走在人行道上。

機器確實可以代替人做很多事情，但是這又會引發(fā)另外一個更重要的問題：當(dāng)人獲得了閑暇之后會做什么？如果人把工作都交給機器人來做，那么人可能會產(chǎn)生“我活著還有什么意義”這樣一種疑問。機器或許可以很好地養(yǎng)著人類，但是無所事事會幸福嗎？

南風(fēng)窗：當(dāng)人工智能可以全方面替代人的時候，對人自身是不是一種矮化呢？或者說人會不會受到變相的歧視？

何懷宏：人工智能在專門的功能上肯定會超過人，甚至在一般的智能上也有可能會超過人，那么矮化是必然的。未來可能很多企業(yè)家都更愿意使用機器人來工作，因為機器人不會偷懶，不會罷工，也不用交社保，多方便。其實現(xiàn)在很多代工廠已經(jīng)在大規(guī)模使用機器人。所以，未來至少有相當(dāng)一部分人會變成無用階層。無用階層并不一定是無產(chǎn)階層。他們的生活可能并不糟糕，但是卻“無用”，因為好像社會并不需要他們。這樣一種狀態(tài)是比較讓人擔(dān)心甚至是可怕的。

精神領(lǐng)域?qū)τ谌藖碚f不可或缺

南風(fēng)窗：我設(shè)想，人類在未來為了避免被歧視，可能會改造自己。其實很多科幻片也描述過這種場景，比如《鋼鐵俠》。假如有一天，我的四肢甚至大腦都可以借助于機器變得更強大，但是這樣的“身體”還是我的身體嗎？

未來的趨勢不僅是機器的人化—準(zhǔn)確的說，是類似于人，最后超過人的智能化。另一方面，現(xiàn)在的肉體人也可能也會被“機器化”，被“物化”。

何懷宏：是的，未來的趨勢不僅是機器的人化—準(zhǔn)確的說，是類似于人，最后超過人的智能化。另一方面，現(xiàn)在的肉體人也可能也會被“機器化”，被“物化”。我們會不斷地更換我們的器官，最后可能所有的身體器官都換了一遍，甚至記憶和情感也被“外包”了出去。這時我們可能會懷疑：這還是我自己的身體嗎？這還是我的大腦嗎？我還是我嗎？人會出現(xiàn)自我認同的危機，這在將來會是一個大問題。

南風(fēng)窗：你曾經(jīng)提出過，當(dāng)人工智能在體力和智力上全面超越人之后，人的價值將只能局限在精神領(lǐng)域，比如文學(xué)、藝術(shù)創(chuàng)作等。但是當(dāng)人類在物理世界輸給機器之后，在精神世界的追求還有價值嗎？

何懷宏：不能因為人的精神成就可能會最終毀滅就認為它沒有價值。哪怕沒有機器人，人類未來有一天也會毀滅，可能是由于自然災(zāi)害、某種疾病，或者其他什么原因而毀滅。但那可能是很漫長的時光之后。即便這樣，也并不意味著人類前面的追求就毫無意義。在人類的文明歷程中，每一個時代的人都在欣賞和享受這些追求和創(chuàng)造的價值。即使它們注定會消逝，會毀滅，也仍然具有自身的意義。而且人也是注定要去追求意義，這樣才會覺得人生是值得過的。所以精神領(lǐng)域?qū)τ谌藖碚f不可或缺，是“人禽之別”的基本標(biāo)志。

但是機器不可能理解人在精神世界的追求，也不可能理解人的創(chuàng)造。機器沒有人的心靈的欣賞能力，看不懂蒙娜麗莎，看不懂羅丹的雕塑，聽不懂貝多芬的交響樂。對機器來說，蒙娜麗莎可能和原始人乃至動物的幾筆涂鴉差別不大。而藝術(shù)作品對人就很珍貴。我們不僅能夠理解其中的價值，還能享受這些作品帶給我們的愉悅。

另外，如果真的如一些人所相信的那樣世界上存在上帝，那么就還存在一種永恒的記憶，永恒的觀照。人也不會白白地追求，因為人所追求的一切可能在上帝那里都已經(jīng)獲得了永存。這更讓人覺得安慰了，但這沒辦法證實，也沒辦法證偽。

人是有價值追求的，包括追求超越的存在、追求上帝，包括藝術(shù)的創(chuàng)造、哲學(xué)的沉思，這是機器做不到的。至于它們能做到什么，它們會有什么樣的追求和創(chuàng)造，我們不知道。大概就是兩不相關(guān)。