江曉原

從去年12月29號(hào)“上線”到1月4日，一個(gè)名為“Master”的神秘賬號(hào)在多家網(wǎng)絡(luò)圍棋平臺(tái)連續(xù)挑落53名世界圍棋高手，中日韓三國的最強(qiáng)選手：柯潔、井山裕太和樸廷桓三人無一幸免。作為智力游戲的最高象征，圍棋領(lǐng)域的失手讓人類感到一絲畏懼。人工智能將威脅到人類文明嗎？

我本人是學(xué)天體物理出身的，算是科學(xué)家，在天文臺(tái)工作過十幾年，對科學(xué)有一些了解，但我并不從事人工智能的研究。對于人工智能，我是完全反對的，我認(rèn)為人類現(xiàn)在正在玩的火有那么兩三把，其中最危險(xiǎn)的就是人工智能，但是很多人并沒有認(rèn)識(shí)到這一點(diǎn)。我們可以從近期、中期和遠(yuǎn)期三個(gè)層面來看人工智能的威脅。

近期威脅：大批失業(yè)、軍事化

近期主要的問題是會(huì)導(dǎo)致大規(guī)模的失業(yè)和大規(guī)模的軍事化應(yīng)用，中期是公眾相對了解最多的，就是擔(dān)心人工智能失控、反叛；但是遠(yuǎn)期的終極威脅很多人都沒有想到。

在每一期威脅上都有很多錯(cuò)誤的認(rèn)識(shí)。最常見的一種是：現(xiàn)在的人工智能還很弱小，我們擔(dān)心的什么反叛、失控，都太遙遠(yuǎn)了。這種理由是非常荒謬的，想想“養(yǎng)虎遺患”是什么意思？能用“老虎還小”作為你的理由嗎？

我們首先看近期的危險(xiǎn)。在這個(gè)方面，人工智能的專家們也祭出了一些非常幼稚的理由，他們首先對我們許諾說，在可見的將來，95%甚至95%以上的工作崗位，都將可以由人工智能來取代。如果真的像他們說的那樣，那就意味著我們社會(huì)中的絕大部分人都將失業(yè)，只剩下少數(shù)人工作養(yǎng)活所有人。這樣的社會(huì)結(jié)構(gòu)，人類有史以來還沒有出現(xiàn)過。

現(xiàn)在有10%或者15%的人失業(yè)，我們就說失業(yè)率高企，這個(gè)社會(huì)很危險(xiǎn)了。那要是到了85%、95%的人都不需要工作的時(shí)候，他們會(huì)干什么呢？你可以說他們不叫失業(yè)，現(xiàn)在讓機(jī)器人工作，養(yǎng)活我們就行了，他們只要在家里吃喝玩樂就行了。這個(gè)時(shí)候你要當(dāng)心，人們除了吃喝玩樂，還要做另外一件事情：他們要鬧革命，95%的工作都可以被取代的話，可以猜想，連革命也可以讓機(jī)器人來進(jìn)行。而由機(jī)器人進(jìn)行的革命，在很多科幻電影里大家都已經(jīng)看到了，比如說《機(jī)械公敵》的結(jié)尾，廣場上是一望無際的機(jī)器人，這樣的社會(huì)非常危險(xiǎn)。

搞人工智能的專家經(jīng)常跟我們說，人類歷史上每次重要的技術(shù)革命產(chǎn)生的時(shí)候，都失去了一些工作崗位，但是接著都造成了新的崗位。當(dāng)他們找出這種理由來的時(shí)候，在邏輯上已經(jīng)犯錯(cuò)誤了。因?yàn)樗麄冎俺兄Z的95%的崗位都可以由機(jī)器人來完成就不成立了。

事實(shí)上，人工智能造成的對人工的取代，跟以往的情形完全不一樣。原來我們可以說，有了汽車，馬車夫失業(yè)了不要緊，可以改為開汽車；可是現(xiàn)在汽車本身都是智能的了，用不著人去開它了，所以大規(guī)模失業(yè)實(shí)際上是一個(gè)非常危險(xiǎn)的事情。我覺得我們不能僅僅因?yàn)閺慕档统杀究紤]使用機(jī)器人。如果你換用了機(jī)器人以后，產(chǎn)業(yè)能夠升級(jí)，那也許還能考慮，盡管長遠(yuǎn)來說也不好。但如果你僅僅為了降低成本而導(dǎo)致大批工人失業(yè)，社會(huì)就不安定了。

把機(jī)器人弄到軍事用途上當(dāng)然會(huì)很有效，盡管大家都知道阿西莫夫的機(jī)器人三定律，任何軍事用途都是直接違反三定律的，但三定律又不是什么法律，只是小說家的想象。另外，機(jī)器人用到軍事用途上，還會(huì)帶來更多的倫理問題。比如說我們今天決定往什么地方扔炸彈，這是由我們?nèi)藖頉Q定的；現(xiàn)在有智能無人機(jī)之類的裝置，需要它自己當(dāng)場斷定要不要攻擊某一目標(biāo)，這樣一來就變成由機(jī)器人來決定它要不要?dú)⒛莻€(gè)人了，這樣的事情在倫理上完全改變了以前戰(zhàn)爭的狀態(tài)。

所以我們今天如果把人工智能用到軍事上，我覺得只能抱著類似于當(dāng)年美國人搞曼哈頓工程的心態(tài)，只是因?yàn)楦覀兊膶κ忠苍谂?，我們不弄?huì)吃虧，所以不得不跟進(jìn)。所以特斯拉的老總馬斯克提出來各國應(yīng)該坐下來談判，簽協(xié)定不能把機(jī)器人用到軍事用途上。

中期威脅：人工智能的反叛和失控

中期的問題是人工智能的反叛，現(xiàn)在有些業(yè)界專家還在說，可以拔掉機(jī)器人的電源。實(shí)際上人工智能跟互聯(lián)網(wǎng)結(jié)合以后，它完全不需要什么形態(tài)，以前沒有互聯(lián)網(wǎng)的時(shí)候，單個(gè)的人工智能有局限，哪怕全部都是芯片，也有存儲(chǔ)、運(yùn)算方面的極限。但是現(xiàn)在跟互聯(lián)網(wǎng)一結(jié)合，所有的物質(zhì)結(jié)構(gòu)都不再需要了，只要靠在網(wǎng)絡(luò)上下單、訂購各種服務(wù)，就可以完成對社會(huì)的破壞。所以到那個(gè)時(shí)候你根本無法拔電源，因?yàn)樗淮嬖谝粋€(gè)電源讓你拔掉。

人工智能和互聯(lián)網(wǎng)結(jié)合以后，危險(xiǎn)成萬倍增長。以前對于個(gè)體的人工智能，它智能的增長還會(huì)受到物理極限的約束，但一旦和互聯(lián)網(wǎng)結(jié)合，這個(gè)物理極限的約束就徹底消失了。所以人工智能可以在極快的時(shí)間里自我進(jìn)化。

去年一篇很長的文章在很多圈子里瘋傳，那篇文章稍微有點(diǎn)危言聳聽，但結(jié)論我同意。作者想論證這樣一種前景，就是說人工智能一旦越過了某個(gè)坎之后，自我進(jìn)化的速度是極快的，快到不是以年月來計(jì)算，而可能是以分鐘甚至是秒來計(jì)算。一瞬間它就可以變成超人。一旦變成超人，當(dāng)然就失控了。因此說老虎還小的人，不要以為老虎跟現(xiàn)在一樣一年長大一點(diǎn)，如果這個(gè)老虎一分鐘長大一倍，這樣的老虎還了得？雖然現(xiàn)在很小，過五分鐘就能吃人了。

在這個(gè)問題上，專家們經(jīng)常說，我們在機(jī)器人的芯片里寫進(jìn)什么話，讓它不學(xué)壞。關(guān)于這個(gè)問題最簡單的疑問是，你都不能保證自己的孩子不學(xué)壞，更何況人工智能呢？因此，到目前為止，沒有人能給出一個(gè)辦法讓我們相信他真的能防止人工智能的反叛。

遠(yuǎn)期威脅：將最終消解人類生存的根本意義

但是最危險(xiǎn)的是來自遠(yuǎn)期的威脅，這是終極威脅，假如人工智能一點(diǎn)都不反叛，全能地、忠誠地、全心全意為我們服務(wù)，所有的事情被人工智能做完了，你活著干什么呢？你會(huì)變成行尸走肉，人類這個(gè)物種會(huì)迅速退化，無論在體能和智能上都迅速退化，這樣對人類來說一點(diǎn)意義都沒有，實(shí)際上就是自掘墳?zāi)埂?/p>

所以我們應(yīng)該把人工智能認(rèn)識(shí)為大規(guī)模殺傷性武器，最好的局面是將來世界各大國坐下來舉行談判，加以限制。最多保留一點(diǎn)低級(jí)的人工智能，但是我們要想辦法防止它的進(jìn)化。

其實(shí)我們在生活中用了很多人工智能，比如說你在網(wǎng)上買一張火車票、飛機(jī)票，這個(gè)系統(tǒng)就是人工智能。這類人工智能如果不進(jìn)化問題不大，但是由于人工智能有可能是以極快的速度進(jìn)化的，這個(gè)進(jìn)化的過程我們很難操控，因此我們能做的就是嚴(yán)防它的進(jìn)化，當(dāng)然我們能做到什么程度，這個(gè)事情很難說。

我們現(xiàn)在能確定的是現(xiàn)在科學(xué)家憋著勁兒要搞人工智能，不確定的是人工智能最后會(huì)不會(huì)毀滅我們。

摘編自《文匯學(xué)人》微信公號(hào) 作者系上海交通大學(xué)科學(xué)史與科學(xué)文化研究院院長