高飛

人工智能正以無(wú)比迅捷的速度成為科技圈最熱的話題，有越來(lái)越多的人討論人工智能與人類(lèi)之間的問(wèn)題。著名物理學(xué)家霍金就發(fā)出過(guò)警告，人工智能未來(lái)必將威脅到人類(lèi)的生存，引發(fā)很多人的恐慌。但其實(shí)霍金等人的警告是有很重要的前提的，更重要的是，真正的人工智能其實(shí)離我們還非常遙遠(yuǎn)。

在2015年大連的達(dá)沃斯會(huì)議的人工智能論壇上，主持人拋出了這樣三個(gè)問(wèn)題：如果你作為嫌疑人出現(xiàn)在法庭上，你希望法官是人類(lèi)還是人工智能;如果你得了一種威脅你生命的疾病，你希望做出診斷的是人類(lèi)還是人工智能;如果國(guó)家之間爆發(fā)戰(zhàn)爭(zhēng)，你希望機(jī)器人做士兵（人工智能驅(qū)動(dòng)的）還是人類(lèi)做士兵？

沒(méi)有人工智能

對(duì)于這三個(gè)問(wèn)題，無(wú)論是現(xiàn)場(chǎng)的觀眾，還是之前網(wǎng)上征集的答案，關(guān)于前兩個(gè)問(wèn)題，都有比較大的爭(zhēng)議，有人或許因?yàn)獒t(yī)患關(guān)系不佳信任機(jī)器人醫(yī)生，也有人更相信“老大夫”式的人類(lèi)智慧。有人相信自己和人類(lèi)法官更能說(shuō)得清楚自己沒(méi)有犯罪，有人則對(duì)機(jī)器人的客觀公正更有把握。唯獨(dú)對(duì)第三個(gè)問(wèn)題，希望機(jī)器人做士兵還是人類(lèi)做士兵，答案卻很一致：所有人都認(rèn)為還是機(jī)器人做士兵可能更好一些。

這三個(gè)答案其實(shí)已經(jīng)體現(xiàn)了人類(lèi)對(duì)人工智能（或者說(shuō)機(jī)器人）的態(tài)度和定位，在公眾的內(nèi)心里，其實(shí)根本沒(méi)有所謂人工智能，只有類(lèi)似“狗智能”或者說(shuō)是“警犬式的智能”。人工智能的定義有很多，但是共性的描述都包括，讓機(jī)器擁有人類(lèi)一般的智能、思考能力、自我認(rèn)知能力和智慧的進(jìn)化能力。不過(guò)我們能看到的情況是，現(xiàn)在所有關(guān)于人工智能的產(chǎn)業(yè)化研究，都沒(méi)有涉及到這樣的人工智能。

這一方面是因?yàn)榧夹g(shù)水平還沒(méi)有達(dá)到這個(gè)層次，讓機(jī)器掌握自我進(jìn)化的智慧多少超出了我們現(xiàn)在掌握的科學(xué)水平。另一方面，正如剛才所提及的，雖然大家每天都在說(shuō)人工智能，但是沒(méi)有人希望或者相信有人工智能，也就是如人一般的智能，或者說(shuō)能夠取代人的智能?，F(xiàn)在所有在研發(fā)的人工智能（或者說(shuō)機(jī)器人），多數(shù)只是作為人類(lèi)的一個(gè)補(bǔ)充存在。這些機(jī)器人所從事的工作，或體現(xiàn)的作用，只是人類(lèi)自己不希望或者不愿意做的事情，而非真的將機(jī)器人作為另外一種智能去承認(rèn)。

比如工業(yè)生產(chǎn)線機(jī)器人，它解決人力成本越來(lái)越高的問(wèn)題，做的是人類(lèi)不再喜歡做重復(fù)性勞動(dòng)的工作;礦井的探測(cè)機(jī)器人的研發(fā)，是因?yàn)楣ぷ鳝h(huán)境太過(guò)惡劣，無(wú)人愿意從事的緣故。士兵機(jī)器人，更是因?yàn)槿祟?lèi)將自身生命看得非常寶貴，所以愿意齊刷刷選擇機(jī)器人上戰(zhàn)場(chǎng)。雖然也有一些場(chǎng)合，機(jī)器起到了主體作用，比如科學(xué)運(yùn)算，但這和人類(lèi)選擇狗作為警犬的道理如出一轍，我們選擇狗作為警犬，不是因?yàn)楣酚卸嘀悄埽ūM管狗在動(dòng)物界也算聰明），只是因?yàn)楣返谋亲颖热祟?lèi)靈敏（如同機(jī)器的純數(shù)學(xué)運(yùn)算速度快于人腦），這只能說(shuō)明機(jī)器的天然優(yōu)勢(shì)，而并非人類(lèi)承認(rèn)人工智能可以和人的智能平起平坐。正如人不會(huì)因?yàn)楣返谋亲颖热祟?lèi)靈敏，大家就會(huì)承認(rèn)“狗權(quán)”能等于，甚至大于人權(quán)。

既然現(xiàn)狀如此，為何開(kāi)篇提到的霍金等人會(huì)對(duì)人工智能如此疑慮呢？其實(shí)，霍金對(duì)人工智能的擔(dān)憂是有特定指向的。在包括霍金、哲學(xué)家喬姆斯基和馬斯克（特斯拉創(chuàng)始人）等專(zhuān)家和意見(jiàn)領(lǐng)袖的公開(kāi)信中，他們對(duì)人工智能的擔(dān)憂主要體現(xiàn)在人工智能用于“自主性武器”，通俗的說(shuō)就是機(jī)器士兵。這個(gè)有指向性的擔(dān)憂并非完全沒(méi)有道理，我們?cè)谶_(dá)沃斯論壇也看到了，公眾實(shí)際上對(duì)機(jī)器士兵是持歡迎態(tài)度的。但是，人們只看了機(jī)器士兵可以替人類(lèi)賣(mài)命，卻忽視了它可能存在的威脅。機(jī)器士兵，只會(huì)根據(jù)設(shè)定好的邏輯進(jìn)行攻擊判斷，不像人類(lèi)一樣會(huì)考慮自身安危。讓我們假設(shè)一下，如果把一個(gè)大國(guó)的核武器發(fā)動(dòng)按鈕由機(jī)器士兵來(lái)保管，那么1962年的古巴導(dǎo)彈危機(jī)大概不會(huì)持續(xù)13天，而只是13小時(shí)，甚至13分鐘之內(nèi)，一瞬間核武器就已經(jīng)在美蘇之間發(fā)射了。因?yàn)闄C(jī)器做決策，只有零和一，沒(méi)有妥協(xié)性的中間地帶。

盡管機(jī)器士兵的威脅對(duì)人類(lèi)確實(shí)存在，我們也必須看到，這種人工智能產(chǎn)生的威脅，和日常在科幻電影里看到的人工智能的威脅，完全不是一回事。在電影《終結(jié)者》中，天網(wǎng)就是一種機(jī)器士兵，它對(duì)人類(lèi)的圍剿是有主動(dòng)性的，天網(wǎng)認(rèn)為人類(lèi)是一種威脅，所以發(fā)動(dòng)了對(duì)人類(lèi)的戰(zhàn)爭(zhēng)。而在《黑客帝國(guó)》中，機(jī)器則因?yàn)槿祟?lèi)決定消滅機(jī)器人這一族群而發(fā)動(dòng)了一場(chǎng)反侵略戰(zhàn)爭(zhēng)。但霍金眼中的威脅，并不屬于以上的情況。自主性武器所帶來(lái)的威脅，更像是一種放大后的意外。自主武器因?yàn)檎`判了戰(zhàn)場(chǎng)情況，發(fā)動(dòng)了不該發(fā)動(dòng)的大規(guī)模殺傷武器，導(dǎo)致整個(gè)人類(lèi)面臨威脅，和人工智能判斷人類(lèi)本身是應(yīng)該消除的敵對(duì)勢(shì)力完全是兩種情況。雖然這兩種情況都可能造成人類(lèi)生存危機(jī)，但是緣由是完全不同的。一種是主動(dòng)為之，另一種是城門(mén)失火殃及池魚(yú)。

人工智能沒(méi)有機(jī)會(huì)長(zhǎng)大

既然人工智能具備智慧產(chǎn)生的威脅才是真正的威脅，這種境地離我們是否也已經(jīng)不遠(yuǎn)？可以說(shuō)，在目前產(chǎn)業(yè)界只是將人工智能定義為“警犬智能”的立場(chǎng)下，這種真正的人工智能威脅的距離還相當(dāng)遙遠(yuǎn)。原因在于，人工智能得不到像人類(lèi)一樣的成長(zhǎng)環(huán)境。

讓我們回顧一下人類(lèi)的成長(zhǎng)過(guò)程吧，這實(shí)際上是一個(gè)充滿(mǎn)了犯錯(cuò)和糾錯(cuò)的發(fā)展史。我們碰翻了開(kāi)水，知道了燙的傷害，我們不小心跌倒，知道了失去平衡的痛苦滋味。如果開(kāi)車(chē)出現(xiàn)了交通事故，則知道了注意力不集中，或者酒精對(duì)人腦帶來(lái)的損害。這樣不斷地犯錯(cuò)，也是一個(gè)不斷學(xué)習(xí)的過(guò)程，也是人類(lèi)對(duì)世界的認(rèn)知不斷進(jìn)步的過(guò)程。所以，幾乎所有的法治國(guó)家，都對(duì)未成年人的錯(cuò)誤持寬容態(tài)度，甚至未成年人犯罪，還會(huì)網(wǎng)開(kāi)一面，就是對(duì)“人犯錯(cuò)”的正面認(rèn)識(shí)。

可是人類(lèi)對(duì)人類(lèi)的態(tài)度，不會(huì)出現(xiàn)在人類(lèi)對(duì)機(jī)器身上。根據(jù)聯(lián)合國(guó)的一項(xiàng)數(shù)據(jù)統(tǒng)計(jì)，全世界每年因交通事故死亡的人數(shù)超過(guò)了100萬(wàn)。這些事故中，固然有很多是天氣和機(jī)械失靈的原因，但是相當(dāng)一部分是駕駛員（人類(lèi)）操作不當(dāng)導(dǎo)致。但是我們并沒(méi)有因此取締汽車(chē)這一交通工具，而是試圖以更嚴(yán)格的法律和駕駛培訓(xùn)來(lái)解決這樣的問(wèn)題?？扇绻覀冇脵C(jī)器換位思考一下，情況截然不同?，F(xiàn)在谷歌等公司正在道路上測(cè)試的無(wú)人駕駛汽車(chē)，不用說(shuō)發(fā)生人類(lèi)駕駛員可能犯的百萬(wàn)次錯(cuò)誤，如果僅僅每年因?yàn)槿斯ぶ悄苷`判發(fā)生10起致人死亡的事故，相信也足以讓交通管理部門(mén)叫停谷歌這一測(cè)試。人類(lèi)對(duì)自身是寬容的，而對(duì)待機(jī)器（異類(lèi)）是嚴(yán)苛的。正是這種嚴(yán)苛，雖然科學(xué)家和技術(shù)公司對(duì)人工智能的研究如火如荼，但是如果不能讓人工智能得到人類(lèi)一樣的糾錯(cuò)機(jī)會(huì)，不能獲得人類(lèi)一樣的成長(zhǎng)環(huán)境，人工智能很難真正“長(zhǎng)大成人”。

當(dāng)然，人工既然是計(jì)算機(jī)產(chǎn)生的智慧，或許也可以利用虛擬現(xiàn)實(shí)作為一種訓(xùn)練方法，正如《黑客帝國(guó)》中，尼奧也在一個(gè)小型的“Matrix”中學(xué)會(huì)了功夫。但現(xiàn)實(shí)世界的變量遠(yuǎn)遠(yuǎn)不是虛擬世界能夠去完全模擬的。沒(méi)有一個(gè)“良好”的成長(zhǎng)環(huán)境，出生在一個(gè)犯錯(cuò)就會(huì)被“砍頭”的教育環(huán)境里，我們很難相信真正的人工智能能夠通過(guò)機(jī)器學(xué)習(xí)實(shí)現(xiàn)自我成長(zhǎng)。在很長(zhǎng)一段時(shí)間里，相信我們見(jiàn)不到人工智能，只能看到有一技之長(zhǎng)的“狗智能”。

人工智能的未來(lái)

那么，“狗智能”是否就是人類(lèi)所能創(chuàng)造的機(jī)器智慧的最高境界呢？答案也不會(huì)那么簡(jiǎn)單。這里有兩個(gè)變數(shù)存在。首先，每個(gè)科幻電影里都有一個(gè)瘋狂的科學(xué)家，現(xiàn)實(shí)世界當(dāng)中，很難說(shuō)不會(huì)發(fā)生這樣的情況。在正常的學(xué)術(shù)環(huán)境（倫理要求）下，人工智能無(wú)法得到的成長(zhǎng)環(huán)境，在一些極端環(huán)境下，是可能出現(xiàn)的。不說(shuō)戰(zhàn)爭(zhēng)，和人類(lèi)較為遙遠(yuǎn)的外太空探索就可能讓科學(xué)家和政府作出一定程度上的讓步。

另一方面，雖然像人工一樣的智能很難出現(xiàn)，但是人工+智能卻不那么遙遠(yuǎn)。手機(jī)和可穿戴設(shè)備的到來(lái)，讓人與機(jī)器之間的距離前所未有的貼近。而接下來(lái)植入人體的智能硬件，則讓人工+智能（機(jī)器）成為現(xiàn)實(shí)。雖然，人工+智能的初衷，是讓機(jī)器作為人的助手，幫助人提高效率，做決策的還是人，但是未見(jiàn)得機(jī)器智能不會(huì)反客為主。因?yàn)槭侨斯?智能，人表面上掌握了決策的最終決定權(quán)，所以在這個(gè)外衣的掩護(hù)下，機(jī)器犯了錯(cuò)，也不一定歸罪于機(jī)器，正如人類(lèi)駕駛員開(kāi)車(chē)出了事故，不能去責(zé)怪汽車(chē)一樣。這種寬容，可能讓機(jī)器實(shí)現(xiàn)了某種程度的在真實(shí)世界成長(zhǎng)的機(jī)會(huì)，而不是犯錯(cuò)后就扼殺在搖籃里。這個(gè)進(jìn)程，取決于碳基生命（人類(lèi)）和硅基生命（機(jī)器）之間結(jié)合的速度。

這樣看來(lái)，人工智能的威脅確實(shí)未能完全避免。不過(guò)退一步思考，人工智能真的對(duì)人類(lèi)產(chǎn)生威脅，應(yīng)該不會(huì)比人類(lèi)對(duì)人類(lèi)自身的威脅更大。讓我們?cè)侔岢鲞@個(gè)定義吧：人工智能，是指像人類(lèi)一樣的智能。所以人工智能，歸根結(jié)底模仿的是人類(lèi)的言行。人類(lèi)危險(xiǎn)，機(jī)器自然也可能危險(xiǎn)?，F(xiàn)在機(jī)器對(duì)人類(lèi)文本學(xué)習(xí)的理解能力的技術(shù)進(jìn)步速度是相當(dāng)快的，其實(shí)這就是比較危險(xiǎn)的一件事，因?yàn)闄C(jī)器可以讀到的人類(lèi)史，就是一部戰(zhàn)爭(zhēng)不斷的沖突史。上行下效之下，一個(gè)剛讀完二戰(zhàn)史的人工智能，將如何看待閃電戰(zhàn)和原子彈在戰(zhàn)爭(zhēng)中的作用呢？

所以人工智能是否會(huì)產(chǎn)生威脅，實(shí)際上與“智能”本身無(wú)關(guān)，而僅與“人工”有關(guān)?！度w》一書(shū)中，三體人說(shuō)，我們 “消滅你，與你無(wú)關(guān)”。而如果有一天人工智能真的有了威脅，那恐怕是，消滅你，是因?yàn)槟憬涛疫@么干。