尹傳紅

美國資深外交官亨利·基辛格與谷歌公司前首席執(zhí)行官埃里克·施密特、麻省理工學(xué)院人工智能專家丹尼爾·胡滕洛赫爾，在他們最近合作出版的《人工智能時(shí)代與我們?nèi)祟惖耐{》一書中發(fā)出警告：人工智能是我們迄今為止最大的敵人。

他們?cè)诳疾炝艘酝鶗r(shí)代最具威力的戰(zhàn)略技術(shù)后指出：一戰(zhàn)中把軍隊(duì)送到前線的鐵路既能民用也能軍用，并能夠方便和廣泛地鋪開，但其自身并不構(gòu)成威脅;核技術(shù)同樣既能用于戰(zhàn)爭(zhēng)也能用于和平目的，雖具有巨大的破壞力，但擴(kuò)散不易。而具備全部三個(gè)特性的人工智能勢(shì)將打破這種范式：明顯具有軍民雙重用途，且可以容易地開發(fā)和部署（本質(zhì)上不過是計(jì)算機(jī)代碼），并具有巨大的破壞力。

沒有哪個(gè)時(shí)代面臨過如此復(fù)雜的戰(zhàn)略和技術(shù)挑戰(zhàn)！當(dāng)今世界已經(jīng)不能回避行將改寫戰(zhàn)爭(zhēng)方式的“人工智能武器”這個(gè)話題。

信息技術(shù)在軍事上的應(yīng)用，被認(rèn)為與馬鐙和火藥的發(fā)明具有同等重要的意義，是軍事行動(dòng)上的一場(chǎng)質(zhì)變。早在20世紀(jì)60年代末，戰(zhàn)略思想家便已預(yù)計(jì)到信息與通信技術(shù)的驚人發(fā)展會(huì)引發(fā)軍事上的深刻變革。越戰(zhàn)時(shí)期的美軍總司令威廉·威斯特摩蘭在1969年就曾預(yù)言：在未來的戰(zhàn)場(chǎng)上，通過使用數(shù)據(jù)連接、電腦協(xié)作的估算以及自動(dòng)化開火控制，敵軍幾乎會(huì)立刻遭到定位、瞄準(zhǔn)和打擊，第一輪殺傷概率將達(dá)到幾乎100%，監(jiān)視設(shè)備則能夠持續(xù)追蹤敵軍。在這樣的情況下，就不再需要通過大規(guī)模部隊(duì)才能搞定對(duì)手了。

技術(shù)本身并無善惡，人類利用技術(shù)所做的選擇，才是塑造世界的關(guān)鍵。

近年來，我們已然在屏幕上見識(shí)過，面對(duì)GPS定位儀、衛(wèi)星廣播、筆記本電腦和激光指示器，只需按一下按鈕，就能發(fā)動(dòng)精確制導(dǎo)的空襲。更令人不安的是，有的國家為獲得壓倒性軍事優(yōu)勢(shì)，通過賦予機(jī)器自行做出戰(zhàn)場(chǎng)決策的能力，使用無人操控武器遠(yuǎn)程發(fā)動(dòng)攻擊：讓機(jī)器來決定何時(shí)殺人或殺誰。

事實(shí)上，標(biāo)榜自己“不做惡”的谷歌公司就在研發(fā)專供軍事用途的機(jī)器人，其旗下一家公司研發(fā)的多種可作為火力平臺(tái)的履帶式機(jī)器人已進(jìn)入了實(shí)測(cè)階段。鑒于此，聯(lián)合國要求立即暫停任何致命殺傷性自主機(jī)器人的研發(fā)工作。然而，這紙禁令形同廢紙，研發(fā)工作絲毫沒有延緩之勢(shì)。

別以為都還是“科幻”。在2009年上映的科幻電影《終結(jié)者2018》中，出現(xiàn)了一個(gè)天網(wǎng)電腦網(wǎng)絡(luò)系統(tǒng)，它操縱著很多種用于追獵和殺戮的機(jī)器人，看著令人膽寒?，F(xiàn)實(shí)中又如何呢？一位美國科學(xué)家披露，曾有軍方人士找上門來，對(duì)他說：“哦，我們想請(qǐng)你設(shè)計(jì)一種無人機(jī)，就是《終結(jié)者》里的那種獵殺者。”

人工智能與武器的結(jié)合可能導(dǎo)致的倫理后果，目前正成為多個(gè)領(lǐng)域熱議的話題：由于人工智能在決策和行動(dòng)的自主性上正在脫離被動(dòng)工具的范疇，其判斷和行為如何進(jìn)行約束，才符合人類的真實(shí)意圖和價(jià)值觀，也不與法律及倫理等規(guī)范相背離？

毫無疑問，“數(shù)字戰(zhàn)士”的出現(xiàn)，不僅會(huì)改變參戰(zhàn)者的身份和戰(zhàn)爭(zhēng)的摧毀能力，也將改變戰(zhàn)爭(zhēng)的倫理。更何況，在一個(gè)充滿敵意、競(jìng)爭(zhēng)激烈的世界，人工智能正在增加因誤解或誤判而導(dǎo)致意外升級(jí)的風(fēng)險(xiǎn)。也正因如此，聯(lián)合國才考慮要在定于今年12月舉行的重新審議《特定常規(guī)武器公約》會(huì)議上，討論“禁止人工智能控制的致命武器”。

有道是：技術(shù)本身并無善惡，人類利用技術(shù)所做的選擇，才是塑造世界的關(guān)鍵。