賈珍珍 石海明

未來是一個(gè)無比美好的詞匯，它往往寓意機(jī)遇、潛力、希望……除了考古學(xué)家，似乎科學(xué)家、政治家、科幻文學(xué)家、教育家等都喜歡談?wù)撐磥?。如今，隨著人工智能（AI）的發(fā)展，人類社會(huì)正在走向人機(jī)協(xié)同、跨界融合、萬物智能的“智慧時(shí)代”，軍事領(lǐng)域則是社會(huì)的縮影與先導(dǎo)。

作為現(xiàn)代戰(zhàn)爭中崛起的新貴，無人戰(zhàn)車、智能炸彈、空間機(jī)器人等一系列智能化作戰(zhàn)武器在人工智能的高速發(fā)展下，迅速從實(shí)驗(yàn)室走向陸?？仗鞆V域戰(zhàn)場。由此引發(fā)的好奇和擔(dān)憂也接踵而至：人工智能會(huì)否迅速顛覆未來戰(zhàn)爭？會(huì)否完全取代人類作戰(zhàn)？在AI面前，誰將真正掌控未來的戰(zhàn)爭？

AI顛覆未來戰(zhàn)爭擔(dān)憂過早

AI領(lǐng)域的突破讓人驚嘆。很多人或許會(huì)對(duì)2016年6月的一次模擬對(duì)抗記憶猶新——由美國研究人員開發(fā)的阿爾法系統(tǒng)在模擬空戰(zhàn)中對(duì)抗兩名退役的戰(zhàn)斗機(jī)飛行員，AI系統(tǒng)大獲全勝。

在這次模擬空戰(zhàn)中，由兩架攻擊噴氣戰(zhàn)斗機(jī)組成的藍(lán)隊(duì)具有更強(qiáng)的武器系統(tǒng)，但是阿爾法系統(tǒng)的紅隊(duì)通過躲避動(dòng)作擊敗了敵機(jī)。比賽結(jié)束后，飛行員認(rèn)為這款程序非常善于掌控態(tài)勢，反應(yīng)也靈敏得出奇，似乎能預(yù)測人類的意圖，并在人類改變飛行動(dòng)作或發(fā)射導(dǎo)彈時(shí)立即回應(yīng)。軍事專家表示，這個(gè)結(jié)果具有深遠(yuǎn)的意義，“就像一個(gè)象棋大師輸給了電腦”。

戰(zhàn)斗機(jī)飛行員與阿爾法系統(tǒng)之間的“人機(jī)大戰(zhàn)”，可以說代表了人工智能在基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)、高性能計(jì)算和大數(shù)據(jù)技術(shù)等領(lǐng)域的最新成就。但若從現(xiàn)有AI技術(shù)發(fā)展?fàn)顩r來看，有關(guān)人工智能會(huì)迅速顛覆未來戰(zhàn)爭的擔(dān)憂似乎為時(shí)尚早。

一是戰(zhàn)場環(huán)境難適應(yīng)問題。當(dāng)前的人工智能之所以備受關(guān)注，其背后的主要?jiǎng)右蚴牵兄叭斯ぶ悄芙谈浮敝Q的杰弗里·辛頓2006年提出的深度學(xué)習(xí)方法大大提高了人工智能在圖像識(shí)別、語音識(shí)別等方面的效率。然而，該方法在面對(duì)具有可微分、強(qiáng)監(jiān)督學(xué)習(xí)、封閉靜態(tài)系統(tǒng)等任務(wù)時(shí)有效，在面對(duì)不可微分、弱監(jiān)督學(xué)習(xí)、開放動(dòng)態(tài)環(huán)境下的任務(wù)時(shí)效果較差，計(jì)算收斂性不好。

二是作戰(zhàn)主體難進(jìn)化問題。就人工智能行為主義進(jìn)路中的增強(qiáng)學(xué)習(xí)而言，其最主要的缺點(diǎn)是把人的行為過程看得過于簡單，實(shí)驗(yàn)中往往只是測量簡單的獎(jiǎng)懲反饋過程，有些結(jié)論并不能遷移到實(shí)際戰(zhàn)場情景中，所以往往外部效度不高。此外，行為主義刻意研究可以觀察的行為，而將意識(shí)與行為對(duì)立起來，限制了戰(zhàn)爭中人工智能主體的進(jìn)化。

三是戰(zhàn)術(shù)行為難解釋問題。人工智能符號(hào)主義基于邏輯推理的智能模擬方法模擬人的智能行為，屬于現(xiàn)代人工智能進(jìn)路。它主張用邏輯方法來構(gòu)建人工智能的統(tǒng)一理論體系，但卻遇到了“常識(shí)”問題的障礙，以及不確知事物的知識(shí)表示和問題求解等難題，因此，如將其運(yùn)用到未來戰(zhàn)爭實(shí)踐中，將面臨戰(zhàn)術(shù)行為難解釋等諸多問題。

戰(zhàn)場“不確定性”迷霧難消

在科幻電影中，我們常見到各種“超級(jí)戰(zhàn)士”的身影：《機(jī)械戰(zhàn)警》中人類頭腦和機(jī)械身體完美結(jié)合、身上配備各式武器、能應(yīng)付各種暴力活動(dòng)的機(jī)械警察；《再造戰(zhàn)士》中通過基因設(shè)計(jì)工程制造出來的擁有超絕戰(zhàn)斗技巧和力量的超級(jí)戰(zhàn)士；《阿凡達(dá)》中用人類的基因與當(dāng)?shù)丶{美人基因相結(jié)合，由人類的意識(shí)進(jìn)駐其中而得以在這個(gè)星球上自由活動(dòng)的“化身”，等等。

如今，電影中的科幻場景正一步步走入現(xiàn)實(shí)，正如美國科學(xué)家皮埃羅·斯加魯菲等人在《人類2.0：在硅谷探索科技未來》中指出的：“今天，人類延伸自我最讓人印象深刻的方式，就是發(fā)展出了改變生命本身的技術(shù)，未來將是有機(jī)世界和合成世界的聯(lián)姻，正如未來一定是人類和機(jī)器人的聯(lián)姻?！?/p>

盡管如此，目前的人工智能還處在“幼年期”，它只能在規(guī)則確定、信息完備的封閉系統(tǒng)中有可能比人類做得更好，而在其賴以工作的可編程的特定問題和特定背景之外，必須依靠人類的敏銳洞察力、道德分辨力和隨機(jī)應(yīng)變力等才能解決問題。

因此，憑借人工神經(jīng)網(wǎng)絡(luò)、大數(shù)據(jù)、云計(jì)算等分析技術(shù)，人工智能雖具有強(qiáng)大的信息感知處理能力，但軍事對(duì)抗系統(tǒng)技術(shù)復(fù)雜性的提高必然帶來新的系統(tǒng)不確定性，系統(tǒng)復(fù)雜性與系統(tǒng)不確定性相生相克的客觀規(guī)律，仍然是人類認(rèn)識(shí)人工智能應(yīng)當(dāng)遵循的原理，因此人工智能的出現(xiàn)仍然難以徹底消除戰(zhàn)場的“不確定性”迷霧。

對(duì)此，美國空軍有人機(jī)和無人機(jī)高級(jí)飛行員大衛(wèi)·約翰在《無人系統(tǒng)能否引發(fā)新軍事變革》中寫道：“單靠技術(shù)從來不會(huì)贏得戰(zhàn)爭。成吉思汗的馬鐙、荷南·科爾蒂斯的火槍以及美國的原子彈，都為其帶來了決定性優(yōu)勢，但它們之所以能起到關(guān)鍵作用，只是因?yàn)檫m應(yīng)了當(dāng)時(shí)的具體條件和戰(zhàn)略……無人系統(tǒng)不會(huì)從根本上改變戰(zhàn)爭的本質(zhì)或性質(zhì)。嘗試使用無人系統(tǒng)代替人類智慧的決策者、戰(zhàn)略家或操作員，對(duì)這樣的結(jié)論將大失所望?！?h3>人機(jī)結(jié)合仍要以人為主

美國耶魯大學(xué)生物倫理學(xué)跨學(xué)科中心的溫德爾·瓦拉赫在《科技失控》中說，人類孕育的科技決定著未來。科技既可以是人類溫順的仆人，也可以是人類危險(xiǎn)的主人，既可以是人類貼心的朋友，也可以是人類兇狠的敵人?；仡櫩萍及l(fā)展史會(huì)發(fā)現(xiàn)，在漫長的進(jìn)化過程中，關(guān)鍵是人類學(xué)會(huì)了制造和使用工具。否則，面對(duì)“反復(fù)無?！钡拇笞匀?，手無寸鐵的人類是何其脆弱的一個(gè)物種。

人工智能技術(shù)對(duì)撬動(dòng)軍事變革的作用不容小覷，但與此同時(shí)，戰(zhàn)爭中的技術(shù)、倫理、道德等一系列風(fēng)險(xiǎn)與挑戰(zhàn)也逐步顯現(xiàn)。不少科幻電影已對(duì)人工智能的威脅展開討論：《機(jī)械公敵》中原本以保護(hù)人類為使命的機(jī)器人出現(xiàn)集體失序，對(duì)人類展開了殘暴攻擊；《西部世界》中機(jī)器人的內(nèi)部系統(tǒng)不斷進(jìn)化，最終反叛并傷害人類。

由于目前AI技術(shù)的發(fā)展局限，人工智能的指揮系統(tǒng)容易在執(zhí)行程序復(fù)雜的情景中出現(xiàn)失序。比如2007年10月，美軍第三機(jī)步師一部帶著3臺(tái)“利劍”機(jī)器人進(jìn)攻一個(gè)反美武裝盤踞的據(jù)點(diǎn)時(shí)，由于沒有及時(shí)更換軟件，其中一臺(tái)“利劍”竟把槍口瞄準(zhǔn)美軍操作者，而且無論操作員如何發(fā)出“行動(dòng)取消”的指令，失控的“利劍”就是停不下來，直至用火箭筒把它炸翻才化險(xiǎn)為夷。

可以預(yù)見，在人機(jī)協(xié)同作戰(zhàn)方式中，過度依賴人工智能無疑增大了指揮系統(tǒng)失控的風(fēng)險(xiǎn)，這就如同把槍交給了機(jī)器人，當(dāng)機(jī)器人不聽從人類指揮時(shí)，槍口對(duì)準(zhǔn)的對(duì)象將可能是戰(zhàn)爭中的任何一方。

因此，應(yīng)堅(jiān)持人機(jī)結(jié)合、以人為主的原則，保證人類對(duì)軍事機(jī)器人的控制權(quán)，制定應(yīng)對(duì)意外事件的應(yīng)急機(jī)制，建立防范機(jī)器人失控的后臺(tái)程序。此外，應(yīng)當(dāng)加強(qiáng)人工智能的技術(shù)預(yù)測與評(píng)估，在充分試驗(yàn)與分析的基礎(chǔ)上逐步推動(dòng)人工智能技術(shù)的軍事應(yīng)用。

（摘自《環(huán)球》2020年第22期。賈珍珍為國防科技大學(xué)副教授，石海明為國防大學(xué)教授）