張 敏

智能戰(zhàn)爭(zhēng)時(shí)代，誰(shuí)來(lái)開火？

張 敏

科幻電影《終結(jié)者》中，原本作為軍方作戰(zhàn)網(wǎng)絡(luò)的“天網(wǎng)”在強(qiáng)人工智能推動(dòng)下逐漸具備了自我意識(shí)，因而演變成未來(lái)世界機(jī)器人的領(lǐng)袖，帶領(lǐng)著掌握“開火權(quán)”的機(jī)器人肆意殘害人類。場(chǎng)景雖然科幻，但也表現(xiàn)出人們對(duì)于智能化戰(zhàn)爭(zhēng)時(shí)代，對(duì)擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)的深切擔(dān)憂。

人與武器的關(guān)系是軍事領(lǐng)域亙古不變的重要話題。隨著被譽(yù)為“人類智慧最后堡壘”的圍棋領(lǐng)域被人工智能攻破，有理由相信人工智能技術(shù)及無(wú)人自主作戰(zhàn)平臺(tái)將成為新型顛覆性作戰(zhàn)樣式，以戰(zhàn)斗機(jī)器人為代表的人工智能無(wú)人武器系統(tǒng)或?qū)⒅髟孜磥?lái)戰(zhàn)場(chǎng)。美國(guó)早在其《21世紀(jì)戰(zhàn)略技術(shù)》中就直言：“20世紀(jì)的核心武器是坦克，21世紀(jì)的核心武器是無(wú)人系統(tǒng)?！比欢?，如果賦予智能無(wú)人作戰(zhàn)系統(tǒng)“生殺大權(quán)”，甚至實(shí)施完全是機(jī)器人士兵的“機(jī)器代理人戰(zhàn)爭(zhēng)”，擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)或?qū)选督K結(jié)者》等電影中的場(chǎng)景變?yōu)楝F(xiàn)實(shí)。除禁止使用“攻擊性自主武器”外，避免無(wú)人作戰(zhàn)系統(tǒng)擁有“開火權(quán)”，或?qū)⒊蔀橹悄軕?zhàn)爭(zhēng)時(shí)代人類可行的“救贖”方式。

人工智能叩開智能化戰(zhàn)爭(zhēng)之門

早在2011年，白俄羅斯就曾推出過(guò)一款無(wú)人駕駛遙控武器平臺(tái)，這種擁有履帶系統(tǒng)的無(wú)人作戰(zhàn)平臺(tái)，可在遙控指令控制下使用配備的機(jī)槍和榴彈發(fā)射器攻擊800米距離內(nèi)的目標(biāo)。當(dāng)然，這并不是目前惟一一款可“開火”的無(wú)人作戰(zhàn)平臺(tái)：美國(guó)海軍陸戰(zhàn)隊(duì)正在測(cè)試的模塊化先進(jìn)武裝機(jī)器人系統(tǒng)，可借助人工智能控制持槍機(jī)器人；俄羅斯戰(zhàn)略導(dǎo)彈部隊(duì)研制的狼-2式移動(dòng)機(jī)器人系統(tǒng)，可在5千米范圍內(nèi)通過(guò)無(wú)線電頻道控制，能在時(shí)速35千米的情況下使用武器精確擊中目標(biāo)；以色列研制的多戈武裝作戰(zhàn)機(jī)器人，自帶格洛克26型9毫米口徑手槍；還有諸如美國(guó)海軍陸戰(zhàn)隊(duì)角斗士作戰(zhàn)機(jī)器人、以色列守護(hù)者無(wú)人駕駛戰(zhàn)車等，類似的攻擊型無(wú)人作戰(zhàn)平臺(tái)近年來(lái)不斷涌現(xiàn)。

目前，人工智能已經(jīng)被作為戰(zhàn)爭(zhēng)史上的“第三次戰(zhàn)爭(zhēng)革命”，正加速叩開未來(lái)智能化戰(zhàn)爭(zhēng)的大門。曾幾何時(shí)，火藥的出現(xiàn)是“第一次戰(zhàn)爭(zhēng)革命”，槍支與火炮等“熱兵器”的實(shí)用化對(duì)軍隊(duì)組成結(jié)構(gòu)和作戰(zhàn)方式產(chǎn)生了顛覆性變革；“第二次戰(zhàn)爭(zhēng)革命”伴隨著熱核武器實(shí)用化而來(lái)，意味著戰(zhàn)爭(zhēng)已經(jīng)達(dá)到以破壞整個(gè)國(guó)家為前提的戰(zhàn)略對(duì)峙，戰(zhàn)爭(zhēng)方式再次發(fā)生巨大變化。人工智能的出現(xiàn)同樣具備從根本上改變戰(zhàn)爭(zhēng)方式的潛力，未來(lái)戰(zhàn)爭(zhēng)或?qū)⒀葑兂伞皺C(jī)器VS人”乃至“機(jī)器殺人”的“機(jī)器人代理戰(zhàn)爭(zhēng)”。

本來(lái)，人們對(duì)于人工智能無(wú)人作戰(zhàn)裝備的需求合情合理。戰(zhàn)爭(zhēng)不可避免會(huì)引發(fā)流血、傷殘與死亡，無(wú)人作戰(zhàn)系統(tǒng)由于“平臺(tái)無(wú)人”，既能打仗，又不存在人員傷亡，因而適用于執(zhí)行各類高危險(xiǎn)和高烈度戰(zhàn)爭(zhēng)任務(wù)，甚至可以完全取代士兵去沖鋒陷陣。因此，近年來(lái)無(wú)人作戰(zhàn)系統(tǒng)愈發(fā)得到各軍事大國(guó)研究投入，各類無(wú)人作戰(zhàn)系統(tǒng)的數(shù)量與規(guī)模也是越來(lái)越大。

在當(dāng)前軍事斗爭(zhēng)需求的刺激下，無(wú)人作戰(zhàn)系統(tǒng)正向著陸?？仗斓榷嗑S度快速拓展，任務(wù)領(lǐng)域也已覆蓋到包括電子干擾、偵察預(yù)警、通信中繼、排雷排爆和火力打擊等傳統(tǒng)有人作戰(zhàn)領(lǐng)域，尤其是其精確化、智能化水平的不斷提升，已經(jīng)成為各軍事大國(guó)武器裝備發(fā)展的重點(diǎn)方向。畢竟，目前公開亮相的人工智能系統(tǒng)只是基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)弱人工智能，即將到來(lái)的強(qiáng)人工智能或?qū)⒓铀僮呦蛭磥?lái)戰(zhàn)場(chǎng)，在智能化感知與信息處理、智能化指揮控制輔助決策、無(wú)人軍用平臺(tái)及軍用機(jī)器人、人體體能技能及智能輔助系統(tǒng)等領(lǐng)域發(fā)揮重要作用，推動(dòng)著智能化戰(zhàn)爭(zhēng)時(shí)代的加速到來(lái)。

智能武器正面臨諸多風(fēng)險(xiǎn)挑戰(zhàn)

未來(lái)戰(zhàn)爭(zhēng)，隨著人工智能越來(lái)越多走上戰(zhàn)場(chǎng)，戰(zhàn)爭(zhēng)形態(tài)將從信息化戰(zhàn)爭(zhēng)向著智能化戰(zhàn)爭(zhēng)加速推進(jìn)。但人工智能機(jī)器人“大兵”真的在戰(zhàn)場(chǎng)上沖鋒陷陣之時(shí)，可別高興得太早，這些高度智能化武器也會(huì)對(duì)人類帶來(lái)諸多風(fēng)險(xiǎn)挑戰(zhàn)。

2005年的伊拉克戰(zhàn)場(chǎng)上，美軍的劍戰(zhàn)斗機(jī)器人就曾無(wú)故將槍口指向指揮官；2015年7月，美國(guó)一臺(tái)“發(fā)瘋”的機(jī)器人也曾“失手”將一名裝配工人殺死，俄羅斯也出現(xiàn)了機(jī)器人莫名“越獄”的故事?？梢哉f(shuō)，在復(fù)雜戰(zhàn)場(chǎng)環(huán)境下，擁有高度智能的無(wú)人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識(shí)別錯(cuò)誤、通信降級(jí)甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等問(wèn)題，而諸如濫殺無(wú)辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來(lái)了無(wú)窮隱憂。

智能戰(zhàn)爭(zhēng)有可能會(huì)開啟“機(jī)器VS人”模式

其實(shí)，人們對(duì)于智能武器系統(tǒng)的擔(dān)憂，從命名伊始就初見端倪。機(jī)器人的英文名為“Robot”，最早是由捷克作家卡雷爾·恰佩克在科幻作品中首創(chuàng)，其原意就是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”，并借此稱呼那些造反的機(jī)器仆人。1991年出版的《無(wú)人戰(zhàn)爭(zhēng)—未來(lái)戰(zhàn)場(chǎng)上的機(jī)器人》，也對(duì)軍用機(jī)器人使用后的倫理問(wèn)題提出了嚴(yán)肅的思考。未來(lái)的智能化戰(zhàn)爭(zhēng)，戰(zhàn)場(chǎng)上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由戰(zhàn)斗機(jī)器人來(lái)完成，一旦人類授予了智能武器“開火權(quán)”，這群毫無(wú)感情、不知疲倦殺人的機(jī)器走上戰(zhàn)場(chǎng)，會(huì)不會(huì)濫殺無(wú)辜，會(huì)不會(huì)出現(xiàn)失控，甚至?xí)粫?huì)調(diào)轉(zhuǎn)槍口成為“人類終結(jié)者”，都是我們必須思考的問(wèn)題。

一方面，誰(shuí)能為智能武器的“濫殺無(wú)辜”來(lái)買單。隨著相關(guān)技術(shù)的不斷發(fā)展，人工智能在某些領(lǐng)域超越人類已是不爭(zhēng)的事實(shí)，完全脫離人類控制而實(shí)現(xiàn)自主攻擊或?qū)⒊蔀槿斯ぶ悄茉谖磥?lái)戰(zhàn)爭(zhēng)中的終極作戰(zhàn)形式。但人工智能武器的智能化一旦超過(guò)一定程度，極有可能出現(xiàn)自作主張甚至濫殺無(wú)辜的行為。另一方面，智能武器的戰(zhàn)場(chǎng)失控程度難以估計(jì)。理論上講，武器的智能化程度越高，其內(nèi)部電腦控制軟件的規(guī)模就越龐大且復(fù)雜，出現(xiàn)故障的概率也就相應(yīng)的越高。早在2005年，美國(guó)空軍的一架戰(zhàn)斗機(jī)突然自動(dòng)向地面重要設(shè)施發(fā)射了一枚導(dǎo)彈，事故原因是飛機(jī)的火控系統(tǒng)電腦出了故障。

事實(shí)上，智能武器在戰(zhàn)場(chǎng)復(fù)雜電磁環(huán)境下也會(huì)因干擾而失控。同時(shí)，戰(zhàn)場(chǎng)上的敵我識(shí)別對(duì)智能武器而言同樣并非易事，伊拉克戰(zhàn)爭(zhēng)期間美軍的導(dǎo)彈系統(tǒng)就曾把己方飛機(jī)擊落，原因就在于無(wú)法準(zhǔn)確判斷而產(chǎn)生的戰(zhàn)場(chǎng)失控。

“戰(zhàn)爭(zhēng)回路”絕不能離開人這一主體

事實(shí)上，包括著名物理學(xué)家斯蒂芬·霍金在內(nèi)的多名科學(xué)界知名人士及專家都曾多次呼吁全球禁止使用“自主攻擊性武器”。本來(lái)，人類對(duì)武器的發(fā)明也應(yīng)當(dāng)有一條不能觸碰的底線，就是武器不能威脅到整個(gè)人類的生存。戰(zhàn)爭(zhēng)技術(shù)與人工智能的深度融合，不可避免將成為未來(lái)戰(zhàn)爭(zhēng)發(fā)展之路，但人工智能帶給人類的究竟是威脅還是發(fā)展，關(guān)鍵在于如何利用。最關(guān)鍵的一點(diǎn)，就是人必須作為“戰(zhàn)爭(zhēng)回路”的主體存在，必須牢牢掌握未來(lái)智能戰(zhàn)爭(zhēng)的“開火權(quán)”。

正是由于擔(dān)心諸如電影《終結(jié)者》中人類被完全排斥在“戰(zhàn)爭(zhēng)回路”之外而束手無(wú)策，目前在研制智能無(wú)人作戰(zhàn)系統(tǒng)時(shí)，為防止因其失效而導(dǎo)致的意外事故，普遍要求指揮或操作人員可進(jìn)行適當(dāng)程度的干預(yù)以及必要時(shí)的激活或解除系統(tǒng)功能。韓國(guó)三星公司研制的SGR-A1型武裝機(jī)器人，旨在為韓國(guó)哨兵提供作戰(zhàn)支持，盡管研發(fā)人員賦予了該機(jī)器人做出開火決策的能力，但這種自主開火權(quán)只有在特定的突發(fā)狀況下才會(huì)被激活，也就是說(shuō)“開火權(quán)”依舊掌握在人類手中。英國(guó)空軍研制的雷神智能無(wú)人飛行器可攜帶武器攻擊任何一個(gè)地方的目標(biāo)，盡管該型無(wú)人機(jī)上裝備有可識(shí)別危險(xiǎn)目標(biāo)的機(jī)載計(jì)算機(jī)，但目前主要采用地面人員控制工作模式，發(fā)起攻擊要求時(shí)必須通過(guò)地面人員授予其武器開火權(quán)。

此外，我們還可以在人工智能作戰(zhàn)平臺(tái)中提前“動(dòng)手腳”。一方面，可以通過(guò)代碼控制智能武器的“思維”。一方面，可以在智能武器出廠啟用之前，提前設(shè)置“后門”式自毀模塊，可在人類需要情況下實(shí)現(xiàn)智能武器的徹底死機(jī)或自行報(bào)廢。同時(shí)，由于智能武器的控制中樞是計(jì)算機(jī)，可在編寫智能武器控制軟件中就加入相關(guān)控制程序。另一方面，智能武器的攻擊目標(biāo)和攻擊方式也應(yīng)受到明確限制。美國(guó)國(guó)防部國(guó)防安全工作小組就曾討論過(guò)如何使“武裝自主系統(tǒng)”摧毀敵方武器而非作戰(zhàn)人員的做法，主要通過(guò)修改智能武器的設(shè)計(jì)，使其主要攻擊敵人所用的武器。當(dāng)然，更為直接的做法就是只能為智能武器平臺(tái)配備失能武器等非致命性武器。諸如腦控武器、電磁脈沖武器、網(wǎng)絡(luò)攻擊武器、高功率微波武器等新概念武器或?qū)橹悄芪淦髌脚_(tái)的應(yīng)用提供新的解決思路。

可以說(shuō)，如果無(wú)人作戰(zhàn)系統(tǒng)被賦予“生殺大權(quán)”，完全由機(jī)器替代人作戰(zhàn)，那么自主機(jī)器人極有可能會(huì)有意或無(wú)意地傷及人類。只有人始終處于“觀察-判斷-決策-行動(dòng)”的戰(zhàn)術(shù)循環(huán)過(guò)程中，牢牢掌握智能武器的“開火權(quán)”，使得智能武器按照人類預(yù)先編程設(shè)想作戰(zhàn)，才能避免人工智能武器產(chǎn)生的一系列倫理問(wèn)題。

人機(jī)協(xié)同或成為智能戰(zhàn)爭(zhēng)“最優(yōu)解”

科幻電影中的人機(jī)大戰(zhàn)場(chǎng)景

其實(shí)，無(wú)論未來(lái)的智能武器系統(tǒng)如何高度智能化，人作為戰(zhàn)爭(zhēng)的主導(dǎo)因素必須不能改變，智能化戰(zhàn)爭(zhēng)允許改變的只是人與武器裝備的戰(zhàn)場(chǎng)協(xié)作方式。未來(lái)智能戰(zhàn)爭(zhēng)，人機(jī)協(xié)同或?qū)⒊蔀閼?zhàn)場(chǎng)運(yùn)用的“最優(yōu)解”。一方面，人仍然牢牢掌握戰(zhàn)爭(zhēng)的主導(dǎo)權(quán)以及“開火權(quán)”，作戰(zhàn)力量編成部署、作戰(zhàn)時(shí)機(jī)、打擊目標(biāo)、作戰(zhàn)規(guī)模強(qiáng)度以及作戰(zhàn)節(jié)奏掌控等都要由人來(lái)主導(dǎo)，無(wú)人作戰(zhàn)與有人作戰(zhàn)依據(jù)各取其長(zhǎng)的原則互補(bǔ)增效、聯(lián)合行動(dòng)。另一方面，智能武器系統(tǒng)可按照為其設(shè)定的作戰(zhàn)程序、交戰(zhàn)規(guī)則，享有一定的“自主權(quán)”，可獨(dú)立完成具體作戰(zhàn)任務(wù)，充分發(fā)揮自身優(yōu)勢(shì)。

目前，美軍正在進(jìn)行“有人-無(wú)人”的協(xié)同作戰(zhàn)試驗(yàn)，其中較為著名的就是“忠誠(chéng)僚機(jī)”計(jì)劃。2017年盛況空前的巴黎航展上，美國(guó)克瑞托斯公司高調(diào)展出最新研制的XQ-222女戰(zhàn)神和UTAP-22灰鯖鯊兩款無(wú)人機(jī)，具有高機(jī)動(dòng)性和隱身性，可攜帶攻擊性武器和偵察監(jiān)視系統(tǒng)，恰恰就是專門為有人戰(zhàn)機(jī)設(shè)計(jì)的無(wú)人僚機(jī)?！爸艺\(chéng)僚機(jī)”計(jì)劃最早由美國(guó)空軍研究實(shí)驗(yàn)室于2015年提出，說(shuō)白了就是為現(xiàn)有的第五代戰(zhàn)斗機(jī)找一群忠誠(chéng)可靠的無(wú)人僚機(jī)，以大幅度提升美國(guó)空軍的有人/無(wú)人機(jī)協(xié)同作戰(zhàn)能力。作為美軍第三次“抵消戰(zhàn)略”重點(diǎn)發(fā)展的技術(shù)領(lǐng)域之一，“忠誠(chéng)僚機(jī)”計(jì)劃有望首先發(fā)展出由第四代戰(zhàn)斗機(jī)改進(jìn)來(lái)的無(wú)人駕駛僚機(jī)，以充分利用第五代戰(zhàn)斗機(jī)的作戰(zhàn)網(wǎng)絡(luò)節(jié)點(diǎn)角色，發(fā)揮四代機(jī)機(jī)動(dòng)性和火力充足的優(yōu)勢(shì)，組成一個(gè)空中作戰(zhàn)“鐵三角”，由無(wú)人機(jī)在最前面沖鋒陷陣，進(jìn)而避免己方的飛行員遭受來(lái)自對(duì)手的致命反擊。2017年4月，“臭鼬工廠”與美國(guó)空軍研究實(shí)驗(yàn)室等機(jī)構(gòu)一起成功完成了基于“忠誠(chéng)僚機(jī)”概念的有人/無(wú)人機(jī)編組演示實(shí)驗(yàn)，實(shí)現(xiàn)了無(wú)人僚機(jī)自主與長(zhǎng)機(jī)編隊(duì)飛行并開展對(duì)地打擊，為美軍翹首以盼的新型空中作戰(zhàn)編組打上了一針“興奮劑”。

事實(shí)上，法國(guó)達(dá)索飛機(jī)制造公司在2017年3月份也成功實(shí)現(xiàn)了神經(jīng)元無(wú)人機(jī)與陣風(fēng)戰(zhàn)斗機(jī)的數(shù)百里編隊(duì)飛行，為無(wú)人僚機(jī)的研究發(fā)展積攢了技術(shù)經(jīng)驗(yàn)。此次巴黎航展上，克瑞托斯公司展出的灰鯖鯊無(wú)人機(jī)目前已處于試飛階段，將在2017年秋季攜帶傳感器與有人駕駛飛機(jī)組成編隊(duì)開展相關(guān)試驗(yàn)，未來(lái)或?qū)⑴cF-22和F-35戰(zhàn)機(jī)強(qiáng)強(qiáng)聯(lián)合，成為美軍前線作戰(zhàn)的有力殺手。此外，日本防衛(wèi)省早在數(shù)年前就提出過(guò)無(wú)人僚機(jī)的構(gòu)想，一度設(shè)想在2040年前后服役無(wú)人僚機(jī)，用于與日本的下一代戰(zhàn)斗機(jī)F-3一起協(xié)同作戰(zhàn)。

人工智能正處于軍事應(yīng)用之困

“忠誠(chéng)僚機(jī)”計(jì)劃堪稱智能武器未來(lái)人機(jī)協(xié)同作戰(zhàn)的重要典范。近年來(lái)，無(wú)人機(jī)技術(shù)得到快速發(fā)展，已成為空中作戰(zhàn)體系的重要力量，以美國(guó)為代表的少數(shù)空中強(qiáng)國(guó)甚至開始了無(wú)人機(jī)空戰(zhàn)體系的研究，聚焦于分布式空戰(zhàn)系統(tǒng)的概念、架構(gòu)和技術(shù)集成。然而，即便是擁有了極高計(jì)算能力的“大腦”，無(wú)人機(jī)在響應(yīng)或執(zhí)行指令時(shí)也通常會(huì)有2秒鐘的滯后，這在瞬息萬(wàn)變的空中“角斗場(chǎng)”中可是萬(wàn)萬(wàn)耽誤不得?？紤]到人類大腦可以更為迅速地響應(yīng)無(wú)法預(yù)料的事態(tài)發(fā)展，人類飛行員依舊是未來(lái)戰(zhàn)場(chǎng)不可或缺的作戰(zhàn)主力。如今，現(xiàn)代空戰(zhàn)模式已經(jīng)由平臺(tái)中心戰(zhàn)加速向網(wǎng)絡(luò)中心戰(zhàn)轉(zhuǎn)變，“無(wú)人僚機(jī)”編隊(duì)的出現(xiàn)恰恰是網(wǎng)絡(luò)中心戰(zhàn)模式的一個(gè)聚焦點(diǎn)。一旦有了“無(wú)人僚機(jī)”，就可以利用無(wú)人機(jī)隱蔽接敵，實(shí)現(xiàn)真正的超視距空戰(zhàn)發(fā)射后不管，甚至實(shí)現(xiàn)無(wú)人機(jī)迎頭搶攻、連續(xù)交替攻擊和飽和攻擊等“狹路相逢”式的勇者對(duì)決，是一種通過(guò)有利戰(zhàn)術(shù)配置和作戰(zhàn)協(xié)同克敵制勝的作戰(zhàn)樣式。尤其是大量“無(wú)人僚機(jī)”的存在，將進(jìn)一步保護(hù)飛行員安全，即便是對(duì)手消滅了僚機(jī)但也同時(shí)暴露了自己，勢(shì)必對(duì)未來(lái)空中作戰(zhàn)模式產(chǎn)生革命性的影響。

可以預(yù)見，隨著未來(lái)智能武器系統(tǒng)的發(fā)展成熟，在有人與無(wú)人作戰(zhàn)力量的協(xié)同模式上，智能武器系統(tǒng)將作為“戰(zhàn)場(chǎng)先鋒”實(shí)施偵察監(jiān)視、障礙排除、火力摧毀等作戰(zhàn)任務(wù)，還可進(jìn)一步實(shí)現(xiàn)有人與無(wú)人作戰(zhàn)力量的混合編組、協(xié)同行動(dòng)，以少量人力指揮大量智能武器系統(tǒng)，或?qū)⑸羁谈膶懳磥?lái)戰(zhàn)爭(zhēng)的作戰(zhàn)樣式。

責(zé)任編輯：張傳良