劉 珺 王文華

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)，加快發(fā)展新一代人工智能是奪取全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手。人類(lèi)歷次科技革命和產(chǎn)業(yè)變革，都對(duì)軍事領(lǐng)域產(chǎn)生了顛覆性影響，甚至改變戰(zhàn)爭(zhēng)形態(tài)。當(dāng)前，世界軍事強(qiáng)國(guó)紛紛加大人工智能軍事應(yīng)用的投入力度，致力于打造具有常識(shí)、情景感知和效能更高的軍事系統(tǒng)，搶占未來(lái)軍事競(jìng)爭(zhēng)的制高點(diǎn)。

人工智能軍事應(yīng)用發(fā)展的趨勢(shì)

從軍事變革史看，科學(xué)技術(shù)在歷次變革中發(fā)揮著源頭促發(fā)性、基礎(chǔ)支撐性作用，誰(shuí)具有技術(shù)變革的敏感性并首先實(shí)現(xiàn)技術(shù)上的突破，誰(shuí)就能掌握新的戰(zhàn)爭(zhēng)規(guī)則、控制打贏未來(lái)戰(zhàn)爭(zhēng)的制高點(diǎn)。人工智能技術(shù)在軍事領(lǐng)域的廣泛應(yīng)用，正在成為繼機(jī)械化、信息化之后推動(dòng)新一輪軍事變革的強(qiáng)大動(dòng)力，戰(zhàn)爭(zhēng)時(shí)空條件、戰(zhàn)爭(zhēng)主體、戰(zhàn)爭(zhēng)手段、戰(zhàn)爭(zhēng)方式方法發(fā)生深刻改變，催生新的作戰(zhàn)手段和作戰(zhàn)思想，決定戰(zhàn)爭(zhēng)勝敗的規(guī)律突出體現(xiàn)在“制智權(quán)”的爭(zhēng)奪上，戰(zhàn)爭(zhēng)形態(tài)組織逐步向傳感器為中心、數(shù)據(jù)為中心、認(rèn)知/行動(dòng)為中心轉(zhuǎn)變。戰(zhàn)時(shí)，敵我雙方將首先圍繞“感知—理解—推理—判斷”等環(huán)節(jié)激烈對(duì)抗，爭(zhēng)奪支撐作戰(zhàn)體系高效運(yùn)轉(zhuǎn)的人機(jī)混合智能的“思考”速度和質(zhì)量?jī)?yōu)勢(shì)。

智能化戰(zhàn)爭(zhēng)的本質(zhì)特征在于戰(zhàn)場(chǎng)態(tài)勢(shì)感知智能化、數(shù)據(jù)傳輸智能化、指揮決策智能化、作戰(zhàn)行動(dòng)智能化，整個(gè)作戰(zhàn)行動(dòng)過(guò)程都由人工智能技術(shù)進(jìn)行主導(dǎo)，其作戰(zhàn)速度和質(zhì)量與傳統(tǒng)戰(zhàn)爭(zhēng)形態(tài)相比，有了巨大的質(zhì)變與飛躍。在奪取戰(zhàn)場(chǎng)控制權(quán)上，將由奪取制信息權(quán)和信息優(yōu)勢(shì)為主，向奪取制認(rèn)知權(quán)和智能優(yōu)勢(shì)為主轉(zhuǎn)變；在對(duì)抗重心上，將由注重物理域、信息域?qū)瓜蚋幼⒅卣J(rèn)知域?qū)罐D(zhuǎn)變。以人的認(rèn)知思維為作戰(zhàn)目標(biāo)，運(yùn)用心智導(dǎo)控手段，通過(guò)對(duì)敵認(rèn)知體系施加影響，實(shí)時(shí)分析敵方行為特征和作戰(zhàn)決心，或者直接將己方意識(shí)以腦電編碼形式“注入”敵方首腦，從而控制對(duì)方首腦的思維意識(shí)，最終奪取戰(zhàn)場(chǎng)上的“制智權(quán)”。喪失“制智權(quán)”，就會(huì)因?yàn)槿藱C(jī)協(xié)同失調(diào)、自主決策失靈、作戰(zhàn)體系認(rèn)知速度和效能落后，導(dǎo)致整體作戰(zhàn)效能大幅降低。

人工智能將幫助指揮員快速?zèng)Q策

“制智權(quán)”將成為未來(lái)戰(zhàn)爭(zhēng)新的戰(zhàn)略制高點(diǎn)，同時(shí)又是改變未來(lái)戰(zhàn)爭(zhēng)規(guī)則的驅(qū)動(dòng)力，可變“毀敵”“癱敵”為“控?cái)场?，?shí)現(xiàn)整體作戰(zhàn)效能的最大化。在爭(zhēng)奪“制智權(quán)”的過(guò)程中，關(guān)鍵是要推進(jìn)“腦機(jī)融合”，把指揮決策、總體規(guī)劃等謀略性強(qiáng)的工作交由人腦來(lái)處理，而把大量的精確、高速的數(shù)據(jù)信息記憶、計(jì)算和管理任務(wù)交給機(jī)器來(lái)處理，充分發(fā)揮腦機(jī)兩者優(yōu)勢(shì)、彌補(bǔ)短板。智能化的武器裝備和作戰(zhàn)體系不僅能夠被動(dòng)、機(jī)械地執(zhí)行人的指令，而且能夠自主、能動(dòng)地執(zhí)行特定的作戰(zhàn)任務(wù)，戰(zhàn)場(chǎng)行動(dòng)的許多環(huán)節(jié)和諸多業(yè)務(wù)都可以通過(guò)機(jī)器運(yùn)算代替人“決策”，智能化、自主化成份越來(lái)越高，實(shí)質(zhì)是拓展了作戰(zhàn)中人的“認(rèn)知域”，而且與人相比，具有速度快、精度高、抗疲勞等顯著優(yōu)勢(shì)。

智能化條件下的戰(zhàn)爭(zhēng)對(duì)抗，作戰(zhàn)雙方將充分運(yùn)用人工智能強(qiáng)大的學(xué)習(xí)能力、超越人類(lèi)體能的持久能力、超精確快速打擊能力、超長(zhǎng)潛伏隱身能力等特點(diǎn)，創(chuàng)造出新的戰(zhàn)法訓(xùn)法。智能化作戰(zhàn)運(yùn)用“數(shù)據(jù)+算法”，實(shí)現(xiàn)作戰(zhàn)行動(dòng)的高度自主化，同時(shí)加上機(jī)器的高速計(jì)算能力，可以在作戰(zhàn)對(duì)抗中通過(guò)更多環(huán)節(jié)的智能自主處理，得出科學(xué)的作戰(zhàn)指揮決策方案，提升作戰(zhàn)體系的反應(yīng)速度，進(jìn)而高效調(diào)控相應(yīng)的作戰(zhàn)行動(dòng)，在戰(zhàn)場(chǎng)上獲取相對(duì)優(yōu)勢(shì)。戰(zhàn)場(chǎng)各個(gè)空間和場(chǎng)域在人工智能、泛在網(wǎng)絡(luò)技術(shù)的支撐下，構(gòu)成覆蓋戰(zhàn)場(chǎng)每個(gè)角落的智能化作戰(zhàn)環(huán)境，將陸、海、空、天等戰(zhàn)場(chǎng)空間緊密耦合起來(lái)，形成多層聯(lián)動(dòng)、整體呼應(yīng)的“大空間”作戰(zhàn)體系，有力支撐各個(gè)“點(diǎn)戰(zhàn)場(chǎng)”作戰(zhàn)行動(dòng)。人工智能在戰(zhàn)場(chǎng)上的應(yīng)用水平，將成為大國(guó)之間軍事實(shí)力比拼的重要標(biāo)志，圍繞戰(zhàn)場(chǎng)智能話語(yǔ)權(quán)的爭(zhēng)奪將日益激烈。

人工智能軍事應(yīng)用發(fā)展的前景

隨著人工智能向軍事領(lǐng)域的全要素滲透、與作戰(zhàn)行動(dòng)的全過(guò)程融合，必將引發(fā)武器裝備、指揮系統(tǒng)、作戰(zhàn)力量等方面的顛覆性變革，軍事領(lǐng)域的智能化競(jìng)爭(zhēng)已悄悄拉開(kāi)了帷幕。目前人工智能的軍事應(yīng)用，主要是情報(bào)監(jiān)視和偵察、后勤保障、網(wǎng)絡(luò)空間行動(dòng)、信息操縱和深度偽造、作戰(zhàn)指揮控制、自動(dòng)駕駛車(chē)輛以及致命自主武器系統(tǒng)等方面。

武器裝備加速向智能化、自主化方向發(fā)展。智能武器裝備具有一定的思維、感知以及分析和判斷能力，能模仿人并代替人到戰(zhàn)場(chǎng)上去沖鋒陷陣，能自動(dòng)尋找、自動(dòng)規(guī)避、自主鎖定攻擊目標(biāo)，大幅增強(qiáng)武器裝備的生存力、突防力和毀傷力。智能化的軟硬件讓傳統(tǒng)武器裝備“長(zhǎng)眼睛”“有耳朵”“會(huì)判斷”“能自主”，在廣域戰(zhàn)場(chǎng)感知網(wǎng)絡(luò)支撐下具備“有限主觀能動(dòng)性”，表現(xiàn)出一定的“會(huì)思考、能辨析、自適應(yīng)”能力，能夠自動(dòng)尋找、自動(dòng)規(guī)避、自主鎖定攻擊目標(biāo)，大幅增強(qiáng)武器裝備的戰(zhàn)時(shí)生存力、突防力和毀傷力。具備指揮高效化、打擊精確化、操作自動(dòng)化和行為智能化的武器裝備，將在未來(lái)戰(zhàn)場(chǎng)上貢獻(xiàn)獨(dú)特的“機(jī)器智慧與力量”以組成武器系統(tǒng)的各功能單元，圍繞“偵、控、打、評(píng)、?！备鱾€(gè)環(huán)節(jié)，隨遇接入云端，隨需發(fā)揮效能，按照統(tǒng)一的目標(biāo)、標(biāo)準(zhǔn)、規(guī)則和接口，鏈接為一個(gè)統(tǒng)一的有機(jī)整體。每件智能武器裝備都是一個(gè)作戰(zhàn)單元，以單一個(gè)體或者作戰(zhàn)集群形式廣泛存在和非線性部署，實(shí)現(xiàn)聯(lián)合作戰(zhàn)指揮中心的作戰(zhàn)意圖。

無(wú)人作戰(zhàn)系統(tǒng)將成為未來(lái)戰(zhàn)場(chǎng)的主要作戰(zhàn)力量。空中的“蜂群”、水中的“魚(yú)群”、陸上的“狼群”等無(wú)人作戰(zhàn)集群將大量涌現(xiàn)，新質(zhì)無(wú)人作戰(zhàn)力量將成為軍隊(duì)?wèi)?zhàn)斗力新的增長(zhǎng)點(diǎn)。太空、網(wǎng)絡(luò)、電磁和智能彈藥等新質(zhì)無(wú)人作戰(zhàn)力量將直接參與戰(zhàn)爭(zhēng)，無(wú)人機(jī)編組、戰(zhàn)場(chǎng)機(jī)器人士兵編組以及無(wú)人與有人作戰(zhàn)單元的協(xié)同編組走向戰(zhàn)場(chǎng)應(yīng)用，各類(lèi)“混搭式”新型作戰(zhàn)力量不斷出現(xiàn)。無(wú)人機(jī)、無(wú)人戰(zhàn)車(chē)、無(wú)人艦艇、無(wú)人潛航器、戰(zhàn)斗機(jī)器人和智能化士兵裝備等，將成為未來(lái)智能化戰(zhàn)爭(zhēng)的主角，無(wú)人化集群力量將成為戰(zhàn)場(chǎng)力量編成發(fā)展的新方向，無(wú)人與有人、無(wú)人與無(wú)人間的協(xié)同作戰(zhàn)將成為重要形式，人與機(jī)器的“共生混合”和機(jī)器之間“自主適應(yīng)”將成為未來(lái)戰(zhàn)場(chǎng)力量編組的新形態(tài)，自主實(shí)施“分布式”“蜂群式”協(xié)同作戰(zhàn)。用于信息支援、指揮控制、效果評(píng)估、后勤保障的“云端大腦”“數(shù)字參謀”“虛擬倉(cāng)儲(chǔ)”等新型作戰(zhàn)力量，將在未來(lái)戰(zhàn)爭(zhēng)中發(fā)揮越來(lái)越重要的作用。

人工智能具有強(qiáng)大的數(shù)據(jù)處理能力，可以縮短O(píng)ODA環(huán)時(shí)間

人機(jī)協(xié)同作戰(zhàn)將成為未來(lái)戰(zhàn)爭(zhēng)新的作戰(zhàn)形式。伴隨智能化、無(wú)人化裝備的大量應(yīng)用，將給攻防作戰(zhàn)樣式以及作戰(zhàn)力量運(yùn)用方式、運(yùn)用流程、方法、規(guī)則、策略等帶來(lái)革命性變化，未來(lái)將可能出現(xiàn)侵入式獨(dú)狼作戰(zhàn)、有人-無(wú)人協(xié)同體系破擊戰(zhàn)、無(wú)人系統(tǒng)編隊(duì)獨(dú)立作戰(zhàn)、母艦蜂群集群作戰(zhàn)等全新的作戰(zhàn)方式。人工智能使武器裝備在戰(zhàn)場(chǎng)上的地位從從屬關(guān)系上升為“人類(lèi)伙伴”，人機(jī)高度融合，人的優(yōu)勢(shì)與智能機(jī)器的深度融合優(yōu)勢(shì)互補(bǔ)，虛擬空間與現(xiàn)實(shí)空間平行一體、有人系統(tǒng)與無(wú)人系統(tǒng)協(xié)同作戰(zhàn)。在未來(lái)戰(zhàn)場(chǎng)上，人與機(jī)器優(yōu)勢(shì)互補(bǔ)、雙向互動(dòng)、協(xié)同作戰(zhàn)、共同生存，作戰(zhàn)雙方將充分運(yùn)用人工智能強(qiáng)大的學(xué)習(xí)能力、超越人類(lèi)體能的持久能力、超精確快速打擊能力、超長(zhǎng)潛伏隱身能力等特點(diǎn)，創(chuàng)造出人機(jī)協(xié)同的戰(zhàn)法訓(xùn)法。

智能化指揮控制將成為打贏未來(lái)戰(zhàn)爭(zhēng)的關(guān)鍵。在未來(lái)戰(zhàn)場(chǎng)中，指揮員面對(duì)的將是海量的、瞬息萬(wàn)變的戰(zhàn)場(chǎng)數(shù)據(jù)和信息，人腦已經(jīng)無(wú)法快速容納和高效處理。只有充分發(fā)揮人腦創(chuàng)造性、靈活性、主動(dòng)性的優(yōu)勢(shì)，以及機(jī)器速度快、精度高、不會(huì)疲勞的特長(zhǎng)，實(shí)施人機(jī)協(xié)同、人機(jī)交互，才能確保作戰(zhàn)指揮決策的優(yōu)勢(shì)。利用人工智能技術(shù)快速生成輔助決策信息，構(gòu)建數(shù)據(jù)自主分析能力，優(yōu)化指揮信息系統(tǒng)，有效提升數(shù)據(jù)處理挖掘效率，以“人在回路”或“人機(jī)協(xié)同”等形式有效縮短觀察-判斷-決策-行動(dòng)（OODA）環(huán)的時(shí)間，極大提升情況研判、趨勢(shì)預(yù)測(cè)、任務(wù)規(guī)劃、方案評(píng)估、計(jì)劃生成、行動(dòng)管控等能力。智能指揮決策系統(tǒng)利用所獲取的戰(zhàn)場(chǎng)態(tài)勢(shì)數(shù)據(jù)，對(duì)各種情報(bào)信息進(jìn)行自主分析，實(shí)時(shí)自主決策，自主生成或調(diào)整作戰(zhàn)方案，并通過(guò)信息傳輸網(wǎng)絡(luò)指揮控制相應(yīng)的作戰(zhàn)單元完成作戰(zhàn)任務(wù)，確保作戰(zhàn)單元、武器裝備形成高效統(tǒng)一的整體，協(xié)同有序行動(dòng)。

戰(zhàn)爭(zhēng)力量編成將向聯(lián)合集群化發(fā)展。未來(lái)的智能化軍隊(duì)將擁有無(wú)數(shù)個(gè)作戰(zhàn)單元，并把這些智能作戰(zhàn)單元進(jìn)行差異化“機(jī)機(jī)編組”“人機(jī)編組”，能夠根據(jù)不同作戰(zhàn)需要，執(zhí)行陸、海、空、天、電、網(wǎng)等多維空間的作戰(zhàn)任務(wù)，真正實(shí)現(xiàn)作戰(zhàn)單元自主適應(yīng)、彈性編組，各個(gè)作戰(zhàn)平臺(tái)、作戰(zhàn)要素能夠自適應(yīng)協(xié)同，可一致進(jìn)行機(jī)動(dòng)突擊與防御作戰(zhàn)。在進(jìn)攻作戰(zhàn)中，能夠高度自主協(xié)調(diào)地從多個(gè)方向連續(xù)或同時(shí)對(duì)預(yù)定目標(biāo)實(shí)施攻擊，在誘騙、干擾、電子攻擊等軟殺傷行動(dòng)中自動(dòng)協(xié)調(diào)最佳攻擊時(shí)機(jī)；在防御作戰(zhàn)中，運(yùn)用自主交互集群技術(shù)建立多層次防御網(wǎng)，動(dòng)態(tài)實(shí)施外圍警戒，對(duì)威脅目標(biāo)進(jìn)行靈活打擊，保護(hù)重要目標(biāo)安全。利用集群戰(zhàn)法，精確選擇打擊目標(biāo)，實(shí)施快速機(jī)動(dòng)、多維攻擊，融合相關(guān)作戰(zhàn)要素，打通“偵察-控制-打擊-評(píng)估”的鏈條，形成敏捷、高效、精確的新型作戰(zhàn)力量體系，通過(guò)信息實(shí)時(shí)交互、動(dòng)態(tài)自主組合、集群協(xié)同突防等方式，完成高效、精確和飽和攻擊。

機(jī)械外骨骼可提高士兵的體力，配合生物芯片可提升士兵綜合作戰(zhàn)能力

奪取戰(zhàn)場(chǎng)控制權(quán)的關(guān)鍵是在算法對(duì)抗上取得優(yōu)勢(shì)。不論是在戰(zhàn)爭(zhēng)準(zhǔn)備還是戰(zhàn)爭(zhēng)實(shí)施階段，不論是在戰(zhàn)略還是在戰(zhàn)役、戰(zhàn)術(shù)層次，高度智能自主、擁有算法優(yōu)勢(shì)的一方能夠先敵發(fā)現(xiàn)、先敵決策、先敵打擊、先敵摧毀，從而牢牢控制戰(zhàn)場(chǎng)的主動(dòng)權(quán)。算法優(yōu)勢(shì)主導(dǎo)認(rèn)知優(yōu)勢(shì)、速度優(yōu)勢(shì)、決策優(yōu)勢(shì)。在戰(zhàn)場(chǎng)上運(yùn)用超強(qiáng)算法，能夠針對(duì)敵情和戰(zhàn)爭(zhēng)形勢(shì)變化，快速提出靈活多樣的作戰(zhàn)方案與應(yīng)對(duì)策略，打亂敵方的既定企圖和兵力部署；能夠全時(shí)、全域、全維對(duì)戰(zhàn)場(chǎng)上各種力量的作戰(zhàn)行動(dòng)進(jìn)行動(dòng)態(tài)感知、數(shù)據(jù)挖掘、仿真計(jì)算、推理決策、評(píng)估預(yù)測(cè)，使作戰(zhàn)人員能夠突破思維的邏輯極限、感官的生理極限和存在的物理極限，實(shí)時(shí)、精準(zhǔn)地掌控戰(zhàn)場(chǎng)上各種資源和各種力量的所有行動(dòng)，在多維空間、多維領(lǐng)域?qū)崿F(xiàn)戰(zhàn)場(chǎng)資源的快速跳轉(zhuǎn)和聚集。

軍人的體能、技能和智能將得到全面擴(kuò)展。例如，通過(guò)研發(fā)機(jī)械外骨骼打造體力倍增的“機(jī)甲戰(zhàn)士”，通過(guò)生物信息芯片的植入提高士兵的記憶力與反應(yīng)能力。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局啟動(dòng)了ElectRx項(xiàng)目，開(kāi)發(fā)能注入到士兵體內(nèi)幫助士兵自愈的微型機(jī)器人。預(yù)計(jì)到2050年，戰(zhàn)場(chǎng)上的士兵將“穿戴外骨骼，擁有多種植入物，并無(wú)縫接入感知和認(rèn)知增強(qiáng)”。美國(guó)國(guó)防部“算法戰(zhàn)跨職能小組”項(xiàng)目還提出“超級(jí)使能型作戰(zhàn)人員”概念，旨在為作戰(zhàn)人員提供包括通信、計(jì)算、數(shù)據(jù)/傳感器以及人/機(jī)界面等增強(qiáng)的能力。

人工智能軍事應(yīng)用的目標(biāo)，并不是要完全替代人類(lèi)智能，而是使人工智能與人類(lèi)智能有機(jī)融合，實(shí)現(xiàn)功能互補(bǔ)、相得益彰，以進(jìn)一步增強(qiáng)人類(lèi)智能，使指揮員和一線作戰(zhàn)人員專(zhuān)注于戰(zhàn)爭(zhēng)謀劃、行動(dòng)協(xié)同、指揮決策、戰(zhàn)場(chǎng)防護(hù)等工作上，根據(jù)作戰(zhàn)任務(wù)屬性和作戰(zhàn)人員背景進(jìn)行自適應(yīng)調(diào)整，確保人機(jī)間的高效協(xié)同互補(bǔ)，更好地發(fā)揮人作為戰(zhàn)爭(zhēng)制勝的決定性因素的主動(dòng)性。

人工智能軍事應(yīng)用發(fā)展的瓶頸

人工智能軍事應(yīng)用面臨技術(shù)和組織的雙重挑戰(zhàn)，主要是關(guān)于安全性和可靠性的擔(dān)憂。人工智能由機(jī)器決定最佳方案并執(zhí)行的特性，可能會(huì)增加預(yù)測(cè)人工智能系統(tǒng)行為的難度。弱人工智能系統(tǒng)的特定性格特征，意味著它們經(jīng)過(guò)訓(xùn)練可以執(zhí)行特殊任務(wù)，例如下棋、解釋圖像，然而在現(xiàn)代戰(zhàn)爭(zhēng)中，由于“戰(zhàn)爭(zhēng)的迷霧和摩擦”，戰(zhàn)場(chǎng)環(huán)境瞬息萬(wàn)變，人工智能系統(tǒng)必須在高度非結(jié)構(gòu)化和不可預(yù)測(cè)的環(huán)境中工作。如果給定的應(yīng)用設(shè)置或條件發(fā)生改變，那么人工智能系統(tǒng)可能無(wú)法適應(yīng)，這種脆弱性成為了系統(tǒng)可靠性的威脅。在戰(zhàn)場(chǎng)上對(duì)抗雙方部署的人工智能系統(tǒng)，會(huì)使戰(zhàn)場(chǎng)環(huán)境日益復(fù)雜化，超出一個(gè)或多個(gè)系統(tǒng)的解析力，進(jìn)一步加劇了系統(tǒng)的脆弱性，增加了發(fā)生事故或出現(xiàn)失誤的可能性。

可解釋性是人工智能軍事應(yīng)用面臨的又一挑戰(zhàn)。對(duì)于一個(gè)系統(tǒng)而言，重要的不僅僅是可靠性，同時(shí)也必須具有能使他人信任的可解釋性。由于機(jī)器不能向用戶解釋其想法和行動(dòng)，研究人員也無(wú)法完全理解人工智能系統(tǒng)的決策過(guò)程，難以分辨人工智能系統(tǒng)某個(gè)具體行動(dòng)背后的邏輯?？山忉屝允侨祟?lèi)與人工智能關(guān)系發(fā)展的核心，人工智能系統(tǒng)推理的透明度會(huì)影響操作人員對(duì)系統(tǒng)和系統(tǒng)結(jié)果的信任度。例如，一個(gè)人工智能系統(tǒng)以特定的方式將圖像分類(lèi)或躲避敵方雷達(dá)，但不能說(shuō)明為什么會(huì)做出這樣特別的選擇，那么人類(lèi)不太可能相信它。目前性能最好的人工智能算法都無(wú)法解釋其工作過(guò)程。由于缺乏可解釋的輸出，人工智能系統(tǒng)在軍事測(cè)試時(shí)無(wú)法通過(guò)審計(jì)來(lái)確認(rèn)系統(tǒng)滿足性能的標(biāo)準(zhǔn)。因此，需要在深度學(xué)習(xí)技術(shù)的基礎(chǔ)上，著力提升可解釋性，進(jìn)一步發(fā)展深度解釋、復(fù)雜模型靈活解析、人機(jī)互信表達(dá)與信賴(lài)進(jìn)化等模型。美軍的“可解釋的人工智能”項(xiàng)目正在開(kāi)發(fā)新一代機(jī)器學(xué)習(xí)技術(shù)，改進(jìn)可解釋的機(jī)器學(xué)習(xí)方法，完善人工智能解釋理論的計(jì)算模型，優(yōu)化可解釋的機(jī)器學(xué)習(xí)用戶界面并將其集成到原型系統(tǒng)。

人工智能軍事應(yīng)用過(guò)程中，還可能會(huì)增加系統(tǒng)被利用的可能性。例如，人工智能系統(tǒng)的普及，增加了可被黑客攻擊的系統(tǒng)的數(shù)量；人工智能系統(tǒng)存在被竊取的漏洞，而且?guī)缀醵际腔谲浖姆绞?；?duì)手還可以精心引入圖像分類(lèi)器和其他類(lèi)型的錯(cuò)誤引發(fā)的漏洞，這些漏洞引發(fā)了對(duì)魯棒性數(shù)據(jù)安全、網(wǎng)絡(luò)安全、測(cè)試和評(píng)估過(guò)程的需求。圖像識(shí)別算法在導(dǎo)致分類(lèi)問(wèn)題的像素級(jí)中毒數(shù)據(jù)面前很脆弱，以開(kāi)源數(shù)據(jù)為基礎(chǔ)的算法可能不堪一擊。擁有高度智能的作戰(zhàn)指揮系統(tǒng)和武器平臺(tái)一旦被對(duì)手通過(guò)惡意代碼、病毒植入、指令篡改等手段攻擊，將帶來(lái)“倒戈反擊”、戰(zhàn)術(shù)失利；識(shí)別錯(cuò)誤、機(jī)器故障、通信降級(jí)、環(huán)境擾動(dòng)等因素，也可能使智能化指揮控制系統(tǒng)因干擾而失控。

F-35在試驗(yàn)過(guò)程中暴露出許多與控制系統(tǒng)算法相關(guān)的問(wèn)題

人工智能算法可以產(chǎn)生一些出乎意外的結(jié)果，并確實(shí)有很多失敗的案例。美軍F-35戰(zhàn)機(jī)擁有幾千萬(wàn)條代碼，嚴(yán)重依賴(lài)控制系統(tǒng)的軟件，戰(zhàn)機(jī)在試驗(yàn)過(guò)程中曾暴露出的兩百余項(xiàng)問(wèn)題幾乎都與算法高度關(guān)聯(lián)。一旦算法由于過(guò)于陳舊無(wú)法適應(yīng)裝備發(fā)展，或是遇到臟數(shù)據(jù)的影響出現(xiàn)差錯(cuò)，或是算法本身存在漏洞，都極有可能導(dǎo)致智能化武器裝備無(wú)法正常運(yùn)轉(zhuǎn)。從本質(zhì)上講，軍方將在人工智能領(lǐng)域可靠性和能力之間進(jìn)行權(quán)衡。軍方一般不會(huì)愿意使用以人工智能為基礎(chǔ)的系統(tǒng)，除非它們?cè)谕瓿赡骋惶囟ㄈ蝿?wù)方面明顯優(yōu)于現(xiàn)有的系統(tǒng)，無(wú)論是解釋圖像、轟炸目標(biāo)還是策劃一場(chǎng)戰(zhàn)役。盡管軍方不太可能僅僅因?yàn)檫@些安全因素就停止對(duì)人工智能軍事應(yīng)用的研究，但這些安全性和可靠性問(wèn)題會(huì)影響人工智能軍事應(yīng)用的類(lèi)型和領(lǐng)域，也會(huì)影響人工智能系統(tǒng)融入“常規(guī)”軍事行動(dòng)計(jì)劃。

當(dāng)前人工智能軍事應(yīng)用還存在諸多的技術(shù)瓶頸，包括發(fā)展多情報(bào)傳感器和武器的交叉提示以及動(dòng)態(tài)任務(wù)重新分配能力，還需要精確導(dǎo)航與受時(shí)，交叉提示傳感器，將信息傳送到其他系統(tǒng)、將數(shù)據(jù)分發(fā)到地面控制站，多輸入、多輸出通信以獲取準(zhǔn)確信息，并將數(shù)據(jù)轉(zhuǎn)化為信息、將信息轉(zhuǎn)化為知識(shí)。當(dāng)前的機(jī)器學(xué)習(xí)系統(tǒng)無(wú)法不斷學(xué)習(xí)或適應(yīng)新的情況，系統(tǒng)程序在經(jīng)過(guò)學(xué)習(xí)訓(xùn)練后可能會(huì)出現(xiàn)固化，在系統(tǒng)部署后無(wú)法對(duì)不可預(yù)見(jiàn)的情況做出響應(yīng)。此外，無(wú)法感知、理解和判斷事物，缺乏機(jī)器常識(shí)，會(huì)阻礙人工智能系統(tǒng)與外界的自然交流以及在不可預(yù)見(jiàn)的情況下合理行事，并從新的體驗(yàn)中進(jìn)行深度學(xué)習(xí)，這將是人工智能應(yīng)用程序與未來(lái)創(chuàng)建的更通用的人工智能應(yīng)用程序之間的最大障礙。所有這些都將是推進(jìn)人工智能軍事應(yīng)用需要解決的重大課題。

安全性和可靠性問(wèn)題不會(huì)也不應(yīng)該導(dǎo)致軍事技術(shù)發(fā)展的停滯，推進(jìn)人工智能軍事應(yīng)用將是世界各國(guó)軍隊(duì)的必然選擇。法國(guó)總統(tǒng)聲稱(chēng)“堅(jiān)決反對(duì)”將人工智能投放戰(zhàn)場(chǎng)用以殺敵，然而法國(guó)情報(bào)部門(mén)已經(jīng)在運(yùn)用人工智能來(lái)提高數(shù)據(jù)處理速度、提升數(shù)據(jù)可靠性，他們認(rèn)為這有助于提升法國(guó)軍隊(duì)在戰(zhàn)場(chǎng)上的自身能力。從數(shù)據(jù)處理到蜂群概念、再到戰(zhàn)場(chǎng)管理，人工智能能夠幫助軍隊(duì)快速、準(zhǔn)確行動(dòng)，同時(shí)也使更少數(shù)人置身于危險(xiǎn)之中?？梢灶A(yù)見(jiàn)的是，人工智能時(shí)代的出現(xiàn)，將在某種程度上重塑未來(lái)全球軍事格局。