陳 曦 葛騰飛 宋道青

(國防科技大學(xué)國際關(guān)系學(xué)院 南京 210039)

1 人工智能對戰(zhàn)略情報創(chuàng)新的賦能效用及伴生效應(yīng)

對人工智能(Artificial Intelligence，AI)概念的理解因?qū)W派而異，美國國家科學(xué)技術(shù)委員會(NSTC)在統(tǒng)合各學(xué)派理解后將“人工智能”定義為計算機系統(tǒng)等人造物表現(xiàn)出來的如人類般思考和行動的智能，是研究基礎(chǔ)理論并開發(fā)相關(guān)應(yīng)用系統(tǒng)的科學(xué)[1]。然而，需要注意的是，當前及未來較長一段時期內(nèi)，人工智能系統(tǒng)仍將是一種基于神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)算法的弱人工智能系統(tǒng)，其學(xué)習(xí)過程本質(zhì)上只是一種在數(shù)學(xué)意義上利用空間變換對數(shù)據(jù)進行分類，結(jié)合相關(guān)性從而獲得處理特定具體任務(wù)“智能”的過程[2]。人工智能目前能夠成熟處理的任務(wù)包括圖像識別、自然語言理解、計算機視覺等，基于這一基本科學(xué)事實，可以初步探析智能化情報手段對戰(zhàn)略穩(wěn)定的影響。

“戰(zhàn)略穩(wěn)定”(strategic stability)的概念起源于冷戰(zhàn)，其基本邏輯是通過確保每一方都有能力在對手試圖解除其核力量的第一次打擊后進行有效的反擊，以此穩(wěn)定美蘇兩個大國間的對抗。國內(nèi)外主流學(xué)界目前較為認可基于上述邏輯的狹義戰(zhàn)略穩(wěn)定概念，即國家間沒有首先使用核武器的動機(“危機穩(wěn)定”)，也沒有建設(shè)一支核力量的動機(“軍備競賽穩(wěn)定”)[3]。本文也將基于此概念對智能化情報手段的應(yīng)用風(fēng)險進行探究。

核戰(zhàn)略情報是有關(guān)擁核國核武器研發(fā)、儲存、使用及至軍控方面的情報。冷戰(zhàn)時期蘇聯(lián)和美國核預(yù)警態(tài)勢的發(fā)展就已表明，為確保向決策者及時提供與核攻擊有關(guān)的戰(zhàn)略情報，自動化技術(shù)成為解決核攻擊評估所需巨大時間成本的重要方式[4]。隨著全球戰(zhàn)略環(huán)境的演變，新興技術(shù)和作戰(zhàn)需求正推動情報偵察領(lǐng)域進入新一輪高速發(fā)展期。在戰(zhàn)略情報領(lǐng)域應(yīng)用人工智能技術(shù)進行深度數(shù)據(jù)挖掘，研究數(shù)據(jù)間的聯(lián)系、信息與事實間的關(guān)聯(lián)，全面提升情報處理能力，已經(jīng)成為大國情報界的當務(wù)之急。

但近期，美國情報界和政學(xué)界也在反思人工智能技術(shù)在有關(guān)核軍備情報收集、分析和處理過程中可能產(chǎn)生的一系列問題，重新審視人工智能在戰(zhàn)略情報領(lǐng)域“過度應(yīng)用”可能帶來的連鎖反應(yīng)，部分分析人士認為這些問題甚至可能重塑美國的大戰(zhàn)略。綜合來看，美國政學(xué)界討論甚多的是人工智能在戰(zhàn)略預(yù)警系統(tǒng)中的應(yīng)用對美國決策系統(tǒng)的影響。許多國家已經(jīng)部分實現(xiàn)了核預(yù)警、指揮和控制以及導(dǎo)彈瞄準自動化，但智能預(yù)警也同時意味著錯誤警報很難得到有效干預(yù)和阻止，這將大大提升虛警和誤判的風(fēng)險[5]。此外，當前人工智能的任何應(yīng)用都伴隨著對其殺傷連帶責(zé)任問題的討論，戰(zhàn)略情報領(lǐng)域也不例外。聯(lián)合國已在《特定常規(guī)武器公約》框架內(nèi)中對致命性自主武器系統(tǒng)控制問題進行了多場辯論，如何鼓勵包括中美等國在內(nèi)的多方采取克制態(tài)度以限制對人工智能數(shù)據(jù)軍事化濫用也已經(jīng)成為關(guān)注的焦點[6]，但利用人工智能賦能戰(zhàn)略情報收集與分析正是美軍當前的發(fā)力點，因此談判前景不容樂觀。美國國際戰(zhàn)略研究中心(CSIS)對此發(fā)表報告稱，人工智能技術(shù)有改變和增強美國情報界力量的潛能，但這也會造成大國競爭的伴生效應(yīng)[7]。

人工智能賦能核戰(zhàn)略情報收集與處理已經(jīng)是主要擁核國實現(xiàn)核戰(zhàn)略情報工作創(chuàng)新、塑造核優(yōu)勢的必由之路。但其存在通過改變戰(zhàn)術(shù)攻防平衡，侵蝕核威懾穩(wěn)定性的風(fēng)險。國內(nèi)既有研究對美國人工智能技術(shù)如何應(yīng)用于軍事情報領(lǐng)域進行了初步探析[8-9]，但沒有對美軍利用智能化情報手段收集處理核戰(zhàn)略情報進行理論分析與闡釋，也缺乏對其技術(shù)可行性的研究與反思。因此，本文著眼智能化情報手段在核戰(zhàn)略情報中的應(yīng)用及造成的影響，希望對我軍事情報事業(yè)發(fā)展有所裨益。

2 人工智能技術(shù)在核戰(zhàn)略情報領(lǐng)域的應(yīng)用現(xiàn)狀及其影響

隨著人工智能技術(shù)研究的不斷推進，其在軍事情報領(lǐng)域的應(yīng)用已由智能獲取、智能分析向智能決策支持等方面延伸和擴展，為平時搜集積累對手核戰(zhàn)略情報，戰(zhàn)時有效縮短打擊鏈、奪取作戰(zhàn)優(yōu)勢發(fā)揮作用。因此，自主系統(tǒng)的主要價值在于，它可以提高核武器國家的情報、監(jiān)視、偵察(以下簡稱“ISR”)以及預(yù)警能力。當前，智能化情報手段在核戰(zhàn)略情報領(lǐng)域的應(yīng)用已較為廣泛，很多新設(shè)想、新思路也在不斷產(chǎn)生。

2.1對導(dǎo)彈及其載具目標的探測與識別搜集導(dǎo)彈及其載具目標的活動情況是核戰(zhàn)略情報的核心任務(wù)，而隨著各類傳感器數(shù)量的增加和質(zhì)量的提高，無人機和衛(wèi)星等傳輸?shù)臄?shù)據(jù)呈指數(shù)級增長，如何更精確，更及時地對導(dǎo)彈及其載具目標進行探測、識別與跟蹤成為情報處理環(huán)節(jié)的關(guān)鍵。針對此問題，以美國為代表的人工智能大國正利用深度學(xué)習(xí)算法賦予ISR系統(tǒng)更多的感知智能。

導(dǎo)彈是核彈頭的主要載體，美國在《2019年導(dǎo)彈防御評估》報告中指出未來探測導(dǎo)彈發(fā)射的一個主要手段是發(fā)展配有自主處理能力的移動式ISR平臺，如F-35戰(zhàn)機等[10]。用以探測對手導(dǎo)彈軌跡的移動監(jiān)測平臺不僅可以自行處理機載數(shù)據(jù)，識別導(dǎo)彈信號，還可以提供公路機動導(dǎo)彈部隊的異常調(diào)動等其他重要情報，美國海軍研究實驗室已經(jīng)在開發(fā)根據(jù)監(jiān)視圖像推斷意圖和威脅的智能分析技術(shù)[11]。

在雷達情報方面，美蘇兩國很早就開始部署相控陣雷達以防范對方先發(fā)制人的核打擊，美國當前的國家導(dǎo)彈預(yù)警系統(tǒng)的陸基部分也由大型相控陣雷達組成。這種類型的雷達依賴于復(fù)雜的處理算法，但這些算法對區(qū)分核導(dǎo)彈和可能存在的其他物體如小型飛機的能力并不強，還曾發(fā)生過惡性誤判事件。對此，美軍已經(jīng)開始強調(diào)發(fā)展深度學(xué)習(xí)算法以提供更有價值的目標情報[12]。負責(zé)美國本土彈道導(dǎo)彈防御的北方司令部自2020年中開始投入使用“探路者”(Pathfinder)人工智能系統(tǒng)，并已進行了兩場“全球信息優(yōu)勢演習(xí)”(GIDE)[13]?！疤铰氛摺笨梢詮谋泵?、夏威夷甚至是關(guān)島的所有軍用雷達和民航管理雷達中獲取原始雷達信號，并融合數(shù)據(jù)，創(chuàng)建對手導(dǎo)彈活動的圖片。

核導(dǎo)彈發(fā)射載具主要有陸基運輸車輛，戰(zhàn)略轟炸機和戰(zhàn)略導(dǎo)彈核潛艇。近年來，美軍尤其加強了對公路機動導(dǎo)彈發(fā)射車和核潛艇的監(jiān)控力度，在其設(shè)想中可利用高空長航時無人機對導(dǎo)彈發(fā)射車進行監(jiān)控，利用“海洋物聯(lián)網(wǎng)”加強水下態(tài)勢感知能力建設(shè)，做到對核潛艇的全方位監(jiān)控。

監(jiān)控陸基力量方面，蘭德公司的分析報告認為，目前較為可行的對移動發(fā)射車這類時敏目標的探測方法主要是利用衛(wèi)星或隱形無人機上的“地面移動目標監(jiān)視”雷達以監(jiān)測發(fā)射地點。在監(jiān)測到目標后，無人機可以發(fā)射機載的“人在回路中”的自主導(dǎo)彈進行打擊。打擊后，傳感器對目標進行成像，以評估攻擊的成敗[14]。此想法在2019年《導(dǎo)彈防御評估》和2020財年《國防授權(quán)法案》中得到了支持，美軍已于去年9月在MQ-9“死神”無人機上完成“敏捷禿鷹”(Agile Condor)吊艙的演示驗證?！懊艚荻d鷹”是美國空軍研究實驗室開發(fā)的一種高性能嵌入式計算吊艙解決方案，可使一架MQ-9監(jiān)視大范圍的行動，自主識別預(yù)先定義的感興趣目標并發(fā)送它們的位置?！懊艚荻d鷹”吊艙可以大幅壓縮數(shù)據(jù)采集和數(shù)據(jù)分析之間的時延，從而提高對時敏目標的打擊能力，進一步增強無人機的作戰(zhàn)效能[15]。而在至關(guān)重要的衛(wèi)星偵察情報方面，“探路者”的升級版本將可以充分利用現(xiàn)有軍用和民用衛(wèi)星收集到的圖像信息，甚至包括電子情報數(shù)據(jù)。北方司令部也在與國家地理空間情報局緊密合作，將開源信息輸入到該系統(tǒng)中。升級后的“探路者”系統(tǒng)能夠以遠超人類的速度從大量的地面衛(wèi)星圖像和其他數(shù)據(jù)中發(fā)現(xiàn)目標，甚至是偽裝或隱藏的目標。

海基核力量因其靈活性和低可探測性而成為中俄兩國第二次反擊能力的核心，而由于人工智能對ISR系統(tǒng)的賦能以及無人潛航器搜索和跟蹤核潛艇的能力不斷增強，核潛艇遭受先發(fā)制人攻擊的可能性進一步增加。2020年7月，國防高級研究計劃局(以下簡稱“DARPA”)授予帕洛科技公司“海洋物聯(lián)網(wǎng)”第二階段開發(fā)合同，將大幅擴大浮標部署規(guī)模，開展基于云計算的浮標大數(shù)據(jù)分析?！昂Ｑ笪锫?lián)網(wǎng)”項目是美國為增強海上戰(zhàn)場態(tài)勢感知能力所設(shè)立的關(guān)鍵項目，項目由海上浮標、衛(wèi)星通信系統(tǒng)和基于云的數(shù)據(jù)分析系統(tǒng)組成，主要利用的是深度學(xué)習(xí)、云計算和大數(shù)據(jù)技術(shù)[16]。當該項目最終成型時，美軍可以在全球的水下空間實現(xiàn)完全感知，戰(zhàn)略導(dǎo)彈核潛艇也會無處遁形。這極大威脅到了中俄的第二次打擊能力，破壞了美國與中俄的危機穩(wěn)定性。

新世紀以來，美國的導(dǎo)彈防御計劃一直以“損害限制”作為自己的指導(dǎo)原則，努力發(fā)展可以對導(dǎo)彈進行全時段跟蹤的技術(shù)，旨在促進作戰(zhàn)形式從純粹的戰(zhàn)斗機制向早期的拒止威懾行動轉(zhuǎn)變。而人工智能在多元情報融合分析上的優(yōu)勢可以完美聯(lián)結(jié)現(xiàn)有的多類型傳感器，實現(xiàn)對導(dǎo)彈及其載具目標的實時跟蹤。如果配以其日益成熟的助推段和中段攔截技術(shù)，未來中俄兩國的核反擊能力很可能被嚴重削弱，戰(zhàn)略穩(wěn)定的天平也會倒向美國一側(cè)，這對中俄兩國來說是非常危險的。

2.2輔助網(wǎng)絡(luò)攻防手段進行跨域情報活動在網(wǎng)絡(luò)領(lǐng)域，自主性并不是一個新的發(fā)展概念，人工智能技術(shù)已經(jīng)是網(wǎng)絡(luò)戰(zhàn)賦能技術(shù)，也是大部分網(wǎng)絡(luò)防御架構(gòu)的關(guān)鍵組成部分。其賦能的各類網(wǎng)絡(luò)攻防手段已經(jīng)可以實現(xiàn)情報搜集、情報保護乃至情報欺騙等多類型跨域活動。需要注意的是，跨域網(wǎng)絡(luò)沖突的復(fù)雜與困難并不意味著無法實現(xiàn)能夠給物理世界帶來破壞的網(wǎng)絡(luò)攻擊。美國的極光測試證明了通過網(wǎng)絡(luò)攻擊摧毀發(fā)電機的現(xiàn)實可能性，而針對伊朗鈾離心機廠的“震網(wǎng)”病毒攻擊表明，即使與互聯(lián)網(wǎng)進行完全的物理隔離，也無法給關(guān)鍵基礎(chǔ)設(shè)施的工業(yè)控制系統(tǒng)提供完全的安全保證[17]。網(wǎng)絡(luò)與現(xiàn)實的連接給了人工智能技術(shù)施展的巨大空間，在戰(zhàn)略情報領(lǐng)域亦然。在展開對核工業(yè)關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊前，對專業(yè)控制系統(tǒng)網(wǎng)絡(luò)的滲透和漏洞搜集至關(guān)重要，人工智能技術(shù)在其中可以發(fā)揮作用。攻擊者可以利用兩個人工智能系統(tǒng)相互對抗所產(chǎn)生的生成式對抗網(wǎng)絡(luò)(GANs)來模仿正常的流量模式，以轉(zhuǎn)移對攻擊的注意力，并快速找到并滲出敏感數(shù)據(jù)。除此之外，生成式對抗網(wǎng)絡(luò)還可以創(chuàng)建惡意軟件以規(guī)避基于機器學(xué)習(xí)的檢測系統(tǒng)。由于網(wǎng)絡(luò)攻擊難以有效溯源，這賦予了攻擊方極大的先發(fā)制人誘惑，一旦在網(wǎng)絡(luò)域爆發(fā)大規(guī)模沖突，其極有可能影響到電力、交通等與核武器系統(tǒng)本身緊密相連的關(guān)鍵基礎(chǔ)設(shè)施，嚴重破壞穩(wěn)定性。同時，這也會給決策集團帶來巨大的決策壓力，影響危機時期雙方的正常交流。

將人工智能集成到軍事情報網(wǎng)絡(luò)系統(tǒng)中，不僅增加了它們對于潛在網(wǎng)絡(luò)攻擊的脆弱性，而且還使新形式的情報行動成為可能。由于智能情報系統(tǒng)主要用來收集和處理信息，這將使對手有可能使用數(shù)據(jù)中毒的方法來破壞或操縱智能系統(tǒng)的功能。情報機構(gòu)可以利用這項技術(shù)通過深度偽造謊言和混亂，達成情報欺騙的目的，同時還可以利用各類網(wǎng)絡(luò)智能武器實施信息詐取和欺騙。例如美軍兩款代號為“病毒步槍”和“野蜂”的智能網(wǎng)絡(luò)兵器可無線監(jiān)測電腦電磁輻射、自動識別無線網(wǎng)絡(luò)信號，通過“解碼攻擊”或強行無線“寫入”病毒的方式控制目標電腦，然后發(fā)送欺騙信息，實施情報欺騙，誤導(dǎo)對手[8]。這些因素增加了相互作用的軍事人工智能系統(tǒng)之間意外行為和事故級聯(lián)的風(fēng)險，特別是在網(wǎng)絡(luò)空間，有可能發(fā)生潛在的“閃電戰(zhàn)”[18]。

在網(wǎng)絡(luò)防御方面，深度學(xué)習(xí)提供了發(fā)現(xiàn)新的未知惡意軟件類型，并檢測可疑活動的能力。反惡意軟件程序是為了自動識別和消除惡意軟件而設(shè)計的，其一般需要自主運行，而深度學(xué)習(xí)正在優(yōu)化其工作方式。早在2010 年，DARPA在其打造的Intercept X工具中就創(chuàng)建了一個網(wǎng)絡(luò)基因組程序，以自動揭示惡意軟件和其他網(wǎng)絡(luò)威脅的獨有特征，該程序還可自主限制新的勒索軟件和啟動記錄攻擊[19]。融合自主性的網(wǎng)絡(luò)防御可以在很大程度上提高對對手惡意攻擊的抵抗能力，尤其是當有恐怖主義黑客對擁核國進行突然襲擊時，這可以在一定程度上提高穩(wěn)定性。但由于目前各國對攻擊的溯源能力差距較大，進攻占優(yōu)方會不斷創(chuàng)造新的難以追蹤的網(wǎng)絡(luò)攻擊手段以突破現(xiàn)有防御機制，而當網(wǎng)絡(luò)攻擊侵害到與核武器系統(tǒng)密切相關(guān)的領(lǐng)域時，戰(zhàn)略穩(wěn)定也將受到嚴重威脅。

2.3輔助決策的發(fā)展趨勢當前，人工智能技術(shù)雖已在核戰(zhàn)略情報收集、分析與處理環(huán)節(jié)得到了較大規(guī)模的應(yīng)用，但其在輔助情報人員進行結(jié)論判斷和決策上還處于發(fā)展階段。這一方面是由于技術(shù)還未足夠成熟，另一方面也是因為核指揮控制系統(tǒng)本身并不能完全去除人的作用，“人在回路中”的智能化情報系統(tǒng)在很長一段時間內(nèi)仍將是主要的發(fā)展方向。但這并不妨礙人工智能輔助決策的能力在戰(zhàn)區(qū)層面得到應(yīng)用。

借助深度學(xué)習(xí)對情報數(shù)據(jù)進行交叉分析，智能化情報手段可以用來幫助指揮部門分析與預(yù)測對手核威懾的真實意圖。2020年3月，DARPA“羅盤”項目開展原型系統(tǒng)測試，測試了雷神公司、系統(tǒng)技術(shù)研究公司和洛克希德·馬丁先進技術(shù)實驗室提供的三種原型系統(tǒng)，展示了利用人工智能提升情報分析決策效果的能力[20]?！傲_盤”項目全稱“通過主動態(tài)勢想定規(guī)劃來實現(xiàn)情報收集和監(jiān)測”(COMPASS)，意在開發(fā)一種可以幫助戰(zhàn)區(qū)級聯(lián)合作戰(zhàn)指揮官識別對手真正意圖、進行正確高效決策的支持系統(tǒng)，而這對未來美國地區(qū)反導(dǎo)體系的構(gòu)建大有裨益。目前，DARPA正與美軍印太司令部情報、作戰(zhàn)規(guī)劃和政策部門展開進一步合作，將在亞太地區(qū)使用真實數(shù)據(jù)對“羅盤”系統(tǒng)進行實地測試。

智能化情報手段運行快速高效，能夠為戰(zhàn)場實時決策提供優(yōu)質(zhì)的參考，并且通過實時戰(zhàn)場反饋，操作人員能夠不斷修正和更新算法結(jié)果。未來，美軍主要發(fā)展的深度神經(jīng)網(wǎng)絡(luò)技術(shù)通過模擬人腦神經(jīng)元信息處理機制，不斷增強融合了計算機與深度神經(jīng)網(wǎng)絡(luò)技術(shù)的“類腦計算”能力，打造類似于人腦的新型計算系統(tǒng)。該系統(tǒng)采用了類腦神經(jīng)網(wǎng)絡(luò)設(shè)計，能夠?qū)崿F(xiàn)快速運算、存儲和分析，在圖像識別、感官數(shù)據(jù)處理等復(fù)雜功能方面的效率遠高于傳統(tǒng)計算機。運用此算法的“類腦”計算系統(tǒng)有望在未來戰(zhàn)爭中成為增強現(xiàn)有體系對抗能力的關(guān)鍵，其會在人機協(xié)同作戰(zhàn)中促進機器深度學(xué)習(xí)人類成功經(jīng)驗，為指揮員努力破除戰(zhàn)爭迷霧，謀劃戰(zhàn)爭布局賦能。而借助人工智能算法，美軍新近成立的“算法戰(zhàn)跨職能小組”的任務(wù)在于研制能夠在平戰(zhàn)狀態(tài)中快速處理數(shù)據(jù)的軟件，實現(xiàn)對目標的高效探測、分類和預(yù)警分析，收集并提供高質(zhì)、高量、高時效性的戰(zhàn)略情報，并以此推進與情報領(lǐng)域休戚相關(guān)的深度學(xué)習(xí)先進算法的深入研究，用以輔助軍事決策[21]。

未來，隨著關(guān)鍵算法的不斷創(chuàng)新，輔助決策甚至是自主決策將成為情報決策系統(tǒng)中至關(guān)重要的一環(huán)。但歷史教訓(xùn)和現(xiàn)實研究都已經(jīng)表明(詳見2.2)，對智能情報系統(tǒng)自主決策功能的依賴可能也會因系統(tǒng)的虛警或錯判而產(chǎn)生誤判風(fēng)險，進而反噬本國核指揮體制，危及戰(zhàn)略穩(wěn)定。

3 智能化情報手段當前面臨的技術(shù)困境及其影響

正如上文所述，智能化情報手段帶來的優(yōu)勢是明顯的，但其也存在諸多難解的問題，尤其是由于技術(shù)不成熟導(dǎo)致的風(fēng)險，極有可能在危機期間或網(wǎng)絡(luò)攻擊狀態(tài)下演化為核危機，對這些問題進行深入研究有助于我們正確認識人工智能技術(shù)帶來的困境。

3.1“算法偏見”使虛警與誤判風(fēng)險明顯增加算法偏見(Algorithm bias)是指在沒有惡意的程序設(shè)計中，卻帶著設(shè)計者的偏見，或因采用帶有偏見的數(shù)據(jù)而導(dǎo)致程序結(jié)果出現(xiàn)差錯[22]。造成算法偏見的原因主要有兩類，一是算法編輯者本身在編輯算法時產(chǎn)生的認知傾向?qū)θ斯ぶ悄芟到y(tǒng)產(chǎn)生了影響；二是由于人工智能系統(tǒng)的不成熟性，對手或第三方利用錯誤數(shù)據(jù)來欺騙編輯者，進而將錯誤數(shù)據(jù)輸入至智能系統(tǒng)中。

3.1.1 智能系統(tǒng)自身算法偏見導(dǎo)致的后果 首先，深度學(xué)習(xí)算法是不透明的。依賴深度神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)系統(tǒng)，就像一個黑匣子，雖然我們可以“觀察”到其輸入和輸出態(tài)，但無法“觀察”其運行過程。通過深度學(xué)習(xí)訓(xùn)練的人工智能系統(tǒng)在許多特定任務(wù)中可能優(yōu)于人類，但它們?nèi)匀蝗狈θ祟愃斫獾耐ㄓ贸ＷR。計算機視覺系統(tǒng)不具有像人類那樣在抽象層次上的感知模式，例如面部識別系統(tǒng)無法完全區(qū)分真實的人和圖片中的人之間的區(qū)別。圖像識別系統(tǒng)對人眼不可察覺的圖像變化的觀察也可能導(dǎo)致完全錯誤地標記圖像中的對象，因此會產(chǎn)生形式獨特的算法偏差。這種偏差在復(fù)雜系統(tǒng)中層層疊加，往往會產(chǎn)生意想不到的結(jié)果[23]。以識別文本和圖像的傳感錯誤為例，如果軍事情報分析人員進入一個有缺陷的圖像識別系統(tǒng)，通過數(shù)百張照片的評估將敵方導(dǎo)彈發(fā)射車輛定位在一個城市地區(qū)，一旦產(chǎn)生錯誤，既會對眼前的任務(wù)造成不利影響，也極有可能帶來國內(nèi)和國際上的重大政治損失。

其次，用于訓(xùn)練自動圖像識別算法的數(shù)據(jù)可能存在多種缺陷。訓(xùn)練人工智能在其他物體中識別感興趣的物體，需要預(yù)先標記好的數(shù)據(jù)集，且正反向數(shù)據(jù)集都必須有。但在導(dǎo)彈車輛識別數(shù)據(jù)集中，商業(yè)卡車的圖片非常多，移動導(dǎo)彈發(fā)射車的地面真實圖片卻很少。在此情況下，人工智能可能會在學(xué)習(xí)過程中將移動發(fā)射器錯誤地歸為非發(fā)射器車輛，進而產(chǎn)生誤判。為了彌補這種由于數(shù)據(jù)不平衡產(chǎn)生的誤差，提高訓(xùn)練數(shù)據(jù)的準確性，可以納入人工合成的導(dǎo)彈發(fā)射器圖像，以增強訓(xùn)練數(shù)據(jù)集的平衡性。但這需要人工智能成倍增加內(nèi)存和運行時間來學(xué)習(xí)，否則無法確保識別效果的可信度。

3.1.2 因?qū)κ只虻谌降恼`導(dǎo)產(chǎn)生的虛假情報 虛假信息是一個長期存在的情報和戰(zhàn)略問題，而人工智能系統(tǒng)尤其易受其影響。一國對人工智能的依賴可能會導(dǎo)致惡意誤導(dǎo)行為的破壞性影響進一步擴大。利用深度偽造技術(shù)創(chuàng)造的合成圖像在社交媒體的大肆傳播會對人工智能系統(tǒng)的訓(xùn)練數(shù)據(jù)集產(chǎn)生惡性影響。英國國際戰(zhàn)略研究所(IISS)的桌面推演結(jié)果表明，隨著核武器國家在核指揮和控制方面更加依賴智能預(yù)警系統(tǒng)提供戰(zhàn)略預(yù)警，對手成功誤導(dǎo)的可能性也將快速增長[24]。

核大國的核指揮和控制系統(tǒng)越來越依賴專家系統(tǒng)和深度學(xué)習(xí)算法來增強態(tài)勢感知和網(wǎng)絡(luò)安全。然而，惡意的行為者也可以使用新技術(shù)來欺騙或破壞指揮和控制系統(tǒng)，使決策者陷入兩難境地。對手也會試圖隱藏他們的移動導(dǎo)彈發(fā)射器或改變其設(shè)計，以欺騙智能情報手段的ISR能力。尤其需要注意的是，對手或第三方會試圖“污染”人工智能的訓(xùn)練數(shù)據(jù)，以誘導(dǎo)智能情報系統(tǒng)錯誤分類，在識別過程中出現(xiàn)錯誤，而智能情報系統(tǒng)的預(yù)警結(jié)果往往很難在現(xiàn)實世界中得到驗證[25]。

算法偏見的存在直接導(dǎo)致了智能化情報系統(tǒng)在情報收集與處理環(huán)節(jié)的脆弱性，其在對手有意誤導(dǎo)或自身算法出現(xiàn)漏洞的情況下會產(chǎn)生很嚴重的誤判問題。很長一段時間以來人們一直對先發(fā)制人的第一次核打擊關(guān)注較多，但事實上，最有可能導(dǎo)致使用核武器的誘因是，一個擁有核武器的國家試圖探測另一個國家是否在發(fā)射核武器，而在此過程中預(yù)警系統(tǒng)產(chǎn)生了某個環(huán)節(jié)或某種程度的誤判。人工智能無疑會提高一國導(dǎo)彈預(yù)警的及時性，但算法偏見問題也會導(dǎo)致情報處理系統(tǒng)發(fā)出無法驗證的預(yù)警，破壞或者干擾一國的核指揮控制體制，在一定程度威脅和損害戰(zhàn)略穩(wěn)定。

3.2“自主偏愛”存在的沖突升級和責(zé)任問題美國國防部在2017年發(fā)布的第3000.09號指令指出，“自主系統(tǒng)應(yīng)設(shè)計成能使指揮官和作戰(zhàn)人員對使用武力行使適當程度的人類判斷”[26]。美國雖在法律上限制了武器系統(tǒng)的完全自主，但這造成了對增加自主權(quán)的體制約束，從而限制了自主系統(tǒng)在戰(zhàn)場上的速度。而從美國在聯(lián)合國“全面禁止完全自主武器”談判中的傾向來看，其絲毫不持支持態(tài)度，國防部近年來推動的“馬賽克戰(zhàn)”(Mosaic Warfare)概念還鼓勵發(fā)展具有決策自由權(quán)的自主系統(tǒng)，這說明“適當?shù)娜祟惻袛唷笔冀K是存疑的。

隨著人工智能技術(shù)的成熟，對自主系統(tǒng)的過度信任會使得人類難以在回路中施加自己的判斷以阻止可能存在的誤判。雖然當前不太可能出現(xiàn)此種情況，但關(guān)于“自主偏愛”(automation bias)的學(xué)術(shù)研究表明，這是一種可能性極高的風(fēng)險[27-28]?！白灾髌珢邸笔侵府斎祟惐凰惴ǖ姆磸?fù)成功拖入一種虛假的安全感時，停止質(zhì)疑并完全信任它們。在這種情況下，人類不太可能質(zhì)疑一個自主系統(tǒng)所做的決定。因此，雖然在核指揮和控制系統(tǒng)中引入自主系統(tǒng)在更快地識別打擊方面提供了潛在的好處，但由于“自主偏愛”的可能性，即使指揮系統(tǒng)仍然執(zhí)行“人在回路中”模式，也存在潛在的升級風(fēng)險。

另一方面，在對錯誤結(jié)果進行歸因時，算法的責(zé)任主體較為模糊，在因算法缺陷導(dǎo)致決策失誤，或者公眾對算法決策的結(jié)果不滿意時，指揮人員往往傾向于把責(zé)任推諉給算法本身或算法開發(fā)者，而對算法或算法開發(fā)者又難以進行司法審查，責(zé)任主體高度模糊往往使得算法決策陷入審查難、問責(zé)難的窘境[29]。已有研究表明，無論是將責(zé)任歸于個人還是國家，抑或二者同時承擔責(zé)任，都不可能有效地解決眾多的監(jiān)管問題。在核危機中更是如此，是否需要對敵方來襲導(dǎo)彈進行反擊的依據(jù)來自智能情報系統(tǒng)，但最終決定反擊的是決策者，如何協(xié)調(diào)二者關(guān)系是核預(yù)警系統(tǒng)中的一大難題[30]，冷戰(zhàn)時期蘇聯(lián)“奧科”(Oko)系統(tǒng)的虛警即是一大例證。但這些關(guān)切反之也會激勵和啟發(fā)更多對算法和智能系統(tǒng)進行問責(zé)的機制，目前來看，由于各國已在核武器系統(tǒng)中應(yīng)用了智能情報系統(tǒng)，因此未來亟需在談判中追求一些軟性的使用規(guī)范機制。

3.3“先行者優(yōu)勢”帶來戰(zhàn)略互疑并削弱穩(wěn)定“先行者優(yōu)勢”(First Mover Advantage)是指首先掌握顛覆性軍事技術(shù)和武器裝備的國家會獲得更長久的優(yōu)勢[31]。任何一項軍事技術(shù)進步帶來的“先行者優(yōu)勢”都將使未來戰(zhàn)爭更多以非對稱作戰(zhàn)的形式呈現(xiàn)，人工智能技術(shù)也不例外。許多國家已經(jīng)實現(xiàn)了核武器基礎(chǔ)設(shè)施包括預(yù)警、指揮和控制以及導(dǎo)彈瞄準的部分自動化[32]。而人工智能的進步會導(dǎo)致其在偵察和預(yù)警中的應(yīng)用進一步擴大。由于自主系統(tǒng)可以比人類更快地檢測外部情勢的變化，運行良好的算法可以給決策者在復(fù)雜環(huán)境下留出更多的反應(yīng)時間，因此各國都傾向于自主化其預(yù)警系統(tǒng)中的部分組件。這樣一種“先行者優(yōu)勢”無疑會給保持戰(zhàn)略穩(wěn)定帶來潛在的風(fēng)險，因為對對手提升反應(yīng)速度的擔憂直接加劇了擁核國之間的戰(zhàn)略互疑。

在短期內(nèi)，人工智能對戰(zhàn)略穩(wěn)定最具破壞性的影響在于人工智能與各種傳感器的融合，這些智能傳感器所帶來的優(yōu)勢將使第二次打擊能力的生存性大大降低。以戰(zhàn)略導(dǎo)彈核潛艇為例，強大的隱蔽性是戰(zhàn)略導(dǎo)彈核潛艇在戰(zhàn)爭中生存下來的重要前提，而反潛技術(shù)和其他新興技術(shù)的進步將對核潛艇的建造和部署構(gòu)成嚴重威脅。美國的衛(wèi)星每天都能提供整個地球的高分辨率圖像，如果配以適當?shù)乃阉魉惴ǎ@些圖像情報可能會揭示中俄兩國的戰(zhàn)略導(dǎo)彈核潛艇迄今為止未被觀測到的戰(zhàn)技術(shù)特征。而人工智能的進步也會帶來識別未知核潛艇特征的新方法，如果有足夠的算力支持，海洋可能會變得越來越透明。由于人工智能對情監(jiān)偵系統(tǒng)的貢獻以及進攻性無人潛航器獵殺核潛艇的能力不斷提升，戰(zhàn)略穩(wěn)定將被極大地削弱[33]。

最后，先行者優(yōu)勢雖然可以改變軍事力量，但戰(zhàn)爭一直以來都是政治的延續(xù)。在戰(zhàn)略層面，生存是一個國家的根本目標，當弱國認為自己的基本生存受到威脅時也會采取抵抗措施。即使美國率先部署人工智能系統(tǒng)，由此帶來的軍事實力提升也不能保證達成理想的戰(zhàn)略成果，反而會帶來愈發(fā)激烈的人工智能軍備競賽，嚴重破壞戰(zhàn)略穩(wěn)定性。追求狹隘的人工智能軍事霸權(quán)只可能使國家間陷入所謂的“技術(shù)輪盤賭”中。

4 對我因應(yīng)舉措思考

人工智能技術(shù)越來越多地替代和改善了人類在模式識別、預(yù)測、優(yōu)化決策等任務(wù)中的表現(xiàn)。其在戰(zhàn)略情報領(lǐng)域的應(yīng)用也大大提升了擁核國應(yīng)對核突襲的能力，但技術(shù)賦能后的智能化情報系統(tǒng)帶來的問題也是顯而易見的，“算法偏見”“自主偏愛”“先行者優(yōu)勢”等都是人工智能帶來的新問題。雖然部分技術(shù)還不成熟，但其對以第二次打擊力量為基礎(chǔ)的戰(zhàn)略穩(wěn)定已經(jīng)構(gòu)成了潛在的威脅，如果不及時對我核力量發(fā)展和情報系統(tǒng)本身做出針對性調(diào)整，未來恐面對更大的風(fēng)險。

4.1應(yīng)用新型技術(shù)手段來增強核力量生存性首先，為了搶占戰(zhàn)爭算法先機，平衡美智能情報優(yōu)勢，我需加快推進智能算法的研究，并結(jié)合作戰(zhàn)實踐，不斷探索、完善和創(chuàng)新情報算法，增強我國的戰(zhàn)略情報預(yù)警和處理能力。這一方面需要我們開發(fā)更多先進的人工智能算法，形成由算法支撐的人工智能處理、分析、統(tǒng)計和輔助決策系統(tǒng)，推動戰(zhàn)場感知、戰(zhàn)爭決策、情報偵察等多領(lǐng)域的智能化建設(shè)；另一方面，我們也需要大力培養(yǎng)更多優(yōu)秀的算手以適應(yīng)智能化戰(zhàn)爭的新需求，培養(yǎng)他們快速利用算法收集信息、分析數(shù)據(jù)、判斷局勢的能力。

4.2增強關(guān)鍵基礎(chǔ)設(shè)施網(wǎng)絡(luò)系統(tǒng)的魯棒性人工智能技術(shù)一再賦能網(wǎng)絡(luò)攻擊的實踐表明我們有必要對跨域網(wǎng)絡(luò)攻擊保持足夠的警惕。增加網(wǎng)絡(luò)系統(tǒng)的冗余度，維護關(guān)鍵基礎(chǔ)設(shè)施如核電站的安全是保證己方核力量有效性的重要手段，尤其是在關(guān)鍵基礎(chǔ)設(shè)施正加速向智能化邁進，信息系統(tǒng)與工業(yè)控制系統(tǒng)的融合更為緊密的大背景下，保持關(guān)鍵基礎(chǔ)設(shè)施尤其是工業(yè)控制系統(tǒng)的獨有特性，增加其拓撲結(jié)構(gòu)的模糊性是相當有必要的。

此外，加強人員安全意識培養(yǎng)和內(nèi)部安全管理在網(wǎng)絡(luò)空間安全防護中也具有重要價值。近年來，以澳大利亞“馬盧奇”污水泄露事故為代表的一系列網(wǎng)絡(luò)安全事件都源自內(nèi)部人員的內(nèi)部攻擊。因此，防范內(nèi)部威脅，增強內(nèi)部人員基本安全防護意識和能力在防范跨域情報活動中將扮演極端重要的角色。有鑒于此，對于基礎(chǔ)設(shè)施的內(nèi)部防護必須得到高度重視，尤其是來自供應(yīng)鏈內(nèi)部的安全風(fēng)險。

4.3繼續(xù)深度參與人工智能全球安全治理人工智能的軍備控制思想仍然處于起步階段[34]。近年來，圍繞著人工智能的軍事用途的討論很多，逐漸形成了一種共識，即確保對這些系統(tǒng)的“有意義的人的控制”[35]，但確保這一點在戰(zhàn)術(shù)上不一定可行，因為安全困境和自主決策的明顯優(yōu)勢，使得保持“人在回路中”的狀態(tài)是不可長久的。然而正如核武器的歷史所昭示的，預(yù)警、指揮和控制系統(tǒng)的多次事故已經(jīng)表明人工智能技術(shù)在核戰(zhàn)略情報領(lǐng)域的廣泛應(yīng)用有待考量。

人工智能的革命性突破不斷走向軍事領(lǐng)域，帶來了諸多安全問題，給國際安全帶來了新的挑戰(zhàn)。雖然人工智能的國際安全治理這一議題當前非常熱門，但其也面臨大國領(lǐng)導(dǎo)力赤字、國際機制約束力不足、新冠疫情沖擊等多重困境，中國需要以人類命運共同體理念為指導(dǎo)，通過塑造命運共同體意識、推進相關(guān)國際機制建設(shè)、發(fā)揮行為主體作用等方式，有序推進人工智能的國際安全治理進程。

5 小 結(jié)

人工智能驅(qū)動的ISR系統(tǒng)的改進將威脅到二次核打擊力量的生存能力，因為技術(shù)先進的國家有能力發(fā)現(xiàn)、識別、跟蹤和摧毀對手的移動和隱蔽發(fā)射平臺。一個國家如果獲得了如此高效的反制能力，不僅有希望在核危機螺旋式上升的情況下限制損害，也可以“一擊即中”地消滅對手的核打擊力量，這種潛在能力將破壞核威懾的有效性。而人工智能技術(shù)與網(wǎng)絡(luò)攻防手段的結(jié)合賦予了情報活動新的發(fā)展空間，但這也直接增加了網(wǎng)絡(luò)沖突升級為核危機的風(fēng)險。此外，日益自主化的情報決策機制也會給核預(yù)警體制帶來反噬的可能性。人工智能技術(shù)在上述情報手段中的應(yīng)用及其未來的發(fā)展?jié)摿茐拇髧g的戰(zhàn)略穩(wěn)定。

由于算法和自主系統(tǒng)本身所存在的不成熟性，過早地在核戰(zhàn)略情報領(lǐng)域應(yīng)用可能會增加虛警和誤判的風(fēng)險，動搖危機穩(wěn)定性。各國出于完美預(yù)警的目的，加快應(yīng)用智能化情報手段也會引發(fā)激烈的軍備競賽，危及軍備競賽穩(wěn)定性。因此，如何既能在戰(zhàn)略情報領(lǐng)域推進更有效的人工智能技術(shù)使用，又能始終保持某種程度的“有意義的人的控制”，這是一個具有戰(zhàn)略意義的根本性問題。針對這些問題，我國對美國智能化情報手段的發(fā)展也應(yīng)保持高度關(guān)注，并努力與國際社會一道維護戰(zhàn)略穩(wěn)定。