丹尼爾·阿瑞亞，梅格·金李欣來 譯

（四川大學(xué) 計算機學(xué)院，四川 成都 610065）

0 引 言

加拿大智庫國際治理創(chuàng)新中心（Centre for International Governance Innovation，CIGI）2022 年3 月7 日發(fā)布了《人工智能對軍事防御和安全的影響》（The Impact of Artificial Intelligence on MilitaryDefence and Security）。該報告立足于加拿大國防政策，概述了人工智能的軍事用途以及促進人工智能賦能的下一代軍事行動所需的制度和技術(shù)的發(fā)展。

1 以人工智能為代表的新興顛覆性技術(shù)正在開創(chuàng)一個新時代

從人工智能、機器人技術(shù)到分布式記賬技術(shù)（Distributed Ledger Technologies，DLT）、物聯(lián)網(wǎng)（Internet of Things，IoT），新興的顛覆性技術(shù)開辟了商用創(chuàng)新的新時代。技術(shù)變革引發(fā)的社會和經(jīng)濟變革，對加拿大軍事力量的發(fā)展有著巨大影響。這些技術(shù)包括人工智能與機器學(xué)習(xí)、量子技術(shù)、數(shù)據(jù)安全及計算機輔助硬件等。

人工智能作為一種力量倍增器，能夠重塑戰(zhàn)爭規(guī)則。在大國競爭和世界多極化的背景下，人工智能正在成為競爭焦點。正如北大西洋公約組織（以下簡稱“北約”）的指導(dǎo)意見稱，“人工智能技術(shù)對于加拿大及其盟國的軍事防御和安全至關(guān)重要?！碑?dāng)前，數(shù)據(jù)和數(shù)據(jù)驅(qū)動技術(shù)占據(jù)了全球經(jīng)濟的制高點，全球數(shù)據(jù)經(jīng)濟的競爭與大國競爭密不可分。

中國、俄羅斯、美國和許多其他國家都在積極探索人工智能及其應(yīng)用，并把重點聚焦于國防和國家安全。目前，北約仍然是人工智能領(lǐng)域的領(lǐng)頭羊，具有較強的技術(shù)優(yōu)勢，中國正在迅速追趕。中國政府希望到2030 年能夠在人工智能領(lǐng)域引領(lǐng)世界，并通過充分利用大量數(shù)據(jù)，擴大其在人工智能產(chǎn)業(yè)化方面的領(lǐng)先地位。雖然美國在人工智能方面已經(jīng)確立領(lǐng)先地位，但是預(yù)計中國今后將主導(dǎo)人工智能的產(chǎn)業(yè)化。因為中國不僅具有先進的商業(yè)能力，而且還具有持續(xù)的國家戰(zhàn)略。

2 人工智能是一種動態(tài)創(chuàng)新

關(guān)于人工智能的概念，人們已經(jīng)討論了很多，準確來說，人工智能不僅是一種動態(tài)、特定的技術(shù)和創(chuàng)新，更是先進技術(shù)的組合。目前，人工智能技術(shù)已成為許多重要應(yīng)用的基礎(chǔ)，包括網(wǎng)絡(luò)搜索、醫(yī)療診斷、算法交易、工廠自動化、拼車和自動駕駛等。

人工智能研究始于20 世紀40 年代，隨著機器學(xué)習(xí)和計算機處理能力的提高，引發(fā)了人們對它的極大興趣。人工智能的發(fā)展與人腦的多級學(xué)習(xí)和推理能力相似。當(dāng)與大數(shù)據(jù)和云計算相結(jié)合時，人工智能就可以通過將“智能”的系統(tǒng)連接到5G 網(wǎng)絡(luò)的系統(tǒng)和設(shè)備來“認知”數(shù)字技術(shù)。

作為人工智能的一個子集，機器學(xué)習(xí)是人工智能最典型的應(yīng)用。機器學(xué)習(xí)利用統(tǒng)計技術(shù)，使機器能夠在沒有明確指令的情況下“學(xué)習(xí)”，驅(qū)動應(yīng)用程序和服務(wù)，提高分析的自動化程度。這種通過數(shù)據(jù)來自動提高性能的過程被稱為“訓(xùn)練模型”。機器學(xué)習(xí)最常見的應(yīng)用是深度學(xué)習(xí)，即利用多層的人工神經(jīng)網(wǎng)絡(luò)來復(fù)制人工智能。深度學(xué)習(xí)架構(gòu)，例如深層神經(jīng)網(wǎng)絡(luò)、遞歸神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)能夠為計算機在視覺、語音識別、機器翻譯以及自然語言處理等廣泛的研究領(lǐng)域提供支持。

3 美國、加拿大重金打造人工智能

人工智能是新興顛覆技術(shù)的核心。目前，美國仍然是人工智能領(lǐng)域的全球領(lǐng)先者。美國國家科學(xué)基金會（National Science Foundation，NSF）每年對人工智能研究的投資為1 億多美元，美國國防高級研究計劃局（Defense Advanced Research Projects Agency，DARPA）最近提出了“下一代人工智能”項目，計劃投入20 億美元，目標是提高情景式推理和自適應(yīng)推理能力。

加拿大也一直是人工智能領(lǐng)域的領(lǐng)頭羊，在2017 年 “人工智能戰(zhàn)略”的指導(dǎo)下，加拿大的人工智能生態(tài)系統(tǒng)發(fā)展迅猛，而且政府每年都將增加國防開支，并將重點放在新興顛覆技術(shù)上。目前加政府已經(jīng)承諾將投入大量資金研發(fā)人工智能，在過去10 年里，加政府投入了4.438億美元。根據(jù)加政府2021 年的預(yù)算報告，其中1.85 億美元用于支持人工智能研究的商業(yè)化；1.622 億美元用于在全國范圍內(nèi)招聘頂尖學(xué)術(shù)人才；0.48 億美元用于研究所；0.4 億美元用于增強埃德蒙頓、多倫多和蒙特利爾國家人工智能研究所研究人員的計算能力；0.086 億美元用于促進與人工智能有關(guān)的標準的制定和采用。

與傳統(tǒng)軍事技術(shù)的發(fā)展不同，沒有哪個國家能夠壟斷人工智能的軍事應(yīng)用。研究人員和企業(yè)之間廣泛的合作意味著人工智能和機器學(xué)習(xí)將進一步在全球應(yīng)用，因此，未來的許多軍事應(yīng)用很可能直接采用針對商用開發(fā)的技術(shù)。

4 人工智能的軍事應(yīng)用

人工智能是一個能夠?qū)ι虡I(yè)和軍事技術(shù)領(lǐng)域產(chǎn)生廣泛影響的領(lǐng)域。人工智能的廣泛應(yīng)用意味著該技術(shù)能夠重新調(diào)整現(xiàn)代化部隊的發(fā)展速度和組織結(jié)構(gòu)。從整體上看，人工智能代表著國家安全性質(zhì)的結(jié)構(gòu)性轉(zhuǎn)變。因此，未來的軍事應(yīng)用重點是研發(fā)、采辦以及整合先進和變革性技術(shù)（包括網(wǎng)絡(luò)和自主系統(tǒng)）。

4.1 提升情報能力

作為一種戰(zhàn)爭工具而出現(xiàn)的人工智能，能夠確保加拿大的國家安全，特別是提升其情報能力。

數(shù)字時代的戰(zhàn)爭正日益變得以知識為基礎(chǔ)。當(dāng)沖突進入信息領(lǐng)域，軍事規(guī)劃將側(cè)重于信息/虛假信息行動、網(wǎng)絡(luò)行動、情報行動以及政治或經(jīng)濟影響行動。事實上，混合戰(zhàn)爭很早之前就作為一種戰(zhàn)爭工具，其目的是利用網(wǎng)絡(luò)宣傳、破壞、欺騙其他非軍事行動，從內(nèi)部削弱敵人。

網(wǎng)絡(luò)一直是敵人、國家、犯罪組織和非國家行為者攻擊的主要目標，其中涉及監(jiān)視和偵察、情報和敏感信息。技術(shù)的發(fā)展極大地拓寬了數(shù)據(jù)和信息的獲取范圍，目前推動戰(zhàn)略情報的大多數(shù)信息是開源情報（Open Source Intelligence，OSINT）或公共資源。

現(xiàn)代戰(zhàn)爭極其依賴于安全、及時和準確的信息。隨著信息呈指數(shù)增長，數(shù)據(jù)分析變得愈加困難，促使人們采用新的分析模式和網(wǎng)絡(luò)工具。在數(shù)字時代，情報人員迫切需要新的平臺、新的工具和跨領(lǐng)域的OSINT，而人工智能正好能夠滿足這種需求。人工智能和機器學(xué)習(xí)通過篩選大量的數(shù)據(jù)，能夠極大地提高加拿大的國家情報能力。雖然人工智能系統(tǒng)不能提供因果分析，但是可以極大地提高在數(shù)據(jù)管理和數(shù)據(jù)驅(qū)動分析方面的智能性。

4.2 重塑軍事指揮控制系統(tǒng)

人工智能改變了舊的軍事沖突模式，面對數(shù)據(jù)驅(qū)動的戰(zhàn)場，決策者應(yīng)該及時調(diào)整其安全態(tài)勢，目前，加拿大國防部和軍隊面臨的一個重要挑戰(zhàn)是數(shù)據(jù)驅(qū)動網(wǎng)絡(luò)正以極快的速度重塑軍事指揮控制系統(tǒng)。

集成化系統(tǒng)的優(yōu)勢是能夠高效地協(xié)同軍事行動，在軍事指揮控制系統(tǒng)中，人、傳感器執(zhí)行威脅檢測，將信息推送至決策棧，使決策者能夠準確地響應(yīng)，但集成的指揮控制系統(tǒng)也意味著單點故障將成為薄弱環(huán)節(jié)而遭受攻擊，“自上而下”的決策難以適應(yīng)在復(fù)雜情況下的緊急挑戰(zhàn)，而人工智能的應(yīng)用又將使決策進程進一步加快，因此對傳統(tǒng)的軍事指揮控制系統(tǒng)提出了挑戰(zhàn)。

神經(jīng)計算、生成式對抗性網(wǎng)絡(luò)、人工智能決策支持、數(shù)據(jù)和情報分析方面的創(chuàng)新將對軍事行動產(chǎn)生巨大影響。在平臺、技術(shù)和應(yīng)用集成化的數(shù)字時代，人工智能和機器學(xué)習(xí)對于鞏固和加強軍事力量至關(guān)重要。人工智能并不是一種單一的技術(shù)，而是由一系列技術(shù)構(gòu)成的，可以集成到各種軍事和商業(yè)應(yīng)用中，而數(shù)據(jù)是這些技術(shù)不斷發(fā)展的基礎(chǔ)。數(shù)字技術(shù)受到數(shù)據(jù)的推動，并進一步推動人工智能的發(fā)展。數(shù)據(jù)是人工智能和先進機器學(xué)習(xí)算法訓(xùn)練的基礎(chǔ)，數(shù)據(jù)正驅(qū)動著機器“自主”發(fā)展。

數(shù)據(jù)驅(qū)動技術(shù)支撐著現(xiàn)代社會的核心和經(jīng)濟功能，隨著全球5G 網(wǎng)絡(luò)的推出，全球信息網(wǎng)絡(luò)將產(chǎn)生、收集、處理和存儲大量數(shù)據(jù)。因此，加拿大國防部和軍隊將數(shù)據(jù)提升到國家級資產(chǎn)是明智之舉，對經(jīng)濟增長和加拿大國防都至關(guān)重要。保護和利用數(shù)據(jù)意味著要重新思考當(dāng)下的集中式數(shù)字基礎(chǔ)設(shè)施，網(wǎng)絡(luò)時代的數(shù)據(jù)安全應(yīng)該既是分散的，又是聚合的，這樣才能避免出現(xiàn)集中式系統(tǒng)漏洞風(fēng)險。

4.3 推動自主武器系統(tǒng)的發(fā)展

人工智能的武器化加劇了全球軍備競賽，它可能重塑加拿大的國防戰(zhàn)略。目前，由于人工智能的引入，軍事系統(tǒng)自動化、設(shè)備維護和監(jiān)視以及無人機和機器人的部署都取得了巨大進展。美國、俄羅斯、以色列等國家正在研究將人工智能嵌入到網(wǎng)絡(luò)安全和支持作戰(zhàn)模擬、數(shù)據(jù)處理的機器人系統(tǒng)中。先進的后勤保障、半自動駕駛、智能的供應(yīng)鏈管理和可預(yù)測的維護系統(tǒng)代表了當(dāng)前人工智能的軍事應(yīng)用。

自主武器無須人類的參與，可以在陸、海、空、天和網(wǎng)絡(luò)多疆域執(zhí)行目標識別、打擊和摧毀活動。其基于監(jiān)測周圍環(huán)境的傳感器系統(tǒng)、識別潛在目標、決定是否發(fā)起攻擊的人工智能系統(tǒng)，以及能夠摧毀目標的武器的組合。在亞美尼亞和阿塞拜疆的沖突中，自動和半自動無人機被用來破壞常規(guī)的軍事系統(tǒng)，導(dǎo)致一系列軍事平臺直接失效。最近，對沙特阿拉伯國家石油加工設(shè)施的襲擊行動也證實了軍用無人機正越來越多地應(yīng)用于各種戰(zhàn)場環(huán)境。

隨著自主武器系統(tǒng)和數(shù)據(jù)驅(qū)動技術(shù)的成熟和普及，它們可能會為國家和非國家行為者提供平臺和工具，以新的破壞性方式來運用人工智能和機器學(xué)習(xí)。

4.4 打造先進的網(wǎng)絡(luò)平臺

對許多北約國家而言，網(wǎng)絡(luò)平臺對于多疆域作戰(zhàn)至關(guān)重要。網(wǎng)絡(luò)平臺使復(fù)雜環(huán)境中的可視化和協(xié)調(diào)資源成為可能。在5G 和云計算的支持下，信息系統(tǒng)能有效地收集、傳輸和處理大量戰(zhàn)場數(shù)據(jù)，提供實時數(shù)據(jù)分析。

設(shè)備互聯(lián)對于協(xié)調(diào)空襲行動、無人機駕駛、實時戰(zhàn)場空間分析、管理高度復(fù)雜的供應(yīng)鏈至關(guān)重要。從戰(zhàn)略、通信到后勤、情報，數(shù)字平臺成為指揮復(fù)雜軍事行動的基礎(chǔ)，其數(shù)據(jù)是所有作戰(zhàn)領(lǐng)域的命脈。

在數(shù)字化戰(zhàn)場空間中，每一個官兵、平臺和資源都是復(fù)雜軍事網(wǎng)絡(luò)的一個節(jié)點。從20 世紀90 年代以網(wǎng)絡(luò)為中心的美軍軍事行動開始，數(shù)字技術(shù)就是先進武器、戰(zhàn)術(shù)和戰(zhàn)略的基礎(chǔ)。從戰(zhàn)場態(tài)勢感知、自主無人機到精確制導(dǎo)彈藥和機器驅(qū)動的心理戰(zhàn)，網(wǎng)絡(luò)正在將戰(zhàn)爭帶入網(wǎng)絡(luò)時代。

人工智能本質(zhì)上是一種“自下而上”的技術(shù)，它依賴于大量數(shù)據(jù)的不斷“輸入”，以支持機器學(xué)習(xí)為“學(xué)習(xí)引擎”。隨著數(shù)字生態(tài)系統(tǒng)的激增，它們所依賴的網(wǎng)絡(luò)平臺和數(shù)據(jù)管理系統(tǒng)對于管理不斷擴大的資源和人員變得至關(guān)重要。

DLT 提供的高度分散的驗證系統(tǒng)，可以在確保所有通信和數(shù)據(jù)傳輸不受對手攻擊的同時，消除集中式節(jié)點可能存在的故障。因此，加拿大國防部應(yīng)該依靠DLT（例如區(qū)塊鏈）來加速加拿大軍方的數(shù)字轉(zhuǎn)型。通過在分散的網(wǎng)絡(luò)中橫向分配數(shù)據(jù)的手段，克服原有系統(tǒng)固有的局限性和脆弱性的缺點。

4.5 促進無人機群與機器人迅速發(fā)展

隨著人工智能在軍事應(yīng)用領(lǐng)域的迅速推進，許多國家在無人機和機器人的部署方面取得了很大進展，其中，以美國和以色列的軍用無人機的發(fā)展為代表。美軍軍用無人機種類齊全、技術(shù)先進、用途廣泛，主要有無人偵查機，察打一體攻擊型無人機、誘餌無人機和貨運無人機，用于戰(zhàn)場監(jiān)視、通信中斷、軍事打擊活動等，其在全球市場份額占據(jù)領(lǐng)先地位。

無人機群技術(shù)可用于微型、小型無人機以及無人駕駛飛行器（Unmanned Aerial Vehicle，UAV），利用基于共享的信息進行自主決策?，F(xiàn)代軍用無人機已經(jīng)能夠在無人的情況下定位、識別和攻擊目標。無人機“蜂群技術(shù)”可以使數(shù)以百計的無人駕駛飛機從戰(zhàn)場收集信息，為各種武器系統(tǒng)提供支持。人臉識別和決策算法使得國家和非國家行為者都能夠利用致命的自主武器系統(tǒng)執(zhí)行定點清除任務(wù)，在數(shù)千架無人機上裝備爆炸彈頭就能夠擊垮防空力量，攻擊基礎(chǔ)設(shè)施、城市、軍事基地等。

4.6 使“馬賽克戰(zhàn)”應(yīng)運而生

無人機的軍事威脅勢不可擋，關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊事件不時發(fā)生，為了應(yīng)對不斷變化的環(huán)境，DARPA 提出“馬賽克戰(zhàn)”概念。

“馬賽克戰(zhàn)”的核心思想是利用廉價而靈活的模塊化系統(tǒng)應(yīng)對高度復(fù)雜的網(wǎng)絡(luò)化環(huán)境，其中個人作戰(zhàn)平臺可以被設(shè)計成可配置的，利用數(shù)字網(wǎng)絡(luò)加快動態(tài)響應(yīng)。在DARPA 舉辦的“阿爾法狗斗”（AlphaDogfight）挑戰(zhàn)賽中（2019—2020 年），使用先進的F-16 飛行模擬器，讓計算機與有經(jīng)驗的飛行員對抗，結(jié)果飛行員根本無法匹敵人工智能的自主攻擊和精確性。

在“馬賽克戰(zhàn)”中，人工智能、無人機、傳感器、數(shù)據(jù)和人員相互結(jié)合，為作戰(zhàn)指揮官提供情報、資源和后勤支持。模塊化系統(tǒng)表明，未來戰(zhàn)爭將越來越多地利用計算、數(shù)據(jù)分析和算法。人工智能系統(tǒng)將驅(qū)動高度變化、不可預(yù)知的戰(zhàn)場環(huán)境，加快戰(zhàn)爭進程。

4.7 對抗性攻擊不可避免

人工智能的武器化也引發(fā)了針對人工智能系統(tǒng)的新戰(zhàn)略和新方法。正如網(wǎng)絡(luò)行動可以讓計算機網(wǎng)絡(luò)或機器以某種方式運行一樣，對手也可以對人工智能系統(tǒng)使用同樣的策略，這個過程被稱為對抗性機器學(xué)習(xí)，它試圖找出機器學(xué)習(xí)模型中的弱點并加以利用。攻擊行為可能發(fā)生在開發(fā)或部署階段，包括通過提供欺騙性“輸入”或以模型本身為目標來誤導(dǎo)模型。隨著人工智能系統(tǒng)變得愈加普及，對抗性攻擊行為會越發(fā)具有吸引力。此外，攻擊者往往會通過創(chuàng)建對抗性示例來修改訓(xùn)練數(shù)據(jù)或測試數(shù)據(jù)，這些例子被故意“擾亂”或修改，從而導(dǎo)致數(shù)據(jù)錯誤。在國家安全方面，對手可能會試圖使用同樣的技術(shù)來影響武器系統(tǒng)。如果只是孤立發(fā)生的事件，則很可能很快解決這一問題。如果在一段時間內(nèi)頻發(fā)，則可能對情報收集系統(tǒng)帶來巨大挑戰(zhàn)并影響其信任度。

高價值人工智能系統(tǒng)并非對手攻擊的唯一目標，其中包括生物特征識別和假生物特征被利用來冒充合法用戶。在語音識別中，攻擊者通過添加低量級噪聲來破壞系統(tǒng)和計算機安全。目前，加拿大國防部在其軍艦上部署了“語音助手”，期望通過部署人工智能系統(tǒng)來提高作戰(zhàn)效率。

5 加強人工智能的全球治理

從無人機、人機對話到軍事決策，人工智能技術(shù)能夠使戰(zhàn)斗力倍增。數(shù)據(jù)驅(qū)動下的戰(zhàn)爭速度和范圍表明，我們正在進入一個致命自主武器系統(tǒng)將極大改變?nèi)蛄α科胶獾男聲r代。隨著低地軌道日益成為軍事監(jiān)視、遙感、通信、數(shù)據(jù)處理和彈道導(dǎo)彈的作戰(zhàn)環(huán)境，人工智能武器化與太空武器化也相互交叉融合。人工智能、低地軌道和自主武器系統(tǒng)代表著全球安全的重要轉(zhuǎn)折點，世界各國的研究人員對此所帶來的威脅表示擔(dān)憂，認為如果在人工智能應(yīng)用和發(fā)展的規(guī)范方面缺乏國際共識，就有可能導(dǎo)致危機的出現(xiàn)。

因此，人工智能和其他數(shù)字技術(shù)的法律條約將塑造未來幾十年戰(zhàn)爭和沖突的輪廓。在人工智能軍事化的發(fā)展中，構(gòu)建法律條約對于減少未來沖突至關(guān)重要。目前，歐洲國家呼吁歐盟成員國制定使用人工智能新技術(shù)的戰(zhàn)略，美國邀請盟友討論人工智能使用的法律問題。北約正在啟動一個鼓勵成員國達成協(xié)議的進程，同時認識到人工智能等新興技術(shù)對全球安全的深遠影響，并于2019 年12 月啟動了新興和顛覆性技術(shù)（Emerging and Disruptive Technologies，EDT）路線圖。加拿大及其盟國正尋求促進、參與和建立合作的機會，提出制定一個基本框架，支持人工智能和其他新興技術(shù)。聯(lián)合國秘書長安東尼奧·古特雷斯（António Guterres）也強調(diào)了人工智能和其他數(shù)字技術(shù)的風(fēng)險和機遇，并呼吁制定保護性法律。

人工智能是一個影響商業(yè)和軍事應(yīng)用的技術(shù)領(lǐng)域。鑒于在對人工智能實行全面監(jiān)管方面存在概念模糊和政治障礙等問題，治理問題在很長一段時間內(nèi)都將是一項艱巨的挑戰(zhàn)。

6 結(jié) 語

人工智能已經(jīng)從一個神秘的學(xué)術(shù)領(lǐng)域發(fā)展成為社會和經(jīng)濟轉(zhuǎn)型的強大動力。人工智能匯集了先進的數(shù)據(jù)、算法和計算能力，能為軍隊提供安全、及時和準確的信息。

加拿大要想構(gòu)建一支適合數(shù)字時代的軍隊，政府、工業(yè)界和學(xué)術(shù)界必須要以一體化的方式進行合作，建立一個健全的創(chuàng)新性生態(tài)系統(tǒng)。除了大力發(fā)展新興技術(shù)，加拿大政府和軍隊還需要平衡不斷變化的地緣政治格局，利用信息共享、專家會議和多邊對話的方式加強國際合作。