◎金晶 秦浩 戴朝霞

（1.中國(guó)電子科技集團(tuán)公司第三十研究所；2.中國(guó)電子科技集團(tuán)有限公司發(fā)展戰(zhàn)略研究中心；3.中國(guó)電子科學(xué)研究院）

人工智能作為未來重要的戰(zhàn)略技術(shù)，各國(guó)都開始重視人工智能的發(fā)展布局，尤其是美國(guó)等軍事強(qiáng)國(guó)高度重視人工智能的發(fā)展，特別是人工智能的安全性問題。2 019 年，美國(guó)密集發(fā)布了多項(xiàng)人工智能安全頂層戰(zhàn)略，規(guī)劃未來人工智能的發(fā)展方向，對(duì)人工智能研發(fā)計(jì)劃進(jìn)行大量投資，開發(fā)可以抵御針對(duì)人工智能系統(tǒng)的安全風(fēng)險(xiǎn)，培養(yǎng)和吸引各類人才，搶占人工智能發(fā)展的戰(zhàn)略制高點(diǎn)。

一、制定人工智能安全頂層戰(zhàn)略，加速推動(dòng)人工智能在國(guó)家安全領(lǐng)域的應(yīng)用

自《2 016 年國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》發(fā)布以來，人們對(duì)人工智能安全在科學(xué)和社會(huì)層面的理解迅速增長(zhǎng)。這些新知識(shí)在很大程度上幫助專家識(shí)別新的問題，但針對(duì)人工智能安全問題的解決方案仍然難以解決。因此，美國(guó)政府接連發(fā)布了多項(xiàng)頂層戰(zhàn)略，推動(dòng)政府、學(xué)術(shù)界和產(chǎn)業(yè)界合作，探索人工智能的安全解決方案。

2019 年2 月，美國(guó)總統(tǒng)特朗普簽署了《國(guó) 家人工智能倡議》，啟動(dòng)美國(guó)“人工智能計(jì)劃”，將技術(shù)研發(fā)確定為美國(guó)保持在人工智能領(lǐng)域全球領(lǐng)先地位的首要任務(wù)。該倡議旨在集中聯(lián)邦政府的資源來發(fā)展人工智能，以促進(jìn)美國(guó)國(guó)家繁榮，增強(qiáng)美國(guó)國(guó)家和經(jīng)濟(jì)安全，改善美國(guó)人民生活質(zhì)量。當(dāng)前，美國(guó)在人工智能創(chuàng)新方面處于世界領(lǐng)先地位，很大程度上歸功于其強(qiáng)大的研發(fā)生態(tài)系統(tǒng)。美國(guó)聯(lián)邦政府通過在多個(gè)機(jī)構(gòu)投資世界級(jí)人工智能研究項(xiàng)目的方式，為人工智能的創(chuàng)新做出重大貢獻(xiàn)。

2019 年2 月，美國(guó)國(guó)防部發(fā)布了《2018 年國(guó)防部人工智能戰(zhàn)略概要——利用人工智能增進(jìn)國(guó)家安全與繁榮》，該戰(zhàn)略著重強(qiáng)調(diào)了發(fā)展人工智能的重要意義，分析了美國(guó)國(guó)防部在人工智能領(lǐng)域面臨的戰(zhàn)略形勢(shì)，闡明了國(guó)防部部署人工智能的戰(zhàn)略舉措及重點(diǎn)領(lǐng)域，以期維持和加強(qiáng)美國(guó)在軍用人工智能領(lǐng)域的領(lǐng)先優(yōu)勢(shì)，搶占未來競(jìng)爭(zhēng)制高點(diǎn)。國(guó)防部將人工智能技術(shù)納入決策和作戰(zhàn)，降低部署軍力面臨的風(fēng)險(xiǎn)，形成軍事優(yōu)勢(shì)，并成為拓展人工智能在美國(guó)全球防御體系中應(yīng)用的先驅(qū)。

2019 年6 月，美國(guó)白宮科技政策辦公室發(fā)布第二版《國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃：2019 更新版》，該計(jì)劃在《2 016年國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》的基礎(chǔ)上進(jìn)行了更新，不僅要確保人工智能系統(tǒng)的安全性，同時(shí)還強(qiáng)調(diào)要擴(kuò)大公私合作關(guān)系，加快人工智能的發(fā)展。該計(jì)劃明確了聯(lián)邦政府投資人工智能研發(fā)的優(yōu)先事項(xiàng)，其目的是引導(dǎo)研發(fā)資金流向如美國(guó)國(guó)家科學(xué)基金會(huì)、美國(guó)國(guó)家衛(wèi)生研究院和美國(guó)軍方等聯(lián)邦機(jī)構(gòu)，推動(dòng)人工智能領(lǐng)域的前沿技術(shù)研究。

2019 年8 月，美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究院發(fā)布《美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位：聯(lián)邦政府參與開發(fā)技術(shù)標(biāo)準(zhǔn)與相關(guān)工具的計(jì)劃》，該計(jì)劃就政府如何制定人工智能技術(shù)標(biāo)準(zhǔn)給出了指導(dǎo)意見，強(qiáng)調(diào)美國(guó)政府應(yīng)持續(xù)參與人工智能標(biāo)準(zhǔn)的開發(fā)活動(dòng)，推進(jìn)可信人工智能技術(shù)的發(fā)展，確保使用了人工智能技術(shù)的系統(tǒng)安全可靠，并具有魯棒性。

2019 年9 月，美國(guó)政府發(fā)布了《2020財(cái)年“網(wǎng)絡(luò)與信息技術(shù)研發(fā)項(xiàng)目”預(yù)算補(bǔ)編》，首次按部門報(bào)告了人工智能研發(fā)領(lǐng)域非密、非國(guó)防的聯(lián)邦投資，為持續(xù)跟蹤美國(guó)人工智能研發(fā)投入奠定了基礎(chǔ)。根據(jù)美國(guó)發(fā)布的2021 財(cái)年預(yù)算申請(qǐng)文件，美國(guó)國(guó)家科學(xué)基金會(huì)為其人工智能項(xiàng)目申請(qǐng)了8.5 億美元，比2020 財(cái)年預(yù)算增加了70%。

2019 年11 月，美國(guó)國(guó)家安全委員會(huì)人工智能小組發(fā)布《中期報(bào)告》，對(duì)人工智能在國(guó)家安全方面的影響進(jìn)行了初步評(píng)估。該研究小組受美國(guó)國(guó)會(huì)委托，自2019 年3 月起開展為推進(jìn)人工智能在國(guó)家安全和國(guó)防領(lǐng)域發(fā)展的研究工作。2 019 年7 月31 日，該小組向美國(guó)國(guó)會(huì)提交了人工智能初版報(bào)告，確定了維護(hù)美國(guó)在人工智能領(lǐng)域優(yōu)勢(shì)地位的五項(xiàng)基本原則，強(qiáng)調(diào)應(yīng)盡快將人工智能技術(shù)用于保護(hù)國(guó)家安全。該項(xiàng)研究的最終報(bào)告將于2021 年3 月完成。

2019 年11 月，美國(guó)國(guó)會(huì)研究服務(wù)中心發(fā)布《2016-2019 年人工智能研發(fā)進(jìn)展報(bào)告》，記錄了過去三年聯(lián)邦政府投資人工智能研發(fā)活動(dòng)的最新進(jìn)展，包括近期和當(dāng)前聯(lián)邦機(jī)構(gòu)項(xiàng)目和活動(dòng)的具體案例。該報(bào)告根據(jù)《國(guó)家人工智能研究與發(fā)展戰(zhàn)略計(jì)劃：2019 更新版》中所述的八項(xiàng)戰(zhàn)略，分別介紹了不同機(jī)構(gòu)開展人工智能研究的情況，各個(gè)機(jī)構(gòu)所開展項(xiàng)目和活動(dòng)的多樣性反映了美國(guó)聯(lián)邦政府對(duì)人工智能投資的廣度和深度。

2020 年2 月，美國(guó)白宮科技政策辦公室發(fā)布《美國(guó)人工智能計(jì)劃：首個(gè)年度報(bào)告》。該報(bào)告主要從投資人工智能研發(fā)、共享人工智能資源、消除人工智能創(chuàng)新障礙等方面，總結(jié)了美政府過去一年在實(shí)施“美國(guó)人工智能計(jì)劃”方面取得的重大進(jìn)展。

通過美國(guó)近兩年來頒布的一系列政策可以看出，為了保持其在人工智能發(fā)展領(lǐng)域的全球領(lǐng)導(dǎo)地位，未來美國(guó)政府一定還會(huì)舉大力發(fā)展人工智能，不僅強(qiáng)調(diào)對(duì)人工智能創(chuàng)新與發(fā)展的促進(jìn)，同時(shí)更關(guān)注人工智能的安全可靠，在增加人工智能研究投入的同時(shí)，期望借助人工智能保護(hù)國(guó)家安全。

二、美國(guó)主要機(jī)構(gòu)及軍兵種的人工智能安全研發(fā)情況

如今，越來越多的機(jī)構(gòu)期望利用人工智能技術(shù)抵御網(wǎng)絡(luò)攻擊，但如何確保人工智能系統(tǒng)的安全，則是一個(gè)新的難題。人工智能的安全性包括保護(hù)人工智能系統(tǒng)以及運(yùn)行這些系統(tǒng)的數(shù)字基礎(chǔ)設(shè)施的安全。一套強(qiáng)有力的聯(lián)邦人工智能安全新計(jì)劃將確保美國(guó)保持技術(shù)領(lǐng)先的地位，并安全可靠地挖掘人工智能的潛力。在人工智能的長(zhǎng)期研發(fā)投資方面，美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）、情報(bào)高級(jí)研究計(jì)劃局（IARPA）和三軍實(shí)驗(yàn)室處于領(lǐng)先地位。

（一）DARPA 關(guān)注人工智能安全性和魯棒性，力求提高系統(tǒng)的防御能力

許多先進(jìn)的人工智能系統(tǒng)在運(yùn)行過程中，其內(nèi)部機(jī)理是很難被人理解的，這使得人工智能的“可解釋性”成為一個(gè)關(guān)鍵的安全挑戰(zhàn)。DARPA 的“可解釋人工智能”（X AI）項(xiàng)目正試圖解決這一問題，該項(xiàng)目于2018 年6月啟動(dòng)，將推動(dòng)研究人員理解人工智能行為決策背后的原理和機(jī)制，進(jìn)而改善人機(jī)協(xié)作，使人工智能系統(tǒng)在能夠被人類理解的同時(shí)保持極高的性能。XAI 旨在更好地了解人工智能的漏洞，并培養(yǎng)用戶對(duì)人工智能系統(tǒng)的信心。

2018 年9 月，DARPA 宣布了其“下一代人工智能”（A I Next）計(jì)劃，該計(jì)劃將針對(duì)新的和現(xiàn)有的人工智能研發(fā)項(xiàng)目進(jìn)行長(zhǎng)期投資。該計(jì)劃的關(guān)鍵領(lǐng)域包括：自動(dòng)化的國(guó)防部關(guān)鍵業(yè)務(wù)流程，如安全許可審查或操作部署的授權(quán)軟件系統(tǒng)；提高人工智能系統(tǒng)的魯棒性和可靠性；增強(qiáng)機(jī)器學(xué)習(xí)和人工智能技術(shù)的安全性與彈性；降低功耗、數(shù)據(jù)和性能的低效性；并開創(chuàng)下一代人工智能算法和應(yīng)用。

除了新的和現(xiàn)有的研究外，DARPA 的“人工智能探索”（AIE）計(jì)劃是“下一代人工智能”計(jì)劃的關(guān)鍵組成部分，該項(xiàng)目于2018 年7月首次對(duì)外宣布。A IE 包括了一系列高風(fēng)險(xiǎn)、高回報(bào)的項(xiàng)目，研究人員將在獲得合同后的18 個(gè)月內(nèi)確立新人工智能概念的可行性。利用簡(jiǎn)化的合同程序和資助機(jī)制，幫助研究人員在三個(gè)月之內(nèi)啟動(dòng)探索性的研究工作。2018 年7月至2019 年10月期間，DARPA 已經(jīng)完成了13 個(gè)不同的人工智能主題項(xiàng)目的合同授予。

2019 年2 月，DARPA 宣 布 啟動(dòng)“確保人工智能對(duì)抗欺騙的魯棒性”（GARD）項(xiàng)目，旨在開發(fā)新一代抵御對(duì)機(jī)器學(xué)習(xí)模型開展的敵對(duì)欺騙攻擊。該項(xiàng)目將研究如何建立人工智能系統(tǒng)，以抵御特定、預(yù)先設(shè)定的敵對(duì)攻擊。GARD 的三個(gè)主要目標(biāo)是：發(fā)展具備魯棒性的機(jī)器學(xué)習(xí)理論；在各種環(huán)境下創(chuàng)建和測(cè)試具備防御能力的人工智能系統(tǒng)；構(gòu)建一個(gè)新的測(cè)試平臺(tái)，以表征機(jī)器學(xué)習(xí)的防御能力。

2019 年3 月，DARPA 舉行了人工智能研討會(huì)（AIC），向外界展示了其在推動(dòng)人工智能技術(shù)發(fā)展方面所做的投資及最新的研究成果。AIC 力求借助領(lǐng)域內(nèi)專家的力量，加強(qiáng)和擴(kuò)大DARPA的創(chuàng)新生態(tài)系統(tǒng)，在確保國(guó)家安全的前提下，向政府通報(bào)DARPA 對(duì)人工智能未來發(fā)展的愿景及優(yōu)先事項(xiàng)，助推發(fā)展強(qiáng)大、安全、可靠、自適應(yīng)的人工智能技術(shù)、系統(tǒng)和應(yīng)用。

在需要高度自治的網(wǎng)絡(luò)安全系統(tǒng)中實(shí)施人工智能也是一個(gè)有待進(jìn)一步研究的領(lǐng)域，D ARPA 的“網(wǎng)絡(luò)超級(jí)挑戰(zhàn)賽”（CGC）正在為實(shí)現(xiàn)此目標(biāo)而努力。CGC 是DARPA 于2013 年發(fā)起的全球性網(wǎng)絡(luò)安全挑戰(zhàn)賽，旨在推進(jìn)自動(dòng)化網(wǎng)絡(luò)防御技術(shù)發(fā)展，即實(shí)時(shí)識(shí)別系統(tǒng)缺陷、漏洞，并自動(dòng)完成打補(bǔ)丁和系統(tǒng)防御，最終實(shí)現(xiàn)全自動(dòng)的網(wǎng)絡(luò)安全攻防系統(tǒng)，它涉及人工智能代理自動(dòng)分析和對(duì)抗網(wǎng)絡(luò)攻擊。

（二）IARPA 探索人工智能的異常檢測(cè)技術(shù)，避免隱私數(shù)據(jù)被惡意篡改

2016 年2 月，IARPA 啟動(dòng)了“網(wǎng)絡(luò)攻擊自動(dòng)非常規(guī)傳感器環(huán)境”（CAUSE）項(xiàng)目，旨在開發(fā)新的非常規(guī)、多學(xué)科傳感器技術(shù)，能夠比現(xiàn)有方法更早地檢測(cè)和預(yù)測(cè)網(wǎng)絡(luò)攻擊。IARPA 在2016 年以1140 萬美元的價(jià)格將該項(xiàng)目簽給了BAE 系統(tǒng)公司，希望該公司能夠通過識(shí)別并提取內(nèi)部和外部傳感器的先導(dǎo)信號(hào)，對(duì)網(wǎng)絡(luò)攻擊進(jìn)行檢測(cè)和預(yù)報(bào)。

2018 年3 月，IARPA 宣布啟動(dòng)“良好用戶環(huán)境”（VirtUE）項(xiàng)目，該項(xiàng)目旨在利用人工智能來改善對(duì)網(wǎng)絡(luò)異常的檢測(cè)。VirtUE 的目標(biāo)是：創(chuàng)造性地定義和開發(fā)用戶環(huán)境，使其更具安全性、動(dòng)態(tài)性和可審核性；開發(fā)動(dòng)態(tài)的分析工具，利用新的環(huán)境，自動(dòng)檢測(cè)和威懾用戶在新的云基礎(chǔ)設(shè)施中所面臨的安全威脅。IARPA 希望借助VirtUE 項(xiàng)目改善工作站和虛擬桌面的安全性。

2018 年12 月，IARPA 發(fā)布“安 全、可靠的智能學(xué)習(xí)系統(tǒng)”（SAILS）項(xiàng)目廣泛機(jī)構(gòu)公告。人工智能和機(jī)器學(xué)習(xí)技術(shù)可以簡(jiǎn)化業(yè)務(wù)流程，并在決策環(huán)節(jié)提供幫助，但這些系統(tǒng)容易受到針對(duì)個(gè)人隱私的網(wǎng)絡(luò)攻擊，這類攻擊主要是為了盜取用于訓(xùn)練人工智能和機(jī)器學(xué)習(xí)模型的信息，尤其是模型反演攻擊和成員推理攻擊。SAILS 項(xiàng)目旨在尋求用于創(chuàng)建可抵御隱私攻擊的人工智能和機(jī)器學(xué)習(xí)模型，并讓模型創(chuàng)建者相信訓(xùn)練有素的模型不會(huì)泄露系統(tǒng)中的敏感信息。

2019 年5 月，I ARPA 發(fā)布“人 工智能木馬”（T rojAI）項(xiàng)目廣泛機(jī)構(gòu)公告，尋求開發(fā)可用于在人工智能系統(tǒng)中檢測(cè)特洛伊木馬的技術(shù)。TrojAI 旨在檢測(cè)敵方是否向人工智能系統(tǒng)中插入了木馬或后門，比如惡意篡改用于機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)。因此，TrojAI 項(xiàng)目的目標(biāo)是保護(hù)訓(xùn)練數(shù)據(jù)、清理訓(xùn)練數(shù)據(jù)，同時(shí)保護(hù)訓(xùn)練后數(shù)據(jù)模型的完整性。

（三）美空軍推動(dòng)人工智能軍事倫理發(fā)展，建立并維護(hù)人機(jī)之間的信任關(guān)系

2019 年9 月，美國(guó)空軍發(fā)布了人工智能戰(zhàn)略，這份人工智能戰(zhàn)略詳細(xì)闡述了美國(guó)空軍的人工智能定義、發(fā)展背景和目的以及空軍所關(guān)注的五個(gè)人工智能領(lǐng)域，同時(shí)，還提供了防止競(jìng)爭(zhēng)對(duì)手獲得優(yōu)于美國(guó)優(yōu)勢(shì)的方法和手段。該戰(zhàn)略闡述了在數(shù)字時(shí)代如何有效引領(lǐng)人工智能安全和軍事倫理所必須的基本原則和目標(biāo)。

美國(guó)空軍科學(xué)研究辦公室（AFOSR）管理著針對(duì)美國(guó)空軍基礎(chǔ)性研究的投資資金。目前，空軍科學(xué)研究辦公室針對(duì)三個(gè)人工智能項(xiàng)目進(jìn)行長(zhǎng)期投資。

1、“計(jì)算認(rèn)知和機(jī)器智能”（CCMI）項(xiàng)目：該項(xiàng)目的總體設(shè)想是在空軍面臨的復(fù)雜、敵對(duì)和機(jī)動(dòng)性環(huán)境中，實(shí)現(xiàn)未來計(jì)算系統(tǒng)的高性能、高適應(yīng)性、靈活性和自我修復(fù)能力。該項(xiàng)目涵蓋了計(jì)算智能和機(jī)器智能的全部領(lǐng)域，從負(fù)責(zé)在復(fù)雜的問題解決和決策任務(wù)中實(shí)現(xiàn)對(duì)符合合理認(rèn)知的人類行為進(jìn)行推理，到創(chuàng)建魯棒的智能系統(tǒng)所必需的非認(rèn)知智能計(jì)算模型。

2、“信息、計(jì)算、學(xué)習(xí)和融合科學(xué)”（SICLF）項(xiàng)目：該項(xiàng)目從大型異構(gòu)數(shù)據(jù)集中提取和獲取所需信息，這類大型異構(gòu)數(shù)據(jù)庫(kù)覆蓋了從雷達(dá)到視頻信息等諸多領(lǐng)域，且都是由美國(guó)空軍收集整理而成。為了理解和解釋各種數(shù)據(jù)源中包含的信息，需要從這些數(shù)據(jù)集中提取相關(guān)信息，并基于先驗(yàn)知識(shí)和概率進(jìn)行推理。

3、“信任和影響”項(xiàng)目：該項(xiàng)目的首要目標(biāo)是提高對(duì)人類信賴和團(tuán)隊(duì)合作的基本理解，闡明人們?nèi)绾卧谌藱C(jī)之間建立、維護(hù)和修復(fù)信任。特別值得關(guān)注的是對(duì)人類社會(huì)和認(rèn)知過程的研究，這些研究為人和機(jī)器組成的系統(tǒng)設(shè)計(jì)以及新型人機(jī)交互技術(shù)的開發(fā)提供幫助。該項(xiàng)目的另一個(gè)目標(biāo)是在國(guó)家安全的背景下推進(jìn)社會(huì)影響力。人們對(duì)開發(fā)計(jì)算方法和使用大規(guī)模數(shù)據(jù)集來理解社會(huì)和文化行為特別感興趣，“信任和影響”項(xiàng)目將對(duì)有效威懾、信任建立、信任校準(zhǔn)和反恐行動(dòng)的相關(guān)研究進(jìn)行投資。

（四）美海軍制定人工智能框架，著力發(fā)展人工智能多學(xué)科融合與算法研究

美國(guó)海軍研究辦公室（O NR）負(fù)責(zé)協(xié)調(diào)、執(zhí)行和推動(dòng)美國(guó)海軍及海軍陸戰(zhàn)隊(duì)的科學(xué)技術(shù)項(xiàng)目，它通過向美國(guó)和世界各地的學(xué)術(shù)界、工業(yè)界及政府等一系列合作伙伴提供資金或授予合同，管理并資助基礎(chǔ)科學(xué)、應(yīng)用科學(xué)以及先進(jìn)技術(shù)的研發(fā)。海軍研究辦公室的人工智能項(xiàng)目包括：

1、“機(jī)器學(xué)習(xí)、機(jī)器推理和人工智能”項(xiàng)目：這三種技術(shù)都專注于開發(fā)科學(xué)的基礎(chǔ)研究以及高效的計(jì)算方法，從而構(gòu)建多功能智能代理，在最少的人類監(jiān)督下執(zhí)行各種任務(wù)。此外，智能代理應(yīng)該能夠在非結(jié)構(gòu)化、開放、復(fù)雜和動(dòng)態(tài)變化的環(huán)境中與人類團(tuán)隊(duì)，以及其他代理進(jìn)行無縫協(xié)作。

2、“自主系統(tǒng)的人機(jī)交互”項(xiàng)目：旨在創(chuàng)建認(rèn)知兼容的智能自主系統(tǒng)和機(jī)器人，它們可以作為人類的隊(duì)友，實(shí)現(xiàn)人、機(jī)器人、智能代理和自主系統(tǒng)之間的對(duì)等協(xié)作。這樣的系統(tǒng)將減少與智能自主系統(tǒng)接口的認(rèn)知負(fù)擔(dān)，并使機(jī)器人和自主系統(tǒng)的監(jiān)督控制與訓(xùn)練成為可能。

3、“人機(jī)合作的認(rèn)知科學(xué)”項(xiàng)目：旨在開發(fā)基于經(jīng)驗(yàn)的人類認(rèn)知模型和可達(dá)到人類智能水平的計(jì)算架構(gòu)。該項(xiàng)目追求的是在認(rèn)知領(lǐng)域和社會(huì)層面兼容的智能系統(tǒng)，這些智能系統(tǒng)能夠使人類更強(qiáng)大甚至取代人類，同時(shí)在人機(jī)合作的操作范圍內(nèi)成為出色的隊(duì)友或助手。

4、“自主科學(xué)”項(xiàng)目：該項(xiàng)目專注于自主領(lǐng)域的多學(xué)科研究，探索人工智能、機(jī)器學(xué)習(xí)、控制理論、人類因素、生物學(xué)、認(rèn)知科學(xué)、心理學(xué)、經(jīng)濟(jì)學(xué)、運(yùn)籌學(xué)、應(yīng)用數(shù)學(xué)、海洋學(xué)、物理學(xué)和神經(jīng)科學(xué)等領(lǐng)域之間的相互聯(lián)系。

2019 年9 月，美國(guó)海軍分析中心（CNA）發(fā)布了《海軍人工智能框架》報(bào)告，介紹了海軍作戰(zhàn)部面臨的挑戰(zhàn)以及如何將人工智能應(yīng)用與海軍關(guān)鍵任務(wù)聯(lián)系起來，并介紹了人員配備和組織機(jī)構(gòu)要求、政策考慮以及海軍作戰(zhàn)部高效使用人工智能所需的解決方案。海軍作戰(zhàn)部也將根據(jù)需求制定和完善政策，提前解決人工智能特定領(lǐng)域內(nèi)可能出現(xiàn)的法律、道德和安全問題。

（五）美陸軍設(shè)立人工智能工作組，重點(diǎn)發(fā)展人工智能自適應(yīng)態(tài)勢(shì)感知能力

美國(guó)陸軍研究辦公室（ARO）及其陸軍研究實(shí)驗(yàn)室通過對(duì)相關(guān)研發(fā)活動(dòng)提供支持，增強(qiáng)人工智能技術(shù)在國(guó)家安全領(lǐng)域的應(yīng)用。目前，陸軍研究辦公室將在以下三個(gè)領(lǐng)域重點(diǎn)發(fā)展人工智能技術(shù)：（1）自主系統(tǒng)，包括自適應(yīng)感知、移動(dòng)和導(dǎo)航；（2）態(tài)勢(shì)感知分析，包括數(shù)據(jù)融合、人工神經(jīng)網(wǎng)絡(luò)、預(yù)測(cè)分析以及常識(shí)和對(duì)抗推理；（3）人工智能團(tuán)隊(duì)合作，包括界面技術(shù)、自然語(yǔ)言處理，以及針對(duì)士兵訓(xùn)練與表現(xiàn)的評(píng)估。

2018 年，美國(guó)陸軍未來司令部根據(jù)2018-18 號(hào)陸軍指令設(shè)立了人工智能特別工作組，該工作組需制定和實(shí)施美國(guó)陸軍的人工智能戰(zhàn)略，并與陸軍的跨部門小組協(xié)調(diào)推進(jìn)陸軍現(xiàn)代化工作。如今，成立一年多的美國(guó)陸軍人工智能特別工作組正開始以各種各樣的方式將人工智能項(xiàng)目融入美軍行動(dòng)，意圖在快速發(fā)展的人工智能世界中領(lǐng)先一步。

縱觀DARPA、IARPA 和美國(guó)三軍所開展的人工智能項(xiàng)目及發(fā)布的戰(zhàn)略框架，DARPA 在人工智能的技術(shù)和理論研究方面一直走在前列，它的AI NEXT 項(xiàng)目將掀起人工智能的第三次浪潮，提高人工智能系統(tǒng)的穩(wěn)健性。美國(guó)三軍也在加快人工智能技術(shù)在戰(zhàn)場(chǎng)上的應(yīng)用，期望借助該技術(shù)提高戰(zhàn)場(chǎng)機(jī)動(dòng)性、提升態(tài)勢(shì)感知能力，優(yōu)化軟硬件的處理能力。

三、結(jié)語(yǔ)

無論是現(xiàn)在還是將來，人工智能的安全性都是一個(gè)關(guān)鍵問題，這不僅需要政府針對(duì)人工智能研發(fā)進(jìn)行大量投資，同時(shí)也需要政府、工業(yè)界、學(xué)術(shù)界和產(chǎn)業(yè)界之間的通力合作。2021 年，美國(guó)國(guó)防部針對(duì)人工智能的規(guī)劃投資已經(jīng)從2020 年的13.6 億美元增加到19.8億美元，人工智能領(lǐng)域5000 萬美元以下的項(xiàng)目數(shù)量也從119 個(gè)增加到161 個(gè)。未來，在廣泛使用人工智能系統(tǒng)之前，還會(huì)面臨各種各樣的安全挑戰(zhàn)，包括復(fù)雜和不確定的系統(tǒng)環(huán)境、無監(jiān)督條件下的學(xué)習(xí)、對(duì)人類目標(biāo)的理解偏差、人機(jī)交互過程中人本身出現(xiàn)的失誤等都會(huì)對(duì)人工智能系統(tǒng)的安全性帶來影響，但美國(guó)已經(jīng)從頂層戰(zhàn)略、組織機(jī)構(gòu)、技術(shù)研發(fā)、資金投入等多個(gè)方面做好了準(zhǔn)備，我國(guó)也應(yīng)當(dāng)適時(shí)借鑒美國(guó)的經(jīng)驗(yàn)，夯實(shí)人工智能的基礎(chǔ)理論研究，加速人工智能技術(shù)的創(chuàng)新研發(fā)，推動(dòng)人工智能在各領(lǐng)域的應(yīng)用落地。