■文/高芳（中國(guó)科學(xué)技術(shù)信息研究所）

2019年11月4日，美國(guó)人工智能國(guó)家安全委員會(huì)向美國(guó)國(guó)會(huì)遞交中期報(bào)告。報(bào)告認(rèn)為，人工智能即將從三個(gè)方面推動(dòng)美國(guó)更有效地捍衛(wèi)國(guó)家安全，也將強(qiáng)化已有威脅并催生新威脅。報(bào)告將中國(guó)列為美國(guó)最直接、最嚴(yán)峻的威脅以及關(guān)系最復(fù)雜、最令人“糾結(jié)”的競(jìng)爭(zhēng)對(duì)手，強(qiáng)調(diào)確保人工智能技術(shù)的全球領(lǐng)導(dǎo)地位是國(guó)家安全的重中之重，將人工智能應(yīng)用于國(guó)防和安全領(lǐng)域是當(dāng)務(wù)之急。報(bào)告建議，美國(guó)應(yīng)進(jìn)一步加大人工智能研發(fā)力度，加快推進(jìn)人工智能軍事應(yīng)用，培養(yǎng)和招募人才，保護(hù)并利用美國(guó)技術(shù)優(yōu)勢(shì)，引領(lǐng)全球合作。

2018年8月，美國(guó)成立人工智能國(guó)家安全委員會(huì)（NSCAI）,旨在從國(guó)家安全角度對(duì)人工智能發(fā)展進(jìn)行綜合評(píng)估，并向美國(guó)國(guó)會(huì)和白宮提供政策建議。美國(guó)人工智能國(guó)家安全委員會(huì)提交的中期報(bào)告是對(duì)美國(guó)人工智能發(fā)展與國(guó)家安全做出的初步評(píng)估和判斷，并計(jì)劃在2020年最終報(bào)告中提出更全面的分析和建議。

一、人工智能有助于美國(guó)捍衛(wèi)國(guó)家安全

人工智能可從三個(gè)方面推動(dòng)美國(guó)更有效地捍衛(wèi)國(guó)家安全。一是改善美國(guó)維護(hù)國(guó)家安全的方式和手段。人工智能可用于控制武器、違禁品和人員等的非法流動(dòng)，防范惡意網(wǎng)絡(luò)操作，保護(hù)關(guān)鍵基礎(chǔ)設(shè)施，應(yīng)對(duì)自然災(zāi)害，以及實(shí)現(xiàn)特定領(lǐng)域情景感知和風(fēng)險(xiǎn)評(píng)估與響應(yīng)。二是提升情報(bào)感知與分析能力。人工智能可以使衛(wèi)星圖像、通信信號(hào)、經(jīng)濟(jì)指標(biāo)、社交媒體數(shù)據(jù)以及其他各種類型的信息變得更容易被理解，從而得到更快更精準(zhǔn)的情景感知，支持更高質(zhì)量的決策。三是改變戰(zhàn)爭(zhēng)方式。人工智能可以協(xié)助軍方更迅速地理解作戰(zhàn)空間、制定聯(lián)合作戰(zhàn)方案和做出相關(guān)決策，更有效地開(kāi)展復(fù)雜性多域作戰(zhàn)，人工智能技術(shù)促進(jìn)新一代半自主和自主作戰(zhàn)系統(tǒng)的發(fā)展，并應(yīng)用于預(yù)測(cè)分析、決策支持、無(wú)人平臺(tái)、戰(zhàn)場(chǎng)機(jī)器人、網(wǎng)絡(luò)武器和實(shí)體武器裝備等。

二、人工智能發(fā)展給美國(guó)國(guó)家安全帶來(lái)的威脅

人工智能不僅會(huì)強(qiáng)化和加速現(xiàn)有的國(guó)家安全威脅，也會(huì)產(chǎn)生新威脅。一是以中國(guó)和俄羅斯為主的戰(zhàn)略競(jìng)爭(zhēng)對(duì)手在人工智能軍事應(yīng)用方面快于美國(guó)，這將削弱美國(guó)的軍事優(yōu)勢(shì)和威懾力。二是如果人工智能系統(tǒng)能夠追蹤與鎖定高防御性軍事資產(chǎn)，則可能誘發(fā)各國(guó)更激進(jìn)地采用武力手段，導(dǎo)致沖突迅速升級(jí)，從而破壞全球穩(wěn)定和核威懾。三是人工智能應(yīng)用的快速擴(kuò)散，使得不道德地、惡意使用人工智能技術(shù)的可能性越來(lái)越大。四是深度偽造技術(shù)制造虛假事實(shí)，從意識(shí)形態(tài)層面動(dòng)搖美國(guó)民主制度，加劇社會(huì)分歧。五是個(gè)人隱私和公民自由遭到破壞。六是進(jìn)一步加劇網(wǎng)絡(luò)安全威脅。七是新技術(shù)帶來(lái)新漏洞，攻擊者可能會(huì)使用“反人工智能”技術(shù)來(lái)污染數(shù)據(jù)、欺騙機(jī)器或?qū)λ惴▽?shí)施反向工程。

三、美國(guó)發(fā)展人工智能應(yīng)遵循的基本原則

美國(guó)發(fā)展人工智能應(yīng)遵循的基本原則：確保人工智能技術(shù)的全球領(lǐng)導(dǎo)地位是國(guó)家安全的重中之重；將人工智能應(yīng)用于國(guó)防和安全領(lǐng)域是當(dāng)務(wù)之急；私營(yíng)部門領(lǐng)導(dǎo)人和政府官員必須持續(xù)強(qiáng)化其責(zé)任感，以增進(jìn)美國(guó)人民的福祉和安全；人才是人工智能發(fā)展必不可少的動(dòng)力；必須保持自由探索的活力，在開(kāi)放的同時(shí)注意保護(hù)知識(shí)產(chǎn)權(quán)和敏感技術(shù)；必須兼顧戰(zhàn)略必要性和倫理道德；對(duì)待人工智能的方式必須體現(xiàn)美國(guó)價(jià)值觀。

四、中國(guó)是美國(guó)面臨的最嚴(yán)峻、最復(fù)雜的戰(zhàn)略挑戰(zhàn)

中國(guó)人工智能發(fā)展對(duì)美國(guó)國(guó)家安全帶來(lái)最直接、最嚴(yán)峻的威脅。美國(guó)人工智能國(guó)家安全委員會(huì)的報(bào)告認(rèn)為，中國(guó)在人工智能研發(fā)投入、商業(yè)競(jìng)爭(zhēng)、軍民融合、軍事應(yīng)用、人才等方面具有很大的發(fā)展?jié)摿Γ磥?lái)十年有可能撼動(dòng)美國(guó)在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位。同時(shí)，中國(guó)也是與美國(guó)關(guān)系最復(fù)雜、最令人“糾結(jié)”的競(jìng)爭(zhēng)對(duì)手。美國(guó)人工智能國(guó)家安全委員會(huì)在報(bào)告中提出，中美在人工智能領(lǐng)域的關(guān)系應(yīng)不僅僅是在脫鉤與合作之間簡(jiǎn)單二選一的問(wèn)題。中美在人工智能人才、硬件、供應(yīng)鏈、企業(yè)、投資等多方面已深度交融，且雙方都從中受益。如果在人工智能領(lǐng)域與中國(guó)脫鉤，美國(guó)不僅要承擔(dān)經(jīng)濟(jì)、人才等方面的損失，喪失對(duì)中國(guó)人工智能發(fā)展的持續(xù)深入“了解”，更大的風(fēng)險(xiǎn)則可能會(huì)加速中國(guó)本土人工智能技術(shù)（和硬件）的發(fā)展，同時(shí)也會(huì)將經(jīng)濟(jì)利益和人才紅利拱手相讓，從根本上來(lái)看還是犧牲了美國(guó)利益。美國(guó)面臨的挑戰(zhàn)是如何調(diào)整中美科技關(guān)系中的各個(gè)要素，使之更有利于維護(hù)美國(guó)利益和保持美國(guó)優(yōu)勢(shì)。

五、美國(guó)應(yīng)有的下一步舉措

美國(guó)人工智能國(guó)家安全委員會(huì)建議，美國(guó)應(yīng)從穩(wěn)固研發(fā)和技術(shù)優(yōu)勢(shì)、加快推進(jìn)人工智能軍事應(yīng)用、招募和吸引人才、引領(lǐng)全球合作等方面，積極應(yīng)對(duì)前述挑戰(zhàn)和威脅。

一是持續(xù)加大人工智能研發(fā)力度。大幅增加人工智能研發(fā)投入，并將國(guó)家安全領(lǐng)域（尤其是國(guó)防和情報(bào)領(lǐng)域）的人工智能研發(fā)作為優(yōu)先事項(xiàng)。加速建設(shè)各類研發(fā)基地和機(jī)構(gòu)，鼓勵(lì)區(qū)域性人工智能集群式發(fā)展。實(shí)施更靈活的資助機(jī)制和激勵(lì)機(jī)制，加速人工智能研究和人才培養(yǎng)。打破政府內(nèi)部的官僚主義、繁文縟節(jié)和資源限制，充分激發(fā)政府下屬實(shí)驗(yàn)室和研究中心等的研發(fā)潛力。重點(diǎn)促進(jìn)機(jī)器學(xué)習(xí)發(fā)展，研發(fā)受神經(jīng)科學(xué)啟發(fā)的人工智能系統(tǒng)，研發(fā)健壯性和安全防御能力更強(qiáng)的人工智能系統(tǒng)；在科學(xué)與工程領(lǐng)域加快應(yīng)用人工智能技術(shù)，縮短科學(xué)發(fā)現(xiàn)和技術(shù)研發(fā)的時(shí)間；為研究人員提供算力、數(shù)據(jù)等相關(guān)資源；開(kāi)發(fā)下一代硬件、專用芯片和適用于人工智能的新型計(jì)算模式等。

二是推進(jìn)人工智能在國(guó)家安全領(lǐng)域的應(yīng)用。政府各部門、各機(jī)構(gòu)應(yīng)充分強(qiáng)化對(duì)“人工智能與國(guó)家安全”的認(rèn)識(shí)，并切實(shí)履行與此相關(guān)的戰(zhàn)略優(yōu)先事項(xiàng)。國(guó)防部和情報(bào)部門應(yīng)自上而下加強(qiáng)頂層領(lǐng)導(dǎo)和統(tǒng)籌協(xié)調(diào)，避免重復(fù)工作，分享經(jīng)驗(yàn)教訓(xùn)，剔除政策障礙，加速將國(guó)防和情報(bào)體系中的人工智能創(chuàng)新型項(xiàng)目成果集成轉(zhuǎn)化為戰(zhàn)略優(yōu)勢(shì)。加快部署韌性健壯、安全可靠的人工智能系統(tǒng)，以滿足實(shí)際作戰(zhàn)需要。完善國(guó)防系統(tǒng)和情報(bào)體系內(nèi)數(shù)據(jù)存儲(chǔ)、計(jì)算資源、網(wǎng)絡(luò)通信等基礎(chǔ)設(shè)施。政府既要注重在內(nèi)部研發(fā)人工智能，也要與產(chǎn)業(yè)界加強(qiáng)合作。運(yùn)用人工智能技術(shù)改造政府各部門的內(nèi)部運(yùn)行方式，提高行政效率和成本效益。

三是培養(yǎng)和招募人工智能人才。國(guó)家安全核心機(jī)構(gòu)，即國(guó)防部和情報(bào)機(jī)構(gòu)，應(yīng)確保從高層領(lǐng)導(dǎo)人到中層管理人員再到技術(shù)人員，全面了解人工智能現(xiàn)狀與潛力，并充分培養(yǎng)系統(tǒng)內(nèi)部的技術(shù)人才。充分借助非官方招聘渠道為政府招募人工智能人才，調(diào)整激勵(lì)機(jī)制留住這些人才，推動(dòng)頂級(jí)人工智能企業(yè)人才為政府提供服務(wù)?？焖僭黾痈叩冉逃w系內(nèi)人工智能和計(jì)算機(jī)科學(xué)專業(yè)相關(guān)的教師和基礎(chǔ)設(shè)施資源等，吸引和留住來(lái)自世界各地的頂尖人才。

四是保護(hù)并利用美國(guó)技術(shù)優(yōu)勢(shì)。繼續(xù)利用出口管制保護(hù)美國(guó)及盟國(guó)在人工智能硬件領(lǐng)域，尤其是半導(dǎo)體制造設(shè)備方面的優(yōu)勢(shì)。針對(duì)人工智能技術(shù)特點(diǎn)調(diào)整出口管制方法，對(duì)潛在的最終用戶和最終用途進(jìn)行更嚴(yán)格的審查。建立人工智能投資審查常設(shè)機(jī)構(gòu)。與盟國(guó)和合作伙伴聯(lián)合制定投資審查計(jì)劃，防止美國(guó)競(jìng)爭(zhēng)對(duì)手調(diào)整其投資策略，從美國(guó)轉(zhuǎn)移至盟國(guó)市場(chǎng)。進(jìn)一步提升芯片設(shè)計(jì)能力，加快發(fā)展下一代硬件，以維持美國(guó)在人工智能相關(guān)硬件方面的領(lǐng)先地位。保持研究體系的開(kāi)放性，同時(shí)要引導(dǎo)高校強(qiáng)化反情報(bào)意識(shí)和能力，特別是要加強(qiáng)對(duì)中國(guó)的防范。

五是引領(lǐng)全球人工智能合作。與盟國(guó)建立合作網(wǎng)絡(luò)，加強(qiáng)數(shù)據(jù)共享、研發(fā)協(xié)調(diào)、能力建設(shè)和人才交流，以增強(qiáng)美國(guó)人工智能競(jìng)爭(zhēng)力。與盟國(guó)加強(qiáng)溝通協(xié)調(diào)，確保彼此人工智能技術(shù)軍事應(yīng)用方面的互操作性。在促進(jìn)人工智能安全發(fā)展，預(yù)防人工智能對(duì)全球戰(zhàn)略平衡帶來(lái)負(fù)面影響等方面，對(duì)中國(guó)和俄羅斯應(yīng)持開(kāi)放態(tài)度，比如共同約定不能將人工智能技術(shù)應(yīng)用于核武器發(fā)射控制決策等。在促進(jìn)人工智能用于解決癌癥治療等全球性問(wèn)題方面，美國(guó)應(yīng)帶頭設(shè)置國(guó)際議程，并與所有國(guó)家開(kāi)展合作。

六、分析與認(rèn)識(shí)

美國(guó)人工智能國(guó)家安全委員會(huì)報(bào)告是在充分凝聚美國(guó)人工智能發(fā)展利益相關(guān)方共識(shí)的基礎(chǔ)上形成的，因此報(bào)告提出的人工智能發(fā)展原則以及下一步應(yīng)有舉措等，有望推動(dòng)國(guó)會(huì)將其吸收采納至未來(lái)的政策措施中。該委員會(huì)的15名成員分別來(lái)自政府、學(xué)術(shù)界、私營(yíng)企業(yè)、情報(bào)機(jī)構(gòu)、非營(yíng)利科研機(jī)構(gòu)、咨詢公司、風(fēng)投公司以及民間社會(huì)組織等，在各自領(lǐng)域都頗有影響力。同時(shí)在報(bào)告形成過(guò)程中，美國(guó)人工智能國(guó)家安全委員會(huì)不僅與美國(guó)國(guó)會(huì)和白宮保持密切接觸，也得到了國(guó)防部、情報(bào)機(jī)構(gòu)以及其他政府部門的大力配合，還與各盟國(guó)駐美使館進(jìn)行了“磋商”。

對(duì)中美人工智能，美國(guó)人工智能國(guó)家安全委員會(huì)的報(bào)告較為客觀地分析研判了雙方無(wú)法“脫鉤”的現(xiàn)狀，但也著力突出了中國(guó)人工智能發(fā)展對(duì)美國(guó)全球領(lǐng)導(dǎo)地位的挑戰(zhàn)與威脅。下一步，美國(guó)為扭轉(zhuǎn)有可能被中國(guó)趕超的局面，除了進(jìn)一步強(qiáng)化自身在人工智能基礎(chǔ)研究、軟硬件開(kāi)發(fā)、人才集聚等優(yōu)勢(shì)外，也可能通過(guò)多種方式阻遏或延緩我人工智能發(fā)展。比如，對(duì)中國(guó)實(shí)施多邊出口管制，中國(guó)人工智能發(fā)展將面臨更加嚴(yán)峻的“卡脖子”問(wèn)題；通過(guò)輿論和外交手段拉攏形成以美國(guó)為核心的朋友圈，中國(guó)人工智能發(fā)展的外部環(huán)境有可能進(jìn)一步惡化。