喬廣鵬 英建彬 王玉帥

隨著以深度學(xué)習(xí)為代表的人工智能技術(shù)取得重大突破，機(jī)器學(xué)習(xí)實(shí)現(xiàn)了由基于規(guī)則向基于學(xué)習(xí)的轉(zhuǎn)變，在圖像識(shí)別、語(yǔ)言處理、知識(shí)輔助等方面取得了巨大成功，并逐步用于作戰(zhàn)，創(chuàng)造了新的復(fù)雜性。英國(guó)著名物理學(xué)家霍金曾說：21世紀(jì)將是復(fù)雜性科學(xué)的世紀(jì)。2021年的諾貝爾物理學(xué)獎(jiǎng)就頒給了三位在“復(fù)雜系統(tǒng)”科學(xué)領(lǐng)域做出突出貢獻(xiàn)的物理學(xué)家。從復(fù)雜性視角審視人工智能對(duì)戰(zhàn)爭(zhēng)的影響，對(duì)于理解智能化戰(zhàn)爭(zhēng)，加強(qiáng)國(guó)防和軍隊(duì)智能化建設(shè)具有重要意義。

智能化作戰(zhàn)體系的復(fù)雜性分析

在大國(guó)競(jìng)爭(zhēng)的背景下，復(fù)雜性已被美軍視為一種為對(duì)手制造多重困境的武器，智能化武器裝備的發(fā)展更增加了復(fù)雜性的產(chǎn)生與運(yùn)用。

2021年諾貝爾物理學(xué)獎(jiǎng)由Syukuro Manabe、Klaus Hasselmann和Giorgio Parisi（從左到右）共同獲得，以表彰其在理解復(fù)雜物理系統(tǒng)方面的開創(chuàng)性貢獻(xiàn)

魯棒性是指系統(tǒng)在不確定性的擾動(dòng)下，具有保持某種性能不變的能力。作戰(zhàn)體系的組成是復(fù)雜的，由許多具有自主特征和適應(yīng)能力的組分系統(tǒng)組成。智能化武器裝備往往都經(jīng)過了大量數(shù)據(jù)的訓(xùn)練，具備較強(qiáng)的糾錯(cuò)能力，再加上人的監(jiān)督與干預(yù)，可以使得體系的組分系統(tǒng)更加緊密地結(jié)合在一起，也能夠避免很多由人為因素引起的“失之毫厘，謬以千里”的傳統(tǒng)失誤。然而，一個(gè)新事物對(duì)于體系貢獻(xiàn)的魯棒性和脆弱性總是相伴相生的，就像《反脆弱》作者塔勒布講的“三元結(jié)構(gòu)”，他認(rèn)為所有的事物遇到威脅時(shí)會(huì)表現(xiàn)出三種狀態(tài)：脆弱性、魯棒性和反脆弱性。智能化武器系統(tǒng)和平臺(tái)因其智能互聯(lián)而威力成幾何級(jí)數(shù)增長(zhǎng)，但同時(shí)其內(nèi)部算法、數(shù)據(jù)的邏輯關(guān)系越復(fù)雜，越是存在諸多不可預(yù)知的“bug”，面對(duì)外部干擾越具有脆弱性。它可以成為作戰(zhàn)體系的利劍，也可成為作戰(zhàn)體系的“阿喀琉斯之踵”。例如，無(wú)人機(jī)群可以發(fā)動(dòng)群體攻擊釋放巨大威力，也可能遭到網(wǎng)電攻擊而瞬間團(tuán)滅，伊朗就曾使用電子戰(zhàn)迫降RQ-170，擊落RQ-4無(wú)人機(jī)。如何從脆弱性到魯棒性，如何從魯棒性到反脆弱性，是面向智能化戰(zhàn)爭(zhēng)的作戰(zhàn)體系建設(shè)應(yīng)思考的問題。

伊朗曾使用電子戰(zhàn)迫降RQ-170

適應(yīng)性造就復(fù)雜性。機(jī)器學(xué)習(xí)從基于閾值到基于規(guī)則，再到面向目標(biāo)的自我指導(dǎo)，使得武器自主性在逐步增大。美國(guó)防部在2011年的無(wú)人機(jī)系統(tǒng)路線圖中闡明了自主性發(fā)展的四個(gè)階段：人工操作—人工授權(quán)—人為監(jiān)督—完全自主。在這個(gè)過程中，人工智能為更加適應(yīng)環(huán)境的復(fù)雜性，其學(xué)習(xí)和進(jìn)化能力不斷增強(qiáng)，從而造就更加復(fù)雜的復(fù)雜性。例如，微軟的實(shí)驗(yàn)性聊天機(jī)器人Tay，上線后被推特上的水軍利用攻擊性的推文進(jìn)行了再培訓(xùn)，導(dǎo)致Tay在回答一些問題時(shí)使用了種族主義俚語(yǔ)，表現(xiàn)出了極右意識(shí)形態(tài)；俄羅斯的一款名為愛麗絲的人工智能聊天機(jī)器人，僅上線一天就變成了“流氓”。這本不是建造者的初衷，然而面對(duì)人工智能的學(xué)習(xí)和進(jìn)化，他們卻也無(wú)可奈何。

復(fù)雜系統(tǒng)的個(gè)體一般都遵循相對(duì)簡(jiǎn)單的規(guī)則，大量個(gè)體的集體行為產(chǎn)生出了復(fù)雜、不斷變化且難以預(yù)測(cè)的行為模式。隨著智能化技術(shù)在軍事領(lǐng)域的廣泛運(yùn)用，作戰(zhàn)實(shí)體之間發(fā)生的連接和相互作用越來(lái)越多，就像是人的神經(jīng)元，單個(gè)神經(jīng)元非常簡(jiǎn)單，但無(wú)數(shù)個(gè)神經(jīng)元連在一起形成一個(gè)復(fù)雜網(wǎng)絡(luò)，就會(huì)涌現(xiàn)出思維和意識(shí)。這些涌現(xiàn)現(xiàn)象在不同的環(huán)境中往往有不同的表現(xiàn)，因此系統(tǒng)會(huì)出現(xiàn)1+1＞2和100-1=0兩種截然不同的表現(xiàn)。例如，現(xiàn)代防空雷達(dá)是針對(duì)飛機(jī)研發(fā)出來(lái)的，然而對(duì)于低慢小目標(biāo)無(wú)能為力。在實(shí)戰(zhàn)中，這些帶有一定智能性的飛行器，通過自協(xié)同、自適應(yīng)究竟能達(dá)到什么樣的作戰(zhàn)效果，誰(shuí)也無(wú)法預(yù)料。

智能化戰(zhàn)爭(zhēng)的復(fù)雜性給我們帶來(lái)的優(yōu)劣勢(shì)分析

中科院自動(dòng)化所某研究員曾講：“真正的智能必須源自復(fù)雜性”。美軍近幾年也多次提及復(fù)雜性，并將其運(yùn)用到大國(guó)競(jìng)爭(zhēng)中。我們應(yīng)采用復(fù)雜性視角，從進(jìn)攻和防御兩個(gè)角度來(lái)審視人工智能在未來(lái)戰(zhàn)爭(zhēng)中給我們帶來(lái)的影響。智能化戰(zhàn)爭(zhēng)復(fù)雜性的優(yōu)勢(shì)主要包括以下幾點(diǎn)。

宙斯盾防御系統(tǒng)也難以抵御“飽和式突防”

超量化運(yùn)用指的是以大量低成本的智能武器代替復(fù)雜的、多用途的、高價(jià)值的作戰(zhàn)平臺(tái)，以數(shù)量?jī)?yōu)勢(shì)換取質(zhì)量?jī)?yōu)勢(shì)，短時(shí)間內(nèi)根據(jù)戰(zhàn)場(chǎng)環(huán)境快速部署，使敵人的防御頃刻飽和。智能化還可以使這些裝備個(gè)體比傳統(tǒng)的有人系統(tǒng)進(jìn)行更密切而高效的協(xié)作，從而獲取一種整體作戰(zhàn)效果。更為重要的是，集群武器能夠通過大量部署，總體上保持質(zhì)量?jī)?yōu)勢(shì)，而不是一味地通過消耗獲取概率優(yōu)勢(shì)，既可以增強(qiáng)己方執(zhí)行任務(wù)的適應(yīng)性、多樣性，又可以使對(duì)方增加防御成本。例如，美軍試驗(yàn)“飽和式突防”作戰(zhàn)概念，當(dāng)8架無(wú)人機(jī)突防宙斯盾防御系統(tǒng)時(shí)，至少1架成功；但如果是10架突防時(shí)，則會(huì)有3架獲得成功。還有“消耗式防御”“掩護(hù)式機(jī)動(dòng)”“固定區(qū)域掩護(hù)”“智能微瞄準(zhǔn)”等作戰(zhàn)概念，都取得了全新的作戰(zhàn)效果。

新質(zhì)戰(zhàn)斗力不僅源于先進(jìn)科技的發(fā)展應(yīng)用，還來(lái)源于人工智能對(duì)老舊裝備的賦能。隨著人工智能、大數(shù)據(jù)、云計(jì)算等科技的迅猛發(fā)展，偵察、監(jiān)視、控制等一系列武器裝備的智能化水平實(shí)現(xiàn)了質(zhì)的躍升，無(wú)人自主、人機(jī)協(xié)同、跨域融合、全域作戰(zhàn)等全新作戰(zhàn)能力進(jìn)入實(shí)戰(zhàn)運(yùn)用。能力的多元化可以讓我們獲得跨域優(yōu)勢(shì)，對(duì)敵實(shí)施不對(duì)稱作戰(zhàn)。比如，俄軍2015年在敘利亞戰(zhàn)場(chǎng)上首次成建制使用機(jī)器人部隊(duì)，采取“無(wú)人在前、有人在后”的作戰(zhàn)編組，不僅在火力上對(duì)有人部隊(duì)實(shí)施了精確打擊，還在心理上實(shí)施了二次打擊，取得不俗成果；2020年納卡沖突，交戰(zhàn)雙方大量動(dòng)用無(wú)人機(jī)，改寫了人們對(duì)制空權(quán)的理解。另外，老舊坦克、戰(zhàn)斗機(jī)加上人工智能技術(shù)，可以脫胎換骨，實(shí)現(xiàn)自動(dòng)化或者自主作戰(zhàn)，將會(huì)成為一種殺傷力大、靈活性高的無(wú)人作戰(zhàn)裝備，重新?lián)Q發(fā)新的戰(zhàn)斗力。

現(xiàn)代戰(zhàn)爭(zhēng)高度信息化，各類傳感器、偵察監(jiān)視平臺(tái)、情報(bào)終端產(chǎn)生了海量數(shù)據(jù)，指揮員做決策時(shí)面對(duì)的信息復(fù)雜度越來(lái)越高。智能化進(jìn)入輔助決策后，傳統(tǒng)的作戰(zhàn)環(huán)OODA（觀察Observe、調(diào)整Orient、決策Decide、行動(dòng)Act），正在演變成PCDA（感知Perceive、認(rèn)知Cognize、決策Decide、行動(dòng)Act），人參與其中的環(huán)節(jié)減少，但是層次提高。在機(jī)械化、信息化、智能化“三化”融合發(fā)展的階段，機(jī)械化基本可與強(qiáng)敵并肩齊驅(qū)，但信息化還存在一定短板，突出體現(xiàn)在指揮控制領(lǐng)域。在這種形勢(shì)下，智能化與強(qiáng)敵同時(shí)起跑，一方面根據(jù)數(shù)據(jù)需求有助于倒查信息化建設(shè)的不足，另一方面基于人工智能的技術(shù)優(yōu)勢(shì)有助于追平強(qiáng)敵在指揮控制領(lǐng)域的優(yōu)勢(shì)。

智能化戰(zhàn)爭(zhēng)復(fù)雜性的劣勢(shì)主要包括以下幾點(diǎn)。

作為人工智能技術(shù)的重要基石，神經(jīng)網(wǎng)絡(luò)通過運(yùn)用特定結(jié)構(gòu)進(jìn)行搜索和映射而表現(xiàn)出智能特征。但是到目前為止，人無(wú)法解釋神經(jīng)網(wǎng)絡(luò)的運(yùn)作原理，也不能清楚地理解神經(jīng)網(wǎng)絡(luò)中每一層提取特征的具體功能，無(wú)法將數(shù)據(jù)與原理相對(duì)應(yīng)。在神經(jīng)網(wǎng)絡(luò)的“黑箱”中，存在一種反人類直覺和難以預(yù)料的脆弱性。從技術(shù)層面上說，讓機(jī)器產(chǎn)生高置信度的欺騙圖像是存在的，通過給機(jī)器注入虛假數(shù)據(jù)以操縱其行為也是可行的。因此，人工智能的發(fā)現(xiàn)能力看似強(qiáng)大，實(shí)際上缺乏穩(wěn)健性。2013年就發(fā)生過類似事件，黑客攻擊了美聯(lián)社的推特賬戶并發(fā)送了“白宮爆炸事件”的虛假推文，導(dǎo)致股票迅速暴跌。未來(lái)人工智能深入到作戰(zhàn)的各個(gè)環(huán)節(jié)，在高度對(duì)抗性的環(huán)境下，更增加了戰(zhàn)場(chǎng)的不確定性，帶來(lái)的“未知的未知”風(fēng)險(xiǎn)將嚴(yán)重存在。

2015年，俄軍在敘利亞戰(zhàn)場(chǎng)上首次成建制使用機(jī)器人部隊(duì)

智能化戰(zhàn)爭(zhēng)的作戰(zhàn)環(huán)

級(jí)聯(lián)反應(yīng)指在一系列連續(xù)事件中前面一種事件能激發(fā)后面一種事件的反應(yīng)，最典型的就是1996年的北美大停電。1996年8月，美國(guó)電網(wǎng)的一條電線由于無(wú)法承受高溫而斷電，該線路上的電流自動(dòng)地轉(zhuǎn)移到其他線路上，被轉(zhuǎn)移的線路由于無(wú)法長(zhǎng)時(shí)間承載強(qiáng)大的電流，進(jìn)而也斷電了，電流又繼續(xù)向其他線路傳遞，就這樣引發(fā)了連鎖故障，造成了美國(guó)11個(gè)州和2個(gè)加拿大省份的大停電。電力網(wǎng)絡(luò)的這種級(jí)聯(lián)反應(yīng)在互聯(lián)網(wǎng)上同樣適用。如果某個(gè)路由器出了問題，會(huì)自動(dòng)提示傳輸協(xié)議跳過故障節(jié)點(diǎn)，將信息包發(fā)送到其他的路由器。如果出現(xiàn)故障的路由器承擔(dān)的流量非常巨大，那么就會(huì)給相鄰的節(jié)點(diǎn)帶來(lái)巨大的壓力。因此，只要?jiǎng)h除互聯(lián)網(wǎng)上幾個(gè)大的節(jié)點(diǎn)，就能很容易地造成災(zāi)難性故障?！奥?lián)接”是體系的基礎(chǔ)，未來(lái)智能化戰(zhàn)爭(zhēng)的重要特征就是萬(wàn)物互聯(lián)。網(wǎng)絡(luò)結(jié)構(gòu)隨著作戰(zhàn)實(shí)體的層次不同、種類多樣、規(guī)模巨大而越來(lái)越復(fù)雜，關(guān)鍵節(jié)點(diǎn)、故障規(guī)模、影響程度更加隱形，一旦遭到打擊或者出現(xiàn)故障，可能出現(xiàn)“黑天鵝”事件，無(wú)法預(yù)測(cè)。

2020年，伊朗首席核科學(xué)家被一把嵌入了人工智能算法與多個(gè)攝像頭的遙控槍暗殺

智能化戰(zhàn)爭(zhēng)一個(gè)重要的特征是人從臺(tái)前走到了幕后。距離上，人可以近在眼前，也可以遠(yuǎn)在天邊；邏輯上，人可以在殺傷鏈的回路中，也可以在回路上，還可以在回路外。由于仿生學(xué)的發(fā)展，智能武器系統(tǒng)也實(shí)現(xiàn)了“隱身”，既可以是萬(wàn)米高空的無(wú)人機(jī)，也可以是身邊的麻雀、蒼蠅，攻擊手段更加隱蔽，給對(duì)手的“頭”部安全帶來(lái)了巨大威脅，難以查證、難以追溯，戰(zhàn)爭(zhēng)打得不僅不是堂堂之陣，有可能還弄不清對(duì)手是誰(shuí)。例如，2020年伊朗首席核科學(xué)家被一把嵌入了人工智能算法與多個(gè)攝像頭的遙控槍暗殺，現(xiàn)場(chǎng)沒有人為因素，槍擊過程全部由遠(yuǎn)程控制的自動(dòng)武器完成，其幕后實(shí)施者成了一個(gè)謎。槍械這一幾百年來(lái)不斷進(jìn)化的武器，在被計(jì)算機(jī)化和技術(shù)疊加復(fù)雜化之后，顯然也“追隨”戰(zhàn)斗無(wú)人機(jī)，加入了常人難以想象的高科技武器庫(kù)。人工智能后，萬(wàn)物皆可智能，萬(wàn)物皆可攻擊。

應(yīng)對(duì)智能化戰(zhàn)爭(zhēng)復(fù)雜性的思考

近年來(lái)，美軍及相關(guān)智庫(kù)多次提及復(fù)雜性，并強(qiáng)調(diào)：在大國(guó)競(jìng)爭(zhēng)和戰(zhàn)爭(zhēng)中，復(fù)雜性是一種武器，美軍必須充分理解復(fù)雜性的性質(zhì)和價(jià)值，即理解復(fù)雜性將如何用來(lái)作為攻擊手段，以及在作戰(zhàn)中如何運(yùn)用復(fù)雜性。為應(yīng)對(duì)復(fù)雜性，應(yīng)從以下幾個(gè)方面加強(qiáng)建設(shè)。

“戰(zhàn)爭(zhēng)是最不確定性的王國(guó)”。贏得戰(zhàn)爭(zhēng)的首要一點(diǎn)是具備反脆弱能力，能夠在這種變化快、風(fēng)險(xiǎn)高的環(huán)境中生存下來(lái)。一是要提高體系的冗余度。塔勒布在《反脆弱》一書中說，“冗余是機(jī)會(huì)主義，看似是一種浪費(fèi)，但即使在沒有危險(xiǎn)的情況下，這種額外的力量也能帶來(lái)一定的益處?！崩纾?011年日本福島核電站泄露，看似是由于地震引起的天災(zāi)，可實(shí)際上卻是一起“人禍”。因?yàn)楹穗娬镜慕ㄖ?biāo)準(zhǔn)，本身就存在設(shè)計(jì)缺陷：核電站的建造者，只是按照過往發(fā)生過的最強(qiáng)地震設(shè)置了安防措施，卻從未想過如果未來(lái)發(fā)生了更大地震該如何應(yīng)對(duì)。智能化戰(zhàn)爭(zhēng)是一個(gè)全新的作戰(zhàn)樣式，體系能否經(jīng)得起考驗(yàn)，不應(yīng)在實(shí)戰(zhàn)中尋求答案，而是在要預(yù)想最壞情況、做好最壞打算的前提下設(shè)計(jì)體系，不僅夠用而且要保持一定的冗余度。二是要促進(jìn)體系演化。尼采說：“殺不死我的，使我更強(qiáng)大”。強(qiáng)大的體系除了精妙的設(shè)計(jì)外，還離不開運(yùn)行中的演化。就像機(jī)器學(xué)習(xí)一樣，再好的模型也不是建立之初就表現(xiàn)出極強(qiáng)的智能，而是要不斷地試錯(cuò)，在環(huán)境的反饋中調(diào)整參數(shù)，才能有良好的學(xué)習(xí)效果。同樣，一個(gè)成熟的體系需要外部不斷地進(jìn)行刺激，在隨機(jī)事件和不確定性當(dāng)中彌補(bǔ)自身的不足，才能提升應(yīng)對(duì)外部風(fēng)險(xiǎn)的能力。

智能化作戰(zhàn)體系作為一種新的作戰(zhàn)樣式，需要保持一定的冗余度

人工智能雖然在很多方面超越了人類，但是智能化戰(zhàn)爭(zhēng)并不是要人走開，而是用人工智能輔助、解放和增強(qiáng)人，通過人機(jī)智能融合，實(shí)現(xiàn)人的自我超越，因此人仍然是智能化戰(zhàn)爭(zhēng)的核心。一是要增強(qiáng)指揮員的科技理解力。人類以什么樣的方式生產(chǎn)就以什么樣的方式對(duì)抗。我以你不懂的方式進(jìn)行作戰(zhàn)，便形成降維打擊。智能化技術(shù)的發(fā)展加快了這種代差的形成速度，戰(zhàn)爭(zhēng)黑科技層出不窮，稍不留意就有可能陷入對(duì)手的降維打擊中。對(duì)于一名指揮員來(lái)說，不懂科技就會(huì)制約思維，準(zhǔn)備的往往是上一場(chǎng)戰(zhàn)爭(zhēng)。二是要增強(qiáng)指揮員對(duì)智能化戰(zhàn)爭(zhēng)復(fù)雜性的認(rèn)識(shí)能力。決策不是大腦中隨機(jī)擲骰子，而是建立在認(rèn)知的基礎(chǔ)上的一種復(fù)雜的思維過程。復(fù)雜性給了我們很多反直覺的認(rèn)識(shí)，比如規(guī)模法則中的非線性冪律關(guān)系、離散事件之間的相關(guān)關(guān)系、封閉系統(tǒng)的熵增定律等，運(yùn)用到作戰(zhàn)中已遠(yuǎn)遠(yuǎn)超越了穿插迂回、分割包圍的戰(zhàn)術(shù)思想。美軍已經(jīng)列出四大類受益于利用復(fù)雜性的行動(dòng)：降級(jí)作戰(zhàn)圖、削弱紅方反應(yīng)能力、跨組織邊界行動(dòng)和利用非線性行動(dòng)。如果不加深對(duì)復(fù)雜性的理解，指揮員的作戰(zhàn)思維跟不上智能化戰(zhàn)爭(zhēng)發(fā)展，在復(fù)雜的形勢(shì)下，正確決策的能力就會(huì)大大降低。

邊緣是相對(duì)指揮中心這個(gè)功能地位而言的，但實(shí)際上現(xiàn)代戰(zhàn)爭(zhēng)的邊緣與中心的界限正在變得模糊，中心的作用在弱化，而邊緣的作用在增強(qiáng)。智能化引入作戰(zhàn)后，體系的組織結(jié)構(gòu)已逐步由中心化的緊密耦合型組織向去中心化的松散耦合型組織演化，指揮控制上也逐步由集中指揮分布執(zhí)行向分散指揮控制演化。面對(duì)快節(jié)奏的戰(zhàn)場(chǎng)環(huán)境，指揮決策窗口轉(zhuǎn)瞬即逝，作戰(zhàn)實(shí)體有時(shí)候必須第一時(shí)間作出反應(yīng)，也就是我們所熟知的現(xiàn)代戰(zhàn)爭(zhēng)是“快魚吃慢魚，而不是大魚吃小魚”。從這個(gè)角度上說，智能化戰(zhàn)爭(zhēng)中，領(lǐng)導(dǎo)者和指揮機(jī)關(guān)扮演的更多是“數(shù)據(jù)中臺(tái)”的角色，在物理結(jié)構(gòu)上是將各個(gè)作戰(zhàn)實(shí)體的數(shù)據(jù)匯總、整理和分發(fā)，在功能邏輯上是資源樞紐和能力共享平臺(tái)。因此，必須賦權(quán)周邊、賦能周邊，組織結(jié)構(gòu)上提升作戰(zhàn)實(shí)體的功能地位，減少數(shù)據(jù)流通跨度；技術(shù)上增強(qiáng)邊緣計(jì)算的能力，提升作戰(zhàn)實(shí)體自適應(yīng)的能力，真正地實(shí)現(xiàn)網(wǎng)絡(luò)化作戰(zhàn)。