文/闕天舒 張紀(jì)騰

作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力量，人工智能技術(shù)的發(fā)展與應(yīng)用在為社會提供強大發(fā)展動力的同時，也對國家安全治理造成了一系列影響。人工智能技術(shù)能夠基于進(jìn)化賦能的實踐應(yīng)用，從傳統(tǒng)安全、非傳統(tǒng)安全以及兩者間的重疊領(lǐng)域，為國家安全提供更為有效的維護(hù)和保障機制。人工智能技術(shù)的應(yīng)用也存在著超出預(yù)期設(shè)想的可能性。因此，對于國家安全而言，人工智能的創(chuàng)新性蘊涵了高度的戰(zhàn)略價值，但其演進(jìn)路徑的不確定性則帶來了相應(yīng)的風(fēng)險。而全面評估人工智能技術(shù)對國家安全治理帶來的機遇與挑戰(zhàn)將是解決這一技術(shù)安全悖論的關(guān)鍵所在。

人工智能：作為新的歷史起點的深刻技術(shù)革命

本輪人工智能技術(shù)發(fā)展熱潮建立在圖形處理器通用計算高性能運算架構(gòu)所形成的計算資源與移動互聯(lián)網(wǎng)興起所產(chǎn)生的大量數(shù)據(jù)的基礎(chǔ)之上，而在這兩者的催化下又形成了基于套嵌式的多層次模式識別的深度學(xué)習(xí)算法。在“數(shù)據(jù)、算力與算法”三者的共振下，人工智能就逐漸進(jìn)化為一種能夠進(jìn)行自我學(xué)習(xí)、自我推理以及自我適應(yīng)的技術(shù)，并具備以近乎“人類思維”處理復(fù)雜問題的能力。

人工智能技術(shù)具有通用目的性、自我學(xué)習(xí)與進(jìn)化、開源性、系統(tǒng)性和數(shù)字性依賴等特性。根據(jù)技術(shù)解決問題的能力可以將人工智能技術(shù)分為針對特定任務(wù)而設(shè)計和訓(xùn)練的弱人工智能和具備足夠的智能解決不熟悉問題以及通用化應(yīng)用能力的強人工智能。

由于人工智能的廣泛應(yīng)用將對交通、醫(yī)療、教育、法律、金融、傳媒等諸多社會領(lǐng)域產(chǎn)生巨大影響，因此，多數(shù)研究將人工智能視為第四次工業(yè)革命的引領(lǐng)性技術(shù)，也將這次革命稱為“智能革命”。當(dāng)然，目前的人工智能發(fā)展成果主要集中在弱人工智能域內(nèi)，并且在一些重難點問題上仍舊無法形成實質(zhì)性的突破。與此同時，盡管人工智能已經(jīng)形成了一定的先期能力優(yōu)勢，但這一技術(shù)發(fā)展的范式遷移必然有一個過程，并且人工智能所造成的社會影響既有其內(nèi)生的不確定性，又有外部延遞的模糊性。

人工智能在國家安全治理中的應(yīng)用范式

根據(jù)國家安全的主要關(guān)注領(lǐng)域，可以將人工智能在國家安全中的應(yīng)用范式分為傳統(tǒng)安全與非傳統(tǒng)安全兩個方面。傳統(tǒng)安全領(lǐng)域主要關(guān)注人工智能在軍事力量與戰(zhàn)略對抗中的威脅性使用與控制，非傳統(tǒng)安全領(lǐng)域則主要關(guān)注人工智能在經(jīng)濟、政治和文化等社會領(lǐng)域中的應(yīng)用與規(guī)范。

第一，從傳統(tǒng)安全來看，人工智能的軍事化應(yīng)用將推動形成新的軍事能力和戰(zhàn)略博弈模式。人工智能可以更為完整地還原全部戰(zhàn)場信息，并據(jù)此全盤推演和模擬分析作戰(zhàn)策略的預(yù)期結(jié)果。同時，人工智能就能夠推動傳統(tǒng)的指揮模式向智能化指揮與控制機制轉(zhuǎn)變。此外，人工智能還將推動無人化、智能化武器的大規(guī)模應(yīng)用，并催生諸如算法戰(zhàn)、意識戰(zhàn)等新型戰(zhàn)略對抗方式。當(dāng)然，人工智能技術(shù)應(yīng)用的全質(zhì)性還使其能夠同多種物質(zhì)力量相結(jié)合，進(jìn)而在態(tài)勢感知、威脅分析、策略生成以及攻防對抗等方面形成更為有效的作戰(zhàn)能力。因此，人工智能不僅能夠通過強化物理效能、生物效能或者重塑武器能量來源、作用原理等純粹的技術(shù)層面來影響戰(zhàn)爭形態(tài)，還能從戰(zhàn)略決策與作戰(zhàn)指揮等主體選擇層面來推動戰(zhàn)爭形態(tài)變革。當(dāng)前人工智能技術(shù)的軍事化應(yīng)用多數(shù)仍停留在以信息技術(shù)和精確打擊武器為核心的“初智”階段，但如果伴隨著技術(shù)的突破，人工智能也有可能推動戰(zhàn)爭從“精確化”向“智能化”轉(zhuǎn)變，使其躍升為以整合多項技術(shù)為支撐的“高智”階段。

第二，從非傳統(tǒng)安全來看，人工智能技術(shù)能夠為各類社會風(fēng)險的應(yīng)對提供更為有效精準(zhǔn)的預(yù)測、感知和糾錯機制。人工智能技術(shù)的嵌入將統(tǒng)合安全防護(hù)中的“預(yù)測、防御、檢測與響應(yīng)”來構(gòu)建一種自適應(yīng)安全架構(gòu)。在此基礎(chǔ)上，人工智能便能夠構(gòu)建相應(yīng)的模型來捕捉各類風(fēng)險因子的作用路徑及推斷其發(fā)生的概率，并根據(jù)當(dāng)前的分析結(jié)果主動快速地選擇應(yīng)對策略。目前，人工智能技術(shù)已在經(jīng)濟安全、醫(yī)療保護(hù)、環(huán)境安全、網(wǎng)絡(luò)安全、能源安全、打擊恐怖主義和跨境犯罪等諸多領(lǐng)域得到較為廣泛的應(yīng)用。

總的來看，人工智能基于進(jìn)化賦能的實踐應(yīng)用在國家安全治理中存在著一定的技術(shù)發(fā)展正循環(huán)，并且人工智能在傳統(tǒng)安全與非傳統(tǒng)安全兩個領(lǐng)域之間存在著相互支持的作用。因此，人工智能將成為保障國家安全的重要驅(qū)動力，而且也將進(jìn)一步拓展國家安全治理的理念、方式與界域。

人工智能在國家安全治理中的風(fēng)險識別

人工智能不僅對國家安全及其戰(zhàn)略行為模式具有極強的“破壁效應(yīng)”，同時這一技術(shù)的應(yīng)用也存在著超出預(yù)期設(shè)想的可能。具體來看，人工智能技術(shù)將從國家戰(zhàn)略競爭的穩(wěn)定性、社會治理的有序性以及技術(shù)應(yīng)用的穩(wěn)定性等方面對國家安全產(chǎn)生一定沖擊。

（一）將對現(xiàn)有國際戰(zhàn)略競爭平衡產(chǎn)生一定的沖擊

從競爭領(lǐng)域來看，人工智能的軍事化應(yīng)用將在各個軍事領(lǐng)域內(nèi)實現(xiàn)全面的擴散，并為非傳統(tǒng)的軍事行動提供更為有效的技術(shù)支撐。同時，擁有人工智能技術(shù)優(yōu)勢的一方將在多領(lǐng)域中研發(fā)出打擊效用更大與預(yù)期風(fēng)險更低的軍事設(shè)備，技術(shù)劣勢方則難以用數(shù)量疊層或策略戰(zhàn)術(shù)等手段進(jìn)行中和或彌補這一力量差距。

從沖突成本來看，人工智能的軍事化應(yīng)用降低了戰(zhàn)爭的門檻及其負(fù)面效應(yīng)，即人工智能的軍事化應(yīng)用不僅能夠?qū)崿F(xiàn)作戰(zhàn)效率的全方位提高，并且還能夠以無人化的作戰(zhàn)形式來降低可能造成的傷亡，進(jìn)而將顯著地降低損益、周期、規(guī)模以及性質(zhì)等諸多因素在內(nèi)的預(yù)期成本對于戰(zhàn)爭決斷及其進(jìn)程的限制。

從核威懾體系來看，擁有人工智能技術(shù)優(yōu)勢的一方能夠?qū)υ胁淮_定的戰(zhàn)略意圖以及復(fù)雜的對抗情況進(jìn)行全景式的智能化分析，并能夠在核威懾的決策上做出更加靈活、準(zhǔn)確的戰(zhàn)略判斷與選擇。此外，人工智能所導(dǎo)致的軍事競爭領(lǐng)域的擴大還將催生不對等的戰(zhàn)略威脅手段，技術(shù)弱勢方所具備的威懾戰(zhàn)略趨于低效。

因此，各國在人工智能發(fā)展上的不對稱性逐步放大為國家安全偏好上的差異性，即技術(shù)強國所具備的“積極幻想”的適應(yīng)性優(yōu)勢使其更易形成獲取霸權(quán)的進(jìn)攻性需求，技術(shù)弱國所處的被動位置則使其形成獲取維護(hù)安全的防御性需求。這樣看來，在人工智能軍事化應(yīng)用的影響下，國家安全的客觀外延性與主觀意向性極有可能發(fā)生重疊，進(jìn)而導(dǎo)致國際體系出現(xiàn)更大的不穩(wěn)定性與不確定性。

（二）將進(jìn)一步拉大國際行為主體間的能力代差

人工智能所推動的生產(chǎn)方式變革將對全球性的整合與現(xiàn)代性的擴散產(chǎn)生一定的限制。人工智能所推動社會生產(chǎn)的自動化與智能化將稀釋發(fā)展中國家在勞動力資源上所具備的比較優(yōu)勢，發(fā)展中國家難以通過自身的人口紅利來吸引國際產(chǎn)業(yè)的轉(zhuǎn)移，進(jìn)而就面臨著外資紅利與全球技術(shù)知識外溢的紅利縮減的風(fēng)險。

人工智能技術(shù)的前期研發(fā)與布局上本身就需要投入大量的成本，并且其發(fā)展初期還存在著“索洛悖論”的難題，即人工智能所推動的社會生產(chǎn)率的提升與技術(shù)進(jìn)步之間存在遲滯，并且勞動生產(chǎn)率的提升難以同步轉(zhuǎn)化為人們收入的普遍增長和消費成本的普遍下降。因此，人工智能技術(shù)創(chuàng)新與應(yīng)用的高門檻將導(dǎo)致發(fā)展中國家面臨“技術(shù)邊緣化”的風(fēng)險。

技術(shù)強國憑借自身在人工智能技術(shù)上的優(yōu)勢而成為新的權(quán)力中心。這將使得個別技術(shù)強國的主觀競爭意愿體現(xiàn)為國家之間的技術(shù)競爭現(xiàn)實，進(jìn)而激化國家間的技術(shù)競爭。而過度競爭就會導(dǎo)致人工智能的發(fā)展出現(xiàn)更為無序的狀態(tài)，尤其是技術(shù)割裂所造成技術(shù)生態(tài)的封閉與失序極易誘發(fā)一系列的新生技術(shù)風(fēng)險。因此，人工智能的過度競爭還將催生新的地緣政治風(fēng)險與技術(shù)風(fēng)險。

（三）將導(dǎo)致使資本獲得“超級權(quán)力”

人工智能技術(shù)的復(fù)雜性以及科技企業(yè)的優(yōu)勢將導(dǎo)致后者在相關(guān)技術(shù)治理準(zhǔn)則的制定中擁有相當(dāng)大的話語權(quán)。因此，人工智能在一定程度上將強化資本權(quán)力的壟斷地位，其中科技巨頭企業(yè)極有可能成為新型的權(quán)力中樞。人工智能還將推動新一輪的“溫特爾主義”的形成，即為了保持自身的技術(shù)優(yōu)勢，技術(shù)強國與市場結(jié)構(gòu)性權(quán)力之間形成一種相互利用與共謀的關(guān)系。這些巨頭壟斷地位的強化將對技術(shù)創(chuàng)新、產(chǎn)業(yè)制造以及社會治理等方面造成極大的擠出效應(yīng)，并且企業(yè)間的商業(yè)性競爭上升為國家間的競爭將使得人工智能面臨更多的消極競爭因素。

（四）將導(dǎo)致社會治理面臨新的挑戰(zhàn)

人工智能將導(dǎo)致依靠勞動密集型產(chǎn)業(yè)和依賴信息不對稱而存在的部分行業(yè)遭受極大沖擊。這種不平等與不對稱擴大了人工智能所造成的社會各產(chǎn)業(yè)間、群體間與階層間在發(fā)展能力、資源占有程度與社會影響力等方面的失衡。

數(shù)據(jù)隱私、數(shù)據(jù)質(zhì)量缺陷以及算法平衡價值觀念缺失所導(dǎo)致的算法歧視也是當(dāng)前人工智能發(fā)展急需解決的問題。人工智能技術(shù)對用戶隱私的侵權(quán)主要表現(xiàn)為個人數(shù)據(jù)的不當(dāng)收集、數(shù)據(jù)收集方濫用、數(shù)據(jù)二次使用與擴散。數(shù)據(jù)本身不完整或者存在某種傾向性，算法就可能把數(shù)據(jù)中的干擾因素或數(shù)據(jù)噪音進(jìn)一步放大或固化，進(jìn)而導(dǎo)致“自我實現(xiàn)的歧視性反饋循環(huán)”。這種因數(shù)據(jù)或算法而導(dǎo)致的歧視，就可能引發(fā)種族歧視、性別歧視等社會偏見得到技術(shù)性的強化。

（五）將加劇“技術(shù)恐怖”現(xiàn)象的發(fā)生

從技術(shù)外溢風(fēng)險來看，人工智能技術(shù)的成熟以及相關(guān)數(shù)字資源的開放不僅會催生新的技術(shù)擴散風(fēng)險，而且人工智能本身的技術(shù)漏洞也會增加其被攻擊或利用的可能。與此同時，人工智能技術(shù)研發(fā)的秘密性、分散性與不透明性加大了打擊技術(shù)犯罪以及調(diào)控技術(shù)穩(wěn)定性的難度，并且人工智能技術(shù)應(yīng)用邊界的模糊性更是加劇了管控技術(shù)擴散的難度。從技術(shù)內(nèi)生風(fēng)險來看，不確定的技術(shù)缺陷與安全防護(hù)措施的不完善是導(dǎo)致人工智能技術(shù)出現(xiàn)這一風(fēng)險的主要原因。使用者既無法充分理解算法運行的原理，也無法完全掌控智能系統(tǒng)的決策及其實施進(jìn)程。情感、道德等主觀性因素?zé)o法被充分嵌入人工智能的決策機制，基于歷史數(shù)據(jù)的算法模型對潛在的突發(fā)性變化并不具備完全的預(yù)判能力與應(yīng)變能力。

綜上所述，人工智能技術(shù)的發(fā)展及應(yīng)用將對國家安全帶來新的挑戰(zhàn)。一方面，人工智能技術(shù)的介入將加速新型軍事能力和戰(zhàn)略博弈模式的形成，打破傳統(tǒng)的戰(zhàn)略對抗模式及其博弈的平衡，進(jìn)而導(dǎo)致國際體系出現(xiàn)更大的不穩(wěn)定性與不確定性；另一方面，人工智能技術(shù)的應(yīng)用還將拉大國際行為主體間的能力代差，擴大資本壟斷技術(shù)與市場的能力，導(dǎo)致社會治理面臨諸如算法歧視、數(shù)據(jù)壟斷以及隱私保護(hù)等問題，并催生一系列“技術(shù)恐怖”現(xiàn)象。

對中國的啟示：人工智能時代下國家安全治理路徑選擇

對于兼具大國與發(fā)展中國家雙重身份的中國而言，人工智能的發(fā)展及其應(yīng)用所帶來的挑戰(zhàn)與機遇是尤為突出的。因此，我們既要緊抓人工智能技術(shù)發(fā)展的契機，推動、容納和接受這一新興技術(shù)的突破和創(chuàng)新，更要處理好這一技術(shù)對國家安全所可能造成的風(fēng)險。

（一）持續(xù)完善人工智能技術(shù)發(fā)展的戰(zhàn)略布局

第一，加強人工智能技術(shù)的自主性和掌握發(fā)展的主動權(quán)，構(gòu)建自主可控、可持續(xù)發(fā)展的人工智能技術(shù)創(chuàng)新體系和應(yīng)用產(chǎn)業(yè)體系。第二，建立更強有力的公私伙伴關(guān)系以推動政策與各類社會資本的共同發(fā)力，加強技術(shù)與產(chǎn)業(yè)緊密結(jié)合的相互增益和提升人工智能技術(shù)發(fā)展的可持續(xù)性。第三，克服從研發(fā)端到部署端的功能孤島，將包容性、開放性等原則充分納入到人工智能技術(shù)發(fā)展的戰(zhàn)略規(guī)劃中，加快技術(shù)成果轉(zhuǎn)移和促進(jìn)其他前沿技術(shù)的共同發(fā)展。

（二）構(gòu)建人工智能技術(shù)的風(fēng)險評估機制與保障體系

第一，加強對數(shù)據(jù)壟斷、算法歧視、隱私保護(hù)以及倫理道德等問題的預(yù)判，為人工智能技術(shù)的發(fā)展制定相應(yīng)的規(guī)范框架。第二，建立諸如技術(shù)風(fēng)險評估機制、災(zāi)難性風(fēng)險管理機制和技術(shù)錯誤糾正機制等相關(guān)可管理安全機制，從算法容錯容侵設(shè)計、漏洞檢測和修復(fù)、安全配置等方面來增強人工智能技術(shù)自身的安全性。第三，提高人工智能技術(shù)的可檢驗性來加強技術(shù)應(yīng)用的透明度與信任度，具有高風(fēng)險的公共領(lǐng)域內(nèi)則應(yīng)盡量減少使用具有黑箱特性的人工智能技術(shù)。

（三）規(guī)范技術(shù)設(shè)計的價值向度以引導(dǎo)技術(shù)發(fā)展

第一，要加強技術(shù)倫理規(guī)范性和建構(gòu)性的統(tǒng)一，通過恰當(dāng)?shù)募夹g(shù)設(shè)計規(guī)范和制約實現(xiàn)正面?zhèn)惱韮r值的“預(yù)防式置入”，將人工智能倫理從抽象準(zhǔn)則落實到相應(yīng)的技術(shù)研發(fā)與系統(tǒng)設(shè)計中。第二，要努力貫徹“以人為本”的技術(shù)發(fā)展觀，促進(jìn)科學(xué)與人文兩種精神的充分融合與互補，以保證人工智能的人性化轉(zhuǎn)向。第三，在人工智能技術(shù)的發(fā)展與國家安全的維護(hù)之間保持平衡，避免陷入因泛技術(shù)安全化誤區(qū)而導(dǎo)致的“技術(shù)滯漲”困境。

（四）構(gòu)建社會治理新型框架以承接技術(shù)更新

第一，構(gòu)建涵蓋技術(shù)開發(fā)、行業(yè)監(jiān)管和公共治理等在內(nèi)的成體系化的法律和規(guī)范，增強技術(shù)風(fēng)險決策和立法的針對性與可操作性。第二，明確設(shè)計者、使用者、監(jiān)管者之間的權(quán)責(zé)關(guān)系，并將技術(shù)應(yīng)用的公共安全納入現(xiàn)有的監(jiān)管框架。第三，應(yīng)搭建起連接“行動者網(wǎng)絡(luò)”和“利益相關(guān)者”討論與合作的新平臺，努力創(chuàng)造一個政府、技術(shù)專家、公眾等多元一體化的治理決策參與機制。

（五）加強全球合作以提升技術(shù)風(fēng)險管控的效能

第一，推動國際社會在一些根本性、原則性的規(guī)則和倫理上達(dá)成共識，力促國際認(rèn)同技術(shù)風(fēng)險的治理框架和協(xié)調(diào)一致的治理機制的形成。第二，推動全球分散的、相對孤立的治理程序與要素資源的積極整合，構(gòu)建以主權(quán)國家、非政府組織、市民社會和跨國公司為主體的綜合治理體系。第三，積極推動開展持續(xù)、直接、權(quán)威的多邊溝通，對于人工智能技術(shù)開展合作性與建設(shè)性的管理，確保人工智能技術(shù)的和平開發(fā)和加強對國際性技術(shù)風(fēng)險事故的防范能力。

結(jié)語

人工智能在國家安全治理中的應(yīng)用極易在“界域與有效性”“效能與可靠性”以及“競爭與穩(wěn)定性”之間出現(xiàn)矛盾。尤其是在因人工智能技術(shù)嵌入所導(dǎo)致的力量失衡以及安全格局的轉(zhuǎn)變下，國家安全極有可能在國家競爭的穩(wěn)定性、社會治理的有序性與技術(shù)應(yīng)用的穩(wěn)定性三方面遭受巨大的沖擊。

對于中國而言，如何統(tǒng)籌人工智能技術(shù)發(fā)展與國家安全治理，并實現(xiàn)這兩者綜合成本的明確化、內(nèi)部化與協(xié)調(diào)化將是未來工作的重點之一。在這一過程中，最為重要的仍是保持中國在人工智能技術(shù)領(lǐng)域的領(lǐng)先性與自主性，并通過多樣化方式對這一技術(shù)發(fā)展的潛在風(fēng)險進(jìn)行研判和預(yù)防。我們也應(yīng)積極地同各國在人工智能技術(shù)的發(fā)展上展開深度對話，力促在人工智能的戰(zhàn)略競爭與合作上形成“競爭性共榮”，進(jìn)而塑造一種能夠推進(jìn)務(wù)實合作和建設(shè)性競爭、有效管控技術(shù)風(fēng)險與防范重大沖突的國際秩序。