[摘要] 人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，加快發(fā)展新一代人工智能是我國(guó)抓住新一輪科技革命和產(chǎn)業(yè)變革機(jī)遇的戰(zhàn)略問題。人工智能在為各行各業(yè)賦能的同時(shí)，也帶來了系統(tǒng)性的安全風(fēng)險(xiǎn)，主要體現(xiàn)在倫理和軍事安全風(fēng)險(xiǎn)方面。堅(jiān)持發(fā)展和安全并重，抓住人工智能帶來的戰(zhàn)略機(jī)遇，加快形成新質(zhì)生產(chǎn)力。同時(shí)，深入貫徹總體國(guó)家安全觀，以大安全理念為指引，加快構(gòu)建涵蓋人工智能安全等于一體的國(guó)家安全體系，提升維護(hù)國(guó)家安全的能力。

[關(guān)鍵詞] 人工智能；? 發(fā)展與安全；? 總體國(guó)家安全觀；? 安全治理

[中圖分類號(hào)] D616； D630.8? ? ? ?[文獻(xiàn)標(biāo)識(shí)碼] A? ? ? ?[文章編號(hào)] 0529-1445（2024）05-0040-04

人工智能的迅猛發(fā)展將對(duì)經(jīng)濟(jì)社會(huì)發(fā)展和人類文明進(jìn)步產(chǎn)生深遠(yuǎn)影響，同時(shí)也帶來各種難以預(yù)知的風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)。2022年末生成型預(yù)訓(xùn)練變換模型（ChatGPT）橫空出世，人工智能技術(shù)在文生圖、文生視頻等領(lǐng)域飛速迭代，展現(xiàn)出廣闊的商業(yè)化應(yīng)用前景。國(guó)家主席習(xí)近平在第三屆“一帶一路”國(guó)際合作高峰論壇開幕式上的主旨演講中指出：“愿同各國(guó)加強(qiáng)交流和對(duì)話，共同促進(jìn)全球人工智能健康有序安全發(fā)展。”必須以總體國(guó)家安全觀為指引，堅(jiān)持發(fā)展和安全并重，構(gòu)筑人工智能安全屏障，擁抱智能時(shí)代的到來。

人工智能治理的重要性日益凸顯

人工智能特別是生成式人工智能取得重大突破，標(biāo)志著人工智能技術(shù)正在實(shí)現(xiàn)從弱人工智能向強(qiáng)人工智能的飛躍。人工智能所蘊(yùn)含的對(duì)各行各業(yè)的強(qiáng)大賦能力量表明，人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。人工智能是未來世界經(jīng)濟(jì)和高端制造的主導(dǎo)技術(shù)，發(fā)展人工智能是支撐科技自立自強(qiáng)、加快發(fā)展新質(zhì)生產(chǎn)力、實(shí)現(xiàn)高質(zhì)量發(fā)展的重要戰(zhàn)略抓手。我國(guó)要搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑人工智能發(fā)展的先發(fā)優(yōu)勢(shì)，發(fā)揮人工智能對(duì)我國(guó)現(xiàn)代化產(chǎn)業(yè)體系建設(shè)的賦能作用，加快建設(shè)創(chuàng)新型國(guó)家和世界科技強(qiáng)國(guó)。

人工智能技術(shù)所具有的通用性、智能性和不可解釋性等特點(diǎn)在給社會(huì)帶來非凡增長(zhǎng)機(jī)遇的同時(shí)，其所蘊(yùn)含的安全風(fēng)險(xiǎn)也引發(fā)高度關(guān)注。《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》提出：“加強(qiáng)網(wǎng)絡(luò)安全關(guān)鍵技術(shù)研發(fā)，加快人工智能安全技術(shù)創(chuàng)新，提升網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合競(jìng)爭(zhēng)力?！泵鎸?duì)以ChatGPT、Sora等為代表的人工智能技術(shù)的迅速發(fā)展及其在金融、醫(yī)療、交通、制造業(yè)等領(lǐng)域的廣泛應(yīng)用，人類社會(huì)日益面臨著更復(fù)雜的人工智能安全挑戰(zhàn)，包括數(shù)據(jù)竊取風(fēng)險(xiǎn)、網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)、經(jīng)濟(jì)安全風(fēng)險(xiǎn)、“數(shù)據(jù)投毒”風(fēng)險(xiǎn)、軍事安全風(fēng)險(xiǎn)等。1

人工智能治理的本質(zhì)是統(tǒng)籌人工智能發(fā)展和安全，既要充分發(fā)揮人工智能技術(shù)對(duì)國(guó)家經(jīng)濟(jì)社會(huì)發(fā)展的創(chuàng)新引領(lǐng)作用，又要對(duì)其所帶來的安全外部性進(jìn)行必要的監(jiān)管。維護(hù)網(wǎng)絡(luò)安全，確保人工智能安全、可靠、可控，切實(shí)保障國(guó)家數(shù)據(jù)安全，統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，這已成為數(shù)字時(shí)代國(guó)家安全的必然要求。為進(jìn)一步統(tǒng)籌人工智能發(fā)展與安全，2019年6月，我國(guó)新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，創(chuàng)造性地提出了“敏捷治理”模式，即尊重人工智能發(fā)展規(guī)律，在推動(dòng)人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時(shí)，及時(shí)發(fā)現(xiàn)和化解可能引發(fā)的風(fēng)險(xiǎn)。要對(duì)未來更高級(jí)人工智能可能存在的潛在風(fēng)險(xiǎn)開展研究和預(yù)判，確保人工智能始終朝著有利于社會(huì)的方向發(fā)展。在通用人工智能呼之欲出的當(dāng)下，這些前瞻性的戰(zhàn)略布局為我國(guó)的人工智能治理指明了前進(jìn)的方向和路徑。

科學(xué)評(píng)估人工智能對(duì)國(guó)家安全的影響

當(dāng)前，人工智能治理面臨的重要挑戰(zhàn)之一是評(píng)估其對(duì)國(guó)家安全的影響。在移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算、傳感網(wǎng)、腦科學(xué)等新理論新技術(shù)的驅(qū)動(dòng)下，人工智能加速發(fā)展，呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新特征。人工智能正在對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步等產(chǎn)生重大而深遠(yuǎn)的影響。由于人工智能具有多學(xué)科綜合、高度復(fù)雜的特征，其對(duì)國(guó)家安全的影響也不再局限于某個(gè)行業(yè)或者某個(gè)領(lǐng)域，而是會(huì)對(duì)國(guó)家經(jīng)濟(jì)、政治、社會(huì)、軍事等各領(lǐng)域帶來系統(tǒng)性的影響。一方面，人工智能技術(shù)可以被用來維護(hù)與保障國(guó)家安全。另一方面，人工智能的通用性、智能性和不可解釋性等特點(diǎn)也會(huì)給國(guó)家安全帶來潛在的風(fēng)險(xiǎn)和挑戰(zhàn)。如何應(yīng)對(duì)人工智能的安全風(fēng)險(xiǎn)并把握好發(fā)展的戰(zhàn)略主動(dòng)，這既是我國(guó)國(guó)家安全治理的重要內(nèi)容，也是推進(jìn)國(guó)家安全體系和能力現(xiàn)代化、以新安全格局保障新發(fā)展格局的必然要求。

伴隨著人工智能技術(shù)向國(guó)家經(jīng)濟(jì)、政治和社會(huì)生活各領(lǐng)域的不斷滲透和擴(kuò)展，人工智能這項(xiàng)通用使能技術(shù)（enabling technology）所帶來的安全風(fēng)險(xiǎn)將出現(xiàn)在技術(shù)應(yīng)用的各個(gè)節(jié)點(diǎn)。按照安全風(fēng)險(xiǎn)的意圖分類，人工智能的國(guó)家安全風(fēng)險(xiǎn)可以分為兩類：一類是源于技術(shù)本身的倫理道德風(fēng)險(xiǎn)，這種風(fēng)險(xiǎn)屬于無意安全風(fēng)險(xiǎn)。人工智能不僅是在模擬人類的智能，而且可以用自己的邏輯在紛繁復(fù)雜的眾多可能性中識(shí)別出那些人類智能還無法理解或識(shí)別的規(guī)律。它所具有的智能性和不可解釋性，都將加劇人工智能應(yīng)用的倫理風(fēng)險(xiǎn)，例如自動(dòng)駕駛汽車的道德和倫理問題、隱私保護(hù)和知識(shí)產(chǎn)權(quán)問題、失業(yè)和就業(yè)問題等。另一類是人工智能的武器化和軍事化應(yīng)用，屬于人為有意安全風(fēng)險(xiǎn)。人工智能不僅可以在不同軍事領(lǐng)域快速形成衍生技術(shù)，而且能夠推動(dòng)一個(gè)國(guó)家整體軍事能力發(fā)生根本性變化。特別是自主性武器的出現(xiàn)，讓戰(zhàn)場(chǎng)態(tài)勢(shì)變得更加容易失控，責(zé)任更容易被推卸。傳統(tǒng)武裝沖突中調(diào)停、斡旋等預(yù)防沖突升級(jí)的空間將會(huì)急劇縮小，戰(zhàn)場(chǎng)形勢(shì)一旦失控，往往會(huì)給沖突各方帶來意想不到的災(zāi)難性后果。

鑒于人工智能對(duì)人類未來發(fā)展的重大影響，世界主要國(guó)家和經(jīng)濟(jì)體紛紛出臺(tái)有關(guān)人工智能監(jiān)管的立法和治理倡議，以降低人工智能帶來的安全風(fēng)險(xiǎn)。我國(guó)近年來先后出臺(tái)了多項(xiàng)政策文件，包括《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能發(fā)展規(guī)劃》《人工智能標(biāo)準(zhǔn)化白皮書》等，發(fā)布了一系列具體的人工智能治理措施。2023年10月，美國(guó)發(fā)布一項(xiàng)名為《關(guān)于安全、可靠和值得信賴的人工智能的相關(guān)行政令》，為涉及人工智能安全的事項(xiàng)制定了新標(biāo)準(zhǔn)。2024年3月，歐洲委員會(huì)敲定《人工智能、人權(quán)、民主和法治框架公約》最終草案，預(yù)計(jì)這將是第一個(gè)國(guó)際人工智能條約。2024年3月21日，聯(lián)合國(guó)大會(huì)通過首個(gè)有關(guān)人工智能的全球決議，該決議題為《抓住安全、可靠、值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》。

人工智能治理是世界各國(guó)面臨的共同課題，攸關(guān)全人類命運(yùn)，離不開全球合作。2021年12月，我國(guó)向聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)提交了《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，呼吁各國(guó)要秉持共同、綜合、合作、可持續(xù)的安全觀，通過對(duì)話與合作，就如何規(guī)范人工智能軍事應(yīng)用尋求共識(shí)，構(gòu)建有效的治理機(jī)制，避免人工智能軍事應(yīng)用給人類帶來重大損害甚至災(zāi)難。2022年11月，我國(guó)外交部發(fā)布了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，倡導(dǎo)“以人為本”和“智能向善”理念，主張?jiān)鲞M(jìn)各國(guó)對(duì)人工智能倫理問題的理解，確保人工智能安全、可靠、可控，更好賦能全球可持續(xù)發(fā)展，增進(jìn)全人類共同福祉，構(gòu)建人類命運(yùn)共同體。2023年10月18日，中央網(wǎng)信辦發(fā)布《全球人工智能治理倡議》，聚焦人工智能治理的倫理和軍事安全風(fēng)險(xiǎn)，呼吁各國(guó)應(yīng)在人工智能治理中加強(qiáng)信息交流和技術(shù)合作，共同做好風(fēng)險(xiǎn)防范，形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性。2024年4月3日，中非互聯(lián)網(wǎng)發(fā)展與合作論壇發(fā)表關(guān)于中非人工智能合作的主席聲明，提出“共同加強(qiáng)人工智能領(lǐng)域合作，攜手構(gòu)建更加緊密的中非網(wǎng)絡(luò)空間命運(yùn)共同體”。

以總體國(guó)家安全觀為指導(dǎo)做好人工智能安全治理

通用人工智能技術(shù)的發(fā)展推動(dòng)人工智能治理進(jìn)入新階段。如何堅(jiān)持發(fā)展和安全并重、在加強(qiáng)監(jiān)管的同時(shí)盡可能發(fā)揮人工智能技術(shù)的賦能作用，這已經(jīng)成為實(shí)現(xiàn)新時(shí)代國(guó)家治理能力現(xiàn)代化的重要命題。鑒于人工智能的全局性和系統(tǒng)性影響，將總體國(guó)家安全觀的大安全理念貫徹于人工智能治理全過程，對(duì)于做好人工智能安全治理具有重要的現(xiàn)實(shí)指導(dǎo)意義。

總體國(guó)家安全觀的“總體性”是人工智能治理的指導(dǎo)性原則?？傮w國(guó)家安全觀是新時(shí)代國(guó)家安全工作的根本遵循和行動(dòng)指南，人工智能治理也不例外?？傮w國(guó)家安全觀的關(guān)鍵是“總體”，強(qiáng)調(diào)大安全理念，強(qiáng)調(diào)堅(jiān)持國(guó)家安全工作的系統(tǒng)思維和方法，強(qiáng)調(diào)國(guó)家安全要貫穿到黨和國(guó)家工作全局各方面、各環(huán)節(jié)，強(qiáng)調(diào)打總體戰(zhàn)，用全社會(huì)全政府全體系全手段應(yīng)對(duì)重大國(guó)家安全風(fēng)險(xiǎn)挑戰(zhàn)。由于人工智能技術(shù)的通用性、智能性和創(chuàng)新性，人工智能技術(shù)應(yīng)用所帶來的安全風(fēng)險(xiǎn)將會(huì)出現(xiàn)在國(guó)家經(jīng)濟(jì)、政治、社會(huì)、軍事等領(lǐng)域的各個(gè)環(huán)節(jié)。一方面，原有的安全風(fēng)險(xiǎn)出現(xiàn)了新的變化和形式，例如網(wǎng)絡(luò)安全、數(shù)據(jù)安全、內(nèi)容安全等。另一方面，新的安全風(fēng)險(xiǎn)開始出現(xiàn)，如倫理道德風(fēng)險(xiǎn)和自主性軍事武器的使用所帶來的風(fēng)險(xiǎn)等。在進(jìn)行人工智能安全治理頂層戰(zhàn)略設(shè)計(jì)時(shí)，必須全盤考慮各領(lǐng)域各層面的安全風(fēng)險(xiǎn)。要從國(guó)家的總體利益出發(fā)，制定相應(yīng)的治理方略，避免因某個(gè)領(lǐng)域的治理規(guī)制措施對(duì)其他領(lǐng)域產(chǎn)生消極影響。

總體國(guó)家安全觀的“重點(diǎn)性”對(duì)集人工智能安全等于一體的國(guó)家安全體系和能力建設(shè)提出了更高的要求。鑒于人工智能所蘊(yùn)含的巨大安全風(fēng)險(xiǎn)，總體國(guó)家安全觀強(qiáng)調(diào)大安全理念，涵蓋政治、軍事、國(guó)土、經(jīng)濟(jì)、金融、文化、社會(huì)、科技、網(wǎng)絡(luò)、糧食、生態(tài)、資源、核、海外利益、太空、深海、極地、生物、人工智能、數(shù)據(jù)等重點(diǎn)領(lǐng)域，并且將隨著社會(huì)發(fā)展不斷動(dòng)態(tài)調(diào)整。人工智能安全被列入國(guó)家安全重點(diǎn)領(lǐng)域，凸顯出在新興的人工智能領(lǐng)域推進(jìn)國(guó)家安全體系和國(guó)家安全能力現(xiàn)代化的迫切性，必須統(tǒng)籌謀劃、協(xié)同創(chuàng)新、穩(wěn)步推進(jìn)。就目前而言，我國(guó)在關(guān)鍵核心技術(shù)創(chuàng)新領(lǐng)域距離國(guó)際領(lǐng)先水平還有一定差距，技術(shù)深度應(yīng)用和動(dòng)能轉(zhuǎn)換方面的潛力還有待挖掘。我們要充分利用好人工智能這把“雙刃劍”：一方面要把握戰(zhàn)略主動(dòng)，讓人工智能成為國(guó)家安全體系和能力現(xiàn)代化的重要賦能者。另一方面也要系統(tǒng)應(yīng)對(duì)國(guó)家、社會(huì)、企業(yè)和個(gè)人層面的安全風(fēng)險(xiǎn)，有效維護(hù)和保障國(guó)家安全。

總體國(guó)家安全觀的“統(tǒng)籌性”是人工智能治理實(shí)踐的指導(dǎo)原則和政策目標(biāo)。總體國(guó)家安全觀強(qiáng)調(diào)科學(xué)統(tǒng)籌，做到統(tǒng)籌發(fā)展和安全、開放和安全、傳統(tǒng)安全和非傳統(tǒng)安全、自身安全和共同安全、維護(hù)國(guó)家安全和塑造國(guó)家安全，著力解決國(guó)家安全工作不平衡、不充分的問題。在人工智能技術(shù)突飛猛進(jìn)、大國(guó)競(jìng)爭(zhēng)博弈加劇的大變局下，人工智能治理中的統(tǒng)籌問題就顯得尤為重要。統(tǒng)籌問題產(chǎn)生的前提是由于矛盾各方內(nèi)在的沖突和張力。如果一味地推動(dòng)人工智能技術(shù)突飛猛進(jìn)而忽視安全監(jiān)管，那么可能會(huì)帶來嚴(yán)重的社會(huì)后果；如果過于重視軍事安全風(fēng)險(xiǎn)而忽視倫理道德風(fēng)險(xiǎn)，也會(huì)帶來國(guó)家安全的不平衡發(fā)展；如果僅僅單方面強(qiáng)調(diào)本國(guó)的安全而不重視共同安全，外部安全環(huán)境的惡化最終也會(huì)損害本國(guó)安全；如果只是被動(dòng)地應(yīng)對(duì)安全風(fēng)險(xiǎn)而忽視了主動(dòng)塑造國(guó)家安全，片面追求近期安全利益就可能導(dǎo)致長(zhǎng)期利益受損。因此，在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，人工智能治理只能是共同的、綜合的、合作的、可持續(xù)的治理。必須堅(jiān)持發(fā)展和安全并重的原則，通過對(duì)話與合作凝聚共識(shí)，建立開放、公正、有效的治理機(jī)制，真正讓人工智能技術(shù)造福于人類，推動(dòng)構(gòu)建人類命運(yùn)共同體。

人工智能技術(shù)創(chuàng)新應(yīng)用的飛速迭代，帶來巨大發(fā)展機(jī)遇的同時(shí)，技術(shù)發(fā)展的不可知性和風(fēng)險(xiǎn)的不確定性也將帶來諸多安全挑戰(zhàn)。就目前的態(tài)勢(shì)看，或許跨過通用人工智能技術(shù)的門檻還存在很多不確定因素，但人工智能對(duì)國(guó)家經(jīng)濟(jì)、政治、社會(huì)生活等革命性影響已經(jīng)徐徐開啟，而人類將迎來一個(gè)什么樣的人工智能時(shí)代，取決于我們現(xiàn)在如何采取行動(dòng)。我們要在機(jī)遇與安全之間尋求平衡，盡快筑牢安全屏障，充分發(fā)揮人工智能的“頭雁”效應(yīng)，加快形成新質(zhì)生產(chǎn)力，助力以中國(guó)式現(xiàn)代化全面推進(jìn)中華民族偉大復(fù)興。

（本文是中國(guó)社會(huì)科學(xué)院重大創(chuàng)新項(xiàng)目“推進(jìn)國(guó)家安全體系和能力現(xiàn)代化研究”〈項(xiàng)目編號(hào)：2023YZD025〉階段性成果）

[參考文獻(xiàn)]

[1]習(xí)近平著作選讀（第一卷）（第二卷）[M].北京：人民出版社，2023.

[2]習(xí)近平關(guān)于總體國(guó)家安全觀論述摘編[M].北京：中央文獻(xiàn)出版社，2018.

（作者簡(jiǎn)介：郎平，中國(guó)社會(huì)科學(xué)院世界經(jīng)濟(jì)與政治研究所研究員）

責(zé)任編輯 / 高海濤