徐能武 葛鴻昌

[內(nèi)容提要] 隨著新科技革命的發(fā)展，人工智能在軍事領(lǐng)域的應(yīng)用日益廣泛并催生一系列致命性自主武器，因而對國際人道主義和人權(quán)、國際法以及國際軍控機制日益構(gòu)成威脅與挑戰(zhàn)。對此，國際社會應(yīng)多措并舉、折沖樽俎，大力推進致命性自主武器系統(tǒng)軍控談判。中國應(yīng)會同有關(guān)各國一道，積極推動聯(lián)合國多重機構(gòu)提前多層次、主導(dǎo)性介入談判過程，明確強調(diào)通過友好協(xié)商尋求各方都能接受的方案，積極支持成立確保透明、問責(zé)和法治原則的多邊國際監(jiān)管體系，穩(wěn)步推進致命性自主武器系統(tǒng)軍控的艱難談判。

習(xí)近平總書記在中共十九大報告中號召“加快建設(shè)制造強國，*本文為國際軍事合作辦公室資助課題“致命性自主武器系統(tǒng)軍控研究”的階段性研究成果。加快發(fā)展先進制造業(yè)，推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合”，*習(xí)近平：《決勝全面建成小康社會 奪取新時代中國特色社會主義偉大勝利——在中國共產(chǎn)黨第十九次全國代表大會上的報告》，人民出版社，2017年，第30頁。強調(diào)把握好人工智能革命這一重大歷史機遇。近年來，人工智能在軍事領(lǐng)域的應(yīng)用直接催生了致命性自主武器系統(tǒng)(LAWS，Lethal Autonomous Weapons Systems)，引起國際安全形勢的巨大變化。致命性自主武器系統(tǒng)正在成為一些國家追求利益的一種戰(zhàn)略手段，它所造成的嚴(yán)重威脅和挑戰(zhàn)也引起越來越廣泛的關(guān)注，因此，國際社會推動致命性自主武器系統(tǒng)軍控談判既艱難又緊迫。致命性自主武器系統(tǒng)軍控包含一定的權(quán)利和義務(wù)，因此，相關(guān)國家的參與就意味著接受這種形式的收益與成本。聯(lián)合國作為最具權(quán)威的全球性安全機制，對于推進致命性自主武器系統(tǒng)軍控談判具有不可或缺的建構(gòu)作用。中國應(yīng)會同各有關(guān)國家一道大力推動聯(lián)合國等多種機構(gòu)多層次、主導(dǎo)性地介入致命性自主武器系統(tǒng)軍控談判過程，主張和堅持通過友好協(xié)商尋求各方都能接受的方案，積極支持成立確保透明、問責(zé)和法治原則的多邊協(xié)調(diào)機構(gòu)，穩(wěn)步推進談判進程，在捍衛(wèi)中國權(quán)益的同時，為維護國際安全穩(wěn)定貢獻智慧和力量。本文擬分析致命性自主武器系統(tǒng)的緣起及其威脅與挑戰(zhàn)，重點論述中國應(yīng)該如何與聯(lián)合國等機構(gòu)一起推進相關(guān)軍控談判。

一、致命性自主武器系統(tǒng)的緣起與發(fā)展

致命性自主武器系統(tǒng)是指這樣的武器系統(tǒng)，它們具有最先進的人工智能、機器人和自動控制能力，不需人類干預(yù)，就能選擇目標(biāo)、決定是否進行打擊，并能致人喪失生命。關(guān)于致命性自主武器系統(tǒng)是否已能用于實戰(zhàn)，目前尚存在爭議，但某些國家的特定實驗室正在進行有關(guān)的開發(fā)研究，則是不爭的事實。2017年，在聯(lián)合國“致命性自主武器系統(tǒng)問題政府專家組”會議上，有些代表團認(rèn)為，完全自主武器系統(tǒng)尚不存在，但另一些代表團則指出，存在一些前體技術(shù)，還有一些國家部署了自主性程度越來越高的技術(shù)。*United Nations,“Report of the 2017 Group of Governmental Experts on Lethal Autonomous Weapons Systems,” December 2017,p.7.2015年7月召開的國際人工智能聯(lián)合會議曾在開幕式上宣讀了物理學(xué)家霍金(Stephen Hawking)、語言學(xué)家和麻省理工學(xué)院教授諾姆·喬姆斯基(Noam Chomsky)、特斯拉(Tesla)行政總裁馬斯克和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克(Steve Wozniak)等上百位專業(yè)人士的聯(lián)名公開信，信中稱人工智能技術(shù)可使完全自主武器“無需幾十年，而是幾年內(nèi)就可以開發(fā)應(yīng)用”。*Stuart Russell,Stephen Hawking,Elon Musk,et al ,“Autonomous Weapons: An Open Letter from AI & Robotics Researchers,” https://futureoflifeinstitute.org/open-letter-autonmous-weapons/.(上網(wǎng)時間：2018年6月5日)總體上可以確定的是，致命性自主武器系統(tǒng)正在加速走向人類，在世界上引起廣泛憂慮。

第一，科技革命推動致命性自主武器系統(tǒng)的興起。第三次科技革命帶來的電子計算機技術(shù)、激光技術(shù)等新興科技為武器裝備自動化程度的大幅提高提供了可能，這是致命性自主武器系統(tǒng)發(fā)展的必要基礎(chǔ)。高度自動化的武器可在無人協(xié)助的情況下自我完成攻擊或防御動作，但必須由人類提前預(yù)設(shè)程序，并由人對其攻擊目標(biāo)的識別、決策及其方式選擇做出特定限制和要求，這種武器無法做出自我判斷和抉擇。二戰(zhàn)時期德國研制的Fritz X導(dǎo)彈作為世界上第一代精確制導(dǎo)武器，已具有對目標(biāo)進行一定程度的自動搜索及打擊的能力。有學(xué)者認(rèn)為Fritz X甚至“可以稱作第一個無線電控制的無人機”。*Ty McCormick,“Lethal Autonomy: A Short History,How Killer Robots Became More Than Just Scary Science Fiction,” Foreign Policy,January 2014.二戰(zhàn)后，美國大力支持自主武器系統(tǒng)的研發(fā)并居于領(lǐng)先位置。在20世紀(jì)70年代的越南戰(zhàn)場，美國首次在戰(zhàn)爭中成功使用激光制導(dǎo)的“智能炸彈”完成對敵軍目標(biāo)的打擊，同時部署了無人偵察機通過遠(yuǎn)程遙控在一定范圍內(nèi)進行情報的拍攝、搜集，發(fā)揮了自主武器的獨特優(yōu)勢。1980年，美國開始投入使用“密集陣”近防系統(tǒng)。該系統(tǒng)運用高性能的計算機進行一系列程序設(shè)定，具有快速開火、電腦控制、雷達引導(dǎo)等特征，但被預(yù)設(shè)為“只參與瞄準(zhǔn)防御點內(nèi)及預(yù)定速度范圍之間行進的目標(biāo)”*Vincent Boulanin and Maaike Verbruggen,“Mapping The Development of Autonomy in Weapon Systems,” Stockholm International Peace Research Institute,November 2017,p.38.，不具備差別對待目標(biāo)的能力?？梢哉f，這些早期致命性自主武器系統(tǒng)主要用于根據(jù)預(yù)先設(shè)定的程序?qū)δ繕?biāo)進行識別和打擊，自動化、無人化的優(yōu)勢減少了人員的直接參與，但在選擇和決策過程中仍完全依靠人類，自主化程度和處理問題的能力處于較低水平。

第二，人工智能加速致命性自主武器系統(tǒng)的發(fā)展。進入21世紀(jì)以來，隨著人工智能的飛速發(fā)展和國際安全形勢的日益嚴(yán)峻，智能化的無人作戰(zhàn)系統(tǒng)作為維護國家安全的“護身符”“殺手锏”，逐步走向更廣闊的現(xiàn)實戰(zhàn)場。智能模擬、精確識別、深度學(xué)習(xí)及大數(shù)據(jù)處理等關(guān)鍵技術(shù)的突破，助推致命性自主武器系統(tǒng)實現(xiàn)了飛躍式發(fā)展。從2002年起，美國開始綜合采用無人機和傳統(tǒng)空襲的方式在也門戰(zhàn)場進行秘密定點清除行動。*Amrit Singh,“Death by Drone,Open Society Foundations,” Open Society Justice Initiative,August 2015,p.31.2002年11月，美國“捕食者”無人機在薩那東部精準(zhǔn)獵殺基地組織頭目阿布·阿里(Abu Ali)及其他5名武裝分子，無人機從此成為美國反恐戰(zhàn)場上的常備武器。2006年，韓國在武裝智能機器人領(lǐng)域取得進展，并將其部署在朝韓邊境的非軍事區(qū)。它是一款由三星設(shè)計的SGR-1機槍機器人，裝有熱量和運動探測器，可識別2英里以外的潛在目標(biāo)并對目標(biāo)進行全自動跟蹤和定位。其配備的5.5毫米機槍和40毫米榴彈發(fā)射器可經(jīng)人授權(quán)后進行射擊。*Mark Prigg,“Who Goes There? Samsung Unveils Robot Sentry That Can Kill From Two Miles Away,” Daily Mail,September 15,2014.2013年7月，美國諾思羅普·格魯曼公司研制的X-47B無人機創(chuàng)造了“第一次實現(xiàn)自主戰(zhàn)機從航母甲板彈射起飛”*Clay Dillow,“What The X-47B Reveals about the Future of Autonomous,” Flight Popular Science,July 6,2013.的歷史，為美軍隨后的“艦載無人空中加油系統(tǒng)”項目奠定了技術(shù)基礎(chǔ)。

智能化無人作戰(zhàn)系統(tǒng)使海軍裝備的自主性大幅提升。美國在2016年5月測試的“海上獵手”號無人反潛戰(zhàn)艦長約132英尺，最高航速可達27節(jié)，可在無人操作的情況下在海上連續(xù)航行數(shù)月。美國媒體稱其因獵潛能力可成為“敵軍潛艇的噩夢”。*Cillian Zeal,“US Military Unveils Monstrous Drone Warship ‘Sea Hunter’,” Western Journal,February 6,2018.憑借雄厚的軍工科研能力和豐富的實戰(zhàn)經(jīng)驗，俄羅斯在無人戰(zhàn)車領(lǐng)域占據(jù)領(lǐng)先優(yōu)勢。由俄羅斯國防出口公司自行研發(fā)的“天王星-9”無人戰(zhàn)車2016年9月首次披露。其配備多種傳感器，激光告警系統(tǒng)及熱敏和光學(xué)相機，能夠自行探測和獲取4英里外的目標(biāo)。操作員在1.8英里內(nèi)的移動載具中既可對其進行人工操作，也可設(shè)置預(yù)定程序。*Daniel Brown,“ Russia Says It Has Deployed Its Uran-9 Robotic Tank to Syria — Here’s What It Can Do,” Business Insider,May 15,2018.這些無人戰(zhàn)車成為俄羅斯參與敘利亞地緣博弈的重要工具。

由此可見，人工智能革命引發(fā)的技術(shù)浪潮推動武器裝備朝著擬人化、自主化方向發(fā)展，實現(xiàn)檢測、識別、跟蹤、交會等一系列行為的自我處理。這樣的致命性自主武器系統(tǒng)已經(jīng)遍布海、陸、空、太空等各個領(lǐng)域，賦予武器裝備解決簡單問題的權(quán)限，進一步減少對操作人員數(shù)量和技能水平的依賴，極大地提高了作戰(zhàn)效能。

第三，大國戰(zhàn)略誘導(dǎo)致命性自主武器系統(tǒng)的研發(fā)。人工智能革命正在改變戰(zhàn)爭的基本態(tài)勢。為追逐在新一輪軍事競爭中的領(lǐng)先位置，各大國爭相制定相關(guān)戰(zhàn)略和政策，鼓勵本國致命性自主武器系統(tǒng)的研發(fā)，提升人工智能的軍事化應(yīng)用程度，以圖占據(jù)世界新軍事革命的制高點。美、俄、英、以色列、韓等擁有高科技軍事力量的國家正在研發(fā)減少人類參與的致命性自主武器系統(tǒng)。其將研發(fā)出的新技術(shù)很可能使完全自主機器人變?yōu)楝F(xiàn)實。

早在2007年，美國國防部就在其無人系統(tǒng)路線圖中寫道，對于處理器技術(shù)來說，最終目標(biāo)是用同等或更快的思維速度、更強的記憶能力以及訓(xùn)練和經(jīng)驗所獲得的反應(yīng)等機械傳真取代操作員。*US Department of Defense,“Unmanned Systems Roadmap 2007-2032,” December 2007,p.53.2009年5月18日，美國空軍發(fā)布了《無人機系統(tǒng)飛行計劃2009-2047》，為未來40年的無人機發(fā)展謀篇布局，其中強調(diào)“完全自主”是未來無人機系統(tǒng)所需的綜合能力之一。*Headquarters,United States Air Force,“United States Air Force Unmanned Aircraft Systems Flight Plan 2009-2047,” May 2009,p.50.2018年3月，美國在提交給聯(lián)合國“致命性自主武器系統(tǒng)問題政府專家組”會議的立場文件中稱，“致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)可以提高國家在運用武力時降低平民傷亡風(fēng)險的能力……相比于貶低或禁止致命性自主武器系統(tǒng)領(lǐng)域的新興技術(shù)，美國應(yīng)鼓勵相關(guān)創(chuàng)新?！?The United States of America,“Humanitarian Benefits of Emerging Technologies in the Area of Lethal Autonomous Weapon Systems,” March 2018,p.6.俄羅斯在人工智能領(lǐng)域同樣不甘示弱。俄軍在2015年制訂了一項雄心勃勃的研發(fā)計劃并獲得軍事工業(yè)委員會的支持，它預(yù)定在未來十年30%的戰(zhàn)斗力將由遠(yuǎn)程遙控自主機器人平臺組成。*Tamir Eshel,“Russian Military to Test Combat Robots in 2016,” Defense Update,December 31,2015.有專家稱，“俄羅斯近幾年正試圖追趕美國和中國在機器人、無人機及其他潛在的自主武器方面的發(fā)展進度”。*John Dyer,“Ivan the Terminator: Russia Is Showing Off Its New Robot Soldier,” Vice News,May 26,2016.這種大國間在自主武器領(lǐng)域的軍備競賽極易打開致命性自主武器系統(tǒng)的魔盒，將世界拖入“終結(jié)時代”。

同時，致命性自主武器系統(tǒng)可為國家削減戰(zhàn)斗人員，降低戰(zhàn)爭消耗，實現(xiàn)武器裝備的代際超越。這為對內(nèi)承受資源人口壓力、對外面臨和平安全威脅的國家提供了新的戰(zhàn)略思路。例如，日本和以色列擁有高度先進的技術(shù)部門并面臨獨特的人口挑戰(zhàn)，對致命性自主武器系統(tǒng)的研發(fā)可能有更大興趣。*Greg Allen Taniel Chan,“Artificial Intelligence and National Security,” Belfer Center for Science and International Affairs,July 2017,p.21.大國在戰(zhàn)略上的隱蔽性和技術(shù)上的先進性很可能讓致命性自主武器系統(tǒng)越來越多地悄然生發(fā)。

二、致命性自主武器系統(tǒng)發(fā)展的威脅與挑戰(zhàn)

人工智能軍事化蘊藏的風(fēng)險也開始引發(fā)廣泛關(guān)注。如霍金所言，人工智能的發(fā)展“要么是人類歷史上最好的事，要么是最糟的”。*John Koetsier,“ Stephen Hawking Issues Stern Warning On AI: Could Be ‘Worst Thing’ For Humanity,” Forbes,November 6,2017.一批知名科學(xué)家和技術(shù)專家多次發(fā)出呼吁，要求國際社會采取實質(zhì)性舉措限制這一危險進程，特別是限制那些致命性自主武器系統(tǒng)的發(fā)展和應(yīng)用。特斯拉創(chuàng)始人埃隆·馬斯克甚至警告，國家間人工智能的軍備競賽，有可能成為第三次世界大戰(zhàn)的起因。*Jasper Hamill,“ Elon Musk Fears Global Artificial Intelligence Arms Race Could Spark World War 3,” The Sun,September 4,2017.

第一，對國際人道主義和人權(quán)的威脅和挑戰(zhàn)。首先，致命性自主武器系統(tǒng)無需人類干預(yù)自行決策的特點，割斷了戰(zhàn)場上人與人的情感關(guān)聯(lián)，使得國際人道主義在戰(zhàn)爭中難以落實。根據(jù)人道主義的相關(guān)原則，人類在發(fā)動攻擊時會對目標(biāo)人群產(chǎn)生一定同情心理，并在綜合考慮可能面臨的法律、情感和道德后果后作出決定。對戰(zhàn)爭態(tài)勢的判定和戰(zhàn)場慘烈程度的認(rèn)知必然導(dǎo)致戰(zhàn)斗人員決策行為的即時改變。而致命性自主武器系統(tǒng)“決策的去人類化”特征可能帶來與實際使用武力的物理和心理上的距離，會減輕人的關(guān)切，甚至使部署致命性自主武器系統(tǒng)的人員察覺不到這種關(guān)切。*Human Rights Council Twenty-third Session,“Report of the Special Rapporteur on Extrajudicial,Summary or Arbitrary Executions,Christof Heyns,” United Nations General Assembly,April 9,2013,p.11.這會造成致命性自主武器因缺少情感和道德考量而無法節(jié)制非人道行為，同時有關(guān)決策層因無需考慮自身人員傷亡情況而極有可能加大戰(zhàn)爭的搏殺力度，引發(fā)亂殺濫殺等人道主義災(zāi)難。

其次，作為非生命體的致命性自主武器系統(tǒng)自我決定剝奪個體的生命這一舉動就是對人權(quán)的踐踏?！霸趹?zhàn)斗中部署致命性自主武器系統(tǒng)透露出一種觀念：即被其瞄準(zhǔn)的任何人都不值得具有生命狀態(tài)的操作員去考慮，該人的生命和尊嚴(yán)因此遭受剝奪。”*Erin Hunt and Piotr Dobrzynski,“The Right to Dignity And Autonomous Weapon Systems,” CCW Report,April 2018,Vol.6,No.3,p.5.人類在戰(zhàn)爭中也會存在肆意侵犯生命權(quán)的行為，但這仍然被視為是人類思維和價值非?；捏w現(xiàn)。現(xiàn)有社會中的人權(quán)法和道德都可對人類的相關(guān)行為產(chǎn)生約束效果?，F(xiàn)有的科技水平仍無法為致命性自主武器系統(tǒng)提供與人類相似的認(rèn)知水平，幫助其準(zhǔn)確感知平民與非戰(zhàn)斗狀態(tài)下之戰(zhàn)斗人員的區(qū)別。放寬自主決策的權(quán)限可能是充分利用致命性自主武器系統(tǒng)的唯一途徑，但這會造成系統(tǒng)失控的狀態(tài)，增加平民成為擊殺目標(biāo)的可能性。致命性自主武器系統(tǒng)在缺少價值觀判斷的情況下蓄意擊殺個人無疑是對人類生命權(quán)的褻瀆。

最后，致命性自主武器系統(tǒng)也可能對其他人權(quán)帶來負(fù)面影響。彼得·阿薩羅(Peter Asaro)就表達了對生命權(quán)之外的踐踏其他人權(quán)的關(guān)注，“譬如逮捕、拘留及行動限制；搜查、監(jiān)視及跟蹤；驅(qū)逐出境；驅(qū)逐和喪失抵押品贖回權(quán)；拒絕給予醫(yī)療保險、公眾集會、出版和言論自由及選舉的權(quán)利”。*彼得·阿薩羅著，韓陽譯：“論禁止自主武器系統(tǒng)：人權(quán)、自動化以及致命決策的去人類化”，《紅十字國際評論》，2012年第2期，第201頁。致命性自主武器系統(tǒng)在做出是否擊殺目標(biāo)的決定之前，首先要完成搜索、檢測、識別、跟蹤、瞄準(zhǔn)等一系列確認(rèn)動作。這在當(dāng)前戰(zhàn)爭尤其是反恐戰(zhàn)爭中戰(zhàn)場界限模糊不清的情況下很可能持續(xù)相當(dāng)?shù)臅r間，對公民的私人生活造成影響。它在一定程度上是侵犯隱私權(quán)的表現(xiàn)。希瑟·羅夫(Heather Roff)還曾認(rèn)為，空中致命性自主武器系統(tǒng)在發(fā)現(xiàn)目標(biāo)時只能夠在是否擊殺中進行選擇，如果選擇擊殺，則既剝奪了生命權(quán)同時也侵犯了該人員的公平審判權(quán)。*Heather Roff,“Banning and Regulating Autonomous Weapons,” Bulletin of the Atomic Scientists,November 24,2015.

第二，對戰(zhàn)爭法的威脅和挑戰(zhàn)。由于與人類存在本質(zhì)性的差異，致命性自主武器系統(tǒng)雖然在戰(zhàn)場上發(fā)揮戰(zhàn)斗人員的實際作用，卻無法受到戰(zhàn)爭法的相關(guān)約束和影響。如果其違反了法律，做出部署人員無意實施的違法行為，誰應(yīng)負(fù)法律責(zé)任則是不明確的，由此造成“追責(zé)缺口”。*Thompson Chengeta,“Accountability Gap,Autonomous Weapon Systems and Modes of Responsibility in International Law,” Mar 2016,p.1.有學(xué)者認(rèn)為，在系統(tǒng)部署過程中，“有可能負(fù)有法律責(zé)任者包括軟件程序員、硬件制作或出售人員、軍事指揮官、部署武器系統(tǒng)的下級人員和政治領(lǐng)導(dǎo)人。”*Human Rights Council Twenty-third Session,“ Report of the Special Rapporteur on Extrajudicial,Summary or Arbitrary Executions,Christof Heyns,” p.14.但是，詳細(xì)的名單無法為明確的責(zé)任劃分提供建議，反會因責(zé)任人眾多而削弱法律應(yīng)有的懲罰與勸誡效果，使受害者的權(quán)益得不到應(yīng)有的保障，有損司法問責(zé)制度的權(quán)威，進而無法對戰(zhàn)爭中的平民和潛在受害者繼續(xù)提供有效保護。

致命性自主武器系統(tǒng)是否符合戰(zhàn)爭法的要求也是人們關(guān)心的議題?！度諆?nèi)瓦四公約第一附加議定書》第36條為新武器的法律審查提供了指導(dǎo)方針，即“研究、開發(fā)、獲取或采用一種新的武器、作戰(zhàn)手段或方法時，締約國一方有義務(wù)斷定在某些或所有情況下，該新的武器、作戰(zhàn)手段或方法是否為本議定書或適用于該締約一方的任何其他國際法規(guī)則所禁止。”這項規(guī)定的目的是防止在任何情況下使用違反國際法的武器，并對在某些情況下違反國際法的武器的使用施加限制，在研發(fā)、獲得及放入國家“武器庫”之前確定其合法性。*K.Lawand et al,“Guide to the Legal Review of New Weapons,Means and Methods of Warfare,” ICRC,Geneva,2006,p.4.當(dāng)前學(xué)界對于致命性自主武器系統(tǒng)是否符合戰(zhàn)爭法的爭論焦點在于其是否符合馬頓斯條款——即“受到來源于既定習(xí)慣、人道原則和公眾良心要求的國際法原則的保護和支配?！?International Committee of the Red Cross,“Protocol Additional to the Geneva Conventions of 12 August 1949,And Relating to the Protection of Victims of International Armed Conflicts (Protocol I),of 8 June 1977,” June 1997,p.240.只是在致命性自主武器系統(tǒng)出現(xiàn)前，誰也無法確切回答其是否服從人道主義規(guī)范。

區(qū)分原則和相稱性規(guī)則是在戰(zhàn)爭中必須遵守的兩項基本原則。區(qū)分原則要求無論何時均應(yīng)該在平民與戰(zhàn)斗員、民用物體與軍事目標(biāo)之間做出區(qū)分。相比之下，在評估武器系統(tǒng)本質(zhì)上是不分青紅皂白時，檢查其目標(biāo)識別性能顯得尤為重要。*Autonomous Weapon Systems under International Law,Geneva Academy,November 2014,p.22.人類需要時刻把握戰(zhàn)場態(tài)勢和環(huán)境態(tài)勢以做出相對準(zhǔn)確的判斷。慣于以計算機處理定量數(shù)據(jù)的致命性自主武器系統(tǒng)很難理解相關(guān)的標(biāo)準(zhǔn)，極有可能違反戰(zhàn)爭法規(guī)定。相對稱性規(guī)則評判要求，即使某一武器符合區(qū)分標(biāo)準(zhǔn)，它的使用也必須涉及對預(yù)期平民傷害(對平民或民用物體)的評估，以確定預(yù)期的軍事優(yōu)勢，對平民的傷害不能大于預(yù)期的軍事收益。這同樣考驗致命性自主武器系統(tǒng)對具體情境下價值的判斷和主觀考量，給人類社會帶來巨大的風(fēng)險和挑戰(zhàn)。致命性自主武器系統(tǒng)迫使人類重新思考戰(zhàn)爭法的主體界定、適用范圍和基本原則等內(nèi)容，使原本趨于完備的戰(zhàn)爭法面臨嚴(yán)峻考驗。

第三，對國際軍控機制的威脅與挑戰(zhàn)。當(dāng)前，自主武器朝著多樣化、智能化方向加速發(fā)展，致命性自主武器系統(tǒng)呼之欲出。毫無疑問，哪個國家率先研發(fā)出在掌控范圍內(nèi)的致命性自主武器系統(tǒng)，哪個國家就將在世界新軍事革命中占據(jù)優(yōu)勢地位。雖然各國都懷有對致命性自主武器系統(tǒng)失控泛濫的隱憂，但仍在暗自角力，力爭取得領(lǐng)先性優(yōu)勢。美國國防部前副部長沃克曾在接受采訪時說：“我們可能會遇到一個比我們更愿意把權(quán)力下放給機器的競爭對手，隨著競爭的展開，我們將不得不就如何才能贏得競爭做出決定?！?“David Ignatius and Pentagon’s Robert Work Talk About New Technologies to Deter War,” Washington Post,March 30,2016.俄羅斯總統(tǒng)普京也曾說，誰主導(dǎo)人工智能這一領(lǐng)域，誰就可以成為世界的霸主。*Patrick Caughill,“ Vladimir Putin: Country That Leads in AI Development ‘Will Be the Ruler of the World’,” Futurism,September 2,2017.作為新一輪軍備競賽的焦點對象，致命性自主武器系統(tǒng)相關(guān)的軍控談判同樣會逐漸增多。聯(lián)合國《特定常規(guī)武器公約》會議建立的“致命自動武器系統(tǒng)監(jiān)管專家組”(GGE)主要負(fù)責(zé)此類談判，各大國借此展開的博弈必將挑戰(zhàn)原有軍控機制確立的部分原則。

致命性自主武器系統(tǒng)可以幫助國家“在沒有軍事傷亡的情況下進行戰(zhàn)爭，這將消除戰(zhàn)爭發(fā)生的最大威懾”。*Jason Borenstein,“The Ethics of Autonomous Military Robots,” Studies in Ethics,Law,and Technology,Vol.2,Issue 1,2008,p.8.相關(guān)國家的領(lǐng)導(dǎo)人將較少地顧忌發(fā)動戰(zhàn)爭導(dǎo)致本國軍事人員傷亡帶來的國內(nèi)負(fù)面社會效應(yīng)，這極大降低了戰(zhàn)爭的門檻。在戰(zhàn)爭中先發(fā)制人的國家還可以將戰(zhàn)場推進到對手的領(lǐng)地，最大程度減緩本國因沖突造成的損失。這無疑會增強國家對外擴張的野心，降低國際間局勢的穩(wěn)定性，削弱軍控機制的協(xié)調(diào)能力。

同時，致命性自主武器系統(tǒng)的研發(fā)具有相對隱秘性。任何掌握人工智能及大數(shù)據(jù)處理等技術(shù)的實驗室都可以在一定時間內(nèi)制造具有相當(dāng)自主程度的武器。商業(yè)公司利用規(guī)模經(jīng)濟和自由市場幫助自主系統(tǒng)和機器人技術(shù)向民用領(lǐng)域滲透，增加了這種武器系統(tǒng)軍控性質(zhì)的監(jiān)管和核查難度。韓國科學(xué)技術(shù)院2018年2月與韓國十大財團之一的韓華集團旗下韓華系統(tǒng)公司合作，設(shè)立人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無人水下交通等領(lǐng)域的人工智能技術(shù)。全球30多個國家和地區(qū)的研究人員對此一致予以反對，認(rèn)為韓國科學(xué)技術(shù)院的舉措將加劇軍備競賽，令人遺憾。*Andrea Shalal,“ Researchers to Boycott South Korean University Over AI Weapons Work,” U.S.News,April 4,2018.此外，由于不擴散政策可能針對的瓶頸點相對較少，致命性自主武器系統(tǒng)有可能被更多的國家和非國家行為體所利用，這對軍備控制會產(chǎn)生巨大副作用。*Jürgen Altmann and Frank Sauer,“Autonomous Weapon Systems and Strategic Stability,” Survival,Vol.59,No.5,October 2017,pp.125-126.一旦恐怖分子獲取或自行研制致命性自主武器系統(tǒng)，現(xiàn)行的國際秩序和人類命運將遭到災(zāi)難性的破壞。

三、中國在相關(guān)軍控事務(wù)中可以有所作為

致命性自主武器系統(tǒng)的軍控現(xiàn)狀表明，國際社會加強了致命性自主武器系統(tǒng)的監(jiān)管，并就防止由其應(yīng)用可能導(dǎo)致的人道主義災(zāi)難或?qū)θ祟愖饑?yán)的損害形成一定共識，但對于如何推動相關(guān)軍控談判以及法律制度建構(gòu)則沒有任何進展，個別國家甚至不顧國際社會的反對而乘隙加大力度研發(fā)各種形式的致命性自主武器系統(tǒng)，加劇了不安全感。中國作為聯(lián)合國安理會常任理事國的一員和新興大國，理應(yīng)在相關(guān)軍控事務(wù)中發(fā)揮積作用，樹立中國作為負(fù)責(zé)任大國的良好形象，以維護中國和平發(fā)展的外部環(huán)境與世界秩序的安全、穩(wěn)定。

第一，推動聯(lián)合國多重機構(gòu)提前多層次主導(dǎo)性介入。致命性自主武器系統(tǒng)的研發(fā)及應(yīng)用不僅影響著未來戰(zhàn)爭形態(tài)和平民安全等，而且涉及可能侵犯人的尊嚴(yán)，不同社會主體對其正負(fù)功能爭議較大，加之其包含的許多無法預(yù)測的后果，使得聯(lián)合國作為維護和平與安全的全球性國際安全機制，主導(dǎo)致命性自主武器系統(tǒng)軍控有著其他國際行為主體不具備的優(yōu)勢，也為世界各國捍衛(wèi)主權(quán)和國際法提供了一個不可替代的平臺。

首先，明確主張由聯(lián)合國主導(dǎo)軍控談判。對于致命性自主武器系統(tǒng)軍控存在的廣泛復(fù)雜爭議表明，其現(xiàn)實推進需要聯(lián)合國所具有的整體性視野。反對軍控者認(rèn)為，如果致命性自主武器系統(tǒng)能被方便地用于反恐行動，或許將減少由此類恐怖活動造成的平民傷亡。致命性自主武器系統(tǒng)駐防時間比人長得多，并可承受加速力等其他障礙，減少無必要的傷亡。致命性自主武器系統(tǒng)不受某些可能破壞保護生命的人類弱點的制約，不會出于報復(fù)、恐慌、憤怒、鄙視、偏見或害怕而行動，也不會故意通過酷刑、強奸等對平民施加傷害。同時，自由追求科學(xué)研究的重要性也是人們不愿意規(guī)范人工智能在軍事領(lǐng)域研發(fā)及應(yīng)用的一個重要原因。

贊成軍控者則認(rèn)為，這一領(lǐng)域的“技術(shù)攀行”(Technology Climbing)幾乎可以在讓人毫無察覺的情況下發(fā)展到對人類核心價值觀和國際安全體系帶來嚴(yán)重危險的局面。致命性自主武器系統(tǒng)在戰(zhàn)場上選擇的背后有種種相互矛盾的因素，這就使得機器人很難計算，也難以真正具備區(qū)分合法與非法命令的能力。致命性自主武器系統(tǒng)及其應(yīng)用所引發(fā)的復(fù)雜社會影響和熱烈爭議，必然要求相關(guān)國家、國際組織以及民間社會等充分利用聯(lián)合國這一全球性國際安全機制來全方位考慮對其進行有效軍控的問題。因此，任何國家的國內(nèi)單邊立法應(yīng)符合聯(lián)合國框架下建立的致命性自主武器系統(tǒng)軍控機制原則精神的要求。

其次，支持聯(lián)合國多種機構(gòu)介入軍控談判。中國應(yīng)繼續(xù)支持聯(lián)合國作為全球性國際安全機制，由其多種機構(gòu)和部門按照職責(zé)分工，恰當(dāng)、適時地推進致命性自主武器系統(tǒng)軍控。聯(lián)合國人權(quán)理事會(U.N.Human Rights Council)作為聯(lián)合國大會下屬的政府間機構(gòu)，主要負(fù)責(zé)在全球范圍內(nèi)加強促進和保護人權(quán)的工作，解決侵犯人權(quán)的問題。因此，各國可充分利用聯(lián)合國人權(quán)理事會這一平臺就致命性自主武器系統(tǒng)對國際人權(quán)法和人道主義法的嚴(yán)峻挑戰(zhàn)展開詳盡的探討，達成更廣泛的共識，并磋商軍控事宜。與此同時，中國應(yīng)積極參加聯(lián)合國裁軍研究所有關(guān)致命性自主武器系統(tǒng)軍控的研究和探討。中國應(yīng)同其他各國一道盡快推動設(shè)立在日內(nèi)瓦的裁軍談判會議(U.N.Conference on Disarmament)作為唯一的多邊裁軍談判機構(gòu)，盡快啟動致命性自主武器系統(tǒng)軍控談判，將有關(guān)談判要點和進展情況納入年度工作計劃和工作報告，按時向聯(lián)合國大會提供相關(guān)建議，并提交致命性自主武器系統(tǒng)軍控專題工作報告。

與此同時，中國應(yīng)積極推動由國際知名專家組成的聯(lián)合國裁軍事務(wù)咨詢委員會(U.N.Advisory Committee on Disarmament)將致命性自主武器系統(tǒng)軍控納入定期召開會議，并盡快向聯(lián)合國秘書長提供咨詢意見；推動負(fù)責(zé)處理裁軍與國際安全問題的聯(lián)合國大會裁軍和國際安全委員會(U.N.First Committee，Disarmament and International Security of General Assembly of the United Nations)，適時為致命性自主武器系統(tǒng)軍控問題制定議程、做出決策，審議并通過有關(guān)裁軍與軍控決議；由附屬于聯(lián)大的審議機構(gòu)——裁軍審議委員會(U.N.Disarmament Commission)審議致命性自主武器系統(tǒng)軍控問題并向聯(lián)合國大會提出建議。應(yīng)積極推動聯(lián)合國秘書處設(shè)有裁軍事務(wù)廳(U.N.Office for Disarmament Affairs)，搜集致命性自主武器系統(tǒng)軍控方面的信息，加大調(diào)查研究，提出軍控咨詢，協(xié)調(diào)各國立場，為有關(guān)致命性自主武器系統(tǒng)軍控會議提供技術(shù)支持等。

再次，參與聯(lián)合國提前多層次介入軍控談判。中國作為聯(lián)合國安理會常任理事國，應(yīng)積極參與聯(lián)合國有關(guān)機構(gòu)和部門組織開展的推進致命性自主武器系統(tǒng)軍控相關(guān)活動。中國應(yīng)主動派出相關(guān)專家參與聯(lián)合國人權(quán)理事會召集的討論致命性自主武器系統(tǒng)問題專家組活動，探討審查機器人技術(shù)及其與國際人權(quán)和人道主義法律相符的問題，以及暫時中止有關(guān)致命性自主武器系統(tǒng)若干活動的方式途徑等。中國應(yīng)積極參與日內(nèi)瓦聯(lián)合國辦事處舉行的有關(guān)致命性自主武器系統(tǒng)的會議，與有關(guān)專家和領(lǐng)導(dǎo)人共同討論關(guān)于未來武器潛在的管制辦法，并表明中國支持致命性自主武器系統(tǒng)軍控的基本態(tài)度和關(guān)切要點。中國應(yīng)積極參與聯(lián)合國在日內(nèi)瓦舉行的《特定常規(guī)武器公約》締約國專家會議，探討致命性自主武器系統(tǒng)所引發(fā)的法律、道德與社會問題。

同時，中國裁軍大使可依據(jù)情勢和軍控實際進程，在《特定常規(guī)武器公約》(CCW)締約國大會闡明中國基本立場和觀點。中國有關(guān)代表可充分利用《特定常規(guī)武器公約》的國際會議、公約審議大會、締約國會議以及各次專家組會議，和聯(lián)合國裁軍研究所、國際紅十字委員會、非政府組織，以及相關(guān)領(lǐng)域的專家和學(xué)者圍繞致命性自主武器系統(tǒng)引發(fā)的技術(shù)與應(yīng)用關(guān)切，倫理與道德關(guān)切以及未來的發(fā)展之路進行探討。中國公開支持聯(lián)合國《特定常規(guī)武器公約》會議關(guān)于建立“致命自動武器系統(tǒng)監(jiān)管專家組”(GGE)的決定，并派出相應(yīng)專家積極參加2017年11月召開的 GGE第一次會議和2018年4月GGE第二次會議。今后，中國應(yīng)繼續(xù)就致命性自主武器系統(tǒng)軍控問題充分交流探討，了解前沿動態(tài)，把握各國關(guān)切和分歧要點。*徐徐：“聯(lián)合國試圖就殺手機器人使用達成協(xié)議”， 《中國科學(xué)報》，2015年4月15日。中國應(yīng)充分利用聯(lián)合國系統(tǒng)內(nèi)就禁止致命性自主武器系統(tǒng)展開討論的機會，參與交流，提出關(guān)切要點，表明原則立場，呼吁國際社會加強在這一問題領(lǐng)域的國際安全合作，努力推進對致命性自主武器系統(tǒng)的國際監(jiān)管，盡快就此形成法律文書。*Mark Prigg,“UN to Debate ‘Killer Robot’ Ban Next Year as Experts Warn Time Is Running out to Stop AI Weapons,” Daily Mail,December 16,2016.

第二，主張尋求友好協(xié)商基礎(chǔ)上各方都能接受的方案。致命性自主武器系統(tǒng)作為現(xiàn)代科技前沿技術(shù)——人工智能軍事應(yīng)用的典型代表，圍繞其功能作用的爭議分歧較大，不同國際行為主體由于自身權(quán)益追求、權(quán)力地位和認(rèn)知觀念等的不同，對于推進致命性自主武器系統(tǒng)軍控談判有著不同立場、觀點和看法，因此，通過友好協(xié)商找到各方都能接受的方案，以協(xié)調(diào)各國行動，反對霸權(quán)國家單方面主導(dǎo)規(guī)則的制訂，切實加強國際合作顯得尤為關(guān)鍵。

首先，在充分討論交流中兼顧、權(quán)衡各類意見、觀點。事實上，中國也在相關(guān)場合反復(fù)表明這一立場，“中國高度重視并積極參與國際社會有關(guān)‘致命性自主武器系統(tǒng)’討論，主張各國應(yīng)對此進行深入研究，在全面、充分討論基礎(chǔ)上，尋求妥善解決辦法?！?中國常駐聯(lián)合國代表團孫磊參贊在2016年聯(lián)合國裁審會實質(zhì)性會議一般性辯論中的發(fā)言，2016年4月4日。對致命性自主武器系統(tǒng)軍控，有些人認(rèn)為這一武器系統(tǒng)不可能在戰(zhàn)場決策方面超越人類，永遠(yuǎn)不能達到國際人道主義法律或國際人權(quán)法的要求，即使能夠達到，作為一個原則問題，也不能給予致命性自主武器系統(tǒng)以生殺予奪的權(quán)力。因此，他們大聲疾呼應(yīng)一概禁止這一武器系統(tǒng)的開發(fā)、生產(chǎn)和使用。

另外一些人則認(rèn)為，這類技術(shù)進步，只要控制在適當(dāng)?shù)慕缦迌?nèi)，是合法的軍事進步，在有些情況下甚至能夠有助于讓武裝沖突更加節(jié)制，減少當(dāng)事各方的人員犧牲。按照這種論點，完全擯棄這種技術(shù)就等于沒有適當(dāng)?shù)乇Ｗo生命。第三種論點則認(rèn)為，正是因為致命性自主武器系統(tǒng)不是人類，它們在某些危險情況中的表現(xiàn)可能會超越人類。同時，通過編制程序，致命性自主武器系統(tǒng)可借由外形、熱信號、空速閾值等特征識別敵對目標(biāo)，從而可以做到遵守國際人道主義法中的攻擊相稱原則。因此，這些人強調(diào)，對致命性自主武器系統(tǒng)的軍控并不是全面禁止，而是加強國際有效監(jiān)管。

其次，在漸次達成共識中比較、考量各種方式、措施。目前，對于致命性自主武器系統(tǒng)及其應(yīng)用還存在諸多不確定性，因此，在漸次達成共識的基礎(chǔ)上規(guī)范、控制這類開發(fā)中的武器系統(tǒng)需要依據(jù)實際情況比較、考量各種不同的方式、措施。一方面，根據(jù)現(xiàn)有相關(guān)國際軍控體系，對于新武器系統(tǒng)開發(fā)應(yīng)援引《1949年8月12日日內(nèi)瓦四公約關(guān)于保護國際性武裝沖突受難者的第一議定書》第36條規(guī)定，雖然不能要求各國披露其審查的結(jié)果，但確保對諸如致命性自主武器系統(tǒng)等新武器出現(xiàn)加強管控的一個辦法是鼓勵各國更加對外開放本國遵循第36條審查的程序。

另一方面，中國應(yīng)同國際社會一道推動各種非政府組織和公眾展開致命性自主武器系統(tǒng)要不要軍控以及如何軍控的各種形式的探討。在具有拘束力的法律文書一時難以達成的情況下，中國應(yīng)積極參與推動有關(guān)國際組織制訂、出臺一些有意義的軟法律文書，包括相關(guān)宣言、行為準(zhǔn)則、政府間對話、情報共享和建立信任措施及框架公約等，以便盡可能規(guī)范、控制致命性自主武器系統(tǒng)的出現(xiàn)和部署。對致命性自主武器系統(tǒng)進行積極軍控的措施還應(yīng)該包括預(yù)先研討、規(guī)范對此類武器的可能受害者進行援助的規(guī)定。

再次，在多方協(xié)調(diào)行動中對比、明確各方權(quán)利和義務(wù)。致命性自主武器系統(tǒng)軍控涉及到相關(guān)科學(xué)家和技術(shù)專家、制造廠商、政府決策者、部隊指揮官、戰(zhàn)士，以及普通民眾等，因此，此類武器系統(tǒng)軍控談判應(yīng)在多方協(xié)調(diào)行動的基礎(chǔ)上，設(shè)定明確各方不同的權(quán)利、義務(wù)的議題，展開具有實質(zhì)意義的探討和規(guī)范制定。對于相關(guān)致命性自主武器系統(tǒng)程序員和制造商而言，讓開發(fā)程序員和制造商承擔(dān)責(zé)任存在法律障礙，比如美國大多數(shù)武器制造商擁有豁免權(quán)。軍控條約應(yīng)明確人工智能和機器人專家合法地研發(fā)、制造機器人的權(quán)利和義務(wù)，明確規(guī)范政府決策者對于急速發(fā)展的人工智能的軍事應(yīng)用，必須承擔(dān)起內(nèi)審義務(wù)。如果不能確定開發(fā)出來后能否加以限制，就應(yīng)該要求“先行禁止”。

部隊指揮官、戰(zhàn)士等作為此類武器的主要使用者，按照國際刑法規(guī)定，大多數(shù)情況下不必承擔(dān)武器傷害引發(fā)的責(zé)任。如果人類操作者事先知道致命性自主武器系統(tǒng)使用的危害和風(fēng)險，那么他們必須對機器人自主行動造成的負(fù)面結(jié)果負(fù)責(zé)。對于廣大民眾而言，因這種不受人類控制的武器系統(tǒng)發(fā)展不僅會引發(fā)“全球性人工智能軍備競賽”，而且會在任何難以想象的情況下危及自身和親人的生命，因此，呼吁規(guī)范、限制致命性自主武器系統(tǒng)的開發(fā)和使用是其權(quán)利和責(zé)任。

第三，支持成立確保透明、問責(zé)和法治原則的多邊國際監(jiān)管體系?，F(xiàn)階段致命性自主武器系統(tǒng)軍控最緊迫的任務(wù)是對其實現(xiàn)有效的國際監(jiān)管，為此，中國應(yīng)大力支持聯(lián)合國和國際社會在推進軍控的過程中，適時地成立確保透明、問責(zé)和法治原則的多邊國際監(jiān)管體系。致命性自主武器系統(tǒng)軍控現(xiàn)實目標(biāo)應(yīng)定位為國際監(jiān)管體系既能對因使用致命性自主武器系統(tǒng)而可能造成的附帶損害加以限制，又能對此類武器的開發(fā)和擴散加以監(jiān)管。

首先，應(yīng)支持聯(lián)合國人權(quán)理事會呼吁建立軍控國際商定框架。從致命性自主武器系統(tǒng)軍控的實踐歷程來看，聯(lián)合國人權(quán)理事會既是較早討論這一軍控問題的聯(lián)合國機構(gòu)，也是相對適宜組織有關(guān)探討的機構(gòu)。為此，中國應(yīng)積極支持聯(lián)合國人權(quán)理事會呼吁全體國家宣布并在國內(nèi)至少暫停測試、生產(chǎn)、組裝、轉(zhuǎn)讓、采購、部署和使用致命性自主武器系統(tǒng)，直到建立一個關(guān)于致命性自主武器系統(tǒng)軍控的國際商定的框架。

中國應(yīng)和國際社會一道，吁請人權(quán)理事會優(yōu)先組建一個致命性自主武器系統(tǒng)高級別專家小組，由來自法律、機器人、計算機科學(xué)、軍事行動、外交、沖突管理、道德和哲學(xué)等不同領(lǐng)域的專家組成。專家小組應(yīng)總結(jié)有關(guān)致命性自主武器系統(tǒng)方面的技術(shù)推進情況；評估與致命性自主武器系統(tǒng)有關(guān)的法律、道德和政策問題；提出一個框架建議，使國際社會能夠有效地處理有關(guān)致命性自主武器系統(tǒng)的法律和政策問題，并就此提出具體的實質(zhì)性和程序性建議。專家小組在工作中應(yīng)努力推進具有廣泛基礎(chǔ)的國際對話；評估現(xiàn)有規(guī)范致命性自主武器系統(tǒng)的國際和國內(nèi)法律框架的有效性和不足之處；就如何適當(dāng)推進軍控工作提出建議。

其次，應(yīng)支持聯(lián)合國促進建立各國武器審查的國際透明機制?！度諆?nèi)瓦四公約第一議定書》第36條要求每一締約國判定，使用其研究、發(fā)展、取得或采用的任何新武器、作戰(zhàn)手段和方法，是否在某些或所有情況下，為國際法所禁止。評估新武器的合法性有助于確保各國武裝部隊能夠根據(jù)該國承擔(dān)的國際義務(wù)從事敵對行動。為此，2001年第28屆紅十字與紅新月國際大會上為《日內(nèi)瓦四公約》締約國所通過的《人道行動日程》(Humanitarian Agenda)所準(zhǔn)備的文件《新武器、作戰(zhàn)手段和方法法律審查指南：1977年〈第一附加議定書〉第36條實施措施》，要求各國對所有新武器、作戰(zhàn)手段和方法進行嚴(yán)格與全面的審查，從而確保其合法性。

因此，在致命性自主武器系統(tǒng)軍控尚未簽署國際法律文書前，中國應(yīng)和其他各國一道積極支持聯(lián)合國裁軍和軍控機構(gòu)推進各國形成致命性自主武器系統(tǒng)審查的國際透明機制。所有相關(guān)聯(lián)合國機構(gòu)和組織在與活躍在致命性自主武器系統(tǒng)領(lǐng)域的各方互動時，應(yīng)視情強調(diào)有必要在開發(fā)致命性自主武器系統(tǒng)的各個方面充分透明；爭取各國內(nèi)部武器審查程序進一步對國際透明。各國至少應(yīng)在所遵循的程序(如果不是實質(zhì)性結(jié)果)上對國際社會透明，承諾盡可能嚴(yán)格地進行審查；加大有關(guān)國際討論和政府間對話，交流各自最佳做法。

再次，應(yīng)支持國際社會各群體組織成立多樣化軍控協(xié)調(diào)機制。人工智能領(lǐng)域的科學(xué)家和技術(shù)專家因?qū)θ灾骷夹g(shù)發(fā)展前沿及其功能影響較熟悉，是較早提出應(yīng)關(guān)注致命性自主武器系統(tǒng)軍控這一問題的國際社會群體之一。2009年9月，英國謝菲爾德大學(xué)機器人、人工智能專家諾爾·夏基(Noel Sharkey)領(lǐng)導(dǎo)建立了非政府間團體“國際機器人武器控制委員會”(The International Committee for Robot Arms Control)，多次與人權(quán)觀察組織和其他組織(目前包括來自22個國家的47個組織)聯(lián)合進行“停止殺手機器人活動”，并努力說服《特定常規(guī)武器公約》締約國采取相關(guān)行動。

2013年11月，國際裁軍聯(lián)盟和人權(quán)組織呼吁，聯(lián)合國《特定常規(guī)武器公約》日內(nèi)瓦會談必須抓住機遇，禁止研發(fā)名為“殺手機器人”的完全自主武器。2016年9月，全球最大的五大科技巨頭谷歌、亞馬遜、臉書、IBM和微軟聯(lián)合制定首個成熟的人工智能道德標(biāo)準(zhǔn)，并打算成立一個人工智能行業(yè)組織，目的是確保人工智能有利于人類而不傷害人類。中國應(yīng)繼續(xù)支持相關(guān)專家積極參與國際社會成立的各群體組織，并一起推動有關(guān)致命性自主武器系統(tǒng)軍控多樣化協(xié)調(diào)機制的完善，以及其與聯(lián)合國相關(guān)國際機制的對接，從而做到既匯聚各方智慧，形成軍控共識，又促進有效國際法律文書的早日達成。

結(jié) 語

基于致命性自主武器系統(tǒng)及其應(yīng)用所致影響的復(fù)雜性和深刻性，以及其與各國國家安全利益的深度關(guān)聯(lián)性，中國應(yīng)旗幟鮮明地倡導(dǎo)由聯(lián)合國主導(dǎo)致命性自主武器系統(tǒng)的軍控進程。目前，關(guān)于這一武器系統(tǒng)的應(yīng)用可能造成的影響還在討論中而沒有形成一致認(rèn)識，因此，有關(guān)軍控的推進迫切需要加強國際監(jiān)管，先應(yīng)勒住這匹奔騰的“野馬”，防止其脫韁而逃，以免造成今后難以逆轉(zhuǎn)的可怕后果。同時，依照現(xiàn)有國際法和軍控機制，在國內(nèi)、國家間和國際層面開展一項包容各方的進程，以決定如何著手處理這一問題。中國應(yīng)推動國內(nèi)審查新武器機制的完善努力，并適時啟動致命性自主武器系統(tǒng)軍控機制建構(gòu)的談判議程。為啟動這一程序，需要由聯(lián)合國相應(yīng)機構(gòu)組織政府專家組討論、撰寫長期的選擇辦法和機制框架草案。加強軍控談判中的戰(zhàn)略溝通，并平等地向所有成員提供一些公正的信息，可減少信息的不對稱性，從而有助于消除不確定性，增大安全合作的機會。與此同時，“相比集體領(lǐng)導(dǎo)而言，多元領(lǐng)導(dǎo)是描述這種有差異的、采取主動行為進程的恰當(dāng)詞語?！?羅伯特·基歐漢、約瑟夫·奈著，門洪華譯：《權(quán)力與相互依賴》(第3版)，北京大學(xué)出版社，2002年，第244頁。為維護該安全領(lǐng)域的戰(zhàn)略力量平衡，在具體條件許可的情況下，中國應(yīng)積極推動聯(lián)合國主導(dǎo)下的多元領(lǐng)導(dǎo)，反對任何霸權(quán)企圖，在維護戰(zhàn)略穩(wěn)定性的前提下，建構(gòu)致命性自主武器系統(tǒng)軍控機制?！?/p>