【摘要】目前很難就全面禁止人工智能武器達成全球共識，更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國際法規(guī)范。為此，各國需要就如何進行風(fēng)險防范尋求共識，共同努力構(gòu)建治理機制。現(xiàn)階段是構(gòu)建人工智能國際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國家，兩國需要在這個領(lǐng)域加強協(xié)調(diào)與合作。

【關(guān)鍵詞】人工智能 國際安全治理 【中圖分類號】D815 【文獻標(biāo)識碼】A

清華大學(xué)戰(zhàn)略與安全研究中心在“人工智能國際治理”框架下，于2019年6月啟動了一項與美國布魯金斯學(xué)會進行聯(lián)合研究的項目，研究中心主任傅瑩和美國布魯金斯學(xué)會會長約翰·艾倫（John Allen）為項目總牽頭人。圍繞課題人工智能技術(shù)在安全領(lǐng)域的挑戰(zhàn)和治理問題，兩國專家進行了一系列二軌（非官方）對話和研討，在討論的基礎(chǔ)上分別就各項議題撰寫了論文。據(jù)此，傅瑩和約翰·艾倫在美國Noema雜志分別發(fā)表文章，公布聯(lián)合研究成果，介紹雙方專家的討論和主要觀點，旨在提高國際社會和兩國各界對人工智能武器化風(fēng)險的認(rèn)知和警惕，并提出治理建議。

約翰·艾倫在文章中提到，美中在人工智能等新興技術(shù)領(lǐng)域的戰(zhàn)略競爭日益明顯，圍繞著“人工智能軍備競賽”的說法不絕于耳。為了避免不可控的軍備競賽，他希望美中兩國專家組成的“人工智能與國際安全”研究團隊所討論的安全關(guān)切，能夠在政府層面對話和非官方論壇中得到進一步探討，特別是針對人工智能所構(gòu)成的國家安全風(fēng)險，以降低這些風(fēng)險發(fā)生的可能性。他認(rèn)為現(xiàn)在正是規(guī)范智能技術(shù)發(fā)展和應(yīng)用的關(guān)鍵期。因為一旦這些技術(shù)被納入到軍事體系中，呼吁限制其在國家安全領(lǐng)域的應(yīng)用將極為困難。

以下為傅瑩文章正文：

近年來，人工智能技術(shù)的快速發(fā)展帶來了巨大機遇，但是技術(shù)革命也往往伴隨不可預(yù)知的安全挑戰(zhàn)，尤其需要關(guān)注人工智能技術(shù)武器化的道德和技術(shù)風(fēng)險問題。許多國家的專家和學(xué)者呼吁禁止發(fā)展可以自主識別并擊殺人類目標(biāo)的智能武器，更不應(yīng)該容許它們執(zhí)掌人類生死。然而，全面禁止人工智能武器很難達成全球共識，即便能開啟相關(guān)討論和談判也將曠日持久。

從目前的趨勢看，人工智能武器化是不可避免的。更可行的做法可能是要求人工智能賦能武器的發(fā)展符合現(xiàn)有國際法規(guī)范。為此，各國需要就如何進行風(fēng)險防范尋求共識，共同努力構(gòu)建治理機制。在與美方進行二軌討論時，我們的焦點在于如何設(shè)定人工智能賦能武器的攻擊“禁區(qū)”，如何依據(jù)國際法律和規(guī)范開展對人工智能武器的監(jiān)管，以及如何鼓勵采取克制態(tài)度以限制對人工智能數(shù)據(jù)的軍事化濫用。

人工智能的軍事安全挑戰(zhàn)

人工智能賦能武器系統(tǒng)存在諸多潛在挑戰(zhàn)。一是人工智能內(nèi)在的技術(shù)缺陷使得攻擊者難以限制打擊的損害范圍，容易使得被打擊方承受過大連帶傷害，從而導(dǎo)致沖突升級。人工智能賦能武器不僅應(yīng)該在實施打擊時區(qū)分軍事目標(biāo)和民用目標(biāo)，還需要防止和避免對民用目標(biāo)造成過分的附帶或間接損害。然而，現(xiàn)有人工智能技術(shù)條件在能否保證武力使用過程中完全滿足上述條件方面，是存在不確定性的。

二是當(dāng)前以機器學(xué)習(xí)帶動的人工智能技術(shù)發(fā)展需要大量數(shù)據(jù)，不能完全避免基于大數(shù)據(jù)訓(xùn)練的算法和訓(xùn)練數(shù)據(jù)集將偏見帶入真實應(yīng)用系統(tǒng)，因此，不能排除人工智能給決策者提供錯誤建議的可能性。進而，當(dāng)訓(xùn)練數(shù)據(jù)集受到其他國家的污染，致使系統(tǒng)提供錯誤偵查信息時，也有可能讓軍事決策者做出錯誤判斷和相應(yīng)的軍事部署。

三是人機協(xié)同的挑戰(zhàn)是人工智能軍事化的終極難題。機器學(xué)習(xí)和大數(shù)據(jù)處理機制存在局限。無論是行為主義的強化學(xué)習(xí)、聯(lián)結(jié)主義的深度學(xué)習(xí)，還是符號主義的專家系統(tǒng)都不能如實準(zhǔn)確地反映人類的認(rèn)知能力，比如直覺、情感、責(zé)任、價值等。人工智能的軍事運用是人一機一環(huán)境的綜合協(xié)同過程，而機器在可解釋性、學(xué)習(xí)性、常識性等方面的不足，將放大發(fā)生戰(zhàn)場沖突的風(fēng)險，甚至刺激國際危機的螺旋上升。

人工智能安全治理路徑探討

對話雙方一致認(rèn)為，各國需要采取軍事克制態(tài)度，避免人工智能武器化給人類帶來重大損害。各國應(yīng)該禁止沒有責(zé)任和風(fēng)險意識的輔助決策系統(tǒng)。在使用人工智能賦能的武器時，需要限制其打擊的損害范圍，防止造成連帶傷害，避免沖突升級。此外，軍事克制的內(nèi)容還應(yīng)該反映在公共教育當(dāng)中。由于人工智能技術(shù)具有易于擴散的特點，它有可能流入某些黑客手里，進而將人工智能技術(shù)用于有害公共安全的行為中。

人工智能賦能武器的使用如何與國際法的基本原則保持一致，是安全治理研究中的重點所在?！堵?lián)合國憲章》規(guī)定，除非得到聯(lián)合國安理會的授權(quán)，否則成員國不得使用武力，或者是出于自衛(wèi)的目的才能使用武力。因此，國家出于自衛(wèi)目的而使用武力時，所使用武力的強度和規(guī)模須與受到的攻擊或者受到的威脅的嚴(yán)重性相稱。在討論中，中方專家特別提出，各國須承擔(dān)法律責(zé)任，主動推動和實現(xiàn)在涉及人工智能的軍事行動中國際規(guī)范的建構(gòu)。同時需要確定人類參與的閾值，以保證智能武力的使用不會造成過度傷害。因為人工智能賦能的武器平臺很難評判什么是必要的、合適的、平衡的攻擊，所以人類指揮官的主觀能動性應(yīng)當(dāng)?shù)玫阶鹬亍?/p>

此外，人工智能數(shù)據(jù)的安全必須得到保證。應(yīng)該對數(shù)據(jù)挖掘和采集的過程、數(shù)據(jù)標(biāo)注和分類、數(shù)據(jù)使用和監(jiān)管進行規(guī)范和限制。智能武器訓(xùn)練數(shù)據(jù)的收集過程和手段應(yīng)當(dāng)遵守國際法律，收集的數(shù)據(jù)數(shù)量應(yīng)達到一定規(guī)模。需要確保數(shù)據(jù)標(biāo)注和分類的質(zhì)量和準(zhǔn)確性，避免形成錯誤模型和導(dǎo)致決策者做出錯誤判斷。在數(shù)據(jù)使用過程中，需要關(guān)注使用目標(biāo)和數(shù)據(jù)的污染問題。有中方學(xué)者建議給智能武器的自主化程度分級。例如，分為半自主化、部分自主化、有條件自主化、高度自主化和完全自主化五級。對自主化程度進行分級，有利于更好地確認(rèn)和保障人類的作用，從而切實有效地實現(xiàn)對人工智能及自主武器系統(tǒng)的管理和控制。

中美人工智能全球治理合作

現(xiàn)階段是構(gòu)建人工智能國際安全規(guī)范的關(guān)鍵窗口期。目前中美兩國是在人工智能技術(shù)研究和應(yīng)用發(fā)展最快的國家，兩國需要在這個領(lǐng)域加強協(xié)調(diào)與合作。其他國家也表示出對人工智能應(yīng)用的安全擔(dān)憂，說明人工智能治理是人類共同的難題，不是一國兩國能夠解決的。中美開展對話與合作至關(guān)重要，將能夠為全球人工智能治理合作貢獻智慧。因此，中美兩國應(yīng)就推動構(gòu)建國際層面的規(guī)范和制度進行正式討論，在各自利益關(guān)切的基礎(chǔ)上探索合作領(lǐng)域，互換和翻譯相關(guān)文件，以政策溝通和學(xué)術(shù)交流的方式降低兩國在這一領(lǐng)域影響雙邊關(guān)系和國際安全的潛在風(fēng)險。

近年來，中國積極釋放合作信號，2020年11月21日，習(xí)近平主席在二十國集團領(lǐng)導(dǎo)人第十五次峰會上強調(diào)，中方支持圍繞人工智能加強對話，倡議適時召開專題會議，推動落實二十國集團人工智能原則，引領(lǐng)全球人工智能健康發(fā)展。2020年9月8日，國務(wù)委員兼外長王毅提出《全球數(shù)據(jù)安全倡議》，包括有效應(yīng)對數(shù)據(jù)安全風(fēng)險挑戰(zhàn)應(yīng)遵循的三項原則，表示希望國際社會在普遍參與的基礎(chǔ)上就人工智能安全問題達成國際協(xié)議，支持并通過雙邊或多邊協(xié)議形式確認(rèn)倡議中的有關(guān)承諾。中國在發(fā)展人工智能技術(shù)的同時，也高度重視和積極推進相關(guān)國內(nèi)治理建設(shè)。2018年中國發(fā)布《人工智能標(biāo)準(zhǔn)化白皮書》列出了四條倫理原則，包括人類利益原則、責(zé)任原則、透明度原則、權(quán)責(zé)一致原則。

中國已經(jīng)準(zhǔn)備好與美國和其他國家地區(qū)在人工智能治理方面開展合作。我們相信，人工智能不應(yīng)成為一場“零和游戲”，技術(shù)突破最終應(yīng)使得全人類受益。

責(zé)編/常妍 美編/宋揚