曹華陽， 況曉輝， 李 響， 趙 剛

(北京系統(tǒng)工程研究所 信息系統(tǒng)安全技術(shù)重點(diǎn)實(shí)驗(yàn)室, 北京 100101)

致命性自主武器系統(tǒng)的定義方法

曹華陽， 況曉輝， 李 響， 趙 剛

(北京系統(tǒng)工程研究所 信息系統(tǒng)安全技術(shù)重點(diǎn)實(shí)驗(yàn)室, 北京 100101)

致命性自主武器系統(tǒng)引發(fā)國(guó)際社會(huì)軍控問題討論，但對(duì)于致命性自主武器系統(tǒng)的定義這一核心問題，國(guó)際社會(huì)難以形成統(tǒng)一認(rèn)識(shí)。針對(duì)目前缺乏關(guān)于致命性自主武器系統(tǒng)統(tǒng)一定義方法的問題，報(bào)告了當(dāng)前國(guó)際上關(guān)于致命性自主武器系統(tǒng)的認(rèn)識(shí)現(xiàn)狀，進(jìn)行了定義方法調(diào)查，提出了情境和關(guān)鍵特征相結(jié)合的致命性自主武器系統(tǒng)定義框架?；谠摽蚣?，可從關(guān)鍵特征、應(yīng)用場(chǎng)景、作戰(zhàn)中發(fā)揮的作用3個(gè)維度對(duì)致命性自主武器系統(tǒng)的概念進(jìn)行界定，并可對(duì)已有定義進(jìn)行分析。

自主性武器；智能武器；自動(dòng)化武器；無人武器；定義框架

隨著信息技術(shù)的快速發(fā)展和世界新軍事革命的逐步深入，信息系統(tǒng)的智能化和武器裝備的無人化趨勢(shì)凸顯，各信息大國(guó)競(jìng)相制定發(fā)展戰(zhàn)略，發(fā)展相關(guān)裝備技術(shù)，積極謀求智能化無人作戰(zhàn)領(lǐng)域的優(yōu)勢(shì)和主動(dòng)權(quán)，這一趨勢(shì)引發(fā)國(guó)際社會(huì)的高度關(guān)注。2012年，人權(quán)觀察組織發(fā)表《失去人性：反對(duì)殺人機(jī)器人》的報(bào)告，呼吁世界各國(guó)政府禁止全自主武器系統(tǒng)[1]。隨后，紅十字國(guó)際委員會(huì)(International Committee of the Red Cross，ICRC)組織發(fā)表文章呼吁對(duì)此類武器系統(tǒng)進(jìn)行關(guān)注[2]。在此背景下，聯(lián)合國(guó)特定常規(guī)武器公約(Convention on Certain Conventional Weapons，CCW)締約國(guó)自2014年起，以非正式專家會(huì)議形式專門討論致命性自主武器系統(tǒng)(Lethal Autonomous Weapons Systems，LAWS)問題。2016年的非正式專家會(huì)議是在CCW框架下就LAWS問題舉行的第三次會(huì)議，重點(diǎn)針對(duì)LAWS的定義、人道主義法面臨的挑戰(zhàn)以及對(duì)國(guó)際安全的影響等問題進(jìn)行研討。其中LAWS的定義問題旨在界定討論對(duì)象的范疇，是其他問題的基礎(chǔ)，已成為L(zhǎng)AWS相關(guān)討論中的核心問題，并被確定為聯(lián)合國(guó)CCW下一屆會(huì)議關(guān)于LAWS問題討論的主要內(nèi)容之一。

智能化和無人化是當(dāng)前裝備技術(shù)發(fā)展的重要趨勢(shì)，智能化無人作戰(zhàn)武器的軍備控制問題，尤其是LAWS相關(guān)問題已成為擺在國(guó)際社會(huì)面前的重大現(xiàn)實(shí)問題。但是目前國(guó)際社會(huì)對(duì)LAWS定義的認(rèn)識(shí)仍未統(tǒng)一，且各方對(duì)定義的制定也沒有統(tǒng)一的方法和參考標(biāo)準(zhǔn)，這已經(jīng)嚴(yán)重阻礙了國(guó)際社會(huì)對(duì)相關(guān)問題的研討和相關(guān)草案的制定。

本文梳理了現(xiàn)有定義方案和定義方法，分析了LAWS定義中涉及的關(guān)鍵特征，并提出了情境和關(guān)鍵特征相結(jié)合的LAWS定義框架。該框架涵蓋現(xiàn)有定義，具有良好的擴(kuò)展性，可為推動(dòng)LAWS問題的國(guó)際研討提供參考借鑒。

1 國(guó)際社會(huì)對(duì)LAWS定義的認(rèn)識(shí)

1.1 目前已提出的LAWS定義

美國(guó)在無人作戰(zhàn)領(lǐng)域走在前列，并就自主武器系統(tǒng)的定義發(fā)布了專門文件。在美國(guó)國(guó)防部2012年11月發(fā)布的編號(hào)為DoDD 3000.09的指導(dǎo)文件《Autonomy in Weapons Systems》[3]13中，將自主武器系統(tǒng)定義為：“一旦激活，便能夠在沒有人員進(jìn)一步操作的情況下，自主選擇目標(biāo)并與之交戰(zhàn)的武器系統(tǒng)”。同時(shí)，這份文件還提出了另外2個(gè)相關(guān)的概念：有人監(jiān)督的自主武器系統(tǒng)和半自主武器系統(tǒng)。前者是指“在武器系統(tǒng)發(fā)生故障、造成嚴(yán)重?fù)p失之前，允許人類干預(yù)和解除其功能的自主武器系統(tǒng)”，后者是指“一旦激活，便能夠與人類選擇的特定目標(biāo)或者目標(biāo)群進(jìn)行交戰(zhàn)的武器系統(tǒng)”。從聯(lián)合國(guó)CCW會(huì)議的公開文件來看，與美國(guó)觀點(diǎn)類似，英國(guó)代表認(rèn)為L(zhǎng)AWS是一種機(jī)器人武器系統(tǒng)，它能夠在機(jī)器控制下(而不是人類控制下)識(shí)別、選擇人類作為目標(biāo)并實(shí)施武力攻擊[4]。

此外，一些國(guó)家代表則從LAWS本身的功能方面進(jìn)行界定，如在CCW會(huì)議上，法國(guó)代表認(rèn)為，LAWS應(yīng)當(dāng)具備自由行動(dòng)的能力，適應(yīng)環(huán)境的能力，達(dá)成目標(biāo)的能力和產(chǎn)生致命性效果的能力。LAWS應(yīng)具有完全的自主功能性，而當(dāng)前的自動(dòng)化武器并不能歸類于LAWS[5]。與之類似，日本代表認(rèn)為，LAWS需要在無人為干預(yù)的情況下實(shí)現(xiàn)自主部署和修復(fù)、識(shí)別目標(biāo)、攻擊決策、對(duì)目標(biāo)實(shí)施致命性武力攻擊(特別是對(duì)人類目標(biāo))[6]。

還有國(guó)家進(jìn)一步認(rèn)為，對(duì)LAWS概念的討論還應(yīng)包括更一般意義的自主武器系統(tǒng)(Autonomous Weapons Systems，AWS)。如加拿大代表認(rèn)為，當(dāng)機(jī)器人系統(tǒng)能夠有效應(yīng)對(duì)環(huán)境復(fù)雜性(如空間、植被、地形)、任務(wù)復(fù)雜性(如識(shí)別敵我、克服困難達(dá)成目標(biāo))、機(jī)械控制(如控制機(jī)械足、電機(jī)、機(jī)械鰭)等問題時(shí)，就可以說該系統(tǒng)在執(zhí)行特定任務(wù)下具備自主性[7]。瑞士則從法律的角度給出了定義[8]：AWS是一種能夠在國(guó)際人道法(International Humanitarian Law，IHL)的規(guī)定范圍內(nèi)部分或全部地替代人類執(zhí)行武裝行動(dòng)的武器系統(tǒng)，特別是在目標(biāo)選擇方面。

可以看到，在CCW會(huì)議上，以美國(guó)等國(guó)家為代表的技術(shù)先進(jìn)國(guó)家認(rèn)為L(zhǎng)AWS是一種未來的武器系統(tǒng)，但一些中小發(fā)展中國(guó)家則持不同觀點(diǎn)。如塞拉利昂認(rèn)為L(zhǎng)AWS并不一定是未來的系統(tǒng)，當(dāng)前武器系統(tǒng)增加自動(dòng)化能力就可以具備自主性，考慮到被濫用的風(fēng)險(xiǎn)，不應(yīng)當(dāng)發(fā)展這類武器系統(tǒng)[9]。巴基斯坦、哥斯達(dá)黎加認(rèn)為L(zhǎng)AWS是缺乏人類干涉，并且可以決定人類生死的武器系統(tǒng)，由于武器系統(tǒng)缺乏同情和直覺的能力，且可能引起軍備競(jìng)賽，應(yīng)當(dāng)禁止發(fā)展LAWS[10-11]。

與之相對(duì)的，以色列、土耳其代表則認(rèn)為，LAWS相關(guān)問題應(yīng)以給出LAWS明確定義為基礎(chǔ)，且當(dāng)前LAWS尚未出現(xiàn)，不支持預(yù)防性禁止LAWS[12-13]。

除了各國(guó)代表，聯(lián)合國(guó)CCW會(huì)議也邀請(qǐng)了國(guó)際組織參與討論。紅十字國(guó)際委員會(huì)在正式文件中，將LAWS定義為任何在關(guān)鍵功能方面具備自主性的武器系統(tǒng)，即不需要人類干預(yù)而能夠選擇(搜索、探測(cè)、識(shí)別、追蹤、選擇)和攻擊(如使用武力打擊、抵消、破壞或毀滅)目標(biāo)的武器系統(tǒng)[14]。Article 36是一個(gè)位于英國(guó)的非營(yíng)利組織，該組織給出的LAWS定義為：不需要行使有意義的人類控制(meaningful human control)而能夠自行工作的武器系統(tǒng)[15]4。類似地，人權(quán)觀察組織將LAWS定義為：作為一種未來的武器系統(tǒng)，一旦啟動(dòng)，能夠借助傳感器和人工智能，無須人類控制可以在每次攻擊行動(dòng)中自行選擇目標(biāo)并做出致命攻擊決定[16]。

1.2 對(duì)定義現(xiàn)狀的分析

總的來看，當(dāng)前國(guó)際社會(huì)對(duì)于LAWS的定義尚未形成明確而統(tǒng)一的認(rèn)識(shí)。大部分中小發(fā)展中國(guó)家并未給出明確的LAWS定義，但傾向于認(rèn)為L(zhǎng)AWS無法遵守國(guó)際人道主義法的區(qū)分原則、比例原則和必要性原則，呼吁禁止發(fā)展和使用LAWS。美、英、以色列等技術(shù)先進(jìn)的國(guó)家傾向于認(rèn)為L(zhǎng)AWS是未來的武器系統(tǒng)，當(dāng)前的智能化無人裝備依賴有意義的人的控制或人的判斷功能，能夠遵守國(guó)際人道主義法，不應(yīng)受到限制。

各國(guó)間存在分歧的根本原因在于各自的國(guó)家利益。智能化、無人化裝備已經(jīng)在現(xiàn)代軍事行動(dòng)中展現(xiàn)出特有的優(yōu)勢(shì)，技術(shù)先進(jìn)的國(guó)家不希望其自主武器系統(tǒng)相關(guān)裝備技術(shù)發(fā)展受到限制，因而傾向于將LAWS限定為未來的武器系統(tǒng)，從而避免現(xiàn)有無人裝備受到軍備控制，比如美國(guó)強(qiáng)調(diào)了其現(xiàn)有無人裝備屬于自動(dòng)化武器而非自主性武器，因此這些武器不會(huì)受到DoDD 3000.09的制約和限制；而自主武器系統(tǒng)技術(shù)門檻高、經(jīng)費(fèi)投入大，廣大中小發(fā)展中國(guó)家難以超越，為避免在未來戰(zhàn)爭(zhēng)中陷入有人裝備對(duì)抗無人系統(tǒng)的不利局面，期望將LAWS的范疇擴(kuò)大，并通過限制性條款制約此類武器的部署和應(yīng)用，古巴等國(guó)更是在LAWS定義尚未明確的情況下就要求禁止LAWS[17]。

由此可見，當(dāng)前關(guān)于LAWS相關(guān)問題的討論不可避免地會(huì)涉及LAWS的定義問題，為了推動(dòng)LAWS相關(guān)問題的討論和國(guó)際草案的制定，亟須各國(guó)之間對(duì)LAWS的定義形成統(tǒng)一認(rèn)識(shí)。但目前各國(guó)對(duì)LAWS的定義缺乏統(tǒng)一的定義方法，各國(guó)采用各自習(xí)慣方式給出的定義之間難以形成比較和對(duì)應(yīng)關(guān)系，不利于各方基于其開展研究和討論，導(dǎo)致CCW會(huì)議已召開三屆，仍未就LAWS的定義達(dá)成共識(shí)。

2 LAWS的定義方法研究

關(guān)于致命性自主武器系統(tǒng)的概念，我國(guó)尚未見明確定義。本文通過研究常用地給出定義的方式，提出了界定LAWS概念的多維定義框架這一定義方法，并探討了與LAWS相關(guān)的情境和關(guān)鍵特征。

2.1 定義方式

對(duì)于不同的概念，其適用的定義方式也不同。對(duì)于LAWS的定義，首先需要確定合適的定義方式。參考維基百科關(guān)于定義的總結(jié)[18]，采用文字對(duì)概念進(jìn)行定義的方式，常見有如下幾種：

1) 詞法定義：提供一個(gè)與原詞相當(dāng)?shù)谋磉_(dá)來描述一個(gè)詞或者一個(gè)表達(dá)的意義。比如“勝利”可以定義為“在斗爭(zhēng)或競(jìng)賽中打敗對(duì)方”。

2) 情境定義：也稱上下文定義。有些詞無法清晰地定義，但可以通過使用一個(gè)不出現(xiàn)這個(gè)詞的句子來解釋這個(gè)詞在上下文的意義。比如“黑客”可以定義為“未經(jīng)授權(quán)進(jìn)入一個(gè)計(jì)算機(jī)的存儲(chǔ)系統(tǒng)的人”。

3) 內(nèi)涵定義：將一個(gè)物件與其他物件之間不同的所有特征列舉出來。比如“口徑小于6 mm的子彈”是一個(gè)特定集合的內(nèi)涵定義。

4) 外延定義：描述一個(gè)概念或者詞的外延，即所有這個(gè)概念或者詞所包含的事物。比如“國(guó)家”的外延定義是指古今中外一切國(guó)家。

5) 列舉定義：是一種外延定義的方式，它列出一個(gè)概念或者詞所描寫的所有的物件。比如《孫子·地形篇》列舉定義“地形”為“通，掛，支，隘，險(xiǎn)，遠(yuǎn)”。

6) 理論定義：使用一個(gè)學(xué)科的理論對(duì)一個(gè)詞作一個(gè)定義，比如“千克”的最初定義為“4攝氏度時(shí)1立方分米純水的質(zhì)量”。

7) 遞歸定義：又稱歸納定義，它是使用有意義的方式用一個(gè)詞來定義這個(gè)詞本身。比如以下為自然數(shù)的遞歸定義：“1是一個(gè)自然數(shù)，比自然數(shù)大1的數(shù)也是自然數(shù)，所有其他數(shù)都不是自然數(shù)”。

8) 循環(huán)定義：比如“祖父是父親的父親，父親是祖父的兒子”就是一個(gè)循環(huán)定義。循環(huán)定義需要假設(shè)別人已經(jīng)對(duì)被定義項(xiàng)有一定的了解。

由于LAWS及其相關(guān)技術(shù)還在發(fā)展過程中，缺乏成熟理論和技術(shù)支撐，循環(huán)定義、遞歸定義、理論定義、詞法定義方法顯然不適合用于定義LAWS。外延定義、列舉定義也不適合LAWS這類非有限集合的事物。

目前，LAWS較可行的定義方式包括情境定義和內(nèi)涵定義。其中，情境定義方式需給出LAWS的使用場(chǎng)景以及作用，內(nèi)涵定義則需要給出LAWS區(qū)別于其他事物的特征。

2.2 定義框架

相比其他軍事裝備只是被作為武器使用，LAWS由于具備了自主性，從而兼具“武器”和“戰(zhàn)斗員”這2個(gè)原本獨(dú)立的屬性，使得僅采用情境描述或者僅采用內(nèi)涵特征的方法都不能準(zhǔn)確定義LAWS這一概念。我們結(jié)合情境定義和內(nèi)涵定義方式，提出采用情境和關(guān)鍵特征相結(jié)合的框架方式作為L(zhǎng)AWS的定義方法?？蚣芫唧w包括關(guān)鍵特征、作戰(zhàn)功能和應(yīng)用場(chǎng)景3個(gè)維度，其中后面2個(gè)維度體現(xiàn)了情境定義這一方式。LAWS定義框架如圖1所示。

圖1 LAWS定義框架

從圖1可以看到，LAWS的應(yīng)用場(chǎng)景涵蓋了攻擊、防御場(chǎng)景，以及自然、電磁、戰(zhàn)術(shù)環(huán)境，需要說明的是，以上兩者之間可以存在交叉，這里進(jìn)行一定簡(jiǎn)化，將它們放入一個(gè)維度考慮。一些國(guó)家認(rèn)為，在攻擊和防御場(chǎng)景下，LAWS所能行使的作戰(zhàn)手段和作戰(zhàn)目標(biāo)應(yīng)有所區(qū)分，如美國(guó)認(rèn)為，實(shí)施攻擊的LAWS應(yīng)當(dāng)以電子干擾等方式作為攻擊手段，或者僅以物體為目標(biāo)進(jìn)行打擊，而實(shí)施防御的LAWS則可以對(duì)車輛等目標(biāo)進(jìn)行致命打擊[3]3。而自然、電磁、戰(zhàn)術(shù)環(huán)境則涵蓋了LAWS活動(dòng)環(huán)境中可能需要應(yīng)對(duì)的有形世界、無形世界、與其他系統(tǒng)/人類的交互世界。

定義框架中的作戰(zhàn)功能維度則包括了搜索探測(cè)、跟蹤識(shí)別、威脅判斷、攻防決策、武力打擊、效果評(píng)估。這一維度基本涵蓋了一次戰(zhàn)斗的完整步驟，其中搜索、探測(cè)、跟蹤、評(píng)估等屬于非致命性的自主功能，而威脅判斷、攻防決策、武力打擊等屬于致命性的自主功能，LAWS具備哪些功能還應(yīng)當(dāng)與其使用場(chǎng)景有關(guān)。

以上定義框架中，應(yīng)用場(chǎng)景和作戰(zhàn)功能是所有武器系統(tǒng)使用時(shí)的客觀環(huán)境和作戰(zhàn)要求，而關(guān)鍵特征則是對(duì)LAWS特有內(nèi)涵的描述。下面對(duì)這些關(guān)鍵特征進(jìn)行分析。

2.2.1 關(guān)鍵自主功能

關(guān)鍵自主功能是界定LAWS的關(guān)鍵特征。在研究LAWS定義時(shí)，詳細(xì)分析武器系統(tǒng)與作戰(zhàn)相關(guān)的功能，結(jié)合情景分析關(guān)鍵功能是由人實(shí)施、人控制下機(jī)器實(shí)施還是機(jī)器自主實(shí)施，是給出LAWS定義的有效途徑，這需要首先明確關(guān)鍵自主功能的類型。對(duì)于關(guān)鍵自主功能的劃分基本有2種觀點(diǎn)：一種認(rèn)為只有選擇人類作為攻擊目標(biāo)以及決定是否進(jìn)行攻擊屬于關(guān)鍵自主功能，這種觀點(diǎn)占據(jù)主流，根據(jù)已公開的政策，美國(guó)、英國(guó)以及ICRC組織等偏向這一觀點(diǎn)。在2015年7月以霍金等為代表起草，并得到全球數(shù)千名科學(xué)家和學(xué)者簽名的禁止“攻擊性自動(dòng)武器”的公開信中，也把無須人類命令便能夠選擇并攻擊目標(biāo)的人工智能武器，與無人機(jī)和巡航導(dǎo)彈等人類選擇打擊目標(biāo)的自動(dòng)武器有所區(qū)別[19]。另一種觀點(diǎn)認(rèn)為，與作戰(zhàn)相關(guān)的功能都屬于要考慮的范圍，如法國(guó)、日本、加拿大等國(guó)家和Article 36的定義偏向這一觀點(diǎn)，根據(jù)這種觀點(diǎn)，LAWS不僅需要具備第一種觀點(diǎn)中的選擇和攻擊能力，而且應(yīng)當(dāng)具備如自主導(dǎo)航、搜索、補(bǔ)給、修復(fù)等通用功能。

2.2.2 自主程度

自主程度也是LAWS的關(guān)鍵特征，它和關(guān)鍵自主功能構(gòu)成了自主性這一概念。目前對(duì)自主性開展研究較多的是美國(guó)，為了對(duì)自主性的定義進(jìn)行規(guī)范，美國(guó)國(guó)家標(biāo)準(zhǔn)研究院(National Institute of Standards and Technology，NIST)整合了多個(gè)部門和領(lǐng)域的需求，成立了無人系統(tǒng)自主級(jí)別框架工作組(Autonomy Levels For Unmanned Systems，ALFUS)，并給出了他們對(duì)自主性的定義[20]：自主性是無人系統(tǒng)自我管理水平和自我管理質(zhì)量的量度；是無人系統(tǒng)在預(yù)定任務(wù)目標(biāo)實(shí)現(xiàn)過程中感知、理解、分析、交流、規(guī)劃及決策制定與執(zhí)行的能力。美國(guó)認(rèn)為，決定武器系統(tǒng)自主程度的因素包括：武器系統(tǒng)執(zhí)行任務(wù)的能力；武器系統(tǒng)遭遇故障和敵方黑客攻擊時(shí)的抵抗能力；武器系統(tǒng)進(jìn)行決策時(shí)參考人類決策的設(shè)計(jì)；武器系統(tǒng)在使用時(shí)遵守國(guó)際法的能力[21]。

除了上述較抽象的定義，有不同組織分別給出了對(duì)自主程度進(jìn)行比較和評(píng)估的分級(jí)方法。如ALFUS分級(jí)標(biāo)準(zhǔn)將無人系統(tǒng)自主程度劃分為0～10級(jí)，0級(jí)表示無自主性，即100%由人工控制的程度，第10級(jí)表征各種極端環(huán)境條件、高復(fù)雜度任務(wù)、趨近于無人工干預(yù)的完全自主程度，從第0級(jí)到第10級(jí)反映了無人系統(tǒng)自主性從“人工遙控”到“完全自主”的漸進(jìn)差別[22]。美國(guó)空軍AFRL(Air Force Research Laboratory)的項(xiàng)目組提出了ACL(Autonomous Control Levels)分級(jí)方法，將自主程度分為10個(gè)等級(jí)，主要作為無人機(jī)系統(tǒng)自主程度的衡量標(biāo)準(zhǔn)[23-25]。美國(guó)國(guó)家航空宇航局(National Aeronautics and Space Administration，NASA)飛行器系統(tǒng)計(jì)劃提出的NASA Smart分級(jí)方法，主要從系統(tǒng)與操作人員的交互出發(fā)，根據(jù)操作人員的干預(yù)程度進(jìn)行級(jí)別劃分，共分為8個(gè)等級(jí)，從系統(tǒng)不參與任何輔助任務(wù)執(zhí)行、完全由操作者完成，到系統(tǒng)和操作人員共同執(zhí)行操作，系統(tǒng)的任務(wù)執(zhí)行級(jí)別不斷提高，其最高級(jí)別第8級(jí)為系統(tǒng)獨(dú)立執(zhí)行任務(wù)[26]。美國(guó)陸軍科學(xué)委員會(huì)(Army Science Board，ASB)提出的自主性分級(jí)方法，主要用于地面無人系統(tǒng)的自主性等級(jí)描述。共分為10個(gè)等級(jí)，從自主性最低的第1級(jí)到最高的第10級(jí)，其中第1級(jí)為“人工遠(yuǎn)程控制”，第10級(jí)為“執(zhí)行戰(zhàn)場(chǎng)任務(wù)時(shí)達(dá)到甚至超過人類的完全自主功能”[27]。

LAWS屬于軍事領(lǐng)域概念，其自主程度關(guān)鍵在于戰(zhàn)場(chǎng)環(huán)境中的表現(xiàn)。在上述分級(jí)方法中，ALFUS方案描述較為細(xì)致，但并非面向作戰(zhàn)環(huán)境；ACL分級(jí)方法由軍方提出，直接面向軍事作戰(zhàn)領(lǐng)域；NASA Smart和ASB分級(jí)方法均面向任務(wù)執(zhí)行描述自主性，因此也可用于描述作戰(zhàn)任務(wù)。但ACL、NASA Smart和ASB分級(jí)方法對(duì)自主性分級(jí)的描述比較抽象和模糊，應(yīng)用其對(duì)武器的自主能力級(jí)別進(jìn)行定量評(píng)估還比較困難，可作為研究LAWS自主性特性和分級(jí)的基礎(chǔ)。

2.2.3 人機(jī)關(guān)系

人機(jī)關(guān)系是LAWS定義中的關(guān)鍵特性。參加聯(lián)合國(guó)CCW會(huì)議的德國(guó)代表就提出，LAWS的定義應(yīng)該首先明確LAWS所需要的最低程度的來自人類的控制[28]。美國(guó)在其政策性指令中也提出[3]7，自主武器系統(tǒng)必須允許人類對(duì)機(jī)器做出的決策進(jìn)行“適當(dāng)水平的干預(yù)(appropriate levels of human judgment)”，自主和半自主武器系統(tǒng)“必須設(shè)計(jì)為在發(fā)揮效力時(shí)，允許指揮人員或者操作人員行使適當(dāng)層級(jí)的判斷”。指令要求相關(guān)人員必須起到監(jiān)督作用，并能夠在必要時(shí)激活或者解除系統(tǒng)功能[3]3。然而機(jī)器系統(tǒng)反應(yīng)迅速，人類在此過程中可能無法實(shí)施及時(shí)有效干預(yù)。Article 36組織認(rèn)為應(yīng)當(dāng)用“有意義”的人為控制來描述LAWS系統(tǒng)中的人機(jī)關(guān)系，“有意義”的人為控制包括：(1) 采用可預(yù)測(cè)、可靠和明確的技術(shù)；(2) 人類對(duì)執(zhí)行行動(dòng)的后果、技術(shù)和使用環(huán)境的明確了解；(3) 人類及時(shí)的判斷和行動(dòng)，以及能夠及時(shí)阻止的能力；(4) 能夠根據(jù)某種標(biāo)準(zhǔn)進(jìn)行追責(zé)[15]3,4。

界定人機(jī)關(guān)系無疑是定義LAWS的重要方面，無論是“有意義的人為控制”或者“適當(dāng)水平的人類決策”，還是人類控制等，都需要結(jié)合情境闡述其具體含義，回答“有意義”的具體含義，“人為控制”和“人類決策”具體指什么。

2.2.4 與自動(dòng)化關(guān)系

自動(dòng)化是與自主性密切相關(guān)的概念。區(qū)分自動(dòng)化和自主性，有助于確定LAWS的范疇。ICRC的代表曾在2013年聯(lián)合國(guó)CCW會(huì)議上闡述過自動(dòng)化武器與遙控武器的概念[2]，認(rèn)為自動(dòng)化武器以自足完備和獨(dú)立的方式運(yùn)行，在設(shè)定好的可控環(huán)境中嚴(yán)格執(zhí)行預(yù)編程行動(dòng)或序列，其攻擊目標(biāo)、攻擊決策以及攻擊方式都是由人類預(yù)先設(shè)定的，例如自動(dòng)崗哨炮、自動(dòng)地雷以及艦船和陸地上使用的自動(dòng)防御系統(tǒng)。遙控武器一般由戰(zhàn)區(qū)之外的操作員控制進(jìn)行戰(zhàn)斗，可以被固定在一處(如美軍在阿富汗嘗試過的遙控炮臺(tái))，也可以自行移動(dòng)(如無人機(jī))。這類武器一般而言自動(dòng)化程度非常高，但本質(zhì)上只是擴(kuò)展了傳統(tǒng)武器的作戰(zhàn)范圍。而自主性武器一個(gè)顯著的不同是，在某些關(guān)鍵性的能力(如決定人類的生命)方面，機(jī)器可能給出并執(zhí)行自己的決策，而不是按照人類預(yù)先設(shè)定好的程序或者人類遠(yuǎn)程的遙控來執(zhí)行。

自主性與自動(dòng)化密切相關(guān)。一方面，具有自主性的武器系統(tǒng)應(yīng)當(dāng)具有自動(dòng)化的功能才能形成自主作戰(zhàn)能力；另一方面，自主性起步于自動(dòng)化，但是在本質(zhì)上有別于自動(dòng)化。目前普遍認(rèn)為，學(xué)習(xí)能力是自主智能系統(tǒng)相比一般自動(dòng)化系統(tǒng)的重要差別。但是，學(xué)習(xí)能力本身又是個(gè)模糊概念，自動(dòng)化的武器系統(tǒng)也可根據(jù)環(huán)境變化從可能的方式中進(jìn)行選擇，這也可被視為一種學(xué)習(xí)能力。因此如何區(qū)分自主系統(tǒng)和自動(dòng)化系統(tǒng)的學(xué)習(xí)能力，需要結(jié)合情景進(jìn)行闡述。

2.3 基于定義框架對(duì)LAWS定義的討論

基于圖1所示的框架，可以對(duì)美國(guó)DoDD 3000.09給出的自主武器系統(tǒng)定義進(jìn)行分析，從關(guān)鍵特征維度來看：

1) 關(guān)鍵自主功能：根據(jù)DoDD 3000.09文件，只有是否選擇人類作為攻擊目標(biāo)以及決定是否進(jìn)行攻擊屬于關(guān)鍵自主功能；

2) 自主程度：根據(jù)定義表述來看，該定義需要武器系統(tǒng)達(dá)到ALFUS分級(jí)標(biāo)準(zhǔn)9級(jí)以上的自主級(jí)別；

3) 人機(jī)關(guān)系：該定義中，武器系統(tǒng)需要激活，在激活之后便完全無須人類干預(yù)(但是仍需保證人類對(duì)其可控)；

4) 與自動(dòng)化關(guān)系：定義中未加表述，在默認(rèn)情況下，自主武器需要具備自動(dòng)化能力。

從作戰(zhàn)功能維度來看，定義中僅表述了選擇目標(biāo)與交戰(zhàn)這2個(gè)要素，未明確在完整戰(zhàn)斗步驟中各個(gè)環(huán)節(jié)的自主性，僅大致可映射到定義框架中的識(shí)別、決策和武力打擊。

從應(yīng)用場(chǎng)景來看，美國(guó)在DoDD 3000.09其他部分的說明中對(duì)攻擊和防御場(chǎng)景進(jìn)行了區(qū)分，但是沒有明確指出在戰(zhàn)術(shù)環(huán)境、電磁環(huán)境、自然環(huán)境下的應(yīng)用情況。

根據(jù)定義框架，美國(guó)目前給出的定義主要強(qiáng)調(diào)了人機(jī)關(guān)系，其他方面要素要么需要根據(jù)相關(guān)文件內(nèi)容推測(cè)，要么則完全沒有涉及。類似地可以分析其他已有定義，如加拿大代表給出的定義中涉及了應(yīng)用場(chǎng)景維度中的自然環(huán)境、戰(zhàn)術(shù)環(huán)境，關(guān)鍵特征維度中的關(guān)鍵自主功能和作戰(zhàn)功能維度中的識(shí)別等要素?？梢钥闯?，目前各國(guó)已給出的定義方案要素均可包括在定義框架中，但由于缺乏統(tǒng)一的標(biāo)準(zhǔn)，目前的表述較模糊且不完整，相互間也難以對(duì)比。根據(jù)定義框架對(duì)定義進(jìn)行擴(kuò)充后可以就同一要素進(jìn)行對(duì)比，從而有助于形成對(duì)定義的統(tǒng)一認(rèn)識(shí)。

3 結(jié) 束 語

聯(lián)合國(guó)框架下關(guān)于致命性自主武器系統(tǒng)的討論在舉行了3次非政府專家會(huì)議基礎(chǔ)上，2017年可能會(huì)進(jìn)入政府專家組會(huì)議階段，并開始討論相關(guān)軍控問題。為促成國(guó)際社會(huì)關(guān)于致命性自主武器系統(tǒng)定義問題的統(tǒng)一認(rèn)識(shí)，各國(guó)需要采用一致的定義方式從而能夠形成對(duì)比和討論。提出情境和內(nèi)涵特征相結(jié)合的定義框架，有助于各國(guó)就致命性自主武器系統(tǒng)在應(yīng)用場(chǎng)景、作戰(zhàn)功能和關(guān)鍵特征多個(gè)維度充分闡述定義。

References)

[1]Human Rights Watch.Losing humanity:the case against killer robots[EB/OL].(2012-11-19)[2016-11-16].https://www.hrw.org/report/2012/11/19/losing-humanity/case-against-killer-robots.

[2]ICRC.Fully autonomous weapon systems[EB/OL].(2013-11-25)[2016-11-16].https://www.icrc.org/eng/resources/documents/statement/2013/09-03-autonomous-weapons.htm.

[3]Department of Defense.Autonomy in weapons systems[EB/OL].(2012-11-21)[2016-11-16].https://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf.

[4]Foreign & Commonwealth Office.United Kingdom of Great Britain and Northern Ireland Statement to the informal meeting of experts on lethal autonomous weapons systems[EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/49456EB7B5AC3769 C1257F920057D1FE/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_United+Kingdom.pdf.

[5]France Country Paper.Non paper mapping of technological developments [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/B9E3E 8041CE4D326C1257F8F005A31E2/MYMfile/2016_LAWSMX_CountryPaper_France+MappingofTechnicalDevelopments+EN.pdf.

[6]Japan Country Paper.Japan’s views on issues relating to LAWS [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/4E8371EAD5E 34263C1257F8C00289B5E/MYMfile/2016_LAWS+MX_CountryPaper+Japan.pdf.

[7]Canada Country Paper.Canadian food for thought paper:mapping autonomy [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/C3EFCE5F7BA8613BC1257F8500439B9F/MYMfile/2016_LAWS+MX_CountryPaper+Canada+FFTP1.pdf.

[8]Switzerland Country Paper.Towards a "compliance-based" approach to LAWS [EB/OL].(2016-03-30)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D2D66A9C427958D6C1257F8700415473/MYMfile/2016_LAWS+MX_CountryPaper+Switzerland.pdf.

[9]Sierra Leone Country Paper.Opening statement by ambassador Yvette Stevens [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/0054AE2FAA24E566C1257F9B004A2CAB/MYMfile/SIER RA+LEONE+GENERAL+STATEMENT+2016+MEETING+ON+LAWS.pdf.

[10]Pakistan Country Paper.Statement by ambassador Tehmina Janjua [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D6F11030CC 982C11C1257F93005933A0/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Pakistan.pdf.

[11]Costa Rica Country Paper.Statement of the delegation of Costa Rica [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/5DF8EE 2B9B3C881BC1257F920057A83B/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Costa+Rica.pdf.

[12]Maya Yaron.Statement on lethal autonomous weapons systems [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/A02C15B2E 5B49AA1C1257F9B0029C454/MYMfile/2016_LAWS_MX_GeneralDebate_Statements_Israel.pdf.

[13]Turkey Country Paper.Statement by Turkey[EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/D3C97CBA51D5EF62C 1257F9400422F29/MYMfile/2016_LAWS+MX_GeneralExchange_Statements_Turkey.pdf.

[14]ICRC.Views of the International Committee of the Red Cross (ICRC) on autonomous weapon system [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/B3834B2C62344053C 1257F9400491826/MYMfile/2016_LAWS+MX_CountryPaper_ICRC.pdf.

[15]MOYES R.CCW comments [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/07E97E9D93027C78C1257F9B004F532B/MYMfile/2016_LAWS+MX_presentations_towardsaworkingdefinition_moyesnotes.pdf.

[16]GOOSE S.General exchange of views [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006 B8954/(httpAssets)/252007F8C3EB3E1EC 1257FAE002 F4DE5/MYMfile/HRW+intervention+Goose+12+April+2016.pdf.

[17]Campaign to stop killer robots.Country policy positions[EB/OL].(2015-03-25)[2016-11-16].http://www.stopkillerrobots.org/wp-content/uploads/2015/03/KRC_CCWexperts_Countries_25Mar2015.pdf.

[18]Wikipedia.定義[EB/OL].(2016-03-22)[2016-11-16].https://zh.wikipedia.org/zh-hans/定義.

[19]Future of Life Insititute.Autonomous weapons:an open letter from ai & robotics researchers[EB/OL].(2015-07-28)[2016-11-16].http://futureoflife.org/open-letter-autonomous-weapons/.

[20]HUANG H M,ALBUS J,MESSINA E,et al.Specifying autonomy levels for unmanned systems:interim report[C]//Proceedings of SPIE Unmanned Ground Vehicle Technology VI.Orlando:the International Society for Optical Engineering,2004:386-397.

[21]ICRC.Autonomous weapon systems technical,military,legal and humanitarian aspects [EB/OL].(2014-03-26)[2016-11-16].https://www.icrc.org/en/download/file/1707/4221-002-autonomous-weapons-systems-full-report.pdf.

[22] HUANG H M,MESSINA E,ALBUS J.Autonomy levels for unmanned systems (ALFUS) framework volume ii:framework models version 1.0 [EB/OL].(2007-12-01)[2017-03-30].http://www.nist.gov/customcf/get_pdf.cfm?pub_id=823618.

[23]Office of the Secretary of Defense.Unmanned aerial vehicles roadmap 2000—2025 [EB/OL].(2001-04-01)[2016-11-16].http://handle.dtic.mil/100.2/ADA391358.

[24]Office of the Secretary of Defense.Unmanned aerial vehicles roadmap 2002—2027[EB/OL].(2002-12-01)[2016-11-16].http:// handle.dtic.mil/100.2/ADA414908.

[25]Office of the Secretary of Defense.Unmanned Aircraft Systems Roadmap 2005—2030 [EB/OL].(2005-08-04)[2016-11-16].http:// handle.dtic.mil/100.2/ADA445081.

[26]LARRY A Y,JEFFREY A Y,Mark D G.System analysis applied to autonomy:application to high-altitude long-endurance remotely operated aircraft[C]//Proceedings of the AIAA Information and Technology of Aerospace Conference.Arlington:AIAA,2005:1-32.

[27]ARMY SCIENCE BOARD.AD hoc study on human robot interface issues[EB/OL].(2002-09-01)[2017-03-30].http://handle.dtic.mil/100.2/ADA411834.

[28]German Country Paper.German general statement [EB/OL].(2016-04-11)[2016-11-16].http://www.unog.ch/80256EDD006B8954/(httpAssets)/1A10EE8317A92AA4C 1257F9A00447F2E/MYMfile/2016_LAWS+MX_Towardaworkingdefinition_Statements_Germany.pdf.

(編輯：李江濤)

Research on the Definition Method of Lethal Autonomous Weapons Systems

CAO Huayang， KUANG Xiaohui， LI Xiang， ZHAO Gang

(National key Laboratory of Science and Technology on Information System Security, Beijing Institute of System Engineering, Beijing 100101, China)

Lethal autonomous weapons systems attract the attention of international societies, and give rise to debates on corresponding arms control. However, due to the lack of a standard definition method, there is not a unified understanding of the definition of lethal autonomous weapons systems, the prerequisite of arms control, among countries. In light of this, the existing definitions of lethal autonomous weapons systems are summarized in this paper. Through research and analysis of definition methods, a definition framework of lethal autonomous weapons systems, composed of application situations and key features, is proposed. Based on this framework, the concept of lethal autonomous weapons systems can be defined from the three dimensions of key features, application situations and the role played in battlefield, and the existing definition can also be analyzed.

autonomous weapons; smart weapons; automatic weapons; unmanned weapons; definition framework

2017-02-20

部委級(jí)資助項(xiàng)目

曹華陽(1984—)，男，助理研究員，博士，主要研究方向?yàn)榫W(wǎng)絡(luò)空間安全、人工智能。caohuayangwork@163.com

E920

2095-3828(2017)03-0038-07

A DOI 10.3783/j.issn.2095-3828.2017.03.007