徐能武?龍坤

2021年8月2日，美國參聯(lián)會(huì)主席馬克·米利發(fā)表演講稱，人工智能、無人系統(tǒng)等技術(shù)是未來作戰(zhàn)必須具備的新興能力，將從根本上改變未來戰(zhàn)爭的作戰(zhàn)樣式。由于人工智能在美軍中越來越受重視，因此制定和實(shí)施人工智能倫理規(guī)范就成為美軍推進(jìn)人工智能軍事應(yīng)用的重要一環(huán)。從2019年關(guān)于人工智能的五項(xiàng)原則和十二條建議，到2020年人工智能領(lǐng)域五項(xiàng)道德原則，再到今年6月“負(fù)責(zé)任地使用人工智能”六項(xiàng)原則，美國國防部接連出臺(tái)和完善人工智能倫理準(zhǔn)則，其主要考慮如下：

一是維持美軍科技優(yōu)勢(shì)和軍事霸權(quán)。美軍認(rèn)為只有制定了人工智能軍事應(yīng)用的倫理準(zhǔn)則，才能以可靠和保證問責(zé)清晰的方式推進(jìn)人工智能的軍事應(yīng)用，從而推進(jìn)“第三次抵消戰(zhàn)略”，維持美軍的科技優(yōu)勢(shì)與軍事霸權(quán)。而如果不盡快制定倫理準(zhǔn)則，會(huì)面臨兩方面的重大風(fēng)險(xiǎn)。一方面是競爭對(duì)手進(jìn)行“技術(shù)突襲”、損害美軍技術(shù)優(yōu)勢(shì)和國家安全的風(fēng)險(xiǎn);另一方面是人工智能應(yīng)用中可能發(fā)生事故、危害美國國家安全的風(fēng)險(xiǎn)。具體而言，美國認(rèn)為一些競爭對(duì)手正在利用人工智能和機(jī)器學(xué)習(xí)技術(shù)進(jìn)行情報(bào)搜集和數(shù)據(jù)分析。而人工智能引發(fā)事故風(fēng)險(xiǎn)則主要包括算法偏見、不可解釋性、復(fù)雜戰(zhàn)場環(huán)境的不適應(yīng)性、人工智能系統(tǒng)行為與意圖不符、系統(tǒng)交互所帶來的非預(yù)期事故等內(nèi)部可靠性問題，以及人工智能系統(tǒng)容易遭受訓(xùn)練數(shù)據(jù)投毒、對(duì)抗性欺騙攻擊、黑客攻擊等外部風(fēng)險(xiǎn)。

二是彌合美國軍方與科技企業(yè)間的理念分歧。美國國防部出臺(tái)人工智能軍事應(yīng)用倫理準(zhǔn)則的直接誘因是美軍與科技企業(yè)的文化沖突。近年來，面對(duì)美軍推動(dòng)人工智能軍事應(yīng)用這一問題，美國內(nèi)存在很多質(zhì)疑的聲音，尤其是一些科技企業(yè)不贊成將人工智能技術(shù)軍事化、制造戰(zhàn)爭武器。這種理念沖突使得推進(jìn)人工智能軍事應(yīng)用面臨重大阻礙。據(jù)報(bào)道，2018年，由于擔(dān)心人工智能技術(shù)被用于戰(zhàn)爭目的和可能侵犯用戶隱私、有悖于公司“不作惡”的價(jià)值觀，逾百名學(xué)者和科學(xué)家上書，要求谷歌承諾不參與也不支持自主武器的開發(fā)、制造、貿(mào)易或使用。2019年，又有數(shù)十名微軟員工簽署聯(lián)名信，反對(duì)公司為軍方提供增強(qiáng)現(xiàn)實(shí)技術(shù)支持，并要求立刻停止發(fā)展任何武器技術(shù)。在此背景下，美國國防部試圖通過制定人工智能倫理準(zhǔn)則的方式，向外界表明美軍會(huì)以符合倫理和負(fù)責(zé)任的方式推動(dòng)人工智能的軍事應(yīng)用。

三是搶占世界軍事人工智能倫理準(zhǔn)則制定的先機(jī)，以有利于美國利益的方式塑造國際規(guī)范。當(dāng)前，人工智能的倫理問題成為世界上的熱點(diǎn)議題，算法偏見、安全性、可靠性、責(zé)任缺失等問題使得制定人工智能倫理準(zhǔn)則的必要性日益凸顯。在此背景下，美國國防部意識(shí)到“引領(lǐng)軍事人工智能倫理和安全標(biāo)準(zhǔn)制定”成為美軍人工智能戰(zhàn)略的五大支柱之一。美國國防部強(qiáng)調(diào)，“闡明以合法和合乎道德的方式使用人工智能的愿景和指導(dǎo)原則，以推廣我們的價(jià)值觀?！?/p>

四是借機(jī)強(qiáng)化與私營企業(yè)、學(xué)術(shù)界及盟友伙伴國的合作關(guān)系，搶抓國際上軍事人工智能倫理規(guī)則制定權(quán)。美軍出臺(tái)人工智能軍事倫理準(zhǔn)則還有強(qiáng)化與私營企業(yè)、學(xué)術(shù)界、全球盟友以及伙伴國合作關(guān)系的考量。美軍認(rèn)為，國防部歷史上與學(xué)術(shù)和商業(yè)部門保持著緊密聯(lián)系，這對(duì)于促進(jìn)科技創(chuàng)新和突破性技術(shù)應(yīng)用于軍事領(lǐng)域至關(guān)重要。然而，這種模式在過去30年里已經(jīng)搖搖欲墜。為了解決這一問題，美軍認(rèn)為必須更新其研究、資金、獲取、培訓(xùn)和參與策略，改革國防部采購模式，通過軟件特種作戰(zhàn)創(chuàng)新樞紐（SOFWERX）、空軍創(chuàng)新樞紐（AFWERX）和國防創(chuàng)新單元等為不熟悉國防部的企業(yè)家提供接觸和合作機(jī)會(huì)，并與學(xué)術(shù)界和私營部門就其目標(biāo)和意圖進(jìn)行透明和持續(xù)的公開討論。同時(shí)，希望通過制定符合美國理念和利益的軍事人工智能倫理準(zhǔn)則，塑造外界對(duì)于美國國防部在軍事人工智能領(lǐng)域的信心和信任。