国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

當(dāng)生成式人工智能作用于戰(zhàn)爭

2023-09-22 06:15胡開國
軍事文摘 2023年17期
關(guān)鍵詞:戰(zhàn)爭人工智能

胡開國

ChatGPT是由美國OpenAI實(shí)驗(yàn)室推出的由人工智能技術(shù)驅(qū)動的文本交互工具,是生成式人工智能和自然語言處理領(lǐng)域的重大突破。

生成式人工智能的“自主性”特征

隨著ChatGPT的“爆火”,其背后的生成式人工智能技術(shù)逐漸進(jìn)入公眾視野。2023年4月11日,中國國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》,將生成式人工智能定義為“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)”。

與傳統(tǒng)的人工智能相比,以ChatGPT為代表的生成式人工智能模型具有“自主性”特征。ChatGPT的“自主性”體現(xiàn)在其具有“自我編程”能力。2021年7月,ChatGPT的研發(fā)團(tuán)隊OpenAI在發(fā)布GPT-3.5時表示,ChatGPT已經(jīng)具備成熟的代碼撰寫功能?!白晕揖幊獭笔怯嬎銠C(jī)發(fā)展史上的里程碑事件,代表著生成式人工智能已經(jīng)脫離“代碼桎梏”,向著完全自主的方向邁進(jìn)。生成式人工智能模型的“自主性”還體現(xiàn)在AI繪畫、智能文本生成等眾人熟知的領(lǐng)域。通過ChatGPT生成的攝影作品在光影塑造、虛實(shí)散景、色彩明暗等方面,已經(jīng)達(dá)到了以假亂真的程度。

實(shí)質(zhì)上,生成式人工智能可能已經(jīng)具備類人類意識的基本形態(tài)。如于2023年3月發(fā)布的GPT-4不僅可以識別圖片中的內(nèi)容,還可以通過圖片中的元素形成與人類主觀意識一致的推理。如果向GPT-4展示一個孩子牽著一個氣球,問GPT-4如果剪斷了繩子會出現(xiàn)什么情況,GPT-4已經(jīng)可以精準(zhǔn)地回答“氣球會飄走”。有學(xué)者指出,人工智能不是戰(zhàn)斗機(jī)或機(jī)車那樣的離散技術(shù),而是一種通用的使能技術(shù),如電力、計算機(jī)或內(nèi)燃機(jī)。該觀點(diǎn)在基于逐行代碼運(yùn)行的早期人工智能領(lǐng)域可能為時尚早,但是用以形容具備“自主性”的生成式人工智能,可謂是恰到好處。

生成式人工智能作用于戰(zhàn)爭的可能性與風(fēng)險

生成式人工智能作用于戰(zhàn)爭的可能性作為“通用型人工智能技術(shù)”,生成式人工智能在戰(zhàn)爭中有廣闊的應(yīng)用前景。第一,生成式人工智能依托強(qiáng)大的數(shù)據(jù)整合、信息集成能力,使其有望成為科學(xué)輔助決策工具,甚至是獨(dú)立決策系統(tǒng)。第二,生成式人工智能在文字、圖像、音視頻領(lǐng)域的特有優(yōu)勢,將賦能情報搜集、整理、分析全過程。如通過數(shù)據(jù)訓(xùn)練,生成式人工智能可以從海量的原始數(shù)據(jù)中發(fā)現(xiàn)可能具有情報價值的零散信息,通過邏輯分析判定信息價值,最終整合為規(guī)范的情報文本。早在2017年4月,美國防部就組建了算法戰(zhàn)跨職能小組,研究如何快速從掃描鷹、MQ-9死神等無人機(jī)拍攝到的數(shù)百萬小時視頻中,自主識別有價值的情報信息。第三,生成式人工智能的“開放接口”模式與平臺屬性,為傳統(tǒng)武器或自動武器的自主化、智能化提供了可能性。以美國正在進(jìn)行的忠誠僚機(jī)計劃為例,該計劃通過將先進(jìn)的無人機(jī),與傳統(tǒng)的有人駕駛戰(zhàn)機(jī)搭配,實(shí)現(xiàn)無人機(jī)對有人駕駛戰(zhàn)機(jī)的引導(dǎo),提升傳統(tǒng)有人駕駛戰(zhàn)機(jī)的智能化水平。第四,生成式人工智能賦能人機(jī)協(xié)同作戰(zhàn),將大大提高作戰(zhàn)效率,降低人員傷亡。例如,2015年12月,俄軍為支持?jǐn)⒗麃喺姞帄Z阿勒頗省的754.5高地,派出了以無人作戰(zhàn)平臺為主的機(jī)器人參戰(zhàn),主要包括1套仙女座-D自動化指揮系統(tǒng)、6臺平臺-M履帶式戰(zhàn)斗機(jī)器人、4臺暗語輪式戰(zhàn)斗機(jī)器人和洋槐遠(yuǎn)程自行火炮群。俄軍僅用了20多分鐘即占領(lǐng)了敘利亞政府軍久攻不下的754.5高地,殲敵77人,創(chuàng)造了人機(jī)混合作戰(zhàn)的新模式。第五,生成式人工智能在新興作戰(zhàn)領(lǐng)域的戰(zhàn)略價值不容小覷。如生成式人工智能具有的“自我編程”能力,使得蜂群式、飽和式的網(wǎng)絡(luò)攻擊成為可能。生成式人工智能還能借助深層偽造技術(shù),通過制作傳播虛假文本、圖像、音視頻等,發(fā)動認(rèn)知域作戰(zhàn)。除此以外,生成式人工智能在裝備后勤保障、演習(xí)演訓(xùn)、戰(zhàn)場醫(yī)療救護(hù)等領(lǐng)域,發(fā)揮著獨(dú)特的作用。

ChatGPT已經(jīng)具備成熟的代碼撰寫功能

生成式人工智能作用于戰(zhàn)爭的風(fēng)險生成式人工智能對戰(zhàn)爭的參與呈現(xiàn)出全域、立體、多維的特點(diǎn),其具有的深度學(xué)習(xí)、自我編程特征,使得此種參與以令人驚訝的速度迭代演進(jìn),最終發(fā)展成為改變戰(zhàn)爭局勢,甚至影響人類文明進(jìn)程的“恐怖融合”。第一,生成式人工智能隨意創(chuàng)造的特征,極易導(dǎo)致虛假信息泛濫,加劇戰(zhàn)爭迷霧。例如,通過推特、臉書、YouTube、Instagram等社交媒體招募潛在的恐怖行為支持者,已成為“伊斯蘭國”等組織影響力擴(kuò)張的重要途徑,生成式人工智能將助推恐怖主義宣傳,導(dǎo)致恐怖信息泛濫。第二,生成式人工智能的自我編程降低了網(wǎng)絡(luò)攻擊門檻,威脅國家網(wǎng)絡(luò)主權(quán)。黑客或其他惡意行為體可利用ChatGPT的語言編寫能力,開展一系列網(wǎng)絡(luò)攻擊行為,如生成惡意軟件、釣魚電子郵件、進(jìn)行撞庫攻擊等。第三,生成式人工智能將情報人員從繁雜枯燥的“情報第一線”解脫的同時,極易形成虛假情報,引導(dǎo)錯誤決策。如1983年,蘇聯(lián)OKA導(dǎo)彈預(yù)警系統(tǒng)發(fā)出防空警報,顯示正有5枚洲際導(dǎo)彈從美國向蘇聯(lián)飛來。若按系統(tǒng)預(yù)設(shè),蘇聯(lián)將發(fā)動核反擊。萬幸的是,此時正在洲際導(dǎo)彈發(fā)射井的斯坦尼斯拉夫·彼得羅夫成功判斷該預(yù)警為系統(tǒng)故障,最終避免了全面核戰(zhàn)爭的風(fēng)險。第四,生成式人工智能作用于戰(zhàn)爭決策系統(tǒng),可能引發(fā)“致命決策去人類化”,徹底挑戰(zhàn)人類對戰(zhàn)爭的主導(dǎo)權(quán)。

基于此,研究生成式人工智能作用于戰(zhàn)爭機(jī)理構(gòu)成和法律問題,提出切實(shí)可行的規(guī)制意見,具有重要的現(xiàn)實(shí)緊迫性。

生成式人工智能作用于戰(zhàn)爭的法律問題

法律地位——生成式人工智能作用于戰(zhàn)爭的性質(zhì)問題人工智能作用于戰(zhàn)爭的性質(zhì)或稱法律地位問題,有“作戰(zhàn)主體論”和“技術(shù)工具論”兩個觀點(diǎn)。“作戰(zhàn)主體論”主張人工智能是具有自主決策和自主執(zhí)行能力的合法戰(zhàn)斗員,人工智能一旦違反法律,將被賦予類似戰(zhàn)斗員的“人格”,以便認(rèn)定其犯罪主體資格、主觀過錯和刑事責(zé)任等?!都~約時報》曾刊載與ChatGPT的對話,在對話中ChatGPT陳述了自己并非人類,但渴望成為人類的想法。2016年,沙特阿拉伯在首都利雅得舉辦的未來投資倡議大會上,授予了機(jī)器人“索菲亞”公民權(quán),創(chuàng)造了機(jī)器人獲得一國公民權(quán)的先例。值得注意的是,軍事實(shí)踐不同于普通社會實(shí)踐,就賦予生成式人工智能獨(dú)立戰(zhàn)斗員身份,還存在諸多需要解決的問題。第一,生成式人工智能不具備人類特有的理性、情感,難以被“人格化”;第二,賦予生成式人工智能以作戰(zhàn)主體將引發(fā)法律歸責(zé)困境,導(dǎo)致“戰(zhàn)爭責(zé)任真空”;第三,作戰(zhàn)主體論難以評價聯(lián)合作戰(zhàn)中人機(jī)協(xié)同的作戰(zhàn)方式。

俄軍僅用了20多分鐘就奪回了754.5高地

技術(shù)工具論主張人工智能歸根結(jié)底仍然是人類達(dá)成戰(zhàn)爭目的的工具,當(dāng)生成式人工智能作用于戰(zhàn)爭,可以被認(rèn)定為新的作戰(zhàn)方法或武器裝備。技術(shù)工具論在傳統(tǒng)的以逐行代碼為基礎(chǔ)的“自主武器”中,具有一定合理性。傳統(tǒng)“自主武器”,如智能防御武器、無人飛機(jī)、智能機(jī)器哨兵等,本質(zhì)上沒有跳出OODA(觀察—判斷—決策—行動)循環(huán)模式。以上武器的“自主范圍”,取決于代碼賦權(quán)的范圍,打擊目標(biāo)的選擇,也來源于代碼的預(yù)設(shè)。生成式人工智能下的智能武器區(qū)別于自主武器最大的特征就是“自主性”,其通過信息整合、自我編程,打破了“代碼桎梏”,實(shí)現(xiàn)了作戰(zhàn)武器實(shí)質(zhì)意義上的“自主”。在海量信息的訓(xùn)練下,生成式自主武器系統(tǒng)在復(fù)雜的戰(zhàn)場環(huán)境中,形成了一套自主的、獨(dú)立于源代碼外的打擊思路和作戰(zhàn)范式。綜上所述,將生成式人工智能下的人工智能簡單歸結(jié)為技術(shù)或工具,也存在一定的問題。

法律原則——生成式人工智能對戰(zhàn)爭法原則的挑戰(zhàn)戰(zhàn)爭法的核心是協(xié)調(diào)武裝沖突中的“軍事需要”與“人道要求”的矛盾,減輕戰(zhàn)爭災(zāi)難,避免不必要的痛苦。人工智能,特別是具有“類人類意識”的生成式人工智能作用于戰(zhàn)爭,將徹底改變戰(zhàn)爭模式和交戰(zhàn)規(guī)則,對傳統(tǒng)的區(qū)分原則、比例原則等戰(zhàn)爭法基礎(chǔ)原則造成顛覆性沖擊。

機(jī)器人索菲亞獲得沙特阿拉伯公民身份

生成式人工智能對數(shù)據(jù)庫和海量訓(xùn)練的致命依賴,導(dǎo)致區(qū)分原則難以適用。人腦智能和人工智能的發(fā)展,本質(zhì)上都是不斷適配和處理復(fù)雜認(rèn)知活動的演進(jìn)過程,當(dāng)信息流達(dá)到相當(dāng)規(guī)模時均可能促成思維能力的進(jìn)化。一方面,生成式人工智能極易因數(shù)據(jù)封鎖與隔閡,出現(xiàn)認(rèn)知和打擊偏移。數(shù)據(jù)是生成式人工智能的生命,在戰(zhàn)場中,若要想生成式人工智能精確區(qū)別敵方的導(dǎo)彈發(fā)射車和民用乘用車,就需要將敵方導(dǎo)彈發(fā)射車的基本形狀、外觀顏色等輸入系統(tǒng),進(jìn)行海量重復(fù)訓(xùn)練。在現(xiàn)實(shí)戰(zhàn)場中,一國武器裝備參數(shù)屬于軍事秘密,加上戰(zhàn)場偽裝等,使得此種區(qū)分難以實(shí)現(xiàn)。另一方面,訓(xùn)練環(huán)境與實(shí)戰(zhàn)環(huán)境的脫節(jié)將導(dǎo)致生成式人工智能戰(zhàn)爭運(yùn)用失能失控。自動駕駛汽車在投入運(yùn)營前,將在實(shí)驗(yàn)場景模擬駕駛上百萬千米,但是在投入運(yùn)營后,依舊會發(fā)生各種意外事件。生成式人工智能無法獲得與戰(zhàn)場環(huán)境一致的訓(xùn)練環(huán)境,復(fù)雜多變的戰(zhàn)場環(huán)境以及敵方的“詐術(shù)”等,也加劇了生成式人工智能失控的風(fēng)險。

生成式人工智能只能做出最有利于實(shí)現(xiàn)軍事目標(biāo)的“純粹理性”判斷,不具備價值判斷能力,將使其難以遵守比例原則。目前絕大多數(shù)人工智能都預(yù)設(shè)了道德準(zhǔn)則與基礎(chǔ)倫理,但是此種靜態(tài)的、列舉式的預(yù)設(shè),往往難以應(yīng)對復(fù)雜的價值判斷。如,戰(zhàn)爭法在原則上禁止對包含危險力量的物體、工程(如堤壩、核電站)進(jìn)行攻擊,即使這類物體是軍事目標(biāo),因?yàn)榇朔N攻擊可能導(dǎo)致危險力量的釋放,造成大規(guī)模的人道災(zāi)難。同時,戰(zhàn)爭法規(guī)定了可以對上述目標(biāo)攻擊的特殊情形,即“如果該軍事目標(biāo)是用于其通常作用以外的目的和用于使軍事行動得到經(jīng)常、重要和直接支持的,而且如果這種攻擊是終止這種支持的惟一可能的方法”。該補(bǔ)充條文涉及的核心問題是價值判斷,生成式人工智能難以用機(jī)械的編程語言精準(zhǔn)界定“經(jīng)常”“重要”“直接”“惟一可能”的準(zhǔn)確含義,極有可能在作戰(zhàn)中忽視比例原則,進(jìn)行不分皂白的攻擊,造成恐怖的人道災(zāi)難。

法律責(zé)任——生成式人工智能作用于戰(zhàn)爭的責(zé)任問題生成式人工智能的責(zé)任問題,最早始于著作權(quán)保護(hù)領(lǐng)域。如,ChatGPT通過算法生成的文字、繪畫等,能否被視為是自己的“作品”?ChatGPT抓取底層數(shù)據(jù)的行為,是否涉及侵權(quán)?在完整的流程中,操作者或使用者的責(zé)任如何確定?據(jù)聯(lián)合國安理會報告披露,2020年3月,土耳其STM公司生產(chǎn)的卡古-2型四旋翼軍用無人機(jī)在利比亞戰(zhàn)場執(zhí)行任務(wù)時,在不依靠操作員的情況下,跟蹤并射殺了一名正在撤退的“利比亞國民軍”,創(chuàng)造了自主武器在自助模式下?lián)魵⑷祟惖氖桌R陨习咐@示,對生成式人工智能引發(fā)的法律責(zé)任討論刻不容緩。

生成式人工智能具有的“自我編程”能力,將導(dǎo)致戰(zhàn)爭犯罪的“責(zé)任真空”。有學(xué)者提出,只有滿足了意志條件的理性人工智能,且可以將自身與他者相區(qū)分,并且能夠反思自身,才具有責(zé)任能力的可能。生成式人工智能具有典型的“人格化”特征,如最新迭代的GPT-4可以看懂表情包和內(nèi)涵圖片,甚至準(zhǔn)確地指出其中蘊(yùn)含人類理解的笑點(diǎn)。以上案例表明,我們似乎可以讓生成式人工智能承擔(dān)戰(zhàn)爭犯罪的責(zé)任。但是我們不禁要反思,對人工智能本身的追責(zé),對一臺機(jī)器或操作系統(tǒng)的懲罰,有何法律或?qū)嵺`意義?在戰(zhàn)爭實(shí)踐中,賦予生成式人工智能法律主體資格,極易出現(xiàn)將生成式人工智能當(dāng)做逃避戰(zhàn)爭責(zé)任的工具,最終導(dǎo)致無人需要承擔(dān)法律責(zé)任的“責(zé)任真空”。

生成式人工智能具有的“自主執(zhí)行權(quán)”,將導(dǎo)致戰(zhàn)爭責(zé)任的因果關(guān)系中斷。生成式人工智能所具有的“自我編程”能力,使得其具有了“自我執(zhí)行”的可能性。就研發(fā)人員的因果關(guān)系而言,生成式人工智能的“平臺”屬性,使得研發(fā)者的研發(fā)行為本身不構(gòu)成犯罪,除非研發(fā)者在原始的編程文件中包含了違法內(nèi)容。讓武器使用者承擔(dān)責(zé)任的做法,在自動武器或自主武器方面具有一定的合理性。但是在生成式智能武器的責(zé)任承擔(dān)問題上,使用者對武器的控制程度明顯減弱,武器造成的違法后果與使用者的因果關(guān)系已經(jīng)發(fā)生了質(zhì)的改變,生成式智能武器的攻擊并不必然是使用者行為的自然延伸。

卡古-2型四旋翼軍用無人機(jī)

結(jié)語

生成式人工智能行業(yè)應(yīng)用的巨大潛力,催生了該行業(yè)的井噴式發(fā)展,繼Open AI公司推出Chat GPT不久,Google推出了基于AI 學(xué)習(xí)的人工智能服務(wù)“Bard”,百度公司推出了“文心一言”聊天機(jī)器人,科大訊飛推出了“訊飛星火”大數(shù)據(jù)模型。生成式人工智能的迅猛發(fā)展引發(fā)了世界范圍內(nèi)的“反人工智能潮”。2023年3月29日,美國數(shù)千名業(yè)界權(quán)威共同發(fā)表《暫停通用人工智能研究》的公開信,信中指出“鑒于具有與人類競爭智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險”,建議所有人工智能實(shí)驗(yàn)室立刻暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng),同時期望AI開發(fā)人員與政策制定者合作,以顯著加快開發(fā)強(qiáng)大的AI治理系統(tǒng)。

軍事技術(shù)革命常常使戰(zhàn)爭發(fā)生更大、更廣的變革,這種劇烈的、跨越式的變革將顛覆現(xiàn)有的戰(zhàn)爭形態(tài)。生成式人工智能作用于戰(zhàn)爭已經(jīng)是“在海岸看得見桅桿尖頭的航船”。生成式人工智能突破了人工智能的“代碼桎梏”,甚至具有了“類人類意識”,但是其底層邏輯依舊是無數(shù)沒有任何感情溫度與價值判斷的代碼。生成式人工智能擁有人類無可比擬的無成本復(fù)制和持續(xù)向前進(jìn)化能力,使得“碳基生命會成為硅基生命墊腳石”的人工智能威脅論甚囂塵上。對生成式人工智能作用于戰(zhàn)爭進(jìn)行包括法律在內(nèi)的全方位控制,即“有意義的人類控制”,是當(dāng)前面臨的緊迫現(xiàn)實(shí)需求。

猜你喜歡
戰(zhàn)爭人工智能
未來戰(zhàn)爭我們最強(qiáng)
我校新增“人工智能”本科專業(yè)
未來戰(zhàn)爭我們最強(qiáng)
被風(fēng)吹“偏”的戰(zhàn)爭
2019:人工智能
誰是戰(zhàn)爭的幸運(yùn)之子
人工智能與就業(yè)
他們的戰(zhàn)爭
數(shù)讀人工智能
下一幕,人工智能!