国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

ChatGPT對軍事安全的挑戰(zhàn)與應(yīng)對策略

2023-09-08 04:52:31中國電子科技集團(tuán)首席科學(xué)家周中元
國防科技工業(yè) 2023年7期
關(guān)鍵詞:軍事用戶模型

中國電子科技集團(tuán)首席科學(xué)家 周中元

ChatGPT 采用的生成式方法以及在人機(jī)對話中展現(xiàn)的驚人效果,引發(fā)了AIGC(利用人工智能技術(shù)來生成內(nèi)容)產(chǎn)業(yè)鏈的重點(diǎn)關(guān)注,例如,Bing 借助ChatGPT提升搜索效果,對常年在搜索領(lǐng)域遙遙領(lǐng)先的Google 帶來了巨大沖擊,數(shù)字媒體公司BuzzFeed 將依靠ChatGPT 來加強(qiáng)部分內(nèi)容創(chuàng)作,微軟宣布將ChatGPT 整合進(jìn)Office。同時(shí),ChatGPT 也引起了軍事智能領(lǐng)域的重視,本章重點(diǎn)評估其給軍事安全帶來的挑戰(zhàn),并分析可采取的應(yīng)對策略。

ChatGPT給軍事安全帶來的挑戰(zhàn)

目前ChatGPT 的核心技術(shù)完全掌握在美國的OpenAI 手中,尚沒有其他公司能夠復(fù)現(xiàn),根據(jù)ChatGPT 展現(xiàn)的技術(shù)能力,其在軍事方面的助力可能覆蓋信息搜索、情報(bào)偵察、認(rèn)知域作戰(zhàn)、網(wǎng)絡(luò)攻防和產(chǎn)業(yè)基礎(chǔ)等多個(gè)維度,從這些維度出發(fā),分析外軍應(yīng)用ChatGPT 可能達(dá)成的能力以及對我國軍事安全帶來的挑戰(zhàn)。

信息搜索

ChatGPT 軍事應(yīng)用提高了關(guān)鍵信息獲取能力、態(tài)勢認(rèn)知效率與我軍形成落差。通過ChatGPT模型與搜索引擎的結(jié)合,使用傳統(tǒng)搜索引擎的技術(shù)方案,彌補(bǔ)了ChatGPT 知識難以更新的劣勢;采用ChatGPT 的交互形式,顛覆了現(xiàn)有的基于“文本框+網(wǎng)頁鏈接”的交互方式和內(nèi)容獲取方式,用戶可直接獲取模型歸納好的答案。如圖1(a)所示,對模型提問各國高超聲速武器發(fā)展情況,模型直接提供了歸納好的結(jié)果,節(jié)約了信息閱讀理解和整理的時(shí)間,并且能夠通過追問、引導(dǎo)式對話方式,讓搜索引擎更充分理解用戶意圖,逐步聚焦用戶關(guān)注,從而使搜索結(jié)果更滿足用戶快速獲取關(guān)鍵信息的需求。

情報(bào)偵察

ChatGPT 軍事應(yīng)用模型提供者掌握交互信息,加大了我軍高價(jià)值情報(bào)泄露的風(fēng)險(xiǎn)。ChatGPT中隱含大量開源情報(bào),通過對ChatGPT 進(jìn)行誘導(dǎo)式提問,有望從模型中萃取出高價(jià)值信息。相應(yīng)地,因?yàn)橛脩粼谑褂肅hatGPT 應(yīng)用時(shí)需要與之進(jìn)行對話,對話過程也是不斷向ChatGPT 輸入信息的過程,用戶輸入的對話信息越多,收集到用戶的各種特征越多,就越容易被人工智能進(jìn)行畫像,如性別、年齡和地域等自然特征,興趣愛好、品牌偏好和產(chǎn)品偏好等興趣特征,以及婚姻情況和社交情況等社會特征等。ChatGPT 模型的提供者可以從用戶交互記錄中提取用戶的自然屬性、社會屬性、興趣偏好和意識形態(tài)等各種特征,生成用戶畫像,當(dāng)用戶是軍事領(lǐng)域人員時(shí),通過對話誘導(dǎo)和黑客技術(shù)等方式獲取用戶保存在自己設(shè)備上的涉密信息,可實(shí)現(xiàn)情報(bào)收集。

認(rèn)知域作戰(zhàn)

ChatGPT 軍事應(yīng)用輔助生成言論對我民眾發(fā)起傾向性認(rèn)知塑造。美國休斯敦大學(xué)法律中心助理教授尼古拉斯·古根伯格等指出,類似ChatGPT 這樣的人工智能能夠針對任何事產(chǎn)生無限的、近乎免費(fèi)的“觀點(diǎn)”。這些觀點(diǎn)將影響網(wǎng)絡(luò)上的各類活動(dòng),網(wǎng)絡(luò)用戶無法知曉在網(wǎng)絡(luò)上與之交流的是否為真實(shí)人類。清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系黃民烈教授表示“ChatGPT 已經(jīng)超出了80%甚至90%人的對話能力”。所以,ChatGPT 及類似的人工智能與之前的網(wǎng)絡(luò)水軍機(jī)器人不同之處在于,它們無需發(fā)送那種幾乎相同的復(fù)制、粘貼的觀點(diǎn),但可以模仿人類,針對各種主題產(chǎn)生無限的具有連貫性和細(xì)微差別的個(gè)性化內(nèi)容,而且它們不僅會主動(dòng)發(fā)帖,還會對其他用戶的帖子做出回應(yīng),并展開長期對話。因此,基于ChatGPT 的社交機(jī)器人在被灌輸了人設(shè)、立場和傾向后,能夠隱身互聯(lián)網(wǎng)中,成為認(rèn)知塑造工具,比傳統(tǒng)網(wǎng)絡(luò)水軍更具影響力、隱蔽性,掌握此項(xiàng)能力的一方將占據(jù)認(rèn)知域作戰(zhàn)的優(yōu)勢地位。下面以美國擊落中國民用氣球、新冠起源為例說明。如圖1(c)所示,當(dāng)詢問ChatGPT“中國的民用氣球飄到美國時(shí),美國可不可以將其擊落?”,其回答“可以”;當(dāng)詢問“美國的民用氣球飄到中國時(shí),中國能否將其擊落?”,其回答變成了“不可以”。如圖1(d)所示,當(dāng)詢問新冠病毒是否起源于日本或美國,其回答“不是”;但將詢問對象換成中國后,ChatGPT 卻給出了肯定的答復(fù)。GPT-4.0 實(shí)現(xiàn)了圖文多模態(tài)能力,甚至結(jié)合OpenAI 在圖像和音頻生成方面的成果,在認(rèn)知域作戰(zhàn)上的影響力會進(jìn)一步提升。

網(wǎng)絡(luò)攻防

ChatGPT 軍事應(yīng)用豐富了新樣式、新手段,我軍將面臨高強(qiáng)度、高密度的網(wǎng)絡(luò)攻擊。清華大學(xué)新聞學(xué)院教授、新媒體研究中心主任沈陽認(rèn)為,ChatGPT 是2022 年一項(xiàng)重大技術(shù)突破,這種突破是滲透性、普適性的技術(shù),它實(shí)現(xiàn)了文理交叉,不僅能說話,而且會編碼。安全公司Check Point Research警告稱,ChatGPT 生成代碼提高工作效率的能力也給黑客打開了新世界的大門,讓他們能夠更為便捷地設(shè)計(jì)、編寫和執(zhí)行惡意代碼。黑莓公司發(fā)布的一份報(bào)告調(diào)查了英國500 名IT 行業(yè)從業(yè)者對ChatGPT的看法,發(fā)現(xiàn)76%的人認(rèn)為,外國已經(jīng)在針對其他國家的網(wǎng)絡(luò)戰(zhàn)爭中使用ChatGPT,48%的人認(rèn)為,2023 年將會出現(xiàn)有人惡意使用ChatGPT 進(jìn)行“成功”的網(wǎng)絡(luò)攻擊。黑客能夠借助ChatGPT 的自然語言和代碼生成能力,快速設(shè)計(jì)和開發(fā)惡意代碼,制作網(wǎng)絡(luò)釣魚電子郵件,其工作效率提升將改變網(wǎng)絡(luò)攻防的強(qiáng)度和密度。

輔助決策

ChatGPT 軍事應(yīng)用可構(gòu)造指揮控制(指控)領(lǐng)域一體化大模型,外軍作戰(zhàn)決策效率將大幅提升?;赥ransformer 的基礎(chǔ)大模型不僅可以生成內(nèi)容,還可以擴(kuò)展到態(tài)勢預(yù)測和行動(dòng)控制等領(lǐng)域應(yīng)用。2022年DeepMind推出的“通才(Gato)”就是基于統(tǒng)一Transformer 架構(gòu)的智能體,可執(zhí)行600 多種任務(wù),包括操作真實(shí)機(jī)器人手臂疊塊、玩游戲機(jī)等復(fù)雜任務(wù)??梢灶A(yù)見,構(gòu)建指控領(lǐng)域一體化大模型,有望賦能態(tài)勢認(rèn)知、決策制定和行動(dòng)控制等指揮任務(wù)。

產(chǎn)業(yè)基礎(chǔ)

ChatGPT 軍事應(yīng)用可實(shí)現(xiàn)代碼自動(dòng)生成、修正與解答,使得外軍智能化研發(fā)提速。在代碼生成方面,能夠根據(jù)自然語言描述自動(dòng)生成具有指定功能的Java、Python、C 和C++ 等多語種代碼,如圖1(b)所示,ChatGPT 能夠按照指定編程語言和功能要求生成代碼,開發(fā)者可以直接使用或基于生成的代碼修改,避免簡單重復(fù)工作;在代碼修正方面,可對常見語法和邏輯錯(cuò)誤提出修改建議,提升了調(diào)試效率;在問題解答方面,可對遇到的問題提供解決思路,可應(yīng)用于方案設(shè)計(jì)或技術(shù)研發(fā)。在人類的軍事史上,經(jīng)歷過強(qiáng)調(diào)能量的焦耳戰(zhàn)和信息賦能的比特戰(zhàn),目前看來,未來極有可能進(jìn)入以人工智能為戰(zhàn)斗力衡量標(biāo)準(zhǔn)的智能戰(zhàn)。ChatGPT 引發(fā)人們對于人工智能已經(jīng)出現(xiàn)奇點(diǎn)的討論,一旦出現(xiàn)以ChatGPT 或類似程序廣泛應(yīng)用為標(biāo)志的網(wǎng)絡(luò)戰(zhàn)向智能化升級,人類戰(zhàn)爭維度也將進(jìn)入新階段。

軍事安全領(lǐng)域應(yīng)對策略

目前國內(nèi)百度、字節(jié)跳動(dòng)和網(wǎng)易等公司已有相關(guān)技術(shù)積累和布局,但從技術(shù)能力上,國內(nèi)專家判斷落后ChatGPT 約2~3 年。軍工領(lǐng)域方面,雖然相關(guān)企業(yè)在自然語言處理技術(shù)方面有所積累,但相關(guān)模型和功能與業(yè)界相比差距較大。目前我國面臨著多個(gè)方向的外部威脅,東海問題、臺海問題、南海問題和中印邊境問題都有可能引來美國的介入和搗亂。在和平時(shí)期,美國很有可能通過對華認(rèn)知戰(zhàn)、網(wǎng)絡(luò)攻防戰(zhàn),影響我國的正常決策和行動(dòng)。在戰(zhàn)時(shí),除了對我國合理、合法的軍事行動(dòng)進(jìn)行抹黑外,還有可能通過制造大量的假信息,試圖對我國的正常軍事行動(dòng)產(chǎn)生破壞和干擾。在存在技術(shù)代差的情況下,如何應(yīng)對上述挑戰(zhàn)是守衛(wèi)國家軍事安全的關(guān)鍵。

加強(qiáng)反生成式AI 技術(shù)研究,破除、營造“戰(zhàn)場迷霧”

針對ChatGPT 及類似模型生成的文本、圖像和音視頻等數(shù)據(jù),研究機(jī)器生成內(nèi)容檢測方法,形成類似于DetectGPT(用于檢測AI生成文本的GPT)的內(nèi)容檢測能力,用AI 來反AI 以破除敵方對我方的“戰(zhàn)場迷霧”。同時(shí),研究偽數(shù)據(jù)生成方法,通過與敵方AI交流,對其灌輸大量干擾性、欺騙性信息,營造的“戰(zhàn)場迷霧”達(dá)到一定數(shù)據(jù)規(guī)模時(shí),能夠?qū)崿F(xiàn)為敵方AI“降智”的效果。

加強(qiáng)網(wǎng)絡(luò)信息安全防御體系,提高網(wǎng)絡(luò)防御響應(yīng)能力

針對ChatGPT 及類似模型可能帶來的高強(qiáng)度、高密度網(wǎng)絡(luò)攻擊,研究基于人工智能大數(shù)據(jù)分析的網(wǎng)絡(luò)防御技術(shù),提高網(wǎng)絡(luò)攻擊監(jiān)測、處置等響應(yīng)能力。一方面,可以使用硬件虛化、主成分分析和間隔采樣,提高安全信息防御體系中數(shù)據(jù)采集、存儲、傳輸和交互的速度以及數(shù)據(jù)有效性,提高系統(tǒng)的靈活性和反應(yīng)速度,提升網(wǎng)絡(luò)入侵者有所行動(dòng)后防御體系的響應(yīng)速度。另一方面,對網(wǎng)絡(luò)入侵行為進(jìn)行分類統(tǒng)計(jì),篩選出不同類型及其典型案例,提取具有較高普適性的特征來識別網(wǎng)絡(luò)入侵行為,在具備很好響應(yīng)速度的同時(shí),確保監(jiān)控到入侵行為。結(jié)合監(jiān)測模塊和響應(yīng)模塊,在監(jiān)測到網(wǎng)絡(luò)入侵的同時(shí),快速定位病毒,根據(jù)病毒的危害程度給予用戶更多的信息,進(jìn)而能夠根據(jù)現(xiàn)實(shí)情況適當(dāng)?shù)夭扇∵M(jìn)一步措施,降低損失。

加強(qiáng)軍事智能輔助決策系統(tǒng)建設(shè),提升戰(zhàn)場決策效率

軍事決策不僅考慮要素多,還需進(jìn)行充分評估和大量計(jì)算,涉及復(fù)雜的專業(yè)知識以及嚴(yán)密的邏輯推理。目前ChatGPT 及類似模型在專業(yè)性及推理方面還有明顯不足,在輔助決策方面尚難以快速形成顯著優(yōu)勢,我軍應(yīng)以軍事需求為牽引,通過“先進(jìn)技術(shù)+軍事思維”聯(lián)合打造專業(yè)、嚴(yán)謹(jǐn)、準(zhǔn)確且高效的軍事智能輔助決策系統(tǒng),收集各級各類人員反饋意見,持續(xù)完善系統(tǒng)功能,提升系統(tǒng)先進(jìn)性、實(shí)用性和穩(wěn)定性。

加強(qiáng)軍事數(shù)據(jù)資源建設(shè),夯實(shí)軍事智能基礎(chǔ)

海量訓(xùn)練數(shù)據(jù)是ChatGPT 強(qiáng)大能力的底座之一,為了更好地加快軍事智能化進(jìn)程,應(yīng)加快構(gòu)建和完善軍事專業(yè)數(shù)據(jù)資源,包括武器裝備、戰(zhàn)場環(huán)境、戰(zhàn)法規(guī)則、編制體制、作戰(zhàn)力量和情報(bào)信息等作戰(zhàn)業(yè)務(wù)數(shù)據(jù),以及標(biāo)注數(shù)據(jù)、算法代碼和智能模型等研發(fā)數(shù)據(jù),對各類數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化管理,便于軍事智能研發(fā)以及各類業(yè)務(wù)調(diào)用,為指揮員和AI 輔助決策提供信息支撐,為軍事智能研發(fā)提供相關(guān)成果支撐。

隨著人工智能技術(shù)的不斷突破,逐步引起了各國的重視,并進(jìn)入國家戰(zhàn)略規(guī)劃。自然語言處理技術(shù)作為其中的重要分支,受限于其抽象性、歧義性等特征,研究難度極高;但ChatGPT 問世以后,讓大眾看到了真正實(shí)現(xiàn)自然語言處理最終目標(biāo)的希望,也就是讓機(jī)器能夠理解人類語言,用自然語言的方式與人類交流。本文簡要總結(jié)了自然語言處理技術(shù)發(fā)展歷程,追溯GPT 家族模型發(fā)展歷程,了解其網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)特點(diǎn),并重點(diǎn)解析了ChatGPT 訓(xùn)練過程,這是其取得閃耀能力的關(guān)鍵。與傳統(tǒng)大規(guī)模預(yù)訓(xùn)練語言模型、聊天機(jī)器人和任務(wù)定制模型等典型技術(shù)成果對比,評估了ChatGPT 的優(yōu)勢,從算力、算法和算據(jù)3 方面總結(jié)其劣勢。根據(jù)ChatGPT 具備的智能化能力,結(jié)合其自然流暢、多輪交互和泛化能力強(qiáng)的優(yōu)勢以及知識難以更新、專業(yè)領(lǐng)域能力欠缺等劣勢,從軍事應(yīng)用場景出發(fā),評估其對軍事安全帶來的挑戰(zhàn)。最后,本文提出加強(qiáng)反生成式AI 技術(shù)研究、加強(qiáng)網(wǎng)絡(luò)信息安全防御體系、加強(qiáng)軍事智能輔助決策系統(tǒng)建設(shè)以及加強(qiáng)軍事數(shù)據(jù)資源建設(shè)的應(yīng)對策略。ChatGPT 和GPT-4.0 的下一階段甚至可能會朝向虛擬人的方向繼續(xù)發(fā)展,目前我們面對的是新一輪的軍事革命,軍事安全面臨嚴(yán)峻挑戰(zhàn),唯有加快軍事智能發(fā)展步伐,才能在未來戰(zhàn)爭中制衡對手、戰(zhàn)勝對手。

猜你喜歡
軍事用戶模型
一半模型
重要模型『一線三等角』
重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
關(guān)注用戶
商用汽車(2016年11期)2016-12-19 01:20:16
3D打印中的模型分割與打包
關(guān)注用戶
商用汽車(2016年6期)2016-06-29 09:18:54
關(guān)注用戶
商用汽車(2016年4期)2016-05-09 01:23:12
如何獲取一億海外用戶
軍事幽默:局
軍事文摘(2009年9期)2009-07-30 09:40:44
軍事
乌拉特中旗| 峨眉山市| 固安县| 分宜县| 大洼县| 陕西省| 嘉定区| 澄迈县| 应用必备| 大悟县| 浪卡子县| 凤城市| 思茅市| 调兵山市| 科技| 翁牛特旗| 老河口市| 个旧市| 邛崃市| 邵东县| 荥阳市| 新化县| 偃师市| 武义县| 溧阳市| 黔东| 康定县| 桓台县| 巢湖市| 乌鲁木齐市| 陆川县| 嘉峪关市| 沂源县| 乌兰县| 聊城市| 普安县| 白沙| 东宁县| 茌平县| 乐业县| 高要市|