幾個月前，有媒體爆出，科技巨頭谷歌參與了美國軍方的人工智能（AI）軍事項目，鑒于應用 AI 的道德標準尚未形成國際共識，此行為招來了谷歌內(nèi)部員工和外界輿論的非議。最終，谷歌迫于壓力，不得不宣布在為期 18 個月的合約結(jié)束之后停止續(xù)約。然而，谷歌的退出似乎并不影響五角大樓的 AI 軍事計劃的進行。

有匿名的美國官員向媒體透露，美國軍方十分看好 AI 技術(shù)在軍事領(lǐng)域的應用，已經(jīng)啟動了多個 AI 軍事項目。其中一項鮮為人知的項目是，利用 AI 尋找核導彈發(fā)射器的位置，以及預測核導彈的發(fā)射。系統(tǒng)的偵測范圍覆蓋朝鮮等國家和地區(qū)，目的是更好地保護美國免受潛在的核導彈襲擊。

研發(fā)中的AI系統(tǒng)將最終實現(xiàn)自主思考，以遠超人類的速度和準確度搜尋大量數(shù)據(jù)，例如衛(wèi)星圖像，之后根據(jù)這些數(shù)據(jù)尋找導彈準備發(fā)射的跡象。一旦有所發(fā)現(xiàn)，美國軍方將收到早期預警，這增加了摧毀或攔截導彈的成功率，同時政府也可以更早地開展外交手段，從根本上避免導彈發(fā)射。

目前這一項目還在起步階段，不過導彈發(fā)射器追蹤系統(tǒng)的早期原型已經(jīng)投入試驗。除了軍方手中的數(shù)據(jù)，研發(fā)人員還與商業(yè)公司合作，以獲得更多的數(shù)據(jù)和行為模式，其中包括看穿風暴和樹林的雷達數(shù)據(jù)。

該項目只不過是 AI 軍事計劃的冰山一角。熟悉計劃的消息人士透露稱，谷歌參與的 Maven 項目是訓練 AI 識別無人機錄像中的物體。還有專門針對朝鮮的試點項目，因為美國軍方懷疑導彈發(fā)射裝置被隱藏在了隧道、森林和洞穴中。

AI軍備競賽

美國眾議院武裝部隊委員會主席 Mac Thornberry 表示，“俄羅斯和中國肯定是在追求類似的東西，可能在某些方面比我們付出的努力更多?！?/p>

從美國官方預算數(shù)據(jù)中不難發(fā)現(xiàn)，美國政府不僅增加了國防預算，同時也加大了對AI軍事化應用的投資。特朗普政府為一項 AI 導彈項目投入了 8300 萬美元，這是去年項目預算的三倍。

AI 導彈項目的一部分預計在 2020 年之后實現(xiàn)。不過即便如此，一些美國官員表示，面對日趨復雜的國際環(huán)境，包括朝鮮的核武器威脅和俄羅斯強大的軍事力量，AI 技術(shù)在軍事項目上的整體投資仍然不足，研究仍然有限。

“我們不能犯錯”

雖然AI技術(shù)正在迅速發(fā)展，但是它依然存在不少的缺陷和漏洞。美國國防部高級研究計劃局（DARPA）主任 Steven Walker 表示，“智能化進程勢不可擋，但我們不能犯錯，因為這些系統(tǒng)可以被欺騙。”

MIT 的一項研究結(jié)果顯示，AI物品識別系統(tǒng)可以被輕易地欺騙，比如系統(tǒng)會將塑料海龜識別成步槍。

這種荒謬的錯誤證明了現(xiàn)階段 AI 技術(shù)和人類認知之間的差距，同時也提醒了研究人員，面對核武器識別系統(tǒng)，其他國家完全可以利用技術(shù)隱藏武器的身份和信息。更可怕的是，如果系統(tǒng)錯誤地將“海龜”識別為核武器，那么可能會就此引發(fā)一場外交爭端，甚者是核戰(zhàn)爭。

不過五角大樓認為這種錯誤是可以避免的?！耙坏〢I系統(tǒng)全面投入使用，五角大樓需要建立保障措施，”美國空軍將軍 John Hyten 表示。“以確保核決策最終由人類控制和決定，而不是機器?！?/p>

這聽起來就像其他所有由人類控制的武器一樣，可是人類犯的錯還少嗎？

（摘自美《深科技》（編輯/華生）