卡倫·雷諾 梅里爾·沃肯廷 喬治·韋斯特曼

過去幾年，網(wǎng)絡(luò)犯罪分子頻頻利用人工智能（AI）侵入公司系統(tǒng)、擾亂商業(yè)運營。像ChatGPT這種威力強大的新生成式AI工具也給企業(yè)領(lǐng)導(dǎo)者帶來了一系列新挑戰(zhàn)。

試想以下完全可能出現(xiàn)的情景：

● 黑客根據(jù)你們公司的營銷材料和過去曾經(jīng)得到的網(wǎng)絡(luò)釣魚信息，利用ChatGPT生成一條針對性的魚叉式網(wǎng)絡(luò)釣魚*信息。哪怕是充分接受過電郵反詐培訓(xùn)的人也難免會上當(dāng)，因為它看起來與他們當(dāng)初培訓(xùn)時學(xué)習(xí)偵測的信息完全不同。

● AI機器人利用深度偽造技術(shù)，模仿老板的聲音給負(fù)責(zé)應(yīng)付賬款的員工打電話。寒暄了幾句之后，“老板”要求該員工將數(shù)千美元轉(zhuǎn)入一個賬戶用以“支付發(fā)票”。員工知道這樣做不合規(guī)矩，但老板是有權(quán)要求破例的，對吧？

● 黑客利用AI給系統(tǒng)中的信息“投毒”，創(chuàng)建一個有價值的股票投資組合，然后搶在騙術(shù)被人發(fā)現(xiàn)之前套現(xiàn)。

● 有人用生成式AI偽造了某公司高管討論如何掩蓋財務(wù)虧空的一系列電郵，其內(nèi)容令人信以為真。在社交媒體機器人大軍的推波助瀾下，這一“泄露”的信息被瘋狂傳播，導(dǎo)致公司股價暴跌，聲譽蒙受了無可挽回的損失。

深度偽造技術(shù)會在社交媒體造成災(zāi)難性后果，或者重創(chuàng)企業(yè)IT系統(tǒng)。一直關(guān)注此類事件的人可能對上述情景有似曾相識之感。但這些新威脅的性質(zhì)是不同的，且更加令人不寒而栗，因為其底層技術(shù)已變得“更智能”。

到目前為止，大多數(shù)攻擊使用的都是相對簡單的高容量法。請想象來自一大批網(wǎng)絡(luò)僵尸的威脅，它們數(shù)以百萬計，鍥而不舍卻沒頭沒腦，只有當(dāng)其中一兩個碰巧找到防護(hù)屏障的薄弱環(huán)節(jié)時，它們的攻擊才會得逞。相比之下，最復(fù)雜的威脅（例如我們有時在媒體上獲知的重大盜竊和欺詐事件）是較低容量的精準(zhǔn)攻擊，通常需要人類的實際介入才能成功。此類攻擊更像是飛檐走壁的竊賊，系統(tǒng)地研究建筑物的每個細(xì)節(jié)及其警報系統(tǒng)，直到設(shè)計出一種可以避開安保體系悄悄潛入的方法。它們又好比巧舌如簧的騙子，能夠憑空捏造一個背景故事，編織出以假亂真的謊言，甚至連聰明人也會上當(dāng)受騙、乖乖給錢。

現(xiàn)在想象一下，那些僵尸變聰明了。在生成式AI的加持下，每個僵尸都變成了偷天大盜，能看穿你的安全系統(tǒng)是如何設(shè)計的，并創(chuàng)造出繞過它們的方法?；蛘?，你也可以想象一個騙子使用生成式AI同你的一名員工接觸，贏得他的信任，然后誘騙他落入圈套。

AI驅(qū)動惡意軟件的新時代意味著，企業(yè)不能再簡單沿用過去的最佳實踐，哪怕在短短幾個月前，這套方法可能還是卓有成效的。落實穩(wěn)妥的安全政策、安裝最頂級的防護(hù)和偵測技術(shù)工具、開展安全意識教育以確保員工了解安全規(guī)則——所有這些縱深防御策略都不足以應(yīng)對新的挑戰(zhàn)。一個全新的時代已經(jīng)拉開了序幕。

生成式AI能夠?qū)⑽谋?、語音、圖形和視頻組合起來，在黑客攻擊領(lǐng)域開啟未知且不可知的創(chuàng)新。成功防御此類威脅尚不能實現(xiàn)自動化。你的公司需要從獲取工具和建立基于規(guī)則的方法，轉(zhuǎn)向制定能夠?qū)崟r應(yīng)對更高級別AI生成威脅的策略。為此，有必要采用更智能的技術(shù)，聘用更聰明的員工。

用生成式AI對付生成式AI

企業(yè)應(yīng)該使用生成式AI增強自己的防御能力，同時依靠它來加快建設(shè)實時應(yīng)對新威脅的能力。

首先，以企業(yè)的外圍防御體系為例。企業(yè)早已使用惡意軟件數(shù)據(jù)庫來偵測新威脅。供應(yīng)商會不斷更新這些惡意軟件特征的數(shù)據(jù)庫，但并不會根據(jù)每家企業(yè)的獨特情況來量身定制。黑客們以前使用的是無差別的漏洞攻擊策略侵入公司系統(tǒng)。如今，他們將應(yīng)用AI專門針對某家企業(yè)的漏洞實施攻擊。詐騙電郵會在合適的壓力點精準(zhǔn)發(fā)力。它們的逼真度也會相當(dāng)高，因為在新型網(wǎng)絡(luò)釣魚攻擊中，每條信息都是AI驅(qū)動語言使用公共信息為目標(biāo)企業(yè)量身定制的。因此，哪怕是精明的員工，也很難在第一時間看穿騙局、對其不予理會。更有可能的是，他會因為看到大量具體細(xì)節(jié)而對郵件的真實性深信不疑。

OpenAI（ChatGPT的創(chuàng)造者）等公司正在推出GPTZero和ZeroGPT等工具，供企業(yè)檢測新生成的文本（在沒有可識別簽名的情況下）是不是由生成式AI生成的。企業(yè)可以將這些工具集成到郵件服務(wù)器中，從而提高攔截更高級別自動釣魚消息的可能性。這些工具應(yīng)根據(jù)每家企業(yè)的不同需求量身定制，并通過頻繁微調(diào)來保持警覺，正如機靈的門衛(wèi)需要隨時獲知最新的威脅。隨著時間的推移，安全工具供應(yīng)商將逐漸采納這些技術(shù)，但與此同時，許多公司仍有可能遭遇黑客入侵，蒙受嚴(yán)重的財產(chǎn)和聲譽損失。因此，公司務(wù)必考慮盡快實施內(nèi)部變革，而不是坐等市場上現(xiàn)成的解決方案升級。

其次，必須盡快提升實時偵測能力。許多公司依靠模式識別來抵御攻擊。但問題是，這些模式所包含的信息都來自已發(fā)生的攻擊。因此，為了抵擋由生成式AI驅(qū)動的攻擊，我們需要開啟一個“智能”防范的新時代。

生成式AI有可能提高企業(yè)的快速偵測能力，幫助它們發(fā)現(xiàn)員工或系統(tǒng)內(nèi)部任意環(huán)節(jié)出現(xiàn)的行為或行動異常。員工的行為會通過他們登錄的系統(tǒng)、訪問的數(shù)據(jù)量以及電郵的對象反映出來，這些日常行為與他們的工作任務(wù)相符，因此基本上是可預(yù)測的。我們可以將這些看作他們的行為足跡。如果崗位職責(zé)照舊，足跡卻突然發(fā)生改變，也許就意味著情況有異，可能有黑客正試圖侵入系統(tǒng)，或者是有內(nèi)鬼作亂。企業(yè)可以配套使用生成式AI與其他AI工具來確定損害的程度，或者排除系統(tǒng)被攻破的可能。以GPT-4為基礎(chǔ)構(gòu)建的新擴(kuò)展和第三方應(yīng)用程序已經(jīng)公布，所以基于AI的新安全工具問世也指日可待。

訓(xùn)練人類應(yīng)對更智能的攻擊

具有安全意識的人類行為，對于網(wǎng)絡(luò)安全仍然是至關(guān)重要的，但人類還是會繼續(xù)犯錯。許多旨在提高安全意識的宣傳活動，都介紹了現(xiàn)存的各種威脅，并提供一整套需要遵守的規(guī)則：不要點擊鏈接，務(wù)必使用強密碼，給所有的軟件打好補丁，等等。然而大量年度行業(yè)調(diào)查發(fā)現(xiàn)，員工仍是最薄弱的環(huán)節(jié)。比方說，有人掌握了充分的信息，或擅長精準(zhǔn)地操縱情緒，呼叫中心的員工就很可能會中計。據(jù)估計，多達(dá)82%的系統(tǒng)入侵涉及人類行為。

在生成式AI的時代，組織需要改變安全意識的培訓(xùn)方式，從制定政策來規(guī)范員工的行為，轉(zhuǎn)向用知識來武裝他們，使他們具備偵測新威脅的能力。也就是說，員工需要對黑客行為有足夠的了解，才能從規(guī)則遵守者轉(zhuǎn)變?yōu)橹鲃臃佬l(wèi)者。隨著生成式AI工具的誕生，傳統(tǒng)的信息安全政策不再有效，基于規(guī)則的方法也不再適用。

卡車司機若想確保安全，不能僅靠遵守交通法規(guī)，還要根據(jù)道路條件調(diào)整駕駛行為，例如雨天拉開車距，霧天減速慢行。同樣，員工必須應(yīng)用情景知識來應(yīng)對生成式AI帶來的網(wǎng)絡(luò)安全新挑戰(zhàn)。為此，企業(yè)不僅要對員工進(jìn)行培訓(xùn)，告訴他們哪些事應(yīng)當(dāng)做，哪些事不能做，還要幫助他們了解如何在一個極具挑戰(zhàn)性的新世界中保持安全。

企業(yè)需要改變既有策略，從以合規(guī)為基礎(chǔ)，轉(zhuǎn)向培養(yǎng)員工掌握新技能。培訓(xùn)可能需要由講師提供現(xiàn)場或在線指導(dǎo)，向員工傳授超出傳統(tǒng)規(guī)則型政策領(lǐng)域的新知識。目前的一刀切式培訓(xùn)是消極被動的，哪怕后續(xù)有測驗跟進(jìn)也是這樣。在AI時代，企業(yè)必須培訓(xùn)員工去適應(yīng)真實的或潛在的情景，并就應(yīng)對方式進(jìn)行現(xiàn)場討論。

除了通過員工安全意識培訓(xùn)來加強防御之外，企業(yè)還要遵循孫子的智慧——“守是攻之策”。要設(shè)想最糟糕的情景，想到不可想象之事，使用基于AI的模型來推測潛在的入侵載體或觸發(fā)因素，對其加以提防。一種策略是召集最優(yōu)秀的IT人員甚至其他公司的專家組成一支特戰(zhàn)隊，以頭腦風(fēng)暴的方式研究破壞分子可能會以怎樣的方式突破你的防御系統(tǒng)。然后，以此類事件為中心，想辦法提高公司的相關(guān)技術(shù)能力、增強員工的安全意識。一項調(diào)查發(fā)現(xiàn)，企業(yè)正在從傳統(tǒng)的紅隊/藍(lán)隊（攻/防）式網(wǎng)絡(luò)攻防演練，轉(zhuǎn)向更偏重于協(xié)作的“紫隊”模式，以加深對新型攻擊方法的了解，并認(rèn)識到哪些措施行之有效，哪些徒勞無功。

防御AI驅(qū)動黑客攻擊的最佳措施，很可能是利用AI增強信息能力。這意味著你不僅要制定更加快速而強大的防御策略，而且要為技術(shù)和人員提供更加智能化的策略。靠加高圍欄無法打敗那些變聰明了的僵尸，但是你可以應(yīng)用新的AI賦能工具來加固傳統(tǒng)防御體系，還可以重新思考你的傳統(tǒng)防御方法和基于規(guī)則的培訓(xùn)。在黑客GPT的恐怖新世界里，你必須馬上行動起來，才能確保公司安全無虞。