李慧，帥小應(yīng)，錢進，季寧依

（泰州學院計算機科學與技術(shù)學院，江蘇泰州 225300）

網(wǎng)絡(luò)安全課程是信息類專業(yè)學生的必修課程之一。由于它的技術(shù)更新周期短、覆蓋的知識面融合了大量前期課程的專業(yè)知識、實驗設(shè)備更新不及時等問題，一直是令學生望而生畏的課程之一，導致教學效果也不明顯[1]。為了改善教學現(xiàn)狀，泰州學院計算機科學與技術(shù)學院在網(wǎng)絡(luò)安全課程中引入辯論的模式，以激發(fā)學生的興趣、開拓學生的思維[2-3]。人工智能技術(shù)可以加快數(shù)據(jù)流動、提高數(shù)據(jù)賦能，是促進我國社會經(jīng)濟增長、開拓市場、提高國家競爭力的核心驅(qū)動之一。尤其是受人類大腦結(jié)構(gòu)和功能啟發(fā)而誕生的深度學習，極大地促進了網(wǎng)絡(luò)安全防護技術(shù)的發(fā)展，同時在網(wǎng)絡(luò)安全防護中帶來的威脅也越來越受到關(guān)注[4]。本次網(wǎng)絡(luò)安全課程的辯論賽以“人工智能在網(wǎng)絡(luò)安全防護中的利與弊”為主題，結(jié)合了網(wǎng)絡(luò)安全和人工智能兩門課程的專業(yè)內(nèi)容，同時人工智能技術(shù)也是網(wǎng)絡(luò)安全防護實踐中的支撐技術(shù)之一。

1 人工智能在網(wǎng)絡(luò)安全防護中的適用性

人工智能技術(shù)在網(wǎng)絡(luò)安全防護領(lǐng)域?qū)崿F(xiàn)了很大的突破，它能夠在網(wǎng)絡(luò)安全防護領(lǐng)域?qū)崿F(xiàn)數(shù)據(jù)賦能、產(chǎn)生價值的理由主要包括以下幾個方面：

1）處理大數(shù)據(jù)的能力

網(wǎng)絡(luò)安全分析對象包含整個系統(tǒng)的日常安全日志數(shù)據(jù)、網(wǎng)絡(luò)流量等，人工從這海量的數(shù)據(jù)中提取有效信息的效率極低。而人工智能中的機器學習、深度學習等方法有海量的訓練容量，可以多視角、全方面對數(shù)據(jù)資源進行清洗、分析，篩選有用的信息，并且訓練樣本越大數(shù)據(jù)分析得到的結(jié)果越接近真實結(jié)果。

2）區(qū)別“普遍和特殊”的能力

網(wǎng)絡(luò)安全防護的前提是合理界定普遍行為和特殊行為。一方面是通過大量的普遍行為提取出相應(yīng)的規(guī)則，用這些規(guī)則來區(qū)別特殊行為，從而識別出攻擊行為；另一方面是通過對特殊行為進行分析總結(jié)一定的規(guī)律，從而在大量資源中甄別攻擊行為，這也被稱為基于簽名的判斷機制。人工智能中的學習模型的構(gòu)建就是要實現(xiàn)通過基準數(shù)據(jù)集完成特征的提取，這與上述網(wǎng)絡(luò)安全中的普遍和特殊基準不謀而合。異常行為檢測、垃圾郵件過濾、惡意軟件檢測都是人工智能技術(shù)在上述基準上在網(wǎng)絡(luò)安全防護實現(xiàn)的產(chǎn)物。

3）處理模糊信息的能力

人工智能作為順應(yīng)時代的產(chǎn)物，不僅可以快速對已有的數(shù)據(jù)進行總結(jié)，還具有預(yù)測未來趨勢的功能。雖然這個預(yù)測函數(shù)是從模糊邏輯推導出結(jié)果的，但一般不需要特別準確的數(shù)據(jù)支持。因為在現(xiàn)實的網(wǎng)絡(luò)安全環(huán)境中存在大量不確定甚至不準確的模糊信息，將不同設(shè)備、層次的模糊信息進行關(guān)聯(lián)性分析，推導出可擴展的處理規(guī)則，并應(yīng)用到網(wǎng)絡(luò)安全防護水平的提高。

4）學習能力和處理非線性的能力

隨著用戶的不斷增加、網(wǎng)絡(luò)結(jié)構(gòu)的不斷擴展，當前網(wǎng)絡(luò)安全背后的復(fù)雜程度是不可估量的，目前掌握的信息都較為簡單、淺顯的。高層次的內(nèi)容往往是通過對低層次內(nèi)容的深入學習、研究、解讀和推理獲得的[5]。而人工智能在當前的環(huán)境中不斷學習，可以進一步深入掌握網(wǎng)絡(luò)安全的高層次信息、提高網(wǎng)絡(luò)安全防護的能力。

網(wǎng)絡(luò)自身的拓撲結(jié)構(gòu)導致了它是非線性控制的對象。人工智能的非線性能力主要是通過人類對非線性函數(shù)的正確處理獲得的。人工智能技術(shù)的發(fā)展使機器不僅能有傳統(tǒng)的技術(shù)操作能力，也有人類可以解決非線性問題的優(yōu)勢，從而改善了網(wǎng)絡(luò)的安全防護現(xiàn)狀。

5）自適應(yīng)能力

人工智能技術(shù)在網(wǎng)絡(luò)安全的實現(xiàn)過程是一個雙方互相博弈、共同進步的結(jié)果。在安全檢測過程中應(yīng)用了支持向量機(SVM)的技術(shù)并調(diào)整了SVM技術(shù)來檢測一些攻擊。很快通過學習了解防御者的模型并相應(yīng)調(diào)整自身行為來阻止檢測。隨后通過對抗性支持向量機技術(shù)能夠了解攻擊者正在做哪些行為并進行自我調(diào)整，以便它可以檢測到攻擊。隨著時間的推移，就變成了攻擊者和防御者之間博弈，并且促進技術(shù)的不斷發(fā)展。

2 人工智能給網(wǎng)絡(luò)安全防護帶來的利與弊

本次針對網(wǎng)絡(luò)安全中人工智能的利與弊組織了一場別開生面的辯論會，圍繞人工智能技術(shù)給網(wǎng)絡(luò)安全防護帶來的作用，兩方隊伍的學生針對自己的觀點做了大量的前期文獻調(diào)研，展開了激烈的角逐提供了大量的精彩論點。他們用直白的、口語化的語言展示了這兩門最新的科學技術(shù)的思辨關(guān)系。這里對其中的主要觀點進行了總結(jié)。

正方：人工智能給網(wǎng)絡(luò)安全防護帶來了更有效的作用

1）自動惡意軟件防御；

2）代碼檢測與安全運維；

3）感知上下文的行為分析；

4）安全態(tài)勢在線監(jiān)控及預(yù)測；

5）漏洞識別及修復(fù)；

6）實時流數(shù)據(jù)分析以檢測惡意內(nèi)部人員。

總體來說，人工智能技術(shù)充分發(fā)揮了自身的特點，在網(wǎng)絡(luò)安全防護領(lǐng)域?qū)⒁酝姆雷o經(jīng)驗、現(xiàn)有的防護技術(shù)和大數(shù)據(jù)學習到的防護知識充分整合，實現(xiàn)一個自動檢測、快速響應(yīng)、實時監(jiān)控、提前預(yù)測的智能化安全防護系統(tǒng)。在數(shù)字安全、物理安全和政治安全等各個網(wǎng)絡(luò)安全領(lǐng)域都帶來了有效的安全防護措施。數(shù)字安全領(lǐng)域包括上述利用人工智能系統(tǒng)實施各種檢測和防御措施；物理安全領(lǐng)域包括人工智能技術(shù)帶來的自動駕駛和無人機被用來對路況、實時環(huán)境的檢測和控制；政治安全領(lǐng)域包括剖析當前的安全態(tài)勢并有針對性地進行宣傳活動，為國家安全、社會秩序、市場有序競爭、社會公眾的個人利益都帶來了極大的便利和保障。

反方：人工智能給網(wǎng)絡(luò)安全防護帶來了更多的安全威脅

1）隱私數(shù)據(jù)泄露；

2）數(shù)據(jù)偽造與篡改；

3）定制化網(wǎng)絡(luò)釣魚（金融欺詐、網(wǎng)絡(luò)恐怖主義、網(wǎng)絡(luò)勒索等）；

4）智能化漏洞搜索、基于漏洞的定制攻擊；

5）自主化、規(guī)?；鼐芙^服務(wù)攻擊；

6）未來人工智能將脫離人類控制。

綜上所述，可以將人工智能給網(wǎng)絡(luò)安全領(lǐng)域帶來的威脅總結(jié)為威脅格局的三個變化：現(xiàn)有威脅的擴大、新威脅的出現(xiàn)和威脅的典型特征的改變[6]。通過人工智能系統(tǒng)的可擴展使用，任務(wù)中涉及人工的成本極大地降低了。然后，犯罪者可以使用低成本技術(shù)（例如大規(guī)模魚叉式網(wǎng)絡(luò)釣魚）廣泛攻擊更多目標，這是現(xiàn)有威脅的擴大。新的威脅也可能出現(xiàn)以完成人們以往無法完成的任務(wù)。例如，當黑客試圖進行網(wǎng)絡(luò)釣魚時，黑客可以通過使用受害者家人或朋友的真實模仿聲音來欺騙受害者。當人工智能的高效攻擊變得更加普遍時，威脅的典型特征將被破壞。例如，為了有效應(yīng)對釣魚攻擊，未來強人工智能可能訓練出攻擊性強、目標不清晰的攻擊技術(shù)。

3 沉浸式互動，促進多維度應(yīng)用能力培養(yǎng)

1）開展交互式學習

以往的課程由于大多是老師的單方面授課，課堂的交互有限，無法充分展示學生的積極性。這次以辯論為主題的課程安排充分調(diào)動了學生的積極性，學生從接到通知后就非常激動，并且主動地參與進來。他們在分組完成后就大量查閱文獻，并且尋找相關(guān)實際案例作為論據(jù)。學生在做課后總結(jié)時表示通過這種交互式學習的過程大大拓寬了自己的視野，發(fā)散了思維。

2）開拓辯證思維

以往無論是網(wǎng)絡(luò)安全還是人工智能技術(shù)課程都是用非黑即白的絕對對立的思維方式看待兩者之間的關(guān)系，通過本次辯論實驗，學生學會了用辯證的立體視角看待網(wǎng)絡(luò)安全與人工智能。在網(wǎng)絡(luò)安全防護實踐中可以使用人工智能技術(shù)加以強化，在應(yīng)用人工智能技術(shù)的相關(guān)實訓案例中又對于安全邊界的設(shè)置有更深的理解和掌握，建立了更加全面、完善的知識體系。

3）增強法律意識

同時，辯論過程中反方小組列舉了若干違反了《中華人民共和國網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)產(chǎn)品安全漏洞管理規(guī)定》的網(wǎng)絡(luò)安全案例，幫助學生對網(wǎng)絡(luò)安全的法規(guī)條例有了更清晰的理解。學生理解了“沒有買賣就沒有傷害”，通過制定和完善大數(shù)據(jù)安全和隱私保護的配套法律法規(guī)，從源頭阻止利用人工智能的漏洞來獲取利益的行為。

4）提高安全素養(yǎng)

本信息類專業(yè)學生在培養(yǎng)過程中以往只重視技術(shù)能力的掌握，網(wǎng)絡(luò)安全相關(guān)的課程大多開設(shè)在高年級（第七學期），并且在學科專業(yè)知識體系中缺乏網(wǎng)絡(luò)安全意識的培養(yǎng)和網(wǎng)絡(luò)安全基礎(chǔ)知識的鍛煉。通過本課程實驗的安排，在人工智能等專業(yè)技能課程中增加了安全知識的滲透，加強了安全素養(yǎng)的培養(yǎng)，學生表示今后無論是在生活中使用網(wǎng)絡(luò)還是利用人工智能解決問題的時候都會加強安全意識并將本次辯論收集信息時掌握的安全知識加以應(yīng)用。

5）培養(yǎng)全面應(yīng)用型人才

正反雙方學生在辯論過程中將抽象的信息轉(zhuǎn)化為語言后流暢、清晰地進行表達，面對對方問題隨機應(yīng)變、靈活應(yīng)對，幫助學生在辯論過程中“越辯越清晰”，對網(wǎng)絡(luò)安全與人工智能課程的理論知識進行了邏輯的、合理的總結(jié)。并且提高了臨場應(yīng)變的能力，鍛煉了表達能力，邏輯思維能力，幫助學生成長為更全面、更具思想深度的應(yīng)用型人才。

4 守住底線、保持清醒、理解技術(shù)

網(wǎng)絡(luò)安全和人工智能都是當前信息科技中極為重要的部分，學生通過理論和實踐教學掌握了這兩門課程中的核心技術(shù)。然而在實際使用過程中，很有可能會出于好奇心甚至在自己不經(jīng)意的情況下利用其中的技術(shù)做出侵害他人權(quán)益或者違反相關(guān)法律規(guī)定的事情，例如獲取他人的隱私、違規(guī)獲取第三方未授權(quán)的信息。通過這次人工智能與網(wǎng)絡(luò)安全主題的辯論，學生經(jīng)過廣泛查閱文獻、研讀網(wǎng)絡(luò)安全相關(guān)法律法規(guī)政策、調(diào)查實際生活中使用人工智能技術(shù)中違反法規(guī)的案例等自主學習，充分了解了人工智能技術(shù)在使用過程中也是有明顯行為邊界的，跨過這些邊界的行為會違反《中華人民共和國網(wǎng)絡(luò)安全法》中的法律規(guī)范。例如利用機器學習的方法獲取網(wǎng)絡(luò)中的信息時，其中抓獲的數(shù)據(jù)中包含一些未被處理掉的個人隱私信息。如果肆意散播這類數(shù)據(jù)，或者利用這些數(shù)據(jù)獲取利用或做出傷害當事人的行為，都是違法并需要承擔相應(yīng)的法律責任的。通過這次辯論，學生一方面產(chǎn)生了使用人工智能技術(shù)的底線意識，以后無論是在學習、科研還是工作場合都要保持清醒，合理地規(guī)范自己的行為。另一方面也提高了自己的網(wǎng)絡(luò)安全防護意識，并在過程中掌握了防范手段，在日后的網(wǎng)絡(luò)活動中可以更好地保護自身的利益。

5 結(jié)束語

本次網(wǎng)絡(luò)安全課程中針對網(wǎng)絡(luò)安全防護中人工智能帶來的利與弊的問題采用了辯論的方式，為教學實驗改革提供了新思路，展開了新模式。辯論賽得到了學生的積極反饋，為當前以理論和技術(shù)為核心的課程的教學實驗改革提供了一種可行的交互式、沉浸式學習模式。和人工智能一樣，任何科學技術(shù)的發(fā)展都像是一把雙刃劍，會促進社會一部分的進步也會在另一方面產(chǎn)生對應(yīng)的副作用，這些最新的技術(shù)是在被不斷權(quán)衡、評估、調(diào)整的過程中動態(tài)、有序地發(fā)展的。在課程教育過程，通過辯論的形式幫助學生學會辯證思考學到的技術(shù)在社會中的作用，讓他們意識到科學技術(shù)是為了給人們帶來便利而產(chǎn)生的，但也會被用于傷害他人的利益，有助于學生畢業(yè)后在從事相關(guān)領(lǐng)域的職業(yè)時謹記恪守嚴格的職業(yè)道德、遵守明確的法律底線，期望為社會培養(yǎng)出守底線、講道德、有技術(shù)的優(yōu)秀專業(yè)人才。