張晶

摘 要 針對模式識別課程特色不鮮明、方法理論陳舊、實踐內(nèi)容相對薄弱等情況，通過緊跟人工智能學術(shù)前沿、融合學術(shù)研究驅(qū)動的教學思想探究模式識別教學方法。從課程內(nèi)容和實驗設(shè)計等環(huán)節(jié)出發(fā)，注重關(guān)鍵技術(shù)理論和實踐相結(jié)合，幫助學生掌握模式識別領(lǐng)域的經(jīng)典及前沿方法和研究方向，通過半開放實驗作業(yè)在提高學生對理論知識的深入理解的同時，培養(yǎng)學生的創(chuàng)新性思維和科研素養(yǎng)。

關(guān)鍵詞 模式識別;研究生教育;課程建設(shè);教學實踐

中圖分類號：G424 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻標識碼：A ? ?DOI：10.16400/j.cnki.kjdk.2021.31.041

The Exploration of Course Construction and Teaching Practice for

Pattern Recognition Course

ZHANG Jing

（College of Software， Beihang University， Beijing 100191）

Abstract In view of the lack of distinctive characteristics of the Pattern Recognition course， the outdated method and theory， and the relatively weak practical content， the Pattern Recognition teaching method is explored by closely following the academic frontier of artificial intelligence and integrating the teaching ideas driven by academic research. This paper focuses on the course content and experimental design as well as the combination of key technical theory and practice to help students master the classic and cutting-edge methods and research directions in the field of pattern recognition， improve students' theoretical knowledge through semi-open experimental assignments， and cultivate students' innovative thinking and scientific research literacy.

Keywords pattern recognition; postgraduate education; course construction; teaching practice

2017年以來，我國先后發(fā)布了《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案》《新一代人工智能發(fā)展規(guī)劃》等戰(zhàn)略性文件，系統(tǒng)布局我國人工智能相關(guān)技術(shù)產(chǎn)業(yè)及應用的發(fā)展。隨之而來，人工智能人才培養(yǎng)成為教育界和產(chǎn)業(yè)界共同關(guān)注的焦點。[1]自2012年以來，以深度學習為代表的人工智能技術(shù)在各個領(lǐng)域激發(fā)了層出不窮的新算法新技術(shù)。在圖像識別、機器翻譯等應用上，其性能已經(jīng)遠遠超越了傳統(tǒng)機器學習和模式識別算法。在過去近十年中，深度學習已經(jīng)成為新一代人工智能的發(fā)展主線，涌現(xiàn)出前所未有的新方法、新問題。高校承擔著主要的新一代人工智能下的人才培養(yǎng)任務(wù)，應該順應時代、與時俱進，加強人工智能相關(guān)課程的建設(shè)。為了貫徹國家發(fā)展戰(zhàn)略，助力中國人工智能行業(yè)的發(fā)展，探索和促進人工智能領(lǐng)域人才培養(yǎng)，很多高校同時開設(shè)機器學習和模式識別等人工智能相關(guān)課程。[2][3]北京航空航天大學軟件學院的軟件工程和電子信息方向開設(shè)了模式識別課程作為一門重要的專業(yè)理論核心課程，其主要內(nèi)容是對數(shù)據(jù)進行自動模式發(fā)現(xiàn)、特征學習與識別等理論技術(shù)。本課程主要講授模式識別領(lǐng)域的基礎(chǔ)理論和經(jīng)典方法，包括模式預處理、特征提取和表示、模式分析、模式分類等主要內(nèi)容。然而，課程內(nèi)容受經(jīng)典課程影響，其覆蓋的理論和方法在新一代人工智能浪潮下略顯陳舊。此外，多門相關(guān)課程同時開設(shè)導致不同課程之間內(nèi)容重疊度較大，影響學生的學習興趣。而且，經(jīng)典課程以理論講授為主，忽略了學生實踐和創(chuàng)新能力的培養(yǎng)。因此，模式識別作為人工智能方向的重要分支學科之一，現(xiàn)有的課程設(shè)置存在內(nèi)容陳舊、特色不鮮明、實踐環(huán)節(jié)薄弱、對學生的創(chuàng)新能力培養(yǎng)欠缺等問題。

本文分析模式識別課程在內(nèi)容設(shè)置以及教學和考核方案面臨的問題，提出課程內(nèi)容設(shè)計方案，以及理論講授結(jié)合實踐作業(yè)的教學模式，結(jié)合模式識別領(lǐng)域的發(fā)展前沿，激發(fā)學生的創(chuàng)新思維和科研興趣。

1 模式識別課程設(shè)計

1.1 課程目標

通過具有特色的課程內(nèi)容設(shè)置以及創(chuàng)新能力導向的教學方法，幫助學生全面清晰的了解領(lǐng)域的發(fā)展史，對經(jīng)典方法有理論層面和感知層面的理解，對當前的研究前沿和主流方法有客觀的認識，能夠針對某個特定的研究問題提出創(chuàng)新想法，拓展學生的創(chuàng)新視野和創(chuàng)新意識。并通過課程實驗提高學生的理論知識理解、動手編程實踐、文獻閱讀、算法復現(xiàn)、結(jié)果分析、報告撰寫等綜合能力。

1.2 特色突出的課程內(nèi)容

現(xiàn)有模式識別課程主要參考Duda等編著的《模式分類》、[4]Bishop編著的《Pattern Recognition and Machine Learning》 [5]以及周志華教授編著的《機器學習》 [6]等教材。其講授內(nèi)容更多關(guān)注的是傳統(tǒng)機器學習算法，涉及的技術(shù)主要包括：貝葉斯決策理論、概率密度估計、線性分類器、非線性分類器、近鄰法、決策樹、特征提取、無監(jiān)督模式識別等。

然而，模式識別在機器學習相關(guān)技術(shù)的基礎(chǔ)上，同樣需要關(guān)注的是針對不同類型的數(shù)據(jù)發(fā)現(xiàn)、學習與抽取具有魯棒性、可泛化性、可遷移性的特征或模式。這些內(nèi)容在現(xiàn)有模式識別課程中尚未得到充分的體現(xiàn)，導致模式識別課程缺乏其獨特性。因此，本課程的教學中，在經(jīng)典機器學習算法的基礎(chǔ)上，為突出模式識別領(lǐng)域特點，重點介紹不同數(shù)據(jù)類型（比如圖像、文本、時序數(shù)據(jù)）的模式發(fā)現(xiàn)和特征抽取方法，以及具有魯棒性、可泛化性、可遷移性、可解釋性的特征學習前沿方法。因此，本課程的教學內(nèi)容設(shè)計為三大主要的模塊：

第一，機器學習及深度學習簡介。主要介紹基本的機器學習算法基礎(chǔ)概念、核心思想和主要步驟，并從線性模型到非線性模型，從神經(jīng)網(wǎng)絡(luò)到深度學習，沿著機器學習的發(fā)展脈絡(luò)讓學生對機器學習和深度學習的發(fā)展和核心內(nèi)容有感性的認識。

第二，模式發(fā)現(xiàn)和特征表達學習。在學生了解了機器學習的核心思想基礎(chǔ)上，介紹特定數(shù)據(jù)類型（比如一般數(shù)據(jù)，圖像數(shù)據(jù)，文本數(shù)據(jù)，時序數(shù)據(jù)等）的模式發(fā)現(xiàn)和特征表達學習方法。

第三，可遷移、可泛化、可解釋及魯棒的特征表達。通過介紹模式識別中的針對模式發(fā)現(xiàn)和特征表達的可遷移性、可泛化性、可解釋性及魯棒性的前沿方法，幫助學生理解可遷移、可泛化、可解釋及魯棒的特征表達如何成為模式識別領(lǐng)域的前沿科學研究問題和實際落地的新需求與技術(shù)瓶頸，以及對相應的基本解決方法的感性認識。

1.3 創(chuàng)新思維導向的教學方法

課堂上的理論教學是學生掌握基本知識的主要渠道，模式識別課程內(nèi)容的知識點具有跨度較大、原理抽象、不易理解等特點，限制學生的創(chuàng)新性思維發(fā)展。此外，在人工智能領(lǐng)域迅速發(fā)展的背景下，模式識別課程中涉及的經(jīng)典和前沿算法和理論是培養(yǎng)創(chuàng)新性思維和拓展創(chuàng)新性視野的優(yōu)秀案例。因此，教學過程中并提出創(chuàng)新思維導向的教學方法：

首先，幫助學生理解模式識別領(lǐng)域的發(fā)展過程、構(gòu)建整個領(lǐng)域的整體知識體系。創(chuàng)新性思維的建立通常以全面完善的知識儲備為前提。因此，在介紹算法過程中，從傳統(tǒng)的經(jīng)典算法出發(fā)到前沿技術(shù)的發(fā)展歷程，讓學生在掌握經(jīng)典的前提下，了解前沿技術(shù)的發(fā)展依據(jù)和動向，從而建立領(lǐng)域發(fā)展的整體知識體系并理解本領(lǐng)域的系統(tǒng)思維方式。比如，從一般數(shù)據(jù)的經(jīng)典主成分分析特征提取方法到前沿的深度自編碼器的發(fā)展，從圖像數(shù)據(jù)的傳統(tǒng)的濾波器算子到基于卷積神經(jīng)網(wǎng)絡(luò)的深度學習模型的發(fā)展，從文本及時序數(shù)據(jù)的word2vector和RNN模型到自注意力機制、Transformer模型和BERT語言模型的發(fā)展等。建立經(jīng)典方法和前沿技術(shù)之間的聯(lián)系，幫助學生理解模式識別領(lǐng)域發(fā)展歷史、規(guī)律和方向，對創(chuàng)新思路和角度有感性的認知。

其次，引入模式識別領(lǐng)域前沿問題，消除學生對本領(lǐng)域的理解偏見，幫助學生建立批判性思維，培養(yǎng)其創(chuàng)新思維和能力。比如，基于深度學習的數(shù)據(jù)驅(qū)動前沿模式識別算法可以實現(xiàn)有效的模式發(fā)現(xiàn)和特征表達，在多個領(lǐng)域的不同應用中取得極大的成功，再比如人臉識別等任務(wù)上甚至超越了人類智能。但這些算法的優(yōu)越性能多數(shù)僅局限于經(jīng)過人工選擇的標準數(shù)據(jù)集，其在真實場景中的泛化能力仍然較低。僅介紹此類算法將造成學生對模式識別乃至整個人工智能領(lǐng)域的理解偏見。因此，將遷移學習、魯棒性學習、可解釋的人工智能等前沿課題引入到模式識別課程中，這些算法是體現(xiàn)創(chuàng)新性和批判性思維的良好案例，啟發(fā)學生對模式識別領(lǐng)域進行深入的思考，鍛煉其批判性思維，培養(yǎng)創(chuàng)新性思維、意識和能力。

最后，在培養(yǎng)學生的創(chuàng)新思維、創(chuàng)新意識和創(chuàng)新能力的同時，注重創(chuàng)新視野的拓展。課程內(nèi)容中引入模式識別與機器學習等領(lǐng)域頂級期刊和會議的最新研究成果。在對前沿問題和方法進行介紹的過程中，從研究動機、觀察發(fā)現(xiàn)以及創(chuàng)新性體現(xiàn)等方面出發(fā)，再到核心算法的介紹。指引學生了解正確的研究思路，培養(yǎng)學生的批判性思維和創(chuàng)新能力。同時也幫助學生了解技術(shù)發(fā)展的熱點和趨勢，培養(yǎng)學生對技術(shù)發(fā)展的洞察力，激發(fā)學生的創(chuàng)新意識。

2 實驗案例的設(shè)計與探索

2.1 實驗設(shè)置目標

模式識別是一門實踐性強的學科，要求學生不僅有扎實的理論基礎(chǔ)，還要有動手實踐和解決問題的能力?，F(xiàn)有模式識別課程實驗設(shè)置存在多方面問題。首先，實驗環(huán)節(jié)應該與教學內(nèi)容統(tǒng)一規(guī)劃，構(gòu)成總體的建設(shè)思路和體系。現(xiàn)有的模式識別課程實驗設(shè)計各個知識點互相割裂，學生無法建立整體概念。其次，實驗案例通常比較陳舊，缺乏與實際問題的結(jié)合以及最新研究成果的展現(xiàn)，阻礙學生的實踐熱情和創(chuàng)新性思維鍛煉。最后，與教學配套的實驗平臺建立不足導致實驗內(nèi)容簡單，與前沿問題嚴重脫軌。因此，實驗設(shè)置目標如下：第一，實驗設(shè)計緊扣教學內(nèi)容，融合多個知識點，構(gòu)建實驗內(nèi)容體系。第二，以實際科研問題為導向，引入前沿技術(shù)，設(shè)計從易到難的半開放實驗項目。第三，構(gòu)建大數(shù)據(jù)環(huán)境下的實驗平臺，避免由于軟硬件環(huán)境限制導致的實驗內(nèi)容限制。

2.2 實驗案例的規(guī)劃與設(shè)計

圍繞教學內(nèi)容設(shè)置共設(shè)計了4個課程實驗項目作業(yè)，每個作業(yè)均以經(jīng)典及前沿實際研究問題為導向，最大程度上涵蓋了課上講授過的不同算法和內(nèi)容。每個實驗項目都包含簡單版本和進階版本的由易到難的不同難度等級。學生可以根據(jù)自己的基礎(chǔ)和研究背景選擇實現(xiàn)不同難度等級。簡單版本可以僅通過微調(diào)參數(shù)和修改模型架構(gòu)實現(xiàn)，因此，即使沒有足夠編程及相關(guān)領(lǐng)域研究基礎(chǔ)的同學也能很好地完成。通過完成基礎(chǔ)版本可以幫助沒有相關(guān)背景的同學對模式識別領(lǐng)域有一個感性的認識，實現(xiàn)入門的目標。進階版本要求學生通過自主查找、閱讀相關(guān)文獻，動手實現(xiàn)其核心算法，對基礎(chǔ)版本算法進行改進并提高性能。具體而言，4個課程項目的選擇依據(jù)、主要任務(wù)、目標及要求如下：

基于語音信號的音素分類。本項目的主要任務(wù)是根據(jù)預處理后的語音信號，設(shè)計神經(jīng)網(wǎng)絡(luò)架構(gòu)，實現(xiàn)語音音素分類任務(wù)。音素分類是語音識別任務(wù)的第一步，其識別效果直接影響后續(xù)的語音識別性能。本項目的目標是幫助學生了解語音信號數(shù)據(jù)處理方式和特征表示方法，并通過自主設(shè)計分類模型熟悉神經(jīng)網(wǎng)絡(luò)的設(shè)計及優(yōu)化方法?；A(chǔ)版本可以僅通過設(shè)計基本神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)實現(xiàn)。進階版本需要自主設(shè)計數(shù)據(jù)預處理、優(yōu)化模型架構(gòu)、選擇合適的損失函數(shù)、調(diào)整訓練策略、加入正則等方式提高特征的表達和泛化能力，在不公開的測試集上取得更高的識別率。

基于卷積神經(jīng)網(wǎng)絡(luò)（CNN） [7]的物體識別算法。本項目的主要任務(wù)是通過設(shè)計卷積神經(jīng)網(wǎng)絡(luò)，實現(xiàn)基于圖像的物體識別算法。物體識別/分類是計算機視覺中最基本的任務(wù)之一。深度卷積神經(jīng)網(wǎng)絡(luò)作為新一代人工智能領(lǐng)域的突破性成果，在以計算機視覺為代表的等眾多領(lǐng)域得到廣泛應用。卷積神經(jīng)網(wǎng)絡(luò)主要針對圖像等高維矩陣或張量數(shù)據(jù)，通過卷積算子、感受野、參數(shù)共享、多層次抽象特征學習等機制，在基于圖像數(shù)據(jù)的視覺任務(wù)中實現(xiàn)性能的飛躍式提升。本項目的目標是幫助學生了解卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)，并手動設(shè)計卷積神經(jīng)網(wǎng)絡(luò)模型架構(gòu)，通過提供的有標簽食物圖像數(shù)據(jù)，實現(xiàn)食物物體分類任務(wù)。進階版本要求設(shè)計不同數(shù)據(jù)增廣方法，并利用額外無標簽數(shù)據(jù)，設(shè)計半監(jiān)督學習或自監(jiān)督學習損失，進一步提高食物分類識別率。

基于生成對抗網(wǎng)絡(luò)（GAN）的人像生成。本項目的任務(wù)是熟悉一種無監(jiān)督的生成式模型--生成對抗網(wǎng)絡(luò)，實現(xiàn)人像的生成任務(wù)。與基于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)和深度卷積神經(jīng)網(wǎng)絡(luò)的判別模型不同，生成對抗網(wǎng)絡(luò)屬于生成模型，其目標是根據(jù)某種隱含信息，隨機產(chǎn)生觀測數(shù)據(jù)。Ian Goodfellow等人于2014年提出了生成對抗網(wǎng)絡(luò) [8]（Generative Adversarial Nets）在深度學習領(lǐng)域掀起了一場革命，產(chǎn)生了一些重大的技術(shù)突破。其學習性質(zhì)是無監(jiān)督的。因此，作為生成模型和無監(jiān)督學習代表性算法，本項目的目標是熟悉GAN的核心思想，實現(xiàn)基本的GAN模型，并應用于人像生成任務(wù)。由于基本的GAN模型具有訓練不穩(wěn)定，生成質(zhì)量欠佳等缺點，進階版本要求通過借鑒WGAN、SNGAN、StyleGAN、BigGAN等思想，改進現(xiàn)有模型，實現(xiàn)更高質(zhì)量的生成效果。

基于增量遷移學習的跨域手寫字識別。為了讓學生熟悉可遷移、可泛化的特征學習方法，本項目的任務(wù)是實現(xiàn)多種不同增量遷移學習算法，在跨域手寫字識別任務(wù)上進行驗證。現(xiàn)有模式識別算法多數(shù)無法有效實現(xiàn)增量學習的目標，即在舊任務(wù)上學好的模型在遷移到新任務(wù)時通常可以幫助新任務(wù)的性能。然而，提高新任務(wù)的性能往往使得新模型對舊任務(wù)產(chǎn)生由于災難性遺忘導致的性能大幅度下降。本作業(yè)的目標是通過復現(xiàn)最新增量學習算法，并與基于深度學習的基線方法進行對比，通過觀察訓練曲線，直觀理解增量學習算法對跨域任務(wù)的非遺忘性的影響?；A(chǔ)版本要求學生實現(xiàn)一種經(jīng)典的增量學習算法，并輸出學習曲線，對比和分析增量學習與基線方法的結(jié)果差別。進階版本要求學生通過自主閱讀和實現(xiàn)最新增量學習方法，與經(jīng)典方法進行對比分析。

為了讓學生高效地設(shè)計和實現(xiàn)模式識別算法，要求學生使用統(tǒng)一的計算平臺AI Studio，使用python編程語言及由百度開發(fā)的PaddlePaddle開源框架完成所有的課程項目。AI Studio提供充足的計算資源，對高質(zhì)量完成作業(yè)項目提供了算力上的保障。另外，作為課程的重要考核依據(jù)之一，統(tǒng)一的平臺能夠保證課程項目實驗結(jié)果的公平性，實現(xiàn)完善高效的評分機制。

2.3 實驗考核方式

每個課程實驗細節(jié)和要求在講授相應教學知識點之后公布給學生。為了給學生足夠的自主調(diào)研、學習、代碼實現(xiàn)和調(diào)試時間，每次作業(yè)要求學生在發(fā)布之后的3周左右時間內(nèi)完成。每個課程項目的具體任務(wù)和要求以詳細文檔的形式發(fā)布給學生，讓學生對作業(yè)目標、要求及考核方式有清晰明確的認知。最終按照學生提交的作業(yè)代碼、實驗結(jié)果和報告內(nèi)容等按照評分細則進行打分。為了讓學生重視理論與實踐的結(jié)合，成績構(gòu)成主要由課程實踐項目組成（每個作業(yè)20%～25%）。課程實踐中涉及的內(nèi)容能夠考核學生的包括理論知識理解、動手編程實踐、文獻閱讀、算法復現(xiàn)、結(jié)果分析、報告撰寫等綜合能力。

3 結(jié)論

為適應新一代人工智能規(guī)劃對人才培養(yǎng)的新要求，從課堂教學、實驗設(shè)計和考核方法等環(huán)節(jié)進行探索，進行了“模式識別”課程建設(shè)方案的探究。通過突出模式識別課程特色，引入領(lǐng)域最前沿技術(shù)、方法和科研問題，設(shè)置半開放課程實驗項目，激發(fā)學生對課程內(nèi)容的興趣，幫助學生掌握最前沿技術(shù)，提升學生的科研和工程能力。從學生的反饋中發(fā)現(xiàn)學生對課程設(shè)置較為滿意。隨著時代的發(fā)展，模式識別領(lǐng)域不斷涌現(xiàn)新方法、新理論、新技術(shù)、新問題，“模式識別”課程將不斷積極探索，以適應新一代人工智能對創(chuàng)新人才培養(yǎng)的新需求。

參考文獻

[1] 王萬森.適應社會需求，辦好新一代人工智能教育[J].計算機教育，2017，10：5.

[2] 侯志強，余旺盛，沈明華，等.模式識別課程教學改革實踐[J].計算機教育，2017.

[3] 張立言.面向大學生創(chuàng)新創(chuàng)業(yè)能力培養(yǎng)的本科生模式識別課程改革思路[J].科教導刊（中旬刊），2018（29）：25-27.

[4] Duda R O，Hart P E，Stork D G.模式分類[M].機械工業(yè)出版社，2003.

[5] Bishop C M. Pattern Recognition and Machine Learning[M].Springer，2006.

[6] 周志華.機器學習[M].清華大學出版社，2015.

[7] Krizhevsky， A， Sutskever， I， Hinton， G E. Imagenet classification with deep convolutional neural networks[C].Advances in neural information processing systems， 2012：1097-105.

[8] Goodfellow I， Pouget-Abadie J， Mirza M， 等. Generative adversarial nets[C].Advances in neural information processing systems，2014.