（吉林廣播電視大學(xué)吉林省遠程教育技術(shù)科技創(chuàng)新中心，吉林 長春 130022）

深度學(xué)習(xí)（Deep Learning），也叫階層學(xué)習(xí)，是機器學(xué)習(xí)領(lǐng)域研究的分支，它是學(xué)習(xí)樣本數(shù)據(jù)的表示層次和內(nèi)在規(guī)律，在學(xué)習(xí)的過程中獲取某些信息，對于數(shù)據(jù)的解釋有巨大幫助。比如對文字數(shù)據(jù)的學(xué)習(xí)，在網(wǎng)絡(luò)上獲取關(guān)鍵字，對圖像數(shù)據(jù)的學(xué)習(xí)，進行人臉識別等等。

一、深度學(xué)習(xí)發(fā)展概述

深度學(xué)習(xí)是機器學(xué)習(xí)領(lǐng)域里一種對數(shù)據(jù)進行表征學(xué)習(xí)的方法。一句話總結(jié)三者之間的關(guān)系就是：“機器學(xué)習(xí)，實現(xiàn)人工智能的方法；深度學(xué)習(xí)，實現(xiàn)機器學(xué)習(xí)的技術(shù)。深度學(xué)習(xí)目前是機器學(xué)習(xí)和人工智能領(lǐng)域研究的主要方向，為計算機圖形學(xué)、計算機視覺等領(lǐng)域帶來了革命性的進步。

機器學(xué)習(xí)最早在1980 年被提出，1984 年分類與回歸樹出現(xiàn)，直到1986 年，Rumelhart 等人反向傳播（Back Propagation，BP）算法的提出，解決了感知模型只能處理線性分類的問題，1989 年出現(xiàn)的卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN）也因此得到了一定的發(fā)展。在1990 年至2012年，機器學(xué)習(xí)逐漸成熟并施以應(yīng)用，Geoffrey Hinton 在2006年設(shè)計出了深度信念網(wǎng)絡(luò)，解決了反向傳播算法神經(jīng)網(wǎng)絡(luò)中梯度消失的問題，正式提出了深度學(xué)習(xí)的概念，逐漸走向深度學(xué)習(xí)飛速發(fā)展的時期。隨后，各種具有獨特神經(jīng)處理單元和復(fù)雜層次結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)不斷涌現(xiàn)，深度學(xué)習(xí)技術(shù)不斷提高人工智能領(lǐng)域應(yīng)用方面的極限。

二、深度學(xué)習(xí)主要模型

1、卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNN）是指有著深度結(jié)構(gòu)又包含著卷積計算的前饋神經(jīng)網(wǎng)絡(luò)。卷積物理上理解為系統(tǒng)某一時刻的輸出是有多個輸入共同疊加的結(jié)果，就是相當(dāng)于對一個原圖像的二次轉(zhuǎn)化，提取特點的過程。卷積神經(jīng)網(wǎng)絡(luò)實際上就是一個不斷提取特征，進行特征選擇，然后進行分類的過程，卷積在CNN 里，首先對原始圖像進行特征提取。所以卷積神經(jīng)網(wǎng)絡(luò)能夠得到數(shù)據(jù)的特征，在模式識別、圖像處理等方面應(yīng)用廣泛。

一個卷積神經(jīng)網(wǎng)絡(luò)主要由三層組成，即卷積層（convolution layer）、池化層（pooling layer）、全連接層（fully connected layer）。卷積層是卷積神經(jīng)網(wǎng)絡(luò)的核心部分，通過一系列對圖像像素值進行的卷積運算，得到圖像的特征信息，同時不斷地加深節(jié)點矩陣的深度，從而獲得圖像的深層特征；池化層的本質(zhì)是對特征圖像進行采樣，除去冗雜信息，增加運算效率，不改變特征矩陣的深度；全連接將層間所有神經(jīng)元兩兩連接在一起，對之前兩層的數(shù)據(jù)進行分類處理。CNN 的訓(xùn)練過程是有監(jiān)督的，各種參數(shù)在訓(xùn)練的過程中不斷優(yōu)化，直到得到最好的結(jié)果。目前，卷積神經(jīng)網(wǎng)絡(luò)的改進模型也被廣泛研究，如全卷積神經(jīng)網(wǎng)絡(luò)（Fully Convolutional Neural Networks，F(xiàn)CN）和深度卷積神經(jīng)網(wǎng)絡(luò)（Deep Convolutional Neural Networks，DCNN）等等。

2、循環(huán)神經(jīng)網(wǎng)絡(luò)

區(qū)別于卷積神經(jīng)網(wǎng)絡(luò)在圖片處理領(lǐng)域的應(yīng)用，循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）主要應(yīng)用在自然語言處理領(lǐng)域。RNN 最大的特點就是神經(jīng)元的輸出可以繼續(xù)作為輸入，再次利用到神經(jīng)元中循環(huán)使用。

RNN 是以序列的方式對數(shù)據(jù)進行讀取，這也是RNN 最為獨特的特征。RNN 的串聯(lián)式結(jié)構(gòu)適用于時間序列的數(shù)據(jù)，可以完好保持數(shù)據(jù)中的依賴關(guān)系。循環(huán)神經(jīng)網(wǎng)絡(luò)主要有三層結(jié)構(gòu)，輸入層，隱藏層和輸出層。隱藏層的作用是對輸入層傳遞進來的數(shù)據(jù)進行一系列的運算，并將結(jié)果傳遞給輸出層進行輸出。RNN 可用于許多不同的地方。下面是RNN 應(yīng)用最多的領(lǐng)域：1.語言建模和文本生成，給出一個詞語序列，試著預(yù)測下一個詞語的可能性。這在翻譯任務(wù)中是很有用的，因為最有可能的句子將是可能性最高的單詞組成的句子；2.語音識別；3.生成圖像描述，RNN 一個非常廣泛的應(yīng)用是理解圖像中發(fā)生了什么，從而做出合理的描述。這是CNN 和RNN相結(jié)合的作用。CNN 做圖像分割，RNN 用分割后的數(shù)據(jù)重建描述。這種應(yīng)用雖然基本，但可能性是無窮的；4.視頻標(biāo)記，可以通過一幀一幀地標(biāo)記視頻進行視頻搜索。

3、深度神經(jīng)網(wǎng)絡(luò)

深度神經(jīng)網(wǎng)絡(luò)（deep neural networks，DNN）可以理解為有很多隱藏層的神經(jīng)網(wǎng)絡(luò)。多層神經(jīng)網(wǎng)絡(luò)和深度神經(jīng)網(wǎng)絡(luò)DNN其實也是指的一個東西，DNN 有時也叫做多層感知機（Multi-Layer perceptron,MLP）。DNN 內(nèi)部的神經(jīng)網(wǎng)絡(luò)層也是分為三類，輸入層，隱藏層和輸出層，一般來說第一層是輸入層，最后一層是輸出層，而中間的層數(shù)都是隱藏層。

深度神經(jīng)網(wǎng)絡(luò)（DNN）目前作為許多人工智能應(yīng)用的基礎(chǔ)，并且在語音識別和圖像識別上有突破性應(yīng)用。DNN 的發(fā)展也非常迅猛，被應(yīng)用到工業(yè)自動駕駛汽車、醫(yī)療癌癥檢測等領(lǐng)域。在這許多領(lǐng)域中，深度神經(jīng)網(wǎng)絡(luò)技術(shù)能夠超越人類的準(zhǔn)確率，但同時也存在著計算復(fù)雜度高的問題。因此，那些能夠解決深度神經(jīng)網(wǎng)絡(luò)表現(xiàn)準(zhǔn)確度或不會增加硬件成本高效處理的同時，又能提升效率和吞吐量的技術(shù)是現(xiàn)在人工智能領(lǐng)域能夠廣泛應(yīng)用DNN 技術(shù)的關(guān)鍵。

三、深度學(xué)習(xí)在教育領(lǐng)域的影響

1、學(xué)生學(xué)習(xí)方面

通過網(wǎng)上學(xué)習(xí)的實時反饋數(shù)據(jù)對學(xué)生的學(xué)習(xí)模式進行研究，并修正現(xiàn)有教學(xué)模式存在的不足。分析網(wǎng)絡(luò)大數(shù)據(jù)，相對于傳統(tǒng)在線學(xué)習(xí)本質(zhì)區(qū)別在于捕捉學(xué)生學(xué)習(xí)過程，有針對性，實現(xiàn)學(xué)生個性化學(xué)習(xí)。

舉個例子，在學(xué)習(xí)過程中，可以通過學(xué)習(xí)平臺對學(xué)生學(xué)習(xí)課程所花費的時間，參與的程度，知識的偏好等等數(shù)據(jù)加以分析。也可以通過學(xué)生學(xué)習(xí)某門課程的次數(shù)，鼠標(biāo)點擊次數(shù)、停留的時間等，來推斷學(xué)生學(xué)習(xí)情況。通過以上或類似數(shù)據(jù)匯總分析，可以正向引導(dǎo)學(xué)生學(xué)習(xí)，并給予積極的學(xué)習(xí)評價。

這種利用計算機收集分析出來的客觀數(shù)據(jù)，很好展示了學(xué)生學(xué)習(xí)行為的結(jié)果，總結(jié)學(xué)習(xí)規(guī)律，而不需要教師多年的教學(xué)經(jīng)驗來判斷。對于教育研究者而言，利用深度學(xué)習(xí)技術(shù)可以更客觀準(zhǔn)確地了解學(xué)生，使教學(xué)工作良好發(fā)展更進一步。

2、教學(xué)方面

學(xué)習(xí)平臺的數(shù)據(jù)能夠?qū)虒W(xué)模式的適應(yīng)度進行預(yù)測，通過學(xué)生的考試成績和對教師的線上評價等加以分析，能夠預(yù)測出某一階段的教學(xué)方式發(fā)發(fā)是否可行，影響如何。通過學(xué)生與教師的在線互動，學(xué)生測驗時完成的時間與完成的結(jié)果，都會產(chǎn)生大量的有效的數(shù)據(jù)，都可以為教師教學(xué)支持服務(wù)的更好開展提供幫助，從而避免低效率的教學(xué)模式造成教學(xué)資源的浪費。

四、成人遠程教育中深度學(xué)習(xí)技術(shù)的可應(yīng)用性

深度學(xué)習(xí)方面的應(yīng)用在眾多領(lǐng)域都取得了成功，比如電商商品推薦、圖像識別、自然語言處理、棋類博弈等等。在遠程教育方面，深度學(xué)習(xí)的技術(shù)還有很大的發(fā)揮空間，智能網(wǎng)絡(luò)教育的實現(xiàn)是人們的眾望所盼。

若要將深度學(xué)習(xí)技術(shù)應(yīng)用到遠程教育平臺，首先要清楚學(xué)生的需求和教學(xué)資源如何分配。

1、針對學(xué)生的學(xué)習(xí)需求與學(xué)習(xí)特征進行分析

美國斯坦福大學(xué)克里斯·皮希研究團隊的研究成果顯示，通過對學(xué)生知識學(xué)習(xí)進行時間建模，可以精確預(yù)測出學(xué)生對知識點的掌握情況，以及學(xué)生在下一次學(xué)習(xí)中的表現(xiàn)。深度學(xué)習(xí)的應(yīng)用可以幫助教師推測出學(xué)生的學(xué)習(xí)能力發(fā)展水平。通過學(xué)生與教學(xué)環(huán)境的交互行為，分析其學(xué)習(xí)風(fēng)格，避免教師用經(jīng)驗進行推斷而產(chǎn)生的誤差。

2、教學(xué)資源的利用與分配

深度學(xué)習(xí)技術(shù)能夠形成智能的分析結(jié)論。計算機實時采集數(shù)據(jù)集，對學(xué)生的學(xué)習(xí)情況加以分析，使教師對學(xué)生的學(xué)習(xí)狀態(tài)、情緒狀態(tài)等有更加清晰、準(zhǔn)確的了解。有了上面良好的教學(xué)模式，教師對學(xué)生的學(xué)習(xí)狀態(tài)有了更準(zhǔn)確的掌握，對學(xué)生的學(xué)習(xí)結(jié)果就有了更科學(xué)的教學(xué)評價。基于深度學(xué)習(xí)的人工智能技術(shù)，還可以輔助教師實現(xiàn)智能閱卷，通過智能閱卷自動總結(jié)出學(xué)習(xí)中出現(xiàn)的問題，幫助教師減少重復(fù)性勞動，減輕教師負擔(dān)。

作為成人高校，遠程教育是我們的主要教學(xué)手段，也是核心教學(xué)方式，學(xué)校的教學(xué)必定是在學(xué)生方便學(xué)習(xí)的同時，以學(xué)生的學(xué)習(xí)效果為重。通過深度學(xué)習(xí)技術(shù)，可以科學(xué)地分析出學(xué)生的學(xué)習(xí)效果，對后續(xù)教與學(xué)給予科學(xué)、可靠的數(shù)據(jù)支撐。我們可以在平臺上為每位同學(xué)建立學(xué)習(xí)模型，根據(jù)學(xué)生的學(xué)習(xí)習(xí)慣為其定制個性化方案，按他們的興趣進行培養(yǎng)，發(fā)揮他們專業(yè)的潛能。同時，可以將學(xué)生正式在線參加學(xué)習(xí)和考試的學(xué)習(xí)行為和非學(xué)習(xí)時間瀏覽網(wǎng)站的行為結(jié)合到一起，更加科學(xué)地分析出學(xué)生在學(xué)習(xí)網(wǎng)站上感興趣的地方。采用深度學(xué)習(xí)算法，根據(jù)學(xué)生學(xué)習(xí)行為產(chǎn)生的海量數(shù)據(jù)推算出學(xué)生當(dāng)前狀態(tài)與目標(biāo)狀態(tài)之間的差距，做到精準(zhǔn)及時的學(xué)習(xí)需求反饋。有助于幫助學(xué)生明確學(xué)習(xí)目標(biāo)，教師確立教學(xué)目標(biāo)，真正做好因材施教?；谏疃葘W(xué)習(xí)各種智能識別技術(shù)，可以為教師的線上教學(xué)活動增光添彩，在反饋學(xué)生學(xué)習(xí)狀態(tài)的同時，采用多種形式的教學(xué)方法吸引學(xué)生的注意力，增強教學(xué)活動的互動性，達到良好的教學(xué)效果。

結(jié)語

人工智能是影響世界各領(lǐng)域的關(guān)鍵技術(shù)，它也必將與教育相互融合，也終將會改變教育的形態(tài)。深度學(xué)習(xí)技術(shù)作為當(dāng)前科技的前沿技術(shù)，我們需要對深度學(xué)習(xí)技術(shù)在教育中的應(yīng)用進行探討，用技術(shù)完善教學(xué)過程，優(yōu)化學(xué)習(xí)效果。作為成人高校教師，我們始終貫徹以學(xué)生為中心的教育理念，對深度學(xué)習(xí)技術(shù)不斷學(xué)習(xí)與研究，不斷豐富學(xué)校教育教學(xué)的手段，為教育現(xiàn)代化最終目標(biāo)的實現(xiàn)提供無限可能。