葉俊民，趙麗嫻，羅達雄，王志鋒， 陳 曙

1(華中師范大學 計算機學院，武漢 430079) 2(華中師范大學 教育信息技術(shù)學院，武漢 430079)

1 引 言

以MOOC為代表的在線學習社區(qū)應(yīng)用的普及，為在線學習者提供了越來越多的學習資源和學習機會，同時他們在學習過程中也會產(chǎn)生各種各樣的問題，這時如何有效地為這些學習者及時解決這些問題，就是一個值得研究的課題.依據(jù)在線學習者的行為來推薦問題回答者則是解決該問題的一種有效途徑.為此，本文提出了基于學習者行為的論壇問題回答者推薦算法.

國內(nèi)外相關(guān)研究現(xiàn)狀如下：Bhat 等人[1]揭示了Stack overflow學習社區(qū)中問題得以解決的時長現(xiàn)象，即大部分問題在一小時內(nèi)得到解答，但有30%左右的問題回答要在一天之后才能完成，還有許多問題的回答時間超過一天；Greer 等人[2-4]研究了典型問答社區(qū)中成功為少數(shù)學習者及時推薦問題解答的回答者特征，這些人員通常在多個不同領(lǐng)域有著豐富的知識及興趣；Tian[5]使用主題模型方法來預(yù)測最合適的問題回答者；Xia等人[6-8]從靜態(tài)特征挖掘角度，分析了開發(fā)者和主題之間關(guān)聯(lián)，以實現(xiàn)為特定主題推薦開發(fā)者；Mao[9]通過GitHub上開發(fā)者對特定技術(shù)術(shù)語的使用頻度，分析了問答社區(qū)上標簽和技術(shù)術(shù)語之間的關(guān)聯(lián)關(guān)系，為Stack Overflow實現(xiàn)了問答專家推薦.Tian[10]分析了Stack Overflow上開發(fā)者的歷史數(shù)據(jù)，通過LDA主題模型分析，發(fā)現(xiàn)了開發(fā)者潛在興趣，并基于這些興趣和協(xié)作投票機制來推薦問題回答專家；Shola O M[11]等人基于個性化標簽預(yù)測高質(zhì)量的問題解決者；Elalfy D[12]等人使用問題的內(nèi)容和內(nèi)容特征訓練機器學習模型直接得到推薦的問題答案.由上述研究現(xiàn)狀，本文認為學習者在論壇提問行為屬于求助行為，而發(fā)現(xiàn)問題的解決速度會影響學習者對論壇的使用頻度，同時依據(jù)學習者的求助行為進行論壇回答者推薦有待進一步研究.

本研究研究意義表現(xiàn)在：

1)心理學研究者認為[13]，好的求助體驗將給學習者帶來信心和鼓舞，而不良的求助體驗將最終使得學習者放棄在線學習，同時快速并恰當?shù)臑閷W習者推薦具有合適在線學習求助行為的回答者，幫助其解決論壇問題，可提高學習者的求助體驗；

2)可促進對學習者在線學習行為認知研究，以更好地設(shè)計出滿足學習者要求的各種個性化服務(wù)；

3)本研究有助于在線學習環(huán)境設(shè)計者改進設(shè)計并使得在線學習環(huán)境產(chǎn)生更大的社會價值.

2 研究框架

本研究由兩步組成：第一步，識別學習者求助行為類別，以獲得學習者的求助行為類別；第二步，訓練論壇回答者推薦模型，將具有合適學習者求助行為類別的并與論壇問題匹配度高的論壇回答者推薦給需要幫助的學習者.

2.1 自動識別學習者求助行為類別

所謂基于學習者求助行為的論壇問題回答者推薦，是根據(jù)給定的在線學習環(huán)境中的學習者在線學習行為數(shù)據(jù)(問題輸入)，獲得該學習者的求助行為類別，并根據(jù)其類別為其推薦合適的論壇問題回答者(問題輸出).

為了自動識別學習者求助行為類別，本文采用了聚類和分類相結(jié)合的方法，以識別出學習者求助行為類別，并依據(jù)學習者的求助行為類別為其推薦合適的論壇回答者.為此，首先采用Bik-Means算法對在線學習環(huán)境中的在線學習求助行為數(shù)據(jù)進行聚類分析，獲得學習者求助行為類別標簽；然后，使用部分學習者求助行為數(shù)據(jù)及其類別標簽訓練樸素貝葉斯分類器，并利用剩余的學習者求助行為數(shù)據(jù)來驗證該分類器的準確率，通過使用該分類器達到自動識別學習者求助行為類別的目的.

2.2 論壇回答者推薦的研究框架

所謂在線學習環(huán)境下論壇回答者推薦，是根據(jù)給定的在線學習環(huán)境中的學習者在論壇中發(fā)布的問題(問題輸入)，對該在線學習環(huán)境中的學習者輸出最善于回答該問題的回答者(問題輸出).

識別學習者求助行為類別的研究是基于Linda Corrin相關(guān)工作[14]開展.本文抽取了學習者行為數(shù)據(jù)的部分屬性表達學習者的求助行為.通過對該學習者求助行為數(shù)據(jù)采用聚類算法處理，可得到該學習者求助行為類別標簽，用此學習者求助行為數(shù)據(jù)和求助行為類別標簽作為訓練數(shù)據(jù)來訓練樸素貝葉斯模型，從而可自動識別出新學習者求助行為的類別.在此基礎(chǔ)上，本文可為學習者推薦合適的論壇問題回答者，具體處理流程參見圖1.

圖1 論壇回答者推薦處理流程Fig.1 Forum respondents recommend process

圖1的相關(guān)思路如下[15]：

1)對收集到的論壇文本數(shù)據(jù)進行Embedding處理，轉(zhuǎn)換為CNN模型能夠處理的數(shù)據(jù)集；

2)使用卷積神經(jīng)網(wǎng)絡(luò)算法(CNN)訓練論壇回答者推薦模型，在這個過程中，數(shù)據(jù)集被分為互不相交的兩個集合，一個用作訓練集，一個用作驗證集，以驗證本模型的推薦有效性；

3)得到論壇回答者推薦模型之后，可根據(jù)新學習者未被解答的論壇數(shù)據(jù)，提取該數(shù)據(jù)的特征，基于該特征使用本模型為學習者推薦合適的回答者.

3 基于學習者求助行為的論壇回答者推薦

3.1 自動識別學習者求助行為類別

識別學習者求助行為類別算法的流程可以描述如下：

1)根據(jù)學習者的論壇行為數(shù)據(jù)獲取學習者的求助行為特征向量，并使用Bik-Means聚類算法處理求助行為特征向量；

2)根據(jù)學習者所屬的類別獲取其類別標簽，與求助行為特征向量一同作為貝葉斯分類算法的訓練集；

3)根據(jù)訓練數(shù)據(jù)集，計算每個求助行為類別出現(xiàn)的概率P(rj)；

4)對學習者求助行為特征向量的每個特征屬性計算所有劃分的條件概率；

5)根據(jù)待分類項X的特征屬性，對每個求助行為類別計算P(X|rj)P(rj)；

6)以具有最大P(X|rj)P(rj)值的類別作為待分類項X所屬類別.1)-2)階段執(zhí)行聚類算法，3)-6)階段執(zhí)行分類算法.

自動識別學習者求助行為類別的算法首先對學習者求助行為數(shù)據(jù)進行聚類分析，獲得K個聚類中心，即得到K個類別.而后依據(jù)類別標簽，訓練樸素貝葉斯模型，對待分類學習者進行分類處理.該算法的時間復(fù)雜度為O(NK+NV+KV)，其中N是學習者求助行為數(shù)據(jù)集的規(guī)模，K是學習者求助行為類別數(shù)，V是學習者求助行為數(shù)據(jù)的特征屬性數(shù).

3.2 推薦論壇回答者

在經(jīng)過識別學習者求助行為類別之后，根據(jù)我們得到的類別結(jié)論，對學習者進行論壇回答者推薦，為其推薦具有合適求助行為類別的論壇回答者.

3.2.1 卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)

論壇回答者推薦的目的根據(jù)學習者的發(fā)帖內(nèi)容，為其推薦合適的回答者.我們使用了卷積神經(jīng)網(wǎng)絡(luò)模型達到推薦論壇回答者的目的.一般的卷積神經(jīng)網(wǎng)絡(luò)由以下五個結(jié)構(gòu)[17]組成.

1)輸入層.輸入層是作為全部卷積神經(jīng)網(wǎng)絡(luò)的輸入.在本文中輸入層是學習者論壇文本數(shù)據(jù)經(jīng)過Embedding處理之后所得的數(shù)據(jù).

2)卷積層.卷積層是用于做特征提取的.在一個卷積層，上一層輸出的特征值被一個可學習的卷積核進行卷積，然后經(jīng)由一個激勵函數(shù)，該卷積層的輸出特征就可以被獲得.卷積層試圖對神經(jīng)網(wǎng)絡(luò)進行更深入的剖析，從而獲得抽象水平更高的數(shù)據(jù)特征.

3)池化層.降低矩陣的規(guī)模依靠池化層實現(xiàn).對輸入的特征矩陣進行壓縮，一方面使特征矩陣變小，簡化網(wǎng)絡(luò)計算復(fù)雜度；一方面進行特征壓縮，提取主要特征.

以便于OA學術(shù)資源的發(fā)現(xiàn)、獲取、利用為出發(fā)點，依托目前部分院校圖書館數(shù)字資源加工室，對資源進行科學高效、規(guī)范統(tǒng)一的組織管理是提高OA學術(shù)資源利用效率的有效措施?？紤]到軍隊網(wǎng)絡(luò)安全的特殊性和軍隊院校圖書館OA學術(shù)資源管理實際，筆者從軍網(wǎng)和互聯(lián)網(wǎng)兩方面就軍隊院校圖書館OA學術(shù)資源的組織展開論述。

4)全連接層.分類任務(wù)主要由全連接層完成.在經(jīng)過卷積層、池化層和激勵函數(shù)的作用之后，原始數(shù)據(jù)已經(jīng)被映射到隱層特征空間.全連接層就起到將隱層特征空間中的數(shù)據(jù)表示映射到樣本標記空間的作用.全連接的核心操作就是矩陣向量乘積，本質(zhì)就是由一個特征空間線性變換到另一個特征空間.在CNN中，全連接(full-connected)通常出現(xiàn)在最后幾層.

5)Softmax層.Softmax函數(shù)主要處理多分類問題.經(jīng)過Softmax層后，可得到樣本屬于不同類別的概率.模型的預(yù)測值ypred代表的是概率最大的類，具體如公式(1)及公式(2)所示.P(Y=i|x,W,b)表示在權(quán)重矩陣為W偏置向量為b的情況下，輸入向量x是第i類的概率.

ypred=argmaxiP(Y=i|x,W,b)

(1)

(2)

3.2.2 論壇回答者推薦模型

依據(jù)文獻[17]，本文首先將論壇文本經(jīng)過Embedding處理，將提問者的問題q轉(zhuǎn)化成詞向量q={w1,w2，…，wn}.卷積神經(jīng)網(wǎng)絡(luò)的輸入層就是該向量組成的矩陣，例如論壇發(fā)帖最大長度為n，每個文字對應(yīng)的詞向量長度為m，則輸入矩陣的規(guī)模為n*m.池化層采用Max-Pooling的方法，之后重復(fù)上述卷積和池化的過程，搭建多層網(wǎng)絡(luò).經(jīng)過特征學習，提取出論壇數(shù)據(jù)的特征，利用這些特征進行論壇回答者推薦.在經(jīng)過卷積和池化處理之后，池化層輸出通過全連接的方式連接到一個Softmax分類層并且本文使用Adam optimizer優(yōu)化器來加速神經(jīng)網(wǎng)絡(luò).除此之外，為了防止訓練過程中過擬合現(xiàn)象的發(fā)生看，本文使用了Dropout策略.依此設(shè)計的論壇回答者推薦方法所用的訓練模型如圖2所示.

本模型使用 ReLU( Rectified Linear Units)函數(shù)作為神經(jīng)元的激勵函數(shù)，使用該激勵函數(shù)可以加快訓練速度，有效的減少計算開銷.在訓練結(jié)束之后，采用了saver函數(shù)來保存最優(yōu)損失參數(shù)，從而根據(jù)學習者的發(fā)帖內(nèi)容為其推薦合適的回答者，達到一次訓練多次使用的目的.本文根據(jù)回答者歷來回答過的問題數(shù)據(jù)，對回答者進行向量表示，即將其表示為形如的二元組的形式，其中Rid表示回答者標識，Question表示回答者歷來回答問題的詞向量表示.在基礎(chǔ)上可選出與學習者發(fā)帖內(nèi)容具有最高匹配度的回答者作推薦.在獲得推薦的回答者之后，會判斷此回答者的求助行為類別.若其求助行為不合適，會縮小訓練集的范圍，在具有合適求助行為類別的學習者論壇數(shù)據(jù)中使用論壇回答者推薦模型，可得到具有合適求助行為的回答者，并將上述得到兩個回答者均推薦給需要幫助的該學習者.論壇回答者推薦算法描述如圖3所示.單個卷積層的時間復(fù)雜度為θ(M2*K2*Cin*Cout).其中M為輸出特征圖的規(guī)模，K代表卷積核的尺寸，Cin代表卷積層輸入特征屬性數(shù)，Cout代表卷積層輸出特征屬性數(shù)[18].

圖2 論壇回答者推薦CNN訓練模型Fig.2 CNN training model for forum respondents recommend

算法1.論壇回答者推薦算法

輸入：學習者論壇文本數(shù)據(jù)X；待解決論壇發(fā)帖d；學習者類別數(shù)據(jù)C.

輸出：被推薦的回答者u.

1.V←buildvocab(X) /*構(gòu)建詞匯表，將文本數(shù)據(jù)X中的詞匯提取出來*/

2.C←readrecommendation () /*將以往回答者用向量表示*/

3.W←readvocab(V) /*讀取上述得到的詞匯表，將詞匯用向量表示*/

4.X，Y←professfile(C，W) /*將每一條文本數(shù)據(jù)都轉(zhuǎn)換成固定長度的向量*/

5.Repeat/*運行CNN算法*/

6. loss，acc←run(cnnmodel.loss，cnnmodel.acc)

7. run(adam optimizer)

8. until acc==1||大于指定迭代次數(shù)

9. saver(cnnmodel) /*保存最優(yōu)CNN模型*/

10. data←word_to_id(d) /*將待解決論壇發(fā)帖內(nèi)容d轉(zhuǎn)換為向量表示*/

11. u← run(self.cnnmodel，data) /*運行最優(yōu)CNN模型，得到最優(yōu)推薦回答者*/

12. if u not in c[0]/*若最優(yōu)推薦回答者求助行為類別不適合，在具有合適求助行為的學習者中獲取匹配度最高的回答者*/

13. u0← run(self.cnnmodel based on c[0]，data)

14. return u and u0/*返回被推薦的回答者*/

15. End

圖3 論壇回答者推薦算法
Fig.3 Forum replier recommendation algorithm

4 實證分析

4.1 自動識別學習者求助行為類別實證分析

4.1.1 實驗對象與設(shè)計

學習者求助行為的主要表現(xiàn)場景為：

1)學習者遇到問題時，可以在論壇中搜索相關(guān)問題或者發(fā)布帖子，以此獲取問題答案；

2)在學習者遇到感興趣的帖子時，還可以在論壇中回帖，并通過討論來解決問題；

3)學習者還可以通過多次參加測驗，由測驗的反饋來獲得問題的解答等.

為了驗證識別學習者求助行為類別方法的有效性，本文選用了《馬克思主義基本原理》在線課程中的數(shù)據(jù)進行實驗，在某次課程教學活動中，學習者人數(shù)為342.我們從學習者在線學習行為數(shù)據(jù)中抽取了6個特征表征學習者的求助行為，包括學習者的發(fā)帖數(shù)量、學習者的回帖數(shù)量、學習者發(fā)帖被瀏覽次數(shù)、學習者發(fā)帖被回復(fù)次數(shù)、作業(yè)提交次數(shù)以及學習者成績.

4.1.2 實驗結(jié)果

1)聚類高維原始學習者求助行為數(shù)據(jù) 根據(jù)識別到的6維學習者求助行為數(shù)據(jù)，對其進行BiK-Means聚類處理，得到了四種類別標簽.分析這四種類別里面的學習者求助行為數(shù)據(jù)，本文將這四類類別定義為很少參與課程活動、主動參與課程活動、被動參與課程活動、專注于課程測驗.

2)自動識別學習者求助行為類別 經(jīng)過第一步處理，我們得到了學習者求助行為類別標簽.我們將學習者求助行為數(shù)據(jù)及其類別標簽分為互不相交的兩個集合：訓練集和驗證集.訓練集中數(shù)據(jù)用于訓練樸素貝葉斯分類模型，而后使用驗證集中數(shù)據(jù)測試該分類模型的準確率.測試結(jié)果用五元組來表示，其中StuID為學習者標識，PA、PB、PC、PD分別表示學生屬于很少參與課程活動、主動參與課程活動、被動參與課程活動以及專注于課程測驗的概率.部分測試結(jié)果如表1所示，ACC表示驗證集的平均準確率.實驗顯示本次分類有較高的準確率達到85.34%，這說明了本方法有效可行.

表1 部分測試結(jié)果Table 1 Part of the test results

4.2 論壇回答者推薦實證分析

經(jīng)過識別學習者求助行為類別，我們得到學習者的四種求助類別，研究發(fā)現(xiàn)這四種類別的主要區(qū)別在于論壇發(fā)帖量的不同，并且論壇發(fā)帖量和學習者績效有正相關(guān)性，即越主動參與論壇活動的學習者越容易獲得更好的學習績效.因此，為了提高學習者解決問題的效率，使其對求助結(jié)果更為滿意，從而促進其更加主動的參與課程活動，需進行論壇回答者推薦.

4.2.1 實驗對象與設(shè)計

針對該在線課程中的論壇數(shù)據(jù)，首先獲取學習者的發(fā)帖內(nèi)容；其次，獲取該貼中被贊次數(shù)最多的回答者信息.實際中我們共獲取了850 條實驗數(shù)據(jù).本文的論文數(shù)據(jù)分為最佳回答者和回答者歷來回答過的問題兩個部分.

由4.1節(jié)的研究可知，主動參與課程活動的學習者參與論壇發(fā)帖，回帖的可能性更大，并且普遍具有更高的學習績效.因此，為了保證學習者求助的有效性和求助結(jié)果的可靠性，若得到的被推薦回答者不屬于主動參與課程活動的學習者，可在主動參與課程活動的學習者中為其匹配到最適合回答該問題的回答者，而后將以上得到的兩位被推薦的回答者推薦給該需要幫助的學習者.

4.2.2 實驗操作

本部分所做研究主要是基于Tensorflow庫[19]，該庫中包含了基本的深度學習算法，包括卷積神經(jīng)網(wǎng)絡(luò)CNN和循環(huán)神經(jīng)網(wǎng)絡(luò)RNN等.此外，還需要用到數(shù)組處理numpy庫、機器學習算法庫sklearn以及用于繪制圖像的Matplotlib庫等內(nèi)容.

首先將論壇文本數(shù)據(jù)進行一次劃分，將其分為訓練集、驗證集和測試集，根據(jù)訓練集可得到論壇回答者推薦模型：具體而言，本文中得到的詞向量維度為64，最大序列長度為600，調(diào)用Tensorflow庫中的CNN算法，設(shè)置CNN模型中的dropout參數(shù)為0.5，學習率為0.001.在訓練集的準確率達到100%、驗證集正確率長期不提升或者迭代次數(shù)超過1000次的情況下結(jié)束訓練，而后保存最佳推薦模型，繪制出誤差和準確率的變化情況.在進行模型有效性測試時，直接讀取該最佳推薦模型數(shù)據(jù)，避免重復(fù)計算.通過檢驗測試集的準確率、召回率、F1-score以及混淆矩陣來驗證該推薦模型的有效性.最后，我們使用上述最佳論壇回答者推薦模型，為學習者推薦論壇問題回答者.準確率P、召回率R和F1-score三個指標[20]相關(guān)的計算如公式(3)-公式(5)所示.

(3)

(4)

(5)

4.2.3 實驗結(jié)果

1)訓練并驗證論壇回答者推薦模型表2表示論壇回答者推薦模型的訓練及驗證情況，由表2可以看出，本次訓練經(jīng)過300次迭代終止，此時訓練集的準確率達到100%，訓練集誤差為0.044，誤差很小.驗證集準確率達到了90%，驗證集誤差為0.32.訓練過程中訓練集的準確率以及誤差變化分別如圖4和圖5所示.

表2 訓練并驗證論壇回答者推薦模型準確率情況Table 2 Training and verifying the accuracy of forum respondents′ recommendation models

圖4 訓練集的準確率變化Fig.4 Accuracy variation in Training set圖5 訓練集的誤差變化Fig.5 Error variation in training set

2)測試論壇回答者推薦模型在測試論壇回答者推薦模型時，抽取了250條數(shù)據(jù)，其中合適的問題回答者共有5人.在訓練回答者推薦模型之后，采用了saver函數(shù)保存最優(yōu)損失參數(shù)，在測試回答者推薦模型時，可不必再次訓練回答者推薦模型.測試回答者推薦模型的有效性如表3所示.根據(jù)表3，可知論壇回答者推薦模型的平均準確率達到了90%，準確率最低的D同學也達到了77%.召回率均在75%以上，F(xiàn)1-score均值達到了90%，其中F1-score最低的E同學也達到了81%.因此本回答者推薦模型具有較好的推薦效果，并由圖6所示的混淆矩陣(Confusion Matrix)也可以看出每位回答者的推薦準確性普遍較高，這是因為混淆矩陣中的主對角線上的數(shù)字越大，推薦的準確性就越高.例如，矩陣中第一行數(shù)據(jù)代表A同學，在其50條測試數(shù)據(jù)中，48條數(shù)據(jù)被正確分析.因此，本方法用于推薦論壇問題回答者是有效的.

圖6 混淆矩陣Fig.6 Confusion Matrix

3)推薦論壇問題回答者在得到準確率較高的論壇回答者推薦模型之后，使用該模型針對學習者新發(fā)布的帖子，推薦合適的回答者.例如，本實驗中使用了一個學習者新發(fā)布的論壇問題：“絕對真理和相對真理的關(guān)系”.使用論壇回答者推薦模型之后，所得到的推薦回答者如圖7所示.

圖7 問題的推薦回答者實例Fig.7 An example of recommending responder

分析E同學的求助行為類別，我們發(fā)現(xiàn)其屬于被動參與課程活動者，不屬于主動參與者.因此推薦模型同時推薦了C同學，該同學在具有較高匹配度的同時，具有主動參與課程活動的特征.分析C、E這兩位回答者歷來回答的論壇發(fā)帖情況，我們得出該推薦確實有效的結(jié)論.同時這也證明了使用卷積神經(jīng)網(wǎng)絡(luò)(CNN)算法推薦論壇回答者的有效性.

5 相關(guān)工作對比

與文獻[19]開展的研究相比，本文與該工作相同之處是：

1)在推薦研究問題中使用了深度學習；

2)采用了卷積神經(jīng)網(wǎng)絡(luò)CNN算法構(gòu)建推薦模型.

與該文工作不同之處是：

1)本文做了識別學習者求助行為類別的研究.本文在推薦論壇回答者的同時，除了推薦與問題具有最高匹配度的回答者，還會在主動參與課程活動的學習者中推薦一位具有最高問題匹配度的回答者；

2)優(yōu)化算法不同.該文獻采用了SGD(Stochastic Gradient Descent，隨機梯度下降)[21]算法加速神經(jīng)網(wǎng)絡(luò)，調(diào)節(jié)其學習速度.在本文中采用了Adam Optimizer優(yōu)化器，該優(yōu)化器在一般情況下能夠使神經(jīng)網(wǎng)絡(luò)更快速地完成學習.

6 結(jié)束語

通過分析在線學習課程中的學習者在線學習行為數(shù)據(jù)，發(fā)現(xiàn)了學習者求助行為的幾種不同的類別；研究了能夠為學習者推薦合適的論壇問題回答者的方法，在推薦過程中，本文不僅考慮到了問題匹配度問題，還考慮到了被推薦回答者的求助行為類別情況，以使得學習者獲得幫助更加便捷，求助結(jié)果更為有效.進一步的研究是根據(jù)學習者求助行為類別，結(jié)合學習者行為模型和領(lǐng)域知識模型等構(gòu)建更有針對性的推薦模型，從而能夠更有效的使用教學資源，最終共同達到提高學習者學習績效的目的.