支天云,陳曉冬

(1.山西大學 繼續(xù)教育學院,山西 太原 030006;2.山西省農(nóng)業(yè)科學院,山西 太原 030006)

0 引言

目前,成人高校畢業(yè)生學位與學歷一樣越來越受到重視。各成人高校對畢業(yè)生學位評審大都采用定性分析方法,實際操作中由于人為干預(yù)因素較多,例如評審人員專業(yè)基礎(chǔ)薄弱、工作經(jīng)驗不足、學術(shù)能力欠缺導(dǎo)致主觀判斷不準備。如何準確、高效地對成人高校畢業(yè)生學位進行評審,是各成人高校面臨的現(xiàn)實問題。與普通高校相比,成人高校畢業(yè)生的學位評審更為復(fù)雜,各個評審指標與學位獲得之間是一種非線性關(guān)系,神經(jīng)網(wǎng)絡(luò)針對非線性問題有較強的映射能力,是處理這類問題的有力工具[1-2]。

BP網(wǎng)絡(luò)[3-4]具有很強的容錯、學習和糾錯能力,由于存在局部最小點問題,無法保障能求出全局最小值,可能發(fā)生網(wǎng)絡(luò)癱瘓。概率神經(jīng)網(wǎng)絡(luò)、灰度關(guān)聯(lián)分析法需要對輸入變量進行歸一化。LVQ神經(jīng)網(wǎng)絡(luò)具有結(jié)構(gòu)簡單,容易收斂等特點,且不需要進行歸一化和正交化,只需要計算輸入變量與競爭層之間的距離[3],從而實現(xiàn)模式分類,簡單易行。但是神經(jīng)網(wǎng)絡(luò)受拓撲結(jié)構(gòu)和訓(xùn)練樣本的影響,在有冗余屬性時,訓(xùn)練時間長,且速度慢,不能對冗余屬性進行約簡。粗糙集(Rough Sets簡稱RS)理論[5-9]的關(guān)鍵技術(shù)是在保持系統(tǒng)分類能力不變的前提下,對冗余屬性進行約簡,減少網(wǎng)絡(luò)的輸入層矢量,縮小網(wǎng)絡(luò)的空間維數(shù),降低網(wǎng)絡(luò)運行成本,對神經(jīng)網(wǎng)絡(luò)的快速訓(xùn)練是一個有效方法。

文獻[2]采用LVQ神經(jīng)網(wǎng)絡(luò)對普通高校學位評審進行了分析。運用同樣方法,對于情況比較復(fù)雜、評審指標較多的成人高校畢業(yè)生學位評審,預(yù)測精度和運行效率都比較低。本文基本思想是:選用某成人高校某專業(yè)的學位評審原始數(shù)據(jù)作為訓(xùn)練測試樣本,將RS方法作為LVQ神經(jīng)網(wǎng)絡(luò)的前置系統(tǒng),通過屬性約簡,減少評審系統(tǒng)的指標(屬性)數(shù)量,再將RS處理后的信息作為LVQ神經(jīng)網(wǎng)絡(luò)輸入變量,建立了一個基于RS-LVQ的成人高校畢業(yè)生學位評審預(yù)測模型,利用測試樣本對模型進行測試,并與普通LVQ網(wǎng)絡(luò)進行比較,結(jié)果表明,本文建立的網(wǎng)絡(luò)模型穩(wěn)定可靠、抗干擾能力強、訓(xùn)練速度快、預(yù)測精度高、具有較高的應(yīng)用價值。

1 基于粗糙集(RS)-LVQ神經(jīng)網(wǎng)絡(luò)的評審預(yù)測模型

本文通過RS理論屬性約簡,對輸入數(shù)據(jù)進行預(yù)處理,優(yōu)化成人高校畢業(yè)生學位評審指標,并將優(yōu)化指標對應(yīng)的數(shù)據(jù)輸入到LVQ神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練,構(gòu)建了基于RS-LVQ神經(jīng)網(wǎng)絡(luò)的成人高校畢業(yè)生學位評審預(yù)測模型,如圖1所示:文章對RS和LVQ的相關(guān)原理作了簡要介紹,更詳細的闡述詳見文獻[3,10]。

1.1 基于RS理論方法的數(shù)據(jù)預(yù)處理

Z.Pawlak提出的RS[11]理論為研究不完整數(shù)據(jù)、提取有用特征、剔除冗余信息,提供了一個有用的工具,在保持分類能力不變的情況下對屬性進行冗余屬性約簡是RS重要功能。利用RS方法得到的屬性約簡集輸送到LVQ神經(jīng)網(wǎng)絡(luò),作為輸入層的訓(xùn)練數(shù)據(jù),這樣的數(shù)據(jù)表示清晰,網(wǎng)絡(luò)的訓(xùn)練次數(shù)、訓(xùn)練時間得到減少,抗干擾能力增強,節(jié)省了模式識別費用,網(wǎng)絡(luò)訓(xùn)練穩(wěn)定性好。目前,常用的屬性約簡算法有[12]:基于正域的方法，基于差別矩陣方法，一般約簡算法，基于正域的啟發(fā)式算法，基于信息熵的互信息方法，二進制可辨矩陣變換算法[13]等。上面幾種方法在約簡功能上各有優(yōu)劣,本文采用基于差別矩陣的屬性約簡算法[13-18]。

Fig.1 Evaluation forecasting model based on Rough Set and LVQ圖1 基于RS-LVQ神經(jīng)網(wǎng)絡(luò)的評審預(yù)測模型

定義1:令P為一個等價關(guān)系,R?P,如果ind(P)=ind(P-{R}},則R為P中不必要的,否則R為P中必要的。設(shè)若Q是獨立的,且ind(Q)=ind(P)則Q為P的一個約簡。核[19]與約簡關(guān)系如下:Core(P)=∩red(P),red(P)表示P的所有約簡,Core(P) 為P的核。

求出所有約簡是一個NP-hard問題,一般情況下并不需要得出所有約簡,只要得到一個接近最優(yōu)約簡,即找到一個滿足R∩kij≠? 的最小屬性集合R即可。

定義2:設(shè)S=(U,A,V,F)是一個決策信息系統(tǒng),|U|=n,其中A=C∪D,C是條件屬性,D是決策屬性,V={va|a∈A},對任意xi,xj∈U,a∈C如果a(xi)≠a(xj) (其中xi≠xj),則屬性a值的差別矩陣描述如下:

M(U,C)=(kij)n×n(i,j=1,2,…,n),

差別矩陣M(U,C)的差別函數(shù)記成:

Fm(U,C)(a1,a2,…,an)=∧{∨(kij),1≦j

其中每一個合取范式∨(kij)構(gòu)成一個約簡,m為C中條件屬性個數(shù)。

1.2 LVQ神經(jīng)網(wǎng)絡(luò)分類器

LVQ是學習矢量化神經(jīng)網(wǎng)絡(luò)的簡稱,屬于競爭型神經(jīng)網(wǎng)絡(luò),由輸入層(Input layer)、隱含層(Hidden layer)和輸出層(Output layer)組成,如圖2所示。其基本原理是:給定初始權(quán)值Wi(0),利用訓(xùn)練樣本對網(wǎng)絡(luò)進行訓(xùn)練,并逐步調(diào)整神經(jīng)元的權(quán)值,等訓(xùn)練若干次后網(wǎng)絡(luò)神經(jīng)元權(quán)值基本穩(wěn)定于某固定值,網(wǎng)絡(luò)收斂,此時即可輸入待測樣本進行測試。

Fig.2 LVQ neural network classifier圖2 LVQ神經(jīng)網(wǎng)絡(luò)分類器

1.2.1 LVQ神經(jīng)網(wǎng)絡(luò)學習算法

(1)設(shè)置變量和參量:輸入向量x(n)=[x1(n),x2(n),…,xN(n)]T；

權(quán)值向量Wi(n)=[wi1(n),wi2(n),…,wiN(n)]T,i=1,2,…,N.n,N分別為迭代次數(shù)和總次數(shù)；

(2)初始化權(quán)值向量Wi(0)及學習速率η(0)；

(4)分類正確性判別。根據(jù)以下公式調(diào)整網(wǎng)絡(luò)神經(jīng)元的權(quán)值:

ifHwc=Hxithen

Wc(n+1)=Wc(n)+η(n)[X-Wc(n)] elseWc(n+1)=Wc(n)-η(n)[X-Wc(n)]，

其中Hwc表示與獲勝神經(jīng)元相關(guān)聯(lián)的類,Hxi表示與輸入向量相關(guān)聯(lián)的類,Hwc=Hxi表示分類正確,對其它神經(jīng)元權(quán)值保持不變；

(6)迭代次數(shù)判別: ifn≤Nthen go(4)elseend。

1.2.2 LVQ神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

通過LVQ學習算法建好網(wǎng)絡(luò)之后,采用Matlab 7.0[20]軟件包對網(wǎng)絡(luò)進行訓(xùn)練,測試和仿真命令如下:

Net.trainParam.epochs=n;Net.trainParam.goal=e;Net=train(net,P,T)

其中P為網(wǎng)絡(luò)的輸入樣本矢量;T為網(wǎng)絡(luò)的期望輸出;n為最大的訓(xùn)練步數(shù);e為訓(xùn)練的要求精度。

1.2.3 LVQ神經(jīng)網(wǎng)絡(luò)的測試與仿真

對于訓(xùn)練好的LVQ神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)收斂于給定的預(yù)測精度,以后每輸入一個測試樣本向量P,就會產(chǎn)生相應(yīng)的輸出分類,命令設(shè)置為:Y=sim(net,P) 和Yc=vec2ind(Y)。

2 實證分析

2.1 成人高校畢業(yè)生學位評審指標的選取

RS-LVQ神經(jīng)網(wǎng)絡(luò)模型的穩(wěn)定性,在一定程度上取決于成人高校畢業(yè)生學位評審指標(簡稱:學位指標)的選擇上。本文學位指標選取的思想:一是學位指標能正確地反映成人高校畢業(yè)生的真實現(xiàn)狀;二是學位指標在不影響反映現(xiàn)實狀況前提下進行適度篩選和優(yōu)化,避免指標過多和信息交叉帶來的建模困難,提高預(yù)測模型的時效性和準確度。在學位指標的選取上,為了全面反映成人高校畢業(yè)生學位評審現(xiàn)實狀況,我們會選取盡量多的學位指標,但是這些指標之間可能存在線性關(guān)系,指標過多不僅影響模型的預(yù)測效果,而且可能造成網(wǎng)絡(luò)系統(tǒng)癱瘓,因此,根據(jù)成人高校實際情況和專家經(jīng)驗,首先對學位指標進行初選。

成人高校與普通高校畢業(yè)生在入學成績、學習能力、課程設(shè)置、畢業(yè)要求上的差異決定了其學位的評定標準、評定指標選擇的不同。普通高校畢業(yè)生一般從課程、實踐、論文、英語、計算機等級等五大方面成績來綜合評價畢業(yè)生學位的獲得情況[2],而成人高校畢業(yè)生的實際情況要比普通高校復(fù)雜得多。綜合考察多所成人高校畢業(yè)生的學位評定標準,我們主要從以下十二個指標方面進行評價:課程平均成績C1、學位外語成績C2、學位專業(yè)課成績C3、社會實踐成績C4、學位論文成績C5、考試舞弊次數(shù)C6、補考課程數(shù)C7、服務(wù)社會與科技活動C8、成人計算機水平考試C9、到課率C10、作品C11、論文發(fā)表C12。有些成人高校還把重修學分、學術(shù)交流、專利、考研、職業(yè)技能鑒定、演講活動等作為評審指標。

C1、C2、C3三個指標是用分數(shù)表示的,分數(shù)越高越好;C4、C5是用等級來表示的,分為不合格、合格、優(yōu)良三個等級,依次用0、1、2來表示;C6、C7、C8 指標用次數(shù)來衡量,C6、C7的次數(shù)越少越好,數(shù)值0表示沒有舞弊和補考,C8指標也是以次數(shù)來衡量的,次數(shù)越多越好,沒有參加者其值為0;C9指標分為三個等級,即沒有報考或沒有通過者其值為0,通過為1,優(yōu)良為2;到課率分為9個等級,即0-10%用0表示,11%-20%用1表示,…,91%-100%用9表示;作品和論文發(fā)表分為3個等級,即發(fā)表一篇用1表示,二篇用2表示,三篇及以上用3表示;學位評審結(jié)果分為兩種結(jié)果,即獲得學位和未獲得學位,獲得學位者用“1”表示,未獲得學位者用“2”表示。本文選取某成人高校某專業(yè)一個班級原始數(shù)據(jù)作為研究對象,刪除各指標信息完全相同的重復(fù)行得到學位評審決策信息表,如表1所示,決策屬性D=“學位評審情況”。

2.2 粗糙集數(shù)據(jù)的預(yù)處理(Data of Rough Set preprocessing)

針對成人高校學位評審所建立的決策信息表,S=(U,A,V,F),U為不同學生的學位評審對象,|U|=38,A=B∪D,其中條件屬性B={C1,C2,…,C12}為十二個評審指標集合,D={學位評審情況}表示學位評審情況。利用粗糙集工程軟件ROSETTA來完成基于差別矩陣的屬性約簡算法,共得到?jīng)Q策信息表的二個最小屬性約簡{C1,C2,C4,C6,C8,C9,C12}和{C2,C4,C5,C6,C8,C9,C12}, {C2,C4,C6,C8,C9,C12}為核。

2.3 LVQ神經(jīng)網(wǎng)絡(luò)的建立、訓(xùn)練與測試

本文采用表1樣本集的前24個學生學位指標相應(yīng)數(shù)據(jù)作為RS-LVQ網(wǎng)絡(luò)模型的訓(xùn)練樣本,其余14個學生數(shù)據(jù)作為測試樣本。假設(shè)首先選取與最小約簡B1={C1,C2,C4,C6,C8,C9,C12}相對應(yīng)的表1數(shù)據(jù)作

表1 原始指標數(shù)據(jù)

為訓(xùn)練樣本。B1指標集元素個數(shù)7作為LVQ網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)目,經(jīng)過多次試驗選擇14作為隱含層神經(jīng)元數(shù)目,輸出層神經(jīng)元數(shù)目為2,表示某個學生獲得學位還是沒有獲得學位,獲得為“1”,沒有獲得為“2”,所以LVQ神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為7×14×2。實驗采用表1原始數(shù)據(jù)和Matlab 7.0軟件編程環(huán)境,根據(jù)前述LVQ神經(jīng)網(wǎng)絡(luò)學習算法,網(wǎng)絡(luò)建立的具體命令設(shè)置如下:P=[7×24矩陣]T;%表1中24組數(shù)據(jù)構(gòu)成7×24矩陣,輸入變量取其轉(zhuǎn)置C=[2 2 1 1 2 1 1 2 2 2 1 2 1 2 2 1 1 2 1 1 2 1 2 1],類別輸出,“1”表示獲得學位,“2”表示沒有獲得學位。

T=ind2vec(C)，將C轉(zhuǎn)為目標向量；

Net=newlvq(minmax(P),14,[0.5,0.5]);%[0.5,0.5]表示50%屬于第1類,50%為第2類，

學習速率、學習函數(shù)均采用默認值,分別為0.01和learnlv1[3]；

Net.trainParam.epochs=1 000，最大訓(xùn)練步數(shù)為1 000；

Net.trainParam.goal=0.01，網(wǎng)絡(luò)訓(xùn)練精度為0.01；

Net=train(net.P.T)，網(wǎng)絡(luò)訓(xùn)練；

Yc=sim(Net,P)，網(wǎng)絡(luò)訓(xùn)練結(jié)束,仿真輸出；

Y=vec2ind(Yc)，網(wǎng)絡(luò)輸出轉(zhuǎn)化為類別向量。

經(jīng)過訓(xùn)練,當訓(xùn)練步數(shù)達到135步時,網(wǎng)絡(luò)能基本平滑收斂于全局最小值,誤差達到要求,訓(xùn)練過程如圖 3所示。說明模型能正確區(qū)分樣本的類別,結(jié)果十分理想,訓(xùn)練樣本能正確地分類為“1”(獲得)或“2”(未獲得),與實際情況完全符合。

Fig.3 LVQ Training error curve when minimum attribute sets B1圖3 最小屬性約簡B1的LVQ訓(xùn)練誤差曲線

為了檢驗RS-LVQ神經(jīng)網(wǎng)絡(luò)模型的預(yù)測精度,現(xiàn)將測試樣本逐一輸入到模型中進行測試,在經(jīng)過MATLAB 7處理之后得到測試結(jié)果,如表2所示。

表2 測試樣本輸出結(jié)果

2.4 兩個最小屬性約簡B1={C1,C2,C4,C6,C8,C9,C12}和B2={C2,C4,C5,C6,C8,C9,C12}在構(gòu)建RS-LVQ神經(jīng)網(wǎng)絡(luò)模型中的擇優(yōu)選擇

前面利用RS方法選擇的最小屬性約簡集B1相應(yīng)的訓(xùn)練樣本作為網(wǎng)絡(luò)的輸入變量,訓(xùn)練得到了RS-LVQ網(wǎng)絡(luò)預(yù)測模型,現(xiàn)將另一個最小屬性約簡集B2 相應(yīng)24個學生的訓(xùn)練樣本集逐一輸入RS-LVQ網(wǎng)絡(luò)進行訓(xùn)練學習。通過不斷地實驗發(fā)現(xiàn),將隱含層設(shè)置為14個神經(jīng)元數(shù)目時可以最大限度地提高預(yù)測精度,經(jīng)過156步訓(xùn)練,誤差達到了0.01,訓(xùn)練結(jié)果如圖4所示。比較圖3和圖4可知,無論從訓(xùn)練步數(shù)還是達到目標誤差速度上,圖3性能都要比圖4優(yōu)越,所以最終選擇圖3作為成人高校畢業(yè)生學位評審預(yù)測模型,亦即選擇B1對應(yīng)的訓(xùn)練樣本作為RS-LVQ網(wǎng)絡(luò)預(yù)測模型的LVQ的輸入數(shù)據(jù),對網(wǎng)絡(luò)進行訓(xùn)練學習。

2.5 粗糙集數(shù)據(jù)約簡前后的RS-LVQ網(wǎng)絡(luò)仿真對比

為了比較基于粗糙集理論的屬性約簡對LVQ神經(jīng)網(wǎng)絡(luò)學習效率的影響,本文同時將未約簡的全部十二個評審指標B={C1,C2,C3,C4,C5,C6,C7,C8,C9,C10,C11,C12}相應(yīng)原始數(shù)據(jù)輸入到LVQ神經(jīng)網(wǎng)絡(luò),經(jīng)過多次試驗,選取25作為隱含層神經(jīng)元數(shù)目對網(wǎng)絡(luò)進行訓(xùn)練,其余參數(shù)與最小約簡集B1={C1,C2,C4,C6,C8,C9,C12} 訓(xùn)練樣本一樣,網(wǎng)絡(luò)訓(xùn)練結(jié)果如圖5所示。

Fig.4 LVQ Training error curve when minimum attribute sets B2圖4 最小屬性約簡B2的LVQ訓(xùn)練誤差曲線

Fig.5 LVQ training error curve of all attribute sets B圖5 全部屬性集B的LVQ訓(xùn)練誤差曲線

說明采用全部屬性訓(xùn)練樣本需要785步才能達到目標誤差,而最小約簡訓(xùn)練樣本只需要135步即可到達,如圖3所示。假如調(diào)整目標誤差為0.001,最大訓(xùn)練步數(shù)為10 000,最小約簡訓(xùn)練樣本經(jīng)過550步達到目標誤差,而全體屬性集訓(xùn)練樣本需要經(jīng)過5 492步才達到。有時訓(xùn)練步數(shù)超過10 000步也達不到目標誤差,可能是遇到了“死”節(jié)點問題。說明使用全部屬性集訓(xùn)練樣本訓(xùn)練網(wǎng)絡(luò)不能滿足要求,運用RS方法進行屬性約簡是必要的。

2.6 RS-LVQ網(wǎng)絡(luò)預(yù)測模型與LVQ網(wǎng)絡(luò)在測試樣本上的比較

將測試樣本分別輸入RS-LVQ網(wǎng)絡(luò)預(yù)測模型與LVQ網(wǎng)絡(luò)進行比較,實驗結(jié)果如表3所示。表3說明,本文構(gòu)建的RS-LVQ神經(jīng)網(wǎng)絡(luò)學位評審預(yù)測模型,簡化了LVQ網(wǎng)絡(luò)的結(jié)構(gòu),輸入矢量減少了42%，運行效率提高了75%,準確識別率提高了14.4%。

表3 RS-LVQ網(wǎng)絡(luò)預(yù)測模型與LVQ網(wǎng)絡(luò)比較

3 結(jié)論

本文采用某成人高校畢業(yè)生的學位評審原始數(shù)據(jù)作為訓(xùn)練樣本建立了RS-LVQ神經(jīng)網(wǎng)絡(luò)學位評審預(yù)測模型,并進行了實證分析,結(jié)果表明:

(1)利用粗糙集理論方法對成人高校畢業(yè)生的學位評價指標進行篩選,在不損失信息的前提下得到兩個最小屬性約簡數(shù)目均為七的評價指標:{C1,C2,C4,C6,C8,C9,C12}和{C2,C4,C5,C6,C8,C9,C12},將其對應(yīng)的訓(xùn)練樣本分別輸入至RS-LVQ網(wǎng)絡(luò)模型,比較其訓(xùn)練結(jié)果,最終擇優(yōu)選擇{C1,C2,C4,C6,C8,C9,C12}對應(yīng)的訓(xùn)練樣本作為本文構(gòu)建模型RS-LVQ的輸入矢量。

(2)最小屬性約簡,不僅簡化了網(wǎng)絡(luò)結(jié)構(gòu),提高了學習效率,而且網(wǎng)絡(luò)模型的分類能力不會改變。而將全部屬性評價指標的學習樣本輸入模型,經(jīng)過785步,網(wǎng)絡(luò)才能收斂于目標誤差。當調(diào)整目標誤差為0.001,最大訓(xùn)練步數(shù)為10 000時,網(wǎng)絡(luò)經(jīng)過5 492步才能達到訓(xùn)練精度,有時超過10 000甚至更多步也不能收斂,說明采用全部學位評價指標的原始數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)不能收到滿意效果。

(3)RS-LVQ網(wǎng)絡(luò)預(yù)測模型與LVQ網(wǎng)絡(luò)進行比較,結(jié)果表明:RS-LVQ網(wǎng)絡(luò)預(yù)測模型在分類預(yù)測精度和學習效率上均優(yōu)于LVQ網(wǎng)絡(luò)。

(4)RS-LVQ網(wǎng)絡(luò)學位評審預(yù)測模型,避免了人為因素影響,評判結(jié)果客觀可信,有些評價指標如計算機等級考試等沒有具體成績,只能按等級區(qū)分,如果有具體分數(shù),就可使學生間數(shù)據(jù)有更高的可比性,效果會更好。

成人高校情況較為復(fù)雜,生源來自社會,不同年級相同專業(yè)、同一年級不同專業(yè)的學生人數(shù)相差較大,每班超過20或30人的很少,且有三分之一甚至更多學生因各種原因中途退學或不能畢業(yè),因此作者參考了大量成人畢業(yè)生數(shù)據(jù),從中篩選出具有代表性的某專業(yè)某班畢業(yè)生42人,合并5人相同信息后得到38人作為本文研究數(shù)據(jù)。隨著研究的深入,我們還將廣泛聯(lián)系同類高校,采集更多的真實數(shù)據(jù)樣本做進一步的研究。

粗糙集理論與LVQ神經(jīng)網(wǎng)絡(luò)的相結(jié)合,在成人高校畢業(yè)生學位評審預(yù)測應(yīng)用方面尚不多見,本文進行了初步的嘗試與探索,效果良好,為成人高校畢業(yè)生學位評審工作提供了新的思路與方法。實驗中,我們還將RS-LVQ學位評審預(yù)測模型與BP神經(jīng)網(wǎng)絡(luò)[3-4]進行了比較研究,限于篇幅,不再贅述。