張秀玲,成 龍,郝 爽,高武楊,來(lái)永進(jìn)(.燕山大學(xué)河北省工業(yè)計(jì)算機(jī)控制工程重點(diǎn)實(shí)驗(yàn)室,河北秦皇島066004;2.燕山大學(xué)國(guó)家冷軋板帶裝備及工藝工程技術(shù)研究中心,河北秦皇島066004)
基于Hopfield NN遺傳優(yōu)化設(shè)計(jì)的板形缺陷識(shí)別研究
張秀玲1,2,?,成 龍1,郝 爽1,高武楊1,來(lái)永進(jìn)1
(1.燕山大學(xué)河北省工業(yè)計(jì)算機(jī)控制工程重點(diǎn)實(shí)驗(yàn)室,河北秦皇島066004;2.燕山大學(xué)國(guó)家冷軋板帶裝備及工藝工程技術(shù)研究中心,河北秦皇島066004)
摘 要:針對(duì)Hopfield NN傳統(tǒng)設(shè)計(jì)方法要求權(quán)值矩陣需要滿足對(duì)稱的約束,以及記憶容量和容錯(cuò)性低,且記憶模式易陷入偽穩(wěn)定狀態(tài)的缺點(diǎn),本文提出了利用遺傳算法(GA)優(yōu)化設(shè)計(jì)Hopfield NN權(quán)值的方法,并與傳統(tǒng)方法對(duì)比,驗(yàn)證了GA?Hopfield NN具有較大的記憶容量和較強(qiáng)的容錯(cuò)性。同時(shí)提出了GA?Hopfield NN的板形模式識(shí)別模型設(shè)計(jì)方案,將具有較強(qiáng)計(jì)算能力的反饋網(wǎng)絡(luò)用于實(shí)時(shí)信息處理系統(tǒng)實(shí)現(xiàn)模式識(shí)別,克服了當(dāng)前板形智能識(shí)別模型動(dòng)態(tài)性差,容錯(cuò)能力低及實(shí)時(shí)性差的缺陷。同時(shí),Hopfield NN的二值計(jì)算形式大大提高了系統(tǒng)的運(yùn)算速度,為硬件實(shí)現(xiàn)和工程應(yīng)用提供了新思路。
關(guān)鍵詞:Hopfield NN;容錯(cuò)性;遺傳算法;板形識(shí)別
近年來(lái)隨著工業(yè)產(chǎn)品需求層次的提高,對(duì)板帶鋼的尺寸精度和板形平整度有了更高的要求,因此板形控制仍是國(guó)內(nèi)外研究的熱點(diǎn)[1]。板形模式識(shí)別是板形控制系統(tǒng)的重要環(huán)節(jié),識(shí)別的準(zhǔn)確度和快速性直接影響到板形控制系統(tǒng)的總體性能。近年來(lái),人工智能理論廣泛應(yīng)用于軋制領(lǐng)域,人們先后開發(fā)出基于多種神經(jīng)網(wǎng)絡(luò)和先進(jìn)算法的板形模式識(shí)別模型,取得了不錯(cuò)的效果[2]。但是這些智能模型大多數(shù)是基于前向神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的,存在動(dòng)態(tài)特性差、容錯(cuò)能力低、運(yùn)算速度慢的缺陷,所以需要繼續(xù)探索理想的板形識(shí)別方法。
聯(lián)想記憶(Associative Memory,AM)是神經(jīng)網(wǎng)絡(luò)理論的一個(gè)重要組成部分,是神經(jīng)網(wǎng)絡(luò)用于智能控制、模式識(shí)別與人工智能等領(lǐng)域的一個(gè)重要功能。它主要利用神經(jīng)網(wǎng)絡(luò)的良好容錯(cuò)性,能使不完整的、污損的輸入樣本恢復(fù)成完整的原型,適于識(shí)別、分類等用途[3]。離散型Hopfield NN模擬了生物神經(jīng)網(wǎng)絡(luò)的記憶功能,具有動(dòng)態(tài)反饋特性,相比前向網(wǎng)絡(luò)具有更強(qiáng)的計(jì)算能力和容錯(cuò)性,將其應(yīng)用于模式識(shí)別具有更大優(yōu)勢(shì)。離散Hopfield NN,被稱為聯(lián)想記憶網(wǎng)絡(luò),其聯(lián)想記憶能力是通過(guò)權(quán)值矩陣實(shí)現(xiàn)的,所以選擇合適的權(quán)值是發(fā)揮此網(wǎng)絡(luò)功能的關(guān)鍵[4]。目前不少學(xué)者對(duì)Hopfield NN權(quán)值的設(shè)計(jì)方法進(jìn)行了大量研究,如:文獻(xiàn)[4]利用記憶模式對(duì)稱原則,在Hebb規(guī)則的外積和法基礎(chǔ)上,提出了偽外積和法,能夠使多個(gè)非正交記憶樣本進(jìn)行正確回憶且陷入偽狀態(tài)的幾率變小。文獻(xiàn)[5]提出一種改進(jìn)型學(xué)習(xí)算法,利用矩陣分解的方法得到正交矩陣,再直接計(jì)算離散Hopfield NN的權(quán)值矩陣,減少了計(jì)算步驟和計(jì)算量,提高了網(wǎng)絡(luò)的運(yùn)行速度。文獻(xiàn)[6]針對(duì)Hopfield NN自聯(lián)想的特性,提出了一種新的帶有粒子群優(yōu)化過(guò)程的Hopfield NN分類算法,并采用了Blatt?Vergin學(xué)習(xí)算法,一定程度上克服了傳統(tǒng)Hopfield NN容量低的缺點(diǎn)。以上設(shè)計(jì)方法,都需要所記憶樣本具有一定正交性,并且所設(shè)計(jì)網(wǎng)絡(luò)的權(quán)值應(yīng)需要保證對(duì)稱,使得網(wǎng)絡(luò)結(jié)構(gòu)的聯(lián)想識(shí)別能力有一定局限。
本文提出了用遺傳算法(GA)優(yōu)化離散Hopfield NN權(quán)值的方法,對(duì)網(wǎng)絡(luò)權(quán)值進(jìn)行隨機(jī)賦值,通過(guò)全局優(yōu)化獲得最優(yōu)網(wǎng)絡(luò)輸出下的最終權(quán)值,一方面增強(qiáng)了非正交記憶樣本的容量,另一方面打破權(quán)值對(duì)稱的設(shè)計(jì)約束,并應(yīng)用在板形模式識(shí)別的工程設(shè)計(jì)中,通過(guò)現(xiàn)場(chǎng)數(shù)據(jù)進(jìn)行仿真,證明其具有較強(qiáng)的容錯(cuò)性和記憶能力。
1.1常用設(shè)計(jì)方法
Hopfield NN是一種全連接型的神經(jīng)網(wǎng)絡(luò),對(duì)于每一個(gè)神經(jīng)元來(lái)說(shuō),輸出信號(hào)通過(guò)其他神經(jīng)元又反饋到輸入端,所以Hopfield NN又是一種反饋型動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)。其離散網(wǎng)絡(luò)拓?fù)鋱D如圖1所示。
圖1 Hopfield NN拓?fù)鋱DFig.1 Topology of Hopfield NN
將Hopfield NN作為聯(lián)想記憶網(wǎng)絡(luò)需要設(shè)計(jì)或訓(xùn)練網(wǎng)絡(luò)的權(quán)值,使記憶和存儲(chǔ)的模式設(shè)計(jì)或訓(xùn)練成網(wǎng)絡(luò)吸引子。實(shí)現(xiàn)Hopfield NN聯(lián)想記憶功能的運(yùn)行步驟:
第一步:設(shè)定記憶模式。Hopfield NN有N個(gè)神經(jīng)元,每個(gè)神經(jīng)元輸出為1或-1二值,則網(wǎng)絡(luò)共有2N個(gè)狀態(tài),這2N個(gè)狀態(tài)構(gòu)成離散空間。在網(wǎng)絡(luò)中存儲(chǔ)m個(gè)n維的記憶模式(m<n):
其中,k=1,2,…,m;i=1,2,…,n;uik∈{-1,1}。
第二步:設(shè)計(jì)網(wǎng)絡(luò)權(quán)值。
a)外積法
采用外積法設(shè)計(jì)網(wǎng)絡(luò)的權(quán)值使這m個(gè)模式是網(wǎng)絡(luò)2N個(gè)狀態(tài)空間中的m個(gè)穩(wěn)定狀態(tài),即
式中,1/N為調(diào)節(jié)比例的常數(shù),這里取N=n??紤]到離散Hopfield NN權(quán)值滿足條件wij=wji,wii=0,則有
用矩陣形式表示,則有
I為n×n的單位陣。
b)偽逆法
采用偽逆法設(shè)計(jì)網(wǎng)絡(luò)權(quán)值,輸入樣本Uk通過(guò)權(quán)值W來(lái)映射輸入輸出之間的關(guān)系,有
得到
第三步:初始化網(wǎng)絡(luò)狀態(tài)。將欲識(shí)別模式U′=[u′1,u′2,…,u′i,…u′n]T設(shè)為網(wǎng)絡(luò)狀態(tài)的初始狀態(tài),即vi(0)=u′i,vi(0)是網(wǎng)絡(luò)中任意神經(jīng)元i在t=0時(shí)刻的狀態(tài)。
第四步:迭代收斂。根據(jù)公式
通過(guò)t=t+1隨機(jī)地更新任一神經(jīng)元的狀態(tài),反復(fù)迭代至網(wǎng)絡(luò)中所有神經(jīng)元的狀態(tài)不變?yōu)橹梗O(shè)此時(shí)t=T。
第五步:網(wǎng)絡(luò)輸出。此時(shí)T時(shí)刻的網(wǎng)絡(luò)狀態(tài)即為網(wǎng)絡(luò)的輸出y=vi(T)。
外積法要求記憶樣本矢量滿足正交時(shí),才能被記憶存儲(chǔ)到網(wǎng)絡(luò)中,限制了樣本容量。偽逆學(xué)習(xí)算法能在一定程度上克服傳統(tǒng)Hopfield NN記憶樣本的約束,使網(wǎng)絡(luò)的記憶容量有所提高。然而涉及到轉(zhuǎn)置運(yùn)算,新樣本的學(xué)習(xí)需要老樣本的累加學(xué)習(xí),不能實(shí)現(xiàn)遞增學(xué)習(xí),因此運(yùn)行速度較慢,并且容錯(cuò)性較低。本文進(jìn)一步提出了GA優(yōu)化Hopfield NN權(quán)值的方法,通過(guò)離線隨機(jī)訓(xùn)練獲得權(quán)值,在線模式識(shí)別,擴(kuò)大了記憶樣本的容量和容錯(cuò)性,也提高了系統(tǒng)的識(shí)別速度。
1.2GA對(duì)Hopfield NN權(quán)值的優(yōu)化設(shè)計(jì)
GA是模仿自然界生物進(jìn)化機(jī)制發(fā)展起來(lái)的隨機(jī)全局搜索和優(yōu)化方法,它借鑒了進(jìn)化論和遺傳學(xué)說(shuō),是一種高效、并行、全局搜索的方法[7]。GA包括選擇、交叉、變異3種遺傳算子,在算法運(yùn)行過(guò)程中,首先對(duì)可行解進(jìn)行編碼,形成初始種群,隨后從任一初始種群出發(fā),通過(guò)選擇、交叉、變異操作,產(chǎn)生一群更適應(yīng)環(huán)境的個(gè)體,使群體進(jìn)化到搜索空間中更好的區(qū)域,如此循環(huán)最后收斂到一群最適應(yīng)環(huán)境的個(gè)體,通過(guò)解碼求得問題的最優(yōu)解[8]。遺傳算法流程圖如圖2所示。
本文設(shè)計(jì)的Hopfield NN板形模式識(shí)別模型,在現(xiàn)場(chǎng)軋鋼板形儀采集的15個(gè)樣本點(diǎn)基礎(chǔ)上利用插值法,使樣本點(diǎn)達(dá)到26個(gè),即26個(gè)神經(jīng)元,以保證網(wǎng)絡(luò)的記憶效果,所以網(wǎng)絡(luò)包含626個(gè)權(quán)值,即626個(gè)變量。為便于操作,GA采用實(shí)數(shù)編碼。根據(jù)調(diào)試經(jīng)驗(yàn),GA運(yùn)行過(guò)程中選擇初始群體大小為20,交叉概率為0.8,變異概率自適應(yīng)調(diào)整范圍0.01~0.1,取實(shí)際輸出與網(wǎng)絡(luò)輸出的誤差均方差為適應(yīng)度函數(shù)
圖2 遺傳算法流程圖Fig.2 Flow chart of genetic algorithm
2.1板形基本模式
板形識(shí)別的目的,就是從實(shí)測(cè)的板形離散信號(hào)中判別出當(dāng)前帶鋼中存在的板形缺陷類型屬于哪一種基本模式或幾種模式的組合。常見的板形缺陷基本模式包括左邊浪、右邊浪、中間浪、雙邊浪、右三分浪、左三分浪、四分浪和邊中浪[9?10]。軋制后板形殘余應(yīng)力應(yīng)滿足沿板寬橫向積分為零。殘余應(yīng)力沿板寬方向的分布曲線如圖3所示。
基本模式的歸一化方程為:
左邊浪:Y1=p1(y)=y(tǒng);
右邊浪:Y2=-p1(y)=-y;
式中,y為帶材橫向板寬。
軋后板形可以表示為板形基本模式的線性組合
由于ai(i=1,3,5,7)均可正可負(fù),所以實(shí)際上表示了8種板形基本模式的線性組合[11]。a1、a3、a5、a7分別表示一次、二次、三次、四次板形偏差的隸屬度,其大小表示各次板形偏差的含量。
2.2板形識(shí)別模型的建立
將利用板形儀采集到的板形應(yīng)力數(shù)據(jù)所對(duì)應(yīng)的各種板形缺陷模式進(jìn)行編碼,得到取值為1和-1的離散記憶模式。連續(xù)的板形缺陷模式對(duì)應(yīng)的二值離散化處理后的缺陷模式如圖4所示。
圖4 連續(xù)板形對(duì)應(yīng)的離散模式Fig.4 Discrete model corresponds to continuous flatness
在現(xiàn)場(chǎng)取得的板形應(yīng)力值基礎(chǔ)上利用插值法使樣本點(diǎn)達(dá)到26個(gè),保證樣本的記憶容量,即選擇26個(gè)神經(jīng)元,同時(shí)為了提高所設(shè)計(jì)網(wǎng)絡(luò)的泛化能力,選擇17種板形模式進(jìn)行存儲(chǔ),通過(guò)GA優(yōu)化工具箱求適應(yīng)度函數(shù)最小值[12],使網(wǎng)絡(luò)輸出逼近實(shí)際輸出。運(yùn)行遺傳算法,得到適應(yīng)度函數(shù)變化的曲線及獲得的最優(yōu)個(gè)體如圖5所示。
圖5 遺傳算法優(yōu)化過(guò)程及結(jié)果Fig.5 Process and result optimized by GA
為了驗(yàn)證GA?Hopfield NN模型的板形識(shí)別能力,在MATLAB R2010a環(huán)境下,把在冷軋板帶軋機(jī)現(xiàn)場(chǎng)板形儀上取得的實(shí)測(cè)板形缺陷模式數(shù)據(jù)作為網(wǎng)絡(luò)的學(xué)習(xí)樣本進(jìn)行優(yōu)化,本文選擇了17組樣本數(shù)據(jù)。網(wǎng)絡(luò)訓(xùn)練結(jié)束后,在訓(xùn)練樣本的基礎(chǔ)上加P×rand(1)的隨機(jī)干擾來(lái)檢驗(yàn)其對(duì)板形缺陷的記憶識(shí)別能力,并與外積法、偽逆法結(jié)果進(jìn)行對(duì)比,仿真結(jié)果如表1、圖6和圖7所示,其中MSE表示網(wǎng)絡(luò)測(cè)試的均方差。
根據(jù)仿真實(shí)驗(yàn)結(jié)果分析,隨著干擾強(qiáng)度的增加,3種方法的均方差都隨著變大,識(shí)別率也逐漸降低。外積和法記憶容量有限,有一定的抗擾能力;偽逆法記憶容量提高了,抗干擾能力較差;GA法記憶容量較大,抗干擾能力較強(qiáng)。
GA?Hopfield NN表現(xiàn)出更強(qiáng)的聯(lián)想記憶能力和更好的容錯(cuò)性,同時(shí)GA?Hopfield NN權(quán)值離線訓(xùn)練,在線識(shí)別使系統(tǒng)的實(shí)時(shí)處理能力更強(qiáng),更易于工程實(shí)踐應(yīng)用。
圖6 P=1.0時(shí)的板形缺陷識(shí)別結(jié)果對(duì)比Fig.6 Comparison of flatness defect recognition result at P=1.0
圖7 P=1.5時(shí)的板形缺陷識(shí)別結(jié)果對(duì)比Fig.7 Comparison of flatness defect recognition result at P=1.5
1)GA?Hopfield NN結(jié)構(gòu)模型具有反饋動(dòng)力學(xué)系統(tǒng)的優(yōu)點(diǎn),計(jì)算能力比前向網(wǎng)絡(luò)更強(qiáng)。并且離散二值計(jì)算對(duì)于網(wǎng)絡(luò)的硬件(如FPGA、DSP等)實(shí)現(xiàn)具有更大優(yōu)勢(shì),為工程的實(shí)踐運(yùn)用提供了理論依據(jù)。
2)GA?Hopfield NN一方面不要求所記憶樣本具有正交性,另一方面其記憶容量較大,容錯(cuò)性較強(qiáng),避免聯(lián)想過(guò)程中陷入偽穩(wěn)定點(diǎn)的缺陷。
3)仿真實(shí)驗(yàn)證明,GA?Hopfield NN板形模式識(shí)別新方法能夠有效識(shí)別板形缺陷類型,運(yùn)行速度快,識(shí)別精度高,泛化能力強(qiáng),可為高精度板形自動(dòng)控制策略提供依據(jù)。
參考文獻(xiàn)
[1]Malik A S Grandhi R V.A computational method to predict strip profile in rolling mills J .Journal of Materials Processing Technol?ogy 2008 206 1 263?274.
[2]張秀玲 張少宇 趙文保 等.板形模式識(shí)別的多輸出最小二乘支持向量回歸機(jī)新方法 J .中國(guó)機(jī)械工程 2013 24 2 258?263.
[3]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例 M .北京 機(jī)械工業(yè)出版社 2013.
[4]仲偉漢 黃晞 張蕭.一種設(shè)計(jì)離散型Hopfield神經(jīng)網(wǎng)絡(luò)權(quán)值的新方法 J .福建師范大學(xué)學(xué)報(bào) 自然科學(xué)版 2012 28 3 38?42.
[5]李榮 喬俊飛 韓紅桂.一種改進(jìn)型離散Hopfield學(xué)習(xí)算法 J .控制與決策 2014 29 2 241?245.
[6]王振華.基于Hopfield神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)分類 J .計(jì)算機(jī)應(yīng)用2011 31 2 92?96.
[7]王曉哲 顧樹生.基于遺傳算法的PID神經(jīng)網(wǎng)絡(luò)解耦控制 J .控制與決策 1999 14 A11 617?619.
[8]谷正氣 朱一凡 張沙 等.基于GA?BP網(wǎng)絡(luò)的礦山路面不平度辨識(shí) J .中國(guó)機(jī)械工程 2014 25 23 3232?3238.
[9]單修迎 劉宏民 賈春玉.含有三次板形的新型板形模式識(shí)別方法 J .鋼鐵 2010 45 8 56?60.
[10]ZHANG Xiu?ling ZHANG Shao?yu TAN Guang?zhong et al.A novel method for flatness pattern recognition via Least Squares Support Vector Regression J .Journal of Iron and Steel Research International 2012 19 3 25?30.
[11]PENG Yan LIU Hong?min.A neural network?based shape control system for cold rolling operations J .Journal of Materials Process?ing Technology 2007 202 1 54?60.
[12]雷英杰 張善文 李續(xù)武 等.Matlab遺傳算法工具箱及應(yīng)用M .西安 西安電子科技大學(xué)出版社 2005.
Research on flatness defect identification via genetic optimization design of Hopfield NN
ZHANG Xiu?ling1 2CHENG Long1HAO Shuang1GAO Wu?yang1LAI Yong?jin1
1.Key Laboratory of Industrial Computer Control Engineering of Hebei Province Yanshan University Qinhuangdao Hebei 066004 China 2.National Engineering Research Center for Equipment and Technology of Cold Strip Rolling Yanshan University Qinhuangdao Hebei 066004 China
AbstractA genetic algorithm GA to optimize weights of Hopfield NN called GA?Hopfield NN structure is proposed in the light of disadvantages of the traditional design method for Hopfield NN such as low memory capacity and error tolerant memory models easily falling into the pseudo steady state and weight matrix requested to be symmetry.GA?Hopfield NN has a larger memory capaci?y and a stronger error tolerant than that of traditional methods.A new flatness pattern recognition model based on GA?Hopfield NN s also set up.Feedback network that has strong computing ability is applied into real time information handling system to realize pat?ern recognition.Many defects that exists in current flatness intelligent recognition model such as poor dynamic low error tolerant and bad real?time are conquered.Meanwhile Hopfield NN adopts binary calculation form improves the operation speed of the sys?em greatly and provides a new way of the hardware realization and engineering application.
Key wordsHopfield NN fault?tolerant genetic algorithm flatness pattern recognition
作者簡(jiǎn)介:?張秀玲(1968?),女,山東章丘人,博士,教授,主要研究方向?yàn)榛谌斯ぶ悄艿膹?fù)雜系統(tǒng)建模、控制、模式識(shí)別及計(jì)算機(jī)仿真,Email:zxlysu@ysu.edu.cn。
基金項(xiàng)目:河北省自然科學(xué)基金鋼鐵聯(lián)合研究基金資助項(xiàng)目(E2015203354);河北省高校創(chuàng)新團(tuán)隊(duì)領(lǐng)軍人才培育計(jì)劃項(xiàng)目(LJRC013)
收稿日期:2014?12?02
文章編號(hào):1007?791X(2015)03?0235?06
DOI:10.3969/j.issn.1007?791X.2015.03.007
文獻(xiàn)標(biāo)識(shí)碼:A
中圖分類號(hào):TG335.5;TP273