張文廣,徐宇茹,姜 鵬,史賢俊
(1.海軍航空工程學(xué)院 a.控制工程系;b.訓(xùn)練部,山東 煙臺(tái) 264001;2.91065 部隊(duì),遼寧 葫蘆島 125001)
徑向基函數(shù)(Radial Basis Function,RBF)網(wǎng)絡(luò)是一種性能優(yōu)良的三層前饋式神經(jīng)網(wǎng)絡(luò),具有以任意精度逼近任意連續(xù)函數(shù)的能力,并被廣泛應(yīng)用于眾多領(lǐng)域[1]。與傳統(tǒng)的BP網(wǎng)絡(luò)相比,徑向基函數(shù)網(wǎng)絡(luò)(RBFNN)是局部逼近網(wǎng)絡(luò),具有學(xué)習(xí)速度快,不存在局部極小的優(yōu)點(diǎn),同時(shí)具有很強(qiáng)的函數(shù)逼近和模式分類的能力。目前用于徑向基函數(shù)網(wǎng)絡(luò)學(xué)習(xí)算法主要有無監(jiān)督的聚類方法、監(jiān)督學(xué)習(xí)方法及與回歸有關(guān)的正交二乘回歸方法(Orthogonal Least Square Regression,OLSR)、偏最小二乘回歸方法(Partial Least Square Regression,PLSR)等。聚類方法存在類別數(shù)須預(yù)先指定,且類別數(shù)的選取又會(huì)影響聚類性能等不足;監(jiān)督學(xué)習(xí)方法本質(zhì)上與誤差反傳算法相同,與初值有關(guān),且難以找到全局最優(yōu);正交二乘回歸與偏最小二乘回歸方法都較好地解決了隱單元數(shù)和各中心的取值問題,但在選定寬度系數(shù)和回歸參數(shù)時(shí),需用嘗試與交叉驗(yàn)證方法,存在很大的局限性。
遺傳算法是模擬生物在自然環(huán)境中的遺傳和進(jìn)化過程而形成的一種自適應(yīng)全局優(yōu)化搜索算法。它是解決函數(shù)優(yōu)化問題、模式識(shí)別問題、神經(jīng)網(wǎng)絡(luò)的參數(shù)調(diào)整和優(yōu)化等問題最有效的方法之一[2-4]。
針對傳統(tǒng)BP網(wǎng)絡(luò)以及簡單遺傳算法的不足,本文提出了一種基于改進(jìn)遺傳算法(Improved Genetic Algorithm,IGA)的RBF神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)引入自適應(yīng)機(jī)制的實(shí)數(shù)編碼的遺傳算法,從初始群體生成及遺傳算子操作等方面作了改進(jìn),并將其與梯度下降法混合交互運(yùn)算,作為徑向基函數(shù)網(wǎng)絡(luò)的學(xué)習(xí)算法,應(yīng)用于非線性函數(shù)的逼近和導(dǎo)彈故障模式的識(shí)別問題。仿真結(jié)果表明,基于IGA算法的RBF網(wǎng)絡(luò)不僅結(jié)構(gòu)簡單,而且具有較好的網(wǎng)絡(luò)泛化性能。
徑向基函數(shù)網(wǎng)絡(luò)[5]是局部逼近網(wǎng)絡(luò),一般由3層組成(n個(gè)輸入、m個(gè)隱節(jié)點(diǎn)、p個(gè)輸出),其結(jié)構(gòu)如圖1所示。
圖1 徑向高斯函數(shù)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)
RBF網(wǎng)絡(luò)基函數(shù)常用的是高斯函數(shù),可表示為
式中:φi(x)為第i個(gè)隱層節(jié)點(diǎn)的輸出;X為輸入樣本,ci為第i個(gè)隱層節(jié)點(diǎn)的高斯核函數(shù)的中心且與X 具有相同的維數(shù);iσ為第i個(gè)隱層節(jié)點(diǎn)的變量,稱標(biāo)準(zhǔn)化常數(shù)或基寬度。
RBF網(wǎng)絡(luò)的輸出為隱層節(jié)點(diǎn)輸出的線性組合,有
這里采用梯度下降法來學(xué)習(xí)RBF網(wǎng)絡(luò)的中心ci和寬度參數(shù) σi。為討論方便,考慮輸出層只有一個(gè)節(jié)點(diǎn)的情況,將式(1)代入式(2)中得到
設(shè)網(wǎng)絡(luò)的期望輸出為yd(x),網(wǎng)絡(luò)的能量函數(shù):
將 f (xj)代入式(4),得到
設(shè)樣本數(shù)為L,則
記
則式(6)變?yōu)?/p>
在學(xué)習(xí)中心值和寬度參數(shù)時(shí),認(rèn)為iw為常數(shù),則可得中心值和寬度參數(shù)更新公式為
式(9)、(10)中,λ、β分別為中心值和寬度參數(shù)的學(xué)習(xí)效率。將式(8)分別代入式(9)和式(10),經(jīng)整理得
依據(jù)輸入樣本,利用系統(tǒng)辨識(shí)理論中的最小二乘算法可求出輸出層的權(quán)值。本文采用的隱層和輸出層之間的聯(lián)接權(quán)的學(xué)習(xí)算法為
RBF網(wǎng)絡(luò)設(shè)計(jì)的核心問題是確定隱節(jié)點(diǎn)數(shù)目和基函數(shù)的中心值和其他參數(shù),設(shè)計(jì)出滿足目標(biāo)誤差要求的盡可能小的神經(jīng)網(wǎng)絡(luò),以保證神經(jīng)網(wǎng)絡(luò)的泛化能力。
為克服二進(jìn)制編碼的不足,本文對遺傳算法采用實(shí)數(shù)編碼方式,即把RBF網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)m、每一隱節(jié)點(diǎn)的中心參數(shù) ci和寬度參數(shù) iσ 編成染色體,把網(wǎng)絡(luò)中這些參數(shù)的集合看成一個(gè)個(gè)體,并在初始化階段采用完全隨機(jī)方式產(chǎn)生初始群體。群體規(guī)模影響遺傳優(yōu)化的最終結(jié)果以及遺傳算法的執(zhí)行效率。一般地,群體規(guī)模取為50~200 較好。
遺傳算法中適應(yīng)度函數(shù)的選取至關(guān)重要,下面構(gòu)造能量函數(shù)E,使其最小值對應(yīng)于問題的最優(yōu)解:
式中:tjk為第k神經(jīng)元關(guān)于第j個(gè)樣本的期望輸出;ojk為第k神經(jīng)元關(guān)于第j個(gè)樣本的RBF網(wǎng)絡(luò)輸出。
于是,適應(yīng)度函數(shù)可由下式構(gòu)造:
為改善初始種群的性質(zhì),本文采用了一種所謂的小區(qū)間生成法[6]。該法是先把各待優(yōu)化參數(shù)的取值范圍分成種群總數(shù)個(gè)小區(qū)間,再在各小區(qū)間中分別隨機(jī)生成一個(gè)初始個(gè)體。這樣生成的初始個(gè)體將會(huì)均勻地分布在整個(gè)解空間上,并能保證隨機(jī)產(chǎn)生的各個(gè)體間有明顯的差距,保證了初始種群含有較豐富的模式,增強(qiáng)了搜索收斂于全局最優(yōu)點(diǎn)的可能。
為了保證搜索到的最佳個(gè)體不會(huì)被各種遺傳操作破壞,并保留上代群體的優(yōu)良特性,本算法將上代群體全部復(fù)制保留到匹配池中。
對于匹配池中的個(gè)體,采用如下兩種方式進(jìn)行選擇以產(chǎn)生子代群體:
1)實(shí)施最優(yōu)保留策略:將匹配池中適應(yīng)度值最大的個(gè)體無遺傳變化地放入子代群體,以保留上代群體的最優(yōu)解,使算法可以以概率1 收斂于全局最優(yōu)解,保證了算法的收斂性;
2)兩兩競爭選擇策略:對匹配池中除最優(yōu)解以外的其他個(gè)體進(jìn)行兩兩競爭選擇,從匹配池中隨機(jī)選取兩個(gè)個(gè)體,比較它們的適應(yīng)值,把適應(yīng)值較大的個(gè)體保留到子代,直到產(chǎn)生完整子代群體。
交叉采用實(shí)數(shù)編碼遺傳算法中的實(shí)值中間重組法[7],遺傳算法中交叉概率cP的選擇對算法行為和性能都有著重要影響,為保證交叉的質(zhì)量,交叉概率采用自適應(yīng)方式產(chǎn)生,即交叉概率由進(jìn)化程度控制。則改進(jìn)的自適應(yīng)交叉概率[8]由下式確定:
式中:fmax為群體中最大的適應(yīng)度值;favg為每代群體的平均適應(yīng)度值;f′為要交叉的兩個(gè)個(gè)體中較大的適應(yīng)度值。這里,可取Pc1=0.9,Pc2=0.6。
變異是對優(yōu)選交叉后的個(gè)體進(jìn)行的。為保證能搜索到解空間中的每一點(diǎn),使算法具有全局收斂性,這里采用實(shí)數(shù)編碼的非均勻變異(Non-uniform Mutation)方式。
式中,?(t,y)為在[0,y]范圍內(nèi)符合非均勻分布的隨機(jī)數(shù)。?(t,y)表達(dá)式為:
式中:t為群體進(jìn)化的代數(shù);r為[0,1]間符合均勻分布的隨機(jī)數(shù);T為最大進(jìn)化代數(shù);b為系統(tǒng)參數(shù)(一般取值為2)。
同樣,為了保證變異的質(zhì)量,這里采用改進(jìn)后的自適應(yīng)變異概率,其具體表達(dá)式為:
式中:fmax為群體中最大的適應(yīng)度值;favg為每代群體的平均適應(yīng)度值;f為要變異個(gè)體的適應(yīng)度值。這里,可取Pm1=0.1,Pm2=0.001。
將RBF網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化和參數(shù)學(xué)習(xí)分兩個(gè)階段進(jìn)行,即訓(xùn)練和進(jìn)化。首先,隨機(jī)生成N個(gè)個(gè)體,組成群體,用梯度下降法學(xué)習(xí)每一個(gè)體中的隱節(jié)點(diǎn)數(shù)染色體對應(yīng)的網(wǎng)絡(luò)中的中心 ci和寬度參數(shù)iσ,用最小二乘法學(xué)習(xí)網(wǎng)絡(luò)的線性權(quán)值iw;其次,用遺傳進(jìn)化算法優(yōu)化隱節(jié)點(diǎn)數(shù),通過這兩個(gè)過程的交替進(jìn)行,得到隱節(jié)點(diǎn)數(shù)最小滿足誤差要求的基函數(shù)且具有不同寬度參數(shù)的RBF網(wǎng)絡(luò)。
考慮用RBF網(wǎng)絡(luò)來逼近非線性函數(shù)[9]:
訓(xùn)練樣本的產(chǎn)生方式如下:樣本數(shù)L=100,訓(xùn)練樣本輸入x 服從區(qū)間[0,1]內(nèi)的均勻分布,樣本輸出f(x)+e,其中,e為添加的高斯噪聲,其服從均值為0、方差為0.22 正態(tài)分布。并且自變量x 以0.01為間隔在區(qū)間[0,1]上均勻取值,產(chǎn)生100個(gè)無噪聲輸出f(x)值作為測試數(shù)據(jù)集。
下面分別采用標(biāo)準(zhǔn)BP網(wǎng)絡(luò)、SGA-RBF網(wǎng)絡(luò)和IGA-RBF網(wǎng)絡(luò)對上述非線性函數(shù)逼近。其中,圖2為標(biāo)準(zhǔn)BP網(wǎng)絡(luò)函數(shù)逼近曲線,圖3為基于SGA 和IGA的RBF網(wǎng)絡(luò)函數(shù)逼近曲線。從圖2和圖3的仿真結(jié)果比較可知,基于標(biāo)準(zhǔn)BP網(wǎng)絡(luò)的函數(shù)逼近效果最差,而基于本文提出的IGA-RBF網(wǎng)絡(luò)的函數(shù)曲線逼近效果最優(yōu)。由此可以看出,基于本文IGA算法設(shè)計(jì)的RBF網(wǎng)絡(luò)的泛化能力最強(qiáng),體現(xiàn)了本文設(shè)計(jì)RBF網(wǎng)絡(luò)方法的有效性。
反艦導(dǎo)彈自動(dòng)駕駛儀是一個(gè)非常復(fù)雜的非線性系統(tǒng),它包含有大量的模擬電路,因而很難有效地對其進(jìn)行故障檢測與診斷。下面以某型反艦導(dǎo)彈自動(dòng)駕駛儀舵回路系統(tǒng)常見的8種故障(如電子放大器斷開、齒輪卡死等)為例,對其進(jìn)行動(dòng)態(tài)測試。通過模型仿真預(yù)置故障,對采集的信號進(jìn)行三層小波包(這里采用db4 小波)分解,根據(jù)基于小波包變換的特征提取算法[10]構(gòu)造出該舵回路系統(tǒng)8種故障狀態(tài)下的特征向量(8 維),建立“特征向量-系統(tǒng)狀態(tài)”的對應(yīng)關(guān)系。如表1所示為所構(gòu)造出的具有表征系統(tǒng)8種故障狀態(tài)能量的特征向量。
通過仿真實(shí)驗(yàn)可獲取80組樣本數(shù)據(jù),并將其等分成兩部分,分別用于網(wǎng)絡(luò)訓(xùn)練和測試。將特征向量的維數(shù)8 作為網(wǎng)絡(luò)的輸入,而將這8種故障狀態(tài)作為網(wǎng)絡(luò)的輸出,對基于IGA算法優(yōu)化的RBF網(wǎng)絡(luò)進(jìn)行訓(xùn)練。然后,利用訓(xùn)練好的網(wǎng)絡(luò)對待識(shí)別樣本進(jìn)行測試識(shí)別,其識(shí)別結(jié)果如表2所示,可見該網(wǎng)絡(luò)能夠較好地識(shí)別出導(dǎo)彈的故障模式。
為比較網(wǎng)絡(luò)性能,分別采用標(biāo)準(zhǔn) BP網(wǎng)絡(luò)、SGA-RBF網(wǎng)絡(luò)和本文IGA-RBF網(wǎng)絡(luò)對故障模式進(jìn)行訓(xùn)練和識(shí)別,識(shí)別的仿真結(jié)果比較見表3。從表3的比較結(jié)果看出,本文IGA-RBF網(wǎng)絡(luò)明顯比其他兩種網(wǎng)絡(luò)更能準(zhǔn)確地對導(dǎo)彈故障模式進(jìn)行識(shí)別,其識(shí)別正確率可達(dá)到97.5%,有效地實(shí)現(xiàn)了對導(dǎo)彈的故障檢測與診斷。仿真結(jié)果表明,該IGA-RBF神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的模式分類和識(shí)別能力。
表2 本文IGA-RBF網(wǎng)絡(luò)識(shí)別結(jié)果
表3 三種網(wǎng)絡(luò)的故障模式識(shí)別結(jié)果比較
利用遺傳算法優(yōu)化RBF網(wǎng)絡(luò)的隱節(jié)點(diǎn)數(shù)和基函數(shù)的中心值和寬度參數(shù),可進(jìn)一步提高網(wǎng)絡(luò)預(yù)測精度,從而保證RBF網(wǎng)絡(luò)的泛化能力,使RBF的學(xué)習(xí)上升到更高層次。針對傳統(tǒng)BP網(wǎng)絡(luò)及SGA算法的不足,本文提出了基于IGA的RBF神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)引入自適應(yīng)機(jī)制的實(shí)數(shù)編碼的遺傳算法,從初始群體生成及遺傳算子操作等方面作了改進(jìn),并將其與梯度下降法混合交互運(yùn)算,作為RBF網(wǎng)絡(luò)的學(xué)習(xí)算法,應(yīng)用于非線性函數(shù)的逼近和導(dǎo)彈故障模式的識(shí)別問題。仿真結(jié)果表明,基于IGA算法的RBF神經(jīng)網(wǎng)絡(luò)不僅結(jié)構(gòu)簡單,有較好的網(wǎng)絡(luò)泛化性能,在工程上具有較高的理論意義和實(shí)際應(yīng)用價(jià)值。
[1]HONGMEI LIU,PINGECHAO OUYANG,SHAOPING WANG.Fault detection based on RBF neural network in a hydraulic position servo system[C]//The 6th World Congress on Control and Automation.Dalian,China,2006:5708-5712.
[2]ZHIHONG QIE,XINMIAO WU,HITOSHI FURUTA,et al.The method of calculating hysteresis time of piezometric tube for earth-rock dam based on GA-RBF[C]//The 6th World Congress on Control and Automation.Dalian,China,2006:8523-8527.
[3]黃友銳.智能優(yōu)化算法及其應(yīng)用[M].北京:國防工業(yè)出版社,2008.
[4]尹靚,李連,劉東鑫.基于自適應(yīng)遺傳算法的航跡關(guān)聯(lián)模型[J].海軍航空工程學(xué)院學(xué)報(bào),2009,24(3):272-276.
[5]田景文,高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京:北京理工大學(xué)出版社,2006.
[6]高瑋.改進(jìn)的快速遺傳算法及其性能研究[J].系統(tǒng)工程與電子技術(shù),2003,25(11):1427-1430.
[7]SRINIVAS M,PATNAIK L M.Adaptive probabilities of crossover and mutation in genetic algorithms[J].IEEE Trans.On SMC,1994,24(4):656-667.
[8]王小平,曹立明.遺傳算法—理論、應(yīng)用與軟件實(shí)現(xiàn)[M].西安:西安交通大學(xué)出版社,2002:18-80.
[9]CHEN S,CHNG E S,ALKADHIMI K.Regularized orthogonal least squares algorithm for constructing radial basis function networks[J].International Journal of Control,1996,64(5):829-837.
[10]胡昌華,張軍波,李學(xué)鋒.一種基于小波和人工神經(jīng)網(wǎng)絡(luò)的故障檢測與診斷方法[J].航天控制,2000,18(2):64-71.