国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于IGA算法優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)應(yīng)用

2010-03-24 02:40張文廣徐宇茹史賢俊
關(guān)鍵詞:適應(yīng)度遺傳算法個(gè)體

張文廣,徐宇茹,姜 鵬,史賢俊

(1.海軍航空工程學(xué)院 a.控制工程系;b.訓(xùn)練部,山東 煙臺(tái) 264001;2.91065 部隊(duì),遼寧 葫蘆島 125001)

徑向基函數(shù)(Radial Basis Function,RBF)網(wǎng)絡(luò)是一種性能優(yōu)良的三層前饋式神經(jīng)網(wǎng)絡(luò),具有以任意精度逼近任意連續(xù)函數(shù)的能力,并被廣泛應(yīng)用于眾多領(lǐng)域[1]。與傳統(tǒng)的BP網(wǎng)絡(luò)相比,徑向基函數(shù)網(wǎng)絡(luò)(RBFNN)是局部逼近網(wǎng)絡(luò),具有學(xué)習(xí)速度快,不存在局部極小的優(yōu)點(diǎn),同時(shí)具有很強(qiáng)的函數(shù)逼近和模式分類的能力。目前用于徑向基函數(shù)網(wǎng)絡(luò)學(xué)習(xí)算法主要有無監(jiān)督的聚類方法、監(jiān)督學(xué)習(xí)方法及與回歸有關(guān)的正交二乘回歸方法(Orthogonal Least Square Regression,OLSR)、偏最小二乘回歸方法(Partial Least Square Regression,PLSR)等。聚類方法存在類別數(shù)須預(yù)先指定,且類別數(shù)的選取又會(huì)影響聚類性能等不足;監(jiān)督學(xué)習(xí)方法本質(zhì)上與誤差反傳算法相同,與初值有關(guān),且難以找到全局最優(yōu);正交二乘回歸與偏最小二乘回歸方法都較好地解決了隱單元數(shù)和各中心的取值問題,但在選定寬度系數(shù)和回歸參數(shù)時(shí),需用嘗試與交叉驗(yàn)證方法,存在很大的局限性。

遺傳算法是模擬生物在自然環(huán)境中的遺傳和進(jìn)化過程而形成的一種自適應(yīng)全局優(yōu)化搜索算法。它是解決函數(shù)優(yōu)化問題、模式識(shí)別問題、神經(jīng)網(wǎng)絡(luò)的參數(shù)調(diào)整和優(yōu)化等問題最有效的方法之一[2-4]。

針對傳統(tǒng)BP網(wǎng)絡(luò)以及簡單遺傳算法的不足,本文提出了一種基于改進(jìn)遺傳算法(Improved Genetic Algorithm,IGA)的RBF神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)引入自適應(yīng)機(jī)制的實(shí)數(shù)編碼的遺傳算法,從初始群體生成及遺傳算子操作等方面作了改進(jìn),并將其與梯度下降法混合交互運(yùn)算,作為徑向基函數(shù)網(wǎng)絡(luò)的學(xué)習(xí)算法,應(yīng)用于非線性函數(shù)的逼近和導(dǎo)彈故障模式的識(shí)別問題。仿真結(jié)果表明,基于IGA算法的RBF網(wǎng)絡(luò)不僅結(jié)構(gòu)簡單,而且具有較好的網(wǎng)絡(luò)泛化性能。

1 徑向基函數(shù)網(wǎng)絡(luò)設(shè)計(jì)

1.1 RBF網(wǎng)絡(luò)的結(jié)構(gòu)

徑向基函數(shù)網(wǎng)絡(luò)[5]是局部逼近網(wǎng)絡(luò),一般由3層組成(n個(gè)輸入、m個(gè)隱節(jié)點(diǎn)、p個(gè)輸出),其結(jié)構(gòu)如圖1所示。

圖1 徑向高斯函數(shù)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

RBF網(wǎng)絡(luò)基函數(shù)常用的是高斯函數(shù),可表示為

式中:φi(x)為第i個(gè)隱層節(jié)點(diǎn)的輸出;X為輸入樣本,ci為第i個(gè)隱層節(jié)點(diǎn)的高斯核函數(shù)的中心且與X 具有相同的維數(shù);iσ為第i個(gè)隱層節(jié)點(diǎn)的變量,稱標(biāo)準(zhǔn)化常數(shù)或基寬度。

RBF網(wǎng)絡(luò)的輸出為隱層節(jié)點(diǎn)輸出的線性組合,有

1.2 網(wǎng)絡(luò)參數(shù)的學(xué)習(xí)算法

這里采用梯度下降法來學(xué)習(xí)RBF網(wǎng)絡(luò)的中心ci和寬度參數(shù) σi。為討論方便,考慮輸出層只有一個(gè)節(jié)點(diǎn)的情況,將式(1)代入式(2)中得到

設(shè)網(wǎng)絡(luò)的期望輸出為yd(x),網(wǎng)絡(luò)的能量函數(shù):

將 f (xj)代入式(4),得到

設(shè)樣本數(shù)為L,則

則式(6)變?yōu)?/p>

在學(xué)習(xí)中心值和寬度參數(shù)時(shí),認(rèn)為iw為常數(shù),則可得中心值和寬度參數(shù)更新公式為

式(9)、(10)中,λ、β分別為中心值和寬度參數(shù)的學(xué)習(xí)效率。將式(8)分別代入式(9)和式(10),經(jīng)整理得

依據(jù)輸入樣本,利用系統(tǒng)辨識(shí)理論中的最小二乘算法可求出輸出層的權(quán)值。本文采用的隱層和輸出層之間的聯(lián)接權(quán)的學(xué)習(xí)算法為

2 基于改進(jìn)遺傳算法的RBF網(wǎng)絡(luò)訓(xùn)練

RBF網(wǎng)絡(luò)設(shè)計(jì)的核心問題是確定隱節(jié)點(diǎn)數(shù)目和基函數(shù)的中心值和其他參數(shù),設(shè)計(jì)出滿足目標(biāo)誤差要求的盡可能小的神經(jīng)網(wǎng)絡(luò),以保證神經(jīng)網(wǎng)絡(luò)的泛化能力。

2.1 編碼方式和適應(yīng)度函數(shù)的確定

為克服二進(jìn)制編碼的不足,本文對遺傳算法采用實(shí)數(shù)編碼方式,即把RBF網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)m、每一隱節(jié)點(diǎn)的中心參數(shù) ci和寬度參數(shù) iσ 編成染色體,把網(wǎng)絡(luò)中這些參數(shù)的集合看成一個(gè)個(gè)體,并在初始化階段采用完全隨機(jī)方式產(chǎn)生初始群體。群體規(guī)模影響遺傳優(yōu)化的最終結(jié)果以及遺傳算法的執(zhí)行效率。一般地,群體規(guī)模取為50~200 較好。

遺傳算法中適應(yīng)度函數(shù)的選取至關(guān)重要,下面構(gòu)造能量函數(shù)E,使其最小值對應(yīng)于問題的最優(yōu)解:

式中:tjk為第k神經(jīng)元關(guān)于第j個(gè)樣本的期望輸出;ojk為第k神經(jīng)元關(guān)于第j個(gè)樣本的RBF網(wǎng)絡(luò)輸出。

于是,適應(yīng)度函數(shù)可由下式構(gòu)造:

2.2 初始種群的產(chǎn)生

為改善初始種群的性質(zhì),本文采用了一種所謂的小區(qū)間生成法[6]。該法是先把各待優(yōu)化參數(shù)的取值范圍分成種群總數(shù)個(gè)小區(qū)間,再在各小區(qū)間中分別隨機(jī)生成一個(gè)初始個(gè)體。這樣生成的初始個(gè)體將會(huì)均勻地分布在整個(gè)解空間上,并能保證隨機(jī)產(chǎn)生的各個(gè)體間有明顯的差距,保證了初始種群含有較豐富的模式,增強(qiáng)了搜索收斂于全局最優(yōu)點(diǎn)的可能。

2.3 復(fù)制與選擇操作

為了保證搜索到的最佳個(gè)體不會(huì)被各種遺傳操作破壞,并保留上代群體的優(yōu)良特性,本算法將上代群體全部復(fù)制保留到匹配池中。

對于匹配池中的個(gè)體,采用如下兩種方式進(jìn)行選擇以產(chǎn)生子代群體:

1)實(shí)施最優(yōu)保留策略:將匹配池中適應(yīng)度值最大的個(gè)體無遺傳變化地放入子代群體,以保留上代群體的最優(yōu)解,使算法可以以概率1 收斂于全局最優(yōu)解,保證了算法的收斂性;

2)兩兩競爭選擇策略:對匹配池中除最優(yōu)解以外的其他個(gè)體進(jìn)行兩兩競爭選擇,從匹配池中隨機(jī)選取兩個(gè)個(gè)體,比較它們的適應(yīng)值,把適應(yīng)值較大的個(gè)體保留到子代,直到產(chǎn)生完整子代群體。

2.4 自適應(yīng)交叉操作

交叉采用實(shí)數(shù)編碼遺傳算法中的實(shí)值中間重組法[7],遺傳算法中交叉概率cP的選擇對算法行為和性能都有著重要影響,為保證交叉的質(zhì)量,交叉概率采用自適應(yīng)方式產(chǎn)生,即交叉概率由進(jìn)化程度控制。則改進(jìn)的自適應(yīng)交叉概率[8]由下式確定:

式中:fmax為群體中最大的適應(yīng)度值;favg為每代群體的平均適應(yīng)度值;f′為要交叉的兩個(gè)個(gè)體中較大的適應(yīng)度值。這里,可取Pc1=0.9,Pc2=0.6。

2.5 非均勻自適應(yīng)變異操作

變異是對優(yōu)選交叉后的個(gè)體進(jìn)行的。為保證能搜索到解空間中的每一點(diǎn),使算法具有全局收斂性,這里采用實(shí)數(shù)編碼的非均勻變異(Non-uniform Mutation)方式。

式中,?(t,y)為在[0,y]范圍內(nèi)符合非均勻分布的隨機(jī)數(shù)。?(t,y)表達(dá)式為:

式中:t為群體進(jìn)化的代數(shù);r為[0,1]間符合均勻分布的隨機(jī)數(shù);T為最大進(jìn)化代數(shù);b為系統(tǒng)參數(shù)(一般取值為2)。

同樣,為了保證變異的質(zhì)量,這里采用改進(jìn)后的自適應(yīng)變異概率,其具體表達(dá)式為:

式中:fmax為群體中最大的適應(yīng)度值;favg為每代群體的平均適應(yīng)度值;f為要變異個(gè)體的適應(yīng)度值。這里,可取Pm1=0.1,Pm2=0.001。

2.6 算法實(shí)現(xiàn)

將RBF網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化和參數(shù)學(xué)習(xí)分兩個(gè)階段進(jìn)行,即訓(xùn)練和進(jìn)化。首先,隨機(jī)生成N個(gè)個(gè)體,組成群體,用梯度下降法學(xué)習(xí)每一個(gè)體中的隱節(jié)點(diǎn)數(shù)染色體對應(yīng)的網(wǎng)絡(luò)中的中心 ci和寬度參數(shù)iσ,用最小二乘法學(xué)習(xí)網(wǎng)絡(luò)的線性權(quán)值iw;其次,用遺傳進(jìn)化算法優(yōu)化隱節(jié)點(diǎn)數(shù),通過這兩個(gè)過程的交替進(jìn)行,得到隱節(jié)點(diǎn)數(shù)最小滿足誤差要求的基函數(shù)且具有不同寬度參數(shù)的RBF網(wǎng)絡(luò)。

3 仿真應(yīng)用

3.1 泛函逼近

考慮用RBF網(wǎng)絡(luò)來逼近非線性函數(shù)[9]:

訓(xùn)練樣本的產(chǎn)生方式如下:樣本數(shù)L=100,訓(xùn)練樣本輸入x 服從區(qū)間[0,1]內(nèi)的均勻分布,樣本輸出f(x)+e,其中,e為添加的高斯噪聲,其服從均值為0、方差為0.22 正態(tài)分布。并且自變量x 以0.01為間隔在區(qū)間[0,1]上均勻取值,產(chǎn)生100個(gè)無噪聲輸出f(x)值作為測試數(shù)據(jù)集。

下面分別采用標(biāo)準(zhǔn)BP網(wǎng)絡(luò)、SGA-RBF網(wǎng)絡(luò)和IGA-RBF網(wǎng)絡(luò)對上述非線性函數(shù)逼近。其中,圖2為標(biāo)準(zhǔn)BP網(wǎng)絡(luò)函數(shù)逼近曲線,圖3為基于SGA 和IGA的RBF網(wǎng)絡(luò)函數(shù)逼近曲線。從圖2和圖3的仿真結(jié)果比較可知,基于標(biāo)準(zhǔn)BP網(wǎng)絡(luò)的函數(shù)逼近效果最差,而基于本文提出的IGA-RBF網(wǎng)絡(luò)的函數(shù)曲線逼近效果最優(yōu)。由此可以看出,基于本文IGA算法設(shè)計(jì)的RBF網(wǎng)絡(luò)的泛化能力最強(qiáng),體現(xiàn)了本文設(shè)計(jì)RBF網(wǎng)絡(luò)方法的有效性。

3.2 故障模式的識(shí)別

反艦導(dǎo)彈自動(dòng)駕駛儀是一個(gè)非常復(fù)雜的非線性系統(tǒng),它包含有大量的模擬電路,因而很難有效地對其進(jìn)行故障檢測與診斷。下面以某型反艦導(dǎo)彈自動(dòng)駕駛儀舵回路系統(tǒng)常見的8種故障(如電子放大器斷開、齒輪卡死等)為例,對其進(jìn)行動(dòng)態(tài)測試。通過模型仿真預(yù)置故障,對采集的信號進(jìn)行三層小波包(這里采用db4 小波)分解,根據(jù)基于小波包變換的特征提取算法[10]構(gòu)造出該舵回路系統(tǒng)8種故障狀態(tài)下的特征向量(8 維),建立“特征向量-系統(tǒng)狀態(tài)”的對應(yīng)關(guān)系。如表1所示為所構(gòu)造出的具有表征系統(tǒng)8種故障狀態(tài)能量的特征向量。

通過仿真實(shí)驗(yàn)可獲取80組樣本數(shù)據(jù),并將其等分成兩部分,分別用于網(wǎng)絡(luò)訓(xùn)練和測試。將特征向量的維數(shù)8 作為網(wǎng)絡(luò)的輸入,而將這8種故障狀態(tài)作為網(wǎng)絡(luò)的輸出,對基于IGA算法優(yōu)化的RBF網(wǎng)絡(luò)進(jìn)行訓(xùn)練。然后,利用訓(xùn)練好的網(wǎng)絡(luò)對待識(shí)別樣本進(jìn)行測試識(shí)別,其識(shí)別結(jié)果如表2所示,可見該網(wǎng)絡(luò)能夠較好地識(shí)別出導(dǎo)彈的故障模式。

為比較網(wǎng)絡(luò)性能,分別采用標(biāo)準(zhǔn) BP網(wǎng)絡(luò)、SGA-RBF網(wǎng)絡(luò)和本文IGA-RBF網(wǎng)絡(luò)對故障模式進(jìn)行訓(xùn)練和識(shí)別,識(shí)別的仿真結(jié)果比較見表3。從表3的比較結(jié)果看出,本文IGA-RBF網(wǎng)絡(luò)明顯比其他兩種網(wǎng)絡(luò)更能準(zhǔn)確地對導(dǎo)彈故障模式進(jìn)行識(shí)別,其識(shí)別正確率可達(dá)到97.5%,有效地實(shí)現(xiàn)了對導(dǎo)彈的故障檢測與診斷。仿真結(jié)果表明,該IGA-RBF神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的模式分類和識(shí)別能力。

表2 本文IGA-RBF網(wǎng)絡(luò)識(shí)別結(jié)果

表3 三種網(wǎng)絡(luò)的故障模式識(shí)別結(jié)果比較

4 結(jié)論

利用遺傳算法優(yōu)化RBF網(wǎng)絡(luò)的隱節(jié)點(diǎn)數(shù)和基函數(shù)的中心值和寬度參數(shù),可進(jìn)一步提高網(wǎng)絡(luò)預(yù)測精度,從而保證RBF網(wǎng)絡(luò)的泛化能力,使RBF的學(xué)習(xí)上升到更高層次。針對傳統(tǒng)BP網(wǎng)絡(luò)及SGA算法的不足,本文提出了基于IGA的RBF神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)引入自適應(yīng)機(jī)制的實(shí)數(shù)編碼的遺傳算法,從初始群體生成及遺傳算子操作等方面作了改進(jìn),并將其與梯度下降法混合交互運(yùn)算,作為RBF網(wǎng)絡(luò)的學(xué)習(xí)算法,應(yīng)用于非線性函數(shù)的逼近和導(dǎo)彈故障模式的識(shí)別問題。仿真結(jié)果表明,基于IGA算法的RBF神經(jīng)網(wǎng)絡(luò)不僅結(jié)構(gòu)簡單,有較好的網(wǎng)絡(luò)泛化性能,在工程上具有較高的理論意義和實(shí)際應(yīng)用價(jià)值。

[1]HONGMEI LIU,PINGECHAO OUYANG,SHAOPING WANG.Fault detection based on RBF neural network in a hydraulic position servo system[C]//The 6th World Congress on Control and Automation.Dalian,China,2006:5708-5712.

[2]ZHIHONG QIE,XINMIAO WU,HITOSHI FURUTA,et al.The method of calculating hysteresis time of piezometric tube for earth-rock dam based on GA-RBF[C]//The 6th World Congress on Control and Automation.Dalian,China,2006:8523-8527.

[3]黃友銳.智能優(yōu)化算法及其應(yīng)用[M].北京:國防工業(yè)出版社,2008.

[4]尹靚,李連,劉東鑫.基于自適應(yīng)遺傳算法的航跡關(guān)聯(lián)模型[J].海軍航空工程學(xué)院學(xué)報(bào),2009,24(3):272-276.

[5]田景文,高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京:北京理工大學(xué)出版社,2006.

[6]高瑋.改進(jìn)的快速遺傳算法及其性能研究[J].系統(tǒng)工程與電子技術(shù),2003,25(11):1427-1430.

[7]SRINIVAS M,PATNAIK L M.Adaptive probabilities of crossover and mutation in genetic algorithms[J].IEEE Trans.On SMC,1994,24(4):656-667.

[8]王小平,曹立明.遺傳算法—理論、應(yīng)用與軟件實(shí)現(xiàn)[M].西安:西安交通大學(xué)出版社,2002:18-80.

[9]CHEN S,CHNG E S,ALKADHIMI K.Regularized orthogonal least squares algorithm for constructing radial basis function networks[J].International Journal of Control,1996,64(5):829-837.

[10]胡昌華,張軍波,李學(xué)鋒.一種基于小波和人工神經(jīng)網(wǎng)絡(luò)的故障檢測與診斷方法[J].航天控制,2000,18(2):64-71.

猜你喜歡
適應(yīng)度遺傳算法個(gè)體
改進(jìn)的自適應(yīng)復(fù)制、交叉和突變遺傳算法
基于遺傳算法的高精度事故重建與損傷分析
關(guān)注個(gè)體防護(hù)裝備
明確“因材施教” 促進(jìn)個(gè)體發(fā)展
基于遺傳算法的智能交通燈控制研究
一種基于改進(jìn)適應(yīng)度的多機(jī)器人協(xié)作策略
一種基于遺傳算法的聚類分析方法在DNA序列比較中的應(yīng)用
啟發(fā)式搜索算法進(jìn)行樂曲編輯的基本原理分析
How Cats See the World
基于改進(jìn)多島遺傳算法的動(dòng)力總成懸置系統(tǒng)優(yōu)化設(shè)計(jì)