王爾申，李興凱，張芝賢，龐 濤

(沈陽(yáng)航空航天大學(xué) 電子信息工程學(xué)院，沈陽(yáng) 110136)

電信工程

基于廣義回歸神經(jīng)網(wǎng)絡(luò)的粒子濾波算法研究

王爾申，李興凱，張芝賢，龐 濤

(沈陽(yáng)航空航天大學(xué) 電子信息工程學(xué)院，沈陽(yáng) 110136)

針對(duì)基本粒子濾波算法存在的粒子退化問(wèn)題，提出了一種基于廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)的重要性樣本調(diào)整的粒子濾波算法。利用廣義回歸神經(jīng)網(wǎng)絡(luò)優(yōu)化從重要性密度函數(shù)采樣的樣本，將樣本作為神經(jīng)網(wǎng)絡(luò)的輸入，以觀測(cè)值作為神經(jīng)網(wǎng)絡(luò)的目標(biāo)向量，通過(guò)多次訓(xùn)練優(yōu)化光滑因子逼近目標(biāo)向量，用樣本值和其周?chē)恼{(diào)整值作為訓(xùn)練后神經(jīng)網(wǎng)絡(luò)的輸入向量，通過(guò)神經(jīng)網(wǎng)絡(luò)的輸出向量指示用最優(yōu)點(diǎn)來(lái)取代樣本值。利用GRNN對(duì)樣本進(jìn)行調(diào)整，使得樣本更接近于后驗(yàn)概率密度。仿真結(jié)果表明：基于廣義回歸神經(jīng)網(wǎng)絡(luò)的粒子濾波算法的性能在有效粒子數(shù)和均方誤差參數(shù)方面優(yōu)于基本粒子濾波算法，在改善濾波精度方面取得了較好的效果，驗(yàn)證了廣義回歸神經(jīng)網(wǎng)絡(luò)在粒子濾波算法中是可用的和有效的。

粒子濾波；神經(jīng)網(wǎng)絡(luò)；粒子退化；廣義回歸神經(jīng)網(wǎng)絡(luò)

粒子濾波(particle filter，PF)算法適用于任何能用狀態(tài)空間模型表示的非線性非高斯系統(tǒng)。在目標(biāo)跟蹤、衛(wèi)星姿態(tài)估計(jì)、金融領(lǐng)域數(shù)據(jù)分析、圖像處理、衛(wèi)星導(dǎo)航動(dòng)態(tài)定位等方面得到廣泛的應(yīng)用[1-5]。粒子濾波主要的缺陷是存在粒子退化現(xiàn)象。即經(jīng)過(guò)幾步的迭代之后，使得只有很少的粒子具有非零權(quán)值，其他粒子的權(quán)值很小，粒子權(quán)重的方差增大，造成粒子樣本集無(wú)法表示實(shí)際的后驗(yàn)概率密度分布。抑制粒子退化現(xiàn)象的兩個(gè)關(guān)鍵技術(shù)是：重采樣和重要性密度函數(shù)的選取。重采樣技術(shù)能抑制粒子退化現(xiàn)象，但同時(shí)也帶來(lái)了粒子的多樣性喪失、樣本枯竭等問(wèn)題。另一種方法是通過(guò)優(yōu)化重要性密度函數(shù)。文獻(xiàn)[6]將卡爾曼濾波與粒子濾波結(jié)合提高估計(jì)精度。文獻(xiàn)[7]利用高斯厄米特濾波器產(chǎn)生建議性分布函數(shù)，通過(guò)實(shí)時(shí)融入最新的觀測(cè)數(shù)據(jù)來(lái)逼近系統(tǒng)狀態(tài)的后驗(yàn)概率。文獻(xiàn)[8-9]將擴(kuò)展卡爾曼濾波(EKF)和無(wú)跡卡爾曼濾波(UKF)與粒子濾波算法相結(jié)合構(gòu)成EKPF和UPF，改善濾波精度。文獻(xiàn)[10]使用容積數(shù)值積分產(chǎn)生粒子濾波算法的建議性密度函數(shù)，給出容積粒子濾波算法(CPF)，降低了濾波誤差。

本文通過(guò)廣義回歸神經(jīng)網(wǎng)絡(luò)算法來(lái)優(yōu)化重要性密度函數(shù)，在預(yù)測(cè)步驟之后，利用廣義回歸神經(jīng)網(wǎng)絡(luò)對(duì)樣本進(jìn)行調(diào)整使采樣的樣本更接近于后驗(yàn)密度，進(jìn)而提高濾波精度。給出了廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)與基本粒子濾波相結(jié)合的算法；通過(guò)仿真與基本粒子濾波進(jìn)行性能比較。

1 廣義回歸神經(jīng)網(wǎng)絡(luò)輔助粒子濾波

1.1 廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)

廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)是一種基于非線性回歸的前饋式神經(jīng)網(wǎng)絡(luò)。利用廣義回歸神經(jīng)網(wǎng)絡(luò)的逼近能力能夠通過(guò)調(diào)整樣本來(lái)優(yōu)化重要性密度函數(shù)，進(jìn)而逼近后驗(yàn)密度。GRNN由一個(gè)徑向基網(wǎng)絡(luò)層和一個(gè)線性網(wǎng)絡(luò)層組成，它由四層構(gòu)成，如圖1所示，即輸入層、模式層、加和層和輸出層。

圖1 GRNN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

1.2 光滑因子的優(yōu)化

由于GRNN不需要知道樣本數(shù)據(jù)的概率分布,不能直接從樣本容量求理想的光滑因子,因此采用一維尋優(yōu)的方法來(lái)求理想的σ值。為確保網(wǎng)絡(luò)的泛化性能,將對(duì)參與訓(xùn)練的樣本以缺一交叉的方式,即將其中一個(gè)樣本作為檢測(cè)樣本，其他樣本來(lái)構(gòu)建網(wǎng)絡(luò)，檢測(cè)網(wǎng)絡(luò)的推廣性能,以此作為搜優(yōu)目標(biāo)。步驟為:

(l)設(shè)光滑因子取值σ；

(2)從訓(xùn)練樣本中取出一個(gè)樣本只用于檢測(cè),而由剩下的樣本構(gòu)建網(wǎng)絡(luò)；

(3)用構(gòu)建的網(wǎng)絡(luò)模型計(jì)算檢測(cè)樣本的誤差的平方值,稱(chēng)其為檢測(cè)誤差；

(4)重復(fù)步驟(2)和(3)步,直到所有的訓(xùn)練樣本都有一次用于檢測(cè),求得檢測(cè)誤差的平均值,如下式所示,并將其作為搜優(yōu)目標(biāo)函數(shù)。

(1)

(2)

求出etotal對(duì)σ的一階偏導(dǎo)，即得到了σ的梯度。進(jìn)而可以通過(guò)σ的梯度來(lái)調(diào)整的σ值。

(3)

其中，η為學(xué)習(xí)步長(zhǎng)，Δσ為光滑因子σ的修改量。

利用廣義回歸神經(jīng)網(wǎng)絡(luò)的逼近能力可用于粒子濾波優(yōu)化粒子濾波算法中的重要性密度函數(shù)。

1.3 基于GRNN的粒子濾波算法

將GRNN神經(jīng)網(wǎng)絡(luò)與粒子濾波算法相結(jié)合來(lái)優(yōu)化重要性密度函數(shù)。在粒子濾波算法中，可以根據(jù)量測(cè)值z(mì)k，訓(xùn)練GRNN網(wǎng)絡(luò)使其接近似然函數(shù)，然后利用這個(gè)網(wǎng)絡(luò)來(lái)調(diào)整樣本值[11-12]。算法思想為：

1)首先建立輸入向量和目標(biāo)向量來(lái)進(jìn)行了訓(xùn)練。通過(guò)采樣得到一組樣本，樣本和它們的量測(cè)預(yù)測(cè)值構(gòu)成了輸入向量和目標(biāo)向量。輸入向量的維數(shù)n和學(xué)習(xí)樣本的維數(shù)m決定了網(wǎng)絡(luò)的結(jié)構(gòu)n×m×(n+1)×n，(在本研究中，n=1,m=99)。

基于GRNN的粒子濾波算法步驟描述如下：

①初始化，k=0:

②當(dāng)k=1，2，…時(shí)，執(zhí)行以下步驟：

1)狀態(tài)預(yù)測(cè) 根據(jù)系統(tǒng)的狀態(tài)方程產(chǎn)生k時(shí)刻的先驗(yàn)粒子：{Xk|k-1(i);i=1,2,…,N}～p(Xk|Xk-1)。

5)時(shí)刻k=k+1，繼續(xù)計(jì)算。

2 實(shí)驗(yàn)仿真與結(jié)果分析

2.1 實(shí)驗(yàn)?zāi)Ｐ?/p>

為了進(jìn)一步驗(yàn)證算法的有效性，本文引用如下的模型[13]，該模型在大量文獻(xiàn)中均可看到，是研究比較各種粒子濾波算法性能的典型驗(yàn)證模型之一。

狀態(tài)模型和觀測(cè)模型分別為：

(4)

(5)

2.2 濾波性能分析

依據(jù)上述模型中的系統(tǒng)方程與測(cè)量方程，設(shè)定初始時(shí)刻狀態(tài)值x0和粒子總數(shù)，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)步長(zhǎng)為0.05，粒子數(shù)目為100，過(guò)程噪聲方差為2、量測(cè)噪聲方差為1時(shí)。運(yùn)行環(huán)境為Matlab R2009a，Intel Core(TM)2 Duo CPU T6500，2.1 GHz，2 G內(nèi)存。得到的結(jié)果如圖所示。

圖2 GRNN-PF和PF算法結(jié)果對(duì)比

圖3 GRNN-PF和PF算法誤差對(duì)比

圖2中橫軸為迭代步數(shù)，縱軸表示狀態(tài)值，其中，點(diǎn)代表真實(shí)值，實(shí)線表示基本粒子濾波算法濾波后的估計(jì)值，虛線表示引入神經(jīng)網(wǎng)絡(luò)后濾波的估計(jì)值。圖3中橫軸為迭代步數(shù)，縱軸縱軸表示狀態(tài)值，其中，星號(hào)表示基本粒子濾波算法濾波后的誤差，方形表示引入神經(jīng)網(wǎng)絡(luò)后濾波的后的誤差。從圖中可以看出，使用GRNN神經(jīng)網(wǎng)絡(luò)改進(jìn)后的粒子濾波算法比基本粒子濾波算法對(duì)狀態(tài)的估計(jì)性能更好地接近真實(shí)值，誤差也更小。兩種算法處理后的不同參數(shù)如表1所示。

表1 采用不同算法處理后的參數(shù)比較

從表1可看出，粒子數(shù)目N=100，GRNN-PF算法的RMSE=3.6947，基本粒子濾波算法的RMSE=5.0273，估計(jì)精度提高了約26%；GRNN-PF算法的有效樣本數(shù)為37.2775，基本粒子濾波算法的有效樣本數(shù)為32.1359，增大了約15%。從中可看出引入廣義回歸神經(jīng)網(wǎng)絡(luò)后的粒子濾波算法對(duì)重要性概率密度函數(shù)進(jìn)行優(yōu)化，對(duì)粒子樣本進(jìn)行調(diào)整，使其更接近于后驗(yàn)密度，在相同粒子數(shù)目的條件下，有效樣本數(shù)目增多，有效地抑制了樣本退化，提高了濾波精度。

2.3 算法復(fù)雜度分析

依據(jù)式子(4)和(5)模型中的系統(tǒng)方程和測(cè)量方程以及參數(shù)設(shè)定，驗(yàn)證算法復(fù)雜度與粒子數(shù)N的關(guān)系，分別選取50，100，150，……，350個(gè)粒子，仿真其運(yùn)行時(shí)間(單位為秒)。得到的結(jié)果如圖4所示。圖4中橫軸為粒子數(shù)目，縱軸為算法運(yùn)行時(shí)間，從中可以看出GRNN-PF算法的運(yùn)行時(shí)間與粒子數(shù)目基本成平方增長(zhǎng)。

3 結(jié)論

將廣義回歸神經(jīng)網(wǎng)絡(luò)(GRNN)和基本粒子濾波算法有機(jī)結(jié)合，優(yōu)化重要性密度函數(shù)。通過(guò)對(duì)算法的理論分析和數(shù)學(xué)仿真，比較了相同粒子數(shù)樣本條件下，GRNN神經(jīng)網(wǎng)絡(luò)輔助的粒子濾波與基本粒子濾波的有效粒子數(shù)目和均方根誤差參數(shù)。結(jié)果表明：GRNN神經(jīng)網(wǎng)絡(luò)輔助的粒子濾波算法使其樣本更逼近于真實(shí)的后驗(yàn)密度分布，抑制了粒子退化現(xiàn)象，降低了估計(jì)方差。由于引入廣義回歸神經(jīng)網(wǎng)絡(luò)，如何降低算法的復(fù)雜度，提高算法的運(yùn)算效率，將是今后的研究?jī)?nèi)容。

圖4 GRNN-PF算法運(yùn)行時(shí)間與粒子數(shù)目的關(guān)系

[1]程水英，張劍云.粒子濾波評(píng)述[J].宇航學(xué)報(bào)，2008,29(4):1099-1111.

[2]Li P,Kadirkamanathan V.Particle filtering based likelihood ratio approach to fault diagnosis in nonlinear stochastic systems[J].IEEE Trans.Syst.,Man,Cybern.C,2001,31(3):337-343.

[3]Gustafsson F,Fredrik G.Particle filters for positioning,navigation,and tracking[J].IEEE Transactions on Signal Processing,2002,50(2):425-437.

[4]Qing Ming,Jo Kang-hyun.A novel particle filter implementation for a multiple-vehicle detection and tracking system using tail light segmentation[J].International Journal of Control,Automation and Systems,2013,11(3):577-585.

[5]CHEN Zhi-min,BO Yu-ming,WU Pan-long,et al.Novel particle filter algorithm based on adaptive particle swarm optimization and its application to radar target tracking[J].Control and Decision,2013,28(2)：193-200.

[6]夏楠，邱天爽，李景春，等.一種卡爾曼濾波與粒子濾波相結(jié)合的非線性濾波算法[J].電子學(xué)報(bào)，2013,41(1):148-152.

[7]薛麗，高社生，胡高歌.自適應(yīng)GHPF及其在組合導(dǎo)航中的應(yīng)用[J].計(jì)算機(jī)仿真，2013,30(5)：108-111.

[8]De Freitas J F G,Niranjan M,Gee A H,et al.Sequential monte carlo methods to train neural network models[J].Neural Computation,2000,12(4):955-993.

[9]Van Der Merwe R,Doucet A,De Freitasn,et al.The unscented particle filter,CUED/F-IN-FENG/TR,380[R].Cambridge,UK:Cambridge University Press,2000:1-45.

[10]穆靜，蔡遠(yuǎn)利，張俊敏.容積粒子濾波算法及其應(yīng)用[J].西安交通大學(xué)學(xué)報(bào)，2011,45(8)：13-17.

[11]M S Arulampalam,S Maskell,N Gordon,et al.A tutorial on particle filters for online nonlinear/non-Gaussian Bayesian tracking[J].IEEE Transactions on Signal Processing,2002,50(2):174-188.

[12]朱志宇.粒子濾波算法及應(yīng)用[M].北京：科學(xué)出版社,2010:102-109.

[13]馮馳，趙娜.有效粒子數(shù)MCMC粒子濾波算法研究[J].應(yīng)用科技，2009,36(4):19-22.

[14]周誠(chéng)誠(chéng).第二類(lèi)B-樣條權(quán)函數(shù)神經(jīng)網(wǎng)絡(luò)的算法復(fù)雜度研究及應(yīng)用[D].南京：南京郵電大學(xué)，2013：13-14.

(責(zé)任編輯：劉劃 英文審校：宋曉英)

ResearchonGRNN-basedparticlefilteralgorithm

WANG Er-shen，LI Xing-kai，ZHANG Zhi-xian，PANG Tao

(College of Electronic and Information Engineering,Shenyang Aerospace University,Shenyang 110136,China)

Aiming at the weight degeneracy phenomena in fundamental particle filter algorithm,the particle filtering algorithm improving the important samples based on generalized regression neural network(GRNN)was presented.This algorithm optimizes the samples from importance density function by GRNN.The samples of particle filter are selected as the neural network input and the observed values as the neural network target vector.The smooth factors are optimized to approach the target vector through multiple trainings,and the samples and the corresponding surrounding adjusted values are regarded as the input of the neural network after training.The best optimized values are used to replace the sample indicated by the output vector indicator of neural network.The samples are adjusted through GRNN so as to be closer to the posterior probability density.Simulation results show that the GRNN-based particle filter algorithm,superior to the fundamental algorithm,can increase the effective particle number,reduce the mean square error,and improve the accuracy of the filtering performance.It is proved that this GRNN is available and effective in the particle filter algorithm.

particle filter；neural network；particles degeneracy；generalized regression neural network(GRNN)

2014-08-28

國(guó)家自然科學(xué)基金青年基金(項(xiàng)目編號(hào)：61101161)；遼寧省自然科學(xué)基金(聯(lián)合基金)資助項(xiàng)目(項(xiàng)目編號(hào)：2013024003)

王爾申(1980-),男,遼寧遼陽(yáng)人，副教授,主要研究方向：GPS接收機(jī)信號(hào)處理,航空電子系統(tǒng)，E-mail：wes2016@126.com。

2095-1248(2014)06-0054-05

TN911

A

10.3969/j.issn.2095-1248.2014.06.010