薛博陽(yáng) 胡柏青 常路賓 高敬東
(海軍工程大學(xué)導(dǎo)航工程系 武漢 430033)
基于極大似然估計(jì)的魯棒信息濾波算法研究
薛博陽(yáng) 胡柏青 常路賓 高敬東
(海軍工程大學(xué)導(dǎo)航工程系 武漢 430033)
為了有效提高傳統(tǒng)卡爾曼濾波算法的魯棒性,論文從濾波算法的極大似然估計(jì)的本質(zhì)分析了傳統(tǒng)濾波算法不具魯棒性的原因,提出了基于廣義極大似然估計(jì)的一般性魯棒方法。同時(shí),為了實(shí)現(xiàn)對(duì)粗大野值的剔除,將魯棒濾波算法擴(kuò)展到信息濾波領(lǐng)域,推導(dǎo)了一般性的魯棒信息濾波框架。仿真實(shí)驗(yàn)驗(yàn)證了論文所研究算法的有效性。
卡爾曼濾波; 信息濾波; 魯棒; 野值; 極大似然估計(jì)
Class Number TP301.6
以卡爾曼濾波為代表的狀態(tài)空間最優(yōu)估計(jì)方法在衛(wèi)星姿態(tài)估計(jì)、目標(biāo)跟蹤、組合導(dǎo)航等領(lǐng)域得到了廣泛的研究和應(yīng)用??柭鼮V波是一種基于貝葉斯最優(yōu)估計(jì)和統(tǒng)計(jì)線性回歸框架,通過(guò)線性組合的方式利用先驗(yàn)信息和觀測(cè)信息來(lái)確定狀態(tài)最優(yōu)后驗(yàn)信息的方法[1]。要獲得貝葉斯估計(jì)的最優(yōu)解需要用無(wú)窮多個(gè)參數(shù)去描述輸出的概率分布,這在實(shí)際中是無(wú)法做到的,同時(shí)貝葉斯最優(yōu)估計(jì)算法中所涉及多維積分,對(duì)于非線性和(或)非高斯的情況,該積分一般沒(méi)有解析解,只能采用近似方法。針對(duì)非線性問(wèn)題,我們可以采用積分近似的非線性濾波算法,如今年來(lái)廣泛研究應(yīng)用的無(wú)味卡爾曼濾波算法、求容積卡爾曼濾波算法(CKF)等。這些算法在一般性的非線性問(wèn)題中都得到了很好的應(yīng)用效果[1~2]。
事實(shí)上,目前很多非線性濾波算法仍然采用了卡爾曼的線性遞歸框架,在線性遞歸框架中先驗(yàn)信息和觀測(cè)信息通過(guò)線性組合,得到最優(yōu)的后驗(yàn)信息[3]。此處的最優(yōu)是指最小均方誤差意義下的最優(yōu),最小均方誤差也是一種l2范數(shù)最小的準(zhǔn)則。然而統(tǒng)計(jì)學(xué)的研究表明l2范數(shù)最小估計(jì)不具有魯棒性[4]。即當(dāng)假設(shè)條件和現(xiàn)實(shí)參數(shù)不相符時(shí),哪怕發(fā)生了微小的偏移,估計(jì)量都會(huì)發(fā)生明顯的變化,而當(dāng)實(shí)際參數(shù)和假設(shè)具有較大差別時(shí)甚至?xí)斐蔀V波發(fā)散。因此研究魯棒濾波算法以提高其在實(shí)際系統(tǒng)中的適應(yīng)性是濾波算法研究領(lǐng)域的另一個(gè)重要研究方面[5]。近年來(lái),相關(guān)學(xué)者基于廣義極大似然估計(jì)提出了一系列魯棒濾波算法,這些算法的核心都是通過(guò)引入新的魯棒代價(jià)函數(shù)來(lái)替代原有的基于l2范數(shù)的代價(jià)函數(shù)[6]。這其中應(yīng)用最為廣泛的是Huber提出的兩段代價(jià)函數(shù),這種代價(jià)函數(shù)在誤差較小時(shí)等效為l2范數(shù),而當(dāng)誤差較大時(shí)則對(duì)誤差進(jìn)行截?cái)嗥骄?。然?很容易理解,當(dāng)誤差很大時(shí),單純的截?cái)嗥骄⒉荒芎芎玫奶幚磔^大野值誤差,在這種情況下,應(yīng)當(dāng)直接剔除相應(yīng)的野值[7]。針對(duì)這種問(wèn)題,我們雖然可以設(shè)計(jì)相應(yīng)的魯棒代價(jià)函數(shù)來(lái)實(shí)現(xiàn)對(duì)粗大野值的剔除,然而,魯棒代價(jià)函數(shù)在濾波框架中是通過(guò)對(duì)殘差進(jìn)行加權(quán)來(lái)實(shí)現(xiàn)的,而該加權(quán)過(guò)程中存在一個(gè)矩陣求逆的過(guò)程。因此,如果直接將具有野值剔除功能的代價(jià)函數(shù)直接代入濾波框架中,則很容易引起數(shù)值不穩(wěn)定性問(wèn)題,從而造成濾波中斷[8~10]。
信息濾波是其對(duì)應(yīng)卡爾曼濾波的等價(jià)形式,在信息濾波框架中,濾波過(guò)程是通過(guò)對(duì)相應(yīng)方差陣和權(quán)值陣進(jìn)行求逆來(lái)實(shí)現(xiàn)的[4]。因此,前文中提到的因矩陣求逆而引起的數(shù)值不穩(wěn)定性問(wèn)題可以在信息濾波框架中得到自然的避免[5]。基于上述背景,本文研究了一種基于信息濾波的魯棒濾波算法,實(shí)現(xiàn)了在一般魯棒化的過(guò)程中對(duì)粗大野值的剔除,從而有效提高了濾波算法精度。
考慮如下線性統(tǒng)計(jì)狀態(tài)空間模型
xk=Fk-1xk-1+qk-1
yk=Hkxk+rk
(1)
(2)
(3)
(4)
(5)
(6)
則
(7)
從式(4)和式(7)可以看出,卡爾曼濾波是基于l2范數(shù)最小準(zhǔn)則下的最優(yōu)解。然而l2范數(shù)對(duì)非高斯噪聲及粗大誤差特別敏感,不具有魯棒性。
(8)
式(8)中最小化的問(wèn)題可以通過(guò)對(duì)代價(jià)函數(shù)求導(dǎo)并置零得到,即
(9)
其中φ=ρ′一般被稱之為影響函數(shù)。定義如下兩個(gè)矩陣
(10)
(11)
則式(9)可以寫成如下矩陣形式
(12)
將式(5)和式(6)代入式(12)可得
(13)
定義如下兩個(gè)矩陣
(14)
(15)
將式(14)和式(15)代入式(12)可得
(16)
式(16)正是如下最小化問(wèn)題的解
(17)
對(duì)比式(17)和式(7)可以看出魯棒卡爾曼濾波和傳統(tǒng)卡爾曼濾波具有相同的結(jié)構(gòu)形式,區(qū)別僅僅在于狀態(tài)預(yù)測(cè)方差和量測(cè)噪聲方差的不同。因此可以將此思想應(yīng)用到魯棒卡爾曼濾波中,即構(gòu)造代價(jià)函數(shù)對(duì)卡爾曼濾波中的狀態(tài)預(yù)測(cè)方差和量測(cè)噪聲方差進(jìn)行修正,并將修正后的量代入卡爾曼濾波框架。
不同的代價(jià)函數(shù)會(huì)產(chǎn)生不同的魯棒效果。Huber提出一種代價(jià)函數(shù)
(18)
這種代價(jià)函數(shù)綜合了l1和l2范數(shù)的性質(zhì),具有較好的魯棒性。當(dāng)γ→∞時(shí),這種廣義極大似然估計(jì)退化為l2范數(shù)最小的最小二乘估計(jì),而當(dāng)γ→0時(shí),則退化為l1范數(shù)最小的中值估計(jì)。這種代價(jià)函數(shù)在魯棒卡爾曼濾波中得到了廣泛的應(yīng)用,并擴(kuò)展到了非線性濾波領(lǐng)域。該魯棒代價(jià)函數(shù)對(duì)應(yīng)的加權(quán)函數(shù)(即式(10)和式(11)中權(quán)矩陣的元素)為
(19)
從權(quán)重函數(shù)中可以看到這種代價(jià)函數(shù)對(duì)于較大的誤差值即野點(diǎn)只是進(jìn)行了截?cái)嗥骄⑽刺蕹?因此會(huì)對(duì)濾波結(jié)果造成不利影響。針對(duì)含有較多及較大野點(diǎn)的情況,我們可以考慮如下形式的權(quán)重函數(shù)
(20)
這種權(quán)重函數(shù)對(duì)于較大的野點(diǎn)直接進(jìn)行剔除,從而不會(huì)對(duì)濾波結(jié)果造成影響。
但是從式(14)和式(15)中可以看出,權(quán)重函數(shù)在對(duì)方差陣進(jìn)行加權(quán)過(guò)程中有一個(gè)求逆的過(guò)程,由于式(20)中的權(quán)重函數(shù)中有一項(xiàng)為零,因此不能直接應(yīng)用于卡爾曼濾波框架。針對(duì)該問(wèn)題,本文提出在信息濾波框架下進(jìn)行魯邦化的思想。
信息濾波是其對(duì)應(yīng)卡爾曼濾波的等價(jià)形式,區(qū)別在于在濾波遞推的過(guò)程中傳遞的是方差的逆。首先定義I=P-1,下面給出信息濾波的具體形式:
時(shí)間更新
(21)
(22)
量測(cè)更新
(23)
(24)
從式(23)和式(24)中可以看到,在信息濾波過(guò)程中只是用到了量測(cè)方差陣的逆,因此在其對(duì)應(yīng)的魯棒化算法中也是只需要修正后的量測(cè)方差陣的逆?;谶@種認(rèn)識(shí),來(lái)構(gòu)造基于權(quán)函數(shù)式(20)的修正量測(cè)方差陣的逆。
根據(jù)式(15)可得
(25)
其中
(26)
將修正后的量測(cè)方差陣的逆代入式(23)和式(24)中即可得到魯棒化的信息濾波算法。從該算法構(gòu)造過(guò)程中可以看到,其中不涉及對(duì)零元素進(jìn)行求逆的過(guò)程,因此不存在數(shù)值問(wèn)題。
為了驗(yàn)證本文所提算法的有效性,考慮單變量非平穩(wěn)增長(zhǎng)模型(Univariate Nonstationary Growth Model, UNGM),該模型經(jīng)常被用來(lái)作為驗(yàn)證濾波算法的基準(zhǔn)模型。UNGM模型的離散時(shí)間動(dòng)態(tài)系統(tǒng)方程如下:
由于該模型為非線性,因此需要采用非線性濾波算法,本文采用UKF算法。由于魯棒化算法從線性到非線性函數(shù)的過(guò)渡已有成熟的研究成果而且比較直接,因此此處不做詳細(xì)介紹。本文提出的魯棒信息濾波算法也很容易擴(kuò)展到非線性濾波框架中。此處比較三種濾波算法:傳統(tǒng)UKF,基于式(19)的魯棒UKF(RUKF),以及基于式(20)和本文提出的魯棒信息濾波框架的魯棒信息UKF(RUIF)。
觀測(cè)噪聲服從如下形式的干擾高斯分布
(28)
其中,α被稱之為干擾因子,在該仿真實(shí)驗(yàn)中設(shè)為0.3。λ是干擾高斯分布方差相對(duì)于主高斯分布方差的比重。實(shí)驗(yàn)中,首先令σ1=1,λ依次設(shè)置為1~20之間的整數(shù),并通過(guò)以下指標(biāo)比較濾波算法的性能:
(29)
三種濾波算法在50次Monte Carlo仿真下的MSE如圖1所示,MSE對(duì)應(yīng)的均值和方差如圖2所示。從圖中可以明顯看出,傳統(tǒng)的卡爾曼濾波算法不具有魯棒性,在觀測(cè)量中含有干擾噪聲時(shí),對(duì)應(yīng)的濾波精度會(huì)嚴(yán)重降階。在傳統(tǒng)濾波框架中引入魯棒代價(jià)函數(shù)可以對(duì)干擾噪聲進(jìn)行有效地抑制,對(duì)應(yīng)的濾波精度也明顯提高,但是由于傳統(tǒng)魯棒化過(guò)程中對(duì)較大的野點(diǎn)沒(méi)有進(jìn)行剔除處理,會(huì)損失一部分濾波精度,如圖1中14,20,30,47處的濾波結(jié)果。而本文提出的方法一方面繼承了魯棒濾波算法的優(yōu)勢(shì),同時(shí)實(shí)現(xiàn)了對(duì)野點(diǎn)的有效剔除,因此濾波精度最好。
本文從廣義極大似然估計(jì)的角度研究了魯棒卡爾曼濾波算法,該魯棒濾波框架需要對(duì)加權(quán)矩陣進(jìn)行求逆運(yùn)算,因此對(duì)于能夠剔除粗大野值的代價(jià)函數(shù)并不適用。針對(duì)該問(wèn)題,本文提出了魯棒信息濾波算法,在保證一般魯棒卡爾曼濾波算法所具有的魯棒性同時(shí),實(shí)現(xiàn)了對(duì)粗大野值的在線剔除。實(shí)驗(yàn)結(jié)果證明了該算法的有效性。
[1] Kalman R. A New Approach to Linear Filtering and Prediction Problems[J]. Journal of Basic Engineering,1960,82(1):35-46.
[2] 付夢(mèng)印,鄧志紅,閆莉萍.Kalman濾波理論極其在導(dǎo)航系統(tǒng)中的應(yīng)用[M].第二版.北京:科學(xué)出版社,2010.
[3] Crassidis J L, Junkins J L. Optimal Estimation of Dynamic Systems[M]. Boca Raton, FL: Chapman & Hall/CRC,2012.
[4] Chang L B, Hu B Q, Li A, et al. Transformed unscented Kalman filter[J]. IEEE Transactions on Automatic Control,2013,49(2):1400-1402.
[5] Chang L B,Hu B Q,Chang G B,et al.Huber-based novel robust unscented Kalman filter[J]. IET Science,Measurement & Technology,2012,6(6):502-509.
[6] Chang L B,Hu B Q,Chang G B,et al.Robust derivative-free Kalman filter based on Huber’s M-estimation methodology[J]. Journal of Process Control,2013,23(10):1555-1561.
[7] Chang L B,Hu B Q,Chang G B,et al.Multiple Outliers Suppression Derivative-Free Filter Based on Unscented Transformation[J]. Journal of guidance,control,and dynamics,2012, 35(6):1902-1907.
[8] 吳楓,谷叢,朱啟舉.SINS輔助GPS檢測(cè)技術(shù)在彈載組合導(dǎo)航中的應(yīng)用[J].彈箭與制導(dǎo)學(xué)報(bào),2014,34(5):17-25.
[9] 李楊,胡柏青,覃方君,等.MEMS陀螺的抗野值自適應(yīng)濾波降噪方法[J].壓電與聲光,2015,37(4):590-594.
[10] 李京書,許江寧,覃方君,等.非線性EKF對(duì)準(zhǔn)方法進(jìn)行正逆向分析的應(yīng)用[J].彈箭與制導(dǎo)學(xué)報(bào),2014,34(3):1-6.
Algorithm Design of Robust Information Filtering Based on Generalized Maximum Likelihood Estimation
XUE Boyang HU Baiqing CHANG Lubin GAO Jingdong
(Navigation Engineering Department, Naval University of Engineering, Wuhan 430033)
In order to robustly the traditional Kalman filters, the Kalman filters are analyzed based on the perspective of maximum likelihood and the reason of its sensitivity to the disturbance has been pointed out. Furthermore, a robust Kalman filtering algorithm is developed based on the generalized maximum likelihood. Meanwhile, in order to eliminate thick outliers, the robust algorithm is extended to the information filtering and the general roust information filter has been derived. Simulation results have demonstrated the superiority of the proposed method over the traditional methods.
Kalman filter, information filter, robust, outlier, maximum likelihood estimation
2016年7月10日,
2016年8月27日
國(guó)家自然科學(xué)基金資助項(xiàng)目(編號(hào):61304241,61374206)資助。
薛博陽(yáng),男,碩士,研究方向:慣性技術(shù)及其應(yīng)用。胡柏青,男,博士,教授,研究方向:慣性技術(shù)及其應(yīng)用。常路賓,男,博士,講師,研究方向:慣性技術(shù)及其應(yīng)用。高敬東,男,博士,教授,研究方向:慣性技術(shù)及其應(yīng)用。
TP301.6
10.3969/j.issn.1672-9730.2017.01.009