鄭 佳,李江勇,陳 剛
(華北光電技術(shù)研究所,北京100015)
多目標(biāo)跟蹤是近些年新興起的科學(xué)技術(shù),它涉及到隨機(jī)統(tǒng)計、數(shù)學(xué)優(yōu)化、圖像處理、模式識別、人工智能、自動控制等多種學(xué)科[1]。
目前在解決多目標(biāo)跟蹤算法中主要有基于粒子濾波的方法[2],基于神經(jīng)網(wǎng)絡(luò)的方法[3],基于特征匹配的方法[4],但是由于算法復(fù)雜程度以及硬件的實現(xiàn)難,粒子濾波和神經(jīng)網(wǎng)絡(luò)的方法在處理目標(biāo)跟蹤的實際工程應(yīng)用中并不多,基于特征匹配的方法,由于算法原理實現(xiàn)簡單,在實際工程中,該算法應(yīng)用較為常見。
傳統(tǒng)的基于特征匹配的目標(biāo)跟蹤算法中,常用“最近鄰”法,然而它采用的特征函數(shù)僅利用每個目標(biāo)質(zhì)心的位置信息,即考慮待跟蹤目標(biāo)與下一幀每個目標(biāo)統(tǒng)計質(zhì)心的歐式距離,距離最小的目標(biāo)則認(rèn)為是同一個目標(biāo),理論上講,離波門中心最近的點跡不一定是目標(biāo),因為它除了忽略目標(biāo)的速度信息以外,還忽略了關(guān)聯(lián)波門之外的觀測值,較少考慮目標(biāo)自身的特征屬性和每個目標(biāo)運動狀況,抗干擾能力差,存在錯誤關(guān)聯(lián)概率,算法跟蹤準(zhǔn)確性較差。后來的研究人員在原有的基礎(chǔ)上提出了多特征融合的目標(biāo)匹配算法,根據(jù)具體的目標(biāo)的特征提出一種特征函數(shù),通常結(jié)合目標(biāo)的質(zhì)心位置、灰度、目標(biāo)面積、運動速度、高寬比、運動方向等特征,該方法大大提高了目標(biāo)的跟蹤準(zhǔn)確性,但是該特征融合算法需要在整幅圖像中搜尋與特征函數(shù)得出的量測值最接近的目標(biāo),該方法適合目標(biāo)不密集、信噪比高和弱雜波的情況,但是在多目標(biāo),目標(biāo)信噪比較弱以及強(qiáng)雜波情況下,由于搜尋整幅圖像,需要計算整幅圖像中出現(xiàn)的目標(biāo)以及虛假點的量測值,增加了算法的運算時間,這在實時性要求非常高的系統(tǒng)中,算法是很難保證系統(tǒng)要求。
本文提出多特征融合和Kalman濾波相結(jié)合的紅外多目標(biāo)的跟蹤算法,能夠?qū)崟r準(zhǔn)確的跟蹤紅外圖像中的多個目標(biāo),并能對目標(biāo)的運動軌跡進(jìn)行一定的預(yù)測。
基于特征值的目標(biāo)跟蹤算法一直是多目標(biāo)跟蹤算法中研究的一項重要內(nèi)容,特征值跟蹤就是在一幀圖像中選擇一組在運動中具有不變性質(zhì)的特征與下一幀圖像中的同類特征進(jìn)行匹配,從而對運動目標(biāo)進(jìn)行跟蹤。這種算法的關(guān)鍵是在于對運動目標(biāo)的特征選擇以及采取有效地匹配策略,特征的選取十分重要,它應(yīng)具有對目標(biāo)的大小、位置、灰度變化不明顯外,還應(yīng)具有如下一些特性:
(1)目標(biāo)的特征不會隨著時間的變換而變化;
(2)目標(biāo)的特征是目標(biāo)較大灰度變化區(qū)域的中心;
傳統(tǒng)的基于特征跟蹤的目標(biāo)算法常常是利用目標(biāo)的幅度特征(灰度值、頻譜值)、統(tǒng)計特征(直方圖、均值、方差)、區(qū)域特征(面積、周長、矩形度)、邊界特征(鏈碼、曲線的斜率)等,通常根據(jù)不同的應(yīng)用場合,選擇不同的目標(biāo)特征[5]。
由于遠(yuǎn)距離紅外目標(biāo)沒有紋理特征,且只表現(xiàn)出灰度圖像,因此遠(yuǎn)距離紅外目標(biāo)特征只有如下具體表現(xiàn):位置、面積、速度、運動方向等,算法提出一種特征融合函數(shù):將目標(biāo)的最小外接矩形中心、面積、目標(biāo)灰度特征融合起來,通過計算得出特征融合函數(shù)值,在進(jìn)行目標(biāo)匹配過程中,在區(qū)域內(nèi)搜尋與特征融合數(shù)值最接近的目標(biāo)。
(1)目標(biāo)的最小外接矩形中心
目標(biāo)最小外接矩形中心指目標(biāo)最外邊緣組成的矩形中心位置,當(dāng)運動目標(biāo)姿態(tài)發(fā)生變化時,目標(biāo)形心位置變動較小,用形心跟蹤目標(biāo)比較平穩(wěn),但是目標(biāo)形心的準(zhǔn)確提取依賴于目標(biāo)檢測和分割結(jié)果的穩(wěn)定性和準(zhǔn)確性。對于紅外圖像而言,當(dāng)前景目標(biāo)的部分灰度與背景灰度相似時,難以實現(xiàn)對目標(biāo)的準(zhǔn)確提取,導(dǎo)致形心計算不準(zhǔn)確。而目標(biāo)最小外接矩形中心則更適合描述分割后的目標(biāo)幾何中心。
(2)目標(biāo)面積
經(jīng)過圖像處理后,所得目標(biāo)圖像的像素個數(shù),即可得到目標(biāo)面積。
(3)目標(biāo)灰度
目標(biāo)具有一定溫度,在紅外圖像中,表現(xiàn)出目標(biāo)的亮度高于周圍的背景,取目標(biāo)的灰度值較為合理,這里灰度為目標(biāo)所有像素的灰度值之和。
根據(jù)以上特征值得到目標(biāo)的特征融合函數(shù):
其中,α為目標(biāo)最小外接矩形中心權(quán)值;β為目標(biāo)面積權(quán)值;γ為目標(biāo)灰度權(quán)值。
在目標(biāo)匹配時只需計算函數(shù)f(i,j)=Φ(i)-Φ(j),找出在搜索區(qū)域內(nèi)f(i,j)最小的值即為待跟蹤目標(biāo)。
其中:
通過比較連續(xù)兩幀的特征融合函數(shù)值,即f(i,j)越小,兩個目標(biāo)有對應(yīng)關(guān)系的可能性就越大。在目標(biāo)關(guān)聯(lián)時,正是通過特征融合函數(shù)的值來判斷下一幀中待跟蹤目標(biāo)。
Kalman濾波器是一種線性遞歸濾波器,適用于對多維的動態(tài)系統(tǒng)進(jìn)行線性最小方差估計和預(yù)測,預(yù)測時具有無偏、穩(wěn)定和最優(yōu)的特點[6]。
本論文中主要是紅外圖像中的多目標(biāo)的位置和速度進(jìn)行估計和預(yù)測。在估計和預(yù)測過程中,由于相鄰兩幀圖像的間隔較小,此期間內(nèi),目標(biāo)運動狀態(tài)變化較小,可以假設(shè)目標(biāo)在此時間間隔內(nèi)為勻速運動。
目標(biāo)的運動參數(shù)為某一時刻的位置和速度,定義目標(biāo)運動狀態(tài)方程為:
量測方程:
式中,xk,yk,vxk,vyk為目標(biāo)的位置和速度,估計誤差Wk和量測誤差Vk為均值為零的正態(tài)高斯噪聲。
卡爾曼濾波的計算過程可用如圖1所示。
圖1 卡爾曼濾波算法計算過程
卡爾曼濾波算法具有以下特點:(1)它使用狀態(tài)空間模型,因而可以進(jìn)行多維濾波;(2)算法是遞推的,可以直接在計算機(jī)上實現(xiàn)實時跟蹤估計;(3)既適用于平穩(wěn)過程也適用于非平穩(wěn)過程;(4)通過改變卡爾曼濾波方程的一些重要參數(shù),可以適用于不同機(jī)動目標(biāo)的跟蹤,也為以后濾波方法的改動做準(zhǔn)備;(5)卡爾曼濾波與預(yù)測的協(xié)方差矩陣可以定量估計精度,對跟蹤門的形成具有重要理論意義。正是由于卡爾曼濾波具有其他跟蹤和預(yù)測算法所不具有的優(yōu)點,因此本文選用卡爾曼算法作為對目標(biāo)的運動狀態(tài)進(jìn)行預(yù)測[7]。
提出特征融合和卡爾曼濾波的多目標(biāo)跟蹤算法如圖2所示。
圖2 算法流程圖
圖2 所示的處理流程可以概括為:紅外視頻序列在經(jīng)過多目標(biāo)全局檢測后,檢測出目標(biāo)提取出目標(biāo)的特征值包括目標(biāo)的矩形中心、目標(biāo)面積以及目標(biāo)灰度總和,提取的初始值啟動Kalman濾波預(yù)測搜索匹配范圍,計算出下一幀的對應(yīng)的跟蹤窗口,然后計算搜索窗口內(nèi)所有目標(biāo)的特征融合函數(shù)值,最接近的為上一幀中對應(yīng)目標(biāo)的連續(xù)。若區(qū)域內(nèi)計算后數(shù)據(jù)關(guān)聯(lián)沒有成功,則重新進(jìn)行多目標(biāo)全局檢測;若搜索區(qū)域內(nèi)目標(biāo)關(guān)聯(lián)成功,則更新目標(biāo)的特征值作為下次Kalamn濾波的輸入值。
由于檢測目標(biāo)時,并沒有對整幅圖像內(nèi)的所有目標(biāo)進(jìn)行檢測,而是對搜索窗口進(jìn)行目標(biāo)檢測,搜索窗口的大小是整幅圖像的幾十分之一,程序的運行時間減少,增加了算法的實時性。
實驗環(huán)境:筆記本,Intel Core(2)2.0GHz,2G內(nèi)存,在matlab2009b開發(fā)環(huán)境下編寫全部程序。
視頻圖像采用480×320,50Hz視頻圖像,視頻中共有目標(biāo)1和2兩架飛機(jī),兩目標(biāo)飛行速度近似勻速運動,對以上視頻圖像采用本論文多目標(biāo)跟蹤算法,所得結(jié)果如圖3所示。
圖3 目標(biāo)跟蹤圖
圖3 中,(a)圖為原始視頻圖像,圖像中有目標(biāo)1和2;(b)圖經(jīng)過圖像檢測后,得到兩個目標(biāo),經(jīng)過計算找到目標(biāo)的最小外接矩形,進(jìn)而推算出目標(biāo)外接矩形中心,算出目標(biāo)面積,以及兩個目標(biāo)在原始視頻中的像素灰度總值。計算出兩個目標(biāo)的特征匹配值帶入卡爾曼濾波方程,對下一幀目標(biāo)位置進(jìn)行估計,如(c)圖白色框所示,為預(yù)測目標(biāo)位置區(qū)域,然后在區(qū)域內(nèi)檢測目標(biāo)。
圖4所示為兩個目標(biāo)矩形中心運動軌跡圖。
圖4 目標(biāo)運動軌跡
實驗過程中,取多組不同的α,β,γ值驗證算法,取兩組比較有代表性的值的數(shù)據(jù)進(jìn)行分析。
當(dāng)取α=0.4,β=0.3,γ=0.3時,目標(biāo)特征值如表1所示。
表1 目標(biāo)特征匹配值
當(dāng)取α=0.5,β=0.3,γ=0.2時,目標(biāo)特征值如表2所示。
表2 目標(biāo)特征匹配值
表1和表2為第5、6、7、8、9幀經(jīng)過計算后得到的目標(biāo)1和目標(biāo)2的特征匹配值,經(jīng)過多次實驗之后,確定針對本紅外圖像適合的特征系數(shù)值取α=0.4,β=0.3,γ=0.3,可以得到較好的跟蹤效果。
可以看到目標(biāo)特征值基本穩(wěn)定,在分析目標(biāo)特征值時發(fā)現(xiàn),由于目標(biāo)檢測算法的不同,會導(dǎo)致目標(biāo)的外接矩形中心、面積,發(fā)生變化,導(dǎo)致目標(biāo)特征值發(fā)生變化,找到一個精確地目標(biāo)檢測算法也是本論文后續(xù)研究內(nèi)容的重點。
本文提出了一種基于特征融合和卡爾曼濾波的紅外多目標(biāo)跟蹤算法,并將其應(yīng)用于多目標(biāo)跟蹤,較好地實現(xiàn)了其功能。實驗結(jié)果顯示,這種跟蹤方法可以有效地跟蹤多個目標(biāo),算法的實時性好,穩(wěn)定度高,但是也由于卡爾曼濾波自身的局限性,如何有效地利用紅外目標(biāo)的特點,保證跟蹤的準(zhǔn)確性仍需要進(jìn)一步研究。
[1] LIU Gang,LIU Ming,KUANG Hai- peng,et al.Survey on multi-tagget tracking method[J].Electronics Optics&Control,2004,11(3):26-30.(in Chinese)劉剛,劉明,匡海鵬,等.多目標(biāo)跟蹤方法綜述[J].電光與控制,2004,11(3):26-30.
[2] HU Shiqiang,JING Zhong-liang.OverView of particle filter algorithm[J].Control and Decision,2005,20(4):361-371.(in Chinese)胡士強(qiáng),敬忠良.粒子濾波算法綜述[J].控制與決策,2005,20(4):361-371.
[3] XU Feng,LU Jian-gang,SUN You-xian.Application of neural network in image processing[J].Infromation and Control,2003,32(4):344-351.(in Chinese)許鋒,盧建剛,孫優(yōu)賢.神經(jīng)網(wǎng)絡(luò)在圖像處理中的應(yīng)用[J].信息與控制,2005,35(12):974-977.
[4] JIAO Bo,LI Ran.An object tracking method based on character matching in video sequence[J].Science Technology and Engineering,2009,9(19):5811-5814.(in Chinese)焦波,李燃.視頻序列中基于特征匹配的目標(biāo)跟蹤方法[J].科學(xué)技術(shù)與工程,2009,9(19):5811-5814.
[5] TIAN Tian.Study and implementation of multi-target tracking algorithm[D].Xi'an:Xidian University,2006.(in Chinese)田闐.一種多目標(biāo)跟蹤算法的研究與實現(xiàn)[D].西安:西安電子科技大學(xué),2006.
[6] LUO Huan,YU Lei,LIAO Jun,et al.Application of trajectory prediction on infrared multi-targets tracking[J].Infrared and Laser Engineering,2009,38(3):397-401.(in Chinese)羅寰,于雷,廖俊,等.軌跡預(yù)測在紅外多目標(biāo)跟蹤中的應(yīng)用[J].紅外與激光工程,2009,38(3):397-401.
[7] JIA Rui-ming,ZHANGHong,LI Jing-h(huán)ua.Study on algorithm of curve fitting based on kalman filter in tracking of IR weaken small objects[J].Laser&Infrared,2005,35(12):974-977.(in Chinese)賈瑞明,張弘,李靖華.?dāng)M合修正Kalman濾波在弱小目標(biāo)跟蹤中的應(yīng)用[J].激光與紅外,2005,35(12):974-977.