馮 博 陳 渤 王鵬輝 劉宏偉
?
基于穩(wěn)健深層網(wǎng)絡(luò)的雷達(dá)高分辨距離像目標(biāo)特征提取算法
馮 博 陳 渤*王鵬輝 劉宏偉
(西安電子科技大學(xué)雷達(dá)信號(hào)處理國(guó)家重點(diǎn)實(shí)驗(yàn)室 西安 710071)
特征提取是雷達(dá)高分辨距離像(HRRP)目標(biāo)識(shí)別的核心技術(shù)。傳統(tǒng)的特征提取算法多采用淺層的模型結(jié)構(gòu),容易忽視樣本的內(nèi)在結(jié)構(gòu),不利于學(xué)習(xí)有效的分類特征。針對(duì)這一問(wèn)題,該文利用多層非線性網(wǎng)絡(luò)實(shí)現(xiàn)特征學(xué)習(xí),構(gòu)建了基于深層網(wǎng)絡(luò)的雷達(dá)HRRP目標(biāo)識(shí)別框架。利用平均像在散射點(diǎn)不發(fā)生越距離單元走動(dòng)的方位幀內(nèi)具有穩(wěn)健物理特性的性質(zhì),提出了堆棧聯(lián)合穩(wěn)健自編碼器。該網(wǎng)絡(luò)由一系列聯(lián)合穩(wěn)健自編碼器堆?;瘜?shí)現(xiàn),在匹配原始HRRP樣本的同時(shí),約束同幀樣本趨近于平均像,并將網(wǎng)絡(luò)的最終輸出作為分類器的特征輸入?;趯?shí)測(cè)HRRP數(shù)據(jù)的實(shí)驗(yàn)結(jié)果驗(yàn)證了所提算法的有效性。
雷達(dá)自動(dòng)目標(biāo)識(shí)別;高分辨距離像;深層網(wǎng)絡(luò);堆棧聯(lián)合穩(wěn)健自編碼器
本文提出一種基于深層網(wǎng)絡(luò)的HRRP特征提取算法。利用平均像在散射點(diǎn)不發(fā)生越距離單元走動(dòng)的方位幀內(nèi)具有穩(wěn)健的物理特性,構(gòu)建了堆棧聯(lián)合穩(wěn)健自編碼器(SRAEs)。該深層網(wǎng)絡(luò)由一系列聯(lián)合穩(wěn)健自編碼器(RAE)堆?;瘶?gòu)成,通過(guò)逐層貪婪思想訓(xùn)練每一層RAE,并將前一層的輸出作為后一層的輸入。SRAEs利用平均像構(gòu)建穩(wěn)健約束,結(jié)合HRRP自編碼器得到一個(gè)聯(lián)合網(wǎng)絡(luò),在較好地匹配原始樣本的同時(shí),約束同幀樣本趨近于平均像,從而獲得穩(wěn)健的層次化特征。基于實(shí)測(cè)數(shù)據(jù)的實(shí)驗(yàn)結(jié)果驗(yàn)證了本文算法的有效性。
傳統(tǒng)RBM要求輸入單元滿足二值分布,而通常認(rèn)為HRRP數(shù)據(jù)為連續(xù)型隨機(jī)變量[2,7],因此無(wú)法直接使用RBM對(duì)HRRP數(shù)據(jù)建模。為了解決這一問(wèn)題,可采用高斯伯努利限制波爾茲曼機(jī)(GRBM)[8,9]:
若對(duì)傳統(tǒng)的自編碼器不加任何約束,則學(xué)習(xí)得到的權(quán)值矩陣可能是恒等映像,這是無(wú)意義的[8,10]。一般可以通過(guò)構(gòu)建降噪自編碼器(DAE)來(lái)避免該問(wèn)題。DAE是基于自編碼器(AE)框架的一種簡(jiǎn)單變體,通過(guò)從人為破壞的數(shù)據(jù)中恢復(fù)原始干凈信號(hào),從而獲得更加穩(wěn)健的模型。在許多實(shí)際應(yīng)用中,DAE已經(jīng)獲得了與RBM相似甚至更優(yōu)的性能[13]。相比于傳統(tǒng)AE, DAE的編碼形式變?yōu)?/p>
文獻(xiàn)[1-7]表明,在散射點(diǎn)不發(fā)生越距離單元走動(dòng)的方位角內(nèi)(定義為一個(gè)方位幀),一組HRRP樣本的平均像不僅可以顯著提高回波信噪比,同時(shí)還能有效抑制幅度擾動(dòng)、閃爍效應(yīng)和奇異樣本。文獻(xiàn)[16]研究了平均像的物理機(jī)理,進(jìn)一步驗(yàn)證了平均像可以更好地描述幀內(nèi)樣本的散射特性。平均像的定義如下:
3.2.1聯(lián)合穩(wěn)健自編碼器(RAE) 對(duì)于HRRP目標(biāo)識(shí)別而言,一個(gè)好的特征不僅可以有效恢復(fù)原始觀測(cè),而且能夠同時(shí)保留HRRP樣本的結(jié)構(gòu)信息。為此,本節(jié)提出一種聯(lián)合穩(wěn)健的自編碼器(RAE)對(duì)HRRP進(jìn)行特征提取。RAE由兩部分構(gòu)成:一部分對(duì)每個(gè)HRRP樣本的細(xì)節(jié)信息單獨(dú)建模,令重構(gòu)樣本較好地匹配原始觀測(cè);另一部分約束同幀中的重構(gòu)HRRP樣本趨于相同的穩(wěn)健項(xiàng)——平均像,從而保留幀內(nèi)樣本的結(jié)構(gòu)相似性。這樣的網(wǎng)絡(luò)構(gòu)架不僅具有較好的模型描述能力,而且一定程度上使HRRP的幀內(nèi)結(jié)構(gòu)特性得到保持。相應(yīng)的模型結(jié)構(gòu)如圖1所示。
圖1 聯(lián)合穩(wěn)健自編碼器框架
RAE網(wǎng)絡(luò)的數(shù)學(xué)描述為
其中
算法1 RAE參數(shù)估計(jì)算法
步驟3 基于后向傳播算法(BP)[13],依次對(duì)輸入的各訓(xùn)練樣本計(jì)算其相應(yīng)的梯度,并累加求和:
其中
步驟5 重復(fù)迭代步驟2-步驟4,直到算法收斂。
3.2.2堆棧聯(lián)合穩(wěn)健自編碼器(SRAEs) 當(dāng)學(xué)習(xí)完一層RAE后,固定其權(quán)值不變,將隱單元激活值作為下一層RAE的輸入,并以此類推,直到得到層的RAE。將這些RAE堆?;缶蜆?gòu)成了堆棧聯(lián)合穩(wěn)健自編碼器(SRAEs)。
算法2 深層網(wǎng)絡(luò)SRAEs的構(gòu)造算法
步驟3 重復(fù)步驟2,設(shè)計(jì)多層RAE,并將其堆棧化后得到SRAEs。
圖2 基于深層網(wǎng)絡(luò)的距離像目標(biāo)識(shí)別框架
圖3 雅克-42、獎(jiǎng)狀和安-26飛機(jī)的航跡圖
實(shí)驗(yàn)1識(shí)別性能對(duì)比分析 依文獻(xiàn)[17]中的標(biāo)準(zhǔn)化參數(shù)設(shè)置,這里構(gòu)建3層深層網(wǎng)絡(luò),相應(yīng)的隱單元數(shù)為:1500, 500, 50。圖4實(shí)驗(yàn)分別基于4種淺層模型:線性判別分析(LDA)[18], K-SVD[6],主成分分析(PCA)[7],分形特征法,以及3種深層網(wǎng)絡(luò):DBNs, SDAEs和SRAEs進(jìn)行特征提取,并使用線性支撐向量機(jī)(LSVM)分類器進(jìn)行識(shí)別。LDA降維后信號(hào)維度為C-1[18]; K-SVD的冗余特征維度與第1層隱單數(shù)相同,稀疏度=50;分形法不做特征降維;其他算法的特征維度為50。原始HRRP的LSVM分類結(jié)果僅作為性能基準(zhǔn),無(wú)特征降維操作。
圖4 不同算法的識(shí)別性能比較
圖4中,PCA在所有淺層特征提取算法中具有最優(yōu)的識(shí)別性能,但與深層學(xué)習(xí)算法的識(shí)別率相比仍然相差6-8%。因此,相比于淺層線性模型,深層網(wǎng)絡(luò)的非線性層次化結(jié)構(gòu)更有利于學(xué)習(xí)數(shù)據(jù)的有效識(shí)別特征。在所有深層模型中,SRAEs具有最優(yōu)的識(shí)別性能,且隨著層次的遞增,特征的可分性增強(qiáng),這表明SRAEs通過(guò)逐層特征變換,將原始空間樣本變換到一個(gè)新的高度抽象的特征空間,從而使分類更加容易。圖4中MCC, AGC法[2]是常規(guī)的HRRP統(tǒng)計(jì)識(shí)別算法,兩者均采用淺層模型結(jié)構(gòu),該識(shí)別結(jié)果進(jìn)一步驗(yàn)證了SRAEs的有效性。需強(qiáng)調(diào)的是,LSVM利用全部256維HRRP的識(shí)別率為88.4%,而SRAEs在頂層特征維度為50的情況下識(shí)別率已達(dá)91.51%,較LSVM提高了3.1%,這充分驗(yàn)證了SRAEs有效的降維能力。
表1結(jié)果顯示,穩(wěn)健項(xiàng)的引入可以改善深層網(wǎng)絡(luò)的識(shí)別性能,而且聯(lián)合HRRP自編碼器與穩(wěn)健約束的網(wǎng)絡(luò)識(shí)別性能更優(yōu)。利用平均像構(gòu)建穩(wěn)健約束的SRAEs保持了HRRP的幀內(nèi)結(jié)構(gòu)特性,有助于獲得穩(wěn)健的層次特征,減少噪聲、幅度擾動(dòng)、閃爍和奇異樣本[4,16]對(duì)特征學(xué)習(xí)的影響,但若僅考慮穩(wěn)健項(xiàng)則又會(huì)丟失樣本的一些細(xì)節(jié)信息,從而影響識(shí)別性能。
實(shí)驗(yàn)3 SRAEs可視化性能分析 圖5分別給出了原始HRRP和SRAEs深層特征的2維PCA可視化投影,目的在于簡(jiǎn)單直觀地分析SRAEs所提特征的可分性。為進(jìn)一步驗(yàn)證算法的泛化性能,實(shí)驗(yàn)中增加了400個(gè)庫(kù)外飛機(jī)距離像數(shù)據(jù)。
相比于原始HRRP的2維PCA投影,SRAEs提取的特征具有更好的可分性能。需強(qiáng)調(diào)的是,SRAEs的特征學(xué)習(xí)過(guò)程是完全無(wú)監(jiān)督,沒(méi)有利用任何類別信息,即網(wǎng)絡(luò)的學(xué)習(xí)與最終的識(shí)別任務(wù)并無(wú)關(guān)聯(lián)。由此可見(jiàn),SRAEs有助于從原始數(shù)據(jù)中直接提取有效的識(shí)別特征,具有學(xué)習(xí)數(shù)據(jù)本質(zhì)特征的能力。
實(shí)驗(yàn)4 SRAEs重構(gòu)泛化性能分析 實(shí)際應(yīng)用中,HRRP的訓(xùn)練樣本數(shù)量是非常有限的,而待識(shí)別的庫(kù)內(nèi)樣本和庫(kù)外樣本數(shù)量卻很大。這種情況下訓(xùn)練得到的模型往往容易出現(xiàn)過(guò)學(xué)習(xí)現(xiàn)象,并導(dǎo)致對(duì)庫(kù)外樣本嚴(yán)重的失配問(wèn)題,從而影響算法的推廣性能[1,2]。實(shí)驗(yàn)4分別對(duì)訓(xùn)練樣本、測(cè)試樣本和庫(kù)外樣本集進(jìn)行了重構(gòu)。圖6結(jié)果顯示,SRAEs對(duì)3組HRRP樣本均有較好的重構(gòu)能力,保留了樣本的主要細(xì)節(jié)信息,并未出現(xiàn)由于過(guò)學(xué)習(xí)現(xiàn)象帶來(lái)的失配問(wèn)題。因此,SRAEs對(duì)HRRP數(shù)據(jù)具有較好的描述能力和泛化性能,利于算法的推廣。
傳統(tǒng)特征提取算法的淺層線性結(jié)構(gòu)不利于提取有效的HRRP識(shí)別特征,針對(duì)這一問(wèn)題,本文構(gòu)建了基于深層網(wǎng)絡(luò)的雷達(dá)目標(biāo)識(shí)別框架,利用多層非線性網(wǎng)絡(luò)實(shí)現(xiàn)特征學(xué)習(xí)。結(jié)合平均像穩(wěn)健的物理特性,文章提出了SRAEs深層網(wǎng)絡(luò)。SRAEs是基于HRRP自編碼和穩(wěn)健約束的聯(lián)合模型,能夠在保證較好地匹配原始HRRP樣本的同時(shí),約束同幀樣本趨近于平均像,從而獲得穩(wěn)健有效的層次化識(shí)別特征?;趯?shí)測(cè)HRRP數(shù)據(jù)的實(shí)驗(yàn)結(jié)果表明,SRAEs深層模型提高了識(shí)別性能,而且具有較好的降維和泛化性能。
表1 RAE中穩(wěn)健項(xiàng)對(duì)識(shí)別性能的影響(%)
圖5 可視化性能分析比較
圖6 SRAEs重構(gòu)性能分析
[1] Du L, Liu H W, Wang P H,.. Noise robust radar HRRP target recognition based on multitask factor analysis with small training data size[J]., 2012, 60(7): 3546-3559.
[2] 潘勉, 王鵬輝, 杜蘭, 等. 基于TSB-HMM模型的雷達(dá)高分辨距離像目標(biāo)識(shí)別算法[J]. 電子與信息學(xué)報(bào), 2013, 35(7): 1547-1554.
Pan Mian, Wang Peng-hui, Du Lan,.. Radar HRRP target recognition based on truncated stick-breaking hidden Markov model[J].&, 2013, 35(7): 1547-1554.
[3] Zhang X D, Shi Y, and Bao Z. A new feature vector using selected bispectra for signal classification with application in radar target recognition[J]., 2001, 49(9): 1875-1885.
[4] Du L, Liu H W, Bao Z,.. Radar HRRP target recognition based on higher-order spectra[J]., 2005, 53(7): 2359-2368.
[5] Zhu F, Zhang X D, Hu Y F,.. Nonstationary hidden Markov models for multiaspect discriminative feature extraction from radar targets[J]., 2007, 55(5): 2203-2213.
[6] Feng B, Du L, Liu H W,.. Radar HRRP target recognition based on K-SVD algorithm[C]. IEEE CIE International Conference on Radar, Chengdu, 2011: 642-645.
[7] Du L, Liu H W, Bao Z,.. Radar automatic target recognition using complex high-resolution range profiles[J].2007, 1(1): 18-26.
[8] Bengio Y, Courville A, and Vincent P. Representation learning: a review and new perspectives[J]., 2013, 35(8): 1798-1828.
[9] Hinton G and Salakhutdinov R. Reducing the dimensionality of data with neural networks[J]., 2006, 313(5786): 504-507.
[10] Vincent P, Larochelle H, Lajoie I,.. Stacked denoising autoencoders: learning useful representations in a deep network with a local denoising criterion[J]., 2010, 11: 3371-3408.
[11] Chen B, Polatkan G, Sapiro G,. Deep learning with hierarchical convolutional factor analysis[J]., 2013, 35(8): 1887-1901.
[12] Bengio Y, Mesnil,.. Better mixing via deep representations[C]. Proceedings of the 30th International Conference on Machine Learning (ICML-13), Atlanta, USA, 2013: 552-560.
[13] Bengio Y, Lamblin P, Popovici D,.. Greedy layer-wise training of deep networks[C]. Neural Information and Processing Systems (NIPS 2006), Vancouver, Canada, 2007: 153-160.
[14] Goodfellow I, Mirza M, Courville A,.. Multi-prediction deep Boltzmann machines[C]. Proceedings of Neural Information Processing Systems (NIPS 2013), Vancouver, Canada, 2013: 548-556.
[15] 陳渤, 劉宏偉, 保錚. 基于三種不同絕對(duì)對(duì)齊方法的分類器的分析與研究[J]. 現(xiàn)代雷達(dá), 2006, 28(3): 58-62.
Chen Bo, Liu Hong-wei, and Bao Zheng. Analysis of three kinds of classification based on different absolute alignment methods[J]., 2006, 28(3): 58-62.
[16] Xing M D, Bao Z, and Pei B. The properties of high- resolution range profiles[J]., 2002, 41(2): 493-504.
[17] Bengio Y. Practical recommendations for gradient-based training of deep architectures[J].,, 2012, 7700: 437-478.
[18] Yu H and Yang J. A direct LDA algorithm for high- dimensional data with application to face recognition[J]., 2001, 34(10): 2067-2070.
馮 博: 男,1988年生,博士生,研究方向?yàn)槔走_(dá)自動(dòng)目標(biāo)識(shí)別.
陳 渤: 男,1979年生,博士,教授,博士生導(dǎo)師,研究方向?yàn)槔走_(dá)目標(biāo)識(shí)別、統(tǒng)計(jì)信號(hào)處理、統(tǒng)計(jì)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)網(wǎng)等.
王鵬輝: 男,1984年生,博士,講師,研究方向?yàn)槔走_(dá)自動(dòng)目標(biāo)識(shí)別以及統(tǒng)計(jì)機(jī)器學(xué)習(xí)理論等.
劉宏偉: 男,1971年生,博士,教授,博士生導(dǎo)師,研究方向?yàn)槔走_(dá)信號(hào)處理、雷達(dá)自動(dòng)目標(biāo)識(shí)別、認(rèn)知雷達(dá)、協(xié)同探測(cè)等.
Feature Extraction Method for Radar High Resolution RangeProfile Targets Based on Robust Deep Networks
Feng Bo Chen Bo Wang Peng-hui Liu Hong-wei
(,,,710071,)
Feature extraction is the key technique for Radar Automatic Target Recognition (RATR) based on High Resolution Range Profile (HRRP). Traditional feature extraction algorithms usually use shallow models. When applying such models, the inherent structure of the target is always ignored, which is disadvantageous for learning effective features. To address this issue, a deep framework for radar HRRP target recognition is proposed, which adopts multi-layered nonlinear networks for feature learning. Ground on the stable physical properties of the average profile in each HRRP frame without migration through resolution cell, Stacked Robust Auto-Encoders (SRAEs) are further developed, which are stacked by a series of RAEs. SRAEs can not only reconstruct the original HRRP samples, but also constrain the HRRPs in one frame close to the average profile. Then the top-level output of the networks is used as the input to the classifier. Experimental results on measured radar HRRP dataset validate the effectiveness of the proposed method.
Radar Automatic Target Recognition (RATR); High Resolution Range Profile (HRRP); Deep networks; Stacked Robust Auto-Encoders (SRAEs)
TN957.51
A
1009-5896(2014)12-2949-07
10.3724/SP.J.1146.2014.00808
陳渤 bchen@mail.xidian.edu.cn
2014-06-20收到,2014-08-12改回
國(guó)家自然科學(xué)基金(61372132, 61201292),新世紀(jì)優(yōu)秀人才支持計(jì)劃(NCET-13-0945)和中央高?;究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金資助課題