国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于跨域元學(xué)習(xí)的SAR自動目標(biāo)識別研究

2023-06-25 15:15王可喬琪
現(xiàn)代信息科技 2023年4期
關(guān)鍵詞:知識遷移

王可 喬琪

摘? 要:近年來,基于數(shù)據(jù)驅(qū)動的SAR自動目標(biāo)識別研究技術(shù)取得了很大進(jìn)展。雖然這類方法識別性能較好,但是在實際應(yīng)用場景中很難采集到足夠的真實SAR數(shù)據(jù)用于訓(xùn)練。文章通過引入仿真SAR數(shù)據(jù)來擴(kuò)充訓(xùn)練數(shù)據(jù)集,彌補(bǔ)真實SAR數(shù)據(jù)的不足。為了解決仿真和真實SAR數(shù)據(jù)之間差異導(dǎo)致的跨域和跨任務(wù)遷移問題,提出了一種基于跨域元學(xué)習(xí)機(jī)制的知識遷移算法。利用特征變換和數(shù)據(jù)增強(qiáng)方法來解決跨領(lǐng)域遷移,利用元學(xué)習(xí)機(jī)制來解決跨任務(wù)遷移。實驗證明算法可以在有限的訓(xùn)練數(shù)據(jù)下取得良好的識別性能。

關(guān)鍵詞:合成孔徑雷達(dá);知識遷移;元學(xué)習(xí)

中圖分類號:TP18;TN957.52 文獻(xiàn)標(biāo)識碼:A 文章編號:2096-4706(2023)04-0057-04

Research on SAR Automatic Target Recognition Based on Cross-Domain Meta-Learning

WANG Ke, QIAO Qi

(Jiangsu Vocational College of Electronics and Information, Huai'an? 223003, China)

Abstract: In recent years, SAR automatic target recognition research technology based on data driven has made great progress. Although the recognition performance of such methods is better, it is difficult to collect enough real SAR data for training. This paper expands the training data set by introducing simulation SAR data to make up for the shortage of real SAR data. To solve cross-domain and cross-task transfer problems caused by the differences between simulation and real SAR data, a knowledge transfer algorithm based on cross-domain Meta-Learning mechanism is proposed. Feature transformation and data enhancement are used to solve cross-domain transfer, and Meta-Learning mechanism is used to solve cross-task transfer. Experiments demonstrate that the algorithm can achieve good recognition performance with limited training data.

Keywords: synthetic aperture radar; knowledge transfer; Meta-Learning

0? 引? 言

合成孔徑雷達(dá)(Synthetic Aperture Radar, SAR)是利用合成孔徑技術(shù)來對地物目標(biāo)進(jìn)行高分辨率成像的傳感器系統(tǒng)。SAR工作在微波波段,在軍用和民用領(lǐng)域都得到了廣泛應(yīng)用。與光學(xué)圖像相比,SAR圖像存在一些缺陷,如分辨率相對較低、圖像為缺乏對比度的灰度圖等。這些缺陷使得SAR圖像難以通過人工方式進(jìn)行解譯和分類,導(dǎo)致了SAR圖像目標(biāo)自動識別(Synthetic Aperture Radar Automatic Target Recognition, SAR-ATR)技術(shù)的產(chǎn)生[1]。目前,SAR-ATR是SAR圖像應(yīng)用中最重要的任務(wù)之一。

隨著人工智能和大數(shù)據(jù)技術(shù)的迅猛發(fā)展,如深度學(xué)習(xí)這樣的數(shù)據(jù)驅(qū)動方法被廣泛應(yīng)用于SAR-ATR領(lǐng)域中,并取得了優(yōu)異的分類效果。復(fù)旦大學(xué)的Chen等人[2]首次將卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)引入到SAR-ATR領(lǐng)域,并設(shè)計了一種去除全連接層的全卷積網(wǎng)絡(luò)(A-ConvNet)。文獻(xiàn)[3]利用多通道CNN來提取多視角圖像的特征圖,這些特征圖通過傅里葉特征融合模塊處理后再進(jìn)行分類。Min等人[4]采用知識蒸餾技術(shù)將網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜的大型CNN壓縮為微型 CNN(Micro CNN, MCNN)。MCNN 結(jié)構(gòu)簡單,網(wǎng)絡(luò)參數(shù)很少,所需要的內(nèi)存和CPU資源都很少,可以部署在嵌入式設(shè)備上。文獻(xiàn)[5]基于目標(biāo)散射機(jī)理來挖掘并優(yōu)選SAR圖像極化特征,這些特征包含旋轉(zhuǎn)不變特征和旋轉(zhuǎn)域零角特征。這些優(yōu)選出來的特征有助于訓(xùn)練CNN網(wǎng)絡(luò),提高了CNN的泛化性能。數(shù)據(jù)增強(qiáng)[6]也是一種提高CNN分類精度和穩(wěn)健性的有效手段,可以在SAR訓(xùn)練集中添加了平移、加噪處理后的人工合成圖像。此外,類別依賴結(jié)構(gòu)保持投影(Class-Dependent Structure Preserving Projection, CDSPP)[7]和核穩(wěn)健局部判別投影(Kernel Robust Locality Discriminant Projection, KRLDP)[8]等多種非線性投影方法被用于在變換域提取 SAR 圖像特征。

近年來,遷移學(xué)習(xí)、元學(xué)習(xí)等知識遷移技術(shù)在光學(xué)圖像領(lǐng)域取得成功。SAR-ATR領(lǐng)域的研究者們開始引入這類技術(shù)來解決訓(xùn)練數(shù)據(jù)有限條件下的目標(biāo)識別問題。遷移學(xué)習(xí)引入外部數(shù)據(jù)集(光學(xué)圖像或仿真SAR圖像)并設(shè)計相應(yīng)的知識遷移框架。與采集真實SAR圖像相比,光學(xué)圖像和仿真SAR圖像的采集工作要方便得多,這有助于建立更加完備的,含有大量樣本的訓(xùn)練數(shù)據(jù)集。Malmgren-Hansen等人[9]構(gòu)建各種車輛目標(biāo)的CAD模型,將CAD模型送入電磁計算軟件得到仿真SAR圖像。CNN首先采用這些仿真圖像進(jìn)行預(yù)訓(xùn)練,然后利用真實圖像微調(diào)所有的網(wǎng)絡(luò)參數(shù)。文獻(xiàn)[10]首先生成測試目標(biāo)的精確仿真圖像,然后采用平移、加噪、MIX-UP[11]等多種方法進(jìn)行數(shù)據(jù)增強(qiáng),僅利用很少的訓(xùn)練樣本就可以獲得很高的識別率。文獻(xiàn)[12]在圖像特征提取器中額外插入了一個特征變換層,在訓(xùn)練階段通過仿射變換增強(qiáng)圖像特征來模擬不同領(lǐng)域中的特征分布,有利于解決跨域知識遷移問題。

知識遷移可以從源域中挖掘先驗知識,然后將這些知識遷移到目標(biāo)域的分類任務(wù)中,從而解決訓(xùn)練樣本不足導(dǎo)致的SAR-ATR方法識別率下降,訓(xùn)練穩(wěn)定性惡化等問題。但是源域和目標(biāo)域數(shù)據(jù)之間的差異(圖像的背景、成像角度、干擾程度不同)導(dǎo)致了跨領(lǐng)域遷移問題。源域和目標(biāo)域圖像的目標(biāo)類別不完全一致產(chǎn)生了跨任務(wù)遷移問題。本文提出了一種基于跨域元學(xué)習(xí)的一種識別算法,利用特征變換和數(shù)據(jù)增強(qiáng)方法來解決跨領(lǐng)域遷移問題,利用元學(xué)習(xí)機(jī)制來解決跨任務(wù)遷移問題。

1? 算法介紹

1.1? 算法框架

本文提出的跨域元學(xué)習(xí)識別算法框架由特征提取器和分類器組成。特征提取器負(fù)責(zé)提取對應(yīng)領(lǐng)域圖像的特征,分類器用于確定圖像特征的所屬類別,如圖1所示。算法基于元學(xué)習(xí)的訓(xùn)練機(jī)制來解決任務(wù)遷移問題,所以模型的輸入數(shù)據(jù)被分為支撐集和查詢集。模型的每一次訓(xùn)練迭代分為元訓(xùn)練和元測試兩個階段。在元訓(xùn)練階段,模型利用支撐集的圖像和標(biāo)簽對特征提取器和分類器的參數(shù)進(jìn)行更新。在元測試時,模型首先用Mix-Up方法[11]對查詢集的數(shù)據(jù)進(jìn)行變換增強(qiáng),然后利用多個特征變換層(Feature-Wise Transform, FWT)[12]來強(qiáng)化特征提取器,并利用強(qiáng)化后的特征提取器來提取查詢集的特征。特征變換層通常部署在卷積層之下,負(fù)責(zé)對卷積層輸出的特征圖進(jìn)行尺度和平移變換,以增強(qiáng)特征穩(wěn)健性。模型的元訓(xùn)練和元測試都在源域中進(jìn)行,當(dāng)訓(xùn)練完成后,模型利用少量目標(biāo)域的數(shù)據(jù)來微調(diào)特征提取器和分類器的參數(shù),就可以完成目標(biāo)域中的識別任務(wù)。

算法框架中的特征提取器和分類器都是基于CNN實現(xiàn)的,其中特征提取器由多層卷積模塊組成,分類器則是單層全連接層。如圖2所示,特征提取器由4個卷積模塊串接而成,依次對圖像的特征進(jìn)行提取和精煉。Conv代表卷積層,16×5×5說明該層含有16個卷積核,卷積核的尺寸為4×4,BN代表批量歸一化操作層,Relu是非線性激活層。分類器由單個全連接層(FC)實現(xiàn),其中N為輸出向量的維度。

1.2? 領(lǐng)域泛化

源域和目標(biāo)域數(shù)據(jù)分布之間的差異導(dǎo)致了跨領(lǐng)域遷移問題,該問題可以通過領(lǐng)域適配或者領(lǐng)域泛化方法來解決。領(lǐng)域適配在訓(xùn)練階段就需要目標(biāo)域的數(shù)據(jù),所以采用領(lǐng)域泛化來解決跨領(lǐng)域遷移的問題??紤]到數(shù)據(jù)采集的困難,源域當(dāng)中僅有一個數(shù)據(jù)集,本文利用Mix-Up方法[11]對該數(shù)據(jù)集進(jìn)行變換混合,生成多種多樣的偽域數(shù)據(jù),利用這種偽域數(shù)據(jù)在元測試階段更新模型的參數(shù),提升模型對未知領(lǐng)域數(shù)據(jù)的泛化能力。此外,還使用特征變換層對卷積層提取的特征進(jìn)行變換增強(qiáng),期望提取出來的特征可以適用于未知領(lǐng)域的識別。

Mix-Up是一種生成數(shù)據(jù)集的近鄰分布的方法,而且對類別標(biāo)簽進(jìn)行近鄰關(guān)系建模。Mix-Up在查詢集中隨機(jī)選擇不同類別的數(shù)據(jù)和標(biāo)簽,進(jìn)行凸組合,將凸組合作為數(shù)據(jù)增強(qiáng)后的查詢集,用于訓(xùn)練特征提取器。其公式為:

(1)

(2)

其中xi和xj是從查詢集中隨機(jī)抽取的樣本,yi和yj為對應(yīng)標(biāo)簽, 和? 是混合后的數(shù)據(jù)。 可以模擬來自未知領(lǐng)域的數(shù)據(jù),提升特征提取器在未知領(lǐng)域上的泛化能力。

當(dāng)訓(xùn)練樣本較少,而CNN的參數(shù)較多的時候,CNN容易過擬合,網(wǎng)絡(luò)參數(shù)得不到充分的訓(xùn)練。鑒于特征提取器是基于CNN實現(xiàn)的,通過向特征提取器中插入特征變換層,對CNN各卷積層的輸出進(jìn)行仿射變換,使得特征提取器提取的特征分布更加多樣化,增強(qiáng)其領(lǐng)域泛化能力。給定某卷積層的輸出z∈RC×H×W,其仿射變換的尺度系數(shù)γ和偏置系數(shù)β從高斯分布中采樣得到:

(3)

其中θγ∈RC×1×1和θβ∈RC×1×1為γ和β對應(yīng)標(biāo)準(zhǔn)差的參數(shù),可以通過訓(xùn)練更新。仿射變換的輸出? 為:

(4)

可見仿射變換是逐個通道進(jìn)行,每個特征通道上用的系數(shù)都是一樣的。

1.3? 元學(xué)習(xí)

本文利用元學(xué)習(xí)[12]解決跨任務(wù)的知識遷移問題,此時源域和目標(biāo)域的圖像類別不同。元學(xué)習(xí)通過一系列相似任務(wù)歸納這些任務(wù)的共同特性,借助這些信息進(jìn)行新任務(wù)的快速學(xué)習(xí)。通過在源域中構(gòu)建各種識別任務(wù)來訓(xùn)練算法參數(shù),使得算法能夠快速適應(yīng)目標(biāo)域數(shù)據(jù)上的新任務(wù)。給定特征提取器 ,分類器 ,特征變換層 。每一次訓(xùn)練迭代t在源域數(shù)據(jù)中隨機(jī)抽樣出支撐集τs={xs,ys}和查詢集τq={xq,yq}。首先在支撐集τs上利用梯度下降法來更新 和 ,公式為:

(5)

其中α為梯度下降的步長,Lcls為交叉熵。然后對查詢集

τq進(jìn)行Mix-Up操作,得到混合后的新查詢集 ,

接下來將變換層融入特征提取器并計算查詢集上的分類誤差Lq:

(6)

Lq體現(xiàn)了Mix-Up和特征變換層的應(yīng)用效果,用來更新算法的所有參數(shù),即:

(7)

在源域中的元學(xué)習(xí)過程(含有元訓(xùn)練和元測試)結(jié)束后,將特征變換層移除,在目標(biāo)域中只要用幾個樣本微調(diào)參數(shù)? 就可以適應(yīng)未知新任務(wù),剛好滿足了小樣本SAR-ATR任務(wù)的需求。

2? 實驗驗證

2.1? 實驗數(shù)據(jù)

本文提出的識別算法在訓(xùn)練階段利用仿真SAR數(shù)據(jù)進(jìn)行元學(xué)習(xí)。在測試階段,算法首先利用少量真實SAR數(shù)據(jù)微調(diào)算法參數(shù),然后在剩余的真實SAR數(shù)據(jù)中進(jìn)行測試。仿真SAR數(shù)據(jù)集由電磁仿真工具生成,共包含七類車輛目標(biāo),即汽車、卡車、摩托車、坦克、推土機(jī)、皮卡和公共汽車。每類仿真目標(biāo)共含有72個方位角,6個俯角的不同圖像。真實SAR數(shù)據(jù)來自移動和靜止目標(biāo)獲取和識別(MSTAR)數(shù)據(jù)集。該數(shù)據(jù)集被廣泛用于SAR目標(biāo)識別的基準(zhǔn)性能評估。MSTAR數(shù)據(jù)集中包括不同方位角、不同俯角和不同地面目標(biāo)的圖像。地面目標(biāo)分為10類,類型分別為T72、BMP2、BTR70、BTR60、2S1、BRDM2、D7、T62、ZIL131和ZSU234。俯角為17°的真實圖像用來微調(diào)參數(shù),15°和30°俯角的目標(biāo)用于測試。

2.2? 算法的識別性能評估

本實驗測試了算法在有限真實數(shù)據(jù)下獲得的識別率。對比方法包括CNN和微調(diào)了參數(shù)的CNN(CNN_TF)。圖3顯示了這些方法的識別率曲線。當(dāng)利用10%的真實SAR數(shù)據(jù)(俯角為17°的MSTAR圖像)進(jìn)行微調(diào)時,本文算法、CNN和CNN_TF的識別精度為85.5%。76.9%,81.3%。當(dāng)使用50%的真實SAR數(shù)據(jù)進(jìn)行微調(diào)時,這三種方法的準(zhǔn)確率分別提高到95.4%、93.2%和93.9%。如果使用全部真實SAR數(shù)據(jù),三種方法的識別率分別達(dá)到96.3%、95.2%、和95.2%。CNN的識別率最低,因為它從頭開始訓(xùn)練,沒有從仿真SAR數(shù)據(jù)集中遷移知識。CNN_TF識別率稍高,因為它利用仿真SAR數(shù)據(jù)來初始化網(wǎng)絡(luò)參數(shù),并用真實數(shù)據(jù)來微調(diào)網(wǎng)絡(luò)參數(shù)。本文算法的識別率最高,因為它考慮到了仿真SAR數(shù)據(jù)和真實SAR數(shù)據(jù)之間的差異,利用跨域元學(xué)習(xí)來解決了這一問題。本文提出算法僅用10%的真實數(shù)據(jù)就可以獲取85.5%識別率,證明了當(dāng)缺乏真實訓(xùn)練數(shù)據(jù)時,本文算法依然可以取得良好的識別性能。

2.3? 和主流SAR識別算法的比較

本文算法還與近年來提出的多種類別的 SAR-ATR方法進(jìn)行了比較。測試數(shù)據(jù)采用了俯角分別為15°和30°的真實SAR圖像。如圖4所示,本文提出的算法在兩種測試俯角下分別取得了96.3和96.0的識別率。當(dāng)測試俯角變大時,SAR目標(biāo)的圖像的形狀輪廓會出現(xiàn)較大的變化,從而造成目標(biāo)外形的改變并影響識別率。本文算法在30°測試俯角下依然表現(xiàn)良好,表現(xiàn)出一定的俯角穩(wěn)健性。從圖4中還可以看出,采用CNN來提取圖像特征的算法(本文算法、A-ConvNet、MCNN)的識別率要明顯高于采用投影變換來提取圖像特征的算法(CDSPP和KRLDP)。CNN能自動提取圖像的高層語義特征,優(yōu)于傳統(tǒng)的機(jī)器學(xué)習(xí)方法。

3? 結(jié)? 論

基于數(shù)據(jù)驅(qū)動的SAR-ATR算法往往缺乏足夠的真實SAR數(shù)據(jù)用于訓(xùn)練。本文引入仿真SAR數(shù)據(jù)來彌補(bǔ)真實數(shù)據(jù)的不足。對于仿真和真實SAR數(shù)據(jù)之間差異導(dǎo)致的跨域和跨任務(wù)遷移問題,本文算法利用特征變換和數(shù)據(jù)增強(qiáng)方法解決跨領(lǐng)域遷移,利用元學(xué)習(xí)機(jī)制解決跨任務(wù)遷移。實驗證明,本文算法在訓(xùn)練數(shù)據(jù)有限條件下的識別率要高于CNN和遷移學(xué)習(xí)方法。

參考文獻(xiàn):

[1] 保錚,刑孟道,王彤.雷達(dá)成像技術(shù) [M].北京:電子工業(yè)出版社,2005.

[2] CHEN S Z,WANG H P,XU F,et al. Target classification using the deep convolutional networks for SAR images [J].IEEE Transactions on Geoscience and Remote Sensing,2016,54(8):4806-4817.

[3] ZHAO P,LIU K,ZOU H,et al. Multi-stream convolutional neural network for SAR automatic target recognition [J].Remote Sensing,2018,10(9):1473.

[4] MIN R,LAN H,CAO Z J,et al. A gradually distilled CNN for SAR target recognition [J].IEEE Access,2019,7:42190-42200.

[5] DING B Y,WEN G J. A region matching approach based on 3-D scattering center model with application to SAR target recognition [J].IEEE Sensors Journal,2018,18(11):4623-4632.

[6] DING J,CHEN B,LIU H W,et al. Convolutional neural network with data augmentation for SAR target recognition [J].IEEE Geoscience and Remote Sensing Letters,2016,13(3):364-368.

[7] LIU M,CHEN S C,WU J,et al. Configuration recognition via class-dependent structure preserving projections with application to targets in SAR images [J],IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing,2018,1(11):2134–2146.

[8] YU M T,ZHANG S Q,DONG G,et al. Target recognition in SAR image based on robust locality discriminant projection [J],IET Radar,Sonar & Navigation,2018,12(11):1285–1293.

[9] MALMGREN-HANSEN D,KUSK A,DALL J,et al. Improving SAR automatic target recognition models with transfer learning from simulated data [J].IEEE Geoscience and Remote Sensing Letters,2017,14(9):1484-1488.

[10] INKAWHICH N,INKAWHICH M J,DAVIS E K,et al. Bridging a gap in SAR-ATR: Training on fully synthetic and testing on measured data [J].IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing,2021,14:2942-2955.

[11] ZHANG H,CISSE M,DAUPHIN Y N,et al. mixup: Beyond empirical risk minimization [J/OL].arXiv:1710.09412 [cs.LG].[2022-09-13]. https://arxiv.org/abs/1710.09412.

[12] TSENG H Y,LEE H Y,HUANG J B,et al. Cross-domain few-shot classification via learned feature-wise transformation [J/OL].arXiv:2001.08735 [cs.CV].[2022-09-13].https://arxiv.org/abs/2001.08735v1.

作者簡介:王可(1981—),男,漢族,江蘇淮安人,講師,博士,研究方向:人工智能和大數(shù)據(jù)技術(shù);喬琪(1982—),男,漢族,江蘇淮安人,副教授,碩士,研究方向:通信技術(shù)和大數(shù)據(jù)技術(shù)。

收稿日期:2022-12-16

基金項目:江蘇省電子信息職業(yè)教育研究常規(guī)課題(JSDX2021-51);江蘇電子信息職業(yè)學(xué)院校級科研基金項目(JSEIYY2020003)

猜你喜歡
知識遷移
在素質(zhì)教育中要重視培養(yǎng)學(xué)生獨立獲取知識的能力
初中化學(xué)圖形分析題型解題思路研究
在初中英語教學(xué)中運(yùn)用多媒體技術(shù)的探討
在素質(zhì)教育中要重視培養(yǎng)學(xué)生獨立獲取知識的能力
開展學(xué)習(xí)活動培養(yǎng)學(xué)生數(shù)學(xué)素養(yǎng)的研究
由一道物理題引發(fā)的對繩子張力的討論
幾則高中化學(xué)實驗改進(jìn)的探討與反思
運(yùn)用遷移理論 提高歷史材料解析能力
高中數(shù)學(xué)教學(xué)中的遷移策略
把握考試真實內(nèi)涵提高課堂教學(xué)效果