国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于殘差神經(jīng)網(wǎng)絡(luò)的通信混合信號識別

2020-08-31 01:33張傳武
無線電工程 2020年9期
關(guān)鍵詞:識別率殘差梯度

董 聰,張傳武,高 勇

(1.四川大學(xué) 電子信息學(xué)院,四川 成都 610065;2.電子信息工程(西南民族大學(xué))國家民委重點實驗室,四川 成都 610225)

0 引言

通信信號的調(diào)制識別在軍事和民用領(lǐng)域具有重要意義[1-2]。傳統(tǒng)的單信號調(diào)制識別算法主要分為2大類[3]:基于決策理論的最大似然假設(shè)檢驗方法[4]和基于特征提取的模式識別方法[5-6]?;旌闲盘枂瓮ǖ佬枰R別的信號有2類:對稱混合信號和非對稱混合信號。本文研究前者,對稱混合信號識別主要有2類方法。Lu[7]、EI-Mahdy[8]等人,先將接收信號分離開,然后使用傳統(tǒng)的單信號識別方法對分離后的信號進行調(diào)制識別,該方法默認接收信號是混合信號。這是第一種方法,這種方法本質(zhì)上仍是單信號識別,識別結(jié)果更依賴于分離效果。高玉龍以循環(huán)譜為出發(fā)點,利用BPSK、QPSK和OQPSK信號在某些循環(huán)頻率上的差異來提取信號特征[9],但是仍然要求先進行預(yù)處理將信號進行分離;另一類方法是直接從接收混合信號出發(fā)進行識別[10],是一種真正意義上的混合信號識別方法。該論文研究了共用同一信道中未知信號的調(diào)制識別問題,但是該方法必須已知一個信號調(diào)制類型且假定已知信號采用矩形成型,當信號采用升余弦成型時識別性能會惡化。

本文應(yīng)用殘差神經(jīng)網(wǎng)絡(luò)(Residual Neural Network)模型對通信混合信號進行調(diào)制識別。在保證識別率的前提下,此算法不需要對輸入數(shù)據(jù)進行預(yù)處理,不需要人工定義識別特征,并且對信號的碼元速率、頻偏和相偏具有一定的適應(yīng)性。

1 調(diào)制信號模型

通常發(fā)射通信信號序列可以表示為:

(1)

式中,An,ωc,φn,θ分別表示第n個符號的幅度、頻率、相位以及初始相位;g(t)表示脈沖成型函數(shù);T表示符號周期。

接收信號的表示形式為:

(2)

式中,hn(t),ω0分別表示信道響應(yīng)和接收機的頻率。

本文所用信號數(shù)據(jù)集有頻移鍵控(FSK)和相移鍵控(PSK)。

FSK通過載波頻率變化來傳遞數(shù)字信息,M進制頻移鍵控數(shù)學(xué)表達式為:

ωn∈{ω1,ω2,...,ωM},

(3)

式中,g(t)同上;ωn表示第n個符號的頻率;θ為初相。

PSK通過載波相位變化來傳遞數(shù)字信息,振幅及頻率保持不變。

M進制PSK信號可以表示為:

k=1,2,...,M,

(4)

M一般為2k,其余變量同上。

2 基于殘差神經(jīng)網(wǎng)絡(luò)的識別算法

2.1 殘差神經(jīng)網(wǎng)絡(luò)

深度學(xué)習(xí)的不斷發(fā)展,神經(jīng)網(wǎng)絡(luò)模型的深度也隨之不斷加深。但是實驗結(jié)果表明,單純地增加神經(jīng)網(wǎng)絡(luò)深度會帶來梯度消失或爆炸的問題,為解決這個問題,殘差神經(jīng)網(wǎng)絡(luò)(Residual Neural Network)被提出[11],它可以有效解決因為梯度爆炸而導(dǎo)致深層卷積神經(jīng)網(wǎng)絡(luò)出現(xiàn)的退化問題,并且能夠保持良好的泛化能力。

殘差模塊 (Residual Block) 構(gòu)建了ResNet ,該模塊通過增加“快捷連接”(Shortcut Connections)實現(xiàn)。假定某段神經(jīng)網(wǎng)絡(luò)的輸入為x,實際的輸出為H(x),如果使用深層非線性網(wǎng)絡(luò)來擬合非線性映射關(guān)系F(x)=H(x)-x,那么F(x)+x就可以表示為實際的輸出H(x),而F(x)+x能通過帶有“恒等變換 (Identity Transformation)”的神經(jīng)網(wǎng)絡(luò)實現(xiàn)。殘差塊結(jié)構(gòu)如圖1所示。

圖1 殘差塊結(jié)構(gòu)Fig.1 Residual block structure

淺層的殘差模塊由2層組成,即

F(x)=W2σ(W1x),

(5)

H(x)=F(x,{W1,W2})+x,

(6)

式中,σ表示非線性函數(shù)ReLU;W1,W2表示權(quán)重。殘差模塊增加的恒等映射(Identify Mapping)不會額外增加參數(shù)和計算量,但是卻能大大提高神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練速度。這是因為,相比于使用深層的非線性網(wǎng)絡(luò)去擬合隱藏的非線性映射H(x),殘差模塊目的在于使殘差F(x)盡可能小,這樣整個ResNet只需要學(xué)習(xí)輸入、輸出差別即殘差部分,簡化了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)難度。

本文中ResNet網(wǎng)絡(luò)參數(shù)設(shè)置如表1所示。

表1 ResNet網(wǎng)絡(luò)參數(shù)設(shè)置Tab.1 ResNet network parameter settings

2.2 隨機梯度下降優(yōu)化算法

神經(jīng)網(wǎng)絡(luò)中所有的輸出以及代價函數(shù)均由輸入和參數(shù)求得,在得到相應(yīng)輸出及代價函數(shù)的情況下,還需要通過優(yōu)化算法來減小代價函數(shù),得到優(yōu)化后的參數(shù)和權(quán)值。一般的優(yōu)化算法為梯度下降法(Gradient Descent),算法的表達式為:

(7)

式中,J(βn)為損失函數(shù);η為學(xué)習(xí)率。

梯度下降會同時計算所有數(shù)據(jù)的梯度值,但在實際中,要處理的數(shù)據(jù)量通常非常巨大,而硬件資源的有限使得難以實現(xiàn)大數(shù)據(jù)的梯度計算,而且耗時較長。在不降低網(wǎng)絡(luò)學(xué)習(xí)效果的前提下,本文采用了隨機梯度下降算法(Stochastic Gradient Descent)來提高網(wǎng)絡(luò)模型的訓(xùn)練速度。該算法的梯度計算以及參數(shù)更新是利用每次從數(shù)據(jù)集中隨機選取一個樣本而不是全部訓(xùn)練數(shù)據(jù)的損失函數(shù),也就是該算法優(yōu)化的是每一次迭代中某一條訓(xùn)練數(shù)據(jù)而不是全部數(shù)據(jù)的損失函數(shù),這樣一來每一次迭代網(wǎng)絡(luò)參數(shù)更新的速度就會大大提高。

2.3 算法流程

基于ResNet網(wǎng)絡(luò)模型的調(diào)制識別算法流程分為訓(xùn)練和測試兩個過程,大概流程圖如圖2所示。

訓(xùn)練過程為:

① 訓(xùn)練數(shù)據(jù)是仿真生成的調(diào)制信號,它首先格式轉(zhuǎn)化為Ndarray類型,再輸入到ResNet網(wǎng)絡(luò)模型中;

② ResNet網(wǎng)絡(luò)模型通過信號特征對訓(xùn)練數(shù)據(jù)進行分類識別,然后輸出算法對各信號調(diào)制方式的識別結(jié)果;

③ 將各信號調(diào)制方式的識別結(jié)果與輸入ResNet網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)的標簽,也就是信號實際的調(diào)制方式進行對比,利用代價函數(shù)計算出識別結(jié)果的誤差。根據(jù)最終誤差的大小以及利用梯度下降的反向傳播來更新和改進ResNet的網(wǎng)絡(luò)參數(shù)。

上述訓(xùn)練過程反復(fù)迭代,由于信號識別結(jié)果的誤差會不斷減小,算法對信號的識別準確率就隨之不斷提高,網(wǎng)絡(luò)模型參數(shù)也將會逐漸接近于最優(yōu)值,最終誤差趨向于一個穩(wěn)定值不再減小,此時表明網(wǎng)絡(luò)已經(jīng)收斂,訓(xùn)練停止。

測試過程:在ResNet網(wǎng)絡(luò)模型訓(xùn)練完成之后,算法就可以直接對待識別信號的調(diào)制方式進行識別,待識別信號經(jīng)過格式轉(zhuǎn)化后,直接輸入到ResNet中,ResNet網(wǎng)絡(luò)模型將會使用訓(xùn)練好的網(wǎng)絡(luò)參數(shù)提取特征和分類識別,最終輸出識別結(jié)果。算法原理框圖如圖2所示。

圖2 算法原理框圖Fig.2 Algorithm principle block diagram

2.4 實驗結(jié)果及其分析

為了驗證本文所提出的基于殘差神經(jīng)網(wǎng)絡(luò)的通信混合信號的識別率。本文利用MXnet深度學(xué)習(xí)平臺,采用18層殘差神經(jīng)網(wǎng)絡(luò)(ResNet)和卷積神經(jīng)網(wǎng)絡(luò)(CNN),分別在計算機上進行了驗證。計算機CPU型號為Inter(R) Core(TM) i7-8700 CPU @3.2 GHz 3.19 GHz 16 GB內(nèi)存。GPU型號為NVIDIA GeForce RTX 2080。

本文待識別的信號調(diào)制方式有:2FSK+4FSK,BPSK+2FSK,BPSK+4FSK,BPSK+BPSK,BPSK+QPSK,QPSK+2FSK,QPSK+4FSK,QPSK+QPSK,其中混合信號中兩分量信號的幅度均為1,信噪比范圍為-10~10 dB,以2 dB為間隔。采樣倍數(shù)選取4倍采樣,脈沖成型濾波器滾降系數(shù)設(shè)為0.35,碼元速率fb、載波頻率、初始相位分別在50~200 Kb/s、 ±0.05fb、0~π/8范圍內(nèi)隨機選擇。每種信號調(diào)制方式產(chǎn)生5 000個樣本,這些樣本中,4 000個為訓(xùn)練數(shù)據(jù),1 000個為測試數(shù)據(jù)。基于ResNet網(wǎng)絡(luò)損失函數(shù)下降曲線圖如圖3所示。

圖3 基于ResNet網(wǎng)絡(luò)損失函數(shù)下降曲線Fig.3 Loss function drop graph based on ResNet network

從圖3可以看出,損失函數(shù)在接近第18次迭代時基本上不再減小,可以認為此時神經(jīng)網(wǎng)絡(luò)模型的學(xué)習(xí)過程已經(jīng)收斂。

在ResNet和CNN網(wǎng)絡(luò)下的各混合信號識別性能曲線如圖4和圖5所示。

圖4 基于ResNet識別率性能曲線Fig.4 Recognition rate performance graph based on ResNet

圖5 基于CNN識別率性能曲線Fig.5 Recognition rate performance graph based on CNN

從圖4和圖5可以看出,無論是基于殘差網(wǎng)絡(luò)還是CNN網(wǎng)絡(luò),隨著信噪比的增加,信號的識別率也隨之增加。在信噪比為4 dB以上時,基于殘差網(wǎng)絡(luò)下識別率高達90%以上。而基于卷積神經(jīng)網(wǎng)絡(luò)下,即使信噪比為10 dB,BPSK+2FSK,QPSK+2FSK,QPSK+4FSK三種混合信號也未能較好地識別。

基于CNN和ResNet平均識別率對比曲線圖如圖6所示。從圖中可以看出,在同一信噪比下,基于ResNet的識別算法比基于CNN的識別算法識別率高。這是因為,傳統(tǒng)的卷積層在進行信息傳遞時,會帶來信息丟失、損耗的問題。ResNet 通過增加“恒等映射 ”(Identity Mapping)有效解決了這個問題,它將深層的非線性網(wǎng)絡(luò)去擬合隱藏的非線性映射問題轉(zhuǎn)化為學(xué)習(xí)輸入、輸出差別即殘差的問題,提高神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效率,也保護了信息的完整性。

圖6 基于CNN和ResNet平均識別率對比圖Fig.6 Average recognition rate comparison based on CNN and ResNet

3 結(jié)束語

混合信號單通道識別是混合信號單通道處理需要解決的第一個問題。本文應(yīng)用殘差神經(jīng)網(wǎng)絡(luò)模型來解決通信混合信號調(diào)制識別的問題[12]。在信噪比4 dB以上能對2FSK+4FSK,BPSK+2FSK,BPSK+4FSK,BPSK+BPSK,BPSK+QPSK,QPSK+2FSK,QPSK+4FSK,QPSK+QPSK八種混合信號有較好的識別效果。不需要先驗知識,避免了復(fù)雜的預(yù)處理過程,并且在一定范圍內(nèi)對信號碼元速率、相偏和頻偏不敏感,具有較強的適應(yīng)能力。

猜你喜歡
識別率殘差梯度
磁共振梯度偽影及常見故障排除探討
基于殘差-注意力和LSTM的心律失常心拍分類方法研究
基于雙向GRU與殘差擬合的車輛跟馳建模
基于殘差學(xué)習(xí)的自適應(yīng)無人機目標跟蹤算法
基于深度卷積的殘差三生網(wǎng)絡(luò)研究與應(yīng)用
一個具梯度項的p-Laplace 方程弱解的存在性
基于AMR的梯度磁傳感器在磁異常檢測中的研究
檔案數(shù)字化過程中OCR技術(shù)的應(yīng)用分析
基于數(shù)字虛擬飛行的民機復(fù)飛爬升梯度評估
基于PCA與MLP感知器的人臉圖像辨識技術(shù)
镇沅| 甘肃省| 邹城市| 青田县| 正蓝旗| 廉江市| 武夷山市| 肃北| 红原县| 新绛县| 睢宁县| 樟树市| 花垣县| 通许县| 南宁市| 铜陵市| 五寨县| 谢通门县| 左贡县| 共和县| 曲靖市| 铜梁县| 淮北市| 特克斯县| 沙湾县| 贡嘎县| 萝北县| 丹棱县| 南安市| 崇信县| 象山县| 镇平县| 垫江县| 宽城| 陈巴尔虎旗| 屏边| 莆田市| 延吉市| 高碑店市| 阿克| 北流市|