楊茂昌 陳鵬輝 杜明慧 楊光松 葉秋波

收稿日期：2023-07-25

DOI：10.19850/j.cnki.2096-4706.2023.22.037

摘? 要：信號調制的識別是測控物聯(lián)網(wǎng)中的一項重要任務。由于具有強大的特征學習能力，殘差網(wǎng)絡（ResNet）作為一種著名的深度學習技術，被成功地應用于信號調制的識別，并顯示出超強的優(yōu)勢。然而，標準的ResNet是通過相同結構的殘差單元來設計的，這限制了對多層次特征的捕獲，導致識別性能下降。文章設計了一個由不同結構的殘差單元組成的殘差堆棧，提出一個改進的ResNet網(wǎng)絡模型。仿真結果證明，提出的方法可以捕捉多層次的特征，達到96.1%的識別率。

關鍵詞：深度學習；調制識別；卷積神經(jīng)網(wǎng)絡；殘差神經(jīng)網(wǎng)絡

中圖分類號：TP391.4? 文獻標識碼：A? 文章編號：2096-4706（2023）22-0169-06

Research on a Wireless Signal Modulation Identification Method Based on Deep Learning

YANG Maochang1， CHEN Penghui2， DU Minghui1， YANG Guangsong2， YE Qiubo2

（1.China Quality Certification Centre， South China Laboratory， Guangzhou? 510663， China;

2.School of Ocean Information Engineering， Jimei University， Xiamen? 361021， China）

Abstract： The identification of signal modulation is an important task in the measurement and control Internet of Things. Due to the powerful feature learning capability， Residual Network （ResNet）， a well-known Deep Learning technology， is successfully applied in signal modulation identification and shows superiority. However， standard ResNet is designed by the residual units of the same structure， which limits the capture of multi-level features， resulting in recognition performance decline. This paper designs a residual stack composed of residual units with different structures， and proposes an improved ResNet network model. The simulation results show that the proposed method can capture multi-level features and reach 96.1% recognition success rate.

Keywords： Deep Learning; modulation recognition; Convolutional Neural Networks; Residual Neural Network

0? 引? 言

物聯(lián)網(wǎng)（Internet of Thing， IoT）是一個由互連對象組成的系統(tǒng)，具有通過Internet收集、記錄、存儲和共享信息的能力。該技術的新興趨勢和成功在于它能夠在網(wǎng)絡內通信和傳輸數(shù)據(jù)，從而使其能夠為眾多傳統(tǒng)問題創(chuàng)建更高效和“智能”的解決方案。

IoT系統(tǒng)網(wǎng)絡層中的挑戰(zhàn)之一是組成設備之間的有效無線通信。系統(tǒng)的性質和架構通常需要使用不同的調制格式，從而導致接收器面臨分類挑戰(zhàn)。所有這些共同影響網(wǎng)絡的整體復雜性。

無線通信終端種類繁多、調制方式多樣、無線信道電磁環(huán)境復雜，而自動調制分類（Automatic Modulation Classification， AMC）是對信號中使用的調制方案進行分類的過程。它是非合作通信的核心技術，是信號接收和信號解調之間的中間步驟。調制分類器的設計主要包括兩個關鍵步驟：信號預處理和有效分類算法的選擇。預處理包括根據(jù)分類算法的要求，估計構成載波頻率、信號功率和其他統(tǒng)計信號信息的信號統(tǒng)計信息。

AMC目的就是對接收信號進行檢測以獲取其調制信息，以便對信號做進一步處理。物聯(lián)網(wǎng)的基礎是數(shù)據(jù)的采集和傳輸中，要求物聯(lián)網(wǎng)基站兼容多種數(shù)字調制類型，以滿足不同調制方式終端的數(shù)據(jù)傳輸需求。AMC依賴于調制識別（Modulation Recognition， MR）技術，在軍事應用和實際民用中已有廣泛使用，例如電子對抗（電子戰(zhàn)）、威脅分析、干擾識別、頻譜管理等。

為了對空中調制信號進行識別，本文采用深度學習的方法進行自動調制識別，設計不同的人工神經(jīng)網(wǎng)絡，解決識別效果對人工選擇過分依賴的問題，以及現(xiàn)有AMC方法中，擬合能力有限、時效性差的問題。

1? 調制識別及系統(tǒng)框圖

通信的目的是實現(xiàn)信息的傳遞。首先將信號進行調制，然后通過信道進行傳輸，在接收端進行解調，恢復出原信號。但是要想對信號進行正確的解調，首先得知道在接收端所接收到的信號是哪種調制方式，然后才可以采取相應的解調方法進行解調。這就需要在解調之前進行調制識別，可見信號調制識別是通信系統(tǒng)中的一個重要組成部分。通信系統(tǒng)的部分框圖如圖1所示。

IoT系統(tǒng)框圖如圖2所示，系統(tǒng)通過無線信道接收IoT設備發(fā)送的無線信號，通過軟件無線電進行AD轉換、下采樣后，分成IQ兩路信號進行基帶解調，然后對其進行調制識別。

2? 基于深度學習（DL）的調制識別

特征選擇是決定一個系統(tǒng)調制識別性能好壞的重要因素。但傳統(tǒng)的調制識別方法在這方面有很大缺陷。由于DL在圖像識別等領域依靠其自主學習圖像特征的優(yōu)勢取得了不錯的效果，亦可將深度學習方法應用到調制識別領域。對于DL，特征提取是在多個層次自動學習的，DL模型可以從信號數(shù)據(jù)中自主學習和提取特征，然后使用一定的方法預測出信號的調制類型?；贒L的調制識別框圖如圖3所示[1]。

基于DL的調制識別中，完成調制任務的重點就在于神經(jīng)網(wǎng)絡，神經(jīng)網(wǎng)絡自主學習信號的特征，然后利用深度學習分類算法對調制方式進行分類，但是具體神經(jīng)網(wǎng)絡提取到了信號的什么特征以及內部是如何學習的我們是不知道的，可以將其看作一個黑匣子，我們輸入接收到的信號，輸出就得到了信號的調制類型，所以使用不同的神經(jīng)網(wǎng)絡，調制識別的效果將不同。我們的研究重點就是如何設計出調試識別性能好的神經(jīng)網(wǎng)絡結構。

基于DL的調制識別的具體實現(xiàn)過程如圖4所示。

將無線電信號的數(shù)據(jù)集分為訓練集和測試集，其中數(shù)據(jù)集帶有調制類型的標簽，首先對訓練集的信號進行預處理，然后使用神經(jīng)網(wǎng)絡對信號進行訓練，自主學習信號的調制類型特征，接著使用訓練后的神經(jīng)網(wǎng)絡對測試集數(shù)據(jù)的信號進行識別，預測出調制類型。

3? 基于改進殘差神經(jīng)網(wǎng)絡的調制識別方法

3.1? 殘差神經(jīng)網(wǎng)絡

為了對更深層次的網(wǎng)絡進行有效的訓練，提出了深度殘差網(wǎng)絡（ResNet）的思想[2]。在深度殘差神經(jīng)網(wǎng)絡中，大量使用了跳過或旁路連接的概念，解決了深層網(wǎng)絡的訓練問題。這使得計算機識別領域和時間序列音頻任務[3]都有了顯著的改進。在研究用于時間序列無線電分類的深度殘差神經(jīng)網(wǎng)絡中，發(fā)現(xiàn)可以利用殘差網(wǎng)絡研究調制識別問題，并與卷積神經(jīng)網(wǎng)絡（CNN）相比獲得了更好的性能[4]。

殘差神經(jīng)網(wǎng)絡由殘差堆棧構成，而殘差堆棧由殘差單元組成，殘差單元一般由卷積層和非線性激活函數(shù)ReLU共同構成。由于卷積神經(jīng)網(wǎng)絡深度越深所擬合的映射函數(shù)越復雜，復雜的映射函數(shù)存在反向轉播困難的情況，所以網(wǎng)絡層數(shù)存在理論閾值，在閾值深度的范圍內，隨著網(wǎng)絡層數(shù)增加模型將會更加優(yōu)化。

為了解決深度網(wǎng)絡存在的問題，He[5]首次提出了殘差神經(jīng)網(wǎng)絡，在網(wǎng)絡中引入了恒等映射如圖5所示。

原始神經(jīng)網(wǎng)絡的一個神經(jīng)單元要學習的目標映射是H（x），H（x）為輸入和輸出間的函數(shù)關系，這個目標映射可能太過于復雜難以學習。而殘差神經(jīng)網(wǎng)絡讓神經(jīng)單元不直接學習目標映射H（x），而是學習一個殘差F（x） = H（x） - x，其中x為輸入，F(xiàn)（*）為卷積運算。這樣原始的映射變成了F（x） + x。一般F（x）為非線性映射、x為線性映射，這樣將一個很難學習的目標映射H（x）分成了線性映射和非線性映射的組合，這樣的結構組成了原始的殘差單元，特別地x→x是最優(yōu)的學習策略[5]。

假設第l個殘差單元的輸入為xl，那么下一層的輸出為：

（1）

其中，R（xl，Wl）為殘差函數(shù)，Wl為該殘差函數(shù)對應的權重參數(shù)，f （*）為非線性激活函數(shù)ReLU。

3.2? 改進的殘差神經(jīng)網(wǎng)絡

殘差網(wǎng)絡設計的重要方向中包括了對殘差模塊的結構體系設計，合理的減輕梯度消失/爆炸的問題[6]，在此方向已經(jīng)取得了一些最新進展[7]。以身份映射作用作捷徑連接和身份附加后激活是信息傳輸通暢的必要條件[5]，理論上任何較淺單元的特征都可以用任何較深單元的特征表示，這樣的特性會在深層網(wǎng)絡中得到很好的利用，這也是殘差神經(jīng)網(wǎng)絡作用于深層神經(jīng)網(wǎng)絡的一大優(yōu)勢。以網(wǎng)絡寬度為研究的ResNeSt，并以組卷積[8]利用多徑結構進行傳輸計算，可以在不同的路徑上提取細致程度不同的特征信息。

鑒于上面提到的一些殘差網(wǎng)絡變形，我們提出通過構建殘差模塊中單元的結構多樣性來提取特征信息的方法，來改良殘差神經(jīng)網(wǎng)絡并應用到無線信號調制方式識別中，可以解決基準殘差神經(jīng)網(wǎng)絡在某一些類目上識別效果不佳的情況[9，10]。

在標準的殘差單元中的反向傳播計算如下，其中Q為前向算法結果，xl為殘差單元輸入，F(xiàn)（*）為卷積算法結果，xl為殘差單元。

（2）

如果改變其捷徑接連的結構，則式（1）反向傳播也將會隨著結構的改變而改變，He[5]對捷徑結構進行了很詳細的討論，我們在這可以分類為非線性結構與線性結構。

線性結構公式將由式（1）更新如下，其中α為常數(shù)：

（3）

非線性結構公式將由式（1）來更新，其中G（*）為捷徑傳輸上的算法結果：

（4）

式（2）相比于式（3），在深層殘差神經(jīng)網(wǎng)絡上線性結構的方向傳播更加快捷，基于CIFAR-10數(shù)據(jù)集的實驗[5]中，當偏置項α為1時，即恒等映射是最佳的捷徑連接結構如式（1），這樣的恒等映射將作為我們后續(xù)搭建的殘差神經(jīng)網(wǎng)絡單元的捷徑連接結構。

我們在全連通層中使用自歸一化神經(jīng)網(wǎng)絡[11]，并且將標度指數(shù)線性單元（SELU）函數(shù)作為激活函數(shù)、平均響應標度初始化（MRSA）[12]和Alpha Dropout，對傳統(tǒng)的ReLU+Dropout方法進行了改進。

接下來我們對ResNet流行結構進行調整分析，ResNet-B[13]更改了ResNet的下采樣塊，ResNet-C[14]將輸入7×7卷積替換為三個的3×3卷積，然后在卷積層中加入合適數(shù)量的激活函數(shù)的結構。

通過對殘差神經(jīng)網(wǎng)絡中的殘差單元的捷徑分析、殘差單元的數(shù)量分析和殘差單元的結構分析，我們提出了新的殘差堆棧結構，命名為ResNet-U4，如圖6所示。

殘差堆棧由三個線性殘差單元和一個非線性殘差單元組成，本論文中的深度殘差神經(jīng)網(wǎng)絡由六個相同結構的殘差堆棧構成。

4? 實驗及分析

4.1? 實驗參數(shù)設置

本實驗使用的調制識別數(shù)據(jù)集為通過分層抽樣法從數(shù)據(jù)集RADIOML 2018.01A[15]獲得的30%數(shù)據(jù)集。數(shù)據(jù)集數(shù)據(jù)包含24種類型的信號，分別為16QAM、32QAM、64QAM、128QAM、256QAM、8PSK、16PSK、32PSK、16APSK、32APSK、64APSK、128APSK、BPSK、OOK、GMSK、FM、4ASK、8ASK、OQPSK、QPSK、AM-SSB-SC、AM-DSB-SC、AM-SSB-WC、AM-DSB-WC。數(shù)據(jù)集在制作時為了能仿真效果更貼近真實通信環(huán)境，加入不同白噪聲使得每一種信號調制都包含了從-20至30共26種不同的信噪比。每種類型的信號生成21 840個樣本，共524 160個樣本進行訓練和驗證，另外每種信號生成9 360個樣本，共224 540個樣本作為測試集。本文中的實驗都在配置為lntel（R） Core（TM）i7-9750H CPU、lntel（R）UHD Graphics 630 GPU0、NVIDIA GeForce GTX 1650 GPU1和16 GB內存的筆記本電腦上實現(xiàn)。

實驗通過Anaconda環(huán)境，使用Spyder 4.0.0版本編譯器、cuDNN 7.6.5版本、Keras-GPU 2.2.4版本、NumPy 1.18.1版本、PyTorch 1.2.0版本、TensorFlow 1.14.0版本、TensorFlow-GPU 1.14.0版本、Seaborn 0.10.0版本。

卷積層激活函數(shù)使用ReLU函數(shù)、全連接層激活函數(shù)使用SELU函數(shù)、損失函數(shù)使用categorical crossentropy交叉熵函數(shù)、模型優(yōu)化器使用Adam優(yōu)化器、AlphaDropout函數(shù)參數(shù)設置為0.3、每一層卷積核數(shù)量設置為32個、學習率設置為0.01、batch size設置為800、訓練輪次設置100輪，實驗模型共計182 584個神經(jīng)元。

4.2? 實驗結果分析

4.2.1? 殘差單元數(shù)量對識別結果的影響

本節(jié)分析殘差神經(jīng)網(wǎng)絡的殘差單元數(shù)量對識別結果的影響，在殘差堆棧層數(shù)固定的情況下，設計了多個不同數(shù)量的ResNet Unit構成的殘差神經(jīng)網(wǎng)絡函數(shù)并且使用模型未接觸過的數(shù)據(jù)作為測試集進行模型的測試，通過模型在測試集上每種信噪比上的整體準確率來評估模型性能同時也觀察模型在不同調制方式上的識別準確率情況來分析模型性能。本實驗設計并對比了三種不同數(shù)量單元的ResNet，固定每個ResNet Unit結構不變，設計殘差模塊函數(shù)ResNet Unit數(shù)量分別為2、3、4，分別對應ResNet Unit-2、ResNet Unit-3和ResNet Unit-4。使用相同的訓練集，學習率為0.001，同時模型的超參數(shù)不改變，通過訓練得到相關數(shù)據(jù)，如圖7與圖8所示。

分析圖8中ResNet Unit-2、 ResNetUnit-3和ResNet Unit-4在不同調制類型識別的表現(xiàn)，其中ResNet Unit-4準確率曲線大部分都在ResNet Unit-2準確率曲線之上，特別是在8PSK、128QAM、AM-SSB-WC調制類型上的表現(xiàn)明顯的提高，詳細數(shù)據(jù)如表1所示。

在不同信噪比的模型表現(xiàn)也不同，特別是從信噪比大于4 dB開始，如圖8所示，ResNet Unit-4模型的準確率高于ResNet Unit-2和ResNet Unit-3模型的準確率。

殘差神經(jīng)網(wǎng)絡中通過捷徑傳輸將許多支線連接后面的神經(jīng)層，使后面的層能夠學習殘差值，在使用ResNet的結構后能夠很好地拓展深度神經(jīng)網(wǎng)絡的理論閾值，顯然上述實驗證明在合理的殘差神經(jīng)網(wǎng)絡結構下，越深的網(wǎng)絡模型擁有更好的性能表現(xiàn)。

4.2.2? 卷積核尺度對識別結果的影響

本節(jié)分析卷積核尺度對ResNet-U4識別結果的影響。在網(wǎng)絡結構固定的情況下，設計將第1層到第6層的殘差堆棧的卷積核分別從3×3改為5×5，利用模型在每個信噪比上的整體精度來評價不同方法的性能。本實驗設計并比較了六種不同組成的卷積核，使用相同的訓練集，學習率為0.001。如表2所示，每個數(shù)字對應于卷積核的大小。

對算法進行訓練，使損失最小化，直至網(wǎng)絡收斂，模型識別準確率與信噪比關系如圖9所示。

盡管卷積核的大小與卷積核感受視野存在關系，其中越大的卷積核擁有越大的感受視野，不過在論文[14]中提到并不是越大的卷積核越好，可以看出，各模型的精度從信噪比0 dB開始迅速提高，在信噪比10 dB開始收斂，由于模型使用了更多的殘差單元，這使得這些細微的特征不是很重要，對模型的影響很小。同時，更大的卷積核的使用增加了網(wǎng)絡中參數(shù)的數(shù)量，在實際應用中需要更多的硬件計算資源。這個實驗證明了在深度神經(jīng)網(wǎng)絡下使用大卷積核不能在高信噪比環(huán)境下有效的提取信號特征。結合小型和大型卷積核的優(yōu)點，3×3卷積核參數(shù)更輕，更容易訓練和迭代。

5? 結? 論

針對殘差神經(jīng)網(wǎng)絡做了分析，從殘差神經(jīng)網(wǎng)絡的單元結構和數(shù)量兩個角度出發(fā)，提出了一種多結構殘差神經(jīng)網(wǎng)絡ResNet-U4并且應用于無線電信號調制識別領域。在數(shù)據(jù)集RADIOML 2018.01A上做了實驗并證明模型的穩(wěn)定性。我們在BPSK、128QAM、QPSK、AM-SSB-WC和128APSK調制類上對比了前人的研究成果，發(fā)現(xiàn)我們的識別精度大大提高，并且在高信噪比下網(wǎng)絡的識別性能提高了4個百分點。

本論文提出的基于深度學習的無線信號調制識別方法能夠有效地應用于物聯(lián)網(wǎng)系統(tǒng)中。通過使用適當?shù)木W(wǎng)絡架構和訓練算法，可以利用深度學習技術對不同的無線信號調制方式進行準確的識別。

總之，基于深度學習的無線信號調制識別方法在物聯(lián)網(wǎng)系統(tǒng)中具有廣泛的應用前景，對提高無線通信系統(tǒng)的性能和安全性具有重要意義。未來的研究方向可能包括進一步優(yōu)化網(wǎng)絡架構，擴展適用的信號調制類型范圍，并進一步提升算法的效率和準確性。

參考文獻：

[1] PENG S，JIANG H，WANG H，et al. Modulation classification based on signal constellation diagrams and deep learning [J].IEEE transactions on neural networks and learning systems，2018，30（3）：718-727.

[2] HE K，ZHANG X，REN S，et al. Deep residual learning for image recognition [C]//Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition：2016-Decem.Las Vegas：IEEE，2016：770-778.

[3] OORD A V D，DIELEMAN S，ZEN H，et al. WaveNet： A Generative Model for Raw Audio [J/OL].arXiv：1609.03499v2 [cs.SD].（2016-08-19）.https：//arxiv.org/pdf/1609.03499.pdf.

[4] 寧暑光.基于特征提取與學習的無線通信數(shù)字調制方式自動識別方法研究 [D].合肥：合肥工業(yè)大學，2019.

[5] HE K，ZHANG X，REN S，et al. Identity mappings in deep residual networks [C]//European conference on computer vision. Cham：Springer，2016：630-645.

[6] BOTTOU L. Large-scale machine learning with stochastic gradient descent [C]// Proceedings of COMPSTAT 2010 - 19th International Conference on Computational Statistics，Keynote，Invited and Contributed Papers. Heidelberg：Physica-Verlag HD，2010：177-186.

[7] XIE S，GIRSHICK R，DOLLAR P，et al. Aggregated residual transformations for deep neural networks [C]//Proceedings-30th IEEE Conference on Computer Vision and Pattern Recognition，CVPR 2017.Honolulu：IEEE，2017：5987-5995.

[8] KRIZHEVSKY A，SUTESKEVER I，HINTON G E. ImageNet classification with deep convolutional neural networks [J].Communications of the ACM，2017，60（6）：84-90.

[9] OSHEA T J，ROY T，CLANCY T C. Over-the-Air Deep Learning Based Radio Signal Classification [J].IEEE Journal on Selected Topics in Signal Processing，2018，12（1）：168-179.

[10] DWIVEDI N，SINGH D K，KUSHWAHA D S. Weapon classification using deep convolutional neural network [C]//2019 IEEE Conference on Information and Communication Technology，CICT 2019.ALLAHABAD：IEEE，2019：1-5.

[11] KLAMBAUER G，UNTERTHINER T，MAYR A，et al. Self-Normalizing Neural Networks [J].Advances in neural information processing systems，2017，30：972-981.

[12] HE K，ZHANG X，REN S，et al. Delving deep into rectifiers：Surpassing human-level performance on imagenet classification [C]//Proceedings of the IEEE International Conference on Computer Vision：2015 Inter.Santiago：IEEE，2015：1026-1034.

[13] GLOROT X，BENGIO Y. Understanding the difficulty of training deep feedforward neural networks [C]//Proceedings of the thirteenth international conference on artificial intelligence and statistics. Sardinia：JMLR，2010，9：249-256.

[14] SZEGEDY C，VANHOUCKE V，IOFFE S，et al. Rethinking the Inception Architecture for Computer Vision [C]//2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）.Las Vegas：IEEE，2016：2818-2826.

[15] TRIDGELL S，BOLAND D，LEONG P H W，et al. Real-time automatic modulation classification [C]//2019 International Conference on Field-Programmable Technology （ICFPT）.New Orleans：IEEE，2019：299-302.

作者簡介：楊茂昌（1972.01—），男，漢族，廣東梅州人，高級工程師，本科，研究方向：測控物聯(lián)網(wǎng)、電力通信檢測、質量控制技術。