劉 檬,盧 敏,胡 娟,李卓敏

(江西理工大學(xué) 理學(xué)院,江西 贛州 341000)

0 引 言

正交頻分復(fù)用(Orthogonal Frequency Division Multiplexing,OFDM)技術(shù)因其優(yōu)異的性能被用于無線通信標(biāo)準(zhǔn)[1],但傳統(tǒng)的OFDM系統(tǒng)依賴于數(shù)學(xué)模型,而復(fù)雜的信道環(huán)境很難用數(shù)學(xué)公式表達(dá)。

近幾年,深度學(xué)習(xí)(Deep Learning,DL)方法因具有很強(qiáng)的非線性能力,能夠較好地解決通信系統(tǒng)中描述不準(zhǔn)確的問題,在通信系統(tǒng)中得到了廣泛的應(yīng)用,包括信號辨識[2]、信道估計[3]、信道解碼[4]、信號解調(diào)[5-8]等方面。文獻(xiàn)[9]提出以神經(jīng)網(wǎng)絡(luò)構(gòu)建端到端的通信系統(tǒng),解決了傳統(tǒng)算法不能實現(xiàn)全局優(yōu)化的問題,但該方法需要同時訓(xùn)練發(fā)送端和接收端,訓(xùn)練難度較大。文獻(xiàn)[10-11]針對訓(xùn)練難度大的問題,提出了數(shù)據(jù)驅(qū)動的方法,采用全連接神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)信息接收。此方法結(jié)構(gòu)簡單,誤比特率性能較佳,但需要大量的訓(xùn)練數(shù)據(jù)樣本且時間和空間復(fù)雜度高。為了降低模型復(fù)雜度,文獻(xiàn)[12-13]提出了一種模型驅(qū)動的接收機(jī),其結(jié)合無線通信領(lǐng)域的專家知識,通過傳統(tǒng)算法初始化神經(jīng)網(wǎng)絡(luò)輸入,極大地提升訓(xùn)練效率,減小數(shù)據(jù)依賴,降低接收機(jī)整體復(fù)雜度,但是在復(fù)雜信道下接收機(jī)的抗噪聲性能有待提高。

基于以上分析,針對深度學(xué)習(xí)的OFDM接收機(jī)網(wǎng)絡(luò)參數(shù)大、收斂速度慢、計算復(fù)雜度高的問題,本文采用深度學(xué)習(xí)方法,結(jié)合專家知識和多種神經(jīng)網(wǎng)絡(luò),構(gòu)建一種模型驅(qū)動的無線接收機(jī)模型,即FBLTNet(Fully Connected,Bi-LSTM and Transformer-encoder Neural Network)。該接收機(jī)分為信道估計和信道檢測兩個模塊,以最小二乘(Least Squares,LS)信道估計算法和最小均方誤差估計(Minimum Mean Square Error,MMSE)信號檢測算法初始化神經(jīng)網(wǎng)絡(luò)的輸入,使得模型的輸入具有物理意義,降低模型的復(fù)雜度以及提高解調(diào)性能。在信道估計模塊中,以全連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Deep Neural Network)替代線性插值部分,實現(xiàn)信道狀態(tài)信息(Channel State Information,CSI)的估計。在信號檢測模塊,由深度自注意力網(wǎng)絡(luò)編碼器(Transformer-encoder)[14]與雙向長短期記憶網(wǎng)絡(luò)(Bidirectional Long Short Term Memory,Bi-LSTM)[15]組合的網(wǎng)絡(luò)實現(xiàn)信號比特流的恢復(fù)。

本文將從噪比性能、調(diào)制方式、導(dǎo)頻數(shù)量、循環(huán)前綴角度,對比分析FBLTNet接收機(jī)、傳統(tǒng)接收機(jī)和現(xiàn)有的深度學(xué)習(xí)接收機(jī)。

1 系統(tǒng)模型

OFDM無線通信系統(tǒng)包括發(fā)射機(jī)、信道和接收機(jī),如圖1所示。系統(tǒng)發(fā)射端將輸入的二進(jìn)制數(shù)據(jù)序列調(diào)制為發(fā)射符號序列,插入導(dǎo)頻符號形成完整的OFDM發(fā)送符號,符號經(jīng)過離散傅里葉逆變換(Inverse Discrete Fourier Transformation,IDFT)轉(zhuǎn)換為時域信號,接著加入循環(huán)前綴(Cyclic Prefix,CP),以減輕由無線信道的延遲擴(kuò)展引起的符號間干擾(Inter-symbol Interference,ISI),形成完整的時域OFDM信號。

OFDM接收機(jī)中,由于信號在傳輸過程中,發(fā)送和接收是異步的,即可能出現(xiàn)發(fā)射端的信號在接收端收不到或者接收不完全的情況。為了使得數(shù)據(jù)能夠正常工作,不破壞子載波之間的正交性,接收端在快速傅里葉變換(Fast Fourier Transformation,FFT)變換之前,發(fā)射機(jī)和接收機(jī)必須進(jìn)行同步操作,之后去除CP,然后再執(zhí)行FFT變換,將接收信號Y(k)表示為第k個子載波的接收信號,接著進(jìn)行信道估計、信號檢測和星座映射解調(diào)。

信號通過一個頻率選擇性衰落多徑信道的脈沖響應(yīng)表示為

(1)

式中:M為多徑條數(shù);τi為第i路信號的時延;h(i)為第i路信號的幅度衰減因子。在符號正確同步的情況下,接收端的采樣信號為

(2)

式中:Ts為采樣周期;n(nTs)為采樣的高斯白噪聲。當(dāng)用循環(huán)卷積代替信號與信道的線性卷積時,對接收到的信號做快速傅里葉變換后解調(diào)出的頻域信號為

Yi,k=Xi,k*Hi,k+wi,k

(3)

(4)

式中:Xi,k(P)和Xi,k(D)分別表示第k個子載波中的導(dǎo)頻和發(fā)射符號。Xi,k(P)在接收端是已知的,用于信道估計,而Xi,k(D)在接收端是未知的,需要根據(jù)接收到信號和估計信道進(jìn)行檢測。

基于人工智能(Artificial Intelligence,AI)的接收機(jī),用神經(jīng)網(wǎng)絡(luò)取代傳統(tǒng)接收器中的信道估計和信號檢測,將大量的無線信號作為神經(jīng)網(wǎng)絡(luò)的輸入,比特流信號作為輸出,通過隨機(jī)梯度下降算法訓(xùn)練所有參數(shù)。下面將詳細(xì)介紹本文提出的FBLTNet接收機(jī)。

2 接收機(jī)設(shè)計

2.1 FBLTNet接收機(jī)

將接收端接收到的時域信號YD∈M×N,經(jīng)過信道的導(dǎo)頻Yp∈和接收端已知的原始導(dǎo)頻Xp∈作為輸入數(shù)據(jù),通過所提出的FBLTNet接收機(jī)獲得恢復(fù)的比特流信號,其數(shù)據(jù)流如圖2所示。

圖2 FBLNet接收機(jī)數(shù)據(jù)流圖

2.1.1 信道估計

信道估計的作用是估計出信道狀態(tài)信息矩陣。導(dǎo)頻輔助信道估計采用LS算法,通過利用導(dǎo)頻估計導(dǎo)頻位置的信道響應(yīng),表示為

HLS=Yp/Xp,HLS∈M×N

(5)

圖3 信道估計網(wǎng)絡(luò)

2.1.2 信號檢測

信號檢測先利用傳統(tǒng)檢測算法初始化神經(jīng)網(wǎng)絡(luò)的輸入,再通過信號檢測神經(jīng)網(wǎng)絡(luò)(簡稱SD網(wǎng)絡(luò))恢復(fù)比特流信號,如圖4所示。

圖4 信號檢測網(wǎng)絡(luò)結(jié)構(gòu)數(shù)據(jù)流圖

(6)

由于此時信號是復(fù)數(shù)信號,在輸入神經(jīng)網(wǎng)絡(luò)前提取YMMSE∈M×N,YD∈M×N和M×N3個復(fù)數(shù)特征矩陣復(fù)數(shù)的實部和虛部,合并成6列的實數(shù)矩陣,則SD網(wǎng)絡(luò)的輸入矩陣G∈M×6N表示為

(7)

式中:Re{·}表示取復(fù)數(shù)值的實部;Im{·}表示取復(fù)數(shù)值的虛部。用WSD表示SD子網(wǎng)權(quán)重,bSD表示該神經(jīng)網(wǎng)絡(luò)偏置,則SD子網(wǎng)的輸出σ表示為

σ=WSD×G+bSD

(8)

2.2 信道估計網(wǎng)絡(luò)

CE網(wǎng)絡(luò)由3層的批量歸一化(Batch Normalization)和兩層的全連接層(Dense)組成,全連接層的神經(jīng)元個數(shù)分別是256和128;采用ReLU激活函數(shù);網(wǎng)絡(luò)結(jié)構(gòu)見圖3。

(9)

2.3 信號檢測網(wǎng)絡(luò)

SD網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示,由兩個雙向長短期記憶網(wǎng)絡(luò)(Bi-LSTM)、兩個深度自注意力編碼器網(wǎng)絡(luò)(Transformer-encoder)及一個全連接網(wǎng)絡(luò)組成。

2.3.1 Bi-LSTM

使用ReLu激活函數(shù),神經(jīng)元個數(shù)64,主要用于信號序列上下文的學(xué)習(xí)。Bi-LSTM為兩個單向LSTM網(wǎng)絡(luò)的組合,其中一個LSTM網(wǎng)絡(luò)進(jìn)行數(shù)據(jù)的正向預(yù)測,另一個LSTM網(wǎng)絡(luò)進(jìn)行反向預(yù)測。LSTM網(wǎng)絡(luò)中有若干個LSTM單元,每個單元由輸入門it、遺忘門ft、輸出門ot、記憶單元ct和隱藏層矢量lt組成,并且每個單元參數(shù)共享,即每個時間步上神經(jīng)網(wǎng)絡(luò)的參數(shù)都一樣。則單個LSTM網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)學(xué)描述如下:

it=σ(bi+Uixi+Wilt-1)

(10)

ft=σ(bf+Ufxt+Wflt-1)

(11)

ct=ft⊙ct-1+it⊙σ(bc+Ucxt+Wclt-1)

(12)

ot=σ(bo+Upxt+Wolt-1)

(13)

lt=ot⊙tanh(ct)

(14)

式中:Ui,Wi,Uf,Wf,Uc,Wc,Uo,Wo∈d×d為網(wǎng)絡(luò)中的權(quán)重矩陣;bi,bf,bc,bo∈d為網(wǎng)絡(luò)的偏置,權(quán)重和偏置在訓(xùn)練學(xué)習(xí)過程中確定下來;⊙表示元素乘法;σ為sigmoid函數(shù);d表示輸入序列維度。每個時間步LSTM網(wǎng)絡(luò)的輸出lt和隱藏層更新變換公式可以簡化為式(15)和(16):

lt=LSTM(lt-1,xt,Θ)

(15)

(16)

(17)

2.3.2 Transformer-encoder

Transformer-encoder的作用主要為了加強(qiáng)信號序列學(xué)習(xí)的深度,提取序列的特征,解決序列中長期依賴問題,包含注意力機(jī)制和殘差結(jié)構(gòu),分別為層歸一化(LayerNormalization)、多頭注意力(Muti-Head Attention)、失活(Dropout)和一維卷積(Conv1D)。LayerNormalization表示層歸一化函數(shù),其作用是將輸入的特征數(shù)值進(jìn)行規(guī)范化轉(zhuǎn)換,使得整個網(wǎng)絡(luò)的計算過程數(shù)值更穩(wěn)定,訓(xùn)練網(wǎng)絡(luò)收斂速度更快。多頭注意力將原輸入向量映射為多個不同的查詢矩陣Q、鍵矩陣K和值矩陣V的三元組,然后對每個三元組分別使用點(diǎn)積注意力機(jī)制進(jìn)行計算,最后將不同三元組計算得到的輸出進(jìn)行拼接得到表達(dá)能力更多樣的新特征向量,數(shù)學(xué)表示如下:

(18)

Mutihead(Q,K,V)=Concati=1,…,n(headi)Wp

(19)

Dropout層作用是通過在訓(xùn)練期間隨機(jī)丟棄網(wǎng)絡(luò)節(jié)點(diǎn),可以使用單個模型來模擬具有大量不同的網(wǎng)絡(luò)架構(gòu),是一種計算低成本且非常有效的正則化方法,以減少過度擬合并改善各種深度神經(jīng)網(wǎng)絡(luò)中的泛化誤差。合理使用Dropout正則化層可以減少過度擬合并提高深度神經(jīng)網(wǎng)絡(luò)的泛化能力。

綜上,Transformer-encoder模塊的數(shù)據(jù)流過程可以簡化表示為

(20)

(21)

(22)

Xi=Xi-1+Dropout(MutiHead(Qi,Ki,Vi))

(23)

Xi=LayerNormalization(Xi)

(24)

Xi=Conv1D(Xi)

(25)

Xi=Dropout(Xi)

(26)

Xout=Conv1D(Xi)

(27)

2.3.3 Dense層

SD網(wǎng)絡(luò)最后一層是全連接層用于分類,使用sigmoid激活函數(shù),表示為

(28)

輸出值限制在0～1之間,通過公式(29)硬判決的方式,判定輸出的值是1 b還是0 b。門限p根據(jù)sigmoid激活函數(shù)的輸出范圍決定,在本文中設(shè)定為0.5。

(29)

FBLNet接收機(jī)的訓(xùn)練以均方誤差作為損失函數(shù)。公式(30)表示,通過訓(xùn)練學(xué)習(xí),不斷調(diào)整對權(quán)重和偏置,減小真實值與模型預(yù)測值之間的誤差。

(30)

3 仿真分析

OFDM系統(tǒng)仿真參數(shù)如表1所示,其中發(fā)射機(jī)中的導(dǎo)頻插入方式為梳狀導(dǎo)頻,并將發(fā)射機(jī)生成的信號數(shù)據(jù)經(jīng)過瑞利衰落后全部作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練集和測試集。本文的信道采用服從瑞利分布的衰落信道模型,多徑瑞利信道的參數(shù)使用COST207標(biāo)準(zhǔn)模型中的參數(shù)[16],該模型設(shè)定為Jakes的多普勒類型。接收端的同步技術(shù)采用基于導(dǎo)頻的符號定時同步操作[17]。對于訓(xùn)練過程,使用Adam優(yōu)化器,訓(xùn)練學(xué)習(xí)率為0.01。其中,當(dāng)SNR、導(dǎo)頻數(shù)量、循環(huán)前綴等參數(shù)變化時,根據(jù)生成的樣本數(shù)據(jù)重新訓(xùn)練接收機(jī)模型參數(shù)。對于測試過程,本文采用與訓(xùn)練過程相同的參數(shù)來評價框架的誤碼率性能。

表1 主要仿真參數(shù)

3.1 傳統(tǒng)接收機(jī)的對比分析

誤比特率(Bit Error Ratio,BER)性能是衡量接收機(jī)解調(diào)性能影響的宏觀指標(biāo)。傳統(tǒng)的OFDM接收機(jī)模型采用LS信道估計和MMSE信號檢測算法組合解調(diào)算法進(jìn)行仿真,稱為LS-MMSE接收機(jī)。實驗結(jié)果如圖5和表2所示,可見在各種調(diào)制方式下,FBLTNet接收機(jī)的性能全面優(yōu)于LS-MMSE方法,說明深度學(xué)習(xí)接收機(jī)更適合調(diào)制信號的解調(diào)。

表2 瑞利信道下FBLTNet接收機(jī)和LS-MMSE接收機(jī)的信噪比對比

圖5 FBLTNet與LS-MMSE接收機(jī)信噪比-誤比特率曲線

3.2 深度學(xué)習(xí)接收機(jī)的對比分析

本文將從空間時間復(fù)雜度和誤比特率兩個角度,與數(shù)據(jù)驅(qū)動的FCDNN接收機(jī)[10]和模型驅(qū)動的ComNet接收機(jī)[12]進(jìn)行對比分析。

3.2.1 空間和時間復(fù)雜度

神經(jīng)網(wǎng)絡(luò)的空間復(fù)雜度,主要指網(wǎng)絡(luò)模型的參數(shù)數(shù)量。由于維度的限制,模型的參數(shù)越多即空間復(fù)雜度越高,訓(xùn)練模型所需的數(shù)據(jù)量就越大,不僅會導(dǎo)致模型的訓(xùn)練容易過擬合,還會增大訓(xùn)練的難度。時間復(fù)雜度主要取決于模型的訓(xùn)練和預(yù)測時間,時間復(fù)雜度過高,既無法快速地驗證想法和改善模型,在實際部署中也無法做到實時解調(diào)。表3、表4和圖6分別比較了FCDNN、ComNet和本文所提的FBLTNet模型的網(wǎng)絡(luò)模型參數(shù)數(shù)量、訓(xùn)練時間及測試時間。

表3 空間復(fù)雜度

表4 時間復(fù)雜度

圖6 模型訓(xùn)練收斂圖

由表3可知,基于數(shù)據(jù)驅(qū)動的FCDNN參數(shù)量最大,遠(yuǎn)高于基于模型驅(qū)動的ComNet和FBLTNet,FBLTNet接收機(jī)與數(shù)據(jù)驅(qū)動的FCDNN接收機(jī)相比,網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)減少29.5%。其主要原因是模型驅(qū)動模型每層之間除神經(jīng)元之間數(shù)據(jù)傳遞外,在連接之間還加入了自定義的數(shù)據(jù)變換,提取更多有物理意義的信息,降低了網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度。

由表4可知,收斂速度、訓(xùn)練時間和測試時間上,FBLTNet模型最少,FCDNN次之,ComNet最多。FBLTNet接收機(jī)與FCDNN相比,線下訓(xùn)練模型收斂時間和測試時間分別減少33.0%和25.0%。圖6表明,FBLTNet模型在訓(xùn)練41輪次后收斂過程開始趨于穩(wěn)定,80輪次后就會出現(xiàn)過擬合;FCDNN在100輪次都還未出現(xiàn)過擬合;ComNet收斂最慢,還未達(dá)到收斂平穩(wěn)狀態(tài)?？傊?與FCDNN和ComNet相比,FBLTNet的空間和時間復(fù)雜度均最小,這表明采用具有強(qiáng)大記憶能力的自注意力網(wǎng)絡(luò)的FBLTNet,能夠快速捕捉訓(xùn)練數(shù)據(jù)全局特征和學(xué)習(xí)數(shù)據(jù)分布特征。

3.2.2 誤比特率

圖7比較了FCDNN、ComNet和本文所提的FBLTNet在瑞利衰落信道的誤比特率。當(dāng)接收機(jī)達(dá)到特定誤比特率量級時,實驗結(jié)果如表5所示,可以看出,FBLTNet接收機(jī)信噪比性能與FCDNN接近,信噪比相差在0.3 dB左右。但與ComNet接收機(jī)相比,在BPSK調(diào)制方式下信噪比性能提高了1.576 dB,在QPSK調(diào)制方式下提高了4.248 dB,在16QAM調(diào)制方式下提高了1.013 dB,在64QAM調(diào)制方式下提高了0.755 dB,說明FBLTNet具有較好的信噪比性能。

表5 信噪比性能對比

圖7 多種接收機(jī)模型信噪比-誤比特率對比

3.3 導(dǎo)頻和循環(huán)前綴的影響

3.3.1 導(dǎo)頻的影響

在OFDM通信系統(tǒng)中,接收端數(shù)據(jù)的同步和相干檢測都需要預(yù)先知道收發(fā)天線之間的信道信息。為了獲得信道的頻率響應(yīng),最常用的方式是利用導(dǎo)頻輔助信道估計算法。在傳統(tǒng)估計算法中,適合的導(dǎo)頻數(shù)量能夠較為準(zhǔn)確地估計出信道頻率響應(yīng),但導(dǎo)頻過多會使得頻譜利用率降低。由于深度學(xué)習(xí)方法的數(shù)據(jù)擬合能力,可以采用較少的導(dǎo)頻來估計,從而進(jìn)一步提高頻譜利用率。本文采用64個子載波的OFDM符號,使用梳狀的導(dǎo)頻插入方式,比較了QPSK調(diào)制方式下不同導(dǎo)頻數(shù)量分別為4,8,16時的誤比特率性能。從圖8中可以看出,使用LS-MMSE算法的表現(xiàn)性能最差,且不同導(dǎo)頻數(shù)量之間的誤差大。當(dāng)信噪比高于15 dB時,LS-MMSE接收機(jī)的誤比特率曲線已經(jīng)趨于飽和,而基于深度學(xué)習(xí)方法的FBLNet接收機(jī)依然具有隨著信噪比的提高而降低誤碼率的能力。在相同量級的誤比特率下,不同導(dǎo)頻數(shù)量的接收機(jī)信噪比性能波動范圍在1 dB左右。這表明FBLNet接收機(jī)對于導(dǎo)頻數(shù)量具有魯棒性,原因在于神經(jīng)網(wǎng)絡(luò)對于數(shù)學(xué)模型的依賴性較低,能夠從模型生成的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)無線信道的特性。

圖8 導(dǎo)頻數(shù)量對不同接收機(jī)誤比特率的影響

3.3.2 循環(huán)前綴的影響

在OFDM通信系統(tǒng)中,傳統(tǒng)接收機(jī)高度依賴數(shù)學(xué)模型中的循環(huán)前綴。循環(huán)前綴是將符號末尾的信號復(fù)制符號最前面,確保每個子載波之間的正交性,一次對整數(shù)時間進(jìn)行FFT變換,避免信號之間的干擾,從而對抗多徑衰落。但這種做法讓OFDM符號長度增加,系統(tǒng)在移動情況下對頻率誤差更敏感,帶來了更大的開銷并降低信息的傳輸效率。通過舍棄循環(huán)前綴以提高頻譜利用率,從圖9中可以看到,在舍棄循環(huán)前綴后,LS-MMSE接收機(jī)表現(xiàn)敏感性最大,信噪比差異接近10 dB,而FBLNet接收機(jī)對循環(huán)前綴的使用,信噪比差異較小,最大不超過1 dB。這可解釋為傳統(tǒng)接收機(jī)方法極大依賴數(shù)學(xué)模型,舍棄循環(huán)前綴后使得子載波之間不再正交,接收端的數(shù)據(jù)對模型產(chǎn)生了較大的影響。反觀FBLNet接收機(jī),利用深度學(xué)習(xí)強(qiáng)大的數(shù)據(jù)擬合能力,且網(wǎng)絡(luò)模型中引入了注意力機(jī)制,能夠?qū)W習(xí)到符號間前后端信息的關(guān)系,說明FBLTNet接收機(jī)具有良好的抗符號間串?dāng)_的能力,也證明了在去除循環(huán)前綴的情況下深度學(xué)習(xí)方法是可行的。

圖9 循環(huán)前綴對不同接收機(jī)誤比特率的影響

4 結(jié) 論

本文以O(shè)FDM無線通信系統(tǒng)為研究對象,采用深度學(xué)習(xí)的方法,結(jié)合神經(jīng)網(wǎng)絡(luò)和專家知識,提出了一種模型驅(qū)動接收機(jī)模型FBLTNet。測試了不同調(diào)制方式的多種接收機(jī)性能,結(jié)果表明,本文提出的FBLTNet接收機(jī)提高了模型學(xué)習(xí)符號間關(guān)系的能力,不僅能夠減少模型訓(xùn)練的收斂時間,還加快了模型的測試時間;在瑞利信道中,與傳統(tǒng)接收機(jī)相比,對不同的調(diào)制方式均具有魯棒性和泛化性;與基于深度學(xué)習(xí)的數(shù)據(jù)驅(qū)動接收機(jī)相比,降低了接收機(jī)的復(fù)雜度;與基于深度學(xué)習(xí)的模型驅(qū)動接收機(jī)相比,提高了解調(diào)精度,降低了誤比特率。此外通過對比分析的得出結(jié)論,導(dǎo)頻數(shù)量的變化及循環(huán)前綴對FBLTNet接收機(jī)解調(diào)性能影響較小,在實際部署中,可以通過減少導(dǎo)頻數(shù)量和不使用循環(huán)前綴來提高信息的傳輸效率。