劉斌 任歡 李立欣

【摘? 要】毫米波大規(guī)模多輸入多輸出技術(shù)是提高5G移動通信容量的核心技術(shù)之一，其中混合預(yù)編碼技術(shù)作為大規(guī)模MIMO系統(tǒng)中最關(guān)鍵的技術(shù)而被廣泛研究。采用傳統(tǒng)的迭代算法解決混合預(yù)編碼問題通常導(dǎo)致較高的計算復(fù)雜度和嚴重的系統(tǒng)性能損失。機器學(xué)習方法由于其具有自適應(yīng)學(xué)習和決策的優(yōu)勢而被應(yīng)用于混合預(yù)編碼器的設(shè)計工作中。在機器學(xué)習的基礎(chǔ)理論上提出了一種采用交叉熵優(yōu)化策略的混合預(yù)編碼算法，通過迭代更新具有穩(wěn)健誤差的交叉熵損失函數(shù)得到最佳的混合預(yù)編碼器組合，該組合被證明可以實現(xiàn)理想的傳輸總和速率，可以顯著提高系統(tǒng)的能量效率。

【關(guān)鍵詞】機器學(xué)習;交叉熵;混合預(yù)編碼;大規(guī)模MIMO

doi：10.3969/j.issn.1006-1010.2019.08.002? ? ? 中圖分類號：TN929.5

文獻標志碼：A? ? ? 文章編號：1006-1010（2019）08-0008-06

引用格式：劉斌，任歡，李立欣. 基于機器學(xué)習的毫米波大規(guī)模MIMO混合預(yù)編碼技術(shù)[J]. 移動通信， 2019，43（8）： 8-13.

Millimeter wave （mmWave） massive multi-input and multi-output （MIMO） is one of the key technologies to improve the capacity of 5G mobile communications， where hybrid precoding has been widely studied as the most critical problem in massive MIMO systems. The traditional iterative algorithms for hybrid precoding problems usually lead to high computational complexity and severe system performance loss. Machine learning is adopted in the design of hybrid precoders due to its advantages of adaptive learning and decision making. Based on the fundamental theory of machine learning， a hybrid precoding algorithm using cross-entropy optimization strategy is proposed. By iteratively updating the cross-entropy loss function with robust error， the optimal hybrid precoder combination is obtained. The combination has been shown to achieve an ideal transmission sum rate and significantly increase the energy efficiency of the system.

machine learning; cross-entropy; hybrid precoding;? massive MIMO

1? ?引言

大規(guī)模多輸入多輸出（MIMO）通信技術(shù)將在第五代移動通信系統(tǒng)中得到廣泛的應(yīng)用，MIMO天線的數(shù)量可以是成千上百個，理論上可以實現(xiàn)無限的通信容量。與此同時，該技術(shù)的實現(xiàn)需要理想的低功耗射頻組件，并要求所有的復(fù)雜處理運算在基站處進行，例如信道估計、預(yù)編碼和權(quán)值計算等。具體而言，基站作為發(fā)射端通常包含預(yù)編碼器，該編碼器能夠進行復(fù)雜的混合預(yù)編碼，利用信道狀態(tài)信息（Channel State Information， CSI）生成預(yù)編碼矩陣，也就是對發(fā)射信號進行預(yù)處理操作。因此，高效而準確地建模并求解傳統(tǒng)的混合預(yù)編碼問題受到了業(yè)界的廣泛關(guān)注。

機器學(xué)習作為自適應(yīng)學(xué)習和決策的人工智能工具之一，已經(jīng)在圖像/音頻處理、社會行為分析和項目管理等方面得到廣泛應(yīng)用[1]。近年來，機器學(xué)習與無線移動通信領(lǐng)域的結(jié)合不僅僅停留在理論的研究階段，高速和強大計算能力的硬件技術(shù)的出現(xiàn)，使得機器學(xué)習理論已經(jīng)成為現(xiàn)實。智能基站和移動終端可以模仿人類的復(fù)雜學(xué)習和決策能力，對耗時和計算密集的多樣化問題迅速做出最優(yōu)決策。通過對毫米波大規(guī)模MIMO系統(tǒng)中的混合預(yù)編碼問題進行嚴格建模，可以采用機器學(xué)習的方法訓(xùn)練出最優(yōu)的預(yù)編碼矩陣。在機器學(xué)習領(lǐng)域中的交叉熵[2]方法被應(yīng)用于解決組合優(yōu)化問題，這啟發(fā)了將其應(yīng)用于毫米波大規(guī)模MIMO系統(tǒng)中的復(fù)雜混合預(yù)編碼方法的研究。

交叉熵方法來源于Kulback-Leibler距離，最早是在1997年由Rubinstein在估計隨機網(wǎng)絡(luò)稀有事件概率的自適應(yīng)方法最小化算法中提出的。交叉熵理論是一種測量兩個隨機向量之間信息差異的計算方法，本質(zhì)上是一種基于數(shù)學(xué)統(tǒng)計的全局隨機優(yōu)化算法。到目前為止，交叉熵方法已經(jīng)被成功應(yīng)用于建模為組合優(yōu)化的各種問題中，包括緩沖區(qū)分配、電信系統(tǒng)的排隊模型、神經(jīng)計算、控制和導(dǎo)航、DNA序列比對、信號處理、調(diào)度、車輛路線、項目管理和可靠性系統(tǒng)[3]等。

本文在機器學(xué)習的基礎(chǔ)理論上提出了一種采用交叉熵優(yōu)化策略的混合預(yù)編碼算法，通過迭代更新具有穩(wěn)健誤差的交叉熵損失函數(shù)得到最佳的混合預(yù)編碼器組合，可以實現(xiàn)理想的傳輸總和速率，顯著提高系統(tǒng)的能量效率。

2? ?研究背景

2.1? 混合預(yù)編碼

模數(shù)混合預(yù)編碼是一項目前為止用于毫米波大規(guī)模MIMO系統(tǒng)中最有前景的混合預(yù)編碼技術(shù)，旨在設(shè)計出低維的數(shù)字預(yù)編碼器和高維的模擬預(yù)編碼器，從而實現(xiàn)高效節(jié)能的混合預(yù)編碼?；旌项A(yù)編碼技術(shù)通過在數(shù)字預(yù)編碼部分使用少量的射頻鏈，在模擬預(yù)編碼部分設(shè)計低成本的模擬電路從而實現(xiàn)接近全數(shù)字預(yù)編碼的最優(yōu)系統(tǒng)性能。

傳統(tǒng)的混合預(yù)編碼器中，模擬預(yù)編碼部分可以使用移相器網(wǎng)絡(luò)[6]（如圖1所示）或者開關(guān)選擇網(wǎng)絡(luò)[7]（如圖2所示），但是這兩種方案分別在系統(tǒng)成本和性能上存在明顯的缺陷。在大多數(shù)現(xiàn)有的文獻中，移相器的能量消耗被證明是相對較高的（例如，4位移相器的能耗高達40 mW），而開關(guān)的能量消耗是很理想的（開關(guān)的能耗低至5 mW），但是圖2所示的體系結(jié)構(gòu)不能完全實現(xiàn)毫米波大規(guī)模MIMO陣列增益，導(dǎo)致了嚴重的系統(tǒng)性能損失?，F(xiàn)如今，已有在無人機毫米波大規(guī)模MIMO場景中采用基于透鏡陣列天線的混合預(yù)編碼方案的研究[8]，由此啟發(fā)本文采用一種折中的混合預(yù)編碼體系結(jié)構(gòu)，模擬預(yù)編碼部分由開關(guān)和反相器實現(xiàn)（圖3所示）。事實證明，該體系結(jié)構(gòu)的能量消耗遠遠低于移相器網(wǎng)絡(luò)，同時，隨著大規(guī)模MIMO中所有天線被使用，該體系結(jié)構(gòu)還可以實現(xiàn)毫米波大規(guī)模MIMO陣列增益。

2.2? 組合優(yōu)化問題建模

交叉熵方法可以解決一般性的組合優(yōu)化問題，其主要思想是通過構(gòu)造隨機序列，使其以一定的概率收斂到最優(yōu)或次優(yōu)的結(jié)果。設(shè)χ是一組有限的狀態(tài)，S是χ上的實值性函數(shù)，實值函數(shù)S（x）的定義域為{x|x∈χ}，若S（x）的最大值為γ*，則要使得下式取得最大值，本質(zhì)在于尋找其對應(yīng)的最佳狀態(tài)，如公式（1）和（2）所示：

S（x*） γ*=S（x） ? ?（1）

其中，x*表示最佳的狀態(tài)，在集合χ中尋找最佳的狀態(tài)最大化實值函數(shù)S（x）。

首先，定義指示函數(shù)I{S（χi）}和參考概率密度函數(shù)族{f（.;v），v∈V}，對于給定的實數(shù)γ，得到下面的關(guān)聯(lián)估計表達式為：

其中，Pu是隨機狀態(tài)X 具有概率密度函數(shù){f（.;v），v∈V}的概率度量，Eu表示相對應(yīng)的期望算子，u 是某已知初始化概率分布的參數(shù)。如公式（2）所示，實值函數(shù)的最小化問題就轉(zhuǎn)化為隨機優(yōu)化問題。

實際中應(yīng)用交叉熵方法的應(yīng)用主要有兩個關(guān)鍵階段：第一是根據(jù)一定的隨機性或概率分布構(gòu)造一個隨機序列樣本;第二是更新概率分布的參數(shù)，從而在下一輪迭代計算中產(chǎn)生更優(yōu)的隨機序列樣本。

2.3? 交叉熵方法

交叉熵量化信息量之間的“距離”——Kullback-leible距離[9]，描述了兩個概率分布之間的差異。當兩個模型的概率分布保持一致時，交叉熵值更小，并且這兩個模型之間的接近程度更大。更直觀地講，交叉熵的表達式為：

D（g，h）=Egln=∫g（x）lnh（x）-∫h（x）lng（x）

∫g（x）dx=1? （5）

∫h（x）dx=1? ? ? ? ? ? ? ? （6）

交叉熵方法解決了四個基本特征的問題：首先，根據(jù)優(yōu)化目標建立概率密度函數(shù)，形成交叉熵目標函數(shù);其次，根據(jù)概率分布函數(shù)生成樣本集，并且參考目標函數(shù)的影響更新概率密度函數(shù);然后，新概率分布函數(shù)用于生成一組新的樣本，迭代重復(fù)目標函數(shù);最后，當目標函數(shù)達到最優(yōu)時，概率密度功能也達到了最佳解決方案。

交叉熵算法具有全局優(yōu)化。它根據(jù)參數(shù)的概率分布密度函數(shù)生成樣本解，在已經(jīng)搭建好的組合優(yōu)化問題模型中，概率分布和參數(shù)的形式?jīng)Q定了樣本解決方案的整體質(zhì)量。與其他智能算法相比，它避免了陷入局部最優(yōu)和計算速度太慢的缺點。在優(yōu)化過程中，交叉熵算法不要求每個生成的解決方案都優(yōu)于樣本解決方案的先前迭代的解決方案，但是在整個迭代過程中，預(yù)測結(jié)果往往越來越靠近理想中的標簽樣本。

3? ?基于機器學(xué)習的交叉熵混合預(yù)編碼算法

3.1? 混合預(yù)編碼優(yōu)化問題建模

本文采用如圖3所示的基于開關(guān)和反相器的混合預(yù)編碼架構(gòu)，優(yōu)化目標是設(shè)計出模擬波束形成器和數(shù)字預(yù)編碼器的最優(yōu)組合，使得系統(tǒng)可實現(xiàn)的總和速率達到最大，該優(yōu)化問題可以表示為：

其中，表示滿足由于圖3的混合預(yù)編碼體系結(jié)構(gòu)帶來的約束的所有模擬預(yù)編碼器的集合，||FRFFBB||2F=ρ表示功率約束，η n 表示用戶n 接收到的信干噪比。

在圖3所示的體系結(jié)構(gòu)中，每根射頻鏈通過反相器和開關(guān)選擇網(wǎng)絡(luò)連接到天線子集，該連接方式導(dǎo)致模擬預(yù)編碼矩陣成為塊對角矩陣，如公式（8）所示。同時，由于反相器和開關(guān)被使用，模擬預(yù)編碼矩陣中的元素取值有限，如公式（9）所示：

其中，表示第n個天線陣列上的模擬波束形成器。

第n個用戶接受到的SINR可以表示為：

其中，hnFRF fBBnFHRFhHn表示用戶n接收到的有用信號功率，hnFRF fBBiFHRFhHn表示用戶n接收到的來自其他用戶的干擾功率，σ2表示噪聲功率。

因為公式（8）和（9）的存在，問題（7）成為一個模擬預(yù)編碼矩陣FRF和數(shù)字預(yù)編碼矩陣FBB的組合優(yōu)化問題，本文要采用交叉熵方法得到最優(yōu)的預(yù)編碼矩陣組合，從而實現(xiàn)最大的系統(tǒng)總和速率。

3.2? 具有穩(wěn)健誤差的交叉熵混合預(yù)編碼算法

將交叉熵方法應(yīng)用于上述組合優(yōu)化問題，本文對傳統(tǒng)的交叉熵方法加以改進，提出一種具有穩(wěn)健誤差的交叉熵混合預(yù)編碼算法，與傳統(tǒng)交叉熵方法類似，主要關(guān)注兩個關(guān)鍵問題：第一：根據(jù)一定的隨機性或概率分布構(gòu)造一個隨機序列樣本;第二：更新概率分布的參數(shù)，從而在下一輪迭代計算中產(chǎn)生更優(yōu)的隨機序列樣本。

本文所提出的具有穩(wěn)健誤差的高效節(jié)能混合預(yù)編碼方案，步驟詳細解釋如下：

在算法具體實施之前，必要的準備工作有：將FRF中對角線的非零元素表示為N×1向量組，其中表示FRF矩陣中對角線的非零元素。FRF中元素的分布概率參數(shù)表示為N×1向量組u=[u1，u2，…，uN]T，其中un表示fn=的概率，fn是 f的第n個元素。

（1）對算法中的變量進行初始化，對于概率分布初始化u（0）=×1N×1，給迭代次數(shù)i賦初值i=0。

（2）基于概率模型（FRF;u（i））隨機生成S個模擬波束形成器{FsRF}sS=1，其中概率模型即模擬預(yù)編碼矩陣中元素的取值{-1，+1}的概率分布容易得到，該取值遵循伯努利概率分布。

（3）通過經(jīng)典迫零數(shù)字預(yù)編碼方法計算數(shù)字預(yù)編碼矩陣{FsBB}sS=1，根據(jù)有效信道矩陣和模擬預(yù)編碼矩陣之間的關(guān)系表達式Heq=HFRF，計算出有效信道矩陣Hseq，基帶預(yù)處理之后的數(shù)字預(yù)編碼矩陣可以表示為：

FsBB=（Hseq）H（Hseq（Hseq）H）-1? ? ? ? （11）

對數(shù)字預(yù)編碼矩陣FBB的每一列進行功率歸一化處理，即||FsRFFsBB||2F=1，確定生成最終的數(shù)字預(yù)編碼矩陣FBB。

（4）計算經(jīng)過迭代更新的預(yù)編碼矩陣所實現(xiàn)的系統(tǒng)總和速率{R（FsRF）}Ss=1（由公式（7）和公式（10）計算可得），并且根據(jù)計算所得的總和速率對其排序R（F[1]? ?RF）≥

R（F[2]? RF）≥…≥R（F[s]RF）。

（5）計算FsRF的權(quán)重，通過公式（12）估計每個模擬預(yù)編碼矩陣中元素的權(quán)重：

（6）更新FRF中元素的概率分布，也是交叉熵方法中最為關(guān)鍵的一步。

參考相對誤差估計公式得到更新概率分布元素的公式（13）：

最后，重復(fù)上述步驟，直到達到最大的迭代次數(shù)I，最終，模擬波束形成器FRF[1]將由接近最優(yōu)概率分布的元素構(gòu)成，從而得到數(shù)字預(yù)編碼矩陣FBB[1]。

該程序中γ為可變參數(shù)，當γ>0時，γ為控制魯棒程度的參數(shù);當γ=0時，對應(yīng)目標函數(shù)為負對數(shù)似然函數(shù)，并且隨著γ增加，程序?qū)τ诋惓Ｖ档聂敯舫潭仍鰪?。在實際中，可以通過基于γ-交叉熵的交叉驗證來選擇γ的值。該程序?qū)Ξ惓Ｖ稻哂恤敯粜?，該程序基于?交叉熵函數(shù)，已有仿真結(jié)果表明，該程序在預(yù)測精度方面比普通相對誤差估計程序更加精確。

4? ?仿真結(jié)果

4.1? 信道模型

本文采用幾何信道模型獲取毫米波MIMO信道的特征，信道矩陣如公式（22）所示：

4.2? 仿真結(jié)果

這一部分提供了算法的仿真結(jié)果，如圖4和圖5所示。信道帶寬設(shè)置為1 MHz;射頻鏈的數(shù)量和數(shù)據(jù)流的數(shù)量是相等的，即NS=NRF=4;基站和射頻鏈同時服務(wù)的單天線用戶數(shù)為K=4;接收端的天線數(shù)目設(shè)置為N=64。信道矩陣中具體的參數(shù)設(shè)置如下：損失路徑數(shù)目L=3，路徑增益遵循標準正態(tài)分布αln～CN（0，1），方位角和到達角遵循均勻分布φnl ～U（0，2π）和θnl ～U（0，2π）（1≤l≤L）。實驗設(shè)置參數(shù)如下：S=250，I=20。另外，在本文中，根據(jù)現(xiàn)有方法[10]的模擬結(jié)果，取γ值為0.5。

本文分別比較了全數(shù)字預(yù)編碼方案、兩階段混合預(yù)編碼方案、天線選擇混合預(yù)編碼方案以及本文所改進的具有穩(wěn)健誤差的混合預(yù)編碼方案所能實現(xiàn)的系統(tǒng)總和速率和能量效率。

實驗比較了不同算法所能實現(xiàn)的系統(tǒng)總和速率，結(jié)果如圖4所示。在圖4中，全數(shù)字預(yù)編碼和兩階段預(yù)編碼算法獲得了良好的總和速率性能，天線選擇預(yù)編碼的總和速率性能最差，這是因為開關(guān)選擇網(wǎng)絡(luò)無法實現(xiàn)毫米波大規(guī)模MIMO系統(tǒng)潛在的陣列增益。而本文所提的具有穩(wěn)健誤差的交叉熵混合預(yù)編碼可以達到遠遠高于天線選擇預(yù)編碼所能達到的系統(tǒng)總和速率。

另外，實驗對比了系統(tǒng)的能耗隨著用戶數(shù)量（1～16）變化的性能，結(jié)果如圖5所示。在圖5中，隨著用戶數(shù)量的增加，兩階段混合預(yù)編碼和本文所提的具有穩(wěn)健誤差的交叉熵混合預(yù)編碼可以獲得比其他兩種預(yù)編碼方案更高的能量效率。這是因為在前兩種方案中低能耗的開關(guān)和其他少量耗能元件（反相器和移相器等）被使用，而在天線選擇混合預(yù)編碼中，僅由開關(guān)實現(xiàn)模擬預(yù)編碼，導(dǎo)致系統(tǒng)的總和速率很低（如圖4所示），從而無法實現(xiàn)理想的能量效率。而全數(shù)字預(yù)編碼中復(fù)雜的移相器存在巨大的能量消耗，所以該方案下系統(tǒng)的能量效率是不理想的，在實際中，不建議采用此方案。

綜合上述的實驗結(jié)果，本文所提出的具有穩(wěn)健誤差的混合預(yù)編碼算法可以取得預(yù)期的系統(tǒng)總和速率和理想的能量效率，驗證了基于開關(guān)和反相器的混合預(yù)編碼體系結(jié)構(gòu)和本文所提算法的有效性。

5? ?結(jié)束語

本文提出了一種應(yīng)用機器學(xué)習方法解決實際中毫米波大規(guī)模MIMO中的混合預(yù)編碼器設(shè)計問題的方案，具體闡述了機器學(xué)習中交叉熵方法的應(yīng)用原理和關(guān)鍵步驟，并將此方法應(yīng)用于毫米波大規(guī)模MIMO場景中，解決可以構(gòu)建為組合優(yōu)化問題的混合預(yù)編碼器設(shè)計問題，并通過實驗解釋驗證了該方法的高效性和可行性。未來機器學(xué)習與無線通信結(jié)合的理論研究將是人工智能時代的重點，本文旨在為今后的研究工作提供思路和參考。

參考文獻：

[1] M J Er， Y Zhou. Theory and Novel Applications of Machine Learning[M]. InTech， 2009.

[2] R Y Rubinstein， D P Kroese. The Cross-Entropy Method： A Unified Approach to Combinatorial Optimization， Monte-Carlo Simulation， and Machine Learning[J]. Technometrics， 2006，48（1）： 147-148.

[3] X Huang， W Xu， G Xie， et al. Learning Oriented Cross-Entropy Approach to User Association in Load-Balanced HetNet[J]. IEEE Wireless Communications Letters， 2018，7（6）： 1014-1017.

[4] G Alon， D P Kroese， T Raviv， et al. Application of the Cross-Entropy Method to the Buffer Allocation Problem in a Simulation-Based Environment[J]. Annals of Operations Research， 2005（1）： 137-151.

[5] H Xie， F Gao， S Jin. An Overview of Low-Rank Channel Estimation for Massive MIMO Systems[J]. IEEE Access， 2016（4）： 7313-7321.

[6] A Alkhateeb， Y H Nam， J Zhang， et al. Massive MIMO Combining with Switches[J]. IEEE Wireless Communications Letters， 2016，5（3）： 232-235.

[7] J Gu， W L Liu， S J Jang， et al. Cross-Entropy Based Spectrum Sensing[C]//2010 IEEE International Conference on Communication Technology， 2010： 373-376.

[8] H Ren， L Li， W Xu， et al. Machine Learning-Based Hybrid Precoding with Robust Error for UAV mmWave Massive MIMO[C]//2019 IEEE International Conference on Communications （ICC）. Shanghai， China， 2019： 1-6.

[9] S Buzzi， C D Andrea. Doubly Massive mmWave MIMO Systems： Using Very Large Antenna Arrays at Both Transmitter and Receiver[C]//2016 IEEE Global Communications Conference （GLOBECOM）. 2016： 1-6.

[10] K Hirose， H Hirose. Robust Relative Error Estimation[J]. Entropy， 2018，20（9）.★