槐澤鵬，王洪波，龔 旻

(中國運載火箭技術(shù)研究院， 北京 100076)

2016年“人工智能”被寫入我國“十三五”規(guī)劃，2017年國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，在頂層文件驅(qū)動下，社會各行各業(yè)都在加大對人工智能的研究與投入。深度學(xué)習(xí)作為通向人工智能的途徑之一[8]，已經(jīng)在圖像識別[2，9-10]、語音識別[11-12]、文本識別[13-14]、多模態(tài)交互[15]等領(lǐng)域取得諸多成果。尤其是谷歌舉辦的ImageNet比賽：從2012年的AlexNet[3]，到2013年的ZF Net[4]，2014年的VGGNet[5]、GeogleNet[6]，再到2015年的ResNet[7]，這些對深度學(xué)習(xí)的發(fā)展具有里程碑式意義。同時，如Facebook、Microsoft、Amazon等企業(yè)開發(fā)了第三方深度學(xué)習(xí)框架以支撐相關(guān)學(xué)者的研究，如TensorFlow、MXNet，Caffe、Keras等，這些為深度學(xué)習(xí)在其他行業(yè)的普及和應(yīng)用奠定了良好基礎(chǔ)。

在國防軍工領(lǐng)域，協(xié)同作戰(zhàn)是近些年來興起的被認為具備非對稱領(lǐng)先優(yōu)勢的新作戰(zhàn)模式，世界各軍事大國都在開展相關(guān)研究和項目，如空中協(xié)同作戰(zhàn)SoSITE[20]、拒止環(huán)境協(xié)同作戰(zhàn)CODE[21]、無人機協(xié)同作戰(zhàn)“山鶉”Perdix[22]等。多飛行器協(xié)同是協(xié)同作戰(zhàn)發(fā)展的必然趨勢，當前此方向的研究主要集中于關(guān)鍵技術(shù)攻關(guān)，如任務(wù)規(guī)劃技術(shù)[17]、飛行器數(shù)據(jù)鏈技術(shù)[18]、協(xié)同路徑規(guī)劃技術(shù)[19]等，其中構(gòu)型保持對實現(xiàn)多種飛行器編隊模式具有基礎(chǔ)支撐意義[16]。因此，本文旨在將深度學(xué)習(xí)技術(shù)應(yīng)用于多飛行器構(gòu)型保持問題，以獲得性能更加良好的構(gòu)型保持算法。

1 問題描述及飛行器模型

本文旨在解決以下問題：3枚飛行器在中段飛行時在當?shù)劂U錘面內(nèi)持續(xù)保持正三角形構(gòu)型，如圖1所示。保持的構(gòu)型如圖2所示。

圖1 本文欲解決的構(gòu)型保持問題示意圖

圖2 構(gòu)型保持示意圖

評判構(gòu)型保持的效果用如下方式表示：在圖3中，藍色點是飛行器當前位置，成員中心為黑色點，在鉛錘面內(nèi)以黑色點為中心構(gòu)造正三角形，認為此三角形的3個頂點為3個飛行器的期望位置。則各飛行器實際位置與期望位置的距離認為是構(gòu)型保持的誤差。

圖3 構(gòu)型保持誤差示意圖

飛行器的動力學(xué)模型如式(1)所示：

sinψ=cosαcosβsinσ-sinαcosσsinν+

cosαsinβcosσcosν

sinφcosψ=cosαcosβsinθcosσ+

sinα(cosθcosν+sinθsinσsinν)-

cosαsinβ(-cosθsinν+sinθsinσcosν)

sinγcosψ=sinαcosβsinσ+cosαcosσsinν+

sinαsinβcosσcosν

(1)

式(1)為飛行器基本的動力學(xué)方程，由于與本文研究內(nèi)容不直接相關(guān)，所以不詳細介紹(可詳見文獻[1])。這里需要指出的是，上述動力學(xué)模型的控制指令是攻角αc和傾側(cè)角γc，控制飛行器飛行的方式是每隔固定時間間隔(如 0.5 s)給出一次指令，即通過設(shè)計這兩個量在每次數(shù)值積分時的值(數(shù)值積分的步長等于指令時間間隔)，來解決本文旨在解決的問題。

此控制指令已經(jīng)通過傳統(tǒng)優(yōu)化方法(后面簡稱“優(yōu)化法(FKCG)”)得到并且實現(xiàn)了構(gòu)型保持，其效果見圖4，但是存在一個重要缺陷：優(yōu)化法的速度慢，計算量大，在python環(huán)境下優(yōu)化一次需約2.3 s，難以滿足飛行器飛行高速高動態(tài)對指令快速在線生成的要求。因此針對這一缺陷，本文旨在設(shè)計一個深度神經(jīng)網(wǎng)絡(luò)模型以快速生成控制指令。

圖4 成功構(gòu)型保持效果的實例曲線

2 基于深度卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)型保持模型

2.1 深度神經(jīng)網(wǎng)絡(luò)模型

1) 輸入。對每枚飛行器選取17個狀態(tài)變量作為輸入，共51個變量。同時借鑒機器視覺中圖像用像素矩陣元素表示的做法，將其組合為8*8矩陣，剩余8×8-51=13個空格均置零，如圖5所示。

圖5 輸入矩陣元素

2) 輸出。輸出為3個飛行器的控制指令，即3個攻角3個傾側(cè)角。

3) 神經(jīng)網(wǎng)絡(luò)模型。設(shè)計神經(jīng)網(wǎng)絡(luò)模型時有以下5項考慮：

① 由于飛行器動力學(xué)模型為強非線性的復(fù)雜模型，因此選取神經(jīng)網(wǎng)絡(luò)的深度即層數(shù)時，不能因模型容量小而導(dǎo)致欠擬合；

② 加深網(wǎng)絡(luò)深度后，為避免層數(shù)加深反而學(xué)習(xí)效果未提升甚至衰減的現(xiàn)象，引入“殘差結(jié)構(gòu)”和“歸一化層”；

③ 采取卷積神經(jīng)網(wǎng)絡(luò)和全連接層進行特征提??；

④ 由于輸入矩陣不同于圖像矩陣中像素有連續(xù)性，因此不考慮降低敏感性及保留主要特征，這里卷積層后不連接池化層；

⑤ 輸出層采取并聯(lián)結(jié)構(gòu)，分別輸出攻角和傾側(cè)角。

最終，經(jīng)過對比試驗和綜合選擇，搭建了19層神經(jīng)網(wǎng)絡(luò)，如圖6所示。其中，conv代表卷積層，均使用3*3卷積核，步幅為1，填充為1；BatchNorm代表批量歸一化層；Activation 代表激活層，均采用Tanh函數(shù)；Dense代表全連接層；每個方塊最后面的數(shù)字代表輸出的通道數(shù)。

圖6 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)示意圖

2.2 模型訓(xùn)練

1) 訓(xùn)練方法。模型訓(xùn)練的損失函數(shù)采取誤差平方，正則化采用權(quán)重衰減懲罰項，衰減系數(shù)為0.000 1，損失函數(shù)如式(2)所示。

(2)

其中，αi和νi為神經(jīng)網(wǎng)絡(luò)輸出；αic和νic為樣本輸出。這里定義訓(xùn)練誤差為(L/6)0.5*57.3，其物理意義是角度制下6個角度的平均誤差。

模型訓(xùn)練的優(yōu)化方法采取小批量隨機梯度下降法，由于輸出為弧度制角度，數(shù)值較小，因此學(xué)習(xí)率應(yīng)設(shè)置較小以敏感微小變化，初始值為0.1。為避免學(xué)習(xí)率過大導(dǎo)致訓(xùn)練結(jié)果持續(xù)震蕩但不衰減，考慮當訓(xùn)練誤差在近20個周期內(nèi)的標準差小于某一設(shè)定值(0.002°)時，縮小學(xué)習(xí)率以使訓(xùn)練誤差能夠減??；如果近50個周期內(nèi)訓(xùn)練誤差的標準差小于某一設(shè)定值(0.002°)，認為此時模型訓(xùn)練誤差無法再繼續(xù)減小，即已到模型擬合準確程度的上限，停止訓(xùn)練。上述學(xué)習(xí)率縮減及訓(xùn)練終止條件如圖7所示。訓(xùn)練硬件采用阿里ecs.g5.large型云服務(wù)器。

圖7 訓(xùn)練終止條件框圖

2) 訓(xùn)練結(jié)果。以成功構(gòu)型保持的實例即圖4作為訓(xùn)練樣本，訓(xùn)練結(jié)果如圖8、圖9所示。

圖8 訓(xùn)練誤差曲線

圖9 學(xué)習(xí)率曲線

在圖8中，訓(xùn)練誤差持續(xù)減小，最終穩(wěn)定于0.025°附近，其物理意義是攻角或傾側(cè)角在神經(jīng)網(wǎng)絡(luò)的輸出值與樣本值僅相差約0.025°，對于這兩個角度物理量，這個量級十分小，這一結(jié)果驗證了深度神經(jīng)網(wǎng)絡(luò)模型和訓(xùn)練方法的有效性。在圖9中，可以看到學(xué)習(xí)率經(jīng)歷了3次縮減，第一次縮減帶來訓(xùn)練誤差明顯下降，但后兩次沒有，這就說明此時已經(jīng)不是由于學(xué)習(xí)率過大導(dǎo)致訓(xùn)練誤差無法減小，而是已經(jīng)到達模型擬合的能力上限，同時結(jié)合圖8也驗證了學(xué)習(xí)率縮減策略的有效性。

3 泛化誤差累積與校正

3.1 泛化誤差累積

神經(jīng)網(wǎng)絡(luò)的泛化誤差是不可避免的，并且永遠大于訓(xùn)練誤差。當這個誤差足夠小時，例如在圖像分類中我們可以認為大部分情況下圖像分類正確，只有一小部分分類錯誤。但是在飛行器運動問題中，控制指令攻角αc和傾側(cè)角γc是每隔固定時間間隔就給出一次，一段飛行軌跡一般存在上萬個這樣的間隔，所以當上萬次指令都存在泛化誤差時，盡管每次誤差的量級可能很小(10-2度)，但泛化誤差累積仍會對飛行器運動帶來明顯影響。

圖10是只使用神經(jīng)網(wǎng)絡(luò)解算控制指令得到的飛行器軌跡，可以看到此時彈道已發(fā)生整體偏移，并且此時3個飛行器的構(gòu)型保持誤差持續(xù)上升。

圖10 泛化誤差累積對飛行器軌跡的影響曲線

3.2 校正

針對泛化誤差累積對飛行器運動帶來顯著影響這一問題，考慮采取以下設(shè)計來校正累積的泛化誤差：

1) 對神經(jīng)網(wǎng)絡(luò)解算的控制指令加上一個校正量，以解決泛化誤差累積的問題；

2) 校正量的值是優(yōu)化法解算的控制指令與神經(jīng)網(wǎng)絡(luò)輸出控制指令的差值；

3) 校正量每隔n個制導(dǎo)周期重新計算1次；

4) 認為校正周期計算得的校正量能夠近似代表校正后n個周期內(nèi)神經(jīng)網(wǎng)絡(luò)與優(yōu)化法解算的差值。

最終，“智能-校正”算法如圖11所示，第4節(jié)將敘述其構(gòu)型保持效果。

圖11 “智能-校正”算法示意圖

4 仿真分析

本節(jié)針對不同的n進行仿真，當n=0時，即每個周期都校正，即為純優(yōu)化解算控制指令，其仿真結(jié)果如圖4所示；當n=∞，相當于不校正，即為純神經(jīng)網(wǎng)絡(luò)解算控制指令，其仿真結(jié)果如圖10所示。這里一個周期為0.01 s，則當n=100時即每間隔1 s進行一次校正?？梢灾庇^判斷，n越小，校正越頻繁，泛化誤差累積的影響越小，構(gòu)型保持效果越好。

這里給出n取不同值時的構(gòu)型保持誤差如表1所示，和n=50、100、130的飛行器軌跡分別如圖12～圖14所示。

表1 不同n下構(gòu)型保持誤差

圖12 n=50時的仿真曲線

圖13 n=100時的仿真曲線

圖14 n=130時的仿真曲線

從以上仿真結(jié)果可以看出：

1) “智能-校正”算法解決了泛化誤差累積的問題，仿真結(jié)果驗證了其有效性；

2) 當n≤140時，“智能-校正”算法的構(gòu)型保持誤差之和基本不變，維持在一個較小數(shù)量(均小于10 m)；

3) 當n>140后，隨著校正間隔越來越長，泛化誤差累積的影響越來愈大，構(gòu)型保持誤差持續(xù)上升，直到n=∞(不校正，純神經(jīng)網(wǎng)絡(luò))，構(gòu)型保持誤差之和為620.58m；

4) 考慮計算速度，仿真時我們采取相同的計算條件(Python語言、PyCharm平臺、MXNet框架)，神經(jīng)網(wǎng)絡(luò)輸出一次控制指令的時間約為0.38 s，而原優(yōu)化方法解算一次控制指令的時間約為2.3 s，速度提升了約6倍。這一結(jié)果實現(xiàn)了本文設(shè)計神經(jīng)網(wǎng)絡(luò)的初衷：快速生成控制指令；

可以說，基于深度神經(jīng)網(wǎng)絡(luò)的智能-校正算法兼顧了精度和速度。精度方面，通過校正消除了泛化誤差累積的影響，實現(xiàn)了較小構(gòu)型保持誤差；速度方面，原優(yōu)化方法解算一次指令需約2.3 s，而神經(jīng)網(wǎng)絡(luò)解算一次指令只需約0.23 s，速度提升了約6倍。同時給出了不同校正間隔時間與構(gòu)型保持誤差的關(guān)系，當對構(gòu)型保持誤差要求不高時，可適當增大校正間隔時間以帶來更少的計算量；反之需高精度構(gòu)型保持時，可減小校正間隔時間。

5 結(jié)論

基于卷積層、全連接層、歸一化層和殘差網(wǎng)絡(luò)設(shè)計了一個19層深度神經(jīng)網(wǎng)絡(luò)，并采用權(quán)重衰減正則項和可變學(xué)習(xí)率，成功將神經(jīng)網(wǎng)絡(luò)訓(xùn)練誤差降低至約0.025°。神經(jīng)網(wǎng)絡(luò)應(yīng)用于飛行器制導(dǎo)過程時，存在泛化誤差累積的現(xiàn)象，對此設(shè)計校正環(huán)節(jié)以避免帶來構(gòu)型保持誤差。通過飛行仿真驗證了“智能-校正”算法的快速性和有效性，給出了不同校正間隔時間與構(gòu)型保持誤差的關(guān)系。