徐建新，侯振華

（中國民航大學(xué)航空工程學(xué)院，天津 300300）

基于集成ELM模型的航空發(fā)動機性能參數(shù)預(yù)測

徐建新，侯振華

（中國民航大學(xué)航空工程學(xué)院，天津 300300）

為預(yù)測航空發(fā)動機性能參數(shù)，提出了一種動態(tài)集成極端學(xué)習(xí)機模型。采用AdaBoost.RT集成算法對極端學(xué)習(xí)機（ELM）進行集成，并針對AdaBoost.RT集成算法中固定閾值的局限性，采用自適應(yīng)動態(tài)調(diào)整閾值的方法來提高預(yù)測精度。通過比較前后兩次迭代的均方根誤差（RMSE）的大小，對閾值進行調(diào)整。最后，以排氣溫度裕度為預(yù)測參數(shù)，使用動態(tài)集成ELM模型對其進行預(yù)測，并與單一ELM模型和原始集成ELM模型進行比較。結(jié)果表明：改進模型的預(yù)測結(jié)果好于其他模型，更適合航空發(fā)動機性能參數(shù)預(yù)測。

航空發(fā)動機；性能參數(shù)；預(yù)測；AdaBoost.RT；極端學(xué)習(xí)機

航空發(fā)動機長年工作在高溫、高壓及高載荷的環(huán)境下，其性能會隨著飛行循環(huán)的累積而逐漸衰退。如果能準確掌握發(fā)動機的性能衰退規(guī)律，將會為航空公司制定科學(xué)、有效的維修方案提供極大的科學(xué)依據(jù)，這對于航空公司降低維修成本、提高市場競爭力具有重大意義。

在目前的發(fā)動機性能分析中，氣路參數(shù)分析仍是一種重要方法。盡管航空發(fā)動機具有多個性能監(jiān)測參數(shù)，但排氣溫度裕度（EGTM，exhaust gas temperature margin）是最能反映發(fā)動機運行狀態(tài)的性能參數(shù)之一。對連續(xù)航班的EGTM參數(shù)進行預(yù)測分析，有助于判斷航空發(fā)動機的后續(xù)工作性能。目前，人工神經(jīng)網(wǎng)絡(luò)（ANN，artificial neural network）由于其良好的非線性預(yù)測能力而被廣泛應(yīng)用到航空發(fā)動機性能參數(shù)的預(yù)測中[1-2]。然而，基于ANN的預(yù)測模型存在網(wǎng)絡(luò)參數(shù)難以確定、極易陷入局部最優(yōu)等問題。

為解決單一ANN建模存在的問題，文獻[3]證明可將多個次優(yōu)的弱學(xué)習(xí)機通過集成算法得到效果優(yōu)越的強學(xué)習(xí)機。其中研究最多且前景良好的集成算法有Boosting和Bagging及其衍生算法。因此，本文采用一種針對回歸問題設(shè)計的AdaBoost.RT集成算法，相對于ANN模型參數(shù)設(shè)置較松弛，該模型的預(yù)測精度明顯高于單一ANN模型[4]?？紤]到極端學(xué)習(xí)機學(xué)習(xí)速度快、泛化性能好等優(yōu)點，采用其作為弱學(xué)習(xí)機組建集成預(yù)測模型并且采用自適應(yīng)動態(tài)閾值代替Ada-Boost.RT集成算法中的固定閾值。將該方法運用到航空發(fā)動機的性能參數(shù)預(yù)測，取得了比較滿意的結(jié)果。

1 ELM算法

近年來，Huang等[5]針對單隱層前饋神經(jīng)網(wǎng)絡(luò)（SLFNs，single-hidden layer feedforward neural networks）常見算法中存在的問題提出了ELM算法。在ELM算法中，可以任意給定輸入權(quán)值和隱層神經(jīng)元的激勵閾值，并計算得到輸出權(quán)值，因此，ELM并不需要復(fù)雜冗長的迭代過程便可直接得到最優(yōu)解。

設(shè)有N個樣本（xi，ti），其中

其中：wi=[wi1，wi2，…，win]T表示連接隱層第i個神經(jīng)元與輸入層神經(jīng)元的權(quán)向量；βi=[βi1，βi2，…，βim]T表示連接隱層的i個神經(jīng)元與輸出層神經(jīng)元的權(quán)向量；oj= [oj1，oj2，…，ojm]T為SLFNs的輸出向量；bi表示隱層第i個神經(jīng)元的閾值。若此SLFNs能以0誤差逼近上述N個樣本，則可表示為，利用矩陣的形式表示為

其中

其最小范數(shù)解為

其中：H+為矩陣H的Moore-Penrose廣義逆。綜上可以看出，ELM算法只需一次矩陣計算便可使輸出權(quán)值絕對值最小，不僅節(jié)省了運算時間而且獲得了最小訓(xùn)練誤差。

2 集成ELM模型的建立

為使ELM的預(yù)測精度提高，使用AdaBoost.RT集成算法對ELM進行集成。并提出一種自適應(yīng)動態(tài)閾值的方法來克服原有算法的缺點，進一步提高了集成模型的精度。

2.1 AdaBoost.RT集成算法

AdaBoost算法是Boosting改進算法中最具代表性的一種，為了解決回歸問題，Shrestha和Solomatine[4，6]提出了基于AdaBoost算法的AdaBoost.RT集成學(xué)習(xí)算法。其中，R代表回歸（Regression），T代表閾值（Threshold）。此算法通過引入一個固定閾值φ而將回歸問題轉(zhuǎn)化為二分類問題，使之可以用AdaBoost集成算法框架進行模型建立。AdaBoost.RT算法的具體流程如下。

步驟1 對于一組N個時間序列樣本{z1，z2，…，zN}，選擇合適的嵌入維數(shù)m對其進行相空間重構(gòu)，生成n=N-m個用于模型訓(xùn)練的輸入輸出樣本，即

選取合適的最大迭代次數(shù)T和閾值φ；確定一組弱學(xué)習(xí){f1（x），f2（x），…，fp（x）}，若每次迭代只訓(xùn)練一個弱學(xué)習(xí)機，則p=T。

步驟2 設(shè)置初次迭代次數(shù)t=1；樣本的初始權(quán)值均為Dt（i）=1/n；誤差率εt=0。

步驟3 當(dāng)前迭代t≤T：

1）根據(jù)權(quán)值分布Dt對樣本進行取樣，用此樣本集訓(xùn)練弱學(xué)習(xí)機，建立回歸模：ft（x）→y，并計算每個樣本的相對誤差（ARE，absolute relative error），即

計算弱學(xué)習(xí)機ft（x）的誤差率

3）更新樣本權(quán)值Dt

其中：Zt為標準化因子。

4）設(shè)置t=t+1。

步驟4 輸出結(jié)果

AdaBoost.RT的突出特點是引入一個固定的閾值φ用來判斷預(yù)測值的正確與否。如果某個樣本的ARE大于φ，則預(yù)測結(jié)果被認為是錯誤的，反之就是正確的。而誤差率εt的計算是由正確和錯誤預(yù)測值的數(shù)量決定的，根據(jù)計算流程可知，閾值φ也將間接影響權(quán)值更新參數(shù)和下一次迭代的采樣方式。所以，Ada-Boost.RT集成算法的預(yù)測性能將在很大程度上取決于閾值φ的選取。文獻[7-8]的實驗也表明預(yù)測結(jié)果對于φ的選取非常敏感。若φ取值太小，將會很難獲得足夠的正確預(yù)測樣本；若φ取值太大，則很可能只產(chǎn)生很少一部分困難樣本，而這些困難樣本極有可能是混在樣本中的奇異值，從而對訓(xùn)練樣本產(chǎn)生過擬合。這樣不僅影響集成學(xué)習(xí)機的預(yù)測結(jié)果，而且會使算法不穩(wěn)定。

2.2 改進的AdaBoost.Rt算法

由于在AdaBoost.RT集成算法中，閾值φ的選取會對預(yù)測結(jié)果產(chǎn)生極大的波動，因此提出一種自適應(yīng)動態(tài)閾值的方法，用來改善原有算法中受參數(shù)選擇影響的局限。改進算法的設(shè)計思想是：計算每次迭代輸出的均方根誤差（這里用et表示），若當(dāng)前迭代的et大于前一次迭代的et-1，當(dāng)前閾值φ將會增大；反之則會減小。根據(jù)Solomatine[6]的研究可知，當(dāng)閾值φ在0～0.4之間時，集成學(xué)習(xí)機是穩(wěn)定的，當(dāng)閾值φ到達0.4附近時，集成學(xué)習(xí)機由于過擬合和噪音等問題開始變得不穩(wěn)定[9]。因此，在AdaBoost.RT集成算法開始時，選擇0.2為初始閾值。自適應(yīng)動態(tài)閾值的改進方法具體如下。

1）計算每一次迭代輸出的均方根誤差，即

2）當(dāng)et＜et-1時，閾值減小，相反，當(dāng)et＞et-1時，閾值增加。具體變化如下

其中：λ為RMSE的變化率，即

3 應(yīng)用案例

航空發(fā)動機有許多性能指標，其中表征發(fā)動機健康狀態(tài)最重要的性能指標是排氣溫度裕度（EGTM）[10-11]。隨著飛行時間的增加，EGTM會逐漸衰減，達到或接近手冊規(guī)定的紅線值就必須對發(fā)動機進行維修。發(fā)動機的紅線值取決于熱部件的材料和熱部件冷卻性能，而實際EGTM則與發(fā)動機核心機尺寸和氣動效率相關(guān)，隨著在翼時間的增加，發(fā)動機核心部件的氣動效率降低，從而導(dǎo)致整機性能的衰退。利用本文提出的模型對EGTM時間序列進行預(yù)測，可以監(jiān)測發(fā)動機的健康狀況。

本文采用國內(nèi)某航空公司B737-800飛機裝配的CFM56-7B發(fā)動機2年多的QAR監(jiān)控數(shù)據(jù)，對其進行解碼修正后的數(shù)據(jù)如圖1所示。

圖1 EGTM檢測值序列Fig.1 EGTM detection value sequence

從圖1可以看出發(fā)動機的衰退特征：①在發(fā)動機剛投入使用的 3 000個飛行小時里，發(fā)動機衰退較為明顯，這是因為發(fā)動機各部件處于初始磨合期；②在之后的3 000～15 000個飛行小時里，各部件磨合結(jié)束，部分部件出現(xiàn)輕微磨損，發(fā)動機進入正常衰退期；③15 000飛行小時后，發(fā)動機有些部件已有較大磨損和老化，性能衰退較快，甚至超過初始磨合期。

由于數(shù)據(jù)量過于龐大，抽取一部分作為建模樣本?？紤]到EGTM的特點，以10個飛行循環(huán)為間隔對數(shù)據(jù)源取樣，剔除粗大誤差后得到一組排氣溫度裕度數(shù)據(jù)，記作采用EGTM序列前8個數(shù)據(jù)預(yù)測第9個數(shù)據(jù)，由此構(gòu)建235個樣本，取前200個樣本作為訓(xùn)練樣本，后35個樣本作為測試樣本。

為了比較，采用單個ELM模型、基于原始Ada-Boost.RT算法的集成ELM模型和基于自適應(yīng)閾值A(chǔ)daBoost.RT算法的集成ELM模型分別預(yù)測。為了方便起見，將上述模型分別記為SELM、OBoost和DBoost。其中對于SELM模型，經(jīng)過試探確定節(jié)點結(jié)構(gòu)為8-23-1。OBoost模型和DBoost模型迭代次數(shù)T經(jīng)試驗確定為10，閾值設(shè)為0.2，弱學(xué)習(xí)機ELM的參數(shù)設(shè)置與SLEM相同。

3種模型對EGTM的預(yù)測結(jié)果分別如圖2～圖4所示，預(yù)測誤差如表1所示。

圖2 SELM模型預(yù)測結(jié)果Fig.2 SLEM model prediction results

圖3 OBoost模型預(yù)測結(jié)果Fig.3 OBoost model prediction results

圖4 DBoost模型預(yù)測結(jié)果Fig.4 DBoost model prediction results

表1 不同模型的預(yù)測誤差Tab.1 Prediction error of different models

從上述圖表可以看出，在對EGTM時間序列的預(yù)測上，兩種ELM集成模型的預(yù)測結(jié)果要優(yōu)于單一ELM模型，說明集成算法具有良好的預(yù)測性能。對于兩種集成模型OBoost和DBoost，除了最大相對誤差稍微大點，DBoost模型的其余誤差都要明顯低于OBoost模型。綜上所述，本文采用的動態(tài)閾值A(chǔ)da-Boost.RT算法對于集成模型的預(yù)測結(jié)果有顯著提高。進而也可以認為，本文提出的模型更適合發(fā)動機機性能參數(shù)的預(yù)測。

4 結(jié)語

提出一種以AdaBoost.Rt算法為集成框架的ELM模型，并以此模型對航空發(fā)動機性能參數(shù)進行預(yù)測。考慮到閾值選取對預(yù)測結(jié)果的影響，本文采用自適應(yīng)動態(tài)閾值的方法來克服原始集成算法的局限性。另一方面，ELM比其他傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更加簡單且學(xué)習(xí)速度更快，因此，以ELM作為弱學(xué)習(xí)機來構(gòu)建集成模型。

在對航空發(fā)動機性能參數(shù)進行預(yù)測時，集成ELM模型的預(yù)測精度要比單一ELM模型的預(yù)測精度高，且本文采用的改進集成ELM模型相對于原始集成ELM模型具有更好的預(yù)測結(jié)果。同時，本文所提模型也可用于燃油流量、振動信號等發(fā)動機性能參數(shù)的預(yù)測。

[1]丁 剛,徐敏強,侯立國.基于過程神經(jīng)網(wǎng)絡(luò)的航空發(fā)動機排氣溫度預(yù)測[J].航空動力學(xué)報,2009,24(5):1035-1039.

[2]劉永建,朱劍英,曾 捷.改進BP神經(jīng)網(wǎng)絡(luò)在發(fā)動機性能趨勢分析和故障診斷中的應(yīng)用[J].南京理工大學(xué)學(xué)報,2010,34(1):24-29.

[3]SCHAPIRE R E.The strength of weak learnability[J].Machine Learning,1990,5(2):197-227.

[4]SOLOMATINE D P,SHRESTHA D L.AdaBoost.RT:A Boosting Algorithm for Regression Problems[C]//IEEE International Joint Conference on Neural Networks.IEEE,2004,2:1163-1168.

[5]HUANG G B,ZHU Q Y,SIEW C K.Extreme learning machine:Theory and applications[J].Neurocomputing,2006,70(1-3):489-501.

[6]SHRESTHA D L,SOLOMATINE D P.Experiments with AdaBoost.RT, an improved boosting scheme for regression[J].Neural Computation, 2006,18(7):1678-1710.

[7]LIU S,XU J,ZHAO J,et al.Efficiency enhancement of a process-based rainfall-runoff model using a new modified AdaBoost.RT technique[J].Applied Soft Computing,2014,23(5):521-529.

[8]查 翔,倪世宏,張 鵬.關(guān)于AdaBoost.RT集成算法時間序列預(yù)測研究[J].計算機仿真,2015,32(9):391-394.

[9]TIAN H X,MAO Z Z.An ensemble ELM based on modified AdaBoost.RT algorithm for predicting the temperature of molten steel in ladle rurnace[J].IEEE Transactions on Automation Science&Engineering, 2010,7(1):73-80.

[10]周茂軍.考慮性能衰退的航空發(fā)動機總體性能裕度設(shè)計研究[J].航空動力學(xué)報,2008,23(10):1868-1874.

[11]呂永樂,郎榮玲,路 輝,等.航空發(fā)動機性能參數(shù)聯(lián)合RBFPN和FAR預(yù)測[J].北京航空航天大學(xué)學(xué)報,2010,36(2):131-134.

（責(zé)任編輯：劉佩佩）

Aircraft engine performance parameter prediction based on ensemble ELM model

XU Jianxin,HOU Zhenhua
（College of Aeronautical Engineering,CAUC,Tianjin 300300,China）

In order to predict performance parameters of aircraft engine accurately,a dynamic ensemble extreme learning machine（ELM）model is proposed.Ada Boost.RT algorithm is used to integrate ELM to construct the ensemble model.Aiming at the limitation of static threshold in original AdaBoost.RT algorithm,a self-adaptive and dynamic adjusting method is used to improve the forecasting precision.A given method makes adjustments to the threshold by comparing RMSE of two neighboring iterations.Finally,compared with single ELM model and original ensemble ELM model,dynamic ensemble ELM model is used to predict EGTM.Results show that the improved model is better than other models for the performance parameters prediction of aircraft engine.

aircraft engine;performance parameters;prediction;AdaBoost.RT;extreme learning machine

V235.13

A

1674－5590（2017）02－0020－04

2016-10-21；

2016-12-22

徐建新（1967—），男，江蘇蘇州人，教授，博士，研究方向為復(fù)合材料結(jié)構(gòu)力學(xué).