鄭建飛, 牟含笑, 胡昌華, 趙瑞星, 張博瑋
(1.火箭軍工程大學(xué) 導(dǎo)彈工程學(xué)院,陜西 西安 710025; 2.火箭軍裝備部駐西安地區(qū)第三軍事代表室,陜西 西安 710100)
隨著工業(yè)設(shè)備自動(dòng)化、集成化、精密化水平的不斷提升,設(shè)備運(yùn)行過程中監(jiān)測獲得的數(shù)據(jù)規(guī)模不斷增大,數(shù)據(jù)結(jié)構(gòu)也日益復(fù)雜[1]。多元退化設(shè)備往往由多個(gè)部件組成,其不同的性能指標(biāo)表征的設(shè)備退化過程間往往具有相關(guān)關(guān)系[2]。預(yù)測與健康管理(prognostics and health management, PHM)技術(shù)通過分析設(shè)備的性能監(jiān)測數(shù)據(jù),預(yù)測其剩余壽命(remaining useful life, RUL),并據(jù)此開展科學(xué)合理的維修替換活動(dòng),從而有效降低設(shè)備的失效風(fēng)險(xiǎn)和維修成本[3-4]。
在工程實(shí)際中,監(jiān)測獲得的原始數(shù)據(jù)往往存在大量不相關(guān)或冗余信息,如果直接用來預(yù)測RUL可能會(huì)影響預(yù)測精度。在監(jiān)測信息的表征方面,信息熵可以描述各性能指標(biāo)包含信息量的多少,互信息能夠衡量各性能指標(biāo)與設(shè)備RUL之間的相關(guān)程度,已經(jīng)廣泛應(yīng)用與RUL預(yù)測的特征篩選階段。
近年來,針對(duì)多元退化設(shè)備的多元退化建模以及數(shù)據(jù)融合領(lǐng)域研究逐年增多。多元退化建模相關(guān)研究大多假設(shè)多個(gè)性能退化過程服從同一分布,對(duì)于2個(gè)性能指標(biāo)以上的退化設(shè)備,往往需要采用多維分布對(duì)退化過程進(jìn)行建模,模型推導(dǎo)和參數(shù)更新難度較大[5-6]。多維監(jiān)測數(shù)據(jù)融合研究大多只是對(duì)多個(gè)性能指標(biāo)進(jìn)行了簡單的線性組合,提取的特征不能充分反映多性能指標(biāo)間的復(fù)雜耦合關(guān)系,進(jìn)而難以準(zhǔn)確描述設(shè)備的退化演進(jìn)規(guī)律[7-9]。
Copula函數(shù)是一種研究相依性測度的方法,能夠較好地描述二元隨機(jī)變量的非線性相關(guān)關(guān)系,并且已經(jīng)廣泛應(yīng)用于氣象[10-11]、水文[12-13]、電力[14-15]等領(lǐng)域的研究。在多元退化設(shè)備的可靠性分析以及RUL預(yù)測等領(lǐng)域,也有不少學(xué)者基于Copula理論開展了相關(guān)研究。張建勛等[16]對(duì)不同的退化變量建立了不同的退化過程,并通過Copula函數(shù)對(duì)RUL邊緣分布進(jìn)行擬合,得到了陀螺儀RUL的聯(lián)合分布函數(shù)。Xu等[17]基于Vine Copula提出了一種多元退化建模方法,相較于忽略退化變量耦合關(guān)系的退化模型,可靠性評(píng)估的準(zhǔn)確性有了明顯提升。然而此類方法都是先對(duì)單一性能指標(biāo)建立退化模型進(jìn)行RUL預(yù)測或可靠性評(píng)估,再利用Copula函數(shù)對(duì)預(yù)測評(píng)估結(jié)果進(jìn)行融合,不能充分利用原始多維監(jiān)測數(shù)據(jù)中隱藏的設(shè)備健康狀態(tài)變化信息。
雙向長短期記憶(bidirectional long short-term memory, BiLSTM)網(wǎng)絡(luò)具有強(qiáng)大的時(shí)序信息處理能力,逐漸成為設(shè)備RUL預(yù)測中的熱門方法[18-19]。BiLSTM網(wǎng)絡(luò)由前向LSTM和后向LSTM網(wǎng)絡(luò)組成,能有效挖掘時(shí)序數(shù)據(jù)的前后依賴關(guān)系。然而在設(shè)備RUL預(yù)測問題中,不同時(shí)刻的時(shí)序信息重要度可能不同,對(duì)最終預(yù)測結(jié)果的影響程度也不同。BiLSTM網(wǎng)絡(luò)在進(jìn)行時(shí)間序列預(yù)測時(shí),通常只使用最后一個(gè)時(shí)間步的隱藏狀態(tài),隨著輸入序列長度的增加,可能造成對(duì)有效信息的忽視和丟失。注意力(Attention)機(jī)制模擬人類視覺,將注意力集中在重要的信息部分并忽略一些無關(guān)信息,因此能更好地聚焦于對(duì)模型輸出更為重要的信息[20-21]。將注意力機(jī)制引入BiLSTM網(wǎng)絡(luò),能深入挖掘輸入數(shù)據(jù)的時(shí)序關(guān)聯(lián)信息,并在不同時(shí)刻根據(jù)對(duì)RUL的重要程度為所有隱藏狀態(tài)分配不同權(quán)重,進(jìn)一步增強(qiáng)網(wǎng)絡(luò)捕獲遠(yuǎn)程依賴信息的能力,從而提升預(yù)測模型的效率和預(yù)測結(jié)果的準(zhǔn)確性[22]。
綜上分析,本文研究了一種考慮多性能指標(biāo)相關(guān)性的多元退化設(shè)備剩余壽命預(yù)測方法。首先,基于信息熵和互信息進(jìn)行特征選擇,篩選出信息量豐富且能有效表征設(shè)備RUL變化的性能指標(biāo);然后,基于數(shù)據(jù)融合的思想,通過Copula函數(shù)構(gòu)造考慮多性能指標(biāo)相關(guān)性的健康指標(biāo);最后,將構(gòu)造的健康指標(biāo)輸入到構(gòu)建的Attention-BiLSTM網(wǎng)絡(luò),從前向和后向2個(gè)方向捕獲健康指標(biāo)中隱含的設(shè)備退化特征,并通過Attention機(jī)制自動(dòng)調(diào)節(jié)不同時(shí)刻隱藏狀態(tài)的權(quán)重,優(yōu)化預(yù)測網(wǎng)絡(luò)。相較于現(xiàn)有基于深度學(xué)習(xí)的多元退化設(shè)備RUL預(yù)測研究往往忽略多性能指標(biāo)耦合關(guān)系的問題,所提方法考慮了多個(gè)性能指標(biāo)之間的相關(guān)性,能更準(zhǔn)確地描述多元退化設(shè)備的退化規(guī)律。
首先基于信息理論,從監(jiān)測數(shù)據(jù)所含信息量以及與設(shè)備RUL變化相關(guān)程度的角度進(jìn)行特征選擇。
信息熵采用數(shù)值形式衡量隨機(jī)變量取值的不確定性,信息熵越大,描述該變量所需的信息越多,具體形式為[15,23]:
(1)
式中:X為隨機(jī)變量;p(x)表示變量X取值為x的概率,可以通過核密度估計(jì)方法得到:
(2)
式中:n為樣本個(gè)數(shù);h為窗口寬度;K(·)表示核函數(shù),本文選擇高斯核函數(shù),計(jì)算公式為:
(3)
(4)
式中:d為變量X的維數(shù),對(duì)于一維隨機(jī)變量取d=1。
互信息是2個(gè)變量相互依賴關(guān)系的一種度量,可以看成是一個(gè)隨機(jī)變量中包含的關(guān)于另一個(gè)隨機(jī)變量的信息量[24]。變量之間的互信息越大,表示其相關(guān)性越強(qiáng),計(jì)算公式為:
(5)
式中:p(x,y)為隨機(jī)變量X和Y的聯(lián)合分布;p(x)和p(y)分別為2個(gè)隨機(jī)變量的邊緣分布。
Copula函數(shù)是一類將變量的聯(lián)合分布與各自邊緣分布連接在一起的函數(shù)。記F是邊緣分布為F1,F2,…,F(xiàn)n的隨機(jī)變量X=[x1,x2,…,xn]的聯(lián)合概率分布函數(shù)。Sklar定理指出,存在一個(gè)Copula概率分布函數(shù)C(·),對(duì)任意X∈Rn有:
F(x1,x2,…,xn)=C(F1(x1),F2(x2),…,Fn(xn))
(6)
常用的Copula函數(shù)包括Gumbel-Copula,Clayton-Copula和Frank-Copula,具體信息如表1所示。其中,Gumbel-Copula可以用來描述上尾相關(guān)性較強(qiáng)的數(shù)據(jù),Clayton-Copula可以用來描述下尾相關(guān)性較強(qiáng)的數(shù)據(jù),F(xiàn)rank-Copula可以用來描述具有尾部對(duì)稱且尾部相關(guān)性較強(qiáng)的數(shù)據(jù)。
表1 常用Copula函數(shù)
Copula函數(shù)中的相關(guān)參數(shù)可采用極大似然估計(jì)獲取。令L(θ)=lnc(θ),其中c(·)表示Copula概率密度函數(shù),則Copula函數(shù)的相關(guān)參數(shù)θ的估計(jì)值為:
arg max[lnc(F1(x1),F2(x2),…,Fn(xn);θ)]
(7)
本文選取平方歐式距離d2、均方誤差MSE、AIC信息準(zhǔn)則3個(gè)評(píng)價(jià)指標(biāo)對(duì)表1中的3種Copula函數(shù)模型進(jìn)行選擇,3種指標(biāo)數(shù)值越小,所選Copula函數(shù)對(duì)原始數(shù)據(jù)的擬合效果越好。以二元相關(guān)變量為例,對(duì)于隨機(jī)變量X和Y,根據(jù)核密度估計(jì)方法得到其邊緣分布u=F(x)和v=F(y),根據(jù)樣條插值法得到經(jīng)驗(yàn)邊緣分布H(x)和G(y)。
1)平方歐式距離d2。
(8)
(9)
式中:n表示樣本數(shù)量;I[·]為示性函數(shù),當(dāng)H(x)≤u時(shí),I=1,否則I=0。
2)均方誤差MSE。
均方誤差通過計(jì)算Copula理論分布與經(jīng)驗(yàn)分布之間的差異程度評(píng)估Copula函數(shù)的擬合情況,其計(jì)算公式為:
(10)
3)AIC信息準(zhǔn)則。
AIC信息準(zhǔn)則,也稱為赤池信息準(zhǔn)則,可以衡量模型的復(fù)雜度以及該模型對(duì)數(shù)據(jù)擬合的優(yōu)良程度,計(jì)算公式為:
(11)
Copula函數(shù)能夠較好的描述2個(gè)變量之間的非線性相關(guān)關(guān)系,同時(shí)反映隨機(jī)變量本身的統(tǒng)計(jì)特性。本文采用條件抽樣方法對(duì)Copula聯(lián)合分布進(jìn)行隨機(jī)模擬,得到能夠反映變量本身統(tǒng)計(jì)特性以及變量間相關(guān)關(guān)系的健康指標(biāo)。
對(duì)表1中3種Copula二維聯(lián)合分布分別求取條件分布,這里以給定v條件下求u發(fā)生的條件概率為例。
1)Gumbel-Copula。
(12)
2)Clayton-Copula。
(13)
3)Frank-Copula。
(14)
通過式(12)~(14)得到條件概率后,代入邊緣分布求解逆函數(shù)x=F-1(u)和y=F-1(v),將Copula聯(lián)合分布映射到樣本值空間,得到能夠反映多元變量間相關(guān)關(guān)系的健康指標(biāo)。
1)為建立Copula模型,首先需要確定各個(gè)性能指標(biāo)的邊緣分布,本文選擇核密度估計(jì)方法擬合各性能指標(biāo)的邊緣分布。
2)通過Copula函數(shù)對(duì)不同性能指標(biāo)的邊緣分布進(jìn)行聯(lián)合,利用備選Copula函數(shù)建立二元Copula模型,并給出參數(shù)估計(jì)與擬合優(yōu)度檢驗(yàn)結(jié)果。
3)根據(jù)2.2節(jié)的評(píng)價(jià)指標(biāo)對(duì)備選Copula函數(shù)模型進(jìn)行擬合優(yōu)度檢驗(yàn),3種指標(biāo)數(shù)值越小,所選Copula函數(shù)對(duì)原始數(shù)據(jù)的擬合效果越好。
4)基于2.3節(jié)的條件抽樣方法對(duì)Copula聯(lián)合分布進(jìn)行隨機(jī)模擬,將Copula聯(lián)合分布映射到樣本值空間。
BiLSTM網(wǎng)絡(luò)能夠通過前向和后向2種方式捕獲時(shí)序數(shù)據(jù)中的依賴關(guān)系,前向LSTM獲取輸入序列的過去信息,后向LSTM獲取輸入序列的未來信息,具體結(jié)構(gòu)如圖1所示[25]。
圖1 BiLSTM結(jié)構(gòu)示意
在每個(gè)時(shí)間步t,分別計(jì)算前向LSTM層的輸出ht和后向LSTM層的輸出ht,然后將ht和ht連接起來,得到BiLSTM網(wǎng)絡(luò)輸出yt。BiLSTM的更新方程為:
ht=LSTM(xt,ht-1)
(15)
ht=LSTM(xt,ht+1)
(16)
yt=whyht+whyht+by
(17)
式中:why表示前向LSTM層到輸出層的連接權(quán)重;why表示后向LSTM層到輸出層的連接權(quán)重;by表示輸出層的偏置。
BiLSTM層每個(gè)時(shí)間步的輸出由前向和后向隱藏狀態(tài)計(jì)算得到,在時(shí)間序列預(yù)測問題中,最后的預(yù)測輸出通常僅由最后一個(gè)時(shí)間步對(duì)應(yīng)的隱藏狀態(tài)得到。盡管此時(shí)的隱藏狀態(tài)與前后時(shí)刻的隱藏狀態(tài)相連,能夠反映輸入數(shù)據(jù)間的時(shí)序依賴關(guān)系,但隨著輸入序列的增長,網(wǎng)絡(luò)學(xué)習(xí)過程中可能丟失一部分有用信息,影響預(yù)測效果。
反映設(shè)備退化信息的長時(shí)間序列在輸入BiLSTM網(wǎng)絡(luò)時(shí)會(huì)通過滑動(dòng)時(shí)間窗分為若干時(shí)間步對(duì)應(yīng)的短序列,而不同時(shí)間步的短序列隱含的設(shè)備退化特征往往不同[26]。本文在BiLSTM層后引入注意力機(jī)制,對(duì)BiLSTM預(yù)測模型進(jìn)行改進(jìn),具體的網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。
圖2中,xi為輸入的短時(shí)間序列,BiLSTM層對(duì)輸入數(shù)據(jù)進(jìn)行雙向時(shí)序特征提取,并將每個(gè)時(shí)間步輸出的隱藏狀態(tài)[h1,h2,h3,…,hn]輸入Attention層。通過Attention層進(jìn)行自動(dòng)學(xué)習(xí),給不同隱藏狀態(tài)賦予不同的權(quán)重[a1,a2,a3,…,an],使網(wǎng)絡(luò)模型能夠關(guān)注到更重要的信息,優(yōu)化預(yù)測網(wǎng)絡(luò)。對(duì)每個(gè)時(shí)間步的隱藏狀態(tài)加權(quán)求和后得到綜合特征,進(jìn)而輸入到全連接層,得到最終的預(yù)測結(jié)果y。
圖2 Attention-BiLSTM網(wǎng)絡(luò)模型
Attention層的計(jì)算過程為:
ei=tanh(Wshi+bs)
(18)
(19)
(20)
式中:hi為BiLSTM層在每個(gè)時(shí)間步輸出的隱藏狀態(tài);Ws和bs分別為隱藏狀態(tài)的權(quán)值和偏置;ai為注意力權(quán)重;s為對(duì)所有隱藏狀態(tài)加權(quán)求和后得到的綜合特征。
綜上,在BiLSTM層后引入Attention,可以充分利用每個(gè)時(shí)間步的隱藏狀態(tài)提取有用信息,提升網(wǎng)絡(luò)模型的預(yù)測效果。
本文所提模型的結(jié)構(gòu)框架如圖3所示,可分為數(shù)據(jù)預(yù)處理、健康指標(biāo)提取和剩余壽命預(yù)測3個(gè)部分。具體步驟為:
圖3 模型結(jié)構(gòu)
1)基于信息熵和互信息進(jìn)行特征選擇,篩選出信息量豐富且能有效表征設(shè)備RUL變化的性能指標(biāo);
2)對(duì)篩選出來的性能指標(biāo)進(jìn)行Kalman濾波,減少原始數(shù)據(jù)中的隨機(jī)噪聲;
3)根據(jù)性能指標(biāo)間Kendall秩相關(guān)系數(shù)的大小確定分組,利用不同的Copula函數(shù)模型描述性能指標(biāo)間的相關(guān)關(guān)系,并通過平方歐式距離、均方誤差和AIC信息準(zhǔn)則3個(gè)評(píng)價(jià)指標(biāo)選出最優(yōu)的Copula模型;
4)通過條件抽樣對(duì)Copula聯(lián)合分布進(jìn)行隨機(jī)模擬,得到新的能夠刻畫原始數(shù)據(jù)統(tǒng)計(jì)特性以及相關(guān)關(guān)系的采樣值作為健康指標(biāo);
5)將訓(xùn)練集得到的健康指標(biāo)輸入Attention-BiLSTM網(wǎng)絡(luò)進(jìn)行訓(xùn)練和學(xué)習(xí),不斷調(diào)整網(wǎng)絡(luò)模型的結(jié)構(gòu)和參數(shù)以降低模型損失,得到訓(xùn)練好的網(wǎng)絡(luò);
6)將測試集得到的健康指標(biāo)輸入訓(xùn)練好的網(wǎng)絡(luò),得到RUL預(yù)測結(jié)果,并通過均方根誤差(root mean square error, RMSE)與其他方法的預(yù)測結(jié)果進(jìn)行對(duì)比分析。
本文采用CMAPSS發(fā)動(dòng)機(jī)數(shù)據(jù)集對(duì)所提方法進(jìn)行實(shí)例驗(yàn)證,CMAPSS數(shù)據(jù)集記錄了發(fā)動(dòng)機(jī)編號(hào)、運(yùn)行周期數(shù)、3個(gè)工作環(huán)境參數(shù)以及21個(gè)傳感器測量值,傳感器具體描述如表2所示[8,27]。本文選取其中的FD003數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),包含100臺(tái)訓(xùn)練發(fā)動(dòng)機(jī)和100臺(tái)測試發(fā)動(dòng)機(jī)數(shù)據(jù),在運(yùn)行過程中存在2種不同的故障模式,數(shù)據(jù)間衍生關(guān)系比較復(fù)雜。因此,有必要考慮不同特征參量之間的耦合關(guān)系并提取退化特征,從而更準(zhǔn)確地描述航空發(fā)動(dòng)機(jī)的復(fù)雜退化規(guī)律。
表2 CMAPSS數(shù)據(jù)集傳感器信息[28]
首先,對(duì)于航空發(fā)動(dòng)機(jī)運(yùn)行過程中有明顯變化的14個(gè)性能指標(biāo),基于信息熵和互信息理論進(jìn)行特征選擇,結(jié)果如圖4所示。
圖4 信息熵和互信息結(jié)果
盡管第9和第14號(hào)傳感器的監(jiān)測數(shù)據(jù)對(duì)應(yīng)的信息熵與互信息都較大,但其原始信號(hào)無明顯的趨勢性,不能很好地表征設(shè)備的退化過程。因此,在信息論的基礎(chǔ)上考慮各個(gè)性能指標(biāo)的原始趨勢特點(diǎn),選擇第3、4、7、12號(hào)傳感器數(shù)據(jù)進(jìn)行后續(xù)的健康指標(biāo)提取和剩余壽命預(yù)測。
在設(shè)備實(shí)際運(yùn)行過程中,由于受到外部擾動(dòng)影響,性能監(jiān)測數(shù)據(jù)往往包含大量隨機(jī)噪聲,因此采用卡爾曼濾波對(duì)原始數(shù)據(jù)進(jìn)行降噪處理。
本文基于Copula理論來提取反映多元退化設(shè)備狀態(tài)信息的健康指標(biāo)。首先,通過kendall秩相關(guān)系數(shù)分析各個(gè)性能指標(biāo)間的相關(guān)關(guān)系,結(jié)果如表3所示。3號(hào)和4號(hào)傳感器數(shù)據(jù)的相關(guān)性較高,7號(hào)和12號(hào)傳感器數(shù)據(jù)的相關(guān)性較高。因此,按照相關(guān)性大小確定分組,分別構(gòu)建二元Copula模型C1和C2,描述性能指標(biāo)間的相關(guān)關(guān)系。
表3 不同性能指標(biāo)間的kendall秩相關(guān)系數(shù)
為建立Copula模型,首先需要確定各個(gè)性能指標(biāo)的邊緣分布,本文選用核密度估計(jì)方法進(jìn)行邊緣分布的擬合,以訓(xùn)練集中1號(hào)發(fā)動(dòng)機(jī)的第3號(hào)和第4號(hào)傳感器數(shù)據(jù)為例,按照從小到大順序?qū)?個(gè)傳感器數(shù)據(jù)的核密度邊緣分布和經(jīng)驗(yàn)分布函數(shù)進(jìn)行排序,如圖5所示,核密度估計(jì)方法與經(jīng)驗(yàn)分布的邊緣擬合效果較好。
圖5 邊緣分布
對(duì)3號(hào)傳感器邊緣分布u=F(x)和4號(hào)傳感器邊緣分布v=F(y)利用備選Copula函數(shù)建立二元Copula模型C1,參數(shù)估計(jì)與擬合優(yōu)度檢驗(yàn)結(jié)果如表4所示。
由表4可見,以歐氏距離d2、MSE、AIC信息準(zhǔn)則最小為評(píng)價(jià)標(biāo)準(zhǔn),Gumbel-Copula函數(shù)為第1組Copula模型C1的最優(yōu)模型,圖6給出Gumbel-Copula概率密度圖和分布函數(shù)圖。由圖6可知,3號(hào)傳感器和4號(hào)傳感器數(shù)據(jù)的上尾相關(guān)性較強(qiáng),Gumbel-Copula函數(shù)能較好地描述其相關(guān)特征。
圖6 Gumbel-Copula聯(lián)合密度和聯(lián)合分布
表4 C1參數(shù)估計(jì)和擬合優(yōu)度評(píng)價(jià)
與C1類似,由7號(hào)傳感器的邊緣分布和12號(hào)傳感器的邊緣分布構(gòu)建C2聯(lián)合分布,參數(shù)和擬合優(yōu)度評(píng)價(jià)結(jié)果如表5所示,選擇Clayton-Copula函數(shù)構(gòu)建第2組Copula模型,圖7給出Clayton-Copula概率密度圖和分布函數(shù)圖,可以看出7號(hào)和12號(hào)傳感器數(shù)據(jù)的下尾相關(guān)性較強(qiáng),Clayton-Copula函數(shù)能較好地?cái)M合其相關(guān)關(guān)系。
圖7 Clayton-Copula聯(lián)合密度和聯(lián)合分布
表5 C2參數(shù)估計(jì)和擬合優(yōu)度評(píng)價(jià)
對(duì)經(jīng)過特征選擇和預(yù)處理過后的性能監(jiān)測數(shù)據(jù)進(jìn)行Copula擬合,并通過條件抽樣得到健康指標(biāo)。由于模型采用多次二維Copula函數(shù),所以其條件抽樣是一個(gè)多次求逆函數(shù)的過程,重復(fù)二元Copula條件抽樣過程,直到產(chǎn)生所選4個(gè)性能指標(biāo)的模擬值。以測試集1號(hào)發(fā)動(dòng)機(jī)的3、4號(hào)傳感器為例,通過Copula條件抽樣得到的健康指標(biāo)如圖8所示。
圖8中的實(shí)線為基于Copula函數(shù)條件抽樣,隨機(jī)模擬500次取平均后得到的健康指標(biāo),既包含原始數(shù)據(jù)的統(tǒng)計(jì)特性,又能反映2個(gè)性能指標(biāo)間的相關(guān)關(guān)系,因此能更全面地反映多元退化設(shè)備的退化信息。
圖8 Copula條件抽樣結(jié)果
與文獻(xiàn)[18]類似,本文將RUL標(biāo)簽設(shè)為分段線性,最大值設(shè)為130,滑動(dòng)時(shí)間窗設(shè)置為30。為優(yōu)化網(wǎng)絡(luò)模型,本文在BiLSTM層后引入Attention層,設(shè)置學(xué)習(xí)率隨損失值變化自動(dòng)調(diào)整,衰減因子為0.1,具體網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)如表6中所示。
表6 Attention-BiLSTM網(wǎng)絡(luò)參數(shù)
將本文所提Copula+Attention-BiLSTM模型與Attention-BiLSTM、BiLSTM、LSTM 4種方法在FD003數(shù)據(jù)集上的單步預(yù)測結(jié)果進(jìn)行了對(duì)比,測試集模型損失通過RMSE來表示,圖9給出了4種方法在100次迭代過程中的損失值變化,表7給出了最終趨于穩(wěn)定時(shí)4種方法預(yù)測結(jié)果的RMSE。
由圖9可見,前2種方法的初始loss值均較高,引入Attention機(jī)制后,模型收斂速度明顯加快,初始loss值相較于前2種方法明顯下降。隨著迭代次數(shù)的增加,模型損失均呈現(xiàn)波動(dòng)下降,最終趨于平穩(wěn)。由局部放大圖可見,本文所提方法的損失收斂較快,且loss值相較于其他3種方法最小,最終穩(wěn)定在14.866左右。表7給出了4種方法預(yù)測結(jié)果的RMSE對(duì)比結(jié)果,可以看出本文所提Copula與Attention-BiLSTM相融合的方法預(yù)測誤差更小。接下來,從單個(gè)發(fā)動(dòng)機(jī)的一次全測試循環(huán)角度進(jìn)行分析,具體如圖10所示。
圖9 不同方法loss對(duì)比
表7 不同方法RUL預(yù)測結(jié)果對(duì)比
圖10 第24臺(tái)和第94臺(tái)發(fā)動(dòng)機(jī)RUL單步預(yù)測結(jié)果
圖10給出了分別以測試集中第24臺(tái)和第94臺(tái)發(fā)動(dòng)機(jī)為對(duì)象,將本文所提方法與Attention-BiLSTM方法在一次全測試循環(huán)進(jìn)行RUL預(yù)測的對(duì)比結(jié)果。由圖10可見,發(fā)動(dòng)機(jī)RUL預(yù)測結(jié)果與監(jiān)測數(shù)據(jù)有關(guān),盡管前期預(yù)測值與標(biāo)簽存在一定誤差,但隨著監(jiān)測數(shù)據(jù)的累積,預(yù)測值越來越接近RUL標(biāo)簽,同時(shí),本文方法的預(yù)測結(jié)果在大部分測試循環(huán)更接近RUL標(biāo)簽,這也從單臺(tái)發(fā)動(dòng)機(jī)壽命周期的角度驗(yàn)證了本文方法預(yù)測RUL的準(zhǔn)確性。
1)本文提出了基于Copula與Attention-BiLSTM網(wǎng)絡(luò)的剩余壽命預(yù)測方法,充分考慮了監(jiān)測獲得的性能退化數(shù)據(jù)間的相關(guān)關(guān)系,能更好地描述設(shè)備的退化規(guī)律,提高RUL預(yù)測準(zhǔn)確度。
2)通過在CMAPSS數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)并與其他方法對(duì)比,可以看出本文所提方法收斂速度更快,預(yù)測的RMSE相較于其他幾種方法更小,驗(yàn)證了本文所提方法的有效性。
本文通過Kendall秩相關(guān)系數(shù)對(duì)多個(gè)性能指標(biāo)兩兩分組,并引入Copula函數(shù)分析二元變量間的相關(guān)關(guān)系。下一步可研究能夠直接描述多元變量相關(guān)性的方法,以提高RUL預(yù)測的時(shí)效性。