王曉霞,張曉萱
不同工況及類別下熱力系統(tǒng)故障診斷的多源域自適應(yīng)方法
王曉霞,張曉萱
(華北電力大學(xué) 計算機(jī)系,河北 保定 071003)
針對不同負(fù)荷工況下,熱工參數(shù)數(shù)據(jù)分布差異大且故障類別不一致的問題,提出了一種基于多源樣本加權(quán)域?qū)咕W(wǎng)絡(luò)的熱力系統(tǒng)故障診斷方法。首先,構(gòu)建領(lǐng)域共享的一維卷積神經(jīng)網(wǎng)絡(luò)以提取多個源域和目標(biāo)域的深度判別特征;其次,引入加權(quán)機(jī)制和域一致性損失度量樣本,以降低僅存在于源域的故障類別的負(fù)遷移影響;然后,通過多域判別器的對抗學(xué)習(xí)實現(xiàn)每對源域和目標(biāo)域的特征差異對齊;最后,構(gòu)建多分類器對齊模塊以提高預(yù)測的一致性,從而實現(xiàn)多源域不同工況下熱力系統(tǒng)故障的準(zhǔn)確診斷。借助某600 MW超臨界機(jī)組全范圍仿真系統(tǒng)進(jìn)行故障仿真實驗,結(jié)果驗證了所提方法的魯棒性和優(yōu)越性。
熱力系統(tǒng);故障診斷;多源域自適應(yīng);對抗學(xué)習(xí)
作為火電機(jī)組的關(guān)鍵組成部分之一,高品質(zhì)熱力系統(tǒng)可以顯著提高機(jī)組熱效率,對機(jī)組的安全運(yùn)行起著至關(guān)重要的作用。在進(jìn)行深度調(diào)峰時,熱力系統(tǒng)經(jīng)常處于較低負(fù)荷和負(fù)荷變化波動較大的復(fù)雜運(yùn)行工況[1],容易發(fā)生內(nèi)部泄漏、短路等故障,嚴(yán)重時會造成設(shè)備損壞和能源成本的過量消耗[2]。因此,及時發(fā)現(xiàn)并診斷出熱力系統(tǒng)存在的故障對于提高火電機(jī)組運(yùn)行的穩(wěn)定性、安全性和靈活性具有重要意義。
近年來,以神經(jīng)網(wǎng)絡(luò)為理論基礎(chǔ)的數(shù)據(jù)驅(qū)動方法在熱力系統(tǒng)故障診斷領(lǐng)域受到了廣泛關(guān)注[3-5]。然而,這些方法的缺陷在于:1)模型的構(gòu)建依賴大量標(biāo)記數(shù)據(jù)的可用性;2)訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)必須具有相同的分布[6]。為解決上述問題,研究人員將域自適應(yīng)(Domain adaptation,DA)技術(shù)引入故障診斷領(lǐng)域。DA方法借助從源域?qū)W習(xí)的知識(充足的標(biāo)記數(shù)據(jù))來減少分布差異并提高模型識別目標(biāo)域數(shù)據(jù)(標(biāo)記數(shù)據(jù)不足)的能力,因此可以有效彌補(bǔ)數(shù)據(jù)驅(qū)動方法的不足[7]。主流的DA方法包括基于矩匹配[8-10]和基于對抗性學(xué)習(xí)的方法[11-13]。文獻(xiàn)[14]將最大均值差異(Maximum mean discrepancy,MMD)與相關(guān)對齊(Correlation alignment,CORAL)結(jié)合構(gòu)建了一種新的分布差異度量以達(dá)到消除域混淆的目的。文獻(xiàn)[15]構(gòu)建了域?qū)股窠?jīng)網(wǎng)絡(luò)(Domain adversarial neural network, DANN)來獲得適應(yīng)于源域和目標(biāo)域的域不變特征。
上述基于DA的故障診斷方法通常局限于單源域自適應(yīng)(Single-source domain adaptation,SDA)。在實際工業(yè)應(yīng)用場景下,熱力系統(tǒng)的源域樣本可能來自多個不同的工況,即存在多個源域。多源域自適應(yīng)(Multisource domain adaptation,MDA)方法可以充分利用源域信息,進(jìn)一步提高單源域數(shù)據(jù)訓(xùn)練診斷模型的預(yù)測能力[16]。然而,由于數(shù)據(jù)特征的差異,域偏移不僅存在于源域和目標(biāo)域之間,也存在于多個源域之間[17];因此直接將多個源域數(shù)據(jù)粗略地合并后再進(jìn)行域自適應(yīng)無法得到最優(yōu)解[18]。
目前,針對多源域故障診斷的研究還相對有限。文獻(xiàn)[19]結(jié)合錨適配器集成和深度神經(jīng)網(wǎng)絡(luò),充分學(xué)習(xí)了多個源域的故障特征信息。文獻(xiàn)[20]提出一種多特征空間自適應(yīng)網(wǎng)絡(luò)(Multiple feature spaces adaptation network,MFSAN),利用MMD學(xué)習(xí)每對源域和目標(biāo)域的域不變表示。然而,這些MDA方法的性能依賴于源域和目標(biāo)域共享相同標(biāo)簽空間的假設(shè)。在工況多變等不可避免的復(fù)雜工作條件下,目標(biāo)域標(biāo)簽空間通常是源域標(biāo)簽空間的子集,收集不同工況下標(biāo)簽空間完全相同的源域和目標(biāo)域故障數(shù)據(jù)存在困難。因此,將多個源域的知識遷移到單個目標(biāo)域時,僅源域存在的樣本可能影響特征分布對齊效果,從而導(dǎo)致負(fù)遷移。
針對以上問題,本文提出一種多源樣本加權(quán)域?qū)咕W(wǎng)絡(luò)(Multisource sample-weighted domain adversarial network,MSDAN),用于實現(xiàn)參數(shù)數(shù)據(jù)分布差異大且故障類別不一致的多源域跨工況熱力系統(tǒng)故障診斷。首先,構(gòu)建特征提取器以獲取多個源域和目標(biāo)域的高級特征表示;其次,設(shè)計樣本加權(quán)模塊用于過濾每個源域中不相關(guān)的特征以降低負(fù)遷移的影響,并結(jié)合基于Wasserstein距離的域一致性損失與多領(lǐng)域?qū)R模塊,對齊多對源域和目標(biāo)域的特征分布差異;然后,構(gòu)建多分類器對齊模塊用于提高故障診斷的一致性。最后,以600 MW燃煤發(fā)電機(jī)組高壓加熱器給水系統(tǒng)故障數(shù)據(jù)為例,驗證本文方法的可行性和有效性。
域?qū)咕W(wǎng)絡(luò)與生成對抗網(wǎng)絡(luò)具有相似的結(jié)構(gòu),旨在解決目標(biāo)域標(biāo)記數(shù)據(jù)不足的問題。
域?qū)咕W(wǎng)絡(luò)由特征提取器、域判別器和標(biāo)簽分類器3部分組成,如圖1所示。圖中,特征提取器將源域和目標(biāo)域數(shù)據(jù)作為輸入以輸出高級特征表示;域判別器旨在使用學(xué)習(xí)到的特征表示來區(qū)分?jǐn)?shù)據(jù)的域標(biāo)簽;分類器用于對故障樣本的健康狀態(tài)進(jìn)行分類。
在模型訓(xùn)練過程中,優(yōu)化域判別器用于正確識別輸入數(shù)據(jù)的域標(biāo)簽,而訓(xùn)練特征提取器混淆域判別器,即在特征提取器和域判別器之間實現(xiàn),對抗學(xué)習(xí)。通過對抗性訓(xùn)練的迭代,學(xué)習(xí)到的特征可以越來越趨于域不變,從而可以彌合域間的差距,這有利于后續(xù)的故障診斷。
圖1 域?qū)咕W(wǎng)絡(luò)結(jié)構(gòu)
一維卷積神經(jīng)網(wǎng)絡(luò)由卷積層、池化層和全連接層組成,如圖2所示。圖中,卷積層使用卷積核對輸入信號的局部區(qū)域進(jìn)行卷積運(yùn)算,然后引入非線性激活函數(shù)得到特征映射結(jié)果。經(jīng)過每個卷積層后,生成的特征被輸入到池化層。池化層執(zhí)行下采樣操作,可以有效減少網(wǎng)絡(luò)計算量及參數(shù)的復(fù)雜度。本文采用最大池化操作,獲取池化區(qū)域內(nèi)特征的最大值。最后,全連接層將高維特征映射為一維特征。
圖2 一維卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
Wasserstein距離幾乎處處連續(xù)且可微,這使其在避免梯度爆炸等問題上具有良好的表現(xiàn)。
本文利用Wasserstein距離計算樣本間的距離,其數(shù)學(xué)表達(dá)式被定義為:
根據(jù)Kantorovich-Rubinstein對偶原理[21],可以得到1階Wasserstein距離的等價形式:
文中使用1階Wasserstein距離來指導(dǎo)網(wǎng)絡(luò)的訓(xùn)練過程。
MSDAN網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。
圖3 MSDAN網(wǎng)絡(luò)結(jié)構(gòu)
圖3網(wǎng)絡(luò)結(jié)構(gòu)主要分為4個部分,即特征提取器、樣本加權(quán)模塊、特定領(lǐng)域?qū)R和分類器對齊模塊,其網(wǎng)絡(luò)參數(shù)設(shè)置詳見表1。
特征提取器利用一維卷積神經(jīng)網(wǎng)絡(luò)從多個源域和目標(biāo)域數(shù)據(jù)中學(xué)習(xí)判別特征;特征過濾模塊通過構(gòu)建輔助分類器和域判別器生成權(quán)重以減少多個源域中離群類的負(fù)遷移影響;特定域分布對齊模塊通過對齊每對源域和目標(biāo)域的特征分布,以消除偏移并獲得域不變特征;多分類器對齊模塊用于消除不同分類器之間的差異,獲得類別可分特征。
表1 MSDAN網(wǎng)絡(luò)參數(shù)
2.1.1 特征提取器
特征提取器由一維卷積神經(jīng)網(wǎng)絡(luò)作為主干結(jié)構(gòu),用于從原始過程數(shù)據(jù)中學(xué)習(xí)深度特征表示,其包含3組卷積層和池化層及1個全連接層。
為了進(jìn)一步減少網(wǎng)絡(luò)中的參數(shù)數(shù)量,卷積核的權(quán)值在所有源域和目標(biāo)域數(shù)據(jù)中共享,采用Relu激活函數(shù)得到特征映射結(jié)果。
池化層用于減少特征維度。全連接層將最后一個池化層生成的特征平鋪成一維特征。網(wǎng)絡(luò)均采用最大池化操作。為提高模型泛化能力,Dropout設(shè)置為0.5。
將來自不同源域和目標(biāo)域的原始信號輸入到特征提取器中,通過多次卷積和池化運(yùn)算獲得每個域的高級特征表示,輸出為:
式中:x,k為來自第個源域的樣本,x為目標(biāo)域樣本。
2.1.2 樣本加權(quán)模塊
在跨工況故障診斷中,目標(biāo)域與源域的故障類別通常不一致。源域中有而目標(biāo)域中沒有的這些故障樣本會在域分布對齊的過程中產(chǎn)生負(fù)遷移。
源域樣本的可遷移性權(quán)重可描述為:
可以看出,樣本的權(quán)重與輔助域判別器的輸出成反比。隨著域間特征分布差異的減小,源域中無關(guān)樣本的權(quán)重輸出值將會更低。將過濾后的特征定義為:
為了實現(xiàn)細(xì)粒度的特征分布對齊,設(shè)計了一種域一致性損失來訓(xùn)練數(shù)據(jù)。域一致性損失計算了每對源域和目標(biāo)域中加權(quán)源特征與目標(biāo)特征之間的Wasserstein距離,即:
2.1.3 特定領(lǐng)域?qū)R
由于多個域之間存在域偏移,對齊所有源域和目標(biāo)域之間的特征分布具有挑戰(zhàn)性。
為了減少域分布差異,構(gòu)建了一種多判別器對抗學(xué)習(xí)策略,設(shè)計和源域數(shù)目相同的個域判別器。其中,每個域判別器由2個全連接層組成,且只負(fù)責(zé)1個特定的域分類任務(wù)。通過對抗學(xué)習(xí)最小化每對源域和目標(biāo)域之間的域差異,以學(xué)習(xí)域不變特征表示。
在對抗性訓(xùn)練中,每個域判別器只接受對應(yīng)源域的數(shù)據(jù)以及目標(biāo)域的數(shù)據(jù),并對樣本來自源域還是目標(biāo)域進(jìn)行分類。多個域判別器的域判別誤差為:
式中:n,k表示第個源域的樣本數(shù)量;n表示目標(biāo)域的樣本數(shù)量。
2.1.4 分類器對齊模塊
與源域的數(shù)量一致,分類器對齊模塊由個分類器組成,用于對故障樣本進(jìn)行正確分類。每個分類器包含2個全連接層和softmax激活函數(shù),其從源域和目標(biāo)域接收學(xué)習(xí)到的特征,并輸出相應(yīng)的分類標(biāo)簽。
為了準(zhǔn)確地識別故障類型,首先對第個源域進(jìn)行交叉熵分類損失,每個分類器的分類誤差為:
根據(jù)式(8),個源域的分類損失表示為:
直觀上,不同分類器在預(yù)測相同目標(biāo)樣本時應(yīng)該得到相同的分類結(jié)果。然而,分類器是在不同的源域上進(jìn)行訓(xùn)練的,因此其對目標(biāo)樣本的預(yù)測可能存在分歧,尤其是靠近類邊界的目標(biāo)樣本更容易被錯誤分類。
為了對齊所有分類器之間的差異,本文提出一種多分類器差異度量,即將所有分類器在目標(biāo)域數(shù)據(jù)上的概率輸出差值的絕對值作為差異損失。
式中:為數(shù)學(xué)期望。
最小化式(10)可以有效減少所有的分類器差異,使相同的目標(biāo)樣本得到相同的預(yù)測。
綜上,MSDAN網(wǎng)絡(luò)總優(yōu)化目標(biāo)為:
圖4示出了用本文方法實現(xiàn)的熱力系統(tǒng)故障診斷流程,圖中包括數(shù)據(jù)采集、網(wǎng)絡(luò)訓(xùn)練和故障診斷3個部分。
圖4 熱力系統(tǒng)故障診斷流程
2.2.1 數(shù)據(jù)獲取
獲取機(jī)組不同運(yùn)行工況下熱力系統(tǒng)典型故障樣本數(shù)據(jù)。根據(jù)運(yùn)行負(fù)荷工況將數(shù)據(jù)劃分為多個有標(biāo)簽的源域數(shù)據(jù)集和1個無標(biāo)簽的目標(biāo)數(shù)據(jù)集,并劃分訓(xùn)練集和測試集。
2.2.2 網(wǎng)絡(luò)訓(xùn)練
1)將訓(xùn)練集中不同負(fù)荷工況下的故障數(shù)據(jù)送入特征提取器,獲得源域和目標(biāo)域的共享特征表示。
2)利用輔助域判別器計算源域樣本的權(quán)重,賦予共享故障類樣本更高的權(quán)重,減小源域特有故障類樣本的權(quán)重,以過濾不相關(guān)源域樣本。
3)將加權(quán)后的每對源域特征以及目標(biāo)域特征分別輸入到特定的域判別器中進(jìn)行對抗性學(xué)習(xí),并計算域判別損失,以學(xué)習(xí)域不變特征表示。
4)利用學(xué)習(xí)到的多源域特征訓(xùn)練特定的多分類器,通過計算并最小化多個分類器的總損失實現(xiàn)對源域樣本的準(zhǔn)確預(yù)測。然后,將目標(biāo)域樣本輸入到每個分類器中,根據(jù)預(yù)測結(jié)果計算多分類器差異度量損失,最小化該損失使每個分類器在預(yù)測目標(biāo)域樣本時可以得到相同的結(jié)果。
網(wǎng)絡(luò)訓(xùn)練過程采用隨機(jī)梯度下降算法進(jìn)行優(yōu)化,并在反向傳播過程中利用梯度反轉(zhuǎn)層(Gradient reversal layer,GRL)[22]實現(xiàn)對抗性學(xué)習(xí),直到達(dá)到最大訓(xùn)練周期數(shù)。
2.2.3 故障診斷
將測試集中無標(biāo)簽的目標(biāo)域數(shù)據(jù)輸入到訓(xùn)練好的MSDAN網(wǎng)絡(luò),得到最終的故障診斷結(jié)果。
借助某600 MW超臨界機(jī)組全范圍仿真系統(tǒng),對不同工況和故障類別下高壓加熱器給水系統(tǒng)故障進(jìn)行詳細(xì)的仿真實驗。
該機(jī)組高加系統(tǒng)包括3臺高加,按抽汽口壓力由高到低分別稱為1號、2號和3號高加[23]。分散控制系統(tǒng)獲取的高加相關(guān)參數(shù)包括:各段抽汽溫度、壓力,各高加溫度、壓力、水位、閥門開度等[2]。高加常見的典型故障主要有1、2、3號高加管系泄漏故障(稱為WS1、WS2、WS3),1、2、3號高加進(jìn)出水室短路故障(稱為IO1、IO2、IO3),正常狀態(tài)(稱為NC),共7種健康狀態(tài)。采集不同負(fù)荷工況下7種健康狀態(tài)各500組樣本(采樣頻率為1 Hz),包含負(fù)荷600 MW、540 MW、480 MW、420 MW工況。
表2 多源域遷移任務(wù)
構(gòu)建了4個多源域遷移任務(wù)A1—A4。每個任務(wù)的源域包括3種不同負(fù)荷工況下的故障數(shù)據(jù),目標(biāo)域僅有1種負(fù)荷工況下的故障數(shù)據(jù)。同時,源域故障模式包括7種健康狀態(tài),而目標(biāo)域隨機(jī)舍棄一些故障類別,以模擬實際工業(yè)場景中源域和目標(biāo)域故障類別不一致的跨工況故障診斷問題。
以任務(wù)A1為例:A1包含3種負(fù)荷工況分別為540 MW、480 MW和420 MW的有標(biāo)記源域數(shù)據(jù)和1種負(fù)荷工況為600 MW的無標(biāo)記目標(biāo)域數(shù)據(jù),且目標(biāo)域數(shù)據(jù)中沒有IO3故障類別。
為驗證MSDAN的跨工況診斷性能,將本文方法與基于深度神經(jīng)網(wǎng)絡(luò)的方法、單源域和多源域深度域自適應(yīng)方法以及本文方法的變種進(jìn)行了比較。對比方法包括深度卷積神經(jīng)網(wǎng)絡(luò)(Deep convolutionalneural networks,DCNN)、深度域自適(DAN)[24]、深度域自適應(yīng)相關(guān)對齊(D-CORAL)[25]、對抗域自適應(yīng)網(wǎng)絡(luò)(DANN)[15]、多特征空間自適應(yīng)網(wǎng)絡(luò)(MFSAN)[20]和去除樣本加權(quán)模塊的變體MSDAN-W。
在MSDAN中,學(xué)習(xí)率設(shè)置為0.01,權(quán)衡系數(shù)和分別為1.0和0.1。Adam作為網(wǎng)絡(luò)優(yōu)化器,訓(xùn)練周期設(shè)置為100。為了進(jìn)行公平的比較,DCNN、DAN和D-CORAL的主干網(wǎng)絡(luò)與MSDAN中的特征提取器和故障分類器的結(jié)構(gòu)和參數(shù)設(shè)置一致,MSDAN-W的網(wǎng)絡(luò)參數(shù)與MSDAN相同。MFSAN參數(shù)設(shè)置詳見文獻(xiàn)[22]。所有實驗重復(fù)10次,平均診斷精度作為最終結(jié)果以評價算法的性能。
為驗證多源域自適應(yīng)對跨工況故障診斷的有效性,在相同目標(biāo)域時,分別比較了MSDAN在4個多源遷移診斷任務(wù)和對應(yīng)的單源遷移診斷任務(wù)情況下的診斷精度,結(jié)果如表3所示。
從表3可以看出,多源任務(wù)A1—A4的故障診斷精度均明顯高于對應(yīng)的單源任務(wù)。例如在任務(wù)A3中,3種單源任務(wù)的診斷精度分別為90.51%、89.70%和90.92%,而多源域任務(wù)的精度達(dá)到92.75%。
由此可見,在跨工況故障診斷中考慮多個負(fù)荷工況下的源域數(shù)據(jù)可以更充分地利用源域信息以學(xué)習(xí)域不變特征,從而獲得更好的診斷性能。
表3 單源域和多源域遷移任務(wù)故障診斷結(jié)果
為驗證本文方法的有效性和優(yōu)越性,將本文方法與上述6種流行的故障診斷方法進(jìn)行比較,結(jié)果如表4所示。對于DCNN、DAN、D-CORAL和DANN,將每個遷移任務(wù)的多個源域直接合并為一個源域,而MFSAN、MSDAN-W和MSDAN進(jìn)行多源域自適應(yīng)診斷。
表4 不同方法的故障診斷對比結(jié)果
從表4可以看出:
1)與源域合并的4種方法相比,3種MDA方法的診斷精度均得到大幅度的提升。這說明直接將不同源域進(jìn)行合并不是解決多源域問題的有效方法,也證明了研究多源域方法增強(qiáng)故障診斷性能的必要性。
MSDAN在MDA方法中的診斷性能最佳,平均精度達(dá)93.74%,而MFSAN和MSDAN-W的平均精度分別為90.46%和90.89%。這是由于MFSAN和MSDAN-W沒有考慮標(biāo)簽空間不一致的場景,使那些僅在源域中存在的故障類別影響了診斷性能。
MSDAN通過構(gòu)建樣本加權(quán)模塊可以有效過濾出源域中不相關(guān)的樣本,多判別器對抗學(xué)習(xí)和多分類器對齊模塊進(jìn)一步提高域不變特征學(xué)習(xí)能力和預(yù)測一致性,因此該方法在多源域跨工況和目標(biāo)域故障類別較少的情況下仍然取得了出色的診斷精度。
2)DAN、D-CORAL和DANN這3種SDA方法在任務(wù)A3和A4中的診斷精度甚至不如DCNN。這說明SDA方法直接對齊不同源域和目標(biāo)域之間的特征分布會導(dǎo)致源域中的不相關(guān)樣本發(fā)生負(fù)遷移現(xiàn)象,從而使診斷精度大幅下降。
遷移任務(wù)A2的單源域與多源域的故障診斷混淆矩陣對比結(jié)果如圖5所示。
圖5 遷移任務(wù)A2的單源域與多源域的故障診斷混淆矩陣對比
由圖5可以看出,MFSAN方法將1號和2號高加管系泄漏故障(共享類別)錯誤診斷為3號高加管系泄漏故障WS3(異常類別),將1號和2號高加進(jìn)出水室短路故障錯誤診斷為3號高加進(jìn)出水室短路故障IO3的現(xiàn)象較為嚴(yán)重。
相較MFSAN,本文方法誤診率更低。原因是MSDAN在故障類別不一致下的情況下,通過樣本加權(quán)模塊中的輔助域判別器為源域異常類別的樣本賦予較低權(quán)重以減輕其負(fù)遷移的影響,從而降低了共享類別被錯誤識別為異常類別的風(fēng)險。
因此,本文所提出的MSDAN具有更明顯的優(yōu)勢和優(yōu)異的診斷性能。
為了更直觀地評估MSDAN的有效性,采用-分布隨機(jī)鄰域嵌入[26]技術(shù),可視化不同方法的特征分布。
針對任務(wù)A1不同算法下特征可視化結(jié)果如圖6所示。圖中,“?”、“△”和“+”表示源域特征;“×”表示目標(biāo)域特征;不同的顏色表示不同的故障。
圖6 針對任務(wù)A1不同算法下特征可視化結(jié)果
從圖6(a)(b)可以看出,雖然DCNN可以在一定程度上提高特征的可分性,但2個域之間的特征重疊仍然很高,這導(dǎo)致了診斷準(zhǔn)確性不理想;而域自適應(yīng)方法DANN在A1上的診斷效果優(yōu)于DCNN。如圖6(c)所示,MFSAN在引入多源域自適應(yīng)后明顯縮小了跨域分布差距,但源域不相關(guān)故障類別與共享故障類別之間仍存在明顯的混淆,不足以獲得令人滿意的結(jié)果。從圖6(d)可以看出,MSDAN具有較好的泛化性能,不同故障類別之間的特征重疊最小,源域不相關(guān)故障類別也可以得到較好區(qū)分。
由此可以認(rèn)為,MSDAN在對齊每對源域和目標(biāo)域特征分布的同時,還能有效抑制源域不相關(guān)故障類別的負(fù)遷移影響,從而獲得令人滿意的診斷效果。
針對多源域且標(biāo)簽空間不一致場景下的熱力系統(tǒng)故障診斷問題,本文提出一種多源特征加權(quán)域?qū)咕W(wǎng)絡(luò)MSDAN。該網(wǎng)絡(luò)通過學(xué)習(xí)每對源域和目標(biāo)域的域不變特征對齊域差異分布,同時自適應(yīng)地過濾源域不相關(guān)的樣本,彌補(bǔ)了單源域自適應(yīng)方法無法充分利用源域信息且忽略標(biāo)簽空間不一致的不足。對高加給水加熱器系統(tǒng)進(jìn)行故障仿真試驗分析,結(jié)果驗證了本文方法的有效性,結(jié)果表明:
1)樣本加權(quán)模塊可以降低不相關(guān)源故障類的負(fù)遷移影響,多源域和目標(biāo)域的對抗性學(xué)習(xí)可以有效減少特征分布差異。
2)多分類器對齊模塊可以減少多個分類器之間的差異,并降低不同分類器對目標(biāo)樣本分類不一致的風(fēng)險。
3)在多源域變工況且標(biāo)簽空間不一致的情況下,相較于對比方法,本文方法獲得了令人滿意的診斷結(jié)果,說明其對解決熱力系統(tǒng)故障診斷具有更好的泛化能力。
[1] 魯鵬飛, 薛寧. 超臨界鍋爐超低負(fù)荷調(diào)峰運(yùn)行穩(wěn)燃改造方案研究[J]. 熱力發(fā)電, 2022, 51(1): 87-92. LU PENGFEI, XUE NING. Flame stability upgrading scheme of supercritical boilers for ultra low load peak regulation operation[J]. Thermal Power Generation, 2022, 51(1): 87-92(in Chinese).
[2] 王曉霞, 馬良玉, 祁在山. 基于粒子群和最近鄰的熱力系統(tǒng)變工況動態(tài)過程故障診斷方法[J]. 動力工程學(xué)報, 2014, 34(6): 469-476. WANG XIAOXIA, MA LIANGYU, QI ZAISHAN. Thermal system fault diagnosis in load-varying dynamic process based on PSO algorithm and nearest neighbor classifier[J]. Journal of Chinese Society of Power Engineering, 2014, 34(6): 469-476(in Chinese).
[3] 秦剛?cè)A, 雷麗君, 郭鼎, 等. 燃煤電站高壓加熱器系統(tǒng)故障仿真與診斷[J]. 熱力發(fā)電, 2019, 48(6): 108-114. QIN GANGHUA, LEI LIJUN, GUO DING, et al. Fault simulation and diagnosis for high pressure heater of coal-fired power plants[J]. Thermal Power Generation, 2019, 48(6): 108-114(in Chinese).
[4] 吳國安, 劉春生, 薛雅麗. 基于小波神經(jīng)網(wǎng)絡(luò)的鍋爐故障診斷及應(yīng)用研究[J]. 計算機(jī)與現(xiàn)代化, 2013(7): 109-112. WU GUOAN, LIU CHUNSHENG, XUE YALI. Study of boiler fault diagnosis based on wavelet neural network and its applications[J]. Computer and Modernization, 2013(7): 109-112(in Chinese).
[5] 馬良玉, 劉婷. 不同負(fù)荷低加內(nèi)部泄漏故障神經(jīng)網(wǎng)絡(luò)診斷研究[J]. 計算機(jī)測量與控制, 2016, 24(2): 57-60. MA LIANGYU, LIU TING. Neural network based internal leakage fault diagnosis for low-pressure heater system under multiple load points[J]. Computer Measurement & Control, 2016, 24(2): 57-60(in Chinese).
[6] 袁壯, 董瑞, 張來斌, 等. 深度領(lǐng)域自適應(yīng)及其在跨工況故障診斷中的應(yīng)用[J]. 振動與沖擊, 2020, 39(12): 281-288. YUAN ZHUANG, DONG RUI, ZHANG LAIBIN, et al. Deep domain adaptation and its application in fault diagnosis across working conditions[J]. Journal of Vibration and Shock, 2020, 39(12): 281-288(in Chinese).
[7] 陳仁祥, 朱玉清, 胡小林, 等. 自適應(yīng)正則化遷移學(xué)習(xí)的不同工況下滾動軸承故障診斷[J]. 儀器儀表學(xué)報, 2021, 41(8): 95-103. CHEN RENXIANG, ZHU YUQING, HU XIAOLIN, et al. Fault diagnosis of rolling bearing under different working conditions using adaptation regularization based transfer learning[J]. Chinese Journal of Scientific Instrument, 2021, 41(8): 95-103(in Chinese).
[8] ZHU J, HUANG C G, SHEN C, et al. Cross-domain open-set machinery fault diagnosis based on adversarial network with multiple auxiliary classifiers[J]. IEEE Transactions on Industrial Informatics, 2021, 18(11): 8077-8086.
[9] 夏懿, 徐文學(xué). 一種用于跨域軸承故障診斷的深度自適應(yīng)網(wǎng)絡(luò)[J]. 振動與沖擊, 2022, 41(3): 45-53. XIA YI, XU WENXUE. A deep adaptive network for cross-domain bearing fault diagnosis[J]. Journal of Vibration and Shock, 2022, 41(3): 45-53(in Chinese).
[10] YU X, WANG Y, LIANG Z, et al. An adaptive domain adaptation method for rolling bearings’ fault diagnosis fusing deep convolution and self-attention networks[J]. IEEE Transactions on Instrumentation and Measurement, 2023, 72: 1-14.
[11] 劉嘉濛, 鄭凡帆, 梁麗冰, 等. 基于領(lǐng)域?qū)咕W(wǎng)絡(luò)的軸承故障診斷方法研究[J]. 機(jī)電工程, 2020, 37(3): 227-233. LIU JIAMENG, ZHENG FANFAN, LIANG LIBING, et al. Fault diagnosis method for bearings based on domain adversarial neural networks[J]. Mechanical & Electrical Engineering Magazine, 2020, 37(3): 227-233(in Chinese).
[12] ZHANG Z, PENG L, DAI G, et al. A hybrid adversarial domain adaptation network for bearing fault diagnosis under varying working conditions[J]. IEEE Transactions on Instrumentation and Measurement, 2023, 72: 1-13.
[13] 黃星華, 吳天舒, 楊龍玉, 等. 一種面向旋轉(zhuǎn)機(jī)械的基于Transformer特征提取的域自適應(yīng)故障診斷[J]. 儀器儀表學(xué)報, 2022, 43(11): 210-218. HUANG XINGHUA, WU TIANSHU, YANG LONGYU, et al. Domain adaptive fault diagnosis based on Transformer feature extraction for rotating machinery[J]. Chinese Journal of Scientific Instrument, 2022, 43(11): 210-218(in Chinese).
[14] QIAN Q, QIN Y, LUO J, et al. Deep discriminative transfer learning network for cross-machine fault diagnosis[J]. Mechanical Systems and Signal Processing, 2023, 186: 109884.
[15] GANIN Y, LEMPITSKY V. Unsupervised domain adaptation by backpropagation[C]//International Conference on Machine Learning. Lille, France: PMLR, 2015: 1180-1189.
[16] 陳保家, 陳學(xué)力, 肖文榮, 等. 小樣本下滾動軸承故障的多源域遷移診斷方法[J]. 電子測量與儀器學(xué)報, 2022, 36(2): 219-228. CHEN BAOJIA, CHEN XUELI, XIAO WENRONG, et al. Multi-source domain transfer diagnosis method for rolling bearing faults under small samples[J]. Journal of Electronic Measurement and Instrumentation, 2022, 36(2): 219-228(in Chinese).
[17] CHEN L, LI Q, SHEN C, et al. Adversarial domain- invariant generalization: a generic domain-regressive framework for bearing fault diagnosis under unseen conditions[J]. IEEE Transactions on Industrial Informatics, 2022, 18(3): 1790-1800.
[18] DING Y, DING P, ZHAO X, et al. Transfer learning for remaining useful life prediction across operating conditions based on multisource domain adaptation[J]. IEEE/ASME Transactions on Mechatronics, 2022, 27(5): 4143-4152.
[19] 楊勝康, 孔憲光, 王奇斌, 等. 基于多源域深度遷移學(xué)習(xí)的機(jī)械故障診斷[J]. 振動與沖擊, 2022, 41(9): 32-40. YANG SHENGKANG, KONG XIANGUANG, WANG QIBIN, et al. Mechanical fault diagnosis based on multi- source domain deep transfer learning[J]. Journal of Vibration and Shock, 2022, 41(9): 32-40(in Chinese).
[20] ZHU Y, ZHUANG F, WANG D. Aligning domain- specific distribution and classifier for cross-domain classification from multiple sources[C]//Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto, California USA: AAAI Pres, 2019, 33(1): 5989-5996.
[21] ZHANG M, WANG D, LU W, et al. A deep transfer model with wasserstein distance guided multi- adversarial networks for bearing fault diagnosis under different working conditions[J]. IEEE Access, 2019, 7: 65303-65318.
[22] GANIN Y, USTINOVA E, AJAKAN H, et al. Domain-adversarial training of neural networks[J]. The Journal of Machine Learning Research, 2016, 17(1): 1-35.
[23] WANG X, HE H, LI L. A hierarchical deep domain adaptation approach for fault diagnosis of power plant thermal system[J]. IEEE Transactions on Industrial Informatics, 2019, 15(9): 5139-5148.
[24] LONG M, CAO Y, WANG J, et al. Learning transferable features with deep adaptation networks[C]// International Conference on Machine Learning. Lille, France: PMLR, 2015: 97-105.
[25] SUN B, SAENKO K. Deep coral: correlation alignment for deep domain adaptation[C]//Computer Vision– ECCV 2016 Workshops. Cham, Germany: Springer International Publishing, 2016: 443-450.
[26] AN Y, ZHANG K, CHAI Y, et al. Bearing fault diagnosis under variable working conditions base on contrastive domain adaptation method[J]. IEEE Transactions on Instrumentation and Measurement, 2022, 71: 1-11.
Multi-source Domain Adaption Method for Thermal System Fault Diagnosis with Different Loading Conditions and Categories
WANG Xiaoxia, ZHANG Xiaoxuan
(Department of Computer Science, North China Electric Power University, Baoding 071003, China)
In order to solve the problem of large distribution differences in thermal parameters and inconsistent fault categories under different loading conditions, a thermal system fault diagnosis method based on multi-source sample weighted domain adversarial network is proposed. Firstly, a domain-shared one-dimensional convolutional neural network is constructed to extract the deep discriminate features of multiple source domains and target domain. Secondly, the weighted mechanism and the domain consistency loss measure samples are introduced to reduce the negative transfer impact of fault categories that exist only in the source domains. Furthermore, the feature difference alignment between each pair of source and target domain is achieved by adversarial learning of multi-domain discriminators. Finally, a multi-classifier alignment module is constructed to improve the consistency of predictions, so as to realize the accurate fault diagnosis of thermal system under different working conditions in multiple-source domains. The fault simulation experiments are carried out on a fullscope simulator of a 600 MW power unit, and the results verify the robustness and superiority of the proposed method.
thermal system;fault diagnosis; multi-source domain adaption; adversarial learning
10.3969/j.ISSN.1672-0792.2024.01.008
TP277
A
1672-0792(2024)01-0069-10
河北省自然科學(xué)基金資助項目(F2016502093)。
2023-09-15
王曉霞(1977—),女,副教授,研究方向為人工智能與數(shù)據(jù)挖掘,工業(yè)過程建模與故障診斷;
張曉萱(1997—),女,碩士研究生,研究方向為深度學(xué)習(xí)和故障診斷。
王曉霞