王煜偉，朱靜，史曜煒，鄧艾東

（1.國(guó)家能源集團(tuán) 諫壁發(fā)電廠，江蘇 鎮(zhèn)江 212006；2.河南科技大學(xué) 車輛與交通工程學(xué)院，河南 洛陽 471000；3.東南大學(xué) 能源與環(huán)境學(xué)院，南京 210000）

旋轉(zhuǎn)機(jī)械在現(xiàn)代工業(yè)中扮演著重要的角色，其健康狀態(tài)對(duì)設(shè)備的穩(wěn)定運(yùn)行具有十分重要的影響［1］。建立可靠的故障診斷方法對(duì)于早期預(yù)警和預(yù)測(cè)維修，保障機(jī)組安全運(yùn)行，提高機(jī)組運(yùn)行效率，避免事故發(fā)生具有重要的現(xiàn)實(shí)意義［2］。近些年涌現(xiàn)出的智能故障診斷方法中，以深度學(xué)習(xí)為代表的基于數(shù)據(jù)驅(qū)動(dòng)的方法由于具有優(yōu)化簡(jiǎn)單，對(duì)專家經(jīng)驗(yàn)依賴少等優(yōu)點(diǎn)被廣泛關(guān)注。常見的有卷積神經(jīng)網(wǎng)絡(luò)（CNN）［3］、長(zhǎng)短期記憶網(wǎng)絡(luò)［4］和自編碼網(wǎng)絡(luò)［5］等?；趥鹘y(tǒng)深度學(xué)習(xí)的診斷方法總是依賴于訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)服從相同分布的假設(shè)，即使數(shù)據(jù)是相似的，在一個(gè)領(lǐng)域數(shù)據(jù)（源域）上訓(xùn)練的模型也無法很好地應(yīng)用在其他領(lǐng)域數(shù)據(jù)（目標(biāo)域），如滾動(dòng)軸承不同運(yùn)行工況（轉(zhuǎn)速、載荷）下的振動(dòng)數(shù)據(jù)。

領(lǐng)域自適應(yīng)（Domain Adaptation，DA）是遷移學(xué)習(xí)的分支，其利用有監(jiān)督的源域數(shù)據(jù)和無監(jiān)督的目標(biāo)域數(shù)據(jù)學(xué)習(xí)具有領(lǐng)域不變性的特征，使得在源域建立的診斷模型可以有效應(yīng)用于目標(biāo)域的故障識(shí)別［6?9］。文獻(xiàn)［7］利用Wasserstein 距離構(gòu)造了深度對(duì)抗DA 網(wǎng)絡(luò)，將源域?qū)W習(xí)到的故障知識(shí)遷移到目標(biāo)域進(jìn)行診斷；文獻(xiàn)［8］提出了多源域分解網(wǎng)絡(luò)，從多個(gè)源域中學(xué)習(xí)更豐富的診斷知識(shí)，同時(shí)考慮了每個(gè)領(lǐng)域的私有特征對(duì)知識(shí)遷移的影響。

為降低領(lǐng)域之間的分布差異，現(xiàn)有方法開發(fā)了多種特征對(duì)齊策略，但其對(duì)特征學(xué)習(xí)過程的關(guān)注不夠，尤其是忽略了不同領(lǐng)域特征的尺度特性差異，學(xué)到的特征雖然具有較好的可遷移性，但攜帶的故障信息卻不全面，從而限制了模型性能的提升及其適用性。滾動(dòng)軸承的振動(dòng)信號(hào)通常表現(xiàn)出多尺度特性且在多個(gè)時(shí)間尺度上包含復(fù)雜的模式［10］，為此一些研究者提出了多尺度學(xué)習(xí)框架［11?12］，利用多個(gè)尺度并行提取特征并加以融合以獲取豐富的故障信息，如文獻(xiàn)［11］通過設(shè)置不同尺度的卷積核建立了并行的多尺度特征提取分支，試圖學(xué)習(xí)振動(dòng)信號(hào)中故障特征多樣的表征模式。此外，還有一些研究從動(dòng)態(tài)特征提取的層面展開［13?14］，通過構(gòu)造動(dòng)態(tài)卷積網(wǎng)絡(luò)并根據(jù)不同的輸入數(shù)據(jù)自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)以實(shí)現(xiàn)差異化的特征學(xué)習(xí)方式。然而，由于軸承的運(yùn)行工況多變，跨工況下的故障特征尺度的特性差異不僅存在于每個(gè)領(lǐng)域內(nèi)，領(lǐng)域之間的差異同樣存在且更為復(fù)雜。

綜上，本文提出基于可遷移注意力的領(lǐng)域自適應(yīng)網(wǎng)絡(luò)（Transferable Attention Based Domain Adap?tation Network，TADAN），用于滾動(dòng)軸承的跨工況故障診斷，通過學(xué)習(xí)包含豐富故障信息的領(lǐng)域不變特征，在無監(jiān)督目標(biāo)域?qū)崿F(xiàn)高性能的故障診斷。

1 理論分析

1.1 領(lǐng)域自適應(yīng)

本文的研究目的是從有監(jiān)督的源域和無監(jiān)督的目標(biāo)域中學(xué)習(xí)具有領(lǐng)域不變性和故障類別判別性的特征表示，從而識(shí)別目標(biāo)數(shù)據(jù)的故障類型。

設(shè)DS=為有nS個(gè)樣本?標(biāo)簽對(duì)的有監(jiān)督源域，DT={DT，train，DT，test}為目標(biāo)域。分別為用于訓(xùn)練的無監(jiān)督目標(biāo)數(shù)據(jù)和用于測(cè)試的有監(jiān)督目標(biāo)數(shù)據(jù)。YS，PS分別為源域的標(biāo)簽空間和數(shù)據(jù)分布；YT，PT分別為目標(biāo)域的標(biāo)簽空間和數(shù)據(jù)分布；它們具有相同的標(biāo)簽空間但數(shù)據(jù)分布不同，即YS=YT，PS≠PT。則本文的目的是從DS和DT，train中學(xué)習(xí)一個(gè)共享的函數(shù)映射，使其能夠在DT，test上實(shí)現(xiàn)高性能的診斷。

1.2 領(lǐng)域?qū)褂?xùn)練

領(lǐng)域?qū)褂?xùn)練被廣泛地應(yīng)用在遷移學(xué)習(xí)中，用于消除不同領(lǐng)域數(shù)據(jù)間的分布差異［15］，其核心思想是在訓(xùn)練分類器C 識(shí)別來自源域特征對(duì)應(yīng)故障類別的同時(shí)，構(gòu)造一個(gè)領(lǐng)域判別器D 和特征提取器G 進(jìn)行最小化?最大化對(duì)抗訓(xùn)練［16］，使G 可以從源域和目標(biāo)域中提取領(lǐng)域不變的特征表示f。

令θG，θC和θD分別為子網(wǎng)絡(luò)G，C，D 的參數(shù)，則對(duì)抗訓(xùn)練的優(yōu)化目標(biāo)為

式中：Lc，Ld分別為分類損失和領(lǐng)域判別損失；λ為折中系數(shù)，用于平衡2 個(gè)損失，λ＞0；yi，di分別為樣本xi的類別標(biāo)簽和領(lǐng)域標(biāo)簽。

基于（1）式，網(wǎng)絡(luò)的參數(shù)可優(yōu)化為

1.3 動(dòng)態(tài)卷積

傳統(tǒng)的靜態(tài)網(wǎng)絡(luò)對(duì)所有輸入數(shù)據(jù)采用相同的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)，面對(duì)多樣化的輸入時(shí)，其特征學(xué)習(xí)能力會(huì)受到削弱。動(dòng)態(tài)卷積［17］在每次執(zhí)行卷積的過程中，隨機(jī)生成的卷積核不再單一，而是M個(gè)子卷積核的加權(quán)累加，因此可以根據(jù)不同的輸入數(shù)據(jù)自適應(yīng)地調(diào)整卷積核，針對(duì)性地提取有效特征，從而強(qiáng)化網(wǎng)絡(luò)學(xué)習(xí)能力。動(dòng)態(tài)卷積的結(jié)構(gòu)如圖1所示，子卷積核（convm）享有相同的尺寸和輸入輸出維度，其權(quán)重系數(shù)（πm）由輸入數(shù)據(jù)動(dòng)態(tài)決定，權(quán)重系數(shù)的生成采用squeeze?and?excitation方法。

圖1 動(dòng)態(tài)卷積結(jié)構(gòu)示意圖Fig.1 Structure diagram of dynamic convolution

2 TADAN故障診斷方法

2.1 網(wǎng)絡(luò)架構(gòu)

基于可遷移注意力的領(lǐng)域自適應(yīng)網(wǎng)絡(luò)的架構(gòu)如圖2 所示，由包含K個(gè)尺度分支的特征提取器G ={Gk}K k=1，可遷移性計(jì)算模塊，領(lǐng)域判別器D 和分類器C 構(gòu)成。每個(gè)特征提取分支由多個(gè)卷積層構(gòu)成，可通過設(shè)置不同的卷積核感受野實(shí)現(xiàn)不同尺度特征的提取。為降低模型復(fù)雜度并減少訓(xùn)練參數(shù)，只在最后一個(gè)卷積層采用動(dòng)態(tài)卷積。具體的數(shù)據(jù)流動(dòng)為：來自源域和目標(biāo)域的原始振動(dòng)信號(hào)被送入網(wǎng)絡(luò)，經(jīng)多個(gè)尺度特征提取分支獲得不同尺度的特征表示；可遷移計(jì)算模塊對(duì)這些特征的可遷移性進(jìn)行評(píng)估并分配權(quán)重，加權(quán)后的多尺度特征被進(jìn)一步融合去冗，從而獲得高等級(jí)的抽象特征表示fh；一方面，來自源域和目標(biāo)域的fh被送入D進(jìn)行對(duì)抗訓(xùn)練，促使其領(lǐng)域不變；另一方面，來自源域的fh被送入C 并映射到故障類別，學(xué)習(xí)判別性的診斷信息。當(dāng)網(wǎng)絡(luò)訓(xùn)練完備后，特征提取器最終獲取的特征表示fh應(yīng)當(dāng)是攜帶大量故障識(shí)別信息且對(duì)分布差異不敏感，可以應(yīng)用于無監(jiān)督目標(biāo)域的診斷任務(wù)。

圖2 TADAN網(wǎng)絡(luò)架構(gòu)Fig.2 Architecture of TADAN

2.2 可遷移計(jì)算模塊

可遷移計(jì)算模塊的作用是計(jì)算不同尺度特征在2個(gè)領(lǐng)域之間的可遷移性，從而給予可遷移性高的尺度特征以更高的關(guān)注度，促進(jìn)知識(shí)的有效遷移?？蛇w移計(jì)算模塊中包含K個(gè)尺度領(lǐng)域判別器，分別對(duì)應(yīng)K個(gè)特征提取分支。判別器的輸出為該尺度特征屬于源域或目標(biāo)域的概率，應(yīng)用熵函數(shù)H（p） =?∑pilogpi即可量化特征的可遷移性。特征越不容易被判別來源，越容易被混淆，則表示該特征越適合遷移。可遷移計(jì)算模塊最終輸出不同尺度特征的權(quán)重集合，可表示為

2.3 網(wǎng)絡(luò)訓(xùn)練

式中：ε為學(xué)習(xí)率。

2.4 故障診斷流程

具體的模型訓(xùn)練與診斷流程如下：

1）獲取數(shù)據(jù)。以工況A 下的有監(jiān)督數(shù)據(jù)作為源域，其他工況（如工況B）下的無監(jiān)督數(shù)據(jù)作為目標(biāo)域。

2）將源域與目標(biāo)域數(shù)據(jù)同時(shí)輸入TADAN 網(wǎng)絡(luò)中，經(jīng)過特征提取器G 得到分別屬于源域和目標(biāo)域的多個(gè)尺度特征。

3）將源域和目標(biāo)域的同尺度特征分別送入可遷移計(jì)算模塊，計(jì)算不同尺度特征的可遷移性以獲取尺度權(quán)重= 1。

4）利用尺度權(quán)重對(duì)多尺度特征進(jìn)行加權(quán)融合，獲取高等級(jí)的抽象特征表示fh。

5）將特征表示fh送入領(lǐng)域判別器和分類器計(jì)算領(lǐng)域判別損失和分類損失。

6）將得到損失之和進(jìn)行反向傳播，并更新模型參數(shù)。

7）重復(fù)上述步驟，直至損失值趨于穩(wěn)定，訓(xùn)練收斂，模型訓(xùn)練結(jié)束。

8）將工況B 下的數(shù)據(jù)輸入訓(xùn)練完成的診斷模型，輸出變工況下的故障類型識(shí)別結(jié)果。

3 試驗(yàn)分析

3.1 數(shù)據(jù)集介紹

本文使用2 個(gè)公開的軸承數(shù)據(jù)集構(gòu)造試驗(yàn)以驗(yàn)證所提方法的有效性。

3.1.1 帕德伯恩大學(xué)滾動(dòng)軸承數(shù)據(jù)集

帕德伯恩大學(xué)（Paderborn University，PB）滾動(dòng)軸承公開數(shù)據(jù)集［18］的試驗(yàn)軸承為6203型深溝球軸承，內(nèi)、外徑分別為24.0 ，33.1 mm，鋼球數(shù)量為8，球徑為6.75 mm。試驗(yàn)數(shù)據(jù)包含6 種軸承狀態(tài)，分別是正常狀態(tài)N，3 種不同損傷程度的內(nèi)圈故障（IR1，IR2，IR3）以及2種不同損傷程度的外圈故障（OR1，OR2），其類別標(biāo)簽依次被標(biāo)記為0～5。軸承故障的具體描述見表1，損傷程度根據(jù)損傷表面在滾動(dòng)方向上的長(zhǎng)度進(jìn)行分類，損傷等級(jí)1，2，3代表的損傷長(zhǎng)度分別為0～2，2.0～4.5，4.5～13.5 mm。故障軸承振動(dòng)信號(hào)的時(shí)域波形如圖3所示，除幅值略有區(qū)別外，很難通過肉眼分辨不同故障。

表1 PB數(shù)據(jù)集軸承故障描述Tab.1 Description of bearing faults in PB dataset

圖3 PB數(shù)據(jù)集中故障軸承振動(dòng)信號(hào)時(shí)域波形Fig.3 Time domain waveform of faulty bearing vibration signals in PB dataset

振動(dòng)數(shù)據(jù)收集自4 種運(yùn)行工況，采樣頻率為64 kHz。根據(jù)工況將數(shù)據(jù)分割為4 個(gè)獨(dú)立域A，B，C，D，每個(gè)域的細(xì)節(jié)信息見表2。在原始振動(dòng)信號(hào)上執(zhí)行滑動(dòng)窗分割以獲取數(shù)據(jù)樣本，每個(gè)樣本包含2400個(gè)數(shù)據(jù)點(diǎn)。以某一個(gè)領(lǐng)域?yàn)樵从?，剩?個(gè)領(lǐng)域?yàn)槟繕?biāo)域，共建立了12 個(gè)跨域診斷任務(wù)（表3）。對(duì)于每個(gè)診斷任務(wù)，所有源域樣本（有監(jiān)督）和70%的目標(biāo)域樣本（無監(jiān)督）用于訓(xùn)練，剩下的30%目標(biāo)域樣本（有監(jiān)督）用于測(cè)試。

表2 PB數(shù)據(jù)集領(lǐng)域信息Tab.2 Domain information in PB dataset

表3 PB數(shù)據(jù)集診斷任務(wù)Tab.3 Diagnostic tasks in PB dataset

3.1.2 江南大學(xué)軸承數(shù)據(jù)集

江南大學(xué)軸承數(shù)據(jù)集［19］的軸承狀態(tài)包括正常（N）、外圈損傷（OR）、內(nèi)圈損傷（IR）和滾子損傷（RE）。損傷軸承通過線切割得到，內(nèi)、外圈損傷尺寸（寬×深）均為0.30 mm×0.25 mm，滾子損傷尺寸為0.50 mm×0.15 mm。內(nèi)圈損傷軸承型號(hào)為NU205，其他狀態(tài)軸承的型號(hào)為N205，N205 和NU205 型軸承的內(nèi)徑均為25 mm，外徑均為52 mm，滾子直徑均為7 mm，滾子數(shù)分別為10，11。

振動(dòng)數(shù)據(jù)收集自600，800，1000 r/min 工況，采樣頻率為50 kHz。領(lǐng)域分割和數(shù)據(jù)集劃分方式與PB數(shù)據(jù)集相同，分為E，F(xiàn)，G三個(gè)域，共建立6個(gè)跨域診斷任務(wù)，見表4。

表4 江南大學(xué)數(shù)據(jù)集診斷任務(wù)Tab.4 Diagnostic tasks in Jiangnan University dataset

3.2 試驗(yàn)設(shè)置

TADAN 的網(wǎng)絡(luò)結(jié)構(gòu)見表5，尺度分支K設(shè)置為3，卷積?池化的參數(shù)為（卷積核數(shù)量，卷積核尺寸）?（池化尺寸，池化步長(zhǎng)），動(dòng)態(tài)卷積均應(yīng)用在特征提取分支的最后一個(gè)卷積層，其子卷積核數(shù)M設(shè)置為4。此外，可遷移計(jì)算模塊中的K個(gè)尺度領(lǐng)域判別器與網(wǎng)絡(luò)最后的領(lǐng)域判別器結(jié)構(gòu)相同。

表5 TADAN的網(wǎng)絡(luò)拓?fù)渑c參數(shù)Tab.5 Topology and parameters of TADAN

網(wǎng)絡(luò)訓(xùn)練過程中，使用Kaiming 初始化方法初始化網(wǎng)絡(luò)參數(shù)，折中參數(shù)λ設(shè)置為0.1；采用隨機(jī)梯度下降優(yōu)化器，動(dòng)量為0.9，學(xué)習(xí)率衰減為5×10?4；初始學(xué)習(xí)率為0.01；總訓(xùn)練次數(shù)為120次。每次試驗(yàn)重復(fù)5次后記錄其平均值。

3.3 對(duì)比方法

為驗(yàn)證所提方法的有效性和優(yōu)越性，構(gòu)建多個(gè)不同的模型用于對(duì)比分析：

1） SCNN。標(biāo)準(zhǔn)的單尺度卷積神經(jīng)網(wǎng)絡(luò)模型，其特征提取器采用TADAN 中的特征提取分支3。SCNN 不涉及領(lǐng)域自適應(yīng)（移除了領(lǐng)域判別器和可遷移計(jì)算模塊），僅采用傳統(tǒng)的有監(jiān)督學(xué)習(xí)方式，即訓(xùn)練樣本中不包含無監(jiān)督的目標(biāo)域數(shù)據(jù)。此外，SCNN特征提取器不采用動(dòng)態(tài)卷積。

2） MCNN。多尺度卷積神經(jīng)網(wǎng)絡(luò)模型，與TADAN 具有相同的網(wǎng)絡(luò)結(jié)構(gòu)（未使用動(dòng)態(tài)卷積），訓(xùn)練方式與SCNN相同，為傳統(tǒng)的有監(jiān)督訓(xùn)練。

3） DAN。與MCNN 相比，DAN 方法增加了領(lǐng)域判別器，遵循標(biāo)準(zhǔn)的對(duì)抗訓(xùn)練方式。

4） TA?DC。TADAN不采用動(dòng)態(tài)卷積的版本。

3.4 結(jié)果分析

2個(gè)試驗(yàn)案例的測(cè)試結(jié)果見表6，以PB數(shù)據(jù)集為例進(jìn)行說明：

表6 各模型對(duì)不同軸承數(shù)據(jù)集的測(cè)試準(zhǔn)確率Tab.6 Test accuracy of each model for different bearing datasets%

1）SCNN 的診斷性能在所有對(duì)比方法中最差，平均準(zhǔn)確率只有63.43%；MSCNN的診斷準(zhǔn)確率在SCNN 的基礎(chǔ)上提高了4.61%，證明了多尺度學(xué)習(xí)策略能夠通過學(xué)習(xí)更豐富的故障特征提高模型診斷性能，但SCNN 和MSCNN 的準(zhǔn)確率均低于70%，遠(yuǎn)不能滿足高性能的診斷需求，這也是訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)之間的分布差異所導(dǎo)致的結(jié)果，在源域上訓(xùn)練的模型很難泛化到目標(biāo)域的診斷任務(wù)中。

2）DAN方法對(duì)12個(gè)診斷任務(wù)的平均準(zhǔn)確率達(dá)到了83.31%，比MCNN 高15.27%，而且在多個(gè)跨域診斷任務(wù)上的準(zhǔn)確率超過95%，表明領(lǐng)域自適應(yīng)策略對(duì)于處理存在分布差異的診斷問題十分有效。

3）在DAN 的基礎(chǔ)上，TA?DC 和TADAN 又將平均準(zhǔn)確率分別提高了2.48%和3.26%，在任務(wù)T2 和T7 上的測(cè)試準(zhǔn)確率甚至超過99.5%，說明可遷移注意力策略和動(dòng)態(tài)卷積的應(yīng)用對(duì)促進(jìn)模型遷移，提高跨域診斷性能積極且有益。

4）TADAN 幾乎在所有診斷任務(wù)上均獲得了最好的診斷性能，在PB 數(shù)據(jù)集和江南大學(xué)數(shù)據(jù)集中的平均診斷準(zhǔn)確率分別為86.57%和91.91%，具有較好的穩(wěn)定性。

為深入探究樣本誤分類和所提方法有效的原因，將所有模型在任務(wù)T9 上的一次測(cè)試結(jié)果以混淆矩陣的形式展現(xiàn)，結(jié)果如圖4 所示：SCNN 和MCNN 診斷準(zhǔn)確率低的原因主要是無法準(zhǔn)確識(shí)別IR2（標(biāo)簽2）和OR2（標(biāo)簽5），總將OR2 誤分類為OR1；相比之下，TADAN 對(duì)各類別樣本的識(shí)別準(zhǔn)確率有大幅提升，除將少數(shù)OR2誤分類為OR1之外，在其他類型故障的分類上幾乎達(dá)到了100%的準(zhǔn)確率，再一次證明了TADAN 優(yōu)秀的故障特征學(xué)習(xí)能力和知識(shí)遷移能力。

圖4 不同方法在任務(wù)T9上測(cè)試結(jié)果的混淆矩陣Fig.4 Confusion matrices of results tested by different methods on task T9

4 結(jié)論

為強(qiáng)化跨工況故障診斷模型的特征學(xué)習(xí)能力和領(lǐng)域適應(yīng)能力，本文提出了一種基于可遷移注意力和動(dòng)態(tài)卷積的旋轉(zhuǎn)機(jī)械故障診斷方法TADAN，通過試驗(yàn)對(duì)比可得出以下結(jié)論：

1）基于動(dòng)態(tài)卷積的多尺度特征提取器可以提取更豐富的特征并提高模型的自適應(yīng)能力，使模型在面對(duì)不同數(shù)據(jù)集任務(wù)時(shí)更具魯棒性。

2）可遷移計(jì)算模塊可進(jìn)一步量化多尺度特征的可遷移性并在特征制度層面強(qiáng)化其整體差異化，促進(jìn)領(lǐng)域不變特征的學(xué)習(xí)，降低負(fù)遷移風(fēng)險(xiǎn)。

3）TADAN 在2個(gè)跨域診斷任務(wù)案例上的平均測(cè)試準(zhǔn)確率分別達(dá)到了86.57%和91.91%，高出傳統(tǒng)有監(jiān)督學(xué)習(xí)方法23.14%和9.28%，高出標(biāo)準(zhǔn)領(lǐng)域自適應(yīng)方法3.26%和2.94%，具有較好的穩(wěn)定性，適用于滾動(dòng)軸承跨域診斷任務(wù)并具有較好的應(yīng)用前景。