張 凱 楊朋澄 彭開香 陳志文

現(xiàn)代復(fù)雜工業(yè)過程的大規(guī)模連續(xù)生產(chǎn)給制造業(yè)帶來高效益的同時(shí)也增大了事故風(fēng)險(xiǎn).由于工業(yè)過程中的控制回路、過程變量相互耦合,一個(gè)部位的異常變化可能會隨著傳播不斷演變,微小的故障也可能引起更嚴(yán)重的故障[1].因此,準(zhǔn)確判斷系統(tǒng)的故障程度并按照故障程度的不同調(diào)整生產(chǎn)決策和控制策略,能夠提高生產(chǎn)的高效性和產(chǎn)品質(zhì)量的穩(wěn)定性.目前,工業(yè)過程故障等級評估方法已在有色金屬[2]、化工[3]、電力[4]、高鐵[5]、船舶[6]等行業(yè)成功應(yīng)用,并取得良好效果.

隨著工業(yè)自動化與數(shù)據(jù)存儲技術(shù)的快速發(fā)展,基于數(shù)據(jù)驅(qū)動的故障等級評估方法被提出和廣泛應(yīng)用[7-9],如多元統(tǒng)計(jì)分析、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等.常用的多元統(tǒng)計(jì)分析方法包括主元分析 (Principal component analysis,PCA)[10]、偏最小二乘 (Partial least squares,PLS)[11]及其拓展方法等,這些特征提取方法通過將高維數(shù)據(jù)投影到低維空間來提取關(guān)鍵信息,并用于進(jìn)一步的故障評估研究.隨著人工智能的發(fā)展,支持向量機(jī) (Support vector machine,SVM)[12]、判別分析 (Fisher discriminant analysis,FDA)[13]等典型機(jī)器學(xué)習(xí)方法被廣泛應(yīng)用,這類方法通過建立過程數(shù)據(jù)與評估指標(biāo)之間的映射關(guān)系來實(shí)現(xiàn)故障評估.其中,SVM 通過高維空間映射尋找最優(yōu)分類超平面,而FDA 通過降維投影建立判別函數(shù).然而,這些方法大多局限于淺層學(xué)習(xí),可能無法很好地處理非線性耦合數(shù)據(jù),在故障評估中常與其他特征選擇和提取方法相結(jié)合.近年來,深度學(xué)習(xí)因其能夠自動提取大規(guī)模非線性數(shù)據(jù)的深層特征而被廣泛研究與應(yīng)用,如卷積神經(jīng)網(wǎng)絡(luò)(Convolutional neural network,CNN)[14]、堆疊自動編碼器 (Stacked auto-encoder,SAE)[15]和深度置信網(wǎng)絡(luò) (Deep belief network,DBN)[16]等.其中,DBN 通過數(shù)據(jù)的概率分布來提取高層表示,與其他網(wǎng)絡(luò)相比,DBN 兼具生成模型和判別模型雙重屬性,具有模型結(jié)構(gòu)簡單、訓(xùn)練難度小、易于拓展等優(yōu)點(diǎn).目前,DBN 已在圖像處理、語音識別、醫(yī)學(xué)診斷等任務(wù)中得到了廣泛的關(guān)注和研究[17].

上述特征提取方法側(cè)重于建立單模態(tài)的故障評估模型.然而,實(shí)際過程中往往存在多種工作模態(tài),操作條件的變化、產(chǎn)品規(guī)格的多樣性等使工業(yè)過程運(yùn)行工況復(fù)雜多變,傳統(tǒng)的單模態(tài)故障等級評估方法難以有效地提取和分析潛在的多模態(tài)數(shù)據(jù)特征,需要構(gòu)建適用于多模態(tài)過程的特征提取模型和評估指標(biāo).一類常見的方法是將PCA、PLS 等基于多元統(tǒng)計(jì)的方法擴(kuò)展至多模態(tài).例如,文獻(xiàn)[18] 利用多空間PCA 獲取不同模態(tài)的獨(dú)立特征,根據(jù)投影位置來評估在線過程運(yùn)行狀態(tài),并綜合經(jīng)濟(jì)指標(biāo)來劃分性能等級.文獻(xiàn)[19] 采用最小體積橢圓自適應(yīng)地對各模態(tài)特征方差的子空間進(jìn)行建模,并根據(jù)子空間之間的距離設(shè)計(jì)評估退化指標(biāo).文獻(xiàn)[20] 將經(jīng)濟(jì)指標(biāo)信息融入到慢特征分析中,協(xié)同感知復(fù)雜工業(yè)過程的靜-動態(tài)特性變化,實(shí)現(xiàn)了對運(yùn)行狀態(tài)的綜合評價(jià).為了提高對具有非線性、動態(tài)性多模態(tài)過程的處理能力,一些基于概率的評估框架被提出,如貝葉斯網(wǎng)絡(luò) (Bayesian network,BN)[21]、高斯混合模型 (Gaussian mixture model,GMM)[22]等.盡管上述方法在一定程度上解決了非線性問題,但每個(gè)模態(tài)中仍存在線性假設(shè),影響了評估的準(zhǔn)確性.當(dāng)面對復(fù)雜的非線性和高維變量時(shí),深度學(xué)習(xí)表現(xiàn)出更好的潛力,基于深度學(xué)習(xí)的評估模型受到越來越多的研究.文獻(xiàn)[23] 提出了基于條件生成對抗網(wǎng)絡(luò)的多模態(tài)圖像質(zhì)量評估方法,以平均意見分?jǐn)?shù)建立評估指標(biāo),通過雙通道自編碼器 (Autoencoder,AE) 提取兩個(gè)模態(tài)不同深度的特征,并在注意力機(jī)制的監(jiān)督下進(jìn)行分層融合特征.文獻(xiàn)[24] 針對多模態(tài)過程建立多個(gè)AE 模型,并將數(shù)據(jù)壓縮到一個(gè)共同的更小的潛在空間后進(jìn)行跨模態(tài)重構(gòu),充分利用了故障信息.文獻(xiàn)[25]提出一種基于DBN 的主動遷移學(xué)習(xí)方法,通過DBN 挖掘輸入特征與暫態(tài)評估結(jié)果之間的非線性映射關(guān)系,并結(jié)合主動遷移方法提高了在線應(yīng)用的快速性和魯棒性.

現(xiàn)有的多模態(tài)過程故障等級評估方法針對不同的運(yùn)行模態(tài)分別建立評估模型,僅考慮在所有模態(tài)的故障等級數(shù)據(jù)均已知條件下如何通過優(yōu)化學(xué)習(xí)網(wǎng)絡(luò)來提高評估的準(zhǔn)確率,未考慮在某些運(yùn)行模態(tài)各種故障等級信息未知下如何改進(jìn)和優(yōu)化算法.并且大部分方法只關(guān)注各模態(tài)數(shù)據(jù)的獨(dú)有特征,缺少對各模態(tài)間共性特征的建模與分析.實(shí)際上,盡管模態(tài)在進(jìn)行切換,但并不是所有變量的相關(guān)性都隨模態(tài)切換發(fā)生改變,一些多模態(tài)過程具有明顯的共同信息.例如,在帶鋼熱連軋過程生產(chǎn)不同規(guī)格板帶時(shí),上游機(jī)架軋制力和輥縫變量遵循相似的軌跡,而彎輥力變量往往表現(xiàn)出不同的特性.因此,分別提取多模態(tài)過程的共性特征和各運(yùn)行模態(tài)的個(gè)性特征[26],并根據(jù)故障對共性特征和個(gè)性特征的影響構(gòu)建評估模型,可通過共性特征實(shí)現(xiàn)對部分模態(tài)缺失信息的補(bǔ)充,提高多模態(tài)過程故障評估的準(zhǔn)確性.本文的故障等級評估方法示意圖如圖1 所示.

圖1 融合共性-個(gè)性特征的故障評估方法示意圖Fig.1 Schematic diagram of fault evaluation method integrating common and specific features

針對多模態(tài)過程的故障等級評估問題,本文以DBN 為特征提取基礎(chǔ)模型并進(jìn)行深層次拓展,提出了一種基于共性-個(gè)性深度置信網(wǎng)絡(luò) (Common and specific deep belief network,CS-DBN) 的故障等級評估方法.首先,針對多模態(tài)過程數(shù)據(jù),構(gòu)建一種CS-DBN 模型來提取模態(tài)間的共性特征和個(gè)性特征;其次,提出融合共性-個(gè)性特征的故障等級評估方法,考慮到兩種特征對每個(gè)等級指標(biāo)的重要性不同,給共性-個(gè)性特征分配不同的權(quán)重因子;最后,將所提方法應(yīng)用到帶鋼熱連軋過程中,利用實(shí)際過程數(shù)據(jù)驗(yàn)證所提方法的有效性.

1 問題提出與基本思路

本節(jié)以熱連軋過程故障等級評估為例,介紹問題的提出與基本思路.圖2 展示了3 種規(guī)格帶鋼生產(chǎn)過程中第2 機(jī)架軋制力的采樣數(shù)據(jù),若把3 種規(guī)格帶鋼生產(chǎn)過程視為3 種運(yùn)行模態(tài),可以看出,3 種模態(tài)的軋制力數(shù)據(jù)具有共性,即開始軋制階段呈現(xiàn)上升趨勢.另外,它們還有各自的獨(dú)有特征,如模態(tài)3 軋制力增長到一定程度就趨于穩(wěn)定,而另外兩個(gè)模態(tài)軋制力分別呈現(xiàn)持續(xù)增長和持續(xù)下降的特征.傳統(tǒng)故障等級評估方法大多根據(jù)故障的大小判斷故障等級,忽視了故障對變量變化趨勢等深層次特征的影響,因此容易出現(xiàn)誤評估情況.以軋制力故障為例,該種故障在熱連軋過程中屬于較為嚴(yán)重的故障,3 種模態(tài)的軋制力故障下的軋制力數(shù)據(jù)如圖3 所示.若已知模態(tài)1 和模態(tài)3 的軋制力故障數(shù)據(jù),利用訓(xùn)練好的評估模型評估模態(tài)2 的故障等級,如圖3 所示,由于模態(tài)1 和模態(tài)3 所訓(xùn)練的評估模型并不能完全覆蓋到模態(tài)2 故障數(shù)據(jù)的全部信息,因此傳統(tǒng)方法容易將該故障錯(cuò)評為一般故障或者正常.若利用模態(tài)2 的故障數(shù)據(jù)提取共性特征,如圖3所示,該故障對共性特征的影響較大,利用模態(tài)1和模態(tài)3 共性特征訓(xùn)練好的評估模型可將此故障正確地評估為嚴(yán)重故障.彎輥力故障也是熱連軋過程經(jīng)常發(fā)生的故障,當(dāng)彎輥力發(fā)生異常后,會間接影響軋制力的動態(tài)設(shè)定,該故障對帶鋼產(chǎn)品的厚度影響較小,常被當(dāng)做輕微的故障.圖4 給出了3 種模態(tài)彎輥力故障下的數(shù)據(jù)曲線,如果利用模態(tài)1 和模態(tài)2 的故障數(shù)據(jù)訓(xùn)練評估模型并評估模態(tài)3 的故障等級,由于模態(tài)3 的故障數(shù)據(jù)范圍已經(jīng)超越了模態(tài)1 和模態(tài)2 的故障數(shù)據(jù)范圍,傳統(tǒng)的評估方法易將該故障誤評為嚴(yán)重故障.而如果利用模態(tài)3 故障數(shù)據(jù)提取的共性特征來評估,如圖4 所示,由于共性特征并沒有受到較大影響,因此可被正確評估為輕微故障.因此,可以看出,若不考慮各模態(tài)間的共性特征和個(gè)性特征,很容易導(dǎo)致錯(cuò)誤的評估結(jié)果.

圖2 熱連軋過程單變量共性-個(gè)性特征分解示意圖Fig.2 Schematic diagram of single variable common and specific feature decomposition in hot rolling process

圖3 軋制力故障共性特征等級評估示意圖Fig.3 Schematic diagram for evaluating the common feature grades of rolling force faults

圖4 彎輥力故障共性特征等級評估示意圖Fig.4 Schematic diagram for evaluating the common feature grades of bending force faults

基于以上思路,剩余部分的具體工作包括: 第一,構(gòu)建共性-個(gè)性深度置信網(wǎng)絡(luò)模型,實(shí)現(xiàn)式 (1)和式 (2) 所描述的映射關(guān)系;第二,提出融合共性-個(gè)性特征進(jìn)行故障等級評估的方法.

2 共性-個(gè)性深度置信網(wǎng)絡(luò)

本節(jié)提出了CS-DBN 模型來提取各模態(tài)數(shù)據(jù)中隱含的共性特征和個(gè)性特征,同時(shí)結(jié)合已有方法總結(jié)了CS-DBN 的特點(diǎn).

2.1 特征提取網(wǎng)絡(luò)結(jié)構(gòu)

多模態(tài)共性-個(gè)性特征提取框架如圖5 所示.網(wǎng)絡(luò)由三部分組成,分別是預(yù)訓(xùn)練網(wǎng)絡(luò)、特征變換網(wǎng)絡(luò)和重構(gòu)網(wǎng)絡(luò).預(yù)訓(xùn)練網(wǎng)絡(luò)建立并行DBN,以標(biāo)準(zhǔn)化后的模態(tài)數(shù)據(jù)Xm作為各子網(wǎng)絡(luò)輸入,提取各模態(tài)數(shù)據(jù)的深層特征Zm.特征變換網(wǎng)絡(luò)將每種模態(tài)的特征分別分解為共性特征和個(gè)性特征,以預(yù)訓(xùn)練網(wǎng)絡(luò)的輸出Zm作為輸入,結(jié)合MK-MMD(Multi-kernel maximum mean discrepancy)[27],將每個(gè)模態(tài)特征數(shù)據(jù)映射為具有最小分布距離的共性特征和具有最大分布距離的個(gè)性特征.同時(shí),為了增強(qiáng)模型的魯棒性,首先,將獲得的各模態(tài)共性特征和個(gè)性特征通過多層感知機(jī) (Multilayer,perceptron,MLP)[25]層映射至共同的ζ維度;然后,將第m個(gè)模態(tài)學(xué)習(xí)得到的共性-個(gè)性特征與其他模態(tài)的共性特征進(jìn)行加性融合,以從其他模態(tài)學(xué)習(xí)到的共性特征來增強(qiáng)該模態(tài)共性信息的表示,進(jìn)而作為重構(gòu)網(wǎng)絡(luò)的輸入.重構(gòu)網(wǎng)絡(luò)利用權(quán)重矩陣的轉(zhuǎn)置重構(gòu)輸入數(shù)據(jù)得到通常采用反向傳播 (Back propagation,BP) 算法,使用重構(gòu)數(shù)據(jù)與原始數(shù)據(jù)的誤差平方和進(jìn)行反向調(diào)參,以無監(jiān)督的方式對整個(gè)網(wǎng)絡(luò)進(jìn)行參數(shù)的全局優(yōu)化.

圖5 DBN 與CS-DBN 網(wǎng)絡(luò)結(jié)構(gòu)示意圖Fig.5 Schematic diagram of DBN and CS-DBN network structure

2.2 DBN 預(yù)訓(xùn)練

圖5 展示了通過DBN 逐層預(yù)訓(xùn)練提取每個(gè)模態(tài)運(yùn)行數(shù)據(jù)特征的過程.DBN 由多個(gè)受限玻爾茲曼機(jī) (Restricted Boltzman machine,RBM) 堆疊而成,RBM 由可見層和隱藏層組成,將前一個(gè)RBM 的隱藏層輸出作為下一個(gè)RBM 可見層的輸入,自下而上初始化DBN 的參數(shù).在訓(xùn)練過程中,單個(gè)RBM 采用對比散度 (Contrastive divergence,CD)[28]算法進(jìn)行一步吉布斯采樣,參數(shù)更新公式為

式中,vi和ai分別表示第i個(gè)可見單元的狀態(tài)和偏置,hj和bj分別表示第j個(gè)隱藏單元的狀態(tài)和偏置,為顯層和隱層通過條件概率采樣生成的重構(gòu)數(shù)據(jù);w ij為第i個(gè)可見單元及第j個(gè)隱藏單元間的連接權(quán)重;ε為學(xué)習(xí)率.此外,為了提高訓(xùn)練的速度,避免過擬合,本文將w ij,ai和bj的更新規(guī)則分別改進(jìn)為

式中,α為加速學(xué)習(xí)過程的動量,t表示迭代的次數(shù),ξ為權(quán)重衰減項(xiàng).通過這種方式逐個(gè)訓(xùn)練RBM.在提出的模型中,第一層的可見單元是實(shí)值,使用高斯受限玻爾茲曼機(jī)來訓(xùn)練網(wǎng)絡(luò)的第一層[29],然后使用伯努利受限玻爾茲曼機(jī)進(jìn)行深層RBM 的訓(xùn)練.

DBN 預(yù)訓(xùn)練可稱為編碼過程,第m個(gè)模態(tài)的數(shù)據(jù)Xm=[xm,1,xm,2,···,xm,Nm]T經(jīng)過DBN 預(yù)訓(xùn)練后,最高層RBM 的輸出為深度特征Zm.再將深度特征數(shù)據(jù)反向逐層解碼,增加與DBN 對應(yīng)的后向微調(diào)步驟,可以得到微調(diào)后的重構(gòu)數(shù)據(jù)每個(gè)模態(tài)無監(jiān)督的DBN重構(gòu)訓(xùn)練損失函數(shù)為

2.3 特征轉(zhuǎn)換層

在提取的多模態(tài)深度特征基礎(chǔ)上,進(jìn)一步設(shè)計(jì)特征轉(zhuǎn)換層.預(yù)訓(xùn)練后,將各模態(tài)深層特征Zm分別通過映射至nc維共性特征空間和ns維個(gè)性特征空間,并將共性-個(gè)性特征視為來自兩個(gè)分布的樣本,采用MK-MMD 計(jì)算分布距離來分離兩種特征.

MMD 通過核映射方法將兩個(gè)分布的關(guān)鍵統(tǒng)計(jì)特征嵌入到高維再生希爾伯特空間 (Reproducing kernel Hilbert space,RKHS) 中,然后計(jì)算核均值嵌入之間的距離,但MMD 在很大程度上依賴于核函數(shù)的選擇.為了解決核函數(shù)對最終映射性能的影響,本文采用MK-MMD 算法,該算法在原始MMD 特征核的基礎(chǔ)上,利用多個(gè)高斯核的線性組合來增強(qiáng)距離度量性能,從而能夠更準(zhǔn)確地將輸入空間的值映射到RKHS 中得到最優(yōu)值.

在訓(xùn)練階段,為了降低計(jì)算復(fù)雜度,本文采用Gretton 等[27]提出的MK-MMD 的無偏估計(jì).MKMMD 的計(jì)算可以轉(zhuǎn)換為

其中,Lre,m的定義為式 (9).α re,αc,αs分別為重構(gòu)部分以及共性-個(gè)性特征部分的參數(shù),用以平衡各項(xiàng),使網(wǎng)絡(luò)損失函數(shù)最小化.

2.4 方法特點(diǎn)及對比分析

在構(gòu)建的CS-DBN 網(wǎng)絡(luò)中,共性特征的維度nc需要在模型訓(xùn)練的時(shí)候確定.根據(jù)式 (14) 可以看出,當(dāng)nc從1 開始逐漸增大時(shí),各模態(tài)共性特征間的MK-MMD 距離不會有較大增加.由于整體的重構(gòu)誤差Lre,m逐漸減小,因此Lm會呈現(xiàn)下降趨勢.當(dāng)nc取值增大時(shí),共性特征間的距離會逐漸變大,導(dǎo)致Lre,m的下降變得不明顯.綜上,在訓(xùn)練過程中可以將nc從1 逐漸增大到n c,max,并記錄損失函數(shù)值Lre,m,當(dāng)損失函數(shù)值不再明顯減小時(shí),記錄此時(shí)的nc.

CS-DBN 通過概率生成和非線性映射建立原始數(shù)據(jù)與特征間的關(guān)系,更適合于復(fù)雜非線性工業(yè)過程.與文獻(xiàn)[30] 和文獻(xiàn)[31] 中方法相比,在特征提取的原理方面,CS-DBN 在滿足共性特征距離最小、個(gè)性特征距離最大的前提下,通過最小化重構(gòu)誤差來獲取特征,充分地結(jié)合了傳統(tǒng)方法的特點(diǎn).在訓(xùn)練過程中,CS-DBN 不要求各模態(tài)的數(shù)據(jù)等長,這也極大地?cái)U(kuò)展了方法的通用性.從投影空間的角度獲取的共性特征和個(gè)性特征相互正交,這有利于構(gòu)建互補(bǔ)的故障檢測指標(biāo),而CS-DBN 和基于張量分解方法不能滿足特征的正交性,各種方法的特點(diǎn)及比較總結(jié)如表1 所示.接下來,將介紹如何結(jié)合CS-DBN 的特點(diǎn)構(gòu)建故障等級評估方法.

表1 各類共性-個(gè)性特征提取方法特點(diǎn)總結(jié)Table 1 Summary of characteristics of various common and specific feature extraction methods

3 融合共性-個(gè)性特征的故障等級評估

本節(jié)在CS-DBN 的基礎(chǔ)上,提出了融合共性-個(gè)性特征進(jìn)行故障等級評估的方法.

3.1 故障等級劃分

如第1 節(jié)所描述,模態(tài)間的共性特征關(guān)聯(lián)了多個(gè)操作模態(tài)的狀態(tài),影響共性特征的故障會引起系統(tǒng)結(jié)構(gòu)性故障,表現(xiàn)為影響多個(gè)模態(tài)的關(guān)鍵質(zhì)量指標(biāo),屬于嚴(yán)重故障.影響模態(tài)個(gè)性特征的故障,可以通過系統(tǒng)的閉環(huán)調(diào)節(jié)及時(shí)補(bǔ)償,不會對關(guān)鍵指標(biāo)產(chǎn)生影響.并且,由于特征變量間的耦合作用,影響各模態(tài)個(gè)性特征的故障可能會由于未及時(shí)檢修或故障較大等原因,演變?yōu)橛绊懚嗄B(tài)共性特征的故障.因此,可以根據(jù)故障對共性特征和個(gè)性特征的影響構(gòu)建評估方法.本文結(jié)合國家標(biāo)準(zhǔn)GB/T709-2006將故障劃分為3 個(gè)等級: “輕微故障”、“一般故障”、“嚴(yán)重故障”.具體來說,當(dāng)有故障發(fā)生時(shí),將主要影響個(gè)性特征且不影響質(zhì)量指標(biāo)的故障劃分為“輕微故障”;將同時(shí)影響共性特征和個(gè)性特征且對質(zhì)量指標(biāo)的影響較小的故障劃分為“一般故障”;將對共性特征影響較大且對質(zhì)量指標(biāo)影響較大的故障劃分為“嚴(yán)重故障”.

3.2 故障等級評估模型

式中,θ c=[θc,1,θc,2,···,θc,G]T為權(quán)重矩陣.類似地,個(gè)性特征屬于每一類的概率也可以按照式 (16) 計(jì)算得到.

共性特征和個(gè)性特征共同決定了故障等級且對每個(gè)等級的故障貢獻(xiàn)值不同,因此不能僅將兩種特征通過拼接或加和來進(jìn)行等級評估訓(xùn)練.為了獲得更好的性能,在訓(xùn)練階段根據(jù)兩種特征的重要性進(jìn)行加權(quán),得到屬于每個(gè)等級的概率h′(xm,i),最終xm,i屬于每個(gè)等級的概率h′(xm,i) 計(jì)算為

最終的評估結(jié)果 G rade(xm,i) 確定為h′(xm,i)中概率最大值對應(yīng)的等級.式(17)中,λ(0≤λ≤1) 為特征的加權(quán)系數(shù),λ越大表示共性特征分量在等級評估過程中所占比重越大.當(dāng)λ=0 時(shí),表示只有個(gè)性特征分量,個(gè)性特征反映了各個(gè)模態(tài)內(nèi)的信息,因此,當(dāng)用于訓(xùn)練模型的各模態(tài)故障信息不足時(shí),可能會影響評估精度.當(dāng)λ逐漸增大至1 時(shí),表示在確定故障等級時(shí)只有共性特征分量起作用.

3.3 基于CS-DBN 的故障等級評估方法總結(jié)

以熱連軋過程為例,本文所提出的方法可總結(jié)如圖6 所示.選取該過程幾個(gè)典型規(guī)格的帶鋼軋制過程作為M個(gè)工作模態(tài),并將這些模態(tài)的運(yùn)行數(shù)據(jù)導(dǎo)出作為CS-DBN 的網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù).同時(shí),可以利用各模態(tài)已知的故障等級數(shù)據(jù)生成共性-個(gè)性特征正常/故障特征集,用來訓(xùn)練評估模型.當(dāng)在線得到待評估模態(tài)數(shù)據(jù)后,可利用訓(xùn)練的模型參數(shù)進(jìn)行在線故障等級評估.詳細(xì)的方法總結(jié)可描述如下:

圖6 基于CS-DBN 的故障等級評估流程圖Fig.6 Flow chart of fault grade evaluation based on CS-DBN

1) 離線建模:

a) CS-DBN 模型的構(gòu)建:

i) 獲取M個(gè)模態(tài)正常工況下的數(shù)據(jù)并進(jìn)行ZScore 標(biāo)準(zhǔn)化處理;

b) 等級評估模型的構(gòu)建:

iii) 訓(xùn)練加權(quán)LR 的各等級參數(shù)θc和θs,根據(jù)式 (17) 確定故障等級.

2) 在線應(yīng)用:

4 帶鋼熱連軋過程應(yīng)用驗(yàn)證

本節(jié)將所提方法用到熱連軋精軋過程中,通過實(shí)際精軋過程數(shù)據(jù)驗(yàn)證本文方法的評估效果.

4.1 過程描述及數(shù)據(jù)描述

4.1.1 過程描述

帶鋼熱連軋主要由加熱爐、粗軋機(jī)、飛剪、精軋機(jī)組、層流冷卻和卷取機(jī)等相互耦合的工序構(gòu)成,熱連軋過程布局如圖7 所示.其中,精軋機(jī)組是控制成品質(zhì)量和保障系統(tǒng)安全的關(guān)鍵環(huán)節(jié),精軋機(jī)組由F1至F7共7 臺機(jī)架串聯(lián)組成,每個(gè)機(jī)架由一對工作輥、一對支撐輥以及相應(yīng)的液壓壓下裝置等部分構(gòu)成.四輥軋機(jī)的下支撐輥的下部設(shè)有軋制力檢測傳感器.工作輥之間的輥縫控制由高精度的液壓伺服控制系統(tǒng)完成,通過設(shè)定輥縫值來保證帶鋼的出口厚度.出口厚度是關(guān)鍵性能指標(biāo)之一,厚度精度取決于精軋機(jī)壓下系統(tǒng)和厚度控制系統(tǒng) (Automatic gauge control,AGC) 的設(shè)備形式,現(xiàn)代化AGC 能綜合采用多種形式的厚度自動控制系統(tǒng),以適應(yīng)不同鋼種、規(guī)格和工藝參數(shù)變化的要求.

圖7 熱連軋機(jī)組及精軋機(jī)組布局圖Fig.7 Schematic diagram of hot continuous rolling unit and finishing rolling unit

4.1.2 數(shù)據(jù)描述

本文采用某鋼鐵廠帶鋼熱連軋現(xiàn)場采集的過程數(shù)據(jù)來驗(yàn)證所提方法的有效性.數(shù)據(jù)描述如表2 所示.選擇Q235B 碳素結(jié)構(gòu)鋼4 種規(guī)格帶鋼的生產(chǎn)過程作為4 種模態(tài),4 種規(guī)格帶鋼的出口厚度分別為2.30 mm、2.70 mm、3.00 mm 和3.95 mm.評估數(shù)據(jù)為該過程的關(guān)鍵過程變量,包括7 個(gè)機(jī)架的輥縫、軋制力和彎輥力 (第1 機(jī)架無彎輥力控制) 共20 個(gè)過程變量.

表2 熱連軋過程多模態(tài)數(shù)據(jù)描述Table 2 Multimode data description of hot continuous rolling process

不同模態(tài)的故障等級數(shù)據(jù)可通過如圖8 所示的熱連軋過程故障注入系統(tǒng)獲得.該系統(tǒng)集成了熱連軋過程壓下、溫降、彎輥、活套等各類機(jī)理模型,通過讀取實(shí)際的多規(guī)格生產(chǎn)過程、工藝設(shè)定及軋機(jī)的狀態(tài)數(shù)據(jù),并利用增量疊加形式將各類故障注入到正常的過程數(shù)據(jù),從而獲得各種等級的故障數(shù)據(jù).實(shí)驗(yàn)表明,該系統(tǒng)可較好地模擬實(shí)際生產(chǎn)過程的故障產(chǎn)生、傳播及對產(chǎn)品質(zhì)量的影響.在該系統(tǒng)中可讀取表2 所描述的4 種規(guī)格的正常過程數(shù)據(jù),并通過選擇故障類型、故障大小及故障發(fā)生位置等信息實(shí)現(xiàn)故障注入.

圖8 熱連軋故障注入系統(tǒng)Fig.8 Fault injection system for hot continuous rolling

本文選取了熱連軋過程常見的3 類典型故障進(jìn)行方法驗(yàn)證.3 類故障按照第3.1 節(jié)的劃分標(biāo)準(zhǔn)可分別歸類為“輕微故障”、“一般故障”和“嚴(yán)重故障”.故障類型1 為F5彎輥力傳感器故障,由于系統(tǒng)的閉環(huán)控制,該故障可以通過增大F6和F7的彎輥力來補(bǔ)償,因此只影響各模態(tài)的個(gè)性特征,不會對出口厚度造成影響.故障類型2 為F4輥縫故障,該故障將影響F4和F5的軋制力和輥縫,但由于AGC 系統(tǒng)的補(bǔ)償控制,可以通過壓下設(shè)備做相應(yīng)調(diào)節(jié)來消除厚度偏差.故障類型3 為F2與F3間冷卻水閥執(zhí)行器故障,該故障會導(dǎo)致F3軋鋼入口溫度升高,由于前饋控制器的影響,F3及之后機(jī)架的軋制力和輥縫都會受到影響,最終影響鋼品出口厚度,在這種情況下,任何帶鋼類型的生產(chǎn)過程都將受到影響,因此系統(tǒng)的共性特征和個(gè)性特征都將受到影響.綜合考慮故障影響的變量以及鋼品出口厚度差,本文將每個(gè)模態(tài)的數(shù)據(jù)劃分4 個(gè)等級,故障劃分結(jié)果如表3 所示.

表3 熱連軋過程故障等級劃分及標(biāo)簽添加Table 3 Fault grade division and label addition in the hot continuous rolling process

4.2 故障信息已知下的等級評估

4.2.1 模型訓(xùn)練

如第3.3 節(jié)所描述,整個(gè)模型訓(xùn)練分為兩步: 1)CS-DBN 特征提取模型;2) 故障等級評估模型.選擇第4.1.2 節(jié)中描述的4 個(gè)模態(tài)的正常工況數(shù)據(jù)訓(xùn)練CS-DBN 模型,每個(gè)模態(tài)數(shù)據(jù)包含20 個(gè)變量3 000個(gè)樣本,組成訓(xùn)練集Xm∈R3000×20,m=1,2,3,4.

CS-DBN 的訓(xùn)練過程首先對每個(gè)模態(tài)建立DBN 子模型.采用試錯(cuò)法進(jìn)行超參數(shù)選擇,逐層設(shè)置隱含層節(jié)點(diǎn)數(shù)并依次疊加RBM 層數(shù),根據(jù)損失曲線收斂的速度和大小初步確定DBN 的結(jié)構(gòu)參數(shù)、損失函數(shù)L的各約束項(xiàng)以及迭代步數(shù) (epoch).中間特征轉(zhuǎn)換層共性-個(gè)性特征維度nc和ns是影響評估結(jié)果的關(guān)鍵參數(shù),維度較低可能不能充分提取信息,維度較高則會產(chǎn)生冗余信息.在確定維度值時(shí),首先固定nc為1,ns由1 逐漸增大,觀察收斂曲線,可確定獲得最小收斂值時(shí)ns維度為7;再固定ns值,逐漸增加共性特征維度,不同nc值的重構(gòu)誤差收斂值如圖9 所示.為了簡化模型結(jié)構(gòu),最終選擇最佳共性特征維度為5.綜合以上調(diào)試結(jié)果,DBN 結(jié)構(gòu)最終包含2 個(gè)隱含層,預(yù)訓(xùn)練部分最佳DBN 網(wǎng)絡(luò)結(jié)構(gòu)為20-35-14,中間特征轉(zhuǎn)換層權(quán)重設(shè)置為m=1,2,3,4.批次數(shù)Nb設(shè)置為80,學(xué)習(xí)率ε為0.0001,迭代步數(shù)設(shè)置為600 次,隨機(jī)失活率dr 設(shè)置為0.5,具體模型參數(shù)設(shè)置如表4 所示.

表4 CS-DBN 模型參數(shù)Table 4 CS-DBN model parameters

圖9 共性特征維度 n c 與重構(gòu)誤差Fig.9 Common feature dimension nc and reconstruction error

為驗(yàn)證本文所提方法的收斂效果,圖10 給出了CS-DBN 訓(xùn)練過程中的迭代曲線.其中,圖10(a)為CS-DBN 損失函數(shù)L在訓(xùn)練過程中的迭代曲線.可以看到,在迭代次數(shù)達(dá)到400 步時(shí),訓(xùn)練過程迭代曲線已經(jīng)明顯收斂.圖10(b)、圖10(c)為不同模態(tài)的共性特征間和個(gè)性特征間MK-MMD 值的迭代曲線.可以看出,隨著訓(xùn)練次數(shù)的增加,不同模態(tài)的共性特征間MK-MMD 值呈現(xiàn)出不斷減小的趨勢至收斂,反之個(gè)性特征間MK-MMD 值隨迭代次數(shù)逐漸增大.這反映出MK-MMD 方法可以區(qū)分不同模態(tài)數(shù)據(jù)分布間的相似性和差異性.

圖10 CS-DBN 訓(xùn)練過程迭代曲線Fig.10 Iterative curve of CS-DBN training process

基于CS-DBN 模型,可獲得各模態(tài)正常工況數(shù)據(jù)和不同等級故障數(shù)據(jù)的共性特征以及個(gè)性特征共性-個(gè)性特征與等級標(biāo)簽匹配后用于訓(xùn)練等級評估模型部分.等級評估模型訓(xùn)練集由每種模態(tài)正常數(shù)據(jù)以及不同等級故障數(shù)據(jù)各2 000 組組成.測試集為第4 個(gè)模態(tài)的數(shù)據(jù),包括1 000 組正常數(shù)據(jù)和3 000 組各等級故障數(shù)據(jù).

4.2.2 等級評估結(jié)果

為了驗(yàn)證所提方法的應(yīng)用效果,本文將基于CS-DBN 的等級評估結(jié)果與SVM、FDA 兩類典型機(jī)器學(xué)習(xí)方法以及DBN、SAE 結(jié)合Softmax 深度學(xué)習(xí)方法的等級評估結(jié)果對比,以說明本文所提方法的優(yōu)越性.4 種對比方法對模態(tài)數(shù)據(jù)進(jìn)行整體建模,利用4 個(gè)模態(tài)的正常數(shù)據(jù)和已有的各模態(tài)等級故障數(shù)據(jù)訓(xùn)練評估模型.其中,SAE 的隱層神經(jīng)元數(shù)設(shè)置為40-25-4,DBN 結(jié)合Softmax 的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)置為35-14-4,SVM 的核函數(shù)設(shè)置為徑向基核函數(shù).為了清晰地展示評估精度,本文引入準(zhǔn)確率(Accuracy)、精確率(Precision)、MacroF1 作為評估指標(biāo)[15,25].

當(dāng)訓(xùn)練過程4 個(gè)模態(tài)全部故障信息已知時(shí),等級評估結(jié)果如表5 所示.對比可知,在4 個(gè)模態(tài)各等級故障信息已知的情況下,5 種方法評估結(jié)果都有較高的準(zhǔn)確率、精確率和MacroF1.其中,融合共性-個(gè)性的故障等級評估方法的各項(xiàng)指標(biāo)均達(dá)到98% 以上,高于其他4 種方法.因此,融合多模態(tài)共性-個(gè)性特征的評估方法可以更加有效準(zhǔn)確地判斷故障等級.

表5 各模態(tài)全部故障信息已知下的評估結(jié)果 (%)Table 5 Evaluation results for cases that all fault information in different modes is known (%)

4.3 故障信息部分已知的等級評估

為了進(jìn)一步驗(yàn)證本文方法在多模態(tài)故障數(shù)據(jù)不充分下的應(yīng)用效果,本節(jié)考慮訓(xùn)練過程中多模態(tài)部分故障信息不全的情況,設(shè)計(jì)包含不同故障信息的案例,并通過新模態(tài)數(shù)據(jù)進(jìn)行評估結(jié)果驗(yàn)證.

4.3.1 故障信息不完全情況下的評估結(jié)果

在CS-DBN 模型訓(xùn)練完成后,選擇4 個(gè)模態(tài)的正常數(shù)據(jù)以及前3 個(gè)模態(tài)的部分故障數(shù)據(jù)作為評估模型的訓(xùn)練集.同時(shí)將第4 個(gè)模態(tài)的各等級數(shù)據(jù)共4 000 組作為測試集,即在訓(xùn)練過程中測試集的各等級故障數(shù)據(jù)均未參與故障等級評估模型的訓(xùn)練.

表6 以準(zhǔn)確率指標(biāo)為例展示了各模態(tài)不同故障組合案例下的評估結(jié)果.案例A 考慮了每個(gè)訓(xùn)練模態(tài)中包含最多兩種等級故障數(shù)據(jù)下的評估準(zhǔn)確率,其中A-1 到A-8 是各模態(tài)間不同的組合情況.可以看出,當(dāng)故障信息較少時(shí),CS-DBN 方法整體故障等級評估準(zhǔn)確率在60.00% 以上,均高于其他4 種方法,同時(shí),在多數(shù)情況下,SVM 和FDA 方法評估失敗(Accuracy ≤ 50.00%).案例B 設(shè)置為每個(gè)模態(tài)均有兩種等級的故障數(shù)據(jù),故障信息較案例A 增多.從評估結(jié)果可以看出,與案例A 相比,在B-1至B-8 不同故障數(shù)據(jù)組合情況下所有方法的評估準(zhǔn)確率均有所提升,CS-DBN 在某些故障組合下準(zhǔn)確率可達(dá)到85.50%,平均準(zhǔn)確率為71.92%,遠(yuǎn)高于DBN 的61.47% 和SAE 的58.25%.在案例C中,某些模態(tài)的故障等級數(shù)據(jù)從兩種增加至三種,更多的故障數(shù)據(jù)參與訓(xùn)練提升了評估效果.其中CSDBN 方法在所有故障組合下準(zhǔn)確率均高于70.00%,平均準(zhǔn)確率為73.12%,高于DBN 的70.47% 和SAE 的64.85%.同時(shí),FDA 和SVM 方法也均超過50.00%.案例D 設(shè)置為訓(xùn)練過程中至少有兩個(gè)模態(tài)有三種等級的故障數(shù)據(jù).評估結(jié)果顯示,CSDBN 方法的平均準(zhǔn)確率為80.79%,同時(shí)在4 個(gè)故障組合中,準(zhǔn)確率均高于80.00%,最高為88.25%.與之相比,FDA 和SVM 平均值仍為50.00% 左右,DBN 和SAE 方法也無較大提升.

表6 各模態(tài)部分故障信息已知下的評估準(zhǔn)確率結(jié)果 (%)Table 6 Evaluation accuracy results for cases that part of fault information in different modes is known (%)

總結(jié)表6 可知,隨著更多的故障等級數(shù)據(jù)參與訓(xùn)練,5 種方法的評估準(zhǔn)確性都有所增加.CS-DBN方法因其可以提取多模態(tài)過程的共性信息,能夠更好地學(xué)習(xí)到多模態(tài)過程同一等級故障數(shù)據(jù)間的共性特征,與傳統(tǒng)方法相比,評估準(zhǔn)確率提升近10%.本文所提模型可以更準(zhǔn)確地評估未知故障信息下的模態(tài)所發(fā)生的故障.

4.3.2 待評估模態(tài)故障信息未知下的評估結(jié)果

當(dāng)前3 個(gè)模態(tài)的全部故障信息已知時(shí),選擇4 個(gè)模態(tài)的正常數(shù)據(jù)以及前3 個(gè)模態(tài)的各等級故障數(shù)據(jù)訓(xùn)練評估模型,使用第4 個(gè)模態(tài)的各等級數(shù)據(jù)(均1 000 組) 進(jìn)行測試.圖11(a)～圖11(e)分別展示所提方法和對比方法的等級評估結(jié)果.如圖11(b)和圖11(c)所示,DBN 和SAE 在“嚴(yán)重故障”和“一般故障”等級中有較多的誤評估樣本.由圖11(d)和圖11(e)可以看出,當(dāng)待評估模態(tài)故障信息未知時(shí),SVM 和FDA 的評估精度較低,其中FDA 未能區(qū)分“嚴(yán)重故障”和“一般故障”,造成了精確率和Macro-F1 值失效.CS-DBN 方法的評估準(zhǔn)確率達(dá)到了92.40%,精確率達(dá)到了92.64%,MacroF1 達(dá)到了92.37%,僅在“正常數(shù)據(jù)”和“輕微故障”里有少量評估失誤,評估準(zhǔn)確率較第4.3.1 節(jié)中案例D 的結(jié)果提升了11.61%.可以看出,當(dāng)用于訓(xùn)練的故障信息增多時(shí),本文所提方法能夠充分利用不同模態(tài)的共性-個(gè)性特征,進(jìn)一步提高模型的性能.

圖11 前3 個(gè)模態(tài)全部故障信息已知時(shí)的評估結(jié)果Fig.11 Evaluation results with full knowledge of faults in the first three modes

4.3.3 權(quán)重因子 λ 對評估結(jié)果的影響分析

圖12 展示了在不同故障信息的實(shí)驗(yàn)中權(quán)重系數(shù)取值與評估準(zhǔn)確率的關(guān)系.圖12 中,實(shí)驗(yàn)1 至實(shí)驗(yàn)10 為評估模型訓(xùn)練中故障信息逐漸增多的代表性案例.例如,實(shí)驗(yàn)1 中故障信息為模態(tài)1 至模態(tài)3 分別含有一種故障等級數(shù)據(jù);實(shí)驗(yàn)5 中故障信息包括模態(tài)1 的“輕微故障”、模態(tài)2 的“一般故障”與“嚴(yán)重故障”、模態(tài)3 的“輕微故障”與“一般故障”;實(shí)驗(yàn)10 包含4 個(gè)模態(tài)的全部故障信息數(shù)據(jù).當(dāng)λ=0時(shí),即只有個(gè)性特征部分參與等級評估的情況,每種實(shí)驗(yàn)的評估準(zhǔn)確率都較低.如圖12 所示,當(dāng)λ逐漸增加,評估準(zhǔn)確率開始提高,其中,在實(shí)驗(yàn)4、實(shí)驗(yàn)5、實(shí)驗(yàn)6、實(shí)驗(yàn)8 中,隨著λ超過0.25,評估準(zhǔn)確率逐漸提升.在實(shí)驗(yàn)2 和實(shí)驗(yàn)3 中,當(dāng)λ達(dá)到0.55 時(shí),評估準(zhǔn)確率逐漸提升.λ增加到一定程度后,評估準(zhǔn)確率會有所下降,例如,在實(shí)驗(yàn)6 至實(shí)驗(yàn)9 中,當(dāng)共性權(quán)重因子增加至0.9 時(shí),評估準(zhǔn)確率出現(xiàn)下降情況.在實(shí)驗(yàn)10 中,當(dāng)共性權(quán)重因子增加至0.75 時(shí),評估準(zhǔn)確率開始下降.綜上所述,為了使等級評估結(jié)果在不同故障信息已知的情況下都相對最優(yōu),λ的合理范圍選擇為0.55 至0.75,本文中λ=0.6.

圖12 共性特征權(quán)重因子分析Fig.12 Weighting factor analysis of common features

應(yīng)用結(jié)果驗(yàn)證可知,CS-DBN 方法可以通過深度挖掘熱連軋多規(guī)格帶鋼生產(chǎn)過程數(shù)據(jù)間的共性特征和個(gè)性特征,構(gòu)建更適合于多模態(tài)過程的故障等級評估模型.該方法在故障等級數(shù)據(jù)不充分的情況下,利用不同模態(tài)數(shù)據(jù)的共性故障特征同樣能取得較好的等級評估結(jié)果.

4.3.4 模型魯棒性分析

本文的魯棒性可從兩個(gè)方面進(jìn)行分析.首先,與線性共性-個(gè)性特征提取方法相比,當(dāng)數(shù)據(jù)出現(xiàn)缺失或離群值時(shí),傳統(tǒng)方法通過構(gòu)建投影空間或基向量來提取特征,容易導(dǎo)致投影空間獲取偏差,進(jìn)而無法獲取準(zhǔn)確的共性-個(gè)性特征,而CS-DBN 采用了神經(jīng)網(wǎng)絡(luò)的方法,通過非線性激活函數(shù)和訓(xùn)練過程的dropout 技術(shù),可以使訓(xùn)練數(shù)據(jù)中離群值的影響較小,提高了方法在低質(zhì)量工業(yè)數(shù)據(jù)建模中的魯棒性.其次,CS-DBN 可以通過增加訓(xùn)練過程的模態(tài)數(shù)量來更新所提取的共性特征和個(gè)性特征,因此當(dāng)測試數(shù)據(jù)為未參與訓(xùn)練的數(shù)據(jù)時(shí),模型也能有良好的共性-個(gè)性特征提取結(jié)果.以本文驗(yàn)證過程為例,一個(gè)時(shí)間段內(nèi)采集的10 個(gè)批次的熱連軋過程數(shù)據(jù)為數(shù)據(jù)集,其中每個(gè)批次有各自的軋制過程設(shè)定.實(shí)驗(yàn)過程選擇其中的部分模態(tài)為訓(xùn)練集,另一部分作為測試集,通過增加或減少參與訓(xùn)練的模態(tài)數(shù)據(jù)提取模態(tài)的共性特征和個(gè)性特征.驗(yàn)證結(jié)果表明,當(dāng)參與訓(xùn)練模態(tài)的數(shù)為4 時(shí),提取的共性-個(gè)性特征已經(jīng)能較好地覆蓋這10 個(gè)模態(tài)的信息,有較好的故障等級評估結(jié)果.但是由于本文所提模型仍具有一定局限性,當(dāng)過多模態(tài)數(shù)據(jù)參與模型訓(xùn)練時(shí),網(wǎng)絡(luò)復(fù)雜度會提高,特征提取的結(jié)果也會有所影響,因此,本文的實(shí)驗(yàn)驗(yàn)證選擇4 個(gè)模態(tài)進(jìn)行訓(xùn)練.

5 結(jié)論

本文針對多模態(tài)過程的故障等級評估問題,提出一種基于CS-DBN 的故障等級評估方法.首先,在傳統(tǒng)DBN 基礎(chǔ)上,結(jié)合MK-MMD 分布度量構(gòu)建了CS-DBN 模型,以解決多模態(tài)過程中共性-個(gè)性特征提取問題.同時(shí),融合多模態(tài)共性特征和個(gè)性特征構(gòu)建了基于加權(quán)邏輯回歸的故障等級評估模型.本文將所提出的方法應(yīng)用到熱連軋多規(guī)格帶鋼的生產(chǎn)過程中,并利用熱連軋過程故障注入系統(tǒng)生成多規(guī)格帶鋼多種故障等級數(shù)據(jù)進(jìn)行方法驗(yàn)證.驗(yàn)證結(jié)果表明,與傳統(tǒng)評估方法相比,所提方法在故障等級信息缺失下能夠提高評估準(zhǔn)確性;當(dāng)多模態(tài)故障等級信息充足時(shí),評估準(zhǔn)確率可達(dá)98.75%.

未來將針對其他深度學(xué)習(xí)算法進(jìn)行改進(jìn)和優(yōu)化,提升多模態(tài)過程故障等級評估的精度,并對復(fù)合故障下的多標(biāo)簽評估與分類方法開展研究.