范 鵬,馮萬(wàn)興,周自強(qiáng),趙 淳,周 盛,姚翔宇
(1.南瑞集團(tuán)(國(guó)網(wǎng)電力科學(xué)研究院)有限公司,江蘇 南京 211106;2.國(guó)網(wǎng)電力科學(xué)研究院武漢南瑞有限責(zé)任公司,湖北 武漢 430074)
紅外成像具有非接觸直接測(cè)量輸變電設(shè)備狀態(tài)的特征,無需停電,在電力領(lǐng)域具有廣泛的應(yīng)用[1-3]。輸變電設(shè)備在野外嚴(yán)峻環(huán)境中長(zhǎng)期運(yùn)行,由于材料老化、污穢閃絡(luò)、機(jī)械受損等因素,常伴隨有局部放電、溫度增高等現(xiàn)象。絕緣子作為輸電線路重要部件,起到電氣隔離和機(jī)械支撐的作用,當(dāng)紅外圖像顯示的溫度較高,表明其有異常缺陷,這是因?yàn)閳?chǎng)強(qiáng)不均勻發(fā)生局部放電,嚴(yán)重時(shí)可能導(dǎo)致線路故障,甚至造成停電故障。文獻(xiàn)[4-5]開展了變壓器高壓套管的紅外診斷研究,通過熱像特征譜圖分析了故障原因。紅外圖像可應(yīng)用于交流濾波器的故障分析中,提取其跳閘的典型故障特征[6-8]。
輸變電設(shè)備紅外圖譜特征提取主要為圖像處理方法,諸如紋理、色彩、邊框等圖像特征[9-10]。隨著無人機(jī)航拍技術(shù)的發(fā)展,輸變電設(shè)備紅外圖譜呈現(xiàn)爆發(fā)式增長(zhǎng),深度學(xué)習(xí)提供了一種良好的手段[11-13],采用卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)的方法,對(duì)海量圖片進(jìn)行訓(xùn)練學(xué)習(xí),提取特征進(jìn)行測(cè)試和驗(yàn)證。CNN 通過卷積層計(jì)算,輸入較深層的特征圖,對(duì)于小目標(biāo)絕緣子、套管,權(quán)重值相對(duì)較少,無法實(shí)現(xiàn)小目標(biāo)的有效提取[14-15]。針對(duì)這一缺點(diǎn),本文對(duì)Faster R-CNN 方法進(jìn)行改進(jìn),提高絕緣子紅外圖譜診斷的精度。
區(qū)別于普通的CNN,F(xiàn)aster R-CNN 增加了一個(gè)區(qū)域提取網(wǎng)絡(luò)(Region Proposal Network,RPN),即圖1 中的候選區(qū)域,摒棄傳統(tǒng)的滑動(dòng)窗口,可在GPU直接運(yùn)行計(jì)算,極大地加快了計(jì)算速度。RPN 判斷每個(gè)像素點(diǎn)對(duì)應(yīng)的多個(gè)不同尺度和寬高比的錨框是否為前景目標(biāo)的二分類,形成候選區(qū)域。
圖1 Faster R-CNN 的算法流程Fig.1 Algorithm flow of Faster R-CNN
Faster R-CNN 一般采用隨機(jī)梯度下降法(Stochastic Gradient Descent,SGD)訓(xùn)練神經(jīng)網(wǎng)絡(luò),見式(1):
式中:X為輸入;W為權(quán)重;wi、xi分別表示第i個(gè)權(quán)重和輸入;h(x)為對(duì)應(yīng)的輸出。
損失函數(shù)S(W)基于平方誤差實(shí)現(xiàn),見式(2):
式中:yi為真實(shí)輸出。
W的更新函數(shù)見式(3):
式中:α為學(xué)習(xí)率,可設(shè)置步長(zhǎng)。W通過梯度下降法進(jìn)行求解,首先正向計(jì)算樣本輸出值,接著根據(jù)反向傳遞的誤差迭代計(jì)算,常用在CNN 訓(xùn)練中。
RPN 的選擇本質(zhì)是通過平移或者尺度變化的方法將合適的區(qū)域提取網(wǎng)絡(luò)R變成,從而接近實(shí)際的候選框C:
式中:(x,y)、(w,h)分別為矩形區(qū)域的中心坐標(biāo)和寬、高。
令t*為矩形區(qū)域的平移和縮放量,則有:
式中:tx、ty為矩形區(qū)域的中心坐標(biāo)平移量;tw、th分別為矩形區(qū)域的寬、高的縮放量。
預(yù)測(cè)值計(jì)算過程為:
式中:φ是最后一次卷積計(jì)算。
損失函數(shù)的目標(biāo)值計(jì)算見式(7),通過調(diào)整平移和縮放的尺度,確定最終的候選區(qū)域[16]:
為了增強(qiáng)Faster R-CNN 的小目標(biāo)特征提取能力,引入壓縮激勵(lì)結(jié)構(gòu),即壓縮和激勵(lì)兩大操作,設(shè)圖像的特征參數(shù)設(shè)置為(H,W,K),分別表示為長(zhǎng)、寬和通道數(shù)。
壓縮操作Fsq(?)基于各個(gè)通道實(shí)現(xiàn)特征圖空間信息的壓縮,見式(8):
式中:kc表示第c個(gè)通道;hc表示經(jīng)過壓縮后輸出向量h的第c個(gè)元素。
激勵(lì)操作分為激勵(lì)Fex(?)和校準(zhǔn)Fscale(?)兩個(gè)過程,分別見式(9)和式(10):
式中:σ是sigmoid 激活函數(shù);w1為的實(shí)數(shù)矩陣,表示通道的縮減,r為縮減因子;δ是ReLU 激活函數(shù),w2為的實(shí)數(shù)矩陣,表示通道的恢復(fù)。
式中:sc表示激活向量s的第c個(gè)元素;表示校準(zhǔn)后的對(duì)應(yīng)元素。
本文基于改進(jìn)的Faster R-CNN 方法,對(duì)平臺(tái)的環(huán)境搭建要求較高,具體配置見表1。操作系統(tǒng)為開源Linux,數(shù)據(jù)庫(kù)為MySQL;硬件配置較高,CPU 采用Intel 高端系列,內(nèi)存和硬盤容量均較大,保證大量數(shù)據(jù)的高效運(yùn)算??蚣懿捎?018年初公開的目標(biāo)檢測(cè)平臺(tái)Detectron,包含最具代表性的目標(biāo)檢測(cè)、圖像分割、關(guān)鍵點(diǎn)檢測(cè)算法。
表1 軟硬件配置Table 1 Hardware and software configuration
圖像數(shù)據(jù)來源于多條輸電線路無人機(jī)拍攝的大量絕緣子照片。在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中,對(duì)正負(fù)樣本的判定見圖2,主要基于錨框映射圖與真實(shí)目標(biāo)框的交并比(Intersection over Union,IoU)來進(jìn)行計(jì)算分類。首先對(duì) RPN 形成的錨框進(jìn)行排序篩選形成錨框序列,接著利用邊框回歸參數(shù)向量修正錨框的位置形成候選區(qū)域集合,然后計(jì)算所有感興趣區(qū)域(Region of Interest,RoI)與真實(shí)目標(biāo)框的IoU,求最大值,并判斷其是否大于0.5,若滿足,則為正樣本,否則為負(fù)樣本。
圖2 正負(fù)樣本判定Fig.2 Positive and negative sample decision
完成正負(fù)樣本的判定后,為了使樣本的采樣盡量均衡,保證雙方的訓(xùn)練集和驗(yàn)證集數(shù)量一致,同時(shí)采用遷移學(xué)習(xí)的方法,經(jīng)過相關(guān)修正與補(bǔ)償,擴(kuò)充樣本總量至2375,樣本信息配置見表2。
表2 樣本配置信息Table 2 Information of sample configuration
普通的CNN 方法,原始圖像經(jīng)過卷積層和池化層后,全鏈接層輸出結(jié)果,本文方法的結(jié)構(gòu)如圖3所示,引入壓縮激勵(lì)的過程,壓縮特征圖的空間信息,并通過激勵(lì)操作學(xué)習(xí)通道間的依賴關(guān)系,可自適應(yīng)分配每個(gè)通道的權(quán)重值,提取有利于任務(wù)的重要特征通道,最終能進(jìn)一步增強(qiáng)網(wǎng)絡(luò)模型的特征提取能力,采用SE-DenseNet-169 框架的Faster R-CNN 模型。
改進(jìn)模型主要完成絕緣子異常狀態(tài)的精準(zhǔn)識(shí)別,首先對(duì)紅外原始圖像進(jìn)行相關(guān)修正與補(bǔ)償實(shí)現(xiàn)樣本擴(kuò)充,然后采用本文方法進(jìn)行訓(xùn)練,收斂后,獲得最終的改進(jìn)Faster R-CNN 模型。
圖3 改進(jìn)的Faster R-CNN 結(jié)構(gòu)Fig.3 Structure of improved Faster R-CNN
CNN 學(xué)習(xí)中,精確度的衡量一般會(huì)采用準(zhǔn)確率(Precision)和召回率(Recall),其計(jì)算過程分別見式(11)和式(12):
式中:TP 表示是實(shí)際值和預(yù)測(cè)值均是異常絕緣子的個(gè)數(shù);FP 表示預(yù)測(cè)值是異常絕緣子,實(shí)際值卻不是的個(gè)數(shù);FN 表示是實(shí)際值是異常絕緣子,預(yù)測(cè)值卻不是的個(gè)數(shù)。
為進(jìn)一步衡量改進(jìn)模型的優(yōu)劣,這里采用平均檢測(cè)精度(mean Average Precision,mAP),其中AP 等價(jià)于召回率和準(zhǔn)確率形成曲線與橫軸包圍的幾何圖形的面積,對(duì)所有類別的AP 求平均值即可得到mAP。
基于樣本數(shù)據(jù),開展BP、FasterR-CNN以及本文方法的精確度和效率對(duì)比研究,不同方法的實(shí)驗(yàn)結(jié)果統(tǒng)計(jì)見表3。Faster R-CNN和本文方法在Precision方面均明顯優(yōu)于BP 方法,本文方法的Recall 最高,mAP 也最高,相對(duì)于BP提高了近10%,這說明經(jīng)過改進(jìn)的Faster R-CNN對(duì)于小目標(biāo)的特征提取具有明顯的優(yōu)勢(shì)。本文方法通過壓縮激勵(lì)結(jié)果,減少了數(shù)據(jù)量的計(jì)算,所以相對(duì)于其他方法,有更高的效率。
表3 不同方法的實(shí)驗(yàn)結(jié)果統(tǒng)計(jì)Table3Statisticsof experimental resultsbydifferent meth ods
繪制其準(zhǔn)確率-召回率關(guān)系曲線,如圖4所示,可更加形象直觀地反映出本文方法對(duì)絕緣子異常特征的提取優(yōu)勢(shì),因?yàn)榱硗鈨煞N方法的曲線均被完整的覆蓋,說明本文方法改進(jìn)效果明顯。
圖4 準(zhǔn)確率-召回率關(guān)系曲線Fig.4 Relation curvesof precision and recall
常見絕緣子排列有單I型、雙I 型以及V型。本文開展這3類絕緣子的紅外圖像研究,比較不同排列方式的診斷準(zhǔn)確率,如圖5所示。根據(jù)電力標(biāo)準(zhǔn)DL/T 664-2008[19],圖(b)和圖(c)絕緣子端部明顯發(fā)熱,屬于異常情況。
圖5 不同類型絕緣子的紅外圖像Fig.5 Infrared image of different typesof ins ulators
不同類型絕緣子的異常診斷準(zhǔn)確率見表4,準(zhǔn)確率均較高,均在90%以上;I 型和V型絕緣子的準(zhǔn)確率明顯優(yōu)于雙I型絕緣子,這是因?yàn)殡pI 型絕緣子會(huì)出現(xiàn)兩排絕緣子重疊的情況,對(duì)紅外圖像的研究造成一定的影響,為此無人機(jī)對(duì)于該種類型絕緣子的線路需開展多種角度的拍攝。
表4 絕緣子異常診斷的準(zhǔn)確率Table4Accuracyof insulator anomaly diagnosis
本文提出一種改進(jìn)的Faster R-CNN 方法,引入激勵(lì)壓縮環(huán)節(jié),搭建訓(xùn)練模型,完成絕緣子紅外圖像的異常診斷,并成功應(yīng)用于電力現(xiàn)場(chǎng)運(yùn)維。本文方法可高效并精準(zhǔn)地識(shí)別出絕緣子的異常缺陷,mAP 達(dá)到90.2%。研究結(jié)果可為輸電線路絕緣子缺陷識(shí)別研究提供一定的參考。