国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

對(duì)抗一致性約束的無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)

2022-04-24 09:53李梅玉李仕林趙明方正云張亞飛余正濤
關(guān)鍵詞:絕緣子標(biāo)簽圖像

李梅玉,李仕林,趙明,方正云,張亞飛,余正濤

1.云南電網(wǎng)有限責(zé)任公司電力科學(xué)研究院,昆明 650217;2.昆明理工大學(xué)國(guó)土資源工程學(xué)院,昆明 650500;3.昆明理工大學(xué)信息工程與自動(dòng)化學(xué)院,昆明 650500;4.昆明理工大學(xué)云南省人工智能重點(diǎn)實(shí)驗(yàn)室,昆明 650500

0 引 言

絕緣子是一種能夠耐受電壓和機(jī)械應(yīng)力的特殊絕緣器件,在架空輸電線路中應(yīng)用廣泛。由于輸電線路長(zhǎng)期暴露在外,絕緣子極易受到侵蝕而發(fā)生爆片或老化。絕緣子一旦發(fā)生故障,將引起輸電線路供電中斷,影響電網(wǎng)的安全運(yùn)行和居民的正常生活。為降低絕緣子故障導(dǎo)致的安全隱患,需要定期對(duì)架空輸電線路進(jìn)行巡檢,因此,從巡檢圖像中快速有效地檢測(cè)出絕緣子,對(duì)其進(jìn)行定位和缺陷分析就顯得尤為必要。

目前電網(wǎng)中使用的絕緣子主要分為玻璃絕緣子和復(fù)合絕緣子兩類(lèi),如圖1所示。從外觀上看,兩種絕緣子在顏色和形狀上差異較大,造成特征空間中兩種絕緣子域偏移較為嚴(yán)重。大多數(shù)情況下,僅能得到單一類(lèi)型的絕緣子樣本,用其訓(xùn)練得到的模型部署到其他類(lèi)型絕緣子檢測(cè)任務(wù)時(shí),會(huì)由于不同類(lèi)型絕緣子之間存在的域偏移而導(dǎo)致檢測(cè)性能急劇下降。

圖1 電網(wǎng)中使用的兩類(lèi)絕緣子Fig.1 Two types of insulators used in the power grid((a)glass insulator;(b)composite insulator)

無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)方法是一種廣泛用于跨域檢測(cè)、識(shí)別的方法,在訓(xùn)練過(guò)程中使用源域有標(biāo)注的樣本和目標(biāo)域無(wú)標(biāo)注的樣本,通過(guò)學(xué)習(xí)一種域不變(或域?qū)R后)的特征表示,可以有效緩解由于域偏移造成的性能顯著下降。這類(lèi)方法大致可分為基于風(fēng)格遷移的無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)方法(Yang等,2020;Kim等,2019b;Inoue等,2018)和基于自訓(xùn)練的無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)方法(RoyChowdhury等,2019;Kim等,2019a;Zhang等,2020)兩類(lèi)。

基于風(fēng)格遷移的方法通常將源域已標(biāo)注的圖像風(fēng)格遷移至目標(biāo)域圖像下,然后利用遷移后已標(biāo)注的圖像對(duì)模型進(jìn)行有監(jiān)督訓(xùn)練,這種方式可以降低不同風(fēng)格帶來(lái)的域偏移對(duì)性能的影響。然而輸電線路巡檢圖像尺寸較大且背景復(fù)雜,如果利用圖像生成的方法將源域圖像遷移至目標(biāo)域下容易產(chǎn)生模型崩塌。因此這類(lèi)方法難以直接應(yīng)用到無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)任務(wù)中?;谧杂?xùn)練的方法一般是對(duì)目標(biāo)域數(shù)據(jù)進(jìn)行偽標(biāo)簽預(yù)測(cè),之后將偽標(biāo)簽與目標(biāo)數(shù)據(jù)相結(jié)合以有監(jiān)督的形式訓(xùn)練模型。這類(lèi)方法極其依賴(lài)標(biāo)簽預(yù)測(cè)的準(zhǔn)確性,而輸電線路巡檢圖像中背景復(fù)雜、雜物繁多,這些噪聲會(huì)對(duì)標(biāo)簽的預(yù)測(cè)產(chǎn)生不利影響,利用有噪聲的偽標(biāo)簽結(jié)合絕緣子數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練容易降低模型的識(shí)別能力,不利于模型部署。

受Goodfellow等人(2014)提出的生成對(duì)抗網(wǎng)絡(luò)思想的啟發(fā),本文設(shè)計(jì)了一個(gè)基于對(duì)抗一致性約束的無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)算法來(lái)提取不同類(lèi)型絕緣子共有且具有魯棒性的特征信息,從而使模型具有域自適應(yīng)性。具體地,輸入不同類(lèi)型絕緣子圖像到特征提取器,將得到的特征分別輸入到兩個(gè)不同的分類(lèi)器,將分類(lèi)器輸出的分類(lèi)結(jié)果與對(duì)應(yīng)的絕緣子類(lèi)型進(jìn)行類(lèi)別約束,目的是使特征提取器能提取不同類(lèi)型絕緣子獨(dú)有的特征信息。在對(duì)抗過(guò)程中,本文方法提出引入一個(gè)額外的分類(lèi)網(wǎng)絡(luò),用于將源域與目標(biāo)域中不同類(lèi)型的絕緣子特征分到同一類(lèi)別下,從而使模型能提取不同絕緣子共有的魯棒性特征。與有監(jiān)督的絕緣子檢測(cè)方法(趙振兵 等,2019;程海燕 等,2017;姚春羽 等,2012;Tao等,2020)不同,本文提出的方法不需要目標(biāo)域樣本的標(biāo)簽就能在跨域絕緣子檢測(cè)任務(wù)中獲得較好性能,而且采用的YOLO-V3(you only look once V3)特征提取網(wǎng)絡(luò)不需要候選框預(yù)測(cè)和篩選機(jī)制,提高了檢測(cè)速度。總的來(lái)說(shuō),本文主要貢獻(xiàn)如下:1)提出一種基于對(duì)抗一致性約束的無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)算法,利用兩個(gè)具有差異的分類(lèi)網(wǎng)絡(luò)對(duì)絕緣子進(jìn)行類(lèi)別約束,提取不同類(lèi)型絕緣子的私有特征,通過(guò)一種對(duì)抗分類(lèi)策略使模型學(xué)習(xí)到絕緣子共有的特征,提高了模型對(duì)不同類(lèi)型絕緣子識(shí)別的魯棒性。2)本文方法不同于其他有監(jiān)督絕緣子檢測(cè)算法,訓(xùn)練集中只有一種類(lèi)型的有標(biāo)簽樣本,在無(wú)監(jiān)督的條件下能對(duì)不同類(lèi)型絕緣子進(jìn)行跨域檢測(cè),更加適用于現(xiàn)實(shí)部署,降低了對(duì)不同類(lèi)型絕緣子的誤檢率。3)提出的模型是一個(gè)基于YOLO-V3的端到端的模型,不需要額外的候選框計(jì)算和篩選機(jī)制,在一定程度上提升了模型的訓(xùn)練效率。

1 相關(guān)工作

1.1 基于深度學(xué)習(xí)的目標(biāo)檢測(cè)算法

隨著深度學(xué)習(xí)的不斷發(fā)展,基于卷積神經(jīng)網(wǎng)絡(luò)的目標(biāo)檢測(cè)算法表現(xiàn)突出、效果優(yōu)異,成為流行的目標(biāo)檢測(cè)方法。Krizhevsky等人(2017)在圖像與卷積核之間進(jìn)行卷積操作提取物體的高維特征,提高了模型的泛化能力。Redmon等人(2016)提出YOLO目標(biāo)檢測(cè)算法,將輸入圖像劃分成若干網(wǎng)格,每個(gè)網(wǎng)格分別進(jìn)行坐標(biāo)回歸和類(lèi)別回歸,然而由于劃分網(wǎng)格數(shù)量較多,在回歸計(jì)算過(guò)程中效率低下,同時(shí)因?yàn)榫W(wǎng)格會(huì)由于圖像中存在若干不同尺寸的物體或者物體彼此有重疊時(shí)產(chǎn)生錯(cuò)誤的預(yù)測(cè)結(jié)果,泛化能力較差。為解決該問(wèn)題,Redmon和Farhadi(2018)在原始YOLO算法上進(jìn)行改進(jìn),提出YOLO-V3目標(biāo)檢測(cè)算法,通過(guò)添加多尺度預(yù)測(cè)機(jī)制將聚類(lèi)后得到的錨點(diǎn)分配給不同尺度的檢測(cè)框,降低了誤檢率,并且在網(wǎng)絡(luò)最后輸出3種不同尺度的深度特征和分類(lèi)概率,提高了模型對(duì)同類(lèi)且不同尺寸物體檢測(cè)的泛化能力。然而對(duì)于絕緣子檢測(cè)任務(wù)而言,不同類(lèi)型的絕緣子外觀差異較大。在缺乏某一類(lèi)絕緣子樣本標(biāo)注的情況下,直接將YOLO-V3應(yīng)用到跨域絕緣子檢測(cè)任務(wù)時(shí),會(huì)由于域偏移導(dǎo)致性能急劇下降。本文提出的基于對(duì)抗一致性約束的絕緣子檢測(cè)算法的目的是在無(wú)監(jiān)督條件下賦予模型提取不同類(lèi)型絕緣子魯棒性特征的能力,從而使模型能更好地識(shí)別不同類(lèi)型的絕緣子。

1.2 無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)算法

Zhu等人(2017)提出的循環(huán)一致性生成對(duì)抗網(wǎng)絡(luò)在圖像風(fēng)格遷移任務(wù)上取得了巨大成功。在目標(biāo)檢測(cè)領(lǐng)域,一些研究者嘗試?yán)没陲L(fēng)格遷移的方法進(jìn)行無(wú)監(jiān)督跨域目標(biāo)檢測(cè)(Yang等,2020;Kim等,2019b;Inoue等,2018)。風(fēng)格遷移主要是將源域的圖像風(fēng)格遷移至目標(biāo)域,同時(shí)保留源域標(biāo)簽信息,利用遷移后的圖像結(jié)合源域標(biāo)簽重新訓(xùn)練模型,以此減輕不同風(fēng)格的域偏移對(duì)模型性能造成的影響。Inoue等人(2018)將源域的真實(shí)場(chǎng)景圖像通過(guò)循環(huán)一致性網(wǎng)絡(luò)生成具有卡通風(fēng)格的圖像,并利用生成后的圖像對(duì)模型進(jìn)行微調(diào)。然而對(duì)于輸電線路巡檢圖像而言,其具有尺寸較大、背景復(fù)雜和目標(biāo)物繁多等特點(diǎn),利用循環(huán)一致性網(wǎng)絡(luò)進(jìn)行不同風(fēng)格圖像的生成會(huì)產(chǎn)生大量噪聲,利用這些有噪聲的圖像重新微調(diào)網(wǎng)絡(luò)會(huì)導(dǎo)致其性能急劇下降。

基于自訓(xùn)練的無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)算法(RoyChowdhury等,2019;Kim等,2019a)利用有標(biāo)注的源域數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,通過(guò)預(yù)訓(xùn)練模型對(duì)目標(biāo)域數(shù)據(jù)進(jìn)行偽標(biāo)簽的預(yù)測(cè),利用目標(biāo)域數(shù)據(jù)結(jié)合偽標(biāo)簽重新對(duì)模型進(jìn)行微調(diào)。Kim等人(2019a)通過(guò)SSD(single shot MultiBox detector)(Liu等,2016)檢測(cè)得到難樣本,通過(guò)背景得分正則化幫助網(wǎng)絡(luò)提取難樣本具有鑒別性的特征來(lái)減少域偏移,以更加準(zhǔn)確地對(duì)目標(biāo)域樣本進(jìn)行偽標(biāo)簽預(yù)測(cè)。在這類(lèi)方法使用的樣本中,所要識(shí)別的目標(biāo)在圖像中占比較大,所以易于提取目標(biāo)物的特征。對(duì)于輸電線路巡檢圖像而言,絕緣子僅在圖像中占有很小的比例,不利于進(jìn)行偽標(biāo)簽預(yù)測(cè),而且圖像中目標(biāo)物繁多,容易對(duì)特征提取造成干擾,所以很難將自訓(xùn)練的無(wú)監(jiān)督域自適應(yīng)方法直接應(yīng)用到絕緣子檢測(cè)任務(wù)中。不同于上述方法,本文提出一種利用對(duì)抗訓(xùn)練的方法提取不同類(lèi)型絕緣子共有且具有魯棒性的特征,減小絕緣子外觀差異對(duì)數(shù)據(jù)分布的影響,增強(qiáng)了模型在復(fù)雜背景下對(duì)絕緣子的識(shí)別能力。

2 本文算法

在缺少目標(biāo)域樣本標(biāo)簽的情況下,為了提高模型對(duì)復(fù)雜輸電線路圖像中目標(biāo)域絕緣子的檢測(cè)能力,本文提出一種基于對(duì)抗一致性約束的無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)算法,算法流程如圖2所示。該算法將YOLO-V3目標(biāo)檢測(cè)網(wǎng)絡(luò)(Redmon和Farhadi,2018)作為主體框架,使用DarkNet-53(Redmon和Farhadi,2018)作為特征提取主干網(wǎng)絡(luò)。具體而言,預(yù)訓(xùn)練階段分別輸入有標(biāo)簽的源域樣本和無(wú)標(biāo)簽的目標(biāo)域樣本到Y(jié)OLO-V3網(wǎng)絡(luò)中提取特征,將得到的兩組特征分別輸入到兩個(gè)分類(lèi)網(wǎng)絡(luò)W1和W2,通過(guò)類(lèi)別標(biāo)簽約束兩個(gè)分類(lèi)網(wǎng)絡(luò)能對(duì)不同類(lèi)型的絕緣子提取相應(yīng)的獨(dú)有特征。

圖2 本文算法流程Fig.2 The flow chart of the proposed algorithm

對(duì)抗一致性學(xué)習(xí)過(guò)程如圖3所示,輸入源域和目標(biāo)域的樣本到Y(jié)OLO-V3網(wǎng)絡(luò)中提取特征,將得到的兩組特征圖同時(shí)輸入到一個(gè)初始化的分類(lèi)網(wǎng)絡(luò)W3,通過(guò)交叉熵訓(xùn)練W3使之不能正確區(qū)分兩類(lèi)絕緣子。然后固定W3,訓(xùn)練主干網(wǎng)絡(luò)使兩組特征的分類(lèi)結(jié)果到同一個(gè)標(biāo)簽下,使網(wǎng)絡(luò)能提取不同類(lèi)型絕緣子具有的一致性和魯棒性特征。

圖3 對(duì)抗訓(xùn)練流程圖Fig.3 The flow chart of adversarial training((a)the first stage;(b)the second stage)

2.1 絕緣子特征提取

坐標(biāo)回歸需要將預(yù)測(cè)的中心點(diǎn)和尺度與真實(shí)的中心點(diǎn)和尺度做約束。對(duì)預(yù)測(cè)的中心點(diǎn)的約束具體表示為

(1)

(2)

Lbox=Lbox_wh+Lbox_xy

(3)

除了對(duì)預(yù)測(cè)結(jié)果進(jìn)行坐標(biāo)約束,還要對(duì)其進(jìn)行類(lèi)別約束,具體為

(4)

(5)

LYOLO-V3=β1Lbox+β2Lcls+β3Lobj

(6)

本文采用Redmon和Farhadi(2018)提出的超參數(shù)設(shè)置,將β1、β2、β3設(shè)為1。應(yīng)用式(6)能夠?qū)^緣子進(jìn)行初步檢測(cè),為提取不同類(lèi)型絕緣子私有特征奠定了基礎(chǔ)。值得注意的是,本文方法在訓(xùn)練過(guò)程中僅使用源域的絕緣子坐標(biāo)標(biāo)簽,將其和模型預(yù)測(cè)的坐標(biāo)進(jìn)行回歸約束,不使用任何目標(biāo)域絕緣子的坐標(biāo)標(biāo)簽。

2.2 絕緣子一致性特征提取

通過(guò)利用YOLO-V3中的坐標(biāo)回歸、分類(lèi)回歸和置信度回歸,模型已經(jīng)具有對(duì)絕緣子特征的初步提取能力。然而在缺乏目標(biāo)域絕緣子標(biāo)簽的情況下,由于輸電線路圖像中背景復(fù)雜,目標(biāo)物種類(lèi)繁多,如果不增強(qiáng)絕緣子特征的魯棒性將會(huì)造成誤檢率過(guò)高,影響模型部署。為解決此問(wèn)題,提出一種在無(wú)監(jiān)督條件下通過(guò)對(duì)抗訓(xùn)練提取絕緣子一致性特征的方法。具體地,在預(yù)訓(xùn)練階段設(shè)計(jì)了兩個(gè)不同的分類(lèi)網(wǎng)絡(luò)W1和W2,分別將其應(yīng)用到源域絕緣子和目標(biāo)域絕緣子的分類(lèi)任務(wù)上,通過(guò)對(duì)分類(lèi)結(jié)果的類(lèi)別進(jìn)行約束使模型提取到不同類(lèi)型絕緣子的私有特征。對(duì)于源域絕緣子而言,上述過(guò)程可表示為

(7)

(8)

對(duì)兩個(gè)分類(lèi)網(wǎng)絡(luò)的結(jié)果分別進(jìn)行絕緣子的類(lèi)別約束,可以使特征提取網(wǎng)絡(luò)E提取源域絕緣子和目標(biāo)域絕緣子各自私有的特征,然而這種特征并不具有魯棒性。在復(fù)雜輸電線路圖像中,應(yīng)當(dāng)使模型能夠提取絕緣子魯棒性的特征,利用這種特征對(duì)不同類(lèi)型的絕緣子能進(jìn)行正確定位,提高模型的檢測(cè)能力。通過(guò)預(yù)訓(xùn)練階段兩個(gè)分類(lèi)網(wǎng)絡(luò)對(duì)各自類(lèi)型絕緣子進(jìn)行的類(lèi)別約束,網(wǎng)絡(luò)能夠提取不同類(lèi)型絕緣子各自私有的特征,然而這種特征提取能力不能部署到跨域絕緣子識(shí)別任務(wù)中,因?yàn)閮煞N絕緣子間的外觀差異會(huì)造成檢測(cè)性能下降。為能提高跨域絕緣子檢測(cè)性能,在對(duì)抗階段(圖3)提出了一種對(duì)抗一致性約束來(lái)提取絕緣子一致性特征的方法。具體地,增加一個(gè)額外的分類(lèi)網(wǎng)絡(luò)W3,將兩種絕緣子的特征輸入到該網(wǎng)絡(luò)中,通過(guò)交叉熵單獨(dú)訓(xùn)練W3使之將復(fù)合絕緣子特征和玻璃絕緣子特征判斷為不同類(lèi)。具體為

(9)

(10)

式中,ui表示兩種絕緣子屬于同一類(lèi)別的標(biāo)簽。利用這一方法,可以促使特征提取網(wǎng)絡(luò)提取不同類(lèi)型絕緣子具有一致性的特征,在無(wú)監(jiān)督的條件下提高模型的檢測(cè)能力。最后,整合所有損失函數(shù)為

(11)

式中,β、λ1、λ2、λ3分別為各項(xiàng)損失函數(shù)對(duì)應(yīng)的權(quán)重參數(shù)。在后面的實(shí)驗(yàn)中,會(huì)對(duì)每個(gè)參數(shù)進(jìn)行討論,展示不同參數(shù)下模型的性能,從而選取適用于模型的最優(yōu)參數(shù)。本文算法流程如下:

定義:編碼器E和3個(gè)分類(lèi)器W1,W2,W3。

輸出:最優(yōu)模型E*。

1)圖像預(yù)處理,將圖像縮放為416×416×3。

2)for eachk∈[1,n] do:

(3)通過(guò)式(3)(7)(8)分別訓(xùn)練E,W1和W2;

end for。

3)for eachk∈[n,m] do:

(3)通過(guò)式(9)訓(xùn)練W3;

end for。

4)for eachk∈[m,p] do:

(3)通過(guò)式(3)(10)訓(xùn)練E;

end for。

3 實(shí)驗(yàn)結(jié)果及分析

3.1 數(shù)據(jù)集和評(píng)價(jià)指標(biāo)

實(shí)驗(yàn)所用的數(shù)據(jù)集共有4 113幅不同類(lèi)型的絕緣子圖像,其中2 416幅包含玻璃絕緣子,1 697幅含有復(fù)合絕緣子,樣例如圖4和圖5所示。在這些樣本中,每個(gè)數(shù)據(jù)集都分成訓(xùn)練集和測(cè)試集,訓(xùn)練集占總樣本的2/3,測(cè)試集占1/3。這些圖像大多數(shù)都是無(wú)人機(jī)在輸電線路巡檢過(guò)程中拍攝的,還有一部分是相機(jī)和手機(jī)拍攝得到。由樣例可以看出,巡檢圖像背景復(fù)雜多變,絕緣子尺度大小不一,光照等各不相同,這些因素使得數(shù)據(jù)集樣式豐富,數(shù)據(jù)分布廣泛。

圖4 數(shù)據(jù)集中玻璃絕緣子樣例Fig.4 The example of glass insulators in dataset

圖5 數(shù)據(jù)集中復(fù)合絕緣子樣例Fig.5 The example of composite insulators in dataset

在標(biāo)注工作中,用Label-Img軟件對(duì)圖像中的絕緣子進(jìn)行人工標(biāo)注,標(biāo)注格式與流行數(shù)據(jù)集PAS-CAL VOC(pattern analysis,statistical modeling and computational learning visual object classes)(Evering-ham等,2010)相同,標(biāo)注信息存儲(chǔ)在“.xml”文件中。標(biāo)注樣例如圖6所示。

圖6 標(biāo)注樣例Fig.6 The example of annotation

為了充分體現(xiàn)模型的魯棒性和對(duì)比實(shí)驗(yàn)的科學(xué)性,采用常見(jiàn)的平均精度均值(mean average precision,mAP)作為評(píng)估指標(biāo)。

3.2 實(shí)施細(xì)節(jié)

采用YOLO-V3目標(biāo)檢測(cè)網(wǎng)絡(luò)(Redmon和Farhadi,2018)作為基礎(chǔ)框架。該框架使用DarkNet-53作為特征提取網(wǎng)絡(luò),圖像尺寸統(tǒng)一縮放為416×416×3輸入到該網(wǎng)絡(luò)中,網(wǎng)絡(luò)最后的3組殘差塊分別輸出了3個(gè)不同尺度的圖像特征,將這些特征輸入到3個(gè)并聯(lián)的下采樣過(guò)程,最終得到13×13×18、26×26×18、52×52×18這3個(gè)不同尺度的特征圖。使用深度學(xué)習(xí)平臺(tái)Pytorch搭建YOLO-V3網(wǎng)絡(luò)3個(gè)分類(lèi)網(wǎng)絡(luò),其中3個(gè)分類(lèi)網(wǎng)絡(luò)結(jié)構(gòu)相同,均由2個(gè)全連接層組成,第1層輸入維度是3 042,第2層輸入維度為64,輸出維度均為1。DarkNet-53和3個(gè)分類(lèi)網(wǎng)絡(luò)均采用隨機(jī)梯度下降法進(jìn)行優(yōu)化,對(duì)于DarkNet-53,設(shè)置其學(xué)習(xí)率為0.005,動(dòng)量為0.937。3個(gè)分類(lèi)網(wǎng)絡(luò)的學(xué)習(xí)率設(shè)置為0.000 1,動(dòng)量設(shè)為0.9。在訓(xùn)練過(guò)程中,將訓(xùn)練的迭代次數(shù)設(shè)為100,批次大小設(shè)置為16。目標(biāo)損失函數(shù)中的4個(gè)參數(shù)β、λ1、λ2、λ3在復(fù)合絕緣子跨域到玻璃絕緣子任務(wù)中設(shè)置為0.1、3、3、1,在玻璃絕緣子跨域到復(fù)合絕緣子任務(wù)中設(shè)置為1、3、3、10。

3.3 實(shí)驗(yàn)對(duì)比

目前,絕緣子檢測(cè)任務(wù)沒(méi)有公共的數(shù)據(jù)集,所以無(wú)法在已公開(kāi)的數(shù)據(jù)集上進(jìn)行對(duì)比。一些較為先進(jìn)的絕緣子識(shí)別方法(趙振兵 等,2019;Tao等,2020)采用的數(shù)據(jù)集中絕緣子類(lèi)型單一,無(wú)法滿(mǎn)足跨域的絕緣子檢測(cè)和識(shí)別。此外,這類(lèi)方法均在有監(jiān)督的條件下進(jìn)行訓(xùn)練,無(wú)法直接與它們的結(jié)果進(jìn)行對(duì)比。由于缺少基于域自適應(yīng)的跨域絕緣子檢測(cè)方法,本文的對(duì)比方法采用較為成熟的目標(biāo)檢測(cè)方法與無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)方法,在無(wú)監(jiān)督條件下進(jìn)行對(duì)比實(shí)驗(yàn)。這些對(duì)比方法包括YOLO(Redmon等,2016)、YOLO-V3(Redmon和Farhadi,2018)、Faster-RCNN(region convolutional neural networks)(Chen等,2018)、Aug-FPN(augmentational feature pyramid network)(Guo等,2020)和Pisa-RCNN(Cao等,2020)。在實(shí)驗(yàn)中,首先進(jìn)行玻璃絕緣子到復(fù)合絕緣子的跨域檢測(cè)任務(wù)(glass→composite),在該任務(wù)中僅使用玻璃絕緣子的標(biāo)簽信息,復(fù)合絕緣子的標(biāo)簽不可用,實(shí)驗(yàn)結(jié)果如表1所示??梢钥闯觯疚姆椒ǖ钠骄A(yù)測(cè)精度遠(yuǎn)高于YOLO (Redmon等,2016)目標(biāo)檢測(cè)算法,且優(yōu)于基于Faster-RCNN改進(jìn)的Pisa-RCNN和Aug-FPN算法。這類(lèi)方法沒(méi)有考慮物體的域間差異,不能促使模型提取域不變的特征,因而在跨域絕緣子檢測(cè)任務(wù)上性能不佳。對(duì)于基礎(chǔ)框架YOLO-V3(Redmon和Farhadi,2018)目標(biāo)檢測(cè)網(wǎng)絡(luò),本文算法在其基礎(chǔ)上,將mAP提升了11.5%,說(shuō)明本文算法確實(shí)增強(qiáng)了模型提取絕緣子魯棒性特征的能力。

表1 玻璃絕緣子到復(fù)合絕緣子實(shí)驗(yàn)結(jié)果Table 1 The experimental result of glass→composite

同樣,在復(fù)合絕緣子到玻璃絕緣子(composite→glass)的跨域檢測(cè)任務(wù)中,僅使用復(fù)合絕緣子的標(biāo)簽信息,不用玻璃絕緣子的標(biāo)簽信息,實(shí)驗(yàn)結(jié)果如表2所示??梢钥闯?,本文算法優(yōu)于其他對(duì)比方法。平均預(yù)測(cè)精度與glass→composite任務(wù)相比較低,主要原因是訓(xùn)練樣本數(shù)量相差較大,用于訓(xùn)練的復(fù)合絕緣子樣本數(shù)量比玻璃絕緣子少約700幅,樣本不平衡導(dǎo)致了檢測(cè)結(jié)果相差較大。

表2 復(fù)合絕緣子到玻璃絕緣子實(shí)驗(yàn)結(jié)果Table 2 The experimental result of composite→glass

為了更好地展示本文算法的優(yōu)越性,對(duì)絕緣子檢測(cè)任務(wù)進(jìn)行可視化展示,復(fù)合絕緣子和玻璃絕緣子檢測(cè)結(jié)果分別如圖7和圖8所示。可以看出,在具有復(fù)雜背景干擾的輸電線路圖像中,模型仍然能夠?qū)Σ煌?lèi)型的絕緣子進(jìn)行準(zhǔn)確識(shí)別和定位。

圖7 復(fù)合絕緣子檢測(cè)可視化結(jié)果Fig.7 The visualization results of composite insulators detection

圖8 玻璃絕緣子檢測(cè)可視化結(jié)果Fig.8 The visualization results of glass insulators detection

同時(shí),為了證明本文方法具有較強(qiáng)的應(yīng)用推廣能力,用COCO(common objects in context)數(shù)據(jù)集(Lin等,2014)對(duì)本文方法進(jìn)行有監(jiān)督訓(xùn)練,并在測(cè)試集上進(jìn)行測(cè)試。表3為本文方法與Libra R-CNN(Pang等,2019)和Grid-R-CNN(Lu等,2019)方法的實(shí)驗(yàn)結(jié)果對(duì)比??梢钥闯?,在常規(guī)的圖像檢測(cè)任務(wù)中,本文方法仍然表現(xiàn)出較好的性能。

表3 COCO數(shù)據(jù)集實(shí)驗(yàn)結(jié)果Table 3 The experimental results on COCO dataset

3.4 消融實(shí)驗(yàn)

本文方法是在YOLO-V3基礎(chǔ)上進(jìn)行的改進(jìn),所以為了凸顯改進(jìn)后的模型相較于原始網(wǎng)絡(luò)的優(yōu)越性,進(jìn)行了消融實(shí)驗(yàn)。

表4 玻璃絕緣子到復(fù)合絕緣子消融實(shí)驗(yàn)結(jié)果Table 4 The ablation study of glass→composite

在將復(fù)合絕緣子作為有標(biāo)簽的源域、玻璃絕緣子作為無(wú)標(biāo)簽的目標(biāo)域的使用中,與glass→composite實(shí)驗(yàn)設(shè)置相同,β、λ1、λ2、λ3分別設(shè)置為0.1、3、3、1,實(shí)驗(yàn)結(jié)果如表5所示??梢钥闯?,在YOLO-V3的基準(zhǔn)識(shí)別率17.0%的基礎(chǔ)上,差異分類(lèi)模塊和對(duì)抗一致性分類(lèi)模塊分別將mAP提高了2.8%和6.4%。

表5 復(fù)合絕緣子到玻璃絕緣子消融實(shí)驗(yàn)結(jié)果Table 5 The ablation study of composite→glass

從上述實(shí)驗(yàn)可以看出,本文方法在不同目標(biāo)數(shù)據(jù)集的跨域絕緣子檢測(cè)任務(wù)上都能夠提高模型性能,充分說(shuō)明了本文算法能夠避免輸電線路復(fù)雜背景的影響,在無(wú)監(jiān)督的條件下促使模型提取不同類(lèi)型絕緣子具有的魯棒性特征。

3.5 參數(shù)分析

在式(11)中,差異分類(lèi)和對(duì)抗一致性在整體損失函數(shù)中的權(quán)重分別為β、λ1、λ2、λ3。本節(jié)通過(guò)分析權(quán)重參數(shù),討論4項(xiàng)損失函數(shù)對(duì)模型整體性能的影響。在此過(guò)程中,分析其中一項(xiàng)損失函數(shù)的作用時(shí),其他項(xiàng)的權(quán)重設(shè)置為最優(yōu)值,以便觀察該項(xiàng)權(quán)重對(duì)整體性能的影響。

圖9為參數(shù)β對(duì)mAP值的影響??梢钥闯?,β分別取值為1和0.1時(shí),glass→composite和composite→glass兩個(gè)任務(wù)取得了最優(yōu)結(jié)果,mAP分別為55.1%和23.4%。在兩個(gè)跨域任務(wù)中,β對(duì)整體性能的波動(dòng)相較其他3個(gè)參數(shù)影響較小,反映出YOLO-V3缺乏對(duì)檢測(cè)不同類(lèi)型絕緣子的自適應(yīng)能力。

圖9 β參數(shù)分析Fig.9 The parameter analysis of β

λ1是對(duì)源域絕緣子類(lèi)別約束的權(quán)重,其參數(shù)分析結(jié)果如圖10所示??梢钥闯觯瑢⑵湓O(shè)置為3時(shí),在兩個(gè)不同的任務(wù)上mAP都達(dá)到了最大值,分別為55.1%和23.4%。通過(guò)對(duì)源域絕緣子進(jìn)行類(lèi)別約束使模型提取屬于源域絕緣子的特征,為后續(xù)對(duì)抗訓(xùn)練提取不同絕緣子具有一致性的特征奠定了基礎(chǔ)。

圖10 λ1參數(shù)分析Fig.10 The parameter analysis of λ1

λ2是對(duì)目標(biāo)域絕緣子類(lèi)別約束的權(quán)重,參數(shù)分析結(jié)果如圖11所示??梢钥闯?,當(dāng)λ2為3時(shí),兩個(gè)任務(wù)的性能都達(dá)到了最優(yōu)值,在glass→composite和composite→glass上mAP分別達(dá)到了55.1%和23.4%。由于λ1和λ2對(duì)應(yīng)的損失函數(shù)都是對(duì)不同類(lèi)型絕緣子進(jìn)行類(lèi)別約束,所以結(jié)果具有相似性。

圖11 λ2參數(shù)分析Fig.11 The parameter analysis of λ2

λ3控制模型提取絕緣子一致性特征的能力,對(duì)增強(qiáng)模型的魯棒性、提升模型性能具有重要作用。對(duì)其參數(shù)分析的結(jié)果如圖12所示。由結(jié)果可以看出,在復(fù)合跨玻璃的目標(biāo)檢測(cè)中,λ3為1時(shí),對(duì)應(yīng)項(xiàng)對(duì)模型性能的貢獻(xiàn)最高,mAP達(dá)到23.4%。在玻璃跨復(fù)合的任務(wù)中,模型最高性能對(duì)應(yīng)的λ3值為10。所以,對(duì)不同的跨域任務(wù),設(shè)定不同的λ3以獲取最優(yōu)的性能。兩個(gè)任務(wù)中最優(yōu)性能對(duì)應(yīng)的λ3不同,主要是因?yàn)閿?shù)據(jù)集樣本不均衡所致,用于訓(xùn)練的復(fù)合絕緣子樣本數(shù)量比玻璃絕緣子少約700幅圖像,所以對(duì)樣本數(shù)據(jù)少的任務(wù)該項(xiàng)權(quán)重不宜過(guò)大。

圖12 λ3參數(shù)分析Fig.12 The parameter analysis of λ3

4 結(jié) 論

為提高輸電線路巡維中的絕緣子檢測(cè)效率,降低人工標(biāo)注成本,提出一種對(duì)抗一致性約束的無(wú)監(jiān)督域自適應(yīng)絕緣子檢測(cè)算法。該方法對(duì)源域樣本與目標(biāo)域樣本的網(wǎng)絡(luò)預(yù)測(cè)結(jié)果與對(duì)應(yīng)的絕緣子類(lèi)別進(jìn)行約束,使模型能夠提取到不同類(lèi)型絕緣子獨(dú)有的特征。在對(duì)抗學(xué)習(xí)過(guò)程中引入一個(gè)額外的分類(lèi)器用于將源域中絕緣子特征與從目標(biāo)域中預(yù)測(cè)到的目標(biāo)物特征分到同一類(lèi)別下,從而使模型能提取不同類(lèi)型絕緣子共有的魯棒性特征。該方法減小了不同類(lèi)型絕緣子間存在的域差異,提高了模型的泛化性能。在實(shí)驗(yàn)部分,本文與目前先進(jìn)的無(wú)監(jiān)督域自適應(yīng)目標(biāo)檢測(cè)算法進(jìn)行了對(duì)比,結(jié)果證明了本文所提算法的優(yōu)越性,同時(shí)在主流數(shù)據(jù)集COCO上的實(shí)驗(yàn)結(jié)果展示了本文算法的可擴(kuò)展性。消融實(shí)驗(yàn)中,通過(guò)對(duì)比改進(jìn)前后模型的性能,證明了本文方法的有效性。參數(shù)分析中,通過(guò)改變超參數(shù)觀察該方法對(duì)整體性能的影響,從而選取了最優(yōu)的參數(shù)。然而本文方法還需要有標(biāo)簽的源域樣本對(duì)模型進(jìn)行訓(xùn)練。在未來(lái)的工作中,將進(jìn)一步研究不同類(lèi)型絕緣子之間特征的差別,探索無(wú)需標(biāo)注樣本就可以識(shí)別不同類(lèi)型絕緣子的方法。

猜你喜歡
絕緣子標(biāo)簽圖像
基于Mask RCNN的絕緣子自爆缺陷檢測(cè)
A、B兩點(diǎn)漂流記
500kV輸電線路玻璃絕緣子劣化對(duì)V串絕緣子電場(chǎng)分布影響仿真分析
讓衣柜擺脫“雜亂無(wú)章”的標(biāo)簽
科學(xué)家的標(biāo)簽
科學(xué)家的標(biāo)簽
名人語(yǔ)錄的極簡(jiǎn)圖像表達(dá)
一次函數(shù)圖像與性質(zhì)的重難點(diǎn)講析
廣西某500kV線路絕緣子選型
趣味數(shù)獨(dú)等4則