滕 瀟，李傳坤，李樂寧

(中國石化青島安全工程研究院，山東青島 266071)

0 引言

乙烯球罐焊縫中的氫在微裂紋前緣不斷地積聚、循環(huán)載荷，引起的疲勞或應力腐蝕會促使微裂紋逐漸擴展成宏觀裂縫或穿透裂縫，從而導致球罐的低應力脆性破壞[1],造成物料泄漏。乙烯球罐的操作溫度一般為-36～-27 ℃，設計壓力一般為2.16～2.2 Mpa(G)[2]。低溫高壓的操作條件更加促進了上述現(xiàn)象的發(fā)生。泄漏的乙烯會吸收周圍的熱量而迅速汽化,由于乙烯本身的密度在常壓下較空氣略小，閃點較低，故遇高溫極易發(fā)生燃燒甚至爆炸，威脅人員生命安全。

目前石化行業(yè)主要利用氣體探測系統(tǒng)對罐區(qū)泄漏進行在線監(jiān)測[3]，配合以泄漏檢測與修復技術(Leak Detection and Repair，LDAR)進行局部微量的泄漏檢測[4]。其中，紅外熱成像技術在氣體泄漏檢測的應用越來越廣泛[5]。但是，紅外熱成像需要人工觀察畫面實現(xiàn)實時檢測，一是造成人員浪費；二是人的不可靠性對實時檢測效果有較大的負面影響。因此，迫切需要研究可以通過圖像識別自動判斷泄漏的方法。

近年來，深度學習憑借其優(yōu)越的特征提取能力，廣泛應用于語音識別、視覺目標識別、目標檢測等其它領域[6]。其中，卷積神經(jīng)網(wǎng)絡(Convolutional Neural Network,CNN)最適用于圖像目標識別。卷積神經(jīng)網(wǎng)絡通過組合低層特征，形成更加抽象的高層特征以表示屬性類別，發(fā)現(xiàn)數(shù)據(jù)的分布式特征表達，更有利于學習到數(shù)據(jù)蘊藏的本質(zhì)特征[7]。2012年，卷積神經(jīng)網(wǎng)絡在ImageNet競賽中取得冠軍，識別錯誤率從26%降到15%，準確率超出第二名近10%[8]，大幅度提升了大規(guī)模圖像識別的精度。

本文探索使用卷積神經(jīng)網(wǎng)絡對乙烯球罐進行泄漏識別的方法，實現(xiàn)以圖像識別方式進行自動泄漏檢測的應用研究。

1 卷積神經(jīng)網(wǎng)絡基本原理

卷積神經(jīng)網(wǎng)絡是一類專門設計用來處理二維數(shù)據(jù)的多層神經(jīng)網(wǎng)絡，其層次之間的緊密關聯(lián)和空間上的信息提取特別適用于圖像的處理[9]。卷積神經(jīng)網(wǎng)絡由卷積層、激活層、池化層、全連接層、輸入-輸出層構(gòu)成，有權(quán)重共享、局部連接、下采樣3個結(jié)構(gòu)特性，該特性使卷積神經(jīng)網(wǎng)絡在圖像識別方面更具優(yōu)勢。

圖1 CNN的網(wǎng)絡結(jié)構(gòu)

1.1 卷積層

采用卷積層來代替全連接層，使得下層的神經(jīng)元只與上層的局部窗口內(nèi)的神經(jīng)元相連接，即局部連接，如圖2所示。圖中s1-s5表示l層的神經(jīng)元，x1-x5表示l-1層的神經(jīng)元。

圖2 卷積層和全連接層

在全連接層中，如果第l層有n個神經(jīng)元，第l-1層有m個神經(jīng)元，則連接線有n×m個，即權(quán)重參數(shù)有n×m個。當n和m都很大時，權(quán)重矩陣的參數(shù)將會特別多，訓練效率會比較低。在卷積層中，第l層的神經(jīng)元只和第l-1層的神經(jīng)元構(gòu)成局部連接，有效減少了權(quán)重矩陣參數(shù)的數(shù)量，提高了訓練效率。

通常一維卷積運算用式(1)表示[10,11]：

(1)

f(·)——激活函數(shù)；

Mj——第j個神經(jīng)元對應的卷積核大小；

*——卷積運算；

bj——偏置。

式(1)還可以寫成：

x(l)=f(x(l-1)*k(l)+b(l))

(2)

式中：x——輸出矩陣；

b——偏置矩陣；

k——權(quán)重矩陣。

不難發(fā)現(xiàn)k(l)對于l層的神經(jīng)元都是相同的，即權(quán)重共享，如圖3所示。

圖3(a)黑色箭頭表示在卷積模型中對3元素核的中間元素的使用，由于權(quán)重共享，這個權(quán)重的參數(shù)被用于所有的輸入位置。圖3(b)黑色箭頭表示權(quán)重沒有共享，這些權(quán)重參數(shù)只用于一個輸入位置?？梢钥闯鰴?quán)重共享有效減少了權(quán)重矩陣參數(shù)數(shù)量，可以提高訓練速度。

圖3 權(quán)重共享示意

1.2 池化層

雖然使用卷積層來代替全連接層降低了一定的特征維度，但是此時的特征維度依然很高，還需近一步降低特征維度。因此，有學者提出池化(pooling)的概念。對局部區(qū)域的特征值進行聚合統(tǒng)計，來代表該區(qū)域整體的特征值，這個聚合的過程即為池化[12,13]。池化函數(shù)表示如下：

(3)

f(·)——激活函數(shù)；

down(·)——池化函數(shù)；

bj——偏置。

常用的池化方法包括最大池化法和均值池化法。最大池化法如式(4)所示：

(4)

式中：Nj——池化區(qū)域大小。

均值池化法如式(5)所示：

(5)

式中：mean——平均數(shù)

1.3 激活層

激活層通過對輸入數(shù)據(jù)進行處理，為線性表達能力差的神經(jīng)網(wǎng)絡注入非線性因素，使數(shù)據(jù)在非線性條件下可區(qū)分。常用的激活函數(shù)有TanH函數(shù)，見式(6)、(7)、(8)、Sigmoid函數(shù)和ReLU函數(shù)(Rectified Linear Unit)。TanH激活函數(shù)是Sigmoid激活函數(shù)的變形形式，取值范圍從[0,1]變?yōu)閇-1,1]。ReLU激活函數(shù)能夠?qū)⒋笥?的數(shù)據(jù)保留，其它的數(shù)據(jù)均置為0，這使得數(shù)據(jù)可以表示為大部分元素為0的稀疏矩陣，提高數(shù)據(jù)處理效率，所以ReLU激活函數(shù)在卷積神經(jīng)網(wǎng)絡方面較TanH激活函數(shù)和Sigmoid激活函數(shù)應用更廣[14]。

(6)

(7)

(8)

1.4 全連接層

如圖2(b)所示，全連接層的神經(jīng)元與前一層的每一個神經(jīng)元相連接，該層的神經(jīng)元之間沒有連接。全連接層數(shù)學表達式如式9所示[15]：

(9)

n——第l-1層神經(jīng)元總數(shù)；

Wi——權(quán)重(w表示從第l-1層中第i個神經(jīng)元到第l層中第j個神經(jīng)元的權(quán)重)；

bj——偏置。

2 乙烯球罐泄漏檢測模型構(gòu)建

2.1 數(shù)據(jù)集

在工業(yè)實踐中，紅外熱成像儀多為固定設置，所拍攝的圖像每幀之間差別較小，從而重復數(shù)據(jù)較多，實際可用數(shù)據(jù)量很小。因此，為了驗證本文建立的檢測模型的效果，利用仿真軟件模擬乙烯球罐泄漏的現(xiàn)場，以便得到更多維度的圖像。模擬了正常工況和泄漏工況兩種狀態(tài)，并從不同角度進行了圖像截取，如圖4所示。共截取圖像1 648張(正常工況751張，泄漏工況897張)，其中1 200張作為訓練集(正常工況和泄漏工況各600張)，448張作為測試集(正常工況151張，泄漏工況297張)。

2.2 模型結(jié)構(gòu)

基于Caffe(Convolutional Architecture for Fast Feature Embedding)框架，通過實驗探究，最終確定了一個15層的網(wǎng)絡模型，用于實現(xiàn)乙烯球罐泄漏的自動檢測。該網(wǎng)絡模型包括3個卷積層，4個激活層，3個池化層，2個局部響應歸一化層，2個全連接層和1個dropout層。其結(jié)構(gòu)如圖5所示。

圖4 正常工況和泄漏工況

圖5 泄漏檢測CNN網(wǎng)絡模型結(jié)構(gòu)示意

2.2.1輸入層、輸出層

所有圖像的像素都標準化為227×227，且輸入的圖像是RGB圖片，即3通道，所以輸入的圖像規(guī)格為227×227×3。

如圖5所示，F(xiàn)2既是輸出層，也是全連接層。所甄別的圖像最終分為有泄漏和無泄漏2類，故F2的輸出神經(jīng)元為2個。

2.2.2卷積層

如表1所示，本文搭建的泄漏檢測模型包含3個卷積層。

表1 泄漏檢測模型卷積層結(jié)構(gòu)

2.2.3池化層

在前3個激活層之后均有池化層，分別是S1、S2和S3，其結(jié)構(gòu)如表2所示。

表2 泄漏檢測模型池化層結(jié)構(gòu)

2.2.4全連接層

如圖5所示，F(xiàn)1是1個具有400個神經(jīng)元的全連接層，與S3進行全連接。F2是1個輸出神經(jīng)元為2個的全連接層。F2的2個神經(jīng)元，與F1中的400個神經(jīng)元進行全連接，然后通過高斯過濾器，得到2個float值，即為圖像識別的準確率。

3 模型驗證與結(jié)果分析

重點研究了不同種類的池化方法和激活函數(shù)對識別準確率的影響。

3.1 池化方法的影響與分析

由圖6可以看出，當?shù)_到2 000次時，最大池化法的識別準確度已經(jīng)達到95.86%，均值池化法只有79.13%。

圖6 最大池化法和均值池化法準確度對比

造成最大池化法和均值池化法準確度相差較大的原因，應該是由于兩者之間的池化過程不同造成的。兩者的池化過程如圖7所示：

圖7 最大池化法和均值池化法池化過程

由圖7可以看出，最大池化法的輸入矩陣中最大值處所對應的權(quán)重為1，其余為0，故將局部區(qū)域所對應的最大值挑選出來，能減小由參數(shù)誤差造成的均值偏移，保留更多的紋理信息。而平均池化法的輸入矩陣所對應的權(quán)重均為0.25，即為輸入矩陣求平均，能降低由鄰域大小受限造成的估計值方差增大，可保留更多的原始圖像的背景信息。本文驗證用的數(shù)據(jù)集，其背景圖像基本不變，而泄漏工況的特征主要體現(xiàn)在圖像紋理上，故采用最大池化法可以得到更高的準確率。

3.2 激活函數(shù)的影響與分析

對于不同的激活函數(shù)，由圖8可以看出，最終ReLU的識別準確度達到了95.86%，PReLU(Parametric Rectified Linear Unit)的識別準確度達到了95.43%，而TanH的識別準確度只有73.08%。此外，隨著迭代次數(shù)的上升，ReLU和PReLU識別準確度的收斂速率趨于一致。從理論角度分析，ReLU的準確度最高，應該與其函數(shù)性質(zhì)有關。ReLU函數(shù)為左側(cè)硬飽和(即負值強制為0)，PReLU函數(shù)為兩側(cè)均不飽和(即兩側(cè)導數(shù)均不為0)，TanH函數(shù)為兩側(cè)軟飽和(即兩側(cè)導數(shù)逐漸趨近于0)。

圖8 激活函數(shù)ReLU、PReLU和TanH準確度對比

經(jīng)過對比分析，最終確定最大池化法和ReLU激活函數(shù)的識別精度更高，對泄漏工況的識別準確率可以達到95.86%。

4 結(jié)論

通過以上研究，得到如下結(jié)論。

a)提出了應用卷積神經(jīng)網(wǎng)絡對乙烯球罐進行自動泄漏識別的方法。實驗證明，最終模型的圖像識別準確率高達95.86%，證實了本文提出的泄漏檢測模型的有效性。

b)在仿真條件下，構(gòu)建了一個15層的卷積神經(jīng)網(wǎng)絡模型，分別研究了不同池化方法和激活函數(shù)對識別準確度的影響并進行了機理分析，確定了最大池化法和ReLU激活函數(shù)可使本實驗的識別精度更高。

下一步應研究將該方法應用在工業(yè)視頻的實時分析，為乙烯泄漏檢測提供在線輔助。此外，對卷積神經(jīng)網(wǎng)絡關鍵參數(shù)的優(yōu)化方法及其理論依據(jù)應繼續(xù)探索。