侯博文， 楊 曉， 高 亮， 肖 宏， 馬 帥

(1. 北京交通大學 土木建筑工程學院，北京 100044；2. 軌道工程北京市重點實驗室，北京 100044)

相較于高速及重載鐵路技術(shù)的迅猛發(fā)展，軌道檢測技術(shù)的發(fā)展相對滯后，目前大部分軌道結(jié)構(gòu)檢測工作仍然由鐵路工人通過目測的方式進行[1]。這種低效、高風險的檢測方式使得軌道結(jié)構(gòu)損傷自動檢測技術(shù)越來越受到重視，同時隨著計算機性能的提高和機器視覺算法的優(yōu)化，機器視覺檢測以其速度快、結(jié)果直觀和無損等優(yōu)勢在軌道檢測領(lǐng)域受到了越來越多的重視。

國內(nèi)外學者針對軌道結(jié)構(gòu)圖像檢測做了大量工作，Hsieh等[2]通過閾值分割等技術(shù)獲得扣件的二值圖像，并以此識別扣件狀態(tài)。劉甲甲[3]提出一種基于權(quán)重累積的稀疏表示分類識別算法，實現(xiàn)對扣件缺陷的自動檢測。上述方法需要理想的背景環(huán)境或要事先對圖像進行定位和分割等預處理操作，而定位和分割操作的準確性又很大程度上影響了后續(xù)的識別率，使得整個分類識別過程不具備較強的魯棒性。趙鑫欣[4]使用AlexNet卷積神經(jīng)網(wǎng)絡(luò)對扣件狀態(tài)進行二分類，因AlexNet的特征學習能力受限于8層的網(wǎng)絡(luò)結(jié)構(gòu)，其識別準確率為90.02%。在現(xiàn)有研究基礎(chǔ)上，本文提出一種基于深度殘差網(wǎng)絡(luò)(ResNet)的軌道結(jié)構(gòu)病害檢測方法，該方法可自動從圖像中提取最有效的特征并分類，且不需要任何預處理，同時層數(shù)更深、結(jié)構(gòu)更復雜的ResNet 具有更強的分類性能。

ResNet目前已成功應(yīng)用于醫(yī)學圖像分類、語音識別等場景，本文將其應(yīng)用到軌道結(jié)構(gòu)病害檢測中，在構(gòu)建的軌道結(jié)構(gòu)圖像數(shù)據(jù)庫中進行了大量實驗，對ResNet的特征提取過程進行可視化，并從準確率、損失函數(shù)值等方面對應(yīng)用效果進行評價，驗證方法的有效性。

1 建立數(shù)據(jù)庫

列車在運行過程中，鋼軌、扣件和支承塊結(jié)構(gòu)直接決定了行車的平穩(wěn)性，其在長期服役過程中也極易發(fā)生劣化。其中鋼軌的剝離裂紋、剝離掉塊和鋼軌擦傷與扣件的彈條斷裂以及支承塊掉塊是最為典型的病害。

剝離裂紋是一種常見于曲線、坡道地段沿鋼軌全長分布的疲勞裂紋，它由軌頭在輪軌接觸應(yīng)力反復作用下產(chǎn)生，剝離裂紋會造成降低線路舒適度以及干擾鋼軌探傷等多個方面的影響，并且會很快發(fā)展成剝離掉塊，進而導致核傷等[5]。軌面擦傷若不及時采取措施則會導致踏面碎裂掉塊或發(fā)生疲勞斷裂。

彈條是聯(lián)結(jié)鋼軌和軌道板的關(guān)鍵部件，對保持鋼軌的幾何形位有重要的作用，但是其在拉應(yīng)力與環(huán)境腐蝕共同作用下易發(fā)生銹蝕和脆性斷裂，造成線路不平順，甚至影響行車安全。

彈性支承塊式無砟軌道因其良好的減振性能得到廣泛的應(yīng)用，但其在長期的列車荷載作用下會發(fā)生支承塊掉塊病害，增大軌道板的振動響應(yīng)，從軌道結(jié)構(gòu)的耐久性和使用壽命考慮，支承塊掉塊后應(yīng)及時補修。

使用ImageNet預先訓練的ResNet模型對上述病害進行分類識別，訓練模型的過程需要大量的圖像數(shù)據(jù)，但是ImageNet數(shù)據(jù)庫中缺少相應(yīng)軌道結(jié)構(gòu)的數(shù)據(jù)。為此，以某客貨共線線路隧道(圖1、圖2)的鋼軌踏面、鋼軌扣件和支承塊圖像建立數(shù)據(jù)庫,見圖3～圖5。

圖1 隧道口

圖2 隧道內(nèi)

圖3 軌面圖像數(shù)據(jù)庫

圖4 扣件圖像數(shù)據(jù)庫

圖5 支承塊圖像數(shù)據(jù)庫

該線路段多發(fā)剝離裂紋、扣件斷裂和支承塊掉塊等病害，這提供了相當數(shù)量的損傷軌道結(jié)構(gòu)的圖像集，這有利于深度殘差網(wǎng)絡(luò)對軌道病害圖像的特征提取，從而提高識別的準確率。構(gòu)建軌道結(jié)構(gòu)病害數(shù)據(jù)庫，根據(jù)軌道結(jié)構(gòu)以及病害類型劃分為三個。第一個為鋼軌踏面圖像數(shù)據(jù)庫，其中包含正常軌面、剝離裂紋軌面、剝離掉塊軌面和軌面擦傷的圖像,見圖3。第二個為軌道扣件的圖像數(shù)據(jù)庫，其中包含正?？奂蛷棗l斷裂扣件的圖像，見圖4。第三個為軌道板支承塊的圖像數(shù)據(jù)庫，其中包含正常支承塊和掉塊支承塊的圖像，見圖5。同時，數(shù)據(jù)庫中的圖像文件以結(jié)構(gòu)所在的里程位置進行命名，當圖像顯示的軌道結(jié)構(gòu)被判定為有傷損時，輸出其文件名稱即可獲知病害發(fā)生的位置，以便及時進行養(yǎng)護維修。表1列出了各數(shù)據(jù)庫中各類圖像的數(shù)量。

表 1 軌道結(jié)構(gòu)圖像數(shù)據(jù)庫

2 提出方法

傳統(tǒng)的圖像分類算法在用支持向量機(SVM)等分類器對圖像實現(xiàn)分類之前，還必須借助SIFT、HoG等算法人為提取具備較高區(qū)分性的特征[6]，這些方法在ILSVRC(ImageNet Large Scale Visual Recognition Challenge)大賽的最好結(jié)果的錯誤率也在26%以上，而且常年難以突破。

ILSVRC2012中Alex Krizhevsky等首次將深度學習運用在大規(guī)模圖像分類領(lǐng)域，提出的AlexNet僅有16.4%的錯誤率，該錯誤率相較于使用傳統(tǒng)算法的第2名參賽隊伍減少了大約10%[7]。同時鑒于卷積神經(jīng)網(wǎng)絡(luò)無需對圖像進行繁瑣的預處理，能夠直接輸入原始圖像進行分類，使得它成為目前眾多科學領(lǐng)域的研究熱點之一，特別是在模式分類領(lǐng)域。

選取2015年在ILSVRC中獲得冠軍的ResNet作為分類模型，并使用遷移學習的方式，將其遷移應(yīng)用到對鋼軌病害圖像進行分類識別，并對識別效果進行評估和分析。

2.1 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

局域感受野、權(quán)值共享和池化操作使得卷積神經(jīng)網(wǎng)絡(luò)能夠?qū)崿F(xiàn)識別位移、縮放和扭曲不變性[8]。局域感受野即各網(wǎng)絡(luò)層的神經(jīng)元僅與前一層一個小鄰域內(nèi)的神經(jīng)元聯(lián)系，從而每個神經(jīng)元可以提取初級的視覺特征[9]。卷積神經(jīng)網(wǎng)絡(luò)通過權(quán)值共享可以減少訓練所需的數(shù)據(jù)量，因為它使得網(wǎng)絡(luò)具有更少的參數(shù)。池化操作可以降低特征的分辨率，實現(xiàn)對位移、縮放和其他形式扭曲的不變性。為了提高計算效率和建立空間和結(jié)構(gòu)上的不變性，通常在卷積層后設(shè)置一個池化層[10]，見圖6。

圖6 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

(1)卷積層

卷積核與前一層的特征圖卷積的結(jié)果經(jīng)過激活函數(shù)后輸出構(gòu)成該層的特征圖，該層特征圖與前一層的幾個特征圖的卷積建立關(guān)系。通常卷積層的形式為[11]

(1)

(2)池化層

對輸入特征圖進行池化操作，輸入特征圖經(jīng)過池化層后變小，但其個數(shù)不變。通常池化層的形式為[11]

(2)

2.2 ResNet

CNN模型的深層結(jié)構(gòu)對其特征學習能力至關(guān)重要，但隨著卷積神經(jīng)網(wǎng)絡(luò)模型層數(shù)的增加，準確率會先上升至飽和，若繼續(xù)增加網(wǎng)絡(luò)層數(shù)則會使得準確率下降，即出現(xiàn)“退化”現(xiàn)象[12]。為此He等[12]提出了一個如圖7所示的殘差塊結(jié)構(gòu)，殘差塊可表示為

y=σ[F(x,{Wi})+x]

(3)

式中：x和y分別為殘差塊的輸入和輸出; σ為ReLU[13]激活函數(shù)；Wi為殘差塊的參數(shù)；F(x,{Wi})為網(wǎng)絡(luò)要學習的殘差映射。

網(wǎng)絡(luò)原本要學的函數(shù)H(x)由于引入了一個恒等映射，轉(zhuǎn)換成F(x)+x，該結(jié)構(gòu)將在保證表達效果不變的前提下，大幅提高了網(wǎng)絡(luò)的訓練效率，重要的是其避免了網(wǎng)絡(luò)層數(shù)增加導致的退化問題。

圖7 殘差塊結(jié)構(gòu)[12]

深度殘差網(wǎng)絡(luò)由一組殘差塊組成，每個殘差塊包含幾個堆疊的卷積層[14]。論文選用的ResNet-18、ResNet-34和ResNet-50網(wǎng)絡(luò)結(jié)構(gòu)的詳細信息如表2所示。

表 2 ResNet-18、ResNet-34、ResNet-50殘差網(wǎng)絡(luò)結(jié)構(gòu)

2.3 遷移學習

深度卷積神經(jīng)網(wǎng)絡(luò)訓練是一個非常耗時、耗資源的過程[15]。實際情況下，很少有人從頭開始訓練整個卷積網(wǎng)絡(luò)，因為很難獲得足夠數(shù)量的訓練圖片，容易造成網(wǎng)絡(luò)過擬合[16]。所以，通常在一個非常大的數(shù)據(jù)集(如ImageNet圖像，包含120萬張圖片和1 000個種類)上預訓練卷積神經(jīng)網(wǎng)絡(luò)，然后將其作為參數(shù)初始化或固定特征提取器應(yīng)用到其他場景中。

本文采用兩種遷移方法：一是全局微調(diào)(Finetuning the Convent)即用預訓練網(wǎng)絡(luò)的權(quán)值來初始化，來代替原先的隨機初始化操作，其余訓練過程照常。二是局部微調(diào)即將預訓練網(wǎng)絡(luò)作為特征提取器(ConvNet as Fixed Feature Extractor)，具體是指凍結(jié)所有網(wǎng)絡(luò)的權(quán)重，除了最后的全連接層，對全連接層的權(quán)重做隨機初始化后開始訓練，訓練過程中只更新全連接層的參數(shù)。

3 實驗

第1節(jié)構(gòu)建的數(shù)據(jù)庫中1 622張圖像尺寸均為4 128×2 322像素，如圖8所示。而卷積神經(jīng)網(wǎng)絡(luò)通常使用固定大小和方形的圖像作為輸入，故將軌道結(jié)構(gòu)圖像在輸入到神經(jīng)網(wǎng)絡(luò)之前進行數(shù)據(jù)增強，如圖9所示。首先將矩形圖像放縮至256×256像素的方形圖像，然后進行隨機裁剪，得到224×224像素的圖片，并對剪裁后的圖片進行鏡像、旋轉(zhuǎn)和圖像歸一化等數(shù)據(jù)增強操作，從而大大降低過擬合現(xiàn)象。

圖8 數(shù)據(jù)庫中的原始輸入圖像

圖9 數(shù)據(jù)增強

對一張鋼軌表面擦傷的圖像在ResNet神經(jīng)網(wǎng)絡(luò)中的特征提取過程進行可視化，結(jié)果如圖10所示。

圖10 神經(jīng)網(wǎng)絡(luò)卷積提取的特征映射圖

(4)

總損失函數(shù)為

(5)

反向傳播時，將輸出誤差按原通路反傳計算，通過中間層反向傳遞直至輸入層，誤差在反向傳遞過程中分攤給各層的各個參數(shù)，每個參數(shù)得到相應(yīng)的誤差信號。任意參數(shù)w的更新估計式為

w←w+Δw

(6)

該計算過程以目標的負梯度方向?qū)?shù)進行調(diào)整，即梯度下降策略。對于式(5)的損失函數(shù)L，若規(guī)定學習率為γ，有

(7)

權(quán)值和閾值通過信號正向傳播與誤差反向傳播不斷調(diào)整，使損失函數(shù)持續(xù)減小并趨于穩(wěn)定，直至訓練次數(shù)達到預先設(shè)定的值，本項研究中訓練次數(shù)均設(shè)置為25次。權(quán)值和閾值反復調(diào)整的過程，就是網(wǎng)絡(luò)的學習與訓練過程[18]。本項研究將構(gòu)建圖像數(shù)據(jù)庫的70%設(shè)置為訓練集，30%設(shè)置為測試集，兩個集合之間沒有交集。上述網(wǎng)絡(luò)訓練過程只在訓練集中進行，在訓練集中訓練后的網(wǎng)絡(luò)再到測試集中進行測試，測試過程中不進行參數(shù)調(diào)整,即訓練集用來調(diào)整模型參數(shù)，而測試集則用以檢驗?zāi)Ｐ头诸悳蚀_率。

4 結(jié)果與分析

4.1 不同深度殘差神經(jīng)網(wǎng)絡(luò)應(yīng)用效果對比

ResNet-18、ResNet-34和ResNet-50的訓練、測試準確率曲線如圖11所示，對比三者的訓練準確率曲線，可知層數(shù)越深的殘差神經(jīng)網(wǎng)絡(luò)在模型訓練過程中，訓練準確率增長最快，且最終的收斂測試準確率越高，這說明了網(wǎng)絡(luò)層數(shù)更深的ResNet-50能夠更有效地提取鋼軌病害的特征，對比圖12中的訓練損失曲線可以得到一致的結(jié)論。由表3不同深度殘差網(wǎng)絡(luò)應(yīng)用結(jié)果可知，三者的測試準確率接近，表明層數(shù)較少的18層殘差神經(jīng)網(wǎng)絡(luò)也已經(jīng)具備非常好的區(qū)分效果，再進一步加深網(wǎng)絡(luò)層數(shù)對識別效果的提升有限。所以為進一步提高神經(jīng)網(wǎng)絡(luò)的準確率，可以通過優(yōu)化神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，使其能夠抽象出更加有效、豐富的高階特征。

圖11 不同深度殘差網(wǎng)絡(luò)的準確率

圖12 不同深度殘差網(wǎng)絡(luò)的損失函數(shù)值

表 3 不同深度殘差網(wǎng)絡(luò)應(yīng)用情況

4.2 不同數(shù)據(jù)庫的應(yīng)用情況

ResNet-18在數(shù)據(jù)庫1～3中的測試正確率及測試損失曲線如圖13、圖14所示，網(wǎng)絡(luò)收斂時的損失函數(shù)值及準確率見表4。對比圖13中ResNet-18分別在數(shù)據(jù)庫1和數(shù)據(jù)庫2中的測試準確率曲線可以發(fā)現(xiàn)，數(shù)據(jù)庫2的準確率增長較快，且最終收斂準確率高于數(shù)據(jù)庫1，這是由于數(shù)據(jù)庫1中包含鋼軌表面的四種狀態(tài)：正常軌面、剝離裂紋軌面、剝離掉塊軌面和軌面擦傷；而數(shù)據(jù)庫2中只有正?？奂蛷棗l斷裂扣件兩類圖像。對于ResNet-18，數(shù)據(jù)庫1的分類任務(wù)更復雜，故其在數(shù)據(jù)庫1中的分類準確率較在數(shù)據(jù)庫2中低。對比圖13中ResNet-18分別在數(shù)據(jù)庫1和數(shù)據(jù)庫3中的測試準確率曲線發(fā)現(xiàn)：數(shù)據(jù)庫3的測試準確率曲線低于數(shù)據(jù)庫1。分析其原因：雖然數(shù)據(jù)庫3中只有正常支承塊和掉塊支承塊兩類數(shù)據(jù)，但是該數(shù)據(jù)庫中的支承塊圖像由于拍攝高度過高導致支承塊圖像中同時包含扣件、鋼軌等干擾因素，影響ResNet-18對支承塊特征的提取。圖14中數(shù)據(jù)庫3的測試損失曲線明顯高于其他兩條曲線，同樣說明這個問題。

圖13 ResNet-18在各數(shù)據(jù)庫中測試準確率

圖14 ResNet-18在各數(shù)據(jù)庫中測試損失函數(shù)值

表 4 ResNet-18在不同數(shù)據(jù)庫中的應(yīng)用情況

4.3 兩種遷移方式應(yīng)用效果

ResNet-18在數(shù)據(jù)庫1中的兩種遷移學習方式即全局微調(diào)和局部微調(diào)的正確率和損失函數(shù)曲線如圖15、圖16所示，網(wǎng)絡(luò)收斂時的損失函數(shù)值及準確率見表 5。全局微調(diào)和局部微調(diào)均取得了超過95%的測試準確率，但因為預訓練的ResNet-18已經(jīng)在ImageNet上把參數(shù)學習的很好，在有限數(shù)據(jù)量的條件下進行全局微調(diào)會破壞這種參數(shù)結(jié)構(gòu)，所以全局微調(diào)的測試準確率略低于局部微調(diào)。

圖15 兩種遷移學習方式的準確率

圖16 兩種遷移學習方式的損失函數(shù)值

表 5 不同遷移學習方式的應(yīng)用情況

5 結(jié)論

(1)將已成功應(yīng)用于醫(yī)學圖像分類、語音識別等場景的深度殘差網(wǎng)絡(luò)應(yīng)用到鐵路領(lǐng)域，提出一種基于深度殘差網(wǎng)絡(luò)的軌道結(jié)構(gòu)病害檢測方法，該方法可自動從圖像中提取最有效的特征并分類且不需要任何的預處理，并能實現(xiàn)對鋼軌、扣件及支承塊三種軌道結(jié)構(gòu)的病害識別。

(2)論文將在ImageNet預訓練過的ResNet-18、ResNet-34和ResNet-50遷移到軌道結(jié)構(gòu)狀態(tài)識別中，表現(xiàn)出高達98.51%的準確率，完全滿足工程應(yīng)用要求，充分驗證了該方法的有效性。

(3)若將此圖像識別方法納入到軌道智能檢測系統(tǒng)中，可以將該圖像識別方法輸出的判定結(jié)果與檢測系統(tǒng)的判定結(jié)果進行綜合考慮，來判斷某一處軌道結(jié)構(gòu)的服役狀態(tài)，從而降低誤判率，提高軌道智能檢測系統(tǒng)的識別準確率。