宋雪倩，周稻祥，韓曉紅，李心宇

(太原理工大學(xué) 大數(shù)據(jù)學(xué)院，山西 太原 030024)

隨著工業(yè)自動化的發(fā)展，為節(jié)省人力，提高產(chǎn)品生產(chǎn)效率，自動鎖螺絲機(jī)被大量運(yùn)用于精密電子產(chǎn)品裝配流水線. 因此，自動鎖螺絲機(jī)對優(yōu)化產(chǎn)品裝配過程和提升產(chǎn)品質(zhì)量起著關(guān)鍵作用. 但是，自動鎖螺絲機(jī)在閉環(huán)控制下運(yùn)行復(fù)雜性高、 變量多，導(dǎo)致機(jī)器故障無法及時排查并準(zhǔn)確定位，一旦鎖螺絲機(jī)發(fā)生故障，整個流水線的生產(chǎn)將會受到影響. 精密電子產(chǎn)品的螺絲尺寸小，裝配過程嚴(yán)格且精確，這就要求在不干預(yù)鎖螺絲機(jī)工作的同時檢測故障，在發(fā)生故障前預(yù)判有故障的自動鎖螺絲機(jī)并進(jìn)行維修或更換，以保障鎖螺絲機(jī)的裝配質(zhì)量，從而避免整個流水線停產(chǎn)帶來的損失.

目前檢測自動鎖螺絲機(jī)鎖附故障的方法主要有以下兩種： 一種是把產(chǎn)品固定在傳感器上，將傳感器信息反饋給可編程邏輯控制器(PLC)進(jìn)行處理來測定螺絲的鎖附情況. 但是，這種方法要求所有螺絲在同一平面，否則傳感器不能兼顧所有螺絲，而精密電子產(chǎn)品上的所有螺孔不可能都在同一平面上，這樣就需要多次反復(fù)調(diào)整傳感器，操作繁瑣且耗時耗力. 另一種則是在鎖附端添加一個伸縮彈簧，擰緊螺絲時會有一個壓縮量，增加一個光柵尺測定彈簧的壓縮量，通過比較壓縮量來判斷是否存在浮鎖故障. 以上兩種方法檢測的過程主要依賴于額外傳感器的工作、 光柵尺對彈簧壓縮量的測量，還需要人工調(diào)整檢測設(shè)備，這就大大增加了檢測鎖螺絲機(jī)工序的開銷、 復(fù)雜性和不確定性. 況且在手機(jī)內(nèi)部檢測時，裝配這些檢測設(shè)備再拆除很有可能造成不必要的產(chǎn)品磨損和損失. 并且它們只能檢測浮鎖，并不能檢測精密電子螺絲裝配可能產(chǎn)生的鎖斜、 未鎖進(jìn)等多種故障. 因此，設(shè)計高效的方法實(shí)現(xiàn)各種鎖附狀態(tài)的檢測是很有意義的研究課題.

自動鎖螺絲機(jī)的組件扭矩傳感器用于測量鎖附過程中螺絲被鎖入時的扭矩，其產(chǎn)生的一列具有序列關(guān)系的數(shù)據(jù)能夠反映鎖附過程和鎖附狀態(tài). 因此，我們可以采用扭矩傳感器返回的序列數(shù)據(jù)，利用序列數(shù)據(jù)分類的方法，構(gòu)造螺絲鎖付狀態(tài)檢測模型來預(yù)判每顆螺絲被鎖附的結(jié)果，既節(jié)省人力物力又能夠?qū)崿F(xiàn)鎖附和檢測的閉環(huán)控制. 因?yàn)閿?shù)據(jù)可以敏感地反映出螺絲鎖附的各種狀態(tài)，所以相比于傳統(tǒng)的檢測方法，基于時間序列數(shù)據(jù)構(gòu)造的模型可以檢測出更多種類的故障且準(zhǔn)確率更高.

基于序列分類方法的有效性與高效性，研究者們對序列分類方法進(jìn)行了廣泛的研究. Lines和Bagnall對多種結(jié)合距離和1NN的序列分類方法作對比，結(jié)果顯示DTW結(jié)和1NN的序列分類器效果最好[1]. 之后，他們又發(fā)現(xiàn)基于幾種距離集成的NN分類器的分類結(jié)果優(yōu)于基于單獨(dú)一種距離的分類器. 因此，最近幾年的方法集中于發(fā)展集成方法，其中Lines等人提出的HIVE-COTE是當(dāng)前性能最好的集成分類器[2-3]，但是訓(xùn)練該集成模型的計算開銷非常大[4]. 自動鎖螺絲機(jī)在精密電子產(chǎn)品的螺絲裝配過程中產(chǎn)生的數(shù)據(jù)具有序列超長，不同類別序列趨勢相似等特點(diǎn)，這為基于集成的序列分類方法解決鎖附序列分類問題帶來了很大的困難.

深度學(xué)習(xí)在多種分類任務(wù)中有很好的效果[5]，這啟發(fā)了研究者們用深度學(xué)習(xí)方法解決序列分類問題[6-9]. 因而，本文提出基于循環(huán)神經(jīng)網(wǎng)絡(luò)的方法，利用序列前后信息更快更準(zhǔn)確地檢測自動鎖螺絲機(jī)的鎖附故障. 由于序列超長，一方面會造成網(wǎng)絡(luò)反向傳播時梯度消失，另一方面也會占用大量的CPU處理時間和存儲空間. 所以，檢測鎖附故障時，縮短序列是簡化計算過程，提高故障檢測準(zhǔn)確率的重要步驟. 為了解決這一問題，本文對收集到的原始鎖附序列，采用降采樣補(bǔ)末值的預(yù)處理方法，得到了可建模的序列，最后輸入所設(shè)計的循環(huán)神經(jīng)網(wǎng)絡(luò)并得到檢測結(jié)果.

1 鎖附檢測網(wǎng)絡(luò)模型

1.1 神經(jīng)元結(jié)構(gòu)

長短期記憶網(wǎng)絡(luò)[10](Long Short-Term Memory，LSTM)模型是對普通循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)而得到的，主要是為了解決長序列訓(xùn)練過程中的梯度消失和梯度爆炸問題. 簡單來說，LSTM對比普通循環(huán)神經(jīng)網(wǎng)絡(luò)在類似鎖附序列這樣的長序列(如圖1 所示)問題中有更好的表現(xiàn).

圖1 鎖附序列Fig.1 Locking sequence

本文將LSTM網(wǎng)絡(luò)中的隱藏單元稱為LSTM神經(jīng)元，將隱藏單元為LSTM神經(jīng)元的循環(huán)神經(jīng)網(wǎng)絡(luò)稱為LSTM網(wǎng)絡(luò)或者LSTM. 本文介紹的LSTM架構(gòu)來自于Hochreiter[10].

ft=σ(Wfht-1+Ufxt+bf),

(1)

it=σ(Wiht-1+Uixt+bi),

(2)

(3)

(4)

ot=σ(Woht-1+Uoxt+bo),

(5)

ht=ot*tanh(Ct).

(6)

1.2 網(wǎng)絡(luò)結(jié)構(gòu)

針對螺絲鎖附數(shù)據(jù)包含多個變量以及變量之間相關(guān)的特征，本文設(shè)計了多變量LSTM鎖附序列多分類網(wǎng)絡(luò). 該模型的網(wǎng)絡(luò)結(jié)構(gòu)包括4層： 輸入層、 兩個隱藏層和輸出層，網(wǎng)絡(luò)結(jié)構(gòu)如圖2 所示. 其中，輸入層控制輸入數(shù)據(jù)的格式，輸入層包含的神經(jīng)元個數(shù)等于一個序列的時間步； 隱藏層本質(zhì)就是對特征的一種提取，隱藏層的輸出維度是對RNN網(wǎng)絡(luò)特征復(fù)雜度的表征，需要區(qū)分的特征越復(fù)雜，神經(jīng)元就需要越多的輸出維度來表征. 第一層隱藏層神經(jīng)元的輸出維度為256，第二層隱藏層神經(jīng)元的輸出維度為64. 輸出層為softmax層，softmax函數(shù)(7)輸出以樣本屬于各類的概率組成的向量，向量長度為類別個數(shù).

圖2 循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Recurrent neural network structure

輸入層控制輸入數(shù)據(jù)的格式，將預(yù)處理后的鎖附序列數(shù)據(jù)轉(zhuǎn)化為樣本數(shù)、 時間步數(shù)、 特征數(shù)的三維向量形式作為輸入層. 序列的時間長度設(shè)為時間步，以每個時刻的特征數(shù)作為該時刻的輸入維度，接著把每一個時間步的特征輸入到隱藏層直到完成所有時間步.

第一層隱藏層包含的LSTM神經(jīng)元個數(shù)等于輸入層序列時間步的數(shù)目，第二層隱藏層包含的神經(jīng)元個數(shù)等于第一層隱藏層的輸出維度.t時刻神經(jīng)元的輸出ht作為該神經(jīng)元的輸出和t+1時刻的輸入，直到完成所有時間步的輸入. 把第二層隱藏層最后時間步神經(jīng)元的輸出輸入到輸出層.

基于沿時間軸反向傳播算法BPTT[11]的思想，利用深度學(xué)習(xí)領(lǐng)域流行的Adam[12]優(yōu)化算法，結(jié)合交叉熵的計算結(jié)果就可以靈活調(diào)整網(wǎng)絡(luò)的各個權(quán)重，直至誤差收斂. 另外，對于多變量多參數(shù)深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中常見的過擬合問題，本文采用隱層加入Dropout[13]的解決辦法，其核心是訓(xùn)練期間從神經(jīng)網(wǎng)絡(luò)中隨機(jī)丟棄單元及其連接，這種算法能夠有效緩解過擬合問題. 最后，針對數(shù)據(jù)不平衡的問題，本文采用深度學(xué)習(xí)框架keras的成熟技術(shù)，調(diào)整class_weight參數(shù)，設(shè)置各類數(shù)據(jù)對應(yīng)不同權(quán)重的方式達(dá)到平衡的目的.

(7)

式中：xi為輸入向量第i位的值；K為類別數(shù)；σ(z)j為softmax函數(shù)的第j個輸出值.

(8)

式中：yj為輸入向量第j位的真實(shí)值；σ(z)j為預(yù)測值的第j位；K為類別數(shù).

2 鎖附數(shù)據(jù)收集

2.1 鎖附數(shù)據(jù)收集

螺絲鎖附狀態(tài)檢測系統(tǒng)可分為鎖附模塊和檢測模塊兩部分. 鎖附模塊主要是借助扭矩傳感器收集鎖附過程產(chǎn)生的角度、 扭矩、 速度序列數(shù)據(jù)放入存儲系統(tǒng). 鎖附模塊每完成一次鎖附操作，專家根據(jù)經(jīng)驗(yàn)判斷鎖附結(jié)果并作為序列的真實(shí)標(biāo)簽寫入存儲系統(tǒng). 當(dāng)數(shù)據(jù)存儲系統(tǒng)有足夠多序列(帶有真實(shí)標(biāo)簽)時，將其用于訓(xùn)練網(wǎng)絡(luò). 當(dāng)網(wǎng)絡(luò)收斂時，將網(wǎng)絡(luò)保存用于檢測鎖附狀態(tài). 檢測系統(tǒng)主要從存儲系統(tǒng)中讀取鎖附過程的原始數(shù)據(jù)進(jìn)行預(yù)處理，接著鎖附判別模型分析預(yù)處理后的數(shù)據(jù)得到判別結(jié)果，如果鎖附成功，那么重復(fù)以上過程判別下一顆螺絲. 如果鎖附失敗，根據(jù)模型判定的故障類別指導(dǎo)和監(jiān)視鎖附模塊排除故障. 同時，判別結(jié)果返回并保存至存儲系統(tǒng). 這里，存儲系統(tǒng)保存所有數(shù)據(jù)，一方面是為網(wǎng)絡(luò)訓(xùn)練提供數(shù)據(jù)，另一方面是為了后續(xù)研究積累更多數(shù)據(jù)，從而進(jìn)一步優(yōu)化模型. 系統(tǒng)流程如圖3 所示.

2.2 鎖附數(shù)據(jù)預(yù)處理

為了實(shí)現(xiàn)端到端的多分類模型，在使鎖附序列數(shù)據(jù)保持原始信息的基礎(chǔ)上，區(qū)別于機(jī)器學(xué)習(xí)復(fù)雜的數(shù)據(jù)預(yù)處理過程，本文提出的模型在數(shù)據(jù)預(yù)處理過程中只需解決兩個問題： 第一，規(guī)定序列長度，使變化的序列長度全部相等； 第二，確定一個值用來補(bǔ)齊原始長度小于規(guī)定長度的序列，使短序列達(dá)到規(guī)定長度.

在LSTM模型中，步長一般會被限制在250～500之間[14]. 而鎖附序列的長度超過1 000個時間步，若給模型輸入原始序列，進(jìn)行反向傳播時會出現(xiàn)梯度消失現(xiàn)象. 因此，對原始序列降采樣后能減少時間步，對提高模型精度有幫助.

常見的序列補(bǔ)齊值為0，這種補(bǔ)齊方式是為了滿足神經(jīng)網(wǎng)絡(luò)輸入序列等長的要求，并沒有具體問題具體分析. 結(jié)合螺絲鎖附數(shù)據(jù)分類問題分析，螺絲鎖附數(shù)據(jù)共分為四類，分別為OK、 浮鎖、 未鎖進(jìn)、 鎖斜. 每個樣本包含三個序列，分別為角度、 扭矩、 速度. 不同類別的序列末值向量(角度、 扭矩、 速度)是不同的，因此用帶有特征的序列末值補(bǔ)齊，能夠更好地保持序列信息的完整性.

3 實(shí) 驗(yàn)

3.1 數(shù)據(jù)描述

本文實(shí)驗(yàn)中鎖附模塊收集的數(shù)據(jù)集共包含1 189個樣本，其中包含370個OK樣本，382個浮鎖樣本，194個未鎖進(jìn)樣本，243個鎖斜樣本. 取60%作為訓(xùn)練集，20%作為驗(yàn)證集，20%作為測試集，以分層抽樣的方式抽取數(shù)據(jù)，保證測試集和訓(xùn)練集各類比例相同. 每個樣本為N×5的矩陣，N為序列數(shù)據(jù)的長度，5個屬性依次為行號、 時間、 角度、 扭矩、 速度. 其中角度、 扭矩、 速度與螺絲鎖附過程相關(guān)，故本文實(shí)驗(yàn)取這三個屬性的序列作為輸入. 同時，對各類標(biāo)簽作one-hot處理.

表1 數(shù)據(jù)集

3.2 數(shù)據(jù)預(yù)處理

由于網(wǎng)絡(luò)要求序列數(shù)據(jù)是等長的，本文實(shí)驗(yàn)對比兩種補(bǔ)齊值，補(bǔ)零或補(bǔ)序列末值. 由于長短期記憶網(wǎng)絡(luò)是較長的短期記憶網(wǎng)絡(luò)，序列長度越小，網(wǎng)絡(luò)可以保留的前期信息越多，從而可以使分類精度越高. 樣本集中序列最大長度為4 658，若設(shè)計將超長序列縮短為原長度的十分之一，可保證每個超長序列預(yù)處理后，長度均小于500. 本文實(shí)驗(yàn)將不同標(biāo)準(zhǔn)長度與不同補(bǔ)齊值兩兩結(jié)合作對比試驗(yàn)，共四種結(jié)合方式： 序列保持原始長度補(bǔ)零至等長(OZ)； 序列保持原始長度補(bǔ)末值至等長(OL)； 縮短序列補(bǔ)零至等長(SZ)； 縮短序列補(bǔ)末值至等長(SL). 最后，四種不同的預(yù)處理方式與本文所設(shè)計的網(wǎng)絡(luò)結(jié)合，利用螺絲鎖附數(shù)據(jù)，對鎖附狀態(tài)進(jìn)行檢測. 實(shí)驗(yàn)證明本文提出的縮短補(bǔ)末值準(zhǔn)確率更高.

表2 預(yù)處理

3.3 實(shí)驗(yàn)結(jié)果分析

從訓(xùn)練集實(shí)驗(yàn)結(jié)果表3 可以看出，對比鎖附狀態(tài)檢測模型一和模型三、 模型二和模型四，在預(yù)處理過程中對鎖附序列降維后，檢測模型的準(zhǔn)確率顯著提高，且模型的訓(xùn)練時間加快了10倍左右. 這說明序列縮短后在保持了鎖附序列數(shù)據(jù)本身特點(diǎn)的同時，能夠使循環(huán)神經(jīng)網(wǎng)絡(luò)的記憶更長，進(jìn)而提高模型最終的檢測準(zhǔn)確率. 對比模型一和模型二、 模型三和模型四，無論在原始鎖附序列添加末值還是在縮短序列添加末值，模型檢測準(zhǔn)確率均有提升. 這是因?yàn)椴煌悇e的序列末值不同，因此對于檢測模型來說該特征是有效的特征. 而對不同序列均補(bǔ)零，不會增加有效特征甚至對數(shù)據(jù)增加了噪聲. 模型二相比模型一，原始鎖附序列補(bǔ)末值準(zhǔn)確率增加十位量級； 而模型四對比模型三，縮短序列補(bǔ)末值準(zhǔn)確率增加個位量級. 原始序列長度是縮短序列的10倍，也就是說原始序列相比縮短多補(bǔ)齊10倍末值，這也進(jìn)一步說明序列末值是有效特征.

表3 訓(xùn)練集準(zhǔn)確率

各類故障會造成產(chǎn)品整體報廢，產(chǎn)生更大的經(jīng)濟(jì)損失. 表4 結(jié)果顯示檢測模型的故障識別準(zhǔn)確率即將故障分為相應(yīng)故障類的準(zhǔn)確率達(dá)到了預(yù)期值. 衡量各類的檢測準(zhǔn)確率后，模型四的效果最好，各類的檢測準(zhǔn)確率均達(dá)到預(yù)期值. 實(shí)驗(yàn)結(jié)果中個別模型在某類的準(zhǔn)確率為0或100%，在多次添加新的數(shù)據(jù)后模型檢測準(zhǔn)確率無明顯變化，若增大數(shù)據(jù)集，準(zhǔn)確率可能會上升或下降但范圍不會過大.

表4 故障識別準(zhǔn)確率

表5 所示實(shí)驗(yàn)結(jié)果將模型四和其他常見的序列分類模型對各類的分類準(zhǔn)確率做了對比. 實(shí)驗(yàn)結(jié)果顯示，除鎖斜類別外，本文提出的檢測模型對其他各類的分類準(zhǔn)確率均遠(yuǎn)高于其他模型. 結(jié)合表4 可以看出，雖然本文模型對鎖斜類別檢測準(zhǔn)確率略低于DTW+1NN和LDA，但模型只把鎖斜類的2%錯分為OK類，基本不會造成經(jīng)濟(jì)損失. 進(jìn)一步分析，本文所提模型對鎖斜類別的檢測準(zhǔn)確率低于其他類別，其原因來自兩方面： 一方面是鎖斜樣本長度的分布不集中，如表6 所示，即樣本長度分布在多種值上，因此，無論如何隨機(jī)劃分訓(xùn)練集和測試集，訓(xùn)練樣本和測試樣本的分布都會有較大的偏移，導(dǎo)致模型難以記住測試樣本； 另一方面，鎖斜類別數(shù)據(jù)有多種序列趨勢，如圖4所示，這種變化性對模型識別該類序列的準(zhǔn)確率造成影響.

表5 測試集準(zhǔn)確率

圖4 鎖斜類角度、 扭矩、 速度序列Fig.4 Crooked locking angle, torque and speed sequence

4 結(jié) 論

循環(huán)神經(jīng)網(wǎng)絡(luò)是一類處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)，LSTM相對普通循環(huán)神經(jīng)網(wǎng)絡(luò)有較大突破，也是近年來在處理序列數(shù)據(jù)時被廣泛應(yīng)用的變體. 隨著深度模型在工業(yè)領(lǐng)域的發(fā)展，本文將LSTM首次應(yīng)用在鎖附操作的工業(yè)場景中，并在數(shù)據(jù)收集、 數(shù)據(jù)預(yù)處理、 模型訓(xùn)練. 模型應(yīng)用四個方面提供了詳細(xì)介紹. 面對自動鎖螺絲機(jī)鎖附故障判定的任務(wù)，利用自動鎖螺絲機(jī)采集的數(shù)據(jù)，采用循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)合序列縮短和補(bǔ)齊的預(yù)處理方式，得到一個鎖附狀態(tài)檢測模型，能夠有效判定鎖附故障. 本文首次將循環(huán)神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用于判定自動鎖螺絲機(jī)鎖附故障的任務(wù)中，相比傳統(tǒng)檢測方法發(fā)現(xiàn)故障更及時，從而降低了故障帶來的風(fēng)險. 并且檢測故障類型的多樣性能夠?yàn)檫M(jìn)一步改進(jìn)自動鎖附技術(shù)提供依據(jù). 檢測自動鎖螺絲機(jī)的故障對保障流水線生產(chǎn)更高效，提高經(jīng)濟(jì)效益有重大作用.

收集螺絲鎖附數(shù)據(jù)并對數(shù)據(jù)定義正確的標(biāo)簽，需要大量的人力，但人的加入給需要嚴(yán)格定義的標(biāo)簽帶來了極大的不穩(wěn)定. 所以，借助序列數(shù)據(jù)聚類結(jié)果作為一個標(biāo)簽，同時參考人定義的標(biāo)簽，利用多標(biāo)簽分類方法能使自動鎖螺絲機(jī)鎖附故障的判定更加準(zhǔn)確，這也是進(jìn)一步研究的方向.