王 哲，劉學平，李玙乾，李 旭

（清華大學 深圳國際研究生院，深圳 518055)

0 引言

壽命預測是指利用現(xiàn)有的實驗數(shù)據(jù),建立對未來數(shù)據(jù)變化的預測模型。目前比較常用的壽命預測方法有曲線擬合法、時間序列方法、神經(jīng)網(wǎng)絡方法、支持向量機方法。其中神經(jīng)網(wǎng)絡方法適用于精度要求比較高的非線性領域,由于機械設備的振動信號具有不穩(wěn)定性和非線性,所以神經(jīng)網(wǎng)絡方法在機械設備的壽命預測方面應用比較廣泛。Hinton等人在2006年提出了深度學習的概念以后,深度學習就越來越廣泛地應用于機器學習領域[1]。深度學習模型可以高效率、深層次挖掘大量原始數(shù)據(jù)的內部規(guī)律,實現(xiàn)數(shù)據(jù)維度的減少,所以深度學習的發(fā)展為軸承的壽命預測提供了新的研究方向[2]。

劉小勇等人基于深度學習網(wǎng)絡,構件了設備退化指標的模型,并根據(jù)退化曲線對剩余壽命進行研究,以軸承振動監(jiān)測數(shù)據(jù)為研究對象,提出了軸承剩余壽命預測的算法[3]。張娜等通過對原始深度信念網(wǎng)絡參數(shù)和結構的改進,將其應用于滾動軸承的剩余生命預測中,并通過實驗驗證了該算法的有效性與先進性[4]。蔣會明等人基于隱馬爾可夫模型,對滾動軸承的性能退化以及壽命預測的算法進行了一定的改進,可以針對滾動軸承在實際使用過程中的條件快速消除無用的數(shù)據(jù),同時通過試驗數(shù)據(jù)驗證了改進后的算法相比于之前的算法顯著提高了對軸承壽命預測的有效性[5]。吳超勇等人提出了在大數(shù)據(jù)環(huán)境下對滾動軸承的剩余生命預測的模型,運用大數(shù)據(jù)技術對滾動軸承的各種數(shù)據(jù)進行特征提取,然后根據(jù)經(jīng)驗貝葉斯對軸承的剩余生命進行估計,最后通過軸承加速壽命實驗對提出的算法進行了驗證[6]。董紹軍等人基于粒子群算法改進的支持向量機模型,對采集到的滾動軸承全生命周期的振動數(shù)據(jù)進行特征提取,利用多個模型對相應的滾動軸承的特征數(shù)據(jù)進行預測,最后計算各模型的誤差權重來準確預測滾動軸承的剩余使用壽命[7]。

本文基于更有效的深度學習方法,選取綜合性能較強的ResNeXt作為網(wǎng)絡骨干,設計卷積神經(jīng)網(wǎng)絡模型實現(xiàn)對滾動軸承剩余使用壽命的預測,達到更準確的精度。

1 預測模型基本原理

1.1 卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡相比傳統(tǒng)的壽命預測方法,減少了人工特征提取的操作,它的核心在于自主學習,可以通過堆疊大量的卷積層,每個卷積層將提取信號不同層次的特征,抽取到豐富的語義特征,當訓練數(shù)據(jù)較少時,仍然具有很好的泛化能力,可以準確挖掘當前軸承的退化信息,從而對軸承的剩余使用壽命進行預測。傳統(tǒng)的卷積神經(jīng)網(wǎng)絡包括卷積層、池化層和全連接層。卷積層執(zhí)行卷積計算,主要對輸入數(shù)據(jù)進行特征提?。怀鼗瘜油ǔＮ挥诰矸e層之間,其作用是逐漸降低數(shù)據(jù)體的空間尺寸,減少網(wǎng)絡中參數(shù)的數(shù)量,減少計算資源的同時也能有效控制過擬合；全連接層的每個神經(jīng)元與前一層所有神經(jīng)元全部連接,一般作為最后的輸出層。

1.2 ResNeXt骨干網(wǎng)絡

本文用于軸承壽命預測的卷積神經(jīng)網(wǎng)絡模型設計選取用于特征提取的骨干網(wǎng)絡（backbone）,設計網(wǎng)絡的末端用于執(zhí)行相應的任務,在網(wǎng)絡末端用卷積層直接輸出預測值,選取綜合性能較強的骨干網(wǎng)絡來抽取特征,目前常用的骨干網(wǎng)絡有ResNet、ResNeXt、Hourglass等,Hourglass網(wǎng)絡多用于人體姿態(tài)估計,網(wǎng)絡結構復雜且參數(shù)量大。ResNeXt在ResNet的基礎上進行改進得到,借鑒了Inception模型中分離、轉換、合并的思想,在有限的參數(shù)量下顯著提升了特征提取能力,在大型公開數(shù)據(jù)集ImageNet性能超越ResNet。因此選用ResNeXt作為網(wǎng)絡的骨干。ResNeXt與ResNet相似,采用堆疊基礎構建塊的方式搭建網(wǎng)絡模型,同時引入了基數(shù),即構建塊內部的分支數(shù)量,基數(shù)與網(wǎng)絡的深度、寬度均可以作為網(wǎng)絡模型復雜度的量化指標,增大基數(shù)比加深、加寬網(wǎng)絡更有效。目前在深度學習中ResNeXt已經(jīng)成為一種主流的骨干網(wǎng)絡。

2 壽命預測的網(wǎng)絡模型結構

2.1 實驗平臺設計

本文的壽命預測主要是在Ubuntu16.04系統(tǒng)下配置深度學習開發(fā)環(huán)境,硬件配置為CPUi7-9700K16G,GPU RTX20808G,NVIDIA驅動440.33,CUDA10.2,使用python3.7來搭建網(wǎng)絡模型,深度學習框架選用Pytorch1.3.1。

2.2 網(wǎng)絡模型設計

本文的網(wǎng)絡模型結構如圖1所示（網(wǎng)絡中所用到的批標準化以及激活函數(shù)未在圖中表示）。Conv1d1表示卷積核為1的一維卷積層,Conv1d3表示卷積核為3的一維卷積層,Conv1d3_g是卷積核為3的一維分組卷積層,group設置為8,Avg_pool1是池化長度為2的池化層,Avg_pool2是池化長度為5的池化層,linear1、linear2表示全連接層。Stem為卷積核為7的卷積,用于將特征序列降采樣4倍。Avg_pool1用于縮小特征序列的長度,減少網(wǎng)絡的參數(shù)量,在Stage3后接一個卷積核為3的卷積層,再利用池化層將特征序列長度變成1,最后利用兩個全連接層輸出預測結果。

圖1 壽命預測網(wǎng)絡模型

其中Stage1～Stage3如圖2所示,由一個Bottleneck_s與兩個Bottleneck_i構成,主要用于提取特征。

圖2 Stage網(wǎng)絡結構

以Stem層為例,輸入4×1280的特征序列,其中4表示通道數(shù),1280表示序列長度,如表1所示。

表1 各層輸入輸出信息

3 實驗驗證

3.1 數(shù)據(jù)集介紹

為了設計軸承壽命預測的算法,需要在公開數(shù)據(jù)集上進行測試和驗證。本文采用IEEEPHM2012挑戰(zhàn)賽的公開數(shù)據(jù)集,該數(shù)據(jù)集采集到的軸承振動信號分為水平和豎直兩個方向,使用加速度傳感器對振動信號進行采集,采樣的頻率為25.6kHz,每次采樣的數(shù)據(jù)為2560×2個。數(shù)據(jù)集包括兩部分,分別是訓練集和測試集,如圖3所示。

圖3 數(shù)據(jù)集詳細信息

3.2 模型訓練

在深度學習中對數(shù)據(jù)進行標準化有利于加速網(wǎng)絡模型的收斂,所以在本文中對軸承振動信號的處理時,為了縮短網(wǎng)絡訓練時間,首先對數(shù)據(jù)進行標準化操作,即對每一條數(shù)據(jù)（包含水平、垂直方向各2560個數(shù)據(jù)點）,計算數(shù)據(jù)點的均值,將所有數(shù)據(jù)點減去均值后除以絕對值最大的數(shù)據(jù)點。經(jīng)過標準化處理后仍為時序數(shù)據(jù),為了便于后續(xù)網(wǎng)絡特征的提取,考慮將數(shù)據(jù)從時域轉換到頻域,由于快速傅里葉變換可以使計算機在運行時計算離散傅里葉變換的乘法次數(shù)減少,當采樣較大時效果顯著,所以采用快速傅里葉變換對數(shù)據(jù)進行預處理。

該算法預測的目標是軸承的剩余使用壽命,考慮使用均方誤差作為損失函數(shù),其計算公式如下：

式(1)中,n表示數(shù)據(jù)量大小,yi表示軸承實驗中真正的剩余壽命,，表表示網(wǎng)絡模型預測出的剩余壽命。計算出損失后,再通過反向傳播算法更新網(wǎng)絡模型的權重。

由于該數(shù)據(jù)集訓練集較小,因此對訓練集不進行分割,直接利用訓練集進行訓練。加載訓練集得到7534條數(shù)據(jù),經(jīng)過標準化操作與快速傅里葉變換后,送入已經(jīng)設計好的卷積神經(jīng)網(wǎng)絡模型中進行訓練,一共迭代120個周期,初始學習率設置為0.01,批數(shù)設置為128,權重衰減設置為0.009,優(yōu)化器選用Adam算法。訓練過程的損失如圖4所示。

圖4 模型訓練

3.3 算法驗證及分析

訓練完成達到收斂后,在測試集上加載模型進行評估,測試集共包含13959條數(shù)據(jù),同樣對數(shù)據(jù)進行標準化操作,進行快速傅里葉變換后送入網(wǎng)絡模型中進行預測,在測試時使用數(shù)據(jù)集的評估標準E來評估算法性能,E的計算公式如下：

式(2)中RUL表示當前軸承的實際剩余使用壽命,，為利用本章算法預測出的剩余使用壽命。

本文設計的算法誤差E為17.1%,文獻 中的誤差為32.5%,文獻 中的誤差為53.2%,可以看出本文所設計的算法較之前文獻中的預測算法準確度有了顯著提高,利用該算法可以根據(jù)軸承的振動信號獲得軸承的退化信息,保證機械裝備的精度。

4 結語

為了對滾動軸承剩余壽命進行預測,本文設計了基于卷積神經(jīng)網(wǎng)絡的剩余壽命預測算法,采用最新的ResNeXt骨干網(wǎng)絡,首先對數(shù)據(jù)進行標準化,然后利用快速傅里葉變換將采樣數(shù)據(jù)從時域轉換到頻域,最后送入到卷積神經(jīng)網(wǎng)絡中預測出結果。并在IEEE PHM 2012挑戰(zhàn)賽公開數(shù)據(jù)集上進行了算法驗證,算法的誤差為17.1%,結果表明本文設計的算法可以較為準確地預測出軸承的剩余使用壽命,對保證機械裝備的加工精度有重要的意義。