李增良

(中鐵二十局集團(tuán)有限公司，陜西 西安 710016)

0 引言

盾構(gòu)姿態(tài)控制是盾構(gòu)施工過程中重要的環(huán)節(jié)之一。傳統(tǒng)的被動(dòng)式控制方式具有一定的滯后性，很難在施工過程中實(shí)現(xiàn)及時(shí)有效的控制。因此，實(shí)現(xiàn)盾構(gòu)姿態(tài)的主動(dòng)控制成為盾構(gòu)施工過程中施工人員關(guān)注的核心問題之一。

盾構(gòu)姿態(tài)的精準(zhǔn)預(yù)測(cè)，能夠?yàn)槎軜?gòu)姿態(tài)主動(dòng)控制提供決策依據(jù)。近年來，隨著計(jì)算機(jī)水平的不斷提高，相關(guān)的機(jī)器學(xué)習(xí)、人工智能方法在盾構(gòu)姿態(tài)預(yù)測(cè)方面得到了廣泛應(yīng)用。不同于力學(xué)建模[1-2]、模糊理論[3-4]等盾構(gòu)姿態(tài)預(yù)測(cè)方法，機(jī)器學(xué)習(xí)方法主要是以實(shí)際施工數(shù)據(jù)為驅(qū)動(dòng)，在確定模型輸入、輸出變量的基礎(chǔ)上實(shí)現(xiàn)對(duì)盾構(gòu)姿態(tài)的預(yù)測(cè)。高兵[5]基于專家系統(tǒng)、知識(shí)推理實(shí)現(xiàn)了盾構(gòu)姿態(tài)的實(shí)時(shí)預(yù)測(cè)。李英偉等[6]、張愛軍[7]分別基于BP神經(jīng)網(wǎng)絡(luò)建立了角礫地層盾構(gòu)管片位姿和上軟下硬地層盾構(gòu)豎向位姿預(yù)測(cè)模型。陳昱竹[8]構(gòu)建了基于XGBoost-SVR的盾構(gòu)位姿偏差預(yù)測(cè)模型。

由于淺層神經(jīng)網(wǎng)絡(luò)對(duì)于信息的處理存在一定的局限性，研究者們開始逐步探索深層神經(jīng)網(wǎng)絡(luò)(深度學(xué)習(xí)技術(shù))的應(yīng)用。孔憲光等[9]基于深度學(xué)習(xí)技術(shù)，依托寧波地鐵實(shí)際盾構(gòu)施工數(shù)據(jù)構(gòu)建了相應(yīng)的位姿預(yù)測(cè)模型，該預(yù)測(cè)模型表現(xiàn)出較高的預(yù)測(cè)精度和效率。Zhou等[10]在基于小波神經(jīng)網(wǎng)絡(luò)對(duì)盾構(gòu)姿態(tài)數(shù)據(jù)進(jìn)行降噪處理的基礎(chǔ)上，構(gòu)建了基于CNN-LSTM的混合深度學(xué)習(xí)盾構(gòu)位姿預(yù)測(cè)框架，為盾構(gòu)姿態(tài)預(yù)測(cè)提供了新的思路。

盾構(gòu)掘進(jìn)姿態(tài)數(shù)據(jù)具有隨時(shí)間不斷演進(jìn)變化的特點(diǎn)，其相應(yīng)的姿態(tài)預(yù)測(cè)問題屬于典型的時(shí)間序列預(yù)測(cè)問題。由于盾構(gòu)姿態(tài)數(shù)據(jù)的演化規(guī)律復(fù)雜，且呈現(xiàn)非線性，通過力學(xué)建模、公式推導(dǎo)的方式研究其變化規(guī)律難度較大。本文基于上述已有的研究，采用深度學(xué)習(xí)的方式對(duì)盾構(gòu)姿態(tài)進(jìn)行建模預(yù)測(cè)。考慮到單一預(yù)測(cè)模型預(yù)測(cè)精度不高的問題，采用長短期記憶(long short term memory，LSTM)神經(jīng)網(wǎng)絡(luò)算法和支持向量回歸(support vector regression,SVR)算法分別構(gòu)建盾構(gòu)姿態(tài)預(yù)測(cè)模型，并基于最優(yōu)組合賦權(quán)的方式對(duì)二者的預(yù)測(cè)結(jié)果進(jìn)行融合，以期能夠?qū)崿F(xiàn)較為準(zhǔn)確的預(yù)測(cè)。

1 理論基礎(chǔ)

1.1 長短期記憶神經(jīng)網(wǎng)絡(luò)

對(duì)于時(shí)間序列數(shù)據(jù)的預(yù)測(cè)問題，傳統(tǒng)的淺層神經(jīng)網(wǎng)絡(luò)無法將當(dāng)前時(shí)刻的信息與過去結(jié)合起來，很難實(shí)現(xiàn)精準(zhǔn)預(yù)測(cè)。因此，一系列深度學(xué)習(xí)算法應(yīng)運(yùn)而生。循環(huán)神經(jīng)網(wǎng)絡(luò)可以有效實(shí)現(xiàn)過去、現(xiàn)在和將來的融合，是解決時(shí)間序列預(yù)測(cè)問題的“利器”。為進(jìn)一步解決循環(huán)神經(jīng)網(wǎng)絡(luò)在進(jìn)行長時(shí)間序列預(yù)測(cè)時(shí)出現(xiàn)的梯度爆炸和衰減問題，文獻(xiàn)[11]提出了長短期記憶神經(jīng)網(wǎng)絡(luò)方法，其能夠?qū)^去信息進(jìn)行自動(dòng)化取舍，預(yù)測(cè)精度較高，在風(fēng)電工程[12]、汽車工業(yè)工程[13]等多個(gè)領(lǐng)域得以廣泛應(yīng)用。LSTM層通過引入門機(jī)制(輸入門、輸出門和遺忘門)來實(shí)現(xiàn)對(duì)過去信息的選擇性保留和去除，相應(yīng)的結(jié)構(gòu)圖如圖1所示。相應(yīng)的計(jì)算公式為

(1)

圖1 LSTM結(jié)構(gòu)圖Fig.1 Principle diagram of LSTM

1.2 支持向量回歸算法

支持向量回歸算法[14]適用于解決小樣本數(shù)據(jù)情況下的預(yù)測(cè)問題。該算法實(shí)現(xiàn)預(yù)測(cè)的方式主要是通過若干有限個(gè)樣本數(shù)據(jù)去尋找最優(yōu)超平面，以實(shí)現(xiàn)所有樣本點(diǎn)與最優(yōu)超平面之間的偏差和最小。設(shè)1組樣本數(shù)據(jù)集為{xi,yi}(i=1,2,3,…，n)，xi∈Rn(n維實(shí)數(shù)集)為輸入量，yi∈R(一維實(shí)數(shù)集)為輸出量。通過非線性映射關(guān)系φ(x)將樣本投射到高維線性空間中，即

f(x)=wφ(x)+b。

(2)

式中w和b為待求解參數(shù)。

基于式(1)構(gòu)建支持向量回歸模型時(shí)，需要設(shè)定一定的誤差容忍度ε(不敏感損失函數(shù))來提高算法的容錯(cuò)能力。誤差容忍度設(shè)定的基本思路是當(dāng)模型算法輸出值f(x)(預(yù)測(cè)值)與真實(shí)值Y之偏差在[-ε,ε]時(shí)，不計(jì)損失，否則將其計(jì)入損失。SVR原理如圖2所示。

ζi為實(shí)測(cè)值與預(yù)測(cè)值之間的偏差。圖2 SVR原理圖Fig.2 Principle diagram of SVR

通過引入Lagrange函數(shù)得到對(duì)偶模型并進(jìn)行求解，可得最終模型解的形式為

(3)

在構(gòu)建支持向量回歸模型中，相關(guān)的核函數(shù)類型有線性核函數(shù)、多項(xiàng)式核函數(shù)、高斯核函數(shù)和Sigmoid核函數(shù)等，具體如表1所示。

表1 SVR核函數(shù)類型Table1 Kernel function type of SVR

2 LSTM-SVR盾構(gòu)豎向姿態(tài)組合預(yù)測(cè)模型

為實(shí)現(xiàn)盾構(gòu)豎向姿態(tài)的精準(zhǔn)預(yù)測(cè)，本文將長短期記憶神經(jīng)網(wǎng)絡(luò)和支持向量回歸算法的優(yōu)勢(shì)進(jìn)行融合，提出基于LSTM-SVR的盾構(gòu)豎向姿態(tài)組合深度學(xué)習(xí)預(yù)測(cè)模型，相應(yīng)的預(yù)測(cè)流程如圖3所示。

MRE為平均相對(duì)誤差；R2為相關(guān)系數(shù)。圖3 基于LSTM-SVR的盾構(gòu)豎向姿態(tài)預(yù)測(cè)流程Fig.3 Vertical posture prediction process of shield based on LSTM-SVR

具體的模型實(shí)現(xiàn)步驟如下。

1)收集開展盾構(gòu)豎向姿態(tài)預(yù)測(cè)的樣本數(shù)據(jù)。

2)樣本數(shù)據(jù)預(yù)處理，即基于箱線圖法進(jìn)行數(shù)據(jù)異常值的識(shí)別，基于線性內(nèi)插的方式對(duì)識(shí)別出的異常值和樣本數(shù)據(jù)中的缺失值進(jìn)行填充；同時(shí)，為提高模型運(yùn)算速度，基于最大最小值法(計(jì)算見式4)對(duì)預(yù)處理之后的樣本數(shù)據(jù)進(jìn)行歸一化處理[15]。

(4)

式中：X為歸一化后的數(shù)據(jù)；x為原始數(shù)據(jù)；xmin，xmax分別為原始數(shù)據(jù)的最小值、最大值。

3)確定輸入、輸出變量。在構(gòu)建預(yù)測(cè)模型之前，首先需要確定模型的輸入、輸出變量。盾構(gòu)豎向姿態(tài)的智能預(yù)測(cè)可以分為2類，即多因素的耦合預(yù)測(cè)和單點(diǎn)的規(guī)律性預(yù)測(cè)。由于多因素耦合預(yù)測(cè)所要考慮的因素眾多，部分因素的數(shù)據(jù)成規(guī)模采集仍比較困難。而盾構(gòu)姿態(tài)的演化與之前一段時(shí)間的姿態(tài)狀況具有密不可分的關(guān)系，因此，本文采用單點(diǎn)的規(guī)律性預(yù)測(cè)來研究該預(yù)測(cè)問題，即憑借過去一段時(shí)間的姿態(tài)數(shù)據(jù)進(jìn)行預(yù)測(cè)。本文采用過去10個(gè)時(shí)刻的盾構(gòu)豎向姿態(tài)對(duì)下一時(shí)刻進(jìn)行預(yù)測(cè)，即模型的輸入變量為過去10個(gè)時(shí)刻的姿態(tài)數(shù)據(jù)，輸出變量為下一時(shí)刻的姿態(tài)數(shù)據(jù)。為實(shí)現(xiàn)樣本數(shù)據(jù)的最大化利用，采用滑動(dòng)窗口的方式對(duì)樣本數(shù)據(jù)進(jìn)行劃分，基于上述確定的輸入、輸出變量，將滑動(dòng)窗口的寬度m設(shè)定為10，滑動(dòng)步長設(shè)定為1。

4)訓(xùn)練集、測(cè)試集劃分。由于本文所采用的LSTM算法在進(jìn)行當(dāng)前預(yù)測(cè)時(shí)能夠?qū)^去的信息進(jìn)行關(guān)聯(lián)分析，因此，在對(duì)該問題進(jìn)行建模預(yù)測(cè)時(shí)，對(duì)測(cè)試集和訓(xùn)練集的劃分是基于滑動(dòng)窗口劃分后得到的樣本數(shù)據(jù)，按照時(shí)間先后順序以8∶2的比例來劃分訓(xùn)練集和測(cè)試集，即將樣本數(shù)據(jù)中先產(chǎn)生的80%的數(shù)據(jù)作為訓(xùn)練集，后產(chǎn)生的20%的數(shù)據(jù)作為測(cè)試集。

5)模型構(gòu)建?；跇颖緮?shù)據(jù)分別構(gòu)建LSTM和SVR盾構(gòu)豎向姿態(tài)預(yù)測(cè)模型，模型超參數(shù)采用交叉驗(yàn)證網(wǎng)格搜索的方式確定，并基于最優(yōu)組合賦權(quán)法進(jìn)行模型融合，即采用使LSTM-SVR組合模型調(diào)和平均誤差e(見式(5))最小的思想來實(shí)現(xiàn)最優(yōu)組合賦權(quán)，通過將其轉(zhuǎn)化為求解最優(yōu)化問題來計(jì)算。將模型在訓(xùn)練集上的預(yù)測(cè)誤差標(biāo)準(zhǔn)設(shè)定為平均相對(duì)誤差MRE<0.001。當(dāng)模型的預(yù)測(cè)結(jié)果滿足該標(biāo)準(zhǔn)時(shí)，說明模型訓(xùn)練完畢；反之，則分別調(diào)整2個(gè)預(yù)測(cè)模型的超參數(shù)，然后對(duì)模型進(jìn)行重新訓(xùn)練。

(5)

式中：y1，y2分別為LSTM和SVR模型的預(yù)測(cè)結(jié)果；φ1，φ2分別為LSTM和SVR模型預(yù)測(cè)結(jié)果在最終預(yù)測(cè)結(jié)果中所占的比例，0≤φ1≤1，φ1+φ2=1。

6)模型測(cè)試。采用訓(xùn)練好的LSTM-SVR組合預(yù)測(cè)模型，對(duì)測(cè)試集數(shù)據(jù)進(jìn)行預(yù)測(cè)，將預(yù)測(cè)的誤差標(biāo)準(zhǔn)設(shè)定為：平均相對(duì)誤差MRE<2%且相關(guān)系數(shù)R2>0.90。MRE和R2的計(jì)算分別如式(6)和式(7)所示。MRE越小、R2越大，說明模型預(yù)測(cè)性能越好。當(dāng)模型在測(cè)試集上的預(yù)測(cè)結(jié)果滿足該標(biāo)準(zhǔn)時(shí)，說明模型訓(xùn)練成功；反之，則返回步驟5)重新調(diào)整2個(gè)模型的網(wǎng)絡(luò)結(jié)構(gòu)和超參數(shù)，然后對(duì)模型進(jìn)行重新訓(xùn)練。

(6)

(7)

式(6)—(7)中：f(xi)為預(yù)測(cè)值；yi為實(shí)測(cè)值；n為樣本數(shù)。

3 實(shí)例應(yīng)用

3.1 盾構(gòu)豎向姿態(tài)數(shù)據(jù)收集與預(yù)處理

為驗(yàn)證本文所構(gòu)建的LSTM-SVR盾構(gòu)豎向姿態(tài)組合深度學(xué)習(xí)預(yù)測(cè)模型的有效性，以昆明地鐵5號(hào)線盾構(gòu)區(qū)間左線為例開展實(shí)例應(yīng)用研究。該區(qū)間采用土壓平衡盾構(gòu)法施工，穿越的地層主要為粉土、泥炭質(zhì)土、粉砂和粉質(zhì)黏土。

盾構(gòu)豎向姿態(tài)數(shù)據(jù)的收集主要是提取盾構(gòu)PLC系統(tǒng)中實(shí)時(shí)采集的數(shù)據(jù)信息。該盾構(gòu)的數(shù)據(jù)采集頻率為5 s/次，但由于較高的采集頻率下數(shù)據(jù)波動(dòng)較小，對(duì)于模型預(yù)測(cè)沒有實(shí)際意義。因此，本文對(duì)采集到的數(shù)據(jù)重新采樣，將其整理成采集頻率為10 min/次的數(shù)據(jù)信息。取盾構(gòu)掘進(jìn)200—240環(huán)的豎向姿態(tài)數(shù)據(jù)，經(jīng)重新采樣后可得樣本數(shù)據(jù)560組。

為提高模型后續(xù)預(yù)測(cè)的精度和效率，采用第2節(jié)中設(shè)計(jì)的預(yù)處理方法對(duì)采集到的560組樣本數(shù)據(jù)進(jìn)行基于箱線圖法的數(shù)據(jù)異常值識(shí)別、基于線性內(nèi)插的數(shù)據(jù)異常值替換和缺失值填充，進(jìn)而得到較為真實(shí)的“去噪”數(shù)據(jù)，相應(yīng)的盾構(gòu)豎向姿態(tài)演化趨勢(shì)如圖4所示。從圖中可以看出，俯仰角始終大于0°。說明盾構(gòu)在200—240環(huán)掘進(jìn)時(shí)始終處于“抬頭”狀態(tài)。為進(jìn)一步提高建模過程中模型的收斂速度，將樣本數(shù)據(jù)基于式(4)進(jìn)行歸一化處理。

3.2 LSTM-SVR組合預(yù)測(cè)模型的構(gòu)建

3.2.1 盾構(gòu)豎向姿態(tài)數(shù)據(jù)收集與處理

本實(shí)例所使用的計(jì)算機(jī)配置和軟件環(huán)境為：Intel(R)Core(TM)i5-7200U CPU，16.0 GB內(nèi)存。系統(tǒng)是Windows10(64位)，程序語言版本為Python 3.7.8，集成開發(fā)環(huán)境為Anaconda包中的spyder 4.1.4版本，在Keras庫中以Tensorflow為后端實(shí)現(xiàn)。

圖4 200—240環(huán)盾構(gòu)豎向姿態(tài)演化趨勢(shì)圖Fig.4 Shield vertical posture evolution trend of rings 200 to 240

本文在構(gòu)建盾構(gòu)豎向姿態(tài)預(yù)測(cè)模型時(shí)，將過去10個(gè)時(shí)刻的姿態(tài)數(shù)據(jù)作為輸入變量，下一時(shí)刻的姿態(tài)數(shù)據(jù)作為輸出變量。為了提高樣本數(shù)據(jù)的利用率，采用第2節(jié)中設(shè)計(jì)的滑動(dòng)窗口方式進(jìn)行數(shù)據(jù)整理，即可得到用于建模訓(xùn)練的樣本數(shù)據(jù)550組。

在建模前，將樣本數(shù)據(jù)按照8∶2的比例進(jìn)行劃分，即可得到訓(xùn)練集440組，測(cè)試集110組。然后基于440組訓(xùn)練集數(shù)據(jù)分別構(gòu)建LSTM和SVR盾構(gòu)豎向姿態(tài)預(yù)測(cè)模型。

在構(gòu)建LSTM模型時(shí)，將模型的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)定為1個(gè)輸入層、1個(gè)輸出層、3個(gè)LSTM隱含層和1個(gè)Dense層，比率Dropout=0.4，相應(yīng)的網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。

圖5 LSTM預(yù)測(cè)模型網(wǎng)絡(luò)結(jié)構(gòu)Fig.5 Network structure of LSTM prediction model

在模型訓(xùn)練過程中，將模型的迭代次數(shù)iter、學(xué)習(xí)率lr和模型隱含層單元數(shù)Uniti(i=1,2,3,4)確定為該模型的待尋優(yōu)超參數(shù)，并基于試算法確定超參數(shù)的取值區(qū)間，基于交叉驗(yàn)證網(wǎng)絡(luò)搜索的方式確定最優(yōu)的超參數(shù)組合。LSTM預(yù)測(cè)模型超參數(shù)尋優(yōu)結(jié)果如表2所示。

表2 LSTM預(yù)測(cè)模型超參數(shù)尋優(yōu)結(jié)果Table 2 Hyperparameters optimization results of LSTM prediction model

根據(jù)確定的LSTM模型最優(yōu)超參數(shù)組合(200,0.01,32,64,64,128)，基于440組訓(xùn)練集數(shù)據(jù)進(jìn)行模型構(gòu)建，并進(jìn)一步采用訓(xùn)練集進(jìn)行SVR模型構(gòu)建，將核函數(shù)確定為表1中的高斯核函數(shù)。對(duì)于模型訓(xùn)練過程中2個(gè)待優(yōu)化超參數(shù)懲罰因子C和核函數(shù)參數(shù)G，分別基于試驗(yàn)法確定其合適的取值范圍。懲罰因子C取值范圍為0.1～20.0，步長為0.5；核函數(shù)參數(shù)G取值范圍為0.01～2.00，步長為0.05。通過交叉驗(yàn)證網(wǎng)格搜索的方式得到最優(yōu)的參數(shù)組合為(10.1，1.01)。

根據(jù)確定的SVR模型最優(yōu)超參數(shù)組合(10.1,1.01)，基于440組訓(xùn)練集數(shù)據(jù)進(jìn)行模型構(gòu)建。

對(duì)于LSTM、SVR模型得到的訓(xùn)練集預(yù)測(cè)結(jié)果，基于第2節(jié)設(shè)計(jì)的最優(yōu)組合賦權(quán)方式(如式(5)所示)進(jìn)行預(yù)測(cè)結(jié)果融合，進(jìn)而得到LSTM-SVR模型在訓(xùn)練集上的預(yù)測(cè)結(jié)果。經(jīng)計(jì)算可知，相應(yīng)的平均相對(duì)誤差MRE=8×10-4，小于0.001，能夠滿足模型設(shè)計(jì)的預(yù)測(cè)標(biāo)準(zhǔn)，說明該模型訓(xùn)練完畢。

3.2.2 模型預(yù)測(cè)結(jié)果與分析

為驗(yàn)證所構(gòu)建的LSTM-SVR模型預(yù)測(cè)的準(zhǔn)確性，基于測(cè)試集盾構(gòu)豎向姿態(tài)數(shù)據(jù)進(jìn)行模型性能測(cè)試。經(jīng)計(jì)算可知，相應(yīng)的平均相對(duì)誤差MRE=1.13%，小于2%；相關(guān)系數(shù)R2=0.935，大于90%。模型在測(cè)試集上的預(yù)測(cè)結(jié)果能夠滿足模型設(shè)計(jì)的要求，說明本文所構(gòu)建的LSTM-SVR盾構(gòu)豎向姿態(tài)預(yù)測(cè)模型能夠滿足實(shí)際工程需要。

為進(jìn)一步討論本文所構(gòu)建的預(yù)測(cè)模型的預(yù)測(cè)性能，將其與LSTM、SVR以及BP預(yù)測(cè)模型的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比，各模型在測(cè)試集上的預(yù)測(cè)結(jié)果如圖6所示。相應(yīng)的預(yù)測(cè)結(jié)果指標(biāo)計(jì)算如表3所示。從表3中可以看出，本文所構(gòu)建的預(yù)測(cè)模型預(yù)測(cè)誤差最小，預(yù)測(cè)結(jié)果和實(shí)測(cè)數(shù)據(jù)的擬合效果最佳，進(jìn)一步證實(shí)了所構(gòu)建模型的預(yù)測(cè)精度和模型泛化能力。

圖6 各模型測(cè)試集預(yù)測(cè)結(jié)果Fig.6 Predicted results of each model based on test set

表3 各模型預(yù)測(cè)結(jié)果指標(biāo)對(duì)比Table 3 Comparison of prediction results of each model

4 結(jié)論與討論

本文構(gòu)建了基于LSTM-SVR的盾構(gòu)豎向姿態(tài)組合預(yù)測(cè)模型,并依托實(shí)際盾構(gòu)施工項(xiàng)目對(duì)其預(yù)測(cè)性能和適用性進(jìn)行了驗(yàn)證，得出如下結(jié)論。

1)基于LSTM-SVR的盾構(gòu)豎向姿態(tài)組合預(yù)測(cè)模型在實(shí)際工程上的預(yù)測(cè)結(jié)果為MRE=1.13%，預(yù)測(cè)誤差較小；R2=0.935，模型預(yù)測(cè)結(jié)果和實(shí)測(cè)結(jié)果的擬合度較高，說明所提出的模型具有較好的預(yù)測(cè)性能，能夠滿足工程需要。

2)模型預(yù)測(cè)結(jié)果和單一預(yù)測(cè)模型LSTM、SVR以及BP模型的對(duì)比表明，本文所構(gòu)建的基于LSTM-SVR的組合預(yù)測(cè)模型具有較高的預(yù)測(cè)精度。

3)本文僅針對(duì)盾構(gòu)姿態(tài)中的豎向姿態(tài)進(jìn)行了預(yù)測(cè)，尚未開展水平和轉(zhuǎn)動(dòng)姿態(tài)的預(yù)測(cè)研究，后續(xù)建議進(jìn)一步對(duì)其進(jìn)行深入研究，已完善整個(gè)盾構(gòu)姿態(tài)的預(yù)測(cè)體系，進(jìn)而為盾構(gòu)姿態(tài)控制提供輔助決策依據(jù)。