陳 弓, 韓 冰, 樊家暢, 陳信強(qiáng),3

(1.上海船舶運(yùn)輸科學(xué)研究所有限公司, 上海 200135;2.上海海事大學(xué) 物流科學(xué)與工程研究院, 上海 201306;3.武漢理工大學(xué) 智能交通系統(tǒng)研究中心, 武漢 430063)

0 引 言

當(dāng)前,我國水路運(yùn)輸行業(yè)的發(fā)展已進(jìn)入攻堅(jiān)短板、突破航運(yùn)技術(shù)瓶頸的關(guān)鍵階段,綠色、低碳和運(yùn)行效率等得到了研究人員的廣泛關(guān)注。近年來,國際海事組織(International Maritime Organization,IMO)出臺(tái)了多項(xiàng)與船舶能效有關(guān)的措施[1],如船舶能效設(shè)計(jì)指數(shù)和船舶能效管理計(jì)劃等;IMO海洋環(huán)境保護(hù)委員會(huì)通過了船舶能效和碳排放強(qiáng)制性措施[2],以進(jìn)一步減少船舶的燃料消耗和溫室氣體排放,以期在2050年實(shí)現(xiàn)比2008年減排50%的目標(biāo)。國內(nèi)也提出了很多與綠色航運(yùn)有關(guān)的管控策略,發(fā)布了很多政策文件[3-4]。影響船舶能源利用效率的措施(如低速航行、航線選擇和氣象導(dǎo)航)和因素(如燃料的消耗、成本和排放)與船舶航速有線性或非線性關(guān)系,尤其是功率與航速之間呈三次方關(guān)系(即使航速發(fā)生微小的變化,也會(huì)對功率產(chǎn)生很大的影響),而調(diào)整航速不需要裝配額外的設(shè)備,具有較高的經(jīng)濟(jì)效益[5]。因此,對船舶航速進(jìn)行準(zhǔn)確估計(jì),可為油耗預(yù)測、航線規(guī)劃與優(yōu)化、港口運(yùn)行效率提升和導(dǎo)航系統(tǒng)開發(fā)等任務(wù)的開展提供準(zhǔn)確的數(shù)據(jù)支撐,具有重要的研究意義。

當(dāng)前,已有的船舶航速預(yù)測方法可分為基于物理模型的船舶航速預(yù)測和數(shù)據(jù)驅(qū)動(dòng)的基于機(jī)器學(xué)習(xí)方法的船舶航速預(yù)測2種。

1) 基于物理模型的航速預(yù)測主要通過對全尺寸和小尺度模型的航速試驗(yàn)數(shù)據(jù)進(jìn)行回歸,得到航速、功率和螺旋槳轉(zhuǎn)速之間的關(guān)系,這種方法受船舶自身特征的限制,且需要投入多人力和物力。柏開祥等[6]通過數(shù)值模擬的方式模擬了風(fēng)帆的空氣動(dòng)力性能,基于水池試驗(yàn)建立了板體水動(dòng)力模型,根據(jù)最大推力原理,利用風(fēng)動(dòng)力與水動(dòng)力的平衡方程求解出了各條航線上的最大船舶航速。鄭躍洲等[7]通過流固耦合方法對集成電機(jī)推進(jìn)器周圍的流場和槳葉應(yīng)力場進(jìn)行了計(jì)算,同時(shí)采用體積力法替代螺旋槳的作用,對無人艇的航速進(jìn)行了預(yù)報(bào)。霍萍[8]針對華南理工大學(xué)無人艇課題組研發(fā)的波浪推進(jìn)無人艇開展了建模分析、數(shù)值計(jì)算、模型試驗(yàn)和航速預(yù)測等研究,對其水動(dòng)力學(xué)性能進(jìn)行了測試。

2) 數(shù)據(jù)驅(qū)動(dòng)的航速預(yù)測研究主要利用機(jī)器學(xué)習(xí)方法,基于實(shí)測的船舶航行數(shù)據(jù)和氣象數(shù)據(jù)預(yù)測船舶航速。這種方法無需借助與船舶建造和航行有關(guān)的物理知識(shí),相比基于物理模型的航速預(yù)測方法,預(yù)測效果更好,計(jì)算過程更簡單。

高慧[9]利用支持向量機(jī)和采集到的帆船運(yùn)動(dòng)數(shù)據(jù)實(shí)現(xiàn)了對帆船航速的預(yù)測。李文楷[10]基于船舶自動(dòng)識(shí)別系統(tǒng)(Automatic Identification System,AIS)數(shù)據(jù),結(jié)合端到端框架和注意力機(jī)制設(shè)計(jì)了船舶行為預(yù)測模型,并與傳統(tǒng)的雙向長短時(shí)記憶網(wǎng)絡(luò)、門控循環(huán)單元和循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)等模型進(jìn)行了對比,驗(yàn)證了所設(shè)計(jì)模型的有效性和可靠性。朱曉晨等[11]基于機(jī)器學(xué)習(xí)方法提出了一種輕量化的船舶航速預(yù)測模型,將實(shí)時(shí)風(fēng)速、風(fēng)向、水深、水流速度、艉軸轉(zhuǎn)速、軸功率和主機(jī)油耗數(shù)據(jù)作為輸入?yún)?shù),實(shí)現(xiàn)了對船舶航速的快速、準(zhǔn)確預(yù)測,并將該方法與多種機(jī)器學(xué)習(xí)算法相比較,驗(yàn)證了其有效性。部分學(xué)者基于灰色模型實(shí)現(xiàn)對船舶航速的預(yù)測,即針對航速預(yù)測任務(wù)構(gòu)建物理模型與數(shù)據(jù)驅(qū)動(dòng)相結(jié)合的船舶航速預(yù)測方法,這種方式的預(yù)測效果仍受物理模型局限性的影響。LIU等[12]利用一艘散貨船收集的午報(bào)數(shù)據(jù)和AIS數(shù)據(jù)集,采用灰度預(yù)測模型對船舶航速和燃油消耗進(jìn)行了預(yù)測。ZHOU等[13]提出了基于編解碼卷積神經(jīng)網(wǎng)絡(luò)的預(yù)測模型,該模型在預(yù)測長時(shí)間序列數(shù)據(jù)方面具有很好的效果,這已在多類時(shí)間序列數(shù)據(jù)集的測試中得到驗(yàn)證。本文基于編解碼卷積神經(jīng)網(wǎng)絡(luò)開展船舶航速預(yù)測研究,以期為智能船舶、智能航行和船舶能耗控制研究提供數(shù)據(jù)支撐。

1 航速預(yù)測方法

本文采用基于編解碼卷積神經(jīng)網(wǎng)絡(luò)的Informer模型開展航速預(yù)測。首先,通過位置編碼操作對船舶時(shí)序數(shù)據(jù)進(jìn)行編碼;其次,引入自注意力機(jī)制獲取與航速有關(guān)的數(shù)據(jù)序列并進(jìn)行航速預(yù)測,同時(shí)在每次編碼時(shí)利用自注意力蒸餾減少信息冗余;最后,通過Informer模型的解碼器獲取船舶航速預(yù)測結(jié)果。

1.1 位置編碼

不同于RNN,Informer模型的編解碼機(jī)制無法處理序列數(shù)據(jù)元素的序列信息。為此,引入位置編碼機(jī)制實(shí)現(xiàn)對船舶航速信息的編碼。本文采用三角函數(shù)方法實(shí)現(xiàn)對輸入航速序列數(shù)據(jù)的位置編碼,位置編碼公式為

PE(pos,2j)=sin(pos/(2LX)2j/dmodel)

(1)

PE(pos,2j+1)=cos(pos/(2LX)2j/dmodel)

(2)

式(1)和式(2)中:X為輸入序列;LX為輸入序列的長度;pos為序列中元素的位置;j為位置編碼中正弦和余弦函數(shù)的下標(biāo);dmodel為輸入向量的維度;PE為編碼之后的位置向量。通過位置編碼,可更好地處理序列數(shù)據(jù),從而提高模型的預(yù)測精度。

1.2 自注意力機(jī)制

與循環(huán)神經(jīng)網(wǎng)絡(luò)不同,編解碼結(jié)構(gòu)無法有效提取序列數(shù)據(jù)的長距離信息,因此引入自注意力機(jī)制解決該問題。經(jīng)典的自注意力計(jì)算公式為

A(Q,K,V)=Softmax(QKT/d-1/2)V

(3)

式(3)中:Q為查詢矩陣;K為鍵矩陣;V為值矩陣;d為鍵矩陣的維度;A(Q,K,V)為Q、K和V等3個(gè)矩陣經(jīng)過Softmax激活函數(shù)輸出的注意力表示張量。通過自注意力機(jī)制,模型可捕捉到序列中元素之間的長距離依賴關(guān)系,從而提升模型的性能。

1.3 隨機(jī)抽樣

已有研究表明,自注意力機(jī)制的概率分布具有潛在的稀疏性?；诮?jīng)典的自注意力機(jī)制進(jìn)行定性分析發(fā)現(xiàn),約有12%的自注意力模塊會(huì)在自注意力機(jī)制中發(fā)揮作用,且相關(guān)注意力模塊服從長尾分布。因此,可采用隨機(jī)抽樣策略選擇主導(dǎo)查詢,并引入相對熵計(jì)算方式降低算法的復(fù)雜度。相比其他采樣策略,隨機(jī)抽樣能更好地反映原始自注意力的分布特征,即能更有效地提取船舶航速的變化趨勢和變化規(guī)律。

1.4 編碼器

1.4.1 混合多頭自注意力機(jī)制

在深度學(xué)習(xí)領(lǐng)域,基于RNN的方法存在計(jì)算復(fù)雜度高和難以并行化等問題。由此,引入混合多頭自注意力機(jī)制,其表達(dá)式為

MA(X)=Mixed-Concat(h1,…,hn)

(4)

式(4)中:hn=A(Q,K,V),其中n為模型超參數(shù),為預(yù)設(shè)的檢測頭數(shù)量;X為模型的輸入張量;MA(X)為將不同檢測頭輸出級聯(lián)得到的多頭注意力表示張量;Mixed-Concat()為具體的級聯(lián)操作,用于捕捉輸入序列中不同位置之間的依賴關(guān)系。通過混合多頭機(jī)制,模型可關(guān)注不同的信息。這有助于模型更好地理解和表示輸入序列,從而提升模型的預(yù)測性能。

1.4.2 自注意力蒸餾

由于自注意力機(jī)制自身的性質(zhì),編碼器的特征映射具有一定的冗余性。因此,在每個(gè)自注意力的輸出層后面加上蒸餾操作,使優(yōu)勢特征能被模型重點(diǎn)關(guān)注和學(xué)習(xí),并在下一層生成一個(gè)聚焦的自注意力特征圖,具體的計(jì)算公式為

Xt,j+1=MaxPool(ELU(Convld(Xt,j)AB))

(5)

式(5)中:Xt,j為輸入第j層編碼器的第t個(gè)輸入張量;()AB為注意塊;Convld()表示在時(shí)間維上執(zhí)行一維卷積濾波器,并采用激活函數(shù)ELU();MaxPool()代表池化層;Xt,j+1為經(jīng)蒸餾操作后第j+1層編碼器的第t個(gè)輸入張量。

1.5 解碼器

解碼器由2個(gè)混合多頭自注意力層疊加而成,與傳統(tǒng)的動(dòng)態(tài)解碼不同,采用生成推理的方式解決長時(shí)間預(yù)測帶來的速度下降問題。輸入解碼器的向量為

Xt,de=Concat(Xt,s,Xt,0)

(6)

式(6)中:s為待預(yù)測向量的已知序列長度;Xt,0為待預(yù)測序列的填充數(shù)據(jù),規(guī)避算法陷入自回歸狀態(tài);Xt,de為輸入解碼器的向量。

1.6 損失函數(shù)

選擇均方誤差作為模型的損失函數(shù),用于評價(jià)模型的預(yù)測性能,其計(jì)算公式為

(7)

2 試 驗(yàn)

在船舶實(shí)際航行過程中,航速變化直接受船舶操縱的影響,航速的預(yù)測精度不僅與船舶歷史航速有關(guān),而且與船舶采取的操縱措施密切相關(guān)。本文用于預(yù)測航速的船舶航行數(shù)據(jù)來源于船舶真實(shí)航行數(shù)據(jù),由某船2個(gè)月的航行數(shù)據(jù)組成,按8∶1∶1的比例將這些數(shù)據(jù)劃分為訓(xùn)練集、測試集和驗(yàn)證集,在服務(wù)器上進(jìn)行訓(xùn)練和測試。該服務(wù)器的中央處理器(Central Processing Unit,CPU)型號為Intel Core i7-10700K;圖形處理器(Graphics Processing Unit,GPU)型號為NVIDIA Corporation GA104GL RTX A4000;內(nèi)存大小為32 GB;顯存容量為32 GB。訓(xùn)練環(huán)境:python版本號為3.6.5;pytorch版本號為1.7.1+cu110。訓(xùn)練參數(shù)設(shè)置:編碼器層數(shù)為3層;解碼器層數(shù)為2層;每層中的檢測頭數(shù)量為8個(gè);批處理大小設(shè)置為64;學(xué)習(xí)率為1×10-4;單次最大訓(xùn)練次數(shù)為100次;模型收斂的停止次數(shù)設(shè)為20次。本文選取平均絕對誤差(Mean Absolute Error,MSE)、均方誤差(Mean Squared Error,MAE)、均方根誤差(Root Mean Squared Error,RMSE)、平均絕對百分比誤差(Mean Absolute Percentage Error,MAPE)和均方預(yù)測誤差(Mean-Square Prediction Error,MSPE)等5個(gè)評價(jià)指標(biāo)對模型的預(yù)測效果進(jìn)行量化分析[14]。

圖1和圖2分別為第一層編碼器和第三層編碼器輸出的注意力機(jī)制特征圖,其中右側(cè)表示顏色深淺的數(shù)值越大,代表該查詢向量與鍵向量的相似度越高。從圖1和圖2中可看出,通過注意力機(jī)制能有效地從輸入的時(shí)間序列中提取全局信息,盡管初始特征圖仍有很強(qiáng)的稀疏性,但隨著層數(shù)的增加和蒸餾操作的進(jìn)行,從歷史序列中學(xué)習(xí)到的航速相關(guān)信息會(huì)更全面,從而有助于學(xué)習(xí)到時(shí)間序列中的長距離依賴信息,并有效提升模型的預(yù)測性能,得到良好的預(yù)測效果。

圖1 第一層編碼器輸出的注意力機(jī)制特征圖

船舶航速預(yù)測值與真實(shí)值對比見圖3,其中時(shí)間序列數(shù)據(jù)采樣點(diǎn)的時(shí)間間隔為5 min。從圖3中可看出,采用Informer航速預(yù)測方法預(yù)測的船舶航速與船舶真實(shí)航速較為接近,預(yù)測精度較高。由于模型中引入了自注意力機(jī)制,能更好地關(guān)注局部特征和全局特征,能有效抑制船舶航速急劇增加和急劇下降等航速異常波動(dòng)數(shù)據(jù)的產(chǎn)生?；诖?采用本文構(gòu)建的船舶航速預(yù)測模型預(yù)測的船舶航速與船舶真實(shí)航速的變化趨勢較為一致。此外,由圖3可知,本文提出的船舶航速預(yù)測方法在整個(gè)預(yù)測范圍內(nèi)均能迅速準(zhǔn)確地預(yù)測出船舶航速的變化趨勢,而人工神經(jīng)網(wǎng)絡(luò)(Artificial Intelligence Neural Network, ANN)和RNN方法的航速預(yù)測精度略低。ANN方法在預(yù)測初期得到的航速數(shù)據(jù)與船舶真實(shí)航速數(shù)據(jù)較為接近,隨著預(yù)測時(shí)間的增加,該方法的預(yù)測精度略微下降。這主要是由于ANN方法能有效實(shí)現(xiàn)對船舶航速的線性預(yù)測,但不能有效捕捉船舶航速的非線性變化規(guī)律,因此其預(yù)測精度有待提升。

圖3 船舶航速預(yù)測值與真實(shí)值對比

RNN方法采用循環(huán)結(jié)構(gòu)完成航速預(yù)測任務(wù),RNN各層神經(jīng)元在對當(dāng)前網(wǎng)絡(luò)層的輸入信息進(jìn)行提取過程中也考慮了前一時(shí)刻神經(jīng)元的輸出信息,使得每個(gè)神經(jīng)元都能從序列數(shù)據(jù)中學(xué)到與時(shí)間序列有關(guān)的特征信息?；诖?RNN模型在前幾個(gè)時(shí)間序列樣本點(diǎn)的預(yù)測精度優(yōu)于ANN模型。隨著預(yù)測時(shí)間的增加,航速數(shù)據(jù)的預(yù)測精度逐漸下降。RNN模型從第8個(gè)數(shù)據(jù)點(diǎn)開始的航速預(yù)測結(jié)果與實(shí)際航速變化規(guī)律不同。即真實(shí)船舶在第8個(gè)數(shù)據(jù)點(diǎn)開始減速,速度呈下降趨勢,且維持了約15 min時(shí)間。然而,RNN自第8個(gè)數(shù)據(jù)點(diǎn)的船舶航速變化呈上升趨勢,且在第17個(gè)和第18個(gè)數(shù)據(jù)點(diǎn)也產(chǎn)生了較大的預(yù)測偏差?？傮w而言,相比ANN模型和RNN模型,本文構(gòu)建的Informer模型能準(zhǔn)確、快速、有效地預(yù)測出船舶航速。

表1為采用不同模型得到的航速預(yù)測量化結(jié)果對比。由表1可知:采用本文構(gòu)建的Informer模型得到的船舶航速M(fèi)SE、MAE、RMSE、MAPE和MSPE分別為0.352、0.281、0.495、0.433和0.882,均小于ANN模型和RNN模型;采用ANN模型和RNN模型得到的MSPE分別為482.321和1 132.714,該數(shù)值顯著大于Informer模型;采用ANN模型和RNN模型得到的MSE分別為0.413和0.699,Informer模型的航速預(yù)測精度至少比這2種模型高15%。綜上,采用本文構(gòu)建的Informer模型能獲得準(zhǔn)確的航速預(yù)測結(jié)果。

表1 采用不同模型得到的航速預(yù)測量化結(jié)果對比

3 結(jié) 語

本文基于Informer模型對船舶航速進(jìn)行預(yù)測,將原始的船舶航行數(shù)據(jù)作為模型輸入,引入多頭自注意力機(jī)制和自注意力蒸餾方法提高船舶航速的預(yù)測精度。對比試驗(yàn)結(jié)果表明,采用Informer模型得到的船舶航速M(fèi)SE、MAE、RMSE、MAPE和MSPE分別為0.352、0.281、0.495、0.433和0.882,均小于ANN模型和RNN模型,說明采用本文提出的船舶航速預(yù)測方法能獲得較好的船舶航速預(yù)測效果。在后續(xù)研究中,可融合水上交通視頻和雷達(dá)等多源傳感器數(shù)據(jù)開展船舶航速預(yù)測研究,為船舶智能航行精準(zhǔn)控制提供高精度的數(shù)據(jù)支撐。