崔 凱,郭 宇,錢(qián)偉偉,張 浩,查珊珊,劉金山
(1.南京航空航天大學(xué)機(jī)電學(xué)院,南京 210016;2.中國(guó)電子科技集團(tuán)公司第三十八研究所,合肥 230031;3.北京衛(wèi)星制造廠,北京 100190)
隨著新一代網(wǎng)絡(luò)信息技術(shù)的快速發(fā)展,制造業(yè)面臨的市場(chǎng)環(huán)境和社會(huì)環(huán)境發(fā)生了重大變化,多品種、變批量、定制化已成為當(dāng)前典型的生產(chǎn)特征,顯著增加了物料配送系統(tǒng)的復(fù)雜性。保證車(chē)間物料在合適的時(shí)間、以正確的數(shù)量配送至所需的工位對(duì)于提升車(chē)間制造水平具有重要意義。
為了解決制造車(chē)間物料準(zhǔn)確配送問(wèn)題,近年來(lái)眾多學(xué)者對(duì)其進(jìn)行了廣泛研究。如宋江[1]在JIT(just in time)理論的基礎(chǔ)上提出了JIS(just in sequence)配送模式,能夠進(jìn)一步降低庫(kù)存量,滿(mǎn)足個(gè)性化定制的裝配需求。沈維蕾等[2]針對(duì)不確定加工時(shí)間下裝配過(guò)程物料配送問(wèn)題,提出一種基于實(shí)時(shí)信息驅(qū)動(dòng)的物料配送模式。CHOI等[3]開(kāi)發(fā)一套用于汽車(chē)裝配過(guò)程的動(dòng)態(tài)零件進(jìn)給系統(tǒng),以動(dòng)態(tài)估計(jì)零件消耗量,為離散制造車(chē)間物料配送提供了思路。張連超等[4]提出一種基于灰色理論的衛(wèi)星總裝數(shù)字孿生車(chē)間物料需求時(shí)間預(yù)測(cè)方法,以揭示物料需求時(shí)間變化的內(nèi)在規(guī)律。明菲菲[5]通過(guò)建立BP神經(jīng)網(wǎng)絡(luò)對(duì)總裝車(chē)間生產(chǎn)物流系統(tǒng)中的物料配送時(shí)間進(jìn)行預(yù)測(cè)以確保不會(huì)因?yàn)槲锪衔瓷暇€(xiàn)而出現(xiàn)裝配停止的現(xiàn)象。江東[6]采用BP神經(jīng)網(wǎng)絡(luò)對(duì)發(fā)動(dòng)機(jī)物料需求進(jìn)行預(yù)測(cè)并取得了較好的效果。周炳海等[7]等提出基于知識(shí)庫(kù)和神經(jīng)網(wǎng)絡(luò)的調(diào)度方法,有效解決了裝配線(xiàn)中多載量小車(chē)物料配送的動(dòng)態(tài)調(diào)度問(wèn)題。黃雪思[8]提出基于物料消耗率的LSTM(long short term memory)模型,實(shí)現(xiàn)準(zhǔn)確的物料需求時(shí)間預(yù)測(cè),從而達(dá)到物料的精準(zhǔn)配送。
綜上所述,國(guó)內(nèi)外在物料配送模式和系統(tǒng)方面進(jìn)行了大量的研究,并且有學(xué)者開(kāi)始將人工智能技術(shù)在物料配送問(wèn)題進(jìn)行應(yīng)用,取得了良好的效果,但是還存在物料配送準(zhǔn)確性差的問(wèn)題。因此,本文提出基于Group-BiLSTM-LightGBM的物料需求量預(yù)測(cè)方法,將Group-BiLSTM網(wǎng)絡(luò)和LightGBM(light gradient boosting machine)模型的輸出結(jié)果進(jìn)行集成,獲得最終的車(chē)間物料需求量預(yù)測(cè)值。該集成模型可獲得較高的預(yù)測(cè)精度且具有良好的泛化性能。
車(chē)間內(nèi)N個(gè)工位所需物料均由一個(gè)配送中心提供,每個(gè)工位都有一個(gè)物料緩存區(qū),其對(duì)應(yīng)物料W的存儲(chǔ)容量范圍為[Qmin,Qmax]。工位的物料消耗速度動(dòng)態(tài)變化,通過(guò)車(chē)間部署的智能感知設(shè)備實(shí)時(shí)監(jiān)控各工位的物料消耗速度和緩存區(qū)容量,并據(jù)此動(dòng)態(tài)調(diào)整每一次配送過(guò)程各工位的物料配送時(shí)間窗口[Tlow,Thigh],其中,Tlow為最早配送時(shí)間,Thigh為最晚配送時(shí)間。以緩存區(qū)容量不為0為前提,確定工位服務(wù)時(shí)間窗的區(qū)間長(zhǎng)度[9],工位Ni(i=0,1,…,N)物料W的時(shí)間窗長(zhǎng)度的計(jì)算公式為:
L=Qmin×ci
(1)
式中,Qmin為工位Ni物料W緩存區(qū)的最小容量;ci為單位物料W在工位Ni的消耗時(shí)間。
在每一次配送過(guò)程中,根據(jù)工位緩存區(qū)的當(dāng)前容量,確定工位Ni每次配送的配送量,工位Ni物料W的配送量計(jì)算公式為:
(2)
(3)
(4)
為了描述不同節(jié)拍下的生產(chǎn),使用?來(lái)衡量車(chē)間的節(jié)拍,將一天的時(shí)間劃分。以?=30 min為例,將每天24 h分為48個(gè)時(shí)段,采取如下方式表示,具體為1表示(0:00~0:30),2表示(0:30~1:00),以此類(lèi)推,并且預(yù)測(cè)每天8:30~18:30期間每個(gè)工位每種物料未來(lái)?的需求量。
考慮和物料需求量相關(guān)的特征,針對(duì)工位Ni、物料W的配送需求,本文的輸入數(shù)據(jù)Xi主要由以下特征組成,可描述為:
步驟1:進(jìn)行歸一化預(yù)處理,計(jì)算公式為:
(5)
ft=σ(Wf[ht-1,xt]+bf)
(6)
(7)
(8)
(9)
(10)
(11)
為了能同時(shí)提取時(shí)序特征,分析數(shù)據(jù)在向前、向后兩個(gè)時(shí)間方向上的未知關(guān)聯(lián),從正反兩個(gè)方向挖掘時(shí)序特征,相互約束以形成信息閉環(huán)。改進(jìn)后的Group-BiLSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示,詳細(xì)計(jì)算公式如式(12)~式(15)所示。該網(wǎng)絡(luò)使用多個(gè)BiLSTM去挖掘每個(gè)特征以及時(shí)序特征之間隱含的規(guī)律,獲得更加準(zhǔn)確的物料需求量的預(yù)測(cè)值。
圖1 Group-BiLSTM的網(wǎng)絡(luò)結(jié)構(gòu)
(12)
式中,BiLSTM(·)表示式(9)~式(11)定義的BiLSTM操作。
(13)
將抽取的時(shí)序特征fa,fo,fl,...,fm_d作為全連接層FC_1的輸入,計(jì)算公式為:
YFC_1=FC(fa,fo,fl,...,fm_d)
(14)
式中,F(xiàn)C(·)表示全連接層操作。
(15)
圖2 LightGBM模型的預(yù)測(cè)過(guò)程
LightGBM模型是一種分布式梯度提升決策樹(shù)增強(qiáng)框架[12]。由于LightGBM模型是決策樹(shù)模型,與Group-BiLSTM不同,不需要對(duì)輸入特征做歸一化操作,另外,LightGBM模型可以直接處理類(lèi)別特征(例如,節(jié)假日信息特征)以及數(shù)據(jù)特征缺失問(wèn)題,無(wú)須對(duì)其進(jìn)行編碼?;贚ightGBM模型物料需求的預(yù)測(cè)過(guò)程如圖2所示。
(16)
最佳基礎(chǔ)模型ft對(duì)應(yīng)最佳樹(shù)的結(jié)構(gòu)q(x),對(duì)于任意一棵回歸樹(shù)都可以表示為wq(x),q∈{1,2,…,J}。其中,J表示葉子節(jié)點(diǎn)數(shù)量;q表示樹(shù)的決策規(guī)則;w是表示葉子節(jié)點(diǎn)樣本權(quán)重的向量。LightGBM以加法形式進(jìn)行訓(xùn)練,其中第t步訓(xùn)練過(guò)程的計(jì)算公式為:
(17)
目標(biāo)函數(shù)用牛頓法快速逼近,最終是尋找一個(gè)合理的ft,使Γt盡可能小,為了簡(jiǎn)化問(wèn)題,可將公式轉(zhuǎn)化為式(18)。
(18)
式中,gi和hi表示損失函數(shù)的一階和二階梯度值,式(18)可以被轉(zhuǎn)化為式(19)。
(19)
(20)
(21)
通過(guò)貪心法,即在某個(gè)已有的可劃分節(jié)點(diǎn)中加入一個(gè)分割,并通過(guò)計(jì)算分割前后的增益值決定是否剪枝,從而挑選出使J(ft)達(dá)到最小的最佳的樹(shù)結(jié)構(gòu)q,增益的計(jì)算公式為:
(22)
式中,GL和HL為某節(jié)點(diǎn)分割后對(duì)應(yīng)的左支樣本點(diǎn)的導(dǎo)函數(shù)值;GR和HR為某節(jié)點(diǎn)分割后對(duì)應(yīng)右支樣本點(diǎn)的導(dǎo)函數(shù)值。
(23)
式中,fT(X)表示最終的模型;ft(X)為第Ti(0≤Ti≤T)棵回歸樹(shù)的輸出值。
在Group-BiLSTM網(wǎng)絡(luò)和LightGBM模型預(yù)測(cè)得出物料需求量結(jié)果的基礎(chǔ)上,采用最優(yōu)加權(quán)組合的方法確定權(quán)重系數(shù)[13],將兩者進(jìn)行有效集成,組合預(yù)測(cè)的流程如圖3所示。
圖3 組合預(yù)測(cè)流程
由圖可知,組合預(yù)測(cè)流程包括Group-BiLSTM網(wǎng)絡(luò)和LightGBM模型分別訓(xùn)練、驗(yàn)證、預(yù)測(cè)和有效集成,其中最優(yōu)加權(quán)組合步驟是為了分別獲得模型權(quán)重系數(shù),權(quán)重系數(shù)的詳細(xì)求解步驟如下:
首先,求出偏差矩陣E,即:
(24)
式中,N*為物料需求量驗(yàn)證集采樣總數(shù);e1t和e2t分別為Group-BiLSTM和LightGBM模型在t時(shí)刻的預(yù)測(cè)值與真實(shí)值的誤差。
其次,令R=[1,1]T,則組合系數(shù)約束條件為RTK=1,通過(guò)拉格朗日乘子法可以求出最優(yōu)權(quán)重,計(jì)算公式為:
(25)
式中,K=[w1w2]T;w1和w2分別為Group-BiLSTM和LightGBM模型的權(quán)重系數(shù),滿(mǎn)足w1+w2=1。
最后,模型集成后的物料需求量計(jì)算公式為:
(26)
本文選取某航天裝配車(chē)間作為驗(yàn)證對(duì)象,該車(chē)間包含10個(gè)工位,通過(guò)智能采集設(shè)備獲得25 469條帶有標(biāo)簽的車(chē)間制造數(shù)據(jù)。按照8:1:1的比例分為訓(xùn)練集、驗(yàn)證集和測(cè)試集。采用的硬件平臺(tái)配置為Intel Core i9-10980XE CPU和NVDIA GTX 3090Ti GPU。軟件采用Python語(yǔ)言實(shí)現(xiàn)。
超參數(shù)的設(shè)置對(duì)于LSTM網(wǎng)絡(luò)和LightGBM模型的收斂速度及預(yù)測(cè)效果有著重要的影響,本實(shí)驗(yàn)采用文獻(xiàn)[14]所提出的超參數(shù)搜索方法,設(shè)置的參數(shù)如表1所示。
表1 Group-BiLSTM和LightGBM的參數(shù)設(shè)置
為了驗(yàn)證本文所提模型的性能,選取平均絕對(duì)百分比誤差EMAPE和均方根誤差ERMSE作為實(shí)驗(yàn)的評(píng)價(jià)指標(biāo),計(jì)算公式分別為:
(27)
(28)
式中,yt為t時(shí)刻物料需求量的真實(shí)值;Ntest為測(cè)試集的樣本數(shù)。
分別采用不同組合模型對(duì)現(xiàn)場(chǎng)采集的實(shí)時(shí)數(shù)據(jù)進(jìn)行物料需求預(yù)測(cè),實(shí)驗(yàn)結(jié)果如表2所示。
表2 不同模型的結(jié)果比較
表中一天對(duì)應(yīng)的值是指測(cè)試集中2020年11月1日~2020年11月30日中模型評(píng)價(jià)指標(biāo)的平均值,同理,半小時(shí)對(duì)應(yīng)的值是指測(cè)試集中2020年11月1日~2020年11月30日中每半個(gè)小時(shí)模型評(píng)價(jià)指標(biāo)的平均值。由表2可知, Group-BiLSTM-LightGBM在EMAPE的評(píng)價(jià)指標(biāo)下的按照半小時(shí)和一天的時(shí)間間隔預(yù)測(cè)性能最優(yōu),分別達(dá)到了0.203和0.047。在ERMSE的評(píng)價(jià)指標(biāo)下按照半小時(shí)和一天的時(shí)間間隔預(yù)測(cè)性能也最優(yōu),分別達(dá)到了17.26和259.938。
對(duì)比不同模型對(duì)2020年11月2日工作時(shí)間每半小時(shí)的物料需求量預(yù)測(cè)值,結(jié)果如圖4所示。
圖4 單一和組合模型的預(yù)測(cè)對(duì)比
由圖4可知,通過(guò)不同模型的對(duì)比,Group-BiLSTM-LightGBM預(yù)測(cè)效果總體最優(yōu),LightGBM和Group-BiLSTM預(yù)測(cè)效果較優(yōu),BiLSTM預(yù)測(cè)效果總體上最差。對(duì)實(shí)際值發(fā)生突變的點(diǎn)(如12點(diǎn)),Group-BiLSTM-LightGBM集成模型仍具有較高的精確度,說(shuō)明本文所提Group-BiLSTM-LightGBM集成模型具有物料需求量預(yù)測(cè)精度高和魯棒性強(qiáng)的優(yōu)勢(shì)。
對(duì)比不同組合模型對(duì)2020年11月2日工作時(shí)間每半小時(shí)的物料需求量預(yù)測(cè)值,結(jié)果如圖5所示。
圖5 不同組合模型的預(yù)測(cè)對(duì)比
由圖5可知,在不同組合模型的對(duì)比中,Group-BiLSTM模型的誤差最大,在實(shí)際值發(fā)生突變的點(diǎn)(如12點(diǎn))ARIMA-LightGBM和Group-BiLSTM-ARIMA組合模型的預(yù)測(cè)效果相對(duì)單個(gè)模型較好,Group-BiLSTM-LightGBM的預(yù)測(cè)效果總體均保持在較高的水平,且誤差變化更加平穩(wěn),能夠更好的地預(yù)測(cè)出車(chē)間物料需求量的變化趨勢(shì)。
本文研究了基于Group-BiLSTM-LightGBM的物料配送需求量預(yù)測(cè)方法,主要貢獻(xiàn)如下:①提出了一種改進(jìn)的Group-BiLSTM網(wǎng)絡(luò)架構(gòu)。②提出一種將Group-BiLSTM和LightGBM集成的物料配送需求量預(yù)測(cè)方法,并采用Optuna進(jìn)行超參數(shù)優(yōu)化,使得模型能夠獲得精確的預(yù)測(cè)值。③實(shí)驗(yàn)驗(yàn)證表明,本文所提方法能夠滿(mǎn)足物料配送需求量預(yù)測(cè)要求,具有良好的性能,較為明顯提升車(chē)間物料配送量需求量預(yù)測(cè)能力。
綜合考慮本文的研究?jī)?nèi)容和領(lǐng)域的發(fā)展,在后續(xù)研究中,可以考慮增加更多的關(guān)聯(lián)特征,如增加工序、故障等其它特征,并對(duì)各個(gè)特征進(jìn)行特征選擇,得出最佳特征集。此外,可以考慮車(chē)間的突發(fā)狀況數(shù)據(jù),進(jìn)一步提高模型的魯棒性,以期提升物料配送水平。