姜秋龍,徐曉鐘

(上海師范大學(xué) 信息與機(jī)電工程學(xué)院,上海 201400)

目前,隨著工業(yè)化進(jìn)程的加快、技術(shù)的發(fā)展、人民生活水平的提高、人口的快速增長等因素,能源消耗特別是石油和煤炭的消耗量不斷增加,同時(shí),石油和煤炭燃料排放出大量的溫室氣體,這將加速全球氣候變化,例如全球變暖,海平面上升和各種次生災(zāi)害頻繁發(fā)生[1].因此,天然氣作為一種相對清潔的能源,已經(jīng)引起了各國政府的重視,并成為世界各國政府主要需求能源之一.另一方面,天然氣需求量的模糊性增加了能源分配的復(fù)雜性,并且天然氣供應(yīng)不足會給經(jīng)濟(jì)和社會帶來危害.此外,在天然氣購買方面,天然氣購買合同屬于嚴(yán)格的收付合同類型,這意味著當(dāng)人們違反合同規(guī)定時(shí),存在更大的賠償風(fēng)險(xiǎn)[2].在上述情況下,合理預(yù)測天然氣負(fù)荷對解決這些問題具有重要意義.

在天然氣負(fù)荷預(yù)測領(lǐng)域,已經(jīng)有許多不同的方法用于預(yù)測天然氣負(fù)荷.Soldo[3]和Tamba[4]對相關(guān)工作進(jìn)行了詳細(xì)總結(jié),并根據(jù)預(yù)測范圍、模型類型、地理區(qū)域和其他條件進(jìn)行了排序總結(jié).天然氣負(fù)荷預(yù)測的模型研究主要包含3 類:(1)基于統(tǒng)計(jì)方法的模型:線性回歸方法[5]、自回歸綜合移動平均(ARIMA)[2]、帶外生變量的函數(shù)自回歸模型(FARX)[6]、二次多元自適應(yīng)回歸樣條(CMARS)[7];(2)基本機(jī)器學(xué)習(xí)方法:極限學(xué)習(xí)機(jī)[8]、支持向量回歸[9]、BP 神經(jīng)網(wǎng)絡(luò)[10];(3)深度學(xué)習(xí)方法:深度受限Boltzmann 機(jī)器(DRBM)[11].

上述一系列適合短期燃?xì)庳?fù)荷預(yù)測的模型是從線性模型到包含機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的非線性模型這個(gè)方向發(fā)展的.后者在過去幾十年中得到了廣泛的應(yīng)用,因?yàn)樗鼈兡軌蛲昝赖姆夯斎?輸出的關(guān)系.Jolanta Szoplik[12]提出了用多層感知器(MLP)來預(yù)測燃?xì)?它是以日歷和天氣因素作為輸入變量來預(yù)測波蘭城市的燃?xì)庳?fù)荷.最后用得到的最優(yōu)結(jié)構(gòu)MLP 對燃?xì)庀牧窟M(jìn)行預(yù)測,結(jié)果顯示預(yù)測準(zhǔn)確率優(yōu)于普通線性模型.自人工神經(jīng)網(wǎng)絡(luò)在能源負(fù)荷預(yù)測建模中的成功應(yīng)用以來,許多研究者探索了深度學(xué)習(xí)在燃?xì)庳?fù)荷領(lǐng)域的應(yīng)用.最近的研究主要集中在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和長短期記憶(LSTM)網(wǎng)絡(luò)上.Wei 等[13]建立了一個(gè)具有不同預(yù)處理方法的LSTM 模型,對我國不同地區(qū)的天然氣日負(fù)荷進(jìn)行了預(yù)測.Hribar 等[14]用GRU 方法對單個(gè)居民家庭短期負(fù)荷數(shù)據(jù)進(jìn)行了建模.上述兩個(gè)模型的預(yù)測準(zhǔn)確率相比于普通神經(jīng)網(wǎng)絡(luò)更好.

此外,還有大量的混合預(yù)測方法來建模燃?xì)鈹?shù)據(jù),并通過與單一模型方法相比獲得高精度的預(yù)測結(jié)果,實(shí)際證明了其有效性[15].特別是基于集群智能算法和單模型的組合方法,在解決復(fù)雜非線性預(yù)測控制問題上表現(xiàn)出了較好的可靠性[16].Karadede 等[17]利用一種特殊的實(shí)值遺傳算法BGA (Breeder Genetic Algorithm)優(yōu)化NGD-NLR 回歸方程的系數(shù),然后采用模擬退火算法對前面整個(gè)系統(tǒng)進(jìn)行優(yōu)化.Wei 等[18]提出了一種新的遺傳算法,即生命遺傳算法(LGA),用于短期負(fù)荷預(yù)測中支持向量回歸(SVR)參數(shù)的優(yōu)化,在LGA得到SVR的最佳參數(shù)之后,將其應(yīng)用于我國燃?xì)庳?fù)荷預(yù)測.余等[19]還提出了一種基于混沌遺傳算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)的組合模型,其中混沌遺傳算法優(yōu)化了小波神經(jīng)網(wǎng)絡(luò)的參數(shù).其結(jié)果比傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型具有更強(qiáng)的魯棒性和更好的性能.因此我們可以初步推斷,混合預(yù)測技術(shù),特別是集群智能算法的集成是燃?xì)庳?fù)荷預(yù)測領(lǐng)域的一個(gè)潛在的研究方向.

另外,還有一部分涉及到其他領(lǐng)域的殘差修正方法,這意味著在預(yù)測研究中有兩個(gè)階段,分別有一個(gè)主模型和一個(gè)次模型[20].具體地說,先用主模型預(yù)測初步值,然后用主模型生成的殘差序列作為輸入因子,用次模型即殘差修正模型預(yù)測殘差值.最后,混合模型的預(yù)測值是由殘差值增強(qiáng)的修正值.其中,還有一部分研究在第二階段增加了分解過程.它們使用不同的分解方法來分解殘差序列,如帶自適應(yīng)噪聲的集成經(jīng)驗(yàn)?zāi)Ｊ椒纸?ICEEMDAN)[21]、經(jīng)驗(yàn)?zāi)Ｊ椒纸?EMD)[22]、經(jīng)驗(yàn)小波變換(EWT)[23].Niu 等[24]建立了基于BP 神經(jīng)網(wǎng)絡(luò)和灰色馬爾可夫模型的混合負(fù)荷預(yù)測模型.其中采用灰色算法對殘差修正馬爾可夫模型進(jìn)行了優(yōu)化.結(jié)果表明,殘差修正法可以大大提高能量場的預(yù)測精度.Wang 等[25]提出了殘差修正模型,以提高季節(jié)ARIMA預(yù)測電力需求的精度.殘差修正模型由粒子群優(yōu)化(PSO)Fourier 方法和季節(jié)ARIMA 模型組成,與其它殘差修正模型和單一季節(jié)ARIMA 模型相比,具有更好的效果.通過以上殘差修正模型在其他領(lǐng)域的成功應(yīng)用,我們可以得出一個(gè)共同點(diǎn):這些殘差校正模型的主模型或次模型都是普通模型,并通過單一的優(yōu)化算法加以優(yōu)化,只有殘差序列作為輸入因子.與上述殘差修正模型相比,本文提出了一種新的殘差修正混合模型LSTM-BPNN 并應(yīng)用燃?xì)庳?fù)荷預(yù)測領(lǐng)域,并通過FCGA和Adam 兩種優(yōu)化算法對殘差修正模型進(jìn)行了優(yōu)化.另外,引入了兩個(gè)新的殘差因子作為BPNN 神經(jīng)網(wǎng)絡(luò)的輸入變量.實(shí)驗(yàn)結(jié)果顯示本模型有著更好預(yù)測結(jié)果.

1 LSTM-BPNN 殘差修正模型

域的可行性.假設(shè)時(shí)間步t處的實(shí)際和預(yù)測天然氣負(fù)荷分別為Gact(t)和Gpre(t).實(shí)際殘差Ract(t)可以表示為正或負(fù):

LSTM-BPNN 殘差校正模型是一種基于殘差分析的混合模型.首先研究了殘差分析在燃?xì)庳?fù)荷預(yù)測領(lǐng)

顯然,如果實(shí)際殘差Ract(t)已知,則t時(shí)的最終預(yù)測結(jié)果Gact(t)可以寫成:

Ract(t)可以寫成:

其中,x1,x2是殘差的影響因子.我們不能預(yù)先知道真實(shí)殘差值Ract(t),也不能通過式(3)得到真實(shí)殘值Ract(t),但是我們可以使用實(shí)際殘值的近似值,預(yù)測殘值Rpre(t).Ract(t)可以寫成:

因此式(2)可以重寫為:

顯然,如果預(yù)測的殘差Rpre(t)是已知的.只要預(yù)測殘值更接近實(shí)際殘值,整個(gè)殘差預(yù)測模型的精度就會更高.

本文中的LSTM-BPNN 殘差修正模型有主模型和次模型組成.LSTM-BPNN的主模型是長短期記憶網(wǎng)絡(luò)(LSTM),它屬于一組強(qiáng)大的連接主義模型,是前饋神經(jīng)網(wǎng)絡(luò)的超集[26].LSTM的主要特點(diǎn)是記憶上一個(gè)時(shí)間步長的處理狀態(tài),并利用該狀態(tài)影響下一個(gè)時(shí)間步長的輸出,使LSTM 能夠?qū)W習(xí)天然氣負(fù)荷序列中的長期時(shí)間步內(nèi)容.

LSTM-BPNN的次模型是BP 神經(jīng)網(wǎng)絡(luò).結(jié)構(gòu)合理的BP 神經(jīng)網(wǎng)絡(luò)在理論上可以逼近任何非線性連續(xù)函數(shù).BPNN的這一特性非常適合于復(fù)雜殘差序列的預(yù)測.

圖1中LSTM-BPNN 殘差修正模型的處理流程如下:

(1)利用6個(gè)輸入因子建立了LSTM 預(yù)測模型.將經(jīng)過良好訓(xùn)練的LSTM 預(yù)測模型應(yīng)用于實(shí)際的燃?xì)庳?fù)荷預(yù)測Gpre(t)中,同時(shí)利用(1)得到不同時(shí)刻的LSTM預(yù)測殘差值,形成歷史殘差稱為殘差數(shù)據(jù)集.

(2)利用歷史殘差和其他兩個(gè)輸入變量建立了BPNN殘差預(yù)測模型.將經(jīng)過良好訓(xùn)練的BPNN 殘差預(yù)測模型應(yīng)用到預(yù)測Rpre(t).

(3)最后通過BPNN 殘差模型的Rpre(t)和LSTM模型的Gpre(t)得到Gact(t).

圖1 LSTM-BPNN 殘差修正模型

2 基于模糊編碼遺傳算法和Adam 算法的LSTM-BPNN 殘差修正模型

為了提高LSTM-BPNN 殘差修正模型的預(yù)測精度,進(jìn)一步采用了兩種優(yōu)化算法,即模糊編碼遺傳算法(FCGA)和Adam 算法,形成LSTM-FCGA-BPNN (Adam)混合預(yù)測模型.

2.1 LSTM-FCGA-BPNN (Adam)模型中的Adam 算法

Adam 算法在本模型中主要是替換掉傳統(tǒng)的梯度下降方法來當(dāng)做模型的學(xué)習(xí)算法.Adam 算法是一種自適應(yīng)學(xué)習(xí)速率算法.它易于實(shí)現(xiàn),計(jì)算效率高,適用于不穩(wěn)定序列.采用Adam 算法自動調(diào)整LSTM-BPNN殘差修正方法的學(xué)習(xí)速率.該算法的主要更新公式[27]如下:

其中,t為時(shí)間步,f(θ)為參數(shù)為θ的隨機(jī)目標(biāo)函數(shù).gt是隨機(jī)目標(biāo)函數(shù)在時(shí)間步t上的梯度.

其中,β1是矩估計(jì)的指數(shù)衰減率.mt是有偏的一階矩估計(jì).

其中,β2是矩估計(jì)的指數(shù)衰減率.vt是有偏的第二原始矩估計(jì).

其中,Mt是經(jīng)偏差校正的第一矩估計(jì)值.

其中,Vt偏差修正了第二原始矩估計(jì).

以上公式是Adam 算法的主要組成部分.詳見文獻(xiàn)[27].

2.2 LSTM-FCGA-BPNN (Adam)模型中的模糊編碼遺傳算法

模糊邏輯和進(jìn)化算法的集成方法有很多種.模糊編碼遺傳算法(FCGA)屬于一種使用模糊工具和基于模糊邏輯的技術(shù)來建模不同進(jìn)化算法組件的方法[28].Voigt[29]提出模糊編碼遺傳算法與遺傳算法(GA)相似,只是FCGA 考慮了個(gè)體從基因型到表現(xiàn)型的個(gè)體發(fā)展水平.將個(gè)體發(fā)展過程建模為模糊決策過程.每個(gè)基因值代表一個(gè)決策變量,其值的范圍在0 到1 之間.然后,利用FCGA 確定BP 神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值.該流程由3 部分組成:

(1)確定BPNN的結(jié)構(gòu).根據(jù)短期負(fù)荷預(yù)測的影響因素、輸出參數(shù),分別確定輸入節(jié)點(diǎn)數(shù)、輸出神經(jīng)元數(shù).此外,通過不同的實(shí)驗(yàn)確定了隱藏節(jié)點(diǎn)的最佳數(shù)目.

(2)利用FCGA 優(yōu)化BPNN 權(quán)值和閾值.一是隨機(jī)產(chǎn)生種群.每個(gè)種群的個(gè)體代表網(wǎng)絡(luò)權(quán)值和閾值.其次,通過適應(yīng)度函數(shù)計(jì)算適應(yīng)度值.最后,通過遺傳操作獲得最好的個(gè)體.

(3)采用改進(jìn)的BP 神經(jīng)網(wǎng)絡(luò)預(yù)測殘差值.首先,用最好的個(gè)體初始化.優(yōu)化后的BPNN 神經(jīng)網(wǎng)絡(luò)可以得到準(zhǔn)確的殘差預(yù)測,并在燃?xì)庳?fù)荷預(yù)測修正中對LSTM初步值進(jìn)行修正.

FCGA 優(yōu)化BP 神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值具體實(shí)現(xiàn)如下:

(1)確定編碼長度的權(quán)值和閾值進(jìn)行編碼.上述參數(shù)的編碼長度可由S=(S1+S2)?R計(jì)算(假設(shè)R是權(quán)重變量或閾值變量的

在模糊遺傳算法中,采用模糊編碼對BP 神經(jīng)網(wǎng)絡(luò)長度,S1、S2是權(quán)重、閾值的個(gè)數(shù)).本文用的BP 神經(jīng)網(wǎng)絡(luò)總共有88個(gè)權(quán)重和17個(gè)閾值,總計(jì)105個(gè)變量,每個(gè)變量的編碼長度為16 位,例如一個(gè)變量的16 編碼為[0.749 080 193 511 837,0.054 426 839 836 673 07,0.723 841 737 254 684 7,0.527 369 964 823 429 1,0.433 846 416 668 383 97,0.535 529 030 417 676 7,0.399 785 290 760 628 63,0.096 465 691 269 415 18,0.113 464 102 724 471 6,0.320 054 583 692 175 43,0.517 091 079 786 878 6,0.053 649 863 057 794 18,0.112 289 468 021 933 74,0.602 713 827 670 844 7,0.713 384 462 695 221 4,0.518 408 912 550 169 9]和原先遺傳算法的不同點(diǎn)在于這里的每個(gè)值是介于[0,1]之間的數(shù)值,而不是固定的1 或0;這種模糊值很好表示了復(fù)雜的個(gè)體發(fā)展水平,同時(shí)為尋求解的過程提供了魯棒性,因此會導(dǎo)致模糊遺傳算法的優(yōu)化性能更好.

(2)初始種群與適應(yīng)度函數(shù)

隨機(jī)產(chǎn)生一個(gè)個(gè)體X1=[x11,x12,···],每個(gè)元素的范圍是[0,1].在適應(yīng)度函數(shù)方面,基于神經(jīng)網(wǎng)絡(luò)輸出節(jié)點(diǎn)的誤差函數(shù)L,模糊遺傳算法的總體目標(biāo)是求L的最小值,因此個(gè)體適應(yīng)度函數(shù)FT是:

其中,N是樣本總數(shù).

(3)選擇

選擇操作的目的是將根據(jù)選擇率選擇的個(gè)體替換為每一代種群中的最佳個(gè)體.首先,根據(jù)選擇率的值隨機(jī)生成替換機(jī)會.當(dāng)一個(gè)個(gè)體被選中時(shí),用最好的個(gè)體來代替這個(gè)個(gè)體.它模擬了最佳個(gè)體生存概率較大的生命活動.

(4)交叉

交叉運(yùn)算可以用模糊集的并和交算子來完成.首先,在每一代群體中隨機(jī)選取兩個(gè)個(gè)體進(jìn)行模糊交叉.然后從雙親中產(chǎn)生兩個(gè)基因序列.一是最大基因序列.另一個(gè)是最小基因序列.因此,子基因?qū)⑹褂脩?yīng)用于所有模糊最小和最大序列范圍的均勻概率分布隨機(jī)定義.孩子出生后,原來的父母就被替換了.這一過程產(chǎn)生了后代和其他父母代的混合種群.

(5)突變

基于以下等式,突變操作替換個(gè)體的基因,這非常不同于基因的簡單0,1 逆轉(zhuǎn)[29].

其中,Pmutation是均勻突變概率.n是基因總數(shù),i是單個(gè)基因在染色體上的位置.

2.3 LSTM-FCGA-BPNN (Adam)燃?xì)庳?fù)荷預(yù)測模型流程

如前所述,LSTM-FCGA-BPNN (Adam)組合模型流程如圖2所示.

圖2 LSTM-FCGA-BPNN (Adam)殘差修正模型

3 結(jié)果和討論

本節(jié)通過歷史天然氣負(fù)荷數(shù)據(jù)驗(yàn)證了LSTM-FCGABPNN(Adam)模型的優(yōu)越性和穩(wěn)健性.也對LSTMFCGA-BPNN(Adam)模型和其他模型(LSTM、LSTMBPNN(Adam)、LSTM-GA-BPNN(Adam))進(jìn)行了性能比較.所有模型都由Python、TensorFlow和Spyder 實(shí)現(xiàn).模型的主要最佳參數(shù)是通過驗(yàn)證集上不斷試驗(yàn)和參考相關(guān)文獻(xiàn)確定的,如表1所示.

除了表1所示參數(shù)外,還有網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)如LSTM為3 層,每層5個(gè)cell,BPNN為2 層,每層8個(gè)隱含節(jié)點(diǎn).這些網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)的選擇在考慮模型收斂速度,在驗(yàn)證集上的擬合效果和參考相關(guān)燃?xì)庳?fù)荷文獻(xiàn)確定的.這些參數(shù)的確定保證了網(wǎng)絡(luò)結(jié)構(gòu)的易用性和魯棒性.兩個(gè)遺傳算法的交叉概率和變異概率參數(shù)的選擇參考了原始文獻(xiàn)超參數(shù)的設(shè)置建議,以及在驗(yàn)證集上設(shè)置的.交叉概率大一些可以提高種群的多樣性,以及增加在局部解空間的探索強(qiáng)度.在生物界,變異概率也是非常稀有的,因此把變異概率設(shè)置的小一些,防止跳出整個(gè)解空間,利于進(jìn)入附近的局部解空間.

表1 模型的初始參數(shù)

3.1 數(shù)據(jù)集和輸入變量選擇

數(shù)據(jù)集分為訓(xùn)練集和測試集,訓(xùn)練集:2005.11.15～2013.11.15,共2923個(gè)數(shù)據(jù)集.測試集:2013.11.16～2014.5.28,共194個(gè)數(shù)據(jù).其中訓(xùn)練集中選擇一部分?jǐn)?shù)據(jù)當(dāng)做驗(yàn)證集來選擇超參數(shù).數(shù)據(jù)預(yù)處理簡單地消除了一些異常值.我們選擇以下8個(gè)因素作為LSTMFCGA-BPNN (Adam)的輸入,包括前一天的燃?xì)庀牧?、平均溫度、周、月、日、預(yù)測日的天氣條件,溫差(當(dāng)日氣溫與前一日氣溫之差)、預(yù)測燃?xì)庳?fù)荷之差(前一日用氣負(fù)荷與當(dāng)日預(yù)測用氣負(fù)荷之差).模型的輸出是預(yù)測結(jié)果.其中,溫差和預(yù)測燃?xì)庳?fù)荷差是BPNN模型的輸入變量.

3.2 評價(jià)指標(biāo)

為了量化模型的性能,引入了3個(gè)指標(biāo):平均絕對誤差(MAE)、平均絕對百分比誤差(MAPE)、均方根誤差(RMSE),這些指標(biāo)可以定義如下:

其中,N是時(shí)間序列的長度;y是實(shí)際數(shù)據(jù);p是預(yù)測值.

3.3 預(yù)測結(jié)果討論

表2顯示了各個(gè)模型在數(shù)據(jù)集上的平均預(yù)測誤差.每個(gè)模型的預(yù)測重復(fù)50 次,以獲得平均預(yù)測誤差.所有模型的MAPE都低于10%,根據(jù)Lewis 基準(zhǔn)[13],這是準(zhǔn)確的且符合要求的(≥50%).這一事實(shí)表明,在燃?xì)庳?fù)荷預(yù)測領(lǐng)域,各種預(yù)測模型都是可行的,上海市的用氣趨勢與其他地區(qū)相比是相對穩(wěn)定的[13],作者認(rèn)為,造成這種現(xiàn)象的主要原因是上海市冬季平均氣溫在1℃左右,也就是說溫差并不大.

表2 各模型實(shí)驗(yàn)結(jié)果

對于單一模型,BPNN的MAPE為8.38%,LSTM模型的MAPE為7.16%.兩種模型的MAPE值相差0.012.這一事實(shí)支持LSTM 模型在具有相同的輸入變量下可以獲得相比于普通機(jī)器學(xué)習(xí)的模型(BPNN)好的性能.在燃?xì)庳?fù)荷預(yù)測中,LSTM 方法是一種較好的方法.

與BPNN和LSTM 模型相比,LSTM-BPNN和LSTM-BPNN(Adam)的MAPE均保持較低值.上述兩種殘差模型的優(yōu)勢百分比至少為1.1%.這一結(jié)果的主要原因是增加了殘差分析.結(jié)果表明,殘差分析是一種能顯著提高燃?xì)庳?fù)荷預(yù)測精度的方法,殘差具有重要的信息價(jià)值,值得認(rèn)真研究.上述兩個(gè)新變量(溫差和預(yù)測氣差)在殘差模型的成功應(yīng)用也表明,影響殘差序列的不僅僅是前幾天的殘差序列.這一結(jié)果也證實(shí)了殘差分析在其他領(lǐng)域的成功應(yīng)用.LSTM-BPNN(Adam)模型的MAPE略高于LSTM-BPNN 模型,約高0.1%,說明Adam 算法對提高LSTM-BPNN 模型的精度起著關(guān)鍵作用.研究結(jié)果還表明,采用優(yōu)化算法解決殘差模型固有的缺點(diǎn),可以進(jìn)一步提高燃?xì)庳?fù)荷預(yù)測精度,有利于燃?xì)庳?fù)荷管理.因此,現(xiàn)階段LSTM-BPNN(Adam)作為天然氣日負(fù)荷預(yù)測的核心模型.

將遺傳相似算法與LSTM-BPNN (Adam)相結(jié)合是必要的,因?yàn)樵诖蠖鄶?shù)情況下,遺傳算法和FCGA 都能減小燃?xì)庳?fù)荷預(yù)測模型的預(yù)測誤差,LSTM-GA-BPNN(Adam)和LSTM-FCGA-BPNN (Adam)的MAPE分別為6.02%、5.91%,高于前4 種模型,特別是高于前4種模型相同類型的殘差模型(LSTM-BPNN,LSTMBPNN (Adam)),平均也至少高出0.3%.這種優(yōu)勢是由于GA-相似算法為LSTM-BPNN (Adam)模型找到了很好的初始解空間.結(jié)果表明,進(jìn)一步優(yōu)化殘差模型可以大大提高燃?xì)庳?fù)荷預(yù)測的精度.這也表明了上述混合模式在剩余分析領(lǐng)域的優(yōu)越性.在第3 組中,LSTMFCGA-BPNN (Adam)模型的MAPE比LSTM-GABPNN (Adam)模型的MAPE高約1%.LSTM-FCGABPNN (Adam)模型之所以稍有優(yōu)勢,是因?yàn)镕CGA 考慮了個(gè)體從基因水平到成熟表型水平的發(fā)展.這一事實(shí)證明,FCGA是一種更穩(wěn)健、更可靠的天然氣日負(fù)荷預(yù)測算法,LSTM-FCGA-BPNN (Adam)模型在這種情況下具有良好的魯棒性,可以作為天然氣日負(fù)荷預(yù)測的模型.

在收斂速度方面,由于FCGA 確定BP 神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值,避免了BP 神經(jīng)網(wǎng)絡(luò)陷入局部極小值,采用Adam 算法自動調(diào)整學(xué)習(xí)速率,提高了LSTMBPNN 殘差修正模型的性能,所以在實(shí)驗(yàn)組中LSTMFCGA-BPNN (Adam)模型在解空間尋找最優(yōu)解時(shí)相比于LSTM-GA-BPNN (Adam),LSTM–BPNN,LSTMBPNN (Adam)收斂更快.

為了更好地觀察本模型的性能,預(yù)測結(jié)果與實(shí)際燃?xì)庳?fù)荷數(shù)據(jù)的圖形比較如圖3所示.這個(gè)圖形非常生動地顯示了上述結(jié)果.這些數(shù)據(jù)還表明,LSTM-FCGABPNN (Adam)模型能夠做出準(zhǔn)確的預(yù)測,并具有更強(qiáng)大的獲取天然氣負(fù)荷數(shù)據(jù)背后特征的能力.

圖3 本模型與實(shí)際燃?xì)鈱Ρ?/p>

4 結(jié)論

本文旨在介紹一種新穎的、預(yù)測準(zhǔn)確率更高的天然氣負(fù)荷日預(yù)測方法.該方法是基于LSTM-BPNN 殘差修正和新輸入殘差影響因素的混合模型、模糊編碼遺傳算法(FCGA)和Adam 算法.以LSTM-BPNN 殘差修正模型為基本模型,對次日燃?xì)庳?fù)荷進(jìn)行預(yù)測,為了提高預(yù)測性能,首先利用Adam 算法對LSTM-BPNN殘差校正模型的結(jié)構(gòu)進(jìn)行了優(yōu)化.其次利用FCGA 對LSTM-BPNN (Adam)模型進(jìn)行優(yōu)化.采用FCGA 確定BP 神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值,避免了BP 神經(jīng)網(wǎng)絡(luò)陷入局部極小值,采用Adam 算法自動調(diào)整學(xué)習(xí)速率,提高了LSTM-BPNN 殘差修正模型的性能

比較了LSTM-FCGA-BPNN (Adam)與LSTM、LSTM-BPNN、LSTM-BPNN (Adam)、LSTM-GABPNN (Adam)的預(yù)測性能.根據(jù)預(yù)測結(jié)果,本文提出的LSTM-FCGA-BPNN (Adam)模型在天然氣日負(fù)荷預(yù)測中具有良好的穩(wěn)健性,可以作為一種可靠的預(yù)測模型來提供天然氣日耗量的準(zhǔn)確預(yù)測.此外本文通過日預(yù)測的模式預(yù)測了194 天的時(shí)間序列長度,顯示出比較好的結(jié)果.這6個(gè)多月的預(yù)測長度包含了季節(jié)的變更,非常有利于抓住燃?xì)庳?fù)荷的主要特征.本文用的時(shí)間長度可以滿足上海實(shí)際燃?xì)忸A(yù)測范圍,可以讓燃?xì)夤咎崆肮夂蜏p少經(jīng)濟(jì)損失,也證明了本文方法應(yīng)用在較長時(shí)間長度也有比較好的效果.

今后,我們將繼續(xù)研究殘差分析,繼續(xù)探索殘差中的影響因素,進(jìn)一步降低由混合模型引起的計(jì)算效率和混合復(fù)雜度問題.