海文龍, 王亞慧, 王懷秀

(北京建筑大學 電氣與信息工程學院,北京 100044)

0 引 言

安全、穩(wěn)定的燃氣供應對于保證居民正常生產活動極為重要。通過燃氣流量傳感器采集燃氣負荷數(shù)據(jù)，并對其進行深入研究，進而對未來時段燃氣負荷做出預測，可使燃氣供應企業(yè)提前做好供氣預案，以此保障人民正常生活。因此，建立精準的燃氣負荷預測模型至關重要。

近年來，許多學者針對負荷預測做了大量研究。由于負荷預測是時間序列預測問題，故一些學者利用擅長處理時序任務的長短期記憶(long short-term memory,LSTM)神經網絡模型對其進行預測，該模型可較好解決長期依賴問題[1]。胡向陽等人[2]提出基于多變量LSTM的時間序列預測模型，實驗結果表明，該模型性能優(yōu)于ARIMA模型。雖然LSTM模型有良好的時間序列處理效果，但該模型復雜度高，易出現(xiàn)過擬合情況。同時，訓練需要耗費大量時間[3]。門控循環(huán)單元(gated recurrent unit,GRU)的提出是對LSTM模型的改進，GRU模型只有2個門控開關，僅用較少的參數(shù)即可進行有效預測[4]。但傳統(tǒng)GRU模型采用梯度下降法進行參數(shù)尋優(yōu)，不能保證參數(shù)是全局最優(yōu)解[5]。粒子群優(yōu)化(PSO)算法具有設置參數(shù)少、收斂速度快的優(yōu)點，可較好解決模型參數(shù)尋優(yōu)問題[6]。

本文對PSO算法慣性權重做出改進[7]，提出基于改進PSO(improved PSO,IPSO)的GRU的燃氣負荷預測模型。通過IPSO-GRU模型與 LSTM模型、GRU模型的預測結果對比發(fā)現(xiàn)，本文所提模型預測效果較好。

1 研究方法

1.1 IPSO

PSO算法是一種全局優(yōu)化算法，其通過種群中個體共享信息的方式來求得最優(yōu)解[8]。假設粒子i在解空間中進行搜索，其位置表示為xi，其速度表示為vi。粒子在搜尋最優(yōu)解的過程中不斷更新位置與速度，更新公式為

(1)

(2)

w=wmax-(kn/kmax)(wmax-wmin)

(3)

(4)

(5)

為使PSO算法搜索更加精細，本文對更新公式中權重w做出非線性改進。改進式如下

(6)

當?shù)螖?shù)kn較小時，慣性權重w接近權重最大值wmax，此時粒子搜索速度快，可較快定位最優(yōu)解大致范圍。隨kn不斷增大，w在tan函數(shù)作用下，以非線性快速遞減，粒子將在最優(yōu)解附近精細搜索。通過對慣性權重的非線性改進，可有效約束粒子飛行速度，同時增加粒子搜索精細程度。

1.2 GRU神經網絡

GRU單元結構如圖1所示[9]。與LSTM模型不同的是，GRU模型中以更新門zt代替LSTM單元結構中遺忘門與輸入門的作用，減少了參數(shù)量，提高了運算速度。GRU模型計算過程如下

圖1 GRU單元結構

rt=σ(Wr·[ht-1,xt])

(7)

zt=σ(Wz·[ht-1,xt])

(8)

(9)

(10)

式中 ⊙為Hadmard乘積，W為權重。當前時刻狀態(tài)ht，通過與門控單元權重和激活函數(shù)結合最終得到預測值，公式如下

yt=σ(Wo·ht)

(11)

式中yt為預測值，σ為Sigmiod函數(shù)。

1.3 IPSO-GRU神經網絡燃氣負荷預測模型

本文通過改變PSO算法的慣性權重w對其做出改進，并使用改進的PSO算法對GRU神經網絡權值進行求解。將GRU模型中的權重參數(shù)看作IPSO中的粒子，并將模型相對誤差ε設為適應度函數(shù)，在不斷更新粒子位置的過程中，搜尋全局最優(yōu)權重使適應度值達到極小。適應度函數(shù)定義如式(12)

(12)

具體流程如下：1)初始化GRU網絡權重w、預設GRU模型網絡層節(jié)點數(shù)。初始化粒子群，粒子群參數(shù)由GRU門控單元權重組成。設定加速系數(shù)c1,c2、粒子速度范圍vi∈[-Vmax,+Vmax]，給定數(shù)據(jù)樣本集X={x1,…,xj,…,xn}；2)初始化樣本集X中粒子群位置，根據(jù)式(4)計算此時個體級值pi，根據(jù)式(5)計算群體極值pg，根據(jù)式(2)初始化每個粒子的速度；3)根據(jù)式(1)更新粒子位置，更新此時個體適應度值和群體適應度值，記錄此時個體極值pi和全局極值pg；4)根據(jù)適應度函數(shù)式(12)，計算每個粒子的適應度值，更新個體極值pi和全局極值pg，據(jù)式(2)更新粒子群速度；5)判斷此時迭代次數(shù)是否達到kmax或pg小于相對誤差ε。若是，則將最優(yōu)粒子賦值給GRU模型門控單元權重，否則k=k+1，返回步驟(3)；6)經IPSO算法尋到最優(yōu)權重的GRU模型按照式(7)～式(11)進行訓練，輸出燃氣負荷預測值。

2 模型建立與分析

2.1 模型輸入變量選取

通過研究發(fā)現(xiàn)[11]，在所有影響燃氣負荷的因素中，氣象因素對其影響程度最為明顯。其次，影響燃氣負荷的氣象因素主要為溫度與相對濕度，而其他氣象特征如光照強度、風速等對燃氣負荷影響較小。為減少模型輸入復雜度，本文采用皮爾遜相關系數(shù)法分析了氣象數(shù)據(jù)，最終得到對燃氣負荷影響程度較高的氣象因素。

皮爾遜相關系數(shù)計算式如下

(13)

式中E為期望，cov(X,Y)為協(xié)方差，σ為標準差。相關度可通過相關系數(shù)絕對值判斷，其絕對值愈接近1，相關性越強。其中，0.8～1.0極強相關，0.6～0.8強相關，0.4～0.6中等相關，0.2～0.4弱相關，0.0～0.2不相關。由表1及圖2可觀察出，溫度與燃氣負荷呈現(xiàn)極強相關性，相對濕度與燃氣負荷呈強相關性，而光照強度及風速與燃氣負荷的相關性較低。綜上選取溫度與相對濕度結合歷史燃氣負荷共同作為模型的輸入變量，模型輸出為下一時刻燃氣負荷。

表1 相關系數(shù)

圖2 相關系數(shù)熱力圖

2.2 數(shù)據(jù)處理

本文采集了某地區(qū)2018年11月～2019年12月的燃氣負荷與溫濕度數(shù)據(jù)，其部分數(shù)據(jù)如表2，其中，T(k)為溫度、H(k)為相對濕度、L(k)為燃氣負荷值。

表2 部分數(shù)據(jù)信息

對輸入數(shù)據(jù)歸一化，公式如下

θ2=(θ1-θ1min)/(θ1max-θ1min)

(14)

式中θ為T,H,L;θ1為原始數(shù)據(jù)，θ2為歸一化數(shù)據(jù)；θ1min和θ1max為原始數(shù)據(jù)的最小值與最大值。

2.3 實驗環(huán)境及參數(shù)選取

本文實驗編程語言為Python3.7，框架采用TensorFlow1.14.0版本，硬件配置為i5處理器。加速系數(shù)可調整粒子向個體或群體最優(yōu)方向飛行步幅。因此，c1和c2取值不同也關系到模型的預測效果。為選取最優(yōu)加速系數(shù)，本文經多次實驗得到結果如圖3所示。

圖3 不同加速系數(shù)適應度曲線

由圖3可看出，當加速系數(shù)取c1=2.0，c2=1.4時，IPSO模型的適應度函數(shù)收斂最快且適應度值，即ε最小，此時模型效果最佳。對表3中參數(shù)進行多次調整后發(fā)現(xiàn)，當IPSO-GRU模型的參數(shù)設置如表3所示時，模型預測效果最佳。

表3 IPSO-GRU模型參數(shù)

2.4 模型預測效果對比分析

如圖4所示，通過1 000次迭代后IPSO算法僅需較少的迭代次數(shù)即可尋找到最佳適應度值，且相較于PSO算法搜索更加精細。使用IPSO算法后預測模型的目標函數(shù)ε相較于PSO算法更小，證明了IPSO優(yōu)化算法的有效性。

圖4 不同加速系數(shù)適應度曲線

根據(jù)表3設置IPSO-GRU模型參數(shù)，設定訓練目標ε=0.001。LSTM與GRU模型學習率設為0.01，其余參數(shù)與IPSO-GRU模型相同。訓練結束后，使用驗證集進行驗證。

圖5為3種模型對未來48 h燃氣負荷值的預測結果曲線。由圖可知，3種模型均能對燃氣負荷進行有效預測，其中LSTM模型與GRU模型誤差較為接近,但均大于IPSO-GRU網絡模型，IPSO-GRU模型的預測值更加貼近真實值，預測效果最佳。

圖5 不同模型預測結果對比

圖6(a)為3種模型的絕對誤差，可發(fā)現(xiàn)LSTM模型與GRU模型的絕對誤差在40～80 m3/h，較為接近；而IPSO-GRU模型的絕對誤差最小，小于30 m3/h。圖6(b)為3種模型的相對誤差，圖中顯示LSTM網絡模型以及GRU網絡模型平均相對誤差率為2.5 %，而IPSO-GRU模型的相對誤差率在1 %以下，預測誤差最小。

圖6 不同算法誤差對比

2.5 模型性能指標

選取衡量模型性能較為常用的3種指標，分別為均方根誤差(root mean square error,RMSE)、平均百分比誤差(MAPE)、以及決定系數(shù)(R2)[12]。

由表4可知，本文所提的IPSO-GRU模型的RMSE以及MAPE最小，分別為15.11和0.52，模型的決定系數(shù)R2最大，為0.94。

表4 模型誤差指標對比

3 結束語

本文模型采用相較于LSTM模型結構更簡單的GRU模型作為主體預測模型，減少了運算時間。同時，使用IPSO算法對GRU模型的改進，既增加了PSO算法搜索最優(yōu)參數(shù)的精細程度，還解決了傳統(tǒng)GRU模型尋優(yōu)過程中容易陷入局部極小值問題。通過對比實驗可知，IPSO算法優(yōu)化GRU神經網絡的燃氣負荷預測模型平均相對誤差在1 %以內，RMSE以及MAPE最小，模型決定系數(shù)R2最大。滿足燃氣實際工程需要，可為燃氣的調度與分配提供有效參考依據(jù)。