李文升，孫東磊，鄭志杰，梁 榮，王凇瑤，張智晟

（1.國(guó)網(wǎng)山東省電力公司經(jīng)濟(jì)技術(shù)研究院，濟(jì)南 250021；2.青島大學(xué)電氣工程學(xué)院，青島 266071）

精準(zhǔn)的短期負(fù)荷預(yù)測(cè)是系統(tǒng)安全可靠運(yùn)行的前提和基礎(chǔ)。在構(gòu)建以新能源為主體的新型電力系統(tǒng)進(jìn)程中，系統(tǒng)供給側(cè)和需求側(cè)不確定性因素的來源逐漸多樣化，不確定程度不斷增加，電力負(fù)荷的準(zhǔn)確預(yù)測(cè)可以為系統(tǒng)優(yōu)化調(diào)度、需求側(cè)管理及系統(tǒng)安全穩(wěn)定運(yùn)行提供重要參考和決策依據(jù)，具有重要的現(xiàn)實(shí)意義和經(jīng)濟(jì)價(jià)值[1]。

電力系統(tǒng)短期負(fù)荷預(yù)測(cè)領(lǐng)域已有大量研究成果。近年來，人工智能技術(shù)日漸興起，電力負(fù)荷預(yù)測(cè)的研究成果主要集中在基于機(jī)器學(xué)習(xí)理論的人工智能方法上[2]。深度學(xué)習(xí)理論在電力系統(tǒng)短期負(fù)荷預(yù)測(cè)領(lǐng)域獲得了研究和應(yīng)用[3-4]，其中具有門結(jié)構(gòu)的長(zhǎng)短期記憶LSTM（long short-term memory）神經(jīng)網(wǎng)絡(luò)[5]和門控循環(huán)單元GRU（gated recurrent unit）神經(jīng)網(wǎng)絡(luò)[6]模型在負(fù)荷預(yù)測(cè)中取得了較為滿意的預(yù)測(cè)效果。但上述模型在性能上仍有一定的提升空間，學(xué)者們?cè)诟倪M(jìn)模型結(jié)構(gòu)方面已取得了諸多進(jìn)展。文獻(xiàn)[7]提出了簡(jiǎn)單循環(huán)單元SRU（simple recurrent unit）模型，該模型門結(jié)構(gòu)計(jì)算時(shí)不需要等待前一時(shí)刻隱藏層計(jì)算完全結(jié)束，提高了計(jì)算效率；文獻(xiàn)[8]將LSTM的3個(gè)門結(jié)構(gòu)整合成1個(gè)門結(jié)構(gòu)，減少了模型參數(shù)，提高了計(jì)算速度。上述研究對(duì)模型的改進(jìn)提高了計(jì)算速度，但未考慮深入提取和利用輸入序列中的有效信息，從而提高模型信息處理能力。文獻(xiàn)[9]在LSTM模型中加入循環(huán)跳過層來捕捉電力負(fù)荷序列中的長(zhǎng)期依賴關(guān)系。文獻(xiàn)[10]改進(jìn)了GRU的門結(jié)構(gòu)，提出了多層級(jí)GRU，并采用量子加權(quán)神經(jīng)元QWN（quantum weighted neuron）構(gòu)建其結(jié)構(gòu)，提高了網(wǎng)絡(luò)對(duì)輸入信息的處理能力。文獻(xiàn)[11]在LSTM神經(jīng)網(wǎng)絡(luò)中采用兩級(jí)門結(jié)構(gòu)對(duì)信息進(jìn)行兩次篩選，增強(qiáng)了網(wǎng)絡(luò)的信息處理能力。文獻(xiàn)[12]將高速通道網(wǎng)絡(luò)添加到LSTM 內(nèi)部隱藏層狀態(tài)中，使模型能夠更好地處理輸入序列中的長(zhǎng)期依賴關(guān)系，提高了LSTM 的收斂速度，獲得了較好效果。高速通道網(wǎng)絡(luò)通過門結(jié)構(gòu)來控制網(wǎng)絡(luò)內(nèi)部信息流動(dòng)，可以在不增加網(wǎng)絡(luò)層數(shù)的前提下增加訓(xùn)練深度，提高網(wǎng)絡(luò)的收斂速度[13]。

在負(fù)荷預(yù)測(cè)時(shí)，往往會(huì)通過降維、分解、提取新特征等方法對(duì)選出的特征進(jìn)行處理。文獻(xiàn)[14]利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)輸入數(shù)據(jù)進(jìn)行特征提取，降低了輸入維度。文獻(xiàn)[15]采用變分模態(tài)分解將輸入特征進(jìn)行分解，使輸入模型的各個(gè)分量更加平穩(wěn)，降低預(yù)測(cè)難度。文獻(xiàn)[16]采用LSTM網(wǎng)絡(luò)構(gòu)建自編碼器，提取出高維特征向量作為新的輸入特征，提高了負(fù)荷預(yù)測(cè)精度。

本文在現(xiàn)有研究成果的基礎(chǔ)上，提出一種基于量子加權(quán)降噪自編碼器QWDAE（quantum weighted denoising autoencoder）和高速通道多層級(jí)門控循環(huán)單元HWMHGRU（highway multi-hierarchy gated recurrent unit）神經(jīng)網(wǎng)絡(luò)融合的短期負(fù)荷預(yù)測(cè)模型。該模型首先利用QWDAE 提取負(fù)荷序列中的高維特征向量作為輸入特征；然后利用HWMHGRU 的高速通道結(jié)構(gòu)不改變隱藏層數(shù)目的特點(diǎn)，使得該模型可以增加網(wǎng)絡(luò)的訓(xùn)練深度，提高網(wǎng)絡(luò)的收斂速度和處理時(shí)間序列的能力。仿真結(jié)果表明，基于QWDAE 和HWMHGRU 融合的預(yù)測(cè)模型具有較好的預(yù)測(cè)精度和預(yù)測(cè)穩(wěn)定性。

1 HWMHGRU 模型

HWMHGRU 模型結(jié)構(gòu)如圖1 所示，其中ht-1為前一時(shí)刻隱藏層信息，ht為當(dāng)前時(shí)刻隱藏層信息。

圖1 HWMHGRU 模型結(jié)構(gòu)Fig.1 Structure of HWMHGRU model

HWMHGRU 模型擁有一級(jí)重置門和二級(jí)重置門兩級(jí)重置門，以及一級(jí)更新門和二級(jí)更新門兩級(jí)更新門，兩級(jí)門結(jié)構(gòu)可以對(duì)信息進(jìn)行兩次篩選，增強(qiáng)了網(wǎng)絡(luò)的信息處理能力[11]。兩個(gè)一級(jí)門控進(jìn)行哈達(dá)瑪積運(yùn)算得到ut后，兩級(jí)門構(gòu)成合成重置門rt和合成更新門zt。在計(jì)算得到臨時(shí)隱藏層信息h′t后，信息進(jìn)入高速通道網(wǎng)絡(luò)。在高速通道網(wǎng)絡(luò)中，同樣存在門控結(jié)構(gòu)，分別為轉(zhuǎn)換門gT和進(jìn)位門gC。

HWMHGRU網(wǎng)絡(luò)門結(jié)構(gòu)可以表示為

式中：xt為當(dāng)前時(shí)刻輸入；σ為Sigmoid 函數(shù)；relu為Relu函數(shù)；⊙為兩矩陣的哈達(dá)瑪積；、為的權(quán)值矩陣；、為的權(quán)值矩陣；、為的權(quán)值矩陣；、為的權(quán)值矩陣。

在門結(jié)構(gòu)計(jì)算結(jié)束后，可進(jìn)一步計(jì)算得到候選隱藏層信息和臨時(shí)隱藏層信息，即

式中：W′、U′為隱藏層權(quán)重矩陣；tanh 為雙曲正切函數(shù)。

在計(jì)算得到h′t后，信息進(jìn)入高速通道網(wǎng)絡(luò)，并得到最終的當(dāng)前時(shí)刻隱藏層信息ht。計(jì)算過程可表示為

式中：WT、bT分別為轉(zhuǎn)換門的權(quán)重矩陣和偏置向量；WC、bC分別為進(jìn)位門的權(quán)重矩陣和偏置向量；為中間過渡狀態(tài)；W、b分別為權(quán)重矩陣和偏置向量。為簡(jiǎn)化計(jì)算，可令gC=1-gT[12]。

2 基于QWDAE 和HWMHGRU 融合的電力系統(tǒng)短期負(fù)荷預(yù)測(cè)模型

2.1 量子加權(quán)降噪自編碼器

自動(dòng)編碼器是一種基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法，其將輸入數(shù)據(jù)進(jìn)行編碼，得到輸入數(shù)據(jù)的一種編碼表示，然后將得到的編碼表示進(jìn)行重構(gòu)（即解碼）[17]。降噪自動(dòng)編碼器DAE（denoising autoencoder）是對(duì)典型自動(dòng)編碼器進(jìn)行改進(jìn)，其能夠利用部分損壞的輸入數(shù)據(jù)產(chǎn)生和未損壞的輸入數(shù)據(jù)幾乎相同的輸出[18]。首先DAE 將輸入數(shù)據(jù)進(jìn)行一定概率的置0，然后用輸出和未損壞的輸入數(shù)據(jù)來做誤差計(jì)算和迭代，這樣編碼器就學(xué)習(xí)了未損壞的輸入數(shù)據(jù)中的特征。因?yàn)閷?duì)輸入數(shù)據(jù)進(jìn)行一定比例的隨機(jī)置0，輸入數(shù)據(jù)中噪聲會(huì)有一定程度的降低，同時(shí)對(duì)輸入數(shù)據(jù)的隨機(jī)置0 也縮小了訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)的差異，使模型的泛化能力得到增強(qiáng)。

本文采用QWN 構(gòu)建DAE，即QWDAE，其結(jié)構(gòu)如圖2 所示。QWDAE 的整體結(jié)構(gòu)與DAE 相同，只是在組成時(shí)采用QWN。

圖2 量子加權(quán)降噪自編碼器Fig.2 Quantum weighted denoising autoencoder

QWDAE 作為一種自動(dòng)編碼器模型，在訓(xùn)練優(yōu)化過程中，QWDAE的權(quán)值和活性值都會(huì)參與進(jìn)來，提高了網(wǎng)絡(luò)的信息處理能力，可以有效地實(shí)現(xiàn)輸入數(shù)據(jù)重構(gòu)，并將輸入序列中的潛在信息提取出來。輸入為m維、隱藏層為s維、輸出為m維的QWDAE計(jì)算公式為

式中：W為權(quán)值矩陣；U為隱藏層權(quán)值矩陣；j=1，2，…，s；k=1，2，…，m；x為m維輸入向量；cj為編碼向量c中第j個(gè)元素；yk為輸出向量y中第k個(gè)元 素 ；；αij、θlk分別為的相位；βj、ξk分別為編碼向量c的活性值和y的活性值的相位；L(x,y)為損失函數(shù)。

2.3 QWDAE 和HWMHGRU 融合的預(yù)測(cè)模型

QWDAE 和HWMHGRU 融合的預(yù)測(cè)模型結(jié)構(gòu)如圖3 所示。將待預(yù)測(cè)時(shí)刻t的前3 個(gè)時(shí)刻的歷史負(fù)荷(v1)輸入到QWDAE 模型中，在最小化損失條件下得到的高維編碼向量作為新的輸入特征(v2)和歷史負(fù)荷數(shù)據(jù)(v3)一起輸入到HWMHGRU模型中，以實(shí)現(xiàn)短期負(fù)荷預(yù)測(cè)。

圖3 QWDAE 和HWMHGRU 融合的預(yù)測(cè)模型Fig.3 Forecasting mode based on fusion of QWDAE and HWMHGRU

3 算例分析

3.1 數(shù)據(jù)處理和參數(shù)設(shè)置

使用某地區(qū)歷史負(fù)荷數(shù)據(jù)集，數(shù)據(jù)集包括全年的歷史負(fù)荷、日類型和天氣因素，其中天氣因素包括溫度、太陽(yáng)輻射和濕度。將待預(yù)測(cè)日前22 天的歷史數(shù)據(jù)作為訓(xùn)練集，數(shù)據(jù)在輸入模型前進(jìn)行歸一化處理。輸入特征量如表1所示。

表1 輸入特征量Tab.1 Input features

神經(jīng)網(wǎng)絡(luò)模型隱藏層為1層，HWMHGRU模型隱藏層神經(jīng)元設(shè)置為40，QWDAE 模型隱藏層神經(jīng)元設(shè)置為6；損失函數(shù)為均方差；dropout 值設(shè)置為0.25；優(yōu)化器選擇Adam算法，學(xué)習(xí)率為0.004。模型通過Python3.8和Pytorch平臺(tái)搭建。

3.2 仿真結(jié)果分析

為驗(yàn)證所提QWDAE 和HWMHGRU 融合的預(yù)測(cè)模型的有效性，用本文所提模型對(duì)夏季工作日和休息日的負(fù)荷進(jìn)行預(yù)測(cè)，將該模型記為QWDAEHWMHGRU 模型，并選取不含高速通道結(jié)構(gòu)的QWDAE-MHGRU模型、不含QWDAE模塊的HWMHGRU 模型、不含QWDAE 模塊和高速通道結(jié)構(gòu)的MHGRU 模型進(jìn)行對(duì)比分析。圖4 和圖5 分別為夏季工作日和休息日的預(yù)測(cè)曲線。

圖4 夏季工作日預(yù)測(cè)曲線Fig.4 Prediction curves on workday in summer

圖5 夏季休息日預(yù)測(cè)曲線Fig.5 Prediction curves on rest day in summer

從圖4 和圖5 可以看出，QWDAE-HWMHGRU模型在夏季工作日和休息日的負(fù)荷預(yù)測(cè)曲線與真實(shí)值曲線的擬合程度好于其他3種預(yù)測(cè)模型。

為更直觀地驗(yàn)證模型的預(yù)測(cè)效果，表2 給出了夏季工作日和休息日的負(fù)荷預(yù)測(cè)效果，并增加了常用的GRU模型作對(duì)比。

表2 夏季預(yù)測(cè)效果對(duì)比Tab.2 Comparison of prediction effect in summer

以平均絕對(duì)百分比誤差MAPE（mean absolute percentage error）和均方根誤差RMSE（root mean square error）作為評(píng)價(jià)指標(biāo)，其計(jì)算公式分別為

式中：k=1，2，…，24；Zk為預(yù)測(cè)點(diǎn)k的真實(shí)負(fù)荷值；zk為預(yù)測(cè)點(diǎn)k的預(yù)測(cè)負(fù)荷值；n為預(yù)測(cè)點(diǎn)個(gè)數(shù)。

從表2 可以看出，QWDAE-HWMHGRU 模型在夏季的預(yù)測(cè)效果均好于其他模型，其中QWDAEHWMHGRU模型的MAPE在夏季工作日比其他4個(gè)模型分別降低了0.43%、0.32%、0.49%、0.90%，RMSE比其他4 個(gè)模型分別降低了0.09 MW、0.46 MW、0.85 MW、0.68 MW；QWDAE-HWMHGRU 模型的MAPE 在夏季休息日比其他4 個(gè)模型分別降低了0.67%、0.55%、1.09%、1.33%，RMSE 比其他4 個(gè)模型分別降低了0.36 MW、0.23 MW、0.35 MW、0.40 MW。

為了進(jìn)一步分析QWDAE和高速通道網(wǎng)絡(luò)對(duì)負(fù)荷預(yù)測(cè)精度的影響，用上述5種短期負(fù)荷預(yù)測(cè)模型對(duì)冬季工作日和冬季休息日進(jìn)行預(yù)測(cè)，結(jié)果如圖6所示。

圖6 各模型冬季預(yù)測(cè)效果Fig.6 Prediction effect of each model in winter

從圖6可以看出，冬季QWDAE-HWMHGRU 模型的精度高于QWDAE-MHGRU 模型，HWMHGRU模型的精度高于MHGRU 模型，說明高速通道結(jié)構(gòu)有利于提高訓(xùn)練深度，進(jìn)而提高短期負(fù)荷預(yù)測(cè)精度；同時(shí)QWDAE-HWMHGRU 模型的精度高于HWMHGRU 模型，QWDAE-MHGRU 模型的精度好于MHGRU 模型，說明QWDAE 能夠充分提取負(fù)荷數(shù)據(jù)的有效信息，將其提取出的高維特征向量作為輸入能夠提升短期負(fù)荷預(yù)測(cè)精度。

為驗(yàn)證本文所提模型的穩(wěn)定性，將所提模型在夏季進(jìn)行連續(xù)7 天的負(fù)荷預(yù)測(cè)，結(jié)果如表3 所示。可以看出，QWDAE-MHGRU 模型的MAPE 的平均值為2.65%，MAPE 最大值和最小值之差為0.36%，說明所提模型有著良好的短期負(fù)荷預(yù)測(cè)精度和穩(wěn)定性。

表3 夏季連續(xù)7 天預(yù)測(cè)效果Tab.3 Prediction effect on 7 consecutive days in summer

4 結(jié) 論

本文針對(duì)短期電力負(fù)荷預(yù)測(cè)問題提出了一種基于QWDAE 和HWMHGRU 神經(jīng)網(wǎng)絡(luò)融合的短期負(fù)荷預(yù)測(cè)模型。經(jīng)過算例仿真，得出如下結(jié)論。

（1）高速通道網(wǎng)絡(luò)能夠在不增加網(wǎng)絡(luò)層數(shù)的前提下增加訓(xùn)練深度，進(jìn)而提升模型的短期負(fù)荷預(yù)測(cè)精度。

（2）QWDAE 能夠充分提取出歷史負(fù)荷中的有效信息，將其提取出的高維特征向量作為輸入有利于降低模型的短期負(fù)荷預(yù)測(cè)誤差。

在構(gòu)建以新能源為主體的新型電力系統(tǒng)的大背景下，影響系統(tǒng)運(yùn)行方式和負(fù)荷需求的因素必將更加多樣，下一步研究要探尋更好的預(yù)測(cè)方法，對(duì)影響系統(tǒng)運(yùn)行和負(fù)荷需求的各種因素進(jìn)行更深入的分析，以提高短期負(fù)荷預(yù)測(cè)精度。