呂忠麟，顧 潔，孟璐

（上海交通大學(xué)電子信息與電氣工程學(xué)院大數(shù)據(jù)工程技術(shù)研究中心，上海市 200240）

0 引言

綜合能源系統(tǒng)（integrated energy system，IES）基于多種能源生產(chǎn)、存儲(chǔ)的裝置及能量調(diào)度管理，能夠?qū)崿F(xiàn)可再生能源的充分消納和多種能源供需間的靈活轉(zhuǎn)換［1］。準(zhǔn)確的負(fù)荷預(yù)測(cè)是IES 安全經(jīng)濟(jì)運(yùn)行與優(yōu)化管理的基礎(chǔ)，考慮到區(qū)域型IES 體量較小、負(fù)荷波動(dòng)性強(qiáng)、對(duì)短期負(fù)荷預(yù)測(cè)精度要求高，在負(fù)荷預(yù)測(cè)中需要更加注重對(duì)數(shù)據(jù)所蘊(yùn)含的不同能源負(fù)荷間關(guān)聯(lián)關(guān)系的充分挖掘和預(yù)測(cè)技術(shù)的提高［2-3］。

近3 年來(lái)，針對(duì)IES 短期負(fù)荷預(yù)測(cè)也有較多的研究成果發(fā)表。文獻(xiàn)［4-6］采用如小波神經(jīng)網(wǎng)絡(luò)、改進(jìn)粒子群以及基于注意力機(jī)制的卷積神經(jīng)網(wǎng)絡(luò)等方法，提高了IES 短期負(fù)荷預(yù)測(cè)的精度和預(yù)測(cè)效率；文獻(xiàn)［7-8］考慮了IES 中不同能源類(lèi)型負(fù)荷間的耦合關(guān)系，采用了灰色關(guān)聯(lián)性分析法及Pearson 相關(guān)系數(shù)，分析了冷熱電負(fù)荷之間的耦合性并據(jù)此構(gòu)建了預(yù)測(cè)模型，進(jìn)而提高了區(qū)域型IES 短期負(fù)荷預(yù)測(cè)的精度。這些研究有些將電負(fù)荷預(yù)測(cè)的思路直接移接在IES 冷熱電負(fù)荷的預(yù)測(cè)中，沒(méi)有考慮各負(fù)荷間的耦合特征；有些研究雖然考慮了對(duì)負(fù)荷間耦合特征的挖掘利用，但僅限于利用相關(guān)性分析篩選耦合性較強(qiáng)的輸入變量，未能實(shí)現(xiàn)對(duì)耦合特征的提取，也并未直接利用耦合特征對(duì)預(yù)測(cè)模型進(jìn)行改進(jìn)。

IES 中由于能源轉(zhuǎn)換設(shè)備的存在，使得不同能源類(lèi)型負(fù)荷間存在耦合關(guān)聯(lián)，因此，負(fù)荷需求的預(yù)測(cè)不應(yīng)是冷、熱、電3 種負(fù)荷預(yù)測(cè)的簡(jiǎn)單疊加，而是需要對(duì)不同負(fù)荷間的耦合關(guān)系進(jìn)行深入剖析，利用負(fù)荷間的耦合性所包含的信息提升模型的預(yù)測(cè)效果。近年來(lái)，越來(lái)越多的學(xué)者開(kāi)始意識(shí)到該問(wèn)題中耦合性研究的重要性。目前，IES 負(fù)荷預(yù)測(cè)研究中對(duì)耦合效應(yīng)的刻畫(huà)方式主要從耦合特征（coupling feature，CF）構(gòu)建和耦合預(yù)測(cè)建模兩方面展開(kāi)。

其中，耦合特征構(gòu)建是指在特征構(gòu)造階段考慮能源耦合性，現(xiàn)有研究多通過(guò)包括卷積神經(jīng)網(wǎng)絡(luò)［9］、長(zhǎng)短期記憶（long short-term memory，LSTM）模型［10］等在內(nèi)的深度學(xué)習(xí)方式端到端自動(dòng)構(gòu)造耦合特征，鮮有從特征工程的角度挖掘負(fù)荷之間的耦合性。然而相較于特征工程，基于深度學(xué)習(xí)的方式所構(gòu)造的耦合特征有著不具備物理可解釋性、與各負(fù)荷間的宏觀聯(lián)系對(duì)應(yīng)不夠清晰的缺點(diǎn)。對(duì)于相互耦合的變量間的特征級(jí)分析，在其他領(lǐng)域已初步開(kāi)展了相關(guān)研究，如文獻(xiàn)［11］分析了人腦的不同區(qū)域在結(jié)構(gòu)和功能上的連通性所造成的神經(jīng)影像數(shù)據(jù)間的相互關(guān)聯(lián)，利用耦合特征挖掘算法對(duì)不同影像數(shù)據(jù)間的耦合性進(jìn)行挖掘，進(jìn)而提高了腦部神經(jīng)影像學(xué)分類(lèi)的準(zhǔn)確率。

另一方面，耦合預(yù)測(cè)建模是指在建立預(yù)測(cè)模型的過(guò)程中考慮不同負(fù)荷需求間的耦合作用。現(xiàn)有研究主要通過(guò)權(quán)值共享實(shí)現(xiàn)，如文獻(xiàn)［12］利用深度置信網(wǎng)絡(luò)的共享機(jī)制細(xì)化特征更好地表現(xiàn)各任務(wù)間的復(fù)雜相關(guān)性，提高了IES 負(fù)荷預(yù)測(cè)的效率和精度。文獻(xiàn)［13-14］通過(guò)多任務(wù)學(xué)習(xí)在預(yù)測(cè)精度、訓(xùn)練時(shí)間等方面獲得了較好的預(yù)測(cè)效果，證明了多任務(wù)學(xué)習(xí)在IES 負(fù)荷預(yù)測(cè)領(lǐng)域的優(yōu)勢(shì)。

本文在對(duì)現(xiàn)有成果進(jìn)行分析的基礎(chǔ)上，提出了一種融合耦合特征挖掘算法和LSTM 多任務(wù)學(xué)習(xí)的區(qū)域型IES 冷熱電負(fù)荷短期預(yù)測(cè)模型。首先，該模型利用耦合特征挖掘算法，將冷熱電負(fù)荷間抽象的耦合關(guān)系初步提煉為結(jié)構(gòu)化數(shù)據(jù)變量；隨后，將耦合特征變量、負(fù)荷歷史數(shù)據(jù)及溫度等作為外生變量輸入基于多任務(wù)學(xué)習(xí)搭建的深度學(xué)習(xí)模型中，通過(guò)任務(wù)信息共享的方式進(jìn)一步提取負(fù)荷序列間的耦合特征；進(jìn)而，實(shí)現(xiàn)對(duì)冷熱電負(fù)荷間耦合關(guān)系的充分挖掘與利用，以此提高了預(yù)測(cè)精度；最后，本文采用美國(guó)亞利桑那州立大學(xué)坦佩校區(qū)IES 的負(fù)荷數(shù)據(jù)［15］進(jìn)行了詳盡的算例分析，并利用SHAP值［16］對(duì)引入耦合特征變量的有效性進(jìn)行了解釋。

1 冷熱電負(fù)荷序列的耦合特征挖掘

1.1 區(qū)域型IES 冷熱電負(fù)荷耦合特征分析

為量化評(píng)估區(qū)域型IES 各負(fù)荷間耦合特征的強(qiáng)弱，并初步體現(xiàn)本文耦合預(yù)測(cè)模型的有效性，本節(jié)采用統(tǒng)計(jì)學(xué)方法計(jì)算區(qū)域型IES 冷熱電負(fù)荷間的同步系數(shù)和互補(bǔ)系數(shù)（具體求解流程見(jiàn)附錄A），定量描述冷熱電負(fù)荷之間的耦合程度。

負(fù)荷同步系數(shù)IT用于描述不同負(fù)荷之間的匹配度關(guān)系，量化評(píng)估負(fù)荷間的同步性。IT越接近于0，表明冷熱電負(fù)荷在所研究的時(shí)間尺度內(nèi)的變化特性越接近，負(fù)荷間的耦合程度越高；反之，IT越大，說(shuō)明負(fù)荷的變化特性越不一致，負(fù)荷間的相互同步性越差。冷熱電負(fù)荷受季節(jié)因素影響較大，以季為周期，計(jì)算冷熱負(fù)荷、冷電負(fù)荷和電熱負(fù)荷間的同步系數(shù)，結(jié)果如表1 所示。

表1 冷熱電負(fù)荷同步系數(shù)Table 1 Synchronous coefficients of cooling,heating and electrical loads

由計(jì)算結(jié)果可以看出，整體上冷電負(fù)荷同步系數(shù)最小，即同步性更強(qiáng)，這是因?yàn)樵撔^(qū)氣溫較高，電制冷需求大，導(dǎo)致電負(fù)荷隨著冷需求的提升而增加。同時(shí)，冷電負(fù)荷同步系數(shù)在夏季時(shí)最小，而電熱負(fù)荷同步系數(shù)在冬季時(shí)最小，這表明其同步關(guān)系受季節(jié)影響。

負(fù)荷互補(bǔ)系數(shù)IC用于描述冷熱電負(fù)荷疊加后的負(fù)荷情況，量化評(píng)估不同負(fù)荷變化量相互抵消的程度。IC越接近于0，表明冷熱電負(fù)荷在所研究的時(shí)間尺度內(nèi)的變化量抵消越多且越接近，負(fù)荷間的互補(bǔ)性越強(qiáng)。以季為周期，計(jì)算冷電負(fù)荷、冷熱負(fù)荷、電熱負(fù)荷和冷熱電負(fù)荷間的互補(bǔ)系數(shù)，結(jié)果如表2所示。

表2 冷熱電負(fù)荷互補(bǔ)系數(shù)Table 2 Complementary coefficients of cooling,heating and electrical loads

由計(jì)算結(jié)果可以看出，冷熱負(fù)荷和電熱負(fù)荷互補(bǔ)系數(shù)較小，即冷熱和電熱負(fù)荷的變化呈現(xiàn)出較明顯的“反步調(diào)”特征。

通過(guò)以上IES 冷熱電負(fù)荷耦合性指標(biāo)的計(jì)算可以發(fā)現(xiàn)，冷電負(fù)荷的變化趨勢(shì)存在較明顯的同步性，冷熱負(fù)荷和電熱負(fù)荷間則存在一定的互補(bǔ)性，表明在預(yù)測(cè)過(guò)程中不同負(fù)荷特征可以相互借鑒，從而提升自身的預(yù)測(cè)效果。

本文后續(xù)將從特征工程的角度出發(fā)，利用耦合特征挖掘算法將負(fù)荷間的耦合特征提取為可直接輸入預(yù)測(cè)模型的結(jié)構(gòu)化數(shù)據(jù)，以實(shí)現(xiàn)對(duì)負(fù)荷間耦合關(guān)系的初步利用。

1.2 冷熱電負(fù)荷序列的耦合特征挖掘算法

耦合特征是描述不同能源類(lèi)型負(fù)荷間耦合特征的特征變量，負(fù)荷間的耦合特征一般包括負(fù)荷自身的內(nèi)耦合性和不同能源類(lèi)型負(fù)荷間的外耦合性。內(nèi)耦合性通過(guò)計(jì)算負(fù)荷的自相關(guān)性得到，而外耦合性則通過(guò)計(jì)算不同負(fù)荷間的相關(guān)性實(shí)現(xiàn)［17］。

假設(shè)有M組樣本，將冷、熱、電3 種負(fù)荷序列分別表示為C、H和P，耦合特征的構(gòu)造過(guò)程如圖1所示。

圖1 區(qū)域型IES 冷熱電負(fù)荷耦合特征構(gòu)造流程圖Fig.1 Flow chart of coupling feature construction ofcooling,heating and electrical loads for regionalintegrated energy system

對(duì)負(fù)荷進(jìn)行耦合特征挖掘的算法由以下5 個(gè)步驟組成。

1）計(jì)算冷熱電負(fù)荷的擴(kuò)展矩陣。在相關(guān)性研究領(lǐng)域中，Pearson 相關(guān)系數(shù)常被用于量度變量之間的相關(guān)程度［9，18］，然而，Pearson 相關(guān)系數(shù)僅能描述兩個(gè)變量之間的線性關(guān)系，而冷熱電負(fù)荷每對(duì)變量間的耦合關(guān)系可能包含非線性的部分。因此，本文采用計(jì)算負(fù)荷變量高次冪的方式將原始數(shù)據(jù)拓展為更多維度，如式（1）所示，從而使Pearson 相關(guān)系數(shù)不僅能描述變量間的線性關(guān)系，還能描述變量間高次的非線性關(guān)系，增強(qiáng)了特征的表達(dá)能力。

2）計(jì)算負(fù)荷內(nèi)耦合矩陣。結(jié)合拓展矩陣，對(duì)第j個(gè)變量（以冷負(fù)荷變量為例），利用自身冪的Pearson相關(guān)系數(shù)對(duì)其自相關(guān)性進(jìn)行建模，如式（2）所示。

3）計(jì)算負(fù)荷間耦合矩陣。同理，對(duì)于第j個(gè)變量與其他變量的互相關(guān)性（以冷負(fù)荷與熱負(fù)荷為例），利用其自身冪與其他變量不同冪次的Pearson相關(guān)系數(shù)進(jìn)行建模，如式（3）所示。

4）計(jì)算單負(fù)荷擴(kuò)展矩陣和多負(fù)荷擴(kuò)展矩陣。將拓展矩陣Z的行向量劃分為單負(fù)荷擴(kuò)展矩陣和多負(fù)荷擴(kuò)展矩陣，便于后續(xù)耦合特征的計(jì)算。

冷負(fù)荷擴(kuò)展矩陣為:

冷負(fù)荷與其他負(fù)荷間的擴(kuò)展矩陣為:

5）計(jì)算耦合特征。任何解析函數(shù)都可以用其泰勒展開(kāi)式來(lái)近似，文獻(xiàn)［19］提出利用變量值的類(lèi)泰勒展開(kāi)來(lái)表示耦合關(guān)系，其中變量拓展冪之間的Pearson 相關(guān)系數(shù)起到函數(shù)導(dǎo)數(shù)的作用，建立基于泰勒級(jí)數(shù)的耦合特征計(jì)算公式如式（6）所示（以冷負(fù)荷為例）。

式中:w=[(1/1！)，(1/2！)，…，(1/E！)]為建立類(lèi)泰勒展開(kāi)所需的系數(shù)矩陣；⊙表示哈達(dá)瑪積。

對(duì)于第i個(gè)樣本，其耦合特征變量如下:

式中:ui(H)和ui(P)分別為第i個(gè)樣本的熱、電耦合特征。

為兼顧負(fù)荷間的線性與非線性耦合關(guān)系，同時(shí)盡量避免過(guò)大的計(jì)算量，取擴(kuò)展冪級(jí)數(shù)為3。將冷熱電負(fù)荷歷史序列輸入耦合特征挖掘算法，得到3 種負(fù)荷的內(nèi)耦合及外耦合共計(jì)9 個(gè)耦合特征CFR1～CFR9 的時(shí)序數(shù)值，在后續(xù)預(yù)測(cè)建模中可作為預(yù)測(cè)模型的輸入變量，以反映負(fù)荷的耦合關(guān)系。

耦合特征挖掘算法具有以下優(yōu)點(diǎn):

1）計(jì)算過(guò)程中使用全部數(shù)據(jù)進(jìn)行特征構(gòu)造，可以提高算法的魯棒性；

2）該算法使用無(wú)監(jiān)督學(xué)習(xí)構(gòu)造耦合特征，具有強(qiáng)泛化能力，是對(duì)監(jiān)督學(xué)習(xí)的有力補(bǔ)充；

3）可以通過(guò)設(shè)置擴(kuò)展冪級(jí)數(shù)的大小，對(duì)負(fù)荷之間的線性或非線性耦合關(guān)系進(jìn)行挖掘，使用十分靈活。

以美國(guó)亞利桑那州立大學(xué)坦佩校區(qū)IES 的冷熱電負(fù)荷數(shù)據(jù)為例，采用上述耦合特征挖掘算法構(gòu)造該校區(qū)每小時(shí)冷熱電負(fù)荷的耦合特征，截取部分計(jì)算結(jié)果示于附錄A 表A1。由計(jì)算結(jié)果可以看出，冷熱電負(fù)荷間存在復(fù)雜的耦合關(guān)系，并與季節(jié)、星期、節(jié)日及日內(nèi)作息等因素密切相關(guān)，其數(shù)值大小在不同的時(shí)間周期下呈現(xiàn)復(fù)雜的變化規(guī)律，仍有待通過(guò)深度學(xué)習(xí)進(jìn)一步挖掘。

同時(shí)可以看出，本文采用的耦合特征挖掘算法提取的負(fù)荷間耦合特征是時(shí)序的數(shù)據(jù)列，后續(xù)建模預(yù)測(cè)中可直接將其作為預(yù)測(cè)模型的輸入變量，通過(guò)深度學(xué)習(xí)進(jìn)一步對(duì)各負(fù)荷間的耦合特征進(jìn)行提取。這種方法與基于Copula 函數(shù)、Pearson 相關(guān)系數(shù)等理論的多元負(fù)荷相關(guān)性分析方法在機(jī)制上有很大的不同。

2 基于耦合特征構(gòu)造與多任務(wù)學(xué)習(xí)的區(qū)域型IES 短期負(fù)荷預(yù)測(cè)模型

考慮到冷熱電負(fù)荷間存在的耦合關(guān)聯(lián)性，可以將不同能源類(lèi)型負(fù)荷的預(yù)測(cè)視為多個(gè)任務(wù)，采用多任務(wù)學(xué)習(xí)（multitask learning，MTL）算法設(shè)計(jì)預(yù)測(cè)模型的網(wǎng)絡(luò)結(jié)構(gòu)，充分利用負(fù)荷間的耦合關(guān)系，以實(shí)現(xiàn)區(qū)域型IES 負(fù)荷的準(zhǔn)確預(yù)測(cè)。

2.1 區(qū)域型IES 短期負(fù)荷預(yù)測(cè)模型變量選擇

研究成果顯示，區(qū)域型IES 冷熱電負(fù)荷水平受時(shí)間、溫度等因素的影響［20］。因此，在預(yù)測(cè)模型中引入周期變量、溫度及節(jié)假日變量以實(shí)現(xiàn)對(duì)這3 種特性的建模。其中，周期特性包括月份、當(dāng)月的第幾天、當(dāng)天的第幾小時(shí)及當(dāng)天是星期幾；溫度特性包括每小時(shí)的干球溫度及露點(diǎn)溫度等；節(jié)假日特性是指當(dāng)日是否為法定節(jié)假日。

不同能源類(lèi)型的負(fù)荷間存在耦合性。因此，模型的輸入還應(yīng)包括本文第1 章利用耦合特征挖掘算法計(jì)算出的負(fù)荷耦合特征變量。此外，不同能源負(fù)荷的耦合性受到能源價(jià)格的影響:IES 主要購(gòu)入電能和天然氣，并通過(guò)電制熱和電制冷等能源轉(zhuǎn)換設(shè)備實(shí)現(xiàn)電、氣、冷、熱負(fù)荷間的相互轉(zhuǎn)換。當(dāng)電價(jià)較高時(shí)，系統(tǒng)傾向于購(gòu)入更多天然氣，并通過(guò)燃?xì)廨啓C(jī)、余熱鍋爐和吸收式制冷設(shè)備等進(jìn)行冷熱電能源聯(lián)合供應(yīng)［21］；而當(dāng)天然氣價(jià)格較高時(shí)，系統(tǒng)則購(gòu)入更多電能，通過(guò)電制冷和電制熱設(shè)備等進(jìn)行供冷和供熱。因此，應(yīng)將包含電價(jià)和天然氣價(jià)格等在內(nèi)的能源價(jià)格納入IES 預(yù)測(cè)模型的輸入變量中。

2.2 區(qū)域型IES 短期負(fù)荷預(yù)測(cè)模型

區(qū)域型IES 短期負(fù)荷預(yù)測(cè)模型的多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)采取硬參數(shù)共享的結(jié)構(gòu)，包括冷熱電負(fù)荷共享的隱藏層和各自的輸出層。將所有任務(wù)輸入共享隱藏層，訓(xùn)練后得到一個(gè)通用模型ε，模型參數(shù)為θε=[θε，1，θε，2，…，θε，L]，其中θε，l代表第l層神經(jīng)網(wǎng)絡(luò)的參數(shù)，l=1，2，…，L，L為神經(jīng)網(wǎng)絡(luò)的層數(shù)。這樣就學(xué)習(xí)到了不同任務(wù)的統(tǒng)一表示方法，既保留了各任務(wù)的有效信息，又降低了過(guò)擬合的風(fēng)險(xiǎn)［22］。

在學(xué)習(xí)過(guò)程中，利用以下?lián)p失函數(shù)對(duì)模型參數(shù)進(jìn)行優(yōu)化:

式中:lt和λt分別為任務(wù)t的損失和權(quán)重。

考慮到冷熱電負(fù)荷的時(shí)間序列特性，前一時(shí)刻的負(fù)荷對(duì)當(dāng)前時(shí)刻的負(fù)荷有較大的影響，選擇LSTM 搭建多任務(wù)學(xué)習(xí)的共享層。利用前文提取的耦合特征變量，建立了基于LSTM 和多任務(wù)學(xué)習(xí)（LSTM-MTL）的區(qū)域型IES 短期負(fù)荷預(yù)測(cè)模型（CF-LSTM-MTL），模型結(jié)構(gòu)如圖2 所示。

圖2 CF-LSTM-MTL 模型結(jié)構(gòu)Fig.2 Structure of CF-LSTM-MTL model

由于LSTM-MTL 模型的訓(xùn)練時(shí)間較長(zhǎng)，故本文使用離線訓(xùn)練+在線預(yù)測(cè)的方式，將復(fù)雜的模型訓(xùn)練工作限制在離線訓(xùn)練階段，后續(xù)進(jìn)行實(shí)時(shí)預(yù)測(cè)時(shí)則無(wú)須重新進(jìn)行訓(xùn)練。首先，基于歷史數(shù)據(jù)離線訓(xùn)練預(yù)測(cè)模型，再輸入實(shí)時(shí)數(shù)據(jù)進(jìn)行在線預(yù)測(cè)。離線階段主要是構(gòu)建耦合特征和通過(guò)LSTM-MTL 模型學(xué)習(xí)溫度等輸入特征與冷熱電負(fù)荷之間的關(guān)系；在線預(yù)測(cè)則是將當(dāng)前時(shí)刻的特征輸入已訓(xùn)練好的模型快速獲得預(yù)測(cè)結(jié)果。

離線階段模型的訓(xùn)練流程如下:

1）基于耦合特征挖掘算法計(jì)算耦合特征變量，作為預(yù)測(cè)模型輸入；

2）根據(jù)任務(wù)特點(diǎn)等確定學(xué)習(xí)率、優(yōu)化器及LSTM 的時(shí)間步長(zhǎng)等超參數(shù)；

3）將多維特征向量作為模型的輸入，冷熱電負(fù)荷值作為模型的輸出，自底向上訓(xùn)練模型，直到迭代次數(shù)達(dá)到預(yù)設(shè)值或者每次迭代引起的精度改進(jìn)小于預(yù)設(shè)值；

4）評(píng)估模型的預(yù)測(cè)效果，本文采用回歸模型中常用的平均絕對(duì)百分誤差（mean absolute percentage error，MAPE）和均方根誤差（root mean squared error，RMSE）作為IES 冷熱電負(fù)荷預(yù)測(cè)精度的評(píng)價(jià)指標(biāo)［24］。

為了對(duì)模型多種負(fù)荷的預(yù)測(cè)精度進(jìn)行整體評(píng)價(jià)，本文考慮系統(tǒng)內(nèi)不同負(fù)荷的重要性，對(duì)不同負(fù)荷賦予不同權(quán)值，使用多權(quán)重的平均絕對(duì)百分誤差EMAPE和均方根誤差ERMSE對(duì)模型的整體預(yù)測(cè)效果進(jìn)行評(píng)價(jià)。

式中:EMAPE，C、EMAPE，H、EMAPE，P分別為冷、熱、電負(fù)荷的平均絕對(duì)百分誤差；ERMSE，C、ERMSE，H、ERMSE，P分別為冷、熱、電負(fù)荷的均方根誤差；k1、k2分別為將冷、熱負(fù)荷的單位轉(zhuǎn)換為千瓦時(shí)的轉(zhuǎn)換系數(shù)；α、β、γ分別為賦予冷熱電負(fù)荷預(yù)測(cè)任務(wù)的權(quán)重，由IES 冷熱電負(fù)荷水平和負(fù)荷特性分析結(jié)果共同確定。

5）根據(jù)模型學(xué)習(xí)效果，采用控制變量法確定LSTM 層數(shù)、LSTM 層神經(jīng)元數(shù)量及迭代次數(shù)等超參數(shù)。

包含離線訓(xùn)練和在線預(yù)測(cè)的區(qū)域型IES 冷熱電短期負(fù)荷預(yù)測(cè)流程如附錄A 圖A1 所示。

2.3 基于SHAP 值計(jì)算的耦合特征變量引入預(yù)測(cè)模型的有效性

SHAP 值計(jì)算是Lundberg 和Lee 于2017年提出的一種加性特征歸因方法［16］。通過(guò)分析引入特征變量引起的負(fù)荷預(yù)測(cè)值的變化量，進(jìn)而分析各特征變量對(duì)模型預(yù)測(cè)結(jié)果產(chǎn)生影響的大小，其核心思想是將模型的預(yù)測(cè)結(jié)果解釋為二元變量的線性函數(shù):

式中:g(x′)為解釋模型輸出；f(x′)為原模型輸出；Φ0為預(yù)測(cè)基準(zhǔn)值，一般為預(yù)測(cè)結(jié)果的平均值；R為輸入模型的特征數(shù)量；Φr為第r個(gè)特征的SHAP 值；∈{0，1}R為輸入特征的二元映射變量，表示樣本數(shù)第r個(gè)特征是否存在。

通過(guò)計(jì)算本文所提出的區(qū)域型IES 負(fù)荷預(yù)測(cè)模型的SHAP 值，可以分析耦合特征變量的引入對(duì)預(yù)測(cè)模型的影響:對(duì)于任意樣本而言，特征變量是否引入預(yù)測(cè)模型會(huì)對(duì)預(yù)測(cè)結(jié)果產(chǎn)生影響，引起預(yù)測(cè)值變化大的特征變量重要程度高；反之，次要特征變量的引入與否引起的負(fù)荷預(yù)測(cè)結(jié)果變化較小。因此，可以根據(jù)SHAP 值的大小判斷特征變量對(duì)模型預(yù)測(cè)結(jié)果的影響程度，進(jìn)而得出特征變量的重要性。

3 算例分析

3.1 數(shù)據(jù)介紹

以美國(guó)亞利桑那州立大學(xué)坦佩校區(qū)IES 的數(shù)據(jù)為例，對(duì)本文提出的CF-LSTM-MTL 模型進(jìn)行應(yīng)用驗(yàn)證。選取該數(shù)據(jù)集中2019 年1 月1 日00:00—2020 年7 月15 日23:00 的冷熱電負(fù)荷數(shù)據(jù)，并從氣象數(shù)據(jù)網(wǎng)站上下載對(duì)應(yīng)時(shí)段的小時(shí)級(jí)溫度數(shù)據(jù)［25］，按照70%、15%和15%的比例劃分訓(xùn)練集、驗(yàn)證集與測(cè)試集，由于該IES 中冷、電負(fù)荷水平占比高，熱負(fù)荷占比低，設(shè)置冷、熱、電負(fù)荷的權(quán)重分別為0.4、0.2 和0.4。在Keras 框架下搭建LSTM-MTL 網(wǎng)絡(luò)，用于測(cè)試本文建立的預(yù)測(cè)模型。所有實(shí)驗(yàn)在Intel Core i7 CPU 平臺(tái)完成。

3.2 超參數(shù)設(shè)置

目前，深度神經(jīng)網(wǎng)絡(luò)超參數(shù)選取尚無(wú)完善的理論指導(dǎo)，需要根據(jù)模型的學(xué)習(xí)效果定值。為獲得深度學(xué)習(xí)模型的最優(yōu)結(jié)構(gòu)，本文研究采用控制變量法，兼顧模型預(yù)測(cè)精度與模型復(fù)雜度對(duì)LSTM 層數(shù)、神經(jīng)元數(shù)量和迭代次數(shù)等超參數(shù)進(jìn)行選擇。

分析LSTM 層數(shù)對(duì)模型預(yù)測(cè)效果的影響如表3所示。隨著LSTM 層數(shù)增加，網(wǎng)絡(luò)參數(shù)成倍增加，模型整體的加權(quán)MAPE 也由于過(guò)擬合等原因隨之增加，模型學(xué)習(xí)效果變差，故將模型中LSTM 層數(shù)定為1。

表3 LSTM 層數(shù)對(duì)模型預(yù)測(cè)精度的影響Table 3 Influence of LSTM layers on model prediction accuracy

分析LSTM 層神經(jīng)元數(shù)量對(duì)模型預(yù)測(cè)效果的影響如表4 所示。隨著LSTM 層神經(jīng)元數(shù)量的增加，模型參數(shù)數(shù)量快速增長(zhǎng)，模型整體的加權(quán)MAPE 先降后升，神經(jīng)元數(shù)量為32 和64 時(shí)模型精度相差不大，但是前者對(duì)應(yīng)的模型參數(shù)更少，網(wǎng)絡(luò)結(jié)構(gòu)更簡(jiǎn)單，計(jì)算效率更高，故將LSTM 層神經(jīng)元數(shù)量定為32。

表4 LSTM 層神經(jīng)元數(shù)量對(duì)模型預(yù)測(cè)精度的影響Table 4 Influence of number of neurons in LSTM layers on model prediction accuracy

控制LSTM 層數(shù)和神經(jīng)元數(shù)量不變，改變迭代次數(shù)，分析模型精度的變化如表5 所示。隨著迭代次數(shù)的增加，冷負(fù)荷和電負(fù)荷預(yù)測(cè)誤差先以較快的速度減小，之后在較小的范圍內(nèi)波動(dòng)，而熱負(fù)荷的預(yù)測(cè)誤差則先減小后增大，3 種負(fù)荷的誤差最小值出現(xiàn)的時(shí)間不完全同步。

表5 迭代次數(shù)對(duì)模型預(yù)測(cè)精度的影響Table 5 Influence of iteration times on model prediction accuracy

為評(píng)價(jià)模型預(yù)測(cè)冷熱電負(fù)荷的綜合效果，仍以加權(quán)MAPE 作為衡量標(biāo)準(zhǔn)。由表5 可知，當(dāng)?shù)螖?shù)為750 時(shí)，加權(quán)MAPE 最小，模型綜合預(yù)測(cè)效果最佳，故確定迭代次數(shù)為750，其他參數(shù)設(shè)置見(jiàn)表6。

表6 CF-LSTM-MTL 模型超參數(shù)設(shè)置Table 6 Hyperparameter settings of CF-LSTM-MTL model

3.3 預(yù)測(cè)結(jié)果對(duì)比分析

將本文提出的CF-LSTM-MTL 模型與多組對(duì)照模型進(jìn)行冷熱電負(fù)荷預(yù)測(cè)效果的對(duì)比，比較建模過(guò)程中是否考慮耦合特征變量、是否使用多任務(wù)學(xué)習(xí)的預(yù)測(cè)結(jié)果的差異，以驗(yàn)證本文所提模型在區(qū)域型IES 負(fù)荷預(yù)測(cè)場(chǎng)景中的優(yōu)越性。

對(duì)照模型包括:

1）基于LSTM 模型對(duì)3 種負(fù)荷分別預(yù)測(cè)（SingleLSTM）；

2）基于LSTM 和MTL 建立多輸出模型對(duì)3 種負(fù)荷耦合預(yù)測(cè)（LSTM）；

3）計(jì)及耦合特征變量，基于LSTM 分別對(duì)3 種負(fù)荷進(jìn)行預(yù)測(cè)（CF-LSTM）；

4）計(jì)及耦合特征變量，基于LSTM-MTL 建立多輸出模型對(duì)3 種負(fù)荷耦合預(yù)測(cè)（CF-LSTMMTL）。

為保證實(shí)驗(yàn)公平，各模型均使用相同的數(shù)據(jù)集進(jìn)行訓(xùn)練及預(yù)測(cè)，截取部分預(yù)測(cè)結(jié)果的對(duì)比見(jiàn)圖3（完整預(yù)測(cè)結(jié)果見(jiàn)附錄A 圖A2），計(jì)算各種模型在測(cè)試集上的MAPE、RMSE 指標(biāo)，如表7 所示。

表7 區(qū)域型IES 冷熱電負(fù)荷多任務(wù)學(xué)習(xí)模型和單任務(wù)學(xué)習(xí)模型預(yù)測(cè)精度Table 7 Prediction accuracy of multi-task learning model and single-task learning model of cooling,heating and electrical loads for regional integrated energy system

圖3 區(qū)域型IES 冷熱電負(fù)荷預(yù)測(cè)結(jié)果Fig.3 Prediction results of cooling,heating and electrical loads for regional integrated energy system

預(yù)測(cè)結(jié)果表明:

1）從模型的預(yù)測(cè)結(jié)果可以看出，負(fù)荷真實(shí)值曲線有明顯的峰谷值，波動(dòng)范圍廣、波動(dòng)頻率高，而SingleLSTM 預(yù)測(cè)值曲線變化趨勢(shì)非常平緩，與負(fù)荷真實(shí)值曲線有較大的偏差。負(fù)荷波動(dòng)性較強(qiáng)是區(qū)域型IES 的固有特性，因此，不能學(xué)習(xí)到這種波動(dòng)性的SingleLSTM 模型顯然不能滿足IES 短期負(fù)荷預(yù)測(cè)需求。

2）區(qū)域型IES 冷熱電負(fù)荷間存在較強(qiáng)的耦合關(guān)系，因此，建立的多輸出模型的LTSM 耦合預(yù)測(cè)相較于單獨(dú)預(yù)測(cè)的SingleLSTM 模型加權(quán)誤差明顯更小，表明對(duì)區(qū)域型IES 冷熱電負(fù)荷的耦合建模有效提升了模型的預(yù)測(cè)精度。這是因?yàn)轳詈辖Ｊ沟貌煌茉搭?lèi)型的負(fù)荷預(yù)測(cè)過(guò)程可以相互學(xué)習(xí)提取到優(yōu)良特征，同時(shí)，共享的LSTM 層可以提取到負(fù)荷間的耦合性，并以高維特征的形式傳遞到全連接輸出層，對(duì)冷熱電負(fù)荷間耦合性的學(xué)習(xí)是提升IES 負(fù)荷預(yù)測(cè)的有效方式。另外，從單一能源類(lèi)型負(fù)荷預(yù)測(cè)精度的變化來(lái)看，經(jīng)過(guò)耦合建模精度提升最多的是冷負(fù)荷，說(shuō)明在建模過(guò)程中，冷負(fù)荷從其余負(fù)荷處獲取了更多高質(zhì)量的輔助信息。

3）在考慮IES 各負(fù)荷間耦合關(guān)系建立耦合預(yù)測(cè)模型的基礎(chǔ)上，CF-LSTM 模型引入耦合特征變量后，預(yù)測(cè)精度進(jìn)一步提高。同時(shí)，耦合特征變量改進(jìn)了深度學(xué)習(xí)模型所提取特征的不可解釋性，是對(duì)耦合建模過(guò)程的有力補(bǔ)充。

4）綜合上述兩種改進(jìn)思路建立的CF-LSTMMTL 模型兼顧了兩者的優(yōu)點(diǎn)，這種預(yù)測(cè)模型既能充分挖掘和利用負(fù)荷間的耦合關(guān)系，又保留了冷熱電負(fù)荷各自的特性，故預(yù)測(cè)結(jié)果更優(yōu)。同時(shí)，對(duì)冷熱電負(fù)荷的耦合預(yù)測(cè)避免了對(duì)3 種負(fù)荷分別建模，簡(jiǎn)化了建模工作，具有更優(yōu)的工程應(yīng)用價(jià)值。

基于上述CF-LSTM-MTL 模型預(yù)測(cè)結(jié)果，求解各特征變量加入模型的冷熱電負(fù)荷加權(quán)SHAP值，賦權(quán)參考前文，分別為0.4、0.2、0.4，計(jì)算結(jié)果如圖4 所示，圖中展示了各特征變量的重要性排序結(jié)果。

圖4 冷熱電負(fù)荷特征變量的加權(quán)SHAP值Fig.4 Weighted SHAP values of feature variables of cooling,heating and electrical loads

由圖4 可以看出，耦合特征CFR8、CFR4、CFR2 和CFR1 的SHAP 值排在較前位置，僅位居小時(shí)變量、電負(fù)荷歷史值、冷負(fù)荷歷史值和月份等重要特征之下，表明這些耦合特征對(duì)模型預(yù)測(cè)結(jié)果有較大的影響。加權(quán)SHAP 值的計(jì)算結(jié)果驗(yàn)證了所提取出的耦合特征對(duì)于區(qū)域型IES 負(fù)荷預(yù)測(cè)的有效性。

4 結(jié)語(yǔ)

本文考慮了區(qū)域型IES 冷熱電負(fù)荷之間的耦合特征，采用基于LSTM 的多任務(wù)學(xué)習(xí)模型，將多用于處理分類(lèi)問(wèn)題的耦合特征挖掘算法融入負(fù)荷預(yù)測(cè)中，提出了一種區(qū)域型IES 冷熱電短期負(fù)荷預(yù)測(cè)模型。首先，采用耦合特征挖掘算法初步提取耦合特征變量；然后，通過(guò)多任務(wù)學(xué)習(xí)進(jìn)一步挖掘負(fù)荷間的耦合特征，彌補(bǔ)了目前IES 預(yù)測(cè)領(lǐng)域?qū)ω?fù)荷間耦合特征挖掘和利用不足的問(wèn)題，提高了預(yù)測(cè)精度；最后，通過(guò)分析SHAP 值計(jì)算結(jié)果證明了預(yù)測(cè)模型引入耦合特征變量的有效性。本文主要得到如下結(jié)論:

1）區(qū)域型IES 冷熱電負(fù)荷間存在明顯的耦合關(guān)系，在特征工程階段利用耦合特征挖掘算法提取的耦合特征變量是時(shí)序的結(jié)構(gòu)化數(shù)據(jù)，可與負(fù)荷歷史數(shù)據(jù)、日期、溫度等外生變量一同作為神經(jīng)網(wǎng)絡(luò)模型的輸入，實(shí)現(xiàn)對(duì)冷熱電負(fù)荷間耦合關(guān)系的初步挖掘和利用。同時(shí)，耦合特征變量的構(gòu)建也是對(duì)深度學(xué)習(xí)模型特征提取過(guò)程不可解釋性的有力補(bǔ)充。

2）本文采用的多任務(wù)學(xué)習(xí)模型包含共享層和冷熱電負(fù)荷各自的輸出層，既可以使冷熱電負(fù)荷預(yù)測(cè)任務(wù)相互借鑒其余任務(wù)的優(yōu)異特征，又保留了各自的特征，相比于對(duì)各負(fù)荷進(jìn)行單獨(dú)預(yù)測(cè)，能夠更好地學(xué)習(xí)到區(qū)域型IES 各負(fù)荷的波動(dòng)性。

3）由算例分析結(jié)果來(lái)看，本文綜合考慮區(qū)域型IES 冷熱電負(fù)荷的耦合特征及氣象、日期等因素的影響，構(gòu)建的CF-LSTM-MTL 預(yù)測(cè)模型能夠充分發(fā)揮耦合特征挖掘算法和多任務(wù)深度學(xué)習(xí)各自的優(yōu)勢(shì)，提高區(qū)域型IES 冷熱電負(fù)荷短期預(yù)測(cè)的精度。

隨著IES 的不斷發(fā)展和能源生產(chǎn)消費(fèi)逐漸市場(chǎng)化，亟須實(shí)現(xiàn)更加實(shí)時(shí)、準(zhǔn)確、可靠的用能預(yù)測(cè)，而區(qū)域型IES 體量較小、負(fù)荷波動(dòng)性強(qiáng)、負(fù)荷間耦合性強(qiáng)，在今后的研究過(guò)程中應(yīng)更加注重通過(guò)提高預(yù)測(cè)技術(shù)及對(duì)數(shù)據(jù)中蘊(yùn)含信息的充分挖掘，以實(shí)現(xiàn)負(fù)荷預(yù)測(cè)精度的進(jìn)一步提高。

附錄見(jiàn)本刊網(wǎng)絡(luò)版（http：//www.aeps-info.com/aeps/ch/index.aspx），掃英文摘要后二維碼可以閱讀網(wǎng)絡(luò)全文。