孫慶凱，王小君，張義志，張 放，張 沛，高文忠，2

（1.北京交通大學(xué)電氣工程學(xué)院,北京市100044；2.丹佛大學(xué)電氣與計算機工程學(xué)院,丹佛80208,美國）

0 引言

傳統(tǒng)能源系統(tǒng)單獨規(guī)劃、設(shè)計和獨立運行的模式人為割裂了不同類型能源間的耦合關(guān)系,限制了系統(tǒng)運行可靠性和靈活性,不再適合社會發(fā)展。必然需要打破行業(yè)壁壘,由過去電、熱、冷分產(chǎn)分供發(fā)展模式轉(zhuǎn)變?yōu)槎嗄苈?lián)合規(guī)劃運行模式［1-2］。在轉(zhuǎn)型過程中綜合能源系統(tǒng)（integrated energy system,IES）逐漸發(fā)展成為一種重要的能源利用方式［3］。其內(nèi)部耦合多種形式的供能、轉(zhuǎn)化和儲能設(shè)備,外部由能源服務(wù)商統(tǒng)一管理,在規(guī)劃、運行上與傳統(tǒng)單一能源系統(tǒng)有較大區(qū)別［4-5］。負荷預(yù)測作為IES用能管理和優(yōu)化調(diào)度的首要前提,已不再局限于單一負荷,必須統(tǒng)籌兼顧多個能源系統(tǒng),這對IES多元負荷預(yù)測準(zhǔn)確性、實時性及可靠性提出了更高要求［6］。

短期負荷預(yù)測分為傳統(tǒng)方法和機器學(xué)習(xí)方法。傳統(tǒng)方法以時間序列法、回歸分析法為代表,文獻［7］利用混沌時間序列方法進行短期電力負荷預(yù)測。文獻［8］通過稀疏懲罰分位數(shù)回歸分析預(yù)測短期電力負荷。傳統(tǒng)方法雖有一定成效,但隨著能源系統(tǒng)的不斷發(fā)展,用能需求同時受到多種因素的共同影響,致使無法建立精確的數(shù)學(xué)模型,難以獲得令人滿意的結(jié)果。機器學(xué)習(xí)方法以隨機森林、支持向量機為代表,文獻［9］在數(shù)據(jù)聚類基礎(chǔ)上構(gòu)造隨機森林進行短期負荷預(yù)測。文獻［10］采用模糊信息?；ㄌ幚須v史數(shù)據(jù),并在此基礎(chǔ)上建立支持向量機進行短期負荷預(yù)測。但隨著可再生能源接入、需求側(cè)響應(yīng)等新因素的加入,傳統(tǒng)機器學(xué)習(xí)方法也遭遇了瓶頸。

近些年來,以深度學(xué)習(xí)為代表的前沿機器學(xué)習(xí)方法在問題分析過程中無須建立精確的數(shù)學(xué)模型,可通過多層非線性映射逐層學(xué)習(xí)海量數(shù)據(jù)中隱藏的抽象特征,能較好地擬合輸入與輸出之間的非線性關(guān)系［11］。其中長短時記憶（long short-term memory,LSTM）神經(jīng)網(wǎng)絡(luò)在電力負荷預(yù)測領(lǐng)域已有相關(guān)研究［12-14］,但相比于單一電力負荷預(yù)測,IES多元負荷預(yù)測相關(guān)工作仍處于初級階段,文獻［15］通過改進粒子群算法,依據(jù)不同粒子慣性權(quán)重選擇小波神經(jīng)網(wǎng)絡(luò)尋優(yōu)策略進行多元負荷預(yù)測。文獻［16］結(jié)合Kpca降維技術(shù)與徑向基神經(jīng)網(wǎng)絡(luò)進行多元負荷預(yù)測。該方法普遍是對模型參數(shù)與結(jié)構(gòu)進行優(yōu)化,在處理不同形式用能耦合問題上仍存在一定的局限。

IES中各用戶自身不同形式用能存在耦合,可依據(jù)內(nèi)部終端消耗以及外部因素采用不同策略進行多能綜合優(yōu)化,因此針對用戶個體的多元負荷預(yù)測困難較大。本文構(gòu)建的多元負荷預(yù)測模型主要是面向IES能源服務(wù)商,利用多任務(wù)學(xué)習(xí)（multi-task learning,MTL）通過共享層對用戶總體多元負荷間的復(fù)雜耦合信息進行學(xué)習(xí),以確保IES能源服務(wù)商能夠向用戶提供精確的多元負荷需求。該方法也適用于區(qū)域型IES電、熱、氣聯(lián)合預(yù)測。

本文在現(xiàn)有研究基礎(chǔ)上提出了一種LSTMMTL多元負荷預(yù)測方法,旨在利用LSTM時序記憶功能與MTL耦合信息共享學(xué)習(xí)特性來提升IES能源服務(wù)商多元負荷預(yù)測精度。

1 IES用能特性分析與MTL

1.1 IES用能特性分析

IES作為新一代能源系統(tǒng)的重要組成,是滿足不同用戶多類型用能需求的堅實保障。其能源服務(wù)商可在匯總、分析不同用戶各類用能需求的基礎(chǔ)上準(zhǔn)確預(yù)測多元負荷需求,并協(xié)調(diào)IES內(nèi)部轉(zhuǎn)化、存儲、分配、消費等環(huán)節(jié)以滿足不同用戶對能源的需求［17］,其交互結(jié)構(gòu)可簡化為圖1。

圖1 交互結(jié)構(gòu)簡化模型Fig.1 Simplified model of interactive structure

目前實際工業(yè)園區(qū)、商業(yè)中心、居民樓宇等典型IES的能源服務(wù)商普遍需要向其用戶提供電、熱、冷等多種用能需求,明顯受到氣象條件、人類活動以及建筑特性等因素影響。在氣象條件方面,由于氣溫變化,南北方在冷熱負荷需求上表現(xiàn)出明顯的季節(jié)性、地域性差異。在人類活動方面,不同的社會行為會對IES用能特性產(chǎn)生影響,例如居民樓宇I(lǐng)ES,工作日時居民普遍外出,系統(tǒng)負荷多為剛性負荷；而非工作日時居民活動頻繁,致使用能設(shè)備靈活多樣,用能需求呈現(xiàn)出隨機性、不確定性。同時不同的系統(tǒng)功能定位也是影響用能特性的重要原因,工業(yè)區(qū)往往電力負荷占主導(dǎo)地位,冷熱負荷輔助,共同服從生產(chǎn)進度安排；生活區(qū)電熱負荷則往往與人的活動密切相關(guān),不同類型負荷間表現(xiàn)出一定的耦合特性。

IES用能特性決定了某一用能需求變化時必將引起能源服務(wù)商對其余類型用能需求的調(diào)整。負荷預(yù)測作為IES用能需求管理與優(yōu)化調(diào)度的首要前提,倘若仍采用傳統(tǒng)單一負荷預(yù)測方法則難以兼顧不同用能需求間的差異性、隨機性及耦合性,無法確保負荷預(yù)測精度。同時鑒于IES在長時間運行過程中大量能量轉(zhuǎn)換耦合信息被保存于IES能源服務(wù)商數(shù)據(jù)庫中,但這些隱藏在數(shù)據(jù)中的能量轉(zhuǎn)換特性很難通過建立詳細的數(shù)學(xué)模型進行特征提取與總結(jié)［18］。因此本文考慮借助MTL對復(fù)雜耦合信息進行學(xué)習(xí),經(jīng)由共享機制并行訓(xùn)練多個負荷預(yù)測子任務(wù),共同完成IES多元負荷預(yù)測任務(wù)。

1.2 MTL

MTL在處理一個問題的過程中可以通過使用共享層來學(xué)習(xí)并獲得其他相關(guān)子任務(wù)所提供的輔助耦合信息,進而達到提高模型輸出精度與增強泛化能力的目的［19］。

使用MTL構(gòu)建IES多元負荷預(yù)測模型的關(guān)鍵在于選擇模型結(jié)構(gòu)和構(gòu)建共享學(xué)習(xí)層。

1）MTL按特征共享表示方式可分為硬共享機制和軟共享機制。其中硬共享機制多個子任務(wù)共同使用同一特征共享層,特征參數(shù)完全相同；軟共享機制每一個子任務(wù)都有自己的特征參數(shù),不同子任務(wù)間需要進行必要的正則化處理才能達到信息共享的目的。相比之下,硬共享機制在特征參數(shù)、模型結(jié)構(gòu)上更加簡單,針對所要構(gòu)建的IES多元負荷預(yù)測模型這種參數(shù)繁多、結(jié)構(gòu)復(fù)雜的情況更不易產(chǎn)生過擬合問題,模型泛化能力也更強。同時考慮到軟共享機制相較于硬共享機制的約束條件更加寬松,比較適用于不具有緊密關(guān)系的任務(wù),而并不適用于IES多元負荷預(yù)測這種具有復(fù)雜耦合性的問題［19-20］。因此本文采用硬共享機制進行IES多元負荷預(yù)測模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計,硬共享機制網(wǎng)絡(luò)結(jié)構(gòu)如附錄A圖A1所示。

2）在共享學(xué)習(xí)層構(gòu)建過程中,考慮到研究對象IES多元負荷預(yù)測具有很強的時間序列特性,前一時刻負荷需求對下一時刻負荷預(yù)測具有較大影響,因此采用具有記憶特性的LSTM神經(jīng)網(wǎng)絡(luò)來搭建共享學(xué)習(xí)層。LSTM在每個神經(jīng)元內(nèi)部添加了遺忘門、輸入門和輸出門,并且增加了一條代表長期記憶的信息流,其LSTM神經(jīng)元內(nèi)部結(jié)構(gòu)如附錄A圖A2所示,具體計算過程如式（2）至式（7）所示。

遺忘門:

輸入門:

輸出門:

式（2）至式（7）中相關(guān)變量的含義詳見文獻［21］。

2 LSTM-MTL多元負荷預(yù)測模型的構(gòu)建

2.1 輸入/輸出特征集設(shè)置

輸入/輸出特征集是決定模型表現(xiàn)能力的關(guān)鍵。其中輸入特征往往是影響負荷預(yù)測的各種屬性,針對IES多元負荷預(yù)測問題設(shè)置輸入特征時首先需要確定各類負荷的組成以及必要的相關(guān)信息,如環(huán)境因子、節(jié)假日信息等。同時考慮到IES中多元負荷預(yù)測具有一定的周特性和日特性,即待預(yù)測時刻負荷數(shù)據(jù)與前一周、前一天負荷具有很大的相關(guān)性。因此本文選擇環(huán)境因子、日類型信息、多元負荷數(shù)據(jù)等共同作為輸入特征x。而輸出特征y則為待測時刻實際多元負荷數(shù)據(jù)。輸入特征x與輸出特征y共同構(gòu)成多元負荷預(yù)測問題的樣本{x,y}。具體的輸入/輸出特征集如附錄A表A1所示。

2.2 數(shù)據(jù)預(yù)處理

首先鑒于所選數(shù)據(jù)集是某實際IES全年運行數(shù)據(jù),其在測量、傳輸、存儲過程中易出現(xiàn)異常情況,倘若直接舍棄該部分樣本,會大大削減建立預(yù)測模型的可用信息,降低模型預(yù)測性能。因此采用文獻［23］方法對其進行缺失值填充和異常值辨識,以保證數(shù)據(jù)集的完整性和優(yōu)質(zhì)性。

其次在確定輸入/輸出數(shù)據(jù)集后,需要對其進行歸一化處理,以防止變量間數(shù)量級差異較大影響模型預(yù)測精度。區(qū)別于傳統(tǒng)方法,本文采用(x?xmin)/(xmax?xmin)+1的方式將數(shù)據(jù)歸一化至（1,2）之間,其中xmin為該輸入特征的最小值,xmax為該輸入特征的最大值,主要是為了避免后續(xù)計算平均絕對百分比誤差（mean absolute percentage error,MAPE）指標(biāo)LMAPE時出現(xiàn)無窮大的問題。日類型數(shù)據(jù)則以二進制變量對其進行標(biāo)注,其中0表示工作日,1表示非工作日。

2.3 多元負荷預(yù)測模型的構(gòu)建

鑒于深度學(xué)習(xí)模型構(gòu)建與訓(xùn)練需要大量的計算資源,宜采用高性能服務(wù)器,故本文采用“離線訓(xùn)練+在線應(yīng)用”的方式構(gòu)建IES電、熱、冷多元負荷預(yù)測神經(jīng)網(wǎng)絡(luò)模型,詳細流程如附錄A圖A4所示。首先通過高性能服務(wù)器對模型進行離線構(gòu)建和訓(xùn)練,然后將訓(xùn)練好的模型復(fù)制到對應(yīng)的用戶側(cè)計算機或終端設(shè)備中進行在線應(yīng)用。其中,離線訓(xùn)練階段主要是通過LSTM-MTL網(wǎng)絡(luò)學(xué)習(xí)多個輸入特征和多元負荷間的映射關(guān)系；在線應(yīng)用主要是將當(dāng)前時刻的特征輸入訓(xùn)練好的LSTM-MTL模型中快速得到下一時刻的多元負荷預(yù)測結(jié)果。

離線建模的具體步驟如下。

1）網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)選擇

網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)選擇直接決定了所建立模型的預(yù)測效果。首先依據(jù)所建立模型特征確定部分超參數(shù),然后對剩余超參數(shù)采用隨機追蹤法［24］,利用不同超參數(shù)子空間對網(wǎng)絡(luò)收斂速度影響程度不同,選擇不同的搜索范圍,以加快參數(shù)選擇效率。

2）網(wǎng)絡(luò)模型訓(xùn)練

將多維特征向量作為輸入,負荷預(yù)測數(shù)值作為輸出,自底向上訓(xùn)練網(wǎng)絡(luò),直至迭代到預(yù)設(shè)次數(shù)為止。通過多個隱含層逐層將原始數(shù)據(jù)集中的低維特征轉(zhuǎn)化為高維特征,使模型學(xué)習(xí)到隱含映射關(guān)系。

3）網(wǎng)絡(luò)參數(shù)調(diào)優(yōu)

采用Adam優(yōu)化算法將驗證集特征量輸入訓(xùn)練后的LSTM-MTL網(wǎng)絡(luò)中,將輸出的多元負荷預(yù)測結(jié)果與真實值進行對比并計算損失函數(shù),依據(jù)損失函數(shù)逐代調(diào)整網(wǎng)絡(luò)參數(shù)。

4）性能評估

鑒于所構(gòu)建多元負荷預(yù)測模型在同一時間需要對多個子任務(wù)進行預(yù)測分析,因此本文選用LMAPE、平均精度（mean accuracy,MA）指標(biāo)LMA和權(quán)重平均精度（weighted mean accuracy,WMA）指標(biāo)LWMA為評價指標(biāo)。MAPE可體現(xiàn)預(yù)測模型對每種負荷的預(yù)測性能,WMA可從整體上體現(xiàn)模型對多元負荷預(yù)測的性能,其具體評價指標(biāo)表達式如下:

3 算例分析

3.1 算例描述

本文LSTM-MTL模型構(gòu)建及訓(xùn)練在TensorFlow深度學(xué)習(xí)框架下進行,硬件平臺采用Intel Core i7 CPU和一塊NVDIA RTX 2070 GPU。算例數(shù)據(jù)來源于美國國家可再生能源實驗室官網(wǎng)中的某實際樓宇I(lǐng)ES［26］,該系統(tǒng)由電、熱、冷系統(tǒng)組成,其中熱電聯(lián)產(chǎn)機組、電鍋爐、燃氣鍋爐及電制冷機等設(shè)備作為能量轉(zhuǎn)換設(shè)備滿足不同能源需求。采用1年的實際運行數(shù)據(jù)進行算例分析,具體數(shù)據(jù)如附錄A圖A5所示。訓(xùn)練集、驗證集、測試集按照70%、15%、15%的比例進行劃分,以1 h為步長對未來電、熱、冷負荷進行預(yù)測。

3.2 超參數(shù)選擇與模型構(gòu)建

模型預(yù)測準(zhǔn)確度很大程度上取決于超參數(shù)選擇,本文模型涉及的超參數(shù)主要包括:網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)和優(yōu)化算法超參數(shù)。首先鑒于模型特點以及上文對輸入輸出特征集的設(shè)定,確定每個子輸入序列長度為27,每個子輸出序列長度為1。其次經(jīng)由大量文獻證實所采用的Adam算法可以確定學(xué)習(xí)率α初始值、平滑參數(shù)、子訓(xùn)練樣本集個數(shù)、最大訓(xùn)練次數(shù)等參數(shù),剩余參數(shù)則采用隨機追蹤法進行尋優(yōu)。這樣做可減少神經(jīng)網(wǎng)絡(luò)參數(shù)的尋優(yōu)過程,明顯提高模型構(gòu)建和訓(xùn)練效率。多次試驗記錄的模型最優(yōu)超參數(shù)如附錄A表A2所示。

在模型結(jié)構(gòu)上首先依據(jù)電、熱、冷3類負荷設(shè)置MTL中的3類子任務(wù),分別定義3個子輸入與3個子輸出。其次針對負荷預(yù)測數(shù)據(jù)的強時間序列特性,利用LSTM神經(jīng)網(wǎng)絡(luò)構(gòu)建模型共享層。最后依據(jù)所確定的最優(yōu)超參數(shù)實現(xiàn)LSTM-MTL模型的整體構(gòu)建并對其進行訓(xùn)練,具體的模型結(jié)構(gòu)如附錄A圖A6所示。

3.3 離線訓(xùn)練結(jié)果分析

1）模型離線訓(xùn)練結(jié)果分析

模型構(gòu)建完畢后需對其進行離線訓(xùn)練,在該過程中為了避免后期學(xué)習(xí)率過大導(dǎo)致模型在最優(yōu)解附近來回振蕩而無法收斂的問題,采用學(xué)習(xí)率倍數(shù)衰減方法,即在網(wǎng)絡(luò)訓(xùn)練過程中學(xué)習(xí)率能夠隨訓(xùn)練次數(shù)的增加而逐漸減少。學(xué)習(xí)率隨訓(xùn)練次數(shù)的變化情況如附錄A圖A7所示,由圖A7可知學(xué)習(xí)率初始值設(shè)定為0.01,衰減系數(shù)為0.5,在訓(xùn)練次數(shù)達到210次左右時學(xué)習(xí)率達到了預(yù)設(shè)的最小值0.000 1并穩(wěn)定于此值。

訓(xùn)練集和驗證集預(yù)測精度隨訓(xùn)練次數(shù)變化的情況如附錄A圖A8所示。結(jié)合圖A7和圖A8分析可知,當(dāng)訓(xùn)練次數(shù)小于210次時,由于學(xué)習(xí)率從初始值0.01開始逐漸減少,因此訓(xùn)練集和測試集上的預(yù)測精度也會隨之產(chǎn)生波動,但總體隨訓(xùn)練次數(shù)的增加而提高。當(dāng)訓(xùn)練次數(shù)達到210次后,訓(xùn)練集和測試集的精度基本趨于穩(wěn)定,因為此時學(xué)習(xí)率穩(wěn)定于0.000 1,已能夠準(zhǔn)確找到最優(yōu)解,使模型預(yù)測精度趨于穩(wěn)定。同時還可知模型在訓(xùn)練集和驗證集上的預(yù)測精度十分接近,驗證集預(yù)測精度僅比訓(xùn)練集小約0.4%,說明模型在訓(xùn)練過程中并沒有出現(xiàn)過擬合現(xiàn)象,模型的訓(xùn)練結(jié)果較為合理,具有較強的泛化能力。

電、熱、冷負荷各自平均預(yù)測精度隨訓(xùn)練次數(shù)變化的情況如附錄A圖A9所示。以LMA作為評價指標(biāo),可知熱負荷與冷負荷平均預(yù)測精度隨訓(xùn)練次數(shù)變化情況大致相同且基本維持在96%附近。而電負荷平均預(yù)測精度較熱、冷負荷有一定的差距,主要是因為電負荷較熱、冷負荷來說實時性較強,不具有熱、冷負荷較強的慣性,同時影響因素更多,因此預(yù)測難度更大。訓(xùn)練結(jié)果反映模型在處理多元負荷預(yù)測時與IES實際運行數(shù)據(jù)較為相近,模型離線訓(xùn)練結(jié)果具有可信性。

2）模型耦合信息學(xué)習(xí)可視化解釋

為證實離線訓(xùn)練中LSTM-MTL模型可利用子任務(wù)提供的耦合信息來提升預(yù)測精度,本節(jié)采用附錄A中的沙普利加和解釋技術(shù)（Shapley additive explanation technology,SAET）對神經(jīng)網(wǎng)絡(luò)輸出結(jié)果進行可視化解釋［27］。限于篇幅,僅以冬、夏季典型日電負荷預(yù)測為例進行說明,各輸入特征對預(yù)測結(jié)果的貢獻度如附錄A圖A10所示,其中紅色和藍色部分分別表示特征對預(yù)測值具有正向促進和反向作用；長度表示該特征對預(yù)測值的貢獻度大小。

由附錄A圖A10（a）可知冬季典型日模型預(yù)測平均基準(zhǔn)值為1 385.41 k W,從基準(zhǔn)值到預(yù)測值主要受太陽輻射、溫度、t時刻熱負荷預(yù)測值、t時刻冷負荷預(yù)測值以及前一日t時刻電負荷值等特征量影響。若不考慮熱、冷負荷對電負荷預(yù)測的影響,則模型預(yù)測值為1 423.62 kW,相較于真實值1 814.89 kW的誤差為21.56%。相比之下,采用LSTM-MTL模型后預(yù)測值為1 773.62 k W,誤差為2.32%,預(yù)測精度明顯提高。主要是因為所研究IES在冬季時熱需求較大,而系統(tǒng)內(nèi)部熱量很大一部分來源于電制熱設(shè)備,致使電需求伴隨熱需求的提升而提升,在同一時刻熱負荷預(yù)測對電負荷預(yù)測起到很大程度的正向影響。相反冬季所需冷負荷量小,可直接通過吸收式制冷機滿足供應(yīng)需求,不需要電制冷設(shè)備進行額外供應(yīng),對電負荷預(yù)測具有一定的反向作用。

由附錄A圖A10（b）可知,夏季大量的冷負荷需求致使電負荷需求在一定程度上增大；同時降雨量起到反向作用,因為夏季降雨時刻明顯降低了氣溫,不再需要將大量電制冷設(shè)備投入使用。

通過上述分析可知,所構(gòu)建的LSTM-MTL模型在進行負荷預(yù)測時確實能通過共享層利用其余子任務(wù)提供的耦合信息,隱式增加原任務(wù)數(shù)據(jù)量,進而對原任務(wù)產(chǎn)生不同程度的影響,達到提高模型總體預(yù)測精度和泛化能力的目的。

3.4 不同預(yù)測模型在線應(yīng)用結(jié)果對比分析

1）LSTM-MTL模型與傳統(tǒng)多元負荷預(yù)測模型對比

為突出本文所構(gòu)建模型在IES多元負荷預(yù)測上的優(yōu)勢,本節(jié)將LSTM-MTL模型與現(xiàn)有預(yù)測模型進行對比分析。目前,IES多元負荷預(yù)測方法主要有改進粒子群-小波神經(jīng)網(wǎng)絡(luò)法（IPSO-WNN）［15］和核主成分分析-廣義回歸神經(jīng)網(wǎng)絡(luò)法（KPCAGRNN）［16］等。上 述2種 模 型 均 在Sklearn與TensorFlow環(huán)境下進行復(fù)現(xiàn),預(yù)測數(shù)據(jù)選取測試集中某4天,其中1～48時段為工作日,49～96時段為非工作日。多次試驗后記錄每種模型在測試數(shù)據(jù)上的預(yù)測結(jié)果如圖2和附錄A表A3所示,LSTMMTL模型針對電、熱、冷負荷的小時級MAPE值如圖3所示。

圖2 多元負荷預(yù)測模型的預(yù)測結(jié)果Fig.2 Forecast results of multiple load prediction model

圖3 小時級MAPE值分布Fig.3 Distribution of hourly MAPE values

在預(yù)測精度方面,由圖3和附錄A表A3可知LSTM-MTL模型對電、熱、冷負荷的MAPE預(yù)測誤差僅在個別時間超過3%,總體預(yù)測精度較高。對于WMA值,LSTM-MTL較IPSO-WNN提升4.22%,較KPCA-GRNN提升7.78%。同時經(jīng)圖2分析可知,3類模型的預(yù)測差距主要體現(xiàn)在峰時刻和谷時刻負荷附近,因為IES實際運行過程中峰、谷時刻負荷波動較大,波動較為強烈的時刻預(yù)測難度要明顯高于其他時間段。相比之下,LSTM-MTL預(yù)測效果較好的原因主要表現(xiàn)在以下幾個方面。

①LSTM-MTL模型首先通過子任務(wù)學(xué)習(xí)單一負荷的特征,然后利用共享層學(xué)習(xí)其余子任務(wù)提供的輔助耦合信息,在單一負荷波動較大時能夠有效利用學(xué)習(xí)到的輔助耦合特征來減少預(yù)測誤差,更好地擬合出負荷變化趨勢。而其余2種模型在輸入層不做區(qū)分,所有特征集數(shù)據(jù)采用統(tǒng)一學(xué)習(xí)方式,致使模型需要更多次迭代,學(xué)習(xí)效率和預(yù)測精度較低。

②IPSO-WNN采用小波神經(jīng)網(wǎng)絡(luò),KPCAGRNN采用徑向基神經(jīng)網(wǎng)絡(luò),雖然有助于提高收斂速度與精度,但網(wǎng)絡(luò)結(jié)構(gòu)不具有記憶功能,在處理具有時序特性的負荷數(shù)據(jù)時相較于LSTM網(wǎng)絡(luò)仍有一定的劣勢。

③KPCA-GRNN對原始數(shù)據(jù)進行降維處理,雖然在一定程度上減少了數(shù)據(jù)冗余,提高了模型效率,但卻致使隱藏的部分耦合信息被抹去,模型學(xué)習(xí)不充分。同時鑒于目前IES實際運行數(shù)據(jù)較難獲得、數(shù)據(jù)降維后易出現(xiàn)訓(xùn)練數(shù)據(jù)匱乏等問題,受數(shù)據(jù)量限制,本節(jié)中的KPCA-GRNN預(yù)測精度最低。

在預(yù)測時間方面,由附錄A表A3可知離線訓(xùn)練上3類模型差異較大,其中IPSO-WNN時間最長,KPCA-GRNN時間最短,而在線預(yù)測上3類模型時間較為接近,主要原因如下。

①IPSO-WNN為避免傳統(tǒng)反向傳播（BP）算法易陷入局部最優(yōu)的問題,采用IPSO進行權(quán)值和偏置的更新,但IPSO需要對粒子位置和速度反復(fù)迭代更新才能獲得最優(yōu)值,這明顯加大了模型訓(xùn)練時間,并不適用于離線訓(xùn)練模型。

②KPCA-GRNN通過降維人為簡化了輸入特征集,提高了模型運算效率,因此離線訓(xùn)練時間最短,但卻存在受數(shù)據(jù)量限制預(yù)測精度降低的問題。

③3類模型在線預(yù)測均是在離線訓(xùn)練完畢基礎(chǔ)上進行,雖然LSTM-MTL相較于其余2種模型,網(wǎng)絡(luò)結(jié)構(gòu)更加復(fù)雜,但三者均不屬于大型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型,因此在現(xiàn)有硬件條件支撐下在線預(yù)測時間差距并不明顯。

2）LSTM-MTL模型與單一負荷預(yù)測模型對比

為驗證所構(gòu)建LSTM-MTL模型能有效學(xué)習(xí)多元負荷間的耦合信息,提高負荷預(yù)測精度,本節(jié)將其與單一負荷預(yù)測模型（以LSTM網(wǎng)絡(luò)模型為例）進行對比分析,結(jié)果如附錄A表A4所示?？芍狶STM-MTL模型進行預(yù)測時能夠獲得更高的預(yù)測精度,其中電、熱、冷負荷提高的預(yù)測精度分別為2.5%、2.1%、3.4%。因為模型經(jīng)由共享層學(xué)習(xí)了不同輸入間的復(fù)雜耦合關(guān)系,在預(yù)測某一種負荷時能夠充分利用其余2種負荷提供的輔助信息。

除預(yù)測精度外,本節(jié)還在同樣的計算資源前提下對比兩者的計算量,并以累加時間長短來表征2類模型計算量的多少。2類模型負荷預(yù)測的耗用時間如附錄A表A5所示,可以看出多元負荷預(yù)測在模型訓(xùn)練、預(yù)測上的時間明顯小于單一負荷預(yù)測的累加。這表明多元負荷預(yù)測模型在實際預(yù)測過程中的計算量相對較少,可有效縮小訓(xùn)練、預(yù)測時間,具有更強的工程應(yīng)用價值。

4 結(jié)語

本文將LSTM神經(jīng)網(wǎng)絡(luò)與MTL方法應(yīng)用于IES電、熱、冷多元負荷預(yù)測中,通過“硬共享機制+LSTM共享層”方式構(gòu)建了多元負荷預(yù)測模型框架,通過“離線訓(xùn)練+在線應(yīng)用”方式建立了多元負荷預(yù)測模型,最后經(jīng)由算例分析得出如下結(jié)論。

1）基于LSTM-MTL的多元負荷預(yù)測模型可以通過共享層模擬多元負荷間的耦合特性,學(xué)習(xí)不同子任務(wù)提供的耦合信息,進而達到提升負荷預(yù)測精度的目的。

2）與傳統(tǒng)預(yù)測模型相比,所構(gòu)建的LSTMMTL模型可兼顧IES多類型能源用能特性關(guān)系,在負荷預(yù)測精度和時間上具有更好的應(yīng)用效果。

隨著能源系統(tǒng)的日益交融和人工智能技術(shù)的不斷發(fā)展,使用人工智能進行IES多元負荷預(yù)測必將得到越來越多的重視。鑒于目前國內(nèi)外IES的發(fā)展仍處于初期,其在能源利用和需求方面仍采用較為粗獷的經(jīng)營模式,并未完全考慮價格因素對其優(yōu)化調(diào)度和經(jīng)濟運行的影響,在數(shù)據(jù)獲取上想要獲得與價格相關(guān)的運行數(shù)據(jù)具有一定的難度,因此本文并未將價格因素考慮到負荷預(yù)測中,未來可在本文所提方法的基礎(chǔ)上進一步研究價格因素對IES多元負荷預(yù)測的影響。