国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

一種變分模態(tài)分解與Adam 優(yōu)化的LSTM 電價預(yù)測方法

2022-02-07 09:20:16馬麗瑩魏云冰
智能計算機(jī)與應(yīng)用 2022年12期
關(guān)鍵詞:電價個數(shù)模態(tài)

馬麗瑩,魏云冰

(上海工程技術(shù)大學(xué) 電子電氣工程學(xué)院,上海 201620)

0 引言

電價預(yù)測問題影響著現(xiàn)代電力系統(tǒng)運行的各個過程。這些過程與其他當(dāng)代科學(xué)和工程問題有關(guān),如最優(yōu)電網(wǎng)調(diào)度、能源消耗、能源開發(fā)、溫室氣體排放、電力系統(tǒng)模擬和電力負(fù)荷需求建模[1-2]。因此,電價預(yù)測是電力系統(tǒng)領(lǐng)域的一個牽涉到多學(xué)科的綜合研究課題。但是電價預(yù)測受到多種因素的影響,例如節(jié)假日、溫度、節(jié)日、季節(jié)等,具有一定的波動性。此外,由于電力資源的波動和不平衡有可能造成電力負(fù)荷增加,導(dǎo)致電價升高[3-4]。近年來,許多研究人員已經(jīng)證明,電力相關(guān)預(yù)測是一項艱巨的任務(wù),因為電力需求在很大程度上要取決于多種因素[5-7]。

為了實現(xiàn)對電價的高精度預(yù)測,一些學(xué)者開始提出一些電價預(yù)測的方法,大致可分為2 類:傳統(tǒng)方法和人工智能方法。傳統(tǒng)方法主要包括自回歸綜合移動平均[8]、模糊推理系統(tǒng)[9]和貝葉斯隨機(jī)波動率[10]等方法。由于電價變化較快,具有一定的波動性和非線性,傳統(tǒng)的預(yù)測方法無法取得較好的預(yù)測效果。

為了解決非線性的問題,一些研究人員采用人工智能方法實現(xiàn)電價預(yù)測。例如極限學(xué)習(xí)機(jī)、支持向量機(jī)(support vector machines,SVM)和人工神經(jīng)網(wǎng)絡(luò)等。Shrivastava 等人[11]將極限學(xué)習(xí)機(jī)與小波技術(shù)相結(jié)合提高了電價預(yù)測的精度和可靠性。Yan 等人[12]提出了一種基于多SVM 的中期電力市場出清價格預(yù)測模型。Panapakidis 等人[13]將人工神經(jīng)網(wǎng)絡(luò)與聚類算法相結(jié)合提出了一種混合模型,來實現(xiàn)日前電價預(yù)測。然而,由于電價數(shù)據(jù)具有一定的記憶性、即存在長期依賴關(guān)系,傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)在電價時間序列分析的研究中面臨著一定挑戰(zhàn)。

LSTM 作為一種特殊的RNN,能夠應(yīng)用于長期依賴關(guān)系的序列預(yù)測。Liu 等人[14]利用經(jīng)驗小波變換和LSTM 的混合模型預(yù)測風(fēng)速。實際電價數(shù)據(jù)具有非線性、非平穩(wěn)和長期依賴性的特點,而LSTM 很好地解決了這些問題。Peng 等人[15]在預(yù)測電價時采用了差分進(jìn)化算法來識別LSTM 的參數(shù),并通過實驗驗證了長短時記憶網(wǎng)絡(luò)在電價預(yù)測精度方面明顯優(yōu)于傳統(tǒng)的智能計算方法。其主要原因在于LSTM 能更好地捕捉并處理電價不規(guī)律性的特征?;陔S機(jī)梯度的方法在深度學(xué)習(xí)優(yōu)化領(lǐng)域具有十分重要的實際意義,對預(yù)測的準(zhǔn)確性起著至關(guān)重要的作用。Adam 是一種常見且高效的優(yōu)化算法[16-17],其優(yōu)勢在于對內(nèi)存需求較少,計算效率高,可以很好地處理稀疏梯度,在非線性和非平穩(wěn)設(shè)置下表現(xiàn)出優(yōu)異的性能。該算法可以通過尋找一系列參數(shù)使目標(biāo)函數(shù)最小化來達(dá)到優(yōu)化深度學(xué)習(xí)模型的目的。因此,Adam 優(yōu)化的LSTM 神經(jīng)網(wǎng)絡(luò)被認(rèn)為是預(yù)測電價的有力工具。

將VMD 分解算法和Adma 優(yōu)化的LSTM 神經(jīng)網(wǎng)絡(luò)相結(jié)合用于電價時間序列的分析和預(yù)測是一種比較新穎的想法。VMD 分解方法有效解決了EMD中存在的模態(tài)混疊問題。因此,本文提出了一種基于VMD 和Adam 優(yōu)化的LSTM 網(wǎng)絡(luò)的混合模型,即VMD-Adam-LSTM 模型。通過美國PJM 的電價數(shù)據(jù)來驗證該模型的預(yù)測效果。為了說明該模型的性能,將其與傳統(tǒng)模型和混合模型進(jìn)行了對比來驗證該模型的預(yù)測精度。

本文的框架結(jié)構(gòu)如下所示:第1 節(jié)介紹了VMD分解和Adam 優(yōu)化LSTM 的基本理論;第2 節(jié)詳細(xì)描述了所提出的混合模型;在第3 節(jié)中,給出了電價預(yù)測案例;結(jié)論見第4 節(jié)。

1 基本算法

在本節(jié)中,將介紹提出的混合模型中采用的2 種算法。在1.1 節(jié)中,簡要介紹VMD 分解算法原理,在1.2 節(jié)中介紹Adma 優(yōu)化的LSTM 神經(jīng)網(wǎng)絡(luò)。

1.1 變分模態(tài)分解

2014 年,Dragomiretskiy 等人[18]提出了VMD 方法[18-19]。VMD 方法解決了局部均值分解、經(jīng)驗?zāi)B(tài)分解等方法中存在的模態(tài)混合問題[19]。作為一種非遞歸算法,VMD 將輸入信號同時分解為多個IMF。這里需用到的數(shù)學(xué)公式為:

其中,Ak(t)是uk(t)的瞬時幅值,ωk =?k'(t)是瞬時頻率。約束變分問題描述為:

其中,x(t)是要分解的原始信號;uk,ωk分別是IMF 和中心頻率;“*”是卷積符號。引入懲罰因子a和拉格朗日乘數(shù)λ來解決方程(2)的約束問題:

uk,ωk和λ的更新公式見如下:

1.2 Adma 優(yōu)化的LSTM 神經(jīng)網(wǎng)絡(luò)

LSTM 神經(jīng)網(wǎng)絡(luò)擁有很多層連接的記憶塊,每個記憶塊包含管理塊的輸出門和狀態(tài)門。LSTM 神經(jīng)網(wǎng)絡(luò)具有一定的記憶性,即下一個狀態(tài)的信息不僅與當(dāng)前狀態(tài)有關(guān),還與歷史狀態(tài)有關(guān)。LSTM 每個單元內(nèi)主要包括遺忘門、輸入門和輸出門,如圖1所示。對此擬展開闡釋分述如下。

圖1 LSTM 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig. 1 LSTM neural network structure

(1)遺忘門ft:有條件地決定塊中保留的信息。推得的數(shù)學(xué)公式具體如下:

其中,ωf和bf分別表示權(quán)重矩陣和偏置向量。ht-1是先前狀態(tài)的輸出;xt表示輸入值;σ(·)表示sigmoid函數(shù)。

(2)輸入門it:有條件地確定輸入哪些值來更新記憶狀態(tài)。推得的數(shù)學(xué)公式具體如下:

(3)輸出門ot:根據(jù)輸入和塊記憶有條件地決定輸出。推得的數(shù)學(xué)公式具體如下:

在每個時間t內(nèi),輸入特征由輸入xt和之前隱藏狀態(tài)ht-1計算,并且tanh 函數(shù)取值范圍在-1 到1之間。由此推得的數(shù)學(xué)公式為:

記憶單元由調(diào)節(jié)的輸入特征和前一個記憶單元ct-1的遺忘部分更新。研究推得的公式為:

最終由輸出門ot和記憶單元ct計算得到隱藏狀態(tài)輸出ht。研究用到的公式為:

在式(7)~(12)中,矩陣ωf、ωi、ωo和ωc是權(quán)重矩陣;向量bf、bi、bo和bc是偏置向量;ht-1是前一個隱藏狀態(tài)計算的結(jié)果;ht是t時刻隱藏狀態(tài)的輸出;xt表示輸入信息。

Adam 是一種隨機(jī)梯度下降的一階優(yōu)化算法,在深度學(xué)習(xí)中有著廣泛的用途[20]。該方法的優(yōu)勢在于具有高效的計算能力,對內(nèi)存的需求不高,實現(xiàn)過程中對需要調(diào)節(jié)的參數(shù)較少、且操作原理簡單。Adam 優(yōu)化算法的具體步驟如下所示。

步驟1初始化步長α =0.001,初始化矩估計指數(shù)衰減率β1,β2∈[0,1),這里 取β1=0.9,β2=0.99,設(shè)定誤差值ε =10-8,f(θ)是參數(shù)為θ的隨機(jī)目標(biāo)函數(shù)。這里使用均方誤差,Adam 的目標(biāo)是找到一組使均方誤差最小化的參數(shù)θ。

步驟2初始化第一個矩向量m0=0,第二個矩向量v0=0,初始時間t =0。

步驟3更新參數(shù)。相關(guān)系列公式見如下:

(1)t =t +1

(2)運算得到t時刻的梯度隨機(jī)目標(biāo):gt =?θt f(θt-1)

(3)更新有偏差的第一矩估計:mt =β1·mt-1+(1-β1)·gt

(4)更新有偏差的二階原始矩估計:vt =β2·vt-1+(1-β2)·

(5)計算偏差校正的第一矩估計,即:

(6)計算偏差校正的二階原始矩估計,即:

(7)θt =θt-1-α·

步驟4判斷θt是否收斂,若不收斂,繼續(xù)執(zhí)行步驟3,直到滿足條件時循環(huán)結(jié)束。得到返回值

如這里的Adam 算法所述,首先需要確定參數(shù)α、β1、β2以及隨機(jī)目標(biāo)函數(shù)f(θ),接下來初始化參數(shù)向量、第一個矩向量、第二個矩向量和時間。再進(jìn)行多次循環(huán)迭代,更新計算參數(shù)向量(t、gt、mt、vt、mbt、vbt和θt),當(dāng)參數(shù)θ收斂時則認(rèn)為循環(huán)停止。Adam 通過優(yōu)化目標(biāo)函數(shù)f(θ)適用于LSTM 神經(jīng)網(wǎng)絡(luò),找到一組使均方誤差最小化的參數(shù)。

2 預(yù)測模型

2.1 電價預(yù)測過程

利用VMD 分解和Adam 優(yōu)化LSTM 的混合模型預(yù)測電價的過程大致分為以下6 個步驟:

步驟1本文研究采用美國PJM 電力市場2012 年1 月的節(jié)點邊際電價數(shù)據(jù)進(jìn)行實驗分析,來驗證VMD-Adam-LSTM混合模型的有效性。

步驟2數(shù)據(jù)預(yù)處理。為了進(jìn)一步提高模型對價格序列的預(yù)測精度,根據(jù)3σ準(zhǔn)則對原始數(shù)據(jù)訓(xùn)練集的異常值進(jìn)行處理。通過計算一組電價序列的均值和標(biāo)準(zhǔn)差,并根據(jù)一定的概率確定一個范圍,認(rèn)為超出這個范圍的數(shù)據(jù)屬于異常值,通過3σ準(zhǔn)則剔除異常數(shù)據(jù)。具體計算流程如下:

(1)計算樣本電價數(shù)據(jù)的均值μ和方差σ2。

(2)根據(jù)3σ準(zhǔn)則判斷數(shù)據(jù)是否在(μ -3σ,μ +3σ)范圍內(nèi)。超出范圍則剔除異常數(shù)據(jù)。

步驟3電價數(shù)據(jù)的VMD 分解。由式(2)可知,VMD 方法的輸入不僅是原始信號,還需要確定參數(shù)K的具體值。K決定了分解過程中提取的模態(tài)數(shù)量。如果提取模態(tài)太多,會導(dǎo)致精度降低和計算復(fù)雜性變大。但是,如果模態(tài)數(shù)量太少,模態(tài)中包含的信息不足以訓(xùn)練出具有較高精度的預(yù)測模型。因此,如何為K選擇一個合適值是非常重要的。本文通過中心頻率確定VMD 分解個數(shù)K,并對分解后K個IMF和殘差進(jìn)行預(yù)測。

步驟4Adam 優(yōu)化的LSTM 模型預(yù)測。經(jīng)過上述VMD 分解后,利用LSTM 神經(jīng)網(wǎng)絡(luò)對VMD 分解后的時間序列進(jìn)行訓(xùn)練和預(yù)測,從而得到更準(zhǔn)確的預(yù)測結(jié)果。該網(wǎng)絡(luò)采用單輸入/單輸出的結(jié)構(gòu),隱含層個數(shù)為4,使用默認(rèn)的sigmoid激活函數(shù)。網(wǎng)絡(luò)訓(xùn)練1 000 個周期,前一時刻步長作為輸入變量來預(yù)測下一個時刻的數(shù)據(jù)。作為一種高效的隨機(jī)梯度優(yōu)化器,Adam 被用于LSTM 的電價預(yù)測中。

步驟5計算原始電價預(yù)測結(jié)果。由式(2)的約束條件可知,將K個IMF分別預(yù)測的結(jié)果和殘差預(yù)測的結(jié)果相加,即為原始電價預(yù)測結(jié)果。

步驟6預(yù)測模型評估。將預(yù)測結(jié)果與實際電價數(shù)據(jù)比較,計算3 種評估指標(biāo),研究內(nèi)容詳見第3節(jié)。

根據(jù)上述預(yù)測步驟,基于VMD 分解和Adam 優(yōu)化LSTM 神經(jīng)網(wǎng)絡(luò)的混合模型預(yù)測電價的過程如圖2 所示。

圖2 基于VMD-Adam-LSTM 混合預(yù)測模型流程圖Fig. 2 Flow chart of VMD-Adam-LSTM hybrid prediction model

2.2 評估指標(biāo)

為了評估預(yù)測模型的精度,使用平均絕對誤差(mean absolute error,MAE)、均方根誤差(root mean square error,RMSE)和R2的典型誤差評估指標(biāo)。對此可做探討闡述如下。

(1)MAE。反映了絕對誤差的平均值。MAE越小,預(yù)測越準(zhǔn)確,推得的數(shù)學(xué)公式可寫為:

其中,x(t)為t時刻的原始電價數(shù)據(jù);為t時刻的預(yù)測電價;m為預(yù)測點數(shù)。

(2)RMSE。描述了預(yù)測誤差的離散程度。RMSE越小,預(yù)測越準(zhǔn)確。推得的數(shù)學(xué)公式可寫為:

(3)R2。是擬合程度的統(tǒng)計,反映了解釋的程度。R2結(jié)果越接近1,預(yù)測精度越高。推得的數(shù)學(xué)公式可寫為:

其中,是x(t)的均值。

3 算例分析

3.1 數(shù)據(jù)介紹

為了驗證本文提出的VMD-Adam-LSTM 混合模型的有效性,采用美國PJM 電力市場2012 年1月的節(jié)點邊際電價數(shù)據(jù)進(jìn)行實驗仿真驗證。在此數(shù)據(jù)采集過程中,每隔1 h 統(tǒng)計得到一個電價數(shù)據(jù),選取1 月份前30 天的數(shù)據(jù)、共計720 個數(shù)據(jù)作為實驗數(shù)據(jù)。

3.2 VMD 分解和模態(tài)個數(shù)的確定

不同模態(tài)個數(shù)會直接影響預(yù)測結(jié)果,因此在采用VMD 算法對電價數(shù)據(jù)進(jìn)行模態(tài)分解之前,需要先確定分解的模態(tài)個數(shù)。如果分解的模態(tài)個數(shù)較少,可能導(dǎo)致原始電價數(shù)據(jù)的信息丟失;如果模態(tài)個數(shù)較多,相鄰IMF分量的中心頻率較近還可能出現(xiàn)頻率混疊,也會導(dǎo)致精度降低和計算復(fù)雜性較高。根據(jù)中心頻率不宜較近的方法選擇合適的模態(tài)個數(shù),通過比較較為接近的2 個中心頻率之間的差值,如果較小則不能選擇此次分解的模態(tài)個數(shù)。將原始電價數(shù)據(jù)通過3σ準(zhǔn)則對異常值處理后經(jīng)VMD 分解,得到不同模態(tài)個數(shù)下的中心頻率,其計算結(jié)果見表1。

表1 不同模態(tài)個數(shù)下VMD 分解的中心頻率Tab.1 Center frequency of VMD decomposition under different number of modes

從表1 中可以看出IMF個數(shù)為5 時,中心頻率2 828和3 048 較為接近,可能造成頻率混疊。因此選擇分解的模態(tài)個數(shù)為4,具體分解結(jié)果如圖3 所示。

圖3 電價數(shù)據(jù)的VMD 分解結(jié)果Fig. 3 VMD decomposition results of electricity price data

3.3 預(yù)測結(jié)果與評估

接下來,采用Adam 優(yōu)化的LSTM 分別對各個IMF分量和殘差進(jìn)行預(yù)測。選取前29 天數(shù)據(jù)、即0到696 h,作為訓(xùn)練集,最后一天697 到720 h 數(shù)據(jù)作為測試集。LSTM 神經(jīng)網(wǎng)絡(luò)采用單輸入/單輸出的方式,隱含層個數(shù)為4,隱含層神經(jīng)元個數(shù)為10,激勵函數(shù)為sigmoid函數(shù)。將4 個IMF分量預(yù)測結(jié)果和殘差預(yù)測結(jié)果相加得到原始電價數(shù)據(jù)的預(yù)測結(jié)果。

為了驗證本文提出的VMD-Adam-LSTM 混合模型的有效性,分別與單一的LSTM 預(yù)測模型和EMD-Adam-LSTM 混合預(yù)測模型相比,其預(yù)測結(jié)果如圖4 所示。3 種預(yù)測模型的預(yù)測誤差結(jié)果見表2。

圖4 不同模型的電價預(yù)測結(jié)果Fig. 4 Electricity price prediction results of different models

表2 3 種預(yù)測模型誤差結(jié)果Tab.2 Error results of the three prediction models

從圖4 和表2 中可以看出,LSTM 預(yù)測模型對電價的擬合效果最低,VMD-Adam-LSTM 混合模型相比于EMD-Adam-LSTM 混合模型的擬合效果更高。究其原因則在于LSTM 是單一的預(yù)測模型,沒有對原始電價數(shù)據(jù)進(jìn)行預(yù)處理,而VMD 相對于EMD 分解方法更能抑制模態(tài)混疊問題,使預(yù)測精度提高。

4 結(jié)束語

本文提出了一種VMD-Adam-LSTM 混合模型,并采用美國PJM 的電價數(shù)據(jù)進(jìn)行實驗驗證。

該混合模型具有LSTM 能夠處理非線性和長依賴性時間序列的特點,同時也結(jié)合了VMD 相對于EMD 更能抑制模態(tài)混疊的優(yōu)點。在VMD 分解時,通過比較中心頻率選擇合適的IMF分量個數(shù),防止過擬合現(xiàn)象的發(fā)生。在數(shù)據(jù)預(yù)處理時,采用3σ準(zhǔn)則避免了異常值的影響。實驗結(jié)果表明,本文提出的VMD-Adam-LSTM 混合模型相比于單一的LSTM模型和EMD-Adam-LSTM 混合模型,具有更高的預(yù)測精度,驗證了該模型的有效性和準(zhǔn)確性。

猜你喜歡
電價個數(shù)模態(tài)
怎樣數(shù)出小正方體的個數(shù)
等腰三角形個數(shù)探索
怎樣數(shù)出小木塊的個數(shù)
德國:電價上漲的背后邏輯
能源(2018年10期)2018-12-08 08:02:40
怎樣數(shù)出小正方體的個數(shù)
探索電價改革
商周刊(2018年16期)2018-08-14 01:51:52
可再生能源電價附加的收支平衡分析
爭議光伏標(biāo)桿上網(wǎng)電價
能源(2016年11期)2016-05-17 04:57:24
國內(nèi)多模態(tài)教學(xué)研究回顧與展望
基于HHT和Prony算法的電力系統(tǒng)低頻振蕩模態(tài)識別
沙洋县| 镇安县| 临汾市| 伊春市| 沁水县| 渭源县| 大足县| 通化市| 基隆市| 宁远县| 肃宁县| 桐柏县| 昌吉市| 许昌市| 白河县| 三江| 通许县| 琼结县| 大足县| 连平县| 宜昌市| 黄梅县| 绍兴市| 桐城市| 法库县| 额尔古纳市| 台前县| 海伦市| 迁西县| 淳化县| 崇阳县| 清苑县| 广东省| 廊坊市| 安陆市| 陕西省| 凌源市| 盱眙县| 阿巴嘎旗| 佳木斯市| 厦门市|