蘇義鑫, 夏慧雯
(武漢理工大學(xué)自動(dòng)化學(xué)院, 武漢 430070)
?
用于風(fēng)電功率預(yù)測(cè)的RPCL優(yōu)化神經(jīng)網(wǎng)絡(luò)模型
蘇義鑫, 夏慧雯
(武漢理工大學(xué)自動(dòng)化學(xué)院, 武漢430070)
為了提高風(fēng)電功率預(yù)測(cè)的準(zhǔn)確度,提出了一種基于對(duì)手競(jìng)爭(zhēng)懲罰學(xué)習(xí)算法(rival penalized competitive learning,RPCL)優(yōu)化徑向基函數(shù)(radial basis function,RBF)神經(jīng)網(wǎng)絡(luò)的風(fēng)電功率預(yù)測(cè)模型. 首先通過(guò)RPCL確定網(wǎng)絡(luò)隱含層神經(jīng)元數(shù)目以及中心點(diǎn)初始值,然后由K均值聚類(lèi)法確定隱含層神經(jīng)元的中心點(diǎn)和寬度,最后通過(guò)最小均值算法確定隱含層神經(jīng)元與輸出層神經(jīng)元之間的權(quán)值. 仿真結(jié)果表明:此優(yōu)化模型相較于傳統(tǒng)RBF網(wǎng)絡(luò)具有更高的準(zhǔn)確性.
風(fēng)電功率預(yù)測(cè); 對(duì)手競(jìng)爭(zhēng)懲罰學(xué)習(xí)算法; RBF神經(jīng)網(wǎng)絡(luò);K均值聚類(lèi)
近年來(lái),隨著化石能源的逐漸枯竭,風(fēng)能作為清潔的可再生能源,得到了大規(guī)模的發(fā)展. 與此同時(shí)國(guó)內(nèi)外關(guān)于風(fēng)電的課題研究也越來(lái)越深入,但其中風(fēng)電功率預(yù)測(cè)的精度還沒(méi)達(dá)到令人滿(mǎn)意的程度[1].
由于風(fēng)力發(fā)電主要使用的是近地風(fēng)能,風(fēng)電功率具有很強(qiáng)的隨機(jī)性,因此,大規(guī)模的風(fēng)電場(chǎng)并網(wǎng)會(huì)影響電網(wǎng)的穩(wěn)定性和供電系統(tǒng)的可靠性. 只有通過(guò)準(zhǔn)確地預(yù)測(cè)風(fēng)電場(chǎng)風(fēng)電功率,為電力調(diào)度部門(mén)及時(shí)調(diào)整調(diào)度計(jì)劃提供可靠的依據(jù),才能使電力供需達(dá)到平衡,減小風(fēng)電場(chǎng)對(duì)電網(wǎng)的影響. 同時(shí)也會(huì)大幅降低電網(wǎng)的備用容量,減少電力系統(tǒng)運(yùn)行成本.
目前風(fēng)電功率的預(yù)測(cè)方法主要分為物理法、統(tǒng)計(jì)法(時(shí)間序列法、回歸分析法等)和學(xué)習(xí)法(支持向量機(jī)、小波分析和神經(jīng)網(wǎng)絡(luò)等). 徑向基函數(shù)(radial basis function,RBF)神經(jīng)網(wǎng)絡(luò)具有逼近任意非線(xiàn)性映射的能力,已廣泛應(yīng)用于各種領(lǐng)域,但是其網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)的選取仍沒(méi)有系統(tǒng)的方法來(lái)確定. 本文利用基于對(duì)手競(jìng)爭(zhēng)懲罰學(xué)習(xí)(rival penalized competitive learning,RPCL)算法的K均值聚類(lèi)對(duì)數(shù)據(jù)進(jìn)行處理,確定隱含層的中心. 其中,RPCL[2-4]是由Xu等在1993年提出的次勝單元受到懲罰的學(xué)習(xí)機(jī)制,具有優(yōu)良的算法性能,能確定數(shù)據(jù)樣本的合理聚類(lèi)數(shù),現(xiàn)已被廣泛應(yīng)用于各種領(lǐng)域,如圖像處理[5-6]、語(yǔ)音識(shí)別[7]等. 然后,通過(guò)最小均值算法確定網(wǎng)絡(luò)權(quán)值. 最后,利用中國(guó)某風(fēng)電場(chǎng)的風(fēng)電功率數(shù)據(jù)進(jìn)行建模和預(yù)測(cè)實(shí)驗(yàn),仿真結(jié)果顯示:該方法具有較高地預(yù)測(cè)精度.
RBF神經(jīng)網(wǎng)絡(luò)屬于前向網(wǎng)絡(luò),由輸入層、中間層和輸出層組成,其網(wǎng)絡(luò)拓?fù)鋱D如圖1所示. 從圖1可以看到,每層的神經(jīng)元接受上層傳出的信息后單向向下層傳輸,同層的神經(jīng)元之間沒(méi)有信息傳輸,不同層之間也沒(méi)有反饋. Kolmogorov理論表明:具有合適的網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值的三層前向神經(jīng)網(wǎng)絡(luò)可以逼近任意精度的函數(shù)[8].
RBF神經(jīng)網(wǎng)絡(luò)的徑向基函數(shù)一般采用高斯激活函數(shù),其表現(xiàn)形式(也就是隱含層節(jié)點(diǎn)的輸出)為
(1)
式中:m、k、n分別為網(wǎng)絡(luò)輸入層、隱含層和輸出層的節(jié)點(diǎn)數(shù)(神經(jīng)元數(shù));x={x1,x2,…,xm},為m維的輸入樣本;Ri(x)為隱含層第i個(gè)節(jié)點(diǎn)的輸出;ci為隱含層第i個(gè)節(jié)點(diǎn)高斯函數(shù)的中心;σi為隱含層第i個(gè)節(jié)點(diǎn)高斯函數(shù)的寬度;‖x-ci‖為歐式范數(shù),表示x和ci之間的距離. 從式(1)可以看出,Ri的輸出范圍為0~1,當(dāng)輸入樣本離節(jié)點(diǎn)中心越近,相應(yīng)節(jié)點(diǎn)的輸出值就越大,在x=ci時(shí),輸出值為1.
根據(jù)RBF神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),可以得到網(wǎng)絡(luò)的輸出為
(2)
式中:y是輸出層節(jié)點(diǎn)的輸出,在本文風(fēng)電功率預(yù)測(cè)中只有一個(gè)輸出;ωi為隱含層第i個(gè)節(jié)點(diǎn)與輸出層節(jié)點(diǎn)之間的權(quán)值.
RBF神經(jīng)網(wǎng)絡(luò)需要確定3個(gè)重要參數(shù):基函數(shù)的中心ci、第i個(gè)神經(jīng)元寬度σi和輸出層的權(quán)值ωi. 現(xiàn)有很多聚類(lèi)分析方法用來(lái)確定網(wǎng)絡(luò)的中心初始值,其中K均值聚類(lèi)算法使用最為廣泛[9-10]. 給定一個(gè)數(shù)據(jù)點(diǎn)集合和聚類(lèi)數(shù)目K值(用戶(hù)自己指定),K均值聚類(lèi)算法根據(jù)某個(gè)距離函數(shù)將所有數(shù)據(jù)點(diǎn)分入K個(gè)聚類(lèi)中,能夠比較準(zhǔn)確地確定聚類(lèi)中心. 但是傳統(tǒng)的K均值聚類(lèi)算法存在2個(gè)重要的問(wèn)題:一是需要提前給定K的數(shù)值;二是初始聚類(lèi)中心對(duì)聚類(lèi)結(jié)果影響較大,有可能收斂到局部最優(yōu)解,而不是全局最優(yōu)解. 本文采用RPCL算法來(lái)解決K均值聚類(lèi)算法中的2個(gè)問(wèn)題:確定合適的聚類(lèi)數(shù)目K和理想的初始聚類(lèi)中心[11-12].
RPCL算法的基本思想為:每個(gè)輸入樣本將競(jìng)爭(zhēng)獲勝單元引向它的同時(shí)將次勝單元推開(kāi),最終,算法可自動(dòng)地確定最佳聚類(lèi)數(shù)目. 同時(shí)也有不少學(xué)者對(duì)RPCL算法進(jìn)行了各種改進(jìn),如RPCL算法在節(jié)點(diǎn)距離調(diào)節(jié)時(shí),輸入數(shù)據(jù)的幾何結(jié)構(gòu)會(huì)對(duì)距離調(diào)整產(chǎn)生影響,謝娟英等[13]將樣本分布密度引入進(jìn)行節(jié)點(diǎn)距離調(diào)整,結(jié)果表明基于密度的RPCL算法在大數(shù)據(jù)集上表現(xiàn)優(yōu)良,而在小規(guī)模數(shù)據(jù)集上傳統(tǒng)的RPCL更優(yōu). 由于風(fēng)電功率預(yù)測(cè)所用數(shù)據(jù)屬于小規(guī)模數(shù)據(jù)集,因此,本文使用標(biāo)準(zhǔn)RPCL算法來(lái)進(jìn)行聚類(lèi).
給定數(shù)據(jù)集X={x1,x2,…,xN},其中樣本xl=[xl1,xl2,…,xlm],l=1,2,…,N. 預(yù)先設(shè)置有k個(gè)節(jié)點(diǎn),一個(gè)節(jié)點(diǎn)表示一個(gè)類(lèi)簇,將類(lèi)簇的中心記為ci,i=1,2,…,k;節(jié)點(diǎn)i的輸出值為ui∈{-1,0,1}. 當(dāng)節(jié)點(diǎn)i為獲勝節(jié)點(diǎn)時(shí),ui=1,被輸入樣本吸引;當(dāng)節(jié)點(diǎn)i為次勝節(jié)點(diǎn)時(shí),ui=-1,被輸入樣本所排斥;除此之外,其他節(jié)點(diǎn)的輸出為ui=0,將不受輸入樣本的影響. 具體步驟如下:
步驟2從數(shù)據(jù)集中隨機(jī)選取樣本xl,有
ui=
(3)
步驟3更新聚類(lèi)中心ci
ci=ci+Δci
(4)
(5)
式中:αs和βr分別是競(jìng)爭(zhēng)獲勝單元和次勝單元的學(xué)習(xí)率,大小為0~1,通常αs遠(yuǎn)遠(yuǎn)大于βr. 每次修改聚類(lèi)中心后,將ci中的數(shù)據(jù)與閾值δ1進(jìn)行比較,這是因?yàn)樵陲L(fēng)電功率預(yù)測(cè)模型中,輸入數(shù)據(jù)會(huì)先進(jìn)行歸一化處理,所以這里的δ1應(yīng)為1. 若ci中有數(shù)據(jù)超出δ1,則此節(jié)點(diǎn)無(wú)意義,將其刪除.
步驟4將t值加1,若算法收斂或t>T,算法結(jié)束;否則轉(zhuǎn)2)繼續(xù)迭代.
步驟5統(tǒng)計(jì)每個(gè)中心成為獲勝節(jié)點(diǎn)的累加數(shù)量,如果該數(shù)值比閾值δ2(用于刪除冗余項(xiàng))小則刪除該節(jié)點(diǎn).
步驟6輸出滿(mǎn)足條件的節(jié)點(diǎn)數(shù)以及相應(yīng)中心點(diǎn).
經(jīng)過(guò)上述分析,RPCL優(yōu)化的神經(jīng)網(wǎng)絡(luò)模型(RPCL-RBF)可以按以下幾個(gè)基本步驟進(jìn)行.
步驟1樣本數(shù)據(jù)進(jìn)行歸一化處理
x′li=(xli-vmin)/(vmin-vmax)
i=1,2,…,m;l=1,2,…,N
(6)
式中:xli、x′li分別為數(shù)據(jù)轉(zhuǎn)換前、后的值;vmin、vmax分別為i維樣本數(shù)據(jù)的最大值和最小值.
步驟2利用RPCL算法對(duì)歸一化的樣本數(shù)據(jù)進(jìn)行處理,得到隱含層節(jié)點(diǎn)數(shù)和相應(yīng)的中心點(diǎn).
步驟3將上一步的輸出作為K均值聚類(lèi)算法的最佳聚類(lèi)數(shù)目K和初始聚類(lèi)中心ci(0),i=1,2,…,k.
步驟4計(jì)算每個(gè)樣本到各中心的距離
di=‖x′l-ci(u)‖
(7)
然后將其分配到距離最近的聚類(lèi)中心
步驟5重新計(jì)算聚類(lèi)中心:
(8)
式中:X′i為距離該中心點(diǎn)i最近的樣本點(diǎn)集;n為該樣本集中樣本點(diǎn)的個(gè)數(shù). 判斷新的聚類(lèi)中心有無(wú)變化,若無(wú)變化,則算法結(jié)束;否則,轉(zhuǎn)到步驟4繼續(xù)迭代.
步驟6將K均值聚類(lèi)算法得到的結(jié)果作為RBF神經(jīng)網(wǎng)絡(luò)的中心,K均值聚類(lèi)屬于自組織選擇法,在基函數(shù)為高斯函數(shù)時(shí),可按
(9)
σi=λdi
(10)
計(jì)算網(wǎng)絡(luò)的基函數(shù)寬度. 式中λ為重疊系數(shù).
步驟7采用遞推最小均方誤差(least mean square,LMS)來(lái)訓(xùn)練權(quán)值wi:
(11)
wi(v+1)=wi(v)+Δwi(v)
(12)
步驟8用訓(xùn)練好的RBF神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行風(fēng)電功率預(yù)測(cè).
本文采用中國(guó)某一風(fēng)電場(chǎng)某年5月10日至6月6日這段時(shí)間內(nèi)風(fēng)電機(jī)組輸出功率的歷史數(shù)據(jù)作為學(xué)習(xí)樣本,不考慮天氣影響. 該數(shù)據(jù)集每隔15 min采集1次,將這些數(shù)據(jù)作為原始時(shí)間序列,利用前3個(gè)小時(shí)(12個(gè)點(diǎn))的數(shù)據(jù)來(lái)預(yù)測(cè)第13個(gè)點(diǎn)的數(shù)據(jù),如式(14)所示.
Xt=(x(t),x(t+1),…,x(t+11))
t=1,2,…,2 677
(13)
f(Xt)=x(t+12)
(14)
將時(shí)間序列的前27天的2 592個(gè)數(shù)據(jù)作為訓(xùn)練數(shù)據(jù),將第28天的96個(gè)數(shù)據(jù)作為測(cè)試數(shù)據(jù). 在Matlab環(huán)境下建立RPCL-RBF模型,然后用測(cè)試數(shù)據(jù)來(lái)驗(yàn)證訓(xùn)練好的網(wǎng)絡(luò),實(shí)際輸出與RBF網(wǎng)絡(luò)預(yù)測(cè)輸出對(duì)比如圖2所示.
本文RPCL-RBF模型是對(duì)K均值聚類(lèi)RBF模型神經(jīng)網(wǎng)絡(luò)模型的進(jìn)一步優(yōu)化. 為了突出經(jīng)過(guò)RPCL優(yōu)化后的模型具有更準(zhǔn)確的預(yù)測(cè)效果,將RPCL-RBF模型與K均值聚類(lèi)RBF模型的預(yù)測(cè)結(jié)果進(jìn)行比較,其中為避免其他因素影響,將K均值聚類(lèi)RBF選取與RPCL-RBF模型相同的隱含層初始個(gè)數(shù)以及初始中心. 2個(gè)模型的相對(duì)誤差對(duì)比情況如圖3所示.
從圖3可以明顯地看出,RPCL-RBF模型整體的相對(duì)誤差比K均值聚類(lèi)RBF模型的相對(duì)誤差要小. 為了進(jìn)一步說(shuō)明RPCL-RBF模型的適用性,本文將其與誤差反向傳播(back propagation,BP)模型、RBF模型和K均值聚類(lèi)的RBF模型進(jìn)行對(duì)比,為避免其他因素影響,對(duì)比的3種模型選取與RPCL-RBF模型相同的網(wǎng)絡(luò)結(jié)構(gòu)即隱含層神經(jīng)元個(gè)數(shù)相同,并從以下幾個(gè)方面來(lái)對(duì)模型進(jìn)行衡量:首先,從統(tǒng)計(jì)的角度由根均方誤差(root mean square error,RMSE)和平均絕對(duì)百分誤差(mean absolute percentage error,MAPE)來(lái)衡量模型的好壞;然后,從國(guó)家能源局發(fā)布的風(fēng)電場(chǎng)功率預(yù)測(cè)考核指標(biāo)[14]即發(fā)電預(yù)測(cè)的準(zhǔn)確率r1來(lái)衡量預(yù)測(cè)的可靠性;最后,從算法運(yùn)行的時(shí)間來(lái)衡量模型的可應(yīng)用性. 具體數(shù)據(jù)列于表1中. 其中算法運(yùn)行時(shí)間主要包括2個(gè)部分:離線(xiàn)訓(xùn)練時(shí)間和在線(xiàn)預(yù)測(cè)時(shí)間. 但是在模型設(shè)計(jì)中后者比前者更為重要,這是由于神經(jīng)網(wǎng)絡(luò)在離線(xiàn)訓(xùn)練時(shí)可以有足夠的時(shí)間調(diào)整參數(shù)使其得到最佳模型,因此,本文主要對(duì)比的是模型在預(yù)測(cè)風(fēng)電功率時(shí)所用的時(shí)間.
表1 各項(xiàng)指標(biāo)的比較
從表1可以看出,與常用的幾種神經(jīng)網(wǎng)絡(luò)模型相比,RPCL-RBF模型的RMSE和MAPE值最小,準(zhǔn)確率r1最高,且預(yù)測(cè)所用時(shí)間最短.
1) 采用了一種由RPCL和K均值聚類(lèi)算法組合優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)模型進(jìn)行風(fēng)電功率預(yù)測(cè). 相比于K均值聚類(lèi)RBF模型,RPCL-RBF模型可以先確定合適的聚類(lèi)數(shù)目K和理想的初始聚類(lèi)中心,使得預(yù)測(cè)結(jié)果更加精確.
2) 通過(guò)對(duì)中國(guó)某風(fēng)電場(chǎng)的實(shí)際運(yùn)行數(shù)據(jù)進(jìn)行建模和預(yù)測(cè)實(shí)驗(yàn),RPCL-RBF算法的準(zhǔn)確度高于常用的BP算法、RBF算法和K均值聚類(lèi)RBF算法,且用時(shí)更少,證明了本文方法的可行性和有效性.
[1] 王麗婕, 廖曉鐘, 高陽(yáng), 等. 風(fēng)電場(chǎng)發(fā)電功率的建模與預(yù)測(cè)研究綜述[J]. 電力系統(tǒng)保護(hù)與控制, 2009, 37(13): 118-121.
WANG L J, LIAO X Z, GAO Y, et al. Summarization of modeling and prediction of wind power generation[J]. Power System Protection and Control, 2009, 37(13): 118-121. (in Chinese)
[2] AHALT S C, KRISHNAMURTHY A K, CHEN P, et al. Competitive learning algorithms for vector quantization[J]. Neural Networks, 1990, 3(3): 277-290.
[3] XU L, KRZYZAK A, OJA E. Rival penalized competitive learning for clustering analysis, RBF net, and curve detection[J]. IEEE Transactions on Neural Networks, 1993, 4(4): 636-649.
[4] CHEUNG Y M. On rival penalization controlled competitive learning for clustering with automatic cluster number selection[J]. IEEE Transactions on Knowledge and Data Engineering, 2005, 17(11): 1583-1588.
[5] 李濤, 裴文江, 王少華, 等. 競(jìng)爭(zhēng)與動(dòng)態(tài)合作學(xué)習(xí)聚類(lèi)分析算法[J]. 哈爾濱工程大學(xué)學(xué)報(bào), 2010, 31(1): 102-108.
LI T, PEI W J, WANG S H, et al. Competitive and dynamic cooperative learning algorithm[J]. Journal of Harbin Engineering University, 2010, 31(1): 102-108. (in Chinese)
[6] 李桂枝, 安成萬(wàn), 張永謙, 等. 基于模糊熵和RPCL的彩色圖像聚類(lèi)分割[J]. 中國(guó)圖像圖形學(xué)報(bào), 2005, 10(10): 1264-1268.
LI G Z, AN C W, ZHANG Y Q, et al. Color image clustering segmentation based on fuzzy entropy and RPCL[J]. Journal of Image and Graph, 2005, 10(10): 1264-1268. (in Chinese)
[7] 李昕, 費(fèi)敏銳. 用改進(jìn)的RPCL和EM算法確定EBF網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)的策略及其應(yīng)用[J]. 模式識(shí)別與人工智能, 2003, 16(2): 204-207.
LI X, FEI M R. Combining improved RPCL and EM algorithm to determine the EBF architecture and parameters with its application[J]. Pattern Recognition and Artificial Intelligence, 2003, 16(2): 204-207. (in Chinese)
[8] HORNICK K, STICHCOMBE M, WHITE H. Multilayer feed forward networks are universal approximators[J]. Neural Network, 1989, 2: 359-366.
[9] 張彬. 基于聚類(lèi)算法的RBF神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)綜述[J]. 微型機(jī)與應(yīng)用, 2012, 31(12): 1-3.
ZHANG B. Overview on design of RBF network based on fuzzy clustering[J]. Microcomputer & Its Applicatons, 2012, 31(12): 1-3. (in Chinese)
[10] XIE J Y, JIANG S, XIE W X, et al. An efficient globalK-means clustering algorithm[J]. Journal of Computers, 2011, 6(2): 271-279.
[11] 謝娟英, 郭文娟, 謝維信, 等. 基于樣本空間分布密度的初始聚類(lèi)中心優(yōu)化K均值算法[J]. 計(jì)算機(jī)應(yīng)用研究, 2012, 29(3): 888-892.
XIE J Y, GUO W J, XIE W X, et al.K-Means clustering algorithm based on optimal initial centers related to pattern distribution of samples in space[J]. Application Research of Computers, 2012, 29(3): 888-892. (in Chinese)
[12] 沈佳杰, 江紅, 王肅. 聚類(lèi)中心計(jì)數(shù)值和全局距離變量RPCL算法[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2014, 35(5): 1811-1815.
SHEN J J, JIANG H, WANG S. Improving RPCL algorithm based on cluster center counts and global distance vector[J]. Computer Engineering and Design, 2014, 35(5): 1811-1815. (in Chinese)
[13] 謝娟英, 郭文娟, 謝維信, 等. 基于密度RPCL的K-means算法[J]. 西北大學(xué)學(xué)報(bào)(自然科學(xué)版), 2012, 42(4): 570-576.
XIE J Y, GUO W J, XIE W X, et al. A density RPCL basedK-means algorithm[J]. Journal of Northwest University(Natural Science Edition), 2012, 42(4): 570-576. (in Chinese)
[14] 國(guó)家能源局. 風(fēng)電場(chǎng)功率預(yù)測(cè)預(yù)報(bào)管理暫行辦法[J]. 太陽(yáng)能, 2011(14): 6-7.
National Energy Administration. Interim management of wind power generation prediction[J]. Solar Energy, 2011(14): 6-7. (in Chinese)
(責(zé)任編輯呂小紅)
Rival Penalized Competitive Learning-based Neural Network Model for Wind Power Forecasting
SU Yixin, XIA Huiwen
(School of Automation, Wuhan University of Technology, Wuhan 430070, China)
For increasing the accuracy of wind power forecasting, a rival penalized competitive learning-based radial basis function (RBF) neural network model was presented. Firstly the number of neural network hidden-layer-nodes and its initial center values were determined by rival penalized competitive learning. And then the width of RBF and the center values of network were identified accurately throughK-means clustering. At last,appropriate weights of network were estimated by least mean square. The forecasting result shows that the presented model can lead to more accurate forecasting compared with the traditional neural network.
wind power forecasting; rival penalized competitive learning algorithm; radial basis function neural network;K-means clustering
2015- 11- 10
湖北省自然科學(xué)基金資助項(xiàng)目(2015CFB586)
蘇義鑫(1965—), 男, 教授, 主要從事智能控制理論與應(yīng)用、智能系統(tǒng)關(guān)鍵技術(shù)方面的研究, E-mail:suyixin@whut.edu.cn
TM 614
A
0254-0037(2016)05-0674-05
10.11936/bjutxb2015110029
北京工業(yè)大學(xué)學(xué)報(bào)2016年5期