李強,唐鋒,陳卓,胡晨賀
(雅礱江流域水電開發(fā)有限公司,成都 610000)
Elman神經網絡在水電站入庫流量短期預測中的應用
李強,唐鋒,陳卓,胡晨賀
(雅礱江流域水電開發(fā)有限公司,成都 610000)
Elman神經網絡具有適應時變特性的能力,對歷史數(shù)據具有敏感性,具備自主學習的優(yōu)勢,能以任意精度逼近任意非線性映射。梯度下降法可使函數(shù)具有單調遞減性、梯度收斂于0等特點。采用梯度下降法和Elman神經網絡相結合的方法進行水電站入庫流量短期預測,比傳統(tǒng)的Back Propagation神經網絡預測精度具有明顯的優(yōu)勢。
Elman;神經網絡;梯度下降法;預測;入庫流量
入庫流量是汛期運行人員重點關注的數(shù)據之一,防洪度汛方案的編制、梯級水庫調度圖編制、洪水預測、電站水位控制及發(fā)電經濟效益評價都需要參考入庫流量[1]。入庫流量受27類氣象因子、11個海區(qū)等不確定因素影響[2],且在不同時期受到的影響程度不同,并具有非線性、動態(tài)性的特點。雅礱江流域氣候屬于川西高原氣候,由于該流域跨越7個多緯度,加之二灘水電站上游地形復雜,谷嶺高差懸殊,影響二灘水電站入庫流量的因素多變而復雜。
Elman神經網絡是在Back Propagation(BP)神經網絡的基礎上,在前饋式網絡的隱含層中增加了1個承接層,每個隱單元通過反饋狀態(tài)向量到所有隱單元[3-5]。BP神經網絡拓撲結構如圖1所示。
圖1 BP神經網絡拓撲結構
Elman的輸入層、隱含層、輸出層的連接類似于BP前饋式網絡[6],而承接層用來記憶隱含層單元前一時刻的輸出值,并返回給網絡的輸入,是1個1步延時算子,使系統(tǒng)具有適應時變特性的能力,能直接動態(tài)地反映系統(tǒng)動態(tài)過程的特性。Elman的優(yōu)點在于承接層延時與存儲了來自隱含層的輸出,并作為隱含層的輸入,形成一種閉環(huán)。這種網絡結構對以往數(shù)據具有敏感性,加強了網絡本身分析動態(tài)信息的能力。此外,Elman神經網絡能夠以任意精度逼近任意非線性映射。
Elman網絡結構如圖2所示,以圖2為例,Elman神經網絡的非線性狀態(tài)空間表達式為
圖2 Elman網絡結構
隱含層的輸入[7]
隱含層的輸出
網絡的輸出
式中:y為m維輸出結點向量;x為n維中間層結點單元向量;u為r維輸入向量;xc為n維反饋狀態(tài)量;w1為承接層到隱含層連接權值;w2為輸入層到隱含層連接權值;w3為隱含層到輸出層連接權值;g(x)為輸出神經元的傳遞函數(shù),是中間層輸出的線性組合;f(x)為中間層神經元的傳遞函數(shù)。
式中:E(w*)為最小學習指標函數(shù);E(w)為學習指標函數(shù)。
采用梯度下降法能大大提高網絡的訓練速度,又能克服網絡不能在全局中尋找極小點的缺點,網絡學習的結果是用訓練數(shù)據的實際值和預測值的差值來修改權值,使輸出層的誤差平方和最小。梯度下降學習法的Elman神經網絡同樣采用BP算法進行權值修正,學習指標函數(shù)采用誤差平方和函數(shù)。
式中:yk為輸入向量;ydk為目標輸入向量。
任意給定初始權值w0,生成權值序列wk,則
式中:η為學習率,k取自然數(shù)。
E(w)分別對w1,w2,w3求偏倒數(shù),可得權值修正值?w1,?w2,?w3[6],優(yōu)化原來訓練過程中的權值,即
最終,梯度下降學習法的Elman神經網絡誤差函數(shù)的梯度收斂于0[7],權值序列收斂于固定點。
一般來說,電站側每日至少掌握3次入庫流量數(shù)據,運用梯度下降法和Elman神經網絡相結合的方法預測二灘水電站2014年4月1日至20日00:00,08:00及16:00的入庫流量。
實際入庫流量見表1,表中數(shù)據已經過歸一化處理。利用前9 d的數(shù)據作為網絡的訓練樣本,前3天的數(shù)據作為輸入向量u(k-1),第4天的數(shù)據作為目標向量y(k),這樣可以得到6組訓練樣本。第6,7,8天的數(shù)據作為測試輸入樣本,第9天的數(shù)據作為測試輸出樣本。為了檢驗梯度下降法的Elman神經網絡的預測效果,運用梯度下降法的Elman神經網絡和BP神經網絡同時預測第9天的數(shù)據,并將預測結果對比分析。
表1 2014年4月二灘水電站入庫流量
建立Elman神經網絡和BP神經網絡,試設不同隱藏層神經元個數(shù)分別為9,11,13,14,設置神經網絡訓練精度GOAL為0.005。初始化Elman神經網絡,并采用動態(tài)自適應學習率的梯度下降算法訓練Elman神經網絡。預測值均方根誤差見表2。
表2 Elman,BP神經網絡預測值均方根誤差
由表2可見,梯度下降法的Elman網絡預測值均方根誤差比BP網絡預測值均方根誤差小,說明梯度下降法的Elman網絡預測效果比BP網絡預測效果好。含有9個神經元的Elman網絡和含有14個神經元的BP網絡預測效果好。采用Elman神經網絡、BP神經網絡預測4月10日至20日的入庫流量及其誤差值,見表3。
表3 Elman神經網絡、BP神經網絡的預測值和預測誤差(2014年4月)
由表3可知,Elman神經網絡預測誤差明顯小于BP神經網格,Elman神經網絡預測入庫流量效果更優(yōu)。由表1可知,從4月16日起,00:00及16:00入庫流量較前幾日變化較大。但由表3可知,Elman網絡快速適應入庫流量變化,預測誤差值有明顯減小的趨勢;BP網絡適應入庫流量變化很慢,預測誤差值偏差較大且減小趨勢緩慢。
影響入庫流量的因素多變且復雜,入庫流量變化具有非線性、時變性、動態(tài)性,雅礱江流域的不斷科學化開發(fā)以及其他變化條件,均對二灘水電站短期入庫流量預報提出了更加嚴峻的挑戰(zhàn)。Elman神經網絡的輸入包含了輸入層和承接層的反饋,類似一個閉環(huán)調節(jié),最終達到一個神經元狀態(tài)不變的穩(wěn)定態(tài),可以以任意精度逼近任一非線性函數(shù),具有通過學習歷史數(shù)據建模的特點。從上面的試驗結果也能看出,該方法可以指導二灘水電公司預測短期入庫流量,為探索流域梯級電站入庫流量短期預測提供一種新的思路。
[1]唐海華,陳森林,趙云發(fā).三峽水庫入庫流量計算方法研究[J].中國農村水利水電,2008(4):26-28.
[2]葛朝霞,王會容,曹麗青,等.柘溪水庫月入庫流量預報方案的建立與對比分析[J].河海大學學報:自然科學版,2004,32(5):508-511.
[3]JEFFREY L Elman.Finding structure in time[J].Cognitive Science,1990(14):179-211.
[4]TSOIA C,BACK A D.Locally recurrent globally feedforward networks:a critical review of architectures[J].IEEE transactions on neural networks,1994,5(2):229-239.
[5]AHALT S C,LIU Xiaomei,WANG Deliang.On temporal generalization of simple recurrent networks[J].Neural networks,1996,9(7):1099-1118.
[6]任麗娜.基于Elman神經網絡的中期電力負荷預測模型研究[D].蘭州:蘭州理工大學,2007.
[7]吳微,徐東坡,李正學.Elman網絡梯度學習法的收斂性[J].應用數(shù)學和力學,2008(9):1117-1123.
[8]劉穎超,張紀元.梯度下降法[J].南京理工大學學報:自然科學版,1993(2):12-16,22.
[9]李太福,熊雋迪.基于梯度下降法的自適應模糊控制系統(tǒng)研究[J].系統(tǒng)仿真學報,2007,19(6):1265-1268,1273.
(本文責編:弋洋)
TK 730
A
1674-1951(2015)07-0001-03
李強(1987—),男,四川綿陽人,助理工程師,從事電廠運行及設備狀態(tài)檢修方面的工作(E-mail:314962840@qq. com)。
2014-12-24;
2015-06-05