權(quán)鵬宇+車文剛+余任+周志元
摘 要:為研究混沌時間序列預(yù)測問題,提出了一種結(jié)合模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測方法,對輸入數(shù)據(jù)進行模糊規(guī)則提取,再經(jīng)過優(yōu)化得到最佳模糊規(guī)則庫。通過神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學習能力調(diào)整隸屬函數(shù)參數(shù)及網(wǎng)絡(luò)權(quán)值等信息,對相關(guān)混沌時間序列進行預(yù)測。對Mackey-Glass系統(tǒng)及Lorenz系統(tǒng)進行仿真實驗,結(jié)果證明了該系統(tǒng)的有效性。
關(guān)鍵詞:混沌時間序列;神經(jīng)網(wǎng)絡(luò);模糊推理系統(tǒng);自適應(yīng)學習
DOIDOI:10.11907/rjdk.172284
中圖分類號:TP301
文獻標識碼:A 文章編號:1672-7800(2018)002-0023-05
0 引言
混沌時間序列是確定系統(tǒng)中出現(xiàn)的一種無規(guī)則運動。混沌時間序列常常表現(xiàn)為其運動的離散情況,混沌時間序列是由混沌模型生成的具有混沌特性的時間序列,在混沌動力學系統(tǒng)中,通過時間序列研究整個系統(tǒng)的動力學行為并對混沌序列進行預(yù)測。目前,國內(nèi)外學者對混沌時間序列預(yù)測提出了多種方法,比如自適應(yīng)高階非線性濾波法、最大李雅普諾夫指數(shù)法、神經(jīng)網(wǎng)絡(luò)法等[1-3]。目前,混沌時間序列預(yù)測在稅收預(yù)測、電力負荷預(yù)測、天文學預(yù)測、股市預(yù)測等方面有著廣泛應(yīng)用[2-4]。
傳統(tǒng)的混沌時間序列預(yù)測以相空間重構(gòu)為基礎(chǔ),包括相空間重構(gòu)和預(yù)測模型建立兩個階段[7]。已有的相空間重構(gòu)方法眾多,但其實現(xiàn)都比較繁瑣、效率低,漸漸被放棄。近年來,在復(fù)雜非線性系統(tǒng)建模、預(yù)測與控制研究中,神經(jīng)網(wǎng)絡(luò)技術(shù)尤其是模糊神經(jīng)網(wǎng)絡(luò)理論是重點[8]。模糊神經(jīng)網(wǎng)絡(luò)既有模糊系統(tǒng)的邏輯推理能力又有神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力。近年來,許多具有學習能力的模糊神經(jīng)網(wǎng)絡(luò)模型被開發(fā)出來,如Mamdani型模糊推理模型[5]、Tsukamoto型模糊推理模型[6]等。
本文提出一種基于模糊神經(jīng)網(wǎng)絡(luò)模型,可展開學習與推理,以求達到最初期望值,獲取相應(yīng)知識,確立模糊初始規(guī)則,達到期望目標。應(yīng)用神經(jīng)網(wǎng)絡(luò)的反向傳播算法修改隸屬函數(shù)某些信息,如網(wǎng)絡(luò)權(quán)值等,可大幅降低匹配時間,有效提升推理速度,對提升體系自適應(yīng)水平與混沌時間序列的準確度與速度作用顯著。此體系可有效估測Lorenz系統(tǒng)混沌時間序列,通過實驗數(shù)據(jù)可詳細了解到模糊神經(jīng)網(wǎng)絡(luò)實施效果。
1 模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)
本文模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示,各部分輸入用I表示,輸出用O表示,通過輸入輸出可獲得下標具體信息。上標代表節(jié)點,即第m層的第n個節(jié)點的輸出情況用Inm表達,同樣,也可用Onm表達。其中,神經(jīng)元詳細情況說明如下。
第一層表示輸入層,每一層都有幾個變量,節(jié)點數(shù)目通過體系進行調(diào)控??蓪@取信息值送到下一層神經(jīng)元中。輸入輸出關(guān)系表示為:
式(1)中n為輸入變量的個數(shù)。
第二層為模糊化層,該層將輸入層的清晰輸入變得較為模糊。與上層神經(jīng)元連接權(quán)值大致是1,明確變動使其模糊。此層神經(jīng)元與上一部分之間的連接權(quán)值是1,運用高斯隸屬度函數(shù)進行計算。該層輸入輸出關(guān)系為:
根據(jù)圖1可看到第三層代表模糊規(guī)則層,在此部分中所有神經(jīng)元都具有相適應(yīng)的模糊標準,其中輸入部分代表此標準的前件部分(IF部分),輸出部分代表此標準條件下隸屬度的乘積,即:
第四層為結(jié)論層,本層每個神經(jīng)元的隸屬函數(shù)取為高斯型,依據(jù)前置標準的后件部分(THEN部分)在各種模糊區(qū)域中進行計算。此層和第三層節(jié)點權(quán)值均代表模糊規(guī)則強度, wlk代表可調(diào)控參數(shù),此層函數(shù)如下:
第五層代表輸出層,此部分神經(jīng)元與可實現(xiàn)權(quán)值連接,進而達到解模糊效果。運用面積中心法處理存在問題,最后的輸出內(nèi)容表達如下:
2 學習算法
在模糊神經(jīng)網(wǎng)絡(luò)推理系統(tǒng)模型中,學習過程包括兩個部分,即結(jié)構(gòu)學習和參數(shù)學習 [17]。結(jié)構(gòu)學習部分主要處理輸入數(shù)據(jù),對最佳模糊規(guī)則進行提取,并確定整個系統(tǒng)結(jié)構(gòu);參數(shù)學習階段則使用反向傳播算法,對模糊神經(jīng)網(wǎng)絡(luò)中相關(guān)的權(quán)值進行調(diào)整。結(jié)構(gòu)學習決定了模糊規(guī)則的數(shù)量及輸入輸出模糊子集個數(shù),參數(shù)學習決定了每條規(guī)則的具體表達及隸屬函數(shù)形式[14-15]。
2.1 結(jié)構(gòu)學習
在模糊推理體系中,模糊規(guī)則的識別和提取是非常重要的一環(huán)。從局限的樣本數(shù)據(jù)中得到模糊規(guī)則,詳細步驟如下:①輸入輸出空間模糊分割;②在各子空間中獲取相應(yīng)規(guī)則。這里選取兩個輸入一個輸出的系統(tǒng)進行詳細說明。
(1)對輸入輸出空間進行模糊化分割,將其劃分成若干模糊子空間,確定每個子空間的模糊標記,將數(shù)據(jù)輸入信息轉(zhuǎn)化為語言輸入信息。之后根據(jù)隸屬函數(shù)中心等分數(shù)據(jù)空間原則獲取隸屬函數(shù)的初始參數(shù),其中包括中心與寬度。
(2)在相應(yīng)數(shù)據(jù)對中識別并提取模糊規(guī)則。先需要確定不同子空間相應(yīng)數(shù)據(jù)的隸屬度,之后為xi1,xi2,yi在區(qū)域賦予最大隸屬度,最后從輸入輸出數(shù)據(jù)對中提取相應(yīng)的模糊規(guī)則。
(3)規(guī)則合并優(yōu)化。將得到的模糊規(guī)則定義一個置信度,其置信度大小為該模糊規(guī)則中各個變量隸屬度的乘積。在相同規(guī)則下,當其前件部分(IF部分)相同后件部分(THEN部分)不同時,取強度最大值。在此條件下,將置信度最大值作為此規(guī)則的置信度。把前件部分相同而后件部分不同的規(guī)則合并成一條規(guī)則,出現(xiàn)頻率最高的規(guī)則作為合并后的規(guī)則,其置信度作為該規(guī)則的置信度。
結(jié)構(gòu)學習結(jié)束即可得到簡化的模糊規(guī)則庫。
2.2 參數(shù)學習
只要確立了模糊規(guī)則庫,相應(yīng)的整個神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)體系也同樣被確定。之后獲取輸入到輸出的詳細映射情況,其準確度取決于相關(guān)權(quán)值與規(guī)則庫的精確性。之后經(jīng)過神經(jīng)網(wǎng)絡(luò)的學習優(yōu)化,對隸屬函數(shù)的相關(guān)參數(shù)權(quán)值進行調(diào)整,使用梯度下降算法可有效減小誤差,目標誤差函數(shù)如下:
式(6)中,m表示第五層神經(jīng)元的數(shù)量,O∧d和O5分別表示第五層神經(jīng)元l的目標輸出和實際輸出。endprint
2.2.1 網(wǎng)絡(luò)權(quán)值修正
3 混沌動力系統(tǒng)預(yù)測實驗
研究表明,模糊集合理論與神經(jīng)網(wǎng)絡(luò)相結(jié)合的預(yù)測方法在系統(tǒng)建模中有著巨大的優(yōu)越性和精準性,在不同領(lǐng)域得到了廣泛應(yīng)用。選取Mackey-Glass系統(tǒng)和Lorenz系統(tǒng)的混沌時間序列進行仿真實驗,以證明上述系統(tǒng)的有效性。
3.1 Mackey-Glass混沌時間序列預(yù)測
Mackey-Glass混沌模型由以下的時滯微分方程描述:
3.1.1 仿真實驗
采用模糊神經(jīng)網(wǎng)絡(luò)對混沌時間序列進行建模:
3.1.2 自適應(yīng)學習結(jié)果分析
對圖2(a)的混沌時間序列進行仿真實驗,首先用500個樣本數(shù)據(jù)建立模糊規(guī)則庫構(gòu)建整個模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),然后對網(wǎng)絡(luò)進行訓(xùn)練調(diào)整隸屬函數(shù)的參數(shù),使整個模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)性能指標達到期望值,最后有新的數(shù)據(jù)對時,對最初的模糊規(guī)則進行優(yōu)化學習,并用優(yōu)化后的模型對未來值進行預(yù)測。對圖2(a)的混沌時間序列進行自適應(yīng)學習,對前500個數(shù)據(jù)對建立的網(wǎng)絡(luò)進行訓(xùn)練修正參數(shù),并以此網(wǎng)絡(luò)模型對下一個數(shù)據(jù)x(501)進行預(yù)測,再用得到的估值優(yōu)化模糊規(guī)則庫,再用優(yōu)化后的網(wǎng)絡(luò)對數(shù)據(jù)x(502)進行預(yù)測,用得到的估值優(yōu)化模糊規(guī)則庫,預(yù)測下一個數(shù)據(jù)x(503),這種方法一直到第1000個數(shù)據(jù)x(1000)為止。預(yù)測仿真結(jié)果見圖3。通過對圖2(a)與圖3(a)比較,不難發(fā)現(xiàn)采用自適應(yīng)方法效果有很大改進。預(yù)測輸出誤差如圖3(b)所示,相對集中在0.01范圍內(nèi)。
3.2 Lorenz混沌時間序列預(yù)測
Lorenz系統(tǒng)方程為:
當α=10,β=8/3,ρ=28時,Lorenz系統(tǒng)處于混沌狀態(tài),此時以定步長0.005,初始條件為x(0)=0,y(0)=1,z(0)=0,用Runge-Kutta算法獲取變量x的序列信息,并進行相空間重構(gòu)。取嵌入維度m=7,延遲時間τ=10Δt=0.05,通過t時刻與之前m個值預(yù)測t+τ時刻的映射:
使用神經(jīng)網(wǎng)絡(luò)迫近函數(shù)f(),令ζ=0.005,從9000組輸入輸出數(shù)據(jù)集合中提煉模糊規(guī)則,建立模糊規(guī)則庫,將獲得的48條模糊規(guī)則進行處理,建立5層神經(jīng)網(wǎng)絡(luò)模型。
用本文的自適應(yīng)學習方法,將78=5764801條規(guī)則減少到48條,減小了規(guī)則匹配時間,加快了推理速度。取3000組數(shù)據(jù)參數(shù)進行訓(xùn)練,3000組數(shù)據(jù)校驗網(wǎng)絡(luò),取η=0.005,然后用上述系統(tǒng)進行仿真實驗,結(jié)果與誤差曲線如圖4所示。
4 結(jié)語
本文提出的將神經(jīng)網(wǎng)絡(luò)與模糊邏輯推理體系相結(jié)合的自適應(yīng)學習系統(tǒng),可在一定程度加強適應(yīng)性,提高提取模糊規(guī)則的效果,克服基于先驗知識確定網(wǎng)絡(luò)模型的缺陷,加快了學習推理速度,提高了網(wǎng)絡(luò)精度,為復(fù)雜非線性系統(tǒng)的識別與混沌時間序列的預(yù)測提供了一條有效渠道。通過對上述兩種混沌時間序列系統(tǒng)的仿真實驗,驗證了系統(tǒng)對模糊神經(jīng)網(wǎng)絡(luò)的非線性建模能力。因此,本文提出的模糊神經(jīng)網(wǎng)絡(luò)預(yù)測方法具有很高的研究價值。
參考文獻:
[1] 呂金虎.混沌時間序列分析及其應(yīng)用[M].武漢:武漢大學出版社,2002.
[2] 張吉禮.模糊神經(jīng)網(wǎng)絡(luò)控制原理與工程應(yīng)用[M].哈爾濱:哈爾濱工業(yè)大學出版社,2004.
[3] 許傳華,任青文,房定旺.基于神經(jīng)網(wǎng)絡(luò)的混沌時間序列預(yù)測[J].水文地質(zhì)工程地質(zhì),2003(1):30-32.
[4] 向小東.基于混沌理論與徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的混沌時間序列預(yù)測[J].福州大學學報,2003(8):401-403.
[5] 邵小強,馬憲民.混沌時間序列預(yù)測的建模與仿真研究[J].計算機仿真,2011,28(4):100-102.
[6] 張淑清,賈健,高敏,等.混沌時間序列重構(gòu)相空間參數(shù)選取研究[J].物理學報,2012,59(3):1576-1582.
[7] 王永生,孫瑾,王昌金,等.變參數(shù)混沌時間序列的神經(jīng)網(wǎng)絡(luò)預(yù)測研究[J].物理學報,2008,57(10):6120-6131.
[8] JANG J S R.ANFIS: adaptive-network-based fuzzy inference system[J]. IEEE Trans. on Systems,Man,and Cybernetics,1993,22(3):775-784.
[9] SU S F,LIN C B,HSU Y T. A high precision global prediction approach based on local prediction approaches[J].IEEE Transactions on Systems, Man and Cybernetics, Part C,2002,32(4):416-425.
[10] MASOUMI H R F, BASRI M, KASSIM A, et al. Comparison of estimation capabilities of the artificial neural network with the wavelet neural network in lipase-catalyzed synthesis of triethanolamine-based esterquats cationic surfactant[J]. J of Surfact Deterg, 2014,17(2):287-294.
[11] 張森,肖先賜.混沌時間序列全局預(yù)測新方法——連分式法[J].物理學報,2005,54(11):5062-5068.
[12] 簡向超,鄭君里.混沌神經(jīng)網(wǎng)絡(luò)預(yù)測算法評價準則與性能分析[J].清華大學學報:自然科學版,2001,41(7):43-46.
[13] 譚文,王耀南.混沌系統(tǒng)的模糊神經(jīng)網(wǎng)絡(luò)控制理論與方法[M].北京:科學出版社,2008.
[14] BASHIROV A E, BELAGHI M J S. On application of eulers differential method to a continued fraction depending on parameter[J]. Indian J of Pure and Applied Mathematics,2014,45(3):285-295.
[15] TIAN N, LAI C H. Parallel quantum-behaved particle swarm optimization[J]. Int J of Machine Learning and Cybernetics, 2014,5(2):309-318.
[16] MANICKAVELU D, VAIDYANATHAN R U. Particle swarm optimization(PSO)-based node and link lifetime prediction algorithm for route recovery in MANET[J]. EURASIP J on Wireless Communications and Networking, 2014(107):1-10.
[17] 韓敏,王迎新.多元混沌時間序列的加權(quán)極端學習機預(yù)測[J].控制理論與應(yīng)用,2013,30(11):1467-1472.endprint