摘要:人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)獨(dú)特,具有處理數(shù)據(jù)方法高效、自學(xué)習(xí)性強(qiáng)、并行處理能力強(qiáng)、易于推廣等優(yōu)點(diǎn),但同時(shí)也具有容易陷入局部極小特性和算法收斂速度較低的不足之處。為了彌補(bǔ)這些不足,科學(xué)家們嘗試著將神經(jīng)網(wǎng)絡(luò)與其它的人工智能方法相結(jié)合來(lái)解決問(wèn)題。本文拮取了這其中一些較有代表性的方法來(lái)加以介紹。
關(guān)鍵詞:人工智能 神經(jīng)網(wǎng)絡(luò) 小波分析 蟻群算法 粒子群優(yōu)化算法
中圖分類號(hào):TV135.2 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1672-3791(2011)10(c)-0000-00
1 引言
對(duì)于人工神經(jīng)網(wǎng)絡(luò)的研究自20世紀(jì)40年代起始,一直是科學(xué)研究的一個(gè)熱門(mén)領(lǐng)域,近20年來(lái)各種關(guān)于它的研究更是方興未艾。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)獨(dú)特,處理數(shù)據(jù)方法高效,在解決許多具體問(wèn)題上得到了廣泛的應(yīng)用。然而,神經(jīng)網(wǎng)絡(luò)也有其固有的缺點(diǎn):首先,由于受到搜索步長(zhǎng)的限制,當(dāng)解空間函數(shù)存在局部極小值時(shí),容易陷入局部極小特性;其次,現(xiàn)行的學(xué)習(xí)算法收斂速度較低,容易影響研究的進(jìn)度。為了應(yīng)對(duì)這兩個(gè)問(wèn)題,學(xué)者們采取了多種多樣的方法,其中最為常見(jiàn)的便是將神經(jīng)網(wǎng)絡(luò)與其他人工智能方法相結(jié)合再加以一定的改進(jìn)。本文選取了這一類方法中較有代表性的幾種,加以介紹。
2 方法介紹
2.1小波神經(jīng)網(wǎng)絡(luò)
小波分析從傅立葉變換發(fā)展起來(lái),屬于時(shí)頻分析方法的一種,因此,它在時(shí)域和頻域同時(shí)具有良好的局部化性質(zhì),可將分析的重點(diǎn)聚焦到任意的細(xì)節(jié),而這正是我們所需要的特性。用小波分析局部化性質(zhì)良好的優(yōu)點(diǎn),去配合神經(jīng)網(wǎng)絡(luò)自學(xué)習(xí)、自適應(yīng)、并行處理和高容錯(cuò)性的特點(diǎn),結(jié)合成為小波神經(jīng)網(wǎng)絡(luò)。
除了能夠有效避免局部極小值、網(wǎng)絡(luò)學(xué)習(xí)速度快、逼近能力強(qiáng)外,小波神經(jīng)網(wǎng)絡(luò)還可以彌補(bǔ)神經(jīng)網(wǎng)絡(luò)對(duì)于結(jié)構(gòu)構(gòu)造缺乏足夠理論性指導(dǎo)的缺點(diǎn),能夠?qū)τ趨?shù)的選取做出理論性充足的指導(dǎo),有效避免某些種類的神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)設(shè)計(jì)上的盲目性。
2.2 蟻群算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合
蟻群算法是一種仿生優(yōu)化算法,常被用來(lái)尋找最優(yōu)路徑。該算法具有強(qiáng)大的并行分布式計(jì)算能力、適應(yīng)能力和優(yōu)秀的全局尋優(yōu)能力,并非常易于與其它算法相結(jié)合。
蟻群算法使用隨機(jī)生成的螞蟻群體進(jìn)行檢索,使得算法找到全局最優(yōu)解的概率大大增加;。在考慮到神經(jīng)網(wǎng)絡(luò)所存在的局部最優(yōu)問(wèn)題時(shí),蟻群算法舍不確定性規(guī)則而取概率規(guī)則來(lái)指導(dǎo)檢索,從而逃離了局部最優(yōu)的陷阱。
除此之外,因?yàn)橄伻核惴ㄊ亲屗形浵仾?dú)立地在無(wú)監(jiān)督的情況下同時(shí)搜索解空間中許多點(diǎn),因此它同時(shí)還是一種高效的并行搜索算法,與神經(jīng)網(wǎng)絡(luò)相結(jié)合能夠起到錦上添花的效果。
2.3 PSO粒子群優(yōu)化算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合
粒子群優(yōu)化算法最早是由美國(guó)的Kennedy 和Eberhart教授受鳥(niǎo)群覓食行為的啟發(fā)而提出的,它以求解連續(xù)變量?jī)?yōu)化問(wèn)題為背景,以模擬鳥(niǎo)的群集智能為特征,通過(guò)利用個(gè)體間的協(xié)作和競(jìng)爭(zhēng)來(lái)實(shí)現(xiàn)對(duì)問(wèn)題最優(yōu)解的搜索,具有全局優(yōu)化的優(yōu)點(diǎn),是一種基于群體智能的進(jìn)化計(jì)算技術(shù)。
為了更好地解決所遇到的問(wèn)題,在將粒子群優(yōu)化算法與神經(jīng)網(wǎng)絡(luò)結(jié)合的同時(shí),還要進(jìn)行進(jìn)一步的優(yōu)化。動(dòng)態(tài)變異粒子群優(yōu)化算法可以動(dòng)態(tài)改變慣性權(quán)重,它能夠使粒子擴(kuò)大搜索范圍,從而降低落入局部最優(yōu)解的概率,這樣就能使粒子及時(shí)遠(yuǎn)離局部最優(yōu)解而繼續(xù)進(jìn)行全局搜索,同時(shí)又能使粒子在全局最優(yōu)解處收斂得更好。而先將原始粒子運(yùn)用混沌理論處理,繼而再采用粒子群優(yōu)化算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)所得到的混沌理論下混合型PSO-BP模型在PSO進(jìn)化過(guò)程中加入了混沌的思想?;煦缇哂须S機(jī)性,遍歷性,規(guī)律性等特點(diǎn),因此,與其它的隨機(jī)搜索算法相比,在處理基本粒子群在算法后期易陷入局部極值的問(wèn)題上,混沌搜索更強(qiáng)的局部搜索能力能夠很好地避免陷入局部最優(yōu),并且在局部搜索得更細(xì)致。
2.4 基于遺傳模擬退火算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)
遺傳模擬退火算法是結(jié)合了模擬退火算法和遺傳算法思想的一種混合智能算法,這兩者都具有優(yōu)秀的數(shù)值優(yōu)化方面的性能。遺傳算法的原理模仿生物界優(yōu)勝劣汰的進(jìn)化機(jī)理,是一種優(yōu)化搜索方法。模擬退火算法源于固體的退