摘 要:故障模式識(shí)別是模擬電路故障診斷中非常重要的一環(huán),最開(kāi)始運(yùn)用最為廣泛的分類(lèi)器是支持向量機(jī)與神經(jīng)網(wǎng)絡(luò),但隨著模擬電路的復(fù)雜度越來(lái)越高,這兩種分類(lèi)器的缺點(diǎn)也變得越來(lái)越明顯,不能滿(mǎn)足人們的需求,為此,研究出性能更優(yōu)、診斷效率更高的分類(lèi)模型變得迫在眉睫。本文將介紹使用最小二乘支持向量機(jī)作為分類(lèi)器對(duì)模擬電路進(jìn)行故障模式識(shí)別,并選用組合核函數(shù)作為分類(lèi)器的核函數(shù),對(duì)于最小二乘支持向量機(jī)系數(shù)的優(yōu)化選取,將采用混沌粒子群算法,在粒子群算法中加入混沌理論,增加種群的多樣性和粒子搜索的遍歷性,避免陷入局部最優(yōu)解,加快全局收斂,得到最優(yōu)系數(shù)。
關(guān)鍵詞:故障模式識(shí)別;最小二乘支持向量機(jī);組合核函數(shù);混沌粒子群算法
一、組合核LSSVM
(一)LSSVM特點(diǎn)
最小二乘支持向量機(jī)(Least Square Support Vector Machine,LSSVM)是由支持向量機(jī)轉(zhuǎn)化改進(jìn)得來(lái)的,本質(zhì)上也是支持向量機(jī)。支持向量機(jī)遵循的是結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則,樣本數(shù)目的增多不會(huì)導(dǎo)致結(jié)構(gòu)復(fù)雜化,但它需要求解復(fù)雜的二次規(guī)劃問(wèn)題。為了使得分類(lèi)器訓(xùn)練時(shí)既遵循結(jié)構(gòu)最小化原則,又避免求解復(fù)雜的二次規(guī)劃問(wèn)題,提出了只需求解線(xiàn)性方程組的最小二乘支持向量機(jī),簡(jiǎn)化了求解過(guò)程。
(二)組合核LSSVM模型
由公式可得LSSVM的決策函數(shù):
決策函數(shù)中最為重要的就是核函數(shù)的選取,不同的核函數(shù)具有不同的優(yōu)勢(shì),但同時(shí)也會(huì)有缺陷。核函數(shù)主要分為兩種,一種是局部性核函數(shù),另一種是全局性核函數(shù)。較為典型的全局性核函數(shù)是d階多項(xiàng)式核函數(shù),它的定義如下:
多項(xiàng)式核函數(shù)的值隨x的取值變化較快,對(duì)全局的函數(shù)值的影響都比較大,這樣的核函數(shù)泛化能力強(qiáng),但最后的分類(lèi)精度不會(huì)太高。
高斯徑向基核函數(shù)是比較經(jīng)典的局部性核函數(shù),其定義如下:
該函數(shù)對(duì)分類(lèi)器的分類(lèi)精度影響較大,但泛化能力相對(duì)較弱。
由以上分析可知,單個(gè)的核函數(shù)具有單一的功能,不能實(shí)現(xiàn)既快速又準(zhǔn)確地對(duì)故障進(jìn)行識(shí)別,于是利用這兩個(gè)核函數(shù)的優(yōu)勢(shì),給每個(gè)核函數(shù)一個(gè)權(quán)重系數(shù),形成組合核函數(shù),最大化地提高分類(lèi)性能,組合核函數(shù)的定義如下:上式中0<λ<1,如果λ=0或者1,就為單核核函數(shù)。
二、CPSO優(yōu)化算法
慣性權(quán)重是控制粒子前面搜尋速度對(duì)粒子現(xiàn)在搜尋速度的影響的。慣性權(quán)重越大,粒子搜尋的范圍越廣,就越有可能找到全局最優(yōu)解,但同時(shí)也會(huì)導(dǎo)致搜索較粗糙,搜尋到的參數(shù)精度太低。若減小w,搜尋范圍減小又容易陷入局部最優(yōu)解。因此為了得到更正確更有效的解,要控制好慣性權(quán)重。而在PSO中,由于慣性權(quán)重具有隨機(jī)性,不能保證粒子在相空間的優(yōu)化遍歷。因此,PSO存在早熟收斂和局部尋優(yōu)能力差等特點(diǎn)。為了克服這個(gè)問(wèn)題,提出了混沌粒子群優(yōu)化(Chaotic Particle Swarm Optimization,CPSO)算法,將著名的Logistic方程被應(yīng)用到PSO中,Logistic方程定義如下:
此外,將混沌映射的遍歷性,隨機(jī)屬性和對(duì)初值的敏感性等特點(diǎn)引入到PSO中,從而提高了全局收斂性。此時(shí)參數(shù)w和r1、r2滿(mǎn)足下面的公式:
混沌粒子群優(yōu)化的基本思想:
(1)為了能在大量初始群體中找出最優(yōu)的初始群體,采用混沌序列初始化粒子的位置和速度,達(dá)到了既保持粒子群算法所特有的隨機(jī)性,又提高粒子搜索的遍歷性和種群的多樣性的效果。
(2)把當(dāng)前搜索產(chǎn)生的位置當(dāng)作一個(gè)基礎(chǔ)產(chǎn)生新的混沌序列,此時(shí)的混沌序列中的最優(yōu)位置就是粒子群更新的一個(gè)位置。使用混沌序列的搜索算法,每一次迭代都產(chǎn)生許多局部最優(yōu)鄰域點(diǎn),以此避免陷入局部最優(yōu)。
三、混沌粒子群優(yōu)化LSSVM參數(shù)
本文LSSVM模型采用的是組合核函數(shù),所以需要同時(shí)優(yōu)化四個(gè)參數(shù)即懲罰參數(shù)C,高斯徑向基核函數(shù)寬度σ,多項(xiàng)式核參數(shù)d以及系數(shù)λ,因此提出了具有更好優(yōu)化性能的CPSO算法,在LSSVM模型中尋找最優(yōu)參數(shù)。評(píng)價(jià)標(biāo)準(zhǔn)用均方誤差表示:
CPSO算法優(yōu)化LSSVM模型參數(shù)的具體優(yōu)化步驟如下:
(1)初始化參數(shù):種群大小,最大迭代次數(shù),學(xué)習(xí)因子以及慣性權(quán)重等。
(2)選擇適應(yīng)度函數(shù):利用適應(yīng)度函數(shù)對(duì)分類(lèi)器性能進(jìn)行評(píng)價(jià)。
(3)初始化一個(gè)向量,并將這個(gè)向量通過(guò)Logistic方程產(chǎn)生混沌序列。
(4)將混沌序列轉(zhuǎn)化為組合核LSSVM模型參數(shù)值范圍內(nèi)。
(5)計(jì)算并比較適應(yīng)度值獲得每個(gè)粒子迭代過(guò)程中的最優(yōu)值。
(6)如果整個(gè)種群的全局最優(yōu)值收斂了或達(dá)到最大迭代次數(shù),則轉(zhuǎn)到步驟(10)。
(7)根據(jù)前面的公式更新每個(gè)粒子的速度和位置。
(8)比較每個(gè)粒子的最佳位置。如果現(xiàn)在粒子的最佳適應(yīng)度值優(yōu)于前面粒子最佳適應(yīng)度值,則用現(xiàn)在的值作為整個(gè)種群的最佳適應(yīng)度值。
(9)指定終止條件。如果滿(mǎn)足終止條件,則結(jié)束,返回當(dāng)前粒子最優(yōu)的結(jié)果。否則,返回步驟(5),直到滿(mǎn)足終止條件。
(10)獲得LSSVM模型的參數(shù)值。
四、小結(jié)
本文提出了基于組合核CPSO-LSSVM的分類(lèi)模型。首先考慮到SVM與神經(jīng)網(wǎng)絡(luò)各自的缺點(diǎn),SVM遵循結(jié)構(gòu)最小化原則,但需要求解復(fù)雜的二次規(guī)劃問(wèn)題,而神經(jīng)網(wǎng)絡(luò)遵循經(jīng)驗(yàn)最小化原則,訓(xùn)練數(shù)目越多,網(wǎng)絡(luò)越復(fù)雜,LSSVM既遵循結(jié)構(gòu)最小化原則,又不需要求解復(fù)雜的二次規(guī)劃問(wèn)題,因此選用了LSSVM分類(lèi)器。核函數(shù)是分類(lèi)器中最為重要的部分,為了平衡分類(lèi)器的分類(lèi)精度與泛化能力,用高斯徑向基核函數(shù)與多項(xiàng)式核函數(shù)的組合核函數(shù)作為分類(lèi)器的核函數(shù)。為了避免PSO尋參時(shí)陷入局部最優(yōu),并且加快全局收斂,在PSO中加入混沌序列,提高種群搜索的多樣性和粒子搜索的遍歷性,使用CPSO算法獲得分類(lèi)器的最優(yōu)參數(shù)。
作者簡(jiǎn)介:楊蘇娟,南京郵電大學(xué)通信與信息工程學(xué)院。