国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

遙感圖像分類的多核SVDD算法

2014-11-19 09:26陳賽英何建農(nóng)
關(guān)鍵詞:特征向量徑向向量

陳賽英,何建農(nóng)

(福州大學(xué) 數(shù)學(xué)與計(jì)算機(jī)科學(xué)學(xué)院,福建 福州350108)

遙感圖像分類是模式識(shí)別技術(shù)在遙感技術(shù)領(lǐng)域的一個(gè)具體應(yīng)用,是對(duì)遙感圖像信息進(jìn)行屬性的分類,達(dá)到識(shí)別圖像信息所對(duì)應(yīng)的實(shí)際地物,最后提取所需地物信息的目的.支持向量域描述(SVDD)算法具有復(fù)雜程度低、擴(kuò)充性強(qiáng),以及對(duì)訓(xùn)練樣本數(shù)據(jù)規(guī)模上要求不高等優(yōu)點(diǎn),已經(jīng)廣泛應(yīng)用于故障診斷、異常檢測(cè)、語(yǔ)音識(shí)別等多種領(lǐng)域[1-4].SVDD算法的核心部分是核函數(shù)的選擇,傳統(tǒng)SVDD算法通常是以徑向基核函數(shù)為核函數(shù),但徑向基核函數(shù)存在計(jì)算量大、泛化性能較弱等缺點(diǎn)[5].基于此,本文分別將K型核函數(shù)和指數(shù)徑向基核函數(shù)與徑向基核函數(shù)組合成多核函數(shù),構(gòu)造SVDD的改進(jìn)算法,并應(yīng)用于遙感圖像分類.

1 SVDD模型的原理[6]

SVDD算法是基于貝葉斯最優(yōu)決策理論的,其基本思想是通過(guò)非線性變換將數(shù)據(jù)點(diǎn)映射到高維特征空間,然后找到包含大部分映射到特征空間數(shù)據(jù)點(diǎn)的最小超球體(圖1).令{xi}?X是數(shù)據(jù)空間X?Rn的一個(gè)給定訓(xùn)練數(shù)據(jù)集,用一個(gè)非線性變換Φ把X映射到某個(gè)高維特征空間,然后找到半徑為R的最小封閉超球體,可描述為下列最優(yōu)化問(wèn)題,即

圖1 二維空間最優(yōu)超球體示意圖Fig.1 Optinal sphere schematic diagram of two-dimensional space

式(1)中:C<1是懲罰因子,調(diào)節(jié)超球體,控制誤差;a是球心;ξj是松弛變量.為了解決這個(gè)問(wèn)題,引進(jìn)拉格朗日算式

令?L/?R=0和?L/?a=0,可分別得到和最后將式(1)的問(wèn)題轉(zhuǎn)化為如下對(duì)偶問(wèn)題,即

式(3)中:K(xi,xj)=Φ(xi)·Φ(xj)是核函數(shù).只有滿足0<βj<C的點(diǎn)在超球體邊界,稱為支持向量(support vectors,SVs).訓(xùn)練高斯核支持函數(shù)是用Φ(x)到球心的平方徑向距離來(lái)定義的,有

式(4)中:{x∶f(x)=R2}為支持向量.

2 核函數(shù)

2.1 K型核函數(shù)

K型核函數(shù)具有泛化能力強(qiáng)的優(yōu)點(diǎn),避免了徑向基核函數(shù)復(fù)雜的指數(shù)運(yùn)算,同時(shí)具有多項(xiàng)式核函數(shù)計(jì)算量少和徑向基核函數(shù)逼近精度高的優(yōu)點(diǎn),性能更加優(yōu)越[7].K型核函數(shù)的公式為

式(5)中:x=(x1,…,xn′);y=(y1,…,yn)′;k>0反映K型核函數(shù)的寬度.

2.2 指數(shù)徑向基核函數(shù)

徑向基核函數(shù)具有的優(yōu)勢(shì),指數(shù)徑向基核函數(shù)也具有,同時(shí)還具有計(jì)算量比徑向基核函數(shù)少的特點(diǎn).指數(shù)徑向基核函數(shù)[8-9]的公式為

式(6)中:σ是核函數(shù)參數(shù).

2.3 多核函數(shù)

為了權(quán)衡各種特征向量的差異,在單核函數(shù)的基礎(chǔ)上,綜合考慮引入多核函數(shù).多核函數(shù)1,多核函數(shù)1的公式分別為

式(7)中:α1,α2∈[0,1]是多核函數(shù)參數(shù);是徑向基核函數(shù).

由文獻(xiàn)[10]可知,上述多核函數(shù)是合理的核函數(shù).徑向基核函數(shù)、K型核函數(shù)和指數(shù)徑向基核函數(shù)具有各自的優(yōu)勢(shì),將徑向基核函數(shù)分別與K型核函數(shù)、指數(shù)徑向基核函數(shù)組合得到多核函數(shù)可以將兩者的優(yōu)勢(shì)互補(bǔ).利用多核函數(shù),可以構(gòu)造出性能更加優(yōu)越的SVDD算法.

3 基于核函數(shù)改進(jìn)的SVDD分類算法

算法的基本思想是,利用光譜特征組合的特征向量,采用基于多核函數(shù)1和多核函數(shù)2的SVDD改進(jìn)算法對(duì)遙感圖像進(jìn)行分類.分類的實(shí)現(xiàn)主要分如下3個(gè)主要階段:1)把訓(xùn)練樣本輸入SVDD進(jìn)行訓(xùn)練;2)用訓(xùn)練好的SVDD對(duì)測(cè)試樣本和待分類圖像進(jìn)行分類;3)對(duì)結(jié)果進(jìn)行評(píng)價(jià)分析.

算法的實(shí)現(xiàn)步驟:設(shè)標(biāo)記樣本集為訓(xùn)練集{(xi,yi)}Ni=1?X×Y,xi∈X表示一個(gè)輸入模式,yi∈Y={ω1,…,ωc}表示對(duì)應(yīng)的輸出類.用SVDD算法進(jìn)行多類分類的中心思想,是利用由SVDD得到的領(lǐng)域描述信息來(lái)估計(jì)每個(gè)類的分布,然后通過(guò)貝葉斯決策規(guī)則對(duì)數(shù)據(jù)點(diǎn)分類[6].

算法的訓(xùn)練階段有如下3個(gè)具體步驟.

步驟1數(shù)據(jù)預(yù)處理及模型參數(shù)初始化.將提取各波段遙感圖像的光譜特征組合成的特征向量作為訓(xùn)練集,初始化懲罰因子C=0.1,徑向基核函數(shù)和指數(shù)徑向基核函數(shù)的參數(shù)σ=3,K型核函數(shù)的參數(shù)k=0.001和多核函數(shù)參數(shù)α=0.01,分別在(0,1),[3,25],(0,1)和[0,1]內(nèi)取C,σ,k和α,步長(zhǎng)分別為0.1,1,0.001和0.01,使用網(wǎng)格搜索法[11]找到最優(yōu)參數(shù)組合使得分類精度最高.

步驟2數(shù)據(jù)分區(qū).根據(jù)輸出類把給定的訓(xùn)練集分成c個(gè)不相交的子集{Dk}ck=1.例如,第k類數(shù)據(jù)集Dk,包含Nk個(gè)元素,即Dk={(xi1,ωk),…,(xiNk,ωk)},其中xi是第k類遙感圖像的特征向量,ωk是對(duì)應(yīng)的類別標(biāo)簽.

步驟3對(duì)每類數(shù)據(jù)集做SVDD.對(duì)每類數(shù)據(jù)集Dk,通過(guò)SVDD建立一個(gè)訓(xùn)練高斯核支持函數(shù).具體是解式(3)的對(duì)偶問(wèn)題,記解為,l=1,…,Nk,Jk?{1,…,Nk}是非零ˉβil的指標(biāo)集合.每類數(shù)據(jù)集Dk的訓(xùn)練高斯核支持函數(shù)由下式給出

算法的測(cè)試階段有2個(gè)具體步驟.

步驟1為每個(gè)類構(gòu)造偽密度函數(shù).即為每個(gè)類k(k=1,…,c)構(gòu)造偽密度函數(shù)對(duì)任意fk(·)的支持向量xsk,rk=R2(xsk).

步驟2用估計(jì)偽后驗(yàn)概率分布函數(shù)進(jìn)行分類.即對(duì)每個(gè)類k(k=1,…,c)估計(jì)偽后驗(yàn)概率分布函數(shù)為

4 仿真實(shí)驗(yàn)與結(jié)果分析

首先對(duì)美國(guó)Lanier lake湖區(qū)Landsat E TM+遙感圖像選取波段3,4,5組合成多波段圖像作為原始的遙感圖像(圖2(a));然后,對(duì)合成圖進(jìn)行降噪等預(yù)處理,并選擇大小為200px×200px的圖像作為待分類圖像(圖2(b)),再次分別提取第3,4,5波段遙感圖像(圖2(c,d,e))的光譜特征組合成特征向量;最后用特征向量進(jìn)行訓(xùn)練和測(cè)試分類效果.

圖2 美國(guó)Lanier lake湖區(qū)遙感圖像Fig.2 Remote sensing image of American Lanier lake

參照土地利用圖,采用目視解譯,確定該地區(qū)地面覆蓋類型為水域(W)、草地(G)、落葉林(D)、針葉林(P)、耕地(A)、居民區(qū)(U)和裸地(B).對(duì)以上每類各選取200個(gè)樣本,并將其中的100個(gè)樣本作為訓(xùn)練樣本,剩余100個(gè)樣本作為測(cè)試分類樣本.

為了驗(yàn)證算法的有效性,在環(huán)境為Matlab R2010b,機(jī)器配置為Pentium(R)Dual-Core cpu T4400 2.20GHz,內(nèi)存為1.93GB的計(jì)算機(jī)上進(jìn)行仿真實(shí)驗(yàn).利用實(shí)驗(yàn)得到的訓(xùn)練模型對(duì)分類圖像進(jìn)行分類,結(jié)果如圖3所示.

分類精度(P)是遙感圖像中正確分類的百分比,而Kappa系數(shù)(K)是用來(lái)評(píng)價(jià)分類精度的多元統(tǒng)計(jì)方法[12],在遙感圖像處理中主要用于精確性評(píng)價(jià)和圖像的一致性判斷.分類精度、Kappa系數(shù)越大,分類結(jié)果越可靠,其表達(dá)式分別為

式(10),(11)中:ai,i代表分類混淆矩陣A的對(duì)角元素;N為各樣本總數(shù);Ti·和T·i分別表示A的第i行之和以及第i列之和.

從待分類圖像中7類地物的每一類中分別選取100個(gè)樣本點(diǎn)進(jìn)行仿真,計(jì)算各個(gè)樣本所屬類別,并將每類樣本分類結(jié)果數(shù)據(jù)看作矩陣,計(jì)算分類總精度(Ptot)及Kappa系數(shù).然后,將3次實(shí)驗(yàn)所得的分類混淆矩陣中的總體分類精度,Kappa系數(shù)和訓(xùn)練時(shí)間(t)作為評(píng)價(jià)標(biāo)準(zhǔn),結(jié)果如表1所示.

從表1可知:基于多核函數(shù)1的SVDD算法具有學(xué)習(xí)能力強(qiáng)、泛化能力強(qiáng)和計(jì)算量小的優(yōu)勢(shì);基于多核函數(shù)2的SVDD算法具有學(xué)習(xí)能力強(qiáng)和計(jì)算量小的優(yōu)勢(shì).從表1還可以看出:和基于徑向基核函數(shù)的SVDD算法相比,基于多核函數(shù)1和多核函數(shù)2的SVDD算法分類精度得到提高,訓(xùn)練時(shí)間也減少了.其中,基于多核函數(shù)2的SVDD算法所用時(shí)間最短.

5 結(jié)束語(yǔ)

文中首次將K型核函數(shù)和指數(shù)徑向基核函數(shù)應(yīng)用于SVDD算法中,并將構(gòu)造的多核函數(shù)SVDD算法應(yīng)用于遙感圖像分類.通過(guò)對(duì)遙感圖像的分類,驗(yàn)證了基于核函數(shù)改進(jìn)的SVDD算法縮短了分類過(guò)程的訓(xùn)練時(shí)間,提高了分類精度,具有較強(qiáng)的現(xiàn)實(shí)意義.

[1]TAX D M J,DUIN R P W.Support vector data description[J].Machine Learning,2004,54(1):45-66.

[2]李衛(wèi)鵬,李凌均,孔維峰,等.正交小波變換支持向量數(shù)據(jù)描述在故障診斷中的應(yīng)用[J].機(jī)械科學(xué)與技術(shù),2011,30(3):466-470.

[3]成寶芝,趙春暉,王玉磊.結(jié)合光譜解混的高光譜圖像異常目標(biāo)檢測(cè)SVDD算法[J].應(yīng)用科學(xué)學(xué)報(bào),2012,30(1):82-88.

[4]王震宇.基于支持向量數(shù)據(jù)描述的說(shuō)話人識(shí)別研究[D].杭州:浙江工業(yè)大學(xué),2011:13-50.

[5]汪廷華,趙東巖,張瓊.多類核極化及其在多寬度RBF核參數(shù)選擇中的應(yīng)用[J].北京大學(xué)學(xué)報(bào):自然科學(xué)版,2012,48(5):727-731.

[6]LEE D,LEE J.Domain described support vector classifier for multi-classification problems[J].Pattern Recognition,2007,40(1):41-51(doi:10.1016/j.patcog.2006.06.008).

[7]孫翠娟.基于K型核函數(shù)的支持向量機(jī)[J].淮海工學(xué)院學(xué)報(bào):自然科學(xué)版,2006,15(2):4-7.

[8]王春燕,夏樂(lè)天,孫毓蔓.基于不同核函數(shù)的SVM用于徑流預(yù)報(bào)的比較[J].人民黃河,2010,32(9):35-36.

[9]LIMA C A M,COELHO A L V,CHAGAS S.Automatic EEG signal classification for epilepsy diagnosis with relevance vector machines[J]Expert Systems with Applications,2009,36(6):10054-10059.

[10]杜培軍,譚琨,夏俊士.高光譜遙感影像分類與支持向量機(jī)應(yīng)用研究[M].北京:科學(xué)出版社,2012:117-118.

[11]王興玲,李占斌.基于網(wǎng)格搜索的支持向量機(jī)核函數(shù)參數(shù)的確定[J].中國(guó)海洋大學(xué)學(xué)報(bào),2005,35(5):859-862.

[12]LAM K W K,LAU W L,LI Zhi-lin.The effects on image classification using image compression technique[J].International Archives of Photogrammertry and Remote Sensing,2000,33(B7):744-750.

猜你喜歡
特征向量徑向向量
二年制職教本科線性代數(shù)課程的幾何化教學(xué)設(shè)計(jì)——以特征值和特征向量為例
向量的分解
克羅內(nèi)克積的特征向量
淺探徑向連接體的圓周運(yùn)動(dòng)
RN上一類Kirchhoff型方程徑向?qū)ΨQ正解的存在性
聚焦“向量與三角”創(chuàng)新題
基于PID+前饋的3MN徑向鍛造機(jī)控制系統(tǒng)的研究
一類無(wú)窮下級(jí)整函數(shù)的Julia集的徑向分布
一類特殊矩陣特征向量的求法
EXCEL表格計(jì)算判斷矩陣近似特征向量在AHP法檢驗(yàn)上的應(yīng)用