倪 鵬, 黃 蔚, 呂 巍, 姚 禹

(1.長(zhǎng)春工業(yè)大學(xué) 應(yīng)用技術(shù)學(xué)院, 長(zhǎng)春 130012; 2.長(zhǎng)春工業(yè)大學(xué) 軟件職業(yè)技術(shù)學(xué)院, 長(zhǎng)春130012;3.吉林大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院, 長(zhǎng)春 130012)

基于Zernike矩特征的FCM-RBF神經(jīng)網(wǎng)絡(luò)圖像分類器

倪 鵬1,2, 黃 蔚3, 呂 巍3, 姚 禹1

(1.長(zhǎng)春工業(yè)大學(xué) 應(yīng)用技術(shù)學(xué)院, 長(zhǎng)春 130012; 2.長(zhǎng)春工業(yè)大學(xué) 軟件職業(yè)技術(shù)學(xué)院, 長(zhǎng)春130012;
3.吉林大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院, 長(zhǎng)春 130012)

針對(duì)交通監(jiān)控圖像識(shí)別精度較差的問題, 設(shè)計(jì)一種基于徑向基(radial-basis)函數(shù)神經(jīng)網(wǎng)絡(luò)的圖像分類器.該分類器利用Zernike矩噪聲敏感度較小、形狀特征穩(wěn)定性好的特點(diǎn), 構(gòu)建四階矩的特征向量, 用于特征提?。?利用自適應(yīng)模糊聚類方法, 解決徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)不確定的問題.仿真分析表明, 該分類器與基于改進(jìn)的快速模糊C均值聚類算法的Back Propagation網(wǎng)絡(luò)分類器和徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)分類器相比具有更高的識(shí)別率, 與改進(jìn)的粒子群優(yōu)化模糊C均值聚類算法的徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)分類器相比具有相近的識(shí)別率, 但其計(jì)算復(fù)雜度較低.仿真實(shí)驗(yàn)結(jié)果表明, 該方法具有較好的分類能力及較高的計(jì)算效率.

Zernike矩； 模糊C均值； 徑向基神經(jīng)網(wǎng)絡(luò)； 圖像分類器

隨著交通智能化監(jiān)控和智能化管理水平的日趨提高, 每天都產(chǎn)生大量的監(jiān)控圖像, 通常需要人工對(duì)這些數(shù)量龐大的圖像進(jìn)行分類和篩選, 耗時(shí)耗力, 因此如何對(duì)這些圖像信息進(jìn)行有效識(shí)別和快速分類已成為亟待解決的問題.典型的圖像識(shí)別過程分為圖像處理、特征提取、分類器設(shè)計(jì)三部分.圖像處理指對(duì)設(shè)備獲取的圖像進(jìn)行增強(qiáng)、復(fù)原和去噪等處理, 一般還需進(jìn)行圖像分割, 便于提取有用信息； 特征提取指通過數(shù)學(xué)變換將二維圖像矩陣轉(zhuǎn)換成一個(gè)多維列向量[1]的過程, 目前用于圖像識(shí)別的特征主要有紋理、顏色(灰度)的統(tǒng)計(jì)特征、圖像代數(shù)特征、邊緣特征和圖像變換系數(shù)特征[2]； 分類器設(shè)計(jì)指設(shè)計(jì)判決函數(shù)模型, 實(shí)現(xiàn)圖像分類, 常用的分類器設(shè)計(jì)方法有模板匹配法、判別函數(shù)分類法、基于規(guī)則推理法和神經(jīng)網(wǎng)絡(luò)分類法等.

本文針對(duì)交通監(jiān)控圖像的識(shí)別問題, 應(yīng)用Zernike矩[3]噪聲敏感度較小和形狀特征穩(wěn)定性好的特點(diǎn), 構(gòu)建四階矩的特征向量, 用于特征提取； 利用徑向基函數(shù)(radial-basis function, RBF)[4]神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速度快、并能有效避免局部極小值的特點(diǎn), 設(shè)計(jì)一種基于RBF神經(jīng)網(wǎng)絡(luò)的圖像分類器, 并針對(duì)其隱層節(jié)點(diǎn)數(shù)的不確定問題, 給出一種自適應(yīng)模糊聚類方法, 從而實(shí)現(xiàn)RBF神經(jīng)網(wǎng)絡(luò)隱節(jié)點(diǎn)參數(shù)的自適應(yīng)確定.仿真實(shí)驗(yàn)驗(yàn)證了該分類器具有較高的泛化性能.

1 基于Zernike矩的特征提取

Zernike矩是一組正交矩[5], 與Hu矩相比, 盡管計(jì)算復(fù)雜, 但能構(gòu)造任意的高階矩, 具有較好的特征表達(dá)能力, 且噪聲敏感度較小.

對(duì)于圖像f(x,y),n階Zernike矩定義為

對(duì)于實(shí)二維圖像, 其Zernike矩Anm為復(fù)數(shù); 對(duì)數(shù)字圖像, 積分用求和代替:

其中x2+y2≤1.極坐標(biāo)下Zernike矩的定義為

Zernike矩是基于圖像區(qū)域的形狀描述子, 且其基是正交徑向多項(xiàng)式, 因此具有旋轉(zhuǎn)不變性, 且易于構(gòu)造高階矩.本文以圖像一至四階Zernike矩的模組成特征向量, 進(jìn)行特征提取.如圖1所示, 對(duì)越野車原始圖像、小角度旋轉(zhuǎn)圖像、運(yùn)動(dòng)模糊圖像和加噪干擾圖像共4幅圖像, 分別提取各自Zernike矩的模(|A1|-|A4|), 實(shí)驗(yàn)結(jié)果列于表1. 由表1可見, 四階Zernike矩特征[6]提取方法, 在圖像旋轉(zhuǎn)、運(yùn)動(dòng)模糊及噪聲干擾情況下, 均表現(xiàn)出較好的穩(wěn)定性, 適用于交通監(jiān)控圖像的特征提取.

圖1 實(shí)驗(yàn)圖像Fig.1 Experimental images

表1 4類圖像實(shí)驗(yàn)結(jié)果Table 1 Four kinds of experimental results

2 FCM-RBF神經(jīng)網(wǎng)絡(luò)分類器

2.1RBF神經(jīng)網(wǎng)絡(luò)

圖2 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 RBF neural network structure

RBF神經(jīng)網(wǎng)絡(luò)[7-8]的結(jié)構(gòu)如圖2所示.RBF網(wǎng)絡(luò)通常為三層的前饋網(wǎng)絡(luò): 第一層是輸入層, 輸入特征空間模式的特征值, 輸入節(jié)點(diǎn)直接與第二層的各神經(jīng)元相連； 第二層是RBF網(wǎng)絡(luò)的隱神經(jīng)元層, 其隱神經(jīng)元數(shù)量可隨問題的復(fù)雜程度變化, 給出了RBF網(wǎng)絡(luò)中對(duì)輸入矢量所做的非線性變換； 第三層是線性神經(jīng)元層, RBF神經(jīng)元的輸出和第三層的線性神經(jīng)元以一定權(quán)值相連, 分類器的輸出只是這些激活函數(shù)的加權(quán)線性和.輸出層提供了從隱單元空間到輸出空間的一種線性變換.圖2中:x={x1,x2,…,xn}T∈n為輸入矢量;w={w1,w2,…,wn}∈m為輸出層權(quán)矢量;wo為輸出單元偏移量;f(x)為網(wǎng)絡(luò)輸出.

假設(shè)網(wǎng)絡(luò)輸入層、隱含層和輸出層的神經(jīng)元個(gè)數(shù)分別為ni,nh和no, 則網(wǎng)絡(luò)可實(shí)現(xiàn)輸入輸出之間的如下映射關(guān)系：

其中:x={x1,x2,…,xn}T∈n為輸入向量;yi為第i個(gè)神經(jīng)元的輸出值;wij為第j個(gè)隱單元到第i個(gè)輸出單元的權(quán)重; ‖·‖為歐氏范數(shù);cj為第j個(gè)隱單元的中心;Φ(·)為徑向基函數(shù).本文選取Gauss核函數(shù)形式：

其中σ決定了該基函數(shù)繞中心的寬度.

2.2自適應(yīng)模糊C均值聚類算法

RBF神經(jīng)網(wǎng)絡(luò)[9]具有拓?fù)浣Y(jié)構(gòu)簡(jiǎn)單和學(xué)習(xí)過程透明等優(yōu)點(diǎn), 但無(wú)法確定合適的隱層單元個(gè)數(shù), 過于龐大的隱層單元會(huì)降低學(xué)習(xí)效率和映射性能[10].在一般訓(xùn)練方法中, 隱節(jié)點(diǎn)數(shù)是定值, 與核函數(shù)的初始中心一起憑經(jīng)驗(yàn)給出, 如果對(duì)不同類別的特征掌握較少, 則經(jīng)驗(yàn)數(shù)據(jù)會(huì)出現(xiàn)較大的偏差, 影響網(wǎng)絡(luò)的分類性能.針對(duì)此問題, 本文引入FCM(fuzzyC-means)聚類[11]思想, 針對(duì)FCM必須預(yù)先確定聚類個(gè)數(shù), 具有較大的主觀性和依賴性問題, 給出一種能自動(dòng)確定聚類個(gè)數(shù)的自適應(yīng)FCM聚類算法, 以聚類個(gè)數(shù)確定網(wǎng)絡(luò)節(jié)點(diǎn)個(gè)數(shù), 將聚類中心和聚類半徑分別作為RBF節(jié)點(diǎn)基函數(shù)的中心和寬度, 從而實(shí)現(xiàn)了RBF網(wǎng)絡(luò)的自適應(yīng)確定.

模糊C均值算法目標(biāo)函數(shù)的一般形式為

該算法的目的是將該目標(biāo)函數(shù)最小化, 其約束條件為

其中：n表示樣本總數(shù);c表示聚類中心數(shù);U=(uik)n×c為隸屬度矩陣;uik是矩陣U的第i行第k列元素, 表示第k個(gè)數(shù)據(jù)樣本對(duì)第i個(gè)聚類中心的隸屬度;m∈[1,+∞)是一個(gè)加權(quán)指數(shù);V={v1,v2,…,vc}為聚類中心矩陣;Jm是類內(nèi)誤差的加權(quán)平方和目標(biāo)函數(shù).

隸屬度矩陣U為

模糊聚類中心vi為

通常采用交替優(yōu)化分配矩陣U和聚類中心矩陣V的迭代算法得到一個(gè)局部極小解.FCM算法通過迭代式(8),(9)達(dá)到目標(biāo)函數(shù), 實(shí)現(xiàn)數(shù)據(jù)集的模糊聚類.雖然FCM算法是一種無(wú)監(jiān)督的分類算法, 但加權(quán)指數(shù)m和聚類類別數(shù)c必須在聚類分析前給出, 最初的方法通常是經(jīng)驗(yàn)性的, 目前的研究多集中在聚類有效性判別函數(shù)上, 如基于可能性分布的判別函數(shù)、基于模糊相關(guān)度的判別函數(shù)[11]及基于子集測(cè)度的判別函數(shù)等.本文給出一種自適應(yīng)聚類算法, 在加權(quán)指數(shù)選擇上, 令m=2.算法如下：

1) 選定聚類有效性函數(shù), 初始化聚類個(gè)數(shù)c=2, 最優(yōu)聚類個(gè)數(shù)c*=2, 設(shè)置迭代截止誤差ε(ε>0)、算法最大迭代次數(shù)Tmax、算法最大聚類個(gè)數(shù)cmax和隨機(jī)初始化類中心矩陣V= {v1,v2,…,vc}, 令t=0；

2) 應(yīng)用式(8)產(chǎn)生初始隸屬度矩陣U(t=0);

3) 對(duì)t=1,2,…,Tmax, 用式(9)計(jì)算聚類中心矩陣V, 用式(8)計(jì)算隸屬度矩陣U(p);

4) 若‖V(t)-V(t-1)‖<ε, 則停止迭代, 收斂后得到一組權(quán)值矢量Vi(i=2,3,…,cmax); 否則, 轉(zhuǎn)3)；

5) 計(jì)算對(duì)應(yīng)于當(dāng)前神經(jīng)網(wǎng)絡(luò)的聚類有效性函數(shù)值Value(c,X,V),V={v2,v3,…,vcmax}； 若Value>Value*(或Value

6) 增加一個(gè)聚類, 令c=c+1, 若c

該算法的最終結(jié)果Value*即為最大(或最小)的聚類有效性函數(shù)值, 對(duì)應(yīng)的c*為最優(yōu)的聚類數(shù)目, 相應(yīng)聚類結(jié)果即為最優(yōu)的聚類結(jié)果, 本文采用式(6)作為聚類有效性函數(shù).

3 實(shí)驗(yàn)結(jié)果與分析

實(shí)驗(yàn)選用某段交通監(jiān)控視頻中提取的車輛圖像, 包括小型車(轎車)、中型車(越野車、商用三廂車)和大型車(公交車、卡車)共3類.每類選取1 000張圖像, 建立共3 000張圖像的訓(xùn)練樣本集, 使用四階Zernike矩特征提取方法提取圖像特征向量, 通過自適應(yīng)FCM算法確定RBF網(wǎng)絡(luò)節(jié)點(diǎn)及參數(shù), 用反傳算法完成隱層和輸出層之間連接權(quán)值的訓(xùn)練； 另取每類500個(gè)樣本, 組成共1 500張圖像的測(cè)試樣本集, 用于測(cè)試網(wǎng)絡(luò)泛化性能.為便于比較, 建立隱層為Sigmod函數(shù)的4-7-3前饋網(wǎng)絡(luò), 使用學(xué)習(xí)率0.3、動(dòng)量因子0.35的反向傳播算法完成網(wǎng)絡(luò)訓(xùn)練.實(shí)驗(yàn)結(jié)果列于表2.由表2可見, 基于Zernike矩特征的FCM-RBF網(wǎng)絡(luò), 在相同計(jì)算條件下, 與其他3種分類器相比可節(jié)省5～6 s的計(jì)算時(shí)間, 具有較好的圖像分類能力及較高的計(jì)算效率, 可用于交通監(jiān)控圖像識(shí)別工作.

表2 網(wǎng)絡(luò)泛化性能實(shí)驗(yàn)結(jié)果Table 2 Experimental results of network generalization performance

綜上所述, 本文針對(duì)交通監(jiān)控圖像的識(shí)別問題, 構(gòu)建了四階Zernike矩特征向量, 提出了一種基于RBF神經(jīng)網(wǎng)絡(luò)的圖像分類器, 并針對(duì)其隱層節(jié)點(diǎn)數(shù)不確定問題, 給出了一種自適應(yīng)模糊聚類方法, 實(shí)現(xiàn)了RBF神經(jīng)網(wǎng)絡(luò)隱節(jié)點(diǎn)參數(shù)的自適應(yīng)確定.實(shí)驗(yàn)結(jié)果表明, 該方法具有較好的分類能力及較高的計(jì)算效率, 在交通監(jiān)控圖像識(shí)別領(lǐng)域有較高的應(yīng)用價(jià)值.

[1]李青松, 覃錫忠, 賈振紅, 等.基于NSCT和FCM聚類的SAR圖像無(wú)監(jiān)督變化檢測(cè) [J].激光雜志, 2013, 34(4): 20-22.(LI Qingsong, QIN Xizhong, JIA Zhenhong, et al.An Unsupervised Change Detection of SAR Images Based on NSCT and FCM Clustering [J].Laser Journal, 2013, 34(4): 20-22.)

[2]Rovithakis G A.Robust Neural Adaptive Stabilization of Unknown Systems with Measurement Noise [J].Systerms, Man, and Cybernetics, Part B: Cybernetics, 2002, 29(3): 453-459.

[3]姜邁, 梁煒, 張曉鈴, 等.Zernike亞像素圖像矩邊緣檢測(cè)算子方向角模型研究 [J].傳感器與微系統(tǒng), 2013, 32(2): 16-19.(JIANG Mai, LIANG Wei, ZHANG Xiaoling, et al.Research on Sub-pixei Zernike Moments Edge Detecting Operator Based on Direction Angle Model [J].Transducer and Microsystem Technologies, 2013, 32(2): 16-19.)

[4]張黎明, 蔡琦, 宋梅村.基于RBF神經(jīng)網(wǎng)絡(luò)的NPP運(yùn)行狀態(tài)趨勢(shì)預(yù)測(cè) [J].原子能科學(xué)技術(shù), 2013, 47(11): 2104-2107.(ZHANG Liming, CAI Qi, SONG Meicun.Trend Prediction of NPP Operating Conditions Based on RBF Neural Network [J].Atomic Energy Science and Technology, 2013, 47(11): 2104-2107.)

[5]戴修斌, 張輝, 舒華忠, 等.基于正交矩模糊和仿射混合不變量的圖像識(shí)別算法 [J].東南大學(xué)學(xué)報(bào): 自然科學(xué)版, 2011, 41(1): 52-57.(DAI Xiubin, ZHANG Hui, SHU Huazhong, et al.Image Recognition Algorithm Based on Combined Blur and Affine Invariants of Legendre Moment [J].Journal of Southeast University: Natural Science Edition, 2011, 41(1): 52-57.)

[6]李了了.基于Zernike矩的字符特征選擇 [J].內(nèi)江師范學(xué)院學(xué)報(bào), 2008, 23(6): 49-51.(LI Liaoliao.Choose of Character Feature Based on Zernike Moment [J].Journal of Neijiang Normal University, 2008, 23(6): 49-51.)

[7]黎俊鋒, 朱鋒峰.基于樣本密度的FCM改進(jìn)算法 [J].科學(xué)技術(shù)與工程, 2007, 7(4): 636-638.(LI Junfeng, ZHU Fengfeng.Improved FCM Algorithm Based on the Density of Samples [J].Science Technology and Engineering, 2007, 7(4): 636-638.)

[8]於世為, 諸克軍, 郭海湘.基于MPSO-BP的RBF網(wǎng)絡(luò)自構(gòu)建學(xué)習(xí)算法 [J].系統(tǒng)工程與電子技術(shù), 2010, 32(3): 624-629.(YU Shiwei, ZHU Kejun, GUO Haixiang.Self-generated Training Algorithm of RBF Neural Networks Based on MPSO-BP [J].Systems Engineering and Electronics, 2010, 32(3): 624-629.)

[9]葉健, 葛臨東, 吳月嫻.一種優(yōu)化的RBF神經(jīng)網(wǎng)絡(luò)在調(diào)制識(shí)別中的應(yīng)用 [J].自動(dòng)化學(xué)報(bào), 2007, 33(6): 652-654.(YE Jian, GE Lindong, WU Yuexian.An Application of Improved RBF Neural Network in Modulation Recognition [J].Acta Automatica Sinica, 2007, 33(6): 652-654.)

[10]王士龍, 徐玉如, 萬(wàn)磊, 等.基于邊界矩和改進(jìn)FCM聚類的水下目標(biāo)識(shí)別 [J].系統(tǒng)工程理論與實(shí)踐, 2012, 32(12): 2809-2815.(WANG Shilong, XU Yuru, WAN Lei, et al.Underwater Targets Recognition Based on Contour Moment and Modified FCM Algorithm [J].Systems Engineering: Theory & Practice, 2012, 32(12): 2809-2815.)

[11]蒲蓬勃, 王鴿, 劉太安.基于粒子群優(yōu)化的模糊C-均值聚類改進(jìn)算法 [J].計(jì)算機(jī)工程與設(shè)計(jì), 2008, 29(16): 4277-4279.(PU Pengbo, WANG Ge, LIU Tai’an.Research of Improved FuzzyC-Means Algorithm Based on Particle Swarm Optimization [J].Computer Engineering and Design, 2008, 29(16): 4277-4279.)

ImageFCM-RBFNeuralNetworkClassifierBasedonZernikeMomentFeatures

NI Peng1,2, HUANG Wei3, Lü Wei3, YAO Yu1
(1.CollegeofAppliedTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
2.SchoolofSoftTechnology,ChangchunUniversityofTechnology,Changchun130012,China;
3.CollegeofComputerScienceandTechnology,JilinUniversity,Changchun130012,China)

In order to solve the problem of nonhigh image recognition accuracy for traffic monitoring, an image classification was proposed based on radial basis function (RBF) neural network.Zernike array less noise sensitivity, shape features and good stability were considered to build a fourth-order array feature vector for feature extraction; and an adaptive fuzzy clustering method fuzzyC-means was used to solve hidden neurons uncertain of RBF neural network.The simulation analysis shows that the classifier has a higher recognition rate than the classifier based on fuzzyC-means clustering algorithm of BP and RBF neural network, a lower computational complexity than RBF neural network classifier with particle swarm of fuzzyC-means clustering algorithm, though they have similar recognition rate.Simulation and experiments show that this method has better classification capabilities and higher computational efficiency.

Zernike moment; fuzzyC-means; radial basis function neural network; image classifier

2014-04-30.

倪 鵬(1980—), 男, 漢族, 碩士, 講師, 從事嵌入式系統(tǒng)開發(fā)與物聯(lián)網(wǎng)的研究, E-mail: nipeng@mail.ccut.edu.cn.通信作者： 黃 蔚(1977—), 男, 漢族, 碩士, 工程師, 從事嵌入式系統(tǒng)與單片機(jī)系統(tǒng)的研究, E-mail: hwei@jlu.edu.cn.

吉林省教育廳“十二五”科學(xué)技術(shù)研究項(xiàng)目(批準(zhǔn)號(hào)： 2014146)和吉林省科技發(fā)展計(jì)劃重點(diǎn)科技攻關(guān)項(xiàng)目(批準(zhǔn)號(hào)： 20140204033GX).

TP335

A

1671-5489(2014)06-1284-05

10.13413/j.cnki.jdxblxb.2014.06.33

韓 嘯)