宋 超 秦永彬 許道云

(貴州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院 貴陽 550025)

基于K-means與SVM的雞蛋特征檢測

宋 超 秦永彬 許道云

(貴州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院 貴陽 550025)

機(jī)器視覺與機(jī)器學(xué)習(xí)的不斷發(fā)展對傳統(tǒng)的視覺特征提取的影響在不斷加強(qiáng)，在實(shí)際的使用當(dāng)中也在逐步替代那些繁雜的人工特征提取的方式，論文從實(shí)際應(yīng)用當(dāng)中介紹一種基于K-means自動提取特征的方法，其在雞蛋缺陷檢測使用中得到了較好的實(shí)際效果。

機(jī)器視覺; K-means; 缺陷檢測; SVM

Class Number TP391.9

1 引言

機(jī)器視覺作為一種人眼的延伸，用來代替人工的觀察和判斷。近年來，隨著計(jì)算機(jī)技術(shù)、數(shù)字圖像處理技術(shù)、電子技術(shù)等的發(fā)展，機(jī)器視覺在工業(yè)生產(chǎn)當(dāng)中變得越來越重要，其在實(shí)際檢測、測量、控制等方面發(fā)揮著重要的作用，在工業(yè)生產(chǎn)中的缺陷檢測中應(yīng)用廣泛。

基于機(jī)器視覺的雞蛋缺陷檢測，雞蛋的外部缺陷檢測目前主要是針對雞蛋外部的污點(diǎn)(外殼上附著雞的糞便，羽毛等雜物，主要還是糞便物)、血塊、裂紋進(jìn)行檢測[1]，由于外部的這些因素很容易在蛋殼上造成病毒的殘留，不利于雞蛋的保存，有時在運(yùn)輸途中也會對其他干凈的雞蛋產(chǎn)生污染，所以針對上述的問題需要對含有缺陷的雞蛋進(jìn)行隔離處理。機(jī)器視覺檢測技術(shù)主要通過分析雞蛋表面的顏色特征來識別雞蛋表面的污點(diǎn)、裂紋等。目前，主要的檢測技術(shù)是通過在固定外界光照條件等條件利用缺陷對光照的反射和折射差異性可以通過數(shù)字圖像處理的方法進(jìn)行識別。目前，基于雞蛋外部缺陷識別的方法主要受制于雞蛋圖像采集的完整性，外部光照條件等[1]。如Elster.T[2]和Goodnm.J.W[3]采用直方圖均衡化和sobel算子相結(jié)合方法進(jìn)行特征的提取，Leiqing P[4]采用灰度圖像計(jì)算視覺系統(tǒng)，使用灰度直方圖的閾值分割提取特征訓(xùn)練神經(jīng)網(wǎng)絡(luò)，Patel.V.C[5]采用彩色圖像采集系統(tǒng)，使用顏色直方圖提取特征訓(xùn)練網(wǎng)絡(luò)，熊利榮[6]使用Sobel算子進(jìn)行邊緣檢測獲取雞蛋的特征。現(xiàn)有的基于機(jī)器視覺的方法對雞蛋外部特征提取的方法主要是使用圖像處理技術(shù)將獲得雞蛋的彩色圖像，經(jīng)過背景去除、灰度轉(zhuǎn)化、中值濾波、閾值分割、區(qū)域標(biāo)記和特征提取從雞蛋的圖像中分割出缺陷區(qū)域，并提取出缺陷區(qū)域的幾何特征參數(shù)，從而實(shí)現(xiàn)對雞蛋的判別[7]?；跈C(jī)器視覺的方法對雞蛋外部特征提取的方法整體流程如圖1所示：(a)→(b)→(c)→(d)→(e)→(f)→(g)。

圖1 雞蛋特征提取的過程

目前，對于雞蛋的缺陷特征(如圖1(g)的污點(diǎn)缺陷)在表示時主要是通過將缺陷部分的值與整個雞蛋的值做比值(如圖1(f)二值圖(f)與(g)中的白色部分的值進(jìn)行比值，這兩幅圖是二值圖，計(jì)算其中的一個數(shù)就行了)。但是這種檢測對外部條件要求較高,在使用圖像處理時由于采集圖像的環(huán)境對于進(jìn)行閾值的設(shè)置有較大的影響,不利于方法的通用性，而且對雞蛋的顏色差異具有較高的敏感性，會在計(jì)算特征時引入很高的偏差，使得在使用過程當(dāng)中與之前預(yù)設(shè)置的閾值等產(chǎn)生沖突，會對特征的提取的產(chǎn)生差異，進(jìn)而出現(xiàn)較高的誤識率。

針對這種特征提取的缺陷性，本文主要采用一種無監(jiān)督的方法來提取雞蛋的外部特征，利用雞蛋的外部特征,通過聚類的方式將相近的特征進(jìn)行抽取,在一定的程度上可以對環(huán)境的要求可以有所降低。本文通過對新鮮雞蛋的外部品質(zhì)檢測(主要是污點(diǎn))，使用基于K-means的聚類方法提取雞蛋外部缺陷特征，并使用線性的支持向量機(jī)(SVM)對得到的特征數(shù)據(jù)進(jìn)行分類訓(xùn)練，進(jìn)而達(dá)到對雞蛋進(jìn)行分類處理。

2 K-means算法和SVM算法

K-means作為一種典型的聚類算法，其基本思想是:在整個數(shù)據(jù)對象集合中，首先隨機(jī)初始化k個中心點(diǎn)，對數(shù)據(jù)集中的對象找到距離其最近的中心點(diǎn)，將該點(diǎn)放入到中心點(diǎn)所對應(yīng)的集合中，分配到同一個中心點(diǎn)的數(shù)據(jù)集合構(gòu)成一個類，然后更新每個類的中心點(diǎn)，重復(fù)上述過程，直到中心點(diǎn)不再發(fā)生變化或者達(dá)到最大的迭代次數(shù)時為止，最終得到整個數(shù)據(jù)集合的k個中心點(diǎn)。

以下給出K-means的數(shù)學(xué)描述：假設(shè)給定的樣本集{x(1),…,x(m)}，每個x(i)∈Rn，K-means算法是將樣本聚類成K個簇(cluseter)，具體算法如下[8]：

1) 隨機(jī)選取K個聚類質(zhì)心點(diǎn)(cluster centroids)為：μ1,μ2,…,μk∈Rn。

2) 重復(fù)下面結(jié)構(gòu)體中的過程直到收斂。

對于每一個樣例i，計(jì)算其應(yīng)該屬于的類:

對于每一個類j，重新計(jì)算該類的質(zhì)心:

K是給定的聚類的數(shù)，c(i)代表樣例i與K個類中距離最近的那個類，c(i)的值是1～K中的一個，重復(fù)結(jié)構(gòu)體中的過程直到質(zhì)心不變或者變化很小。

K-means的這種聚集數(shù)據(jù)的中心點(diǎn)可以看做是數(shù)據(jù)的特征提取的一種方式。

SVM[9]是建立在統(tǒng)計(jì)學(xué)習(xí)理論中結(jié)構(gòu)風(fēng)險最小化原理基礎(chǔ)上，在特征空間上的間隔最大的線性分類器，以下給出線性SVM的介紹：輸入給定訓(xùn)練樣本集：

T= {(x1,y1),(x2,y2),…,(xn,yn)},

yi∈{+1,-1},(i=1,2,3,…,n)

其中，yi為樣本類別。

輸出：分離超平面和分類決策函數(shù)。

構(gòu)造并求解約束最優(yōu)化問題：

≥1-ξi;ξi≥0,i=1,2,…,n

其中，ξi為松弛變量，表示訓(xùn)練樣本的錯分程度；C為懲罰常數(shù)，控制對錯誤樣本的懲罰程度；w和b分別是判決函數(shù)f(x)=(w·x)+b的權(quán)向量和閾值。

拉格朗日函數(shù)為

在進(jìn)行提取特征之前，先將所有的雞蛋訓(xùn)練樣本塊進(jìn)行亮度和對比度的歸一化[10]，此做法是對每一個樣本減去灰度的均值并除以標(biāo)準(zhǔn)差。另外，在除以標(biāo)準(zhǔn)差的時候，為避免分母為零的情況增加一個很小的偏置常數(shù)：

在數(shù)據(jù)分塊之后為了降低數(shù)據(jù)塊之間的相關(guān)性，在此對數(shù)據(jù)塊進(jìn)行一次白化處理。

數(shù)據(jù)白化(whitening)[11]主要是為了降低數(shù)據(jù)的相關(guān)性所做的操作。其主要是根據(jù)PCA的原理進(jìn)行的,需要先對數(shù)據(jù)點(diǎn)x進(jìn)行協(xié)方差矩陣的特征值與特征向量的計(jì)算

其中，V是數(shù)據(jù)x的協(xié)方差矩陣的特征向量組成的矩陣，D是數(shù)據(jù)x協(xié)方差矩陣的特征值的矩陣，εzca是一個很小的常數(shù)，主要是防止分母為0。對于對比度歸一化后的數(shù)據(jù)。需要注意的是這個常數(shù)不能太小，如果太小會加強(qiáng)數(shù)據(jù)的高頻噪聲，會使特征學(xué)習(xí)更加的困難。由于數(shù)據(jù)的旋轉(zhuǎn)對于K-means沒有影響，所以可以使用其他的白化變換方法。

3 缺陷檢測的算法

本文通過將K-means[1]與SVM結(jié)合使用在雞蛋的污點(diǎn)檢測當(dāng)中,使用K-means數(shù)據(jù)特征提取及分類器SVM，在此將K-means與SVM結(jié)合進(jìn)行缺陷的檢測。

首先，使用K-means聚類無監(jiān)督的方式進(jìn)行圖像的特征提取。使用K-means提取圖像的特征塊之間的相似性進(jìn)行分類，首先是將所有的圖片進(jìn)行切塊處理可以獲取大量的圖像塊，根據(jù)圖像塊的相似性，可以找出一個相似塊的中心塊(可以通過K-means的方法得到)，使用K-means的方法假設(shè)有k個中心塊(隨機(jī)初始化)，根據(jù)與k個中心塊的距離計(jì)算出相近似的圖像塊，進(jìn)而可以得到近似塊的k個集合，在此可以看做是一幅圖像的統(tǒng)計(jì)特征，將得到的統(tǒng)計(jì)特征進(jìn)行分類，只需要存儲這些個中心塊即可，然后利用整張圖像與中心塊的距離來得到一張圖像的塊的分布，由于缺陷的部分與正常的部分的統(tǒng)計(jì)塊的數(shù)據(jù)分布會存在差異，利用這種差異性，使用SVM分類器進(jìn)行數(shù)據(jù)分類進(jìn)而得到一種比較好的分類效果。具體描述如下：

1) 首先將進(jìn)行切塊，將每一張圖像都進(jìn)行不重疊的切塊(塊的大小可以設(shè)定)，隨機(jī)不重樣地抽取其中2/3的數(shù)據(jù)塊。

2) 將1)中得到數(shù)據(jù)塊進(jìn)行規(guī)則化，白化處理。

3) 將2)得到數(shù)據(jù)集進(jìn)行K-means的訓(xùn)練得到k個中心塊。

4) 將得到的中心塊進(jìn)行進(jìn)行字典化，將每一張圖像都進(jìn)行切塊并與k中心塊的字典進(jìn)行初步的分類將一張圖片分成k個特征塊。

5) 將4)中得到的特征塊進(jìn)行SVM分類器的訓(xùn)練得到所需要的參數(shù)集。

6) 根據(jù)得到的k中心字典和SVM的參數(shù)即可進(jìn)行圖片的分類。

經(jīng)過上述的訓(xùn)練過程，將得到的中心塊與SVM參數(shù)，此分類算法就已經(jīng)訓(xùn)練好了。整個過程如下圖2所示。

圖2 K-means+SVM提取特征和分類的過程

在圖2中可以看到將原始圖像輸入進(jìn)來依次進(jìn)行分塊處理，K-means訓(xùn)練得到k類(k個中心塊)，然后再將每一張圖像進(jìn)行上述操作得到針對一張圖像的k分類特征，將得到的k特征放入到SVM中最后進(jìn)行訓(xùn)練得到最終的參數(shù)。

在訓(xùn)練中，防止過擬合在此對數(shù)據(jù)塊的集合進(jìn)行了隨機(jī)從中選取2/3的數(shù)據(jù)塊，進(jìn)行數(shù)據(jù)的中心塊的學(xué)習(xí)。

將圖像數(shù)據(jù)先進(jìn)行數(shù)據(jù)分塊，將數(shù)據(jù)進(jìn)行預(yù)處理和白化處理消除數(shù)據(jù)相關(guān)性，將得到的數(shù)據(jù)塊進(jìn)行矢量化。得到樣本集{x(1),…,x(m)}，每個x(i)∈Rn，n=a×b，a是分塊的長度，b是分塊的寬度，可以使用K-means得到k個聚簇的中心塊：μ1,μ2,…,μk∈Rn，將得到的中心塊集合，進(jìn)行矢量化組合成矩陣k×n的矩陣，然后將每一張圖像進(jìn)行分塊并與中心塊矩陣進(jìn)行求距離，將圖像中的每一塊按照距離最小的原則分到相應(yīng)的中心塊下，進(jìn)行數(shù)據(jù)統(tǒng)計(jì)，得到此張圖片的特征數(shù)據(jù)。將m張圖像通過上述的方法得到的特征數(shù)據(jù)。如圖3所示。

圖3 K-means編碼下采樣的求取特征的過程

在此使用中心塊的組合形成中心塊的字典如圖3中中間的字典矩陣，之后使用單張圖片的分塊形成圖3中左側(cè)的矩形，最后利用矩陣的運(yùn)算可以很好地計(jì)算出所需要的特征集如圖3中的右邊的特征矩陣。通過將輸入的圖像按照a×b的塊的大小進(jìn)行分塊(不重疊)，將所有的圖像塊與中心塊矩陣進(jìn)行距離計(jì)算，將最終得到的特征數(shù)據(jù)與已知的標(biāo)簽數(shù)據(jù)交給SVM分類器去訓(xùn)練分類參數(shù)W矩陣，在此使用的是線性的SVM將上面經(jīng)過K-means得到的特征值放入SVM中訓(xùn)練出分類函數(shù)的W值的矩陣，至此就完成了訓(xùn)練集的訓(xùn)練，最后使用測試進(jìn)行驗(yàn)證。

在此使用將數(shù)據(jù)集的所有圖像進(jìn)行分塊處理可以得到大量的數(shù)據(jù)塊，由于數(shù)據(jù)集中正常的與不正常的塊的比例不是均等的且出現(xiàn)污點(diǎn)的區(qū)域的地方一般來講是沒有非污點(diǎn)區(qū)域大，在此對數(shù)據(jù)的選擇上將正常的與缺陷的進(jìn)行分開處理，將所得到的兩類中心塊進(jìn)行了距離比較，將距離近的合并求取中值，將距離遠(yuǎn)的不作處理，最終形成所需要的k中心塊的字典。

本文通過使用K-means的方法提取特征，使用一種隨機(jī)的自學(xué)習(xí)方式提取到雞蛋的特征值，使用SVM的強(qiáng)分類器可以得到較好的分類效果。

基于K-means的特征提取的方法是一種靈活的可以擴(kuò)展的無監(jiān)督的學(xué)習(xí)方法，可以更好地獲取圖像的局部特征數(shù)據(jù)(正是由于這種局部特征數(shù)據(jù)與雞蛋缺陷檢測的特征效果相類似，故產(chǎn)生了較好的效果)，SVM[10]作為一種常用的二值分類器，其在二分類其中的效果較好。這兩者的組合可以使得在實(shí)際的應(yīng)用中得到較好的效果。

4 實(shí)驗(yàn)過程

試驗(yàn)中所使用的雞蛋樣本，是與某公司合作其公司提供的數(shù)據(jù)樣本，樣本的采集是在光照一定，背景控制在黑色的情況下，使用CCD攝錄機(jī)采集的數(shù)據(jù)圖像，其中可以正常使用數(shù)據(jù)圖像856張，其中正常的雞蛋 468張，含有污點(diǎn)的雞蛋388張，實(shí)際使用是訓(xùn)練集與測試集按照3:1的比例進(jìn)行隨機(jī)分配的，具體的額分配如表1。

表1 訓(xùn)練集與測試集數(shù)據(jù)分布

試驗(yàn)中使用的圖像大小統(tǒng)一預(yù)處理為100×100的彩色圖像，使用圖像塊的大小是6×6×3的彩色塊，實(shí)驗(yàn)的K取值800，隨機(jī)圖像塊的個數(shù)設(shè)置為5000。

基于上述的數(shù)據(jù)集進(jìn)行的使用K-means和SVM實(shí)驗(yàn)結(jié)果，如表2所示。

表2 K-means + SVM的實(shí)驗(yàn)結(jié)果

在實(shí)驗(yàn)當(dāng)中，對原始圖像的大小設(shè)定為100×100的彩色圖像[12]，對圖像背景的處理是根據(jù)邊緣特征將雞蛋的部分保留精剩余的背景統(tǒng)一處理成黑色(像素值為0)，白化處理在試驗(yàn)中使用的是ZCA白化。從實(shí)驗(yàn)的結(jié)果可以得出算法對原始圖的處理下過較好，對于白化在實(shí)際的使用中比較耗時，且對實(shí)驗(yàn)結(jié)果的影響不是十分的重要。

基于現(xiàn)有的方法對雞蛋進(jìn)行污點(diǎn)的缺陷檢測的結(jié)果[13]。

表3 對比現(xiàn)有的一些算法

注：由于采樣的不同，可能對結(jié)果的影響也會存在差異

由于圖像的局部特征根據(jù)得到的中心塊矩陣可以根據(jù)圖像塊跟中心塊的距離，可以統(tǒng)計(jì)出特征的變化，將一張圖像的特征以中心塊的維度進(jìn)行度量，由于是在訓(xùn)練期間可以將所有的圖像的數(shù)據(jù)塊進(jìn)行中心塊矩陣的學(xué)習(xí)，可以達(dá)到相對精準(zhǔn)的判斷。在測試期間可以達(dá)到很快的速度提取出特征的數(shù)據(jù)，根據(jù)的SVM的訓(xùn)練的權(quán)重矩陣快速計(jì)算出分類的結(jié)果。

5 結(jié)語

本文建立了一種基于K-means的無監(jiān)督的特征提取方法用于雞蛋的缺陷檢測中，通過對獲取的雞蛋的圖像，進(jìn)行簡單地剪切之后，讓算法自動的去學(xué)習(xí)特征，相較于人工提取的方法有較強(qiáng)的自適應(yīng)性。

相較于目前的缺陷檢測方法識別仍然存在一定的差距，此算法(K-means+SVM)對缺陷雞蛋的識別率達(dá)到94.68%，但隨著算法的不斷優(yōu)化，差距會縮小，自動提取特征的新的算法將會產(chǎn)生，替代原始的人工特征提取。目前比較流行的深度學(xué)習(xí)正在自動提取特征和自動訓(xùn)練分類器的一種端到端的學(xué)習(xí)正在打破傳統(tǒng)的方式，相信會取得一定的成功。

[1] Lunadei L, Ruiz-Garcia L, Bodria L, et al. Automatic identification of defects on eggshell through a multispectral vision system[J]. Food and Bioprocess Technology,2012,5(8):3042-3050.

[2] Elster R T, Goodrum J W. Detection of cracks in eggs using machine vision[J]. Transactions of the ASAE (USA),1991.

[3] Goodrum J W, Elster R T. Machine vision for crack detection in rotating eggs[J]. Transactions of the ASAE (USA),1992.

[4] Leiqing P, Kang T, Zipeng S, et al. Crack detection in eggs using computer vision and BP neural network[J]. Transactions of the Chinese Society of Agricultural Engineering,2007.

[5] Patel V C, McClendon R W, Goodrum J W. Color computer vision and artificial neural networks for the detection of defects in poultry eggs[M]//Artificial Intelligence for Biology and Agriculture. Springer Netherlands,1998:163-176.

[6] 熊利榮,王樹才,任奕林,等.雞蛋大小等級模型的修正[J].農(nóng)機(jī)化研究,2006(2):104-105. XIONG Lirong, WANG Shucai, REN Yilin, et al. The Revision of Grade Model on Egg’s Weight[J]. Journal of Agricultural Mechanization Research,2006(2):104-105.

[7] 潘磊慶,屠康,蘇子鵬,等.基于計(jì)算機(jī)視覺和神經(jīng)網(wǎng)絡(luò)檢測雞蛋裂紋的研究[J].農(nóng)業(yè)工程學(xué)報,2007,23(5):154-158. PAN Leiqing, TU Kang, SU Zipeng, et al. Crack detection in eggs using computer vision and BP neural network[J]. Transactions of the Chinese Society of Agricultural Engineering, 2007,23(5):154-158.

[8] 李航.統(tǒng)計(jì)學(xué)習(xí)方法〔M〕.北京：清華大學(xué)出版社，2012：38-41. LI Hang. Statistical learning methods(M). Beijing: Tsinghua University Press, 2012：38-41.

[9] Coates A, Ng A Y. Learning feature representations with k-means[J]. Lecture Notes in Computer Science,2012,7700:561-580.

[10] Tang Y. Deep learning using linear support vector machines[J]. arXiv preprint arXiv, 2013.

[11] Ng. Andrew, Ngiam, Jiquan, Foo, Chuan Yu, Mai,Yifan, and Suen, Caroline. UFLDL Tutorial,2013. URL http://ufldl.stanford.edu/wiki/index.php/UFLDL Tutorial.

[12] Chandrashekar G, Sahin F. A survey on feature selection methods[J]. Computers & Electrical Engineering, 2014, 40(1): 16-28.

[13] 孫力,蔡健榮,李雅琪,等.禽蛋蛋殼品質(zhì)無損檢測方法研究進(jìn)展[J].中國農(nóng)業(yè)科技導(dǎo)報,2015(5):11-17. SUN Li, CAI Jianrong, LI Yaqi, et al. Research Progress on Non-destructive Technology for Quality Detection of Eggshell[J]. Journal of Agricultural Science and Technology,2015(5): 11-17.

Eggs Feature Detection Based on K-means and SVM

SONG Chao QIN Yongbin XU Daoyun

(College of Computer Science and Technology, Guizhou University, Guiyang 550025)

Machine vision and machine learning are used in the feature extraction, and their influences are important. In the actual application they have gradually replace those cumbersome manual feature extraction recentlly. This paper presents a practical application based on K-means the method of automated feature extraction, which gets better practical results in the use of eggs defect detection.

machine vision, K-means, defect detection, SVM

2016年8月11日,

2016年9月27日

宋超,男,碩士研究生,研究方向：算法設(shè)計(jì)與分析。許道云,男,博士,教授,博士生導(dǎo)師，研究方向:可計(jì)算性與計(jì)算復(fù)雜性、算法設(shè)計(jì)與分析。秦永彬,男,博士,副教授,碩士生導(dǎo)師,研究方向:智慧計(jì)算與智能計(jì)算、大數(shù)據(jù)管理與應(yīng)用、移動互聯(lián)網(wǎng)研究與應(yīng)用。

TP391.9

10.3969/j.issn.1672-9722.2017.02.034