王士鑫，云利軍,2，葉志霞，王一博

(1.云南師范大學(xué) 信息學(xué)院，云南 昆明 650500) (2.云南師范大學(xué) 云南省光電信息技術(shù)重點(diǎn)實(shí)驗(yàn)室，云南 昆明 650500)

目前國(guó)內(nèi)的煙葉分級(jí)一般還是采用人工分級(jí)的方式，這種方式往往存在煙葉分級(jí)的差異性、分級(jí)結(jié)果不穩(wěn)定、合格率低等問(wèn)題[1]，同時(shí)會(huì)造成煙葉資源的浪費(fèi)，煙農(nóng)與收集站的矛盾等一系列問(wèn)題；所以利用先進(jìn)的信息技術(shù)對(duì)煙葉進(jìn)行科學(xué)合理的分級(jí)，能夠提高煙葉資源利用率，解決煙農(nóng)與收集站的糾紛，對(duì)緩解民生問(wèn)題和煙葉資源的可持續(xù)發(fā)展有著重大意義.隨著圖像處理方法技術(shù)的日趨成熟，越來(lái)越多的運(yùn)用到煙葉分級(jí)中.2017年，賓俊等[2]提出了一種基于NIR和ELM的技術(shù)方法來(lái)對(duì)煙葉進(jìn)行自動(dòng)分級(jí)，避免高低價(jià)位煙葉之間的誤判，但存在使用近紅外光譜手動(dòng)掃描煙葉時(shí)，每片煙葉僅有一條代表光譜，對(duì)殘缺煙和雜色煙適用性不好的問(wèn)題.同年，李航[3]提出了基于聚類和加權(quán)K近鄰的煙葉分級(jí)研究，得到的識(shí)別正確率為94.59%.2018年，姚學(xué)練等[4]提出了基于PCA-GA-SVM的煙葉分級(jí)方法，利用PCA對(duì)煙葉特征進(jìn)行降維去除交叉冗余信息，然后再利用GA對(duì)SVM的模型懲罰參數(shù)和核函數(shù)參數(shù)進(jìn)行優(yōu)化，對(duì)煙葉進(jìn)行分級(jí).同年，趙世民等[5]提出一種基于圖像特征的煙葉分級(jí)方法，通過(guò)提取顏色、形狀、紋理等特征對(duì)煙葉進(jìn)行檢測(cè).2019年，趙樹彌[6]根據(jù)機(jī)器視覺(jué)的技術(shù)檢測(cè)分類手段，對(duì)送烤前的煙葉進(jìn)行成熟度劃分檢測(cè)，并設(shè)計(jì)了全自動(dòng)化的鮮煙葉檢測(cè)分級(jí)裝置.從以上分析可以看出，雖然國(guó)內(nèi)外均對(duì)煙葉分級(jí)進(jìn)行了研究，但都存在著樣本數(shù)據(jù)量少、特征采集不完善等問(wèn)題.同時(shí)，在圖像識(shí)別技術(shù)發(fā)展過(guò)程中，相較于淺層網(wǎng)絡(luò)依舊依靠人工手段對(duì)數(shù)據(jù)模型進(jìn)行特征的提取，深度學(xué)習(xí)可以對(duì)數(shù)據(jù)模型進(jìn)行逐層的特征提取，同時(shí)，深層網(wǎng)絡(luò)結(jié)構(gòu)對(duì)數(shù)據(jù)進(jìn)行特征處理時(shí)，得到的特征值更易于圖像分類和識(shí)別的分析.

1 本文煙葉分析算法

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)(CNN)是一種具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)(feedforward neural networks)，具有表征學(xué)習(xí)(representation learning)能力，可以從輸入數(shù)據(jù)中提取需要的數(shù)據(jù)特征[7-10].同時(shí)，卷積神經(jīng)網(wǎng)絡(luò)仿造生物的視知覺(jué)機(jī)制進(jìn)行構(gòu)建，其卷積層和池化層可以識(shí)別位于空間不同位置的相近特征，可以實(shí)現(xiàn)監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí).卷積神經(jīng)網(wǎng)絡(luò)中的隱含層卷積核參數(shù)共享和層間連接稀疏性的特點(diǎn)，可以減少參數(shù)數(shù)量，使運(yùn)算變得簡(jiǎn)潔、高效[11-12]，因此被廣泛應(yīng)用在計(jì)算機(jī)視覺(jué)和語(yǔ)音識(shí)別等各個(gè)領(lǐng)域.

1.2 Inception V3

Inception V3模型是卷積神經(jīng)網(wǎng)絡(luò)中一種具有優(yōu)良局部拓?fù)浣Y(jié)構(gòu)的網(wǎng)絡(luò)，它最重要的改進(jìn)是分解(factorization)，也就是把對(duì)稱的空間卷積分解成為不對(duì)稱卷積(spatial factorization into asymmetric convolutions)；相當(dāng)于把一個(gè)大的二維卷積分解成為2個(gè)小的一維卷積，這樣一方面節(jié)約了大量參數(shù)，提高了運(yùn)算速度并減輕過(guò)擬合，讓多余的計(jì)算能力用來(lái)加深網(wǎng)絡(luò)；另一方面，網(wǎng)絡(luò)深度獲得了進(jìn)一步提升，增加了網(wǎng)絡(luò)非線性擴(kuò)展模型的表達(dá)能力；不對(duì)稱卷積結(jié)構(gòu)模型如圖1所示[13].

同時(shí)，將網(wǎng)絡(luò)輸入從224×224變?yōu)榱?99×299，使得35×35/17×17/8×8 三個(gè)inception模塊組更加精細(xì)，并通過(guò)平衡每階段的過(guò)濾器數(shù)量和網(wǎng)絡(luò)深度實(shí)現(xiàn)網(wǎng)絡(luò)的優(yōu)化，達(dá)到擴(kuò)展寬度和深度以及提高網(wǎng)絡(luò)質(zhì)量的作用.inception V3網(wǎng)絡(luò)結(jié)構(gòu)模型如圖2所示.

1.3 煙葉數(shù)據(jù)集

本文實(shí)驗(yàn)樣本數(shù)據(jù)來(lái)源于實(shí)地采集的云南省曲靖市某煙葉收集站.本文煙葉圖片數(shù)據(jù)采集選用的設(shè)備為FUJIFILM X-A3，其圖像傳感器規(guī)格為23.5 mm×15.7 mm，采集的圖片分辨率為6 000×4 000，輸出的文件格式為JPEG.圖3給出了本次采集的部分原煙中部葉組圖片數(shù)據(jù).

對(duì)所采集的12個(gè)等級(jí)的煙葉圖片數(shù)據(jù)進(jìn)行整合匯總，其分別為：上部葉組：B1F、B2F、B3F、B4F；中部葉組：C2F、C3F、C4F；下部葉組：X2F、X3F、X4F；以及雜色組B1K、CX2K.12個(gè)等級(jí)中每個(gè)等級(jí)的煙葉圖片為 1 000 張，其中700張用于訓(xùn)練，300張用于測(cè)試，總計(jì)為 12 000 張煙葉圖片.具體分類情況如表1所示.

表1 煙葉種類表

1.4 算法實(shí)現(xiàn)過(guò)程

1) 訓(xùn)練機(jī)器學(xué)習(xí)分級(jí)算法時(shí)，首先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，接著對(duì)輸入的煙葉圖像并行地執(zhí)行多個(gè)卷積運(yùn)算(conv)和池化操作(pooling)，將所有輸出結(jié)果拼接為深度特征圖[14]，然后進(jìn)行1×1、3×3 和 5×5 等不同的conv與pooling(設(shè)定卷積步長(zhǎng)stride=1，分別設(shè)定padding =0、1、2)運(yùn)算，將得到的煙葉圖像特征進(jìn)行拼接后獲得煙葉圖像的特征信息，最后對(duì)煙葉圖像的信息進(jìn)行并行處理得到煙葉的圖像表征.

2) 在Inception V3網(wǎng)絡(luò)中，將1×1、3×3、5×5的conv和3×3的pooling堆疊在一起，既可以增加網(wǎng)絡(luò)的寬度，又可以提高網(wǎng)絡(luò)的適應(yīng)性；將一個(gè)二維的卷積分解成2個(gè)一維的卷積，一方面增加了網(wǎng)絡(luò)非線性的擴(kuò)展模型表達(dá)能力，另一方面可以使網(wǎng)絡(luò)的深度獲得進(jìn)一步提升.圖4為Inception V3模塊組的結(jié)構(gòu)圖[14].

3) 在空間聚合之前降低煙葉的輸入表征，使相鄰單元結(jié)果的強(qiáng)相關(guān)性在降低維度時(shí)損失較??；同時(shí)，信號(hào)得到有效地壓縮，使學(xué)習(xí)變得更快，減少訓(xùn)練所需的時(shí)間.

4) 為了避免訓(xùn)練過(guò)程中出現(xiàn)過(guò)擬合，采用遷移學(xué)習(xí)的方式來(lái)訓(xùn)練樣本集；將卷積層的輸出結(jié)合網(wǎng)絡(luò)層完成遷移學(xué)習(xí)后，對(duì)煙葉圖像進(jìn)行特征向量提取，將提取得到的特征向量作為輸入，來(lái)訓(xùn)練全連接層神經(jīng)網(wǎng)絡(luò)進(jìn)行煙葉分級(jí).定義網(wǎng)絡(luò)架構(gòu)為：

F(X)=Y′.

(1)

其中X為輸入圖像，Y′為真實(shí)類別，F(xiàn)為神經(jīng)網(wǎng)絡(luò)；選取交叉熵函數(shù)作為損失函數(shù)categorical cross-entropy loss，表示為：

C=-[YlnF(x)+(1-Y)ln(1-F(x))].

(2)

其中C為交叉熵?fù)p失函數(shù)值，Y為是實(shí)際輸出，F(xiàn)(x)為期望輸出；當(dāng)Y=1時(shí)，交叉熵?fù)p失函數(shù)表示：

C=-ln[F(x) ].

(3)

當(dāng)期望值輸出越接近1時(shí)，損失函數(shù)越小，相反期望值越接近于0時(shí)，損失函數(shù)越大.當(dāng)Y=0時(shí)，交叉熵?fù)p失函數(shù)表示為：

C=-ln[1-F(x)].

(4)

當(dāng)期望值輸出越接近0時(shí)，損失函數(shù)越小，相反期望值越接近于1時(shí)，損失函數(shù)越大.

5) 在訓(xùn)練過(guò)程中經(jīng)過(guò)N個(gè)極值點(diǎn)，分別為M1，M2，…，Mn.表示為：

Mn=Max(M1,M2，…，Mk).

(5)

極值點(diǎn)進(jìn)行跳躍時(shí)，以Mn作為起跳點(diǎn)，從n點(diǎn)開始起跳，如果跳出極點(diǎn)值時(shí)發(fā)現(xiàn)第k個(gè)極值點(diǎn)的性能Mk要優(yōu)于Mn，則后面從Mk的位置開始起跳，當(dāng)從Mk跳躍X次都沒(méi)有發(fā)現(xiàn)比Mk性能更好的極值時(shí)，則取Mk為最優(yōu)解值.

在網(wǎng)絡(luò)層中偏置項(xiàng)w，b為變量，凍結(jié)inception參數(shù)，對(duì)全連接層中的參數(shù)進(jìn)行訓(xùn)練；使用自適應(yīng)矩陣(Adam)優(yōu)化器對(duì)其進(jìn)行預(yù)熱，設(shè)置學(xué)習(xí)率(lr)=0.001，迭代訓(xùn)練20次，作為預(yù)熱全連接層神經(jīng)元；激活inception網(wǎng)絡(luò)層，對(duì)損失函數(shù)中每個(gè)w，b求偏導(dǎo).偏導(dǎo)公式為公式(6)、公式(7)：

(6)

.

(7)

設(shè)置學(xué)習(xí)率，進(jìn)行迭代訓(xùn)練時(shí)使損失函數(shù)C跳出所在的局部極小值；迭代20次，得到model_1，重復(fù)該算法依次得到model_1，model_2，model_3.由于每個(gè)model都處于不同的局部極小值點(diǎn)，當(dāng)預(yù)測(cè)樣本時(shí)，通過(guò)對(duì)模型進(jìn)行融合作為預(yù)測(cè)值；訓(xùn)練一次可以得到3個(gè)模型進(jìn)行融合.具體表示為式(8)：

F(X)=(F(X1)+F(X2)+F(X3))/3.

(8)

2 仿真實(shí)驗(yàn)與結(jié)果分析

2.1 仿真實(shí)驗(yàn)

首先對(duì)輸入的煙葉圖像數(shù)據(jù)并行執(zhí)行多個(gè)卷積和池化運(yùn)算操作，通過(guò)不同的卷積運(yùn)算與池化操作獲得煙葉圖像的特征信息，將輸出結(jié)果綜合為煙葉圖像的深度特征圖；然后將卷積層的輸出結(jié)合網(wǎng)絡(luò)層完成整個(gè)遷移學(xué)習(xí)過(guò)程；最后通過(guò)交叉熵?fù)p失函數(shù)來(lái)表示煙葉樣本和預(yù)測(cè)概率之間的差值.交叉熵?fù)p失函數(shù)曲線如圖5所示.

2.2 結(jié)果分析

對(duì)所采集的12個(gè)等級(jí)的煙葉樣本數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn)測(cè)試，對(duì)輸入圖像執(zhí)行卷積運(yùn)算，隨著訓(xùn)練迭代次數(shù)的增加，交叉熵?fù)p失函數(shù)曲線逐漸趨于平滑，識(shí)別的準(zhǔn)確率也隨著訓(xùn)練次數(shù)的增加逐步穩(wěn)定.同時(shí)與粒子群算法和遺傳算法進(jìn)行比較，得到優(yōu)于這2種算法的識(shí)別正確率，其具體測(cè)試比較結(jié)果如表2和圖6所示.

表2 不同算法的煙葉識(shí)別正確率

注：測(cè)試樣本數(shù)均為3600.

通過(guò)以上對(duì)3種算法進(jìn)行仿真實(shí)驗(yàn)對(duì)比分析可知：粒子群算法和遺傳算法的識(shí)別正確率曲線呈平緩增漲，增長(zhǎng)速度慢，正確率出現(xiàn)驟降現(xiàn)象，會(huì)影響煙葉分級(jí)的精準(zhǔn)度.而從本文算法的實(shí)驗(yàn)結(jié)果可以看出：隨著迭代次數(shù)的增加，煙葉分級(jí)的正確率有很大的提升，并且分析結(jié)果穩(wěn)定，具體變化趨勢(shì)如圖7所示.

3 結(jié)論

針對(duì)煙葉分級(jí)仍然依靠人工分級(jí)為主的現(xiàn)狀，本文提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)的煙葉分級(jí)方法.在對(duì)數(shù)據(jù)進(jìn)行預(yù)處理后，將輸入的煙葉圖像并行地執(zhí)行多個(gè)卷積運(yùn)算和池化操作，通過(guò)不同的卷積運(yùn)算與池化操作獲得煙葉圖像的特征信息，然后將卷積層的輸出結(jié)合網(wǎng)絡(luò)層完成整個(gè)遷移學(xué)習(xí)過(guò)程，最后通過(guò)交叉熵作為損失函數(shù)來(lái)表示煙葉樣本和預(yù)測(cè)概率之間的差值.仿真實(shí)驗(yàn)結(jié)果表明，本文方法識(shí)別正確率優(yōu)于傳統(tǒng)的分級(jí)算法，識(shí)別正確率達(dá)到95.23%，為煙葉分級(jí)的理論與實(shí)踐研究提供了一種新的思路.