国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于深度學(xué)習(xí)的輕量化農(nóng)作物葉片病害識(shí)別模型

2024-10-09 00:00:00周江龍王天一李論蔣寧
江蘇農(nóng)業(yè)科學(xué) 2024年16期

摘要:針對(duì)傳統(tǒng)圖像分類模型在識(shí)別農(nóng)作物葉部病害過程中因計(jì)算資源消耗高昂從而難以部署于實(shí)際生產(chǎn)中的問題,本研究提出一種基于MobileNet v3的輕量化農(nóng)作物葉片病害識(shí)別模型EDCA-MobileNet v3。首先在高效注意力機(jī)制中加入一條并行路徑,提取不同區(qū)域的通道特征信息進(jìn)行編碼融合,得到新的高效雙通道注意力機(jī)制EDCA,將EDCA注意力機(jī)制嵌入到MobileNet v3網(wǎng)絡(luò)中的倒置殘差結(jié)構(gòu)中以提高模型的跨通道信息捕獲能力;其次將原始網(wǎng)絡(luò)中的ReLU、Hard Swish激活函數(shù)替換為SiLU激活函數(shù)以增強(qiáng)模型的泛化能力;最后根據(jù)農(nóng)作物葉片病害特征調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)和通道維度以降低模型計(jì)算量,刪減不必要的網(wǎng)絡(luò)層以抑制過擬合。結(jié)果表明,改進(jìn)模型對(duì)農(nóng)作物葉片病害的識(shí)別準(zhǔn)確率達(dá)到了98.95%,較原始模型提高了2.64百分點(diǎn),同時(shí)參數(shù)量下降到2.02 M,為原始模型的79.53%,權(quán)重大小僅有4.39 M,模型還在未出現(xiàn)過的新作物和新病害上具有較好的泛化能力。本研究模型具有高效、輕量的特點(diǎn),因而適合在計(jì)算資源有限的移動(dòng)設(shè)備和農(nóng)機(jī)上部署,為農(nóng)作物葉片病害防治與診斷提供技術(shù)支撐。

關(guān)鍵詞:農(nóng)作物葉片病害;MobileNet v3;注意力機(jī)制;激活函數(shù)

中圖分類號(hào):S126;TP391.41 文獻(xiàn)標(biāo)志碼:A

文章編號(hào):1002-1302(2024)16-0230-09

農(nóng)業(yè)經(jīng)濟(jì)是我國經(jīng)濟(jì)的重要組成部分,人們生活福祉的提高和農(nóng)業(yè)經(jīng)濟(jì)高質(zhì)量發(fā)展與農(nóng)作物的健康生長(zhǎng)息息相關(guān)。傳統(tǒng)的農(nóng)業(yè)生產(chǎn)過程中,區(qū)分農(nóng)作物病害的方式主要是農(nóng)業(yè)從事人員依靠肉眼觀察和自身經(jīng)驗(yàn)來判別病害類別,這種方式不僅需要耗費(fèi)大量的人力物力,還會(huì)因?yàn)橹饔^性而導(dǎo)致錯(cuò)誤判斷[1-4]。農(nóng)作物病害的精確識(shí)別分類是農(nóng)作物生長(zhǎng)過程中的關(guān)鍵一環(huán),高效快速的農(nóng)作物病害識(shí)別技術(shù)能夠幫助農(nóng)民及時(shí)發(fā)現(xiàn)病害并采取措施,有助于提高農(nóng)作物的產(chǎn)量與質(zhì)量。

隨著計(jì)算機(jī)視覺技術(shù)的快速發(fā)展,卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)在圖像分類、圖像分割、目標(biāo)檢測(cè)等方面超越了傳統(tǒng)機(jī)器學(xué)習(xí)方法,在農(nóng)業(yè)領(lǐng)域得到廣泛使用。AlexNet、VGG16、ResNet50等性能優(yōu)秀的卷積神經(jīng)網(wǎng)絡(luò)被逐漸應(yīng)用于農(nóng)業(yè)生產(chǎn)中,替代傳統(tǒng)人力進(jìn)行農(nóng)作物病蟲害的自動(dòng)化識(shí)別[5-9]。許景輝等通過遷移學(xué)習(xí)將VGG16卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米葉片病害中,平均識(shí)別率達(dá)到95.33%[10];鮑文霞等對(duì)ResNet網(wǎng)絡(luò)進(jìn)行改進(jìn),在13類水稻害蟲圖像的測(cè)試數(shù)據(jù)集上達(dá)到了92.5%的識(shí)別準(zhǔn)確率[11]。然而,隨著移動(dòng)設(shè)備在農(nóng)業(yè)生產(chǎn)中的應(yīng)用與普及,傳統(tǒng)CNN的深層復(fù)雜結(jié)構(gòu)導(dǎo)致其應(yīng)用范圍受限?;诖?,研究者使用輕量化CNN替代傳統(tǒng)CNN模型以解決計(jì)算成本高、難以部署等問題。Elfatimi等使用MobileNet網(wǎng)絡(luò)對(duì)大豆葉片病害進(jìn)行分類,通過對(duì)網(wǎng)絡(luò)的優(yōu)化與參數(shù)的調(diào)整,對(duì)大豆葉片病害分類準(zhǔn)確率達(dá)到了92%[12],Rahman等提出了一種新的2個(gè)階段的輕量化CNN結(jié)構(gòu),大小僅為VGG16的1%,實(shí)現(xiàn)了對(duì)水稻植株病害分類準(zhǔn)確率93.3%[13];Sun等使用類平衡損失來改進(jìn)MobileNet v2網(wǎng)絡(luò),并使用遷移學(xué)習(xí)策略來訓(xùn)練模型,對(duì)胡平棗成熟度檢測(cè)準(zhǔn)確率達(dá)到了99.294%[14]。孫俊等在MobileNet v2的基礎(chǔ)上嵌入輕量級(jí)的坐標(biāo)注意力機(jī)制,在復(fù)雜背景下識(shí)別田間農(nóng)作物葉片病害準(zhǔn)確率達(dá)到了92.20%[15]。崔金榮等利用坐標(biāo)注意力機(jī)制替換MobileNet v3網(wǎng)絡(luò)中的注意力機(jī)制,通過引入SVM多分類器來識(shí)別水稻病害,準(zhǔn)確率高達(dá)97.12%[16]。

輕量化網(wǎng)絡(luò)模型在計(jì)算效率、存儲(chǔ)空間、實(shí)時(shí)性、部署和節(jié)能環(huán)保等方面都具有優(yōu)勢(shì),可以滿足不同場(chǎng)景下的農(nóng)作物葉片病害的識(shí)別需求,但在識(shí)別精度和運(yùn)算復(fù)雜度等方面仍有進(jìn)步的空間[17]。本研究選取MobileNet v3-small網(wǎng)絡(luò)作為基本網(wǎng)絡(luò),通過對(duì)其注意力機(jī)制、激活函數(shù)和模型架構(gòu)等方面的改進(jìn),提出了輕量且高效的EDCA-MobileNet v3模型。該模型可以提高農(nóng)作物葉片病害識(shí)別的準(zhǔn)確性和穩(wěn)定性,通過數(shù)據(jù)集的擴(kuò)展訓(xùn)練,本模型可部署于農(nóng)機(jī)以及移動(dòng)設(shè)備,促進(jìn)各類農(nóng)作物病害的防治工作以及增加農(nóng)作物的經(jīng)濟(jì)效益。

1 農(nóng)作物葉片病害識(shí)別模型

1.1 MobileNet v3網(wǎng)絡(luò)介紹

MobileNet v3網(wǎng)絡(luò)繼承了MobileNet v1中的深度卷積和逐點(diǎn)卷積和MobileNet v2中的線性瓶頸和倒置殘差結(jié)構(gòu),通過使用深度可分離卷積替換普通卷積有效降低了網(wǎng)絡(luò)的計(jì)算量,通過使用倒殘差結(jié)構(gòu)在模型中引入更多的非線性激活函數(shù),增強(qiáng)了特征表示能力,同時(shí)緩解了網(wǎng)絡(luò)退化問題[18-19]。MobileNet v3還將壓縮與激勵(lì)(squeeze and excitation,SE)模塊應(yīng)用到瓶頸結(jié)構(gòu)中,根據(jù)特征通道的重要程度來區(qū)分特征的作用大小,對(duì)非重要特征進(jìn)行抑制,對(duì)重要特征賦予更大的權(quán)重[20-21]。此外,MobileNet v3設(shè)計(jì)了h-swish激活函數(shù),同時(shí)對(duì)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行優(yōu)化,以提升運(yùn)算速度。最后,使用神經(jīng)架構(gòu)搜索技術(shù)設(shè)計(jì)了適合強(qiáng)算力部署的MobileNet v3-large模型和針對(duì)低資源的MobileNet v3-small模型。

1.2 高效雙通道注意力機(jī)制

通道注意力機(jī)制對(duì)于提升模型性能具有顯著效果。SE模塊通過建模通道關(guān)系來重新衡量每個(gè)通道的重要性,但是其通道降維不利于學(xué)習(xí)不同通道之間的依賴關(guān)系,且獲取所有通道之間的依賴關(guān)系是沒有必要的。高效通道注意力機(jī)制(efficient channel attention,ECA)[22]使用一維卷積實(shí)現(xiàn)跨通道交互,實(shí)現(xiàn)了通道間的依賴關(guān)系捕獲,且不改變?cè)纪ǖ赖拇笮?。ECA在全局平均池化后通過快速的一維卷積實(shí)現(xiàn)了跨通道信息的交互,后使用非線性函數(shù)Sigmoid得到各個(gè)通道的權(quán)重w,Sigmoid激活函數(shù)如式(1)所示,權(quán)重w如式(2)所示。

σ(x)=1/(1-e-x);(1)

w=σ[C1Dk(y)]。(2)

式中:C1D表示一維卷積;k為一維卷積核大??;σ(x)為Sigmoid 函數(shù);y為全局平均池化(global average pooling,GAP)后的輸出,具體如式(3)所示。

y=g(x)=1WH∑W,Hi=1,j=1xij。(3)

式中:x∈RW×H×C為輸入特征;W、H、C分別為輸入特征的寬、高、通道數(shù)。

針對(duì)農(nóng)作物葉片病害數(shù)據(jù)類內(nèi)差異小和分布不均勻的特點(diǎn),使用ECA替換MobileNet v3網(wǎng)絡(luò)中的SE模塊能夠有效提高模型的性能,其關(guān)鍵在于ECA注意力機(jī)制中的一維卷積能夠?qū)崿F(xiàn)通道之間的信息交互,一維卷積核的大小則決定了信息交互的覆蓋范圍。受到坐標(biāo)注意力機(jī)制(coordinate attention,CA)中將通道注意力分解為2個(gè)方向上的并行路徑方法啟發(fā)[23],本研究提出了高效雙通道注意力機(jī)制(efficient dual channel attention,EDCA),旨在增加微量計(jì)算的條件下增加通道特征捕捉的能力。EDCA在ECA的基礎(chǔ)上增加了1條不同k值的一維卷積并行路徑,不同k值提取到不同范圍的通道信息,將2個(gè)不同的通道特征信息通過通道級(jí)聯(lián)運(yùn)算進(jìn)行特征聚合,形成新的雙通道特征提取模式,融合后的權(quán)重w′如式(4)所示。

w′={ReLU[C1Dk1(y)],ReLU[C1Dk2(y)]}。(4)

式中:k1和k2表示路徑1和路徑2的一維卷積核大??;ReLU表示使用ReLU激活函數(shù);{,}表示通道級(jí)聯(lián)運(yùn)算,即使用concat函數(shù)融合具有不同權(quán)重信息的通道參數(shù)[24],再使用Sigmoid函數(shù)將融合后的通道特征輸出映射到0~1的范圍間,進(jìn)而表示通道的重要性。最后使用split函數(shù)進(jìn)行通道拆分,使融合信息還原到輸入信息大小。EDCA結(jié)構(gòu)見圖1。

1.3 SiLU激活函數(shù)

激活函數(shù)能夠在神經(jīng)網(wǎng)絡(luò)中引入非線性,增強(qiáng)網(wǎng)絡(luò)的表達(dá)能力,并對(duì)神經(jīng)元的激活程度進(jìn)行控制。本研究模型中選擇SiLU函數(shù)[25]作為激活函數(shù),其與其他常用激活函數(shù)的圖像見圖2,數(shù)學(xué)表達(dá)式如式(5)至(7)所示。與h-swish激活函數(shù)和ReLU激活函數(shù)相比,由于SiLU激活函數(shù)是連續(xù)可導(dǎo)的,因而在梯度傳播和優(yōu)化過程中更加穩(wěn)定。在輸入接近于零的情況下,SiLU激活函數(shù)近似于線性函數(shù),這使得它在這種情況下更接近于恒等映射,有助于保留更多的農(nóng)作物葉片病害信息。同時(shí),SiLU具有更好的梯度傳播性質(zhì),這有助于減輕梯度消失問題,更好地支持深層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

h-swish(x)=x·ReLU6(x+3)6;(5)

SiLU(x)=x1+ex;(6)

ReLU(x)=max(0,x)。(7)

1.4 模型架構(gòu)調(diào)整

深度學(xué)習(xí)中的升維操作是為了在高維進(jìn)行特征提取, 以便能提取更豐富的特征信息[26]。MobileNet v3中大量使用了通道維度的膨脹與收縮,其中1×1卷積核主要用來進(jìn)行維度變換,3×3和5×5卷積核用于特征提取。 MobileNetv3-small的網(wǎng)絡(luò)結(jié)構(gòu)是通過NAS技術(shù)針對(duì)ImageNet數(shù)據(jù)集[27]而設(shè)計(jì)的,該數(shù)據(jù)集包含約1 400萬張圖像,遠(yuǎn)多于本研究中的數(shù)據(jù)。雖然通道維度的增加可以使卷積模塊捕捉到更廣闊的視野和特征,但在實(shí)際設(shè)計(jì)中需要考慮模型具體的應(yīng)用場(chǎng)景,在保證模型精度的前提下選擇適宜的通道數(shù),這不僅可以避免不必要的算力占用,而且能夠抑制過擬合現(xiàn)象的出現(xiàn),有助于提升模型的泛化能力。

MobileNet v3-small中有通道維度為240和576的卷積層重復(fù)堆疊了2次,本研究根據(jù)農(nóng)作物葉片病害識(shí)別的特點(diǎn),將通道維度從576調(diào)整為288,將末位卷積層輸出通道由1 024改為576。在卷積神經(jīng)網(wǎng)絡(luò)中,1個(gè)5×5卷積核所帶來的參數(shù)量和計(jì)算量大于2個(gè)3×3卷積核,因此將2個(gè)通道維度重復(fù)的5×5卷積層換成4個(gè)3×3卷積層可以有效降低運(yùn)算量。針對(duì)網(wǎng)絡(luò)的深度過深會(huì)面臨梯度消失、訓(xùn)練困難的問題[28],將4個(gè)3×3卷積層堆疊次數(shù)減少一半,僅堆疊2次。最后調(diào)整網(wǎng)絡(luò)層排列方式,使得模型可以捕捉到不同維度、不同大小的特征。通過以上調(diào)整,使模型在保證分類效果的同時(shí)還能減少一定的參數(shù)及內(nèi)存,更符合輕量化的特點(diǎn)。

1.5 EDCA-MobileNet v3模型

農(nóng)作物葉片病害數(shù)據(jù)集具有背景相似度高、病害特征相似、數(shù)據(jù)集分布不均勻等特點(diǎn),整體識(shí)別難度較高。為了提高模型效率,首先將MobileNet v3卷積模塊中的SE模塊替換為EDCA模塊;其次,將原模型中的h-swish激活函數(shù)和ReLU激活函數(shù)替換為SiLU激活函數(shù);最后調(diào)整模型架構(gòu)。EDCA-MobileNet v3模型的整體結(jié)構(gòu)見圖3。

2 試驗(yàn)及結(jié)果分析

2.1 數(shù)據(jù)集介紹

本試驗(yàn)選取了Plant Village數(shù)據(jù)集中的包含病害種類最多的番茄病害葉片圖像作為研究數(shù)據(jù)集,共計(jì)18 160張,其中包含常見的番茄病害葉片以及健康葉片,共計(jì)10個(gè)類別。數(shù)據(jù)集部分圖像見圖4。

2.2 試驗(yàn)環(huán)境

本研究于2023年8—11月在貴州大學(xué)大數(shù)據(jù)與信息工程學(xué)院試驗(yàn)室進(jìn)行試驗(yàn)。硬件環(huán)境為Intel Core i7-9700K處理器,NVIDIA RTX 2080ti顯卡;軟件版本為Windows 10操作系統(tǒng),CUDA版本為11.8,深度學(xué)習(xí)框架為Pytorch 2.0.1。試驗(yàn)時(shí),根據(jù)工程經(jīng)驗(yàn),隨機(jī)抽取數(shù)據(jù)集中的80%的圖片作為訓(xùn)練集,剩余的圖片10%作為驗(yàn)證集,10%作為測(cè)試集,得到14 532張訓(xùn)練圖片、1 816張驗(yàn)證圖片以及1 816張測(cè)試圖片。通過隨機(jī)水平翻轉(zhuǎn)和數(shù)據(jù)標(biāo)準(zhǔn)化增加訓(xùn)練圖像的隨機(jī)多樣性,以此增加了病害樣本的隨機(jī)多樣性,使用Adam[29]優(yōu)化器進(jìn)行訓(xùn)練,批次大小設(shè)置為64,學(xué)習(xí)率為0.001,迭代次數(shù)為50,損失函數(shù)為交叉熵?fù)p失函數(shù)。

2.3 模型評(píng)價(jià)指標(biāo)

本研究使用模型在農(nóng)作物葉片病害數(shù)據(jù)集測(cè)試集上的準(zhǔn)確率(Accuracy)、精確率(Precision)、召回率(Recall)和F1分?jǐn)?shù)衡量模型的性能,并且使用模型參數(shù)量、浮點(diǎn)計(jì)算量和模型權(quán)重作為模型復(fù)雜度的衡量指標(biāo)[30]。準(zhǔn)確率、精確率、召回率和F1分

數(shù)的表達(dá)式分別如式(8)至(11)所示。

Accuracy=1N∑Mm=1xm×100%;(8)

Precision=TPTP+FP×100%;(9)

Recall=TPTP+FN×100%;(10)

F1=2×Precision×RecallPrecision+Recall×100%。(11)

式中:N為測(cè)試集中農(nóng)作物葉片病害的圖像總數(shù);xm表示第m類的農(nóng)作物葉片病害圖像中被正確識(shí)別的圖像數(shù)量;TP表示測(cè)試圖像中農(nóng)作物葉片病害種類被正確識(shí)別為對(duì)應(yīng)種類的圖像數(shù)量;FP表示測(cè)試圖像中其他農(nóng)作物葉片病害種類被錯(cuò)誤識(shí)別為該品種的圖像數(shù)量;FN表示測(cè)試圖像中該農(nóng)作物葉片病害種類被錯(cuò)誤識(shí)別為其他品種的圖像數(shù)量。

2.4 測(cè)驗(yàn)結(jié)果與分析

為了驗(yàn)證改進(jìn)模型的有效性,本研究選取了番茄10類葉片進(jìn)行訓(xùn)練與測(cè)試。其中測(cè)試集包含褐斑病213例、早疫病100例、晚疫病191例、葉霉病95例、斑枯病177例、白粉病140例、黃化病536例、花葉病37例、紅蜘蛛病168例以及健康葉片159例共10類1 816幅圖像。改進(jìn)的EDCA-MobileNet v3模型在測(cè)試集上的試驗(yàn)詳細(xì)結(jié)果見表1。

由表1可知,EDCA-MobileNet v3對(duì)測(cè)試集中的番茄病害葉片實(shí)現(xiàn)了準(zhǔn)確的品種識(shí)別。整體準(zhǔn)確率為98.95%,精確率為98.33%,召回率為98.76%,F(xiàn)1分?jǐn)?shù)為98.47%。從整體看,對(duì)于測(cè)試集包含的1 816幅圖像,模型準(zhǔn)確識(shí)別了其中的 1 797 幅。健康番茄葉片的特征明顯較其他類別更容易識(shí)別,識(shí)別精確率達(dá)到了100%;而番茄花葉病由于訓(xùn)練樣本較少的原因,識(shí)別精確率最低,F(xiàn)1分?jǐn)?shù)最低。

2.5 注意力機(jī)制對(duì)模型的性能影響

將本研究中提出的EDCA與SE、CA注意力機(jī)制進(jìn)行對(duì)比,所有注意力機(jī)制均插入到MobileNet v3模型中的線性瓶頸前,其他參數(shù)保持不變,試驗(yàn)結(jié)果見表2。對(duì)于農(nóng)作物葉片病害圖像而言,加入坐標(biāo)注意力機(jī)制并不能帶來更好的效果。相比之下,k值是影響高效通道注意力機(jī)制性能的關(guān)鍵參數(shù),將k值設(shè)置為3的效果最好,性能略高于SE機(jī)制,隨著k值的增大,整體效果呈現(xiàn)下降趨勢(shì)??紤]到k為3和5時(shí)ECA的性能較好,因此將EDCA注意力機(jī)制中雙線性路徑中的一維卷積核大小k1和 k2分別設(shè)置為3和5,可以更好地實(shí)現(xiàn)通道間的信息捕獲。對(duì)比在模型中引入的CA注意力機(jī)制,引入本研究提出的EDCA注意力機(jī)制,在參數(shù)量和浮點(diǎn)運(yùn)算量占優(yōu)的同時(shí)實(shí)現(xiàn)了模型的準(zhǔn)確率提升。

2.6 激活函數(shù)對(duì)模型性能的影響

將MobileNet v3模型中的ReLU激活函數(shù)和 h-swish 激活函數(shù)替換為SiLU,除激活函數(shù)外,其他參數(shù)均保持不變,試驗(yàn)結(jié)果見表3。可以看出,相比于原始模型中淺層使用ReLU,深層使用h-swish的策略,改動(dòng)ReLU激活函數(shù)和h-swish激活函數(shù)均對(duì)模型準(zhǔn)確度有一定的提升,將激活函數(shù)全都替換為SiLU激活函數(shù)后模型的準(zhǔn)確率提升了1.81百分點(diǎn)。

2.7 消融試驗(yàn)結(jié)果

消融試驗(yàn)是為了探究使用EDCA注意力機(jī)制、SiLU激活函數(shù)和架構(gòu)調(diào)整的改進(jìn)方式對(duì)原始模型帶來的性能影響,消融試驗(yàn)結(jié)果見表4??梢钥闯?,在MobileNet v3中增加EDCA 注意力機(jī)制,得益于重要信息的捕獲能力增強(qiáng),模型在農(nóng)作物葉片病害測(cè)試集上的準(zhǔn)確率提升了1.37百分點(diǎn),在提高準(zhǔn)確率的同時(shí)還略微減少了模型的參數(shù)量。使用SiLU替換h-swish和ReLU,得益于SiLU函數(shù)的穩(wěn)定性,模型在保持參數(shù)量和浮點(diǎn)計(jì)算量不變的情況下,模型準(zhǔn)確率提升了1.81百分點(diǎn)。綜合EDCA、SiLU激活函數(shù)和架構(gòu)上的改進(jìn),MobileNet v3在農(nóng)作物葉片病害測(cè)試集上的性能提升較大,準(zhǔn)確率上升了2.64百分點(diǎn),參數(shù)量減少了0.52 M,計(jì)算量減少了11.02 M。為了更直觀地展示本研究提出的EDCA-MobileNet v3模型的有效性,使用混淆矩陣對(duì)數(shù)據(jù)進(jìn)行直觀對(duì)比,結(jié)果見圖5。其中子圖(A~D)分別對(duì)應(yīng)表4中的第2、4、3、5行??梢钥闯觯P徒?jīng)過修改激活函數(shù)和修改注意力機(jī)制后識(shí)別效果均有一定提升,對(duì)各類病害類別預(yù)測(cè)準(zhǔn)確率更高,結(jié)合3種改進(jìn)后,效果最好。

2.8 不同模型試驗(yàn)對(duì)比

ResNet50和VGG16是圖像分類任務(wù)中代表性的大型卷積神經(jīng)網(wǎng)絡(luò),ShuffleNet v2和MobileNet v2是性能出色的輕量級(jí)網(wǎng)絡(luò)。為了綜合驗(yàn)證本試驗(yàn)提出的模型性能,將本研究提出的EDCA-MobileNet v3與以上網(wǎng)絡(luò)進(jìn)行對(duì)比試驗(yàn),使用模型在農(nóng)作物葉片病害測(cè)試集上的準(zhǔn)確率評(píng)估識(shí)別效果;使用參數(shù)量和權(quán)重大小評(píng)估模型的復(fù)雜度和實(shí)用性,所有試驗(yàn)均保持相同的超參數(shù),試驗(yàn)結(jié)果見表5??梢钥闯?,ResNet50和VGG16雖然性能較為出色,但其模型較大的參數(shù)量需要耗費(fèi)大量?jī)?nèi)存空間與計(jì)算資源,不利于在移動(dòng)設(shè)備上部署;ShuffleNet v2的參數(shù)量和計(jì)算量較MobileNet v2都更具優(yōu)勢(shì),但不如本研究提出的EDCA-MobileNet v3。相比與未改進(jìn)前的MobileNet v3模型,改進(jìn)的 EDCA-MobileNet v3準(zhǔn)確率達(dá)到98.95%,參數(shù)量?jī)H為2.02 M,權(quán)重僅為4.39 M,在提高識(shí)別準(zhǔn)確率的同時(shí)降低了模型復(fù)雜度,并增強(qiáng)了其實(shí)用性。

2.9 模型泛化能力測(cè)試

不同農(nóng)作物葉片感染同類病害時(shí),雖然葉片特征差異較大,但病害特征相似。為測(cè)試EDCA-MobileNet v3的泛化性能,觀察其對(duì)訓(xùn)練集中未出現(xiàn)過的作物病害的識(shí)別能力,通過網(wǎng)絡(luò)爬取及數(shù)據(jù)增強(qiáng)構(gòu)建了包含180張圖像的泛化能力測(cè)試集,其中包括馬鈴薯晚疫病60張,辣椒斑枯病40張,花椒褐斑病40張,花椒銹病40張,部分識(shí)別圖像見圖6,識(shí)別結(jié)果見表6。

可以看出,模型對(duì)訓(xùn)練集中未出現(xiàn)過的作物及其病害,整體識(shí)別準(zhǔn)確率可以超過70%。一方面,對(duì)于訓(xùn)練集中出現(xiàn)過的病害類型,雖然模型沒有學(xué)習(xí)過新作物的葉片特征,但仍能夠具備較強(qiáng)的預(yù)測(cè)精度,這表明模型能夠準(zhǔn)確捕捉并分辨不同病害的關(guān)鍵特征,而不會(huì)被處于背景的葉片形狀所影響,因而具備較好的泛化能力。另一方面,對(duì)于訓(xùn)練集中未出現(xiàn)過的病害類型,由于數(shù)據(jù)集內(nèi)并未涵蓋該病害標(biāo)簽,因而識(shí)別結(jié)果會(huì)與真實(shí)結(jié)果不同,但模型依然能將大部分樣本標(biāo)注為同一類別。例如對(duì)訓(xùn)練集中未出現(xiàn)過的花椒作物的銹病這一病害類型,模型可將大部分樣本識(shí)別為褐斑病,小部分樣本識(shí)別為枯斑病,這進(jìn)一步證明了模型具有較強(qiáng)的泛化特征,能夠直接對(duì)未知樣本做出比較準(zhǔn)確的預(yù)測(cè),但需要對(duì)數(shù)據(jù)的類別標(biāo)簽進(jìn)行對(duì)應(yīng)的修正。以上結(jié)果說明本研究提出的模型可應(yīng)用于不同作物以及不同病害的識(shí)別,要進(jìn)一步提升識(shí)別精度,可將本模型在相應(yīng)農(nóng)作物葉片病害數(shù)據(jù)集上進(jìn)行訓(xùn)練,對(duì)模型參數(shù)進(jìn)行微調(diào)。

3 總結(jié)

本研究針對(duì)農(nóng)作物葉片病害識(shí)別的問題,提出了EDCA-MobileNet v3模型。首先在ECA的基礎(chǔ)上增加了1條并行路徑,融合不同區(qū)域的通道信息得到EDCA注意力機(jī)制,并以其替換MobileNet v3-small網(wǎng)絡(luò)中的SE模塊,使模型具備更高效的特征表達(dá)能力;其次使用SiLU替換原模型的激活函數(shù),增強(qiáng)網(wǎng)絡(luò)模型的識(shí)別性能與泛化能力;最后簡(jiǎn)化了網(wǎng)絡(luò)架構(gòu),降低了模型復(fù)雜度與過擬合傾向。試驗(yàn)結(jié)果表明,EDCA-MobileNet v3對(duì)番茄葉片病害的識(shí)別準(zhǔn)確率達(dá)到98.95%,F(xiàn)1分?jǐn)?shù)為98.47%,對(duì)新作物和新病害的識(shí)別準(zhǔn)確率超過70%,同時(shí)參數(shù)量?jī)H有2.02 M,權(quán)重大小僅4.39 M。與經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)相比,本模型識(shí)別效果更好,模型權(quán)重更小,泛化能力更強(qiáng)。通過數(shù)據(jù)集的補(bǔ)充和參數(shù)微調(diào),本模型可廣泛適用于各類農(nóng)作物的葉片病害識(shí)別,為農(nóng)業(yè)生產(chǎn)的數(shù)字化和智能化提供技術(shù)支持。

參考文獻(xiàn):

[1]Nigam S,Jain R,Marwaha S,et al. Deep transfer learning model for disease identification in wheat crop[J]. Ecological Informatics,2023,75:102068.

[2]Wang R M,Wu L A. Drought-tolerant crop disease identification based on attention mechanism[C]//2023 IEEE 6th Information Technology,Networking,Electronic and Automation Control Conference (ITNEC).Chongqing:IEEE,2023:1139-1143.

[3]Zhao S Y,Peng Y,Liu J Z,et al. Tomato leaf disease diagnosis based on improved convolution neural network by attention module[J]. Agriculture,2021,11(7):651.

[4]Dhakshina Kumar S,Esakkirajan S,Bama S,et al. A microcontroller based machine vision approach for tomato grading and sorting using SVM classifier[J]. Microprocessors and Microsystems,2020,76:103090.

[5]Sunil C K,Jaidhar C D,Patil N. Systematic study on deep learning-based plant disease detection or classification[J]. Artificial Intelligence Review,2023,56(12):14955-15052.

[6]Krizhevsky A,Sutskever I,Hinton G E. ImageNet classification with deep convolutional neural networks[J]. Communications of the ACM,2017,60(6):84-90.

[7]Simonyan K,Zisserman A. Very deep convolutional networks for large-scale image recognition[EB/OL]. (2014-09-04)[2024-01-08]. https://arxiv.org/abs/1409.1556.

[8]楊 祥,段軍明,董明剛.面向移動(dòng)端的植物病害圖像識(shí)別方法及其應(yīng)用[J]. 江蘇農(nóng)業(yè)科學(xué),2023,51(4):191-197.

[9]李子涵,周省邦,趙 戈,等. 基于卷積神經(jīng)網(wǎng)絡(luò)的農(nóng)業(yè)病蟲害識(shí)別研究綜述[J]. 江蘇農(nóng)業(yè)科學(xué),2023,51(7):15-23.

[10]許景輝,邵明燁,王一琛,等. 基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)玉米病害圖像識(shí)別[J]. 農(nóng)業(yè)機(jī)械學(xué)報(bào),2020,51(2):230-236,253.

[11]鮑文霞,吳德釗,胡根生,等. 基于輕量型殘差網(wǎng)絡(luò)的自然場(chǎng)景水稻害蟲識(shí)別[J]. 農(nóng)業(yè)工程學(xué)報(bào),2021,37(16):145-152.

[12]Elfatimi E,Eryigit R,Elfatimi L. Beans leaf diseases classification using MobileNet models[J]. IEEE Access,2022,10:9471-9482.

[13]Rahman C R,Arko P S,Ali M E,et al. Identification and recognition of rice diseases and pests using convolutional neural networks[J]. Biosystems Engineering,2020,194:112-120.

[14]Sun H X,Zhang S J,Ren R,et al. Maturity classification of “hupingzao” jujubes with an imbalanced dataset based on improved MobileNet v2[J]. Agriculture,2022,12(9):1305.

[15]孫 俊,朱偉棟,羅元秋,等. 基于改進(jìn)MobileNet v2的田間農(nóng)作物葉片病害識(shí)別[J]. 農(nóng)業(yè)工程學(xué)報(bào),2021,37(22):161-169.

[16]崔金榮,魏文釗,趙 敏. 基于改進(jìn)MobileNet v3的水稻病害識(shí)別模型[J]. 農(nóng)業(yè)機(jī)械學(xué)報(bào),2023,54(11):217-224,276.

[17]Atila ,Uar M,Akyol K,et al. Plant leaf disease classification using EfficientNet deep learning model[J]. Ecological Informatics,2021,61:101182.

[18]Howard A G,Zhu M L,Chen B,et al. MobileNets:efficient convolutional neural networks for mobile vision applications[EB/OL]. (2017-04-17)[2024-01-08]. https://arxiv.org/abs/1704.04861.

[19]Sandler M,Howard A,Zhu M L,et al. MobileNet v2:inverted residuals and linear bottlenecks[C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Salt Lake City:IEEE,2018:4510-4520.

[20]Howard A,Sandler M,Chen B,et al. Searching for MobileNet v3[C]//2019 IEEE/CVF International Conference on Computer Vision (ICCV).Seoul:IEEE,2019:1314-1324.

[21]Hu J,Shen L,Albanie S,et al. Squeeze-and-excitation networks[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2020,42(8):2011-2023.

[22]Wang Q L,Wu B G,Zhu P F,et al. ECA-net:efficient channel attention for deep convolutional neural networks[C]//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle:IEEE,2020:11531-11539.

[23]Hou Q B,Zhou D Q,F(xiàn)eng J S. Coordinate attention for efficient mobile network design[C]//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Nashville:IEEE,2021:13708-13717.

[24]邢永鑫,吳碧巧,吳松平,等. 基于卷積神經(jīng)網(wǎng)絡(luò)和遷qsD3zAbx8lFu90Yl9mJ+TYBMhhFT9ZPtyg/+cDunzOo=移學(xué)習(xí)的奶牛個(gè)體識(shí)別[J]. 激光與光電子學(xué)進(jìn)展,2021,58(16):1628002.

[25]Elfwing S,Uchibe E,Doya K. Sigmoid-weighted linear units for neural network function approximation in reinforcement learning[J]. Neural Networks,2018,107:3-11.

[26]Lu Z,Pu H,Wang F,et al. The expressive power of neural networks:a view from the width[C]//Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook:Curran Associates Inc.,2017:6232-6240.

[27]Deng J,Dong W,Socher R,et al. ImageNet:a large-scale hierarchical image database[C]//2009 IEEE Conference on Computer Vision and Pattern Recognition. Miami:IEEE,2009:248-255.

[28]Tan M X,Le Q V. EfficientNet:rethinking model scaling for convolutional neural networks[EB/OL]. (2020-09-11)[2024-01-08]. https://arxiv.org/abs/1905.11946v5.

[29]Kingma D,Ba J. Adam:a method for stochastic optimization[EB/OL]. (2017-01-30)[2024-01-01]. https://arxiv.org/pdf/1412.6980v6.

[30]甘 雨,郭慶文,王春桃,等. 基于改進(jìn)EfficientNet模型的作物害蟲識(shí)別[J]. 農(nóng)業(yè)工程學(xué)報(bào),2022,38(1):203-211.

基金項(xiàng)目:貴州省科技計(jì)劃[編號(hào):黔科合支撐(2021)一般176]。

作者簡(jiǎn)介:周江龍(2000—),男,貴州六盤水人,碩士研究生,研究方向?yàn)闄C(jī)器學(xué)習(xí)、智能圖像處理。E-mail:972203274@qq.com。

通信作者:王天一,博士,副教授,研究方向?yàn)樯疃葘W(xué)習(xí)、大數(shù)據(jù)與人工智能。E-mail:tywang@gzu.edu.cn。

光泽县| 汉川市| 柯坪县| 新乡市| 长治市| 织金县| 金溪县| 彭阳县| 新河县| 龙岩市| 武宁县| 渑池县| 汝城县| 洱源县| 措勤县| 都江堰市| 祁连县| 阳曲县| 兴海县| 册亨县| 那坡县| 宁国市| 新民市| 马公市| 贞丰县| 都昌县| 乐东| 甘孜县| 惠安县| 腾冲县| 西和县| 尚志市| 梓潼县| 日喀则市| 宁武县| 青阳县| 许昌市| 台前县| 左云县| 青海省| 赤水市|