基于改進(jìn)MobileNet的輕量級外來入侵植物識別模型研究

吳鴻飛 劉萬學(xué) 冼曉青 趙夢欣 姚青

摘要

外來入侵植物防治的首要任務(wù)是準(zhǔn)確識別入侵植物種類，然而外來入侵植物種類繁多，存在類間同質(zhì)和類內(nèi)異質(zhì)現(xiàn)象，給技術(shù)人員甄別與防治外來入侵植物帶來了挑戰(zhàn)。為了準(zhǔn)確、實(shí)時(shí)和高效地識別外來入侵植物，本文提出基于改進(jìn)MobileNet的輕量級外來入侵植物圖像識別模型（MobileNetLW）。以專業(yè)人員鑒定得到的113種11?628幅外來入侵植物圖像作為研究對象，并按照6∶2∶2的比例劃分訓(xùn)練集、驗(yàn)證集和測試集。通過Retinex、旋轉(zhuǎn)和高斯噪聲等方法對圖像進(jìn)行數(shù)據(jù)增強(qiáng)。為了減少類間同質(zhì)現(xiàn)象對模型誤檢的影響，在模型MobileNet基礎(chǔ)上添加了SE通道注意力機(jī)制和深度連接注意力網(wǎng)絡(luò)，提高網(wǎng)絡(luò)對關(guān)鍵特征的提取能力。為了降低模型計(jì)算消耗和內(nèi)存消耗，采用通道剪枝方法對網(wǎng)絡(luò)瘦身;為了彌補(bǔ)剪枝后造成模型準(zhǔn)確率降低，采用教師網(wǎng)絡(luò)助教網(wǎng)絡(luò)學(xué)生網(wǎng)絡(luò)的形式對剪枝后的網(wǎng)絡(luò)進(jìn)行知識蒸餾，學(xué)生網(wǎng)絡(luò)通過軟知識的學(xué)習(xí)來提高識別外來入侵植物的準(zhǔn)確率。通過消融試驗(yàn)測試模型的性能，利用平均準(zhǔn)確率、平均召回率和平均F1值3個(gè)評價(jià)指標(biāo)，對現(xiàn)階段經(jīng)典模型與改進(jìn)后模型MobileNetLW所獲得的識別結(jié)果進(jìn)行評價(jià)。消融試驗(yàn)結(jié)果顯示，在相同數(shù)據(jù)集條件下，所有改進(jìn)點(diǎn)對模型的性能都有所提升，且改進(jìn)后算法在外來入侵植物圖像識別中準(zhǔn)確率提高了5.4百分點(diǎn)，模型參數(shù)量減少了約53%;模型對比試驗(yàn)表明，EfficentNet、DBTNet、ResNet101、ConvNext和MobileNetLW?5個(gè)模型平均準(zhǔn)確率分別為72.3%、74.9%、76.1%、79.7%和86.1%，表明改進(jìn)后的網(wǎng)絡(luò)提高了外來入侵植物的識別準(zhǔn)確率。基于改進(jìn)MobileNet的輕量級外來入侵植物識別模型對113種外來入侵植物識別具有較高的準(zhǔn)確率，且模型具有輕量化特點(diǎn)。

關(guān)鍵詞

外來入侵植物;?智能識別;?通道剪枝;?知識蒸餾;?注意力機(jī)制;?MobileNet

中圖分類號：

Q?948;?TP?391.41

文獻(xiàn)標(biāo)識碼：?A

DOI：?10.16688/j.zwbh.2022710

A?lightweight?identification?model?for?alien?invasive?plants?based?on?improved?MobileNet

WU?Hongfei1，?LIU?Wanxue2*，?XIAN?Xiaoqing2，?ZHAO?Mengxin2，?YAO?Qing1

（1.?School?of?Computer?Science?and?Technology，?Zhejiang?SciTech?University，?Hangzhou?310018，?China;?

2.?State?Key?Laboratory?for?Biology?of?Plant?Diseases?and?Insect?Pests，?Institute?of?Plant?Protection，?

Chinese?Academy?of?Agricultural?Sciences，?Beijing?100193，?China）

Abstract

The?primary?task?in?controlling?alien?invasive?plants?is?to?accurately?identify?the?species?of?invasive?plants.?However，?there?are?a?wide?variety?of?alien?invasive?plants，?and?some?of?them?present?the?interclass?homogeneity?or?intraclass?heterogeneity，?which?brings?challenges?to?the?identification?and?control?of?alien?invasive?plants.?In?order?to?identify?alien?invasive?plants?accurately，?efficiently?and?in?real?time，?a?lightweight?identification?model?based?on?the?improved?MoblileNet?（MobileNetLW）?was?proposed.?The?11?628?images?of?113?species?of?alien?invasive?plants?identified?by?technicians?were?divided?into?the?training?set，?verification?set?and?testing?set?in?a?ratio?of?6∶2∶2.?The?image?data?were?enhanced?by?Retinex，?rotating?image?and?Gaussion?noise.?In?order?to?reduce?the?false?detection，?the?SE?channel?attention?mechanism?and?deep?connection?attention?network?were?added?to?the?MobileNet?model?to?improve?the?ability?of?key?feature?extraction.?In?order?to?reduce?consumption?of?model?computation?and?memory，?the?channel?pruning?method?was?used?to?slim?down?the?network.?In?order?to?improve?the?accuracy?reduction?caused?by?model?pruning，?the?knowledge?distillation?of?the?teacher?networkteaching?assistant?networkstudent?network?was?adopted?to?the?pruned?network，?and?the?student?network?can?improve?the?recognition?accuracy?of?alien?invasive?plants?through?learning?the?soft?knowledge.?In?this?study，?the?ablation?experiments?of?the?model?were?done.?Three?indicators?including?average?accuracy，?average?recall?rate?and?average?F1?value?were?used?to?evaluate?the?classical?models?and?the?improved?model?MobileNetLW.?The?results?of?ablation?experiments?showed?that?the?performance?of?each?improved?method?on?the?model?was?improved?on?a?same?testing?set.?The?accuracy?of?MobileNetLW?increased?by?5.4?percentage?points?in?identifying?the?alien?invasive?plants，?and?the?number?of?parameters?of?model?reduced?by?about?53%.?The?average?accuracies?of?the?five?models，?i.e.，?EfficentNet，?DBTNet，?ResNet101，?ConvNext?and?MobileNetLW，?were?72.3%，?74.9%，?76.1%，?79.7%?and?86.1%，?respectively，?showing?that?the?improved?model?could?improve?the?identification?accuracy?of?alien?invasive?plants.?The?alien?invasive?plant?identification?model?based?on?the?improved?MobileNet?showed?high?accuracy?in?identifying?113?species?of?alien?invasive?plants，?and?showed?characteristic?of?lightweight?after?pruning.

Key?words

alien?invasive?plants;?intelligent?identification;?channel?pruning;?knowledge?distillation;?attention?mechanism;?MobileNet

隨著全球經(jīng)濟(jì)一體化，國際貿(mào)易、跨國旅游業(yè)等快速發(fā)展，外來生物入侵已成為當(dāng)前全球性的問題，被認(rèn)為是21世紀(jì)五大全球性環(huán)境問題之一［1］。我國農(nóng)林生態(tài)系統(tǒng)外來入侵物種已達(dá)800種，已確認(rèn)入侵農(nóng)林生態(tài)系統(tǒng)的有638種，其中動物179種、植物381種、病原微生物78種，我國已經(jīng)成為全球遭受生物入侵威脅與損失最為嚴(yán)重的國家之一［12］。外來生物入侵的危害主要表現(xiàn)在3個(gè)方面：1）危害生態(tài)系統(tǒng)，破壞生物多樣性;2）危害人畜健康，威脅人類安全;3）危害農(nóng)業(yè)生產(chǎn)，造成巨大經(jīng)濟(jì)損失［3］。因此，針對外來入侵生物的危害需要提出相應(yīng)的防控對策，其中建立外來入侵生物早期預(yù)警和監(jiān)測體系一個(gè)重要的前提是外來入侵生物的準(zhǔn)確識別。目前，外來入侵生物識別主要通過生物形態(tài)學(xué)鑒定［45］和分子生物學(xué)鑒定［67］等方法。其中生物形態(tài)學(xué)鑒定主要依賴于人的主觀經(jīng)驗(yàn)和相關(guān)文獻(xiàn)書籍。由于外來入侵植物種類繁多，存在類間同質(zhì)和類內(nèi)異質(zhì)現(xiàn)象，且野外實(shí)地調(diào)查過程中數(shù)據(jù)采集規(guī)范性不足、紙質(zhì)采集記錄丟失、記錄數(shù)據(jù)不完整，因此在外來入侵植物監(jiān)測工作中存在工作量大、數(shù)據(jù)出錯(cuò)概率高、維護(hù)困難等問題［8］;分子生物學(xué)鑒定如線粒體COⅠ條形碼序列分析存在耗時(shí)長且花費(fèi)成本大等問題，不能滿足大量樣本快速監(jiān)測的需要［9］。此外，由于專業(yè)技術(shù)人員人數(shù)的限制和專業(yè)的差異等，對外來入侵植物防治工作是一種挑戰(zhàn)。因此，亟須一種準(zhǔn)確、實(shí)時(shí)和高效的識別工具或方法實(shí)現(xiàn)外來入侵植物自動識別。

隨著圖像處理和機(jī)器學(xué)習(xí)在多個(gè)領(lǐng)域的成功應(yīng)用，利用圖像來識別外來入侵植物成為了近些年的熱點(diǎn)。傳統(tǒng)的植物圖像識別方法［1013］主要是依據(jù)植物葉片，通過提取葉片的顏色、紋理、形狀和脈絡(luò)等特征，再用不同的分類器進(jìn)行分類識別。張寧等［11］通過克隆選擇算法和K近鄰識別100種植物葉片，結(jié)果表明，此方法識別率達(dá)到91.37%，優(yōu)于BP神經(jīng)網(wǎng)絡(luò)方法。Cao等［12］提出描述輪廓曲率R角的形狀描述符，并采用L1范數(shù)和基于動態(tài)規(guī)劃來匹配不同植物葉片之間的R角，以此度量葉片的相似性，試驗(yàn)證明該方法表現(xiàn)優(yōu)良。Mahajan等［13］利用自適應(yīng)增強(qiáng)技術(shù)向量機(jī)（SVM）從葉片圖像中提取植物形態(tài)特征并采用Adaboost?算法集合多種弱分類器從而得到一個(gè)更強(qiáng)的最終分類器對提取的特征進(jìn)行分類，在開源數(shù)據(jù)集FLAVIA上達(dá)到95.85%的準(zhǔn)確率。

由于自然環(huán)境下外來入侵植物種類繁多，同種植物因環(huán)境、氣候及不同發(fā)育階段，存在較大的外觀差異，不同植物可能存在相似的表型特征，因此在實(shí)際應(yīng)用中會發(fā)現(xiàn)傳統(tǒng)的模式識別方法魯棒性弱，泛化能力差。近年來，隨著深度學(xué)習(xí)的不斷發(fā)展，卷積神經(jīng)網(wǎng)絡(luò)（convolutional?neural?network，CNN）在圖像識別任務(wù)中有著不俗的表現(xiàn)，運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)的方法提取更為豐富的圖像特征用于植物圖像的識別［1418］。王艷等［15］通過蟻群優(yōu)化的圖像分割算法將中草藥植物葉片從背景中分離出來，再使用AlexNet對目標(biāo)圖像分類訓(xùn)練，并用Softmax分類器進(jìn)行分類識別，在13類中草藥植物圖像識別中平均準(zhǔn)確率達(dá)到99.38%。Qiao等［16］提出了由卷積層、ReLU激活函數(shù)、局部響應(yīng)歸一化（LRN）、池化層、Dropout層、全連接層組成的47層的MmNet模型用來識別外來入侵植物微甘菊Mikania?micrantha，準(zhǔn)確率達(dá)到94.5%。利用深度學(xué)習(xí)方法對植物進(jìn)行識別可以有效地解決很多弊端［1418］，通過算法調(diào)優(yōu)、數(shù)據(jù)增強(qiáng)等方法來提高識別模型的泛化能力。Qian等［17］結(jié)合AlexNet局部響應(yīng)歸一化、GoogleNet初始模型和連續(xù)VGG卷積提出IAPsNet模型對7類外來入侵植物進(jìn)行分類識別，結(jié)果達(dá)到93.74%準(zhǔn)確率。上述研究局限于單個(gè)物種或者較少種類的植物識別。李立鵬等［18］通過Dropout正則化和批量正則化技術(shù)、SGDM優(yōu)化器和遷移學(xué)習(xí)的方法來對ResNet101模型進(jìn)行優(yōu)化，在62類野生植物圖像識別中平均準(zhǔn)確率達(dá)到85.6%。劉萬學(xué)等［19］利用DenseNet模型、Android移動設(shè)備和云服務(wù)器對135類外來入侵植物進(jìn)行分類識別，準(zhǔn)確率達(dá)85.3%。劉萬學(xué)等［19］建立的外來入侵植物識別系統(tǒng)需要通過云服務(wù)器進(jìn)行模型部署和數(shù)據(jù)傳輸;李立鵬等［18］所使用的ResNet101模型的參數(shù)量達(dá)到42.5?M，內(nèi)存占據(jù)大，難以在移動設(shè)備終端實(shí)現(xiàn)部署。上述研究雖然識別種類較多，但由于實(shí)際野外調(diào)查中網(wǎng)絡(luò)狀態(tài)的不穩(wěn)定性以及網(wǎng)絡(luò)帶寬的限制，無法滿足可應(yīng)用于無網(wǎng)絡(luò)信號條件下輕量化模型的需求。因此亟須建立一個(gè)泛化能力強(qiáng)且輕量化、易部署在移動式設(shè)備的模型來完成外來入侵植物識別任務(wù)。

基于輕量化模型的需求，Howard等［21］提出了MobileNet輕量級模型。該模型實(shí)現(xiàn)識別的關(guān)鍵是深度可分離卷積（depthwise?separable?convolution），通過深度卷積（depthwise?convolution）和逐點(diǎn)卷積（pointwise?convolution）達(dá)到減少計(jì)算量和縮小模型的目的。為了進(jìn)一步讓模型達(dá)到輕量化部署，可以對模型進(jìn)行剪枝瘦身操作，根據(jù)BN層的權(quán)重因子［21］來判斷通道對特征提取的權(quán)重值，依據(jù)通道的權(quán)重因子對相對不重要的通道進(jìn)行剪枝，從而達(dá)到剪枝瘦身的目的，并最大程度上減小對模型準(zhǔn)確率的影響。為了彌補(bǔ)剪枝對于模型準(zhǔn)確率的影響，利用知識蒸餾［22］，通過教師模型來指導(dǎo)剪枝后的模型進(jìn)行訓(xùn)練，使得剪枝后的模型在原有的準(zhǔn)確率基礎(chǔ)上有較大的提升，達(dá)到教師模型性能的水平。

為了提升網(wǎng)絡(luò)對于特征的提取能力，本文在MobileNet網(wǎng)絡(luò)的基礎(chǔ)上，先嵌入squeezeandexcitation?（SE）注意力機(jī)制模塊，并用deep?connected?attention?network（DCANet）將不同卷積模塊的注意力連接;為了滿足外來入侵防治工作對于模型輕量化的需求，本文通過batch?normalization（BN）的縮放因子進(jìn)行網(wǎng)絡(luò)通道剪枝，再通過知識蒸餾提高剪枝后的模型識別準(zhǔn)確率，最終建立MobileNetLW外來入侵植物識別模型。

1?試驗(yàn)數(shù)據(jù)和方法

1.1?外來入侵植物數(shù)據(jù)集

本文的圖像來自中國農(nóng)業(yè)科學(xué)院植物保護(hù)研究所植物病蟲害綜合治理全國重點(diǎn)實(shí)驗(yàn)室和網(wǎng)絡(luò)爬取，并經(jīng)過外來入侵生物專家鑒定與確認(rèn)，數(shù)據(jù)集包含113種11?628幅外來入侵植物圖像，數(shù)據(jù)集所含外來入侵植物種類如表1所示。由于原圖像尺寸大小不一，首先采用補(bǔ)邊的方式將圖像長和寬調(diào)整為相等，再統(tǒng)一將圖像的尺寸調(diào)整為256?px×256?px，將圖像數(shù)據(jù)集按照6∶2∶2的比例隨機(jī)分成訓(xùn)練集、測試集和驗(yàn)證集。

1.2?圖像數(shù)據(jù)增強(qiáng)

由于在實(shí)際圖像采集中得到的圖像質(zhì)量參差不齊，尤其是外來入侵植物的圖像拍攝大多都在野外，受到天氣、環(huán)境等因素干擾的情況較多，低光照的圖像特征不明顯，難以識別，給外來入侵植物識別工作帶來難度。本文利用Retinex算法［23］中彩色多尺度MSRCP算法、多尺度加權(quán)平均MSR算法和色彩增益加權(quán)AutoMSRCR算法對外來入侵植物圖像數(shù)據(jù)集中低亮度圖像進(jìn)行數(shù)據(jù)增強(qiáng)，同時(shí)利用旋轉(zhuǎn)90度和添加高斯噪聲等對訓(xùn)練圖像進(jìn)行數(shù)據(jù)增強(qiáng)，如圖1為外來入侵植物五爪金龍Ipomoea?cairica的圖像數(shù)據(jù)增強(qiáng)結(jié)果。

1.3?外來入侵植物識別模型

1.3.1?基于改進(jìn)MobileNet的外來入侵植物識別模型

由于外來入侵植物種類繁多，存在種內(nèi)變異，種間相似和圖像背景復(fù)雜多變的問題。為了提高入侵植物識別準(zhǔn)確率，本文在MobileNet的基礎(chǔ)上建立外來入侵植物識別模型。改進(jìn)的模型網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示，輸入為外來入侵植物圖像，網(wǎng)絡(luò)先通過一個(gè)卷積層對輸入圖像進(jìn)行處理，后通過15個(gè)瓶頸塊分別對特征圖進(jìn)行特征提取，最后通過卷積和全連接層得到外來入侵植物圖像的分類結(jié)果。為了提高瓶頸塊對圖像特征的提取能力，本文將SE（squeezeandexcitation）注意力機(jī)制模塊嵌入MobileNet模型，同時(shí)在具有注意力模塊的相鄰瓶頸塊添加了深度連接注意力網(wǎng)絡(luò)DCANet，詳細(xì)連接結(jié)構(gòu)見圖3。

1.3.2?深度連接注意力網(wǎng)絡(luò)DCANet

由于外來入侵植物圖像背景復(fù)雜且物種形態(tài)特異，網(wǎng)絡(luò)在對圖像識別過程中很難提取到有效信息，而注意力機(jī)制能夠在少量的計(jì)算消耗下，加權(quán)圖像重要的信息，并抑制無關(guān)信息，從而提高網(wǎng)絡(luò)對于重要特征的提取能力。本文在關(guān)鍵瓶頸塊中的深度可分離卷積層傳遞特征信息到1×1的卷積層過程中添加了基于通道域的注意力機(jī)制［24］（圖3），它是由全局平均池化層、2個(gè)全連接層和1個(gè)Sigmoid激活函數(shù)組成。首先如公式（1）所示對于輸入特征圖X進(jìn)行展平處理，進(jìn)行高度H和寬度W的全局平均池化，將空間特征維度降到1×1，得到特征圖Z;再使用2個(gè)全連接層和ReLU激活函數(shù)建立通道之間的連接;公式（2）表示最后一層全連接層Z⌒通過Sigmoid函數(shù)進(jìn)行歸一化處理，再通過乘法逐個(gè)通道加權(quán)到原始特征圖X的每一個(gè)通道得到特征圖X⌒。通過注意力機(jī)制可以增加關(guān)鍵通道權(quán)重并減少非關(guān)鍵通道權(quán)重。

Z=1H×W∑Hi=1∑Wj=1xc（i，j）（1）

X⌒=X·σ（Z⌒）（2）

其中，c為輸入特征圖的通道，xc（i，j）為通道的像素點(diǎn)位置，σ?為Sigmoid函數(shù)。

添加注意力機(jī)制的瓶頸模塊提高了特征提取能力，但它僅考慮了當(dāng)前層的特征，本文在模型中添加深度連接注意力網(wǎng)絡(luò)DCANet［25］，該網(wǎng)絡(luò)連接相鄰關(guān)系的注意力機(jī)制模塊，可以提高注意力機(jī)制的學(xué)習(xí)能力。圖3給出了DCANet網(wǎng)絡(luò)結(jié)構(gòu)圖，其中，注意力機(jī)制模塊分為提取、轉(zhuǎn)換和融合3個(gè)步驟。第1個(gè)卷積塊通過全局平均池化提取得到特征G，再通過公式（3）的轉(zhuǎn)換操作獲得注意力模塊的輸出T。將前一個(gè)注意力模塊生成的注意力映射特征圖?與當(dāng)前注意力模塊提取的特征圖G進(jìn)行連接并轉(zhuǎn)換，特征圖映射關(guān)系見公式（4），其中連接函數(shù)f將2個(gè)模塊特征圖進(jìn)行連接，得到的結(jié)果再逐個(gè)通過加權(quán)到原始特征圖X并得到特征圖X⌒。連接函數(shù)f采用公式（5）的直接連接方式，連接函數(shù)將2個(gè)模塊相同索引的特征連接起來，從而保證了模型既能學(xué)習(xí)提取當(dāng)前卷積塊的特征，又能學(xué)習(xí)之前的注意力信息，增強(qiáng)模型的魯棒性和泛化能力。

T=t（G，wt）（3）

X⌒=t（f（αG，β），wt）·X（4）

f（αGi，βi）=αGi+βi（5）

其中，t為定義的特征轉(zhuǎn)換的操作，wt表示特征轉(zhuǎn)換中使用的參數(shù)，α和β為可學(xué)習(xí)參數(shù)，i為特征圖索引位置。

1.3.3?通道剪枝

在外來入侵植物實(shí)地野外調(diào)查中，由于網(wǎng)絡(luò)狀態(tài)的不穩(wěn)定性以及網(wǎng)絡(luò)帶寬的限制，簡單地將CNN模型部署在云端的計(jì)算模式無法保證移動用戶的體驗(yàn)期望，同時(shí)受限于移動端有限的資源，移動設(shè)備也無法滿足CNN模型對計(jì)算、存儲及電量資源的需求［26］。結(jié)合野外防治工作對于輕量化模型的實(shí)際需求，本文在改進(jìn)的模型基礎(chǔ)上進(jìn)行通道剪枝（圖4）。在通道剪枝方法中，找到合適的剪枝策略和評判通道的重要程度的方法是保證通道剪枝效果良好的關(guān)鍵。基于網(wǎng)絡(luò)的特點(diǎn)，在輸入維度和輸出維度相同的模塊中會進(jìn)行shortcut短路連接，而對這些模塊剪枝導(dǎo)致的輸入輸出維度不匹配就會影響整個(gè)網(wǎng)絡(luò)的結(jié)構(gòu)從而降低網(wǎng)絡(luò)對于特征的提取能力，因此對具有短路連接的相關(guān)模塊進(jìn)行通道剪枝操作會維持輸入維度和輸出維度相同，在保證模型整體結(jié)構(gòu)穩(wěn)定的基礎(chǔ)上對瓶頸塊的升維層和降維層進(jìn)行剪枝。本文在網(wǎng)絡(luò)瘦身策略上選擇BN通道剪枝［21］。首先，在網(wǎng)絡(luò)中采用L1正則進(jìn)行稀疏化訓(xùn)練，對于通道因子γ的訓(xùn)練如公式（6），然后根據(jù)網(wǎng)絡(luò)中BN層的權(quán)重因子γ來對網(wǎng)絡(luò)的通道進(jìn)行權(quán)重判斷，對網(wǎng)絡(luò)中權(quán)重靠近零值的通道進(jìn)行剪枝操作。由BN層輸出Y的計(jì)算公式（7）可知，當(dāng)通道因子γ值足夠小時(shí)候，BN層的輸出都與輸入樣本無關(guān)，因此具有此類BN參數(shù)的通道都可以剪枝，此方法可以保證在一定的剪枝率下模型瘦身對模型的準(zhǔn)確率影響最小。

L=∑（x，y）l（f（x，W），y）+λ∑γ∈Γg（γ）（6）

Y=limγ→0γ·X－μσ2+ε+β=β（7）

其中，x表示訓(xùn)練輸入，y表示訓(xùn)練目標(biāo)，W為可訓(xùn)練權(quán)重，f（x，W）為網(wǎng)絡(luò)的預(yù)測輸出，l（f（x，W），y）?為網(wǎng)絡(luò)的預(yù)測輸出與真實(shí)目標(biāo)之間的損失，g（γ）為對通道因子的懲罰，λ為平衡參數(shù)，X為輸入樣本，μ為數(shù)據(jù)均值，σ為數(shù)據(jù)方差，ε為防止分母為零的定值參數(shù)，β為可訓(xùn)練仿射變換參數(shù)。

1.3.4?知識蒸餾

知識蒸餾最早是由Hinton等在分類任務(wù)上提出［22］，知識蒸餾的核心就是通過教師模型來指導(dǎo)學(xué)生模型進(jìn)行訓(xùn)練，使得學(xué)生模型在原有的準(zhǔn)確率基礎(chǔ)上有較大的提升，達(dá)到教師模型性能的水平。外來入侵植物圖像識別存在圖像背景復(fù)雜，物種相似等問題，而且剪枝后的模型雖然更加輕量化但是也不可避免帶來準(zhǔn)確率下降，因此需要將性能較差的學(xué)生模型遷移學(xué)習(xí)性能較好的教師模型以此獲得準(zhǔn)確率的提高。本文剪枝后的模型需要在移動式設(shè)備上部署，因此對于它的大小有一定的要求，此時(shí)如果采用規(guī)模較大的教師網(wǎng)絡(luò)進(jìn)行蒸餾訓(xùn)練，蒸餾效果不如預(yù)期。為了解決這個(gè)問題，本文在教師網(wǎng)絡(luò)及學(xué)生網(wǎng)絡(luò)之間引入1個(gè)中等規(guī)模的網(wǎng)絡(luò)即30%剪枝率的助教網(wǎng)絡(luò)來彌補(bǔ)兩者之間規(guī)模差距過大的問題，如圖5所示。助教網(wǎng)絡(luò)即首先遷移學(xué)習(xí)教師網(wǎng)絡(luò)，然后扮演新的老師角色指導(dǎo)訓(xùn)練學(xué)生網(wǎng)絡(luò)，使得教師網(wǎng)絡(luò)的軟知識先提煉到中等規(guī)模的助教網(wǎng)絡(luò)上，助教網(wǎng)絡(luò)再蒸餾訓(xùn)練規(guī)模差距更小的學(xué)生網(wǎng)絡(luò)上以此獲得模型精度的提高。在知識蒸餾過程中，學(xué)生網(wǎng)絡(luò)在訓(xùn)練的時(shí)候首先是根據(jù)數(shù)據(jù)集標(biāo)注的硬標(biāo)簽，但是在軟標(biāo)簽上往往涵蓋圖像更多的信息。假設(shè)試驗(yàn)是對飛機(jī)草Chromolaena?odorata、金合歡Vachellia?farnesiana、馬纓丹Lantana?camara、牛茄子Solanum?capsicoides?4組類別進(jìn)行分類任務(wù)，教師網(wǎng)絡(luò)得到的輸出向量是［0.02，0.07，0.11，0.8］，在此圖像中類別大概率是牛茄子，教師網(wǎng)絡(luò)利用牛茄子與其他類別直接關(guān)系的軟標(biāo)簽來監(jiān)督訓(xùn)練學(xué)生網(wǎng)絡(luò)，其方法就是在原始Softmax函數(shù)中引入軟化常數(shù)T，公式如（8）。學(xué)生網(wǎng)絡(luò)通過教師網(wǎng)絡(luò)的軟標(biāo)簽可以學(xué)到更為豐富的知識，同時(shí)通過教師網(wǎng)絡(luò)助教網(wǎng)絡(luò)學(xué)生網(wǎng)絡(luò)這樣逐級知識蒸餾的方法可以有效降低因?yàn)橥ǖ兰糁Φ膶W(xué)生網(wǎng)絡(luò)和規(guī)模較大的教師網(wǎng)絡(luò)間規(guī)模差距過大的問題，從而有效地提高學(xué)生網(wǎng)絡(luò)的準(zhǔn)確率，對于本文輕量化模型改進(jìn)具有很大意義。

其中，zi為第i個(gè)節(jié)點(diǎn)的輸出，j為輸出節(jié)點(diǎn)個(gè)數(shù)，即分類的個(gè)數(shù)，qi?為Softmax輸出在第i類的值，T為軟化常數(shù)。

1.4?外來入侵植物模型評價(jià)方法

為了評估不同模型對外來入侵植物圖像的識別效果，本文在相同的訓(xùn)練集、驗(yàn)證集和測試集上分別訓(xùn)練和測試了未剪枝模型、50%剪枝率模型、添加注意力機(jī)制模型、添加深度連接注意力網(wǎng)絡(luò)模型和知識蒸餾后的剪枝模型。同時(shí)為了證明本文模型的優(yōu)越性，訓(xùn)練并測試了EfficentNet［27］、DBTNet［28］、ResNet101［29］和ConvNext［30］常用的4個(gè)卷積神經(jīng)網(wǎng)絡(luò)模型。

采用準(zhǔn)確率（precision，Pre）、召回率（recall，Rec）和F1（Fmeasure）作為衡量模型優(yōu)劣性的評價(jià)指標(biāo)，計(jì)算公式分別為公式（9）、公式（10）和公式（11）。

Pre=TPTP+FP（9）

Rec=TPTP+FN（10）

F1=2×Pre×RecPre+Rec（11）

其中，TP（true?positive）表示模型識別為目標(biāo)外來入侵植物種類且真實(shí)是外來入侵植物種類的數(shù)量，F(xiàn)P（false?positive）表示模型識別為目標(biāo)外來入侵植物種類但實(shí)際不是該外來入侵植物種類的數(shù)量，F(xiàn)N（false?negative）表示為模型識別為非目標(biāo)外來入侵植物種類的數(shù)量但實(shí)際是該外來入侵植物種類的數(shù)量。F1是基于準(zhǔn)確率和召回率的調(diào)和平均，作為衡量模型性能的整體評價(jià)。

1.5?模型運(yùn)行環(huán)境

所有模型的訓(xùn)練和測試都在同一臺計(jì)算機(jī)上，其CPU為Intel（R）?Core（TM）?i79800X?CPU?@?3.80GHz，3塊型號為GeForce?GTX?1080Ti的GPU，內(nèi)存為48G，操作系統(tǒng)為Ubuntu?20.04。

2?結(jié)果與分析

2.1?消融試驗(yàn)結(jié)果與分析

為了檢驗(yàn)?zāi)Ｐ兔總€(gè)改進(jìn)點(diǎn)對于外來入侵植物的識別準(zhǔn)確率和性能是否有所提高，通過消融試驗(yàn)進(jìn)行控制變量對比結(jié)果。為了提高模型的魯棒性使之適應(yīng)多種移動設(shè)備的嵌入，因此選擇了0.5權(quán)重因子進(jìn)行通道剪枝。消融試驗(yàn)包括通道剪枝、加入注意力機(jī)制、加入深度連接注意力網(wǎng)絡(luò)、教師網(wǎng)絡(luò)知識蒸餾和助教網(wǎng)絡(luò)知識蒸餾。結(jié)果如表2所示，根據(jù)0.5權(quán)重因子進(jìn)行通道剪枝模型的準(zhǔn)確率下降了4.9百分點(diǎn)，但是參數(shù)量僅為原來40%左右;在加入通道注意力機(jī)制后，準(zhǔn)確率提高了3.6百分點(diǎn);在注意力機(jī)制的基礎(chǔ)上添加深度連接注意力網(wǎng)絡(luò)，模型的準(zhǔn)確率提高了4.8百分點(diǎn);使用教師網(wǎng)絡(luò)對剪枝后的網(wǎng)絡(luò)進(jìn)行知識蒸餾，模型的準(zhǔn)確率比原剪枝后的模型提升了1.4百分點(diǎn);由于教師網(wǎng)絡(luò)和剪枝后的網(wǎng)絡(luò)之間的規(guī)模差距過大，因此選擇30%剪枝率的助教網(wǎng)絡(luò)來彌補(bǔ)教師網(wǎng)絡(luò)和助教網(wǎng)絡(luò)模型的空白，模型的準(zhǔn)確率比原剪枝后的模型提高了4.9百分點(diǎn)。本文模型MobileNetLW通過0.5權(quán)重因子通道剪枝，引入通道注意力機(jī)制并添加深度連接注意力網(wǎng)絡(luò)，最后利用助教網(wǎng)絡(luò)進(jìn)行知識蒸餾，增強(qiáng)模型的魯棒性和泛化能力。本文改進(jìn)的算法在外來入侵植物圖像識別中準(zhǔn)確率較改進(jìn)前模型提高了5.4百分點(diǎn)，且參數(shù)量減少了約53%，實(shí)現(xiàn)了對模型整體瘦身，同時(shí)也提高了模型的識別精度，在模型的計(jì)算性能消耗和識別結(jié)果準(zhǔn)確率間做了一個(gè)較好的平衡，更加適用于移動端的部署和使用，對實(shí)際外來入侵生物的防治工作具有積極作用。

2.2?不同外來入侵植物模型識別結(jié)果與分析

為了測試本文提出的模型MobileNetLW是否有利于提高外來入侵植物的識別率，訓(xùn)練并測試了EfficentNet、DBTNet、ResNet101和ConvNext常用的4個(gè)卷積神經(jīng)網(wǎng)絡(luò)模型，5個(gè)模型的平均準(zhǔn)確率、召回率和F1值見表3。本文改進(jìn)后的MobileNetLW模型在平均準(zhǔn)確率、召回率和F1值3個(gè)評價(jià)指標(biāo)較其余4個(gè)模型都有所提高，其中，平均準(zhǔn)確率分別提高13.8、11.2、10.0百分點(diǎn)和6.4百分點(diǎn)，平均召回率分別提高14.9、11.5、10.3百分點(diǎn)和7.7百分點(diǎn)，平均F1值分別提高14.3、11.3、10.2百分點(diǎn)和7.0百分點(diǎn)，參數(shù)量分別下降了5.7、22.2、40.5?M和23.1?M。從結(jié)果可以看出：本研究算法在保證輕量級模型的基礎(chǔ)上仍能夠取得較好的識別結(jié)果，在實(shí)際使用過程中MobileNetLW是低消耗、高精度的外來入侵植物識別模型。

2.3?模型特征圖可視化

CNN卷積神經(jīng)網(wǎng)絡(luò)識別圖像通過圖像的像素點(diǎn)提取到圖像的特征，在這個(gè)過程中本文使用GradCAM算法［31］進(jìn)行可視化試驗(yàn)來比較模型對特征信息的提取能力。本文未添加注意力機(jī)制的網(wǎng)絡(luò)、加入通道注意力機(jī)制的網(wǎng)絡(luò)和在注意力機(jī)制基礎(chǔ)上加入深度連接注意力網(wǎng)絡(luò)生成的熱力圖如圖6所示。未添加注意力機(jī)制的網(wǎng)絡(luò)感興趣的區(qū)域更多放在無關(guān)信息上，添加注意力機(jī)制網(wǎng)絡(luò)的熱力圖中的高亮區(qū)域更加聚集于曼陀羅Datura?stramonium花的主體部分，添加深度連接注意力網(wǎng)絡(luò)的熱力圖聚集的范圍更加廣且集中，使得模型更加能夠提取曼陀羅中的局部細(xì)節(jié)特征，從而提高模型對于外來入侵植物圖像特征的提取能力，以減弱外來入侵圖像背景復(fù)雜和外來入侵物種多變給識別帶來的不利影響，并提高分類性能。

圖6?外來入侵植物曼陀羅不同模型熱力圖

Fig.6?Heat?maps?of?different?models?of?alien invasive?plant?Datura?stramonium

3?結(jié)論與討論

中國外來入侵植物種類繁多、分布范圍廣，有些相同物種表型存在較大差異，不同物種之間可能存在一定的相似性，給非專業(yè)人員進(jìn)行外來入侵植物的識別或監(jiān)測調(diào)查工作帶來了挑戰(zhàn)，因此亟須一種易嵌入移動設(shè)備并具有較高精度的識別方法解決外來入侵植物監(jiān)測防控面臨的困境。

近幾年機(jī)器視覺和深度學(xué)習(xí)技術(shù)在外來入侵植物識別領(lǐng)域取得了較多進(jìn)展［1617，19，33］。傳統(tǒng)的植物識別方法主要通過植物葉片特征進(jìn)行分類，對圖像先進(jìn)行圖像灰度化、亮度矯正、閾值分割處理，再計(jì)算特征參數(shù)，最后通過分類器來對圖像進(jìn)行分類［34］。然而傳統(tǒng)的機(jī)器視覺識別方法進(jìn)行分類識別需要大量前期工作來確定植物的特征，特別在外來入侵植物野外識別情景下，圖像背景復(fù)雜且存在大量的干擾因素，人工篩選特征參數(shù)費(fèi)時(shí)費(fèi)力;且使用單特征進(jìn)行圖像分類往往識別效果不佳，無法適用于物種較多的情況，訓(xùn)練出來的模型魯棒性較弱且泛化能力較差，無法滿足現(xiàn)如今外來入侵植物防治需求。目前已有學(xué)者利用深度學(xué)習(xí)方法來識別植物，李雅婷［35］利用改進(jìn)ResNet?34對18類植物圖像進(jìn)行分類，準(zhǔn)確率達(dá)到88.2%;Hati等［36］利用改進(jìn)的ResNet?20對12種植物圖像進(jìn)行分類，準(zhǔn)確率達(dá)到91.84%。但上述方法由于使用的模型占據(jù)內(nèi)存過大，難以部署在移動設(shè)備終端，不利于外來入侵植物防治工作;在輕量化識別模型的應(yīng)用方面，李文逵等［37］利用改進(jìn)的MobileNet模型對11類植物圖像進(jìn)行分類，王冠等［38］利用通道剪枝操作對模型進(jìn)行進(jìn)一步的壓縮，并利用遷移學(xué)習(xí)提高剪枝模型識別植物病害的精度。但是上述使用的數(shù)據(jù)集大多都是背景無干擾的圖片，并不適用外來入侵植物識別的野外復(fù)雜情況。

針對上述提出的問題，本文針對113種外來入侵植物提出了輕量型高性能的外來入侵植物識別模型（MobileNetLW）。圖像數(shù)據(jù)通過Retinex、旋轉(zhuǎn)和高斯噪聲等進(jìn)行增強(qiáng)，提升了外來入侵植物圖像的細(xì)節(jié)信息，并增加了數(shù)據(jù)集數(shù)量。通過增加注意力機(jī)制和深度連接注意力網(wǎng)絡(luò)提高了模型對于特征的提取能力，增強(qiáng)模型的泛化能力;通過通道剪枝進(jìn)行模型瘦身使模型能夠適配多種移動式設(shè)備;為了彌補(bǔ)通道剪枝引起的模型準(zhǔn)確率降低，用教師網(wǎng)絡(luò)先知識蒸餾助教網(wǎng)絡(luò)，再由學(xué)生網(wǎng)絡(luò)學(xué)習(xí)遷移助教網(wǎng)絡(luò)的方式來優(yōu)化模型的權(quán)重參數(shù)，從而進(jìn)一步提高模型的泛化能力。經(jīng)過控制變量的消融試驗(yàn)，證明了本文算法的改進(jìn)對于網(wǎng)絡(luò)的改進(jìn)是有效的，同時(shí)整個(gè)模型實(shí)現(xiàn)了外來入侵植物圖像分類識別的低消耗和高精度。經(jīng)過與EfficentNet、DBTNet、ResNet101和ConvNext常用的4個(gè)卷積神經(jīng)網(wǎng)絡(luò)模型對比，MobileNetLW在對113種外來入侵植物的識別中取得了較好的效果，平均識別率達(dá)到了86.1%。由此表明，本文方法可以有效地提高外來入侵植物的識別率，對于外來入侵植物的防治具有學(xué)術(shù)意義和實(shí)際應(yīng)用價(jià)值。

基于MobileNetLW的外來入侵植物識別方法雖然提高了識別的準(zhǔn)確率，但是仍然存在少數(shù)植物識別率較低，主要原因是植物生長階段形態(tài)各異且物種之間相似度較高，圖像的采集角度不一、質(zhì)量不一也會影響模型的識別效果。因此，需要通過增加樣本量以及算法優(yōu)化來提高模型對局部特征的提取能力，以滿足實(shí)際外來入侵植物防治的需求。中國國土面積廣、環(huán)境氣候復(fù)雜，每個(gè)地域存在的外來入侵物種存在較大的差異，不同地域相同物種的形態(tài)、特征也可能會有較大差別，因此也會給外來入侵植物的防治工作帶來挑戰(zhàn)。針對這一問題還需要建立對應(yīng)的本地外來入侵物種庫，調(diào)查人員拍攝的外來入侵植物圖片上傳到移動設(shè)備識別，系統(tǒng)保存并處理這些圖片然后補(bǔ)充進(jìn)數(shù)據(jù)集，也一定程度上提高了樣本量，在后續(xù)模型的迭代可以增加識別的準(zhǔn)確率。

將本文提出的MobileNetLW外來入侵植物識別模型應(yīng)用于移動端設(shè)備中，可以輔助防治人員在網(wǎng)絡(luò)狀態(tài)不穩(wěn)定以及網(wǎng)絡(luò)帶寬限制的條件下準(zhǔn)確、實(shí)時(shí)和高效地識別外來入侵植物，同時(shí)在后期可以通過大數(shù)據(jù)挖掘和分析各個(gè)地區(qū)的入侵物種分布地點(diǎn)和危害情況，監(jiān)控當(dāng)?shù)赝鈦砣肭种参锇l(fā)展，并建立相對應(yīng)的防治措施，這對于中國外來入侵植物的早期防控預(yù)警、實(shí)時(shí)調(diào)查監(jiān)測和精準(zhǔn)防治具有重大意義。

參考文獻(xiàn)

［1］?陳寶雄，?孫玉芳，?韓智華，?等.?我國外來入侵生物防控現(xiàn)狀、問題和對策［J］.?生物安全學(xué)報(bào)，?2020，?29（3）：?157163.

［2］?冼曉青，?王瑞，?陳寶雄，?等.?“世界100種惡性外來入侵物種”在我國大陸的入侵現(xiàn)狀［J］.?生物安全學(xué)報(bào)，?2022，?31（1）：?916.

［3］?史延通.?淺析我國外來入侵生物的危害和對策［J］.?吉林農(nóng)業(yè)，?2012（2）：?139145.

［4］?陳潔君，?蔣躍明，?劉楠.?外來入侵生物防控策略研究進(jìn)展［J］.?檢驗(yàn)檢疫學(xué)刊，?2013，?23（3）：?4648.

［5］ 李倩.?外來入侵種南美蟛蜞菊與其同屬本地種蟛蜞菊跨代可塑性對形態(tài)和生理特性影響的差異［D］.?成都：?四川師范大學(xué)，?2020.

［6］?林淵源，?趙崢.?環(huán)境DNA技術(shù)在水生入侵生物監(jiān)測中的應(yīng)用［J］.?生態(tài)毒理學(xué)報(bào)，?2021，?16（6）：?112.

［7］?李晗溪，?黃雪娜，?李世國，?等.?基于環(huán)境DNA宏條形碼技術(shù)的水生生態(tài)系統(tǒng)入侵生物的早期監(jiān)測與預(yù)警［J］.?生物多樣性，?2019，?27（5）：?491504.

［8］?邱榮洲，?趙健，?陳宏，?等.?外來物種入侵大數(shù)據(jù)采集方法的建立與應(yīng)用［J］.?生物多樣性，?2021，?29（10）：?13771385.

［9］?樊曉培.?COI1/MYC2與冷響應(yīng)基因ICE41調(diào)節(jié)冬小麥抗寒分子機(jī)制［D］.?哈爾濱：?東北農(nóng)業(yè)大學(xué)，?2020.

［10］闞江明，?王怡萱，?楊曉微，?等.?基于葉片圖像的植物識別方法［J］.?科技導(dǎo)報(bào)，?2010，?28（23）：?8185.

［11］張寧，?劉文萍.?基于克隆選擇算法和K近鄰的植物葉片識別方法［J］.?計(jì)算機(jī)應(yīng)用，?2013，?33（7）：?20092013.

［12］CAO?Jie，?WANG?Bin，?BROWN?D.?Similarity?based?leaf?image?retrieval?using?multiscale?Rangle?description?［J］.?Information?Sciences，?2016，?374：?5164.

［13］MAHAJAN?S，?RAINA?A，?GAO?Xiaozhi，?et?al.?Plant?recognition?using?morphological?feature?extraction?and?transfer?learning?over?SVM?and?AdaBoost?［J/OL］.?Symmetry，?2021，?13（2）：?356.?DOI：?10.3390/sym13020356.

［14］LU?Jinzhu，?TAN?Lijuan，?JIANG?Huanyu.?Review?on?convolutional?neural?network?（CNN）?applied?to?plant?leaf?disease?classification?［J］.?Agriculture，?2021，?11（8）：?707711.

［15］王艷，?孫薇，?周小平.?基于深度學(xué)習(xí)的中草藥植物圖像識別方法研究［J］.?中醫(yī)藥信息，?2020，?37（6）：?2125.

［16］QIAO?Xi，?LI?Yanzhou，?SU?Guangyuan，?et?al.?MmNet：?Identifying?Mikania?micrantha?Kunth?in?the?wild?via?a?deep?convolutional?neural?network?［J］.?Journal?of?Integrative?Agriculture，?2020，?19（5）：?12921300.

［17］QIAN?Wanqiang，?HUANG?Yiqi，?LIU?Qi，?et?al.?UAV?and?a?deep?convolutional?neural?network?for?monitoring?invasive?alien?plants?in?the?wild?［J/OL］.?Computers?and?Electronics?in?Agriculture，?2020，?174：?105519.?DOI：?10.1016/j.compag.2020.105519.

［18］李立鵬，?師菲蓬，?田文博，?等.?基于殘差網(wǎng)絡(luò)和遷移學(xué)習(xí)的野生植物圖像識別方法［J］.?無線電工程，?2021，?51（9）：?857863.

［19］劉萬學(xué)，?蒯乃陽，?韓爽，?等.?基于Android和深度學(xué)習(xí)的外來入侵植物智能識別系統(tǒng)［J］.?植物保護(hù)，?2021， 47（4）：?174179.

［20］SANDLER?M，?HOWARD?A，?ZHU?Menglong，?et?al.?Mobilenetv2：?Inverted?residuals?and?linear?bottlenecks?［C］∥Proceedings?of?the?IEEE?Conference?on?Computer?Vision?and?Pattern?Recognition，?2018：?45104520.

［21］HOWARD?A?G，?ZHU?Menglong，?ZHEN?Bo，?et?al.?MobileNets：?Efficient?convolutional?neural?networks?for?mobile?vision?application?［J/OL］.?arXiv，?2017，?1704.04861v1.?DOI：?10.48550/arXiv.1704.04861.

［22］LIU?Zhuang，?LI?Jianguo，?SHEN?Zhijiang，?et?al.?Learning?efficient?convolutional?networks?through?network?slimming?［C］∥Proceedings?of?the?IEEE?International?Conference?on?Computer?Vision，?2017：?27362744.

［23］HINTON?G，?VINYALS?O，?DEAN?J.?Distilling?the?knowledge?in?a?neural?network?［J/OL］.?arXiv，?2015，?14：?1503.02531.?DOI：?10.48550/arXiv.1503.02531.

［24］LIU?Shouxin，?LONG?Wei，?HE?Lei，?et?al.?Retinexbased?fast?algorithm?for?lowlight?image?enhancement?［J/OL］.?Entropy，?2021，?23（6）：?746.?DOI：?10.3390/e23060746.

［25］HU?Jie，?SHEN?Li，?SUN?Gang.?Squeezeandexcitation?networks?［C］∥Proceedings?of?the?IEEE?Conference?on?Computer?Vision?and?Pattern?Recognition，?2018：?71327141.

［26］MA?Xu，?GUO?Jingda，?TANG?Sihai，?et?al.?Learning?connected?attentions?for?convolutional?neural?networks?［C］∥2021?IEEE?International?Conference?on?Multimedia?and?Expo?（ICME），?IEEE，?2021：?16.

［27］于佳龍.?面向移動設(shè)備的圖像分類任務(wù)功耗優(yōu)化研究［D］.?西安：?西北大學(xué)，?2019.

［28］TAN?Mingxing，?LE?Q?V.?EfficientNet：?Rethinking?model?scaling?for?convolutional?neural?networks?［C］∥International?Conference?on?Machine?Learning，?PMLR，?2019：?61056114.

［29］ZHENG?Heliang，?FU?Jianlong，?ZHA?Zhengjun，?et?al.?Learning?deep?bilinear?transformation?for?finegrained?image?representation?［C］∥Proceedings?of?the?33rd?International?Conference?on?Neural?Information?Processing?Systems，?2019：?42774286.

［30］SZEGEDY?C，?IOFFE?S，?VANHOUCKE?V，?et?al.?Inceptionv4，?inceptionresnet?and?the?impact?of?residual?connections?on?learning?［C］∥Thirtyfirst?AAAI?Conference?on?Artificial?Intelligence，?2017.

［31］LIU?Zhuang，?MAO?Hanzi，?WU?Chaoyuan，?et?al.?A?convnet?for?the?2020s?［C］∥Proceedings?of?the?IEEE/CVF?Conference?on?Computer?Vision?and?Pattern?Recognition，?2022：?1197611986.

［32］SELVARAJU?R?R，?COGSWELL?M，?DAS?A，?et?al.?Gradcam：?Visual?explanations?from?deep?networks?via?gradientbased?localization?［C］∥Proceedings?of?the?IEEE?International?Conference?on?Computer?Vision，?2017：?618626.

［33］原忠虎，?王維，?蘇寶玲.?基于改進(jìn)VGGNet模型的外來入侵植物葉片識別方法［J］.?計(jì)算機(jī)與現(xiàn)代化，?2021（9）：?711.

［34］張善文，?張傳雷，?王旭啟，?等.?基于葉片圖像和監(jiān)督正交最大差異伸展的植物識別方法［J］.?林業(yè)科學(xué)，?2013，?49（6）：?184188.

［35］李雅婷.?基于殘差網(wǎng)絡(luò)的植物分類識別方法研究與實(shí)現(xiàn)［D］.?呼和浩特：?內(nèi)蒙古大學(xué)，?2021.

［36］HATI?A?J，?SINGH?R?R.?Artificial?intelligence?in?smart?farms：?plant?phenotyping?for?species?recognition?and?health?condition?identification?using?deep?learning?［J］.?AI，?2021，?2（2）：?274289.

［37］李文逵，?韓俊英.?基于一種輕量級卷積神經(jīng)網(wǎng)絡(luò)的植物葉片圖像識別研究［J］.?軟件工程，?2022，?25（2）：?1013.

［38］王冠，?王建新，?孫鈺.?面向邊緣計(jì)算的輕量級植物病害識別模型［J］.?浙江農(nóng)林大學(xué)學(xué)報(bào)，?2020，?37（5）：?978985.

（責(zé)任編輯：楊明麗）