基于改進(jìn)自蒸餾EMA一DeiT與遷移學(xué)習(xí)的番茄葉片病害識(shí)別方法

中圖分類號(hào)：S436.412 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：2095-5553（2025）10-0192-12

Abstract：At present，the existing tomato leaf disease recognitionmodelhas the problems poor generalization low recognition accuracy.This paper proposesa tomato leaf disease recognition model basedon improvedEMA—iT that addresses theisues.The method uses the mainstream model Data-eficient image Transformers（iT）as the benchmark model，combines theExponential Moving Averagealgorithm with the iTmodel，adoptsself-knowledgedistilation method，enhances thetomatoleaf diseaserecognitionalgorithm through transfer learning toimproveitsrecognition accuracy．The model iscompared with VGG16，nsNet121，EficientNet，ResNet50，Vision Transformer，Swin Transformer， DCNN models，showing an accuracy improvement 1.1% to 14% .The improved EMA—iT model achieves an average accuracy 99.6% in the PlantVillage ten-class tomato leaf disease dataset. To evaluate the recognition performance tomato leaf diseases incomplex natural environments，this model wastested onthe Dataset

Tomato Leaves six-class tomato leafdiseasedataset，the PlantDoc dataset， the Tomato-Village dataset，achieving an average recognition rate 98.2% ， 97.1% ， 97.6% ，respectively.Compared with other models，the model demonstrated superior performance.The improved EMA—iT model proposed in thispaper has high recognition accuracyfor tomatoleaf diseasesincomplexnatural environmentscanefectivelyaid decision-making for tomato disease recognition systems in agricultural production

Keywords：tomato disease recognition；transfer learning；self-distilation；exponential moving average

0 引言

目前，中國(guó)位居亞洲番茄產(chǎn)量第一，同時(shí)也是全球最大的番茄生產(chǎn)國(guó)[1，截至2024年，中國(guó)的番茄產(chǎn)量種植面積約 120khm² ，超過(guò)了美國(guó)加州，成為世界第一大加工番茄生產(chǎn)基地[2]。然而，番茄產(chǎn)業(yè)面臨常見(jiàn)病蟲(chóng)害的威脅，這對(duì)番茄的產(chǎn)量和質(zhì)量造成了顯著影響，嚴(yán)重制約了番茄產(chǎn)業(yè)的進(jìn)一步發(fā)展[3]。傳統(tǒng)的番茄病害防治主要依靠農(nóng)民長(zhǎng)期以來(lái)積累的個(gè)人經(jīng)驗(yàn)，但這些方法往往不能及時(shí)高效地識(shí)別番茄病害，給農(nóng)民造成了巨大的經(jīng)濟(jì)損失[4。為有效降低農(nóng)民損失，利用圖像識(shí)別技術(shù)對(duì)番茄病害進(jìn)行防治具有重大意義。番茄病害通常從葉部開(kāi)始蔓延至整個(gè)植株，及時(shí)準(zhǔn)確識(shí)別番茄葉部病害的種類顯得至關(guān)重要[5]。因此迫切需要一種可靠的番茄病害鑒定方法，以確保番茄健康生長(zhǎng)，提高番茄的產(chǎn)量和質(zhì)量[6]。

近年來(lái)隨著人工智能在農(nóng)業(yè)領(lǐng)域的發(fā)展，基于深度學(xué)習(xí)的圖像處理技術(shù)已逐漸成為該領(lǐng)域的重要研究方向，其中卷積神經(jīng)網(wǎng)絡(luò)（CNN）在植物病害的檢測(cè)和分類方面取得顯著進(jìn)展[。CNN可以有效地替代人工提取特征的方法，從而更準(zhǔn)確地獲取圖像紋理與色彩中的病害信息，達(dá)到精準(zhǔn)識(shí)別病害類型的目的[8]。VGGNet模型[9-11]、ResNet模型[12-14]和nseNet[15.16]等CNN網(wǎng)絡(luò)模型在圖像識(shí)別方面有更加廣泛地應(yīng)用。姜紅花等[7提出了一種基于改進(jìn)ResNet18的蘋果葉部病害多分類算法，并在原始ResNet18網(wǎng)絡(luò)的基礎(chǔ)上增加通道與空間注意力機(jī)制分支，在5類蘋果常見(jiàn)的葉部病害上準(zhǔn)確率達(dá)到 98.25% 。劉敏等[18提出了一種基于多尺度融合網(wǎng)絡(luò)的蘋果病害葉片檢測(cè)方法，利用改進(jìn)后的VGG一16網(wǎng)絡(luò)作為蘋果全局特征提取器，并使用SwinTransformer網(wǎng)絡(luò)作為局部特征提取器，最后將全局特征與局部特征進(jìn)行融合，對(duì)于蘋果6類葉病檢測(cè)達(dá)到 93.98% 的準(zhǔn)確率。張寧等[19提出了一種改進(jìn)的AT—InceptionV3神經(jīng)網(wǎng)絡(luò)番茄葉部病害檢測(cè)模型，該網(wǎng)絡(luò)以InceptionV3為主干網(wǎng)絡(luò)，結(jié)合多尺度卷積和注意力機(jī)制（CBAM）模塊，在Plantvillage公開(kāi)番茄病害數(shù)據(jù)集中的5種番茄常見(jiàn)葉部圖像分類準(zhǔn)確率達(dá)到 98.4% 。王志強(qiáng)等[20]提出一種基于多尺度特征融合和坐標(biāo)注意力機(jī)制的輕量級(jí)網(wǎng)絡(luò)（MCA一MobileNet）模型，針對(duì)PlantVillage中的1O類番茄葉片圖像識(shí)別準(zhǔn)確率達(dá)到 94.11% 。馬麗等[21提出一種基于MobileNetV3進(jìn)行改進(jìn)的番茄葉片病害分類識(shí)別研究方法，對(duì)于PlantVillage公共數(shù)據(jù)集和AIChallenge平臺(tái)數(shù)據(jù)集中5類常見(jiàn)的番茄病害葉片和1類健康葉片的平均識(shí)別準(zhǔn)確率可達(dá) 97.29% ODhanalakshmi等[22]提出了一種基于Inception的序列網(wǎng)絡(luò)新變體，使用改進(jìn)的輸人圖像特征和超參數(shù)對(duì)番茄數(shù)據(jù)集上的現(xiàn)有網(wǎng)絡(luò)進(jìn)行分類，在PlantVillage番茄葉片數(shù)據(jù)集上實(shí)現(xiàn)了 96% 的平均識(shí)別精度。

CNN網(wǎng)絡(luò)模型在農(nóng)業(yè)病害識(shí)別方面取得了卓越的成果，但是進(jìn)行圖像識(shí)別需要大量的數(shù)據(jù)集和計(jì)算時(shí)間。遷移學(xué)習(xí)通過(guò)借助現(xiàn)有領(lǐng)域的知識(shí)重新應(yīng)用于另一種相關(guān)的目標(biāo)領(lǐng)域問(wèn)題上，從而有效地彌補(bǔ)數(shù)據(jù)集樣本不足以及訓(xùn)練模型收斂速度慢的問(wèn)題。鄭一力等[23]提出了一種基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)植物葉片圖像識(shí)別方法，使用AlexNet和InceptionV3模型得到的識(shí)別準(zhǔn)確率分別達(dá)到 95.31%.95.40% 。陳聰?shù)?4提出一種基于改進(jìn)殘差網(wǎng)絡(luò)的蘋果病害識(shí)別模型REP一ResNet，模型使用遷移學(xué)習(xí)的方式進(jìn)行訓(xùn)練，在復(fù)雜背景下的蘋果葉片病害識(shí)別中準(zhǔn)確率達(dá)到97.69% 。牛學(xué)德等[25]提出了一種遷移學(xué)習(xí)和nseNet卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合的模型，針對(duì)10種番茄葉圖像的分類測(cè)試準(zhǔn)確率達(dá)到 97.76% 。

Transformers于2O17年被Vaswani等提出用于機(jī)器翻譯任務(wù)，然后成為自然語(yǔ)言處理（NLP）領(lǐng)域眾多任務(wù)中最領(lǐng)先的方法。Dosovitskiy等[26]受到Transformer在NLP領(lǐng)域成功應(yīng)用的啟發(fā)，將Transformer應(yīng)用于計(jì)算機(jī)視覺(jué)領(lǐng)域，提出了VisonTransformer（ViT），ViT在通用圖像分類任務(wù)上展示出優(yōu)越的可擴(kuò)展性，甚至超過(guò)了主流的CNN網(wǎng)絡(luò)結(jié)構(gòu)。然而，ViT模型在訓(xùn)練的過(guò)程中需要大量的數(shù)據(jù)進(jìn)行訓(xùn)練才能達(dá)到良好的效果，導(dǎo)致在有限算力和數(shù)據(jù)的情況下出現(xiàn)訓(xùn)練成本過(guò)高的問(wèn)題。為了解決這些問(wèn)題，Touvron等[27在2O21年提出了Data—efficientImageTransformers（iT）模型，iT模型是一種基于Transformer架構(gòu)的計(jì)算機(jī)視覺(jué)模型，通過(guò)改進(jìn)訓(xùn)練策略和引入知識(shí)蒸餾的技術(shù)，使得模型在少量數(shù)據(jù)下仍能達(dá)到更高的性能。知識(shí)蒸餾最初由Hinton等28在2015年提出，主要通過(guò)訓(xùn)練一個(gè)龐大且復(fù)雜的教師模型來(lái)傳遞知識(shí)給一個(gè)較小的學(xué)生模型，以減小模型的規(guī)模與計(jì)算復(fù)雜度，同時(shí)保持模型的性能。然而，傳統(tǒng)知識(shí)蒸餾主要依賴于外部教師模型，其訓(xùn)練復(fù)雜度高和容量大增加了計(jì)算與儲(chǔ)存的負(fù)擔(dān)。當(dāng)使用傳統(tǒng)知識(shí)蒸餾，教師模型與學(xué)生模型之間差異較大時(shí)，所得到的學(xué)生模型性能不一定最佳[29]。

為此，針對(duì)實(shí)際應(yīng)用的復(fù)雜場(chǎng)景中番茄葉部病害識(shí)別種類少、模型精度低等問(wèn)題，本文提出一種基于改進(jìn)的iT模型，通過(guò)滑動(dòng)平均指數(shù)算法（ExponentialMovingAverage）與iT模型相結(jié)合。為了使模型訓(xùn)練過(guò)程更簡(jiǎn)化和高效，本模型使用自蒸餾策略，學(xué)生模型在預(yù)訓(xùn)練階段學(xué)習(xí)到的知識(shí)用于自身在目標(biāo)數(shù)據(jù)集的訓(xùn)練，學(xué)生模型與教師模型為同一模型，解決學(xué)生與教師模型之間因容量差異過(guò)大導(dǎo)致知識(shí)傳遞不充分等問(wèn)題。同時(shí)使用遷移學(xué)習(xí)技術(shù)將模型iT在ImageNet數(shù)據(jù)集上進(jìn)行充分訓(xùn)練后得到模型參數(shù)遷移到番茄葉部病害目標(biāo)數(shù)據(jù)集上，大大減少模型訓(xùn)練的時(shí)間，提高模型訓(xùn)練精度。在公開(kāi)數(shù)據(jù)集PlantVillage中1O類番茄葉病以及DatasetTomatoLeaves中6類番茄葉病數(shù)據(jù)集上進(jìn)行試驗(yàn)。

1 材料與方法

1.1 數(shù)據(jù)集

選取PlantVillage、DatasetTomato Leaves、PlantDoc、Tomato—Village番茄病害數(shù)據(jù)集，這4個(gè)數(shù)據(jù)集覆蓋了從試驗(yàn)背景到自然環(huán)境下的多種番茄病害圖像。其中選定PlantVillage數(shù)據(jù)集中1O個(gè)類別的番茄葉片圖像，包含9種病害和健康葉片總數(shù)共18835張，從中選取6000張具有代表性的種類圖像共10類，各類病害樣本展示如圖1所示。

圖1PlantVillage數(shù)據(jù)集番茄葉片病害圖像

DatasetTomatoLeaves數(shù)據(jù)集是在網(wǎng)站（https：//data.mendeley.com/）中收集的自然場(chǎng)景下的番茄葉片圖像，由單葉、多葉、簡(jiǎn)單背景和復(fù)雜背景組成，分別為細(xì)菌性葉斑病、黑霉病、灰斑病、健康、晚疫病、白粉病6個(gè)類別，共622張圖像，各類病害樣本展示如圖2所示。

圖2DatasetTomatoLeaves數(shù)據(jù)集番茄葉片病害圖像 Fig.2Dataset TomatoLeavesimage tomato leaf disease

采用的泛化性驗(yàn)證數(shù)據(jù)集選取自PlantDoc數(shù)據(jù)集中的番茄病害葉片圖像，以及Tomato—Village中的多類別番茄病害分類（Multiclasstomatodiseaseclassification）數(shù)據(jù)集共同組建而成。PlantDoc數(shù)據(jù)集總共包含2598張圖像，涉及13種植物物種和多達(dá)17類疾病，選取其中的番茄數(shù)據(jù)共8類，分別為早疫病、晚疫病、細(xì)菌性葉斑病、葉霉病、番茄花葉病、斑枯病、健康葉片、黃化曲葉病毒病，共734張。PlantDoc數(shù)據(jù)集與實(shí)驗(yàn)室控制條件下拍攝的圖像不同，該數(shù)據(jù)集的圖像反映真實(shí)農(nóng)場(chǎng)環(huán)境的復(fù)雜性，其中的數(shù)據(jù)捕捉到自然環(huán)境中的背景噪聲、不同的照明條件和多樣的視角，各類病害樣本展示如圖3所示。

圖3PlantDoc數(shù)據(jù)集番茄葉片病害圖像 Fig.3 PlantDoc dataset tomato leaf disease image

Tomato—Village的多類別番茄病害分類數(shù)據(jù)集在印度拉賈斯坦邦的焦特布爾拍攝，在焦特布爾田地采摘番茄葉子，然后將單個(gè)番茄葉放置于白紙上進(jìn)行拍攝。

該數(shù)據(jù)集共2103張數(shù)據(jù)，有8類番茄圖像數(shù)據(jù)，分別為早疫病、晚疫病、葉礦病、鎂缺乏癥、氮缺乏癥、鉀缺乏癥、斑點(diǎn)萎蔫病，各類病害樣本展示如圖4所示。

圖4Tomato—Village數(shù)據(jù)集番茄葉片病害圖像 Fig.4Tomato leafdisease imageinthe Tomato—Villagedatase1

1.2試驗(yàn)數(shù)據(jù)預(yù)處理

PlantVillage原數(shù)據(jù)集中番茄葉圖片數(shù)量各個(gè)種類之間差別過(guò)大，例如番茄黃化曲葉病有5357張圖像，而番茄早疫病、番茄葉霉病以及番茄花葉病各只有1000張圖像，因此使用原數(shù)據(jù)集進(jìn)行訓(xùn)練可能會(huì)導(dǎo)致模型退化以及模型過(guò)擬合或欠擬合的問(wèn)題。為保證數(shù)據(jù)集中各種番茄葉片圖像種類的平衡，以提高模型性能準(zhǔn)確性，根據(jù)病害嚴(yán)重程度以及番茄葉形狀與顏色等特征，從PlantVillage原數(shù)據(jù)集中挑選6OOO張圖像，并使用數(shù)據(jù)增強(qiáng)的方法擴(kuò)增到12000張圖像。

DatasetTomatoLeaves原數(shù)據(jù)集中圖像總數(shù)僅為622張，當(dāng)數(shù)據(jù)量有限時(shí)，模型訓(xùn)練期間容易出現(xiàn)過(guò)擬合，所以采用數(shù)據(jù)增強(qiáng)的方法以增加數(shù)據(jù)容量到6526張圖像。PlantDoc數(shù)據(jù)集與Tomato—Village數(shù)據(jù)集同樣采取類似的數(shù)據(jù)平衡策略，其中PlantDoc原蕃茄葉片數(shù)據(jù)集數(shù)量為734張，使用數(shù)據(jù)增強(qiáng)后達(dá)到2693張，并且每類數(shù)據(jù)平衡在330張左右。Tomato—Village原數(shù)據(jù)集為2103張，增強(qiáng)后圖像數(shù)量為4137張。

數(shù)據(jù)預(yù)處理所使用的方法包括圖像順時(shí)針旋轉(zhuǎn)90^°，180^°，270^° ；調(diào)節(jié)圖像明暗亮度；通過(guò)高斯模糊添噪模擬真實(shí)自然場(chǎng)景。數(shù)據(jù)增強(qiáng)的方法不僅使網(wǎng)絡(luò)模型在訓(xùn)練過(guò)程中從更多樣的圖像中學(xué)習(xí)，增強(qiáng)模型的泛化能力與通用性，而且有助于提高模型處理復(fù)雜場(chǎng)景的能力。最后將PlantVillage、DatasetTomatoLeaves、PlantDoc、Tomato—Village數(shù)據(jù)集中所有的圖像大小調(diào)整為227像素 ×227 像素，然后分別按照6：3：1的比例將數(shù)據(jù)集隨機(jī)劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集，數(shù)據(jù)增強(qiáng)圖像對(duì)比展示如圖5～圖8所示，數(shù)據(jù)預(yù)處理前后數(shù)量對(duì)比如表1～表4所示。

圖5PlantVillage番茄葉片原始圖像與擴(kuò)充圖像 Fig.5 Original exped images tomato leaves in PlantVillage

圖6DatasetTomatoLeaves番茄葉片原始圖像與擴(kuò)充圖像

圖7PlantDoc番茄葉片原始圖像與擴(kuò)充圖像

圖8Tomato一Village番茄葉片原始圖像與擴(kuò)充圖像 Fig.8 Original exped images Tomato-Village tomato leaves

表1PlantVillage番茄葉片數(shù)據(jù)集類別及數(shù)據(jù)增強(qiáng)前后數(shù)量Tab.1TypesquantityPlantVillage tomatoleaf datasetbefore afterdata enhancement

表2DatasetTomatoLeaves番茄葉片數(shù)據(jù)集類別 及數(shù)據(jù)增強(qiáng)前后數(shù)量 Tab.2Dataset Tomato Leaves：Category quantity before afterdata enhancement

表3PlantDoc番茄葉片數(shù)據(jù)集類別及數(shù)據(jù)增強(qiáng)前后數(shù)量 Tab.3CategoriesPlantDoctomato leaf dataset the number data before after data augmentation

表4Tomato一Village番茄葉片數(shù)據(jù)集類別及數(shù)據(jù)增強(qiáng)前后數(shù)量Tab.4 Tomato—Village tomato leaf dataset category quantity before after data enhancement

1.3番茄病葉識(shí)別模型選取與采用方法

1.3.1 iT模型

基于Transformer的分類模型VisonTransformer（ViT）需要在 3×10⁸ 張圖片海量數(shù)據(jù)上（JFT—300M）進(jìn)行預(yù)訓(xùn)練，再在ImageNet數(shù)據(jù)集上進(jìn)行fune-tuning，才能達(dá)到與CNN方法相當(dāng)?shù)男阅埽@不僅需要大量的計(jì)算資源而且限制了ViT方法的進(jìn)一步應(yīng)用。iT無(wú)需海量預(yù)訓(xùn)練數(shù)據(jù)，只依靠ImageNet數(shù)據(jù)，便可以達(dá)到SOTA的結(jié)果，同時(shí)依賴的訓(xùn)練資源更少。

如圖9所示，iT使用自注意力機(jī)制來(lái)捕捉圖像特征，通過(guò)將圖像劃分為固定大小的“圖像塊\"（Patchtoken）并將其嵌入到向量空間（PatchEmbedding），以便在數(shù)據(jù)集上進(jìn)行圖像分類。它引入了“類別令牌”（classtoken）來(lái)表示整個(gè)圖像的信息，并使用“蒸餾令牌\"（distillationtoken）用于接收教師模型通過(guò)“軟蒸餾”（Stdistillation）在相關(guān)任務(wù)上的訓(xùn)練，使學(xué)生模型從教師模型中獲取知識(shí)。“蒸餾令牌”與“類別令牌\"相互補(bǔ)充，它們的嵌入逐漸變得相似但不相同，這是因?yàn)樗鼈兪巧上嗨频幌嗤哪繕?biāo)，以提供更豐富的信息。

圖9模型結(jié)構(gòu)框架圖

Fig.9Model structure framework diagram

1.3.2 知識(shí)蒸餾架構(gòu)

Hinton首次提出知識(shí)蒸餾架構(gòu)，引入教師一學(xué)生模型的概念，其目的是將訓(xùn)練好的教師模型所包含的知識(shí)遷移到另一個(gè)輕量學(xué)生模型上。這一過(guò)程主要是利用教師模型的軟目標(biāo)（Stlabel）輸出作為知識(shí)指導(dǎo)，用來(lái)幫助學(xué)生模型更好地訓(xùn)練，以達(dá)到更好的性能和精度。軟目標(biāo)函數(shù)的表達(dá)式如式（1）所示。

式中： q_i —軟目標(biāo)輸出；exp——指數(shù)運(yùn)算；Z_i ———Stmax層輸出的分類類別概率；T- 溫度參數(shù)，用于控制輸出的平滑度，當(dāng)溫度參數(shù)越高則輸出結(jié)果概率分布越平緩，當(dāng) τ 為1時(shí)， q_i 為Stmax函數(shù)。

傳統(tǒng)的知識(shí)蒸餾方法通常采用復(fù)雜的教師模型來(lái)指導(dǎo)簡(jiǎn)單的學(xué)生模型進(jìn)行訓(xùn)練，但是因?yàn)橥獠拷處熌Ｐ秃蛯W(xué)生模型在結(jié)構(gòu)和參數(shù)上存在差異，會(huì)讓教師模型中的一些重要特征與知識(shí)無(wú)法傳遞給學(xué)生模型，模型之間的信息流失導(dǎo)致學(xué)生模型在識(shí)別任務(wù)上的性能下降。為了提高知識(shí)遷移的效率，使用的教師模型是在ImageNet完成訓(xùn)練的iT模型，學(xué)生模型同樣為預(yù)訓(xùn)練完成的iT模型，iT模型將在預(yù)訓(xùn)練階段學(xué)習(xí)到的知識(shí)用來(lái)指導(dǎo)自身在特定數(shù)據(jù)集識(shí)別與分類。由于教師與學(xué)生模型是相同的模型結(jié)構(gòu)，教師模型生成的軟目標(biāo)與學(xué)生模型的輸出層匹配更一致，這種自蒸餾的策略可以有效地減小知識(shí)傳遞之間的誤差，使得學(xué)生網(wǎng)絡(luò)模型的精度更佳。

iT模型的軟蒸餾（Stdistillation）通過(guò)蒸餾溫度 τ 來(lái)平衡準(zhǔn)確性和泛化性能，將教師模型和學(xué)生模型的Stmax輸出之間的KL散度損失函數(shù)（Kullback—Leibler）最小化得到軟蒸餾損失函數(shù)；學(xué)生模型的Stmax輸出與真實(shí)標(biāo)簽之間計(jì)算交叉熵?fù)p失（CrossEntropy），兩個(gè)損失函數(shù)的加權(quán)和為最終損失函數(shù)，具體計(jì)算如式（2）所示。

Loss=（1-λ）LCE（?（Z_s），y）+ λτ²KL（ψ（Z_s/τ），ψ（Z_t/τ））

式中： Z_s，Z_i —學(xué)生模型和教師模型的輸出;λ ——KL散度損失和交叉熵的系數(shù)；y 一真實(shí)值標(biāo)簽；ψ —Stmax函數(shù)。

知識(shí)蒸餾結(jié)構(gòu)如圖10所示。

圖10知識(shí)蒸餾結(jié)構(gòu) Fig.1O Structure knowledge distillation

1.4滑動(dòng)平均算法

指數(shù)移動(dòng)平均（EMA）是一種平滑時(shí)間序列數(shù)據(jù)的方法，EMA通常對(duì)模型的權(quán)重參數(shù)進(jìn)行平滑處理，通過(guò)對(duì)模型訓(xùn)練中的權(quán)重進(jìn)行指數(shù)移動(dòng)平均，使模型更加穩(wěn)定，并提高在驗(yàn)證集上的性能。該方法給予近期數(shù)據(jù)更高的權(quán)重，通過(guò)對(duì)歷史參數(shù)值進(jìn)行加權(quán)平均，有助于降低模型參數(shù)在訓(xùn)練過(guò)程中的波動(dòng)性。

在模型參數(shù)的初始化階段，需要設(shè)定一個(gè)衰減率 β 該衰減率用于控制模型參數(shù)的更新速度。對(duì)于每個(gè)變量V ，EMA會(huì)相應(yīng)地設(shè)置一個(gè)影子變量 V_t ，并確保其初始值與原變量保持一致。在每次運(yùn)行變量更新時(shí)，影子變量的值會(huì)按照指數(shù)移動(dòng)平均的方式更新， θ 為變量 V 在t 時(shí)刻的取值。 ?V_t 的更新公式如式（3）所示。

1.5 引用遷移學(xué)習(xí)

遷移學(xué)習(xí)（TransferLearning）是通過(guò)將已訓(xùn)練過(guò)的數(shù)據(jù)所得到的知識(shí)遷移到新的相關(guān)任務(wù)中，以進(jìn)行高效地處理。在病害識(shí)別任務(wù)中，采用遷移學(xué)習(xí)能夠顯著加速網(wǎng)絡(luò)模型的收斂過(guò)程，縮短訓(xùn)練所需的時(shí)間，并且由于引入更多必要的數(shù)據(jù)量，還能提高模型的泛化能力，從而有效降低模型的過(guò)擬合風(fēng)險(xiǎn)。由于番茄葉部病害圖像數(shù)據(jù)量有限，傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)在這一規(guī)模的數(shù)據(jù)上難以展現(xiàn)出良好效果。相比之下，iT模型在經(jīng)過(guò)大型數(shù)據(jù)集的預(yù)訓(xùn)練后，能夠?qū)W得較強(qiáng)的分類能力。因此，選擇采用遷移學(xué)習(xí)的方法進(jìn)行預(yù)訓(xùn)練，以充分利用在大規(guī)模數(shù)據(jù)上訓(xùn)練得到的特征。

基于TensorFlow官方在ImageNet數(shù)據(jù)集上進(jìn)行訓(xùn)練，得到一個(gè)iT smalldistilled patch16224預(yù)訓(xùn)練的模型參數(shù)。將預(yù)訓(xùn)練好的參數(shù)作為改進(jìn)EMA一iT模型的初始權(quán)重，替代原來(lái)的隨機(jī)初始化參數(shù)。選擇訓(xùn)練時(shí)不凍結(jié)策略，使用PlantVillage數(shù)據(jù)集和DatasetTomatoLeaves數(shù)據(jù)集對(duì)遷移后的網(wǎng)絡(luò)參數(shù)進(jìn)行微調(diào)，最終獲得一種在番茄葉片病害分類任務(wù)上表現(xiàn)出較強(qiáng)泛化能力和魯棒性的模型。

2 結(jié)果與分析

2.1試驗(yàn)環(huán)境及模型參數(shù)

模型訓(xùn)練以及優(yōu)化在GoogleColab上使用TensorFlow框架完成。硬件配置為TeslaT4，16G顯存，12G內(nèi)存，Intel（R）Xeon（R） $＼textcircled { ＼omega } 2 . 3 0 ～ ＼mathrm { G H z }$ CPU，軟件環(huán)境為TensorFlow2.8.2，Python3.7.O。在模型訓(xùn)練過(guò)程中選用Adam優(yōu)化器，初始學(xué)習(xí)率為0.OOO1，采用余弦退火策略進(jìn)行更新，訓(xùn)練批次（batchsize）大小設(shè)置為1OO，由于PlantVillage數(shù)據(jù)集與DatasetTomatoLeaves數(shù)據(jù)集番茄病害葉片數(shù)目相差較大，所以訓(xùn)練PlantVillage番茄病害數(shù)據(jù)集迭代次數(shù)（epoch）為60，DatasetTomatoLeaves番茄病害數(shù)據(jù)集迭代次數(shù)（epoch）為120。知識(shí)蒸餾溫度系數(shù) （T） 設(shè)置為1，超參數(shù)λ設(shè)置為0.5。

2.2 評(píng)價(jià)指標(biāo)

準(zhǔn)確率（Accuracy）常作為分類模型的一個(gè)主要評(píng)價(jià)指標(biāo)，但當(dāng)樣本數(shù)據(jù)不均衡時(shí)，準(zhǔn)確率高低主要受占比大的類別影響。因此，通過(guò)準(zhǔn)確率Accuracy、平均精確率MeanPrecision、平均召回率MeanRecall和平均F1值4個(gè)指標(biāo)評(píng)價(jià)模型的性能，各指標(biāo)計(jì)算如式（4）～式（10）所示。

式中： k 某種作物的病害種類； n 作物病害種類數(shù)量； 真陽(yáng)性； TN 真陰性； FP 假陽(yáng)性； FN- 假陰性。

平均F1值分別為 99.5%.99.7% 和 99.7% 。由于PlantVillage數(shù)據(jù)集圖像是在控制條件下獲取，背景一致，照明條件理想，圖像噪聲較少，目標(biāo)特征相對(duì)于自然背景下數(shù)據(jù)集比較明顯，有助于本模型更容易地識(shí)別出病害特征。從表5可以看出，EMA一iTDist相比于EfficientNet、VGG16、ResNet5O、nsNetl21、ViF一small、Swin—small、DCNN模型，準(zhǔn)確率分別提高 14%4.9%2.6%1.8%2.8%2.5%1.1% ，平均精確率分別提高 13.7%.4.9%.2.7%.1.9% 、2.8%.2.7%.1.2% ，平均召回率分別提高 14.8% 、5.3%.2.9%.1.9%.2.7%.2.7%.1.7% ，平均 F1 值分別提高 14.6%.5.3%.2.9%.2%.2.7%.2.7% 1.7% ，EMA—iTDist的識(shí)別準(zhǔn)確率在所有對(duì)比模型中最高。

2.3PlantVillage數(shù)據(jù)集下試驗(yàn)結(jié)果

100 SAH EMA-iTDist8 nsNet121VGG1650EfficientNet20 vii-smal10 →DCNN0 20 40 60迭代次數(shù)為驗(yàn)證改進(jìn)后iT模型性能優(yōu)勢(shì)，使用在單一背景下拍攝的PlantVillage番茄病害數(shù)據(jù)進(jìn)行多個(gè)模型的訓(xùn)練，包括目前著名的4種CNN神經(jīng)網(wǎng)絡(luò)，即VGGl6、nsNetl21、EfficientNet、ResNet5O;近年提出的2種同類Transformer模型中具有代表性的Vision Transformer、SwinTransformer，以及Schuler等[30]提出的DCNN模型。將以上這些模型在相同試驗(yàn)條件下進(jìn)行比較，試驗(yàn)結(jié)果如表5所示。

表5不同網(wǎng)絡(luò)模型在PlantVillage番茄葉片病害測(cè)試集 試驗(yàn)結(jié)果比較 Tab.5 Comparison experimental results different network models on the PlantVillage tomato leaf disease test set %

如圖11所示，提出的EMA—iTDist模型在60輪迭代后對(duì)于PlantVillage中1O類番茄病害識(shí)別準(zhǔn)確率達(dá)到 99.6% ，同時(shí)，平均精確率、平均召回率和

圖11為不同模型訓(xùn)練準(zhǔn)確率對(duì)比曲線，可以看出，研究提出的EMA—iTDist模型識(shí)別準(zhǔn)確率優(yōu)于其他模型。EMA—iTDist模型在第5次迭代中就趨于收斂狀態(tài)，且識(shí)別本模型訓(xùn)練過(guò)程曲線波動(dòng)幅度較小，因?yàn)镋MA一iTDist模型引入遷移學(xué)習(xí)技術(shù)與指數(shù)移動(dòng)平均（EMA）策略，模型首先在ImageNet數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練，期間積累圖像特征知識(shí)，當(dāng)模型將其知識(shí)遷移到番茄葉片數(shù)據(jù)集時(shí)，它能夠迅速識(shí)別出與之前學(xué)習(xí)過(guò)的特征相對(duì)應(yīng)的病害圖像，其次EMA算法在訓(xùn)練過(guò)程中對(duì)模型參數(shù)進(jìn)行平滑處理，通過(guò)計(jì)算前幾次迭代參數(shù)的加權(quán)平均來(lái)更新當(dāng)前的參數(shù)值，相較于其他模型更穩(wěn)定。

表6為各種模型對(duì)PlantVillage中1O類番茄葉片病害識(shí)別準(zhǔn)確率對(duì)比，可以看出，EMA一iT模型對(duì)于10類病害的識(shí)別準(zhǔn)確率高于其他模型，平均準(zhǔn)確率為 99.5% ，識(shí)別準(zhǔn)確率比其他模型的最佳結(jié)果高出 1.9% ，EMA一iT模型對(duì)細(xì)菌性葉斑病、早疫病、晚疫病、葉霉病、斑枯病、二點(diǎn)葉螨病、輪斑病、黃化曲葉病毒病、健康、花葉病毒的識(shí)別準(zhǔn)確率分別為 99% 、 99% 、 100% 、 100% 、 100% 、 99% 、 99% /100% 、 100% 、 99% 。在4種傳統(tǒng)CNN模型中，nsNet121平均識(shí)別準(zhǔn)確率最高，為 97.6% ，但對(duì)輪斑病的識(shí)別準(zhǔn)確率只有 93% ;EfficienNet對(duì)輪斑病的識(shí)別準(zhǔn)確率為 70% ，對(duì)健康葉片的識(shí)別準(zhǔn)確率為85% 。這是因?yàn)榉演啺卟∨c番茄健康病具有高度相似的顏色特征，即它們?cè)陬伾矫嫱ǔ３尸F(xiàn)暗綠色，而番茄輪斑病在葉斑形態(tài)方面早期時(shí)為綠褐色水浸狀小斑點(diǎn)，大小 2～3mm ，在病斑不明顯時(shí)容易出現(xiàn)識(shí)別混淆。

表6各種模型對(duì)PlantVillage中十類番茄葉片病害數(shù)據(jù)集識(shí)別準(zhǔn)確率

Tab.6 Recognition accuracy various models on the PlantVillage dataset ten types tomato leaf disea

2.4DatasetTomatoLeaves數(shù)據(jù)集下試驗(yàn)結(jié)果

為驗(yàn)證提出的模型在復(fù)雜背景下的識(shí)別效果，在田間拍攝下的DatasetTomatoLeaves番茄病葉數(shù)據(jù)集訓(xùn)練模型進(jìn)行試驗(yàn)比較。DatasetTomatoLeaves番茄病葉數(shù)據(jù)集包含的圖像均在自然環(huán)境中拍攝，因此背景更加復(fù)雜多變，包括不同的植物、土壤或其他自然元素。此外，光照條件不穩(wěn)定，病害特征與自然背景混淆，這些因素都增加模型對(duì)于圖像分類的難度。如表7所示，提出的EMA一iTDist模型實(shí)現(xiàn)最大的準(zhǔn)確率，在準(zhǔn)確率、平均精準(zhǔn)率、平均召回率、平均 F1 值上達(dá)到 98.2%.98.1%.98.2%.98.1% 本模型與 VGG16、nsNetl21、EfficientNet、ResNet50、ViF一small、Swin一small、DCNN模型相比，準(zhǔn)確率提高 0.4%～27.9% ，平均精確率分別提高 0.3%～ 26.6% ，平均召回率分別提高 0.3%～17% ，平均F1 值分別提高 0.3%～17.1% 。DCNN 模型在PlantVillage番茄病葉數(shù)據(jù)集中識(shí)別準(zhǔn)確率為98.5% ，而在DatasetTomatoLeaves番茄病葉數(shù)據(jù)集中識(shí)別準(zhǔn)確率為 76.1% ，因?yàn)镈CNN模型網(wǎng)絡(luò)分別針對(duì)無(wú)彩色（L通道）和有彩色（AB通道）數(shù)據(jù)進(jìn)行處理，這種設(shè)計(jì)可以更有效地利用色彩信息提高植物病害分類的準(zhǔn)確性，PlantVillage番茄病葉數(shù)據(jù)在試驗(yàn)條件下相比于DatasetTomatoLeaves番茄病葉數(shù)據(jù)集更容易識(shí)別。在自然背景下的數(shù)據(jù)集中，EMA算法通過(guò)對(duì)本模型參數(shù)進(jìn)行平滑處理，減少背景噪聲和光照變化外部變化對(duì)模型性能的負(fù)面影響，這樣的平滑效果有助于模型在訓(xùn)練過(guò)程中維持穩(wěn)定，避免對(duì)特定噪聲的過(guò)度擬合，增強(qiáng)模型對(duì)自然場(chǎng)景中番茄病害特征的泛化能力。根據(jù)訓(xùn)練過(guò)程繪制8種模型在DatasetTomatoLeaves數(shù)據(jù)集訓(xùn)練精度曲線如圖12所示。

表7不同網(wǎng)絡(luò)模型在DatasetTomatoLeaves番茄葉片病害測(cè)試集試驗(yàn)結(jié)果比較Tab.7 Comparison experimental results different networkmodelsontheDataset Tomato Leaves tomato leafdisease test set

表8為各種模型對(duì)DatasetTomatoLeaves番茄病害數(shù)據(jù)集葉片準(zhǔn)確率對(duì)比，可以看出EMA一iTDist模型對(duì)自然狀態(tài)下的番茄病害葉片識(shí)別準(zhǔn)確率在5種模型中最優(yōu)，對(duì)于細(xì)菌性葉斑病、黑霉病、灰斑病、晚疫病、健康、白粉病6類番茄病害的平均識(shí)別準(zhǔn)確率均達(dá)到 98.1% ，Swin一small是對(duì)比模型中識(shí)別準(zhǔn)確率最高的模型，平均識(shí)別準(zhǔn)確率為 97.8% ，可對(duì)黑霉病的識(shí)別準(zhǔn)確率僅為 95.2% 。結(jié)果表明，提出的模型能夠很好地克服自然背景下的干擾，證明該模型具有良好的通用性與魯棒性。

ab.8 Acuracy various models in identifying leafdiseases in the Dataset Tomato Leaves tomato diseases datas

2.5PlantDoc與Tomato一Village數(shù)據(jù)集下試驗(yàn)結(jié)果

為驗(yàn)證EMA—iTDist模型在其他番茄病害數(shù)據(jù)集上的表現(xiàn)能力，選取了PlantDoc與Tomato—Village番茄病害數(shù)據(jù)集進(jìn)行泛化試驗(yàn)，本模型在120輪迭代后對(duì)于PlantDoc數(shù)據(jù)集識(shí)別準(zhǔn)確率達(dá)到97.1% ，對(duì)Tomato—Village數(shù)據(jù)集識(shí)別準(zhǔn)確率達(dá)到97.6% ，精度曲線如圖13所示。本模型在PlantDoc數(shù)據(jù)集中的準(zhǔn)確率、平均召回率、平均 F1 值分別為97.1%97.2%.97.1% ;在Tomato—Village數(shù)據(jù)集中的準(zhǔn)確率、平均召回率、平均 F1 值分別為 97.6% 、97.6%.97.4% ，如表9所示。

表8各種模型對(duì)DatasetTomatoLeaves番茄病害數(shù)據(jù)集葉片病害識(shí)別準(zhǔn)確率

表9泛化試驗(yàn)對(duì)比 Tab.9 Comparison generalization experiments %

本模型對(duì)于PlantDoc數(shù)據(jù)集中的早疫病、晚疫病、細(xì)菌性葉斑病、葉霉病、番茄花葉病、斑枯病、健康葉片、黃化曲葉病毒病8類番茄葉片識(shí)別平均準(zhǔn)確率為 96.9% ，對(duì)于Tomato—Village數(shù)據(jù)集中的早疫病、晚疫病、葉礦病、鎂缺乏癥、氮缺乏癥、鉀缺乏癥、斑點(diǎn)萎蔫病8類番茄葉片識(shí)別平均準(zhǔn)確率為 97.5% ，如表10和表11所示。泛化試驗(yàn)表明，本模型在除PlantVillage和DatasetTomatoLeaves數(shù)據(jù)集之外，在PlantDoc與Tomato—Village兩個(gè)數(shù)據(jù)集表現(xiàn)同樣優(yōu)秀，驗(yàn)證本模型對(duì)不同的背景條件、光照條件以及不同病害特征的識(shí)別能力。

表10EMA一iTDist對(duì)PlantDoc8類番茄葉片 數(shù)據(jù)集識(shí)別準(zhǔn)確率 Tab.10 Recognition accuracy EMA—iT Dist model on thePlantDoceight tomato leafdataset

在泛化試驗(yàn)中，EMA—iTDist模型主要處理不同數(shù)據(jù)集中的變異性和噪聲。本模型所使用的指數(shù)移動(dòng)平均算法通過(guò)對(duì)模型參數(shù)進(jìn)行加權(quán)平均，使得每次迭代參數(shù)更新都是平滑過(guò)的，從而降低模型對(duì)于單個(gè)批次數(shù)據(jù)異常點(diǎn)的敏感性。這樣的參數(shù)更新方法有助于避免模型在訓(xùn)練過(guò)程中由于遇到極端數(shù)據(jù)而發(fā)生劇烈波動(dòng)，從而提高模型在不同數(shù)據(jù)集上的穩(wěn)定性，減少模型在面對(duì)不同數(shù)據(jù)集時(shí)由于過(guò)擬合造成性能下降。使用自蒸餾技術(shù)提高EMA—iTDist模型的自學(xué)習(xí)和自適應(yīng)能力，自蒸餾使得本模型能夠基于當(dāng)前已學(xué)到的知識(shí)自我調(diào)整，對(duì)PlantDoc與Tomato—Village數(shù)據(jù)集中存在的特定病害表現(xiàn)和噪聲類型，模型能自動(dòng)識(shí)別并調(diào)整對(duì)特征的處理方法。如在PlantDoc數(shù)據(jù)集中存在由光照引起的顏色偏差，而Tomato—Village中包含新型的番茄病害，自蒸餾幫助模型在不斷迭代中優(yōu)化處理這些問(wèn)題的能力。在本試驗(yàn)中指數(shù)移動(dòng)平均算法為模型提供了穩(wěn)定的參數(shù)更新機(jī)制，而自蒸餾加強(qiáng)模型對(duì)關(guān)鍵病害特征的學(xué)習(xí)和適應(yīng)性，使模型能在多變的自然環(huán)境中保持高效和準(zhǔn)確的識(shí)別能力。

2.6 消融實(shí)驗(yàn)

為驗(yàn)證遷移學(xué)習(xí)以及指數(shù)移動(dòng)平均算法對(duì)iT模型性能的影響，分別針對(duì)PlantVillage和DatasetTomatoLeaves兩種數(shù)據(jù)集建立4種模型 EMA⁺TL⁺ iTDist、EMA+iTDist、TL + iTDist、iTDist進(jìn)行消融實(shí)驗(yàn)。經(jīng)過(guò)訓(xùn)練，其他3種模型結(jié)構(gòu)與iTDist相比具有更高的準(zhǔn)確性，其中EMA + TL+iTDist在4種模型中具有最高的準(zhǔn)確率，在PlantVillage番茄葉片數(shù)據(jù)集中識(shí)別準(zhǔn)確率為 99.6% ，在DatasetTomatoLeaves番茄葉片數(shù)據(jù)集中識(shí)別準(zhǔn)確率為 98.2% 表明遷移學(xué)習(xí)以及指數(shù)移動(dòng)平均算法對(duì)于單一環(huán)境以及自然環(huán)境下的番茄葉病鑒定均有優(yōu)秀的效果。表12和表13展示4種模型結(jié)構(gòu)識(shí)別2種番茄葉病數(shù)據(jù)集的結(jié)果。

表12PlantVillage番茄葉片數(shù)據(jù)集Tab.l2PlantVillage tomato leaf dataset

表13DatasetTomatoLeaves番茄葉片數(shù)據(jù)集Tab.13 Dataset Tomato Leaves tomato leaf dataset%

從表12可以看出，在PlantVillage番茄葉片數(shù)據(jù)集中EMA + TL+iTDist的識(shí)別準(zhǔn)確率比基礎(chǔ)模型iTDist高出 4.7% 。從表13可以看出，在DatasetTomatoLeaves自然狀態(tài)下的番茄葉片數(shù)據(jù)集中識(shí)別準(zhǔn)確率表現(xiàn)同樣優(yōu)秀，比基礎(chǔ)模型iTDist高出 2.5% 。

圖14和圖15展示4種模型結(jié)構(gòu)在兩種番茄葉片數(shù)據(jù)集上的訓(xùn)練準(zhǔn)確率對(duì)比曲線。由圖14和圖15可知，在PlantVillage番茄葉片數(shù)據(jù)集與DatasetTomatoLeaves數(shù)據(jù)集上，相比于沒(méi)有使用遷移學(xué)習(xí)的模型，EMA + TL + iTDist與TL+iTDist模型從訓(xùn)練剛開(kāi)始就有較高的精度，EMA + TL + iTDist在前5輪訓(xùn)練迭代中達(dá)到 95% 以上的準(zhǔn)確率，且在10輪迭代以后曲線達(dá)到相對(duì)穩(wěn)定的狀態(tài)，曲線收斂速度遠(yuǎn)超其他模型，原因是在使用遷移學(xué)習(xí)后，模型在ImageNet數(shù)據(jù)集的預(yù)訓(xùn)練過(guò)程中學(xué)到了大量圖像特征，然后在兩種番茄葉片數(shù)據(jù)集中能迅速針對(duì)病害圖像對(duì)應(yīng)已經(jīng)學(xué)習(xí)到的特征，完成番茄葉病的識(shí)別。由圖14和圖15可知，相比于沒(méi)有使用滑動(dòng)平均算法的模型，EMA + TL + iTDist與EMA + iTDist模型識(shí)別曲線更加平滑與健壯，在PlantVillage番茄葉片數(shù)據(jù)集訓(xùn)練精度曲線中，雖然在前期EMA + 與iTDist沒(méi)有TL+iTDist與iTDist模型收斂速度快，但在30輪訓(xùn)練迭代之后EMA + iTDist開(kāi)始收斂，在后期超過(guò)TL+iTDist與iTDist模型。在PlantVillage數(shù)據(jù)集中模型識(shí)別準(zhǔn)確率、平均準(zhǔn)確率、平均召回率、平均 F1 值與原模型iTDist相比分別提高 3.7%.3.8%.4.1%.3.9%

3結(jié)論

針對(duì)番茄病害識(shí)別模型準(zhǔn)確率不高、識(shí)別番茄葉部病害種類低等問(wèn)題，將滑動(dòng)平均指數(shù)算法和iT模型用于設(shè)計(jì)番茄葉部病害識(shí)別模型，引入遷移學(xué)習(xí)技術(shù)與自蒸餾策略。為驗(yàn)證試驗(yàn)設(shè)計(jì)方法的有效性，在PlantVillage、Dataset Tomato Leaves、PlantDoc、Tomato—Village數(shù)據(jù)集上進(jìn)行試驗(yàn)并對(duì)結(jié)果進(jìn)行分析。

1）所提出的模型在公共數(shù)據(jù)集PlantVillage中10類番茄葉病識(shí)別準(zhǔn)確率達(dá)到 99.6% 。在DatasetTomatoLeaves中6類番茄葉病數(shù)據(jù)集上的識(shí)別準(zhǔn)確率達(dá)到 98.2% 。在泛化試驗(yàn)的PlantDoc數(shù)據(jù)集中的識(shí)別準(zhǔn)確率為 97.1% ，在Tomato—Village數(shù)據(jù)集中的識(shí)別準(zhǔn)確率為 97.6% ，試驗(yàn)證明本模型具有優(yōu)秀的病害識(shí)別以及泛化能力。

2）基于改進(jìn)EMA—iT與遷移學(xué)習(xí)的番茄葉片病害識(shí)別方法為農(nóng)作物病害預(yù)警系統(tǒng)提供一種創(chuàng)新性的解決方案，為農(nóng)業(yè)智能化發(fā)展提供有力支持，促進(jìn)農(nóng)業(yè)生產(chǎn)的效率和品質(zhì)提升。

參考文獻(xiàn)

[1]陳明均，賀坦．全球蔬菜產(chǎn)業(yè)發(fā)展現(xiàn)狀[J].中國(guó)果菜，2025，45（5）：1-8.

［2］甘中祥，劉磊，李鑫，等．我國(guó)加工番茄產(chǎn)業(yè)現(xiàn)狀與發(fā)展分析[J].中國(guó)蔬菜，2025，1（6）：9-13.

［3］嚴(yán)婉榮，王寶，吉訓(xùn)聰，等.番茄病毒病種類及主要鑒定方法研究進(jìn)展[J].分子植物育種，2024，22（16）：5357－5367.

［4］譚海文，潘玲華，吳永瓊，等．2019年桂林番茄病害發(fā)生情況調(diào)查初報(bào)[J].蔬菜，2021（12）：37-40.

［5］賈少鵬，高紅菊，杭瀟．基于深度學(xué)習(xí)的農(nóng)作物病蟲(chóng)害圖像識(shí)別技術(shù)研究進(jìn)展[J].農(nóng)業(yè)機(jī)械學(xué)報(bào)，2019，50（S1）： 313-317.Jia Shaopeng，Gao Hongju，Hang Xiao． Researchprogress on image recognition technology crop pests diseases based on deep learning[J].Transactions theChinese Society for Agricultural Machinery，2019，50（S1）：313-317.

［6］王翔宇，溫皓杰，李鑫星，等．農(nóng)業(yè)主要病害檢測(cè)與預(yù)警技術(shù)研究進(jìn)展分析[J].農(nóng)業(yè)機(jī)械學(xué)報(bào)，2016，47（9）：266—277.Wang Xiangyu，Wen Haojie，Li Xinxing，et al. Researchprogress analysis mainly agricultural diseases detection early warning technologies [J]. Transactions theChinese Society for Agricultural Machinery，2Ol6，47（9）：266—277.

［7］周飛燕，金林鵬，董軍．卷積神經(jīng)網(wǎng)絡(luò)研究綜述[J]．計(jì)算機(jī)學(xué)報(bào)，2017，40（6）：1229—1251.

［8］藍(lán)金輝，王迪，申小盼．卷積神經(jīng)網(wǎng)絡(luò)在視覺(jué)圖像檢測(cè)的研究進(jìn)展[J].儀器儀表學(xué)報(bào)，2020，41（4）：167—182.

[9]Abade A，F(xiàn)erreiraPA，de Barros Vidal F.Plant diseasesrecognition on images using convolutional neural networks：A systematic review[J].Computers Electronics inAgriculture，2021，185：106125.

[10] Simonyan K，Zisserman A． Very deep convolutionalnetworks for large-scale image recognition [J]. arXivpreprint arXiv：1409.1556，2014.

[11］許景輝，邵明燁，王一琛，等．基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)玉米病害圖像識(shí)別［J」．農(nóng)業(yè)機(jī)械學(xué)報(bào)，2020，51（2）：230-236，253.Xu Jinghui，Shao Mingye，WangYichen，et al.Recognition corn leaf spot rust based on transferlearningwithconvolutionalneuralnetwork[J].Transactions the Chinese Society for AgriculturalMachinery，2020，51（2）：230—236，253.

［12］王春山，趙春江，吳華瑞，等．采用雙模態(tài)聯(lián)合表征學(xué)習(xí)方法識(shí)別作物病害[J].農(nóng)業(yè)工程學(xué)報(bào)，2021，37（11）：180—188.Wang Chunshan，Zhao Chunjiang，Wu Huarui，et al.Recognizing crop diseases using bimodal joint representationlearning [J]. Transactions the Chinese SocietyAgricultural Engineering，2021，37（11）：180-188.

[13］劉斌，徐皓瑋，李承澤，等．基于快照集成卷積神經(jīng)網(wǎng)絡(luò)的蘋果葉部病害程度識(shí)別[J]．農(nóng)業(yè)機(jī)械學(xué)報(bào)，2022，53（6）：286-294.Liu Bin，Xu Haowei，Li Chengze，et al．Apple leafdisease identification method based on snapshot ensembleCNN[J]. Transactions the Chinese Society forAgricultural Machinery，2022，53（6）： 286-294.

[14］胡志偉，楊華，黃濟(jì)民，等.基于注意力殘差機(jī)制的細(xì)粒度番茄病害識(shí)別[J].華南農(nóng)業(yè)大學(xué)報(bào)，2019，40（6）：124—132.

[15]Huang G，Liu Z，Van r Maaten L，et al．nselyconnected convolutional networks [C]. Proceedings theIEEE Conference on Computer Vision PatternRecognition，2017： 4700—4708.

[16] Zhong Y， Zhao M. Research on deep learning in apple leafdisease recognition [J]. Computers Electronics inAgriculture，2020，168：105146.

［17］姜紅花，楊祥海，丁睿柔，等．基于改進(jìn)ResNet18的蘋果葉部病害多分類算法研究［J]．農(nóng)業(yè)機(jī)械學(xué)報(bào)，2023，54（4）：295-303.Jiang Honghua，Yang Xianghai，Ding Ruirou，et al.Identification apple leaf diseases based on improvedResNetl8[J].Transactions the Chinese Society forAgricultural Machinery，2023，54（4）：295-303.

[18］劉敏，周麗．基于多尺度特征融合網(wǎng)絡(luò)的蘋果病害葉片檢測(cè)[J].中國(guó)農(nóng)機(jī)化學(xué)報(bào)，2023，44（8）：184—190.Liu Min，Zhou Li. Apple disease leaf detection based onmulti scale feature fusion network[J]. Journal ChineseAgriculturalMechanization，2023，44（8）：184—190.

[19］張寧，吳華瑞，韓笑，等．基于多尺度和注意力機(jī)制的番茄病害識(shí)別方法[J]．浙江農(nóng)業(yè)學(xué)報(bào)，2021，33（7）：1329-1338.

[20]王志強(qiáng)，于雪瑩，楊曉婧，等．基于WGAN和MCA一MobileNet的番茄葉片病害識(shí)別［J]．農(nóng)業(yè)機(jī)械學(xué)報(bào)，2023，54（5）：244—252.

[21]馬麗，周巧黎，趙麗亞，等．基于深度學(xué)習(xí)的番茄葉片病害分類識(shí)別研究[J].中國(guó)農(nóng)機(jī)化學(xué)報(bào)，2023，44（7）：187—193，206.MaLi，Zhou Qiaoli，Zhao Liya，etal.Classification andrecognition of tomato leaf diseases based on deeplearning[J].JournalofChineseAgriculturalMechanization，2023，44（7）：187—193，206.

[22]DhanalakshmiR，BalakrishnanK，Sinha BB，etal.Tomato leaf disease identification by modified inceptionbased sequential convolution neural networks [J]. TheImagingScience Journal，2023，71（5）：408-424.

[23］鄭一力，張露．基于遷移學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)植物葉片圖像識(shí)別方法[J].農(nóng)業(yè)機(jī)械學(xué)報(bào)，2018，49（S1）：354-359.

[24］陳聰，于嘯，宮琪．基于改進(jìn)殘差網(wǎng)絡(luò)的蘋果葉片病害識(shí)別研究[J].河南農(nóng)業(yè)科學(xué)，2023，52（4）：152—161.

[25]牛學(xué)德，高丙朋，南新元，等．基于改進(jìn)DenseNet卷積神經(jīng)網(wǎng)絡(luò)的番茄葉片病害檢測(cè)[J].江蘇農(nóng)業(yè)學(xué)報(bào)，2022，38（1）： 129—134.

[26] Dosovitskiy A，Beyer L，Kolesnikov A，et al. An image is worth 16×16 words： Transformers for image recognition at scale[J]. arXiv preprint arXiv： 2010.11929，2020.

[27]Touvron H，Cord M，Douze M，et al．Training data-efficient image transformers amp;.distilation through attention [C]. International Conference onMachine Learning PMLR，2021： 10347—10357.

[28]Hinton G，Vinyals O，Dean J. Distilling the knowledge in a neural network[J]．a(chǎn)rXiv preprint arXiv：1503.02531，2015.

[29] Zhang L，Song J，Gao A，et al. Be your own teacher： Improve the performance of convolutional neural networks via self-distillation [C].Proceedings of the IEEE/CVF International Conference on Computer Vision， 2019： 3713-3722.

[30] Schuler J P S，Romani S，Abdel-Nasser M，et al. Color-aware two-branch DCNN for eficient plant disease classification[C].Mendel，2022，28（1）：55-62.