基于隨機增強Swin-Tiny Transformer的玉米病害識別及應用

吳葉輝　李汝嘉　季榮彪　李亞東　孫曉海　陳嬌嬌　楊建平

摘要： 針對圖像識別中獲取全局特征的局限性及難以提升識別準確性的問題， 提出一種基于隨機增強Swin-Tiny Transformer輕量級模型的圖像識別方法. 該方法在預處理階段結合基于隨機數據增強（random data augmentation based enhancement， RDABE）算法對圖像特征進行增強， 并采用Transformer的自注意力機制， 以獲得更全面的高層視覺語義信息. 通過在玉米病害數據集上優化Swin-Tiny Transformer模型并進行參數微調， 在農業領域的玉米病害上驗證了該算法的適用性， 實現了更精確的病害檢測. 實驗結果表明， 基于隨機增強的輕量級Swin-Tiny+RDABE模型對玉米病害圖像識別準確率達93.586 7%. 在參數權重一致， 與性能優秀的輕量級Transformer、 卷積神經網絡（CNN）系列模型對比的實驗結果表明， 改進的模型準確率比Swin-Tiny Transformer，Deit3_[HT5]Small，Vit_[HT5]Small，Mobilenet_[HT5]V3_[HT5]Small，ShufflenetV2和Efficientnet_[HT5]B1_[HT5F]Pruned模型提高了1.187 7%～4.988 1%，且能迅速收斂.

關鍵詞： Swin-Tiny Transformer模型； 數據增強； 遷移學習； 玉米病害識別； 圖像分類

中圖分類號： TP391文獻標志碼： A文章編號： 1671-5489（2024）02-0381-10

Maize Disease Recognition and Application Based onRandom Augmentation Swin-Tiny Transformer

WU Yehui， LI Rujia， JI Rongbiao， LI Yadong， SUN Xiaohai， CHEN Jiaojiao， YANG Jianping

（College of Big Data， Yunnan Agricultural University， Kunming 650201， China）

Abstract： Aiming at the problems of the limitation of obtaining global features in image recognition and the difficulty in improving recognition accuracy， we proposed? an image recognition method based on the lightweight model of random augmentation Swin-Tiny Transformer.? The method combined the random data augmentation based enhancement （RDABE） algorithm to enhance image features in the preprocessing stage， and adopted the Transformers self-attention mechanism to obtain more comprehensive high-level visual semantic information. By optimizing the Swin-Tiny Transformer model and fine-tuning the parameters on a maize disease dataset， the applicability of the algorithm was verified on maize diseases in the agricultural field， and more accurate disease detection was achieved. The experimental results show that the lightweight Swin-Tiny+RDABE model based on stochastic enhancement has an accuracy of 93.586 7% for maize disease image recognition. The experimental results compared with the excellent performance lightweight Transformer and convolutional neural network （CNN） series models with consistent parameter weights show that? the accuracy of the improved model is higher than that of the? Swin-Tiny Transformer， Deit3_Small， Vit Small， Mobilenet_V3_Small， ShufflenetV2 and Efficientnet_B1_Pruned models by 1.187 7% to 4.988 1%， and can converge rapidly.

Keywords： Swin-Tiny Transformer model; data augmentation; transfer learning; maize disease recognition; image classification

圖像分類是計算機視覺領域中的一項重要任務. 近年來， 隨著卷積神經網絡（CNN）［1］在圖像分類問題中的廣泛應用和不斷發展， 涌現出了許多性能優異的卷積神經網絡模型. 例如， Krizhevsky等［2］在數據集ImageNet上提出的AlexNet模型， 以其15.3%的top5錯誤率遠超其他傳統特征提取方法， 引起了深度學習領域的廣泛關注; 陳智超等［3］改進了MobileNetv2算法并應用于垃圾圖像分類， 通過多種優化策略在自建數據集上實現了94.6%的準確率; 邵偉平等［4］提出了一種輕量化卷積神經網絡YOLO-Slim， 該模型將模型大小減小了90%， 在測試數據集VOC2007上獲得了76.42%的平均精度均值（mAP）， 識別速度為16 ms， 適用于小型圖像處理平臺. 卷積神經網絡擅長解構圖像信息和提取底層特征， 但其模型存在缺陷， 如不擅長捕捉圖像全局信息、 卷積操作感受野的局限、 梯度消失問題和信噪比下識別效果易受影響等［5］.

Transformer的出現為解決CNN的這些缺點提供了一種有效方法. Vaswani等［6］引入了Transformer架構作為一種新的序列建模方法， 對輸入序列中的全局依賴關系進行建模， 取得了在翻譯任務中優異的性能， 并在計算機視覺領域引起了廣泛關注. 而Swin Transformer技術作為其改進模型， 不僅具有全局建模能力， 還通過層級化網絡結構和移動窗口信息交互方式擴大感受范圍、 降低計算量， 適用于不同尺度目標的特征提取［7］.

隨著計算機技術的深入應用和快速發展， 機器學習已成為農作物病害識別領域的重要研究方向， 同時， 圖像識別技術的不斷成熟也促進了機器學習技術與圖像識別技術的結合越來越普及［8］. 玉米作為我國種植面積和總產量最大的糧食作物之一， 對其進行病害檢測以保障農作物產量具有重要意義［9-10］.

本文采用基于隨機數據增強的增強算法對數據集進行預處理， 然后在增強的玉米葉片病害數據集上采用遷移學習進行訓練. 在訓練過程中， 使用輕量級的Swin-Tiny Transformer模型框架進行優化， 以分析玉米病害葉片圖像的特征， 并進行鑒定.

1 隨機增強的Swin-Tiny Transformer

本文提出一種基于Swin Transformer模型中的輕量版本Swin-Tiny Transformer為骨干網絡的圖像識別模型， 該模型的結構如圖1所示.

首先， 利用基于隨機數據增強算法（random data augmentation based enhancement， RDABE）對已有數據集進行數據增強， 然后在數據集ImageNet上預先訓練的Swin Transformer圖像分類模型的tiny版本， 在經過增強后的圖像數據集上進行調整， 通過玉米病害圖像實現對其疾病分類.

該模型的總體框架包括數據預處理、 分類核心網絡和圖像預測. 與傳統卷積神經網絡模型相比， 基于隨機增強Swin-Tiny Transformer的圖像識別模型主要進行了如下優化：

1） 對玉米葉片病害圖片數據集中的訓練集在傳入后進行數據預處理和數據增強. 數據處理時， 用RDABE算法進行數據增強， 與現有方法相反， RDABE算法是在定義的范圍內隨機生成增強超參數范圍， 使得其很健壯， 不但提高了模型的泛化能力， 而且防止過度擬合到特定數據集.

2） 為得到玉米病害圖像的整體信息及上層視覺語義信息， 本文用Swin-Tiny Transformer作為分類核心網絡. 該主干網絡的核心采用類似于CNN的分層建構方法， 使用不同的下采樣比例對圖像進行下采樣. 在特征提取的整個過程中， 選擇Swin Transformer的輕量版本Tiny， 它具有較小的計算量， 但可以加強各分割模塊之間的信息聯系， 從而更好地提取玉米病害圖像的綜合病害特征， 進而能更準確地識別和劃分玉米病害的種類.

3） 通過遷移學習技術， 將預訓練的Swin-Tiny Transformer模型的權重信息遷移到改進玉米病害檢測模型中， 從而降低了對數據集大小的要求. 該技術的最大優點是在輕量級模型已經擁有較小計算量的基礎上， 進一步縮短了訓練時間并增加了玉米病害識別的準確率.

改進的Swin-Tiny Transformer玉米病害識別模型主要通過對數據預處理階段進行數據提升， 然后進行玉米病害分類識別， 并對模型權重進行調整， 從而構建了基于Swin-Tiny Transformer的玉米病害分類模型.

1.1 基于隨機數據增強的增強算法

在復雜的深度學習（DL）架構和使用依賴數據集的靜態超參數提高數據質量方面， 由于數據質量和超參數對特定數據集的過度擬合， 導致性能依舊受限［11］， 如圖2所示. 而RDABE算法是一種生成化、 數據獨立和計算高效的增強方法， 以此提高DL的植物病害數據質量. 通過提高圖像的亮度和對比度提高質量， 與現有方法相反， RDABE算法在定義的范圍內隨機生成增強超參數范圍， 使得其很健壯， 并防止過度擬合到特定數據集， 如圖3所示. 傳統RDABE算法嘗試使用直方圖均衡化方法對顏色對比度進行數據增強， 以提高圖像質量. 但實驗發現， 這種方法與顏色對比度之間的相關性較小， 且增強后的數據無法很好地突出圖像特征. 數據增強技術是數據預處理的一種重要方法， 通過使用已有的玉米病害圖像訓練樣本， 創造出更多不同風格的訓練數據， 為使經過增強后的圖像樣本更接近真實情況， 從而提升檢測的準確度并增強模型的泛化能力， RDABE算法以數據集特征為依據， 限制增強參數生成范圍， 并綜合考慮數據集的統計特征和數據增強策略， 以確保圖像在增強過程中保持語義一致性. 從而可確保數據增強過程不會對圖像的語義內容造成顯著改變， 同時提高了算法在實際應用中的可靠性和穩定性.

使用數據增強技術可增大深度學習網絡的訓練數據集， 以此處理網絡的過擬合問題和數據樣本分布不均衡的困難， 因為其直接影響模型的泛化能力和魯棒性. 單樣本數據增強和多樣本數據增強是兩種最常用的數據增強方法. 其中， 單樣本數據增強方法可基于顏色空間變換或基于幾何變換， 本文使用的RDABE算法即為前者. 相反， 多樣本數據增強方法則不是對單個樣本進行變換， 而是使用多個圖像樣本生成新的樣本. 該方法通過將離散的樣本點連續化擬合真實樣本分布.

本文引入RDABE數據增強算法對玉米病害數據進行處理， 以提高玉米病害識別模型的泛化能力. RDABE是一種計算高效的基于隨機數據增強的增強方法， 除數據的選擇是隨機的， 增強超參數同樣不是根據數據手動選擇的， 因此增強方法不會過度擬合特定數據集. 通過RDABE算法可以改進網絡架構的泛化能力， 并提高網絡模型對圖像樣本識別的魯棒性， 與其他先進的算法相比， RDABE算法在準確性和執行時間方面都性能優異. RDABE算法的主要原理如下：

1） 設f（i）是輸入圖像， g（i）是增強后的圖像， 則

g（i）=af（i）+β，（1）

其中α和β為增益和偏置， 用這些參數調節對比度（α）和亮度（β）.

2） 與其他使用固定超參數進行增強并容易在特定數據集上過度擬合的增強方法不同， RDABE算法從定義的集合中隨機選擇α和β的值. 為防止過度擬合， 使用的集合由α和β的正負值組成， 這些值從該集合中隨機選取， 然后用于增強數據.

1.2 基于遷移學習的Swin-Tiny Transformer模型

遷移學習能使模型在訓練初期就達到較好的性能， 從而縮短訓練時間并降低計算資源的使用量. 此外， 遷移學習還有助于提高訓練后模型的魯棒性和泛化能力， 使其性能更好［12］.

Transformer模型［6］主要用于自然語言處理. 由于該模型的優異性能， 研究人員開始嘗試將Transformer應用于計算機視覺領域［13］， 并取得了很好的效果. Vision Transformer在計算機視覺領域性能優異， 但其參數量較大.

文獻［14］提出的Swin Transformer展現了一種滑動窗口自注意力機制， 能在局部窗口上執行自注意力機制（self-attention）， 從而有效降低了參數量， 并且結合了卷積神經網絡的思想， 采用層次化構建方式堆疊Transformer模型， 可同時提取全局特征并高效并行計算， 而CNN只能提取局部特征. Swin Transformer分層特征圖如圖4所示.

Swin Transformer算法通過采用滑動窗口操作計算自注意力和層次化構建方式建立模型， 允許跨窗口連接， 以降低模型的復雜度， 提高模型的運行效率， 從而極大減少了模型的參數量， 更好地實現輕量化目標. Swin Transfomer模型組成： 窗口多頭自注意力層（W-MSA）、 滑動窗口多頭自注意力層 （SW-MSA）、 標準化層（LN）和多層感知機（MLP）.

在對玉米病害圖片進行訓練時， Swin-Tiny Transformer模型采用以下步驟進行圖像處理： 首先， 使用Patch Partition模塊將圖片進行分塊處理， 規定每個Patch為4×4相鄰的像素， 并在channel方向進行展平； 其次， 圖像通過4個Stage構建特征圖， 在每個Stage中， 圖像先經過Linear Embedding層， 然后剩下的3個Stage都要經過Patch Merging層［15］； 最后， 在圖像通過第4個Stage后， 會經過Layer Norm層、 全局池化層以及全連接層的處理， 最終得到分類后的圖像［16］. Swin-Tiny Transformer網絡架構的結構如圖1所示.

全局自注意力的計算復雜度以平方倍提升， 特別是在進行CV領域的下游任務中處理非常大尺寸的圖片時， 其計算復雜度非常高. 針對該問題， Swin Transformer采用了窗口計算自注意力的方法. 在每個窗口內進行自注意力計算， 但窗口之間無法進行信息傳遞， 因此提出了平移窗口多頭自注意力機制（SW-MSA）模塊， 使窗口之間能進行信息交流［7］， 如圖5所示， 從而有效解決了不同窗口之間無法進行信息交流的問題.

1.3 模型評估

為科學衡量本文模型在玉米植株病害分類任務中的性能， 采用常用的經典性能衡量標準， 如準確率、 精確度、 召回率、 F1分數和混淆矩陣進行性能分析， 計算公式分別為準確率

F1分數=2×TP/2×TP+FP+FN，（5）其中： TP表示準確預測為玉米病害葉片樣本的數量， 也稱為真陽性樣本數量； TN表示被正確預測為健康玉米葉片樣本的數量， 也稱為真陰性樣本數量； FP表示被錯誤預測為玉米病害葉片樣本的數量， 也稱為假陽性樣本數量； FN表示被錯誤預測為健康玉米葉片樣本的數量， 也稱為假陰性樣本數量.

2 實 驗

2.1 圖像數據集

本文使用源于Kaggle的公開可用的玉米葉片病害數據集［17］， 該圖像數據集是用流行數據集PlantVillage和PlantDoc制作的［18］， 在數據集的形成過程中， 刪除了一些無用的圖像. 數據集共包含4個類別圖像集合， 共4 185張玉米葉片圖像， 其中健康玉米葉片圖像1 162張， 感染枯萎病的玉米葉片病害圖像1 146張、 感染銹病的玉米葉片病害圖像1 306張、 感染灰斑病的玉米葉片病害圖像574張. 玉米葉片病害圖像數據樣例如圖6所示. 其中： 第一列為兩張感染枯萎病的葉子， 葉端出現萎蔫、 卷曲， 逐漸向下蔓延， 整個葉片逐漸干枯， 并出現褐色斑點和缺失區域； 第二列為兩張感染銹病的葉子， 出現黃色或橙色的斑點或斑塊， 這些斑點或斑塊周圍有明顯的紅色或棕色邊緣； 第三列為兩張感染灰斑病的葉子， 出現小而圓的灰色或灰白色斑點， 斑點周圍邊緣會出現黃色或褐色的區域； 第四列為兩張健康的玉米葉片， 呈現深綠色， 葉片質地柔軟而富有光澤， 整體看起來較飽滿. 玉米數據集的圖像類別以及圖像數量列于表1.

數據集處理采用Python將數據集中的每個子目錄作為一個類別， 使用隨機采樣的方式將每個類別的圖像劃分為訓練集、 驗證集和測試集， 并將它們的路徑和標簽存儲在相應的列表中， 生成類別名稱和對應的數字索引存儲于JSON文件中.

2.2 實驗設備

輕量級模型需要更少的內存和計算資源， 更低的成本， 更容易部署在各種設備上， 為使實驗研究更具對比性， 所有對比模型都選擇輕量級版本. 其中3個輕量級卷積神經網絡模型分別為Mobilenet_V3_Small，ShufflenetV2，Efficientnet_B1_Pruned； 3個輕量級Transformer系列模型為Deit3_Small，Vit_Small，Swin-Tiny.

實驗使用的硬件設備是一塊RTX 3090顯卡， 軟件使用jupyter，Pytorch深度學習框架， torch-1.9.1+cu111，torchvision-0.10.1+cu111構建所需的訓練環境.

實驗過程中， 將玉米病害數據集中的全部圖像進行調整， 以符合所選模型框架對圖像尺寸的要求， 將其像素大小轉換為224×224， 以便在輸入模型進行計算時使用. 按圖像類別的70%，20%，10%， 將其劃分為訓練集、 驗證集和測試集， 并完成了基于遷移學習的后續模型訓練對比實驗. 在進行模型訓練時， 訓練集和驗證集被用來賦予模型的參數值， 而測試集則用于測試經訓練后的模型并對其性能進行評估. 先加入RDABE算法作為數據增強技術， 進行與玉米病害相關的數據增強， 然后將其輸入模型進行訓練， 在進行訓練數據前完成該過程. 采用遷移學習技術對模型進行訓練， 利用預先在數據集ImageNet上訓練的權重值， 從而顯著提升了模型速度和性能.

為確保對比公平， 本文對每個模型的訓練數據都單獨分析并多次實驗調整， 以確保每個模型的權重參數都被優化到其性能的最佳狀態. 在使用這些參數計算測試模型時， 對準確率、 精確度、 召回率和F1分數進行考察， 并且保存測試數據的模型預測結果及相應的標簽， 然后用其繪制混淆矩陣. 其Swin-Tiny Transformer模型訓練超參數設置如下： 優化器采用SGD， 損失函數為Cross-Entropy Loss， epochs為100， 批量大小為64， 學習率設為0.001， 權重衰減為0.000 1.

2.3 實驗結果分析

為評估深度學習訓練模型在玉米病害分類識別任務中的性能， 本文選擇表現優秀的7個模型進行基于遷移學習的實驗訓練和測試. 其中包括3個基于CNN架構的輕量級版本， 分別為Mobilenet_V3_Small，ShufflenetV2和Efficientnet_B1_Pruned， 以及3個基于Transformer架構的輕量級版本， 分別為Deit3_Small，Vit_Small和Swin-Tiny， 此外還有經過提升的Swin-Tiny+RDABE模型. 使用Pytorch框架對這7個模型進行構建， 并進行基于遷移學習實驗訓練和測試， 從而全面評估這些模型在玉米病害圖像分類識別任務中的分類性能.

圖7和圖8為本文各模型在玉米病害數據集訓練過程中的結果. 這些曲線記錄了每個訓練周期的測試集準確率和訓練集損失， 從而有助于評估每個模型的訓練情況. 通過這些記錄， 可確保所有模型都能在收斂狀態下完成訓練. 由圖7和圖8可見， 所有模型都是基于遷移學習技術， 并且都采用了輕量級版本的前提下， Swin-Tiny Transformer模型在準確率和損失值上都取得了比其他模型更優的結果.

本文改進的Swin-Tiny+RDABE模型相比原Swin-Tiny模型， 無論是在測試集準確率還是在訓練集損失中， 都獲得了更優的訓練結果. Swin-Tiny Transformer訓練對比曲線如圖9和圖10所示.

在輕量級模型中無論是CNN系列還是Transformer系列都有較好性能， 其中性能最佳的是Swin-Tiny Transformer模型， 準確率高達92.399%， F1分數也達到89.915 7%， 相比Mobilenet_V3_Small，ShufflenetV2，Efficientnet_B1_Pruned，Deit3_Small，Vit_Small模型具有顯著優勢. 不同模型實驗結果參數指標列于表2.

相對于原始的玉米病害數據集， 本文比較了使用和不使用RDABE增強算法的Swin-Tiny Transformer模型的效果. 結果表明， 使用RDABE算法的模型在準確率、 精確度、 召回率和F1分數等指標上都取得了相對較好的改進， 準確率達到93.586 7%， 約提升1.2%， F1分數達到92.316 6%， 約提升2.4%， 證明在加入了RDABE算法后的Swin-Tiny+RDABE模型提取特征效果優于之前. 因此， 通過RDABE增強算法改進了網絡架構的泛化能力， 防止網絡模型過擬合， 并提升了網絡模型對圖像樣本識別的魯棒性.

使用輕量級模型旨在希望擁有更快的訓練速度、 更低的計算資源、 更好的模型泛化能力、 更適合實時應用， 更容易部署和維護. 表3列出了模型的計算量（PLOPs）和參數量（parameter）. 由表3可見， 基于隨機增強的Swin-Tiny+RDABE模型的計算量和參數量與提升前沒有變化， 并且能提升各項指標. 相比其他模型， Swin-Tiny+RDABE模型在計算量上有一定優勢， 在參數量上有更多的自由度和靈活性， 可以應對更多的數據變化和挑戰.

圖11為本文RDABE算法通過訓練得到的混淆矩陣在Swin-Tiny Transformer模型使用前后的預測識別結果. 由圖11可見， 使用RDABE算法的模型在玉米病害類別銹病（Common_rust）的漏報和誤差上性能明顯改善. 因此， 可證明RDABE算法在提高Swin-Tiny Transformer模型性能方面有效.

2.4 小程序部署應用

為更快速、 準確地識別玉米病害并提供更直觀的體驗， 本文設計了一個玉米病害智能識別小程序系統， 該系統集成了本文訓練的玉米病害識別模型.

在小程序開發中， 使用 HBuilderX 進行前端開發， 包括創建頁面、 組件和樣式， 并編寫業務邏輯. 同時， 在 PyCharm 中進行服務端開發， 編寫服務器端的業務邏輯、 數據處理和接口邏輯， 并進行本地測試和調試. 使用微信開發者工具進行調試和發布， 包括創建小程序并配置基本信息， 如名稱、 AppID、 服務器地址等. 完成開發后， 將前端和后端代碼上傳到微信服務器， 并進行代碼審核和發布. 通過微信開發者工具中的真機調試功能， 在iPhone 12 mini手機上進行測試和調試， 如圖12所示.

玉米病害識別小程序的主要功能是： 通過上傳本地圖庫或現場拍攝的玉米葉片圖像， 利用Swin-Tiny+RDABE模型進行圖像檢測， 以預測該圖像可能屬于哪種玉米病害. 一旦完成上傳檢測， 該小程序會立即提供關于該圖像所屬病害的名稱、 可能性以及相關特點描述信息. 因Swin-Tiny+RDABE模型是一種輕量級模型， 故可以方便地進行部署和應用. 目前， 該小程序已經完成制作并應用， 該算法模型的使用與部署取得了較好成果.

綜上所述， 為解決在圖像識別過程中提取全局特征的局限性， 并更好地捕捉整體信息， 本文提出了一種使用遷移學習基于隨機增強的輕量級Swin-Tiny Transformer模型. 通過在農業領域的玉米病害圖像檢測驗證， 證明了該算法的適用性. 該方法采用了基于隨機數據增強的RDABE算法增強玉米葉片數據集， 并對Swin-Tiny Transformer網絡模型進行微調. 實驗結果表明， 輕量級Transformer系列模型與其他優秀的輕量級CNN系列模型相比， Swin-Tiny Transformer模型在準確率、 精確度、 召回率和F1分數方面性能更優. 在本文模型使用RDABE數據增強算法時， 準確率可達93.586 7%， 相比于不使用該算法時有明顯提高. 此外， 該方法采用了輕量級設計， 并已成功應用于微信小程序中取得了較好的效果， 實現了實際的應用價值.

參考文獻

［1］LECUN Y， BOTOU L， BENGIO Y， et al. Gradient-Based Learning Applied to Document Recognition ［J］. Procedings of the IEEE， 1998， 86（11）： 2278-2324.

［2］KRIZHEVSKY A， SUTSKEVER I， HINTON G. ImageNet Classification with Deep Convolutional Neural Networks ［J］. Communications of the ACM， 2017， 60（6）： 84-90.

［3］陳智超， 焦海寧， 楊杰， 等. 基于改進MobileNet V2的垃圾圖像分類算法 ［J］. 浙江大學學報（工學版）， 2021， 55（8）： 1490-1499. （CHEN Z C， JIAO H N， YANG J， et al. Garbage Image Classification Algorithm Based on Improved MobileNet V2 ［J］. Journal of Zhejiang University （Engineering Science）， 55（8）： 1490-1499.）

［4］邵偉平， 王興， 曹昭睿， 等. 基于MobileNet與YOLOv3的輕量化卷積神經網絡設計 ［J］. 計算機應用， 2020， 40（增刊1）： 8-13. （SHAO W P， WANG X， CAO Z R， et al. Design of Lightweight Convolutional Neural Network Based on MobileNet and YOLOv3 ［J］.? Computer Applications， 2020， 40（Suppl 1）： 8-13.）

［5］蘇琮智， 楊承志， 邴雨晨， 等. 基于CNN-Swin Transformer Network的LPI雷達信號識別 ［J］. 現代雷達， 2021， 43（2）： 1-9. （SU C Z， YANG C Z， BING Y C， et al. LPI Radar Signal Recognition Based on CNN-Swin Transformer Network ［J］. Modern Radar， 2021， 43（2）： 1-9.）

［6］VASWANI A， SHAZEER N， PARMAR N， et al. Attention Is All You Need ［J］. Advances in Neural Information Processing Systems， 2017， 30（12）： 5998-6008.

［7］高家軍， 張旭， 郭穎， 等. 融合Swin Transformer的蟲害圖像實例分割優化方法研究 ［J］. 南京林業大學學報（自然科學版）， 2021， 45（5）： 1-10. （GAO J J， ZHANG X， GUO Y， et al. Research on Optimization Method for Insect Image Instance Segmentation Based on Swin Transformer Fusion ［J］. Journal of Nanjing Forestry University （Natural Sciences Edition）， 2021， 45（5）： 1-10.）

［8］何前， 郭峰林， 方皓正， 等. 基于改進LeNet-5模型的玉米病害識別 ［J］. 江蘇農業科學， 2022， 50（20）： 35-41. （HE Q， GUO F L， FANG H Z， et al. Corn Disease Recognition Based on an Improved LeNet-5 Model ［J］. Jiangsu Agricultural Sciences， 2022， 50（20）： 35-41.）

［9］鄧朋飛， 官錚， 王宇陽， 等. 基于遷移學習和模型壓縮的玉米病害識別方法 ［J］. 計算機科學， 2022， 49（增刊2）： 444-449. （DENG P F， GUAN Z， WANG Y Y， et al. Corn Disease Recognition Method Based on Transfer Learning and Model Compression ［J］. Journal of Computer Science， 2022， 49（Suppl 2）： 444-449.）

［10］熊夢園， 詹煒， 桂連友， 等. 基于 ResNet 模型的玉米葉片病害檢測與識別 ［J］. 江蘇農業科學， 2021， 49（12）： 1-8. （XIONG M Y， ZHAN W， GUI L Y， et al. Detection and Recognition of Maize Leaf Diseases Based on ResNet Model ［J］. Jiangsu Agricultural Sciences， 2021， 49（12）： 1-8.）

［11］ALEEM S， KUMAR T， LITTLE S， et al. Random Data Augmentation Based Enhancement： A Generalized Enhancement Approach for Medical Datasets ［EB/OL］. （2022-10-03）［2023-01-10］. https：//arxiv.org/abs/2210.00824.

［12］張瑞青， 李張威， 郝建軍， 等. 基于遷移學習的卷積神經網絡花生莢果等級圖像識別 ［J］. 農業工程學報， 2020， 36（23）： 171-180. （ZHANG R Q， LI Z W， HAO J J， et al. Peanut Pod Grading Image Recognition Based on Transfer Learning Using Convolutional Neural Networks ［J］. Transactions of the Chinese Society of Agricultural Engineering， 2020， 36（23）： 171-180.）

［13］高洪波， 殷俊爽， 李長英. 基于Swin Transformer和CNN模型融合的包裝食品目標檢測方法研究 ［C］//2022年中國家用電器技術大會論文集. 北京： 《電器》雜志社， 2023： 52-57. （GAO H B， YIN J S， LI C Y. Research on Object Detection Method for Packaged Food Based on Fusion of Swin Transformer and CNN Model ［C］//Proceedings of the 2022 China Household Electrical Appliances Technical Conference. Beijing： Electric Journal Press， 2023： 52-57.）

［14］LIU Z， LIN Y T， CAO Y， et al. Swin Transformer： Hierarchical Vision Transformer Using Shifted Windows ［EB/OL］. （2021-08-17）［2023-01-15］. https：//arxiv.org/abs/2103.14030.

［15］祝冰艷， 陳志華， 盛斌. 基于感知增強Swin Transformer的遙感圖像檢測 ［J］. 計算機工程， 2021， 47（8）： 1-9. （ZHU B Y， CHEN Z H， SHENG B. Remote Sensing Image Detection Based on Perception-Enhanced Swin Transformer ［J］. Computer Engineering， 2021， 47（8）： 1-9.）

［16］鄭楚偉， 林輝. 基于Swin Transformer的YOLOv5安全帽佩戴檢測方法 ［J］. 計算機測量與控制， 2023， 31（3）： 15-21. （ZHENG C W， LIN H. YOLOv5 Helmet Detection Method Based on Swin Transformer ［J］. Computer Measurement & Control， 2023， 31（3）： 15-21.）

［17］SINGH D， JAIN N， JAIN P， et al. PlantDoc： A Dataset for Visual Plant Disease Detection ［EB/OL］. （2019-11-23）［2023-02-01］. https：//arxiv.org/abs/1911.10317.

［18］GEETHARAMANI G， PANDIAN A. Identification of Plant Leaf Diseases Using a 9-Layer Deep Convolutional Neural Network ［J］. Computer & Electrical Engineering， 2019， 76： 323-338.

（責任編輯： 韓 嘯）

收稿日期： 2023-04-24.

第一作者簡介： 吳葉輝（1999—）， 男， 漢族， 碩士研究生， 從事計算機視覺和自然語言處理的研究， E-mail： 1617899733@qq.com.

通信作者簡介： 楊建平（1977—）， 男， 漢族， 博士， 教授， 從事信息技術的研究， E-mail： yangjpyn@163.com.

基金項目： 云南省重大科技專項基金（批準號： 202302AE09002003）.