基于遷移學習和輕量級卷積神經網絡農作物病害識別

羅鳴，方睿，徐銘美，王宇

（成都信息工程大學計算機學院，成都 610225）

0 引言

水稻、小麥、玉米是世界上三種最為重要的糧食作物，與人類的生活息息相關。這三種作物在生長過程中，往往會遭受各種病害的侵擾，對其產量造成嚴重的影響［1-2］。當前農作物病害識別主要依靠當地的專業種植戶或者農業部門的專家，但由于人數有限、人工成本高、效率低等因素，往往不能在大規模區域進行病害判別［3-4］。建立一個可以在移動端進行快速、準確識別農作物病害類型的模型是非常具有現實意義的。

隨著人工智能的發展，深度學習的方法被應用于農作物病害識別當中。黃雙萍等［5］提出了深度卷積神經網絡CoogleNet 模型方法對1467 張田間采集的水稻稻穗病檢測，在驗證集上準確率最高為92%。范春林等［6］使用遷移學習的方法對16種主要的水稻病蟲害共9675張圖片進行病蟲害識別，在ResNet50 上的準確率為95.23%。王國偉等［7］采用LeNet 模型在5 種類別的玉米病害上識別平均準確率達96%。這些研究基于經典的卷積神經網絡，雖然在農作物病害識別上取得了較好的識別精度，但存在訓練出的模型大，參數量多，識別速度較慢等問題。能夠在手機上快速識別農作物病害才符合實際的需求［8］，所以本文收集了3種農作物的15種病害的圖像建立了樣本集，基于3 種輕量級卷積神經網絡和遷移學習的方法建立作物病害圖像識別模型。通過神經網絡進行圖像分類需要大量的計算機資源和圖像數據，并且花費時間長，本文使用遷移學習的方法在較大的圖像數據集上訓練好模型，通過權重遷移，在小的圖像數據集上經過短時間訓練就能達到較好的分類效果［9］。在提高精度的同時，也減少了模型訓練的時間。

其中，Shufflenet v2 是Face++ 2018 年提出的一個高效網絡模型，在Shufflenet v1分組卷積的基礎上，設計了一種新的運算，使輸入的通道數與輸出通道數保持相同，最小化了內存訪問成本［10］。MobileNet v3 是由谷歌公司2019 年推出的輕量級卷積神經網絡，分為兩個版本MobileNet_large 和MobileNet_small［11］，前者的網絡層數較后者的網絡層數更深，且MobileNet_large 在圖像分類任務上取得的效果更好［12-13］。GhostNet由華為諾亞方舟實驗室在2020年提出，構造了一種端側神經網絡，極大的減少了參數量和計算量［14］。這三個輕量級網絡在圖像分類任務上均取得了較好的效果，但使用這三個網絡在農業作物病害識別的研究上還較少。

1 材料與方法

1.1 數據集來源與處理

本文使用的農作物病害數據集包含水稻、小麥、玉米三種作物共15 種常見病害，其中6 種水稻病害，4 種小麥病害，5 種玉米病害，共計12011張圖片，作物病害類型及圖片數量如表1所示，每種類型的病害如圖1所示。

圖1 作物病害數據樣例

表1 水稻、小麥、玉米的病害類型以及圖片數量

數據集中的圖片來源主要是通過搜索引擎獲取。由于獲取的圖片尺寸大小不一，每張圖片還包含過多的冗余信息，而模型訓練時，要求輸入統一的維度和大小，因而統一將圖片轉換為了224×224 像素的大小和RGB 三通道，并將數據集按照8∶1∶1 的比例劃分為訓練集、驗證集和測試集。

1.2 研究方法

神經網絡模型的訓練通常需要較大的數據集和計算資源，而使用遷移學習，預先在大規模數據集上訓練好成熟的網絡模型，再將參數遷移到本文的圖像分類模型上，不僅可以明顯降低我們訓練模型所需的計算資源，還能在保證一定精度條件下提高模型的學習速度。本文選取輕量級卷積神經網絡Shufflenet v2 1×，MobileNet v3_large,GhostNet，首先在ImageNet 數據集上得到1000 種分類的預訓練模型。然后，進行模型遷移訓練［15-16］，刪除最后的全連接層，添加15個類的新分類器，然后使用作物病害數據集訓練這個新的分類器，從而得到農作物病害識別的模型。

遷移學習通常分為特征選擇遷移、特征映射遷移和權重遷移三種方式，本文的研究使用的是基于權重的遷移學習，基于權重的遷移學習通常采用的是凍結預訓練網絡的所有層，然后逐步解凍靠近最后一層的部分卷積層，其余層的權重直接使用，重新訓練未凍結的卷積層參數和分類器［17］。由于實驗所用到的網絡均為輕量級卷積神經網絡，網絡模型的參數量比較少，所以實驗不凍結任何層，每個網絡中的所有參數均進行訓練［18］。

ShuffleNet v1 是在殘差單元上進行的改進，將部分1×1 的卷積替換為分組卷積，模型基本結構如圖1 所示，ShuffleNet v2 在此基礎上提出了channel split 這種新的運算，將輸入的特征通道分為了兩部分，每個分支替代原來的分組卷積，減少了計算成本，而且兩個部分的輸出和輸出通道數相同。最后使用concatnate 操作進行通道數合并，從而達到了較好的分類精度。基本單元如圖2所示。

圖2 ShuffleNet v1和ShuffleNet v2基本模塊

MobileNet v2 建立在深度可分離的基礎上［14］，極大的減少了參數量和計算量，又引入了逆殘差結構來提高了網絡性能，而MobileNet v3 在MobileNet v2 的基礎上將最后平均池化層前移，并刪除了最后一個卷積層，同時也加入了Sequeze and Excitation 模塊在線性瓶頸結構的最后一層上［19］，取代了MobileNet v2 的逐點卷積，提高了模型的精度。模塊如圖3 所示。另外也將swish 函數替換為了h-swish 激活函數，提升了運行的速度。如公式（1）所示。

圖3 Sequeze and Excitation模型結構

通常訓練好的卷積神經網絡里特征圖中存在著很多相似的特征，而GhostNet 引入了殘差結構［20］，將常規的卷積分為了兩步。第一步，使用少量的卷積核生成一組特征圖，然后對生成的這一組特征圖再做一次簡單的計算生成另一組特征，再將這兩組特征串聯。第二步，使用Ghost module 對串聯的特征圖進行卷積，減少了大量的參數量［21］。Ghost module如圖4所示。

圖4 Ghost Module結構

2 實驗

本實驗使用的是ubuntu 16.04操作系統，硬件環境CPU 是R5-3600X，內存為32 GB，GPU 為NVIDIA 的1080Ti 16 G 顯卡。軟件環境為CUDA 11.0、CUDNN 8.0.5、Python 3.7、Pytorch 11.7。

2.1 實驗方法

本文使用訓練集和驗證集分別對Shufflenet v2 1×、MobileNet v3_large、GhostNet 進行遷移訓練，得到三個分類的預訓練模型，訓練的批處理數量（banch size）為64，學習率設置為0.001，一共迭代（epoch）50 次。使用Adam 算法對網絡模型進行優化。

2.2 實驗結果分析

Shufflenet v2 1×、MobileNet v3_large、Ghost-Net 模型訓練過程的準確率和loss 曲線變化如圖5所示，從折線圖中可以看出，MobileNet v3_large的準確率上升和loss 曲線的下降都變化比較快，而Shufflenet v2 1×從最開始的準確率就比另外兩個高，但在50個epoch后的準確率最低。

圖5 準確率曲線對比

圖6 損失率曲線對比

從表2 記錄了ShuffleNet v2 1×、MobileNet v3_large、GhostNet 三種模型通過遷移學習在驗證集和測試集上的準確率和模型的大小，MobileNet v3_large 在農作物病害上識別精度最高達到了99.27%，ShuffleNet v2 1×訓練的模型體積最小，僅1.21M。而使用GhostNet 訓練出的模型體積最大，分類的精度但不是最高， MobileNet v3 憑借著深度可分離卷積和SE模塊，在識別的精度和模型大小上表現的更好。

表4 基于遷移學習不同模型的性能指標

3 結語

本文針對農作物病害在移動端便捷識別的需求，建立了水稻、小麥、玉米三種農作物共15種常見病害圖片樣本數據集，并基于遷移學習的方法，輕量級卷積神經網絡模型，構建了識別準確率高，適合移動端應用的農作物病害圖像識別的模型。

通過將Shufflenet v2 1×、 MobileNet v3_large和GhostNet 這三個目前分類效果較好的輕量級卷積神經網絡遷移到作物病害數據集上，不凍結權重參數，經過較短時間的訓練，從模型的體積和識別的精度上對實驗結果進行綜合考慮［22-23］，MobileNet v3_large 模型在農作物病害上具有較好的分類效果，為后續農作物病害在移動設備上的應用提供了可靠的技術支持，本實驗與目前的基于深度學習的農作物病害識別的方法相比，不僅豐富了水稻、小麥、玉米的病害數據的種類和數量，還首次將這三個分類效果較好的輕量級卷積神經網絡應用在農作物病害識別上并取得了不錯的分類效果。

本研究建立的模型只在15種農作物病害分類任務上取得了較好的精確度，但在實際的應用場景中，作物的病害種類還有很多，并且不同種類的病害在不同時期表現出病癥可能類似，這還需要采集更多的病害信息［24］。另外數據集采集的圖像均來自于網絡，每張圖片在特征信息上還存在較多的差異［25］，在之后對模型應用到實際的識別場景中時，需要進一步擴充數據集，以提高模型的泛化能力。