基于卷積神經網絡的輕量級水稻葉片病害識別模型

摘要：水稻病害一直是影響水稻產量的重要因素之一，為了快速、準確地檢測水稻病害，本研究提出了一種基于卷積神經網絡的輕量級水稻葉片病害識別模型。首先，從參數量的角度對注意力機制進行改進，得到輕量級注意力機制模塊，對水稻葉片病害特征圖中的潛在注意力信息進行深度挖掘；其次，使用深度可分離卷積代替部分標準卷積，進一步降低模型的參數量；最后，為了提高模型的泛化能力，讓模型學習過程更快、更穩定，采用了自帶內部歸一化屬性的擴展型指數線性單元函數（SELU）與外部組歸一化模塊相結合的方法。通過在公共數據集中進行驗證，本研究構建模型的平均精度最高（0.990 0），模型在參數量和平均單次迭代時間方面也有一定優勢，與其他模型相比，具有相對較好的性能。

關鍵詞：水稻病害；組歸一化；激活函數；深度可分離卷積；注意力機制

中圖分類號：S511文獻標識碼：A文章編號：1000-4440（2024）02-0312-08

A lightweight rice leaf disease recognition model based on convolutional neural network

LU Yu1，2，YU Jing-hu1，2，ZHU Xing-fei1，2，ZHANG Bu-fan1，2

（1.School of Mechanical Engineering， Jiangnan University， Wuxi 214122， China;2.Jiangsu Key Laboratory of Advanced Food Manufacturing Equipment amp; Technology， Wuxi 214122， China）

Abstract：Rice diseases have always been one of the important factors affecting rice yield. In order to quickly and accurately detect rice diseases， this study proposed a lightweight rice leaf disease recognition model based on convolutional neural network. Firstly， from the perspective of the number of parameters， the attention mechanism was improved to obtain a lightweight attention mechanism module， and the potential attention information in the rice leaf disease feature map was deeply mined. Secondly， the depthwise separable convolution was used to replace some standard convolutions to further reduce the parameters of the model. Finally， in order to improve the generalization ability and make the model learning process faster and more stable， a method of combining the scaled exponential linear unit （SELU） activation function with internal normalization attribute and the external group normalization module was adopted. By verifying in the public data set， the average accuracy of the model constructed in this study was the highest （0.990 0）. The model also had certain advantages in terms of parameter quantity and average single iteration time. Compared with other models， it had relatively higher performance.

Key words：rice disease;group normalization;activation functions;depthwise separable convolution;attention mechanism

水稻病害作為除天氣因素外對水稻產量影響最大的因素之一，長久以來備受人們關注[1]。快速、準確的水稻病害檢測技術對于水稻的生長管理具有重要意義。為了提高植物病害診斷速度以及診斷結果的準確性，研究人員基于機器學習算法［如隨機森林法、支持向量機法（SVM）］對自動化植物病害診斷進行了大量的研究[2-4]。王獻鋒等[5]通過提取葉片病灶的顏色、形狀、質地特征，并結合環境信息開發了一種判別分析方法來識別黃瓜病灶。Zhang等[6]提取了病灶分割后的植物葉片病灶顏色、形狀、紋理特征，然后利用近鄰算法（K-nearest neighbor，KNN）分類器對5種類型的玉米葉片進行分類識別等。Xie等[7]提出了一種具有多級學習特征的田間作物害蟲自動分類器。Sankaran等[8]開發了植物健康監測傳感器系統，幫助監測田間條件下的植物健康和疾病狀況。Li等[9]提出了一種改進的用于農業作物害蟲自動定位和計數的深度學習管道，該管道集成了Zeiler、Fergus模型的卷積神經網絡（CNN）和非極大值抑制（NMS）的區域提議網絡（RPN）。孟亮等[10]針對CNN模型存在訓練參數量大而無法應用于硬件條件受限的場合這一問題，提出一種輕量級CNN農作物病害識別模型，能夠在保證模型識別準確率的情況下簡化模型結構，擴大模型的適用場景。

雖然深度學習在農業機械領域應用越來越廣泛，在水稻葉片病害識別方面的應用中取得了優異的成果，但在網絡模型性能方面依舊存在改進空間。為了縮短模型訓練收斂時間，減少當前大多數網絡模型的參數量，提高識別精度，本研究擬構建一種新的輕量級水稻葉片病害識別模型，通過對卷積注意力機制模塊（CBAM）進行改進，得到輕量級Conv_L2_CBAM模塊進行特征的重新校準，從而對卷積神經網絡通道中的特征進行加權，采用深度可分離卷積替換標準卷積，進一步降低神經網絡模型的計算量和參數量，此外使用擴展型指數線性單元函數（SELU）以及外部組歸一化（GN）[11]模塊提高神經網絡的收斂性能，以期為快速、準確地檢測水稻病害提供技術支持。

1材料與方法

1.1基于深度學習的水稻病害識別模型構建

1.1.1輕量級注意力機制模塊設計使用注意力機制模塊的深度學習模型通常能在圖像識別分類任務上取得更加理想的處理效果。CBAM[12]作為一種常在卷積神經網絡中引入的注意力機制模塊，它在多種視覺任務中皆表現出優良的性能，它包含通道注意力模塊（CAM）和空間注意力模塊（SAM）2個子模塊，分別用于進行通道和空間上的注意力操作，這樣能夠在節約參數和減少計算開銷的基礎上，保證其能夠作為即插即用的模塊集成到現有的網絡架構中的同時不會對神經網絡的整體復雜性產生影響。為了幫助我們的水稻葉片病害識別模型更有效地利用計算資源，達到輕量化的目的，我們將注意力機制模塊引入到水稻葉片病害模型檢測中并改進，即使用L2池化操作替換CBAM模塊中的最大池化，結構如圖1所示。

L2Pool表示L2池化；AvgPool表示平均池化；Shared MLP表示相同特征的轉換和提取；Channel Attention表示通道注意力。

相較于最大池化，L2池化的表現更好，可以提高模型的分類準確率。這是因為L2池化的運算過程比最大池化更加平緩，將最大池化替換為L2池化可以消除水稻葉片病害特征中的一些不必要的邊緣信息，從而使水稻葉片病害識別模型可以更好地學習任務的關鍵特征，避免一些過擬合情況的發生。

此外，為了使使用注意力機制模塊的神經網絡模型達到輕量化的目的，需要盡可能降低模型的參數量，本研究提出一種在使用L2池化操作的基礎上，使用卷積層代替全連接層來進行改良的Conv_L2_CBAM注意力機制模塊，結構如圖2所示。

Channel Attention表示通道注意力；Spatial Attention表示空間注意力；L2Pool表示L2池化；AvgPool表示平均池化；Shared MLP表示相同特征的轉換和提取；SELU：擴展型指數線性單元函數；Conv 1d表示一維卷積；Conv 2d表示二維卷積；sigmoid表示S型激活函數；Concat表示連接；Reshape表示重塑。

由于全連接層存在大量參數，因此需要更多的計算能力和存儲空間，與卷積層相比，會增加訓練和推理的時間以及資源成本。Conv_L2_CBAM模塊結構參照CBAM結構由通道注意力模塊和空間注意力模塊2個部分組成。Conv_L2_CBAM模塊與CBAM模塊的區別在于在通道注意力模塊中用了2個卷積層來替換全連接層，并在卷積層之間添加非線性激活函數Scaled ELU。與CBAM模塊相比，Conv_L2_CBAM模塊的優點在于卷積層的參數僅與輸入和輸出的尺寸有關，而與卷積核的尺寸無關，因此可以大大減少參數量，從而降低模型的容量，避免過擬合問題，并且卷積層主要依賴矩陣乘法加速，能夠顯著降低計算需要的時間和資源。

1.1.2輕量級卷積模塊設計標準卷積運算所涉及的參數量較多，計算量大，而Howard等[13]提出的深度可分離卷積算法為模型的輕量化提供了新的方法。為了降低水稻葉片病害識別模型的計算量，本研究選用深度可分離卷積（DWConv）代替原卷積神經網絡中的標準卷積，使模型獲得更小體積的同時，還能降低模型的計算量，避免了大體積模型只能在高算力的服務器中運行的缺點，方便應用于受硬件資源和算力限制的移動設備。

深度可分離卷積主要分為深度卷積和逐點卷積2個部分，具體見圖3。深度卷積是對輸入特征圖的每個通道獨立進行卷積操作，對于每個通道，都有一個單獨的卷積核，這些卷積核的大小通常較小。由于每個通道的卷積操作是獨立的，因此深度卷積可以大大減少計算量。逐點卷積是在深度卷積的基礎上進行的，它使用1×1的卷積核對深度卷積的輸出特征圖進行卷積操作。逐點卷積的目的是將深度卷積得到的特征圖進行線性組合，從而得到最終的輸出特征圖。

標準卷積參數量N的計算參照公式（1）：

N=Y×Z×D×M（1）

深度可分離卷積參數量Nd的計算參照公式（2）：

Nd= Y×Z×D+1×1×D×M（2）

標準卷積計算量C的計算參照公式（3）：

C=Y×Z×（W-Y+1）×（H-Z+1）×M×D（3）

深度可分離卷積計算量Cd的計算參照公式（4）：

Cd=Y×Z×（W-Y+1）×（H-Z+1）×D+1×1×Y×Z×D×M（4）

式中，Y為卷積核數量；Z為內核數量；D為輸入通道數；M為輸出通道數；H為輸入圖像高度；W為輸入圖像寬度。

將標準卷積與深度可分離卷積的計算公式進行比較，發現深度可分離卷積的參數量和計算量要明顯少于標準卷積。

1.1.3激活函數和歸一化算法的改進2017年，基于線性整流函數（ReLU），Klambauer等[14]提出了激活函數SELU，該激活函數可以使神經網絡自帶內部歸一化屬性。為了在消除使用ReLU的神經網絡模型所產生的神經元失活、梯度消失和梯度爆炸等問題的基礎上，加速模型的收斂，提高模型的泛化能力，本研究采用激活函數SELU代替傳統神經網絡的激活函數ReLU。

激活函數SELU方程式見公式（5）：

selu （x）=λ{xxgt;0αex-αx≤0（5）

式中，λ=1.673 263 242 354 377 284 817 042 991 671 7；α=1.050 700 987 355 480 493 419 334 985 294 6；x為神經元的輸入信號。

此外，為了降低水稻葉片病害識別模型對硬件算力的依賴，本研究采用GN代替批歸一化（BN）[15]作為神經網絡模型算法的外部歸一化模塊，GN的歸一化方式是將輸入數據在通道方向分成多個組，然后在每個組內的所有通道上計算均值和方差，這樣計算與批次大小無關，不受其約束，而BN則是在一個批次中的所有樣本的同一通道上計算均值和方差，直接對整個批次的數據進行歸一化。因此在特征捕捉方面，GN更適用于捕捉水稻葉片病害圖像的局部特征。對于不同的批次大小，GN所表現出的性能和精度都較為穩定，使算法具有更廣泛的適用性。

1.1.4水稻葉片病害識別模型構建本研究對VGG16卷積神經網絡模型結構進行修改，由以SELU作為激活函數的3個二維卷積層（Conv2d）和6個可分離卷積層（DWConv）以及改良后的輕量級CBAM模塊和GN模塊組成。通過注意力機制模塊前的卷積層對訓練圖像的特征由低到高進行自主學習，其中更深的卷積層降低了更多的特征圖分辨率，并提取更多抽象的高級特征，將GN模塊插入卷積層以改善中間層數據分布，改善模型的泛化能力，減少過擬合，提高模型的準確率，它可以幫助模型更好地捕捉目標圖像的局部特征，并且可以使模型更快地收斂。

使用改進后的CBAM系列嵌入式注意力機制模塊重新校準通道維度中的原始特征，減少訓練參數的同時優化了模型的收斂性，從而提高了模型的分類精度。本研究使用隨機梯度下降優化方法在數據集上訓練模型。改進的水稻葉片病害識別模型的網絡結構如圖4所示，主要操作流程如圖5所示。

Conv2d表示二維卷積；DWConv表示可分離卷積；SELU表示擴展型指數線性單元函數；GN表示組歸一化；FC表示全連接；CBAM表示注意力機制模塊。

1.2試驗準備

為了評估改進后的模型性能，模型各項參數經過微調測試后，所有試驗采用統一的參數，訓練輪數為50，學習率為0.000 1，批次大小為32，優化器為Adam，試驗環境的配置見表1。

所有的試驗都是由深度學習框架Tensorflow實現的。此外，以準確率作為評估網絡模型性能的指標。精度是指校正的正預測數與整個正預測數的比值，具體見公式（6）：

Accuracy=NTPNTP+NFP（6）

其中，NTP是校正的正預測數；NFP是錯誤的正預測數。

水稻葉片病害數據集制作：本研究以桑巴爾普爾大學（Sambalpur University）提供的水稻葉片病害公共數據集（http：//bcch.ahnw.gov.cn/Right.aspx）為研究對象，數據集中包含4種水稻葉片病害的5 932張圖像，即患白葉枯病水稻葉片圖像1 569張、患稻瘟病水稻葉片圖像1 455張、患褐斑病水稻葉片圖像1 597張、患東格魯病水稻葉片圖像1 311張，部分樣本如圖6所示。

由于原始數據集中存在樣本數量不平衡的問題，并且患病葉片圖像的收集是隨機的，因此，本研究對原始水稻葉片病害數據集進行數據增強的處理[16]，增加樣本的數量，降低模型對某些屬性的依賴，從而提高模型的泛化能力。本研究采用的數據增強方式包括旋轉、剪裁、平移、縮放。數據增強之后，水稻葉片病害圖像數據集包含7 054張圖像，其中6 254張圖像用于訓練集，800張圖像用于驗證集。每個疾病類別的圖像數量見表2。

2結果與分析

2.1模型消融試驗結果分析

精度作為衡量模型預測能力的指標，可以反映出模型正確預測的樣本數占總樣本數的比例。圖7顯示，使用深度可分離卷積以及組歸一化算法可以一定程度上加速算法模型的收斂，此外，Conv_L2_CBAM作為輕量級注意力機制模塊，可以進一步幫助模型更好地理解和解析水稻葉片病害特征數據，使模型注意力集中在重要的信息上，避免在不相關的信息上浪費計算資源，相較于VGG16模型，本研究提出的改進模型對水稻葉片病害識別的精度較高。

此外，為了更直觀地比較激活函數SELU對模型的影響，本研究采用感受性曲線來比較水稻葉片病害識別模型使用sigmoid、tanh、ReLU和SELU 4類不同激活函數的性能。采用感受性曲線圖（圖8）來考察模型的性能，可以更直觀地看到在任意界限值時模型對水稻葉片病害的識別能力。當感受性曲線越靠近左上角，感受性曲線同坐標軸形成的面積越大時，模型的準確性越高。

表3顯示，在水稻葉片病害的識別方面，激活函數SELU具有幫助模型很好地處理梯度消失和梯度爆炸的特性以及自身的平滑性，相較于ReLU等激活函數，使用SELU作為模型的激活函數，可以很大程度地提高網絡模型在訓練過程中的穩定性。

2.2模型對比試驗結果分析

本研究采用BP、AlexNet、VGG16模型在自制水稻葉片病害圖像數據集上進行訓練，并將訓練結果同本研究構建模型的結果進行對比。結果（圖9、表4）表明，本研究構建模型執行單批次訓練所需時長要短于VGG16等模型，同時由于深度可分離卷積和輕量級注意力機制Conv_L2_CBAM的使用，相較于其他模型，本研究構建模型可以提高模型收斂速度，并且模型參數量最少，水稻葉片病害識別平均精度比VGG16模型高。

3結論

本研究提出了一種基于卷積神經網絡的輕量級水稻葉片病害識別模型。首先，引入注意力機制對模型結構進行改進，得到輕量級注意力機制模塊，將水稻葉片病害特征圖中的潛在注意力信息進行深度挖掘；其次，使用深度可分離卷積代替部分標準卷積，進一步降低模型的參數量；最后，為了提高模型的泛化能力，讓模型學習過程更快、更穩定，采用了自帶內部歸一化屬性的激活函數SELU，并與外部組歸一化模塊相結合。通過在公共數據集中進行驗證，本研究構建模型的平均精度最高（0.990 0），并且在參數量和平均單次迭代時間方面相較于VGG16等模型也有一定優勢。

參考文獻：

[1]許娜，葉橋平. 水稻種植與病蟲害防治技術研究[J]. 種子科技，2022，40（21）： 46-48.

[2]ES-SAADY Y， MAMMASS I E， YASSA M E， et al. Automatic recognition of plant leaves diseases based on serial combination of two SVM classifiers [C]. Tangiers：IEEE，2016.

[3]GAVHALE K R， GAWANDE U. An overview of the research on plant leaves disease detection using image processing techniques[J]. Iosr Journal of Computer Engineering （IOSR-JCE），2014，16（1）：10-16.

[4]WANG G， SUN Y， WANG J. Automatic image-based plant disease severity estimation using deep learning[J]. Computational Intelligence and Neuroscience，2017. DOI：10.1155/2017/2917536.

[5]王獻鋒，張善文，王震，等. 基于葉片圖像和環境信息的黃瓜病害識別方法[J].農業工程學報，2014，30（14）：148-153.

[6]ZHANG S W， SHANG Y J， WANG L. Plant disease recognition based on plant leaf image[J]. Journal of Animal and Plant Sciences，2015，25（3）：42-45.

[7]XIE C， WANG R， ZHANG J， et al. Multi-level learning features for automatic classification of field crop pests[J]. Computers and Electronics in Agriculture，2018，152：233-241.

[8]SANKARAN S， ASHISH M， REZA E， et al. A review of advanced techniques for detecting plant diseases[J]. Computers and Electronics in Agriculture，2010，72（1）：1-13.

[9]LI W， CHEN P， WANG B， et al. Automatic localization and count of agricultural crop pests based on an improved deep learning pipeline[J]. Scientific Reports，2019，9：7024.

[10]孟亮，郭小燕，杜佳舉，等. 一種輕量級CNN農作物病害圖像識別模型[J]. 江蘇農業學報，2021，37（5）：1143-1150.

[11]WU Y， HE K. Group normalization[J]. International Journal of Computer Vision，2018，128（3）：742-755.

[12]WOO S， PARK J， LEE J Y， et al. CBAM： convolutional block attention module[C]. Munich：ECCV，2018.

[13]HOWARD A G， ZHU M， CHEN B， et al. MobileNets：efficient convolutional neural networks for mobile vision applications[J]. ArXiv，2017. DOI：10.48550/arXiv.1704.04861.

[14]KLAMBAUER G， UNTERTHINER T， MAYR A， et al. Self-normalizing neural networks[J]. Advances in Neural Information Processing Systems，2017，30：972-981.

[15]IOFFE S， SZEGEDY C. Batch normalization： accelerating deep network training by reducing internal covariate shift[C]. Lille：PMLR，2015.

[16]王建明，陳響育，楊自忠，等. 不同數據增強方法對模型識別精度的影響[J]. 計算機科學，2022，49（增刊1）： 418-423.

（責任編輯：王妮）