基于改進LeNet-5模型的玉米病害識別

何 前，郭峰林，方皓正，李雅琴

(武漢輕工大學數學與計算機學院，湖北武漢 430000)

隨著我國農業生產水平的不斷進步，人們的需求不斷增多，玉米已經成為我國第二大糧食作物，為我國的糧食增產作出了巨大貢獻[1]。然而雖然玉米產量逐年增大，但是玉米病害也同樣在逐年加重，已經嚴重影響到玉米的產量和質量[2-3]。傳統的植物病害識別方法是依靠種植人員的經驗和查閱相關病害圖譜，甚至依靠一些專家現場勘查，不僅效率低，而且費時費力，尤其是在大田環境下的病害檢測，需要投入更大、更多的精力和時間。近年來，計算機逐漸深入人們的日常生活中，計算機技術也在不停地飛速發展，在農作物的病害識別研究中，機器學習已經成為一個重要的學習領域。隨著圖像識別診斷技術的逐漸成熟，機器學習技術和圖像識別技術相結合的研究也越來越廣泛[4]。因此，越來越多的人開始研究如何利用計算機技術來識別、分類農作物的病害，對于常見的玉米葉部病害，劉永波等通過與物聯網設備相結合，提出了基于U-Net算法模型的玉米病程分級方法，利用計算機技術和相關設備，對玉米的4種病害實現了快速、準確、客觀的分級[5]。顧博等選取玉米小斑病、大斑病和灰斑病3種病害圖像作為數據樣本，通過GrabCut算法、One-Cut算法和SLIC算法進行圖像分割、識別試驗，準確率達到了80%以上[6]。楊明欣等提出了遷移的MobileNetV2模型，將神經網絡的損失函數改為Focal Loss函數，然后通過試驗對玉米的葉部病害進行識別，最終準確率在90%以上[7]。樊湘鵬等在對田間真實環境復雜背景下的玉米葉部病害進行診斷時，利用區域卷積神經網絡的Faster R-CNN算法，獲得了較高的準確率[8]。王美娟等在卷積神經網絡VGG-16模型的基礎上進行改進，提出了多尺度卷積神經網絡模型用來識別大田試驗的玉米病害，將全局池化層替換全連接層，減少了模型參數總量，提高了識別速度和準確率[9]。Chen等對Inception模塊進行預先訓練，然后遷移到自己的玉米病害數據集、水稻病害圖像數據集進行訓練任務，算法在公共數據集上的最終驗證精確度在91.83%以上，高于其他對比模型[10]。Darwish等首先對健康、不健康的葉片進行圖像分類，然后建立了卷積神經網絡VGG-16、VGG-19的2種訓練模型，利用正交學習粒子群優化(OLPSO)算法，通過不斷試驗，最終找出了最優的超參數值，實現了對健康、不健康葉片進行分類的任務[11]。Wang等將圖像分類領域加入到注意力的殘差學習中，加快了模型的訓練速度，簡化了模型結構[12]。

因此，為了更好地識別玉米病害類別、及時防治處理、提高我國玉米的產量和質量，本研究根據玉米本身的形狀、顏色、質地等特征，結合深度學習中的經典CNN模型-LeNet-5，對模型進行改進和完善，以期實現對玉米病害快速準確的識別，為我國農作物的發展提供技術支持。

1 LeNet-5算法

LeCun首次提出了LeNet-5模型的卷積神經網絡。早期的模型被廣泛運用于手寫字識別等領域，其模型一共7層，主要包括2層卷積層、2層池化層、2層全連接層、1層輸出層[13]，每層都包含可訓練參數，輸入數據為32×32像素的灰度圖。第1層卷積包含6個卷積核，采用5×5窗口對輸入圖像進行卷積操作，得到6個特征圖的大小均為28×28；降采樣層對28×28的數據進行采樣操作，得到14×14個特征圖，第2層卷積的卷積核大小同樣設置為5×5像素，對上一層卷積后得到16個10×10像素的特征圖，采用最大池化，輸出16個5×5像素的圖像特征圖，最后連接2層全連接層，神經元數量分別為120、84個，輸出層使用softmax函數，得到 0～1之間的概率，最大值為識別結果[14-15]。傳統LeNet-5模型的主要網絡結構見圖1，可以看出，傳統的LeNet-5模型結構比較簡單，輸入的圖片像素也比較小，而農作物的葉部病害多比較復雜，病害的紋理特征和面積等信息繁瑣，傳統的LeNet-5模型多用于手寫字識別等領域，因此，對于玉米的葉部病害識別而言，使用傳統的LeNet-5模型不能夠準確識別出玉米病害，不足以為我國農作物的病害識別提供有效的技術支持，因此，本研究以傳統LeNet-5模型為基礎并加以改進，用來提高對玉米病害的識別準確率。

2 改進的LeNet-5算法

在傳統的LeNet-5模型上進行了如下改進：(1)病害圖像預處理。將輸入的3種玉米葉部病害圖像和正常玉米圖像進行隨機旋轉、圖像增強和尺寸修改等預處理，處理后的玉米病害圖像見圖2。由圖2可以看出，對圖像進行預處理后，通過圖像增強使圖像局部病害位置的特征增強，有助于提高模型對玉米葉部的識別效果。然后對圖像進行隨機旋轉，擴充數據集，將擴充后的數據集統一歸一化為256×256像素。增大圖像尺寸能夠增大對病害特征的識別準確度。

(2)修改激活函數。本研究選用ReLU函數替換傳統的Sigmoid函數，傳統的Sigmoid函數計算量大，并且在反向傳播求解誤差梯度時，求導會涉及除法，使得計算量相對ReLU函數而言較大，對于深層的網絡結構，Sigmoid函數反向傳播時，很容易出現梯度消失的情況。Sigmoid函數見式(1)，圖像見圖3。

(1)

由圖3可以看出，傳統的Sigmoid函數在接近保護區時，變換非常緩慢，并且導數趨近0，這樣就會使信息丟失，從而在深層的網絡結構中無法完成訓練。而ReLU函數的主要特點是計算量小，并且沒有飽和區，沒有梯度消失，其表達式見式(2)，其函數圖像見圖4。

(2)

由圖4可以看出，使用ReLU函數估計非線性函數時收斂的速度更快，ReLU函數會讓一部分神經元輸出的結果為0，這樣就使網絡變得很稀疏，從而減少參數之間的相互依存關系，因此能夠緩解過擬合問題的發生，有利于緩和模型的梯度消失現象。

(3)增加網絡層數，同時在網絡層數中添加Dropout層，設置丟棄概率，減少參數數量，從而有效防止模型過擬合。卷積層數對模型性能的影響見表1。

表1 卷積層數對模型性能的影響

由表1可以看出，當卷積層的層數為5層時，模型對玉米病害的識別準確率達到最高。因此，本研究結合已搜集到的試驗數據等實際情況，選取5層卷積層組建LeNet-5模型，以提高模型對玉米病害的識別準確率。卷積層的計算公式見式(3)：

(3)

表2 改進與傳統LeNet模型參數

由表1、表2可以看出，本試驗模型是在傳統的LeNet-5模型基礎上增加網絡層的層數，同時添加Dropout策略層。在傳統模型的基礎上將網絡層數增加為14層，包含輸入層、5個卷積層、5個池化層、2個全連接層和輸出層。輸入層輸入的樣本圖片大小為256×256×3像素，每個卷積都包含1個ReLU單元，并且卷積核大小都為5×5像素，步長為1。最大池化層使用2×2像素的核，步長為1，將上一層的輸出作為下一層的輸入。本試驗選取的是3種玉米葉部病害圖像、正常玉米葉部圖像，一共有4種類別，通過Softmax層輸出，數量為4個，對應選擇的4種不同的玉米病害。改進后的模型流程見圖5。

在本試驗模型中，用到的池化方式為最大池化法(max pooling)，相對于其他池化方式而言，最大池化法能夠很好地保留紋理特征，在正向傳播中，取領域內最大特征點，并且能夠記住最大值的索引位置，從而便于進行反向傳播[16-17]。選擇的激活函數為修正線性單元(ReLU)，選擇的損失函數為categorical_crossentropy分類交叉熵函數，詳見式(4)、式(5)。全連接層的最后1層選用Softmax函數用于分類，輸出類別設置為4，分別對應玉米病害數據集的4種類別。

(4)

式中：n為樣本數；m為分類數。由于公式(4)是一個多輸出的loss函數，因此其loss計算也是多個的，詳見式(5)：

(5)

在改進后的模型中添加Dropout算法，下一個網絡層的輸出公式見式(6)[18]：

(6)

式中：Bernoullin函數是為了隨機生成1個0、1的向量；p表示當Dropout向前傳播時，某個神經元的激活值會以提前設置好的概率(p值)停止通過，因此模型不會對某些局部特征產生過多依賴。

3 結果與分析

本試驗是在武漢輕工大學數學與計算機學院實驗室2021年11月完成的，使用PC機安裝的Windows 10，64位系統，搭載 Intel?CoreTMi5-5200U CPU@2.20 GHz 4核處理器，內存為 12 GB。采用Python 3.7和Keras框架進行訓練。參數設置：迭代次數為15次，選取11個樣本作為1個batch進行訓練。

本試驗所用數據集來源是AI Challenger 2018數據集，由4種不同玉米圖像組成，分別是玉米大斑病、銹病、葉斑病3種葉部病害圖像以及玉米葉部健康圖像。通過圖像隨機旋轉增強等操作對4類玉米試驗樣本進行擴充數據集，擴充后的數據集共有 2 180 張，其中大斑病657張，銹病555張，葉斑病572張，健康玉米396張。本試驗將玉米圖像按照 5 ∶1 的比例分為2組，其中訓練數據1 815張，測試數據365張。將樣本集進行編號分類并制作標簽，分別用0、1、2、3表示對應的類別標簽，玉米大斑病為標簽0，銹病為標簽1，葉斑病為標簽2，健康玉米為標簽3。3種玉米葉部病害圖像及健康玉米圖像見圖6。

ReLU函數作為激活函數的收斂效果比Sigmoid函數好，并且計算量小，沒有梯度消失。由表3可以看出，選擇ReLU函數作為激活函數，識別準確率比傳統的Sigmoid函數高，因此，模型選擇ReLU函數來優化，可以提高模型的識別率。

在訓練模型的過程中，往往會出現過擬合的現象。過擬合現象指的是模型在訓練集上表現得非常好，具有很高的識別準確率，但是在測試集上卻表現一般，這就意味著模型的泛化能力不是很好，會影響對農作物病害的識別準確率。因此，本研究除了利用擴充數據集，將激活函數換為ReLU函數外，增加了Dropout策略層，以進一步減少神經網絡的過擬合現象。

表3 ReLU函數和Sigmoid函數對識別準確率的影響

表4列出了Dropout添加在卷積層上設置不同的丟棄概率對模型性能的影響，可以看出，卷積層上的丟棄概率設為0.1，模型對玉米病害識別準確率最高，基于此探究全連接層上丟棄概率設置的值對模型性能的影響。

表4 卷積層上不同丟棄概率對模型性能的影響

由表5可以看出，當全連接層的丟棄概率設為0.3時，對玉米葉部病害的識別率最高。因此，本模型的丟棄概率在卷積層設置為0.1，在全連接層設置為0.3，以達到優化模型的目的，使得本模型對玉米病害的識別準確率最高。

表5 全連接層上不同丟棄概率對模型性能的影響

由表6可以看出，在加入Dropout層的情況下，對玉米病害識別準確率比不加入Dropout層的高，因此，加入Dropout層有利于優化模型，從而提高玉米病害的識別率。

表6 Dropout層對模型性能的影響

圖7是在該模型下識別的玉米葉部病害圖像，可以看出圖像效果不錯。

由圖8可以看出，隨著迭代次數的增加，該模型在測試集的識別準確率達到了97.3%，損失率在14.1%左右，比傳統卷積神經網絡的Lenet-5模型識別率高很多，基本上可以滿足和幫助種植者對玉米農作物的葉部病害進行識別和及時進行對癥處理，以此提高我國玉米的產量和質量，同時對于我國其他農作物病害識別問題也有借鑒作用。

4 結論

目前，玉米已經逐漸成為了我國最大的糧食產物之一，深受人們的喜愛，因此玉米產量、質量一直受到人們的關注。及時發現玉米葉部病害并進行及時處理至關重要，也是現如今廣大研究者關注的重要方向。本研究以CNN的LeNet-5模型為基礎，在傳統模型上加以改進，構建了1個14層的玉米病害識別模型，完成了對玉米葉部大斑病、銹病、葉斑病和正常玉米葉部圖像的識別分類，可以得到以下結論：

(1)傳統識別玉米病害的方法具有一定的局限性，利用機器學習、圖像識別等研究出新的、快速識別玉米病害的方法至關重要。卷積神經網絡可以主動提取玉米葉部病害的特征，十分方便且幫助人們快速識別病害問題，從而及時治理，可以有效提高玉米的質量、產量。在本研究中，玉米識別率達到了97.3%，基本可以滿足識別需求，具有很好的應用價值。

(2)在模型優化方面，為了提高模型對玉米病害的識別率，首先對玉米病害圖像進行隨機旋轉、圖像增強及尺寸修改等預處理操作，然后激活函數改用ReLU函數，并且引入Dropout策略層。

(3)本研究模型可以同時識別3種玉米病害、1種正常玉米，具有很高的識別性能和應用價值。由于本研究中搜集的玉米病害數據集有限，因而只選取4種類別進行試驗，所以該模型還是存在一定局限性。為了更好地幫助種植者及時地識別農作物的病害問題，下一步可以根據實際情況選取更多的農作物病害類別進行識別預測，達到更高的識別率和應用價值，為種植者提供有效的技術支持，減少病害帶來的損失。