基于改進AlexNet的嶺南水稻蟲害識別方法研究

江順 黃紅星 莫里楠 韓威威 高卓君 卓鐘洪

摘要：通過改進經典AlexNet深度學習模型在幾種典型的水稻害蟲識別中的深度不足和過擬合問題，探索出一套泛化能力更強、識別精度與計算效率更加均衡的深度學習網絡模型，達到在一定計算資源支持下能適應復雜情境的精準辨識水稻害蟲的需求。本研究中AlexNet-enhanced模型經過了以下改進：（1）采用通過縮小卷積核和增加卷積層深度的方式提升對圖像深層次特征提取的能力；（2）刪除LRN層和刪除一個全連接層提升模型計算性能；（3）使用RReLU激活函數改進模型魯棒性。試驗數據使用多種網絡數據集和自采集數據，選擇稻縱卷葉螟、稻大螟、稻二化螟、稻三化螟、稻飛虱、稻象甲等具有代表性的南方水稻害蟲數據作為試驗數據，并加入健康水稻影像數據構建試驗數據集。選擇VGG-16、經典AlexNet、LeNet等3種模型訓練作為本研究的對比模型，對4種模型的準確率、混淆矩陣、精確率、召回率、F1分數等結果參數進行綜合比對分析評估模型性能。結果表明：（1）AlexNet-enhanced模型對比經典AlexNet模型在訓練時間上有較大升高，但對比VGG-16這類結構更深的神經網絡模型具備明顯的訓練時間優勢；（2）與經典AlexNet模型相比，改進后的模型對水稻害蟲的識別率有較大的提升，對幼蟲的識別率提升更加明顯；（3）對試驗結果的分析發現4種模型對各類型害蟲的成蟲識別率均明顯高于幼蟲。本研究結果表明，改進的AlexNet模型對南方水稻害蟲的識別問題有不錯的應用效果，可以作為大田間水稻害蟲智能識別的有效解決方案；同時，神經網絡模型的訓練受特征采樣條件約束較強，需要對生產中的數據采集設備進行針對性的改進。

關鍵詞：深度學習；南方水稻；害蟲識別

中圖分類號：TP391.41? 文獻標志碼：A

文章編號：1002-1302（2023）23-0187-08

嶺南水稻種植對我國農業和社會具有重要的經濟和社會意義。它不僅可以保障國內糧食安全，還可以為農村勞動力提供就業機會，提高農村收入，保護生態環境等。在我國南方地區，水稻作物易受到蟲害，這些害蟲包括稻飛虱、稻田螟、稻蟲、稻蝗等［1-4］。它們對水稻作物造成的損害主要體現在減少產量和降低質量。如果不及時采取防治措施，這些害蟲可能對農業生產造成嚴重損失［5-7］。因此，對于南方水稻害蟲的防治是十分重要的。智能識別技術在水稻害蟲防治中的應用可以分為2個方面：識別和監測［7］。識別：可以幫助生產者識別害蟲種類。例如，使用圖像識別技術可以快速識別害蟲，幫助農民制定更有效的防治措施［8-11］。監測：可以用于監測害蟲數量和蔓延范圍，以便及時采取防治措施［12-14］。例如，使用無人機技術可以對水稻田進行快速監測，獲取害蟲數量和分布情況的精確數據［15-17］。總的來說，識別技術在水稻害蟲防治中的應用可以提高防治效率，減少農業生產的損失，并保護糧食安全。本研究即對南方水稻害蟲的智能識別技術開展探索性的方法研究。

1 數據與方法

1.1 數據準備

本研究使用多種網絡數據集和自采集數據，抽取其中的南方水稻種植常見的害蟲相關數據，約 5 000 張圖片數據，筆者所在研究團隊通過長期對試驗基地害蟲數據進行觀測，積累常見南方水稻病害蟲圖片約10 000張。并在訓練集中加入2 000張健康水稻樣本圖像，在測試集中加入600張健康樣本圖像。將采集的害蟲影像數據進行加入噪聲和翻轉調整角度等處理，最終獲得訓練樣本數據 27 000 張，測試數據8 600張，在本研究中，采用廣東常見的6種害蟲作為分類集：稻縱卷葉螟、稻三化螟、稻二化螟、稻大螟、稻飛虱、稻象甲等，由于每種害蟲又有成蟲與幼蟲之分，故最終將訓練集分類為13類。本研究分類集數據分布詳見表1。

對于卷積神經網絡，輸入向量的空間維度以及其相對應的神經元數量由全連接層決定。卷積神經網絡對應的空間維度隨神經網絡的輸入樣本尺寸的不同而變化，當訓練樣本尺寸不同時，神經網絡因空間維度不同而無法訓練。在將訓練樣本輸入神經網絡訓練時，需對樣本圖像的尺寸屬性進行規范化處理。樣本數據集圖像尺寸不定，在訓練前需要將樣本數據集重采樣為長寬各224個像元的標準化圖像（圖1）適應神經網絡訓練。

1.2 AlexNet網絡結構

AlexNet神經網絡模型是一種典型的卷積神經網絡模型，該模型由AlexKrizhevsky在2012年的ILSVRC比賽中首次提出，在比賽中，該模型的top5預測的錯誤率為16.4%，遠超第2名獲得冠軍。AlexNet神經網絡模型由8個網絡層、5個卷積層及3個全連接層組成，設計為雙路網絡結構以便于使用2塊GPU進行神經網絡訓練，其激活函數與池化方法分別為ReLu和MaxPooling。數據參數量約為240 MB。同當時的各種神經網絡模型相比，AlexNet模型具有以下優勢［18-20］。

（1）使用ReLU函數作為神經模型的激活函數。對比被替代的Sigmoid函數，ReLU函數在進行更深層神經網絡的分類效率具有較大的提升，同時在增加網絡深度時一定程度上改進了梯度彌散的問題。

（2）通過隨機忽略神經元的方式避免訓練中的過擬合問題。在全連接層中增加Dropout忽略（失活）部分神經源，強制網絡學習多個獨立且各不相同的子網絡，在模型訓練中，設置Dropout參數值為1，則全部神經元都參與訓練。

（3）采用重疊的最大池化方法。在卷積神經網絡的池化層，以重疊的最大池化（overlapping max-pooling）方法代替此前各類卷積神經網絡模型普遍采用的一般平均池化（general mean-pooling）方法，以得到兩點改進：提升特征豐富性、避免池化模糊問題。

（4）采用局部響應歸一化方法。在卷積神經網絡中，應用局部響應歸一化方法（local response normalization，LRN），在神經網絡訓練中對局部的神經元活動設置響應的競爭機制，在LRN中，響應較大的值相對更大，抑制響應較小的神經元，提升模型泛化效果。

（5）多GPU訓練，并使用CUDA環境加速神經網絡的訓練，可使用雙GPU訓練神經網絡。

（6）通過數據增量減少過擬合。可以通過對圖像進行旋轉、翻轉、裁剪等變換，增加訓練數據的多樣性，提高模型的泛化能力。

AlexNet網絡的結構如圖2所示。輸入信息格式為3波段的224×224大小的灰度圖像數據，由5個卷積層和3個全連接層組成，卷積層卷積核尺寸分別為11×11、5×5、3×3、3×3、3×3。在第1、第2、第5卷積層后設置最大池化層，窗口尺寸為3×3，步長為2。

1.3 AlexNet算法改進

1.3.1 卷積層（Conv）的改進

使用更小尺寸的卷積核，目的是提升提取深層次圖像特征的效率，增加圖像識別的非線性特征，提升分類的可判別性，并使模型具備隱式的正則化特點。本研究構建模型將經典AlexNet模型原有的11×11大卷積核的卷積層調整為2層，分別具有5×5和3×3尺寸的卷積核，將原模型5×5尺寸卷積核的卷積層調整為2個3×3尺寸卷積核的卷積層，調整后全模型僅有5×5和3×3 2種規格的卷積層，且較原模型有更深的卷積層深度［21-23］。

1.3.2 LRN和全連接層的改進

刪除LRN，并刪除一個全連接層，目的是減少神經網絡的參數，提升神經網絡訓練速度，平衡識別的準確性和效率。LRN的計算量較大，來源于設置LRN層參數交叉驗證，刪除LRN計算過程能夠使模型易于并行化，大大減少計算資源的消耗［24-27］。AlexNet全連接層參數占整個神經網絡參數的96.2%，通過減少全連接層層數是現下提升模型訓練速度的主流做法。調整后的AlexNet神經網絡模型如圖3所示。

1.3.3 激活函數

RReLU（randomized ReLU） 是一種近年來提出的用于神經網絡模型的激活函數，是對ReLU的一種改進形式。與ReLU不同的是，RReLU在負數區域不是直接設置為0， 而是隨機選擇一個較小的斜率來緩解神經元的死亡問題［28-33］。

具體來說，RReLU定義為

其中，ai是一個從均勻分布U（l，u）中隨機采樣得到的常數，l和u是2個預先設定的超參數，通常分別設置為較小的值，如0.1和0.3。RReLU的主要作用是避免神經元的死亡問題，并提高模型的魯棒性。由于每個神經元在訓練時使用不同的斜率，因此可以增加模型的多樣性，從而降低過擬合的風險。同時，RReLU的非線性程度比LeakyReLU更強，因此可以提高模型的表達能力。需要注意的是，由于RReLU中的隨機性質，其在測試時需要使用相同的隨機數生成方式來保持一致。通常可以在訓練時將隨機數保存下來，然后在測試時使用相同的隨機數。此外，由于RReLU引入了額外的超參數，因此需要對其進行調參，以獲得最佳的性能。

2 研究內容

2.1 數據預處理

AlexNet是一種經典的深度學習卷積神經網絡模型，用于圖像分類。對于模型的訓練數據預處理，需要進行以下幾個步驟。

（1）圖像的縮放和裁剪：AlexNet模型使用的輸入圖像大小為224×224，因此需要將訓練數據中的所有圖像都縮放到這個大小。同時，也可以對圖像進行裁剪，以去除不必要的部分。

（2）數據增擴：為使模型具有更強的泛化能力，通常需要對訓練數據進行數據增強操作擴大數據集的數量，如隨機旋轉、隨機裁剪、隨機翻轉等。

（3）像素值歸一化：將圖像的像素值歸一化到［0，1］之間，可以加速訓練收斂并提高模型的準確率。

（4）數據集劃分：通常需要將數據集劃分為訓練集、驗證集和測試集，用于模型的訓練、調參和測試。

2.2 試驗設計

2.2.1 試驗環境

于2021年12月至2022年3月進行分批訓練，試驗地點位于廣東省農業科學院農業經濟與農村發展研究所試驗室中。計算機硬件配置為i9-10900K CPU，GPU為NVIDIA GeForce RTX 3090，專用GPU內存為24 GB。操作系統為Windows 10（64位），使用Python編程語言，采用Anaconda 3環境管理終端及PyCharm集成開發環境，深度學習框架tensorflow-gpu版本為2.4.0。

2.2.2 模型參數

考慮計算機自身的性能和訓練效果，將迭代次數（epoch）設置為150次，批次（batch）大小設置為25以及Dropout大小設置為0.5等。具體的參數設置如表2所示。

2.2.3 模型構建

按上面所描述的改進方案，試驗中的改進AlexNet（AlexNet-enhanced）模型由7個卷積層和2個全連接層組成，最后的全連接層的輸出數量為13（分類目標數量）。采用SoftMax計算損失數并采用categorical_crossentropy損失函數，激活函數R ReLU。在全連接層前設置正則化的Dropout層，設置Dropout參數為0.5，即每個epoch隨機失活50%的神經元，在一定程度上預防模型過擬合的發生。本研究構建的神經網絡流程見圖4。

2.2.4 神經網絡訓練

模型訓練的具體流程如下：

（1）害蟲數據集讀取；

（2）害蟲數據集隨機打亂；

（3）神經網絡模型實例化，向模型輸入圖片屬性信息及害蟲種類數量等信息；

（4）設置模型參數，如優化方法、學習率等；

（5）設置神經網絡模型的損失函數，設置損失函數為categorical_crossentropy，標注網絡評價指標為accuracy；

（6）設置神經網絡模型的回調函數（callbacks）；

（7）保存模型和權重參數。

2.3 試驗結果

本研究同時采用AlexNet、VGG-16、LeNet的原型網絡作為對比試驗模型進行訓練，與改進AlexNet（AlexNet-enhanced）模型的分類效果進行比較，分析4種模型的性能差異。3種模型的結構特征見表3所示。

2.3.1 訓練結果

使用LeNet、VGG-16、經典AlexNet模型和改進AlexNet模型等4種模型在水稻害蟲數據集上訓練150個epoch，對比訓練效果差異。除了LeNet模型收斂較慢，其他3種模型的在收斂速度及最高最低值上相差不大。改進后的AlexNet模型因為擴展了網絡層數，導致相比于原始AlexNet神經網絡訓練時間明顯增長，但相比傳統AlexNet網絡的訓練準確率與驗證準確率都又明顯的提升（表4）。

2.3.2 混淆矩陣

圖5為相同驗證集上4種網絡模型驗證得到的混淆矩陣。a～d分別為改進AlexNet模型（AlexNet-enhanced）、經典AlexNet、VGG-16、LeNet等模型的混淆矩陣。由圖5可知，AlexNet-enhanced模型的準確性相對其他模型由顯著提升，幾種模型對稻飛虱的幼蟲及害蟲的識別相對其他幾種害蟲效果較差。

2.3.3 準確性

對照組試驗的識別結果如表5所示，在150次迭代的神經網絡模型測試中，4種模型均具備優秀的識別率，對各類樣本的識別率均超過了90%，AlexNet-enhanced和VGG-16等2種模型的準確率表現更加優秀，驗證準確率均超過96%，但經過優化的AlexNet-enhanced模型通過刪除LRN層和一個全連接層，優化了網絡層數和訓練時間復雜度，VGG-16則因更復雜的網絡導致訓練難度和時間復雜度提升。

3 結果與分析

3.1 通過較高迭代次數的神經網絡模型訓練可以有效提升模型精度

本研究通過150次模型迭代，4種模型都具備優秀的模型精度，除LeNet模型收斂速度較慢外，其他3種模型均可以在30次epoch左右的訓練后快速收斂，訓練準確率分別為99.90%（AlexNet-enhanced）、99.23%（經典AlexNet）、99.94%（VGG-16）、98.70%（LeNet），達到預期的模型訓練效果，驗證準確率分別為96.17%（AlexNet-enhanced）、94.92%（經典AlexNet）、96.72%（VGG-16）、93.97%（LeNet）。各種類蟲害的驗證精確率、召回率、F1分數見表6。

3.2 識別準確率受蟲害采樣體積影響較大

對比各個模型的識別結果，可發現對各類型害蟲的成蟲識別率均明顯高于幼蟲，在害蟲的采樣過程中，同焦距相機拍攝過程中幼蟲的成像面積往往明顯小于成蟲，影響模型的特征提取，呈現出各模型幼蟲低于成蟲識別率的情況。稻飛虱是各種害蟲中識別率最低的害蟲，4種模型對稻飛虱幼蟲的識別率均低于總識別率2.7%以上，差值分別為2.75%（AlexNet-enhanced）、2.79%（經典AlexNet）、2.78%（VGG-16）、3.39%（LeNet），幼蟲與成蟲識別率差值對比具體情況如表7所示，可見在具體業務應用過程中，采樣攝像頭的即時調整是害蟲模型識別的重要研究命題。

3.3 改進AlexNet模型（AlexNet-enhanced）具備較好的綜合識別效果

通過對比試驗結果可知，改進后的AlexNet模型（AlexNet-enhanced）對多種害蟲的識別能力較經典AlexNet模型提升明顯，高迭代次數下總識別準確率高1.25百分點，對各種類的害蟲識別準確率也有明顯的提升，除稻飛虱幼蟲外，模型的驗證準確率也都可以保持在95%以上， 好于經典AlexNet模型。在3種對比試驗模型中，效果最好的模型是VGG-16模型，其神經網絡的總層數比AlexNet-enhanced模型多60%，卷積層數多62.5，模型的總訓練時長長40%，在算力資源需求顯著低于VGG-16模型的前提下AlexNet-enhanced獲得了相當的訓練效果。

4 結論與討論

4.1 結論

本研究通過對經典的深度學習模型AlexNet進行提升模型深度和優化模型結構的改進，構建一套用于嶺南水稻害蟲識別的AlexNet-enhanced模型，通過對6種害蟲的成蟲及幼蟲和健康水稻的數據進行訓練和測試，并分析識別結果。通過對識別結果的分析，可得出以下結論：（1）改進的AlexNet模型（AlexNet-enhanced）對比傳統的AlexNet模型在害蟲識別這一領域上效果提升顯著，其總體識別準確度為96.17%，同時對比具有更深網絡深度的神經網絡模型（VGG-16），在不損失過多識別精度的情況下對計算機資源的使用更少、訓練更快。（2）神經網絡模型的訓練受特征采樣條件約束較強，表現在對特征較少的幼蟲分類結果會差于成蟲，體積小的害蟲分類結果差于體積大的害蟲，這對大田害蟲圖像數據采集設備的研發具有參考意義。（3）本研究除對比試驗中使用LeNet模型在訓練中在50個 epoch的訓練下表現出模型無法收斂的問題，其他3種模型均能在訓練中表現出良好的收斂性能，現階段通過神經網絡學習方法解決害蟲識別問題，提升模型訓練的迭代次數和增加訓練樣本數量仍然是提升模型準確性的主要手段。本研究的結果表明，改進的AlexNet模型對南方水稻害蟲的識別有不錯的應用效果，可以作為大田間水稻害蟲智能識別的有效解決方案。

4.2 討論

本研究的創新性集中于通過對傳統模型的改造適應南方水稻害蟲識別這一具有重要實踐意義的問題的研究，對傳統模型的改進具有較強的針對性，表現在通過改進傳統模型（經典AlexNet模型）深度不足的問題，同時在不消耗過多計算機算力資源的情況下逼近更新的神經網絡模型（VGG-16）的識別效率，在理論和思路上具備在實際生產應用上的條件。但在研究中仍然暴露了一些問題：（1）模型的訓練受樣本特征約束較強，泛化能力不足，在幼蟲和稻飛虱等害蟲的識別率上有待提升，VGG-16 模型在此領域顯著優于改進后的AlexNet模型（AlexNet-enhanced）；（2）樣本獲取方式單一，缺乏復雜情境下的水稻害蟲數據參與訓練，在投入實際應用前需經過更廣泛的數據采集應用于模型訓練，同時也需要對生產中的數據采集設備進行針對性的改進，如提高設備像素、提升設備的自動追焦和變焦能力。

參考文獻：

［1］方福平，程式華. 水稻科技與產業發展［J］. 農學學報，2018，8（1）：92-98.

［2］趙正洪，戴 力，黃見良，等. 長江中游稻區水稻產業發展現狀、問題與建議［J］. 中國水稻科學，2019，33（6）：553-564.

［3］徐春春，紀 龍，陳中督，等. 2020年我國水稻產業形勢分析及2021年展望［J］. 中國稻米，2021，27（2）：1-4.

［4］王 豐，柳武革，劉迪林，等. 廣東優質稻發展及稻米品牌建設與展望［J］. 中國稻米，2021，27（4）：107-116.

［5］楊普云，任彬元. 促進農作物病蟲害綠色防控技術推廣應用：2011至2017年全國農作物重大病蟲害防控技術方案要點評述［J］. 植物保護，2018，44（1）：6-8.

［6］全國農業技術推廣服務中心. 植物保護統計技術與方法［M］. 北京：中國農業科學技術出版社，2013.

［7］梁萬杰，曹宏鑫. 基于卷積神經網絡的水稻蟲害識別［J］. 江蘇農業科學，2017，45（20）：241-243，253.

［8］Huo M Y，Tan J. Overview：research progress on pest and disease identification［C］//Lu Y，Vincent N，Yuen P C，et al. International Conference on Pattern Recognition and Artificial Intelligence.Cham：Springer，2020：404-415.

［9］Ayan E，Erbay H，Varn F. Crop pest classification with a genetic algorithm-based weighted ensemble of deep convolutional neural networks［J］. Computers and Electronics in Agriculture，2020，179：105809.

［10］Thenmozhi K，Srinivasulu Reddy U. Crop pest classification based on deep convolutional neural network and transfer learning［J］. Computers and Electronics in Agriculture，2019，164：104906.

［11］傅隆生，宋珍珍，Zhang X，等. 深度學習方法在農業信息中的研究進展與應用現狀［J］. 中國農業大學學報，2020，25（2）：105-120.

［12］翁 楊，曾 睿，吳陳銘，等. 基于深度學習的農業植物表型研究綜述［J］. 中國科學（生命科學），2019，49（6）：698-716.

［13］張善文，邵 彧，齊國紅，等. 基于多尺度注意力卷積網絡的作物害蟲檢測［J］. 江蘇農業學報，2021，37（3）：579-588.

［14］龍滿生，歐陽春娟，劉 歡，等. 基于卷積神經網絡與遷移學習的油茶病害圖像識別［J］. 農業工程學報，2018，34（18）：194-201. [HJ2mm]

［15］薛 勇，王立揚，張 瑜，等. 基于GoogLeNet深度遷移學習的蘋果缺陷檢測方法［J］. 農業機械學報，2020，51（7）：30-35.

［16］張建華，孔繁濤，吳建寨，等. 基于改進VGG卷積神經網絡的棉花病害識別模型［J］. 中國農業大學學報，2018，23（11）：161-171.

［17］孫 紅，李 松，李民贊，等. 農業信息成像感知與深度學習應用研究進展［J］. 農業機械學報，2020，51（5）：1-17.

［18］段仲靜，李少波，胡建軍，等. 深度學習目標檢測方法及其主流框架綜述［J］. 激光與光電子學進展，2020，57（12）：59-74.

［19］李炳臻，劉 克，顧佼佼，等. 卷積神經網絡研究綜述［J］. 計算機時代，2021（4）：8-12，17.

［20］嚴春滿，王 鋮. 卷積神經網絡模型發展及應用［J］. 計算機科學與探索，2021，15（1）：27-46.

［21］王旭東，邵惠鶴. RBF神經網絡理論及其在控制中的應用［J］. 信息與控制，1997，26（4）：272-284.

［22］李國和，喬英漢，吳衛江，等. 深度學習及其在計算機視覺領域中的應用［J］. 計算機應用研究，2019，36（12）：3521-3529，3564.

［23］朱虎明，李 佩，焦李成，等. 深度神經網絡并行化研究綜述［J］. 計算機學報，2018，41（8）：1861-1881.

［24］楊觀賜，楊 靜，李少波，等. 基于Dopout與ADAM優化器的改進CNN算法［J］. 華中科技大學學報（自然科學版），2018，46（7）：122-127.

［25］冉 鵬，王 靈，李 昕，等. 改進Softmax分類器的深度卷積神經網絡及其在人臉識別中的應用［J］. 上海大學學報（自然科學版），2018，24（3）：352-366.

［26］王功鵬，段 萌，牛常勇. 基于卷積神經網絡的隨機梯度下降算法［J］. 計算機工程與設計，2018，39（2）：441-445，462.

［27］黃 毅，段修生，孫世宇，等. 基于改進sigmoid激活函數的深度神經網絡訓練算法研究［J］. 計算機測量與控制，2017，25（2）：126-129.

［28］劉小文，郭大波，李 聰. 卷積神經網絡中激活函數的一種改進［J］. 測試技術學報，2019，33（2）：121-125.

［29］王紅霞，周家奇，辜承昊，等. 用于圖像分類的卷積神經網絡中激活函數的設計［J］. 浙江大學學報（工學版），2019，53（7）：1363-1373.

［30］田 娟，李英祥，李彤巖. 激活函數在卷積神經網絡中的對比研究［J］. 計算機系統應用，2018，27（7）：43-49.

［31］蔣昂波，王維維. ReLU激活函數優化研究［J］. 傳感器與微系統，2018，37（2）：50-52.

［32］王雙印，滕國文. 卷積神經網絡中ReLU激活函數優化設計［J］. 信息通信，2018，31（1）：42-43.

［33］曲之琳，胡曉飛. 基于改進激活函數的卷積神經網絡研究［J］. 計算機技術與發展，2017，27（12）：77-80.