基于卷積神經網絡的花卉識別研究

曾凡婧 雷鳴

摘要：近年來，花卉種類識別主要是根據植物的葉、莖、花等不同部位的形狀和紋理進行的，但由于世界各地擁有數百萬種花卉且花卉還具有類間相似性和類內異構性，使得這類方法缺乏健壯性。在該文的研究工作中，采用了卷積神經網絡的深度學習方法來實現對花卉種類的高精度識別，先是對原始圖像進行預處理；然后是以LeNet-5卷積神經網絡模型為基礎建立網絡模型，再通過梯度下降和BP算法進行模型訓練后得到花卉識別分類器；最后分析實驗結果并與其它花卉識別的算法進行對比。通過在Oxford 102 Flowers數據庫進行的實驗，識別正確率達到了91.18%。

關鍵詞：深度學習；卷積神經網絡；花卉識別；BP算法

中圖分類號：TP391 文獻標識碼：A

文章編號：1009-3044（2019）11-0185-04

1 引言

基于花卉的植物物種識別由于其廣泛存在花卉圖像背景復雜且種類繁多的特性，在圖像處理和計算機視覺領域中仍然是一個挑戰，國內外學者對于花卉識別做了大量的研究。柯逍等[1]提出基于RGB的圖像分割方法，并采用多特征融合方法進行花卉圖像的識別。Nilsback等[2]通過分析花朵的顏色、形狀、紋理等特征在分類過程中的貢獻度，構建相應的單詞表模型，最后利用K近鄰算法實現花卉識別。Tiay T等[3]開發了一套花卉識別系統利用花卉圖像的邊緣特征和顏色特征對花卉進行分類。Zhang等[4]使用Harr特征和SIFT特征將花卉圖像的空間信息與局部特征相結合，從圖像中提取的特征使用非負稀疏編碼方法進行編碼，然后用K近鄰方法進行分類。

隨著深度學習技術的發展，研究人員開始嘗試通過深度學習來解決花卉圖像的分類問題。林思思等[5]提出融合深度特征提取和人工特征提取的方法實現花卉圖像的分類。Yoo 等[6-8]基于大型圖像數據庫，通過訓練深度學習網絡模型在花卉圖像分類中取得了較好的效果。卷積神經網絡（Convolutional neural networks， CNNs）[9]是目前用于圖像處理與模式識別的主要形式，卷積神經網絡具有局部連接、權值共享及池化操作等特性可以有效地降低網絡復雜度，減少訓練參數且具有強魯棒性和容錯性。因此，本文在傳統的卷積神經網絡的基礎上，建立并訓練了一個良好的網絡模型用于花卉種類識別。

2 基礎理論

2.1 深度學習模型

深度學習模型由計算機與人工智能泰斗Geoffrey Hinton及其學生于2006年提出，他們的主要觀點包括：（1）多個隱層條件下的神經網絡可以自主的從輸入圖像中學習到更為本質的特征。（2）對于多個隱層的神經網絡在訓練的時候容易陷入局部極小值，可以通過逐層的初始化來解決。本文使用的LeNet-5[10]卷積神經網絡模型是第一個真正的多層網絡結構學習算法，網絡結構如圖1所示，最早由Yann LeCun 與 YoshuaBengio 提出，該算法被應用在物體和圖像區域的檢測、分割和識別，并取得了巨大成功。

2.2 圖像卷積與池化

池化層是通常作為網絡的中間層與卷積層交替設置，池化操作通過不同的過濾器對特征圖進行下采樣。池化不會改變特征圖的個數，只降低特征圖的分辨率，有效地降低了神經網絡的參數。目前常用的池化方法有兩種，分別為最大池化和均值池化。最大池化法在局部接受域中選取最大的值，均值池化是在局部接受域中所有值求平均值。

2.3 Dropout技術

Dropout[12]是解決深度神經網絡模型訓練過程中過擬合問題的一種技術，主要思想是在深度神經網絡訓練的過程中，隨機丟棄神經元以及其連接。對于隨機梯度下降來說，由于是隨機丟棄，故而每一個mini-batch都在訓練不同的網絡。

2.4 Softmax與Softmax Loss

3.1 數據預處理

實驗數據來自Oxford 102 Flower數據庫[14]，其中有102類常見花卉，總共8189張圖像。花卉圖像的背景一般都比較復雜，這些復雜的背景在進行特征提取時會造成一定的干擾，因此在運行CNN模型之前需要進行數據預處理。首先將原始數據以8：2的比例隨機劃分為訓練集和測試集兩個部分，且采用One-Hot編碼。然后對數據進行數據標準化，本文采用數據標準化的方法是標準差標準化，經其處理過的數據符合標準正態分布，均值為0，標準差為1。標準差標準化（Z-score standardization）如式（4）所示。

3.2 花卉識別卷積神經網絡結構

基于花卉種類識別的網絡結構如表1所示，Input_Layer為輸入層，輸入圖片統一大小為100×100×3（100×100表示圖像分辨率，3表示圖像通道）；C1、C3為卷積層，分別使用32和64個尺寸為5×5的卷積核進行特征提??；S2、S4為池化層，都采用最大池化方式（核為2×2，步長為2）對上一個卷積層提取的特征圖進行下采樣；F5為全連接層，采用2048個節點與上一個池化層S4輸出進行全連接；Dropout層是為了防止過擬合引入，以40%的概率隨機丟棄部分數據；最后一層Output_Layer為輸出層，采用Softmax回歸進行分類輸出，通常也稱之為Softmax層。

3.3 模型訓練

在建立卷積網絡模型時各個層的參數都是依據經驗而設定，對于不同的物體在識別過程中可能不是最優參數，導致最終輸出的結果與期望值差異較大，反向傳播是訓練多層前饋神經網絡最通用的方法之一。其算法思想是：通過求解正向輸出標簽值與實際標簽值的誤差作為參數反向由輸出層向輸入層傳播，然后利用梯度下降法（ Gradient Descent，GD）求解損失函數的最小化，從而對神經元權值進行更新調整。本文采用Softmax損失函數和小批量梯度下降算法（Mini-Batch Gradient Descent，MBGD）對卷積神經網絡模型進行訓練，設定批大小為100，如圖4所示當訓練迭代次數為2500步時損失值loss接近于0，表示預測值與標簽值基本一致模型訓練完成，總用時3小時1分38秒。

4 實驗結果分析

本實驗的實驗環境：Intel Core i5 雙核 CPU，3.6GHz，8G內存，macOS操作系統，Python編程語言及其加載的Numpy庫、TensorFlow框架，開發工具VS Code。

4.1 效果展示

卷積神經網絡的輸出值經過Soft-max回歸處理后得到的是概率向量，分別表示當前圖像為每一類別的概率，最終識別結果由其概率最大值確定。識別結果演示（部分）如圖5所示，其中識別類別21、概率為99.728%，識別類別38、概率為99.947%。

4.2 誤差分析

通過已訓練的CNN模型，使用測試集數據對分類器的準確率進行測試，測試集中共102個類別花卉圖像的識別結果如下圖6所示，準確率為91.18%。

4.3 與其它算法對比分析

本文方法與其它的花卉識別方法在識別正確率的對比如表2所示，結果表明本文提出的方法識別率高于其它方法，具有實際應用性。

5 結束語

本文卷積神經網絡結構的設計是以Yann LeCun 與 YoshuaBengio 提出的LeNet網絡結構為基礎，并在訓練過程中使用誤差反向傳播方式不斷更新卷積神經網絡的各個權值，多次迭代后找出最佳參數得到合適的網絡模型，然后與其它算法對比。結果表明本文提出的方法在Oxford 102 Flowers數據庫中的實驗與其它幾種傳統方式以及一些深度學習的方式相比有更高的識別率，達到了91.18%。通過研究表明神經網絡模型深度越深效果會越好[15]，但是越復雜的模型越容易過擬合且訓練時間過長，于是如何減少訓練時間以及避免過擬合狀態的發生是今后進一步研究的方向。

參考文獻：

[1] 柯逍， 陳小芬， 李紹滋. 基于多特征融合的花卉圖像檢索[J]. 計算機科學， 2010， 37（11）：282-286.

[2] Nilsback M E， Zisserman A. A visual vocabulary for flower classification[C]. Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition. Chicago， USA：IEEE Computer Society， 2006：1447—1454.

[3] Tiay T ， Benyaphaichit P ， Riyamongkol P . Flower recognition system based on image processing[C]// 2014 Third ICT International Student Project Conference （ICT-ISPC）. IEEE， 2014.

[4] Zhang C， Liu J， Liang C， et al. Image classification using harr-like transformation of local features with coding residuals[J]. Signal Processing， 2013，93：2111-2118.

[5] 林思思，葉東毅，陳昭炯. 多特征融合的花卉圖像深度學習分類算法[J]. 小型微型計算機系統， 2018， 39（7）：72-76.

[6] Yoo D， Park S， Lee J Y， et al. Multi-scale pyramid pooling for deep convolutional representation[C]. 2015 IEEE Conference on Computer Vision and Pattern Recognition Workshops （CVPRW）. IEEE， 2015.

[7] 沈萍，趙備.基于深度學習模型的花卉種類識別[J].科技通報，2017，33（3）：115-119.

[8] 王麗雯. 基于AlexNet的Oxford花卉識別方法[J]. 科技視界， 2017，（14）：83-83.

[9] Lecun Y L， Bottou L， Bengio Y， et al. Gradient-Based Learning Applied to Document Recognition[J]. Proceedings of the IEEE， 1998， 86（11）：2278-2324.

[10] 周飛燕， 金林鵬， 董軍. 卷積神經網絡研究綜述[J]. 計算機學報，2017，40（6）：1229-1251.

[11] 郭子琰， 舒心， 劉常燕， 等. 基于ReLU函數的卷積神經網絡的花卉識別算法[J]. 計算機技術與發展， 2018， v.28；No.253（05）：160-163+169.

[12] Srivastava N， Hinton G， Krizhevsky A， et al. Dropout： a simple way to prevent neural networks from overfitting[J]. Journal of Machine Learning Research， 2014， 15（1）：1929-1958.

[13] 陳芷薇， 陳姝. 基于深度學習的人臉跟蹤自動初始化方法[J]. 計算機工程與科學， 2017（4）.

[14] Nilsback M E， Zisserman A. Automated Flower Classification over a Large Number of Classes[C]. Sixth Indian Conference on Computer Vision， Graphics & Image Processing， ICVGIP 2008， Bhubaneswar， India， 16-19 December 2008. IEEE， 2008.

[15] 紀榮嶸， 林紹輝， 晁飛， 等. 深度神經網絡壓縮與加速綜述[J]. 計算機研究與發展， 2018， 55（09）：47-64.

【通聯編輯：梁書】