基于卷積神經網絡的隨機手寫數字識別

高 磊，洪奔奔，姚青岐

?

基于卷積神經網絡的隨機手寫數字識別

高 磊，洪奔奔，姚青岐

（西安工程大學，機電工程學院，陜西 西安 710048）

針對傳統手寫數字的隨機性、無規律性等問題，為了提高手寫數字識別的檢測準確性，本文在研究手寫數字區域特點的基礎上，提出了一種新的手寫數字識別檢測方法.首先，對采集的手寫數字圖像進行預處理，由于原始圖像包含各種各樣的噪聲，為了防止造成干擾，對圖像進行去噪、濾波等處理；然后，在MATLAB中構建卷積神經網絡（CNN）模型結構，采用CNN模型中典型的 LeNET-5的卷積模型，通過對采集圖像進行逐層學習、訓練與測試，將學習得到的高層特征用于手寫數字識別。以隨機手寫數字與字母進行圖像驗證，結果表明，該模型算法應用于手寫數字或字母準確識別，可獲得較高的識別率，具有一定的通用性。

圖像預處理；深度學習；LeNet-5卷積模型；手寫數字識別

0 引言

手寫體數字屬于光學字符識別的范疇，但分類的類別比光學字符識別少得多，主要只需識別0~9共10個字符。近年來，隨著計算機技和數字圖像處理技術的飛速發展，手寫體數字識別在電子商務、機器自動輸入等場合逐步獲得推廣。與其他字符的識別相比，手寫體數字識別的研究有隨機性、不規則性等缺點。但在許多自動錄入、識別領城，機器自動識別仍然發揮主要的作用[1]。

傳統的機器學習與信息處理技術采用淺層架構，即包含一個單層的非線性特征轉換，用來將輸入信號轉換至特定問題的特征空間[2]。淺層結構具有響應速度慢、分布能力差等缺點。然而，人類對于視覺以及語言的處理機制，要通過深度學習，從大量的輸入信息中提取復雜的特征信息，因此需要建立深層架構[3]。深層架構可以用新層次的實現來替換原有層次的實現、可以降低層與層之間的依賴、有利于標準化、有利于各層邏輯的復用等。

文獻[4]探討了卷積神經網絡的基本原理及應用。首先回顧了卷積神經網絡的發展歷史，闡述了它的基本原理，研究了卷基層和下采樣層；其次總結了卷積神經網絡的三大重要特征：稀疏連接、權值共享和池采樣，并將卷積神經網絡應用在MNIST手寫數字識別中，但沒有解決過擬合現象提高學習能力和設置合理參數等問題。文獻[5]，為了解決銀行郵局等場合的實時數字識別問題，提出了一種優化的卷積神經網絡數字識別方法模型為基礎改進了卷積神經網絡結構并推導了改進后的前向和反向傳播算法，將改進的卷積神經網絡用在印刷數字組合數據庫上進行測試，此方法識別準確率有所提高，但不具備隨機性和不規則性的手寫數字的識別。

本文采用深度學習的卷積神經網絡手寫數字識別是通過內部卷積來識別圖像，可看到已識別圖像上物體的邊緣，特別在圖像特征識別上表現優異。深度卷積神經網絡具有共享卷積核，對高維數據處理無壓力，無需手動選取特征，訓練好權值，即得分類特征。既滿足了手寫數字識別的隨機性和不規則性，又提高了檢測準確率。

1 相關理論分析

手寫數字識別中，特征的提取作為其中的關鍵部分，采用深度學習模型，可以避免預處理過程，減少人為因素影響。CNN作為深度學習中，較早提出來的模型結構，結構較為簡單，需要訓練的參數數量較少，適用性較強，在最近幾年的發展中，廣泛應用于圖像處理與模式識別等領域。

利用卷積神經網絡中的典型結構LeNet-5模型。下面結合LeNet-5結構圖[6-8]做具體的分析，如圖1所示。

圖1 卷積神經網絡中的典型LeNet-5模型

下面逐層分析：

第一層：數據輸入層

卷積神經網絡的強項在于圖像的處理，lenet的輸入為32*32的矩陣圖像。

第二層：卷積層c1

卷積層是卷積神經網絡的核心，通過不同的卷積核，來獲取圖像的特征。卷積核相當于一個濾波器，不同的濾波器提取不同特征。

第三層：pooling層s2

基本每個卷積層后邊都會接一個pooling層，目的是為了降維。一般都將原來的卷積層的輸出矩陣大小變為原來的一半，方便后邊的運算。另外，pooling層增加了系統的魯棒性，把原來的準確描述變為了概略描述。

第四層：卷積層c3

與之前類似，在之前的特征中進一步提取特征，對原樣本進行更深層次的表達。這里不是全連接。X代表連接，空白代表不連。

0123456789101112131415 0XXXXXXXXXX 1XXXXXXXXXX 2XXXXXXXXXX 3XXXXXXXXX 4XXXXXXXXXX 5XXXXXXXXXX

第五層：pooling層s4

基本每個卷積層后邊都會接一個pooling層，目的是為了降維。一般都將原來的卷積層的輸出矩陣大小變為原來的一半，方便后邊的運算。另外，pooling層增加了系統的魯棒性，把原來的準確描述變為了概略描述。

第六層：卷積層（全連接）c5

有120個卷積核，這里是全連接的。將矩陣卷積成一個數，方便后邊網絡進行判定。

第七層：全連接層

和MLP中的隱層一樣，獲得高維空間數據的表達。

第八層：輸出層

一般采用RBF網絡，每個RBF的中心為每個類別的標志，網絡輸出越大，代表越不相似，輸出的最小值即為網絡的判別結果。

2 卷積神經網絡主要結構分析

2.1 卷積層分析

卷積層是卷積神經網絡[9]中的基礎操作，在網絡最后起分類作用的全連接層，在工程實現時也是由卷積操作替代的。假設輸入圖像（輸入數據）為如圖2中右側的5×5矩陣，其對應的卷積核為一個3×3的矩陣。同時，假定卷積操作時每做一次卷積，卷積核移動一個像素位置，即卷積步長為1。第一次卷積操作從圖像(0,0)像素開始，由卷積核中參數與對應位置圖像像素逐位相乘后累加作為一次卷積操作結果，如圖3a所示。類似地，在步長為1時，如圖3b至圖3d所示，卷積核按照步長大小在輸入圖像上從左至右自上而下依次將卷積操作進行下去，最終輸出3×3大小的卷積[10]特征，同時該結果將作為下一層操作的輸入。

圖2 二維場景下的卷積核與輸入數據

注：左圖為3×3的卷積核，右圖為5×5的輸入

其中，(i +1,j +1)為卷積結果的位置坐標，滿足下式：

0≤i 1<H ?+ 1 =H +1，0 ≤j +1<W ?+ 1 =+1

圖3 卷積操作

2.2 pooling層分析

其中，0 ≤i +1< Hl+1，0 ≤j +1< W +1， 0 ≤< D +1= D 。

圖4為2×2大小、步長為1的最大值匯合操作。除了最常用的上述兩種匯合操作外，隨機匯合則介于二者之間。隨機匯合操作非常簡單，只需對輸入數據中的元素按照一定概率[13]值大小隨機選擇，并不像最大值匯合那樣永遠只取那個最大值元素。對隨機匯合而言，元素值大的響應被選中的概率也大，反之易然。可以說，在全局意義上，隨機匯合與平均值匯合近似；在局部意義上，則服從最大值匯合的準則。

圖4 最大值匯合操作

3 手寫數字識別的實驗與分析

該模型[13]采用的數據為mnist手寫數據庫，含有70000個手寫數字樣本其中60000作為訓練樣本，10000作為測試樣本。經過去噪、濾波等處理，部分樣本圖像如圖5所示。

圖5 部分樣本圖像

計算流程包括數據讀取、模型訓練、模型測試、繪制均方誤差圖四個主要過程，如圖6所示

圖6 數字識別流程

本文采用基于matlab環境下，深度學習卷積神經網絡對讀取圖像進行數字識別流程操作[14]，其主要步驟如下：

（1）設置CNN的基本參數規格，如卷積、降采樣層的數量，卷積核的大小、降采樣的降幅

（2）cnnsetup函數初始化卷積核、偏置等

（3）cnntrain函數訓練cnn，把訓練數據分成batch，然后調用

1）cnnff完成訓練的前向過程

2）cnnbp計算并傳遞神經網絡的error，并計算梯度（權重的修改量）

3）cnnapplygrads 把計算出來的梯度加到原始模型上去

（4）cnntest函數，測試當前模型的準確率

將訓練數據輸入網絡中，在不同訓練樣本下，采用不同的迭代次數，計算均方誤差值、測試圖像準確率與訓練圖像準確率，如表1所示。

表1 不同訓練樣本下圖像準確率檢測及均方誤差值

Tab.1 Image accuracy detection and mean square error under different training samples

實驗結果分析如下：

由表1可以得出，均方誤差值的大小與迭代次數和訓練權值無關，與訓練樣本數量有關。隨著訓練樣本數量的增加，圖像檢測準確率逐漸增加。當網絡輸入的訓練樣本數量為6000張，迭代次數為10次時，測試圖像檢測準確率為98.43%，訓練圖像檢測準確率為98.3133%.

由于訓練樣本較多，無法實現一次性將全部樣本輸入到網絡，因此采取分批次輸入，使網絡得到充分訓練，為研究每輸入到網絡中的訓練權值對識別率的影響，分別將訓練權值為10、30、50輸入到網絡中，得到的實驗結果如圖7所示。

圖7（a）、（b）中，橫坐標表示迭代次數，,縱坐標表示圖像識別錯誤率，從圖7中可以看出，隨著迭代次數的增加，圖像識別錯誤率逐漸減小，網絡逐漸達到收斂狀態。當訓練權值為10時，在測試圖像中，迭代4次左右就可以取得較高的識別率；而在訓練圖像中，迭代8次左右就可以取得較高的識別率，識別效果明顯。此實驗結果說明，訓練權值越小，網絡收斂速度越快。同時圖像識別錯誤率比訓練權值為30和50都要低。

圖7 在不同訓練權值下迭代次數與圖像識別錯誤率

綜上所述，表明該訓練模型能有效地表示圖像檢測準確率。隨著迭代次數的增加，圖像測試準確率和訓練準確率，不斷提高，使得不同類型的圖像能夠被區分出來；隨著訓練樣本的增加，樣本的交錯重疊現象幾乎可以忽略，能有效的解決過擬合現象，提高學習能力，可以很好的解決手寫數字的隨機性和不規則性等問題。

為了分析深度學習卷積神經網絡的識別性能，利用幾種常用的識別方法對手寫數字進行識別，結果如表2所示。

表2 幾種常用方法識別結果

Tab.2 Several commonly used methods to identify the results

從表2可以看出，深度學習卷積神經網絡模型在手寫數字的識別準確率為98.31%，和其它識別方法相比，其識別準確率更高，表明此方法在手寫數字識別方面具有一定的優勢。

4 結語

本文首先通過對手寫數字圖像去除高斯噪聲、椒鹽噪聲等，有效濾除噪聲信息；然后，采用深度學習CNN中典型的LeNET-5的卷積模型，對輸入數據進行逐層學習，將學習得到的高層特征用于手寫數字識別。克服了手寫數字識別的隨機性、不規則性等問題；最后，在手寫數字識別檢測過程中，有效抑制了各種干擾信息，提高了手寫數字識別區域顯著度，提高了手寫數字識別準確檢測，防止了圖像的過度擬合。本文在圖像檢測類別上還存在一定的局限性，如何應對不同類型的圖像，提高檢測準確率，將是深度學習卷積神經網絡后期待解決的問題。

[1] 宋昌統, 黃力明, 王輝. 基于概率神經網絡的手寫體數字識別[J]. 微型電腦應用, 2016, 32(10): 14-15+21.

[2] DONG Y, LI D. Deep Learning and Its Applications to Signal and Information Processing[J]. IEEE SIGNAL PROCE-SS-ING MAGAZINE. 2011. 28(1): 145-154.

[3] SERRE T, KREIMAN G, KOUTH M, et al. A quantitative theory of immediate visual recongnition[J]. Progress in Brain Research, 2007, 165: 33-56.

[4] 馬媛媛, 史加榮. 卷積神經網絡及其在手寫體數字識別中的應用[J]. 湖北工程學院學報, 2017, 37(6): 66-72.

[5] 代賀, 陳洪密, 李志申. 基于卷積神經網絡的數字識別[J]. 貴州師范大學學報(自然科學版), 2017, 35(5): 96-101.

[6] 李斯凡, 高法欽. 基于卷積神經網絡的手寫數字識別[J]. 浙江理工大學學報(自然科學版), 2017, 37(3): 438-443.

[7] 王立中, 管聲啟. 基于深度學習算法的帶鋼表面缺陷識別[J]. 西安工程大學學報, 2017, 31(5): 669-674.

[8] Ameen, Salem. A convolutional neural network to classify American Sign Language fingerspelling from depth and col-our images[J], Expert systems. 2017. 34(3): e12197.

[9] 馬寧, 廖慧惠. 基于量子門神經網絡的手寫體數字識別[J]. 吉林工程技術師范學院學報, 2012, 28(4): 71-73.

[10] Ravi Babu, U. Handwritten Digit Recognition Using Structural, Statistical Features and K-nearest Neighbor Class-ifier[J], International Jourmnal of Information Engineering &Ele tronic Business. 2014. 6(1): 62-68.

[11] 鐘彩. 邊緣檢測算法在圖像預處理中的應用[J]. 軟件, 2013, 34(1): 158-159.

[12] GORGEVIK D. CAKMAKOV D. Handwitten digit reog-nition by combining SVM classifiers[C], The International Conference Computers as a Tool. 1EEE, 2005: 1393-1396.

[13] 杜敏, 趙全友. 基于動態權值集成的手寫數字識別方法[J]. 計算機工程與應用, 2010, 46(27): 182-184.

[14] 黃弋石, 梁艷. 手寫識別建模數學方法研究[J]. 軟件, 2013, 34(8): 13-15.

Random Handwritten Numeral Recognition Based on Convolution Neural Network

GAO Lei, HONG Ben-ben, YAO Qing-qi

(College of mechanical & electronic Engineering, Xi’an Polytechnic University, Xi’an, 710048, China)

Aiming at the randomness and irregularity of traditional handwritten numbers, in order to improve the detection accuracy of handwritten digital recognition, this paper proposes a new method of handwritten digital recognition detection based on the study of the characteristics of handwritten digital regions. Since the original image contains various kinds of noise, in order to prevent interference, the image is de-noised and filtered. Then, in MATLAB, the convolution neural network (CNN) model structure is constructed, and the typical LeNET-5 convolution model in the CNN model is used to learn, train, and test the collected images layer by layer. The learned high-level features are used for handwritten number recognition. The results show that the model algorithm can be applied to the accurate recognition of handwritten numbers or letters, and can obtain a higher recognition rate and have a certain generality.

Image pretreatment; Depth learning; LeNet-5 convolution model; Handwritten numeral recognition

TH83

A

10.3969/j.issn.1003-6970.2018.09.016

高磊(1991-)，男，研究生，主要研究方向：機器視覺與視覺控制；洪奔奔(1992-)，男，研究生，主要研究方向：視覺檢測與識別；姚青岐(1993-)，男，研究生，主要研究方向：液壓控制。

本文著錄格式：高磊，洪奔奔，姚青岐. 基于卷積神經網絡的隨機手寫數字識別[J]. 軟件，2018，39（9）：74-78