一種新的特征提取法在手寫數字識別中的運用

摘要：通過對多種手寫數字識別方法分析，提出一種新的基于BP神經網絡的手寫數字識別算法：該算法在應用了一種新的特征向量的提取方案，只需要提取每個字符的18個向量，節省了特征提取時間，然后，利用改進的BP神經網絡進行訓練和識別。仿真結果表明，這種新的特征提取方法對數字識別有著極好的適應性，在運行速度和識別率上比起傳統算法都有很大的提高。

關鍵詞：手寫數字識別；特征提取；BP神經網絡

中圖分類號：TP391 文獻標識碼：A 文章編號：1009-3044(2009)05-1207-02

Application of a New Feature Extraction Method in Number Recognition

ZENG Xu-feng

(School of Compter， Center South University of Forestry and Technology， Changsha 410004， China)

Abstract: By studying and analyzing many algorithms for handwritten digit recognition， this paper proposes a new algorithm for handwritten digit recognition based on BP neural network. Firstly， the new algorithm applies a new feature vector extraction program， only need to extract each character 18 vector， which saves the time of the feature extraction. And then， uses the improved BP neural network for training and recognition. The simulation results show that the improved method of digital identification has excellent adaptability， running speed and recognition rate than the traditional algorithms.

Key words: handwritten digit recognition; feature vector extraction; BP neural network

1 引言

手寫數字識別作為數字簽名等計算機信息處理領域的熱點問題一直被人們長期關注著，特征提取是手寫體數字識別中的一個重要的環節，是模式識別的核心之一。經過預處理后，滿足識別要求的模式要根據識別方法的要求抽取特征，作為識別的依據。因此，特征選擇會直接影響到分類器的構造和識別的效果。本文在通過分析與總結前人的成果，提出了一種速率和準確率都較好的方法。

2 預處理與特征提取

字符處理前的首要工作是將視覺圖像轉化為可由計算機識別的二值圖像識別前必須對圖像進行必要的預處理，經過圖像的灰度化、二值化、平滑、分割、歸一化等一系列的預處理操作之后，接下來就要提取字符的特征向量。特征提取的目的就是從分析數字的拓撲結構人手，把它的某些結構特征提取出來，使數字的位移、大小變化、字形畸變等干擾相對減小，而把那些反映數字特征的關鍵信息提供給神經網絡，這樣就等于間接地增加了網絡的容錯能力，而且經過特征提取，數據量也大大減少，相應地，網絡規模也減小了?？梢?，為了有效地進行數字識別，特征提取是影響識別效果的一個關鍵步驟，，必須在保證準確率的前提下 ，盡量使用少的特征向量。

特征向量的提取方法多種多樣，根據具體情況的不同可以來選擇不同的方法.對于手寫體數字的特征提取方法而言，通常用得比較多的有以下幾種方法：

1）逐像索特征提取法：逐像素特征提取方法是一種最簡單也是當前運用較多的的特征提取方法，它對圖像進行逐行逐列的掃描，當遇到黑色像素時取其特征為1，遇到白色像時取其特征值為0，這樣當掃描結束以后形成了一個維數與圖像中像素點的個數相同的特征向量矩。

逐像素特征提取方法的特點是算法簡單，運算速度快，可使網絡很快地收斂，訓練效果好，但是這種算法的適應性不強。

2）骨架特征提取法：骨架特征提取法是一種利用細化的方法來提取骨架的方。兩幅圖像由于它們的線條粗細不同，使得兩幅圖像差別大，但是將它們的線條進行細化以后，統一到相同的寬度，一個像素寬時，這時兩幅圖像的差距就不那么明顯，利用圖的骨架作為特征來進行數字識別，就使得識別有了一定的應性。

骨架特征提取的方法對于線條粗細不同的數字有一定的應性，但是圖像一旦出現偏移就難以識別。

3）垂立方向數據統計特征提取法：垂直方向數據統計特征提取法就是自左向右對圖像進行列的掃描，統計每列黑色像素的個數，然后自上而下逐行掃對圖像進行逐行逐列掃描，當遇到黑色像素時取其特征值為1，遇到白色像素時取其特征值為0，即當掃描結束后形成1個維數與圖像中像素點的個數相同的特征向量矩陣。這樣有多少個像素點就有多少個特征值。劃分的像素點多，影響識別的效率，劃分的太少，又影響準確率。

3 一種新的手寫體數字特征提取改進方案

上述的特征提取方法都存在有適應性不強的特點，當字符存在傾斜和偏移時都會對識別產生誤差，本文提出一種18特征提取法，只需要提取很少的特征向量，同時識別手寫體數字的效果和效率良好。提取過程總體思路是：

首先把字符平10份，分別統計這10個區域中的黑像素的數目，可以一共得到10個特征；然后統計水平方向中間五行和豎直方向中間兩列的黑色像素點的個數作為7個特征，也就是說，分別畫四道橫線（如圖1）和兩道豎線（如圖2），統計線穿過的黑像素的數目；然后統計前面黑色像素點的值作為第17個特征；

最后一個特征0表示是否存在環，1表示存在環18特征。

4 建立手寫體數字識別系統

本文利用VC6.0建立一個手寫數字識別系統，圖3為系統主界面。

對于整個系統，程序的實現分為圖像預處理和神經網絡識別兩大模塊。預處理完成提取到特征向量后，就由BP神經網絡訓練和識別。

基本的BP神經網絡由輸入層、中間層和輸出層3部分組成BP網絡的學習過程由2部分組成:正向傳播和反向傳播.當正向傳播時，輸入信息從輸入層經隱藏層處理后傳向輸出層，每一層神經元的狀態只影響下一層的神經元狀態.如果在輸出層得不到理想的輸出，則轉入反向傳播，將誤差信號沿原來的神經元連接通路返回.返回過程中逐一修改各層神經元連接的權值。關于BP神經網絡學習算法的詳細推導過程可查閱參考文獻[1]。雖然BP算法有著廣泛的應用，但是其在實際應用中存在著以下的問題:①收斂速度慢，但若加快收斂速度容易產生振蕩，所以收斂速度不好掌握;②存在逃離不出局部極小點的問題;④隱節點數和初始值的選取缺乏理論指導。

解決方案：初始權值選取時各值不要相同，以0～1之間均勻分布的隨機值。對于隱層節點數的選?。狠斎雽拥墓濣c數，也就是提取的特征數18，輸出層的節點數10，(即0000000001表示數字1，0000000010表示數字2，以此類推)，則隱層的節點數可通過經驗公式和多次試驗結果確定，試驗中證明為隱層節點數為8時效果較好。另外，采用雙動量項法，其算法如下：

式中：α、β均為動量因子。第3項可視為前一次的學習經驗，當與本次梯度方向相同時，起加速作用；否則為阻尼項，可減小學習過程的振蕩趨勢，提高網絡穩定性。第4項起到平滑學習過程、跳過局部極小的作用。使用此2項可提高網絡性能。

5 結果比較和分析

表1是一組數字的識別結果（初始值和訓練樣本相同），并與當前運用最多的用逐像索提取特征的算法進行比較（樣本為60），下面是其中一組的數據：

6 結束語

實驗證明，采用18數字特征提取方法，可以減少特征提取時間，加快系統識別速度，同時算法的準確度沒有很大的影響。若加大訓練樣本數，應可達到更高的識別率，當然訓練時間可能相應增加。因此，需要考慮如何在時間和準確度中取得平衡題。同事該算法只適合于事先知道要識別的對象是數字的識別，需要提前對樣本進行訓練，否則，這種特征提取方案是無法進行正常識別的。

參考文獻：

[1] 張猛.手寫體數字識別中圖像預處理的研究[J].微計算機信息，2006，22(6):256-258.

[2] 任民宏.基于矢量特征編碼的手寫字符識別技術[J].軟件學報2007(5):18-20.

[3] 杜彥蕊.基于特征編碼的手寫字符識別技術[J].計算機工程，2004，30(5):156-157.

[4]Alexander G，Dmitri R .Combination of assembly neu-ral network with a perceptron for recognition of hand-written digits arranged in numeral strings[J].Patter nReconition，2005，38:315-322.

[5] 邊肇祺，張學工.模式識別[M].2版.北京:清華大學出版社，2002.

[6] 彭松，方祖祥.BP神經網絡學習算法的聯合優化[J].電路與系統學報，2005，5(3):26-31.

[7] 劉光中，李曉峰.人工神經網絡BP算法的改進和結構的自調整[J].運籌學學報，2001，5(1):17-24.

[8] 王俊清.BP神經網絡以及改進[J].電子與自動化，2007(3):167-182.