遺傳算法優化特征權值的支持向量機圖像分類

王東霞，周觀民

（濟源職業技術學院 信息工程系，河南 濟源 459000）

遺傳算法優化特征權值的支持向量機圖像分類

王東霞，周觀民

（濟源職業技術學院 信息工程系，河南 濟源 459000）

為了提高圖像分類的準確率，提出了一種遺傳算法優化特征權值的支持向量機圖像分類（GA-SVM）。首先分別提取圖像的顏色和紋理特征，然后采用改進遺傳算法確定特征權值，最后采用支持向量機建立圖像分類器，并對corel圖像庫進行仿真測試。結果表明，相對于其他圖像分類算法，GA-SVM提高了圖像分類精度。

圖像分類；特征加權；支持向量機；遺傳算法

隨著圖像處理技術和互聯網技術迅速發展，圖像數據日益增多，如何對這些圖像進行分類，幫助用戶找到自己感興趣的圖像，顯得越發重要。圖像分類是圖像檢索的基礎，受到多種因素綜合影響，圖像分類精確率有待進一步提高[1]。

圖像分類實際上是一個模式識別問題，其分類結果優劣與特征選擇和分類器構建密切相關。傳統方法主要采用單一顏色或紋理特征對圖像進行建模和分類，但是不同圖像對于顏色和紋理的敏感度不同，單純依靠單一的特征對復雜多變的圖像進行分類達不到好的效果。比如，海底世界和海灘、花朵和落日，其類與類之間都有極其相似的顏色特征，故只通過顏色特征來分類則效果必然不佳，單一特征從一個角度對圖像類別信息進行描述，難以全面、準確地描述圖像類別信息，無法保證識別的正確性，識別精度低[2]。為了克服單一特征不足，一些學者基于組合優化原理，提出特征融合的圖像分類算法，使圖像的分類正確率得以提高[3]。在當前組合特征圖像分類中，每一維的權重都默認為1，即認為所有特征對分類結果貢獻相同，這與實際情況不相符[4]。當前圖像分類器主要采用神經網絡、支持向量機等進行構建[5-7]，神經網絡均基于“大樣本”定理，在滿足大樣本條件下，具有較好的分類結果，當圖像數量樣本有限時，易陷入局部極值和過擬合等缺陷，分類正確率難以滿足圖像實際分類應用的要求。支持向量機（Support Vector Machine Classifier，SVM）基于結構風險最小化原則，較好地克服了神經網絡的過擬合等缺陷，在圖像分類中得到了廣泛的應用[8]。

為了提高圖像分類的準確率，提出了一種遺傳算法優化特征權值的支持向量機圖像分類（GA-SVM）。首先分別提取圖像的顏色和紋理特征，然后采用改進遺傳算法確定特征權值，最后采用支持向量機建立圖像分類器，并對corel圖像庫進行仿真測試。結果表明，相對于其他圖像分類算法，GA-SVM提高了圖像分類精度。

1 GA-SVM的圖像分類思想

GA-SVM的圖像分類基本思想為：首先分別提取圖像的顏色和紋理特征，然后采用遺傳算法得到最優分類權值向量解，并利用該最優權值對圖像各個特征進行加權，最后用加權支持向量機建立圖像分類器。具體如圖1所示。

圖1 圖像分類算法的工作流程

2 圖像特征的提取和權值確定

2.1 顏色特征

對于一幅圖像，直方圖和矩陣特征難以描述其類別關系，這主要由于它們沒有考慮各個顏色分布的結構特性，因此本文選擇用顏色聚合向量來表達圖像的顏色特征[9]。其表達式為：＜(?1,β1),(?2,β2),...(?N,βN)＞，其中 βi為非聚合像素的數目，?i為第i個bin的聚合像素的數目[10]。

2.2 Gabor紋理特征

Gabor濾波器函數可以表示為

各個濾波器的方差可以表示為

通過Gabor濾波，可以找到一個40維的Gabor紋理特征向量：(μ11,σ11,μ12,σ12,...,μ45,σ45)。

2.3 特征歸一化

由于特征數量綱量不一致，容易對分類效率產生不利影響，為了解決該難題，將提取的特征進行歸一化處理，具體方式如下[11-12]。

提取的顏色和紋理特征如圖2所示，從圖2可知，不同類圖像的顏色和紋理特征差異大，因此，根據該差異對圖像進行分類。

圖2 十類圖像的特征分布

2.4 遺傳算法確定特征權值

傳統圖像分類算法認為各個特征對分類效果的貢獻一樣，但實踐證明，對于不同類型的圖像，起決定性因素的分類特征是不一樣的。鑒于此，采用遺傳算法對圖像特征進行加權，考慮各個特征對圖像分類效果的不同貢獻，為貢獻大的特征在分類中分配更大的權值，貢獻小的特征分配較小的權值，然后結合多種特征共同對圖像進行分類。

1）收集圖像數據，并對圖像預處理，消除圖像中的噪聲。

2）分別提取圖像的紋理、顏色特征，并轉化為相應的特征向量，同時對特征進行歸一化處理。

3）隨機初始化種群，每個個體對應一組特征權值。

4）根據特征值建立學習樣本，輸入到支持向量機中學習，計算每一組權值相對應的檢索結果。

5）對個體進行選擇、交叉和突異操作，產生新一代種群。

6）如果達到最大迭代次數，則結束權值尋優，否則跳轉到步驟4）繼續執行。

7）將最優個體進行解碼，得到特征的最優權值。

具體流程如圖3所示。

圖3 遺傳算法優化特征權值的流程

3 圖像分類器的構建

設訓練集的樣本數為n，那么訓練集可以表示為：xi,yi,1＜i＜n,其中，xi∈Rm，yi∈R ，m表示訓練集輸入參數的準度，xi為一個m維的向量，yi表示訓練集輸出結果，為一個實數。SVM通過非線性映射函數φ(x)將輸入樣本映射到高維特征空間F，并在F中進行線性估計，SVM在高維特征空間中的估計函數為

式中：w和b分別為估計函數的權值向量及偏移量。

根據結構風險最小化原則，式（6）可轉化為如下優化問題，即

式中：‖w ‖是與函數 f復雜度相關的項；ε為不敏感損失系數；ξi,表示松弛因子；C表示懲罰因子。

引入拉格朗日乘子，優化問題變為凸二次優化問題

式中：αi和表示拉格朗日乘子。

為了加快求解速度，將式（6）轉成對偶形式，即有

相應的約束條件為

采用核函數K（xi，x）代替高維空間中的向量內積（φ（xi），φ（x）），避免維數災難，則SVM的分類決策函數為

由于RBF函數待優化參數少，因此選擇其建立SVM分類函數，因此有

式中，σ為RBF核函數寬度。

SVM是二分類器，而圖像分類是一種多分類問題，必須構造多分類器才能進行圖像自動分類，采用一種“一對多”方式進行構建，具體如圖4所示。

4 仿真實驗

4.1 數據來源

為了驗證GA-SVM的圖像分類性能，在Intel 2.8 GHz CPU，2 Gbyte RAM，Windows 7的計算機平臺，采用VC++進行仿真實驗。實驗圖像來自corel公司發布的權威圖像數據庫，共包含有10類圖像，它們分別為非洲、蝴蝶、建筑、汽車、恐龍、海底世界、花朵、駿馬、山峰和落日，每類圖像100幅，共1 000幅圖像，訓練集每類50幅，測試集每類50幅，各類圖像如圖5所示。

圖4 圖像分類器的構建

圖5 仿真實驗用到的圖像

4.2 結果與分析

提取圖像的72維顏色聚合向量表征顏色特征和40維Gabor紋理向量表征紋理特征，根據遺傳算法得到權值，然后采用支持向量機進行分類，并采用顏色特征、紋理特征分類、沒有加權組合特征的分類圖像結果進行對比，結果見表1。

表1 不同算法在測試集的分類正確率%

從表1可以得到如下結論：

1）相比于單特征和不加權組合特征分類方法，GA-SVM能夠明顯提高分類系統的平均準確性。并且利用遺傳算法自身特有的優勢，為特征權值找到全局最優解，提高了圖像分類準確率。

2）對于建筑和山峰，這兩種圖像很容易造成錯分，主要是由于兩者的灰色調相同，使得提取紋理特征十分相似，而且兩者都具有相似的外形，如都較挺拔堅硬，如圖6所示。

圖6 容易被錯分圖像

4.3 識別速度比較

測試顏色特征方法、紋理特征方法、沒有加權的組合特征方法以GA-SVM的識別速度，結果見圖7。從圖7可知，相較于其他算法，GA-SVM的識別效率得到大幅度提高，可以更好地滿足網絡圖像的在線檢索應用。

圖7 各算法的識別速度對比

5 結束語

針對圖像分類的特征提取和分類器優化問題，提出一種特征加權和支持向量機相融合的圖像分類模型。首先分別提取圖像的顏色和紋理特征，然后采用遺傳算法確定特征權值，最后采用支持向量機建立圖像分類器，并對corel圖像庫進行仿真測試。仿真結果表明，GA-SVM提高了圖像分類的正確率，具有較高的分類速度，驗證GA-SVM的有效性。

[1] SIMPSON J J，MCINTIR JT.A recurrent neural network classifi?er for improved retrievals of area extent of snow cover[J].IEEE Trans.Geosciences and Remote Sensing，2001，39：2135-2147.

[2]SMEULDERS A W M，WORRING M，SANTINI S，et al.Con?tent-based image retrieval at the end of the early years[J].IEEE Trans.Pattern Analysis and Machine Intelligence，2000，22（12）：1-32.

[3] 謝文蘭，石躍祥，肖平.應用BP神經網絡對圖像分類[J].計算機工程與應用，2010，46（2）：163-166.

[4]付巖，王耀威，王偉強，等.SVM用于基于內容的圖像分類和檢索[J].計算機學報，2003，26（10）：1262-1265.

[5]朱飛，王興起.基于SIFT算法的體育類圖像分類與應用研究[J].計算機應用與軟件，2011，28（10）：232-234.

[6] LU D，WENG Q.A survey of image classification methods and techniques for improving classification performance[J].Internation?al Journal of Remote Sensing，2007，28（5）：823.

[7] CHEN Y X，WANG J Z.Image categorization by learning and reasoning with regions[J].Journal of Machine Learning Re?search，2004，5（8）：913-939.

[8] ZHAO G，PIETIKAINEN M.Dynamic texture recognition using local binary patterns with an application to facial expressions[J].IEEE Trans.Pattern Analysis and Machine Intelligence，2007，27（6）：915-928.

[9]ZHANG B C，GAO Y S，ZHAO SQ，et al.Local derivative pat?tern versus local binary pattern：face recognition with high-order local pattern descriptor[J].IEEE Trans.Image Processing，2010，19（2）：533-544.

[10] 劉麗，匡綱要.圖像紋理特征提取方法綜述[J].中國圖象圖形學報，2009，14（4）：623-635.

[11] JIANG Shuhong，HEN Bingfa.Method of image retrieval based on integrating low level feature with relevance feedback[J].Ma?chine Building and Automation，2009，38（3）：51-53.

[12] 張剛，馬宗民.一種采用Gabor小波的紋理特征提取方法[J].中國圖象圖形學報，2010，15（2）：248-254.

Iam ges Classification Based on Genetic A lgorithm Optim izing Features W eight and Support Vector M achine

WANG Dongxia，ZHOU Guanmin
（Department of Information Engineering，Jiyuan Vocational and Technical College，Henan Jiyuan 459000，China）

In Order to improve the accuracy of the image classification，a support vector machine image classification (GA-SVM)is proposed based on genetic algorithm optimizing feature weight.Firstly，the color and texture of image are extracted.Then the feature weight are determined by the improved genetic algorithm.Finally，image classifier is established by support vector machine and the simulation test is carried out on core image library.The results show that the GA-SVM algorithm can improve the image classification accuracy compared to other image classification algorithm.

image classify；feature-weighted；support vector machine；genetic algorithm

TN911.73

A

10.16280/j.videoe.2015.02.020

王東霞（1970—），女，副教授，主研計算機應用、圖像圖像處理、知識工程；

2014-04-21

河南省科技攻關項目（132102210229）

【本文獻信息】王東霞，周觀民.遺傳算法優化特征權值的支持向量機圖像分類[J].電視技術，2015，39（2）.

周觀民（1964—），副教授，主研計算機應用、圖像處理、網絡技術。

責任編輯：閆雯雯