一種SVM集成的圖像分類方法研究

羅會蘭，杜連平

(江西理工大學(xué)信息工程學(xué)院，江西 贛州 341000)

責(zé)任編輯:哈宏疆

隨著現(xiàn)代信息技術(shù)的發(fā)展，圖像已經(jīng)成為了一種重要的信息載體。信息量日益增大的同時(shí)，也帶來了海量的圖像數(shù)據(jù)，這就對如何快速而有效地進(jìn)行圖像數(shù)據(jù)分類提出了新的挑戰(zhàn)。然而，由于位置、尺度、光照及背景噪聲等的影響，也在一定程度上加大了圖像分類的難度。現(xiàn)存的基于形狀的模型化模型［1-2］試圖定位不同的物體局部并確定它們在空間上的關(guān)系。盡管這些方法可能表示能力強(qiáng)，但是這種空間約束模型無法處理或識別較大的變形，比如大的但不在一個平面內(nèi)的旋轉(zhuǎn)和遮擋等。近年來，一些用于圖像分類的主流方法是使用獨(dú)立塊的集合來表示圖像，這些獨(dú)立塊由局部視覺描述子來描述［3-5］。其中較為典型的是詞袋(Bag-of-Words，BOW)模型，它來源于文本分類中的“texton”模型［6］，確定每類中特定的語素(texton)比例，而忽略它們之間的空間關(guān)系。盡管BOW模型沒有顯示形狀模型化，學(xué)習(xí)到的模型對于形狀不規(guī)則的物體或者高度結(jié)構(gòu)化的物體類都是非常有效的［7］。在文獻(xiàn)［8］中，首次將這種文本檢索模型應(yīng)用到視覺檢索中，證實(shí)了這種模型的有效性。在檢測到獨(dú)立顯著性區(qū)域塊(或稱為興趣點(diǎn))且為這些區(qū)域塊計(jì)算描述子(也就是特征表示)之后，必須為訓(xùn)練和測試圖像表示它們的分布。一種較為流行的表示顯著性區(qū)域塊分布的方法，也稱為圖像量化方法［9］，是通過對特定訓(xùn)練圖像集的描述子進(jìn)行聚類得到一個視覺詞匯本。然后圖像表示成視覺單詞標(biāo)簽的直方圖。在這種情形下，文檔就是圖像，它們根據(jù)視覺詞匯本來量化，然后用傳統(tǒng)分類器來分類。

基于此，本文提出了一種支持向量機(jī)(Support Vector Machine，SVM)集成的圖像分類方法。在BOW模型描述圖像的基礎(chǔ)上，首先，分析視覺單詞數(shù)目對于分類性能的影響，從而獲得最佳分類性能時(shí)的視覺單詞數(shù)目;其次，考慮訓(xùn)練多少個不同SVM分類器，使得集成分類結(jié)果后能到達(dá)最好的分類性能。實(shí)驗(yàn)結(jié)果表明SVM集成的圖像分類方法有效提高了分類精度，具有一定的穩(wěn)健性。

1 SVM集成的圖像分類方法

本文研究將集成學(xué)習(xí)的優(yōu)勢應(yīng)用到圖像分類中。圖1是提出的SVM集成的圖像分類方法的流程圖。分類過程包括兩個階段:訓(xùn)練階段和測試階段。在訓(xùn)練階段，可以得到圖像不同的SIFT特征、不同的視覺詞匯本、不同的BOW模型。利用這些不同的BOW模型可以訓(xùn)練得到不同的SVM分類器;在測試階段，利用訓(xùn)練得到的不同的SVM分類器分別對測試圖像進(jìn)行分類，進(jìn)而得到不同的分類結(jié)果，然后將這些分類結(jié)果進(jìn)行集成作為最終的分類結(jié)果。

圖1 SVM集成的圖像分類流程圖

1.1 相關(guān)知識

Bag-of-Words在自然語言理解中是用來表示文檔的流行方法，這種方法忽略單詞的順序，比如，“a good book”和“book good a”在模型中是一樣的。Bag-of-Words模型把每個文檔看成是一個“bag”，所以順序是不考慮的，“bag”中包含了來自于一個特定字典的詞匯。計(jì)算機(jī)視覺研究領(lǐng)域使用同樣的思想來表示圖像，這里圖像被當(dāng)成文檔，從圖像中提取的特征相當(dāng)于單詞。

Lowe［10］提出了一種尺度不變特征轉(zhuǎn)換描述子SIFT(Scale Invariant Feature Transform)，它結(jié)合了一個尺度不變區(qū)域檢測子和一個基于檢測出的區(qū)域上的梯度分布的描述子。描述子表示成梯度和方向的三維直方圖。在每個位置和方向組合中統(tǒng)計(jì)梯度大小。這種梯度位置和方向的量化使得SIFT描述子對于小的幾何變形和小的錯誤更加穩(wěn)健。

BOW模型的最后一步是將興趣點(diǎn)對應(yīng)的描述子矢量轉(zhuǎn)換成視覺單詞(類似于文本文檔中的單詞)，這些視覺單詞組成一個詞匯本(類似于單詞字典)。具體做法是采用K-means聚類算法對提取圖像的SIFT特征進(jìn)行聚類，每一個聚類中心看作是圖像的一個視覺單詞，就能把每一個從圖像中提取的特征映射到與它最接近的圖像視覺詞匯本上，并且能把圖像表示為一個視覺詞匯本上的直方圖特征。一個視覺單詞可以認(rèn)為是一些相似興趣點(diǎn)的代表。一個簡單的方法是在所有的矢量上運(yùn)行聚類算法，然后視覺單詞定義成學(xué)習(xí)得到的簇的中心。簇的個數(shù)就是詞匯本的大小。在生成的視覺詞匯本的基礎(chǔ)之上，將每幅圖像中的SIFT特征與視覺詞匯本中的視覺單詞進(jìn)行比較。對于每幅圖像，分別統(tǒng)計(jì)視覺單詞出現(xiàn)的頻率，從而構(gòu)建每個圖像的BOW描述的直方圖特征。

圖2 圖像量化及分類器訓(xùn)練

圖像分類的目標(biāo)是根據(jù)它們包含的物體類別來分類。方法大致遵循傳統(tǒng)視覺詞匯本方法:先從圖像中選擇興趣點(diǎn)，然后用局部視覺描述子特征化興趣點(diǎn)，最后用學(xué)習(xí)得到的視覺詞匯本對這些描述后的興趣點(diǎn)置標(biāo)簽。和文本分類相似，通過計(jì)算每個標(biāo)簽出現(xiàn)的頻率建立一個直方圖，此直方圖用來描述圖像內(nèi)容。直方圖送入分類器來估計(jì)圖像的類標(biāo)簽。視覺詞匯本一般是由訓(xùn)練數(shù)據(jù)的描述子聚類得到。一個有n個興趣點(diǎn)，它們的描述子分別是{r1，r2，…，rn}的圖像，對于一個有L個單詞的詞匯本模型V={w1，w2，…，wL} ，傳統(tǒng)的詞匯量化此圖像得到矢量x=［x1，x2，…，xL］T，其中

量化后的圖像矢量輸入到分類器訓(xùn)練、測試，如圖2和圖3所示。這里討論的圖像分類任務(wù)是給每個圖像一個類標(biāo)簽。

圖3 測試圖像量化及分類

1.2 分類器集成

分類器集成后能否比單個成員分類器性能更好，取決于各個成員分類器間的差異性。為了更好地理解這一點(diǎn)，假設(shè)有3個分類器f1，f2，和f3。有一個測試圖像I分別輸入到這3個分類器中，如果這3個分類器是相同的，則當(dāng)f1分類錯誤時(shí)，f2和f3也會給出錯誤的答案。然而，當(dāng)這些分類器是獨(dú)立的，沒有相互關(guān)系時(shí)，則當(dāng)f1給出錯誤的答案時(shí)，f2和f3也許是正確的，所以在這種情況下，使用多數(shù)投票集成方法集成它們就能產(chǎn)生正確的結(jié)果，如圖4所示。所以集體中成員間的差異性是公認(rèn)的決定集成泛化能力的一個關(guān)鍵因素。結(jié)合多個從不同方面給出的結(jié)果的集成方法，是現(xiàn)存的最強(qiáng)的機(jī)器學(xué)習(xí)算法之一。本文的思想就是將集成方法的優(yōu)勢應(yīng)用到圖像分類中。

圖4 雖然有錯誤的分類結(jié)果，但是集成分類器的分類結(jié)果可以得到正確的分類結(jié)果

1.3 SVM集成分類方法步驟

Step1利用尺度無關(guān)特征轉(zhuǎn)換(SIFT)提取圖像特征;

Step2對SIFT特征進(jìn)行K-means聚類形成視覺詞匯本;

Step3將所有圖像的SIFT特征與詞匯本進(jìn)行比較，統(tǒng)計(jì)視覺單詞出現(xiàn)的頻率，從而構(gòu)建圖像的BOW模型描述;

Step4利用圖像的BOW模型描述訓(xùn)練SVM分類器;

Step5利用Step4得到的SVM分類器對測試圖像進(jìn)行分類，得到相應(yīng)的分類結(jié)果;

Step6重復(fù)Step1～Step5 N次，可以得到對測試圖像的N個不同的分類結(jié)果;

Step7將Step6中得到的N個不同分類結(jié)果進(jìn)行集成，并將集成結(jié)果作為最終分類結(jié)果，集成算法采用基于簇相似劃分算法(CSPA)。

2 實(shí)驗(yàn)及實(shí)驗(yàn)結(jié)果分析

為了證實(shí)本文方法的有效性，選取以下6類圖像進(jìn)行MATLAB仿真實(shí)驗(yàn)。該圖像數(shù)據(jù)集主要來自Caltech datasets，包括 Airplane，Background，Bike，Car，F(xiàn)ace，Motorbike。每一類圖像由200～1000幅圖像組成。綜合考慮實(shí)現(xiàn)的效率，每幅圖像能提取的最大興趣點(diǎn)數(shù)為100，K-means最大迭代次數(shù)為50。

首先，分析視覺單詞數(shù)目對于分類性能的影響。這里采用8 種不同大小的視覺單詞 50，100，200，300，500，600，800，1000，它們分類性能(正確分類圖像所占的百分比)的比較情況如圖5所示。從圖5不難看出，當(dāng)視覺單詞數(shù)目過小時(shí)，容易忽略圖像的某些重要的視覺特征，導(dǎo)致分類性能相對較低;但是當(dāng)視覺單詞數(shù)目大于一定值之后，視覺單詞的數(shù)目繼續(xù)增加，提升圖像分類的性能不是很明顯，而且產(chǎn)生的視覺單詞數(shù)目越多，形成詞匯本時(shí)所花費(fèi)的實(shí)驗(yàn)時(shí)間也就越長，如圖6所示。綜合考慮分類性能和時(shí)間復(fù)雜度，在后續(xù)實(shí)驗(yàn)中選擇分類性能相對較高的視覺單詞數(shù)目600。

其次，考慮到將不同的SVM分類器分類結(jié)果集成后得到的最終分類結(jié)果不同。在不同的BOW模型的基礎(chǔ)上訓(xùn)練并構(gòu)建數(shù)目 N 分別為5，10，15，20，25，30 個不同的SVM分類器，并分別對它們的分類結(jié)果進(jìn)行集成。經(jīng)過多次試驗(yàn)總結(jié)了不同數(shù)目的不同SVM分類器的分類結(jié)果集成后對分類性能的影響見圖7所示。從圖7中數(shù)據(jù)可以看出當(dāng)不同分類器數(shù)目N為10時(shí)，集成后的分類性能已經(jīng)相對較好，雖然隨著分類器數(shù)目的增多，集成分類性能提升的不是很明顯，而且需要花費(fèi)更多的實(shí)驗(yàn)時(shí)間。兼顧分類性能和時(shí)間復(fù)雜度的要求，本實(shí)驗(yàn)中對Step1～Step5重復(fù)10次，訓(xùn)練產(chǎn)生10個不同的SVM分類器并對測試圖像的分類結(jié)果進(jìn)行集成，完成分類實(shí)驗(yàn)。

最后，分別用本文提出的方法(即SVM集成分類結(jié)果的方法)、文獻(xiàn)［11］和文獻(xiàn)［12］所提出的方法進(jìn)行分類實(shí)驗(yàn)。其中，文獻(xiàn)［11］和文獻(xiàn)［12］是沒有采用集成學(xué)習(xí)技術(shù)對SVM的分類結(jié)果進(jìn)行集成的。分別比較文獻(xiàn)［11］、文獻(xiàn)［12］使用方法的分類精度和本文方法的分類精度，見表1。從表1實(shí)驗(yàn)數(shù)據(jù)可以看出，采用本文的分類方法明顯提高了分類精度。

表1 本文方法與其他方法分類精度的比較

3 結(jié)束語

本文從BOW模型理論和實(shí)驗(yàn)的基礎(chǔ)上針對SVM集成的圖像分類方法進(jìn)行了研究。實(shí)驗(yàn)結(jié)果表明采用集成學(xué)習(xí)技術(shù)的SVM集成的圖像分類方法能很好地實(shí)現(xiàn)圖像的分類，提高了分類精度，具有一定的穩(wěn)健性。當(dāng)然，本文研究的方法也存在著一些不足，需要繼續(xù)完善和探索。如何在訓(xùn)練集上訓(xùn)練KNN、SVM等多種分類器，然后對它們的分類結(jié)果進(jìn)行集成，以提高對圖像分類的精度是下一步要研究的內(nèi)容。

［1］FERGUS R.Object class recognition by unsupervised scale-invariant learning［C］//Proc.IEEE Computer Society Conference on Computer Vision and Pattern Recognition，2003.［S.l.］:IEEE Press，2003:264-271.

［2］LI Feifei.A bayesian approach to unsupervised one-shot learning of object categories［C］//Proc.the Ninth IEEE International Conference on Computer Vision:Volume 2.［S.l.］:IEEE Press，2004:1134-1141.

［3］何友松，吳煒，陳默，等.基于Bag of Features算法的車輛圖像識別研究［J］. 電視技術(shù)，2009，33(12):104-107.

［4］AGARWAL A，TRIGGS B.Hyperfeatures-multilevel local coding for visual recognition［C］//Proc.IEEE ECCV，2006. ［S.l.］:IEEE Press，2006:30-43.

［5］YUEN P C，MAN C H.Human face image searching system using sketches［J］.IEEE Trans.Systems，Man and Cybernetics:Part A，2007，37(4):493-504.

［6］VARMA M，ZISSERMAN A.A statistical approach to texture classification from single images［EB/OL］.［2012-04-10］.http://www.robots.ox.ac.uk/～vgg/research/texclass/papers/varma05.pdf.

［7］WINN J，CRIMINISI A，MINKA T.Object categorization by learned universal visual dictionary［C］//Proc.the 10th IEEE International Conference on Computer Vision:Volume 2.［S.l.］:IEEE Press，2005:1800-1807.

［8］ZHANG J.Local features and kernels for classification of texture and object categories:a comprehensive study［C］//Proc.2006 IEEE CVPR.［S.l.］:IEEE Press，2006:17-22.

［9］MAREE R.Random subwindows for robust image classification［C］//Proc.2005 IEEE CVPR.［S.l.］:IEEE Press，2005:34-40.

［10］LOWE D G.Distinctive image features from scale-invariant keypoints［C］//Proc.2004 IEEE IJCV.［S.l.］:IEEE Press，2004:91-110.

［11］劉碩研，須德，馮松鶴，等.一種基于上下文語義信息的圖像塊視覺單詞生成算法［J］.電子學(xué)報(bào)，2010，38(5):1156-1161.

［12］陳凱，肖國強(qiáng)，潘珍，等.單尺度詞袋模型圖像分類方法［J］.計(jì)算機(jī)應(yīng)用研究，2011，28(10):3986-3988.