基于特征加權(quán)的自動圖像分類方法

王科平，張志剛

基于特征加權(quán)的自動圖像分類方法

王科平，張志剛

低層特征的選擇與提取是自動圖像分類的基礎(chǔ)，一方面，所選擇的圖像特征應(yīng)能代表各種不同的圖像屬性，利于不同類別圖像之間的區(qū)分；另一方面，為了提高后續(xù)模型的計算效率，需要減少噪聲特征、冗余特征。提出了一種基于特征加權(quán)的自動圖像分類方法。該方法根據(jù)圖像低層特征分布的離散程度來衡量特征相對于類別的重要性，增加相關(guān)度高的特征的權(quán)重，降低相關(guān)度低的特征權(quán)重，從而避免后續(xù)模型被弱相關(guān)或不相關(guān)的特征所支配。所提的特征加權(quán)算法主要考察的是特征相對某個具體類別的重要程度，可以為每個類別選擇出適合自身的特征權(quán)重。然后，將加權(quán)特征嵌入到支持向量機(jī)算法中用于自動圖像分類，在Corel圖像數(shù)據(jù)集上的實驗結(jié)果表明，基于特征加權(quán)的自動圖像分類算法可以有效地提高圖像分類的準(zhǔn)確性。

自動圖像分類；特征加權(quán)；支持向量機(jī)

0 引言

隨著網(wǎng)絡(luò)圖像數(shù)據(jù)海量增長，圖像分類技術(shù)變得越來越重要。為了能夠得到更好的分類效果，人們一直在努力尋找和設(shè)計更能表達(dá)圖像語義內(nèi)容的低層視覺特征，這些特征主要有顏色特征，如顏色直方圖、顏色矩、顏色聚合向量和顏色協(xié)方差矩陣[1,2]；紋理特征，如小波變換、Gabor濾波以及關(guān)于紋理的一些統(tǒng)計特征等；形狀特征，主要是包括可以描述圖像區(qū)域形狀的圓度、傅里葉描述子、長寬比和矩不變量等等[3,4]。上述特征綜合起來在某種程度上可以很好的描述圖像的視覺特性，相應(yīng)地，描述圖像的特征數(shù)據(jù)的維數(shù)也就變得很高。在圖像表示問題中，并不是所有的這些特征數(shù)據(jù)都具有有效的預(yù)測功能，可能存在著低效特征、無關(guān)特征，這些特征不但增加了研究系統(tǒng)的復(fù)雜程度，而且還可能嚴(yán)重影響圖像分類的準(zhǔn)確性，如何從中選出區(qū)分能力強(qiáng)的特征，合理地構(gòu)造特征空間是圖像分類技術(shù)必須重視的問題，并已成為該領(lǐng)域研究的新熱點(diǎn)。

在自動圖像分類中，所提取的顏色、紋理、形狀等這些特征所起的作用不是完全相同，有些特征與分類相關(guān)性較高，有些特征與分類的相關(guān)性低，所以，不能采取“一視同仁”的方法給它們賦予相同的權(quán)重。特征加權(quán)旨在根據(jù)某種準(zhǔn)則為數(shù)據(jù)集中的各個特征賦予一定的權(quán)重，是找出最有效的特征、提高數(shù)據(jù)分類能力的一種有效方法。在特征加權(quán)中，每個特征被賦予一個0~1之間的權(quán)重，如果某個特征的相關(guān)度比較高，則賦予一個較大的權(quán)重，相關(guān)度低，則賦予一個較小的權(quán)重，不相關(guān)則權(quán)重為0。目前，已有很多研究成果是關(guān)于應(yīng)用特征加權(quán)提高機(jī)器學(xué)習(xí)算法性能的[5-8]。

1 圖像的學(xué)習(xí)方法

文獻(xiàn)[9]指出將圖像集正確的劃分到相應(yīng)的語義類別將會大大提高基于內(nèi)容的圖像檢索系統(tǒng)的性能。目前，很多機(jī)器學(xué)習(xí)算法已被成功用于圖像分類，其中，監(jiān)督學(xué)習(xí)算法是應(yīng)用較廣的一種圖像分類方法，是一種有效的降低語義鴻溝的方法。在監(jiān)督學(xué)習(xí)算法中，支持向量機(jī)由于其結(jié)構(gòu)簡單、具有全局最優(yōu)性和較好的泛化能力，被廣泛地應(yīng)用于目標(biāo)識別、文本分類。我們知道，在SVM中，核函數(shù)是一個核心問題，核函數(shù)的計算常常與樣本的特征密切相關(guān)，如果樣本中存在較多的與分類弱相關(guān)或不相關(guān)特征，那么，這些特征可能會嚴(yán)重影響核函數(shù)的計算，從而最終影響分類器的分類性能。從這個方面入手，研究者提出了很多有效的方法。文獻(xiàn)[10]和[11]提出了基于模糊數(shù)學(xué)的支持向量機(jī)模型(Fuzzy SVM, FSVM)，該模型為了減少噪聲和野值的影響，根據(jù)樣本對分類貢獻(xiàn)的不同，為其賦予相應(yīng)的隸屬度，從而提高分類器的性能。由于樣本規(guī)模大小不同也可能會造成分類性能的降低，文獻(xiàn)[12]對不同規(guī)模樣本賦予不同的權(quán)重，該方法根據(jù)類別的差異進(jìn)行了相應(yīng)的補(bǔ)償，大大提高了小類別樣本的分類精度，該文獻(xiàn)對于需要重點(diǎn)關(guān)注小樣本類別精度的應(yīng)用研究有重要的現(xiàn)實意義。文獻(xiàn)[13]提出了一種特征加權(quán)支持向量機(jī)的算法，該算法通過計算特征相對于整個分類系統(tǒng)的信息增益來衡量特征的重要性，然后將加權(quán)特征應(yīng)用到支持向量機(jī)的分類過程，取得了較高的分類效果。

在上述文獻(xiàn)所提的特征加權(quán)算法中，特征權(quán)重的計算都是相對整個分類系統(tǒng)的，即它們主要考察特征對整個系統(tǒng)的貢獻(xiàn)，而不具體到某個類別，這就使得這些算法比較適合用來做所謂“全局”特征選擇（指所有的類都使用相同的特征權(quán)重）。本文算法主要是針對“本地”的特征選擇，即，每個類別有自己的特征權(quán)重。因為在圖像分類中，特征與類別的相關(guān)度是不一致的，有的特征，對某個類別有較高的區(qū)分度，而對另一個類別則無足輕重，例如，顏色特征對圖像類別為“太陽”的影響程度較高，而位置特征對“太陽”的影響程度相對較低。因此，建立和類別相關(guān)的特征權(quán)重是本文研究的主要內(nèi)容。通過對圖像特征分布情況的分析發(fā)現(xiàn)，特征相對類別的重要程度可以根據(jù)特征的統(tǒng)計分布來衡量，所以，本文提出了一種新的特征加權(quán)算法，該算法根據(jù)圖像特征統(tǒng)計分布的離散程度來計算特征與類別的相關(guān)程度，增加相關(guān)度高的特征的權(quán)重，降低相關(guān)度低的特征權(quán)重，從而避免后續(xù)的學(xué)習(xí)算法被弱相關(guān)或不相關(guān)的特征所支配。然后，在加權(quán)特征的基礎(chǔ)上結(jié)合支持向量機(jī)算法實現(xiàn)自動圖像分類。由于，得到的特征權(quán)重是和圖像類別相關(guān)的，所以在采用訓(xùn)練好的SVM算法進(jìn)行分類時，我們先為圖像進(jìn)行多種加權(quán)處理，然后采用投票制度，根據(jù)投票結(jié)果進(jìn)行分類。最后在Corel圖像集1000幅圖像上進(jìn)行實驗，結(jié)果表明本文的特征加權(quán)算法可以有效提高圖像分類性能。

2 特征權(quán)重計算方法

圖像特征分布具有這樣的特性：在同一個圖像類別中，如果某個特征的統(tǒng)計分布比較密集，離散程度比較小，那么這個特征相對與這個類別是起支配作用的，是一個重要的特征。相反，如果某個特征統(tǒng)計分布比較分散，離散程度比較高，則這個特征對于這個類別重要度就低如圖1所示：

圖1 某類圖像前兩維特征分布

圖1(a)為某個圖像類別，30幅圖像的第一維特征分布，圖1(b)為該類圖像的第二維特征分布。從圖示可以看出，該類圖像的第一維特征分布比較離散，而第二維特征分布則比較集中，所以可知，第一維特征的重要性要低于第二維特征的重要性。那么，如何根據(jù)特征的分布特性來計算這個特征的這個重要程度，是我們實現(xiàn)特征權(quán)重計算的關(guān)鍵。

由于數(shù)據(jù)的標(biāo)準(zhǔn)差可以很好的反映數(shù)據(jù)集的離散程度，所以，本文采用標(biāo)準(zhǔn)差來衡量圖像的特征權(quán)重。標(biāo)準(zhǔn)差是各數(shù)據(jù)偏離平均數(shù)的距離（離均差）的平均數(shù)，能反映一個數(shù)據(jù)集的離散程度，可以很好的描述數(shù)據(jù)的波動性。數(shù)據(jù)分布越密集，則波動越小，相應(yīng)的標(biāo)準(zhǔn)差也就越小。相反，數(shù)據(jù)分布越分散，則波動越大，相應(yīng)的標(biāo)準(zhǔn)差也就越大。所以，標(biāo)準(zhǔn)差可以很好的刻畫我們圖像特征的分布情況。

下面我們來看具體的特征權(quán)重計算方法。

由于每類特征的取值范圍都不一致，且相差比較大，所以需要先對特征進(jìn)行歸一化處理。本文采用式(1)對特征進(jìn)行歸一化為公式（1）：

下面計算特征的標(biāo)準(zhǔn)差，設(shè)樣本集中類別為j 的第l 維的標(biāo)準(zhǔn)差為，為公式（2）：

因為特征的重要程度和特征分布的離散程度是成反比的，離散程度高，特征重要程度低，相反離散程度低，即，標(biāo)準(zhǔn)差小，則該特征的重要性越高。本文用來表示特征的重要性，其計算公式為公式（3）：

當(dāng)某維特征分布相當(dāng)密集時，其標(biāo)準(zhǔn)差會非常小，若特征取值為同一值，則標(biāo)準(zhǔn)差為零，這時為1；越大，相對應(yīng)的越小，表明該特征的重要性越小。具體每個樣本每維特征的計算方法如公式（4）：

在后續(xù)文中，采用公式(4)得到的權(quán)重為每維特征加權(quán)。

3. 基于特征加權(quán)支持向量機(jī)的圖像分類算法

3.1支持向量機(jī)

支持向量機(jī)（Support vector Machines，SVM）是由Vapnik等人于20世紀(jì)90年代中期提出，它是建立在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上的一種機(jī)器學(xué)習(xí)方法[14]。支持向量機(jī)應(yīng)用VC維理論和結(jié)構(gòu)風(fēng)險最小化原理進(jìn)行訓(xùn)練，在很大程度上克服了傳統(tǒng)機(jī)器學(xué)習(xí)方面所面臨的維度高、局部極小值以及過學(xué)習(xí)等困難，并具有良好的推廣能力。由于支持向量機(jī)出色的學(xué)習(xí)性能，使得其在模式識別和模式分類等問題中得到廣泛的研究與應(yīng)用。

支持向量機(jī)的最初研究是從兩類線性可分情況下發(fā)展而來的。給定一個線性可分的樣本集,)}是輸入向量，是類別標(biāo)簽，SVM方法就是為了尋找一個兩類之間的最優(yōu)分類面或最優(yōu)超平面。若超平面0能將樣本正確分為兩類，則最佳超平面b=應(yīng)使兩類樣本到超平面最小距離之和最大，這種最優(yōu)超平面是由離它最近的樣本點(diǎn)，也稱支持向量決定，與其他樣本點(diǎn)無關(guān)。根據(jù)實際問題的需要，后來SVM擴(kuò)展到可以處理線性不可分的情況。主要是通過非線性映射將要處理的數(shù)據(jù)映射到高維特征空間，在該空間，數(shù)據(jù)可以實現(xiàn)線性分類。

利用拉格朗日乘子算法，可以把式(5)優(yōu)化問題轉(zhuǎn)化為下面的對偶問題為公式（6）：

3.2基于特征加權(quán)支持向量機(jī)圖像分類

SVM算法屬于有監(jiān)督機(jī)器學(xué)習(xí)算法，在學(xué)習(xí)過程中，首先需要利用已標(biāo)注的數(shù)據(jù)集對SVM進(jìn)行訓(xùn)練學(xué)習(xí)，然后將訓(xùn)練好的SVM應(yīng)用于測試數(shù)據(jù)分類。本文注重的是得到本地特征權(quán)重，即，特征的權(quán)重和類別是相關(guān)的，圖像類別不同，特征的權(quán)重是不一樣的。我們用訓(xùn)練集中的樣本計算出每個類別的特征權(quán)重，賦予相應(yīng)的特征，用加權(quán)特征學(xué)習(xí)SVM分類模型。對于待分類圖像，分別采用訓(xùn)練樣本得到的權(quán)重進(jìn)行加權(quán)，然后選用概率最大的作為圖像的類別。

E和P為兩個類別的特征加權(quán)矩陣，這些特征為對角陣，具體表達(dá)形式如公式（9）：是由公式(4)計算得到，不同的圖像類別得到不同的加權(quán)矩陣。本文處理的是多類問題，我們采用下式來確定圖像的最后類別如公式（10）：

其中E和P

標(biāo)準(zhǔn)的SVM是一種典型的兩類分類器，而現(xiàn)實中要解決的問題，往往是多個類別的分類問題，比如文本分類、數(shù)字識別、圖像分類等。如何由兩類分類器得到多類分類器，就是一個值得研究的問題。現(xiàn)在常用的方法是將多類問題分解成若干個兩類問題來處理。其中“一對一（one-versus-one，OVO）”和“一對其他（one-versus-rest，OVR）”是兩種主要的方法。OVR方法將其中一類視為正類，其余類別視為負(fù)類，該方法會加劇樣本不平衡帶來的負(fù)面影響，惡化分類效果。OVO方法會為每兩類建立一個分類器，然后采用投票的方式，將樣本分配給的票最多的類別。在分類類別相對較少的情況下，OVO具有明顯的分類優(yōu)勢，所以本文采用OVO的方法進(jìn)行圖像分類。

基于特征加權(quán)支持向量機(jī)圖像分類的具體算法描述如下：

Step2：根據(jù)第2節(jié)中的描述，用公式(2)、 (3) 、(4)計算訓(xùn)練集每類中每個特征權(quán)重。

圖2 10類圖像樣本

Step3：將Step2得到的權(quán)重賦予訓(xùn)練集每個樣本，即公式（11）：為某類圖像第個特征的權(quán)重，為樣本集中該類圖像第圖像樣本的第個特征取值，為更新后的特征權(quán)重。

Step4：用加權(quán)后的特征訓(xùn)練SVM分類模型。

Step5：在為未標(biāo)注圖像分類時，分別用每類特征權(quán)重為未標(biāo)注圖像加權(quán)，然后用訓(xùn)練好的SVM分類模型分類，最后根據(jù)式(10)投票結(jié)果來判別圖像類別。

4 實驗與分析

為了驗證本文所提出的基于特征加權(quán)的自動圖像分類算法的有效性，我們采用了在圖像分類、標(biāo)注中普遍使用的Corel數(shù)據(jù)集。本實驗從Corel數(shù)據(jù)集中選擇1000幅圖像，分別屬于10個CD-ROMs，每個Corel CD-ROM目錄下包括100幅圖像，表達(dá)同一個主題概念。所有圖像為JPEG格式，大小為384x256 or 256x384。由于本實驗著重發(fā)掘圖像特征相對于分類的重要性，所以選擇的每類圖像在視覺上都具有比較明顯的共同特點(diǎn)如圖2所示：

從每類中出1幅圖像作為樣例。這些類別分別是sun(太陽)，beach(海灘)，building(建筑)，bus(公共汽車)，desert(沙漠)，elephant(大象)，flower(花)，horse(馬)，snow mountain(雪山)和food(食物)。

本實驗每幅圖像提取8個紋理特征，9個顏色特征。將1000幅圖像分為訓(xùn)練集和測試集兩部分，訓(xùn)練集包括300幅圖像，每類30幅，剩下的700幅用來測試。通過對比特征加權(quán)支持向量機(jī)和普通支持向量機(jī)在圖像集上的分類結(jié)果來驗證本文所提算法的性能，如表1，表2所示：

表1 標(biāo)準(zhǔn)SVM算法在10類圖像中的分類結(jié)果

表 2 本文算法在10類圖像中的分類結(jié)果

表1與表2分別為標(biāo)準(zhǔn)SVM在Corel圖像集上的分類結(jié)果與本文算法的分類結(jié)果，通過兩表的數(shù)據(jù)對比，可以看出特征加權(quán)支持向量機(jī)在圖像集上的預(yù)測結(jié)果要優(yōu)于標(biāo)準(zhǔn)支持向量機(jī)的預(yù)測結(jié)果。從表1可以看出在第二類beach類，標(biāo)準(zhǔn)SVM的正確標(biāo)注結(jié)果是67.1%，由于本文采用了特征加權(quán)，增強(qiáng)了特征的區(qū)分能力，將該類的標(biāo)注精度提高到了77.2%。加權(quán)特征的應(yīng)用使得與類別相關(guān)度高的特征得到加強(qiáng)，有利于類內(nèi)圖像的聚集，增加類間圖像的區(qū)分度。由實驗結(jié)果可以看出，基于特征加權(quán)的分類算法在多數(shù)類別比標(biāo)準(zhǔn)SVM的分類效果好，平均標(biāo)注精確度由70.4%，增加到72.5%。

5 總結(jié)

圖像自動分類問題是計算機(jī)視覺領(lǐng)域中備受關(guān)注的問題，由于圖像底層特征與高層語義概念之間“語義鴻溝”的存在，目前已有的自動圖像分類方法還不能令人滿意。本文提出了一種基于特征加權(quán)的自動圖像分類方法，該方法考慮到圖像特征對分類系統(tǒng)的貢獻(xiàn)不同，分別為特征賦予不同的權(quán)重。論文首先根據(jù)特征分布的離散程度來衡量特征的權(quán)重，增強(qiáng)高度相關(guān)特征在分類中的作用，避免后續(xù)標(biāo)注算法被弱相關(guān)或不相關(guān)的特征所支配。加權(quán)特征的應(yīng)用使得與類別相關(guān)度高的特征得到加強(qiáng)，有利于類內(nèi)圖像的聚集，增加類間圖像的區(qū)分度，所以使圖像整體分類效果得到提高。在Corel圖像數(shù)據(jù)集上的實驗結(jié)果表明本文所提算法具有良好的圖像分類性能。本文特征權(quán)重的計算只考慮了低層視覺特征的統(tǒng)計分布情況，沒有考慮特征的其他屬性，比如特征之間的相關(guān)特性，結(jié)合特征的其他特性設(shè)計特征權(quán)重計算方法是一個很有意義的研究內(nèi)容。

[1] X. Wang, J. Wu, H. Yang.Robust image retrieval based on color histogram of local feature regions[J]. Multimedia Tools and Applications, 2010. 323-345.

[2] T. Lu, C. Chang. Color image retrieval technique based on color features and image bitmap[J]. Information Processing and Management, 2007. 461-472.

[3] Ju Han, Kai-Kuang Ma. Rotation-invariant and scale-invariant Gabor features for texture image retrieval[J]. Image and Vision Computing, 2007. 25(9): 1474-1481.

[4] C.S. Sastry, M. Ravindranath, A.K. Pujari. A modified Gabor function for content based image retrieval[J]. Pattern Recognition Letters, 2007. 28(2): 293-300.

[5] Ran Li, Jianjiang Lu, Yafei Zhang, et al. Dynamic Adaboost learning with feature selection based on parallel genetic algorithm for image annotation[J]. Knowledge-Based Systems, 2010.23(3): 195-201.

[6] L. Setia, H. Burkhardt. Feature selection for automatic image annotation[J]. Lecture notes in Computer Science, 2006. l.4174: 294-303.

[7] L. Wang, L. Khan. Automatic image annotation and retrieval using weighted feature selection[J]. Springer Science + Business Media, LLC 2006, Multimedia Tools Applications,2006. 29(1): 55-71.

[8] 李潔, 高新波, 焦李成. 基于特征加權(quán)的模糊聚類新算法[J]. 電子學(xué)報, 2006.

[9] Li J, Wang JZ. Automatic Linguistic Indexing of Pictures by a Statistical Modeling Approach[J]. IEEE Trans. On Pattern Analysis and Machine Intelligence,2003.25(19): 1075-1088.

[10] C. Lin, S. Wang. Fuzzy support vector machines[J]. IEEE Trans.Neural Netw. 2002.13(2): 464–471.

[11] 張翔, 肖小玲, 徐光祐. 基于樣本之間緊密度的模糊支持向量機(jī)方法[J]. 軟件學(xué)報, 2006. 17(5): 951-968.

[12] 范昕煒, 杜樹新, 吳鐵軍. 可補(bǔ)償類別差異的加權(quán)支持向量機(jī)算法[J]. 中國圖像圖形學(xué)報, 2003. 8(9): 1037-1042.

[13] 汪廷華, 田盛豐, 黃厚寬.特征加權(quán)支持向量機(jī)[J], 電子與信息學(xué)報, 2009. 31(3): 514-518.. Cortes and V. Vapnik. Support-Vector Networks[J], Machine Learning, 1995. 20(3): 273-297.

Based on Feature Weighted Automatic Image Classification Method

Wang Keping1, Zhang Zhigang2
(1.School of Electrical Engineering and Automation, Henan Polytechnic University,Jiaozuo454003,China; 2. School of Information Engineering, Jiaozuo University, Jiaozuo454003,China)

The low-level feature selection and extraction are the basic problems for automatic image annotation. On the one hand, the selected features must represent the various characters of the images and be beneficial to classify the images. On the other hand, we should limit the dimension of the feature vector and reduce the redundancy of the features to save the posterior computing energy. In this paper, an automatic image classification based on the weighted feature is proposed. This method determines relevant features based on their statistical distribution and assigns greater weight to relevant features as compared to less relevant features, which will avoid the classification model being dominated by weak relevant or irrelevant features. Then we combine the weighted feature algorithm with the support vector machine (SVM) algorithm to realize the image annotation. Experimental results on the Corel image set show that the weighted feature image classification method can effectively improve the performance of classification.

Automatic Image Classification; Weighted Feature; Support Vector Machine (SVM)

TP317.4

A

1007-757X(2014)01-0013-05

2013.11.18）

王科平（1976-），女，河北張家口人，河南理工大學(xué)，副教授，博士，研究方向：圖像理解，模式識別，焦作，454003張志剛（1976-），男，河北張家口人，河南理工大學(xué)，講師，碩士，研究方向：圖像處理、識別，焦作，454003