基于組合特征選擇的目標識別算法研究

鄭春紅，王傳聰，林稚璞，楊 剛

(西安電子科技大學 電子工程學院,陜西 西安 710071)

基于組合特征選擇的目標識別算法研究

鄭春紅，王傳聰，林稚璞，楊 剛

(西安電子科技大學 電子工程學院,陜西 西安 710071)

針對飛機遙感圖像識別，對一種基于組合特征選擇的目標識別算法進行了研究。考慮獲取的飛機樣本數(shù)量有限，且存在旋轉(zhuǎn)、遮擋等現(xiàn)象，采用提取圖像熵值、歸一化轉(zhuǎn)動變量、Fourier描述子、Hu矩和Zernike矩不同的不變矩描述其整體和細節(jié)特征，用離差標準化的歸一化方法進行特征融合。考慮組合不變矩維數(shù)相對較高，用主成分分析(PCA)算法進行特征選擇以避免維數(shù)災難。用具參數(shù)優(yōu)化的支持向量機(SVM)進行分類識別。給出了目標識別算法的流程。進行了手寫數(shù)字和飛機目標識別兩個仿真實驗，結(jié)果表明：該特征選擇方法在基于MNIST數(shù)據(jù)集的小樣本手寫體數(shù)字圖像識別中，識別效果良好；在有限樣本的飛機識別中，經(jīng)特征選擇后識別效果有較大改善，識別時間縮短，訓練樣本數(shù)據(jù)多，識別的精度會更高，但當飛機目標的不同姿態(tài)下形狀發(fā)生變化時識別效果會變差。

遙感飛機圖像； 目標識別； 組合不變矩； 特征選擇； 主成分分析法； 支持向量機； 識別效果； 參數(shù)優(yōu)化

0 引言

目標自動識別是機器視覺的一個重要研究方向，在航空、航天、醫(yī)學和自動化等領(lǐng)域有廣泛的應用前景。目前，在飛機目標識別領(lǐng)域，主要的方法是提取圖像的不變矩進行組合。文獻[1]提出將仿射矩和歸一化轉(zhuǎn)動變量(NMI)進行組合，用Fisher線性判別分類器實現(xiàn)飛機目標的識別。文獻[2]提取飛機圖像的Hu矩、仿射矩和歸一化傅里葉描述子(NFD)三類不變量進行特征級融合，并結(jié)合支持向量機(SVM)實現(xiàn)飛機目標識別。文獻[3]利用圖像一階直方圖的顏色矩特征和由灰度共生矩陣生成的圖像區(qū)域紋理特征，并采用聚類分析算法對飛機圖像進行識別。文獻[4]提出一種基于邊緣形狀特征的飛機目標識別算法，由粗到精地進行模板匹配，粗匹配過程負責定位飛機目標，精匹配過程利用主成分分析(PCA)和最近鄰算法(KNN)完成目標的準確識別。文獻[5]對上述方法進行改進，用圓投影特征進行粗匹配確定飛機目標，在精匹配階段提取圖像的Harris-Laplace角點、顏色不變矩和Zernike矩，并使用歐氏距離與樣本圖像進行加權(quán)匹配，最終實現(xiàn)飛機目標的識別。

上述方法都使用由多個不變性特征構(gòu)成的高維組合不變性特征描述飛機目標，但由于組合不變性特征的維數(shù)較高，易產(chǎn)生“維數(shù)災難”，且特征集中的冗余特征和不相關(guān)特征會降低識別效果，因此必須對組合不變性特征進行特征選擇去除冗余特征和不相關(guān)特征。目前，在特征選擇領(lǐng)域，主要的方法是利用分類器的識別結(jié)果作為評價函數(shù)選擇最優(yōu)特征子集。文獻[6]將人工神經(jīng)網(wǎng)絡的識別結(jié)果作為評價函數(shù)，結(jié)合遺傳算法進行特征選擇。文獻[7]組合了特征子集間的區(qū)分度和SVM的分類結(jié)果進行特征選擇，取得了較好的效果。但這些方法選擇出的特征通用性較弱，若改變分類器，還需重新進行特征選擇。因此，本文用PCA方法根據(jù)特征集間的內(nèi)部屬性直接選擇貢獻度最優(yōu)的特征子集實現(xiàn)特征選擇。通過分析目標圖像的結(jié)構(gòu)特征，同時借鑒特征融合和特征選擇的理念，提出了一種基于組合特征選擇的目標識別方法。先提取飛機目標圖像中圖像的熵、歸一化轉(zhuǎn)動變量(NMI)、Hu矩、Zernike矩和Fourier描述子5類不變矩進行特征融合，再用PCA方法選擇貢獻度最優(yōu)的特征子集，最后以SVM作為分類器實現(xiàn)目標識別。

1 組合特征描述

在飛機二值目標圖像的特征提取過程中，既能反映形狀又能描述局部細節(jié)的特征均是形狀特征，而形狀特征又分為整體描述特征和局部細節(jié)特征。針對飛機目標圖像，本文選擇提取圖像的熵值、歸一化轉(zhuǎn)動變量、Fourier描述子、Hu矩和Zernike矩對目標進行描述。

1.1整體描述特征

圖像的熵是一種特征的統(tǒng)計形式，它反映了圖像中所含平均信息量的多少。在一幅二維圖像中，圖像的熵值常常是較穩(wěn)定的，僅受圖像內(nèi)容復雜度的影響，因此適于將其作為一種描述整體分布的特征進行提取。由文獻[8]，定義數(shù)字圖像的熵為

(1)

式中：n=M×N為目標圖像的大小；f(i，j)為點(i，j)處的像素值。

在物理學中，轉(zhuǎn)動慣量是指剛體繞軸作旋轉(zhuǎn)運動時的慣性，其量值取決于物體的形狀、質(zhì)量分布及轉(zhuǎn)軸的位置。同理，計算圖像的歸一化轉(zhuǎn)動變量(NMI)時，可將圖像中每個像素視作是有質(zhì)量的點，將每個點的灰度值看作此點的質(zhì)量。因此，NMI的定義為

rNMI=

(2)

式中：(cx，cy)為圖像灰度的質(zhì)心，類似于物理學重心的概念[9]。因NMI特征具良好的縮放、旋轉(zhuǎn)和平移不變性，且不同目標的NMI特征有明顯差異，因此可用NMI特征對目標進行整體描述。

Fourier描述子是基于圖像輪廓的不變量特征提取方法[10]。該法的要點是：假設圖像中目標邊界曲線上的點s(k)=[x(k)，y(k)]是以邊界曲線周長為周期的函數(shù)，則此周期函數(shù)就可展開成傅里葉級數(shù)，并將傅里葉級數(shù)中的一系列系數(shù)稱為Fourier描述子，其計算公式為

(3)

式中：u=0，1,2，…，N-1。然后以a(1)為基準將得到的Fourier描述子進行歸一化，歸一化后的Fourier描述子具尺度、旋轉(zhuǎn)和平移的不變性。因整體形狀的能量多集中于低頻部分，故一般只使用歸一化Fourier描述子的低頻分量對目標形狀的相似差異進行描述。

1.2細節(jié)描述特征

HU在1962年提出了Hu矩，并證明了Hu矩具旋轉(zhuǎn)、縮放和平移不變性，且可較好地描述目標的形狀細節(jié)[11]。Hu矩共由七個不變矩組成，分別為

M1=η20+η02

(4)

M2=(η20-η02)2+(3η21-η03)2

(5)

M3=(η30-3η12)2+(3η21-η03)2

(6)

M4=(η30+η12)2+(η21+η03)2

(7)

M5=(η30-3η12)(η30+η12)[(η30+η12)2+

3(η21+η03)2]+(3η21-η03)(η21+η03)×

[(3η30+η12)2-(η21+η03)2]

(8)

M6=(η20-η02)[(η30+η12)2-(η21+η03)2]+

4η11(η30+η12)(η21+η03)

(9)

M7=(3η21-η03)(η30+η12)[(η30+η12)2-

3(η21+η03)2]+(3η12-η30)(η21+η03)×

[(3η30+η12)2-(η21+η03)2]

(10)

式中：ηpq為歸一化中心距，且

(11)

此處：μpq為圖像的中心矩。離散化后圖像的p+q階中心距可表示為

(12)

其中：p，q=0，1，2，…。

Zernike矩是圖像中的點在Zernike多項式中投影所得的一組完備正交集，可構(gòu)成任意階相互獨立的多重Zernike矩特征描述圖像的形狀信息。由文獻[12]，灰度圖像中Zernike矩的定義為

(13)

在獲得的5類特征中，圖像的熵、NMI和Fourier描述子可描述目標的整體形狀特征；Hu矩和Zernike矩可描述圖像的局部細節(jié)特征，因此需將這5類特征組成一個行向量進行處理。

1.3特征融合

因提取的特征結(jié)果中包含多類不變量，其中可能存在奇異樣本數(shù)據(jù)，故需用數(shù)據(jù)歸一化方法進行特征融合。本文采用離差標準化的歸一化方法，這是一種對原始數(shù)據(jù)的線性變換，能使結(jié)果的值映射到區(qū)間[-1，1]中，可消除奇異數(shù)據(jù)對識別過程的影響，加快學習過程的收斂速度[2]。其具體步驟為，先設獲得的組合特征向量x=[x1x2…xn]，再求取特征向量的最大值xmax和最小值xmin，最后用轉(zhuǎn)換函數(shù)將特征映射到[-1，1]中。其中轉(zhuǎn)換函數(shù)可表示為

(14)

2 特征選擇

在上述的相關(guān)特征中，F(xiàn)ourier描述子序列取12維系數(shù)的模值作為特征，而Zernike矩取11階系數(shù) 88個特征值，因此相關(guān)的整體特征和局部特征總共109個。在這些數(shù)據(jù)中不可避免會出現(xiàn)冗余現(xiàn)象，因此需采用特征選擇去除冗余，避免“維數(shù)災難”。

PCA算法是目前應用廣泛的特征選擇方法，主要通過對特征集的協(xié)方差矩陣進行分析，選取對方差貢獻最大的特征子集，實現(xiàn)在降低特征維度的同時保留最大特征信息[13]。即在信息損失最小的情況下，通過將原多個指標轉(zhuǎn)為一個或幾個主成分，解決數(shù)據(jù)空間維數(shù)過高的瓶頸問題。

該算法的主要步驟如下：設從訓樣本集中提取得到的特征集為Xm×n={X1，X2，…，Xn}。此處：n為每個樣本的特征數(shù)；m為訓練樣本數(shù)；Xl×n為測試樣本集的特征集(l為總的測試樣本數(shù))。

a)計算訓練樣本特征集Xm×n的協(xié)方差矩陣Sn×n。

b)計算Sn×n的特征值和特征向量矩陣Cn×n，并將特征值按從大到小的順序排列，λ1>λ2>…>λn。

c)計算累計貢獻率。根據(jù)選定的貢獻率，選取對應的Cn×n的前列，構(gòu)成Cn×p。

d)計算訓練樣本集樣本的主成分Xm×p=Xm×nCn×p和測試樣本集的主成分Xl×p=Xl×nCn×p。

在特征選擇階段，選擇保留累計貢獻率超過99%的主成分。因此，對提取獲得的特征用PCA算法進行特征選擇后，保留前50個主成分即可，能在保留最大信息量的前提下，將特征維數(shù)從109維降低至50維。

3 支持向量機

SVM最初于20世紀90年代由VAPINK提出，是一種基于結(jié)構(gòu)風險最小化原則進行參數(shù)訓練的神經(jīng)網(wǎng)絡分類技術(shù)，具有出色的小樣本學習性能和良好的泛化性能，可根據(jù)有限樣本信息在模型的復雜度和學習能力之間尋求最佳的折中，以取得最好的推廣能力[14]。

SVM的要點是將非線性可分的數(shù)據(jù)通過一個核函數(shù)φ：RN→F映射到線性可分的特征空間F，再通過解約束優(yōu)化問題：

從而構(gòu)造出最優(yōu)超平面

H:f(x)=ωTφ(x)+b

式中：ω，b為分類超平面的參數(shù)；ξ為松弛變量；C為對分類誤差的懲罰因子。因此，在SVM中，首先需考慮C，φ的選擇。

3.1核函數(shù)選擇

SVM中有多種核函數(shù)，選擇不同的核函數(shù)得到的結(jié)果也不同。目前較常用的核函數(shù)有線性核、多項式核、徑向基核函數(shù)(RBF核)和Sigmoid核等，本文選用超參數(shù)較小，但性能優(yōu)異的RBF核函數(shù)：K(xi，yi)=exp(-γ|xi-xj|2)。此處：γ為和函數(shù)的參數(shù)，且γ>0；xj為核函數(shù)的中心。

3.2尋找最優(yōu)參數(shù)對(C，γ)

在SVM中，C的作用是在確定的特征空間中調(diào)節(jié)學習分類器的置信范圍和經(jīng)驗風險比例以增強推廣能力，C選擇合適的值會提升分類效果。在RBF核函數(shù)中，γ為核參數(shù)，可改變映射函數(shù)，進而影響樣本特征子空間分布的復雜程度。

由于SVM的參數(shù)(如C,γ)對訓練時間和識別結(jié)果的影響非常大，因此需選取最優(yōu)參數(shù)對(C，γ)。本文通過k折交叉驗證法進行網(wǎng)格尋優(yōu)搜索實現(xiàn)參數(shù)的選取，具體步驟為：先固定參數(shù)對(C，γ)取值范圍，并為(C，γ)取值，然后將已有樣本集分為k個子集，將每個子集均作一次測試集，剩余的k-1個作為訓練集，交叉驗證重復k次，每次在測試集上對訓練集中得到的模型進行測試得到分類準確率，并將k次的平均交叉驗證分類準確率作為分類器在參數(shù)對(C，γ)時的性能指標，最后在取值范圍內(nèi)調(diào)整參數(shù)對(C，γ)的值，重復交叉驗證過程，多次循環(huán)上述過程直至得到最佳交叉驗證率，同時得到最佳參數(shù)對(C，γ)。

4 實驗結(jié)果與仿真

在實驗中，首先將樣本集隨機劃分為訓練樣本集和測試樣本集，再提取訓練本集中圖像的熵、NMI、Hu矩、Fourier描述子和Zernike矩五種特征，并用歸一化方法進行特征融合后組成圖像的組合不變性特征，隨后再用PCA算法對組合不變性特征進行特征選擇，將特征維度減少至50維，用選擇后的特征集訓練參數(shù)優(yōu)化的SVM分類器，得到用于飛機目標識別的分類器模型；最后提取測試樣本集的組合不變性特征并進行特征選擇，輸入SVM分類器進行分類，得到最終的測試結(jié)果。整體的目標識別流程如圖1所示，分別對手寫體數(shù)字和飛機目標進行仿真實驗驗證。

4.1手寫數(shù)字識別

MNIST數(shù)據(jù)集是一個手寫數(shù)字庫，包含訓練數(shù)據(jù)60 000條和測試數(shù)據(jù)10 000條，每幅圖像大小為28像素×28像素，且均為灰度圖像，實驗數(shù)據(jù)集由MNIST數(shù)據(jù)集中的圖片隨機旋轉(zhuǎn)任意角度構(gòu)成，且從MNIST數(shù)據(jù)集的訓練數(shù)據(jù)和測試數(shù)據(jù)中隨機抽取一定量的數(shù)據(jù)組成新的數(shù)據(jù)集10個用于測試，新組成的數(shù)據(jù)集分別包含訓練數(shù)據(jù)600，1 200，1 800，…，6 000條和測試數(shù)據(jù)100，200，300，…，1 000條。MNIST數(shù)據(jù)集中手寫數(shù)字的樣例如圖2(a)所示，實驗數(shù)據(jù)集樣例如圖2(b)所示。

在新生成的10個數(shù)據(jù)集中，分別用SVM識別方法和基于組合特征選擇方法的目標識別系統(tǒng)對旋轉(zhuǎn)的手寫數(shù)字進行測試，所得結(jié)果如圖3所示。由圖3可知：本文方法的識別率高于經(jīng)典SVM識別方法，特別是當樣本數(shù)量較少時識別效果更好。

4.2飛機目標識別

在實驗中，共收集到8類飛機遙感圖像，包括A-10、B-1B、B-52、F-14、F-111、Mirage-2000、Mirage-F1和SAAB-37型號的軍用飛機，每類88幅，圖像共704幅，且每幅為128×128的灰度圖像。從每類飛機圖像中隨機選擇38幅作為訓練圖像，剩余的50幅作為測試圖像，共得訓練數(shù)據(jù)304條和測試數(shù)據(jù)400條。在實驗數(shù)據(jù)集中，不僅包括了旋轉(zhuǎn)不同角度的飛機圖像，而且包括部分位置被遮擋的遙感飛機圖像，用于對算法的魯棒性進行檢驗。所得旋轉(zhuǎn)不同角度的飛機遙感圖像如圖4(a)～(c)所示，尾部被遮擋的飛機遙感圖像如圖4(d)所示。

為測試特征選擇對識別性能的影響，同時驗證訓練樣本數(shù)量對識別能力的影響，從每類飛機圖像的訓練集中隨機選取10，15，20，25,35幅圖像分別作為訓練樣本集，而使用測試集中的所有圖像作為測試樣本集，然后分別用具特征選擇和不具特征選擇的目標識別系統(tǒng)進行測試，運行100次后得到的平均識別率結(jié)果和平均運行時間圖5所示。其中：運行時間為對訓練樣本集(樣本數(shù)×8)和測試集(50×8)進行分類識別所需的總時間。

由圖5可知：提取的組合不變矩可獲得較好的識別效果，而且經(jīng)過特征選擇后，識別效果和所需時間有較大改善。同時可發(fā)現(xiàn)：飛機目標的分類識別時，訓練樣本數(shù)據(jù)多，識別的精度會更高，但時間消耗也更多。

5 結(jié)束語

本文對飛機遙感圖像的分類識別進行了研究，提出了一種基于組合不變矩及特征選擇的SVM目標識別算法，實現(xiàn)了對飛機目標的高精度識別。仿真實驗結(jié)果表明：針對樣本數(shù)較少且旋轉(zhuǎn)、遮擋的飛機目標進行識別時，該方法可消除目標的旋轉(zhuǎn)、遮擋對識別結(jié)果的影響，其識別效果優(yōu)于不采用特征選擇方法；隨著樣本數(shù)的增加，平均識別率可提升到99%。旋轉(zhuǎn)后手寫數(shù)字數(shù)據(jù)集MNIST的實驗結(jié)果表明：在訓練樣本數(shù)較少時該方法仍有較高的識別精度和速度，能在背景簡單的目標識別時取得較好的效果，因此可用于多種目標識別領(lǐng)域。此外，本文的方法主要使用組合不變矩特征對目標的形狀進行描述，當飛機目標的不同姿態(tài)下形狀發(fā)生變化時識別效果將會下降，因此尋找或構(gòu)建新的特征使其對目標進行更好的描述是提升識別算法性能的關(guān)鍵。

[1] 曾萬梅， 吳慶憲， 姜長生． 基于組合不變矩特征的空中目標識別方法 [J]． 電光與控制， 2009, 16(7): 21-24.

[2] 朱旭峰， 馬彩文， 劉波. 基于特征級融合和支持向量機的飛機識別[J]. 光電子·激光， 2011, 11(22): 1710-1713.

[3] 吳東華, 夏洪山, 徐波. 基于混合矩特征提取的飛機圖像識別[J]. 微電子學與計算機, 2011, 10(28): 188-193.

[4] LIU G, SUN X, FU K, et al. Aircraft recognition in high-resolution satellite images using coarse-to-fine shape prior[J]. IEEE Geoscience and Remote Sensing Letters, 2013, 10(3): 573-577.

[5] 曾接賢, 付俊, 符祥. 特征點和不變矩結(jié)合的遙感圖像飛機目標識別[J]. 中國圖象圖形學報, 2014, 19(4): 592-602.

[6] LI L, WEINBERG C R, DARDEN T A, et al. Gene selection for sample classification based on gene expression data: study of sensitivity to choice of parameters of the GA/KNN method[J]. Bioinformatics, 2001, 17(12): 1131.

[7] 謝娟英, 謝維信. 基于特征子集區(qū)分度與支持向量機的特征選擇算法[J]. 計算機學報, 2014, 37(8): 1704-1718.

[8] ZHANG S J, JING Z L. A novel translation,scale and rotation invariant feature extractor and its applications to target recognition[J]. Machine Learning and Cybernetics, IEEE, 2004, 6: 3678-3683.

[9] 門蓬濤, 張秀彬, 張峰, 等. 基于NMI特征的目標識別與跟蹤[J]. 微計算機信息, 2004, 20(3): 24-26.

[10] JIA H T, XIE M. Improvement of Fourier descriptor using spatial normalization[J]. ISCIT IEEE, 2005(2): 1 284-1287.

[11] HU M K. Visual pattern recognition by moment invariants[J]. IRE Transactions on Information Theory, 1962(8): 179-187.

[12] ARVACHEH E M, TIZHOOSH H R. Pattern analysis using Zernike moments[C]∥ IEEE Instrumentationand Measurement Technology Conference Proceedings. [S. l.]: IEEE, 2005: 1574-1578.

[13] JOLLIFFE I. Principal component analysis[M]. New York: Springer-Verlag, 1986: 10-28.

[14] CONES C, VAPNIK V. Support vector networks[J]. Machine Learning, 1995, 20: 273-297.

TargetRecognitionAlgorithmResearchBasedonCombinedFeatureSelection

ZHENG Chun-hong， WANG Chuan-cong， LIN Zhi-pu， YANG Gang

(School of Electronic Engineering, Xidian University, Xi’an 710071, Shaanxi, China)

For remote sensing aircraft image recognition problem, a target recognition algorithm based on combined feature selection was studied in this paper. With the consideration of limited aircraft samples and rotated, occluded aircraft images, the global and local features were described using invariant moments of picture enteropy, normalized rotation variable, Fourier describer, Hu moment and Zernike moment. The feature mergence was realized by dispersion standardization of normalized method. As combined invariant moments dimension was relatively high, principal component analysis (PCA) algorithm was used for feature selection, which could avoid dimensionality curse. The aircraft classification was implemented by support vector machine (SVM) with parameter optimization. The flowchart of the target recognition algorithm was given. The two recognition samples of handwriting digital and aircraft were simulated. The results show that the recognition effect of the handwriting digital in MNIST database is good, and the recognition effect has been improved and the recognition time is shorten after feature selection for aircraft with the limited samples. The more samples training, the higher recognition accuracy. But the recognition effect will become worse when the aircraft shape has changed under different attitude.

aircraft image; target recognition; combined invariant moment; feature selection; principal component analysis (PCA); support vector machine (SVM); recognition effect; parameter optimization

1006-1630(2017)05-0059-06

2016-10-21;

2017-05-09

上海航天創(chuàng)新基金資助(SAST201453)

鄭春紅(1969—)，女，副教授，主要研究方向為智能信息處理、機電一體化等。

TP391.41

A

10.19328/j.cnki.1006-1630.2017.05.009