基于稀疏鄰域的特征融合算法及其應用

臧 飛，楊沁梅

(中國電子科技集團公司第二十八研究所，南京 210007)

1 概述

基于特征融合的目標識別算法是從不同目標中抽取反映目標本質屬性的特征信息，并將不同的目標特征信息依據某種準則或應用背景進行合理組合，以便對不同目標類型進行識別估計。在傳統的識別應用領域，基于特征融合的目標識別算法可以有效抽取不同類型數據的幾何本質特征［1］，從而對不同圖像進行正確識別;在現代軍事應用中，基于特征融合的目標識別算法是威脅估計和態勢分析的前提，可用以獲得準確可靠的目標類型估計［2］。

在融合目標識別算法中，基于圖的學習方法在近幾年得到長足發展，尤其以KNN 最近鄰方法為代表。KNN 的優勢在于可較容易地計算出兩點間的歐幾里得距離，如在局部保持投影算法［3-4］中，采用高斯核度量樣本間的相似性;在局部線性嵌入［5-6］算法中，以最小化局部線性重構誤差為代價。KNN 的不足之處在于實際應用中鄰域參數難以確定以及受噪聲的影響較大，且這種學習方式中圖的結構與圖中邊的權數未建立必然的聯系。

近年來，基于稀疏表示的分類算法與融合算法在各領域得到快速的發展。作為一種新型的監督分類方法，稀疏表示分類(Sparse Representation-based Classification，SRC)［7］能有效處理圖像中的遮擋等問題;基于稀疏表征的單樣本識別方法［8］通過Shift 或主成份分析(Principal Component Analysis，PCA)重構方法產生冗余樣本，在將生成的新樣本作為測試樣本的基礎上利用SRC 進行目標識別;基于PCA 特征基壓縮傳感算法［9］利用雙向二維主成份分析提取的特征作為后續融合分類的超完備基，以最小殘差為準則對測試圖像進行目標識別;稀疏保持判別融合算法(Sparsity Preserving Discriminant Analysis，SPDA)［10］用訓練樣本的稀疏重構關系代替傳統最近鄰關系，實現數據的稀疏重構關系的保持;稀疏保持典型相關分析融合算法(Sparsity Preserving Canonical Correlation Analysis，SPCCA)［11］在典型相關方法的基礎上引入稀疏保持項，實現2 組特征判別信息的有效融合。

在SRC、SPDA 等算法中，關鍵是采用了樣本的稀疏表示，即在不同方法的學習過程中，均采用相同的方式構造了稀疏圖［12-13］。在這種構圖方式中，圖的結構和相應邊的權數通過求解l1范數同時得到，建立了兩者間的直接聯系。在稀疏表示自身具有的判別屬性條件下，稀疏圖比KNN 圖反映了更多的樣本間相似關系。對于某個被表示樣本，余下所有訓練樣本或測試樣本均對該樣本起到表示作用，但表示系數較大的樣本所起作用較大，且系數較大的樣本與被表示樣本具有相同的類別屬性。因此，為了充分利用具有較大表示系數的樣本，削弱具有較小表示系數樣本的作用，本文為每個被表示樣本定義了稀疏鄰域，并通過該稀疏鄰域構造基于圖的學習方法。

此外，基于單一數據特征的融合識別算法在良好限制條件下可以取得較好的實驗結果，但在圖像融合、態勢威脅估計等目標識別應用中，基于單一數據特征的融合識別算法往往會受到各種不利因素的干擾，造成算法或系統的融合性能與識別結果的下降。為此，本文提出基于稀疏鄰域的特征融合算法(Sparisity Preserving Discriminant Analysis Based on Sparse Neighborhood，SNSPDA)。該融合算法在保持傳統融合識別方法中數據本質幾何結構的同時，有效利用了訓練樣本的稀疏重構關系，使其既可以反映少量標簽樣本的類信息，又能捕獲大量無標簽樣本的自然屬性。

2 特征融合算法

在本文中，特征融合算法的目的是從少量標簽樣本和大量無標簽樣本中抽取出適用于識別、聚類等不同應用的融合特征。在圖像特征融合識別應用中，標簽樣本的個數遠遠地少于樣本自身的冗余維數，為此，典型的特征融合方法如半監督判別融合算法(Semi-supervised Discriminant Analysis，SDA)［14］和稀疏保持判別融合算法(SPDA)［6］等，均采用正則化技術解決算法中遇到的奇異性問題。

給定具有c 類的樣本集合X=［x1，x2，…，xn］∈Rm×n，這里假設樣本集X 中包含l 個標簽樣本與u 個無標簽樣本(n=l+u，l?u)。以識別為任務的特征融合算法的目的是將同類樣本聚合而不同類樣本分離。由于標簽樣本個數較少，在這類特征融合算法中過擬合現象時有發生。為消除這種過擬合現象，典型的方法是在不同的特征融合算法增加不同的正則項。因此，這類特征融合算法具有下列形式:

Sb與St分別表示標簽樣本集的類間散度與總體散度:

其中，mi與m 分別表示第i 類樣本和所有樣本的均值;gTg 表示Tikhonov 正則項;J(g)為不同特征融合算法中加入先驗知識提供可能;正則參數λ1與λ2均大于0。

2.1 SDA 算法

在半監督判別融合算法［8］中，通過增加光滑約束來最大限度地利用標簽樣本與無標簽樣本的信息。這種基于拉普拉斯圖正則約束的目的是增強相鄰樣本點間的相似性。因此，SDA 算法中的正則項為:

其中，Wi，j表示樣本xi與樣本xj的高斯相似性。

2.2 SPDA 算法

與SDA 算法不同，稀疏投影判別分析融合算法［6］在保持標簽樣本判別信息的同時利用稀疏表示的自然屬性。因此，SPDA 算法中的正則項為:

其中，wi表示樣本集Xi=［x1，x2，…，xi-1，xi+1，…，xn］對樣本xi的稀疏重構系數。

盡管SDA 與SPDA 都考慮了大量無標簽樣本的作用，但在SDA 算法中僅利用了所有樣本的鄰域關系，SPDA 算法中只考慮了所有樣本間的稀疏關系。本文提出的基于稀疏鄰域的特征融合算法，在保持樣本間稀疏重構關系的同時，刻畫了樣本間的本質幾何結構，究其原因在于SNSPDA 算法采用了文中給出的稀疏鄰域。這使SNSPDA 在特征融合中可比SDA，SPDA 取得更好的實驗結果。

3 基于稀疏鄰域的特征融合算法

3.1 稀疏鄰域

為保持數據的本質幾何結構與樣本間的稀疏重構關系，本文首先給出樣本間稀疏鄰域的概念。

對于給定的參數ε ＞0，樣本xi的稀疏鄰域定義如下:在稀疏重構過程中，如果樣本xj(j≠i)的稀疏表示系數αj滿足條件αj＞ε，則稱樣本xj(j≠i)在樣本xi的稀疏鄰域內，記為xj∈SN(xi)。

由稀疏鄰域的概念可以看出，對于給定的樣本，稀疏鄰域移除了對給定樣本重構貢獻較小的樣本，保留了具有較大重構系數的樣本，其原因在于較大重構系數的樣本與被表示樣本具有很強的判別屬性，同時為具有較大重構系數樣本對被表示樣本的再次重構提供可能，本文4.1 節給出了稀疏鄰域作用的詳細描述與實驗對比。

3.2 SNSPDA 算法

基于稀疏鄰域特征融合算法的核心思想為:對于每個訓練樣本，在選擇其稀疏鄰域的基礎上，構造稀疏鄰域樣本集對訓練樣本的稀疏重構關系，并由此在兼顧數據本質幾何結構的同時考慮樣本間的稀疏重構關系。

SNSPDA 算法的具體步驟如下:

(1)給定具有c 類的樣本集X=［x1，x2，…，xn］∈Rm×n，其包含l 個標簽樣本與u 個無標簽樣本，平衡參數為λ1，λ2＞0，稀疏鄰域半徑ε ＞0。

(2)依據方程式(2)和式(3)，分別計算類間散度矩陣Sb和總體散度矩陣St。

(3)通過求解下列最優化問題選擇樣本xi的稀疏鄰域:

(4)求解下列最優化問題，構造樣本xi的稀疏鄰域圖的定點及其對應邊的權數:

其中，樣本集Ai由樣本xi的稀疏鄰域點構成。

(5)計算正則項XLsnXT，其中:

I 為大小自適應的單位矩陣。

(6)計算廣義特征問題:

投影矩陣G=［g1，g2，…，gd］，其中，gi(i=1，2，…，d)為廣義特征問題的前d 個最大特征值對應的特征向量。

3.3 算法分析

在SDA 算法中，正則項JSDA(g)的目的是保持相鄰樣本間的相似性;在SPDA 算法中，正則項JSPDA(g)的目的是保持樣本間的稀疏重構關系;在SNSPDA 算法中，JSNPDA(g)的表達式為:

其中，p 表示樣本xi的稀疏鄰域個數;Ai表示樣本xi的稀疏鄰域集;wi反映了Ai對樣本xi的稀疏表示系數信息。

采用管路柜集成組裝，將EPCU、IPM、IRM、停車制動、撒砂裝置、踏面清掃、升弓控制等模塊安裝在制動柜中，方便操作和檢修。

在SNSPDA 算法中，JSNPDA(g)既保持了相似樣本間的幾何信息，又反映了樣本間的稀疏重構關系。同時，在以分類為目的的特征融合算法中，JSNPDA(g)進一步增強了稀疏鄰域內樣本的表示作用(與被表示樣本具有相同的標簽信息)，突出了算法目標函數在圖上的光滑性。此外，SNSPDA 算法中稀疏鄰域的作用及稀疏鄰域半徑選擇對算法的影響詳見后續的實驗分析部分。據此分析，SNSPDA 算法要優于SDA 與SPDA 方法，后續的實驗結果也驗證了這一分析。

4 實驗與結果分析

本文使用AR，FERET，INDIAN 與CMU PIE(C09 與C29)數據庫對SNSPDA 算法進行實驗驗證。對于每個數據庫，每類中選擇1 幅圖像為標簽樣本，其余圖像為無標簽樣本。AR 中包含100 類的1 400 幅圖像;FERET 中包含100 類，每類有7 幅不同的圖像;INDIAN 中包含21 類的231 幅圖像;CMU PIE(C09 與C29)中均包含68 類的1 632 幅不同圖像。在實驗前，AR 與CMU PIE(C09 與C29)中每幅圖像的大小重新調整為48 ×48，FERET 與INDIAN 中每幅圖像的大小重新調整為32 ×32。

在稀疏重構過程中，本文采用了常用的3 種優化方法:

將上述3 種方法構造的稀疏重構圖分別記為l1-graph0、l1-graph1 與l1-graph2，其中，式(12)的參數λ固定為0.05。

SDA，SPDA 與SNSPDA 這3 種特征融合算法的平衡參數λ1與λ2均固定為0.01 和0.1，融合后特征空間的維數為c -1，SNSPDA 中稀疏鄰域半徑ε 等于1e-4。

4.1 稀疏鄰域的作用

從可視化的觀點看，稀疏鄰域采用了類似于SDA 方法中的鄰域技巧。不同之處在于，SNSPDA將訓練樣本對測試樣本的稀疏表示貢獻看成局部標準，這樣做的好處在于充分利用了稀疏表示的固有判別屬性與相對穩健性。在大量實驗中，筆者發現那些稀疏重構系數較小的或負值系數對應的樣本與測試樣本具有不同的類標簽信息。同時，通過稀疏鄰域內樣本的二次表示，SNSPDA 算法進一步強調了對測試樣本重構貢獻大的那些樣本的作用，提升了那些樣本的重構系數。在圖1 中，本文以AR 圖像數據為例演示了稀疏鄰域外的樣本被移除前后被表示樣本系數的變化情況，圖中從左至右分別表示測試樣本、移除稀疏鄰域外樣本前被表示樣本的系數和移除稀疏鄰域外樣本后被表示樣本的系數?？梢钥闯?，和移除前相比，稀疏鄰域內樣本的表示系數明顯變大，即表明它們的重構作用得到增強。

圖1 不同測試樣本的稀疏表示系數變化情況

4.2 實驗結果

表1 給出了3 種融合算法在不同圖像數據庫中20 次隨機實驗的平均識別率，其中，括號中的數據是其對應的標準差。從表中可以看出，SNSPDA 算法取得了較好的實驗結果，SPDA 方法其次，SDA 的實驗結果較差。以FERET 和C29 為例，SPSDA 算法比SPDA 方法分別提高了4.13%，2.61%，3.66%與2.14%，1.95%，2.26%。這說明結合數據本質幾何結構與稀疏重構關系的SNSPDA 算法較好地捕獲了標簽樣本與無標簽樣本的特征屬性。

表1 3 種融合算法在不同數據中的正確識別率 %

綜上可得出以下結論:

(1)當光照條件變化較大時(AR，C09，C29)，基于KNN 構圖方式的SDA 算法性能較差，基于稀疏圖、稀疏鄰域的SPDA，SNSPDA 算法的結果相對較好，這說明稀疏鄰域比稀疏圖、KNN 方法受光照影響較小。

(2)在相同的稀疏重構優化算法中，SNSPDA 算法比SPDA 方法取得了更好的實驗結果，這進一步驗證了4.1 節分析的稀疏鄰域的作用，即在稀疏鄰域中能更好地反映樣本間的判別相似關系。

(3)由SDA、SPDA 及SNSPDA 的算法過程可以看出，3 種算法均轉化為特征值的求解問題，不同之處在于SPDA、SNSPDA 算法中利用了求解l1范數優化方法，這說明SNSPDA 算法并沒有增加特殊的計算復雜性。

4.3 稀疏鄰域半徑的選擇

本節將分析稀疏鄰域半徑對算法的影響情況。圖2 給出了SNSPDA 算法在不同數據集中的平均結果隨稀疏鄰域半徑ε 的變化情況。當半徑參數ε 從1e-3 變化到1e -7 時，SNSPDA 算法的平均結果并沒有明顯的波動，其原因在于稀疏表示與稀疏鄰域固有的性質，即ε 在一定范圍內變化時，樣本點的稀疏鄰域并沒有明顯的變化，這說明稀疏鄰域對半徑ε 具有一定的穩健性。但是，當所有樣本都被使用時，具有較小表示系數或負值系數樣本對被表示樣本的非正面影響的累積效應明顯地表現出來，這也是SNSPDA 算法優于SPDA 算法的原因。

圖2 SNSPDA 算法性能在不同數據中隨半徑參數的變化

5 結束語

本文在給出稀疏鄰域概念的基礎上，提出基于稀疏鄰域的特征融合算法。該算法以分類為目的，不僅保持了數據的本質幾何結構，而且反映了樣本間的稀疏重構關系。單樣本的圖像融合識別實驗結果表明，SNSPDA 算法能合理地利用少量標簽樣本與大量無標簽樣本的自然屬性信息，有效解決圖像特征融合中的單樣本識別問題。下一步工作將在本文研究的基礎上，開展大數據背景下的融合識別算法研究。

［1］檀敬東，蘇雅茹，王儒敬.基于PCA 擴展的判別性特征融合［J］.模式識別與人工智能，2012，25(2):305-312.

［2］史紅權，徐永杰.直覺模糊多特征融合目標類型識別模型［J］.艦船科學技術，2012，34(1):95-98.

［3］He Xiaofei，Niyogi P.Locality Preserving Projections［C］// Thrun S，Saul L K，Sch'olkopf B.Advances in Neural Information Processing Systems.Vancouver，Canada:［s.n.］，2003:327-334.

［4］He Xiaofei，Yan Shuicheng，Hu Yuxiao，et al.Face Recognition Using Laplacianfaces［J］.IEEE Trans-actions on Pattern Analysis and Machine Intelligence，2005，27(3):328-340.

［5］Roweis S T，Sail L K.Nonlinear Dimensionality by Locally Linear Embedding ［J］.Science，2000，290(5500):2323-2326.

［6］Saul L K，Roweis S T.Think Globally，Fit Locally:Unsupervised Learning of Low Dimensional Manifolds［J］.Journal of Machine Learning Research，2003，4(1):119-155.

［7］Wright J，Allen Y，Ganesh A，et al.Roust Face Recognition via Sparse Representation ［J］.IEEE Transactions on Pattern Analysis and Machine Intelligence，2009，31(2):210-227.

［8］暢雪萍，鄭忠龍，謝陳毛.基于稀疏表征的單樣本人臉識別［J］.計算機工程，2010，36(21):175-177.

［9］張尤賽，趙艷萍，朱志宇.基于PCA 特征基壓縮傳感算法的人臉識別［J］.計算機工程，2012，38 (13):152-155.

［10］Qiao Lishan，Chen Songcan，Tan Xiaoyang.Sparsity Preserving Discriminant Analysis for Single Training Image Face Recognition［J］.Pattern Recognition Letters，2010，31(5):422-429.

［11］侯書東，孫權森.稀疏保持典型相關分析及在特征融合中的應用［J］.自動化學報，2012，38(4):659-665.

［12］Cheng Bin，Yang Jianchao，Fu Yun，et al.Learning with l1-graph for Image Analysis［J］.IEEE Transactions on Image Processing，2010，19(4):858-866.

［13］Yan Shuicheng，Wang Huan.Semi-supervised Learning by Sparse Representation［C］//Proceedings of the SIAM International Conference on Data Mining.Nevada，USA:［s.n.］，2009:792-801.

［14］Cai Deng，He Xiaofeng，Han Jiawei.Semi-supervised Discriminant Analysis［C］//Proceedings of the 11th IEEE International Conference on Computer Vision.Rio de Janeiro，Brazil:IEEE Press，2007:1-7.