基于子空間類標傳播和正則判別分析的單標記圖像人臉識別

殷 飛 焦李成 楊淑媛

?

基于子空間類標傳播和正則判別分析的單標記圖像人臉識別

殷 飛*焦李成 楊淑媛

(西安電子科技大學智能感知與圖像理解教育部重點實驗室 西安 710071)

針對單標記圖像人臉識別問題，該文提出一種基于子空間類標傳播和正則判別分析的半監督維數約簡方法。首先，基于子空間假設設計了一種類標傳播方法，將類標信息傳播到無類標樣本上。然后，在傳播得到的帶類標數據集上使用正則判別分析對數據進行維數約簡。最后，在低維空間使用最近鄰方法對測試人臉完成識別。在3個公共人臉數據庫CMU PIE, Extended Yale B和AR上的實驗，驗證了該方法的可行性和有效性。

人臉識別；子空間假設；類標傳播；正則判別分析；半監督維數約簡

1 引言

單訓練圖像人臉識別是人臉識別中一個具有挑戰性的問題。在很多實際場景下，如法律實施、駕駛照驗證、護照驗證，通常只有每個人的單個帶類標樣本，在這種情況下，傳統人臉識別方法，如主分量分析(PCA)[1]和線性判別分析(LDA)[2]，要么性能大大下降，要么無法使用。在每類只有一個樣本的情況下，由于類內散度矩陣退化為零矩陣，LDA無法使用。為修正該問題，Zhao等人[3]提出了修正LDA，該方法用一個單位矩陣來代替類內散度矩陣，以使LDA可在單標記樣本情況下正常工作，但其性能仍不盡如人意。為解決單訓練圖像人臉識別問題，人們提出了一些Ad hoc方法，Tan等人[4]在最近的一個綜述中討論了這些方法。

為解決上述問題，本文提出了一種新的基于子空間類標傳播和正則判別分析的半監督維數約簡方法。首先，基于子空間假設設計了一種類標傳播方法，將類標信息傳播到無類標樣本上。然后，在傳播得到的帶類標數據集上使用正則判別分析對數據進行維數約簡。最后，在低維空間使用最近鄰方法對測試人臉完成識別。在3個公共人臉數據庫 CMU PIE, Extended Yale B和AR上的實驗驗證了所提方法的可行性和有效性。

2 正則判別分析和稀疏保持判別分析

LDA雖然處理分類問題簡潔有效，但遭受小樣本問題的困擾。在解決小樣本問題的諸多方法中，正則判別分析(RDA)[11,12]是一種簡單有效的方法，其目標函數定義為

3 子空間類標傳播

為了完成類標傳播，首先按式(11)選出最可靠的待標記無類標樣本并對其標記：

表1 子空間類標傳播算法(SLP)

4 基于子空間類標傳播和正則判別分析的半監督維數約簡

該問題可以通過如式(14)的廣義特征值問題來求解：

基于子空間類標傳播和正則判別分析的半監督維數約簡方法被總結在表2中。

表2基于子空間類標傳播和正則判別分析的半監督維數約簡(SLPRDA)

輸入：訓練樣本集　，其中是帶類標樣本集，是無類標樣本集，正則參數。輸出：投影矩陣。步驟1 執行算法1以獲得所有訓練樣本　的類標。步驟2 根據式(2)和式(3)分別計算和。步驟3 求解式(14)中的廣義特征值問題，得到所求投影矩陣。步驟4 停止。

5 相關方法比較

PCA是一種無監督維數約簡方法，LDA和RDA都是有監督維數約簡方法。在單標記圖像人臉識別的場景下，這3種方法的關系可以用定理1描述。

定理1 在單標記樣本情況下，PCA, LDA和RDA退化為同一方法。

綜上，在單標記樣本情況下，PCA, LDA和RDA退化為同一方法。 證畢

6 實驗

實驗選擇3個公共人臉數據庫CMU PIE, Extended Yale B和AR來驗證本文所提算法SLPRDA的性能，并和經典方法PCA, LDA, RDA, SDA, SPDA進行對比分析。本文的實驗環境為：Pentium4雙核3.2 GHz CPU, 3 GB內存，實現算法的軟件是Matlab7.0.1。

對于PIE和Yale B，先從每類中隨機選30個圖像形成訓練集，剩余圖像用作測試集。從訓練集中每類隨機選1個圖像進行標記形成帶類標樣本集，其余圖像不標記形成無類標樣本集。對于AR，先從每類中隨機選10個圖像形成訓練集，剩余圖像用作測試集。從訓練集中每類隨機選1個圖像進行標記形成帶類標樣本集，其余圖像不標記形成無類標樣本集。在實驗中，對30次隨機訓練/測試劃分的實驗結果進行平均，記錄平均分類精度和標準差。

圖1 3個人臉數據庫的人臉圖像樣本

表3各方法具體參數設置

方法鄰域大小k邊權值 SDA0.010.12Cosine SPDA0.010.1自動自動 SLPRDA0.01無無無

不同方法在不同數據庫上的識別結果如表4所示。由于在單標記樣本情況下PCA, LDA和RDA等價，所以它們的實驗結果相同。表中的Baseline方法表示不做維數約簡，直接在原始高維空間上使用最近鄰分類器。由于所提子空間類標傳播算法SLP本身是一種半監督分類方法，所以表4也列出了單獨使用SLP的實驗結果。SPDA和SLPRDA學習嵌入函數所需時間如表5所示。根據表4和表5中的實驗結果，可以得到如下結論：

方法BaselinePCA /LDA/RDASDASPDASLPSLPRDA PIE25.601.6525.601.6559.463.1271.243.3668.554.6588.813.81 Yale B12.901.1912.901.1927.003.9635.793.5234.462.8541.303.59 AR26.981.9626.981.9629.382.8761.962.9343.823.1563.903.35

方法PIEYale BAR SPDA729.6208.81577.0 SLPRDA463.4 80.7 153.2

(1)半監督維數約簡方法得到的識別結果比只使用帶類標樣本的維數約簡方法好。這說明對識別問題，無類標樣本可以起到重要作用。

(2)SPDA和所提的SLPRDA在所有測試數據庫上的識別結果一致好于其它比較方法。這說明子空間假設對人臉識別是一個有效的假設。

(3)所提方法SLPRDA在所有測試數據庫上的識別性能都一致的好于其它方法。這進一步驗證了所提出的類標傳播方法的有效性。

(4)所提方法SLPRDA的識別性能明顯好于單獨使用SLP或單獨使用RDA的方法，這表明SLP和RDA只有作為整體形成半監督維數約簡方法SLPRDA時才能更好的用于單標記圖像人臉識別。

(5)在所有實驗中SLPRDA都比SPDA更高效。SLPRDA在3個測試數據庫上比SPDA快1.57~ 10.30倍。

由以上實驗可以看出，本文所提方法SLPRDA有如下優勢：(1)與SDA相比，所提方法SLPRDA不需要選擇鄰域大小參數和邊權值參數。(2)與SPDA相比，SLPRDA的計算復雜度遠遠低于SPDA的計算復雜度。(3)實驗表明，相比于其它方法，所提方法SLPRDA能獲得更好的識別性能。

圖2 SLPRDA和EBGM的識別結果比較

7 結束語

本文提出了一種基于子空間類標傳播和正則判別分析的半監督維數約簡方法SLPRDA，并將其應用于單標記圖像人臉識別問題。通過子空間類標傳播，所提方法能較好地利用無類標樣本，在公共人臉數據庫CMU PIE, Extended Yale B和AR上的實驗驗證了所提方法的可行性和有效性。本文所提出的子空間類標傳播方法(SLP)是一個通用的方法，還可以和除判別分析外的其它有監督特征提取準則(如最大邊界準則MMC)相結合，得到新的半監督維數約簡方法。

圖3 模型參數在3個測試數據庫上對所提方法SLPRDA性能的影響

[1] Turk M A and Pentland A P. Eigenfaces for recognition[J]., 1991, 3(1): 71-86.

[2] Belhumeur P N, Hespanha J, and Kriegman D. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection [J]., 1997, 19(7): 711-720.

[3] Zhao W, Chellappa R, and Phillips P J. Subspace linear discriminant analysis for face recognition[R]. Technical Report CAR-TR-914, Center for Automation Research, University of Maryland, 1999.

[4] Tan X, Chen S, Zhou Z H,.. Face recognition from a single image per person: a survey[J]., 2006, 39(9): 1725-1745.

[5] Cai D, He X, and Han J. Semi-supervised discriminant analysis[C]. Proceedings of IEEE International Conference on Computer Vision, Rio de Janeiro, 2007: 1-7.

[6] He X and Niyogi P. Locality preserving projections[C]. Proceedings of the Advances in Neural Information Processing Systems, Vancouver, 2003: 585-591.

[7] Chen J H, Ye J P, and Li Q. Integrating global and local structures: a least squares framework for dimensionality reduction[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Minneapolis, 2007: 1-8.

[8] Song Y Q, Nie F P, Zhang C S,.. A unified framework for semi-supervised dimensionality reduction[J]., 2008, 41(9): 2789-2799.

[9] Li H F, Jiang T, and Zhang K S. Efficient and robust feature extraction by maximum margin criterion[J]., 2006, 17(1): 157-165.

[10] Qiao L, Chen S, and Tan X. Sparsity preserving discriminant analysis for single training image face recognition[J]. Pattern Recognition Letters, 2010, 31(5): 422-429.

[11] Friedman J H. Regularized discriminant analysis[J]., 1989, 84(405): 165-175.

[12] Ji S and Ye J. Generalized linear discriminant analysis: a unified framework and efficient model selection[J]., 2008, 19(10): 1768-1782.

[13] Cheng H, Liu Z, Yang L,.. Sparse representation and learning in visual recognition: theory and applications[J]., 2013, 93(6): 1408-1425.

[14] Wright J, Ma Y, Mairal J,.. Sparse representation for computer vision and pattern recognition[J]., 2010, 98(6): 1031-1044.

[15] 宋相法, 焦李成. 基于稀疏表示及光譜信息的高光譜遙感圖像分類[J]. 電子與信息學報, 2012, 34(2): 268-272.

Song Xiang-fa and Jiao Li-cheng. Classification of hyperspectral remote sensing image based on sparse representation and spectral information[J].&, 2012, 34(2): 268-272.

[16] 殷飛, 焦李成. 基于旋轉擴展和稀疏表示的魯棒遙感圖像目標識別[J]. 模式識別與人工智能, 2012, 25(1): 89-95.

Yin Fei and Jiao Li-cheng. Robust remote sensing image target recognition based on extending training set by rotation and sparse representation[J]., 2012, 25(1): 89-95.

[17] Baraniuk R. Compressive sensing[J]., 2007, 24(4): 118-121.

[18] Wright J, Yang A, Sastry S,.. Robust face recognition via sparse representation[J]., 2009, 31(2): 210-227.

[19] Naseem I, Togneri R, and Bennamoun M. Linear regression for face recognition[J]., 2010, 32(11): 2106-2112.

[20] GrossR. PIE database[OL]. http://vasc.ri.cmu.edu/idb/ html/face/, 2013.4.

[21] Lee K. The extended Yale face database B[OL]. http://vision. ucsd.edu/~leekc/ExtYaleDatabase/ExtYaleB.html, 2013.4.

[22] Martinez A M. AR face database[OL]. http://www2.ece.ohio- state.edu/~aleix/ARdatabase.html, 2013.4.

[23] Martinez A M and Kak A C. PCA versus LDA[J]., 2001, 23(2): 228-233.

[24] Wiskott L, Fellous J-M, Kruger N,.. Face recognition by elastic bunch graph matching[J]., 1997, 19(7): 775-779.

殷 飛： 男，1984年生，博士生，研究方向為模式識別、圖像處理、機器學習.

焦李成： 男，1959年生，博士生導師，教授，研究方向為自然計算、信號和圖像處理、智能信息處理.

楊淑媛： 女，1978年生，博士生導師，教授，研究方向為智能信號與圖像處理、機器學習等.

① 實驗使用CSU人臉識別評價系統的EBGM代碼：http://www. cs.colostate.edu/evalfacerec/index10.php

Subspace Label Propagation and Regularized Discriminant Analysis Based Single Labeled Image Person Face Recognition

Yin Fei Jiao Li-cheng Yang Shu-yuan

(,,’710071,)

To tackle the problem of single labeled image person face recognition, a subspace label propagation and regularized discriminant analysis based semi-supervised dimensionality reduction method is proposed in this paper. First, a label propagation method based on subspace assumption is designed to propagate the label information from labeled data to unlabeled data. Then, based on the propagated labeled dataset, regularized discriminant analysis is used to conduct dimensionality reduction. Finally, the recognition of testing face is completed in low dimensional space using nearest neighbor classifier. The extensive experiments on three publicly available face databases CMU PIE, Extended Yale B, and AR validate the feasibility and effectiveness of the proposed method.

Face recognition; Subspace assumption; Label propagation; Regularized discriminant analysis; Semi- supervised dimensionality reduction

TP391.41

A

1009-5896(2014)03-0610-07

10.3724/SP.J.1146.2013.00554

2013-04-24收到，2013-11-06改回

國家自然科學基金(61173090, 61072106, 60971112, 61072108)，高等學校學科創新引智計劃(B07048)以及教育部長江學者和創新團隊發展計劃(IRT1170)資助課題

殷飛 yinfei701@163.com