基于非相關(guān)多線性主成分分析的人臉識別算法

楊凌云，秦　岸

( 1．安徽師范大學(xué)物理與電子信息學(xué)院，安徽蕪湖241000; 2．重慶市公安局巴南區(qū)分局科技信息化科，重慶400055)

?

基于非相關(guān)多線性主成分分析的人臉識別算法

楊凌云1，秦岸2

( 1．安徽師范大學(xué)物理與電子信息學(xué)院，安徽蕪湖241000; 2．重慶市公安局巴南區(qū)分局科技信息化科，重慶400055)

摘要:針對在人臉識別算法中，維數(shù)的增加往往會給算法的運算帶來沉重負(fù)擔(dān)的問題，提出了一種新的基于非相關(guān)多線性主成分分析( UMPCA)和線性判別分析( LDA)的人臉識別算法，算法在保證在降維的時候保留盡可能多的內(nèi)部結(jié)構(gòu)信息。UMPCA通過一張量至向量的過程，可直接獲取原張量數(shù)據(jù)的絕大部分非相關(guān)特征，提取的特征再通過經(jīng)典算法LDA處理。利用AT&T人臉數(shù)據(jù)庫對該算法進行了實驗，實驗數(shù)據(jù)分析顯示該算法優(yōu)于其他同類算法。

關(guān)鍵詞:張量;非相關(guān)多線性主成分分析( UMPCA) ;線性判別分析( LDA) ;特征提取

Face Recognition Algorithms Based on Uncorrelated Multilinear PCA

0引言

人臉識別是子空間分析中一個重要的應(yīng)用領(lǐng)域。在過去的十幾年中，出現(xiàn)了很多用于人臉識別的算法，其中應(yīng)用最廣泛最經(jīng)典的是主成分分析( PCA)[2]和線性判別分析( LDA)[3]算法。當(dāng)輸入數(shù)據(jù)為張量時，經(jīng)典處理算法總是將張量數(shù)據(jù)轉(zhuǎn)換為矢量數(shù)據(jù)，但這一轉(zhuǎn)換會帶來很高的計算量和沉重的存儲負(fù)擔(dān)[4]。除了計算量和存儲問題外，該轉(zhuǎn)換還會破壞原數(shù)據(jù)的內(nèi)部結(jié)構(gòu)和相關(guān)性。因此，一些學(xué)者們提出了多線性算法，這類算法可對高階張量數(shù)據(jù)直接運算，而無需將其轉(zhuǎn)化被向量，如( 2D)2PCA[5]和( 2D)2LDA[6]．( 2D)2PCA和( 2D)2LDA算法在處理二階張量數(shù)據(jù)，如人臉識別中，取得了良好的效果。然而，他們只針對二階張量，對于更高階次的數(shù)據(jù)則無能為力。

最近，對于高階數(shù)據(jù)的信號處理方法，也有了新的進展。在文獻(xiàn)[7]中，一種利用k模交替優(yōu)化的方法進行優(yōu)化的新算法多線性判別算法( MDA)被提出。同傳統(tǒng)PCA原理類似，多線性主成分分析( MPCA)通過求取張量各階次的展開矩陣的最大特征值對應(yīng)的特征向量組成的轉(zhuǎn)換矩陣，將一個高維張量線性轉(zhuǎn)換為同階次低維張量。該算法在多次實驗中驗證了其有效性和優(yōu)越性。在文獻(xiàn)[9]中，將MPCA和MDA兩個都直接用于張量的多線性算法組成起來，經(jīng)MPCA提取的特征值再通過MDA進行處理，取得了更好的效果。除了多線性算法外，非相關(guān)多線性算法近年來也頗受關(guān)注。PCA的非相關(guān)多線性擴展采用了PCA算法的一個重要性質(zhì)，即經(jīng)過PCA提取的特征值之間是非相關(guān)的。非相關(guān)的參量在很多識別任務(wù)中扮演重要角色，因為非相關(guān)的性質(zhì)使參量之間的冗余最小，使各參量之間線性獨立[10]。無監(jiān)督張量特征提取算法非相關(guān)多線性主成分分析( UMPCA)通過一張量至向量的映射( TVP)[11]，使輸入張量直接轉(zhuǎn)換為向量。TVP即指一個向量通過P個由張量到數(shù)的映射，獲取一個P ×1的向量的映射過程。

1 UMPCA和LDA

作為PCA的一種多線性擴展，MPCA不僅使提取的特征值方差最大化，并且采用了零相關(guān)的約束條件，從而通過與經(jīng)典PCA相似的方法提取了非相關(guān)的特征值[12]。受Fisherface算法的啟發(fā)，首先采用UMPCA對張量數(shù)據(jù)直接進行特征提取，對提取后的特征數(shù)據(jù)輸入到LDA算法中。最后，采用最近鄰分類器來對經(jīng)過LDA輸出的特征數(shù)據(jù)進行分類。

1．1 UMPCA

文獻(xiàn)[13]對UMPCA算法進行了詳細(xì)的介紹。一組M個張量{x1，x2，．．．，xM}，各張量xm∈RI1* I2*．．．* IN，其中In表示第n模的維數(shù)( n = 1，2，…，N)，*表示克羅內(nèi)克積。UMPCA算法的目標(biāo)是計算出由P個EMP {∈RIn* 1，n = 1，．．．組成的TVP，使原張量空間映射到一矢量空間Rn( with

式中，δpq為克羅內(nèi)克δ

步驟1:使SyT1最大化，計算第1個EMP，n = 1，．．．;

1．2 LDA

經(jīng)典有監(jiān)督算法LDA和UMPCA相組合用于人臉識別。一組分屬于c類的M個樣本，類內(nèi)矩陣定義為:

和

類間矩陣定義為:

和

優(yōu)化矩陣V定義為:

其中，{ vm，m = 1，．．．M}對應(yīng)于SB與Sw比值的最大特征值的特征向量，表示為: sBvm=λmswvm。LDA輸出值zm為: zm=。

2實驗驗證

AT&T人臉數(shù)據(jù)庫[14]包含有400張112x92的人臉灰度圖像，他們分屬于40個類，每類10張。圖1給出了該數(shù)據(jù)庫2個不同人臉的幾張圖片，它們之間各不相同，具有不同特點。

在圖1的實驗中，每類人臉中隨機選取5張用于訓(xùn)練，剩下的5張用于驗證。圖2給出了對于提取不同特征維數(shù)值P時，PCA + LDA、2DPCA + 2DLDA、MPCA + LDA、UMPCA和UMPCA + LDA算法的識別率。

由圖2可看出，在所有不同P的取值中，UMP-CA + LDA都取得了最好的識別效果，并且在P =10時達(dá)到了飽和。這是因為經(jīng)過UMPCA降維后，信息量被高度集中，當(dāng)P值大于10時，對于識別的影響不大。所以在接下來的實驗中，只討論p = 1，．．．，10時的試驗情況。

圖1 AT&T人臉數(shù)據(jù)庫中的人臉圖像

圖2每類5張圖像用于訓(xùn)練的人臉識別率

在表1的實驗中，每一類隨機選取L個圖像用來訓(xùn)練。表1列出了P = 1，3，6，9，L = 2，4，6，時的識別率，其中算法中最高的識別率用黑體標(biāo)出。可觀察出，UMPCA + LDA在所有比較的算法中取得了最好的效果。

表1對應(yīng)不同圖像個數(shù)L和維數(shù)P的識別率

3結(jié)束語

采用UMPCA +LDA算法可以提高人臉識別的效果。UMPCA算法可直接從張量數(shù)據(jù)中提取非相關(guān)特征值，再采用LDA進一步提交識別率。在人臉數(shù)據(jù)庫的實驗表明，從其他PCA同LDA相組合的算法相比，如PCA +LDA、2DPCA +2DLDA、MPCA + LDA and UMPCA、tUMPCA + LDA取得了最好的識別效果，該算法適用于人臉等高階張量的降維識別應(yīng)用。

參考文獻(xiàn)

[1]Law M H C，Jain A K．Incremental nonlinear dimensionality reduction by manifold learning[J]．IEEE Transactions on Pattern Analysis and Machine Intelligence，2006( 28) : 377-391．

[2]Belhumeur P，Hespanha J，Kriegman D．Eigenfacesvs．Fisherfaces: Recognition using class specific linearprojection[J]．IEEE Transactions on Pattern Analysis and Machine Intelligence，1997( 19) :711-720．

[3]Pentland Turk M．Face Recognition Using Eigenfaces [C]/ /the IEEE Conf．Computer Vision and Pattern Recognition，1991:586-590．

[4]He X，Yan S，Hu Y．Learning a locality preserving subspace for visual recognition[C]/ / Proc．9th IEEE Int．Conf．Computer Vision，2003: 385-392．

[5]Zhang D，Zhou Z．( 2d)2pca: 2-directional 2-dimensional Pca for Efficient Face Representation and Recognition [J]．Neurocomputing，2005( 29) : 224-231．

[6]Noushath S，Kumar G H. Shivakumara P．( 2d)2lda: An Efficient Approach for Face Recognition[J]．Pattern Recognition，2006( 39) : 1396-1400．

[7]Yan S，Xu D，Yang Q，et al．Multilinear Discriminant Analysis for Face Recognition[J]．IEEE Transactions on Image Processing，2007( 16) :212-220．

[8]Plataniotis H，Lu K．Venets -anopoulos A，MPCA: Multilinear Principal Component Analysis of Tensor Objects [J]．IEEE Transactions on Neural Networks，2008( 19) : 18-39．

[9]Sun M，Liu X，Wang S．Human Action Recognition Using Tensor Principal Component Analysis[J]．Journal of Computational Information Systems，2011 ( 8 ) : 10053 -10061．

[10]Ye J，Janarda R，Li Q，et al．Feature Reduction Via Generalized Uncorrelated Linear Discriminant Analysis[J]．IEEE Trans．Knowl．Data Eng，2006( 18) : 1312-1322．

[11]Plataniotis H，Lu K，Venetsanopoulos A．A survey of Multilinear Subspace Learning for Tensor Data[J]．Pattern Recognition，2011( 44) : 1540-1551．

[12]Lu H，Plataniotis K，Venetsanopoulos A．Uncorrelated multilinear Principal Component Analysis for Unsupervised Multilinear Subspace Learning[J]．IEEE Transactions on Neural Networks，2009( 20) : 1820-1836．

[13]Plataniotis H，Lu K，Venetsanopoulos A．Uncorrelated Multilinear Principal Component Analysis Through Successive Variance Maximization[C]/ /Proc．25th IEEE Int．Conf．Machine Learning，2008: 616-623．

[14]AT&T TheDatabase of Faces[EB/OL]．Online available: http: / /www．cl．cam．a(chǎn)c．uk/research/dtg/ attarchive/ facedatabase．html．

[15]Plataniotis H，Lu K，Venetsanopoulos A．Gait recognition through MPCA plus LDA[C]/ /Proc．Biometrics Symposium，2006:1-6．

引用格式:江會娟，章勁松．GEO衛(wèi)星波束指向地面軌跡的計算與應(yīng)用[J]．無線電通信技術(shù)，2016，42( 1) : 76-78，85．

YANG Ling-yun1，QIN An2
( 1．College of Physics and Electronic Information，Anhui Normal University，Wuhu Anhui 241000，China;
2．Science&Technology Informatization Section，Banan Branch，Chongqing Public Security Bureau，Chongqing 400055，China)

Abstract:In face recognition algorithms，the increase of feather dimensionality has always over-burdened the algorithm operation，so a new face recognition algorithm based on UMPCA and LDA is proposed．While the algorithm reduces the dimensionality，it remains the inner structure information as much as possible．UMPCA seeks a tensor-to-vector projection that captures most of the variation in the original tensorial input while obtaining uncorrelated features through successive variance maximization．A subset of features extracted is processed by classical LDA to find the best subspaces．Finally，the comprehensive experiments are provided on AT&T databases and the experiment results show its performance over other PCA plus LDA based algorithms．

Key words:tensor object; uncorrelated multilinear principal component analysis; linear discriminant analysis;feature extraction

doi:book=76,ebook=810．3969/j．issn．1003-3114．2016．01．20

作者簡介:楊凌云( 1983―)，女，講師，通信工程專業(yè)，主要研究方向:信號處理。秦岸( 1980―)，男，工程師，交通信息工程專業(yè)，主要研究方向:交通信控。

收稿日期:2015-07-15

中圖分類號:TP391．41

文獻(xiàn)標(biāo)識碼:A

文章編號:1003-3114( 2016) 01-73-3