基于低秩分解的魯棒典型相關分析

倪懷發,沈肖波,孫權森

(南京理工大學 計算機科學與工程學院，江蘇 南京 210094)

基于低秩分解的魯棒典型相關分析

倪懷發,沈肖波,孫權森

(南京理工大學 計算機科學與工程學院，江蘇 南京 210094)

典型相關分析(CCA)是一種經典的多特征提取算法，它能夠有效地抽取兩組特征之間的相關性，現已被廣泛應用于模式識別。在含噪聲數據情況下，CCA的特征表示性能受到限制。為了使CCA更好地處理含噪聲數據，提出一種基于低秩分解的典型相關分析算法——魯棒典型相關分析(robust canonical correlation analysis，RbCCA)。RbCCA首先對特征集進行低秩分解，得到低秩分量和噪聲分量，以此分別構建對應的協方差矩陣。通過最大化低秩分量的相關性，同時最小化噪聲分量的相關性來建立判別準則函數，進而求取鑒別投影矢量。在MFEAT手寫體數據庫、ORL和Yale人臉數據中的實驗結果表明，在包含噪聲的情況下，RbCCA的識別效果優于現有的典型相關分析方法。

模式識別;特征抽取;數據降維;典型相關分析;低秩表示;低秩分解;低秩分量;噪聲分量

在計算機視覺和模式識別領域，數據降維和特征提取一直是比較重要的研究方向。主成分分析(principal component analysis，PCA)[1]和線性鑒別分析(linear discriminant analysis, LDA)[2]是最經典的兩種線性特征提取算法，其中主成分分析是無監督特征提取算法的代表，線性鑒別分析是監督特征提取算法的代表。而單特征提取算法只能從一個角度或一個通道來處理信號數據[3]。在通常的分類任務中，數據經常有多種表示方式。傳統的單特征提取算法主要針對單表示數據的維數約減[4]，不適合多表示數據的維數約減。

典型相關分析(canonical correlation analysis，CCA)是一種經典的多元統計分析方法。于1936年由H.Hotelling[5]首次提出，現已被成功應用于字符與人臉等圖像識別任務中[6-7]，并取得了良好的效果。但是，在處理含噪聲數據情況時，CCA的特征表示能力卻有限。在通常的模式識別分類任務中，數據會包含很多由于設備故障或者自然環境產生的噪聲，這在一定程度上限制了CCA的應用范圍。

近年來，許多學者[8-10]提出了低秩表示(low-rank representation， LRR)理論。Wright等[9]也基于低秩分解提出了針對噪聲數據的魯棒主成分分析(robust principal component analysis，RPCA)。通過對原始噪聲數據進行低秩處理，RPCA可以有效地抽取出高維數據中的低維子空間結構。

為了提升CCA在噪聲情況下抽取線性相關性的能力，受低秩理論的啟發，提出了魯棒典型相關分析(robust canonical correlation analysis,RbCCA)。RbCCA首先對抽取出的特征集運用RPCA進行低秩分解，提取出原始特征的低秩主分量和噪聲稀疏分量。基于這兩種分量分別構建對應的協方差矩陣。通過最大化低秩分量的相關性，同時最小化噪聲分量的相關性來建立判別準則函數，進而求取鑒別投影矢量。在MFEAT手寫體數據庫以及ORL和Yale人臉數據庫中的實驗結果表明：在不同程度的噪聲數據下，RbCCA算法的識別效果均優于現有CCA方法的識別效果。

1 典型相關分析基本原理

假設兩組隨機矢量集x∈Rp與y∈Rq，并且E(x)=0，E(y)=0，典型相關分析就是尋找一對投影方向α∈Rp與β∈Rq，使得投影x*=αΤx與y*=βΤy之間具有最大的相關性，稱這種相關為典型相關，對應的投影方向α和β通過最大化如下相關準則函數獲得[11-12]：

式中：E(·)表示隨機變量的期望，Sxx和Syy分別表示隨機矢量x和y的組內協方差矩陣，Sxy表示隨機矢量x與y的互協方差矩陣，在這里，假設Sxx和Syy是非奇異矩陣。

在實際求解中ρCCA(α、β)的極值與α、β的大小無關，只與α、β的方向有關。為了確保解的唯一性，可令：

在式(2)的約束下，式(1)可等價的表示為

運用奇異值分解對式(3)進行求解，得到投影矢量集α和β。

2 基于低秩分解的魯棒典型相關分析

典型相關分析作為一種經典的多元統計分析方法，已被成功應用于字符與人臉等圖像識別任務中[6-7]，并取得了良好的效果。但是，在處理含噪聲數據時，CCA的特征表示能力卻有限。為了提升CCA在噪聲情況下的特征表示能力，引入低秩理論處理噪聲，提出了新的CCA模型——魯棒典型相關分析。

魯棒典型相關分析(RbCCA)是針對含噪聲數據而提出的一種典型相關分析(CCA)改進算法。RbCCA通過將含噪聲數據進行低秩分解，得到低秩分量和噪聲分量。基于這兩種分量，RbCCA構建出新的協方差矩陣。提出的優化準則函數能夠在最大化本質特征的相關性的同時最小化噪聲的相關性，從而盡可能地降低噪聲對典型投影矢量的影響。提升了傳統CCA在含噪聲數據下的特征表示能力。

2.1 RbCCA協方差矩陣的構建

在模式識別任務中，為了避免噪聲影響分類結果，許多已有的方法通常直接利用通過低秩分解得到的低秩分量進行特征降維和模式分類。但是，一般情況下噪聲分量中也包含了一些對分類有利的信息[13]，不能直接遺棄。因此，基于低秩分量和噪聲分量，建立新的互協方差矩陣，改進CCA的目標優化方程，提出了魯棒典型相關分析。

為了獲得給定含噪聲觀察矩陣W∈Rm×n中對應的低秩分量Z∈Rm×n和噪聲分量E∈Rm×n，Wright等[9,14]提出了秩最小化方程：

2.2 算法原理與模型構建

式(5)是一個多目標方程優化問題，很難直接求解。通過最大化公式(5)中兩個準則函數的差值進行求解[16]，即

式(6)滿足在最大化本質特征的相關性的同時最小化噪聲的相關性的要求，保證了求解得出的投影矢量的鑒別能力。相應地，能夠得到式(7)約束：

式(8)滿足了在最大化本質特征的相關性的同時最小化噪聲成分的相關性的要求。最大程度上降低了噪聲對典型投影矢量的影響，增強了投影矢量的鑒別能力。

2.3 RbCCA模型求解

式(8)的求解方法同CCA算法的求解。利用Lagrange乘數法，可以將問題轉化為求解如下兩個廣義特征方程的問題：

對于給定的樣本矢量x和y，對原始特征進行投影后得到變換后的特征分量(α*)Tx和(β*)Ty。為了方便后續的模式分類，采用式(10)的串行特征融合策略對特征進行融合：

式(10)計算對應投影后的特征矢量及其特征組合，將組合后的特征用于模式分類。

RbCCA既滿足了多表示數據的維數約減要求，保持了較好的識別率，又填補了傳統CCA在噪聲數據下特征表示能力差的缺陷，提升了CCA處理噪聲數據的能力。

3 實驗結果與分析

本實驗的目的是驗證本文所提算法RbCCA在噪聲數據下特征提取的有效性，分別在多特征手寫體數據集MFEAT和ORL以及Yale兩個人臉數據庫上進行了識別實驗。其中λ的取值需根據噪聲強度的大小進行調整。實驗中均采取串行融合的策略進行特征融合，并選取最近鄰分類器進行模式分類。

3.1 MFEAT手寫體數據庫

MFEAT手寫體數據庫一共包含fac、fou、kar、mor、pix、zer 6組特征，每組特征包含0～9共10個數字，每個數字類別包含200個樣本。6組特征，每兩組特征進行組合共15種組合，隨機挑選其中的10種組合做10次隨機實驗，每次實驗從每種組合中隨機選擇100個作為訓練樣本，100個作為測試樣本。訓練樣本總數和測試樣本總數均為1 000。實驗開始前，在原始MFEAT數據庫上，分別在6組特征加入10%的椒鹽噪聲來模擬實際應用中的噪聲。

表1隨機抽取MFEAT數據庫中10種特征組合，分別將CCA、PLS、LPCCA、RCCA以及RbCCA等算法做了對比實驗。實驗數據表明，RbCCA在這10種特征組合的識別率平均比CCA的識別率高出10%。在fac_fou、fou_zer以及mor_pix 3種組合里，RbCCA的識別更是高出CCA識別結果的15%以上。表1初步證實了RbCCA對噪聲數據特征提取的有效性。

圖1列出了添加噪聲后的MFEAT數據中的fac_fou特征組合上CCA、PLS、LPCCA、RCCA以及RbCCA等算法的對比實驗結果曲線圖。通過圖1可以很明顯看出，RbCCA的識別率遠遠高于其他算法。隨著特征維度的增加，RCCA、LPCCA、CCA算法的識別率在逐漸下降，而RbCCA的識別率卻呈上升趨勢。這是由于隨著特征維度增加，特征中包含的噪聲也在增加，影響了RCCA、LPCCA、CCA的分類正確率。圖1表明RbCCA能夠較好地提取噪聲數據中圖像的原始信息，針對噪聲圖像的分類識別效果優于其他4種算法。

表1MFEAT不同特征組合下識別算法識別率

Table1DifferentcharacteristicsofthecombinationidentifythealgorithmrecognitionrateinMFEAT

特征CCAPLSLPCCARCCARbCCApix＿zer0．8330．8510．8130．8470．916fac＿fou0．7240．7350．7350．7420．908fac＿mor0．6890．6710．6820．7050．780fac＿pix0．9310．9190．9290．9340．960fac＿zer0．7440．7420．7660．7720．887fou＿pix0．8540．8590．860．8590．961fou＿zer0．5410．5240．5190．5260．738kar＿zer0．5680．5540．5690．5740．665mor＿pix0．7180．7190．7200．6940．875fou＿kar0．5660．5690．5550．5020．675

圖1 識別方法識別結果隨著特征維度增加的識別曲線圖Fig.1 The recognition curve of the recognition method with the increase of the feature dimension

3.2 ORL人臉數據庫

ORL人臉數據庫[17]由劍橋大學AT&T實驗室創建，包含40人共400張面部圖像，每幅圖像大小92×112像素，部分圖像包括了姿態，表情和面部飾物的變化。圖2給出了ORL人臉庫中某人的10張圖像。

圖2 ORL人臉數據庫中某人的10張圖像Fig.2 10 images of a person in the ORL face database

實驗預處理階段，每幅圖像分別加入10%椒鹽噪聲模擬噪聲分量。實驗中，對于每一類，若無特別說明，均是隨機選擇5幅作為訓練樣本，其余5幅作為測試樣本。

表2、圖3分別列出了在選擇不同訓練樣本數目和變化不同特征維度時，6組對比算法的識別效果。算法中RPCA+CCA是直接利用低秩分量來計算典型相關分析投影矢量的算法簡稱。

表2的實驗數據表明，隨著訓練樣本數目的增加，幾種算法的識別率均有不同程度的提升。對比RPCA+CCA和CCA的識別率，可以看出RPCA+CCA的識別效果優于CCA。這也從側面說明了RPCA對于噪聲的魯棒性。

表2ORL人臉庫不同的訓練樣本數下識別算法的識別率

Table2ORLfacedatabaseunderdifferenttrainingsamplesidentifytherecognitionrateofthealgorithm

識別算法23456CCA0．5160．6610．7670．7930．816PLS0．5810．7210．8000．8100．870LPCCA0．3910．5930．7870．8300．900RCCA0．4530．6140．7250．8000．883RPCA+CCA0．5680．7070．8040．8300．915RbCCA0．7160．8070．8210．8500．956

通過圖3可以看出，隨著特征維度的增加，除RPCA+CCA和RbCCA之外的其余4種算法的識別率均呈下降趨勢，這是由于隨著特征維度的增加，抽取的特征中所包含的噪聲成分也在增加，對識別效果產生了較大的影響。隨著特征維度的增加， RPCA+CCA和RbPCCA的識別正確率均呈上升趨勢，并且由于RbCCA模型利用到了噪聲成分的信息，所以它的識別效果始終優于只利用低秩分量的RPCA+CCA的模型的識別效果。

圖3 識別方法識別結果隨特征維度增加的變化曲線圖Fig.3 The recognition curve of the recognition method with the increase of the feature dimension

圖4顯示了隨著數據樣本所含噪聲強度的增加，6種算法的識別率變化曲線圖。在本次實驗中，選取每類6個樣本作為訓練樣本，其余4個樣本作為測試樣本。從圖4中可以看出，隨著噪聲強度的增加，6種算法的識別正確率均有不同程度的下降趨勢。相對于其他算法，RbCCA識別率下降趨勢較為平緩，并且噪聲強度在2%～20%時，它的識別率始終保持在了92%以上。進一步證實了RbCCA對噪聲具有很好的魯棒性，能夠很好地提取噪聲數據的有效特征。

圖4 識別方法識別結果隨著噪聲強度增加的變化曲線圖Fig.4 The result of the recognition method with the increase of the noise intensity

3.3 Yale數據庫實驗

Yale人臉數據庫[18-21]包含15個人的165幅灰度圖像，每人11幅，包括光照方向(左、右和正面)、眼睛、表情變化(正常、愉快、悲傷、困乏、驚訝和眨眼)。圖像大小為100像素×100像素。圖5是Yale人臉庫中某人的11幅圖像。

圖5 Yale數據庫中某人的11幅圖像Fig.5 11 images of one person in Yale database

實驗預處理階段，對每幅圖像分別加入10%椒鹽噪聲，實驗中，對于每一類，若無特別說明，均是隨機選擇6幅作為訓練樣本，其余5幅作為測試樣本。

表3、圖6分別表示了在選擇不同訓練樣本數目和變換不同特征維度時，6組對比算法的識別效果。表3的實驗數據進一步表明RbCCA對于噪聲數據特征提取的有效性。

表3Yale人臉庫不同的訓練樣本數下，CCA、PLS、LPCCA、RCCA、RPCA+CCA、RbCCA算法的識別率

Table3RecognitionratesforCCA,PLS,LPCCA,RCCA,RPCA+CCA,RbCCAalgorithmsfordifferenttrainingsamplesintheYalefacedatabase

識別算法34567CCA0．6350．6750．7450．7600．833PLS0．7200．7710．7890．7990．883LPCCA0．5400．6850．7220．7570．861RCCCA0．6750．6950．7670．7930．889RPCA+CCA0．6840．7400．7610．7750．865RbCCA0．7330．7890．7950．8270．967

圖6 識別方法識別結果隨著特征維度增加的變化曲線圖Fig.6 The recognition curve of the recognition method with the increase of the feature dimension

通過圖6可以看出，特征維數在10～40之間，隨著特征維數的增加，6種算法的識別正確率均有不同程度的提升。從總體上看，RbCCA算法的識別率始終高于其他5種算法。特征維度大于40維之后，隨著特征維度的增加，除RPCA+CCA和RbCCA之外的其余4種算法的識別率均呈下降趨勢。RbCCA模型因為利用到了噪聲成分的信息，所以它的識別效果始終優于只利用低秩成分的RPCA+CCA模型的識別效果。

圖7是針對不同噪聲強度每種算法的識別率變化曲線圖。本次實驗中隨機選取每一類的7個樣本作為訓練樣本，其余4個作為測試樣本。變化曲線表明，隨著噪聲強度的增加，6種算法的識別率均有不同程度的下降。從圖中可以看出，隨著噪聲強度的增加，CCA識別率下降得最快，相比較來看，RPCA+CCA以及RbCCA的下降趨勢相對平緩。雖然隨著噪聲強度的增加，RbCCA識別率稍有降低。但是噪聲強度從2%～20%之間，它的識別率均在91%以上，遠遠優于其他5種算法的識別率。這也進一步表明了RbCCA對于噪聲數據處理的有效性。

圖7 識別方法識別結果隨著噪聲強度增加的變化曲線圖Fig.7 The result of the recognition method with the increase of the noise intensity

4 結束語

為了提升CCA噪聲數據的處理能力，本文提出魯棒典型相關分析算法(RbCCA)。RbCCA首先對兩組特征進行低秩分解，從而分解得到低秩以及噪聲分量。基于這兩種分量，RbCCA構建出新的協方差矩陣。提出的準則函數能夠最大化本質特征的相關性，同時最小化噪聲的相關性，從而盡可能少地降低噪聲對典型投影矢量的影響，增強投影矢量的鑒別能力。在MFEAT手寫體、ORL和Yale人臉數據上的實驗表明，相比于現有的CCA方法，RbCCA對噪聲數據具有較強的魯棒性，在模式分類任務中可以達到較好的識別率。

在實際應用方面，RbCCA中存在一些問題值得進一步研究。在低秩分解時參數λ的值對噪聲強度大小以及特征維度的大小很敏感，需要調整參數λ的值才能達到較好的識別效果。如何建立一個參數選擇標準或者函數關系，以適應不同范圍的噪聲強度以及特征維度還有待進一步研究論證。

[1]FUKUNAGA K. Introduction to statistical pattern recognition[M]. Academic press, 2013.

[2]FISHER R A. The use of multiple measurements in axonomic problems[J]. Annals of eugenics, 1936, 7(2): 179-188.

[3]楊勇，蔡舒博.一種基于兩步降維和并行特征融合的表情識別方法[J]. 重慶郵電大學學報：自然科學版, 2015, 27(3): 377-387.

YANG Yong，CAI Shubo. Facial expression recognition method based on two-steps dimensionality reduction and parallel feature fusion[J]. Journal of chongqing university of posts and telecommunications： natural science edition， 2015, 27(3): 377-387.

[4]HOU C, ZHANG C, WU Y, et al. Multiple view semi-supervised dimensionality reduction[J]. Pattern recognition, 2010, 43(3): 720-730.

[5]HOTELLING H. Relations between two sets of variates[J]. Biometrika, 1936, 28(3/4): 321-377.

[6]孫權森，基于相關投影分析的特征抽取與圖像識別研究[D]. 南京：南京理工大學， 2006.

SUN Quansen. Research on feature extraction and image recognition based on correlation projection analysis[D]. Nanjing： Nanjing University of Science and Technology, 2006.

[7]HOU Shudong, 孫權森. 稀疏保持典型相關分析及在特征融合中的應用[J]. 自動化學報, 2012, 38(4): 659-665.

HOU Shudong, SUN Quansen. Sparse maintaining canonical correlation analysis and its application in feature fusion[J]. Journal of automation, 2012, 38(4): 659-665.

[8]LIU G, LIN Z, YAN S, et al. Robust recovery of subspace structures by low-rank representation[J]. IEEE transactions on pattern analysis and machine intelligence, 2013, 35(1): 171-184.

[9]WRIGHT J, GANESH A, RAO S, et al. Robust principal component analysis: Exact recovery of corrupted low-rank matrices via convex optimization[C]//Advances in neural information processing systems. Vancouver, BC, Canada, 2009: 2080-2088.

[10]LIU G, LIN Z, YU Y. Robust subspace segmentation by low-rank representation[C]//Proceedings of the 27th international conference on machine learning (ICML-10). Haifa, Israel. 2010: 663-670.

[11]袁運浩.多重集典型相關分析理論及在高維多表示數據中的應用[D]. 南京：南京理工大學， 2013.

YUAN Yunhao. Canonical correlation analysis theory of multiple sets and its application in multi-representation data[D]. Nanjing： Nanjing University of Science and Technology, 2013.

[12]孫權森， 曾生根， 王平安，等. 典型相關分析的理論及其在特征融合中的應用[J]. 計算機學報， 2005， 28(9): 1524-1533.

SUN Quansen, ZENG Shenggen, WANG Pingan, et al. The theory of canonical correlation analysis and its application in feature fusion[J]. Chinese journal of computers, 2005, 28(9): 1524-1533.

[13]張凡龍. 基于核范數的低秩理論與方法研究[D]. 南京：南京理工大學，2015.

ZHANG Fanlong. Research on low rank theory and method based on kernel norm[D]. Nanjing： Nanjing University of Science and Technology,2015.

[15]BAO B K, LIU G, XU C, et al. Inductive robust principal component analysis[J]. IEEE transactions on image processing, 2012, 21(8): 3794-3800.

[16]SHEN X B, SUN Q S, YUAN Y H. A unified multiset canonical correlation analysis framework based on graph embedding for multiple feature extraction[J]. Neurocomputing, 2015, 148: 397-408.

[17]FERDINANDO S, ANDY H. Parameterisation of a stochastic model for human face identification[C]//Proceedings of 2nd IEEE Workshop on Applications of Computer Vision. Sarasota FL, 1994.

[18]BELHUMEUR P, HEPANHA J, KRIEGMAN D. Eigenfaces vs. Fisherfaces: recognition using class specific linear projection[J]. IEEE transactions on pattern analysis and machine intelligence, 1997, 19(7): 711-720.

[19]袁寶華, 王歡, 任明武. 基于完整 LBP 特征的人臉識別[J]. 計算機應用研究, 2012, 29(4): 1557-1559.

YUAN Baohua, WANG Huan, REN Mingwu. Face recognition based on complete lbp feature [J]. Journal of computer applications, 2012, 29(4): 1557-1559.

[20]何國輝, 甘俊英. 二維主元分析在人臉識別中的應用研究[J]. 計算機工程與設計, 2006, 27(24): 4667-4669.

HE Guohui, GAN Junying. Application of two-dimensional principal component analysis in face recognition[J]. Computer engineering and design, 2006, 27(24): 4667-4669.

[21]趙軍,趙艷,楊勇,等. 基于降維的堆積降噪自動編碼機的表情識別方法[J].重慶郵電大學學報：自然科學版, 2016, 28(6): 844-848.

ZHAO Jun， ZHAO Yan， YANG Yong， et al. Facial expression recognition method based on stacked denoisingauto-encoders and feature reduction[J]. Journal of chongqing university of posts and telecommunications： natural science edition， 2016, 28(6): 844-848.

Robustcanonicalcorrelationanalysisbasedonlowrankdecomposition

NI Huaifa, SHEN Xiaobo, SUN Quansen

(School of Computer Science and Engineering, Nanjing University of Science and Technology, Nanjing 210094, China)

Canonical correlation analysis (CCA) is a popular multi-feature extraction method, which can effectively explore the correlations between two sets of features. Up to now, CCA has been widely used in pattern recognition, however it has limited feature extraction power for large noisy data. For CCA to deal better with noisy data, a new method, robust canonical correlation analysis (RbCCA), based on low rank decomposition, is proposed. RbCCA first decomposes features using low rank decomposition to get the low rank and noisy components, then it constructs new covariance matrices based on these two components. A discriminative criteria function is further established to obtain discriminative projections by maximizing the correlations of the low rank component and minimizing the correlations of the noisy component. Experimental results on a MFEAT handwritten dataset, and ORL and Yale face datasets show that RbCCA can achieve higher recognition rates than existing CCA methods, especially in noisy settings.

Pattern recognition; feature extraction; data dimensionality reduction; canonical correlation analysis; low rank representation; low rank decomposition; low rank component; noise component

2016-07-24.網絡出版日期2017-04-07.

國家自然科學基金項目(61273251).

孫權森. E-mail:sunquansen@njust.edu.cn.

10.11992/tis.201607024

http://kns.cnki.net/kcms/detail/23.1538.tp.20170407.1758.012.html

TP391

A

1673-4785(2017)04-0491-07

中文引用格式：倪懷發,沈肖波,孫權森.基于低秩分解的魯棒典型相關分析J.智能系統學報， 2017, 12(4): 491-497.

英文引用格式：NIHuaifa,SHENXiaobo,SUNQuansen.RobustcanonicalcorrelationanalysisbasedonlowrankdecompositionJ.CAAItransactionsonintelligentsystems, 2017, 12(4): 491-497.

倪懷發,男, 1990年生,碩士研究生,主要研究方向為模式識別理論與應用。

沈肖波，男，1989年生，博士研究生，主要研究方向為模式識別、信息融合等。

孫權森，男,1963年生,教授,博士生導師，主要研究方向為模式識別理論與應用、圖像分析與識別。主持國家自然科學基金、教育部博士點基金、江蘇省自然科學基金、國防科工局民用航天預先研究項目、國家重大專項基礎關鍵技術項目及其他省部級項目20余項。入選2006 年度江蘇省“青藍工程”中青年學術帶頭人培養對象。獲得省部級獎勵5項；獲得國家發明專利3項，申請國家發明5項。發表學術論文100余篇，被SCI檢索近30篇，主編著作教材4部。