一種改進的LDA和PCA特征空間融合的人臉識別方法

何俊 蘆明

摘要：為了改善傳統的人臉識別Fisherface方法的識別率和穩定性，采用LDA + PCA組合的兩步人臉識別過程來消除小樣本問題;通過融合LDA和PCA特征空間，使類內離散度最小而類間離散度最大，來解決統計相關問題。通過約束空間維數和采樣維數來提高識別率和穩定性。最后，在ORL人臉庫上進行實驗，結果表明該方法是有效的，識別率較高，而且識別結果比較穩定，滿足實際應用的要求。

關鍵詞：人臉識別;LDA特征;PCA特征;特征空間融合

中圖分類號： TP319? ? ? ? 文獻標識碼：A

文章編號：1009-3044（2020）35-0184-02

開放科學（資源服務）標識碼（OSID）：

An Improved Face Recognition Method Based on LDA and PCA

HE Jun， LU Ming

（School of Computer Science and Software Engineering， University of Science and Technology Liaoning， Anshan 114051，China）

Abstract： In order to improve the recognition rate and stability of Fisherface method in traditional face recognition， a two-step face recognition process combining LDA and PCA is used to eliminate the small sample problem， and the statistical related problems are solved by fusing LDA and PCA feature space to minimize the within-class scatter and maximize the between-class scatter. The recognition rate and stability are improved by constraining the spatial dimension and sampling dimension. Finally， experiments on ORL face database show that the method is effective， the recognition rate is high， and the recognition results are stable， which meets the requirements of practical application.

Key words： face recognition; LDA feature; PCA feature; feature space fusion

自從美國 “9.11”事件后，人的身份認證問題不僅涉及銀行存款、電子商務、金融安全等方面，而且已經提升到了國家安全的高度。人的身份認證通常是通過生物特征識別方法來完成，而在所有的方法中，人臉識別是特征錄入比較方便的身份認證方法之一。

人臉識別的關鍵性技術問題在于特征提取和特征識別。由于人臉特征對噪聲、光照以及表情等都十分敏感，加之傳統人臉識別算法的識別率、魯棒性和計算復雜度等方面都還遠遠達不到實際使用的要求[1]。因此，如何尋求一種準確率高、魯棒性強、計算復雜度低的人臉識別算法成為目前亟待解決的問題。

1 國內外相關研究工作

在最近30年，人臉識別發展迅速。人臉識別算法有：基于幾何特征的人臉識別方法[2];基于特征臉的人臉識別算法[3];基于模板匹配的人臉識別算法[4];基于人工神經網絡的識別算法[5];等灰度線法[6];基于特征融合的人臉識別算法[7];隱馬爾可夫模型方法[8]等許多種。上述各人臉識別算法的識別率都還遠遠不能達到實際使用的要求。

為了提高識別率，Turk等[9]首次引入了主成分分析（PCA）的子空間思想，與特征臉法相結合，后來獲得了較大的成功。子空間分析分為線性和非線性空間變換兩種，由于線性子空間方法的數學理論基礎堅實，用到了許多矩陣理論中相關的知識，近些年，線性子空間方法發展出線性鑒別分析（Fisherface）[10]，獨立成分分析[11]和非負矩陣分解[12]等諸多研究分支。

2 傳統的Fisherface方法

Fisherface人臉識別方法是基于線性鑒別分析（Linear Discriminant Analysis， LDA ）思想而演變過來的。LDA方法的目的是盡可能提取出較多的最具有鑒別能力的低維特征。具體過程：設有L個模式類別，X = （x1， x2， ...， xn）是N個n維的訓練樣本，樣本類間離散度矩陣Sb滿足下式：

[wTμi-wTμ02=wTSbw]? ? ? ? ? ? ? ? ?（ 1 ）

其中?i是xi類的均值，?0是所有樣本類的均值，w是y=wTx的變換矩陣。

樣本類內離散度矩陣Sw滿足下式：

[Sw2=i=1LwTxi-μi xi-μiTw]? ? ? ? ? ? ? ? ? ?（ 2 ）

其中?i是xi類的均值，w是y=wTx的變換矩陣。分析得出Fisher準則函數的最優變換如下：

[Jw =wTSbwwTSww]? ? ? ? ? ? ? ? ? ? ? ? ? ? ?（ 3 ）

由上述分析可見，對應于矩陣較大的特征值的特征向量，該矩陣最多只有L-1個非零特征值，L是類別數目。

在人臉識別的實際應用中，由于傳統的LDA方法訓練樣本的個數通常低于實際人臉圖像的像素數，因此出現了所謂的小樣本問題。同時存在另外一個嚴重的問題：各個樣本之間的統計相關性的問題。這就需要探尋Fisher準則函數達到最優的那個線性變換wopt。為了提高人臉識別的準確率，增強其魯棒性，降低計算復雜度，本文對傳統的人臉識別算法進行詳細的分析，總結出其在特征提取和識別中存在的準確性差，識別率低，效率低等諸多方面缺點，這些缺點基本歸結為兩方面問題：一方面是訓練集的小樣本事件，另一方面是樣本的統計相關性。針對上述兩方面問題，本文提出了相應的解決方案。

（1）解決小樣本問題，采用了LDA + PCA 組合的兩步人臉識別過程，相當于對原始的樣本數據進行兩次投影變換。首先，對人臉圖像進行分塊;然后采用LDA方法將人臉圖像特征降維到一個適當的空間，在降維的人臉特征子空間中利用行和列方向最優鑒別矢量集進一步降維，最后進行特征識別。

（2）解決統計相關性問題，主要采用將LDA特征子空間與PCA特征子空間融合，使類內離散度最小而類間離散度最大，即PCA分塊所用的特征向量是相互正交的。為了提高識別率、增強其魯棒性以及減少算法的復雜性，這里對空間維數和采樣維數給予一定的約束，改進了其中的維數選擇算法。

3 對Fisherface方法的改進

3.1 改進后的Fisherface方法的算法流程

設訓練樣本集的個數為P，有L個類;Gb 和Gw 分別代表圖像類間離散度矩陣和圖像類內離散度矩陣，均為n×n維的非負定矩陣。改進后的人臉識別算法，其流程如下：

（1） 把訓練集中的人臉圖像表示為一個向量，設為A=[A1，A2，...，Ad]，訓練樣本集的平均向量表示為A，進而求得訓練向量與平均向量的差值Ai –A。

（2） 計算出圖像的類間離散度矩陣Gb：

[Gb=i=1LPi Ai -AiTAi -Ai]? ? ? ? ? ? ? ? ?（ 4 ）

（3） 計算圖像的類內離散度矩陣Gw：

[Gw=i=1LPi ·1Mij=1Mi A（i）j-A（i）T A（i）j-A（i） ]? ? ? ? ? ?（ 5 ）

其中，Pi （i =1，2，…， L） 是第i類的先驗概率，Mi為第i類所屬空間矩陣。

（4） 由[G-1w · Gb · G-1w · GbT]中的前d個最大特征值所對應的特征向量構建LDA判別空間矩陣MLDA 。

（5） 由Gb?Gw中的前d個最大特征值所對應的特征向量構成PCA判別空間矩陣MPCA 。

（6） 融合LDA與PCA的特征判別空間矩陣，得到最佳判別空間Mopt：

Mopt = [MTLDA · MTPCA]? ? ? ? ? ? ? ? ? ? ? （ 6 ）

為了提高識別率、增強其魯棒性以及減少算法的復雜性，需要合理地選擇n和d的值?？紤]到在PCA變換中最多有n-1個非零特征值，有必要對最佳描述空間的維數n進行約束，n值過大會導致Gw發生畸變，因此最佳特征判別空間的維數n必須小于Gw的秩，即滿足如下條件：n <= min（P–L， rank（Gw））。d值的選擇本文主要采用以下方法來加以改進：

（1）在特征空間中，基于投影特征矩陣 Y=[SM1，SM2，...，SMn]重新構建類間離散度矩陣Gb和類內離散度矩陣Gw 。

（2） 選擇矩陣[G-1w · Gb]的前d個最大特征值所對應的d個單位正交的特征向量 m1， m2， ... ， md，構建變換矩陣[M'LDA]= [m1， m2， ... ， md ]。

（3） 選擇矩陣Gb?Gw的前d個最大特征值所對應的d個單位正交的特征向量 w1， w2， ...， wd，構建變換矩陣[M'PCA]= [w1， w2， ... ， wd]。

（4） 由（2）和（3）得到融合空間矩陣：

[M'opt]=[ M'LDAT·? M'PCAT]? ? ? ? ? ? ? ? ?（ 7 ）

（5）通過變換Z=Y·[M'opt]，將特征矩陣Y投影到n×d維子空間。

通過上述步驟限定了d的取值，從而使得算法的復雜度有所降低。

4 實驗結果與分析

本文實驗樣本取自原ORL（Olivetti Research Laboratory）人臉數據庫，ORL人臉庫由40個人臉，每個人臉由10幅112×92圖像組成，圖像背景為黑色，其中有些圖像是拍攝于不同時期的，人的臉部表情和臉部細節有著不同程度的變化，其中包含了一定的光照變化、表情變化、面部細節變化及一定范圍內的深度旋轉，人臉的尺度也有多達10%的變化。圖1展示了ORL人臉庫中的人臉圖像示例。

采用最近鄰分類器進行分類，各種特征提取方法都是直接利用ORL人臉庫中的不經過任何預處理的原始圖像矩陣。通過與已有的傳統人臉識別方法PCA方法，Eigenface方法和Fisherface方法識別的有效性和穩定性的對比，來考察本方法的性能。

圖2表示在選取相同數目的訓練樣本條件下，PCA方法，Eigenface方法和Fisherface方法和本方法四種鑒別方法識別率的比較。這里每類分別選取 5、7...15個訓練樣本。從圖2可以看出，本方法識別率比較準確，而且性能整體上相對穩定。

5 結論

本文對傳統的Fisherface人臉識別算法進行詳細的分析，總結出造成目前人臉識別率低，效率差等方面缺點的原因：一方面是訓練集的小樣本事件，另一方面是樣本的統計相關性。針對小樣本問題，采用了LDA+ PCA 組合的兩步人臉識別過程，相當于對原始的樣本數據進行兩次投影變換。針對統計相關性問題，主要采用將LDA特征子空間與PCA特征子空間融合，使類內離散度最小而類間離散度最大，即PCA分塊所用的特征向量是相互正交的。為了提高識別率、增強其魯棒性以及減少算法的復雜性，這里對空間維數和采樣維數給予一定的約束，改進了其中的維數選擇算法。最后，在ORL人臉庫上進行實驗，實驗結果表明所提出的方法是有效的，識別能力較強，且具有較好的穩定性。

參考文獻：

[1] 李金屏，韓延彬，楊清波，等.人臉識別新技術研究進展[J].計算機科學，2004，31（z2）：293-295.

[2] Govindaraju V.Locating human faces in photographs[J].International Journal of Computer Vision，1996，19（2）：129-146.

[3] 宇雪垠，曹拓荒，陳本盛.基于特征臉的人臉識別及實現[J].河北工業科技，2009，26（5）：428-430，433.

[4] 梁路宏艾海舟何克忠.基于多模板匹配的單人臉檢測[J].中國圖象圖形學報，1999，4（10）：3-5.

[5] 黎奎，宋宇，鄧建奇，等.基于特征臉和BP神經網絡的人臉識別[J].計算機應用研究，2005，22（6）：236-237，248.

[6] 孫小琪，高文曦，鎮麗華.基于SVD的人臉對稱性的兩步人臉識別算法[J].計算機系統應用，2016，25（2）：130-134.

[7] 李同宇，李衛軍，覃鴻.基于特征融合的人臉圖像性別識別[J].智能系統學報，2013，8（6）：505-511.

[8] Rabiner L R.A tutorial on hidden Markov models and selected applications in speech recognition[J].Proceedings of the IEEE，1989，77（2）：257-286.

[9] Turk M，Pentland A.Eigenfaces for recognition[J].Journal of Cognitive Neuroscience，1991，3（1）：71-86.

[10] Belhumeur P N，Hespanha J P，Kriegman D J.Eigenfaces vs.Fisherfaces：recognition using class specific linear projection[J].IEEE Transactions on Pattern Analysis and Machine Intelligence，1997，19（7）：711-720.

[11] Bartlett M S.Independent component representations for face recognition[M]//Face Image Analysis by Unsupervised Learning.Boston，MA：Springer US，2001：39-67.

[12] Lee D D， Seung H S. Algorithms for non2negative matrix factorization[C]. // In ： Proceedings of Neural Information Processing Systems， USA ： Denver， 2000：556-562.

【通聯編輯：唐一東】