結合小波與線性映射的人臉圖像特征提取算法

趙友磊

關鍵詞：特征提取；線性映射；小波變換；遺傳算法；人臉圖像識別

0 引言

圖像識別技術是模式識別領域的一項重要研究課題[1]。圖像在計算機當中的存儲方式通常是以有序的多維度矩陣的形式存在，具體的存儲形式按其存儲的顏色數量可以大體分為兩種。分別是灰度圖片（二位矩陣存儲像素值）和彩色圖片（三維矩陣存儲RGB三個通道的數值方式）。在實際存儲當中，由于圖片數量非常多，如果在多種智能識別應用中，直接將圖片存儲在多維矩陣中，作為圖像特征，這將造成大量資源的浪費和應用的不合理，從而占用大量的計算和存儲資源。因此，建立或者選取一個適合的計算方法模型對圖像數據計算處理便顯的尤為重要。

小波變換是對時間（空間）頻率的局部化分析，其處理數據的主要方式是以伸縮平移的方式將信號（函數）逐步細分為多尺度，在細化多尺度時根據方式的不同分為高頻中按時間細分、低頻中按頻率細分。

小波變換在圖像識別上以其卓越的表現得到了更普及[2]。Chien 等人[3]提出利用二維離散小波變換提取人臉圖像特征，先將圖像分解成多尺度，將整個圖像逐步分割成多個分量，最后在分選分量時，只選取低頻分量作為圖像特征進行分類辨識。該方法取得了一定的效果，其特征提取處理過程速度較快，但存在分解尺度過深，導致低頻分量中的信息大量丟失，從而導致識別精度大幅度下降的問題。

線性映射是將兩個線性空間連接在一起的一種映射方式。它是線性代數研究的核心對象，以主成分分析法（PCA）[4]與線性判別分析法（LDA）[5]為代表的線性映射算法，是圖像壓縮中常用的算法。數據之間一般會存在一定的相關性，在高維度數據中會較突出，通常在一定程度上會出現高維度數據的重疊。主成分分析法可以更好的將這種多重共線性去除，使數據維數[6]減少。LDA 不像PCA，其是有監督學習的，基本理念是在更低的維度上投影出高維度且帶有標簽的樣本，而同樣類別的地點在更低的維度上經過投影后，其相對位置在空間上會有更緊密的體現，所以高維度數據的分類可以借此來實現。形成一簇一簇的情形。

Kirby 等人[7]首次將PCA 應用于人臉圖像識別，在圖像識別領域[8-10]也普遍采用LDA 算法，但其特征提取處理過程因涉及矩陣運算而耗時較長。趙等人[11]將小波變換后的四個分量進行PCA 降維后再進行加權融合，充分融合各分量中的特征取得了較好的效果。楊等人[12]則提出了更新穎的人臉圖像識別方法，將小波分析與另一種常見的分析方法相結合，即主元分析（IMPCA），將識別結果進行決策整合，提高識別準確率；焦等人[13]在人臉識別上應用了小波變換與PCA 的結合，利用RBF-SVM 進行識別分類，效果更好。其不足之處在于未能明確小波分解的恰當層數，因而未能充分結合兩者各自的優勢，可能會造成有價值數據信息的丟失進而影響處理效果。

基于以上分析，本文將小波變換與線性映射算法相結合，可將適當尺度的小波分解視作降噪過程，所結合的線性映射算法具有較好保留原始數據信息的優勢，最終使用遺傳算法來尋找小波變換的最優分解尺度，使用SVM分類器進行測試集上的準確率評測，并結合特征提取過程的耗時進一步對算法進行評測。在標準的ORL 面部數據庫上進行實驗驗證，識別效果明顯好于傳統方法，且所花費的時間進一步減少。

1 基礎理論

1.1 小波變換

設函數 f （t） 具有有限能量，f （t） ∈ L2 （R），其中L2 （R）是指在實數集R 上由平方可積函數構成的函數空間（通常L2 （R）叫做有限能量的信號空間。）于是，小波變換的定義為：

1.1.1 一維離散小波變換

首先定義一些需要用到的信號及濾波器。

如圖1 所示，輸入信號分別經過高通濾波器和低通濾波器的同時處理后經過降采樣濾波器，可以得到一次分解后的高頻信號x1，H [n ] 和低頻信號x1，L [n ]，經過第一次分解后，再取信號中的低頻部分，也就是低頻信號x1，L [n ]，經過二次分解并經過降采樣濾波器，可以得到二次分解后的高頻信號x2，H [n ] 和低頻信號x2，L [n ]，以此類推將信號不斷的經過高低頻信號的重復分解操作，便可得到經過多層小波分解后的高頻信號與低頻信號。

1.1.2 二維離散小波變換

人臉圖像的二維離散小波分解及其重構方式如圖2 所示，重構過程可以描述為：首先按照每一行的形式對圖片進行一維離散小波變換后，獲取圖片在水平方向上的低頻分量L 和高頻分量H，再進行一維離散小波變換對處理后所得的每一列數據，獲取原圖片在垂直及水平方向上的低頻分量LL，在水平和垂直方向上的高頻LH，在水平和垂直方向上的高頻HL，以及在水平和垂直方向上的高頻分量HH，然后對圖片進行一維離散小波變換，再對圖片進行一次橫向重構，其過程可以描述為：①離散小波逆變換結果的每一列，②對每一行變換得到的數據進行一維的離散小波逆變換。這樣就可以得到重構的圖像。從上述過程可以看出，人臉識別圖像的小波分解過程，實際上可以根據需要進行更細的二維離散小波分解，所得到的LL分量是按照信號的低頻、高頻逐步分解的過程。

1.2 線性映射算法

線性映射是兩個線性空間之間的聯系映射，而映射的特殊之處是一種保持向量加法和標量乘法在兩個向量空間之間的特殊映射（包括由函數構成的抽象向量空間）。主要成分分析法（PCA）和線性判別分析法（LDA）是其最具代表性的方法。

1.2.1 主成分分析法（PCA）

主成分分析（PCA）也是一種降維方法，它是最常用的線性映射方法，其工作原理是將高維空間中的數據通過某種線性投影，轉換到低維空間進行表示，并期望數據可以在所投射的維度上得到最大的方差，借此來實現較少使用的數據維度，而較小的變量仍包含較大數據集中大部分信息，在低維度下保留較多原始數據點的特性。由于在低維度下更易于探索和可視化，除此之外還可以使機器學習算法的數據分析更加輕松快捷，也無需處理無關變量。

1.2.2 線性判別分析法（LDA）

線性判別分析法（LDA）本身是另一種比較常用的線性映射方法，它是一種有監督的學習，根據給出的標簽數據，找到一個向量W，將數據投射到W 后，盡可能的使同一類數據緊湊，不同類別的數據相距較遠，用該類別均值差的絕對值來衡量，同時使各類內部數據集點相對集中，也就是投影后方差最小。

1.3 遺傳算法

遺傳算法（Genetic Algorithm）通過對自然進化過程的模擬來尋找最優解的方法[14]。

它的整個算法的初始是從一組隨機產生的初始解開始搜尋的過程，其中這組初解又被稱為種群，而每一個獨立的個體在這個種群中都被稱為問題的解，成為“染色體”是一串符號。測量染色體的好壞所采用的方法是，在經過選擇、交叉和變異運算形成下一代之前，每一代都用“適應度”來測量染色體的好壞。適應度越高，被選中的幾率就越大，適應度越低，越有可能被淘汰出局，這是整個選擇過程中堅持遵循的原則。這其中的每一代都保持種群的大小是常數，只是算法在經過幾代之后會在最好的染色體上發生收斂，最后得到的結果很可能是最優解或次優解的問題。這一系列的自然選擇過程，恰恰反映了生物世界中的法則，也就是自然法則的適者生存。算法過程如圖3 所示。

1.4 支持向量機（SVM）

支持向量機（SupportVectorMachines，SVM）在解決小樣、非線性、高維模式辨識等問題上表現出許多獨特的優點，在很大程度上克服了“維數災難”和“過學習”等問題[15]。它是一類廣義的線性分類器，按照監督學習的方式對數據進行分類，其中對學習樣本求解的最大邊距超平面是其決策邊界。

2 算法實現

利用小波變換提取人臉影像資料的傳統做法是：將若干個二維離散小波分解后的資料，取其中的低頻份量，作為提取的特征。但如果分解的層數太深，就會造成一些資料丟失，從而對鑒定效果造成影響。而使用主成分分析法與線性判別法為代表的線性映射算法進行特征提取，則能較好的保留數據的完整性，但其特征處理過程耗時較高。基于上述分析，將兩者結合使用，對人臉圖像數據進行特征提取：對原數據使用若干層小波分解，將分解后的低頻分量使用線性映射方法進一步降維，期間采用遺傳算法尋找小波分解的最優層次，以保證程序耗時與識別效果，實現高效的圖像特征提取。實現流程如圖4所示。

算法的具體實現步驟如下：

⑴ 讀取圖像數據并對其進行灰度化，歸一化處理等預處理過程后分隔為訓練集數據與測試集數據。

⑵ 預處理后的數據用二維離散小波分解，分解得到的LL 分量保留下來。

⑶ 對分解所得的LL 分量使用線性映射方法進一步進行降維。

⑷ 對小波分解層次使用遺傳算法進行優化，以小波分解尺度為決策變量，以程序耗時與識別精度為優化目標，尋找最優的小波分解層次并重復（2）、（3）步驟。

⑸ 進行識別分類

3 實驗以及結果分析

為了驗證本算法的有效性，本實驗采用標準的ORL（Olivetti Research Laboratory）人臉數據庫（http：//www.facerec.org/databases）進行實驗。

ORL 人臉數據庫包含40 個不同年齡、不同性別、不同種族的物體在整個數據庫中。該實驗通過在Daubechies 小波族中的db2 小波進行小波分解，對人臉圖像數據進行尺寸灰度處理和歸一化處理等預處理操作。

⑴ 實驗一

在不同的訓練樣本數量下，對比本文算法與傳統算法的識別精確度。

設N 為每一類別的訓練樣本數，分別取值為4，5，6，7，8 時，使用SVM 進行識別分類并分別記錄結合PCA的本文算法與傳統算法的識別準確率與平均準確率，結果如表1 所示，其中PCA 代表僅使用PCA 進行特征提取，DWT 代表僅使用小波變換進行特征提取，DWT+PCA 代表結合使用兩種算法進行特征提取。從識別率可以看出，不論訓練樣本數目多少，DWT+PCA方法相較于PCA和DWT進行識別是有效的，下同。

當N 分別取值為4，5，6，7，8 時，使用SVM 進行識別分類并分別記錄結合LDA 的本文算法與傳統算法的識別準確率與平均準確率，結果如表2 所示，其中LDA 代表僅使用PCA 進行特征提取，DWT+LDA 代表結合使用兩種算法進行特征提取，從中可以看出，DWT+LDA 方法相較DWT 和LDA 分別進行識別效率也是有所提升的，下同。

由表1、表2 不難得出，隨著訓練樣本數的增加，各算法的人臉識別效率也有不同幅度提升，我們可以得出線性映射算法的識別精確率相對于小波變換算法存在著較為明顯的優勢，而本文算法的識別精確率仍明顯優于兩種傳統算法。

⑵ 實驗二

對比本文算法與傳統算法在不同的訓練樣本數目下的特征提取處理過程耗時。

當N 選取為8 時，使用SVM 識別分類并分別記錄，本文算法與傳統的特征提取算法過程得到的10 次實驗耗時結果的平均值對比，結果如表3 所示。

由表3 可知，線性映射算法的特征提取過程耗時遠高于小波分解方法，而結合后的特征提取過程耗時相比線性映射算法得到了大幅度下降，結合表1、表2不難得出，本文算法相比線性映射算法特征提取過程耗時大幅度下降，而識別準確率明顯提升；本文算法相比小波變換算法識別率得到了大幅度提升，因此可得出結論，本文算法明顯優于傳統算法，驗證了本文算法的有效性。

⑶ 實驗三

使用遺傳算法優化本文算法。

當N 取值為8 時，以程序耗時與識別效果為優化目標，尋找最佳的小波分解尺度，然后使用SVM 再進行分類識別，之后與優化前的結果進行對比，其中GA前綴代表使用遺傳算法進行優化。

由表4 可知，經過遺傳算法優化后的本文算法在特征提取耗時與識別準確率方面均有小幅提升。因此，本文方法對于人臉圖像數據的識別是有效的。

4 結束語

結合線性映射算法的小波特征提取，運用若干尺度小波變換對人臉圖像數據進行分別，將所得低頻分量進行線性映射降維，最終使用支持向量機進行識別分類。通過在ORL 人臉圖像數據庫上進行實驗得知，在特征提取耗時與識別準確率方面均優于傳統算法，從而驗證了本文特征提取算法具有良好的效果。