基于KPCA的圖像壓縮方法

蔡 楠，李 萍

(寧夏大學 物理與電子電氣工程學院，寧夏 銀川 750021)

0 引言

圖像壓縮是圖像存儲、處理和傳輸的基礎，可以減輕圖像存儲和傳輸的負擔，使圖像在網絡上實現快速傳輸和實時處理。圖像具有龐大的數據量，在面對高維數據的處理中往往使得圖像所包含的有用信息得不到有效的挖掘、提取和利用，因此有必要對圖像數據進行壓縮。

在圖像壓縮領域中存在大量的算法，其中文獻[1]在介紹了基于DCT的圖像壓縮編碼基礎上對一種新的DCT系數分層傳輸的方法進行研究，通過分層壓縮達到了較好的峰值信噪比；文獻[2]提出了JPEG-HVS算法通過CSF生成了新的量化表，達到了高壓縮比并且解碼質量更好；文獻[3]采用多級小波變換提高了圖像壓縮的時間；文獻[4]采用主成分分析算法(Principal Component Analysis，PCA)通過提取圖像的線性特征達到較好的壓縮效果，但是在非線性特征提取上仍有很大的缺陷。為此，本文采用基于核的非線性特征提取算法——核主成分分析算法(Kernel Principal Component Analysis，KPCA)[5-6]。Scholkopf 等人最早將核方法思想應用于特征提取中，于1999年借鑒SVM 的核方法思想，將PCA拓展到非線性情形，提出了核主成分分析[7-8]。KPCA是PCA的改進算法，能夠提取非線性特征，可以將原輸入空間下線性不可分的數據映射至高維特征空間使其線性可分，從而實現了對非線性特征的提取[9]。通過實驗仿真，表明KPCA在繼承傳統PCA優點的基礎上彌補了PCA對非線性特征提取能力差的缺點。

1 KPCA原理

KPCA的基本原理是通過非線性映射φ將輸入空間變換到高維特征空間使其線性可分，在高維特征空間下使用PCA完成特征提取[10]。

(1)

求協方差矩陣的特征值λ和特征向量α：

λα=Cα。

(2)

K=φ(x)Tφ(x)。

(3)

求出核矩陣的特征值和特征向量：

λkαk=Kαk=φ(x)Tφ(x)αk。

(4)

將式(4)兩邊同時左乘φ(x)，再將式(1)代入式(4)，令C的特征向量v=φ(x)αk，得

(5)

將v單位化，并將式(3)代入式(5)，得

(6)

將特征空間的樣本點φ(x)投影至特征向量v即可得到在主成分上的投影令其為βk，

(7)

2 基于KPCA的圖像壓縮原理

2.1 KPCA的圖像特征降維

基于上述KPCA的原理，將圖像中的非線性特征映射至高維特征空間使其線性可分，從而可以將圖像中的噪聲與主要特征更好地分離達到冗余的去除[15]。具體方法如下：

① 將一幅m×n的圖像轉為灰度圖像后按列分為m×1的n個列向量作為輸入樣本X；

② 選取核函數，根據式(3)計算核矩陣K，為了防止非線性映射后樣本φ(x)不能均值化，需要對核矩陣K歸一化后替代原來的核矩陣K[16-17]，再根據式(4)求出特征值λk和特征向量αk；

③ 將λk按從大到小的順序排列并計算每個特征值占特征值總和的比例和，作為累計貢獻率[18]；

④ 根據所設置的累計貢獻率大小選取前k個主成分，根據式(7)計算樣本在特征空間中主成分上的投影βi(i=1，2，3…k)，即為原圖像經KPCA降維后的特征。

2.2 KPCA特征空間原像重構

如何從特征空間中把降維后的特征還原至輸入空間，就是KPCA特征空間原像重構。

由于無法確定具體的非線性映射，所以只能近似地求解出特征空間中所對應輸入空間的原像，為此期望找到一個向量z∈RN，z=(z1，z2，…zn)T所對應在特征空間下的形式為φ(z)T，使其在重構誤差ρ(z)=‖φ(z)T-Pnφ(x)‖2下為最小[19-20]。將ρ(z)展開并把展開后與z無關的表達式均用Ο來代替，并代入式(6)、式(7)得：

(8)

為了重構原輸入空間X即需要求出式(8)最小值所對應的z即可，

(9)

3 仿真結果與分析

3.1 實驗仿真一

在Windows7環境下使用Python語言調用sklearn中自帶的數據集，生成2類半月形分布的點集如圖1所示，分別經PCA與KPCA對其進行處理，如圖2和圖3所示。

通過圖2和圖3可以看出，對非線性分布的數據經PCA處理后都存在著重疊無法進行有效分離的問題，而經KPCA處理后不存在重疊的問題，可以將非線性數據更好地分離。

圖1 2類半月形分布點集

圖2 PCA處理

圖3 KPCA處理

3.2 實驗仿真二

采用了ORL人臉數據庫，從中隨機選取312幅圖像、取多項式核函數、累計貢獻率均設為97%作為特征提取的閾值[21]。通過壓縮比(CR)和峰值信噪比(PSNR)分別比較PCA與KPCA對圖像的壓縮程度和壓縮質量，計算公式為：

(10)

(11)

式中，n為原圖像的主成分數；k為壓縮后圖像的主成分數[22]；

式中，I，J分別為原圖像與壓縮后的圖像。仿真結果如表1、圖5和圖6所示。

表1 PCA與KPCA圖像壓縮數據

算法名稱累計貢獻率/%平均提取的主成分平均峰值信噪比/dB平均壓縮比PCA971632.626.21KPCA971265.059.99

由表1可以看出累計貢獻率均設為97%，KPCA在數據集上平均提取的主成分約為12個，包含了圖像97%的特征，相對PCA有著較好的提取能力。在圖像壓縮質量和壓縮程度方面KPCA的平均峰值信噪比比PCA高出了約2倍，壓縮比高出了約1.6倍。說明KPCA在壓縮質量和壓縮程度均優于PCA。

圖4為ORL人臉數據庫中的3幅原圖像；圖5為將累計貢獻率設為97%作為閾值提取主成分經PCA壓縮后的3幅圖像，分別提取了11，17，12個主成分；圖6為將累計貢獻率設為97%作為閾值提取主成分經KPCA壓縮后的3幅圖像，分別提取了9，15，11個主成分。

圖4 ORL人臉數據庫原圖像

圖5 PCA壓縮后的圖像

圖6 KPCA壓縮后的圖像

由圖5和圖6可以看出，經KPCA壓縮的視覺效果要優于PCA，KPCA在主成分的提取上也少于PCA并有著較高的清晰度。

3.3 實驗仿真三

繼續采用仿真二中的數據，仍然將累計貢獻率設為97%作為KPCA特征提取的閾值，并以CR和PSNR作為參數指標比較JPEG與KPCA對圖像壓縮的程度和質量，如表2和圖7所示。

表2 JPEG與KPCA圖像壓縮數據

算法名稱平均壓縮比平均峰值信噪比/dBJPEG9.66732.083KPCA10.03163.962

圖7 JPEG壓縮后的圖像

通過表2可以看出，KPCA在壓縮程度上不僅高于JPEG，而且在平均峰值信噪比上也比JPEG高出了2倍，說明KPCA有著更好的壓縮性能。

通過圖6與圖7可以看出，在視覺效果上KPCA也要優于JPEG，說明KPCA壓縮的質量更高。

4 結束語

本文研究利用KPCA算法對圖像進行壓縮過程中提取非線性特征，通過實驗仿真一，由于在圖像中存在著大量的非線性特征和噪聲干擾，KPCA能夠將其更好地分開從而降低了圖像中的信息冗余達到更好的壓縮效果；通過實驗仿真二，對比了PCA與KPCA在圖像壓縮中的性能，結果表明KPCA有著良好的非線性特征提取能力，并且在壓縮性能上均優于PCA；實驗仿真三比較了KPCA與傳統JPEG壓縮算法，KPCA不僅在壓縮比高于JPEG，而且在壓縮質量上也優于JPEG。因此KPCA算法適用于圖像壓縮，并有著較好的非線性特征提取能力，可以作為圖像的預處理器。