空譜融合下局部判別嵌入核協同表示的高光譜圖像分類算法

曹意唱 閆德勤 陳浪 劉德山

摘 ?要：協同表示分類方法已經被越來越多地應用在高光譜圖像分類中，但協同表示方法因重視稀疏性忽略局部性而不能充分地刻畫高光譜圖像特征，導致分類精度不高。針對這一問題，提出了空譜融合下局部判別嵌入核協同表示方法（LPKCRC）。首先，利用空譜特征學習模型對高光譜圖像進行特征學習;其次，利用圖嵌入矩陣提取數據局部幾何結構和局部判別信息，并將其作為流行正則項引入CRC中，同時利用核的特性對高光譜數據進行核映射。實驗結果證明，該算法在Indian Pines和Salinas兩個高光譜數據集分類結果中都優于其他相應的算法，能夠提高分類準確率。

關鍵詞：核協同表示;局部流形結構;空譜特征學習;高光譜圖像;稀疏性

中圖分類號：TP181 ? ? 文獻標識碼：A

A Hyperspectral Image Classification Algorithm under Space Spectrum Fusion for

Local Projections Embedding Kernel Collaborative Representation

CAO Yichang， YAN Deqin， CHEN Lang， LIU Deshan

（College of Computer and Information Technology， Liaoning Normal University， Dalian 116081， China）

1352499417@qq.com; yandeqin@163.com; chenlangstudy@163.com; deshanliu@yeah.net

Abstract： Collaborative representation classification methods have been increasingly applied to hyperspectral image classification. However， collaborative representation methods fail to describe characteristics of hyperspectral images as they emphasize sparsity and ignore locality， which leads to low classification accuracy. To solve this problem， this paper proposes a Locality Projections Kernel Collaborative Representation Classification （LPKCRC） method ?under space spectrum fusion. Firstly， learning model of space spectrum features is used to learn the feature of hyperspectral images; secondly， graph embedded matrix is used to extract local geometric structure and local discriminant information of the data， which is introduced into CRC （Collaborative Representation Classification） as a popular regular term. At the same time， kernel mapping is performed on hyperspectral data using the kernel characteristics. Experimental results prove that the proposed algorithm is superior to other corresponding algorithms in classification results of Indian Pines and Salinas hyperspectral data sets， and it can improve the classification accuracy.

Keywords： kernel collaborative representation; local manifold structure; space spectrum feature learning; hyperspectral

image; sparsity

1 ? 引言（Introduction）

高光譜圖像分類的主要應用之一是地物識別[1]。由于高光譜圖像本身的特殊性，其成像的方式為多光譜，像素的空間關系和光譜關系相互影響，在分類的過程中也面臨著類別邊緣以及相鄰像素相互影響的問題。

近年來，在稀疏表示分類SRC[2]的基礎上，正則協同表示分類（CRC）方法將其中的L1范數改為L2范數，被學者們應用在高光譜圖像分類中，如侯良國等[3]。傳統的協同表示算法在圖像分類方面取得了很好的效果，但它們通常不能確保局部保存，因此不是最佳的。其數據可能由于非線性流形嵌入而在非常高維的環境空間[4]上，導致算法的分類性能下降。

此外在稀疏編碼和字典學習中，數據的局部性信息一直是一個關鍵問題。局部性能夠導致稀疏性，但稀疏性卻不能導致局部性[5]，因此局部性比稀疏性更為重要。針對CRC在高光譜圖像分類中未充分重視像素間局部信息，不能充分刻畫圖像特征的問題，我們提出了空譜融合下局部判別嵌入核協同表示的高光譜圖像分類方法（LPKCRC）。LPKCRC將高光譜圖像數據樣本的幾何結構信息和判別信息引入KCRC模型中，提高了協同表示算法的分類能力。

本文提出的算法的主要貢獻在于：

（1）在考慮到空間和光譜信息刻畫的同時，引入圖嵌入矩陣到優化目標函數的正約束中，更加清晰地提取邊緣特征。

（2）計算了原子之間的局部相似性，以反映學習字典的局部幾何性質;然后利用自動學習策略構造原子的局域約束，從而繼承訓練樣本的流形結構。

2 ? 研究基礎（The basic research）

2.1 ? 空譜特征學習（SSN）

我們在運用LPKCRC對高光譜遙感圖像分類之前，首先使用空譜特征學習模型（SSN）[6-7]獲取高光譜圖像的空譜聯合特征。SSN可以在去除噪聲的同時保持圖像整體結構，從而更加清晰地提取高光譜圖像特征。SSN在學習階段是由多個學習的單元（SSFLU）構成的一個多層深度學習網絡。如圖1所示，每一層是一個SSFLU，一個SSFLU由兩部分組成：分別學習光譜特征和空間特征[7]。利用線性判別分析（LDA[8]）能夠實現光譜特征的學習。使用LDA，可將高光譜圖像在光譜維度進行降維處理，同時可以最大區分不同類別的類間信息。使用多個不同尺度的自適應空間濾波器（AWF）[6-7]對LDA的處理結果進行空間濾波，能夠獲得圖像中同一區域的不同尺度表示，將高光譜圖像的空譜信息和光譜信息融合在一起。

2.2 ? 局部流形結構

為了在有限的高光譜圖像數據樣本下提高圖像的分類結果，我們將采用Locality Preserving Projections（LPP）算法[9]獲取數據樣本的幾何結構和判別信息。HE等人[9]在Locally ?Embedding（LE）算法[10]的基礎上提出了LPP算法。LPP算法的主要思想是，原始空間中相鄰的像素點降維后，在低維空間中也保持高維空間中的局部結構。

對于給定數據集，為數據樣本的維數，表示數據樣本的個數。LPP的目標函數如下：

（1）

為數據集的低維嵌入，，和分別為第個樣本和第個樣本的低維表示。假設為投影向量，就有經過簡單變換之后，目標函數變為：

（2）

其中，，為對角矩陣，對角元素為相似度矩陣對應的列或行上的元素之和（為對稱陣）;，被稱作拉普拉斯矩陣。注意約束式是為了避免這個解。上述的約束問題可以轉換為一個廣義特征值問題得到解：

（3）

故上述特征方程的個最小特征值，對應特征向量，以及構成保持近鄰相似度特性的線性變換矩陣：

（4）

LPP通過構建高維空間中各像素點間的不同距離位置關系，在投影中保持這種關系。降維后仍舊保持原來的近鄰結構，同時盡量避免樣本集的發散，在圖像領域中有著廣泛的應用。

3 ? LPKCRC算法（LPKCRC algorithm）

3.1 ? 協同表示分類（CRC）

協同表示分類更注重協同性而并非稀疏性，因此利用范數L2進行約束[3]。協同表示模型可利用全部的訓練字典原子重建給定的測試像元。對于測試像元，尋找對應的權重向量，需要同時滿足重建誤差最小和約束條件最小，可以表示為：

（5）

式中，為懲罰參數，其功能是平衡重建誤差和范數項。通過二范數正則化項對表示系數進行約束，可以促使全部的字典原子均參與測試像元的重建。求取式（5）關于表示協同向量的導數，可以得到式（5）的解析解：

（6）

式中，表示單位矩陣，定義矩陣的轉置操作。

當解析地獲取到表示系數向量，可以計算像元和其類依賴近似字典的最小逼近殘差：

（7）

像元的地物類別可由公式（7）計算得到。

3.2 ? 核協同表示分類（KCRC）[11]

高光譜圖像的不同特征通道通常是線性不可分離的，而典型的線性稀疏表示模型無法充分表示高光譜數據樣本的非線性結構特征。文獻[11]中給出的一種核協同表示算法（KCRC）可以解決非線性問題。其中協同表示的計算公式為：

（8）

在式（8）中，和表示核Gram矩陣，其中每個元素。

3.3 ? 空譜結合下局部判別嵌入核協同表示算法（LPKCRC）

在本節中我們提出空譜結合下局部判別嵌入核協同表示的分類方法（LPKCRC）。由上文可知，圖的拉普拉斯矩陣通過構建高維空間中各像素點間的不同距離位置關系，在投影中保持這種關系。其降維后仍舊保持原來的近鄰結構，同時盡量避免樣本集的發散，得到更具有判別性的特征向量，提高分類的準確性。因此，我們將圖的拉普拉斯矩陣作為流形正則項引入KCRC中，提高KCRC在高光譜圖像分類中的準確性。LPKCRC函數如式（9）所示：

（9）

在式（9）中，為流形正則項，為正則化參數，為懲罰參數，;為對角矩陣，對角元素為相似度矩陣對應的列或行上的元素之和（為對稱陣）;。

在KCRC中，我們采用核方法進行求解[11]。高斯徑向基核函數（Gaussian Radial Basis Function Kernel）即所采用的核函數，簡稱為Gaussian核，其可通過如下等式定義：

（10）

式中，定義高斯核函數的頻帶寬度，其功能是控制高斯核函數的平滑度。則協同系數可以表示為：

（11）

求取式（11）關于表示系數向量的導數，可以解析地得到核特征空間中表示系數向量：

（12）

用公式（13）計算最小逼近殘差：

（13）

當獲取到核特征空間中的表示系數向量，依據核誘導特征空間中最小殘差準則可以確定地物的類別信息。基于以上的研究思路，我們提出LPKCRC算法，即空譜聯合的高光譜遙感圖像分類算法，其具體步驟如下：

輸入：SSN特征提取后的高光譜數據集。

步驟1：依據公式（1）—（4）計算拉普拉斯矩陣;

步驟2：通過公式（9）—（12）計算協同系數;

步驟3：通過公式（13）得到最小逼近殘差，然后運用訓練好的LPKCRC算法對高光譜圖像測試集進行預測，得到測試集的預測標簽。

輸出：測試數據集的預測標簽。

4 ?實驗結果與分析（Experimental results and analysis）

為了驗證本文算法的有效性，我們在兩個高光譜圖像數據集上進行實驗，分別為Salinas數據集和Indian Pines數據集。

4.1 ? 實驗參數設置及評價指標

我們使用上文描述的數據集進行LPKCRC與經典分類器的對比實驗，如SRC[2]、KSRC[12]、KCRC[11]、KSVM[13]、SVMCK[14]、JSRC[15]、MFASR[16]、JSaCR[17]算法。對于Salinas和Indian Pines的數據設置，在文獻[6]中給出的特征提取算法用于獲取每個樣本的特征，然后將特征用作分類算法的輸入數據。在Salinas數據集上，我們隨機選擇每個類別的5%的標記樣本進行訓練，剩余樣本用于測試;在Indian Pines數據集上，我們隨機選擇每個類別的10%的標記樣本進行訓練，剩余樣本用于測試。

本文使用總體分類精度（OA）、平均分類精度（AA）和Kappa系數三個指標來評估最終的分類結果。

4.1.1 ? 在Salinas數據集上的實驗結果

表1給出了九種不同算法在Salinas數據集上的OA、AA和Kappa系數，黑體表示最好的結果。從表1中我們可以看出，LPKCRC算法在OA、AA和Kappa系數上均優于其他八種算法。

圖2顯示了九種算法的分類結果圖。從分類結果圖可以看到，本文算法LPKCRC的分類效果最好。

4.1.2 ? 在Indian Pines數據集上的實驗結果

不同分類算法在Indian Pines數據集上的分類結果如表2所示。表2給出了九種不同算法在Indian Pines數據集上的每類OA、AA和Kappa系數，黑體表示最好的結果。從表2中我們可以看到，本文算法在OA、AA和Kappa系數上均優于其他八種算法。

通過上述分析可見，本文算法在高光譜圖像分類任務中取得了良好的結果，驗證了本文算法的有效性。本文算法有效的原因在于，在有限的高光譜圖像訓練樣本下，運用高光譜圖像數據訓練樣本的幾何結構信息和判別信息，為高光譜圖像分類提供先驗信息，增強高光譜圖像的分類性能。

4.2 ? 訓練樣本選取的影響

為了驗證SRC、KSRC、KCRC 、KSVM、SVMCK、JSRC、MFASR、JSaCR，以及本文算法在不同訓練樣本個數下的分類性能，我們分別在Salinas和Indian Pines兩個數據集上進行實驗。在Salinas數據集上分別隨機選取該類樣本數的0.5%、0.6%、0.7%、0.8%、0.9%、1%、2%、3%、4%、5%作為訓練樣本，每類剩下的樣本做測試樣本;在Indian Pines數據集上分別隨機選取該類樣本數的1%、2%、3%、4%、5%、6%、7%、8%、9%、10%作為訓練樣本，每類剩下的樣本做測試樣本。將實驗的總體分類準確度作為評價指標，實驗結果如圖4所示。

（a）Salinas

（b）Indian Pines

圖4 不同訓練樣本個數的影響

Fig.4 Influence of different training samples

由圖4（a）的實驗結果我們可以觀察到，在Salinas數據集上，LPKCRC的OA指標識別曲線明顯優于SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法。由圖4（b）我們可以明顯觀察到SRC、KSRC、KCRC三種算法在Indian Pines數據集上的OA識別曲線顯著低于KSVM、SVMCK、JSRC、MFASR、JSaCR和LPKCRC等算法。這是由于SRC、KSRC、KCRC三種算法沒有運用高光譜圖像的空間信息造成的。

4.3 ? 參數分析

在本節中，我們分析參數如何影響LPKCRC的性能。實驗結果如圖5和圖6所示，顯示了在參數和取不同值時對應的實驗結果分類精度變化。

從圖5可以看出，Salinas數據集上參數和的不同值帶來不同的結果。當、時，算法的分類精度最高。

從圖6可以看出，Indian Pines數據集上參數和的不同值帶來不同的結果。當、時，算法的分類精度最高。

LPKCRC的性能可以通過改變參數進行調整。

5 ? 結論（Conclusion）

本文提出了一種空譜融合下局部判別嵌入核協同表示的高光譜圖像分類。創新之處在于考慮到高光譜圖像數據的聯系和差異信息，將高光譜圖像的空間信息和光譜信息融合在一起，將圖嵌入矩陣引入KCRC模型中，克服了KCRC算法不能充分刻畫高光譜圖像特征的問題。LPKCRC與SRC、KSRC、KCRC、KSVM、SVMCK、JSRC、MFASR、JSaCR算法的對比實驗表明，本文所提出的方法顯著提高了核協同表示分類在高光譜圖像中的分類效果。

參考文獻（References）

[1] BIOUCAS-DIAS J M， PLAZA A， CAMPS-VALLS G， et al. Hyperspectral remote sensing data analysis and future challenges[J]. IEEE Geoscience and Remote Sensing Magazine， 2013， 1（2）：6-36.

[2] WRIGHT J， YANG A， GANESH A， et al. Robust face recognition via sparse representation[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2009， 31（2）：210-227.

[3] 侯良國，向澤君，楚恒.加權融合核稀疏和協同表示的高光譜影像分類[J].計算機工程與設計，2019，40（04）：1058-1063.

[4] ROWEIS S T， SAUL L K. Nonlinear dimensionality reduction by locally linear embedding[J]. Science， 2000， 290（5500）：2323-2326.

[5] LI Z， LAI Z， YONG X， et al. A locality-constrained and label embedding dictionary learning algorithm for image classification[J]. IEEE Transactions on Neural Networks and Learning Systems， 2017， 28（2）：278-293.

[6] ZHOU Y， WEI Y. Learning hierarchical spectral-spatial features for hyperspectral image classification[J]. IEEE Transactions on Cybernetics， 2017， 46（7）：1667-1678.

[7] 王軍浩，閆德勤，劉德山，等.高光譜圖像分類的融合分層深度網絡聯合稀疏表示算法[J].模式識別與人工智能，2020，33（4）：?303-312.

[8] BANDOS T V， BRUZZONE L， CAMPS-VALLS G. Classification of hyperspectral images with regularized linear discriminant analysis[J]. IEEE Transactions on Geoscience & Remote Sensing， 2009， 47（3）：862-873.

[9] HE X， NIYOGI P. Locality preserving projections[J]. Advances in Neural Information Processing Systems， 2003， 16（1）：186-197.

[10] BELKIN M， NIYOGI P. Laplacian eigenmaps and spectral techniques for embedding and clustering[J]. Advances in Neural Information Processing Systems， 2001， 14（6）：585-591.

[11] WANG D， LU H， YANG M H. Kernel collaborative face recognition[J]. Pattern Recognition， 2015， 48（10）：3025-3037.

[12] CHEN Y， NASRABADI N M， TRAN T D. Hyperspectral image classification via kernel sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing， 2013， 51（1）：217-231.

[13] WANG L， HAO S， WANG Q， et al. A Multiple-mapping kernel for hyperspectral image classification[J]. IEEE Geoscience and Remote Sensing Letters， 2015， 12（5）：978-982.

[14] HUANG H， DUAN Y， SHI G， et al. Fusion of weighted mean reconstruction and SVMCK for hyperspectral image classification[J]. IEEE Access， 2018， 6（15）：224-235.

[15] CHEN Y， NASRABADI N M， TRAN T D. Hyperspectral image classification using dictionary-based sparse representation[J]. IEEE Transactions on Geoscience and Remote Sensing， 2011， 49（10）：3973-3985.

[16] FANG L， WANG C， LI S， et al. Hyperspectral image classification via multiple-feature-based adaptive sparse representation[J]. IEEE Transactions on Instrumentation & Measurement， 2017， 66（7）：1646-1657.

[17] JIANG J， CHEN C， YU Y， et al. Spatial-aware collaborative representation for hyperspectral remote sensing image classification[J]. IEEE Geoscience and Remote Sensing Letters， 2017， 14（3）：404-408

作者簡介：

曹意唱（1996-），女，碩士生.研究領域：機器學習，模式識別，遙感圖像分類.

閆德勤（1962-），男，博士，教授.研究領域：機器學習，模式識別，遙感圖像分類.

陳 ? 浪（1993-），男，碩士生.研究領域：機器學習，模式識別.

劉德山（1970-），男，碩士，教授.研究領域：機器學習，模式識別，智能信息處理.