基于相關向量機的高光譜圖像解混方法

楊京輝，王立國，錢晉希

（1.哈爾濱工程大學信息與通信工程學院，黑龍江哈爾濱150001；2.中國空間技術研究院通信衛(wèi)星事業(yè)部，北京100094；3.北京郵電大學電子工程學院，北京100876）

基于相關向量機的高光譜圖像解混方法

楊京輝1，王立國1，錢晉希2，3

（1.哈爾濱工程大學信息與通信工程學院，黑龍江哈爾濱150001；2.中國空間技術研究院通信衛(wèi)星事業(yè)部，北京100094；3.北京郵電大學電子工程學院，北京100876）

針對傳統(tǒng)的高光譜數(shù)據(jù)解混方法中存在的解混精度不高、豐度圖模糊的缺陷，提出一種基于相關向量機的高光譜圖像解混方法（unmixing algorithm based on relevance vector machine，UARVM）。其核心思想是采用改進的一對余型的相關向量機將多分類問題轉化為多個二分類的問題，且求取出每個樣本所對應的歸屬類別的概率值，即豐度值來完成圖像的解混。理論研究和仿真結果表明：相對于傳統(tǒng)解混方法，UARVM解混精度高，豐度分布圖效果好。

高光譜圖像；UARVM；豐度；相關向量機；解混

高光譜圖像廣泛應用于農(nóng)業(yè)生產(chǎn)、礦物填圖、目標識別與探測、災害預警、軍事偵察及城市規(guī)劃等領域［1?2］。由于目前高光譜圖像的采集手段和光學儀器性能的限制，導致了觀測到的一個像元很可能包含不止一種類別的地物，這種像元稱之為混合像元。如何求解混合像元中所包含的各類地物分別所占比例，即進行高光譜解混已經(jīng)成為研究的熱點。

針對線性光譜混合模型，文獻［3］提出了一種全約束最小二乘算法（fully constrained least squares，F(xiàn)CLS），并取得了比較好的混合像元分解效果。該算法是目前比較通用的高光譜圖像解混算法。近幾年，獨立分量分析（independent component analysis，ICA）和非負矩陣分解（nonnegative matrix factorization，NMF）等一系列的盲分離算法也被廣泛的應用于高光譜圖像解混中［4?5］。目前基于支持向量機（support vector ma?chine，SVM）的高光譜圖像解混及分類方法成為眾多學者研究的熱點［6?8］。相關向量機（relevance vector machines，RVM）是一種與SVM類似同時又是為了彌補SVM不足的具有稀疏概率的模型。文獻［9?10］證明了RVM相對于SVM泛化能力更好，且模型更加稀疏。因此，可以預計RVM在高光譜圖像解混之中存在著巨大的應用潛力。鑒于RVM算法的上述特性，本文提出了一種基于RVM的高光譜解混方法（unmixing al?gorithm based on relevance vector machine，UARVM），并構建了高光譜圖像的解混模型，通過解混仿真表明該算法的有效性。

1 RVM理論

式中：K( x，xn)為核函數(shù)，x＝［x1x2…xN］。而預測樣本標號為tn＝y(tǒng)n+εn，εn為附加噪聲εn～N( 0，σ2)。為減少核函數(shù)的計算量，為權值向量w＝［w0w1w2…wN］T添加附加條件：wj(0≤j≤N )服從wj～N( 0，αj-1)分布。可得到式（2）分布函數(shù)：

式中：α為權值向量w先驗分布的超參數(shù)向量。

RVM的關鍵問題可以轉化為求解權值wMP的問題，其可通過式（3）迭代完成：

2 UARVM方法

本文提出的UARVM方法是一種基于相關向量機的高光譜圖像解混方法。該算法主要通過已知的少量樣本信息，實現(xiàn)高光譜數(shù)據(jù)的解混。其核心思想是采用改進的一對余型的相關向量機將多分類問題轉化為多個二分類的問題，且求取出每個樣本所對應的歸屬類別的概率值，即豐度值來完成圖像的解混。

高光譜圖像解混之后得到的豐度值具有實際的物理意義，其滿足以下的2個限制條件：1）豐度值非負。2）豐度值加和為1。

所求解出的概率值已經(jīng)是非負的，因此，能夠滿足第1個限制條件。針對第2個限制條件，需要對傳統(tǒng)的一對余模型進行改進。

傳統(tǒng)的一對余模型通常用于類別判定，對k類樣本構建k個分類器，每個分類器均對應著一個輸出，測試樣本的歸屬類別取決于k個分類器中哪個分類器的輸出值最大，樣本就偏向于這個類別并且最終歸屬為這一類。這里將一對余的思想應用于高光譜圖像解混，需要對k個分類器的輸出做進一步的處理，使其具有實際的物理意義，滿足k個輸出值的對應加和為1，因此要對k個輸出值做歸一化的處理即

UARVM算法流程圖如圖1所示。

圖1 UARVM算法流程圖Fig.1 UARVM method flow chart

UARVM方法具體實施步驟如下所示：

假設已知一共有k個數(shù)據(jù)類別，且每個類別分別具有一定的監(jiān)督信息。

1）將具有監(jiān)督信息的訓練樣本中屬于第1類樣本對應的樣本標號標記為+1，其余k-1的類別對應的樣本標號標記為0。

2）訓練樣本經(jīng)過RVM訓練進而來求解測試樣本屬于第1類的概率值，記為f1。

3）將具有監(jiān)督信息的訓練樣本中屬于第2類樣本對應的樣本標號標記為+1，其余k-1的類別對應的樣本標號標記為0。

4）訓練樣本經(jīng)過RVM訓練進而來求解測試樣本屬于第2類的概率值，記為f2。

5）延續(xù)上述思路，直到測試樣本屬于第k類的概率值fk求解完畢。

求解完畢。fi即為所對應的第i個類別在測試樣本中所占的比例，稱之為豐度值。

由圖1可以看出UARVM算法對每一次經(jīng)過訓練及測試后RVM輸出的概率值fi都進行了存儲操作，由于k次的訓練測試過程是相對獨立的，因此在實際中如果條件允許是可以讓其并行處理，分別返回自己的概率輸出值fi以減少運算時間。同時可以看出UA?RVM算法相對于文獻［12］的算法，更加簡單，具有更加實際的物理意義。

3 系統(tǒng)仿真與結果分析

3.1 仿真數(shù)據(jù)

仿真中采用的高光譜圖像是美國印第安納州In?dian Pine實驗區(qū)圖像，其于1992年6月用AVIRIS傳感器采集得到，空間分辨率為20 m。原始圖像共有220個波段，大小為144×144，共有16種地物分布，將原始的220個波段中受噪聲影響較大的一些波段去除后選取200個波段作為仿真研究對象。考慮到樣本數(shù)目要大致相等的原因，從16種地物中選取灌木、大豆和喬木這3類樣本數(shù)目大致相當?shù)牡匚飦磉M行仿真，為方便研究，對其分別標號為第1、2和3類。仿真數(shù)據(jù)圖如圖2所示。

圖2 仿真數(shù)據(jù)圖Fig.2 Simulation data

仿真計算機硬件環(huán)境為AMD Sempron（閃龍）X2 190雙核處理器，內(nèi)存2GB，軟件環(huán)境為Microsoft Win?dows XP、MATLAB 2010b。

3.2 真實高光譜數(shù)據(jù)的解混性能比較

在對高光譜圖像進行解混時，本文將UARVM解混算法與經(jīng)典方法FCLS和最小二乘支持向量機（least squares support vector machine，LS?SVM）方法進行對比分析［13?14］。其中FCLS解混用的是與相關類別對應的真實端元，LS?SVM與UARVM的仿真是在其各自模型參數(shù)均調(diào)到最優(yōu)的情況下進行，從這3種實際地物分布樣本中均勻抽取12%的數(shù)據(jù)作為訓練樣本。運用3種方法解混后與之對應的各類地物的豐度分布圖分別如圖3所示。

圖3 解混豐度分布圖Fig.3 Unmixing abundance distribution maps

在豐度圖中，灰度越亮代表該類別在所對應的混合像元中的豐度值越大，反之亦然。通過仿真結果的對比可知：FCLS豐度圖相對比較模糊，這是因為混合像元各組分中存在非線性特性，而LS?SVM和UARVM利用多個樣本來對一個類別進行刻畫，高光譜數(shù)據(jù)中的每個端元是由一組而不是一個單一訓練樣本來進行建模，這使得類別的特征表示更加全面，因此使得混合像元解混效果得到了一定的改善。同時，由于UARVM解混結果更具統(tǒng)計意義，因此豐度圖中不同地物之間有著明顯的區(qū)分。3種解混方法的解混精度如表1。由表1表明在3種解混方法中UARVM方法從各類的解混精度和總體的解混精度來看精度值均是最高的。為了更加直觀的顯示3種不同方法的解混精度對比效果，采用解混信度曲線如圖4，其表示在不同容許解混誤差下測試樣本的總體解混精度。

表1 3種解混方法對應的解混精度Table1 The unmixing accuracy of the three methods %

圖4 解混信度曲線Fig.4 Unmixing reliability curve

由圖4可以直觀的顯示在0到0.1的容許解混誤差下，相比于FCLS和LS?SVM方法，UARVM方法的總體解混精度高。

3種解混方法的處理時間如表2所示。解混時間為訓練時間與測試時間的加權。從表2中可以看出FCLS用于解混的總時間最長。由于UARVM的訓練時間較長，導致整體的解混時間長于LS?SVM。因為在實際中對樣本的訓練可以離線進行，因此在處理時間中通常比較關注的是測試時間，可以看到UARVM的樣本測試時間要短于LS?SVM，即UARVM在實時性上具有一定優(yōu)勢。

表2 3種解混方法對應的處理時間Table2 The corresponding processing time of the three methods s

3.3 解混結果的制圖評價分析

仿真中采用的實驗數(shù)據(jù)是純像素，因此可以應用上述3種方法的解混結果對測試數(shù)據(jù)進行制圖分析，其中采用的制圖方法是硬分類意義下的主題制圖方式。為了分析各種方法，可以計算各自的制圖精度，具體的制圖精度如圖5所示。

圖5 3種不同解混結果下的制圖精度對比Fig.5 Comparison of the mapping accuracies with three unmixing results

從圖5的結果中，可以看到LS?SVM與UARVM方法制圖精度明顯要高于FCLS，其中UARVM與LS?SVM的制圖精度很接近，UARVM的制圖精度略低一些。

4 結束語

本文提出一種新的UARVM高光譜圖像解混方法，并得到其解混模型。該模型通過對樣本歸屬類別的豐度值進行計算，在高光譜圖像應用中，具有較好的解混和制圖效果。由仿真結果可以看出：一方面，UA?RVM方法具有良好的泛化能力，在解混中使得混合像元中各組分的非線性特性得到較好的解釋，且更具統(tǒng)計意義，其解混精度高，豐度分布圖效果要優(yōu)于FCLS和LS?SVM。另一方面，UARVM方法的處理測試樣本時間要短于LS?SVM，在實時性上具有一定優(yōu)勢。同時，當利用解混結果進行制圖時，UARVM方法與LS?SVM制圖效果較好且制圖精度相當，證明了該方法的有效性。

同時，由仿真結果可以看出相比于LS?SVM方法，UARVM方法存在以下的不足：處理訓練樣本時間長，制圖精度略低。但是由于UARVM方法的處理測試樣本時間短，解混精度高，綜合考慮之下，UARVM方法更加適合應用于測試樣本較多的大場景的高光譜圖像解混中。

［1］BRAUN A C，WEIDNER U，HINZ S.Classification in high?dimensional feature spaces?assessment using SVM，IVM and RVM with focus on simulated EnMAP data［J］.IEEE Jour?nal of Selected Topics in Applied Earth Observations and Re?mote Sensing，2012，5（2）：436?443.

［2］李士進，常純，余宇峰，等.基于多分類器組合的高光譜圖像波段選擇方法［J］.智能系統(tǒng)學報，2014，9（3）：372?378.

LI Shijin，CHANG Chun，YU Yufeng，et al.Multi?classifier combination?based hyperspectral band selection［J］.CAAI Transactions on Intelligent Systems，2014，9（3）：372?378.

［3］HEINZ D，CHANG C I，ALTHOUSE M L G.Fully con?strained least?squares based linear unmixing［J］.IEEE In?ternational Geoscience and Remote Sensing Symposium，1999，2：1401?1403.

［4］XIA Wei，LIU Xuesong，WANG Bin，et al.Independent component analysis for blind unmixing of hyperspectral im?agery with additional constraints［J］.IEEE Transactions on Geoscience and Remote Sensing，2011，49（6）：2165?2179.

［5］LU Xiaoqiang，WU Hao，YUAN Yuan，et al.Manifold reg?ularized sparse NMF for hyperspectral unmixing［J］.IEEE Transactions on Geoscience and Remote Sensing，2013，51（5）：2815?2826.

［6］DEMIR B，ERTURK S.Improving SVM classification accu?racy using a hierarchical approach for hyperspectral Images［C］.Proceedings of 2009 IEEE International Conference on Image Processing（ICIP）.［S.l.］，2009：2849?2852.

［7］WANG Liguo，JIA Xiuping.Integration of soft and hard clas?sifications using extended support vector machines［J］.IEEE Geoscience and Remote Sensing Letters，2009，6（3）：543?547.

［8］MIANJI F A，ZHANG Ye.SVM?based unmixing?to?classifi?cation conversion for hyperspectral abundance quantification［J］.IEEE Transactions on Geoscience and Remote Sensing，2011，49（11）：4318?4327.

［9］BISHOP C M，TIPPING M E.Variational relevance vector machines［C］／／Proceedings of the 16th Conference on Un?certainty in Artificial Intelligence.San Francisco，USA， 2000：46?53.

［10］DEMIR B，ERTURK S.Hyperspectral image classifica?tion using relevance vector machines［J］.IEEE Geoscience and Remote Sensing Letters，2007，4（4）：586?590.

［11］董超，趙慧潔.關聯(lián)向量機在高光譜影像分類中的應用［J］.遙感學報，2010，14（6）：1273?1284.DONG Chao，ZHAO Huijie.Hyperspectral image classifi?cation and application based on relevance vector machine［J］.Journal of Remote Sensing，2010，14（6）：1273?1284.

［12］楊國鵬，周欣，余旭初，等.基于相關向量機的高光譜影像混合像元分解［J］.電子學報，2010，38（12）：2751?2756.

YANG Guopeng，ZHOU Xin，YU Xuchu，et al.Relevance vector machine for hyperspectral imagery unmixing［J］.Ac?ta Electronica Sinica，2010，38（12）：2751?2756.

［13］WANG Qunming，WANG Liguo，LIU Danfeng，et al.Sub?pixel mapping for land class with linear features using least square support vector machine［J］.Infrared and Laser En?gineering，2012，41（6）：1669?1675.

［14］王立國，肖倩.結合Gabor濾波和同質(zhì)性判定的高光譜圖像分類［J］.應用科技，2013，40（4）：21?25.

WANG Liguo，XIAO Qian.Hyperspectral imagery classifi?cation combined with Gabor filtering and homogeneity dis?crimination［J］.Applied Science and Technology，2013，40（4）：21?25.

An unmixing algorithm based on the relevance vector machine for hyperspectral imagery

YANG Jinghui1，WANG Liguo1，QIAN Jinxi2，3
（1.College of Information and Communications Engineering，Harbin Engineering University，Harbin 150001，China；2.Institute of Telecommunication Satellites，China Academy of Space Technology，Beijing 100094，China；3.School of Electronic Engineering，Bei?jing University of Posts and Telecommunications，Beijing 100876，China）

Aiming at the defects of the low unmixing accuracy and the abundance map fuzzy existing in the tradition?al hyperspectral image unmixing methods，a new hyperspectral imagery unmixing algorithm based on the relevance vector machine（UARVM）is proposed in this paper.The core idea of the proposed UARVM is to improve the one?against?rest relevance vector machine，which changes the multi?classification problem into the multiple binary?clas?sification problem，and then to solve each sample's corresponding attribution class probability value，i.e.the abun?dance，to complete the unmixing process of the hyperspectral imagery.Theoretical analysis and simulation results show that，compared with the traditional unmixing methods，the UARVM method has better unmixing performance and abundance map effect.

hyperspectral imagery；UARVM；abundance；relevance vector machine；unmixing algorithm

10.3969／j.issn.1006?7043.201311016

http：／／www.cnki.net／kcms／doi／10.3969／j.issn.1006?7043..html

TN911.73

A

1006?7043（2015）02?0267?05

2013?11?07.網(wǎng)絡出版時間：2014?11?27.

國家自然科學基金資助項目（61275010）；教育部博士點基金資助項目（20132304110007）；黑龍江省自然科學基金資助項目（F201409）；中央高校基本科研業(yè)務費重大項目（HEUCFD1410）.

楊京輝（1988?），女，博士研究生.王立國（1974?），男，教授，博士生導師.

王立國，E?mail：wangliguo＠hrbeu.edu.cn.