基于經驗模態分解的SVM-KNN高光譜圖像分類方法

左航

?

基于經驗模態分解的SVM-KNN高光譜圖像分類方法

左航

（河海大學計算機與信息學院，南京 211100）

為了提高高光譜圖像分類的分類精度，考慮在已知分類器SVM-KNN的基礎上，結合經驗模態分解，提出了一種EMD-SVM-KNN的新的分類方法，并將其應用到AVIRIS數據92AV3C，仿真結果表明該算法不僅提高了高光譜圖像分類精度，而且可減少支持向量數目，以提高高光譜圖像分類速度。

EMD；SVM-KNN；高光譜圖像；分類

0 引言

高光譜遙感圖像通常有著很高的光譜分辨率，且每個像元都可供應幾乎不斷的地物光譜曲線。高光譜圖像目前已有廣泛應用[1-2]。然而，高光譜圖像具有的數據量大、數據不確定和維數高等特點使得傳統的高光譜圖像分類算法，例如貝葉斯分類算法、神經網絡分類算法等，遭遇了“維數災難”現象。

因此研究適用于高維數、多冗余信息的高光譜圖像分類算法是必須的，比如SVM分類算法。支持向量機（Support Vector Machine，SVM）是經過統計學習理論，再發展起來的小樣本學習算法，能夠比較方便地解決非線性和高維數等問題。在進行SVM的研究中，所有研究的出發點和目的都是提高它的分類能力。比如文章[3]中提出結合SVM和KNN，對在空間不同分布的樣本采用相異的分類法，以提高分類精度。

為了提高高光譜圖像分類精度，在文獻[4]中，Begüm Demir將經驗模態分解（Empirical Mode Decomposition，EMD）應用到高光譜圖像，提出2D-EMD-SVM，經過對高光譜圖像的EMD分解，完全獲取高光譜圖像最根本的特征，而且對EMD分解后的本征模函數（Intrinsic Mode Function，IMF）之和進行SVM分類，并獲得高于基于SVM高光譜圖像分類算法的分類精度。該文在SVM-KNN分類器的基礎上，結合EMD，提出EMD-SVM-KNN方法來對高光譜圖像進行分類，實驗證明能夠顯著提高高光譜圖像的分類精度，并減少支持向量的數量，以提高高光譜圖像分類速度。

1 EMD

經驗模態分解是黃鍔（N. E. Huang）跟他人在美國國家宇航局于1998年開拓性地想出的一種新的自適應信號時頻處理方法[5]。這種方法是根據數據自身的時間尺度特征去進行信號分解，不需要實現設定基函數。恰好是因為這樣的特點，所以在理論上所有類型信號的分解都可以用EMD解決，從而在處理非線性跟非平穩數據上，優勢比較明顯。所以，EMD方法一經提出就在不同的工程領域得到有效應用。

經驗模態分解的基本原理是經過連續重復的篩選行為一步接一步找到本征模函數IMF，再把原始信號分解為IMF跟殘差的組合。相比于短時傅立葉變換、小波分解等方法，該方法是直接的、直觀的且是自適應的。

成為本征模函數需要以下兩個前提：（1）在整個的時間范圍內，函數的局部極值點跟過零點的數量一定相等，或頂多差一個；（2）不管是哪個時刻點，局部最大值跟局部最小值的上下包絡線的平均值一定為零。條件一是顯然，它類似于傳統的平穩高斯信號的窄帶要求。但條件二，它把經典的全局性要求更改為局部性要求，使得不對稱波形所形成的不必要的波動對瞬時頻率的影響為零。

EMD分解方法所需要的前提條件有：（1）數據起碼有兩個極值，一個最大值跟一個最小值；（2）極值點間的時間尺度獨一性地確定了數據的局部時域特性；（3）若數據沒一個極值點卻有拐點存在，那么可以針對數據微分一次或若干次來獲得極值，然后再使用積分來得到分解結果。可以形象地稱這種分解過程為“篩選”過程。

2）找到輸入值中的所有局部極大值，利用三次樣條插值函數將局部極大值擬合成上包絡線，同理找出局部極小值，并擬合成下包絡線，之后求出上下包絡的均值，。

2 SVM-KNN

因為SVM分類器正好相當于每個類只選出一個代表點的1NN分類器，但偶爾該類不能很好地被這個代表點代表，而NN又能將所有支持向量作為代表點，使得分類器獲得更高的分類準確率，從而考慮結合SVM和NN。另外對于待鑒識樣本，計算與另外兩類支持向量代表點和之間的距離，若距離差值大于一給定閾值也即離分界面較遠，如圖1所示。

圖1

在進行數據的封閉測試（用訓練樣本作為測試集）中,SVM-NN分類器的輸出幾乎達到100%。這是因為支持向量一般都分布于分類超平面周圍，也就是圖1中的區域，這時利用1NN來對它分類，那么每個支持向量，都會找到支持向量自己作為最近鄰，這樣結果便一直是正確的。

首先利用任何一種SVM算法，求出相應的支持向量和它的系數以及常數。把設為測試集，是支持向量集，是NN的個數。

類似于SVM，針對不同應用問題可以選擇上式中的核函數。算法中的分類閾值一般都設在1左右，當設為0的時候，SVM便是SVM算法。>

3 實驗過程

本實驗所采用的算法，如圖2所示。

圖2 基于經驗模態分解的KNN-SVM高光譜圖像分類算法

采用1992年在美國印地安那州西北部，用AVIRIS傳感器所采集到的高光譜數據92AV3C作為實驗數據去進行仿真實驗。92AV3C數據附帶了經過實地測繪而獲得的地物真實的參考圖，通過該圖即可檢驗分類精度，亦可作為圖像特征時選擇的判定參照。AVIRIS傳感器一共收集到224個波段數據，然后舍棄中間4個零值波段，余下的220個波段便形成了高光譜數據集合92AV3C[6]。92AV3C數據中有因為大氣影響而被丟棄在實驗數據之外的20個波段，分別是104到108，150到163和第220波段[7]。

SVM分類器的核函數采用徑向基函數：

表1 各類地物對應的樣本數

總的訓練樣本數和測試樣本數分別為4673和4672，進行2折分類。這9類地物的像素總數占了所有16類地物像素總數的98.13％。將得到的分類結果與測試集所包含的真實類別相比較，我們可以得出各類別的分類精度，將它們平均得到平均精度（Average Aceuraey，AA）；將所有正確分類的像素數除以總像素數則得到總體精度（Overall Average，OA）。我們分別采用傳統的支持向量機分類算法（SVM）以及Begüm Demir的EMD-SVM算法與本文提出的EMD-SVM-KNN分類算法對高光譜圖像進行分類，并對各種方法的仿真結果進行比較。

3種分類算法的分類精度的比較，如圖3所示。

圖3 本文算法與其他方法的分類精度比較

從試驗可以看出本文提出的算法（EMD-SVM-KNN）得到的平均精度AA高達88.83％，比SVM算法高10.12％；比EMD-SVM算法高4.75％。總體精度OA高達90.25％，比SVM算法高11.4％，比EMD-SVM算法高5.82％。同時我們利用Kappa系數公式，可得Kappa系數達到0.862,比SVM算法高0.893，比EMD-SVM算法0.387,多可見本文提出的算法很好地提高了高光譜數據的分類精度。

3種分類算法在分類實驗過程中所需的分類時間和支持向量數目的比較如表2所示。

表2 各種分類方法所需的分類時間和支持向量機數目比較

從表2中可以看出，采用本文算法分類（EMD-SVM-KNN）的支持向量數與SVM相比都要少很多。另外，與Begüm Demir的EMD-SVM算法相比，本文的算法（EMD-SVM-KNN）的支持向量數要比EMD-SVM算法少。同時，表2中可看出本文算法所需的時間最少，因此，本文的算法（EMD-SVM-KNN）更有效地減少了支持向量數目，提高了高光譜圖像的分類速度。美國印地安那州高光譜數據92AV3C的不同方法對應分類圖像如圖4所示。

(a)???????? (b)

(c)???????? (d)

圖4 美國印地安那州高光譜數據92AV3C的不同方法對應分類圖像 (a)2-D-EMD(k-NN) (b) 2-D-EMD(SVM) (c) EMD-KNN-SVM (d)原圖.

綜上，從仿真數據的分析和比較結果可以看出，本文算法（EMD-SVM-KNN）在SVM-KNN分類器基礎上引入了EMD，提高了高光譜圖像分類精度，減少支持向量數，提高分類速度。

4 總結

本文利用SVM和KNN構造成的一種新分類器, 結合經驗模態分解，提出了EMD-SVM-KNN分類方法，實驗證明使用該方法的分類準確率比單純使用SVM分類器和EMD-SVM方法都有不同程度的提高, 并且該分類器在一定程度上不受核函數參數選擇的影響,具有一定的穩健性。本文算法獲得了更高的分類精度，并減少了分類過程中所需的支持向量數和分類時間，提高了支持向量分類器的分類速度。

[1] Tong Qing-xi, Xue Yong-qi, Zhang Li-fu, et al. Progress in Hyperspectral Remote Sensing science and Technology in China over the Past Three Decades. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing[J]. 2014,7(1):70-91.

[2] Kang Xu-dong, Li Shu-tao, Benediktsson Jon Atli, et al. Spectral-Spatial Hyperspectral Image Classification with Edge-preserving Filtering. IEEE Transactions on Geoscience and Remote Sensing[J]. 2014,52(5):2666-2677.

[3] 李蓉,葉世偉,史忠植，等. SVM-KNN分類器──一種提高SVM分類精度的新方法[J].電子學報，2002,5：745-747.

[4] Demir B, Ertürk S. Empirical Mode Decomposition of Hyperspectral Images for Support Vector Machine Classification [J]. IEEE Trans. Geosci Remote Sense, 2010,48: 4071-4084.

[5] Huang N E，Shen Z，Leng S R．The empirical mode decompositionand the hilbert spectrum for nonlinear and nonstationary time seriesanalysis[C]．Proceeding of Royal Society，London，1998，A454：903—995．

[6] ftp：//ftp.ecn.purdue.edu/biehl/Multispec/92AV3c/[OL].

[7] 高恒振，萬建偉，粘永健，等．一種基于譜域—空域組合特征支持向量機的高光譜圖像分類算法[J]．宇航學報，2011，32(4)：917-921．

Hyperspectral Image Classification Based on SVM-KNN Method Of Empirical Mode Decomposition

Zuo Hang

(School of Computer and Information, Hohai University, Nanjing 211100,China)

In order to improve the classification accuracy of hyperspectral image classification, basisd on the known classifier SVM-KNN, is improued a new classification method of EMD-SVM-KNN is propos, by It is then applied to AVIRIS data 92AV3C. Simulation results show that the algorithm not only improves the hyperspectral image classification accuracy, but also reduces the number of support vectors, so that to improve the speed of hyperspectral image classification.

EMD; SVM-KNN; Hyperspectral image; Classification

1007-757X(2016)12-0060-04

TP751

A

左 航（1992-），男，漢族，安徽宣城，河海大學，碩士，研究方向：高光譜圖像分類，南京，211100

（2016.08.09）