改進(jìn)的基于CNN的高光譜遙感圖像分類(lèi)辦法

王瑩

摘 要：由于高光譜遙感圖像光譜維度大，標(biāo)注樣本相對(duì)較少，提出了一種結(jié)合主成分分析和改進(jìn)的二維卷積神經(jīng)網(wǎng)絡(luò)的高光譜遙感圖像的分類(lèi)方法。首先，通過(guò)主成分分析，降低光譜維度，消除光譜亢余信息。然后，將數(shù)據(jù)進(jìn)行分塊處理，獲得分塊數(shù)據(jù)的樣本標(biāo)簽，并將數(shù)據(jù)分為訓(xùn)練集和驗(yàn)證集，用訓(xùn)練集和驗(yàn)證集訓(xùn)練改進(jìn)的針對(duì)高光譜遙感圖像分類(lèi)的卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)。最后，將測(cè)試集投入訓(xùn)練好的2D-CNN上進(jìn)行分類(lèi)，得到分類(lèi)結(jié)果。實(shí)驗(yàn)結(jié)果表明，提出的模型的分類(lèi)精度明顯提高，從而驗(yàn)證了該方法的有效性和實(shí)用性。

關(guān)鍵詞：高光譜遙感圖像分類(lèi);深度學(xué)習(xí);卷積神經(jīng)網(wǎng)絡(luò);主成分分析

中圖分類(lèi)號(hào)：TB 文獻(xiàn)標(biāo)識(shí)碼：A doi：10.19311/j.cnki.1672-3198.2019.35.110

高光譜遙感是20世紀(jì)60年代發(fā)展起來(lái)的將成像技術(shù)和光譜技術(shù)相結(jié)合的多維信息獲取技術(shù)，同時(shí)能探測(cè)目標(biāo)的二維集合空間與一維光譜信息，獲取高光譜分辨率的連續(xù)、窄波段圖像數(shù)據(jù)，已經(jīng)成為具有特色的遙感前沿綜合技術(shù)，定量化的連續(xù)光譜曲線數(shù)據(jù)為地物光譜機(jī)理模型引入圖像分類(lèi)提供了條件，如今高光譜遙感技術(shù)已經(jīng)應(yīng)用于海洋檢測(cè)、軍事、土地資源、城市監(jiān)測(cè)、氣象、地質(zhì)、水利水電設(shè)施、探礦等方面。

為了解決高光譜圖像分類(lèi)，很多種的分類(lèi)方法被提出。傳統(tǒng)的分類(lèi)方法主要涉及光譜信息，典型的分類(lèi)算法包括平行六面體分類(lèi)，K-近鄰，最大似然法，最小距離和邏輯回歸。上述算法的大部分都會(huì)受到維度災(zāi)難的影響。為了解決高維度和有限的標(biāo)記樣本問(wèn)題，一些基于維度減少的分類(lèi)方法被提出。特征變換和波段選擇是常用的有效解決問(wèn)題的方法。

近年來(lái)，對(duì)于高光譜數(shù)據(jù)分類(lèi)來(lái)說(shuō)，空間信息變得越來(lái)越重要。空間信息在分類(lèi)表現(xiàn)力方面提供很大的優(yōu)勢(shì)。文獻(xiàn)[1]提出了一種基于空間上下文的一類(lèi)分類(lèi)技術(shù)。

深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)的一種，逐漸被引入圖像分類(lèi)里。常用的深度學(xué)習(xí)分類(lèi)模型主要有卷積神經(jīng)網(wǎng)絡(luò)，深度置信網(wǎng)絡(luò)和自動(dòng)編碼器。文獻(xiàn)[2]針對(duì)高光譜圖像分類(lèi)，提出了帶有數(shù)據(jù)編碼和自訓(xùn)練的自動(dòng)編碼器分類(lèi)框架。文獻(xiàn)[3]提出了基于快速去噪和深度信念網(wǎng)絡(luò)的高光譜圖像的分類(lèi)方法。文獻(xiàn)[4]針對(duì)高光譜圖像分類(lèi)提出了基于多尺度協(xié)方差的特征提取，文中是以卷積神經(jīng)網(wǎng)絡(luò)為框架。

基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分類(lèi)的研究路線表明，采用深度卷積神經(jīng)網(wǎng)絡(luò)能夠提取更加魯棒的特征。但是隨著網(wǎng)絡(luò)層數(shù)的增加，容易出現(xiàn)過(guò)擬合和局部最優(yōu)，如何搭建卷積神經(jīng)網(wǎng)絡(luò)模型，仍是值得研究的問(wèn)題。

為了進(jìn)一步提升高光譜遙感圖像的分類(lèi)精度，本文提出了結(jié)合主成分分析和卷積神經(jīng)網(wǎng)絡(luò)的高光譜圖像分類(lèi)方法。

我們首次將基于深度學(xué)習(xí)的特征提取引進(jìn)高光譜數(shù)據(jù)分類(lèi)中。我們的工作集中用基于深度框架模型的自動(dòng)編碼器，以無(wú)監(jiān)督的方式學(xué)習(xí)高光譜數(shù)據(jù)深度特征。我們的方法是利用單層自動(dòng)編碼器和多層堆積自動(dòng)編碼器分別學(xué)習(xí)高光譜數(shù)據(jù)淺層和深層的特征。此外，關(guān)于分類(lèi)我們提出了一種提取主要空間信息的新的方法。最后，我們提出一個(gè)新穎的分類(lèi)框架處理空譜特征，空譜特征是利用前面兩節(jié)提取的所有特征。首先，通過(guò)主成分分析，降低光譜維度，消除光譜亢余信息。然后，將數(shù)據(jù)進(jìn)行分塊處理，獲得分塊數(shù)據(jù)的樣本標(biāo)簽，并將數(shù)據(jù)分為訓(xùn)練集和驗(yàn)證集，用訓(xùn)練集和驗(yàn)證集訓(xùn)練改進(jìn)的針對(duì)高光譜遙感圖像分類(lèi)的卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)。最后，將測(cè)試集投入訓(xùn)練好的2D-CNN上進(jìn)行分類(lèi)，得到分類(lèi)結(jié)果。實(shí)驗(yàn)在常用的高光譜數(shù)據(jù)集Indian和paviaU進(jìn)行，實(shí)驗(yàn)結(jié)果表明，本文提出的模型的分類(lèi)精度明顯提高，從而驗(yàn)證了本文方法的有效性和實(shí)用性。

1 高光譜數(shù)據(jù)處理

1.1 主成分分析

在高光譜數(shù)據(jù)分類(lèi)中存在一些關(guān)鍵的問(wèn)題：（1）大量的光譜通道導(dǎo)致的維度的增加，從而導(dǎo)致光譜信息亢余;（2）有限的標(biāo)記樣本，使得可訓(xùn)練樣本少;（3）光譜特征的空間變化性大，增加了訓(xùn)練難度。

為了解決光譜信息亢余的問(wèn)題，采用PCA的方法將原始光譜信息轉(zhuǎn)為為一組各維度線性無(wú)關(guān)的表示。

1.1.1 主成分分析步驟

（1）對(duì)光譜數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。

1.1.2 數(shù)據(jù)patch處理

為了與2D-CNN的輸入保持一致，首先擴(kuò)充相應(yīng)的寬度和長(zhǎng)度，然后將高光譜圖像分解成patches，其中每個(gè)patch包含特定像素的光譜和空間信息，將所獲得的包含特定像素的光譜和空間信息patches作為2D-CNN的輸入，然后利用2D-CNN分層進(jìn)行訓(xùn)練，如圖1。

1.2 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是指一類(lèi)具有深層結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)最基本的組成部分是神經(jīng)元，由許多神經(jīng)元組成非線性分層系統(tǒng)，圖2是單個(gè)神經(jīng)元的數(shù)學(xué)模型。

變換，通常稱(chēng)為激活函數(shù)

卷積神經(jīng)網(wǎng)絡(luò)中的激活函數(shù)必須是非線性的，它的作用為模型添加非線性因素，提高了卷積網(wǎng)絡(luò)對(duì)真實(shí)的模型的表達(dá)能力，從而解決線性模型解決不了的問(wèn)題。常見(jiàn)的激活函數(shù)有 Sigmod 函數(shù)、Tanh 函數(shù)和 ReLU 函數(shù)，如圖3所示。

卷積神經(jīng)網(wǎng)絡(luò)是一種特殊的多層感知器或前饋神經(jīng)網(wǎng)絡(luò)。標(biāo)準(zhǔn)的卷積神經(jīng)網(wǎng)絡(luò)一般由輸入層、交替的卷積層和池化層、全連接層和輸出層構(gòu)成，如圖4所示。

3 高光譜分類(lèi)實(shí)驗(yàn)

3.1 實(shí)驗(yàn)數(shù)據(jù)

本文采用Indian pines 數(shù)據(jù)，它是AVIRIS 成像光譜儀1992 年對(duì)美國(guó)印第安納一塊印度松樹(shù)進(jìn)行成像得到的數(shù)據(jù)。該數(shù)據(jù)形狀為三維數(shù)據(jù)，數(shù)據(jù)大小為 145×145 ，波長(zhǎng)范圍為 0.4-2.5μm，具有連續(xù)的 220 個(gè)波段，本文剔除含噪聲的20個(gè)波段，采用剩下的200個(gè)波段進(jìn)行實(shí)驗(yàn)，總共有 21025個(gè)像素，但是其中只有 10249 個(gè)像素是地物像素，其余 10776 個(gè)像素均為背景像素，總共有 16類(lèi)。

3.2 改進(jìn)的高光圖像分類(lèi)模型

高光譜遙感圖像光譜維度大，標(biāo)注樣本相對(duì)較少，本文通過(guò)對(duì)經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)，得到一個(gè)高光譜圖像的分類(lèi)模型，表1展示了本文模型網(wǎng)絡(luò)結(jié)構(gòu)。

如表1所示，前面通過(guò)分塊處理得到四維數(shù)據(jù)，因?yàn)樵摂?shù)據(jù)尺寸小，但波段多，直接采用經(jīng)典模型，導(dǎo)致網(wǎng)絡(luò)深度不夠，提取不到深層特征，造成欠擬合，所以第一層對(duì)樣本進(jìn)行擴(kuò)充訓(xùn)練，第二，三，五和六層采用卷積層，步長(zhǎng)均為1，第四和七層采用最大池化層。為了防止過(guò)擬合，第八層采用可dropout層，進(jìn)行正則化訓(xùn)練。然后投入全連接層，最后采用激活函數(shù)softmax進(jìn)行分類(lèi)訓(xùn)練。梯度優(yōu)化采用的rmsprop，初始化學(xué)習(xí)率為0.004。

3.3 實(shí)驗(yàn)結(jié)果和分析

本次實(shí)驗(yàn)采用15%作為訓(xùn)練數(shù)據(jù)，5%作為驗(yàn)證數(shù)據(jù)，余下的80%作為測(cè)試數(shù)據(jù)。圖5（a）和（b）分別給出了精度圖和損失圖。

訓(xùn)練精度和驗(yàn)證精度達(dá)到99.97%。

訓(xùn)練損失和驗(yàn)證損失達(dá)到0.03。

基金項(xiàng)目：河南省民辦高校品牌專(zhuān)業(yè)“機(jī)械設(shè)計(jì)制造及其自動(dòng)化”;河南省重點(diǎn)學(xué)科 “機(jī)械設(shè)計(jì)制造及其自動(dòng)化”（教高〔2018〕119號(hào)）;河南省優(yōu)秀基層教學(xué)組織“黃河科技學(xué)院機(jī)械工程教研室（教高[2017]201號(hào)）”;河南省高等教育教學(xué)改革研究與實(shí)踐項(xiàng)目“應(yīng)用型高校機(jī)械類(lèi)專(zhuān)業(yè)創(chuàng)新創(chuàng)業(yè)教育改革研究與實(shí)踐” （2017SJGLX126）。

作者簡(jiǎn)介：王增勝（1980-），男，山西介休人，碩士，黃河科技學(xué)院，副教授，研究方向：機(jī)械系統(tǒng)仿真。

把測(cè)試集投入訓(xùn)練好的模型里，得到分類(lèi)結(jié)果，并計(jì)算模型的總體分類(lèi)準(zhǔn)確性O(shè)A，每類(lèi)平均準(zhǔn)確率AA和Kappa 系數(shù)，下面是分類(lèi)圖與元素圖的對(duì)比。

最后與前面提到的方法進(jìn)行對(duì)比，如表2所示。

4 結(jié)論

本文提出了一種改進(jìn)的基于深度卷積神經(jīng)網(wǎng)絡(luò)的高光譜遙感圖像分類(lèi)模型，得到理想的分類(lèi)效果，從而有效解決了高光譜圖像分類(lèi)參數(shù)選擇困難和過(guò)擬合的難題。

參考文獻(xiàn)

[1]C.Sanchez-Hernandez，D.S.Boyd，G.M.Foody.One-Class Classification for Mapping a Specific Land-Cover Class SVDD Classification of Fenland[J].IEEE Transactions on Geoscience and Remote Sensing，2007，45（4）：1061-1073.

[2]Junshu Wang，Nan Jiang.Automatic framework for semi-supervised hyperspectral image classification using self-training with data editing[J].IEEE Transactions on Geoscience and Remote Sensing，2017，45（3）：1061-1073.

[3]高鑫，歐陽(yáng)寧，袁華.基于快速去噪和深度信念網(wǎng)絡(luò)的高光譜圖像分類(lèi)方法[J].桂林電子科技大學(xué)學(xué)報(bào)，2016，（10）.

[4]Nanjun He，Juan Mario Haut ，Shutao Li.Feature Extraction With Multiscale Covariance Maps for Hyperspectral Image Classification[J].IEEE J，2018：0196-2892.

[5]Y.Chen，Z.Lin，X.Zhao，G.Wang，and Y.Gu.Deep learning-based classification of hyperspectral data[J].IEEE J.Sel.Topics Appl.Earth Observ，2014，7（6）：2094-2107.

[6]Y.Chen，X.Zhao，X.Jia.Spectral-spatialclassificationofhyperspectral data based on deep belief network[J].IEEE J.Sel.Topics Appl.Earth Observ.Remote Sens，2015，8（6）：2381-2392，Jun.

[7]L.Zhang et al.Active learning based on locally linear reconstruction[J].IEEE Trans Pattern Anal.Mach Intell.Oct.2011，33（10）：2026-2038.

[8]X.Zhu，Semi-supervised learning with graphs[D].Ph D thesis，Carnegie Mellon University，Pittsburgh，2005，PA，USA.