改進AlexNet的高分三號全極化海島地物分類

劉鵬，謝春華，安文韜，李良偉

(1.國家衛(wèi)星海洋應用中心，北京 100081；2.自然資源部空間海洋遙感與應用研究重點實驗室，北京 100081；3.國家海洋環(huán)境預報中心，北京 100081)

0 引言

高分三號是我國2016年發(fā)射的高分辨率的C頻段多極化合成孔徑雷達(synthetic aperture radar，SAR)衛(wèi)星，有12種工作模式，是世界上工作模式最多的合成孔徑雷達衛(wèi)星之一，功率達萬瓦級，可以獲取高質(zhì)量的圖像，全極化條帶成像模式分辨率可達8 m。高分三號衛(wèi)星已經(jīng)成為我國海洋行業(yè)遙感應用最主要的SAR衛(wèi)星數(shù)據(jù)來源，在海洋權益維護、海島海岸帶調(diào)查監(jiān)管、海洋環(huán)境監(jiān)測等業(yè)務上得到了廣泛應用。全極化SAR測量的是每一個像元的全散射矩陣，比傳統(tǒng)單極化SAR更加強大，能同時發(fā)射、接收水平及垂直的極化雷達信號，獲取更豐富的地物后向散射信息，更有利于地物信息的解譯，進一步推動了SAR的應用前景。但傳統(tǒng)的SAR圖像地物分類大部分都是通過人工提取圖像的極化特征或紋理特征，再利用支持向量機[1]或決策樹[2]等機器學習方法學習特征進行分類，對于全極化數(shù)據(jù)來說，不僅費時費力，而且分類效果過于依賴于特征的選取，利用不同的特征會對分類結(jié)果造成較大的影響。深度學習是機器學習發(fā)展的最新趨勢，可以對遙感圖像提取更多、更抽象、更深層的特征，且無需人工進行繁雜的特征工程，可以深度挖掘數(shù)據(jù)之間的深層聯(lián)系，并可充分利用各種特征，其分類結(jié)果表現(xiàn)更加穩(wěn)定，已經(jīng)成功應用于圖像處理、語音識別和自然語言處理等領域[3]。

1 AlexNet卷積神經(jīng)網(wǎng)絡

AlexNet 卷積神經(jīng)網(wǎng)絡是由Krizhevsky 等[4]在2012年提出的深度學習網(wǎng)絡模型，是圖像處理領域里程碑式的網(wǎng)絡模型，開啟了圖像分類的新紀元，已廣泛應用于遙感圖像分類[5]、醫(yī)學診斷[6]、信號識別[7]、語音識別[8]、目標檢測[9]等諸多領域。AlexNet的結(jié)構如圖1所示，主要有五個卷積層和三個全連接層，與傳統(tǒng)卷積神經(jīng)網(wǎng)絡相比具有許多創(chuàng)新之處。例如，AlexNet采用了ReLu激活函數(shù)，之前的卷積神經(jīng)網(wǎng)絡大多采用的 Sigmoid 型激活函數(shù)，當輸入值過大時，神經(jīng)元的梯度值就會接近0，每次迭代參數(shù)的更新值也約為0，梯度消失，導致網(wǎng)絡無法學習。ReLu激活函數(shù)在輸入為正值時，梯度恒為1，很好地解決了梯度消失的問題。AlexNet還采用了局部響應歸一化機制，這一機制仿照的是生物學上的側(cè)抑制現(xiàn)象，對局部神經(jīng)元建立競爭機制，使具有較大響應值的變得相對更大，具有較小響應值的變得相對更小，不僅加快了收斂速度，也提高了泛化能力。AlexNet利用英偉達公司推出的通用并行計算架構(compute unified device architec-ture，CUDA)，使GPU強大的并行計算能力在處理訓練時，大量的矩陣運算上得以充分發(fā)揮，從而加速AlexNet的訓練。為了抑制過擬合現(xiàn)象，AlexNet還引入了DropOut機制，DropOut就是使某個神經(jīng)元的激活值以一定的概率停止工作，這樣每輸入一組數(shù)據(jù)就會激活一組不同的隱層神經(jīng)元，使網(wǎng)絡結(jié)構產(chǎn)生明顯的變化，同時共享權值，減弱了神經(jīng)元節(jié)點間復雜的聯(lián)合適應關系，實現(xiàn)對過擬合現(xiàn)象的抑制。

圖1 AlexNet 結(jié)構示意圖

2 改進的AlexNet卷積神經(jīng)網(wǎng)絡

雖然AlexNet在ImageNet大規(guī)模視覺識別挑戰(zhàn)賽(imagenet large scale visual recognition challenge，ILSVRC)取得了巨大的成功，但海島地物分類不同于ILSVRC，SAR圖像和光學圖像也存在明顯的差別。ILSVRC需將圖像分為1 000類，而海島地物分類通常將地物分為3～10類，且海島環(huán)境復雜，地物破碎，各類地物縱橫交錯，不將AlexNet進行改進難以取得良好的分類效果，因此本文需要針對海島地物分類的特點和SAR圖像的特點對AlexNet進行改進，使其在全極化SAR海島地物分類問題上具有更好的性能和更高的魯棒性。

圖2 改進的AlexNet 結(jié)構示意圖

3 全極化SAR海島地物分類實驗

為驗證針對全極化SAR海島地物分類改進后的AlexNet的性能，利用高分三號衛(wèi)星采集的全極化SAR圖像進行分類實驗，并與AlexNet的分類結(jié)果進行比較。

3.1 實驗區(qū)域與數(shù)據(jù)源

南日島又名南日山，位于福建省莆田市東南部興化灣，是南日群島的主島，是繼平潭、東山之后，福建省第三大島，地理位置獨特，是擴大對中國臺灣地區(qū)、對外貿(mào)易的窗口，歷來也是軍事重地，南日水道更是海上交通要沖。南日島分為東半島和西半島(原來南日島分為兩個島嶼，后海灣變淺相接)，如圖3(a)所示，地形東西長，南北狹，中間平坦，形如“啞呤”。南日島氣候?qū)賮啛釒ШＱ笮詺夂颍曜罡邭鉁?5 ℃，最低氣溫2 ℃，年平均氣溫19.2 ℃，全年無霜，風能資源豐富，南日島山海兼優(yōu)，海岸線總長66.4 km，天然避風港有25處，土地利用類型多種多樣，全島轄17個行政村，總?cè)丝?.7萬，耕地面積1 129 hm2，主要農(nóng)作物有番薯、花生、大豆等。林地面積近千公頃，以沿海防護林和農(nóng)田網(wǎng)林構成。淺海面積3 933.33 hm2，圍墾面積820 hm2，養(yǎng)殖鮑魚、石斑魚等100多種水產(chǎn)品，出產(chǎn)南日鮑魚，為我國鮑魚主產(chǎn)區(qū)之一。

實驗采用高分三號衛(wèi)星的全極化SAR數(shù)據(jù)，包含了高分三號自發(fā)射以來所有觀測南日島的全極化數(shù)據(jù)，經(jīng)切片處理后有1 700多萬個可用于訓練或測試的樣本，為實驗提供充足的數(shù)據(jù)量。數(shù)據(jù)分辨率可達8 m，入射角為20°～41°。

3.2 全極化SAR數(shù)據(jù)的極化分解

全極化 SAR 能全面地獲取地物在觀測方向上對電磁波的散射特性，這其中蘊含著形狀、方向、粗糙度、介電常數(shù)等豐富的信息。本文通過對相干矩陣進行Pauli分解[11]，得到面散射功率值PS、二次散射功率值PD等極化信息。極化分解后合成的偽彩色圖像如圖3(b)所示。

3.3 全極化SAR數(shù)據(jù)的相干斑抑制

由于SAR的成像機制，相干斑的產(chǎn)生是不可避免的。相干斑的存在嚴重降低了SAR圖像的質(zhì)量，也會降低分類的精度。國內(nèi)外學者做了大量的研究來抑制相干斑噪聲，總結(jié)起來主要有基于空間域的濾波和基于頻率域的濾波兩大類。經(jīng)典的基于空間域的濾波主要有Lee濾波[12]、Frost濾波[13]、Sigma濾波[14]、Kuan濾波[15]以及它們的變種，這些濾波方法雖然能抑制相干斑噪聲，但是破壞了原圖像，而且濾波結(jié)果與選擇的窗口大小有關，在實際應用中不易操作，有的結(jié)果還會出現(xiàn)色塊；經(jīng)典的基于頻率域的濾波方法主要有傅里葉變換、小波變換[16]等方法，這些方法也能較好地處理SAR圖像中的相干斑噪聲，但這種方法計算量大，且沒有充分利用SAR圖像的統(tǒng)計特性，限制了其在SAR數(shù)據(jù)處理中的應用。2011年，Chen等[17]提出的非局部均值濾波可以有效地抑制相干斑，非局部均值濾波以鄰域為單位，進行去噪時與該鄰域相似的鄰域的中心像素權重大，反之則權重小。非局部均值濾波不僅考慮了單一像素間像素值的相似度，也考慮到了兩個像素鄰域的相似度，較傳統(tǒng)的鄰域濾波方法更加穩(wěn)定有效。濾波后的圖像如圖3(c)所示。

圖3 實驗區(qū)域與數(shù)據(jù)預處理

3.4 網(wǎng)絡模型訓練

卷積神經(jīng)網(wǎng)絡模型訓練對于分類結(jié)果有著關鍵作用，在網(wǎng)絡模型訓練時，應選擇最優(yōu)參數(shù)，使網(wǎng)絡模型的性能得以充分發(fā)揮。

本文將標記好的各類樣本輸入到網(wǎng)絡模型中訓練，80%作為訓練集，20%作為驗證集，調(diào)整學習率、epoch和批尺寸等參數(shù)，用交叉熵代價函數(shù)計算損失，用GPU加速訓練，觀察損失和訓練精度即可得出網(wǎng)絡模型的訓練效果。

為了得到較高的訓練精度，本文需要把學習率設置在適當?shù)姆秶鷥?nèi)。學習率決定了損失下降到最小值的步伐大小，如果學習率過大，很可能會越過最優(yōu)解；反之如果學習率過小，訓練的效率可能過低，網(wǎng)絡模型長時間無法收斂，所以，學習率對于網(wǎng)絡模型的訓練至關重要。選擇五個不同的學習率(0.1、0.01、0.001、0.000 1、0.000 01)進行實驗，訓練精度如表1所示。結(jié)果顯示，學習率為0.001時得到最高的訓練精度，因此，將學習率設置為 0.001。

表1 不同學習率的訓練精度 %

所有樣本數(shù)據(jù)被計算一次就是1個epoch，如果epoch設得太小，權重更新迭代不足會導致網(wǎng)絡模型欠擬合，epoch設得太大不僅會增加訓練時間，還有可能陷入過擬合。選擇五個不同的epoch(20、40、60、80、100)進行實驗，訓練精度如表2所示。結(jié)果顯示，epoch為60時已經(jīng)得到不錯的訓練精度，為了提高訓練效率，將epoch設置為60。

表2 不同epoch的訓練精度 %

卷積神經(jīng)網(wǎng)絡中的批尺寸決定損失函數(shù)的下降方向和網(wǎng)絡的收斂性。選擇五個不同的批尺寸(4、16、64、128、256)進行實驗，其總分類準確率如表3所示。結(jié)果顯示，批尺寸對訓練精度的影響并不明顯，因此，將批尺寸設為16，既可以取得不錯的訓練精度，又減輕了GPU和內(nèi)存的負擔。

表3 不同批尺寸的訓練精度 %

將學習率設為0.001，epoch設為60，批尺寸設為16，利用極化相干矩陣T以及面散射功率值PS、二次散射功率值PD、體散射功率值PV等特征，按海洋、建筑、耕地、林地、養(yǎng)殖池、養(yǎng)殖浮筏六類分類分別用AlexNet和本文方法訓練，訓練精度和訓練時間如表4所示。二者訓練精度相當，但AlexNet的訓練時間比本文方法增加約35%。

表4 訓練精度與訓練時間

3.5 實驗結(jié)果與分析

將測試集分別輸入到兩個保存好的網(wǎng)絡模型中分類，結(jié)果如圖4所示。

通過對照如圖4(a)所示的真值圖觀察兩種分類結(jié)果，可以看出兩種方法的分類結(jié)果對六類地物的分類基本一致，但從細節(jié)上觀察，圖4(b)中島嶼東南部的林地存在誤分為耕地的情況，某些陸地目標被誤分為養(yǎng)殖浮筏，養(yǎng)殖浮筏周圍的海洋也存在誤分的情況，與圖4(c)所示的本文方法相比，也更容易受噪聲影響。比較結(jié)果如表5至表7所示。對于上述六類地物本文方法的結(jié)果都優(yōu)于AlexNet的分類結(jié)果，且生產(chǎn)者精度大部分都在90%以上，只有建筑的準確率低于90%，為84.82%，也遠高于AlexNet的66.06%；用戶精度大部分都在85%以上，只有養(yǎng)殖池的用戶精度由于淺海某些區(qū)域與其后向散射特性相似導致偏低，為53.42%，也略高于AlexNet的50.86%；總體精度較AlexNet提升5.56%。這充分證明了本文方法在全極化SAR遙感海島地物分類中的有效性。

圖4 實驗結(jié)果

表5 本文方法六類地物混淆矩陣 %

表6 AlexNet六類地物混淆矩陣 %

表7 分類精度比較

4 結(jié)束語

深度學習的發(fā)展為提高SAR海島地物分類的精度提供了可能，但經(jīng)典卷積神經(jīng)網(wǎng)絡應對海島復雜的地物環(huán)境情況的能力有限，因此，對經(jīng)典卷積神經(jīng)網(wǎng)絡作出針對性的改進是十分必要的。本文通過對AlexNet的結(jié)構進行改進，使網(wǎng)絡能更好地捕捉局部特征，減小計算量，提高泛化能力與魯棒性，整體性能也有所提升。實驗結(jié)果表明，對于所選取的研究區(qū)域，本文方法總體精度比AlexNet高5.56%，驗證了該方法的有效性，可作為海域監(jiān)測、海島海岸帶地物信息提取等業(yè)務的參考。