海底聲學底質分類的ELM-AdaBoost方法

王嘉翀，吳自銀*，王明偉,2，周潔瓊，趙荻能，羅孝文

( 1. 自然資源部第二海洋研究所 自然資源部海底科學重點實驗室，浙江 杭州 310012；2. 山東科技大學 測繪與空間信息學院，山東 青島 266590)

1 引言

海底底質類型的分類識別是海洋科學、海洋資源探測以及海洋軍事等領域的重要研究內容，快速、有效、準確地對海底底質進行識別和分類對于海洋科學研究和應用至關重要。基于傳統的地質取樣方法進行底質識別成本高、效率低[1]，而多波束、側掃聲吶和淺地層剖面等海底淺表層聲吶探測信號或圖像中蘊含著豐富的海底底質信息，通過對上述海底探測聲學信號或圖像進行分類和識別，以快速揭示海底底質類型，已逐漸發展成一門前沿交叉學科[2]。

近年來，有不少文獻將多種機器學習方法應用于海底底質類型的自動分類識別。文獻[3-6]利用反向傳播神經網絡（Back Propagation，BP）對海底底質進行分類識別，但該方法存在收斂速度慢，易陷入局部最優化等問題[7]。文獻[8-9]將學習向量量化網絡（Learning Vector Quantization，LVQ）用于海底底質分類，但仍存在未充分使用神經元，對初始權值敏感等問題。文獻[10-11]利用支持向量機算法（Support Vector Machine，SVM）對海底底質進行分類識別，雖分類精度高、魯棒性強，但其對核函數的參數過于敏感，且難以解決多分類問題。此外，國內外學者還利用自組織神經網絡（Self-Organizing Map，SOM）、ISODATA（Iterative Self-Organizing Data Analysis Techniques Algorithm）算法以及K-均值聚類算法等非監督分類手段[12-16]，無需樣本訓練，分類過程簡單，但由于輸出數據沒有標識，且對異常數據敏感，容易產生錯誤分類，魯棒性較差。海底底質分類數據量大，在測量與數據采集過程中進行實時分類識別是其發展的必然趨勢[17-18]。現有的海底底質分類方法多繼承或改進已有分類器，以單一或兩個分類器簡單結合的方式往往無法同時滿足海底底質快速、準確、實時分類的需求，利用適當的集成算法優化多個弱分類器形成強分類器有望同時滿足上述需求。

增強學習或提升算法，能夠將弱學習器增強為預測精度更高、預測結果更穩定的強學習器[19]。為實現海底底質快速分類，本文采用極限學習機（Extreme Learning Machine, ELM）作為分類器。該分類器分類效率高，適用于處理數據量較大的樣本，已成功應用于水質預測[20]、遙感圖像處理[21]等領域。利用自適應增強算法優化極限學習機（ELM-AdaBoost），在ELM高分類效率的基礎上可提升其精度和魯棒性。基于實測側掃聲吶灰度圖像，提取均值、標準差、對比度等6個特征向量，對礁石、砂、泥3類典型海底底質進行分類識別，取得了較好的分類結果。

2 極限學習機基本原理

極限學習機算法最早于2005年由Huang等[22]提出，是一種針對SLFNs（即含單個隱含層的前饋型神經網絡）的監督學習算法，其主要思想是：輸入層與隱含層之間的權值參數，以及隱含層上的偏置向量參數是隨機確定的（無需像其他基于梯度的學習算法一樣通過迭代反復調整刷新），只需求解一個最小范數最小二乘問題（最終歸化為求解一個矩陣的Moore-Penrose廣義逆問題）。因此，該算法具有訓練參數少、運行速度快、泛化性好等優點。

任意給定N個樣本 (Xi,ti)， 其中其中m,n分別表示樣本數量和類別數。對于一個有L個隱含層節點的單隱層標準前饋型神經網絡，可表示為

式 中，g(x)為 激 活 函 數；Wi=[wi1,wi2,···,win]T為 輸 入 權重；βi為 輸出權重；bi是第i個隱層單元的偏置。Wi·Xj表示Wi和Xj的內積。

則式（2）可表示為

式中，H為隱含層輸出矩陣；β為輸出權重；T為輸出期望。

ELM的訓練過程即選定隱層節點個數后，隨機確定輸入權重Wi和偏置bi，然后求式（3）的最小二乘解，可得其中，H+=(HTH)-1HT是矩陣的廣義逆。ELM網絡結構如圖1所示。

圖1 ELM網絡結構Fig. 1 Network structure of extreme learning machine

3 ELM-AdaBoost方法實現

自適應增強算法（Adaptive Boosting）是Freund和Schapire[23]于1995年提出的經典集成算法。其自適應性體現如下：前一個基本分類器樣本如果被錯誤分類，它的權值會增大，而正確分類的樣本的權值會減小，并用來訓練下一個基本分類器。通過迭代、反復學習，組合調整弱分類器直到達到某個預定的錯誤率或達到預定的最大迭代次數才形成最終的強分類器。

本文采用側掃聲吶圖像作為聲學底質分類的數據源，基于側掃圖像采用ELM-AdaBoost方法進行海底底質的分類識別主要包括3大步驟：（1）聲吶數據預處理；（2）特征向量提取；（3）ELM-AdaBoost網絡構建和海底底質分類（圖2）。

圖2 基于ELM-AdaBoost方法的海底底質分類流程Fig. 2 Flow chart of seabed sediment classification based on ELM-AdaBoost method

3.1 聲吶數據預處理

由于獲取的原始散射數據畸變嚴重且含有大量噪聲，所以需要對原始反向散射數據進行預處理[24-25]，為此，本文進行了海底線跟蹤、增益補償和幾何校正等預處理，同時通過圖斑和條紋噪聲濾波處理降低側掃聲吶噪聲，提升魯棒性，使聲吶圖像能真實反映底質情況，提高分類精度。

3.2 特征向量提取

特征向量作為分類器的輸入向量，代表著不同底質各自的特征，是區分不同底質的標識。本文基于側掃聲吶圖像進行底質分類，從基本統計量和灰度共生矩陣中提取多種圖像紋理特征作為分類的特征向量。

由于紋理是由灰度分布在空間位置上反復出現而形成的，因而在圖像空間中相隔一定距離的兩像素之間會存在一定的灰度關系，即圖像中灰度的空間相關特性。灰度共生矩陣就是通過研究一定方向（0°、45°、90°、135°）上間隔一定距離的灰度級像素之間的相互關系來揭示圖像的某些紋理特征。矩陣元素的值就是沿一定方向間距為d時，灰度i和j的像素對出現的概率或頻數[26]。Haralick等[27]在灰度共生矩陣的基礎上提出了共14種量化紋理的特征向量，主要包括：灰度值、角二階矩、熵、對比度、協方差等。

為了減少圖像中相關性較少或者冗余的圖像特征、減少數據維度、提高分類效率，需要進行特征向量降維。本文利用主成分分析方法（Principal Component Analysis，PCA）從所有特征向量中選擇關聯性較高的特征向量，確定了6個特征向量：

（1）對比度

反映了圖像的清晰度和紋理溝紋深淺的程度，紋理溝紋越深，其對比度越大，視覺效果越清晰。

（2）相關系數

用以度量空間灰度共生矩陣元素在行或列方向上的相似程度。

（3）能量

是灰度共生矩陣元素值的平方和，反映圖像灰度分布均勻程度和紋理粗細度。

（4）熵

是圖像所具有的信息量的度量，表示圖像中紋理的非均勻程度或復雜程度。

（5）均值

構成對象所有像元的灰度平均值。

（6）標準差

用以衡量對象灰度值的離散程度。

3.3 ELM-AdaBoost網絡構建

ELM-AdaBoost網絡構建，包括以下5個步驟。

（1）通過數據預處理后的圖像提取6種特征向量，作為輸入數據。給定訓練數據T={(x1,y1),(x2,y2),···,(xi,yi)},i=1,···,n， 其中yi∈{1,-1}，用于表示訓練樣本的類別標簽。當xi=yi時，分類正確，類別標簽為1；當xi≠yi時，分類錯誤，類別標簽為-1。

（2）初始化訓練數據的權值分布。每一個訓練樣本最開始都被賦予相同權值：訓練樣本集的初始權值分布如下：

（3）選定ELM分類器的個數，確定迭代次數t，進行迭代：

a.使用初始化的訓練集進行單個ELM訓練學習以確定最佳隱含層節點個數l，同時得到基本分類器

b.計算分類器Ht(x) 數 據集上Dt的誤差率

c.計算該基本分類器在最終ELM-AdaBoost強分類器中所占的權重

d.更新訓練樣本的權值分布

式中，Zt為 歸一化常數即分類錯誤的樣本獲得更大的權值。

（4）全部迭代完成后，根據弱分類器權重αt組合各個ELM，即：

再通過符號函數sign得到最終強分類器ELM-Ada-Boost：

（5）最后利用ELM-AdaBoost分類器對測試樣本進行特征向量分類，輸出分類結果。

4 實驗分析

為驗證ELM-AdaBoost方法在海底底質分類中的可行性，本文實驗數據來源于908專項海洋調查航次，利用Edgetech 2000DSS側掃聲吶系統在珠江口海區獲取了側掃聲吶圖像（圖3a），其空間分辨率為0.5 m。珠江口海區微地貌類型多樣，具有比較典型的礁石、砂、泥類底質，從獲取的側掃圖像分析，河口分布有大片的沙波和礁石[28-31]。河口區豐富的底質類型如圖3b至圖3d所示，分別為礁石、砂和泥3種典型的底質灰度圖像。

圖3 研究區位置示意圖（a）及礁石（b）、砂（c）和泥（d）3種典型底質的聲吶圖像Fig. 3 Location of study area (a) and three typical seabed sediment sonar images of rock (b), sand (c) and mud (d)

4.1 圖像處理與特征提取

從圖形校正和噪聲處理后的側掃聲吶圖像中截取典型的已知底質類型區域，并進行分割和歸一化處理，將圖像分割成12 ×12的像素單元，得到礁石樣本360個，砂樣本361個，泥樣本322個，總計1 043個樣本。

然后，利用主成分分析法選擇其中識別精度較高的特征向量，最終確定了均值、標準差、對比度、相關系數、能量和熵6個特征向量（表1）。

表1 礁石、砂和泥3種底質的特征向量Table 1 Characteristic vectors of three types of seabed sediment of rock, sand, and mud

從部分數據中可以看出，礁石的標準差范圍為[0.142 0～0.230 5]，均值為0.186 2；砂的標準差范圍為[0.104 7～0.127 6]，均值為0.116 1；泥的標準差范圍為[0.220 0～0.302 3]，均值為0.261 1。可見不同底質之間特征向量具有差異性，分類器據此進行分類訓練。

4.2 分類結果分析與討論

從1 043個樣本中隨機挑選，其中700個用于訓練，343個用于測試。首先構建單個ELM數據實驗，以確定隱含層最佳節點數，結果如圖4所示，選取隱含層節點個數l為200，迭代次數t為10次。

圖4 隱含層神經元個數對ELM分類性能影響Fig. 4 The influence of the number of hidden layer neurons on the extreme learning machine classification performance

確定隱含層節點個數和迭代次數后，進行10組ELM-AdaBoost的網絡訓練，取其平均值作為最終分類結果。同時，為驗證ELM-AdaBoost算法的可行性，基于同一組數據進行了多次BP、LVQ、PSO（Particle Swarm Optimization）-SVM和 單 獨ELM的 網 絡 訓練，并取其結果平均值，測試結果如表2所示。

表2 5種分類器的分類性能對比表Table 2 Comparison of classification performance of five classifiers

結合表2和圖5可看出，相比于單一ELM弱分類器，ELM-AdaBoost強分類器調整了各個ELM間的權重，即加大其中分類誤差率小的分類器權重，使其在最終分類函數中起著較大的決定作用，從而減少了最終分類結果因錯誤分類所受的干擾，提高了分類的穩定性，最終分類精度提高約5%。

圖5 ELM-AdaBoost和ELM誤差絕對值對比Fig. 5 Comparison of absolute error value between extreme learning machine-adaptive boosting and extreme learning machine

結合表2和圖6可看出，ELM-AdaBoost分類器對于砂、礁石的平均分類精度均超過90%，泥的平均分類精度也接近90%，相比于傳統分類方法（BP為83%、LVQ為81%），分類精度有明顯提高。從分類器的分類效率來看，ELM和ELM-AdaBoost分類器完成分類所耗時間僅為0.11 s和0.37 s，相比其他分類器有明顯的優勢。

圖6 5種分類器的分類精度對比Fig. 6 Comparison of classification accuracy of five classifiers

5 結論

本文充分利用了AdaBoost算法集成多個ELM，通過反復迭代調整各個ELM分類器之間的權值，加大其中分類誤差率小的分類器權重，使其在最終分類函數中起較大的決定作用。最終克服了單個ELM輸出波動大，模型不穩定的缺點，構建了具有強魯棒性、高精度的ELM-AdaBoost強分類器。

基于實測珠江口側掃聲吶圖像，利用灰度共生矩陣提取對比度、相關系數、熵等特征向量，通過改進的ELM-AdaBoost方法，實現對砂、礁石和泥3種海底底質的分類，其分類精度達到90%，優于單一ELM分類器的平均分類精度85.95%，也優于LVQ、BP等其他傳統分類器。同時，在分類效率上，分類時間僅為0.37 s，也遠少于其他傳統分類器，驗證了本文方法的可行性。