基于KH-KELM 的鳥類聲音分類識別

沈希忠，陳 菱

（上海應用技術大學 電氣與電子工程學院,上海 201418）

鳥類作為環境生態系統不可或缺的指示生物之一，其種類的確定對生物多樣性保護和生態平衡優化等起著十分重要的作用。鳥鳴聲蘊含了豐富的鳥類生態學信息，其相關的研究成果可應用于鳥類行為分析與監護和生態環境狀態監測等領域[1]。20 世紀50 年代開始國內外學者不斷提出特征提取算法[2-3]和各個分類模型[4-5]來實現特定聲音的識別和分類。各種語音信號處理方法也被應用于鳥類聲音特征的提取和分類中[6]，并不斷有學者提出新的優化算法來提高分類準確率。早在1997 年，McIlraith 等[7]利用反向傳播和多元統計數據分析6 種原產于曼尼托巴的鳥類鳥鳴特點，并獲得了82%～93%的泛化性能的正確識別率。Lucio 等[8]用支持向量機（support vector machines,SVM）分類器對鳥類鳴聲頻譜圖提取出的3 種紋理特征進行分類識別，實現最佳識別率77.56%。魏靜明等[9]在提取紋理特征的算法上增加和差統計法，驗證了對鳥鳴聲識別的有效性。程龍等[10]在Mel 頻率倒譜系數（Mel frequency cepstral coefficient,MFCC）算法對鳥鳴信號進行快速傅里葉變換之前，增加經驗模態分解算法，改進后的MFCC 算法算對7 種鳥聲的識別率達到70.09%。謝云澄[11]在基于圖像識別的傳統驅鳥設備中加入基于深度學習的聲音檢測模塊，對包含3 種鳥類和3 種環境聲音的6 種聲音進行識別，最后得到最高93.9%的識別準確率。

極限學習機（extreme learning machine,ELM）是一種自提出以來一直被很多學者，用來解決生活中的很多回歸和分類問題的單隱層前向神經網絡訓練算法。Yang 等[12]采用局部三元模式提取面部圖像特征，并構建面部圖像的性別識別極限分類系統，識別準確率達到87.13%。林偉銘等[13]將ELM應用于阿爾茨海默病的診斷，準確率達到87.62%。張婷慧等[14]使用粒子群算法（particle swarm optimization,PSO）優化混合核極限學習機（kernel extreme learning machine,KELM）參數，構建遙感影像信息分類模型，可達到92.67%的分類準確率。

鳥類對環境質量的變化很敏感，通過戶外放置拾音器采集飛過的鳥類聲音并識別其種類，分析鳥類種類的變化從而反饋環境質量的變化，并對變化做出相應措施，更好保護生態環境。為了驗證KELM 在鳥類聲音識別方面的效果，本文在ELM理論的研究基礎上，結合核函數理論和磷蝦群算法（krill herd algorithm,KHA）對使用MFCC 算法特征提取的上海常出現的30 種鳥類鳥鳴信號進行識別和分類，最后與ELM、反向傳播神經網絡（back propagation,BP）、SVM、KELM 分類模型進行對比研究，通過識別的準確率來確定其結果的可靠性。

1 KELM 原理

1.1 KELM

ELM 是Huang 等[15]提出的一種單隱層前向神經網絡（single-hidden layer feed forward network,SLFN）的訓練算法，它隨機分配隱藏層并分析確定SLFN 的輸出權重。ELM 訓練指對輸入數據先進行隨機特征映射，再進行線性參數求解從而得出分類或預測結果。相比于傳統的很多模型訓練算法，ELM 是一種具有競爭力的機器學習技術，ELM 理論簡單，實現速度快，有較強的泛化性能和魯棒性，提出的框架可以使用多種特征映射函數或內核，而且所提出的方法可以直接應用于多分類任務。SLFN 網絡結構如圖1 所示。

圖1 SLFN 網絡結構Fig. 1 Network structure of SLFN

對于N個不同的訓練數據{xi,ti}，i=1,2,···,N，xi是一個 1×n（n為輸入數據的維度）輸入向量，ti是一個1×m（m為類的數量）的條目等于1 的輸出向量。含有?個隱藏節點且激活函數為g(x)的數學模型可表示為：

式中：βi為第i個隱藏節點的權值；(ωi,bi)是隨機產生的隱藏節點參數。式（1）也可表達為：Hβ=T。

其中：

式中：H為隱藏層輸出矩陣；g(ωi,bi,xi)是激活函數，通常用Sigmoid 函數；T是訓練數據的目標矩陣。

ELM 明顯不同于傳統的前饋神經網絡的是，訓練過程中唯一需要優化的參數是隱藏節點和輸出節點之間的輸出權重β。在數學上，通過ELM 訓練SLFN 可以轉化為解決正則化最小二乘問題，不需要額外的迭代步驟來調整SLFN 的參數，這比BP 類算法更有效。

ELM 通過最小化以下損失函數來確定輸出權重：

推導可得式（3）的最優解為：

式中，H-1為H的逆矩陣。

實際問題中，訓練樣本的數量N明顯大于隱藏節點的數量?，這種情況下，不存在H方陣，故也不存在H的逆矩陣。Huang 等[16]提供了另一種尋找最小范數最小二乘解的方法：

由于ELM 在訓練前隨機選擇參數，難以保證其穩定性和持續性，此時可以定義1 個核函數：

式中：K(xi,xj)為 核函數；h(·)為隱藏層神經元輸出函數。

KELM 的分類模型的輸出可表達為：

KELM 模型無需使用隨機參數，即不需要知道隱藏層輸出矩陣H，可有效增加模型的魯棒性和穩定性。

1.2 核函數選擇

針對鳥類聲音識別問題，核函數的選取很重要，對比多項式核函數、徑向基（radial basis function,RBF）核函數、線性核函數和Sigmoid 核函數，發現RBF 核函數的ELM 的分類模型對鳥類識別有更好表現。RBF 核函數是一種學習能力強、所需確定的參數比較少的局部性核函數[17]，其定義如下：

式中：xi為核函數中心；γ為函數寬度參數。

2 磷蝦群尋優算法

KHA 是Gandomi 等[18]提出的一種優化算法，以磷蝦群中每只磷蝦覓食過程中的活動和狀態的更新創建KHA 的尋優過程。KHA 中，磷蝦個體i的第k次移動速度Mi(k)由 誘導運動Ni(k)、覓食運動Fi(k)以 及隨機擴散Ri(k)組成，可以表示為：

（1）磷蝦個體i的 誘導運動Ni(k)定義為：

（2）磷蝦個體i的 覓食運動Fi(k)定義為：

（3）磷蝦個體i的 隨機擴散過程：

式中：Rmax為最大擴散速度；δi(k)為隨機方向向量，是區間[ -1,1]的 隨機數；Imax為最大迭代次數。

（4）磷蝦i從t時刻經 ?t時 間后的狀態更新：

式中：?t為 速度矢量比例因子；Mi為磷蝦i的移動速度。

磷蝦在附近磷蝦和食物位置影響下不斷更新位置，直到移動到最優位置或者達到算法中設置的最大迭代次數后尋優停止。將KHA 優化后得到的食物位置對應的最優值設置為KELM 分類器的參數，達到分類模型最優的識別效果。

3 實驗仿真

3.1 鳥鳴信號預處理

由于氣候差異，不同地區有各自的生物群落，鳥的種類也有差異，由于鳥鳴采集在上海進行，故選擇上海具有代表性的30 種鳥類作為研究對象，30 種鳥的鳥鳴聲音音頻來自實地錄制的部分鳥類音頻和鳥類鳴聲數據網xeno-canto 上下載的鳥鳴音頻，使用GoldWave 音頻處理軟件初步篩選各個鳥鳴樣本，并對噪聲雜音大、鳥鳴音頻音量小、多鳥鳴雜音干擾大的樣本進行預處理，構建鳴聲特征明顯的有效鳥鳴信號樣本音頻數據庫。預處理后的樣本，再裁剪無聲區較長的音頻樣本，只保留有效鳴聲信號區域，以便提取MFCC 特征。四聲杜鵑的一段鳴聲信號處理前后樣本狀態，如圖2 所示。

圖2 一段四聲杜鵑鳴聲信號樣本Fig. 2 Birdsong signal sample of a cuculus micropteru

3.2 鳥鳴信號特征提取

使用MFCC 特征提取函數提取信號的特征參數，輸入需要分析的語音信號的音頻幀和采樣頻率，選擇輸出12、24 或36 階MFCC 參數。如圖3 所示，將鳥鳴信號進行預加重和分幀，再進行快速傅里葉變換（fast fourier transform,FFT）得到信號的幅度譜，然后將變換得到的譜信號通過一組Mel濾波器組，之后將Mel 濾波器輸出的能量取對數得到對數能量譜，最后將對數能量譜進行離散余弦變換（discrete cosine transformation,DCT），得 到MFCC 參數：

圖3 MFCC 特征提取過程Fig. 3 Feature extraction process of MFCC

式中：i為第i幀；n為離散余弦變換后的譜線；M為Mel 濾波器組中濾波器的數量；S(i,m)為通過Mel 濾波器后的對數能量，m為第幾個濾波器。

建立30 種鳥類鳴聲樣本集，使用MFCC 算法提取各類鳥類聲音信號的特征參數，圖4 為本文采集的30 種鳥類聲音信號集某個樣本中一幀的MFCC 特征參數。提取30 類鳥鳴信號的12 維靜態MFCC 參數，再提取30 類鳥鳴信號包含12 維靜態和其一階差分后得到的12 維動態的24 階MFCC 參數，對比2 次提取到的參數可知，12 維靜態MFCC 參數差異比較明顯，12 維動態MFCC 參數差異很小，特征很難分辨。故選取12 維靜態MFCC 參數表示30 類鳥類聲音信號的特征參數。

圖4 30 種鳥鳴信號的MFCC 特征參數Fig. 4 MFCC characteristic parameters of 30 birdsong signals

3.3 鳥鳴分類識別

鳥類鳴聲分類識別流程如圖5 所示，將各類鳥鳴樣本提取的特征參數作為每類鳥鳴樣本特征數據集，特征數據集隨機選取70%樣本數據構成訓練樣本數據集，剩余30%數據構成測試樣本數據集。核函數ELM 模型對訓練樣本數據集進行訓練，運用KHA 有限次迭代尋找最佳適應度優化核函數ELM 的參數C和γ，并將最優參數更新到模型中，對測試數據樣本進行分類。

圖5 鳥鳴信號分類識別流程Fig. 5 Birdsong signals recognition process

選取的上海周邊30 種鳥類名稱、各種鳥類的語音段、特征提取后的訓練數據和測試數據如表1所示。

表1 鳥類樣本數據集Tab.1 Bird sample datasets

基于鳥鳴信號識別與分類實驗,對比10 種鳥類的測試數據集識別分類中Polynomial 核函數、RBF 核函數、Linear 核函數和Sigmoid 核函數的分類準確率，如圖6 所示，RBF 核函數的識別準確率最高。

圖6 鳥鳴信號ELM 分類器不同核函數比較Fig. 6 Comparison of different kernel functions of ELM classifiers for Birdsong signals

對KH-KELM 分類模型使用訓練樣本數據集進行模型訓練，使用測試樣本數據集驗證模型的分類效果。其中，磷蝦群優化算法的迭代次數設置為迭代100 次，磷蝦種群數量設置為30 個，參數C和γ搜索區間為[ 1,100]。由于ELM 模型的參數具有隨機性，所以ELM 相關分類模型分類準確率取20 次實驗的準確率平均值。為驗證KH-KELM 分類模型分類性能，將其與ELM、BP、SVM、KELM 分類模型比較，并與用遺傳算法（genetic algorithm,GA）、PSO、蟻群算法（ant colony optimization,ACO）分別優化KELM 的分類模型比較，分析分類效果。

表2 為 ELM、BP、SVM、KELM 和 KHKELM 分別對鳥類進行分類識別測試的準確率結果。由表2 可知，KH-KELM 對5、10、20 和30 種鳥類分類測試的準確率分別達到99.65%，97.79%，94.48%和89.21%，20 次的實驗結果范圍為±0.5%；分類準確率比ELM、BP、SVM 和KELM 分類模型的分類準確率都高，從分類5 類擴展到分類30類鳥，分類效果穩定且分類性能較好。

表2 KH-KELM 和其他分類模型識別準確率比較Tab.2 Comparison of recognition accuracy between KH-KELM and other classification models

表3 為GA、PSO、ACO 和KH分別優化KELM 模型對鳥鳴信號識別的準確率結果。由表3可知，從分類5 類擴展到分類30 類鳥，KH 優化的KELM 分類模型的識別準確率最高。

表3 KH-KELM 和其他優化算法識別準確率比較Tab.3 Comparison of recognition accuracy between KHKELM and other optimization algorithms

4 結語

本文在KELM 的基礎上提出基于磷蝦群優化的KELM 模型對鳥類聲音進行識別與分類。通過MFCC 算法提取30 種上海周邊常棲息鳥類的聲音信號的差異較明顯的12 階特征參數作為待分類識別的鳥類特征參數，建立KH-KELM 分類模型，即通過KHA 迭代優化核函數極限學習機的懲罰系數和核函數寬度參數，提高模型泛化性能和分類準確率。分析實驗結果可知：與ELM、BP、SVM 和KELM 分類模型相比，KH-KELM 分類模型能夠快速完成學習任務，且分類效果最好，準確率最高；與基于GA、PSO、ACO 優化KELM 分類模型相比，KH-KELM 分類模型的優化效果最好。從5 類擴展到30 類，KH-KELM 模型具有較明顯的優越性和穩定性，其分類效果能滿足對鳥類聲音識別分類的預期效果。在今后的研究中，會對鳥類聲音的特征因素更多的研究和提取，并繼續優化分類模型的識別效果和算法的穩定性，使得更好的應用于大自然生物多樣性監測。