基于卷積神經網絡的地震波形智能識別研究

鄭 周,林彬華,金 星,韋永祥,丁炳火,陳 輝

(1.中國地震局工程力學研究所 中國地震局地震工程與工程振動重點實驗室,黑龍江 哈爾濱 150080;2.地震災害防治應急管理部重點實驗室,黑龍江 哈爾濱 150080;3.福建省地震局,福州 350003)

0 引言

目前地震波形的分類和判別仍然是地震學領域的一個熱點問題,隨著布設的臺站越來越多、越來越廣,臺站儀器精度不斷提高,觀測到地震波形的數量和種類也越來越多[1-2]。地震臺站收集到的波形為地震、背景噪聲、爆破、機械振動、干擾或異常波形,若不將這些波形進行分類,很可能會給地震預警帶來誤觸發(fā),也會給日常地震監(jiān)測帶來誤導性結果,故地震波形分類對地震學研究和地震預警應用具有重要的意義。目前這一分類工作大多通過人工來完成的,不僅費時,還考驗分析人員的專業(yè)水平,難免會出現一些錯誤[1]。為了解決這一問題,地震學家們發(fā)展了許多種類的自動識別算法,如下幾種是比較典型的幾類：基于振幅的長短時平均算法(STA/LTA)和基于Akaike信息準則的方法(AIC)等方法[2]。這些方法各有長處和短處,如長短時平均算法(STA/LTA)對于信噪比高的信號識別率比較高,對于信噪比低的信號則不是很敏感,因此往往會漏掉。AIC方法與STA/LTA相比較則能更準確估計地震信號的到來,但同樣也依賴信噪比的質量。以上幾種傳統(tǒng)檢測方法雖然能夠快速檢測觸發(fā)信號,但是無法甄別地震、干擾或異常波形。

隨著計算機技術的高速發(fā)展,機器學習被廣泛的運用在圖像識別、信號處理、手寫識別、評估、預測、組合優(yōu)化和知識工程等領域[3-4]。近年來地震學家們在地震學的研究中也引入了深度學習的方法,例如趙明等[5]應用卷積神經網絡對汶川地震余震波形和首都圈進行自動分類與識別,其訓練和檢測準確率均達到95%以上。ZHANG等[6]應用卷積神經網絡實現了微震波形分類,結合小波變換將頻譜分解為時頻譜,區(qū)分地震信號和干擾噪聲;MEN-ANDRIN等[7]使用了幾種神經網絡模型對實時的地震信號和噪聲進行了判別,能迅速的識別地震和干擾信號,準確率高達90%以上;LI等[8]結合了生成對抗神經網絡和隨機森林對南加州和日本約70萬地震和噪聲波形進行了訓練,該模型可以識別99.2%的地震P波和98.4%的噪聲信號;CHEN等[9]結合K平均算法和卷積神經網絡對地震波形進行分類,通過對不同噪聲水平的合成微震資料和野外微震資料的應用分析,發(fā)現K-CNN模型能精確地將地震波形進行分類;ZHANG等[10]用經驗模式分解EEMD和卷積神經網絡對地震信號進行分類,分類的結果高達93.85%;宋晉東等[11-12]運用人工智能的方法對地震動峰值和震級進行了預測,其離線模擬測試結果優(yōu)于傳統(tǒng)方法;LINVILLE等[13]、ZHANG等[14]、LI等[15,17]和BRAS等[16]運用深度學習的方法對地震事件進行了判別,準確率均在90%以上。以上這些人的研究進一步證明了深度學習在地震學上存在一定的發(fā)展?jié)摿Α５麄儗Ξ惓２ㄐ蔚呐袆e還沒有得到很好的解決,為此本文設計了一種基于卷積神經網絡對異常波形自動識別的方法,以三通道波形作為卷積神經網絡的輸入,地震、噪聲、爆破和異常作為輸出,訓練出3 s樣本波形的預測模型。相比于傳統(tǒng)神經網絡單一的提取特征,該方法更加全面、更加可靠和穩(wěn)定,能更加準確的對地震、噪聲、爆破、異常波形進行分類與判別,證明了該模型能夠在地震監(jiān)測預警中快速和精確地對波形進行分類。

1 數據與方法

福建省測震臺網由88個測震臺站、16個臺灣省臺站及12個周邊鄰省臺站共116臺組成[18-19]。本文收集并處理了2012—2017年福建測震臺網記錄到的683個地震事件(ML>1,震中距<100 km)和478個爆破事件作為研究數據如圖1所示。這些事件波形均由福建省地震局專業(yè)的地震分析人員做過地震編目分析,所記錄到地震事件和爆破事件均包含E、N和Z三分量波形,臺站觀測數據的采樣率均為100 Hz,全部都為扣除臺站儀器響應后所記錄的實際地動速度(單位 um/s)[19]。

圖1 本研究中所使用的數據集信息Fig. 1 Information of the data set used in this study

1.1 訓練樣本預處理

研究樣本是根據地震事件的P波到時信息所截取的：截取P波到時和P波到時后3 s共3 s作為模型所訓練的地震波形樣本;截取P波到時前5 s和P波前2 s共3 s作為模型所訓練的噪聲波形樣本[19],同樣對爆破和異常波形的截取長度也是3 s,將標定、方波、突跳和儀器故障波形都視為異常。圖2(a)～圖2(d)分別是3 s地震、噪聲、爆破及異常的波形樣本圖。

圖2 本研究中使用的3s波形數據的例子Fig. 2 Examples of 3s waveform data used in this study

1.2 訓練集和測試集

首先建立一個波形分類器作為監(jiān)督學習的過程,監(jiān)督式學習是需要一個包含先前知識的學習數據集來訓練卷積神經網絡分類器,學習所用的數據集是由輸入特征和輸出特征標簽組成,輸入的特征就是原始波形,輸出的則是地震、噪聲、爆破和異常[19]。將收集并處理好的2012—2016年福建省、臺灣省及周邊鄰省測震臺網所記錄的數據作為訓練集樣本,為了保證訓練樣本的均勻性,截取的地震、噪聲、爆破和異常波形的樣本數量相同,獲得了5 500條地震波形、5 500條噪聲波形、5 500條爆破波形和5 500條異常波形,共22 000條波形樣本作為訓練集,收集并處理了2017年福建省、臺灣省及周邊鄰省測震臺網所記錄的數據作為測試集數據,同樣保證測試的公平性,截取并獲得了1 375條地震波形、1 375條噪聲波形、1 375條爆破波形、1 375條異常波形和共5 500條波形樣本作為測試集。

1.3 樣本標簽生成

由于神經網絡具有較強的分類能力,因此把地震、噪聲、爆破和異常當作四分類問題處理[20]。地震作為第一類,輸出的標簽結果為0;噪聲作為第二類,輸出的標簽結果為1;爆破作為第三類,輸出的標簽結果為2;異常作為第四類,輸出的標簽結果為3(見表1)。

2 卷積神經網絡模型的搭建

針對地震波形分類識別問題上,采用單臺三通道的3 s波形作為輸入,地震、噪聲、爆破和異常波形作為輸出。卷積神經網絡通過卷積核(濾波器)進行卷積操作,從而提取地震波形特征,若想提取更多的特征,則可以設置多層卷積層,但也要防止神經網絡模型出現過擬合的情況,需要合理設置,結合以上流程,最后通過類似投票的形式輸出對應的波形類型的概率如圖3所示[19-23]。

表1 地震波形分類及標簽Table1 Classificationandlabelingofseismicwaveforms標簽波形分類0地震1噪聲2爆破3異常圖3 卷積神經網絡的輸入與輸出流程圖Fig.3 Inputandoutputflowchartofconvolutionalneuralnetwork

2.1 卷積神經網絡的原理

卷積神經網絡是一種前饋多層神經網絡,用于處理多維數組,通過卷積、池化和全連接層組成的多個隱藏單元序列,將輸入特征轉換為輸出類別概率。每一層卷積層中都包含一組線性或者非線性濾波器,用于提取前一層的局部特征,通過使用一個校正的線性單元將所有的負響應映射為零,SW-CNN選擇的是RELU激活函數(如公式1),可以加快模型的訓練速度：

(1)

式中：bj和wij分別代表卷積神經網絡中第j個神經元的偏置和權重,該神經元通過將上一層的輸入Xi傳遞到這一層的輸出特征Xj。通常把相似的局部特征合并成一個特征,對生成的特征進行空間下采樣(又稱池化操作),池化操作可以在模型訓練的過程中減少自由參數的數量,改善網絡模型的性能,防止出現過擬合的情況。由一系列卷積層、非線性激活層和池化層產生的輸出特征映射以串聯的形式被傳遞到全連接層,每一個神經元都與上一層的所有激活連接,連接的方式都是線性的。最后一個全連接層的輸出將會被輸送到一個歸一化指數函數(Softmax分類器),該函數的作用是計算N個不同可能類別的概率分布(如公式2)[19,21-23]：

(2)

式中：xj為最后一層輸出x的第j個元素值,Pj為第j個元素所輸出的概率值,通常所輸出的概率值會在0～1之間,值越大說明可能性越高。本文所研究的目標是尋找一組可學習的自由參數,通過使用L2正則化多項邏輯損失函數(如公式3),最大限度的減少與真實值間的誤差：

(3)

式中：正則化參數λ是控制數據失配和模型約束之間的權衡,并控制模型各層的參數(偏差和權重)。通過使用梯度下降法來尋找目標的最優(yōu)解,該方法通過損失函數的負梯度和來自前一次迭代的模型更新的線性組合來計算每次迭代時來進行網絡參數的更新(如公式4)：

ΔWt=μΔWt-1-α?J(Wt)

(4)

式中：學習率α是負梯度的權重,動量μ控制模型中的每一次迭代參數的更新,對于比較大的訓練集,可以在每次迭代中抽取訓練集的小隨機選擇(小批量)來估計代價函數的隨機近似將更有效。

2.2 網絡模型的調參試驗

構建一個完整的卷積神經網絡模型需要設置適當的卷積層、池化層和全連接層的層數,以及選取適當的卷積核的大小、卷積步長、激活函數、訓練批次等參數。SW-CNN模型是在Tensorflow2.0和Pycharm上搭建的,本文所用的硬件配置以及軟件的使用見表2。

表2 模型的硬件和軟件環(huán)境Table 2 Hardware and software environment of the model

參數的選擇參考了前人選取的原則[3-4,19-28],對于輸入的三通道地震波形進行了檢測分析,采用的卷積核大小是3×3,卷積層的通道數是64,每一批次選取256個樣本,最大迭代輪數選擇的是10 000,每1層都引用了RELU激活函數。表3展示了SW-CNN模型的調參試驗,用來對比模型結構的優(yōu)良性。從表3中的T01、T02和T03這三個對比試驗看出：T03的效果最好,T01的效果最差,可得6層卷積結構較優(yōu);從表3中的T03、T04和T05這三個對比試驗看出：T04的效果最好,可得2層全連接層結構較優(yōu)。綜上所述,選取6層卷積和2層全連接層的網絡模型結構的試驗效果最優(yōu)。另外,本文是在CPU配置的工作站上進行訓練的,調參耗時會比GPU配置上的工作站慢很多,對于耗時問題,今后會進行改善。

表3 模型的調參試驗Table 3 Parameter adjustment experiment of the model

2.3 卷積神經網絡的模型架構

與傳統(tǒng)的神經網絡不同,卷積神經網絡是由不同類型的隱藏層組成的,如圖4所示。以長為3 s的地震三通道波形作為輸入數據,并對輸入數據進行3×3卷積操作,在卷積操作若出現空白的部分,則用0來做填充處理,然后便進行2×2的池化操作。第1～6層都進行了卷積和池化操作,輸入的特征圖從原來是64@300變?yōu)榱?4@10,最后通過Flattenning將其變?yōu)橐痪S向量,展開共得到了640個特征點,通過全連接層和Softmax函數將其用概率分布的形式輸出成地震、噪聲、爆破和異常。SW-CNN模型采用了ADAM優(yōu)化算法、運用了L2正則化操作、學習率為0.001、網絡的訓練迭代次數為10 000和訓練的目標損失誤差為0.06。

圖4 卷積神經網絡模型架構Fig. 4 Convolutional neural network model architecture

3 結果分析

3.1 評價指標

用Precision(準確率)、Recall(召回率)和F1-score(F1分數)對地震波形分類的卷積神經網絡模型進行評價[24-27]。其中準確率被定義為模型正確預測出為正的樣本的數量,召回率被定義為有多少正例的樣本被預測出來的數量,F1分數則是對準確率和召回率的一種調和平均。計算準確率、召回率和F1分數的公式(5)—公式(7)：

Precision=TP/(TP+FP)

(5)

Recall=TP/(TP+FN)

(6)

F1=2×Precision×Recall/(Precision+Recall)

(7)

式中：TP代表的意思是真陽性,FP代表的意思是假陽性,FN代表的意思是假陰性。在完美的卷積神經網絡中：TP的值為1,FP的值為0[7]。

3.2 SW-CNN模型分類結果分析

利用訓練集中收集并處理的22 000條三通道波形樣本,訓練出SW-CNN模型,并用測試集中收集并處理的5 500條三通道波形樣本對SW-CNN進行測試,用來驗證SW-CNN模型的優(yōu)良性,由于樣本量充足,因此測試集并沒有采用數據增強策略(如濾波和去噪等操作)。本文以正確分類到不同波形類別的百分比來評估卷積神經網絡模型的魯棒性,從表4可得：測試集對地震的識別準確率為97.9%,對噪聲的識別準確率為99%,對爆破的識別準確率為99.2%,對異常的識別準確率為99.3%,得出SW-CNN模型能有效地對地震、噪聲、爆破和異常波形進行分類。

如圖5混淆矩陣所示(每一行之和表示該類別的真實樣本數量,每一列之和表示被預測為該樣本)[6,15],地震波形出現了29次分類錯誤,噪聲波形出現了14次分類錯誤,爆破波形出現了11次分類錯誤,異常波形出現了10次分類錯誤。可以看出SW-CNN模型對異常波形的識別率優(yōu)于另外三種波形,且對另外三種波形的識別率均超過97%,有利于進一步更深層次的研究。

表4 評估方法的精度結果 Table4 Accuracyresultsofevaluationmethods %波形類別PrecisionRecallF1地震97.99997.6噪聲9997.898.4爆破99.29999.1異常99.399.499.3圖5 地震波形分類的混淆矩陣Fig.5 Confusionmatrixofseismicwaveformclassification

測試集正確分類的波形樣本如圖6(a)-圖6(d)所示,測試集錯誤分類的波形樣本如圖6(e)-圖6(f)所示,測試集檢測出人工誤標識為波形樣本如圖6(g)-圖6(h)所示。圖6(e)模型將噪聲波形誤判別成了地震波形,圖6(f)模型將爆破波形誤判別成地震波形,可能是震級較小的地震或震中距較遠的臺站地震記錄相比于爆破更容易被噪聲淹沒,導致地震被誤判別成爆破。從圖6(g)可以看出這是一張地震波形圖片,但在準備數據集時把它錯誤標成了噪聲,但是模型正確把它也判定成了地震波形;從圖6(h)可以看出這是一張噪聲波形圖片,在準備數據集時把其錯誤標成了地震,但是模型正確把它判定成了噪聲波形。把圖6(g)-圖6(h)錯誤標識的信息改正過來后放入模型訓練,模型能成功識別。綜上所述,說明所構建的模型在波形分類的能力上穩(wěn)定性較好。

圖6 四種波形分類的例子Fig. 6 Examples of the four waveform classification

3.3 其他AI模型分類結果分析

利用文中SW-CNN模型所使用的樣本數據,分別采用深度學習中的Alex Net模型和VGG16模型對地震波形進行分類,并與上述SW-CNN模型分類結果進行比較。

3.3.1 Alex Net

Alex Net模型是由KRIZHEVSKY等[3]提出的,其中模型包含了6億3 000萬個連接,6 000萬個參數和65萬個神經元,主體結果由5個卷積層、3個池化層和3個全連接層組成。為了避免網絡訓練時出現過擬合的情況,KRIZHEVSKY等加入了LRN層、以及在全連接層后加入Dropout層,使模型更加的魯棒,從而讓模型能更好的進行學習。表5為Alex Net對四種波形的分類結果,可以看出：Alex Net模型在訓練集和測試集的識別率均在95%以上。

表5 Alex Net模型對四種波形的識別準確率Table 5 Recognition accuracy of Alex Net model for four waveforms

3.3.2 VGG Net

VGG Net是由SIMONYAN等[4]一起研發(fā)的深度卷積神經網絡模型,通過多個3×3的卷積核和2×2的最大池化層成功的構建了16～19層的網絡結構。由于VGG Net的深度較深,卷積層數量多,因此計算量比較大并且耗費時間較長。相比于Alex Net模型,VGG Net取消了LRN層,用更深的網絡和小卷積核來減少過擬合的情況。表6為VGG Net對四種波形的分類結果,可以看出VGG Net模型在訓練集和測試集的識別率均在96%以上。

表6 VGG Net模型對四種波形的識別準確率Table 6 Recognition accuracy of VGG Net model for four waveforms

3.4 震例預測結果分析

為了更好的驗證模型的優(yōu)良性,本文對中國境內的2018年7月12日福建明溪和2018年11月26日臺灣海峽發(fā)生的兩次地震分別進行波形在線模擬測試,如圖7所示(紅色標記為模型所拾取的P波),模型能拾取到震中距在100 km內的地震,并且還能拾取到震中距在100～280 km之內的地震,說明了模型具有一定的泛化能力。與傳統(tǒng)的人工拾取相比,卷積神經網絡模型在訓練樣本充足的情況下能拾取到更加復雜和距離更遠的地震波形,相信在未來能發(fā)揮更大的優(yōu)勢。

圖7 模型對二次震例的測試結果Fig. 7 Test results of the model for secondary earthquake cases

4 討論與結論

本文提出了一種新的用于地震波形分類的卷積神經網絡模型,結果表明：SW-CNN模型對地震、噪聲、爆破和異常波形的識別率均在97%以上。本文收集并處理了2012—2017年福建省、臺灣省及周邊鄰省測震臺網所記錄的數據作為研究樣本,共有27 500條三通道波形樣本,其中訓練集占80%;測試集占20%。將波形分類當成四分類問題,將長3 s的三通道波形應用于卷積神經網絡模型中,對卷積神經網絡模型的搭建上采取了對比試驗,最終選擇的是6層卷積層和2層全連接層的網絡結構模型。并在3.3小節(jié)中展示了其他AI模型對四種波形的識別率.,可以看出其他AI模型的識別率均在95%以上。通過本研究對地震、噪聲、爆破和異常波形分類可獲得如下小結：

1) SW-CNN模型在獨立的測試集中對地震、噪聲、爆破和異常波形的識別準確率分別為97.9%、99%、99.2%和99.3%,與文中其他AI模型相比,SW-CNN模型在時效性和準確性上更優(yōu)。

2) 明顯看出：SW-CNN、Alex Net和VGG Net模型對爆破和異常的識別率上優(yōu)于地震,可能是震級較小的地震或震中距較遠的臺站地震記錄相比于爆破更容易被噪聲淹沒,導致這些地震記錄被誤判別成爆破。

3) 對中國境內2018年7月12日福建明溪和2018年11月26日臺灣海峽發(fā)生的兩次地震分別進行波形在線模擬測試,結果表明：模型能很好的拾取到震中距在100 km內的地震,并且還能拾取到震中距在100～280 km之內的地震,說明了模型具有一定的泛化能力。

綜上所述,可以利用深度學習中的卷積神經網絡強大的分類性能對地震波形進行分類識別,這能夠降低地震預警的誤識別率,在滿足地震波形分類的精度的要求,進一步提高其準確性和穩(wěn)健性,然后將其應用于實際地震預警與日常地震監(jiān)測中。

致謝：感謝福建省地震局提取寶貴的地震觀測數據,感謝審稿專家所提出的修改意見,感謝編輯部工作人員的支持!