考慮微震前兆特征的CNN-GRU沖擊危險性分析模型

李海濤，張海寬，齊慶新

（1.煤炭科學研究總院有限公司 深地科學研究院，北京 100013；2.煤炭資源高效開采與潔凈利用國家重點實驗室，北京 100013）

煤礦沖擊地壓具有發生突然、破壞猛烈的特點[1-4]，會造成巷道大范圍破壞甚至人員傷亡，是對于煤礦安全生產威脅最為嚴重的災害之一，基于可靠數據提升沖擊危險性預測的準確性，對于有效防治沖擊地壓具有十分重要的意義。目前，學者們主要通過將多類型數據進行權重融合[5-11]以實現對于目標區域危險性的評價。

微震監測以其較大的空間覆蓋能力和相對高質量的監測數據，為煤礦沖擊危險性分析預測提供了可靠的支撐[12-14]。在對礦井中危險災害的分析和預測研究方面，相關研究利用微震監測數據的時序、地點、能量和應力等數據對機器學習算法或其他算法進行訓練，然后預測礦井中的危險災害。竇林名等[15]以微震為主，通過選取沖擊變形能、時序集中度、時空擴散性等13 個監測預警指標，搭建了集成微震、應力、鉆屑等多種監測手段的沖擊礦壓風險智能判識與多參量監測預警云平臺；YIN 等[16-17]利用應力、扭矩、體積、應力變化等微震監測數據基于集成算法和神經網絡算法對沖擊地壓的預測進行了研究，并取得了較好的效果。相關礦井中危險災害分析和研究很少考慮危險災害的前兆信息、時空特性和發生機理等信息，且多數礦井中僅有時序、地點和能量等監測數據，這些方法無法在實際工程中廣泛使用。

基于微震監測數據對礦井中沖擊地壓發生機理的研究中，學者們通過對礦區整體微震活動時空分布特征的研究認為微震參數的變化規律可作為預測地壓災害的前兆特征[18]。袁瑞甫等[19]研究了煤柱型沖擊地壓微震信號分布特征后，總結了沖擊地壓發生前有一段微震活躍期、靜默期、和發生地點集中等沖擊地壓發生的前兆信息。相關機理研究可以為分析和預測方法中數據集特征的建立提供一定依據，從而提高基于機器學習算法對礦井中危險災害的分析預測的準確率和泛用性。

與沖擊地壓對應的微震事件樣本量極為有限，而常規微震事件雖然樣本體量大，但往往缺乏訓練標簽，均無法支撐機器學習模型的應用。為此，通過跟蹤某礦井微震事件及其對應的礦壓顯現特征，并將能夠產生明顯震感或動力顯現特征的微震事件標注為“危險事件”，以此獲得含標簽的大體量微震數據集；并進一步針對無法準確判定某次微震事件危險性的問題，考慮沖擊地壓的發生機制和前兆信息，基于深度學習模型提出了分析礦井中微震危險性的方法。該方法主要分為3 個步驟：選取分析特征；建立數據集和處理不平衡樣本；訓練和測試基于深度學習的分析模型，將該模型用于分析某礦井微震監測數據取得了較好的效果，同時大量實驗驗證了該模型具備了較好的泛化能力。

1 算法框架

考慮沖擊地壓的前兆信息，基于CNN-GRU 模型（卷積神經網絡[20]-門控循環單元模型[21]）提出了利用微震監測數據分析沖擊危險性的方法（卷積神經網絡-門控循環單元模型）。

1.1 建立分析指標

由于多數礦井微震監測數據的特征主要包括時間、地點、能量，因此考慮沖擊地壓發生的前兆信息[15,18-19]，建立了微震事件的時序集中度、2 次微震事件時間間隔、空間密集度、能量和能量集中度5 個分析特征。

根據相關研究，沖擊地壓等礦井動力災害發生前有一段明顯的微震活躍期，這是因為圍巖正在與外界發生能量交換，圍巖結構處于非穩態的調整期，這一性質用時序集中度表示為：

在大能量的危險事件發生前，微震活動會出現較短的平靜時期，一般稱為靜默期，但不同危險事件的靜默期長短相差較大，靜默期可用本次微震時間與上次微震時間間隔表示ΔT。

微震事件的空間分布與微裂隙在巖體內部空間的發生發展過程相對應，因此分析微震事件的空間分布規律變化對于了解巖體穩定性有重要作用，在沖擊地壓等危險事件發生前微震的空間密集度會明顯上升，可表示為：

礦山中沖擊地壓的發生時，巷道周圍圍巖體中的壓力由穩態增加至極限值，會造成巖體內能量突然釋放，能量是分析礦山沖擊地壓等危險事件的重要特征。同時，建立了能量集中度指標來反映沖擊地壓發生前的能量變化和微震分布情況，計算公式如下：

由于幾種監測數據的數值大小不一，在分析指標建立之后需對能量指標進行標準化進行處理，公式為：

式中：xi、yi為標準化處理前后的第i 個數據值；n 為監測事件總數。

1.2 數據集

對數據集建立和處理步驟為：①根據分析特征和微震監測事件的危險性建立初始數據集；②在時間尺度上將初始數據集分為訓練集、驗證集和測試集；③對分割后的每個數據集進行樣本不平衡性的處理。上述步驟的順序和處理方法不可改變，如果對樣本的不平衡處理出現在分割數據集之前，或不在時間尺度上而是隨機分割數據集，會出現模型在訓練集或驗證集上效果極好，但在真實數據的測試集上效果極差的現象。

分析框架中的數據集以根據微震監測數據建立的分析特征為數據集特征，以微震事件的危險性作為標簽建立數據集。考慮到各個監測數據的數量級不同，需對數據進行標準化處理，訓練模型中使用的損失函數為交叉熵，因此對標簽進行One-Hot 編碼處理。

對于不同礦井或同一礦井的不同開采地點，微震監測數據對應的地質環境是不同的，部分沖擊地壓等危險事件的分析模型在測試集上效果很好卻很難直接應用。因此，為模擬現實工程的直接應用情況，本框架將數據集在時間尺度上分為訓練集、驗證集和測試集3 個部分，將訓練集數據輸入到模型中進行訓練，在驗證集上對訓練的結果進行評價，選取性能最好的模型直接應用到測試集中驗證模型的泛化性能。

開采過程中危險事件對應的微震監測數據數量要遠遠小于不危險事件，所以在訓練模型之前需要處理不平衡數據。目前，從數據角度出發的不平衡數據處理方法主要有采樣和數據合成方法。其中采樣可分為從少數類樣本中隨機采樣來增加新的樣本的上采樣方法和從多數類樣本中隨機選擇少量樣本，再合并原有少數類樣本作為新的訓練數據集的下采樣方法。數據合成方法是利用已有樣本生成更多樣本，這類方法在小數據場景下有很多成功案例，其方法包括合成少數類過采樣技術（SMOTE[22]）和自適應合成方法（ADASYN[23]），SMOTE 算法的對少數類樣本進行分析并根據少數類樣本通過人工合成新樣本然后添加到數據集中，其改進算法包括Borderline-SMOTE[24]等；ADASYN 主要思想是根據數據分布情況為不同的少數類樣本生成不同數量的新樣本。根據對礦山微震監測數據的研究，礦山監測數據中危險事件分布位置呈現分散且分布于非危險事件之間的特點，因此主要使用對采樣數據添加擾動的上采樣方法處理不平衡數據集。

1.3 CNN-GRU 聯合神經網絡

近些年來卷積神經網絡（CNN）在圖像視覺領域取得了巨大的成功，CNN 是1 個深度學習框架，其靈感來自于貓的大腦視覺皮層[25]。CNN 的體系結構可以有所不同，通常由幾個卷積層、激活層組成，在計算機視覺領域一般也包含池化層或全連接層，其作用是保證卷積神經網絡模型對圖片分類任務的平移不變性，由于每組數據有限，因此構建的CNN 結構中只有卷積層和激活層。卷積層的作用是提取數據中的代表性特征，多個卷積核存在于1 個卷積層中，也被稱為濾波器。該濾波器類似于1 個滑動窗口，它在數值矩陣中以特定的步幅來回移動。在對濾波器和數值矩陣進行卷積運算后，可以得到圖像的初始特征圖，并將其發送到卷積層的激活函數中。卷積核運算示意如圖1。

圖1 卷積核運算示意Fig.1 Schematic diagram of convolution kernel operation

通常在特征提取之后會引入正則化方法，來加快網絡訓練和收斂速度，防止模型梯度爆炸和過擬合，目前主流方法有批正則化[26]（Batch Normalization）和Dropout[27]方法。將提取的特征輸入到激活函數中來為卷積神經網絡中加入非線性因素，卷積神經網絡模型（CNN）中使用的激活函數為Relu[28]函數，其公式如下：

循環神經網絡（RNN）對于序列數據的處理擁有巨大的優勢，因為其實一類以序列數據為輸入，在序列的演進方向進行遞歸且所有節點（循環單元）按鏈式連接的遞歸神經網絡。長短期記憶網絡（LSTM）[29]和門控循環單元（GRU）[21]是循環神經網絡（RNN）的主要變種（目前也有學者認為GRU 是LSTM 的變種），考慮到參數的數量和計算效果，在構建模型中選取門控循環單元（GRU）。

單個門控循環單元（GRU）結構如圖2。

圖2 門控循環單元結構Fig.2 Door control cycle unit structure

重置門和更新門的輸入均為當前時間步輸入Xt與上一時間步隱藏狀態Ht-1，輸出由激活函數為Sigmoid 函數的全連接層計算得到。Sigmoid 函數、重置門Rt和更新門Zt的計算如下：

式中：Wxr、Wxz、Whr、Whz為權重參數；br、bz為偏差參數；h 為隱藏單元個數；Xt為給定時間步t 的小批量輸入；Ht-1為上一時間步的隱藏狀態。

將當前時間步重置門的輸出與上一時間步隱藏狀態做元素乘法（符號為⊙）。如果重置門中元素值接近0，那么意味著重置對應隱藏狀態元素為0，即丟棄上一時間步的隱藏狀態。如果元素值接近1，那么表示保留上一時間步的隱藏狀態。然后，將按元素乘法的結果與當前時間步的輸入連結，再通過含激活函數tanh 的全連接層計算出候選隱藏狀態，其所有元素的值域為［－1，1］。具體來說，tanh 激活函數和時間步t 的候選隱藏狀態的公式為：

隨著計算機視覺相關研究的發展，卷積神經網絡（CNN）和循環神經網絡（RNN）的聯合神經網絡（CNN-RNN）在圖像字幕領域取得了較大進展，其主要通過卷積神經網絡對圖像的空間結構和相關信息進行特征提取，然后將提取的特征輸入到RNN 網絡中生成對應圖片信息相關的解釋。受圖像字幕領域的神經網絡結構啟發，對于微震數據相關特征的分析首先利用卷積神經網絡對分析特征進行信息提取和信息融合等操作，然后以提取的特征作為初始隱藏狀態，將分類特征作為輸入參數。

建立的CNN-GRU 聯合卷積神經網絡，主要由5 層卷積神經網絡層、5 個門控循環單位結構和2 層全連接層構成，由于輸入的分析特征尺寸較小所以設計的模型較為簡單且卷積神經網絡中沒有pooling 層，該模型在實驗中取得效果最好。在CNN 模型輸入中可將4 個分析特征視為4 個特征或1 個特征的4 個數據，主要使用前者輸入，CNN 模型結構中1×1 卷積主要起到信息升維度和跨通道融合的作用，3×3 和2×2 卷積主要起到增加同一通道的信息交流的作用。即使增加模型的層數也不會提升模型在測試集上的效果，且會出現網絡退化現象，即層數增加反而導致模型的訓練效果和測試效果均下降。參考ResNet[30]和DenseNet[31]網絡結構，即使模型加入恒等映射，在測試集上的效果也未提升。

2 實例應用

使用某煤礦礦井的微震監測數據對建立的分析框架進行驗證，該微震監測數據包括從2017 年1 月到2018 年7 月的13 583 條數據，監測內容包括微震發生時間、地點和能量，在13 583 條數據中強震動對應的危險事件數量為114。首先根據微震監測數據計算時序集中度、空間密集度、時間間隔和能量作為數據集特征，以是否發生危險事件作為標簽，然后在時間尺度上按照50%、20%和30%的數量將數據集劃分為訓練集、驗證集和測試集。時序集中度和空間密集度需要根據前n 次微震事件的數據進行計算，取n=1，2，…，30，建立30 組數據集。為模擬模型的直接應用情況，然后對訓練集和驗證集的聯合數據集、測試集分別數據不平衡處理，使測試集的數據不與其他數據集有交叉，考慮到對危險事件預測的重要性設定了3 個測試集，分別為單獨危險事件的測試集、單獨不危險事件的測試集和混合事件測試集，混合事件測試集中使用上采樣加擾動的方法使兩種事件的樣本數量幾乎相同。使用CNN-GRU模型計算，需要計算的參數為3 446 個，模型中使用Adam 優化器和Cross Entropy Loss 損失函數，學習率為0.01。最后將處理的數據輸入到CNN-GRU 模型中，得到的30 組計算結果如圖3。

圖3 CNN-GRU 模型在融合前n 次微震事件數據的測試結果（n=1，2，…，30）Fig.3 Test results of n microseismic event data of CNN-GRU model before fusion（n=1，2，…，30）

通過計算結果可以看出，模型在不同數據集上達到最高準確率時，所對應的n 不同：①當n=8 時模型在混合事件測試集上取得最佳效果，準確率為79.72%，該模型在危險事件數據集上準確率為81.98%，在非危險事件測試集上準確率為76.11%，此時模型在驗證集準確率為79.05%（因驗證集和測試集都未參與訓練，所以模型在測試集上的準確率高于驗證集是合理的），這與模型在混合測試集上的準確率相近，說明該模型的遷移效果極好；②模型在非危險數據集上的最高準確率出現在n=19時，準確率為94.96%，但此模型在危險數據集上的準確率0，其在混合測試集上的表現最差，這可能和監測數據的分布有關；③而當n=1 時，模型在非危險數據集上準確率僅為4.39%，而在危險數據集上的準確率為99.09%。這是因為對微震事件的危險性進行分析是二分類任務，在不能準確確定閾值的情況下，當1 個模型將更多的事件分為危險事件時，其在危險數據集上的準確率就更高，在不危險數據集上的準確率就更低，反之亦然。模型在混合測試集上的結果在進行微震事件危險性的分析時更具有參考意義。

3 討 論

3.1 不同模型之間的對比分析

使用單獨CNN 和單獨GRU 模型對2 節中煤礦礦井的微震監測數據進行分析，分析流程除了神經網絡模型不同外其他均相同。2 個模型訓練過程中均使用Adam 優化器和Cross Entropy Loss 損失函數，CNN 模型參數總數為1 384 個，GRU 模型參數總數為412 個。取n=1，2，…，30，建立30 組數據集，CNN-GRU 模型、CNN 模型和GRU 模型融合前n 次微震事件數據的測試結果對比如圖4。

圖4 3 種模型在測試集上的效果對比Fig.4 Comparison of the effects of three models on test sets

通過圖4 可以發現：當n 變化時（除去n=18時），GRU 模型在全部測試集上的表現都相對穩定，不同CNN 模型在測試集上的性能變化很大，但最高準確率大于GRU 模型的最高準確率；多數情況下，GRU 模型在混合數據集上的性能表現好于CNN 模型，這主要是因為構建的數據集中每個樣本包含數據量很少，CNN 模型不能充分發揮其數據信息的融合和提取能力，而GRU 模型可以對樣本數據的時序進行分析。

在大多數情況下CNN-GRU 模型在混合數據集上的效果好于GRU 模型，其原因主要如下：①在GRU 模型基礎上聯合CNN 模型，增加了神經網絡模型參數和激活函數，從而增加了神經網絡模型的復雜程度、非線性和泛化能力；②雖然不能充分發揮其優勢，但在CNN-GRU 模型中，CNN 模型仍然融合和提取了樣本數據的一部分信息，有助于GRU和全連接網絡對樣本進行分類。

CNN-GRU 模型繼承了2 種單獨模型的優點，其在混合測試集上的表現相對穩定且準確率是極高的；CNN-GRU 模型最高準確率為79.72%（n=8），略小于CNN 模型的最高準確率80.04%（n=25）。此時CNN-GRU 模型在危險數據集和非危險數據集上取得的準確率相差不大，分別為76.11%和81.92%；而CNN 模型在危險和非危險數據集上準確率為68.59%和90.53%，可見CNN 模型對于危險事件的信息提取能力較差。考慮到礦井中對危險微震事件分析準確的重要性，認為CNN-GRU 模型在分析微震危險性方面是性能最好的。

當n=8 時CNN-GRU 模型、CNN 模型和GRU模型的訓練損失如圖5。收斂速度快慢和模型損失從小到大依次是CNN-GRU 模型、CNN 模型、GRU模型，這可能是因為在訓練時CNN-GRU 模型計算參數最多而GRU 模型訓練參數最少。經過對比分析發現在分析方法框架中，CNN-GRU 模型取得效果最好，GRU 模型參數最少且計算效果較好，證明GRU 模型的參數使用效率最高。

圖5 數據集特征融合前8 次微震事件數據時各模型在訓練時損失值Fig.5 The loss value of each model during training when the data set features are fused with the data of the previous 8 micro-seismic events

3.2 微震數據分析中特征選擇的重要性

在以往基于機器學習（深度學習）對沖擊地壓預測的研究中，多數學者忽略微震監測數據的時空特性或前兆特征，且相關研究中也很少將數據集分為訓練集、測試集和驗證集3 個部分，這也導致了模型完成訓練后的泛化能力不能得到很好的保障。為分析方法中根據微震前兆特征對數據處理的重要性，將前8 次微震監測數據的時間、能量和地點（x，y，z）作為1 個樣本的特征（尺寸為［5，8］），在時間尺度上按照5∶2∶3 的數量比例將數據集分為訓練集、測試集和驗證集3 個部分，事件的危險性作為標簽。使用如圖4 的CNN-GRU 模型（輸入特征尺寸和中間參數尺寸有修改）對微震危險事件進行分析，在驗證集（危險事件與非危險事件混合）上的最高準確率為97.33%，但在混合測試集上準確率為49.79%，在危險事件測試集上準確率為98.81%，在非危險測試集上準確率為0。盡管該模型在驗證集上取得了極高的準確率，但在混合測試集和危險事件測試集上準確率極差，說明不考慮微震前兆特征的危險性分析方法的泛化性能很差，分析的結果不具有參考意義。

1.1 節構建了4 個分析指標，為證明基于學習方法分析微震數據中危險事件規律的可行性，根據以往相關研究選取微震監測事件的時空擴散性ds、時間信息熵Q1、總應力當量Q32作為額外特征，相關計算公式如下：

使用CNN-GRU 模型，取n=1，2，…，30 時各指標組合的訓練模型在混合測試集上的最佳效果通過對比發現，能量對于分析本次微震事件的危險性是十分重要的，盡管當指標組合為時序集中度QT、時間間隔ΔT、能量E、能量密集度QE時模型準確率為80.16%，但其在危險和非危險數據集上表現效果相差較大，因此認為時序集中度QT、時間間隔ΔT、空間密集度E、能量密集度QE、時空擴散性QR對分析微震事件都是有貢獻的；時空擴散性ds和時間信息熵Q1對于該礦井中微震危險性分析影響不大；Q32特征甚至會嚴重影響對微震事件危險性的準確分析。

以上分析和比較證明，在可用微震監測數據較少的情況下，結合微震前兆特征對監測數據進行處理，可以明顯提高微震危險性分析的準確率。對于統一模型不同分析特征組合會取得不同的效果，有些分析特征會對模型的性能產生負面影響，所以在建立分析特征時需要充分分析危險災害的發生機理和前兆信息。

3.3 深度學習方法分析微震數據可行性

根據礦井中微震監測信息對危險事件進行分析是十分復雜的，這主要是因為對礦井中危險事件的發生規律缺乏清晰的認知，首先基于深度學習方法對礦井中危險事件的發生的規律性進行研究，然后根據已有研究成果和計算結果討論深度學習模型研究微震監測數據中危險事件的可行性。

訓練的CNN-GRU 聯合模型在混合測試集上的最高準確率是79.72%，表明該模型可以遷移應用到其他礦井或同一礦井的不同地點中。若將標簽設置為隨機產生，且取n=8，其它分析步驟不變，該分析方法得到的模型在驗證集上最高準確率為52.30%，在混合測試集上的準確率為50.68%，這一特征間接證明了，對于具體礦井，其微震事件的發生是有一定規律可循的，是可以被學習的。

通過不同模型在3 種測試集上的準確率對比發現，絕大多數情況下模型在危險事件測試集上的準確率最高（多數在85%以上），在混合數據集上的準確率次之，在危險事件數據集上的準確率最低。這可能主要是因為原始監測數據中非危險事件的數量要遠遠大于危險事件的數量，訓練數據可以包含非危險事件的全部類型，在訓練過程中模型會抓取到礦井中非危險事件的發生規律；而危險事件發生的數量極少，訓練數據甚至是全部監測數據都不能包含危險事件的全部類型。這也說明了礦井中危險事件與微震之間是有一定規律的，利用深度學習方法分析微震事件的危險性是可行的。

4 結 語

1）考慮礦井沖擊地壓發生的前兆信息，基于CNN-GRU 模型提出了一種微震危險性分析方法；在研究某礦山微震監測數據過程中，該方法首先根據微震前兆特征選取時序集中度、時間間隔、空間密集度、能量和能量集中度作為分析特征；然后建立初始數據集，在時間尺度上將數據集分為訓練集、驗證集和測試集，并分別處理不平衡樣本；最后使用訓練集訓練CNN-GRU 模型，將在驗證集取得最好效果的模型用于測試，取得了79.72%的準確率。

2）不同模型進行對比分析結果顯示GRU 模型在測試集上表現穩定，而CNN 模型表現不穩定但最高準確率要高于GRU 模型取得的最高準確率，CNNGRU 模型擁有在測試集上表現穩定且取得了最好效果的優點；在對3 種模型的訓練損失對比中，CNN-GRU 模型收斂速度最快且最終損失最小。

3）該方法對分析特征的建立進行研究后發現，能量對于微震事件的危險性分析極其重要。不考慮微震前兆特征，而直接使用原始數據進行樣本不平衡處理，并對CNN-GRU 模型進行訓練，最終的模型在驗證集上雖然準確率較高，但在測試集上準確率極低，而且通過對不同分析特征組合的研究也說明建立正確的分析特征對CNN-GRU 模型準確率的影響很大。

4）對微震監測數據集的標簽進行隨機生成，然后利用該方法對隨機生成標簽的數據進行分析后取得的效果極差，證明了在選取合適分析特征的基礎上，利用深度學習方法對沖擊危險狀態進行分析是可靠的。