基于卷積神經網絡-長短時記憶神經網絡的磨煤機故障預警

楊婷婷，高乾，李浩千，呂游，陳曉峰

（1.華北電力大學控制與計算機工程學院，北京 102206；2.華北電力科學研究院有限責任公司，北京 100045）

“十四五”以來，我國電力結構持續優化，新能源發電所占比重逐漸提升。火電機組將越來越多地承擔電網調峰等輔助服務，因此很難在額定負荷工況下長時間連續運行。火電機組頻繁地在各種工況條件下運行將成為常態，機組設備會因頻繁變負荷而更容易發生故障[1]。磨煤機作為火電機組中的重要設備，其工作狀態將直接影響鍋爐能否正常工作[2]。在磨煤機即將出現故障時，對其進行預知性維修，避免故障進一步擴大，對保障電廠生產安全以及提升電廠經濟效益將具有重要意義[3]。

文獻[4-6]采取多元狀態估計方法，對電站輔機設備進行正常狀態建模，分析監測參數實際值與估計值之間的誤差，對設備進行故障預警。文獻[7-13]分別采用了不同的深度學習網絡針對不同設備進行建模實現了對設備的故障預警。以上文獻均采取單一的深度學習網絡，為了進一步提高模型的性能和預測精度，一些學者[14-15]選擇將不同網絡模型相結合，充分利用不同網絡的優點。文獻[16-17]將長短時記憶（long short-term memory,LSTM）神經網絡以及卷積神經網絡（convolutional neural network,CNN）結合搭建一個復合神經網絡，并建立文本分類模型，試驗結果表明該模型的預測準確度優于單一的模型。文獻[18]針對同步電機勵磁繞組的物理特性建立LSTM 神經網絡與CNN 的復合神經網絡，并在短路故障預警試驗中取得了理想的效果。

由于磨煤機運行工況復雜，各監測量存在長期時序變化規律且耦合性強。傳統的深度學習模型和時間序列預測方法對磨煤機監測量的預測效果并不理想。本文選擇深度學習中應用廣泛的LSTM 神經網絡和CNN，針對磨煤機時序數據特征，提出一種CNN 聯合LSTM 神經網絡的預測模型，利用磨煤機正常工作狀態下的運行數據進行訓練，實現對多測點參數變化趨勢的預測。融合多元時間序列殘差作為偏離度，設置合理的預警閾值進行磨煤機故障預警。分別利用某660 MW 火電機組的中速磨煤機的正常數據與故障數據進行故障預警試驗，試驗結果表明CNN-LSTM 模型相較其他模型具有更高的精確度，可對磨煤機故障進行有效預警從而進行預知性維修，具有一定的工程應用價值。

1 CNN-LSTM 模型原理

1.1 卷積神經網絡原理

卷積神經網絡（CNN）是一種專門處理具有類似網格結構數據的神經網絡，具有稀疏連接、參數共享等特征[19]。

CNN 由卷積層、池化層和全連接層組成。卷積層的主要作用是提取輸入數據的特征。一維卷積的計算公式為：

式中：x1,k為第l 層第k次卷積運算；w1,ik為第l 層第k個卷積核做第i次運算的權值；f為激活函數；N為輸入做卷積映射的數量；b1,k為第l 層第k個卷積核的偏置；*表示卷積運算，當處理時間序列數據時，通過卷積操作可以得到一個由輸入中出現不同特征的時刻所組成的時間軸。

池化層的作用是通過壓縮參數的數量實現特征降維，從而減小模型過擬合。通過CNN 提取多元時間序列數據的特征，掌握數據之間的關聯性。再將處理后的時間序列數據輸入LSTM神經網絡進行時間序列預測[20]。

1.2 LSTM 神經網絡原理

LSTM 神經網絡是在循環神經網絡（recurrent neural network,RNN）的基礎上改進得到的一種神經網絡，彌補了RNN 不能處理長序列數據缺陷[21]。LSTM 神經網絡通過加入記憶門、學習門、遺忘門來控制信息的傳輸。LSTM 神經網絡的內部結構如圖1 所示，其中各量可由式(2)—式(6)計算得到：

圖1 LSTM 神經網絡內部結構Fig.1 Internal structure of LSTM neural network

式中：ft為遺忘門的輸出信號，表示記憶單元c的遺忘比例；it為輸出門的輸出信號，表示當前輸入信息到記憶單元中的比例；記憶單元中的信息由與it運算得到；ot為輸出門的輸出信號，表示記憶單元的信息輸出到當前狀態st中的比例；隱含層狀態st中的信息由與ot運算得到。

t時刻的記憶單元ct經過輸出門的篩選可得到隱含狀態st[22]：

CNN 提取多元時間序列特征，去除干擾信息后輸入LSTM 神經網絡進行預測。既減少LSTM 神經網絡的步長，又保留了有效的記憶信息，解決了因步長過長導致的梯度彌散問題。

2 CNN-LSTM 模型構建與預警策略

2.1 模型預測量的選擇

煤質的不穩定和機組工況頻繁變化是導致磨煤機出現故障的主要原因。根據不同故障對磨煤機監測參數的影響情況，磨煤機的故障可劃分為3 類：1）與單一測點相關的故障，如加載油壓過低、磨煤機出口溫度高等；2）與多個測點相關的故障，如磨煤機斷煤、磨煤機堵煤等；3）無測點可測的故障，如磨煤機振動大等。

本文所建立的模型針對多個測點相關的故障進行預警。因此需要從多個參數變化的角度提取特征。以磨煤機堵煤故障為例，與堵煤故障相關的測點參數見表1[23]。

表1 磨煤機堵煤故障相關變量Tab.1 Variables related to coal blockage fault

2.2 模型結構設計

根據上述分析，本文采用磨煤機7 個測點參數的時間序列數據作為CNN-LSTM 模型的輸入，未來一段時間的預測值作為輸出。

多元時間序列數據先輸入CNN，通過64 個卷積核來進行特征提取，可以得到一段具有時間依賴性的序列，隨后通過最大池化處理。在池化層之后采用dropout 方法進行正則化處理。CNN 的激活函數選擇Relu 函數。之后，這段數據按照時間順序輸入LSTM 神經網絡中作為每個時間步的輸入。

LSTM 神經網絡采用雙向LSTM 神經網絡結構。激活函數選擇Relu 函數。依靠CNN 提取的數據特征，學習數據間的關聯性，從而對多元時間序列進行有效建模。LSTM 神經網絡后面接全連接層，激活函數選擇Sigmoid 函數，最終得到多元時間序列輸出預測值。

模型優化算法采用Adam（adaptive moment estimation）算法[24]。Adam 算法利用梯度的一階矩估計和二階矩估計來實現學習率的動態調整，通過加入偏置校正使每一次迭代學習率都有確定范圍，使得調參過程比較平穩。Adam 算法參數見表2。

表2 Adam 算法參數Tab.2 Adam algorithm parameter table

2.3 偏離度定義與預警策略

本文所構建的CNN-LSTM 模型經過訓練，學習磨煤機正常工作狀態下各變量之間的關系特性。模型接收到新的時間序列數據后，根據學習所得關系特性輸出預測數據。當磨煤機出現發生故障的趨勢時，相關監測參數將相對正常狀態數據出現一定偏差，當這個偏差值超過某一閾值時，可以認定磨煤機出現堵煤故障。

通過計算得到CNN-LSTM 模型輸出的預測值與實際值之間的殘差序列，該序列每一時刻的殘差數據構成一個長度為7 的向量。由式(9)計算該向量的2 范數e，作為該時刻磨煤機偏離正常工作狀態的偏離度。計算每一時刻的偏離度進而得到一個偏離度序列。

由于磨煤機的工作環境復雜，在正常工作狀態下相關測點參數也會出現不同程度的波動。為了有效地消除隨機因素的影響，采用滑動窗口法對偏離度序列進行處理。

預警閾值的計算采用核密度估計法。由于偏離度序列存在多峰情況且不遵循正態分布的規律，因此利用核密度估計技術確定偏離度序列的概率密度函數，選取0.99 分位數作為預警閾值。其中，核函數選用Gaussian函數。概率密度函數計算公式為：

式中：m為偏離度序列長度；h為帶寬寬度；σ為偏離度序列的標準差。

根據式(12)，計算逆累計積分函數，得到置信區間為α時，預警閾值t的上限。

磨煤機在運行時若平均偏離度序列維持在預警閾值以內，則判定磨煤機工作狀態正常，若偏離度超出預警閾值，則認為磨煤機有發生故障的趨勢，此時模型做出預警。圖2 為基于CNN-LSTM 模型的磨煤機故障預警試驗流程。

圖2 基于CNN-LSTM 模型的磨煤機故障預警試驗流程Fig.2 Flow chart of the coal mill fault early warning experiment based on CNN-LSTM network

3 試驗驗證

3.1 數據采集與處理

為了驗證本文模型的有效性，取某660 MW 火電機組的中速磨煤機2020 年5 月1 日0 時0 分至2020 年5 月7 日23 時59 分的運行數據作為試驗數據，該設備在2020 年5 月7 日8:53 發生了堵煤故障，數據采樣間隔為1 min。選取5 月1 日至5 月5日共7 200 組數據作為訓練集和驗證集，選取5 月6 日的1 440 組數據作為測試集。5 月6 日與5 月7日的數據共同作為用于故障預警試驗的樣本數據集，這2 880 組數據稱為樣本時刻。磨煤機5 月6日與5 月7 日的運行數據如圖3 所示。

圖3 磨煤機堵煤故障數據Fig.3 Parameter data of coal blockage fault of the pulverizer

由圖3 可見，磨煤機發生堵煤的原因主要是進口一次風風量偏低造成風煤比不匹配，表現為磨煤機出口風粉混合物溫度降低，出口風粉混合物壓力降低，磨煤機電流增大，進口一次風壓力增大。

在對CNN-LSTM 模型訓練前，首先將訓練數據集進行數據清洗，去掉異常數據和空白數據，隨后利用式(13)進行歸一化處理。數據歸一化處理既可以提高模型收斂速度，又能一定程度上提升模型精度。

隨后將訓練集轉化為適用于監督學習的數據集[25]。具體方法為將某一測點的時間序列數據xi=[xi(t1),xi(t2),…,xi(tn)]依次前移一個時刻，得到xi-1=[xi(t0),xi(t1),…xi(tn-1)]。相當于創建了各列數據的前驅觀察序列，并將該前驅觀察序列作為模型輸入，這就轉化為監督學習的數據格式。

3.2 模型訓練

在搭建好CNN-LSTM 模型并選取合適的超參數后，將訓練集輸入模型進行訓練，訓練次數為300 次，模型訓練的損失值如圖4 所示，CNN-LSTM模型在測試集上的預測結果如圖5 所示。

圖4 CNN-LSTM 模型訓練損失值Fig.4 Training loss value of the CNN-LSTM model

圖5 CNN-LSTM 模型在測試集的預測結果Fig.5 Prediction results of the CNN-LSTM model using test set

作為與CNN-LSTM 模型對比，將該訓練集輸入相同層數的LSTM 神經網絡進行訓練，采用均方根誤差δRMSE、平均百分比誤差δMAPE、相關系數R2對訓練結果進行評價。

模型評價指標分別為：

1）均方根誤差δRMSE

2）平均百分比誤差δMAPE

3）相關系數R2

CNN-LSTM 與LSTM 神經網絡模型訓練結果對比見表3，根據表3 結果可以得出：CNN-LSTM模型與LSTM 神經網絡模型相比，均方根誤差降低了17.0%，平均百分比誤差降低了21.7%，相關系數提升了18.5%。CNN-LSTM 模型結合了2 個模型的優點，一定程度上綜合了多元時間序列數據的全局特征與局部特征，因此模型擬合精度更高，可以用于故障預警。

表3 LSTM 與CNN-LSTM 模型訓練結果對比Tab.3 Comparison of training results between the LSTM and the CNN-LSTM neural network model

3.3 故障預警試驗

測試集的數據作為設備正常狀態下的運行數據將用于計算預警閾值。根據式(9)分別計算CNNLSTM 模型和LSTM 神經網絡模型在測試集上的偏離度序列并采用滑動窗口法處理，窗口寬度設置為50。運用核密度估計法計算不同模型的偏離度序列的概率密度函數，結果如圖6 所示。

圖6 不同模型偏離度序列的概率密度函數Fig.6 Probability density function of deviation degree series of different models

根據式(12)計算得到CNN-LSTM 模型的偏離度序列概率密度函數的0.99 分位數為45.27，LSTM神經網絡模型的偏離度序列概率密度函數的0.99分位數為31.86，分別將該值設置為預警閾值。不同模型的偏離度序列與預警閾值如圖7 所示，不同模型下的磨煤機故障預警實驗結果如圖8 所示。

圖7 不同模型的偏離度序列與預警閾值Fig.7 Deviation degree series and fault warning threshold of different models

圖8 不同模型下的磨煤機故障預警實驗結果Fig.8 Experimental results of the coal mill fault early warning test using different models

由圖8 可見，試驗中故障時刻為第1 923 個樣本時刻，CNN-LSTM 模型的預警時刻為第1 608 個樣本時刻，提前315 min 發現磨煤機出現堵煤故障趨勢并發出警報。LSTM 神經網絡模型預警時刻為1 814 個樣本時刻，提前109 min 發出警報，落后CNN-LSTM 模型206 min，且在第285 個樣本時刻出現了一次誤報警。根據試驗結果可以看出基于CNN-LSTM 模型的磨煤機故障預警效果優于單一的LSTM 神經網絡模型。試驗結果表明本文所提出的模型能夠提前對磨煤機堵煤故障做出預警，在故障發生前爭取一定的時間進行維護，可為磨煤機設備狀態監測提供參考依據。

4 結語

基于磨煤機故障預警方法的研究，本文提出并驗證了一種基于CNN-LSTM 模型的磨煤機堵煤故障預警方法。通過CNN 初步提取數據特征后，再用 LSTM 神經網絡進行多元時間序列數據的預測。在不同模型的對比實驗中，本文提出的模型在3 種評價指標上均優于其他模型。且在故障預警試驗上提前315 min 發現磨煤機堵煤故障趨勢，有助于企業提前進行設備檢修維護，保證發電效率，減少經濟損失。

本文利用某660 MW 機組中速磨煤機堵煤故障數據對模型進行驗證，結果表明該模型能夠實現對磨煤機堵煤故障的早期預警。驗證了本模型對于漸變故障識別的準確度。本文所提出的模型及預警方法不僅適用于磨煤機的故障預警，還可應用于其他輔機設備、風力發電等多變量工業過程。實驗表明該模型能夠對磨煤機多參數耦合類的故障做出有效預警。