基于MACNN的柴油機故障診斷方法研究

程建剛， 畢鳳榮， 張立鵬， 李 鑫， 楊 曉， 湯代杰

(1. 天津大學 內燃機燃燒學國家重點實驗室，天津 300072；2. 天津內燃機研究所，天津 300072)

柴油機因具有熱效率高、輸出功率大、使用壽命長等優點，被廣泛應用于工程機械、船舶、核電等領域。但是由于其機構復雜、工作環境惡劣等原因，導致其極易發生故障。因此，開展柴油機狀態監測與故障診斷研究具有重要意義。

基于振動信號的故障診斷技術由于其測量簡單、精度較高、不解體化等諸多優勢成為了研究熱點。傳統基于振動信號處理的故障診斷技術通常需要人工參與提取特征，然后選用合適的機器學習算法用于分類。該方法主要存在以下兩個問題：

第一，人工參與程度過高，導致識別結果不確定性高。在傳統故障診斷過程中，需要人工參與提取特征。例如，Bi等[1]采用離散小波變換方法對爆震振動信號中的高頻噪聲進行分離，然后采用經驗模態分解(empirical mode decomposition, EMD)[2]對降噪后的信號進行分解以后提取爆震特征，實現了汽油機爆震監測。但是該方法中的小波基函數、小波分解層數以及閾值等重要參數均需要人為選取，EMD算法由于采用遞歸結構存在模態混疊問題。這些因素均會對后續提取的特征質量有著重大影響，從而影響最終診斷結果。另外，模式識別算法的選擇對識別結果同樣有著重要影響。如文獻[3]經過對比發現，采用核模糊C均值聚類算法(kernel fuzzy C means clustering, KFCM)、BP神經網絡(back propagation neural network, BPNN)、深度置信網絡(deep belief networks, DBN)三種方法對相同故障特征進行識別，得到的結果相差較大。

第二，人工特征對于不同故障類型的敏感程度差異較大，導致模型的泛化能力差。例如，Bi等[4]采用變分模態分解(variational mode decomposition, VMD)[5]算法對柴油機振動信號進行分解以后構建27維數據特征，然后采用遺傳算法進行特征選擇，結果表明，面對不同故障類型，經過特征選擇得到的特征均不相同。由此可見，面對多類型故障診斷任務，傳統故障診斷方法將難以勝任。綜上，傳統故障診斷方法中，人工特征提取過程以及模式識別算法的選取均對識別結果有著重要影響，導致該方法得到的結果不確定性較高。同時，由于人工特征對于故障類型有著較強指向性，導致傳統故障診斷方法泛化性能較差。因此，不少學者將注意力轉到基于深度學習的端到端故障診斷方法研究。

基于深度學習的端到端故障診斷方法中期望以原始時域數據作為系統輸入，通過模型自學習的方式完成特征提取并分類，盡可能減少人工參與診斷過程。其中，以卷積神經網絡(convolutional neural networks, CNN)和循環神經網絡(recurrent neural networks, RNN)在端到端故障診斷方向的應用最多。CNN有強大的特征提取能力，其采用局部連接、權值共享等策略帶來運算速度的極大提升。雖然CNN對圖片類型的二維數據格式處理具有巨大優勢，但是面對故障診斷領域的一維時域數據，CNN并未考慮序列信息，導致其應用效果有限，當前CNN在故障診斷領域的應用主要包括：①使用CNN作為人工特征的分類工具。例如，Lu等[6]提取時域和頻域特征，采用CNN進行訓練分類，經采用滾動軸承故障數據驗證后表明，與支持向量機算法相比，該方法具有更好的診斷效果。但是該方法僅僅將CNN作為一個分類器使用，其特征提取過程依舊依靠專家經驗知識進行，導致最終模型診斷效果受人工特征質量影響較大。②沿用卷積神經網絡用于處理圖像的網絡結構，將故障振動數據處理為二維輸入格式，進一步采用CNN進行分類識別。例如：Wang等[7]采用短時傅里葉變換(short-time fourier transform, STFT)將一維振動信號轉換為時頻域圖像，作為CNN的輸入，完成了電機的故障診斷；Xia等[8]將一維時間序列信號采用逐行堆疊的方式處理為二維輸入矩陣，然后采用CNN實現了滾動軸承和齒輪箱的故障診斷。上述方法實現過程較為繁瑣，其中時頻圖轉換過程中會存在信息丟失的風險，將一維數據強行堆疊處理為二維矩陣的方法需要根據原始數據長度的變化調整矩陣尺寸，對不同長度數據自適應性較差。利用RNN對于序列數據的處理優勢，不少學者將其用于實現端到端故障診斷。例如：莊雨璇[9]采用長短期記憶網絡(long short-term memory networks, LSTM)實現了軸承故障端到端診斷；張立鵬等[10]通過在雙向門控循環單元(bidirectional gated recurrent unit, BiGRU)中引入注意力機制實現了機械故障端到端診斷。另外，值得借鑒的一個例子是：Zhou等[11]采用CNN和LSTM的聯合網絡，完成了文本分類任務。總的來說，RNN及其變體在端到端故障診斷中取得了較好的應用效果，但是由于RNN在計算過程中以時間點為單位逐個輸入，無法并行計算，導致其運算時間過長，限制了其在故障診斷領域的應用。

因此，為解決傳統故障診斷方法識別結果不確定性較高、泛化性能差的問題，同時避免RNN運算時間過長的缺陷，論文將以CNN為主體，通過對卷積輸出結果進行重組的方式最大化保留序列信息，同時引入注意力機制，加強模型對于關鍵信息的提取，最終設計了一套端到端的柴油機故障診斷系統，其以原始時域振動信號數據作為輸入，通過對歷史數據進行學習便可建立輸入-輸出映射關系。

1 基本原理

1.1 卷積神經網絡

卷積神經網絡是在計算機視覺領域應用最廣泛的深度學習算法，其基本組成主要有輸入層、卷積層、池化層、全連接層和輸出層。卷積層和池化層交替堆疊出現，分別實現特征提取和特征降維功能[12]。

卷積層采用多個卷積核與輸入數據的局部區域進行卷積運算，每個卷積核在卷積過程中共享一組權值。卷積的具體過程如式(1)所示

(1)

激活函數可以加強模型的非線性表達能力，本文模型采用ReLU函數[13]，其表達式如式(2)所示

(2)

為了進一步降低模型過擬合風險，減少模型處理的數據量，常在卷積層后使用池化層進行降采樣。通常有平均池化和最大池化兩種方式。為充分提取振動信號中沖擊信息特征，濾除部分噪聲，本文采用最大池化操作，表達式如式(3)所示

(3)

1.2 批量歸一化算法

Ioffe等[14]于2015年提出了批量歸一化算法(batch normalization, BN)。該算法作用于各網絡層之間，通過改變網絡層間數據分布，達到加速網絡訓練收斂速度，避免梯度消失的目的。

在訓練過程中，批量歸一化算法流程如下所示：對于某個網絡層間輸入某個大小的批量數據X={x1,x2,…,xn},xi∈，其均值和方差分別如式(4)和式(5)所示

(4)

(5)

對于每一批數據做歸一化處理，如式(6)所示

(6)

式中，ε為一個很小的常數值，該參數是為了保證除數不為0。

經過式(6)以后，網絡層間各批次輸入數據從各層間學習到的特征分布均被統一修改，為了不丟失網絡層提取到的數據特征，批量歸一化算法引入了位移參數β和拉伸參數γ，將輸入數據按照式(7)和式(8)進行變換。

(7)

Y={y1,y2,…,yn},yi∈

(8)

式中：β和γ通過梯度下降算法在訓練過程中被不斷迭代更新；Y為該層的輸出數據。

在測試過程中，將采用網絡訓練過程中所有批次數據的均值作為測試階段均值u′，用每個批次的標準差σ的無偏估計作為測試階段的標準差σ′。

2 MACNN介紹

CNN具有強大的特征提取能力，其通過局部連接、權值共享等策略大大加快了運行速度。本文將以CNN為主體，引入多種注意力機制，搭建一套基于多重注意力卷積神經網絡(multiple attention convolutional neural networks, MACNN)的端到端柴油機故障診斷系統，如圖1所示。

圖1 MACNN結構Fig.1 The architecture of MACNN

2.1 特征提取

MACNN中采用多層CNN結合卷積注意力模塊(convolutional block attention module, CBAM)[15]從原始時域數據中提取特征。CNN由4層卷積層組成。第1個卷積層使用16個較大卷積核(5×1)來提取大尺度特征，接下來3層卷積層，采用32個小卷積核(3×1)來提取深層的特征。在每個卷積層之后，使用最大池化層進行下采樣。針對多層網絡訓練困難的問題，在各卷積層之間增加了一個批量歸一化層，進一步提高訓練的收斂速度和模型的泛化能力。

為進一步加強模型的提取特征能力，將在CNN中引入CBAM，CBAM包括通道注意模塊和空間注意模塊，如圖2所示。

圖2 CBAM結構Fig.2 The architecture of CBAM

(9)

特征圖2如式(10)所示

P′=MC(P)?P

(10)

式中， ?為元素相乘運算。

空間注意力MS(·)用于提取特征圖上各空間區域之間的聯系，其表達式如式(11)所示

(11)

最后，通過式(12)計算得到特征圖3。

P″=MS(P′)?P′

(12)

2.2 重 組

針對卷積輸出的多維特征圖，在經典CNN中，主要將其展平為一維向量以后輸入全連接層完成分類。針對序列學習任務，該方式并未考慮輸出特征的序列信息，導致其對于序列信息的利用率低。因此，本文將通過重組的方式對CNN中多維卷積輸出特征圖進行處理。具體原理如圖3所示，重組結果為X′。X′的表達式如式(13)所示

X′ ={x1,_,x2,_,…,xm,_},xm,_∈1×d

(13)

圖3 重組示意圖Fig.3 Reorganization diagram

2.3 特征學習

為加強序列數據學習效率，不少學者在模型中引入了注意力機制。例如：Vaswani等[16]采用層層疊加的自注意力機制來學習文本表示，提出了著名的Transformer模型； Zhou等[17]在雙向LSTM的隱藏狀態輸出向量中引入注意力來提取關鍵信息，完成了關系分類任務。MACNN將引用2016年 Zhou等研究中的注意力機制直接學習重組后的深層序列特征，為便于與卷積注意力模塊區分，文中將其命名為序列注意力機制。其學習過程如下所示，首先計算注意力權值，計算過程如式(14)所示

S=softmax{αT[tanh(X′)]}

(14)

式中：α為可學習參數，在訓練開始時采用隨機初始化方式給定初始值，之后通過梯度下降算法進行不斷調整；S為序列注意力層從重組后的序列特征X′中學習得到的權值，權值越大代表攜帶的信息對于分類決定越重要。

最后，結果由注意力權值與序列特征相乘得到，如式(15)所示

y=X′ST

(15)

式中，y為輸出結果。

3 實例分析

3.1 柴油機故障模擬試驗

柴油機故障模擬試驗在一臺某型直列6缸柴油機上進行，該柴油機的性能參數如表1所示。

表1 柴油機主要參數Tab.1 Main parameters of diesel engine

試驗采集柴油機的缸蓋振動加速度信號，傳感器布置在1～6缸的缸蓋上，試驗柴油機臺架示意圖以及傳感器的布置位置，如圖4所示。

圖4 試驗用柴油機以及傳感器布置Fig.4 The experimental diesel engine and the location of the sensors

試驗主要模擬了氣門間隙異常故障(1缸)、噴油軌壓異常以及供油量不足三種故障類型，并且對每一類故障發生的不同程度進行了模擬?？偣舶?類故障狀態，對應樣本標簽為0～7，詳細介紹如表2所示。試驗共包括700 r/min，1 300 r/min，1 600 r/min，2 000 r/min和2 300 r/min 5個轉速工況，采樣頻率設置為25.6 kHz。

選取2 000 r/min工況，1缸缸蓋位置處振動信號數據用于驗證本文模型。當采樣頻率為25.6 kHz，轉速為2 000 r/min時，柴油機工作一個周期采集1 536個數據點，為確保單個樣本中包含一個完整周期的信息，設置樣本長度為1 600。為了增加訓練數據量，對于訓練數據，在原始時域數據序列上采用重疊率為25%的方式截取，對于測試數據采用無重疊方式截取，以便更好地模擬真實應用場景。最后，得到每類故障狀態包含520個訓練樣本和120個測試樣本。

表2 模擬故障表Tab.2 Simulated failure table

3.2 訓練測試分析

按照3.1節所述方法劃分數據集，將時域振動信號直接輸入模型，以交損失熵為目標函數，采用Adam優化算法[18]訓練每一層網絡參數。每批次輸入256個樣本進行訓練，采用如式(16)所示的指數衰減學習率控制學習速率。模型建立在基于Python的PyTorch深度學習庫中，采用單個NVIDIA GeForce RTX3080GPU進行訓練。模型訓練過程如圖5所示。

LR=lr·decay_rate(epoch/decay_steps)

(16)

式中：lr=0.01;decay_rate=0.9;epoch為訓練次數;decay_steps=40。

圖5中，訓練300次以后，模型收斂，此時訓練準確率達到100%，測試準確率達到97.88%。模型測試在CPU上進行，硬件環境為Intel i7-10700F@2.90 GHz，記錄MACNN模型測試100個樣本所用時間為0.35 s。測試結果表明，無論從識別準確率還是運算速度上看，MACNN模型都可以很好地實現端到端的故障診斷。

圖5 模型訓練過程Fig.5 The training process of the model

為探究BN算法對MACNN模型訓練收斂速度以及模型最終訓練效果的影響。現將不添加BN算法的MACNN模型(命名為MACNN-noBN)中輸入相同數據，超參數設置與MACNN模型相同，在上述硬件環境下進行訓練和測試，MACNN-noBN訓練過程如圖6所示。同時，統計MACNN與MACNN-noBN的測試準確率以及測試100個樣本用時對比，如表3所示。

圖6 模型訓練過程Fig.6 The training process of the model

表3 各模型對比Tab.3 Comparison of different model

由圖6中可以發現，相比MACNN-noBN與MACNN模型訓練過程，主要有3個不同點：

(1) 不添加BN算法的MACNN-noBN模型訓練收斂速度明顯變慢。MACNN經過300次訓練以后，模型便收斂，但是MACNN-noBN經過900次訓練調整以后，模型才收斂。可見，批量歸一化算法的引入加快了模型收斂速度，提升了模型訓練效率。

(2) 不添加BN算法的MACNN-noBN模型收斂以后，訓練準確率為99.62%，測試準確率僅有87.29%，遠低于MACNN模型97.88%的測試準確率。因此，BN算法的引入提升了模型的識別準確率。

(3) 從圖6中可以看出，最終測試損失曲線有輕微上揚的趨勢，而訓練損失曲線隨著訓練過程的進行不斷調整降低。因此，可以判定不添加BN算法的MACNN-noBN模型出現了輕微的過擬合現象。但是，MACNN模型中卻并未產生該問題。因此，BN算法的引入增強了網絡的泛化性能，避免模型訓練過程中出現的過擬合問題。

進一步地，為證明MACNN中CBAM引入的有效性，將圖2中MACNN模型的CBAM移除，得到的不含CBAM的MACNN模型(命名為ACNN)。采用與上述相同的硬件環境進行訓練和測試，將ACNN測試準確率和測試100個樣本用時與MACNN結果對比，見表3。

由表3對比可以發現，添加卷積注意力機制以后，MACNN模型的測試準確率提升3.93%，達到97.88%。其測試100個樣本用時為0.35 s。作為參考，當柴油機轉速為2 000 r/min時，柴油機工作100個周期用時6 s。由此可見，CBAM引入以后帶來的測試100個樣本用時增加0.2 s的結果是可以接受的。同時，MACNN模型測試100個樣本用時為0.35 s的運算速度為實現柴油機在線故障診斷奠定了良好的基礎。

為體現CBAM在特征提取過程中發揮的作用以及各個網絡層在整個模式識別過程中所起作用，將采用t-SNE對ACNN和MACNN各個網絡層輸出結果進行降維可視化分析。具體地，將各個網絡層數據維度降為二維，分別以t-SNE1和t-SNE2命名?？梢暬Y果如表4所示。表4中，層數0～5分別表示原始輸入數據、第1層卷積層、第2層卷積層、第3層卷積層、第4層卷積層以及序列注意力層輸出結果。

從表4的縱向看，隨著網絡層數的加深，ACNN和MACNN各層數據聚類特征均隨著網層數的增加變得愈加明顯。從表4的橫向看，經過第1層卷積層學習以后，引入了CBAM的MACNN中故障標簽為1的供油量25%類故障聚集到了中心，但是ACNN中該類數據卻較為分散。MACNN的第2層卷積層輸出結果中各類數據逐漸呈圓環狀分布，與ACNN相比，其聚類效果更佳，各類數據呈圓環狀分布情況差異在第2、第3層卷積層輸出數據中體現得更加明顯。從MACNN中第4層卷積層輸出結果中可以發現，除了標簽分別為0，1，6的3類數據以圓環狀聚集在一起，無法明顯區分以外，其余5類故障類型均能較為清晰地區分。而ACNN中各類數據均無法進行較為清晰地區分。最后，經過序列注意力層學習以后可以發現，MACNN和ACNN中8類數據的聚類狀態均較為明顯，具體地，ACNN中各類數據呈長條狀聚集，而MACNN中各類數據呈橢圓狀聚集，同類數據點之間距離更短，更有利于分類。可視化結果表明，CBAM引入以后，加強了模型對于關鍵信息的提取，提高了模型的學習能力。這主要得益于CBAM通過自學習的方式對輸入信號諸如脈沖信號特征等重要信息分配更大的注意力權值以給予重點關注，對信號中低頻噪聲等無關信息分配更小的注意力權值以忽略其帶來的干擾。最終結果表明，MACNN模型可以很好地從原始時域振動數據中通過自適應學習完成特征提取和分類任務，實現了柴油機故障端到端的診斷。

表4 可視化結果分析Tab.4 Analysis of visualization results

4 對比驗證

為進一步評價本文提出的MACNN的性能，將分別采用多種方法對本文建立8類故障數據集進行診斷對比，主要包括傳統基于信號處理的故障診斷方法和采用端到端的故障診斷方法，傳統基于信號處理的故障診斷方法具體為：

方法1VMD+KFCM——采用VMD算法，通過觀察選擇合適分解層數對原始時域振動信號進行分解，計算VMD分解結果各分量的最大奇異值，選取最大的3個奇異值構建3維特征，最后采用KFCM進行分類；

方法2EEMD+KFCM——采用EEMD算法，通過不斷調試選擇合適白噪聲幅值系數和集合平均次數對原始時域信號進行分解，計算各分量與原始信號相關系數，選取相關度最高的前3個分量計算最大奇異值，構建3維特征空間，最后采用KFCM進行分類；

方法3VMD+DBN——采用VMD算法，通過觀察選擇合適分解層數對原始信號進行分解，然后提取最大的3個奇異值、峭度值、香農熵、均方根值、時域能量、四階累積量和多尺度熵，構建21維特征，然后進一步利用遺傳算法進行特征選擇，最終得到8維特征，最后采用DBN分別對構建的8維特征以及方法1構建的3維特征進行分類，具體地，DBN采用2層受限玻爾茲曼機堆疊而成，各層神經元數量均為200。

由于傳統故障診斷方法需要過多人工參與，流程過于繁瑣，計算用時遠大于本文所提出的MACNN。因此，這里將不再對傳統故障診斷方法的計算用時進行對比，僅統計上述所有方法識別準確率，如表5所示。

表5 與傳統方法對比Tab.5 Compare with traditional methods

表5中，采用EEMD分解算法提取特征，KFCM用于分類得到的識別準確率低于60%。VMD提取相同的特征，利用KFCM進行分類能夠得到77.29%的識別準確率，體現出VMD信號分解算法的優越性。針對VMD算法分解提取的3維特征和經過特征選擇以后的8維特征，采用DBN進行識別，分別獲得了67.08%和79.69%的識別準確率，進一步體現出DBN對于高維特征數據的表征能力。

綜上，傳統基于信號處理的故障診斷方法中，主要包括人工特征提取和模式識別兩個部分。其中，人工特征提取方法和模式識別方法均對最終結果有著至關重要的影響，導致傳統基于信號處理故障診斷方法的識別結果受人工干擾程度大，不確定性高，最終識別準確率偏低。而本文提出的端到端故障診斷方法，直接從歷史運行數據中通過自學習方式建立映射關系，很好地避免了傳統基于信號處理的故障診斷方法中不確定性因素帶來的影響。

論文選取基于端到端故障診斷方法，主要如表6所示。特別地，LSTM和雙向長短期記憶網絡(bidirectional long short-term memory networks, BiLSTM)將輸入樣本劃分為200個數據塊作為輸入；CNN-LSTM和CNN-BiLSTM采用2層卷積，LSTM和BiLSTM均為3層；CNN由4層卷積層和池化層交叉堆疊的方式構成，與MACNN模型類似，第一層卷積核尺寸為5×1，隨后3層卷積核尺寸為3×1。各模型的測試準確率和測試100個樣本用時對比，見表6。

表6 與端到端方法對比Tab.6 Comparison with end-to-end methods

如表6所示，莊雨璇采用LSTM中的方法僅能達到61.04%的識別準確率，BiLSTM能夠達到88.32%的識別準確率。采用2015年Zhou等研究中CNN和LSTM的聯合網絡，僅能達到55.20%的識別準確率，進一步采用CNN-BiLSTM網絡能達到80.42%的識別準確率。結果表明，采用BiLSTM同時考慮輸入位置前和輸入位置后的信息能夠達到更好的效果。采用張立鵬等研究中BiGRU和注意力BiGRU分別能達到92.59%和95.82%的識別準確率。上述以RNN的變體為主體的方法均能夠實現端到端的故障診斷。其中，張立鵬等研究中注意力BiGRU能夠達到的最高識別準確率為95.82%。但是，由于RNN網絡存在著無法并行計算的缺陷，導致其在本文的CPU環境中測試100個樣本用時為8.46 s。作為參考，當柴油機工作轉速為2 000 r/min時，運行100個周期用時6 s(<8.46 s)，進一步考慮到實際硬件環境，上述算法運行時間會進一步加長。因此，為將該算法應用于實踐，還需要首先解決其計算速度問題。另外，CNN模型能夠達到90.18%的測試準確率，體現了CNN強大的數據挖掘以及特征表示能力，但是由于其并未充分考慮數據的序列信息，導致其最終的測試準確率低于MACNN。但是CNN測試100個樣本用時僅為0.14 s，這也充分體現了CNN可以并行計算，采用權值共享和局部連接等策略帶來的運算速度的巨大提升。最終結果表明，本文提出的MACNN，通過采用重組的方式解決了CNN對于序列信息利用率低的問題，同時通過引入注意力機制進一步加強了模型對于關鍵信息的提取能力，最終能夠達到最高的測試準確率為97.88%，測試100個樣本用時僅需0.35 s，為實現在線故障診斷奠定了良好基礎。

5 結 論

為解決傳統故障診斷方法人工參與程度過高，為識別結果帶來諸多不確定性的問題，本文采用CNN引入多種注意力機制建立端到端的診斷模型——MACNN，該方法可以通過對大量數據進行自學習后提取特征并分類，實現了柴油機故障端到端的診斷。