基于改進深度殘差網絡的軸承故障診斷方法

田科位，董紹江，姜保軍，裴雪武，湯寶平，胡小林，趙興新

(1.重慶交通大學 機電與車輛工程學院 重慶 400074；2.重慶大學 機械傳動國家重點實驗室 重慶 400030；3.重慶工業大數據創新中心有限公司 重慶 400056；4.重慶長江軸承股份有限公司 重慶 401336)

滾動軸承作為旋轉機械的關鍵零部件之一，其健康狀態對整個機械設備的性能、穩定性和使用壽命有巨大的影響[1]。在實際工作過程中，由于工作環境的變化和不可避免的噪聲干擾，很難提取和概括特征。因此，建立一種準確、魯棒的滾動軸承故障診斷模型具有重要意義。

基于數據驅動的智能故障診斷方法逐漸成為故障診斷領域的主流應用[2]。Qu等[3]利用雙樹復小波包變換與多分類器相結合的方法對滾動軸承進行了診斷；Ali等[4]使用經驗模態分解和人工神經網絡，對軸承的故障診斷進行了研究；史慶軍等[5]提出了基于經驗模態分解和局部均值分解方法相結合，將特征量矩陣輸入到支持向量機實現軸承故障檢測。這些方法雖然擁有不錯的性能，但是都極度的依賴于故障診斷專家的經驗和知識，而且針對不同類型的故障所使用的特征提取方法也不盡相同。

近年來，深度學習技術在計算機視覺，語音識別和自然語言處理等多個領域都取得了巨大的成功。深度學習方法可以從振動信號中自動提取故障特征[6]，因此也被廣泛應用在滾動軸承故障診斷領域。Abdeljaber等[7]提出了一種自適應一維深度神經網絡模型，用來對旋轉機械進行檢測和定位結構損傷；Liu等[8]利用遞歸神經網絡對滾動軸承的故障進行分類，并采用基于門控遞歸單元的降噪自動編碼器來提高故障分類的準確性；Hao等[9]提出了一種基于一維卷積長短時記憶網絡的多傳感器方法，實現了軸承變負載的故障診斷。

以上這些模型在軸承故障診斷方面取得了不錯的效果，但是沒有同時考慮到在實際的工業應用中不可避免的噪聲干擾以及機械系統在載荷發生變化的問題。基于以上原因，本文提出了一種基于改進深度殘差網絡的軸承故障診斷方法。該模型在殘差神經網絡殘差塊中引入了SENet結構增強各個特征提取通道之間的聯系，提高在噪聲和變負載時故障特征的提取能力；同時使用激活函數LReLU和Dropout技巧提高模型抗干擾能力。此外，為了抑制模型的過度擬合，對原始訓練樣本添加了噪聲。最后通過對比實驗證明，該模型在噪聲環境和負載變化時仍有較高的故障識別精度。

1 殘差神經網絡原理

He等[10]提出了殘差神經網絡(residual neural network，Resnet)，Resnet的核心思想是引入殘差模塊(residual building block，RBB)來學習殘差，殘差學習有效解決了由于神經網絡深度增加性能反而下降的問題。

1.1 卷積層

卷積層是使卷積神經網絡(convolution neural network，CNN)與傳統的完全連接的神經網絡不同的關鍵組件。卷積層中的卷積核運算比完全連接層中的轉換矩陣具有更少的參數。輸入特征圖和卷積核之間的卷積(通過添加偏差項)運算可以表示為：

(1)

式中：xi是輸特征圖的第i個通道；yj是輸出特征圖的第j個通道；k是卷積核；b是偏置項；Mj是用于計算輸出特征圖第j個通道的集合。

1.2 批量歸一化

批量歸一化(batch normalization，BN)是針對內部協方差偏移問題而提出的一種歸一化方法。與一般的標準化方法不同，批量標準化是嵌入在深度神經網絡內部層與層之間的一種運算。BN的計算過程表示為：

(2)

(3)

(4)

yi=γzi+β

(5)

式中：xi和yi分別表示批處理中第i個觀測值的輸入和輸出特征；Nbatch是分類任務中每個批次樣本的個數；γ和β是兩個可訓練的參數，可以自適應學習到更合適的特征分布；ε是接近零的常量。

1.3 激活函數ReLU

ReLU作為最常見的激活函數，解決了S型局部梯度爆炸和梯度消失的問題，加速了神經網絡的收斂。ReLU的算法如下：

y=max(0,x)

(6)

式中：x和y分別是ReLU激活函數的輸入和輸出。

1.4 殘差模塊的基本原理

殘差模塊(residual building block，RBB)是Resnet的核心，RBB通過使用快捷連接跳過卷積層塊來實現，避免了梯度爆炸和消失，有助于構造更深的神經網絡結構，改善故障診斷的最終性能。

卷積層塊F(x)的執行路徑為“輸入x→BN層→激活函數ReLU→卷積層→BN層→激活函數ReLU→卷積層→輸出F(x)”[10]。當卷積層塊的輸入與輸出維度相同時快捷連接的輸出值就為輸入值x，殘差模塊的最終輸出結果如式(7)所示；當輸入與輸出的維度不同時，快捷連接需要使用一個卷積核大小為1×1的卷積層來匹配輸出結果的維度，從而得到快捷連接的輸出H(x)，最終輸出結果如式(8)所示。

y=F(x)+x

(7)

y=F(x)+H(x)

(8)

2 改進軸承故障診斷模型的建立

2.1 改進激活函數LReLU

ReLU作為最常見的的激活函數，當輸入的一維滾動軸承振動信號為負時，它會舍去這類振動信號，削弱了模型對軸承故障的識別能力。對此，本文方法采用LReLU作為激活函數來解決當輸入為負時ReLU產生的問題[11]。具體算法如式(9)：

(9)

式中：x和y分別是LReLU激活函數的輸入和輸出；α是根據實際經驗來取值，文獻[11]通過大量的實驗證明了α取值范圍在0～0.5時效果達到最佳。

2.2 擠壓與激勵網絡結構

Hu等[12]提出了擠壓和激勵(SENet)網絡結構，它可以通過自動獲得每個通道的重要性，增強各個通道之間的聯系，從而達到提升模型性能的目的。該結構的核心是擠壓(Squeeze)和激勵(Exctation)兩大操作。

Squeeze操作是對輸入的特征圖進行全局池化，將每個特征圖壓縮為一個具有全局感受野的實數。具體算法如式(10)所示：

(10)

式中：xi代表輸入為尺寸為H×W的第i個特征圖。

Exctation操作主要是由兩個全連接層和2個激活函數組成，可以幫助捕獲通道相關性，生成對應通道的權重。算法如式(11)所示：

yi=Fex(Fsq(xi),ω)=σ(ω2δ(ω1Fsq(xi)))

(11)

式中：ω1表示第一個全連接層計算；ω2表示第二個全連接層計算；Fsq(xi)表示Squeeze操作過后的輸出值；δ表示激活函數ReLU；σ為Sigmoid函數具體算法如式(12)：

(12)

式中：x表示經過2次全連接計算的輸出值。

2.3 交叉熵損失函數

交叉熵損失函數Softmax一般作為最后輸出層的激活函數，它將神經網絡的輸出值固定在(0,1)之間以表示不同事件發生的概率，文獻[13]詳細介紹了交叉熵的執行過程。算法如式(13)所示：

(13)

式中：Nclass表示分類任務所涉及的的類別，xj表示上一層的第j個輸出；yj表示神經網絡的第j個預測值。

2.4 全局平局池化

全局平均池化(global average pooling，GAP)是一種對特征圖求平均值的操作，可以大大減少神經網絡訓練時的參數，加快神經網絡的計算速度，詳細計算過程見參考文獻[14]。

2.5 改進的殘差模塊

如圖1(a)，(b)分別為兩種改進的殘差模塊RBB-1和RBB-2。改進的核心部分是在殘差模塊的第二個卷積層之后添加了分支SENet結構，生成了對應通道的權重，最后通過與第二個卷積層的輸出結果相乘；與此同時將LReLU作為激活函數。

圖1 改進的殘差模塊Fig.1 Improved Residual building block

2.6 改進深度殘差神經網絡模型

本文所提改進深度殘差神經網絡軸承故障診斷模型結構如圖2所示。首先在原始信號樣本中添加了噪聲信號作為輸入，增大樣本的同時還可以避免網絡參數過多引起的過擬合問題，提高模型的魯棒性[15]；然后信號依次經過卷積層、最大池化層、改進的殘差塊、Dropout、全局平均池化，最終通過Softmax輸出故障類別，進而得出診斷結果。

圖2 改進深度殘差網絡網絡模型Fig.2 Improve the network model of deep residual network

圖2中改進的殘差堆疊塊由4個改進殘差模塊堆疊而成，加深了神經網絡模型的深度，能夠更好的提取故障信號深層次的特征。Dropout增加了模型的抗干擾能力。最后使用全局平均池化來代替全連接層，減少模型訓練時的參數，加快了模型的計算速度。

3 實驗驗證

針對在實際應用中機械系統負載變化和噪聲的干擾，本節設置不同的實驗對本文方進行驗證，并與不同的方法進行對比，證明了本文方法的優越性。

3.1 實驗數據來源及其設置

實驗采用的軸承數據來自美國凱斯西儲大學(Case Western Reserve University,CWRU)[16]，實驗軸承的型號為SKF6205電機軸承，信號的采樣頻率為12 kHz。實驗軸承具有球體故障，內圈故障和外圈故障三種故障類型，每種故障類型的故障直徑分別為0.177 8 mm，0.355 6 mm和0.533 4 mm，最終形成包含正常狀態在內的十類故障。在本文實驗中，通過重疊采樣的方式增大樣本集，每種故障的樣本數量為500，每個數據樣本包含2 048個數據點，按1、2和3 hp負載制作成分別包含5 000個數據樣本的數據集A、B、C。數據集D為A、B、C的并集。按照比例4∶1無交集的將每個數據集劃分為訓練集和測試集，其中訓練集用于模型的訓練，測試集用于模型的測試。

3.2 模型結構參數設置

仿真實驗使用的深度學習框架為Tensorflow，編程語言為Python，在windows7中運行。實驗過程采用Adam優化算法更新網絡訓練參數，迭代次數為3 000，每個批次的樣本數量為50，學習率設置為0.001，衰減率為0.9，Dropout為0.5，激活函數為LReLU。本文的模型參數設置如表1。

表1 模型參數設置Tab.1 Model parameter setting

3.3 實驗結果及分析

本小節分別使用構建好的數據集A、B、C、D進行實驗。由于在訓練神經網絡模型的過程中權值的初始化是隨機的。為了避免實驗結果受其影響，每個模型在每個數據集上重復做五次實驗，然后取其平均值。

3.3.1 全局平均池化與全連接層運行時間對比

本文模型采用全局平均池化代替了全連接層。實驗選取選取數據集D進行作為訓練，訓練輪數設置為3 000 輪，訓練時間如表2所示。

表2 訓練時間對比Tab.2 Training time comparison

從表2看出，訓練輪數同時為3 000輪時，由于全局平均池化減少了模型計算的參數量，訓練時間較全連接層減少了14.3 s。

3.3.2 噪聲環境下故障診斷性能分析

在實際的工作環境中，傳感器所測得的振動信號不可避免的會受到噪聲的污染，造成振動信號中的故障信息被掩蓋。如圖3所示，可以看出在原始信號中加入了信噪比為-4 db的高斯白噪聲后幅值發生了改變，原始信號中的故障特征被嚴重淹沒，很難從復合信號中識別出原始信號的故障類型。對此，本小節選取數據集D進行實驗，通過在測試樣本中添加不同信噪比的高斯白噪聲進行測試。

圖3 原始信號、噪聲信號及信噪比為-4 db的復合信號Fig.3 The composite signal with the original signal,noise signal and SNR of -4 dB

為了檢驗本文網絡模型改進部分的效果，設置了三個變量。變量一設置為使用的激活函數為ReLU；變量二設置為沒有使用Dropout技巧；變量三設置為不添加SENet網絡模塊，實驗結果如圖4所示。可見，每個改進部分都提升了本文模型在噪聲環境中軸承故障識別的準確率。其中SENet網絡模塊的添加起到了最關鍵的作用，在信噪比為-4 db的強噪聲環境中軸承故障識別率提升了7.19%。

圖4 改進部分在噪聲環境的故障識別準確率Fig.4 Improve the fault identification accuracy in noisy environment

為了驗證本文模型具有較好的抗干擾能力，分別與傳統Resnet(參數設置與本文模型相同)、TICNN[17]、WDCNN[18]三種模型進行對比。實驗結果如圖5所示，本文模型的故障識別準確率均為最高。在SNR=-4 db環境中Resnet、TICNN及WDCNN的識別準確率分別為80.43%、82.05%和92.65%，而本文模型為93.4%，對比其他三種模型分別提高了12.97%，10.9%和0.75%。

圖5 不同模型在噪聲環境中的故障識別準確率Fig.5 Fault identification accuracy of different models in noisy environment

為進一步分析本文模型在噪聲環境中，不同位置的故障識別準確率對診斷結果的影響，表3展示了在SNR=0 db環境中，不同位置的故障識別準確率。可見，本文模型對正常狀態下的軸承識別率達到了100%；軸承內圈故障和外圈故障的識別率都達到了99%以上；而滾珠故障的識別準確率稍遜，是由于0.355 6 mm滾珠損傷的故障識別率僅為96.88%，降低了對滾珠故障的識別準確率，影響了最終的診斷結果。

表3 不同位置的故障識別準確率Tab.3 Fault identification accuracy of different locations

3.3.3 負載變化時故障診斷性能分析

在實際的工作環境中，滾動軸承的工作負載發生改變是不可避免的。圖6顯示了不同負載下的時域圖，從中可以看出不同負載振動信號的幅值和相位都有所差異。深度學習是一種通過訓練大量數據，達到自適應提取特征的方法，當負載發生變化時相同類型的故障特征減少，導致深度學習診斷模型的診斷性能降低。

圖6 不同負載的振動信號Fig.6 Vibration signals of different loads

為了體現本文方法在負載變化時具有較好的軸承故障識別準確率，分別與Resnet(參數設置與本文模型相同)、TICNN、WDCNN的實驗結果進行對比分析。負載變化是指在1、2和3 hp對應數據集A、B、C中，用一種數據集做訓練樣本，另外兩種數據集作為測試樣本，例如A→B，A→C表示用數據集A作為訓練樣本，數據集B、C進行測試。實驗結果如圖7所示。

由圖7可知本文模型在負載變化的故障識別率均達到了94.38%以上，而Resnet，TICNN和WDCNN的最低識別率分別為93.6%、89.2%、88.3%。TICNN和WDCNN在不同跨負載下的故障識別率波動范圍很大，例如C→B中WDCNN模型的故障識別率達到了99.99%，而在C→A中的識別率僅僅只有88.3%，說明WDCNN網絡模型的泛化能力稍遜。本文模型在跨負載測試時的整體平均識別率達到了98.11%，相對Resnet，TICNN和WDCNN三種模型分別提高了1.83%、2.61%、2.21%。這說明本文模型具有更好的泛化能力。

圖7 負載變化時故障識別準確率Fig.7 Fault identification accuracy when load changes

3.3.4 負載變化時的抗噪性分析

針對滾動軸承工作時，同時伴隨著負載的變化和噪聲干擾的問題。本小節設置了兩個實驗對本文模型進行驗證。實驗一設置為用兩種負載的數據樣本同時輸入模型進行訓練，另一負載下的數據樣本進行測試，例如AB→C表示用數據集A和B同時輸入模型進行訓練，再用數據集C進行測試。實驗二設置為用一種負載的數據樣本進行訓練，另外兩種負載的數據樣本分別進行測試，例如A→B，A→C表示用數據集A進行訓練，數據集B，C進行測試。

在實驗一中，分別使用本文模型、Resnet和卷積膠囊[19]模型的實驗結果進行對比分析，實驗結果如表4所示。

從表4可知，在信噪比相同的噪聲環境中，本文模型在負載變化時的軸承故障平均識別準確率均大于Resnet和卷積膠囊模型。特別是在SNR=-4 db的強噪聲環境中，本文模型的軸承故障平均識別準確率達到了92.18%相較于Resnet和卷積膠囊網絡分別提高了9.4%、6.63%。在SNR為-4～4 db，負載發生變化時，本文模型對軸承故障的平均識別率達到了97.36%，相較于Resnet和卷積膠囊模型提高了4.04%、2.36%。表明本文模型能提取更細微的特征，在信號受到噪聲干擾和負載變化時擁有較好的故障識別準確率。

表4 負載變化時不同模型在不同信噪比測試信號的準確率Tab.4 Accuracy rate of different MODELS testing signals with different SNR when load changes %

在實驗二中，使用Resnet模型的實驗結果與本文模型進行對比分析，實驗結果如圖8中(a)，(b)所示。

圖8中-4、-2、0、2、4表示測試時加入高斯白噪聲的信噪比。在負載變化相同情況下，本文模型在信噪比-4～4 db的噪聲環境中，軸承故障平均識別率均高于Resnet模型。以負載變化A→B為例進行分析，本文模型的平均識別率達到了97.78%，相較于Resnet模型提高了2.03%。在信噪比為-4 db的強噪聲環境中，本文模型的軸承故障識別準確率達到了92.27%，而Resnet模型的識別準確率僅有87.51%，相比之下提高了4.76%。同時本文模型同時在負載變化和-4 db到4 db噪聲環境下的整體平均識別準確率達到了95.02%，相較于Resnet網絡模型相比提高了3.5%。

圖8 噪聲環境下負載變化時不同模型的軸承故障識別準確率Fig.8 Diagnosis results of different models under variable load noise environment

通過實驗一和實驗二在噪聲環境中進行不同的跨負載實驗可得:本文模型在噪聲環境和負載變化時仍具有較高的故障識別準確率，說明本文模型具有較好的抗干擾能力和泛化能力。

3.3.4 本文模型實驗結果可視化

本小節選用t-SNE(t-distributed stochastic neighbor embedding)算法，分別將卷積層、殘差堆疊快和GAP中的高維數據降低到二維進行可視化，展示本文模型訓練過程中特征提取過程。由于篇幅有限，僅展示在SNR=0 db時通過1 hp負載下的數據進行訓練好的模型，使用2 hp負載下的1 000個數據樣本進行測試的特征分布可視化圖。

由圖9可以看出，隨著網絡層數的深入，特征變得越來越可分割，特別是在通過改進殘差堆疊塊Block1之后，各類特征點的分布有了顯著的變化，使得各個類別的特征點的分布有了明顯的區分，說明改進的殘差堆疊塊具有較強的故障識別能力。從最后的GAP層可以看出，本文模型通過1 hp負載下的數據樣本訓練得到的模型，在SNR=0 db的噪聲環境中使用2 hp負載下的數據樣本進行測試，仍具有較好的軸承故障識別能力，驗證了本文模型在噪聲環境中和負載變化時具有較好的故障分類能力。

圖9 測試樣本的特征分布圖Fig.9 Feature distribution of test samples

4 結 論

針對滾動軸承在負載變化、噪聲環境中故障診斷準確率低、抗噪性能及泛化能力弱的問題，提出了一種改進的殘差神經網絡方法。本文得出的結論如下：

(1)本文構建了一種基于殘差神經網絡與SENet相結合的改進深度殘差神經網絡軸承故障診斷模型。通過在殘差塊中添加SENet網絡結構，使模型關注與目標相關的特征通道并弱化其他無關的特征通道，從而達到提升模型性能的目的。使用全局平均池化代替了全連接層，加快了模型的訓練速度。在訓練過程中，為了抑制過擬合，對訓練樣本進行了加噪處理，同時使用了LReLU函數和Dropout技巧來提升了模型的抗干擾能力。

(2)采用了軸承數據集進行了實驗驗證。在信噪比為-4～4 db的噪聲環境中，本文模型的故障識別準確率均高于其他方法，在SNR=-4 db的高噪聲環境中，本文模型的識別率也達到了93.4%；在負載變化實驗中，本文模型的整體平均識別率達到了98.11%；在軸承負載變化時的抗噪性分析實驗中，通過兩個實驗證明本文模型的故障識別準確率均達到了最高，表明了本文模型具有較好的抗干擾能力和泛化能力。