基于殘差連接和1D-CNN的滾動軸承故障診斷研究

趙敬嬌， 趙志宏,2， 楊紹普,2

(1. 石家莊鐵道大學 信息科學與技術學院，石家莊 050043；2. 石家莊鐵道大學 省部共建交通工程結構力學行為與系統安全國家重點實驗室，石家莊 050043)

隨著智能化時代的到來，機械設備作為眾多生產領域的關鍵設備，對于制造業的發展十分關鍵[1]。旋轉機械設備中滾動軸承是十分重要的部件，因長期工作在惡劣的環境下而極易出現損傷。相關資料顯示，旋轉機械故障40%以上的原因是由軸承故障引起的[2]。軸承一旦出現故障，如果未能及時發現可能使整個設備停擺，甚至導致重大經濟損失和安全事故，為此對滾動軸承故障診斷方法的研究十分必要。

軸承故障診斷的研究至今已有多種方法，如基于頻譜分析、沖擊脈沖的故障診斷等[3-4]。隨著機器學習的發展，越來越多的專家和學者將目光放在智能診斷上，通過不同手段進行特征提取，再用一定方法進行狀態識別。深度學習是機器學習的一個重要分支，而近幾年由于其在計算機視覺、自然語言處理等領域的優異成就，逐漸被應用到更多的領域解決不同的問題。在故障診斷方面，Tamilselvan等[5]采用深度信念網絡，對發動機振動信號及其故障模式建模，實現了飛機發動機故障的診斷，識別正確率達到 92%以上。楊宇等[6]以經驗模態分解的方法得到本征模態函數(intrinsic mode functions，IMF)分量，再提取部分分量能量特征參數輸入BP(back propagation)網絡中進行分類。杜小磊等[7]用多個小波卷積自編碼器堆疊后提取故障特征，輸入LSTM(long short-term memory)網絡后進行分類。眾多研究表明，通過建立多層神經網絡進行軸承故障診斷是可行并且有效的方法。

卷積神經網絡(convolutional neural network，CNN)[8]是深度學習中的一種具有表征學習能力的前饋神經網絡，被廣泛應用于機器視覺領域。李恒等[9]用短時傅里葉變化對振動信號進行處理后輸出到卷積神經網絡中，經過網絡訓練最后進行分類得到故障類型。Pan等[10]建立基于LSTM和CNN的模型進行軸承的故障診斷，取得較好的試驗結果。張立智等[11]提出用卷積降噪自編碼實現特征提取，用CNN進行模式識別的軸承故障診斷方法。以上方法均取得了較好的診斷結果，但是有些并沒有發揮CNN強大的特征提取能力，或是由于維度變換損失了部分時序信息，或是只使用了淺層的網絡結構。一般來說，網絡越深表達能力越強，在處理大量數據時能夠取得更好的效果，而殘差網絡在精度和收斂等方面都展現出了很好的特性[12]。因此本文提出一種基于殘差連接和一維卷積神經網絡(one-dimensional convolutional neural network，1D-CNN)的深層故障診斷模型，通過多層1D-CNN提取不同層次特征，通過殘差連接將深層特征信息與淺層特征信息結合，使網絡學習到更多的軸承故障特征信息。

1 一維卷積神經網絡

1.1 一維卷積網絡

CNN具有局部連接和權值共享的特性[13]，參數共享能夠有效削弱過擬合的問題，稀疏連接能夠讓網絡學習局部特征。一維卷積神經網絡[14]是運用一維卷積對一維時序序列進行特征提取的卷積神經網絡，能夠保證在不損失時序特征的同時提取局部特征，對于軸承振動信號這樣的周期的時間序列分析是非常有效的。

卷積神經網絡通常包括以下三層：①卷積層，通過卷積核對輸入的特征進行掃描，在“感受野”內對輸入特征進行矩陣運算并疊加偏差量[15]，從而實現特征提取的作用；②池化層，池化操作就是利用一個矩陣窗口在張量上進行掃描，將最大值或者平均值作為特征的輸出，以減少參數數量和計算量；③全連接層，對提取的特征進行非線性組合輸出到其他全連接層。卷積層和池化層能夠達到自動提取數據局部特征的目的，而全連接層能夠實現特征學習。

一維卷積公式為

(1)

最大池化公式為

(2)

1.2 殘差連接

已有研究發現構建的網絡越深，越容易出現梯度消失、網絡過擬合的現象，殘差連接能有效解決網絡退化和梯度消失的問題。殘差連接的思想源于LSTM的門控思想，將輸入做非線性變換，再和輸入進行線性疊加輸出[16-17]，如圖1所示。

圖1 殘差塊Fig.1 Residual block

網絡的一層通常可以看作y=H(x)，而殘差網絡的殘差塊的輸出上可以表示為H(x)=x+F(x)，也就是說殘差為預測值H(x)與觀測值y=x的差值，即F(x)=H(x)-x。殘差網絡的學習目標由學習H(x)變為學習殘差F(x)，網絡只需要學習輸入、輸出差別的部分，從而降低學習的難度。

殘差塊的輸出公式為

xl+1=xl+F(xl,wl)

(3)

式中：xl+1為第l+1層的輸出；xl為第l層的輸入；F(xl,wl)為第l層的殘差。

跳躍連接能夠在某個網絡層激活后迅速反饋給另外一層甚至更深層，從而避免傳統卷積層和全連接層在信息傳遞時的信息丟失和損耗。利用跳躍連接可以構建深層網絡來訓練更深的網絡，可在確保網絡參數不變、計算量不增加的同時，保證網絡有足夠的能力去處理更加復雜的數據。

1.3 批量標準化

在深度網絡中，輸入數據的均值和標準差會隨著網絡層數的增加在逐級傳遞中發生改變，即協變漂移現象[18]，協變漂移也是導致深度網絡出現梯度消失的原因之一。批量標準化(batch normalization，BN)以引入部分額外學習參數為代價解決了此類問題：首先將特征標準化，然后標準化的特征會被2個線性參數放大，成為新的輸入，BN參數在學習過程中不斷更新。

卷積神經網絡中的BN參數與卷積核參數具有相同的性質，即特征圖中同一個通道的像素共享一組BN參數[19]。此外，偏差項的功能可由BN參數代替，使用BN層時卷積層不必添加偏差項。通過加入BN層能夠：改善流經網絡的梯度，允許更大的學習率，大幅提高訓練速度；減少對初始化的強烈依賴；改善正則化策略，并且減少了對Dropout的需求。

2 故障診斷模型設計

在實際的軸承故障診斷中，振動信號數據量巨大，網絡單純采用CNN會耗費很大的時間，并且深層網絡也會導致梯度消失問題出現和泛化性能的下降。利用批量標準化技術的BN層代替部分池化層，能在一定程度上解決梯度消失問題；添加Dropout層能夠有效減小過擬合問題[20]，使模型的診斷精度提升，提高泛化能力；Softmax層是進行分類的常用網絡，能夠輸出概率分布圖；最終根據概率分布確定軸承信號的振動信號類型，并根據數據標簽的診斷結果輸出正確率。

本文構建的軸承故障診斷模型，如圖2所示。模型主要包括輸入層、特征提取層以及輸出層三部分。其過程為：①一維滾動軸承振動數據輸入網絡輸入層。②特征提取部分。首先對輸入進行一次卷積，然后將此次卷積輸出分成兩部分：一部分保存為identity；另一部分繼續輸入到殘差塊部分。殘差塊部分由3個BN層和卷積(Conv1D)層組成，經過其中的三次卷積的結果與保存的identity相加，得到殘差輸出。運用2個殘差塊并進行兩次跳躍連接構成整個殘差連接部分。得到的結果再經過1層BN層、Conv1D層和最大池化層，最終得到提取的特征。③將池化層得到的輸出經過扁平層“壓平”，再添加Dropout層防止過擬合，最終通過Softmax層進行分類。

圖2 軸承故障診斷模型圖Fig.2 Bearing fault diagnosis model

3 試 驗

3.1 試驗數據

試驗數據采用美國凱斯西儲大學負載為0，轉速為1 797 r/min的6205-2RS JEM SKF深溝球型軸承試驗臺數據。利用電火花加工技術對軸承進行加工，以48 kHz的頻率采樣，人為地在內圈、外圈以及滾動體加工出損傷直徑分別為0.177 8 mm，0.355 6 mm，0.533 4 mm的單點故障。本文數據集共7 000個，按70%，20%和10%的比例劃分為訓練集、測試集和驗證集。數據集共包含10類樣本、9種類型的故障和1類正常數據，將標簽數字從0～9按順序分別命名為“B007”，“B014”，“B021”，“IR007”，“IR014”等，詳細數據及標簽如表1所示。

3.2 試驗設置

本試驗的批大小設為128，學習率初始值為0.000 5，每隔50次的迭代降低為原來的20%，振動信號的樣本輸入長度為1 024。試驗共在訓練集上迭代300次，最終用測試集輸入到模型得到準確率。

表1 試驗數據集Tab.1 Experimental dataset

網絡結構設置如下：第一層卷積層濾波器個數為64，卷積長度為2，卷積步長為1；殘差塊的每個BN層后的卷積層均設為由64個2*1的卷積核的濾波器組成的網絡層；再經過一個BN層、卷積層，卷積層由32個2*1的卷積核的濾波器組成。以上網絡層的激活函數均選用“relu”函數，以及“same”的填充方式；最大池化層的池化塊尺寸為4，步長為4，填充方式為“valid”。經過扁平層和一個拋棄率為0.5的Dropout層，最后以“Softmax”為激活函數的Dense層做分類。

3.3 試驗結果及分析

軸承故障診斷的評價指標有準確率、損失率、召回率和F1值等，其中準確率和損失率是判斷模型優異的重要標準。經過多次試驗結果如圖3所示，準確率和損失率分別如圖3(a)和圖3(b)所示，由于學習率設置，模型在前50次的學習速度很快，但波動較大，50次之后準確率緩慢變化，最終保持穩定。本模型在數據集的1 000個測試集上的總準確率達到98.6%，損失率為5.0%。圖3(c)為混淆矩陣表示的結果輸出，其中0.533 4 mm的滾動體故障、0.177 8 mm的外圈故障和0.533 4 mm的外圈故障檢測出現錯誤，其他故障均能有效識別。

圖3 試驗結果Fig.3 Experimental results

3.3.1 不同殘差模型結構對比

本文選用不同殘差塊以及跳躍連接設計建立多個故障診斷模型，在相同參數的設置情況下，試驗中多個模型只改變圖2中殘差塊的結構，其他網絡層不變。殘差塊設計如圖4所示，殘差部分設置如下：

(1) 將圖2模型中的殘差塊部分換為2個BN層與Conv1D層，不加跳躍連接，如圖4(a)所示，模型命名為2-C-1；在相同BN層和Conv1D層的情況下，加1個跳躍連接，如圖4(b)所示，模型命名為2-R-1。

(2) 殘差塊部分換為3個BN層與Conv1D層，不加跳躍連接，如圖4(c)所示，模型命名為3-C-1；在相同BN層和Conv1D層的情況下，加1個跳躍連接，如圖4(d)所示，模型命名為3-R-1。

(3) 殘差塊部分換為4個BN層與Conv1D層，不加跳躍連接，如圖4(e)所示，模型命名為2-C-2；在相同的BN層和Conv1D層的情況下，加2個跳躍連接，如圖4(f)所示，模型命名為2-R-2。

(4) 殘差塊部分換為6個BN層與Conv1D層，不加跳躍連接，如圖4(g)所示，模型命名為3-C-2；在相同的BN層和Conv1D層的情況下，加2個跳躍連接，如圖4(h)所示，模型命名為3-R-2。

圖4 殘差塊結構Fig.4 Residual block structure

不同殘差模型結構的故障診斷試驗結果，如表2所示。在相同超參數設置情況下，3-R-2模型的殘差設計的診斷效果最佳。同時，本文嘗試比3-R-2模型更深的結構進行試驗，診斷效果差異并不大。由表2可知：①使用殘差連接的模型的故障診斷效果有了一定的提升，這是由于殘差連接能夠將淺層特征和深層特征融合作為特征輸出，比起單一的深層特征更有效；②模型網絡層數增加，故障診斷結果有一定的提升，這是因為模型加深，能夠提取軸承故障信號的一些深層特征信息。但并不是模型越深，故障診斷效果越好，網絡層數過多會出現學習參數的成倍增長和過擬合嚴重現象。因此，基于殘差連接的1D-CNN模型能夠有效判斷各故障類型，并且在此8個模型中，最優模型為本文圖2所采用的滾動軸承故障診斷模型結構。

表2 不同網絡結構的診斷準確率和損失率Tab.2 Accuracy and loss rate of different network structures %

3.3.2 不同參數取值對試驗結果的影響

軸承故障診斷模型的參數有學習率、批大小、濾波器個數等，這些參數的選擇會引起診斷效果的不同。本文對學習率、濾波器個數選擇進行了對比試驗。

(1) 學習率。如果學習率設置過大，可能導致參數更新幅度非常大，網絡難以收斂，使損失值過大；如果學習率設置太小，則網絡需要訓練更長時間才能達到穩定，或者只收斂到局部最優點，無法達到全局最優。

本文選擇先使用0.000 5的大學習率快速學習特征，使學習率快速提升。但是大學習率情況下準確率波動大，因此在每50次的訓練后改變學習率，變為原來的20%，使學習率平穩提升。經過多次試驗證明此方法較為有效。

(2) 濾波器個數。濾波器是CNN網絡的一個重要參數，數量多了會拖慢訓練且易過擬合，少了會丟失特征，特征學習不好。因此本文在不同濾波器個數下進行了對比試驗，根據試驗結果選擇適合本文模型的濾波器參數設置。模型在不同濾波器數量下的準確率，如表3所示，濾波器個數為32和64的診斷效果較好，但濾波器個數為64的情況下損失率更小，準確率更高，因此本文選用濾波器個數為64。

表3 不同濾波器數量下模型的準確率和損失率Tab.3 Accuracy and loss rate of different filter number

3.3.3 可視化分析

采用t-SNE(t-distributed stochastic neighbor embedding)算法[21]提取各層輸出向量的前二維以顯示模型不同網絡層特征提取的結果。原始輸入信號以及其經過部分網絡層的特征圖，如圖5所示。圖5(a)為原始輸入信號的t-SNE可視化圖，可以看到原始信號比較雜亂，各類數據相互混雜，難以區分。經過第1個殘差塊的卷積層后的t-SNE可視化圖，如圖5(b)所示，標簽5的數據被分類出來，其余部分的各類樣本并沒有聚攏，而是十分混亂地聚在一起。經過第1個殘差塊的第3個卷積層后的t-SNE可視化圖，如圖5(c)所示，雖然各類并沒有完全分散，但是聚集的不同種類的數據較之前分散，并且各類數據成聚集的趨勢，其中標簽9和標簽5已經完全聚集，標簽0、標簽1、標簽2、標簽4、標簽6、標簽8等成聚集的形式匯聚。試驗結果表明，模型各層能提取故障特征用于分類，最終分類準確率在98%以上。

圖5 原始信號及網絡層輸出可視化圖Fig.5 Visualization diagram of original signal and different network layers

4 結 論

對于滾動軸承的故障診斷，本文提出了基于殘差連接的深層1D-CNN模型，解決了傳統故障診斷方法人工提取特征的不足。試驗結果表明，本文提出的模型能夠根據輸入的軸承振動信號有效識別滾動軸承故障狀態。

(1) 基于殘差連接的1D-CNN能夠提取軸承故障特征，軸承故障識別率較高。

(2) 與無殘差連接的卷積神經網絡相比，使用殘差連接的1D-CNN能夠提取多層次故障特征，診斷效果更好。

(3) 深層網絡模型較淺層網絡表達能力更強，在“大數據”時代，本文提出的深層故障診斷模型具有一定的應用價值。

故障診斷模型中各參數的取值會不同程度地影響診斷效果，而依據人工調參十分繁雜。因此，本文下一步的研究重點在參數選擇算法方面，并建立自適應的故障診斷模型。