基于門控循環單元膠囊網絡的滾動軸承故障診斷

王超群，李彬彬，焦斌

(上海電機學院 電氣學院,上海 201306)

軸承是機械裝置中重要的部件[1]，疲勞損壞、潤滑不良、安裝不當等都會導致軸承出現故障，傳統的軸承故障診斷方法通常采用人工提取故障的方式：文獻[2]將集成經驗模態分解(EEMD)與峭度準則結合，文獻[3]將小波包變換與樣本熵相結合，文獻[4]提出基于Teager能量算子的頻譜分析方法，這些方法雖然通過實際滾動軸承故障試驗以及仿真分析證實能夠有效地提取滾動軸承故障特征，但其特征提取的工作量較大，特征提取較為復雜，且專業性較強。

近些年，人工智能技術的發展突飛猛進，目前熱門的深度學習[5]也在軸承故障診斷領域得到了廣泛應用。文獻[6]提出了一種基于深度神經網絡的軸承故障診斷方法，在美國Case Western Reserve大學的軸承故障數據下取得了較好的效果。文獻[7]提出了將離散傅里葉變換與卷積神經網絡相結合的故障診斷模型，對齒輪箱中軸承、齒輪的試驗也取得了不錯的結果。文獻[8]提出一種結合小波包變換和長短時記憶神經網絡的方法，在風電機組滾動軸承故障識別中獲得了較高的識別率。然而，在實際工業環境中，由傳感器采集到的振動信號可能會受到噪聲的污染。此外，當負載改變時，電動機轉速也會發生改變，傳感器測得的振動信號也會隨之變化。雖然許多故障診斷模型在原始信號診斷上擁有很高的識別率，但處于噪聲和變負載環境下時識別率可能會出現較大的下降[9]。因此，將循環神經網絡的變種門控循環單元(Gated Recurrent Unit，GRU)[10]與膠囊網絡(Capsule Network，CAPS)[11]相結合，提出一種基于門控循環單元及膠囊網絡的滾動軸承故障診斷模型，并通過試驗驗證該方法的抗噪性、通用性和泛化能力。

1 理論基礎

1.1 門控循環單元

與長短時記憶神經網絡(LSTM)類似，門控循環單元也是為了解決循環神經網絡的梯度消失問題而提出的方法，但比長短時記憶神經網絡更為簡便[12]。門控循環單元使用了更新門和重置門，這2個門共同決定了門控循環單元的輸出，其具體結構如圖1所示。

圖1 門控循環單元結構圖

更新門的主要作用是決定輸出狀態ht要保留多少歷史狀態ht-1，以減小梯度消失的風險。更新門的公式為

Zt=δ(Wzxt+Uzht-1+bz)，

(1)

式中：δ為sigmoid函數；xt為t時刻的輸入向量；Wz，Uz分別為更新門和循環連接的權重；bz為偏置項。

重置門的主要作用是決定過去有多少信息需要被遺忘，即候選狀態對歷史狀態的依賴程度。重置門的公式為

rt=δ(Wrxt+Urht-1+br)，

(2)

式中：Wr，Ur分別為重置門和循環連接的權重；br為偏置項。

(3)

式中：Wc，Uc分別為候選狀態和循環連接的權重；bc為偏置項；⊙表示同或運算。

最后，當前時刻的輸出ht為

(4)

1.2 膠囊網絡

膠囊網絡的實質是將傳統神經網絡中的神經元由標量變為向量。向量不僅可以表示物體的特征，還可以包括物體的方向、狀態等，可以用來減少運算過程中信息的丟失。膠囊網絡的輸入與全連接神經網絡類似，由神經元線性加權再求和，不同的是膠囊網絡在此基礎上加了一個耦合系數，具體過程為

(5)

(6)

通過上述過程得到中間向量sj，sj經過激活函數squashing后得到輸出向量vj，使用該激活函數的優點是既可以保留初始向量的方向，又可以將輸入向量的模值壓縮到[0，1)之間[13]。具體計算公式為

(7)

圖2 膠囊網絡結構圖

(8)

(9)

2 基于門控循環單元的膠囊網絡模型

為了充分提取故障特征并減少特征信息的丟失，提出了一種基于門控循環單元的膠囊網絡故障診斷模型。整個網絡模型如圖3所示。

圖3 基于門控循環單元的膠囊網絡結構

2.1 模型的前向傳播過程

模型的第1層為門控循環單元層，作用是通過控制輸入信息的流入充分提取特征，并將特征傳遞給膠囊網絡。由圖3可知，此處輸入為28×28的張量尺寸，即將輸入當作28個時間段，每個時間段的內容為28個值，將28個時序一次性送入門控循環單元中，門控循環單元的隱藏層節點個數為128，最后得到10×10的張量尺寸。

模型的第2層為卷積層。加入卷積層的目的是減小特征尺寸，使膠囊網絡的計算更加簡便。將經過門控循環單元層的張量放入卷積核尺寸為5×5、過濾器深度為256的卷積層中，并經過一層批量歸一化(BN)層[14]，最終得到6×6的張量尺寸。

模型的第3層為初級膠囊層，其作用是將門控循環單元層提取到的標量特征轉化為向量特征。構建向量的方法是將特征層的通道合并為一個膠囊單元[15]。在該模型中，設置輸出的通道數為32，每個通道數所包含的特征數為8，因此提取到的特征總數為256(32×8)。特征數為8的向量被封裝在一個初級膠囊里。由于張量尺寸為6×6，所以一共有1 152(6×6×32)個初級膠囊。

模型的第4層為數字膠囊層，作用等同于全連接層在卷積神經網絡中的作用，用來區分各種故障類型。由于要識別的軸承故障類型是10種，所以該層的膠囊個數為10，設置向量維度為16，向量的模長即某種故障類型的概率。具體參數設置見表1。

表1 基于門控循環單元的膠囊網絡模型參數

2.2 模型的反向傳播過程

反向傳播算法可以根據定義好的損失函數優化神經網絡的權值，從而使神經網絡的損失值達到比較小的程度。參數的優化好壞直接決定了模型的優劣。此網絡中的損失函數比較特殊，由邊緣損失和重構損失兩部分構成。邊緣損失的表達式為

Lc=Tcmax(0,m+-‖vc‖)2+

λ(1-Tc)max(0,‖vc‖-m-)2，

(10)

式中：Tc為真實標簽，當輸入樣本類別與c一致時Tc取1，否則為0；‖vc‖為向量的模長，即某種故障類型的概率；m+，m-分別為上邊界和下邊界，分別取0.9，0.1。當‖vc‖>0.9或‖vc‖<0.1時，損失函數為0。λ的作用是調整這2項的比例，這里取常數0.5。

重構是指根據已有參數重新構建初始輸入的電機軸承數據。加上重構損失的目的是減小訓練數據集過擬合的風險，增強模型的泛化能力。重構解碼的過程由3層全連接層構成，3層全連接層的節點數分別為256，512，784，對應的激活函數分別為ReLU，ReLU，sigmoid。重構損失的表達式為

(11)

式中：yk為重構圖像；xk為原始圖像。

最終的損失由上述兩部分構成，即

L=Lc+αLr，

(12)

式中：α為邊緣損失占損失的主要部分，此處取0.000 5。

3 試驗設置

3.1 數據準備和處理

為驗證所提GRU+CAPS模型的有效性，采用美國Case Western Reserve大學公開的滾動軸承數據集進行驗證。選用不同工況下驅動端軸承的加速度數據作為研究對象，除了正常狀態，設置了內圈故障、外圈故障和鋼球故障，每種故障方式下分別有故障直徑為0.178，0.356，0.534 mm的3種人為損傷。

由于一共有10種狀態，設置標簽為0～9，分別代表正常狀態和9種故障狀態。采用連續抽樣的截取方法處理數據，設定抽樣步長為784[16]。每種狀態均取1 000個信號樣本，加上標簽最后得到10 000×(784+1)的矩陣，保存至.csv文件后作為模型的輸入。將10 000個數據以7∶2∶1的比例分為訓練集、驗證集和測試集，即包含7 000個訓練數據、2 000個驗證數據和1 000個測試數據。數據集具體規格見表2。

表2 試驗數據集

3.2 相關參數設置

本試驗在Google深度學習框架TensorFlow中完成，設置批次大小為64，對所有樣本的訓練次數為20次。膠囊層中動態路由算法的迭代次數為2。除此之外，使用Adam優化器優化總損失，學習率設置為0.001，并采用動態衰減的方式，衰減率為10-8。

3.3 對比試驗設置

為進一步驗證GRU+CAPS模型的有效性，分別采用膠囊網絡、門控循環網絡(GRN)、卷積神經網絡(CNN)、深度神經網絡(DNN)進行對比試驗。

3.3.1 膠囊網絡

膠囊網絡結構先使用2層卷積層將張量尺寸由28×28變為6×6，第1層卷積層的卷積核尺寸大小為9，深度為256，步長為1；第2層卷積層的卷積核尺寸大小為9，深度為256，步長為2。此設置既減小了特征尺寸，也與本文所提模型進入膠囊網絡的尺寸保持一致，之后的參數設置與本文所提模型相同。

3.3.2 門控循環網絡

門控循環單元網絡參數設置與該模型中門控循環單元部分的參數設置基本一致。輸出節點改為10個，代表10種狀態。同樣使用Adam優化器，學習率設置為0.001，損失函數選擇交叉熵損失函數。

3.3.3 卷積神經網絡

卷積神經網絡使用2層卷積層和2層全連接層。第1層卷積層的卷積核尺寸大小為5，深度為256；第2層卷積層的卷積核尺寸大小為3，深度為32。2層池化層的尺寸大小為2，步長為2。2層全連接層的節點數分別為512，10。其余參數設置與門控循環單元保持一致。

3.3.4 深度神經網絡

深度神經網絡使用3層全連接層：第1層的節點個數設置為1 024，第2層的節點個數設置為512，第3層為輸出層，輸出節點為10(即10種狀態)。前2層的激活函數均為ReLU函數，第3層的激活函數為softmax函數。其余參數設置與門控循環單元保持一致。

4 試驗結果分析

4.1 原始信號的診斷結果

使用不同工況下的數據進行試驗，結果見表3,由表可知：各模型的準確率均在96%以上，說明深度學習模型具有極強的故障診斷能力；本文所提GRU+CAPS模型與CAPS，GRU，CNN模型的平均準確率相差無幾，分別只高出0.15%，0.35%，0.06%，平均比DNN模型的準確率高出2.59%。因此，在原始信號下，本文所提模型的優勢并不大。

4.2 噪聲環境下的故障診斷

選用高斯白噪聲作為噪聲干擾，為更好地驗證模型的抗噪能力，在訓練集中使用原始信號，在驗證集和測試集中加入不同信噪比的高斯白噪聲。

2hp工況下0.178 mm內圈故障軸承的時域信號如圖4所示，當信噪比為0時，噪聲污染下的加噪信號與原始信號相比發生了很大變化，從中提取故障特征的難度很大。因此，在噪聲環境下仍能保持較高的準確率對于模型尤為重要。

圖4 內圈故障軸承的原始信號及加噪信號

使用2hp工況下的數據進行試驗，分別在驗證集和測試集中加入0～8 dB的高斯白噪聲信號，不同模型的識別率如圖5所示。

圖5 不同噪聲狀態下各模型的準確率

由圖5可知：噪聲環境下，CNN和DNN的診斷能力明顯低于其他3種模型，在4 dB及以下的噪聲環境中準確率下滑較為嚴重，抗噪能力較弱，GRU的抗噪性則比CNN和DNN好一些；在0～8 dB的噪聲環境下，本文所提模型的準確率在5種模型中最高，特別是當信噪比為0 dB時，GRU，CNN，DNN的準確率均出現了大幅度的下降，而本文所提GRU+CAPS模型的準確率仍可達到94.375%，分別比CAPS，GRU，CNN，DNN高出4.17%，7.81%，28.33%，24.17%。這說明與標量相比，向量能提取到更多的細節特征，在噪聲污染較大的環境中仍能保持較高的準確率，而且將GRU作為CAPS的輸入時能更充分地提取故障特征。

4.3 變負載環境下的故障診斷

0.534 mm內圈故障軸承在不同負載工況下的時域信號如圖6所示，同一故障在不同負載工況下的信號波形也存在很大差異，會導致模型無法區分提取到的特征，從而影響識別準確率，因此對變負載環境下的故障診斷也具有重要意義。

圖6 0.534 mm內圈故障軸承在不同負載工況下的時域信號

分別將0hp+1hp，0hp+2hp，1hp+2hp工況下的數據作為訓練數據，對應的 2hp，1hp，0hp工況下的數據作為驗證和測試數據進行試驗，結果如圖7所示,由圖可知：當負載發生改變時，DNN的準確率下降最快，3種情況下的準確率都不足60%，說明DNN的泛化能力較弱；CNN在變負載工況下具有較高的準確率，但抗噪能力較弱；DNN和CNN這2種模型可能難以適應復雜多變的環境,而其他3種模型在噪聲環境和變負載工況下都具有較高的準確率，尤其是本文所提GRU+CAPS模型，在3種情況下均能達到90%的準確率，平均比CAPS，GRU，CNN高出5.72%，1.93%，4.15%，充分說明該模型具有較好的泛化能力，可以適應一些復雜多變的工作環境。

圖7 不同負載工況下各模型的準確率

4.4 其他數據集下的故障診斷

試驗數據來源于如圖8所示的實驗室電動機數據采集平臺，選用電動機驅動端軸向的振動信號作為試驗數據，信號采樣頻率為10 kHz。故障類型及數據規格見表4。

圖8 數據采集平臺

表4 數據集規格

由于深度學習模型需要大量的數據支撐，當訓練樣本過少時會陷入過擬合狀態，從而影響識別結果，而受各種因素的影響，該數據采集平臺所采集到的數據遠遠不夠。因此，通過重疊采樣的方法進行數據增強，如圖9所示。通過滑動一定的步長得到新的數據，當信號長度一定時，若滑動步長太小，可能會造成大量冗余信息；若滑動步長太大，樣本數量可能依然不足。試驗中設置滑動步長為99，最后得到總的樣本數為8 000，即正常狀態和7種故障狀態的樣本各1 000，對應標簽為0～7。同樣將8 000個數據以7∶2∶1的比例分為訓練集、驗證集和測試集，即包含5 600個訓練樣本、1 600個驗證樣本和800個測試樣本。

圖9 重疊采樣

使用GRU+CAPS，CAPS，GRU，CNN，DNN模型分別在原始狀態和加噪狀態下進行試驗，除所有樣本的訓練次數設置為40外，其余參數設置與之前試驗保持一致。原始狀態下的結果見表5，加噪狀態下的結果如圖10所示。

表5 原始狀態下各模型的準確率

圖10 加噪狀態下不同模型的準確率

由表5和圖10可知：在原始狀態下，GRU+CAPS與CNN模型的準確率相差無幾，比CAPS，GRU和DNN的準確率分別高出0.25%,9.64%和5.60%，充分體現了該模型具有較好的通用性，也從另一方面說明GRU和DNN模型的通用性較弱；在加噪聲狀態下，GRU，CNN，DNN的準確率都出現了大幅度下降，而GRU+CAPS模型在0 dB噪聲環境下的準確率仍能保持在83.07%，在2 dB及以上的噪聲環境下均能保持90%以上的準確率，平均比CAPS，GRU，CNN，DNN的準確率高出0.91%，16.3%，15.1%，9.24%，更加印證了向量能夠提取到更多的細節特征，從而提高模型的準確率。

5 結束語

提出了一種基于門控循環單元的膠囊網絡的滾動軸承故障診斷方法，該算法通過門控循環單元快速提取特征，再經過膠囊網絡提取細節特征并進一步得到分類結果。在對原始數據進行試驗的基礎上，在噪聲環境、變負載環境和其他數據集下均進行了試驗，與CAPS，GRU，CNN，DNN等深度學習模型的對比試驗充分說明了該模型具有較好的抗噪能力、泛化能力和通用性。同時，在研究過程中發現膠囊網絡處理大量數據時所耗費的時間較長，因此如何減少膠囊網絡的訓練時間是下一步研究的重點。