動態寬卷積殘差網絡的軸承故障診斷方法

秦國浩 張 楷,2 丁 昆 黃鋒飛 鄭 慶,2 丁國富,2

1.西南交通大學機械工程學院,成都,6100312.西南交通大學軌道交通運維技術與裝備四川省重點實驗室,成都,610031

0 引言

軸承作為旋轉機械的關鍵零部件之一,其運行狀態直接影響著機械裝備的運行狀態[1]。在長期的運行過程中軸承承受交變載荷和疲勞損傷,易產生磨損、點蝕、剝落等破壞,以致機械設備停機,造成巨大經濟損失和人員傷亡等危害[2]。因此,狀態信號監測和智能診斷對軸承長期健康運行具有重要研究意義和應用價值[3]。

以支持向量機、淺層神經網絡等為代表的傳統機器學習故障診斷方法是將獲取的軸承振動信號進行人工特征提取和篩選,然后通過分類器對軸承健康狀態進行識別。如楊宇等[4]使用經驗模態分解方法提取軸承故障特征進行診斷,完成了對軸承工作狀態和故障類別的有效精確識別,但是此類方法存在依賴專家經驗、非線性特征提取能力差、故障診斷精度不足等問題。隨著計算能力的提高和人工智能的發展,神經網絡因其強大的非線性特征自適應提取能力受到機械故障診斷領域的廣泛研究[5]。例如,侯文擎等[6]在自編碼網絡中引入“稀疏”和“損傷加噪”構成了DAE(denosing autoencoder)網絡,提取的數據特征魯棒性強;趙光權等[7]使用深度置信網絡對原始時域信號直接進行故障提取和健康狀況識別,取得了較高的診斷精度。然而,上述神經網絡局部特征提取能力較弱,無法高效提取數據深層表示特征,制約了其在工業中的應用與發展。卷積神經網絡為解決此問題而設計的局部感知和權值共享能有效減少模型參數量、抑制過擬合。一些學者也針對一維振動信號作為輸入的軸承故障診斷任務進行了適應性改進[8-9]。

近年來,卷積神經網絡已成為軸承故障診斷主要智能算法框架之一,許多學者從不同方面對卷積神經網絡進行了大量改進,以提高其故障診斷精度。在深度學習理論中,通常認為網絡層數的增加有利于深層非線性抽象特征的提取。趙小強等[10]在軸承故障診斷中引入神經網絡Alexnet,并將一維振動信號按橫向插樣構建為二維特征圖以保留軸承故障信息卷積運算時域信號的關聯性;趙宇凱等[11]使用連續的3×3卷積核替代原本的卷積核,再反復疊加卷積層和池化層增加網絡的深度,使得該方法能夠更好地提取滾動軸承振動信號的更深層特征;溫江濤等[12]使用堆疊的一維卷積自編碼的殘差結構,搭建無監督領域自適應的遷移學習網絡模型,較好地實現了源域到目標域特征知識遷移,提高了軸承故障診斷精度。然而,當網絡層數超過一定范圍后,網絡輸入或梯度信息在傳播過程中可能會消失,進而導致模型診斷能力下降甚至失效。深度殘差網絡(deep residual network,ResNet)通過引入跨層連接擬合殘差項有效解決了深度神經網絡深度增加所帶來的梯度消失和梯度爆炸等問題[13]。趙靖等[14]使用殘差注意力卷積神經網絡方法,有效提取源域故障特征,提高了遷移學習方法下的軸承故障診斷精度。除了增加網絡層數,也可將跨層連接擴展至所有層直接相連,以進一步確保網絡中各層之間的最大信息流傳遞[15]。熊鵬等[16]結合動態加權密集連接卷積網絡對不同頻帶信息自適應加權,加強了密集連接卷積網絡對變轉速工況的特征表征能力,提高了變轉速下故障識別率。此外,為使信息感知多樣化,采用多尺度卷積設計是一種可行的方案。如吳靜然等[17]針對噪聲條件下故障識別準確率偏低的問題,提出了一種基于注意力機制的多尺度端到端故障診斷方法;趙小強等[18]也通過引入Inception網絡結構和注意力機制對卷積神經網絡進行改進,使網絡能最大化地提取故障數據中的信息。

以上針對卷積神經網絡及擴展網絡的改進方法在軸承故障診斷中取得了較好的效果,但在實際工程中,往往不能直接對軸承振動進行接觸測量,一些微弱早期故障信號在傳遞過程中易受到相關部件運行噪聲干擾,使得其故障特征淹沒在噪聲中[19]。而現有診斷模型特征提取范圍仍受其卷積核感受野大小的制約,統一尺度的卷積核也難以充分捕捉軸承故障振動信號中的不同沖擊頻率成分,進而阻礙故障診斷準確率的進一步提高。本文提出一種基于動態寬卷積殘差網絡(dynamic wide-kernels residual network,DWResNet)的軸承故障診斷方法,該方法在一維深度殘差網絡基礎上引入寬殘差核結構形成雙通道并行網絡結構,并通過注意力機制對卷積核進行動態加權,自適應地充分提取不同尺度特征信息,以實現強噪聲背景下軸承故障的高精度診斷。

1 卷積神經網絡基礎理論

1.1 卷積層

卷積層是卷積神經網絡中最為核心的組成部分,每一個卷積層都由多個卷積核組合而成。相較于全連接網絡,卷積神經網絡具有數據局部感知和權值參數共享等優勢,能夠有效減少網絡的參數量。在輸入的振動信號數據上,卷積核通過滑動不同的步長來提取相應位置的局部特征。同時,可以使用一個卷積核來提取不同位置的同類局部特征進行權值共享,從而實現卷積網絡中參數量的有效利用。卷積的運算可表示為

(1)

式中,Xl為第l層的輸出;W(c)為第c個卷積核的權重矩陣;*為卷積運算;b為權重偏置。

為了使得卷積層具有不同的感受野,可通過設置不同的卷積核大小來實現。卷積核感受野的計算公式為

(2)

式中,Ll為第l層對應的感受野大小;kl為第l層的卷積核大小;si為第i層的移動步長。

1.2 空洞卷積

空洞卷積就是在標準的卷積中加入空洞,擴大卷積層的感受野,且不失對特征的分辨提取能力。在不增加卷積層層數的前提下,通過設置不同的空洞率,形成不同感受野大小的空洞卷積。

假設原來第l-1層的卷積核大小為kl-1,則卷積核空洞率為d的一層空洞卷積的感受野大小Ll為

Ll=kl-1+(kl-1-1)(d-1)

(3)

假設空洞卷積的步長為s,那么經過空洞卷積后的特征圖大小m的計算公式為

(4)

式中,x為當前層的輸入;p為填充操作的尺寸。

通過設置不同的空洞率d使得原本的卷積核擁有更大的感受野,同時配合填充操作,使得輸出的特征圖大小m能夠與原卷積層輸出的特征圖大小一致,從而保證不同卷積核輸出的特征圖能夠進行信息融合。

對于一維的滾動軸承振動信號,通過設置空洞卷積能夠使得網絡在提取不同特征區間有效信息的同時保證網絡參數量的緩慢增長。

1.3 殘差網絡(ResNet)

ResNet的提出使得在網絡深度增加的同時獲得更高的收益成為可能。ResNet不是直接學習多層堆疊的函數擬合的直接映射,而是學習它們的殘差映射。圖1展示了一個標準的殘差結構(x表示輸入,σ表示激活函數),通過學習F(x)函數的殘差映射而非直接映射F(x)+x來有效減少網絡由于深度增加帶來的梯度問題以及對直接映射的過擬合問題。

圖1 標準的殘差塊Fig.1 Residual block

ResNet模型的核心部分由許多基本的殘差塊堆疊而成,如圖2所示。每一個基本殘差塊中,均由兩個卷積層、兩個ReLU[20]激活函數、兩個批量正則化(batch normalization,BN)[21]和一個恒等映射連接而成。當前后通道數發生改變時,通過一個圖2b所示的卷積層來適配改變的通道數。其中,采用BN層的目的是為了加快網絡收斂,提高網絡的泛化性,它的計算公式如下[21]:

(5)

式中,E[x]為x的期望;Var[x]為x的方差;γ、β均為可訓練的超參數;ε為一個趨近于0的常量。

ReLU是常見的激活函數,其主要作用是減小網絡計算量,緩解過擬合,其計算公式如下:

(6)

通過上述殘差連接的結構可使得網絡向更深的層次發展,同時也能一定程度地緩解網絡的退化、梯度消失和梯度爆炸等問題。

2 本文所提方法

為了使得網絡更易于提取振動信號的特征信息,減少信號強噪聲干擾所帶來的影響,本文提出了動態寬卷積殘差網絡對軸承振動信號進行學習。具體來說,本文首先在殘差網絡的基礎上,對殘差塊的每層卷積進行改進,然后引入可選擇核網絡(selective kernel networks,SKNet)[22]中可選擇性操作進行改進,使得網絡能夠在3×1的卷積核和寬核的空洞卷積之間進行自適應的選擇,最后按照不同的權重融合兩個不同卷積核的輸出特征作為每層的輸出特征進行學習。

2.1 動態寬卷積殘差網絡(DWResNet)

本文所提方法的單層結構如圖3所示,對于任意一個給定的特征圖輸入X(X∈RC×H×W,C為輸入數據的維度,H、W分別為輸入數據的高和寬),將其同時輸入到兩個卷積核大小分別為3×1和空洞率d為14的3×1空洞卷積中,使其在擴大感受野的同時減少參數量的增長。在經過兩個卷積變換之后得到兩個特征圖:

UA=FA(X)

(7)

UB=FB(X)

(8)

其中,F為對應的卷積變換函數。然后,將得到的兩個卷積核大小不同(其中一個為寬卷積核)的特征圖UA和UB拼接進行信息融合,得到的融合特征表示為

U=Concat(UA,UB)

(9)

類似于SE模塊[23]的結構,將得到的融合特征通過全局平均池化(global average pooling,GAP)操作在特征圖上進行低維特征融合,以保留特征圖的主要特征,同時減小網絡的計算量,防止網絡的過擬合。該過程的計算公式為

(10)

由于輸入為一維數據,則高度H為1。

然后再通過一個全連接層(fully connected-layers,FC)將其以r的壓縮率壓縮,使其成為具有全局感受野的實數向量。向量的長度為C/r,S為GAP操作后的輸出,壓縮操作后的輸出為

(11)

式中,B為批量正則化層;W為全連接層權重。

在壓縮后,通過兩個全連接層分別將壓縮的輸出擴張為原始維度(ZA和ZB),然后通過Softmax操作進行權值歸一化,得到不同卷積核和不同通道的權值A和B:

(12)

(13)

根據這樣兩個不同的權重值,可自適應地選擇不同空間尺度上的信息。將歸一化之后的不同的權重乘以對應的特征圖,可得到最終加權之后由網絡自適應選擇的輸出:

Y=AUA+BUB=A′+B′

(14)

本文所提方法中的每個殘差塊的卷積層都使用了可選擇的寬卷積核,使得網絡能夠在提取特征的每一個階段都能夠自適應地選擇合適的卷積核進行卷積,并且通過寬卷積核的壓縮擴張處理達到信號降噪的功能。此外,還修改了網絡中的通道數為8、16、32、64,以減小網絡的參數量,提高網絡的訓練效率。

2.2 所提網絡模型的結構

圖4展示了所提模型的整體結構。該模型以18層的殘差網絡為基礎,對其中所有殘差塊中的卷積層進行改進,整個網絡由第一層的卷積、16個改進的卷積層和一個全連接層組成,其具體結構參數如表1所示。

圖4 所提方法網絡模型結構Fig.4 Structure diagram of the proposed method network

每個改進卷積層的結構如圖3所示。在數據輸入網絡時,首先對數據進行卷積操作,再輸入到后續網絡層中。后續網絡層按照殘差連接的方式分為兩種不同的殘差塊。在輸入輸出特征通道不改變時,使用殘差塊1依次經過卷積層、批量正則化、激活函數、卷積層和批量正則化后直接與原始輸入特征進行連接。在輸入輸出通道改變時,使用殘差塊2經過幾個與殘差塊1相同的操作之后,將輸入特征進行卷積,以匹配改變的通道數。最后得到提取的特征,輸入全局平均池化層進行特征信息的融合,經過全連接層輸出最后分類結果。

2.3 所提方法故障診斷流程

本文所提方法的軸承故障診斷具體流程如圖5所示。軸承故障診斷可大致分為4個步驟:①利用加速度傳感器采集軸承試驗臺數據,為數據集添加不同信噪比的高斯白噪聲以模擬噪聲輸入,并劃分構建相應的訓練集和測試集;②構建DWResNet,并將所有訓練樣本進行預處理,按批量輸入到網絡中進行模型訓練;③在訓練的過程中,通過交叉熵損失函數進行反向傳播,對網絡權重參數進行優化迭代;④將測試數據集輸入訓練完成的網絡中,輸出滾動軸承故障診斷結果。

圖5 所提方法的故障診斷流程Fig.5 Fault diagnosis process of the proposed method

3 實驗驗證

3.1 實驗數據集介紹

3.1.1實驗一

本文采用德國帕德博恩大學(PBU)軸承數據集[24]對所提方法進行驗證。該試驗臺的詳細設置請參考文獻[24]。試驗臺設置如圖6所示,所有測試軸承的型號均為6203,采樣頻率為64 kHz。

圖6 帕德博恩大學軸承試驗臺[24]Fig.6 The test rig of PBU[24]

本實驗中使用的數據集的具體工況設置如表2所示,本數據集包含了5種故障,每個故障類型下的數據都處理為表3所示數據。當軸承的損傷深度為D∈(0,2] mm時,設置為損傷等級1;當軸承的損傷深度D∈(2.0,4.5] mm時,設置為損傷等級2。

表2 帕德博恩大學軸承數據所選工況參數

表3 帕德博恩大學軸承數據詳細信息

3.1.2實驗二

為驗證本文方法的有效性,本文還采用了動力傳動故障診斷綜合實驗臺(drivetrain diagnostic simulator,DDS)[25]所采集的數據進行實驗驗證。實驗臺設置如圖7所示,在平行齒輪箱軸承中,設定電機固定頻率為20 Hz,采樣頻率為12.8 kHz。每類故障工況重復實驗4次,每次采集各方向的振動加速度信號共204 800個點。本數據集包含了內圈、外圈、滾動體故障和復合故障等4種故障類型。

圖7 動力傳動故障診斷綜合實驗臺[25]Fig.7 Power transmission fault diagnosis comprehensive experimental bench[25]

3.2 實驗環境及模型參數設置

本實驗中,樣本長度設置為4096,通過滑窗的方式截取樣本。在實驗一中,滑窗步長與樣本長度相等,因此樣本之間無重疊。其中,每類樣本1200條,并按1∶1的比例劃分訓練集和測試集,詳細信息見表3。實驗二中,樣本長度也設置為4096,通過滑窗截取了每類樣本600條,滑窗步長為582,并按1∶1的比例劃分訓練集和測試集。

分別在信噪比(signal to noise ratio,SNR)為-4,-2,0,2,4 dB的高斯白噪聲以及無人為添加噪聲情況下,對卷積神經網絡(CNN)[26]、VGG-16[27]、首層寬卷積深度神經網絡(WDCNN)[28]、ResNet、首層寬卷積的殘差網絡(WResNet)和本文所提方法進行了對比實驗,每組實驗的超參數設置相同,但在實驗一、實驗二中設置初始學習率分別為0.01和0.1。并且為保證訓練精度和損失函數收斂,在使用CNN和VGG-16方法時設置學習率為固定值,詳情見表4,每組實驗重復10次以保證實驗結果的準確性。同時,針對不同大小的寬卷積核,設置了空洞率d分別為1、2、14、26和38。信噪比的計算公式如下:

(15)

式中,PSignal、PNoise分別為原始信號和噪聲的能量。

以正常狀況為例,經過加噪后的部分信號如圖8所示。實驗運行環境為Windows系統和Intel(R) Xeon(R) Silver 4210R CPU @2.40GHz處理器,使用了基于Python(3.9)的Pytorch 深度學習框架構建所提方法和對比方法模型,并采用NVIDIA GeForce RTX 3090 GPU進行訓練加速。

(a)無人為添加噪聲 (b)RSNR=4 dB

3.3 實驗結果分析

3.3.1實驗一結果分析

在實驗一中,根據實驗結果得到表5(表中“無”表示無人為添加噪聲)。由表5可知,雖然在沒有人為添加噪聲的情況下,不同方法均能保持較高的診斷準確率,但是隨著噪聲干擾程度的增加,不同方法的診斷準確率也隨之降低,說明了強噪聲干擾對模型的抗噪性要求較高,例如CNN的診斷準確率在RSNR=-4 dB的情況下比無噪聲情況下降低了11.29個百分點。區別于其他的方法,本文所提方法僅降低了1.99個百分點,在各個不同噪聲情況下,所提方法能夠準確地提取出滾動軸承的振動信號特征,具有更高的穩定性。

表5 實驗一診斷準確率結果

對比CNN、VGG-16和ResNet在同一噪聲下的診斷精度可以看出,網絡深度的增加對滾動軸承故障特征的提取能力和穩定性均有一定提高。當然,層數并非越深越好,超過一定數量后將造成梯度爆炸或梯度消失等問題。對比CNN、WDCNN和WResNet可以發現,卷積核寬度的增大對網絡容噪具有較好的效果。同樣地,需要選擇適當的網絡寬度和網絡深度,使得方法能夠在軸承故障診斷上有更有效的結果。

由對比實驗結果可知,本文提出方法具有較優的容噪能力,能夠在噪聲環境下擁有顯著提高的滾動軸承故障分類能力和模型的穩定性。本文所提方法在不同噪聲水平情況下均有較好的診斷準確率,特別是在RSNR=-4 dB的強噪聲干擾下,相較于CNN、WDCNN、VGG-16、ResNet和WResNet,診斷準確率分別提高了17.88、3.65、2.16、2.05和3.35個百分點。同時,本文所提方法在不同噪聲干擾下的診斷標準差相較于其他方法均較小,表示它在強噪聲下具有較高的模型穩定性。

為了探究強噪聲信號對模型分類邊界形成的影響,以RSNR=-4 dB為例,繪制了本文所提方法在網絡不同階段所提取故障特征的t-SNE可視化聚類圖,如圖9所示。由圖9不難看出,輸入的強噪聲原始信號呈現極為嚴重的混淆、重疊現象,導致難以直接聚類辨識。隨著數據經過更深層的階段2、3、4,網絡對不同健康狀況的分類邊界逐漸清晰。階段4時,同類故障特征的類內聚集程度顯著提高,模型的分類邊界也最為明顯。這說明經過多個階段的模型訓練,所提方法能夠有效提取強噪聲下不同類別的故障特征,較小冗余噪聲的干擾,從而提高對目標軸承的診斷精度。

(a)輸入 (b)階段2輸出

同時,為進一步展示不同方法對各個健康狀況的詳細辨識能力,圖10展示了RSNR=-4 dB下不同方法辨識結果的混淆矩陣。圖10顯示,不同方法在辨識分類的過程中對NC和OR2兩類健康狀況是較為容易辨識的,但是對OR1、IR1和IR2三類故障難以有效辨別,分析其可能的原因是外圈故障和內圈故障特征相似,且兩個不同故障等級的內圈故障特征相似。本文所提出的方法雖然也存在上述情況,但是相較于其他方法,本文方法對難診斷類別的診斷準確率最高,說明了所提方法能夠有效提高不同故障類型中判別性特征的辨識能力,從而提高診斷準確率。

(a)CNN (b)WDCNN

為了進一步分析不同空洞率對模型診斷效果的影響,以強噪聲RSNR=-4 dB為例,分別設置空洞率d為1、2、14、26和38,并進行相應的故障診斷實驗,結果如圖11所示。由圖11不難看出,所提方法在d取14時,得到了高達98%的診斷準確率,這說明本文所選超參數較為合適,能使模型具有較高的噪聲魯棒性。由于空洞率的大小直接決定了感受野的大小,這也印證了單一地提高空洞率對噪聲工況下軸承故障診斷準確率的提高并不是絕對的,需要選擇合適的空洞率對數據進行更為全面的特征提取,以獲得更豐富的分類辨識信息,進而提高軸承故障診斷的準確率。

圖11 RSNR=-4 dB下不同空洞率下所提方法診斷準確率Fig.11 Diagnostic accuracy of the proposed method at RSNR=-4dB for different d

3.3.2實驗二結果分析

根據實驗二實驗結果繪制相應的精度直方圖,見圖12,可以看出,在各個不同等級的RSNR下,本文方法相較于其他方法精度均有一定程度的提高,并且具有較好的穩定性。RSNR=-4 dB時的診斷準確率相較于無添加噪聲時,在各個方法下分別降低16.26、8.16、16.91、8.84、9.53和5.39個百分點,由此可見本文所提方法的診斷效果受到噪聲的影響最小,印證了本文所提方法對強噪聲的魯棒性。并且本文所提方法在RSNR=-4 dB時的標準差絕對值相較于其他方法最小,驗證了本文所提方法的穩定性。

圖12 實驗二結果直方圖Fig.12 Histograms of experiment 2 results

4 結論

針對滾動軸承在強噪聲干擾下故障診斷提取特征能力較差、辨識能力不足的問題,提出了一種基于動態寬卷積殘差網絡的軸承故障診斷方法。該方法通過可選擇的寬卷積層對不同噪聲干擾下的滾動軸承監測信號進行故障特征提取,通過生成的自適應權重自動地為網絡選擇使用卷積核,在網絡深度加深的同時保證了網絡的抗噪能力。

實驗結果表明,相較于CNN、WDCNN、VGG-16、ResNet和WResNet等網絡,本文所提方法具有更高的診斷準確率。在無人為添加噪聲情況下,本文所提方法在實驗一中能夠取得99.99%的診斷準確率;而在信噪比為-4,-2,0,2,4 dB下,該方法依然可取得99.28%的平均準確率。并且實驗二的結果也印證了本文所提方法的有效性。因此,本文所提方法具有較高的辨識能力、抗噪能力和泛化能力,可為實際工業強噪聲干擾條件下的軸承故障診斷提供一定的參考借鑒。