基于格拉姆角場和遷移深度殘差神經網絡的滾動軸承故障診斷

古瑩奎， 吳 寬， 李 成

(江西理工大學機電工程學院，江西 贛州 341000)

滾動軸承作為機械裝備的關鍵零部件之一，其運行狀態的好壞直接影響到整個裝備的性能。由于機械裝備本身結構復雜且服役環境惡劣，滾動軸承經常發生各種故障，造成直接或間接的經濟損失。因此，對滾動軸承進行實時狀態監測及故障診斷是非常有必要的[1]。

傳統故障診斷在特征提取階段，主要采用時域、頻域或時頻域等信號處理方法對測得的信號進行分析，提取相應狀態的故障特征[2-4]。在模式識別階段，利用提取到的故障特征對相應的機器學習模型進行訓練，如決策樹、支持向量機(support vector machine, SVM)和人工神經網絡等[5-7]。這些方法已取得了許多成果，但也有著不可忽視的缺陷。在特征提取階段，傳統故障診斷方法需要大量相關知識和經驗，不同類型的振動信號往往適用的處理方法不同。此外，提取到的特征通常適用于特定工況，很難找到一種普適性方法[8]。在故障模式識別階段，機器學習模型通常只被用作分類器，不能挖掘到更深層次的信息。

深度學習作為一種相對較新且發展迅猛的機器學習方法[9]，能夠有效克服傳統故障診斷方法在特征提取階段的上述缺點，并在故障診斷領域得到廣泛應用。目前已有不同種類的深度學習方法，如長短時記憶網絡、深度置信網絡和稀疏自編碼器(sparse autoencoder,SAE)等[10-12]，其中最具代表性的為卷積神經網絡(convolutional neural network，CNN)[13]。由于CNN在圖像處理領域具有天然的優勢，因此將信號編碼為二維圖像輸入CNN進行故障診斷是近幾年的研究熱點。肖雄等[14]提出了一種基于灰度圖數據增強和CNN的故障診斷方法，將數據增強后的灰度圖輸入CNN進行故障診斷。吳晨芳等[15]提出將時頻域信號轉換為灰度圖，利用改進的LeNet-5對灰度圖進行特征提取。以上方法雖取得了不錯的診斷精度，但也存在一定的不足。

灰度圖編碼方法一定程度上能反映振動信號的特征，但在編碼過程中會造成振動信號時間信息的缺失，從而造成故障特征信息的缺失。龐新宇等[16-17]提出一種格拉姆角場(Gramian angular fields，GAF)編碼振動信號和CNN結合的行星齒輪箱故障診斷方法，將振動信號編碼成格拉姆角差場(Gramian angular difference fields，GADF)和格拉姆角和場(Gramian angular summation fields，GASF)的同時，保留了振動信號的時間信息，提高了行星齒輪箱故障診斷的精度。劉紅軍等[18]提出GADF與改進的CNN相結合的故障診斷方法，使用全局均值池化層代替傳統CNN的全連接層，取得了較高的診斷精度。但這些方法也存在一些不足，例如將GADF輸入CNN進行特征提取時，CNN網絡需要人為地調整網絡層數和卷積核大小，且訓練過程中容易出現過擬合現象。

深度殘差神經網絡(deep residual neural network，ResNet)的提出，較好地解決了上述問題[19]。ResNet通過在輸入和輸出之間添加一條直接連接的Skip Connection，可以讓神經網絡具有自適應退化到淺層網絡的能力，同時也使得梯度彌散和梯度爆炸等現象也得到了明顯改善。但ResNet在訓練過程中，由于其參數量多，收斂速度相對較慢，容易陷入局部最優解。為解決此類問題，Shao等[20]提出了一種利用遷移學習來加速神經網絡訓練的方法，先預訓練好的網絡參數提取淺層特征，再使用不同故障模式下的時頻圖像對網絡參數進行訓練微調，從而實現更快速和更高精度的故障診斷。

本文將遷移學習方法引入滾動軸承故障診斷，提出一種基于GAF圖像編碼技術與遷移深度殘差神經網絡(transfer deep residual neural network，TRN)相結合的故障診斷方法，將振動信號轉化為GADF和GASF兩種圖像，通過基于遷移模型的ResNet18提取不同故障模式下對應的GAF圖像中的特征，并加以分類，繼而達到故障診斷的目的。

1 GAF圖像編碼與遷移深度殘差神經網絡

1.1 GAF圖像編碼

(1)

(2)

式中,N為正則化極坐標系統張成空間的常數因子。

當α∈[0,π]時，cos(α)為單調的，隨著時間的推移，放縮之后的數值映射到極坐標系中有且僅有一個結果，這種做法相較于笛卡爾坐標系的好處在于，通過極坐標系里的半徑R，保持了絕對的時間關系，編碼過程如圖1所示。

圖1 GAF圖像編碼示意圖Fig.1 Schematic diagram of GAF image encoding

在不同目標區間內放縮的數據具有不同的角度邊界。將放縮后的時間序列映射到極坐標系之后，通過考慮每個點之間角度差或角度和的值來反映不同時間間隔內的時間相關性，GADF及GASF的定義如下[21]

通過上述變換可將給定時間序列轉化為沿對角線對稱的二維特征圖像，并保留時間序列內的時間相關特征。

1.2 基于遷移學習的深度殘差神經網絡

ResNet通過在各個卷積層的輸入和輸出之間添加Skip Connection實現網絡退化機制，輸入x通過兩個卷積層，得到特征變換輸出F(x)，然后與輸入x進行對應元素相加，得到最終輸出H(x)

H(x)=F(x)+x

(5)

H(x)稱為殘差模塊，被Skip Connection包裹的卷積神經網絡需要學習的映射為F(x)=H(x)-x，故被稱為殘差神經網絡。

在卷積層中，使用尺度明顯小于輸入特征圖尺度的卷積核對其進行局部特征提取，建立兩個相鄰卷積層之間的稀疏連通性。卷積層計算如下

(6)

在卷積層中，輸出特征圖的每個通道對應一個卷積核，不同通道對應不同的卷積核。

在連接最后的輸出層時，需要先經過一個全局均值池化層，以大幅減少參數數量，從而減少過擬合現象的產生，提高網絡模型的整體泛化能力。全局均值池化主要是計算輸入特征圖的每個通道的平均值，表示為

(7)

在全連接輸出層，使用Softmax函數作為分類器，將多個神經元的輸出映射到[0,1]內，并保證概率之和為1。假設類別總數為K，Softmax函數表示為

(8)

式中：xi為輸出層中第i個神經單元的輸出特征；qj為輸入樣本x屬于第j類的預測概率。

使用交叉熵損失函數評估預測值和真實值之間的誤差，定義為

(9)

式中：p(x)與q(x)分別為樣本x的真實概率分布和預測概率分布；pj(x)為屬于第j類輸入樣本x的預測概率。

采用故障識別精度Acc對模型進行評估，定義為[22]

(10)

遷移學習是深度學習的一種策略，通過將從源域上學習到的知識遷移到目標域上，提高在目標域上的泛化性能[23]。對于神經網絡模型而言，一般認為網絡模型是逐層提取特征，隨著網絡層數的加深，對抽象特征的提取能力越強。對于相似的任務，假設特征提取方法相似，則網絡前端訓練好的網絡層可以遷移到新的分類任務中使用，而網絡后端可以依據新的分類任務進行具體設定。

基于模型的遷移學習如圖2所示，首先訓練左端任務A，將在任務A中學習到的知識，遷移到任務B時，能夠調用任務A中網絡模型前端數層的網絡參數，并將后面的數層替換為新的分類子網絡后再進行網絡的訓練。通過遷移任務A前端數層的網絡參數到任務B的神經網絡模型中，可以使用更少的訓練樣本，大幅度減少訓練代價，提高模型的泛化能力。對于圖片分類來說，在ImageNet數據集上進行的預訓練模型是一個較好的選擇。

圖2 基于模型的遷移學習Fig.2 Model-based transfer learning

TRN是一種基于模型遷移的ResNet18網絡。以采集到的振動信號為例，將其編碼為GAF圖并做為網絡輸入，構建TRN模型，如圖3所示。主要由4個殘差模塊組組成，分別以不同顏色加以區別。每個殘差模塊組包含兩個殘差模塊，即包含了17個卷積層和一個全連接層，模型結構參數如表1所示。每個殘差模塊的第一個卷積層進行批量歸一化操作，并采用ReLU函數作為激活函數，且每個殘差模塊組的第一個卷積層和TRN結構中的第一個卷積層進行卷積運算時，步長為2，其余卷積層步長均為1。全連接層神經元個數為512，經過Softmax函數之后對應有10個輸出。網絡訓練損失函數使用交叉熵損失函數，優化算法選擇Adam優化算法。將ResNet18模型在ImageNet上進行訓練，將訓練完備的ResNet18網絡全連接層之前的網絡參數遷移至故障信號GAF編碼的特征圖像分類網絡中，繼而達到故障診斷的目的。

表1 TRN模型結構參數Tab.1 Structural parameters of TRN model

圖3 TRN網絡模型結構Fig.3 TRN network model structure

2 滾動軸承故障診斷試驗與分析

2.1 數據采集和GAF圖像編碼

軸承故障試驗臺如圖4所示，試驗選用6205型深溝球軸承，軸承故障位置設置為內圈、外圈和滾動體，故障類型均為點蝕故障；故障等級分別為輕微點蝕、中度點蝕和重度點蝕3種級別，共計9種故障狀態，如圖5所示。

圖4 軸承故障試驗臺Fig.4 Bearing fault test bench

(a) 滾動體點蝕1級

(b) 滾動體點蝕2級

(c) 滾動體點蝕3級

(d) 內圈點蝕1級

(e) 內圈點蝕2級

(f) 內圈點蝕3級

(g) 外圈點蝕1級

(h) 外圈點蝕2級

(i) 外圈點蝕3級圖5 9種故障類型軸承Fig.5 9 types of fault bearings

使用CA-YD-187T02壓電加速度傳感器進行振動信號采集，采樣頻率設置為20 480 Hz，轉速為1 500 r/min。將采集到的振動信號按順序截取為長度相同的時間序列，每個時間序列為500個數據點，每類故障狀態構造240個時間序列。

采用GAF圖像編碼，將每個時間序列轉化成為相應的GADF和GASF圖。采用One-hot編碼方式為9種故障狀態和正常狀態的GAF編碼圖像進行標注，并按照8∶2的比例劃分訓練集和測試集。

2.2 GAF-TRN模型構建及故障診斷流程

將GADF和GASF圖像進行預處理，調整尺寸為224×224大小作為模型輸入到TRN進行分類診斷，TRN模型結構如圖3所示。將振動信號編碼為GADF和GASF兩種圖像的結果如圖6所示。

(a) GADF編碼圖像

(b) GASF編碼圖像 ①滾動體點蝕1級;②滾動體點蝕2級;③滾動體點蝕3級;④內圈點蝕1級;⑤內圈點蝕2級;⑥內圈點蝕3級;⑦正常軸承;⑧外圈點蝕1級;⑨外圈點蝕2級;⑩外圈點蝕3級。圖6 GADF和GASF對軸承不同故障狀態信號編碼圖Fig.6 GADF and GASF coding diagram for different fault state signals of bearings

基于GAF-TRN的故障診斷流程如圖7所示。步驟如下。

圖7 GAF-TRN故障診斷流程圖Fig.7 GAF-TRN fault diagnosis flow chart

步驟1對采集到的一維振動信號進行歸一化處理，然后均等分割成若干片段，每個片段按照GAF編碼為GADF或GASF二維圖像，并按比例劃分訓練集和測試集。

步驟2將圖像輸入TRN模型中的ResNet網絡中，并將在ImageNet上訓練好的ResNet18網絡參數遷移至GAF的ResNet網絡中。

步驟3提取圖片特征信息，獲得不同故障狀態下的特征信息，并更新遷移后的網絡參數。

步驟4通過Softmax分類器建立與其相應故障類型的映射關系，繼而實現故障診斷。

2.3 GADF-TRN和GASF-TRN對比試驗

分別將GADF和GASF兩種類型的圖像作為TRN的輸入，進行對比試驗。文中對比試驗的運行環境均為PyCharm，模型均由PyTorch深度學習框架實現，并在Intel core i5-9300H處理器和GTX1650顯卡的計算機上運行。

經過40次迭代后，得到的準確率曲線和損失曲線，如圖8所示。由圖8可知，GADF-TRN在訓練集上的準確率達到了100%，在測試集上的準確率穩定在99.30%。反觀GASF-TRN在訓練集上準確率也達到了100%，但是訓練過程沒有GADF-TRN穩定，有較明顯的波動，更重要的是在測試集上的識別準確率為96.48%，明顯低于GADF-TRN模型。由此可知，GADF編碼圖相較于GASF編碼圖更能凸顯不同故障狀態之間的差異性，GADF-TRN在診斷滾動軸承點蝕故障方面較GASF-TRN效果更為準確，且該模型具有更為良好的魯棒性。

(a) 準確率

(b) 損失曲線圖8 GADF和GASF迭代40次后的準確率和損失曲線Fig.8 Accuracy of recognition and loss curves of GADF and GASF after 40 iterations

2.4 對比分析

2.4.1 與傳統圖像編碼方法對比

灰度特征圖編碼是一種常用的一維信號轉化為二維圖像的編碼方式。為驗證本文提出的GADF編碼的優越性，現將兩種編碼方法進行對比分析。對于灰度特征圖編碼而言，也是一個數據映射的過程。取灰度等級為256級，樣本點數為M，灰度圖尺寸為w×h，其中M=w×h。每個樣本點對應像素點的灰度值為255×(ci-cmin)/(cmax-cmin)，其中c為每個樣本點的振幅大小。根據該方法，設置每個樣本長度為484，編碼出的灰度圖尺寸為22×22，每種故障模式生成240張灰度圖，同樣按照8∶2的比例劃分訓練集和測試集。灰度圖編碼結果與本文所提方法的對比結果,如圖9所示。

(a) 灰度圖編碼

(b) 兩種編碼方法的準確率和損失曲線圖9 灰度圖編碼特征圖和兩種編碼方法對比結果Fig.9 Grayscale map coding feature map and comparison results of two coding methods

由圖9可以看出，基于灰度圖編碼的診斷精度為94.65%，明顯低于GADF編碼方式的診斷精度。究其原因在于，灰度圖編碼忽略了時間序列內部樣本點之間的時間相關性，而GADF編碼方式的優點在于表征數據特征的同時，保留了樣本點之間的時間依賴性。

2.4.2 不同診斷方法與GADF-TRN的對比

采用GADF圖像作為輸入，訓練集和測試集的比例劃分仍為8∶2，增加未經遷移的ResNet18網絡、卷積神經網絡、稀疏自編碼器、支持向量機和BP(back propagation)神經網絡5種方法做對比試驗，每種方法進行10次試驗，并對所得結果取平均值并計算相應的標準差。試驗結果如圖10、表2所示。

圖10 6種方法在測試集上的識別率對比Fig.10 Comparison of recognition rates of the 6 methods on the test set

表2給出了6種模型訓練集和測試集的識別率及其波動范圍和標準差。由分析可知，GADF-TRN在測試集上的識別率最高，達到99.30%，其識別率波動范圍僅為0.17%，且收斂速度較快，識別精度具有良好的魯棒性；GADF-ResNet18識別精度次于GADF-TRN，為96.67%，但整體收斂速度慢于GADF-TRN，原因在于GADF-TRN利用遷移模型參數的方法，從一定程度上緩解了模型誤差反向傳播時陷入局部最優解的情況，同時通過遷移模型參數的方法，避免了從零開始訓練，提高了優化函數的收斂速度，有效縮減訓練時間。

表2 6種模型的對比結果Tab.2 Comparison results of the 6 models

對于GADF-CNN模型，在本試驗訓練集上達到了100%的識別精度，但是在測試集進行驗證時，識別精度僅為93.96%，出現了輕微程度的過擬合，原因在于故障特征較為簡單，所使用的CNN模型相對于要提取的特征來講過于復雜。本文提出的GADF-TRN方法，是基于殘差網絡中殘差模塊的原理，使得模型具有回退機制，可以自適應地退化為層數較淺的神經網絡，相較于網絡層數固定的CNN，明顯改善了過擬合現象造成的影響；對比仝鈺等和劉紅軍等的研究中的GADF-CNN模型，GADF-TRN具有更快的收斂速度和更少的過擬合現象，在迭代16～18個回合時就趨于完全收斂，而GADF-CNN模型則需要迭代40個回合時才開始收斂，GADF-CNN需要精調參數減少過擬合現象帶來的影響；GADF-TRN則不需要人為調整網絡結構參數就能達到減少過擬合現象的效果；至于GADF-SAE、GADF-SVM和GADF-BP 3種方法，識別率分別為85.62%，70.13%和67.02%，識別精度整體偏低，收斂速度緩慢，識別率波動范圍較大，且具有相對較差的魯棒性。

2.4.3 與其他遷移學習方法的對比

采用4種常見的遷移學習方法與TRN進行對比試驗，將同樣在ImageNet數據集上訓練完備的VGG16，VGG19，ResNet34和ResNet50網絡的特征提取層參數分別遷移至以不同故障模式下GADF圖像作為輸入的相應網絡中，然后進行訓練，每種方法進行10次試驗并取訓練結果的平均值。對比試驗結果如表3所示。

表3 不同遷移學習方法下的對比結果Tab.3 Comparison results under different transfer learning methods

由表3可知，以上5種基于遷移學習的方法中，VGG16和VGG19在訓練集上能夠得到很高的準確率，但是在測試集上分別得到89.66%和78.83%兩個較低的準確率，原因在于模型的層數深，導致模型的特征提取能力遠高于數據的復雜程度，出現了過擬合現象。TRN，ResNet34和ResNet50由于網絡結構中都含有跳躍短接，能夠自適應的將深層網絡回退至較淺層的網絡，減少了過擬合現象的影響，而且從訓練集準確率和測試集準確率來看，這3種網絡的診斷精度均在99.00%以上。從網絡參數量上來看，VGG16和VGG19參數量比另外3種網絡高出10倍以上，加大了模型的訓練困難程度。在TRN，ResNet34和ResNet50 3種網絡中，ResNet34在測試集上的準確率最高，為99.42%，比TRN在測試集上的準確率僅高0.12%，但ResNet34網絡的參數量幾乎是TRN網絡參數量的2倍，導致模型訓練時的計算量成倍增加。綜上所述，GADF-TRN相比其他遷移學習方法，在保證高精度的同時，具有更少的計算量，加快了模型的訓練速度，降低了訓練成本。

2.4.4 結果分析

為進一步探究GADF-TRN診斷結果內部的詳細分類情況，采用混淆矩陣和t-分布隨機鄰域嵌入(t-distributed stochastic neighbor embedding, t-SNE)來表征具體分類情況，如圖11所示。

(a) 混淆矩陣

(b) t-SNE降維圖圖11 混淆矩陣和t-SNE降維圖Fig.11 Confusion matrix and t-SNE dimensionality reduction map

從混淆矩陣可以明顯看出，GADF-TRN對于滾動體2級和3級點蝕、內圈2級和3級點蝕以及外圈2級和3級點蝕的識別準確率均達到了100%，對滾動體1級點蝕、內圈1級點蝕、外圈1級點蝕和無故障軸承的診斷精度雖未達到100%，但也均在97.40%以上。同樣，通過t-SNE對提取到的高維特征映射到二維非線性可分空間進行降維分析，可以明顯看出，每種故障狀態均有良好的區分。

3 結 論

提出了一種GADF-TRN的故障診斷方法，以提高針對滾動軸承點蝕類型故障的識別精度。通過滾動軸承的試驗對本文提出的方法進行驗證，并與其他診斷方法之間進行對比分析，得出以下結論：

(1) 通過GAF對信號進行編碼，相較于傳統編碼方法，保留了不同時間間隔之間的相關性，可以將故障特征更加充分地表征到相應的二維圖像。同時利用殘差神經網絡的自適應回退機制減少過擬合現象帶來的影響，提高診斷精度。

(2) GADF編碼對原始信號的表征能力略強于GASF編碼，同時GADF與通過遷移模型參數得到的TRN結合，提高了收斂速度，避免陷入局部最優解，減少了訓練代價，從而進一步提高了故障診斷的精度和效率。結果表明GADF-TRN在軸承故障診斷中具有良好的可行性和魯棒性。

(3) 相較于其他遷移學習方法，GADF-TRN在保證高診斷精度的同時，減少了模型參數量和模型訓練時的計算量，具有更快的訓練速度。