基于卷積神經網絡的領域適配模型的多工況遷移的軸承故障診斷

錢思宇， 秦東晨， 陳江義， 袁 峰

(鄭州大學 機械與動力工程學院，鄭州 450001)

滾動軸承是旋轉機械中常用的零部件之一。絕大多數機電驅動系統和電機故障是由滾動軸承損壞引起的，這可能導致設備停機造成經濟損失或者造成嚴重的安全事故。因此滾動軸承故障檢測變得尤為重要。

軸承振動信號復雜，且軸承在不同運轉工況下，相同故障會采集到不同的振動信號。近幾年，深度學習方法大量應用于軸承故障診斷領域，然而單一樣本(源域)訓練出來的模型，只能對源域的數據做出良好判定，很難在其他數據領域也做出良好的故障判定，模型無法在其他工作環境運行。Lu等[1]提出了基于神經網絡的領域自適應故障診斷。Pan等[2]提出通過最小化MMD(maximum mean discrepancy)來找出領域共享特征技術。Long等[3]設計一個子空間學習框架，整合MMD到深度神經網絡。Wang等[4]使用多種變負載工況信號作為卷積模型輸入，訓練過程中利用領域鑒別器進行權重調整，實現了變負載環境下的軸承故障診斷。Wen等[5]使用稀疏自動編碼器結合MMD，提出DTL(deep transfer learning)模型應用于故障診斷。領域遷移在很多領域可用找到應用，但在故障診斷的工況遷移自適應研究很少。

針對上面的問題，提出一種適應于工況遷移的卷積遷移模型。其特點：①實現從端到端的軸承故障診斷模式，完全不需要對數據進行相關信號處理；②模型相較于其他的模型結構簡單，參數規模小，易于訓練；③模型在不同工況遷移環境下表現出極好的診斷性能。

1 領域自適應

領域自適應方法[6]的實施流程是提供源域有標簽樣本和少量目標域無標簽樣本進行訓練，生成源域分類損失和域自適應損失進行模型學習。領域自適應中的數據領域分為兩類：源域Ds(xs，ys)，服從數據分布p；目標域Dt(xt)，服從數據分布q。其中：x為域樣本；y為域樣本標簽；s下標表示源域，t下標表示目標域。其原理：使用領域自適應中評估源域和目標域的數據分布偏移程度的相關方法，計算兩個領域的特征數據分布的“偏移量”，作為模型損失函數的一部分，反向調整網絡權重，進而不斷減小偏移量，目標域的特征數據分布不斷逼近源域，最終模型能夠正確識別目標域樣本的類別。本文的領域自適應分為兩步：①全領域自適應；②類別領域自適應。

1.1 全領域自適應

源域樣本與目標域樣本間存在數據分布偏移，通過全領域自適應，將源域和目標域的數據分布進行整體對齊(將兩個域的數據映射到相同的特征空間)，使模型一定程度將源域學習到的知識遷移至目標域，提高模型泛化能力。全領域遷移如圖1所示。

圖1 全領域遷移的示意圖Fig.1 Schematic diagram of whole domain migration

經過全領域自適應后的模型并不能完全解決目標域樣本如何實現正確分類這一問題，因為源域和目標域中相同類別的樣本會不同程度分布在不同的子類別領域中，模型仍舊會對部分目標域樣本做出虛假判定。本文的解決方法：在全域自適應后再引入類別域自適應，進一步對全域中的子類別領域進行領域自適應。

1.2 類別領域自適應

類別領域自適應將全域自適應得到的領域進行域細化，即進行各類別子域對齊，在對齊過程中，源域樣本有真實標簽，而目標域樣本為目標工況的軸承振動數據，并沒有真實標簽，故利用模型的源域樣本分類器(屬于有監督學習)對目標域樣本進行標簽預測，再進行類別領域自適應(屬于半監督學習)。類別領域遷移示意圖，如圖2所示。

圖2 類別領域遷移示意圖Fig.2 Schematic diagram of classes domain migration

1.3 領域分布距離

目前遷移學習，尤其是域適應中，主要使用MMD來度量兩個不同但相關的分布(p,q)的距離。兩個分布的距離dH(p,q)定義為式(1)

(1)

式中：H為這個距離是由映射函數φ(·)將數據映射到再生核希爾伯特空間(reproducing kernel Hilbert space, RKHS)中進行度量的；xs為源域數據；xt為目標域數據；E為取平均值。

(2)

式中：ns為源域樣本數量；nt為目標域樣本數量，后續公式中含義一致。

(3)

(4)

(5)

(6)

(7)

(8)

(9)

2 網絡模型細節

2.1 主要網絡結構

模型使用卷積網絡提取振動信號中的故障特征，由于振動數據為一維時序數據，而深度學習中的一維卷積層多用于時序數據、文本數據的特征提取，很適用于本文中的振動時間序列數據。本文使用RELU函數作為卷積層后的激活函數，因其具有：求導簡單，激活后的數據具有稀疏性，可一定程度減少網絡過擬合等優點。

本文的模型涉及領域遷移，根據自適應批標準化[8]的表述：模型訓練時，使用每個批次樣本的均值和方差進行標準化，而在模型驗證測試階段，使用驗證樣本集、測試樣本集的均值和方差，這有利于模型進行遷移任務，故本文的模型在每個卷積層后，添加自適應批標準化層。

深度學習中的注意力機制[9]核心目標是從眾多信息中選擇出對當前任務目標更關鍵的信息。目前常使用的機制類型有3種：通道注意力、空間注意力、細粒度多特征融合。本文將通道注意力引入故障診斷任務中，提高模型的魯棒性。算法流程，如圖3所示。

圖3 通道注意力機制Fig.3 Channel attention mechanism

2.2 模型損失函數

2.2.1 交叉熵損失函數

交叉熵損失函數又名分類損失函數，是分類問題中常用的一種損失函數，用于評估預測類別標簽與真實類別標簽之間的差異程度。其具體表達式

(10)

2.2.2 領域適配損失函數

在工況遷移領域，域適配損失函數也就是在1.3中式(8)和式(9)提到的領域分布距離

(11)

(12)

2.2.3 模型總損失函數

根據式(10)、式(11)和式(12)，可以得到模型的總損失函數

losstotal=lossJ+α1·lossWDA+α2·lossCDA

(13)

式中，參數α1，α2用來權衡全域適配損失和類別域適配損失在模型總損失中所占的權重。

2.3 模型細節配置

2.3.1 模型結構

工況遷移模型CNN-DA由特征提取層、分類層、領域自適應模塊等構成，具體算法流程如圖4所示。

圖4 工況遷移模型流程圖Fig.4 Flow chart of working condition migration model

源域信號經過模型特征提取層得到低維特征Ⅰ，再經過線性層降維，得到低維特征Ⅱ，將低維特征Ⅱ輸入分類層獲取預測標簽，并與真實標簽比對計算出分類損失；同時，目標域信號共享源域的特征提取層，也得到低維特征Ⅰ，將源域與目標域的低維特征Ⅰ輸入進全域自適應模塊，計算出全域適應損失；目標域的低維特征Ⅰ再經過共享線性層得到低維特征Ⅱ，再通過共享的分類層獲取預測標簽，類別域自適應模塊利用源域低維特征Ⅱ、源域真實標簽、目標域低維特征Ⅱ和目標域預測標簽，計算得出類別域適應損失。模型的三類損失(分類損失、全域適應損失、類別域適應損失)在每個訓練步數同步計算，加權求和為模型總損失，并進行反向梯度優化模型網絡層權重。

2.3.2 模型細節

在模型數據輸入端，加入隨機采樣層，能夠讓網絡提取的故障特征更具魯棒性。網絡模型中，除了提取振動信號中高層特征的一維卷積神經網絡層外，還添加通道注意力模塊，分別加入到卷積模塊的首尾兩層，用于為特征通道分配不同的權重，以增大有效特征在總特征域的占比，減少無效特征的干擾。模型中的卷積第一層使用寬卷積核提取原始信號的特征，目的在于增大卷積核感受野，相當于信號領域中：較少丟失信號頻域分辨率的前提下提高信號的時域分辨率。

3 試驗測試

本章中，基于Python-Pytorch搭建深度學習模型，在不同類型的數據集振動信號上進行5次訓練和測試，對最終測試結果取平均值，并與其他模型進行性能對比，驗證本文提出的卷積神經網絡的領域適配模型(convolutional neural network-domain adaptation， CNN-DA)模型的工況遷移能力。

3.1 數據集來源

3.1.1 CW-Artificial數據集

本數據集來自凱斯西儲大學[10](Case Western Reserve University，CWRU)滾動軸承人工損傷數據集。CWRU軸承數據采集系統，如圖5所示。本測試選取驅動端軸承作為試驗對象，型號為SKF6205，屬于深溝球軸承，振動信號的采樣頻率為48 kHz，故障缺陷由電火花單點加工，加工位置為軸承內圈、軸承外圈、滾動體；根據不同的加工直徑，分為0.18 mm，0.36 mm，0.53 mm可以造成9種不同的故障缺陷，再結合軸承健康運轉狀況，構成10種故障類別。

圖5 CWRU軸承系統平臺Fig.5 CWRU bearing system platform

軸承運轉工況分為735 W，1 470 W，2 205 W(負載)，工況遷移實驗使用735 W，1 470 W，2 205W工況兩兩組合成6個遷移進行模型訓練。由于軸承的運轉工況只有負載的變化，不涉及軸承轉速、軸承徑向載荷等工況變量，故CW-Artificial數據集屬于簡單工況遷移數據集。本文不對數據進行任何預處理，實現端輸入，數據長度為1 600(軸承旋轉一周的采樣點數)，數據采取半周期重疊采樣，以擴充數據量。數據集中分為訓練集(用于訓練模型)、驗證集(用于調整模型參數)、測試集(用于驗證模型性能)。具體數據集構成如表1所示。

表1 CW-Artificial數據集

工況遷移數據集：源域(A)→目標域(B)，代表模型從工況A遷移至工況B。具體工況遷移配置如表2所示。

表2 CW-Artificial工況遷移

3.1.2 PB-Artificial數據集

本數據集來自帕德博恩大學[11](Paderborn University, PB)滾動軸承人工損傷數據集。PB軸承數據采集系統，如圖6所示，試驗臺由電機、扭矩測量軸、滾動軸承測試模塊、飛輪和負載電機組成。本測試選取軸承IBU6203作為試驗軸承，振動信號的采樣頻率64 kHz，故障缺陷由電動雕刻機單點加工，加工位置為軸承內圈、軸承外圈；根據不同的加工長度(1～4 mm)，分為損傷等級1、損傷等級2，造成4種不同的故障缺陷，再結合軸承健康運轉狀況，構成5種故障類別。

軸承運轉工況分為N15M07F10，N09M07F10，N15M01F10，N15M07F04，使用4種工況兩兩組合成12個工況遷移類別進行模型訓練。由于軸承的運轉工況有負載變化、轉速變化、徑向載荷變化，工況變量較多，故PB-Artificial數據集屬于復雜工況遷移數據集。數據采樣長度規則與CW-Artificial數據集一致(即軸承運轉一周的采樣點數)，故采樣數據長度為2 560，其他設置也完全一致。數據集具體構成，如表3所示。工況遷移領域說明，如表4所示，A為源域，B為目標域。

1.電機； 2.扭矩測量軸； 3.滾動軸承測試模塊； 4.飛輪； 5.負載電機。圖6 PB滾動軸承狀態監測試驗臺Fig.6 PB rolling bearing condition monitoring test bench

表3 PB-Artificial數據集

表4 PB-Artificial工況遷移

3.1.3 PB-Reality數據集

本數據集來自帕德博恩大學[11]滾動軸承加速壽命試驗損傷數據集。加速壽命試驗臺，如圖7所示。由一個軸承箱和一個電機組成，電機為主軸提供動力。軸承箱中有4個IBU/MTK/FAG6203型試驗軸承，測試軸承在彈簧螺旋機構施加的徑向載荷下旋轉，所施加的徑向力高于軸承在正常工作下的徑向力，但不會超過軸承的靜態負載能力，以加速軸承疲勞損傷的出現。此外，使用低黏度的潤滑油，創造不良好的潤滑條件，加速損傷形成。壽命測試造成的軸承損傷大多是疲勞損壞，這種損壞以剝落的形式出現。損傷組合有3種：單一損傷、重復損傷、多重損傷。將損傷后的軸承作為PB滾動軸承狀態監測試驗臺的試驗軸承，獲取不同工況下的故障振動信號。

圖7 加速壽命裝置Fig.7 Accelerated life device

工況遷移集的故障類型、采樣長度、最終數據集構成以及工況遷移種類均與3.1.2節中PB-Artificial數據集完全一致。PB-Reality數據集也屬于復雜工況遷移數據集。

3.2 試驗參數設置

模型的相關參數設置和訓練參數配置對訓練結果影響很大，在模型結構固定的情況下，參數設置決定模型的表達能力。

模型的隨機采樣層隨機丟棄率必須設置合適，過高會導致原始數據變化過大，模型無法訓練；過低會喪失設置隨機采樣層的初衷。根據測試調試，設置為0.25。模型采取5層卷積層用來對數據進行特征提取；卷積第一層的卷積核不應設置過小，根據信號領域的知識，采樣窗口視野決定模型的時頻分辨率，根據試驗，最終設置卷積核大小為64；模型特征提取卷積后續4層卷積核大小設置為7，5，3，3，保證特征細粒程度。每個卷積層后的批標準化層使用自適應設置。特征提取后的Dropout層使用0.2作為隨機丟棄率，減小模型發生的過擬合現象。模型具體結構，如表5所示。

表5 工況遷移模型CNN具體參數

模型優化器使用Adam優化器，加速模型尋優過程，減少迭代次數，以節省運算資源。在網絡迭代過程中，為避免學習率過大導致迭代路徑振蕩過大，使用學習率指數衰減策略，以確保模型在迭代循環中能夠越來越逼近最優解。學習率指數衰減策略

(14)

式中：LR為初始學習率；epoch為當前訓練步；epochs為模型總訓練步數；λ為衰減速率參數，取λ=0.75。

訓練參數包括批次樣本大小(batch size)、初始學習率、網絡初始化方法、訓練迭代步數和域差異性損失權重α1與α2。根據經驗，使用較小的批次樣本大小訓練模型能夠提高模型的泛化能力；另一方面，批次樣本設置過小會增加模型的訓練時間，綜合考慮，選取128為batch size最終參數。初始學習率不易設置過高，一般在0.010～0.001，本文選取LR為0.005。根據本文網絡模型中的使用的RELU激活函數，使用Kaiming初始化方法[12]對卷積層參數進行初始化。經過多次試驗，訓練迭代步數(epoch)取200次，確保網絡能夠完全收斂，也不花費過多訓練時間。根據多次測試驗證，域差異性損失權重α1與α2均取值0.2。

3.3 試驗結果及與其他方法的比較

為確保試驗結果的可靠性，進行5次模型訓練后的測試集分類正確率取平均值。除本文自行搭建的模型結構CNN-DA之外，還采用機器學習模型和其他深度學習模型：支持向量機(support vector machine, SVM)、遷移成分分析(transfer component analysis，TCA)、注意力機制-Inception-卷積神經網絡[13](inception convolutional neural networks,INCNN)、采用領域鑒別和全域適應的卷積神經網絡[14](deep convolutional transfer learning network,DCTLN)、使用領域對抗的卷積網絡[15](domain-adversarial Neural Networks,DANN)作為對比，都使用相同的時序數據結構輸入。INCNN和DCTLN是當前較為優秀的滾動軸承故障模式診斷深度學習模型。各模型說明，如表6所示。

表6 各模型說明

模型在各個數據集上的各種工況遷移的具體測試結果如圖8所示，平均遷移診斷性能如表7所示，所有數據均為5次訓練測試取平均值。

圖8 各模型在3種數據集上測試結果Fig.8 The results of each model were tested on three data sets

表7 各模型在各數據集上的平均診斷正確率

試驗結果如圖8和表7所示：圖8(a)中共有6種不同工況遷移軸承故障診斷結果；圖8(b)和圖8(c)中共12種不同工況遷移軸承故障診斷結果；表7中表示各類模型在不同數據集上的平均遷移診斷結果。從圖表中可以看出：提出的CNN-DA模型在不同數據集各種工況遷移變化下，均保持最可靠、最穩定的故障識別性能，平均準確度都在98.5%以上，不同程度優于其他對比模型。作為對比的深度遷移模型DCTLN和DANN在3個數據集下表現不一：DCTLN模型在CW-Artificial和PB-Reality數據集上達到97.83%和94.68%的平均準確率，但在PB-Artificial數據集上表現欠佳；而DANN模型僅在CW-Artificial數據集上表現良好，達到92.96%的平均準確率，在另外兩個數據集上遷移效果極差，平均準確率均在75%左右。傳統的遷移學習算法TCA和簡單機器學習算法SVM在所有任務中的表現均低于深度學習算法，其平均準確度只有50%左右。以上分析證明：本文提出的基于全領域和類別領域相結合的領域自適應算法能夠有效利用無標簽的目標域數據，提高跨工況領域的軸承故障診斷準確度，在不同環境下具有良好的診斷性能。

為更好理解提出的模型，使用TSEN(t-distributed stochastic neighbor embedding)[16]可視化方法對提出的CNN-DA模型和未使用領域自適應算法的CNN(convolutional neural networks)模型對PB-Reality數據集的1-2工況(該工況遷移下對比模型的遷移識別效果均不好，可視化結果對驗證本文模型的領域自適應效果更具說明性)遷移的訓練過程進行各網絡層二維可視化，如圖9、圖10所示。圖中所示：圖9(a)～圖9(j)、圖10(a)～圖10(j)子圖為模型各層可視化結果，圖9(k)、圖10(k)為領域標記。圖9 CNN-DA模型的各網絡層中，原始信號在特征空間中混雜在一起，隨著模型特征提取層的作用，模型逐漸對故障類型進行細分聚類，且源域和目標域的相同故障類別樣本逐漸聚類一起；圖9(j)中，1，2，4故障類別聚集在一起，0，3故障類別聚類失敗，說明網絡提取到了不同領域之間的不變特征，但在少數故障類別下源域和目標域的樣本無法聚集交叉在一起，欠缺一定的魯棒性。作為對比，圖10未使用領域自適應的CNN模型的圖10(j)中，源域和目標域的所有故障類別全都混雜在一起，無法進行很好的區分，產生嚴重的錯誤對齊現象。通過上述的可視化過程，可以證明：本文提出的全域、類別域相結合的領域自適應算法能夠有效提取源域和目標域之間的領域不變特征，緩解目標域錯誤分類對齊的現象。

圖9 使用領域自適應的CNN-DA模型可視化Fig. 9 Visualization of CNN-DA model using domain adaptation

圖10 未使用領域自適應的CNN模型可視化Fig.10 Visualization of CNN model without domain adaptation

4 結 論

本文提出的一種新的復雜工況遷移下的CNN-DA模型，它們是基于普通卷積神經網絡、注意力機制、全域與類別領域自適應搭建而成的高性能模型。主要結論：

(1)模型實現從端到端的診斷模式，不需要對原始診斷數據進行任何處理，避免了繁瑣的傳統診斷人工提取故障特征；診斷信號通過模型診斷直接輸出故障結果。

(2)模型的結構簡單，參數規模小，以最少的參數訓練和先進的遷移算法保證可靠的故障診斷性能。

(3)CNN-DA在兩類(人工損傷/真實損傷)3種數據集上訓練后進行測試，在各種類型工況遷移下，均取得優異的遷移診斷結果，平均診斷率均在98.5%以上，不同程度領先其他深度網絡模型。