基于多通道時頻域信號的卷積神經網絡智能故障診斷技術

孫仕鑫， 高 潔， 王 偉， 杜勁松， 楊 旭

(1.中國科學院沈陽自動化研究所， 沈陽 110016； 2.中國科學院機器人與智能制造創新研究院， 沈陽 110169； 3.中國科學院大學， 北京 100049； 4.遼寧省智能檢測與裝備技術重點實驗室， 沈陽 110179)

滾動軸承作為旋轉機械如齒輪箱的關鍵部件[1]，長時間工作在嘈雜的環境中，不可避免地會出現各種故障。為防范可能存在的隱患，最常見的方法是通過分析其振動信號來進行早期的故障診斷。傳統智能故障診斷算法主要包括特征設計、特征提取和選擇、狀態識別[2]。而特征設計需要專家知識，并且設計的特征具有專一性，即在此數據集上設計的特征不適用于另一數據集，因此傳統智能故障診斷算法具有特征設計復雜、不利于推廣等缺點。近年來，深度學習的崛起為克服上述缺點提供了新的方法[3]。深度學習是一種端到端的學習方法，不需要專家知識，原始數據直接作為輸入，分類結果作為輸出，省去了繁雜的特征設計，且利于推廣，因此在滾動軸承故障診斷領域中廣泛使用。

BN是批標準化層圖1 卷積神經網絡結構Fig.1 Convolutional neural network structure

然而，在實際工業環境中，算法不能學習到所有負載下的健康狀態特征，例如在極端情況下，算法只能在1 hp(馬力，horsepower)負載下訓練，在實際測試時，卻需要在3 hp負載下有效識別健康狀態，所以就要求算法有很強的負載域適應能力。因此，中外專家學者相繼提出了在變負載下的滾動軸承故障診斷算法。Jiao等[4]提出了雙級對抗域自適應網絡(double-level adversarial domain adaptation network，DL-ADAN)，該模型由基于深度卷積網絡的特征提取器、域識別器和兩個標簽分類器組成，用于識別跨領域的故障狀態。Qiao等[5]提出了基于卷積神經網絡和長短期記憶神經網絡的時頻雙輸入模型(time-frequency dual-input model based on a convolutional neural network and a long-short term memory neural network，FT-WConvLSTM)，此模型的卷積層和長短期記憶層分別提取時頻圖像的空間特征和時域信號的序列特征，最后的密集層被用于故障分類。Li等[6]提出了深度平衡域自適應神經網絡(deep balanced domain adaptation neural network，DBDANN)，多個卷積層提取特征后，采用多層平衡域自適應方法減小不同域之間邊際概率分布和條件概率分布的差異。祝道強等[7]提出了一種基于一維卷積神經網絡的變負載適應軸承故障診斷模型，并在兩種近鄰負載條件的軸承數據構成的變負載數據集上取得了較好的診斷效果。

上述算法在變負載下的滾動軸承故障診斷方面都取得了不錯的效果，但由于時域信號的特征規律不明顯，以及網絡丟失重要特征的緣故，使得診斷精度仍有提升的空間。針對上述問題，提出了基于多通道時頻域信號的卷積神經網絡算法(convolutional neural network based on multi-channel time-frequency signals, CNN-MCTFS)，用于診斷滾動軸承在變負載下的健康狀態。該算法只在源域下訓練，無需目標域數據的參與，即可在目標域下得到良好的診斷效果。此算法的貢獻如下：

(1)卷積層采用空洞卷積，也就是向原卷積核中填充空洞，以擴大卷積核的感受野。

(2)全局最大池化替代最大池化，在全局范圍內提取卷積層的最大激活，而非有限寬度的滑動窗口中的最大激活。

(3)使用不同小波的離散小波變換將時域信號變換為多通道時頻域信號，其中不同的小波提取不同的特征，可以為卷積神經網絡提供更豐富的健康狀態信息。

1 卷積神經網絡的搭建

卷積神經網絡(convolutional neural network, CNN)由輸入層、卷積層、批標準化層、池化層、分類層組成，如圖1所示。

1.1 卷積層(空洞卷積)

卷積層(convolutional layer，Conv)的每個卷積核使用相同的數值來提取輸入的局部特征[8]，如果感受野越大，也就是卷積核越寬那么卷積的輸出包含的信息就越多[9]。VGGNet模型中，三層3×1Conv的感受野相當于一層7×1 Conv，因此可以通過加深網路獲取更大的感受野，但CNN層數過深在訓練時容易出現退化現象[10]，降低了網絡的分類精度。如果在Conv中采用7×1寬度的卷積核，雖然擴大了卷積核的感受野，但也增加了計算量。為此，可以使用空洞卷積，也就是向原卷積核中添加空洞以擴大卷積核的寬度，從而擴大卷積核的感受野。如圖2所示，空洞卷積核的寬度由空洞率(dilation rate)控制，則空洞卷積核的寬度為

Kernel+(Kernel-1)(Dilationrate-1)

(1)

式(1)中：Kernel是原卷積核的寬度。

1.2 池化層(全局最大池化)

池化層的作用就是在提取那些被激活成較大值的重要特征，用于削減特征尺寸，以及保持平移不變性。然而，最大池化只會提取被固定寬度的滑動窗口內的最大激活，但如果滑動窗口中都是最大激活，它們只能選出其中之一，而其他值則被拋棄，如圖3(a)所示。因此，在每一Conv后，采用全局最大池化[圖3(b)]代替最大池化，用于提取全局范圍內的最大激活，即無需考慮位置，也可保留更多的重要特征。

圖3 兩種池化操作Fig.3 Two pooling operations

(2)

式(2)中：activation和Activation分別是池化前的激活和池化后的激活；GlobalMaxPool(·)是全局最大池化；C和L分別是通道數和長度。

w和a分別是卷積的可學習參數和輸入值圖2 空洞卷積Fig.2 Dilated convolution

1.3 卷積神經網絡的結構

在每一Conv之后，激活函數之前放置批標準化層，以加速網絡收斂速度，并且起到正則化的作用，防止網絡過擬合。接著放置激活函數，文中激活函數選擇了ReLU函數，相比Sigmoid和Tanh等函數，此函數不僅克服了梯度消失等問題，并且加快了網絡的訓練速度。再放置全局最大池化用于提取全局最大激活，以及削減特征維度。選擇4層Conv，每一Conv的卷積核都相當于是7×1的感受野，這樣不僅可以充分學習到信號的健康狀態特征，而且也無需耗費太多計算量。最后全局平均池化將每一通道擠壓為每一點，用于最終的分類，并且無論輸入信號的長度或者分解層數是多少，全局最大池化和全局平均池化的使用可以令網絡按照表1所示參數搭建。分類層采用Softmax函數進行分類，以判斷信號的健康狀態。

表1 卷積神經網絡參數

2 多通道時頻域信號的構造

振動信號在時域下呈波形，特征規律不明顯，為了凸顯滾動軸承的健康狀態特征，可以通過傅里葉變換或離散小波變換將時域信號轉換到頻域或時頻域。其中傅里葉變換以三角函數為基擬合時域信號，考察的是信號的整體頻域特征，對于平穩信號具有良好效果，而在非平穩信號上的效果較差。離散小波變換利用小波，通過伸縮、平移等運算對信號進行多尺度細化分析，可以很好地分析非平穩信號，從時域信號中提取時頻信息。并且不同的小波從時域信號中提取的時頻信息不同，多種小波可以提供更多樣的時頻信息，以便CNN可以抽取更抽象的健康狀態特征。

設f(x)是時域信號，ψ(x)為小波，則連續小波變換(continuous wavelet transform, CWT)為

(3)

式(3)中：s是尺度因子；τ平移因子； *表示復共軛操作。離散小波變換是把尺度因子s與平移因子τ離散化，即在離散點取值[11]為

(4)

式(4)中：s≠1；τ是常數。相應的離散小波變換(discrete wavelet transform，DWT)為

(5)

尺寸為(C=1,L)的時域信號首先經過level級DWT后得到近似值Alevel(level表示分解層數)和細節系數(Dlevel,Dlevel-1,…,D1)，再將它們串聯在一起得到尺寸為(C=1,L′)的時頻域信號[Alevel,Dlevel,Dlevel-1,…,D1]。

然而，有多種可用于離散小波變換的小波，例如daubechies(db)小波、symlets(sym)小波、coiflets(coif)小波、haar小波、dmeyer(dmey)小波、biorthogonal(bior)小波和reverse biorthogonal(rbio)小波。因此，在進行離散小波變換時，為了保證變換前后信息的保留，避免在變換后引入誤差，應選用重構誤差低的小波[12-13]。重構誤差為

error=sum(|f(x)-iDWT{DWT[f(x),ψ(x)]}|)

(6)

式(6)中：DWT和iDWT分別是離散小波變換和逆離散小波變換；sum(·)表示元素求和操作；|·|表示求絕對值操作。挑選4.1節數據集A的10 000個樣本用于求取重構誤差，則各小波的重構誤差如表2所示(只列出有限個小波的重構誤差，并且level=1)。

表2 各小波的重構誤差

從表2可以看到，rbio2.2、bior2.2、coif1和db3小波的重構誤差較低且相近，由它們得到的多通道時頻域信號，比只使用rbio2.2小波得到的時頻域信號，蘊含著更加多樣化的健康狀態信息。雖然db5小波的重構誤差也和這些小波相似，但由db5小波變換得到的時頻域信號尺寸L′與它們不同，如果通過伸縮操作使得尺寸L′強行一致，可能會缺失信息或引入錯誤信息，故放棄使用。所以，rbio2.2、bior2.2、coif1和db3小波分別對時域信號進行level級(最佳分解層數之后由實驗選擇)離散小波變換，得到4種不同的時頻域信號，再將這4種不同的時頻域信號在維度C上組合成尺寸為(C=4,L′)的四通道時頻域信號，如圖4所示。具體步驟如下。

圖4 多通道時頻域信號Fig.4 Multi-channel time-frequency signals

3 滾動軸承智能故障診斷算法流程

基于上述闡述，建立起滾動軸承智能故障診斷流程圖，如圖5所示。具體步驟如下。

圖5 滾動軸承智能故障診斷算法流程圖Fig.5 Flow chart of intelligent fault diagnosis algorithm for rolling bearing

Step1重采樣。從加速度傳感器采集原始時域信號，通過重采樣增加每一類的樣本數量。

Step2構造多通道時頻域信號。重構誤差選取合適的小波，時域信號被多個不同的小波轉換成時頻域信號，從而組成多通道時頻域信號。

Step3確定超參數。使用驗證集確定網絡的各個超參數，以搭建CNN。本文所用的損失函數為

(7)

式(7)中：第一項是交叉熵損失函數；θ表示各個可學習參數；p(θ)表示標簽的正確概率；q(θ)表示預測概率。第二項是L2正則化項，λ是正則項權重。使用Adam算法最小化損失函數，并不斷更新可學習參數，表示為

(8)

式(8)中：J表示損失函數值；η表示學習率；t表示第t次更新參數。

Step4訓練網絡。直至訓練epoch次后，得到一個訓練過的CNN-MCTFS。

Step5測試網絡。用測試集測試CNN-MCTFS在變負載下的故障診斷能力。

4 實驗方案及分析

4.1 數據集描述

所用到的滾動軸承時域振動信號公共數據來自凱斯西儲大學(Case Western Reserve University，CWRU)軸承數據中心。采樣頻率為12 kHz，負載為1～3 hp，待采集振動信號的滾動軸承型號是SKF6205，用電火花在軸承的內圈(inner race，IR)、滾動體(ball)和外圈(outer race，OR)加工損傷直徑分別為0.177 8、0.355 6、0.533 4 mm的單點損傷，再加上正常的類別，即共有10個類別，如表3所示。

從加速度傳感器采集到的原始振動信號是一維時域信號，為了滿足CNN對數據量的要求，采用重采樣實現數據集擴容。本文的訓練集制作過程，就是從各段信號第1個數據點開始，每移動32個數據點作為一個樣本采集起始點，采集連續的256個數據點作為一個樣本，這樣既可以采集到每一類的大量數據，又可以充分學習到類別的特征，如圖6所示。在負載1～3 hp下，每一類采集到2 100個樣本，其中2 000個屬于訓練集，另外的100個屬于驗證集。而測試集不可與訓練集重疊，所以在每一類別中，測試集需要在第2 100個樣本的最后一個數據點之后采集，每256個點采集為一個測試集樣本，從每個類別里各采集100個樣本作為測試集，如表3所示。

4.2 實驗環境及模型參數

實驗環境是Ubuntu 16.04 LTS，Intel Core i7-67000 CPU@3.40 GHz，16 GB RAM，GeForce GTX 1080，CUDA 11.0，Python 3.6.9，PyTorch 0.4.1。根據上述滾動軸承智能故障診斷流程，在驗證集上經過多次試驗，得到本文所用算法超參數如表4所示。

表4 超參數

4.3 實驗結果及分析

4.3.1 分解層數的選取

level不同得到的多通道時頻域信號不同，對最終的分類結果也會造成不同的影響。最大分解層數由信號長度和小波長度共同決定，當信號長度分解到小于小波長度時，就達到了最大分解層數。在本文信號長度下，rbio2.2、bior2.2、coif1和db3小波的最大分解層數是5，因此level=1～5的分類精度如圖7所示。從圖7中可知，所有level的平均精度(average accuracy, AVG)均達到了0.950以上，由此證明該算法在任何level下都達到了較好的分類效果。但level=5的效果最好，AVG達到了0.975，相比其他level至少高出了0.012。這是由于level越大，輸入到CNN的多通道時頻域信號蘊含的多尺度信息越多，使得網絡的分類精度就越高。因此，在接下來的實驗中，均是對時域信號進行level=5的DWT。

圖7 不同level的精度Fig.7 Different levels of accuracy

4.3.2 與其他算法的比較

在此實驗中，將CNN-MCTFS與SVM(support vector machines)、MLP(multi-Layer perceptron)、文獻[14]、WDCNN[15]和TICNN[8]進行對比實驗，實驗結果如圖8所示。SVM的AVG只達到了0.614，也從側面驗證了傳統智能故障診斷算法在變負載下的效果較差。當由MLP進行實驗時，AVG明顯提升了0.069，說明神經網絡的擬合輸入的效果強于SVM等傳統機器學習算法。之后基于CNN的算法的AVG都達到了0.910以上，證明CNN的泛化性能較強。并且CNN-MCTFS的AVG達到了0.975，相比TICNN提高了0.043，相比WDCNN提高了0.010，因此該算法在變負載下可以有效識別滾動軸承的健康狀態。

圖8 不同算法之間的比較Fig.8 Comparison between different algorithms

而且，在CNN-MCTFS中，A-B的0.992要高于A-C的0.986，C-B的0.987要高于C-A的0.920，可以從中發現算法在相鄰負載的效果要好于負載相差較大的，因此要盡可能收集多種負載下的數據，縮小訓練集負載與測試集負載的差距。并且算法在中低負載下訓練的效果要強于在高負載下的，例如A-C的0.986要高于C-A的0.920，B-C的0.996要高于C-B的0.987，因此也要盡可能地多收集中低負載下的信號作為訓練集。

4.3.3 消融實驗

將CNN-MCTFS與最原始的CNN(MaxPool, no-dilation)-T，將多通道時頻域信號替換成時域信號、頻域信號、單通道時頻域信號的CNN-T、CNN-F、CNN-rbio2.2，將全局最大池化替換成最大池化的CNN(MaxPool)-MCTFS，將空洞卷積替換成3×1卷積的CNN(no-dilation)-MCTFS相比較，實驗結果如圖9所示。由于時域信號的特征不明顯，時域信號在淺層網絡中的AVG最高達到了0.916，而如果將時域信號變化到頻域或時頻域中，AVG則達到了0.948和0.939，而CNN-MCTFS的AVG相比它們至少多出了0.027，說明多個小波的共同使用可以挖掘出時域信號更豐富的特征，可以讓CNN提取到更抽象的特征，從而提高分類精度。在將最大池化替換成全局最大池化，提取了每一Conv的最大激活后，CNN-MCTFS的AVG相比CNN(MaxPool)-MCTFS高出了0.024，而提高每一個Conv的卷積核的感受野之后，CNN-MCTFS的AVG相比CNN(no-dilation)-MCTFS提升了0.036。因此，CNN-MCTFS在變負載下取得了較高的診斷精度。

圖9 各貢獻點之間的比較Fig.9 Comparison between contributions

4.3.4 可視化各層特征

為進一步說明CNN-MCTFS的負載域適應能力，在C-A中，利用t-SNE(t-distributed stochastic neighbor embedding)算法[16]可視化數據集A在每一層的分布情況，如圖10所示。在輸入層中，所有樣本聚成一簇。經過第1層Conv后，正常類樣本逐漸聚集在一起，并與其他類樣本分離，但每一類樣本已經有了聚類的趨勢。經過第2層Conv之后，正常類樣本首先聚集在一起，并游離在外。經過第3、4層Conv之后，所有樣本被分成10類，但還有少量樣本散落在其他簇中。在分類層，基本上所有樣本都被正確分類，但只有少數樣本被錯分。如圖11所示，主要是IR0.355 6 mm被錯分為OR0.355 6 mm和OR0.533 4 mm，ball0.533 4 mm被錯分為ball0.177 8 mm，因此之后的研究要強化對這兩類樣本的正確分類。

圖10 C-A中各層的特征分布Fig.10 In C-A, the feature distribution of each layer

圖11 混淆矩陣Fig.11 Confusion matrix

5 結論

在滾動軸承故障診斷中，為有效診斷滾動軸承在變負載下的健康狀態，需要算法具有較強的負載域適應能力。提出了基于多通道時頻域信號的卷積神經網絡算法(CNN-MCTFS)，得出如下結論。

(1)空洞卷積擴大了每一Conv的卷積核寬度，使得CNN在無需加深網絡以及計算量的前提下，獲得了較大的感受野。

(2)最大池化被替換成了全局最大池化，從全局范圍內選取最大激活，從而最大程度地保留了許多重要特征。

(3)與時域信號、頻域信號、單通道時頻域信號相比，多個小波的共同使用為CNN提供了更豐富的特征。

(4)最終，CNN-MCTFS在變負載下的AVG達到了0.975。上述實驗過程表明，在沒有目標域數據的參與下，CNN-MCTFS也可以有效識別出滾動軸承的健康狀態，相比于其他算法具有更強的負載域適應能力，在軸承類設備的故障診斷中具有廣闊的應用前景。