基于改進卷積生成對抗網絡的少樣本軸承智能診斷方法

郭 偉 邢曉松

電子科技大學機械與電氣工程學院，成都，611731

0 引言

隨著通信行業5G時代的到來，工業互聯網的故障預測與健康管理(prognosis and health management，PHM)技術迎來了蓬勃發展[1]。旋轉機械及其關鍵部件的故障診斷一直是PHM的研究熱點[2]。近年來深度學習飛速發展，基于深度神經網絡的智能故障診斷[3-4]越來越受到專家們的青睞，與振動信號預處理[5-6]等算法結合可進一步提高診斷的準確性。近年來智能診斷模型在工程領域的應用逐漸增多，少樣本、樣本不平衡[7-8]和遷移學習[9]的研究與應用已成為故障診斷的熱點問題。

工程應用中，軸承的監測數據包含大量的正常樣本，故障樣本極少或故障類型不完備。由于缺乏故障樣本，且訓練階段和測試階段相互獨立，難以獲得足夠的診斷知識，導致故障識別準確率不高[10-11]。WANG等[12]利用支持向量機(support vector machine，SVM)的優勢改進預處理雙樹SVM，利用集成SVM來增強少樣本的學習能力。ADIL等[13]針對少樣本問題提出將指數判別分析與故障診斷結合實現故障檢測與隔離。LI等[14]將異常檢測與少樣本在線自適應學習結合，兼具了故障分類與數據聚類的功能。ZENG等[15]提出了半監督完全核Fisher判別方法，從大量無標簽樣本中提取數據的全局結構，與有標簽的少樣本相結合，輔助提高數據投影向量的提取效果，進而提高少樣本的分辨準確性。WANG等[16]指出診斷的準確性極大地依賴于故障樣本的數量和類型，但是工業過程不能確保完全覆蓋未來可能的故障模式，因此提出將SVM與改進粒子群算法結合，綜合少樣本中診斷知識與在線數據分析，提高SVM對少樣本數據的分類性能。ZHANG等[17]提出了一種多故障少樣本的混合診斷方法，融合了自適應局部迭代濾波、多尺度熵和核稀疏表示分類三種方法，通過信號預處理和多尺度熵來挖掘少量樣本中的故障特征。

近年來，生成對抗網絡(generative adversarial network，GAN)[18]為少樣本難題的解決提供了新思路，衍生出許多改進的GAN網絡和對抗類學習策略，如條件生成對抗網絡[19]、最小二乘生成對抗網絡[20]和Wasserstein生成對抗網絡[21]等。在故障診斷領域，XIE等[22]提出了循環一致性GAN方法，根據其他工況下的樣本生成模擬樣本，實現了不同工況下的軸承故障診斷；LI等[23]構建了多個生成模型，用于不同運行條件下的軸承故障診斷；GUO等[24]提出了基于對抗學習的軸承故障診斷方法，構建了一個包含條件識別和領域自適應的診斷模型；何強等[25]提出了基于梯度懲罰Wasserstein距離的生成對抗網絡，用于負載不平衡下少樣本軸承數據的生成，結合注意力卷積神經網絡進行故障診斷；余浩帥等[26]提出了少樣本下混合自注意力原型網絡，融合位置自注意力機制和通道自注意力機制來獲取更具判別性的特征信息。因此，復雜工況下的少樣本診斷準確性仍然是研究者關注的熱點問題。

在已有研究基礎上，本文提出一種基于改進卷積生成對抗網絡的少樣本智能診斷方法，通過改進網絡的結構和性能來提高復雜數據的學習能力和診斷準確性。一方面，為了提高生成樣本的質量，以卷積神經網絡(convolutional neural network，CNN)為特征提取手段，構建了一種解決少樣本問題的深度卷積生成對抗網絡(deep convolutional GAN，DCGAN)，增強數據生成能力，用以彌補少樣本的不足。另一方面，改進CNN網絡的結構和設置，增加網絡的深度與廣度，用以提高復雜數據的學習能力。最后，采用美國凱斯西儲大學滾動軸承和列車輪對軸承的少樣本和變工況數據對本文所提方法進行驗證和分析。

1 GAN簡介

GAN[18]是基于對抗理論而產生的深度學習架構，已在計算機視覺、醫學圖像等多個領域獲得成功應用。GAN的模型框架一般包含兩個部分，即生成器和判別器，如圖1所示。

圖1 GAN基本框架Fig.1 Framework of GAN

GAN的訓練過程就是生成器和判別器相互對抗的過程。將隨機噪聲z輸入生成器獲得模擬數據，對應標簽為“假”；然后由判別器判斷其輸入是來源于真實數據x，還是來源于生成器的模擬數據x′。通過迭代循環，二者相互對抗，使生成器所得的模擬數據能夠無限逼近于真實數據，而判別器無法辨別輸入數據的來源，則模型訓練達到其預計目標，即納什均衡。

GAN的優化過程是一個最大最小化過程，表達式如下[18]：

Ez～Pz(z)[lg(1-D(G(z)))]

(1)

式中，G、D分別為生成器和判別器；V(D，G)為目標函數；E為期望值；z為隨機噪聲；x為真實數據；Pdata為真實數據的分布；Pz為輸入的隨機噪聲的分布。

在訓練過程中，GAN的優化過程實際包含了生成器和判別器兩部分的優化[18]，即最大化表達式Ex～Pdata(x)[lgD(x)]+Ex～Pg(x)[lg(1-D(x))]和最小化表達式Ex～Pg(x)[lg(1-D(x))]。其中，Pg為生成器所生成的模擬數據的樣本分布。訓練時，固定一個網絡的參數而更新另一個網絡的參數，此過程交替進行。訓練完成后，生成器輸出的模擬數據分布與真實數據分布相似，此時判別器無法辨別數據來源。利用少量的真實數據，通過生成器和判別器的對抗學習，可以獲得與真實數據接近的模擬數據，用以彌補少樣本的不足。更多GAN的原理與算法說明可參考文獻[18-19]。

2 少樣本的智能故障診斷方法

針對少樣本問題，本文提出了基于改進卷積生成對抗網絡(GAN)的智能診斷方法，方法框圖見圖2。

圖2 基于改進卷積GAN的少樣本智能診斷方法框圖Fig.2 Block diagram of intelligent fault diagnosis with few samples based on improved convolutional GAN

首先，將少樣本的軸承數據輸入DCGAN進行訓練，輸出模擬數據，以達到擴充樣本的目的；然后，改進卷積神經網絡用以辨識擴充后的數據，實現軸承數據的智能分類。為敘述方便，將本文提出的方法縮寫為DCGAN-DDCNN。

2.1 深度卷積生成對抗網絡

采用CGAN的對抗學習框架，其中判別器主要由多個卷積層構成，生成器由多個反卷積(轉置卷積)構成，所得的網絡稱之為深度卷積生成對抗網絡(DCGAN)。DCGAN中判別器網絡結構如圖3所示。判別器包含4個卷積層和2個全連接層，激活函數選取ReLU。判別器的網絡設置如表1所示，網絡的輸入設定為56×56的二維數據，卷積核大小均采用3×3，卷積核數量按倍數依次遞增，最終達到128個；每次卷積操作后會進行一次2×2最大池化層，用以降低特征圖的維度；經過多次卷積以及全連接層后，輸出為K維向量。

圖3 DCGAN判別器結構示意圖Fig.3 Diagram of the discriminator of DCGAN

表1 DCGAN判別器參數設置

DCGAN中生成器的網絡結構如圖4所示，網絡包括一次重塑和4次反卷積操作，反卷積的卷積核大小設置為5×5。網絡第一層輸入為隨機噪聲，通過重塑操作將輸入的隨機噪聲維度調整為7×7×128，為后續反卷積操作做準備。后續網絡層均為反卷積層，通過反卷積操作還原數據大小和拓展數據信息。生成器的網絡參數設置如表2所示。

圖4 DCGAN生成器結構示意圖Fig.4 Diagram of the generator of DCGAN

Tab.2 Parameter setting for generator ofDCGAN

2.2 改進CNN網絡

為了提高多故障類型和復雜工況的軸承數據分析能力，本文在卷積神經網絡中引入了密集塊網絡DenseNet[27]和擴容卷積(dilated convolutions)[28]，構建出改進的卷積網絡，稱之為密集擴容卷積神經網絡(dense dilated convolutional neural network，DDCNN)，用于提升復雜數據的學習能力，輔助提高混合數據(軸承少樣本與DCGAN生成數據)的故障分類性能。

2.2.1DenseNet網絡

源于ResNet模型構建思想，HUANG等[27]提出了密集卷積神經網絡，使用更少的網絡參數緩解了梯度消失和模型退化的問題。該網絡的核心思想是跨層連接，網絡中每一層的輸入都會將前面所有層輸出的特征信息作為輸入，同時該層的特征也會直接傳遞給后面的所有層作為輸入，以保證層級之間最大程度的信息傳輸。

DenseNet由三個密集塊(dense block)組成，每個密集塊中包含多個網絡層。在密集塊內部，任意層都會通過短連接與之后的每一層相連接，因此后一層的輸入是該層之前所有層的串聯。因此，第l層接收了之前所有層的特征映射，即x0，x1，…，xl-1：

xl=Hl([x0，x1，…，xl-1])

(2)

其中，[x0，x1，…，xl-1]表示在0，1，…，l-1層生成的特征映射的串聯，Hl(·)為一個復合函數，包含了批標準化、以ReLU為激活函數的線性化和3×3卷積核。為了便于實現，將式(2)中多個復合函數Hl(·)串聯成一個張量。如果每個復合函數Hl產生k個特征映射，那么第l層將有k0+k×(l-1)個特征映射輸入，這里k0指輸入層的通道數。

2.2.2擴容卷積

擴容卷積[28]亦稱為空洞卷積，最早用于解決圖像語義分割中部分特征在池化過程中丟失的問題。擴容卷積采用了稀疏的卷積核，可以在不增加網絡參數的情況下，擴大網絡的感受野，獲得與交替使用卷積操作和池化操作相同的效果。圖5展示了不同擴容率的3×3卷積核。

(a)擴容率為1 (b)擴容率為2 (c)擴容率為3圖5 設定擴容率為1、2和3時卷積神經網絡的感受野示意圖Fig.5 Schematic diagrams of receptive field in CNN by setting dilation rates of 1 in (a), 2 in (b), and 3 in (c)

在圖5中，當擴容率為1時，擴容卷積和普通卷積一致；當擴容率為2時，3×3卷積核的感受野大小為5×5；當擴容率為3時，卷積核的感受野大小為7×7。因此，對于一個k×k的卷積核，當擴容率為l時，感受野的邊長為k+(k-1)×(l-1)。

2.2.3改進卷積神經網絡

本文在DenseNet中加入擴容卷積，形成了改進的卷積神經網絡，即DDCNN，其結構如圖6所示。

圖6 DDCNN網絡結構示意圖Fig.6 Diagram of the DDCNN

數據輸入之后會先進行一次卷積操作。然后會依次進入密集塊和過渡層(transition layer)，如圖7所示。整個網絡包含4個密集塊和3個過渡層的交替連接，即形成堆疊的密集網絡單元，此結構可以降低特征圖的尺寸，結合密集塊結構緩解深度網絡的梯度消失問題。

圖7 DDCNN中密集網絡單元的結構圖Fig.7 Block diagram of a dense block in DDCNN

圖7中箭頭匯集處的短連接代表各階段特征圖的串聯。在經過4個密集塊和3個過渡層之后，網絡提取的特征進入一個分類層(classification layer)。在分類層采用全局平均池化(global average pooling，GAP)并利用SoftMax函數得到最終的分類結果，網絡參數細節設置如表3所示。在不增加參數計算量的情況下增大卷積核的感受野，從深度和廣度兩個維度提高網絡的特征提取能力，并通過短連接緩解了深層網絡的梯度消失問題。下面將通過實驗對本文方法進行驗證和對比。

表3 DDCNN網絡參數設置

3 實驗結果與對比

3.1 實驗數據說明

本節所用實驗數據為美國凱斯西儲大學公開的軸承振動數據[29]。待檢測的軸承人工損傷直徑包括0.007 in(0.178 mm)、0.014 in(0.356 mm)、0.021 in(0.534 mm)、0.028 in(0.712 mm)和0.04 in(0.102 mm)，損傷位置分別設在3點鐘、6點鐘、12點鐘方向，采樣頻率為12 kHz。實驗中選取了前三種故障程度較輕的軸承，用以分析較小故障時的分類性能。

3.2 數據處理

(1)數據增強。通過信號分割充分利用采集到的振動數據。考慮到軸承沖擊信號與電機轉速有關，參考電機轉速來設定每段信號的長度，如每段信號長度應大于或等于電機旋轉一圈所采集到的數據點，使其包含至少一個完整的沖擊信號周期。

對于美國凱斯西儲大學的數據集，驅動端軸承故障數據采樣頻率為48 kHz，電機的轉速為1724 r/min，電機旋轉一圈大約可以采集到1670個信號點。因此，綜合考慮數據的周期性以及網絡模型的輸入尺寸需求，設定每段信號長度為3136個數據點，相鄰信號段之間有一定重疊，表達式如下：

n=(N-1)(Lseg-Loverlap)+Lseg

(3)

式中，n為樣本總長度；N為樣本數量；Lseg為每個樣本的長度；Loverlap為相鄰樣本的重疊程度。

本實驗中每個采集信號提取出500個樣本。

(2)樣本設置。實驗軸承包含不同故障和不同損傷程度，共計10個類別，每種類別提取出500個樣本，則總樣本數為5000。設定訓練和測試數據比例為4∶1，因此每種類別隨機取400個樣本用于訓練，剩余100個樣本用于測試，詳情如表4所示。其中，“0”表示無損傷，“1”表示損傷直徑0.007 in(0.178 mm)，“2”表示損傷直徑0.014 in(0.356 mm)，“3”表示損傷直徑0.021 in(0.534 mm)；“500(4∶1)”表示500個樣本中隨機取400個用于訓練，其余100個用于測試。

表4 美國凱斯西儲大學軸承數據健康狀態及標簽

3.3 實驗結果

下面驗證DCGAN的樣本生成性能。對于表4中每個類別，從400個訓練樣本中隨機抽取5、10、50和100個作為DCGAN網絡中的真實數據，由生成器輸出模擬數據，通過對抗學習提高生成器的數據模擬能力。生成器和判別器均采用Adam算法進行優化，學習率設定為0.001。

隨機選取一個生成數據與真實數據進行對比。圖8a顯示了真實數據樣本的頻譜0～4 kHz的部分，圖8b顯示了生成器經過訓練后獲得的模擬樣本的主要頻譜，圖8c為二者疊加的對比圖，二者的頻譜特性基本一致。當真實數據更多時，生成器可以較快收斂。采用此方法將表4中每個類別的訓練樣本擴充至400個，即訓練樣本為模擬數據，而測試樣本源于真實數據，每個類別包含100個樣本，用于后續的故障分類。

(a)真實數據

3.4 方法比較

為了對比DDCNN網絡的性能，引入以下兩種方法進行對比，簡要說明如下：

(1)多尺度CNN(multi-scale CNN，MSCNN)[30]由一個proposal子網絡和一個檢測子網絡組成。proposal子網絡中，在多個尺度輸出層進行檢測，使接受域匹配不同尺度的對象，將這些不同尺度的檢測結果組合構造出一個多尺度檢測器。通過優化多任務損失函數，可實現網絡的端到端學習。

(2)包含密集塊的CNN網絡，簡寫為DCNN，此網絡結構與本文方法相似，只是網絡中未設置擴容卷積。

上述兩種方法的輸入與DDCNN一致，結果如圖9所示。從圖中可以看出：當訓練樣本中真實樣本數量大于等于10時，DDCNN的診斷準確率超過了99%；采用相同的生成數據時，MSCNN和DCNN方法的準確率略低。表明DCGAN在訓練樣本數大于或等于10時能夠很好地擬合真實數據的分布，與DDCNN結合可以獲得更準確的診斷結果。

圖9 4種深度網絡在少樣本時的故障診斷準確率對比Fig.9 Comparison of fault diagnosis accuracies obtained by applying four deep networks to bearings with few samples

當真實樣本數僅為5時，DDCNN仍能獲得96.54%的準確率，另外兩種網絡的準確性明顯下降，但仍維持在90%以上，說明DCGAN具有較好的數據生成能力，可以在樣本量十分小的情況下模擬分析數據的分布。而三種卷積網絡結構差異導致診斷性能不同，卷積結構的改變確實有助于提高網絡的分類性能。

圖9中CGAN為原始對抗網絡，與本文方法相比，當采用相同分類器DDCNN時，其分類準確性相比DCGAN明顯偏低，表明后者的數據模擬能力更強，可以較好地還原真實數據的分布。

4 變工況輪對軸承故障識別

4.1 數據說明

輪對軸承試驗臺如圖10所示，試驗臺包括驅動電機、皮帶傳送裝置、輪軸、輪對軸承、載荷施加裝置等，其中輪對軸承位置標記為圖10中①的位置，外圈與軸承座固定不旋轉，通過軸承上方安裝的加速計采集振動信號。實驗采集了不同工況條件下的振動數據，采樣頻率為12.8 kHz。為確保安全，實驗工況只達到現場實驗能允許的載荷和速度。軸承狀態分為10類，詳細樣本情況如表5所示。待分析數據中包含10種不同類型數據，包括正常和不同程度的故障數據和故障類型，用以檢驗網絡性能。

圖10 輪對軸承試驗臺Fig.10 Test platform for the wheelset bearing

表5 輪對軸承樣本類型及分類標簽

4.2 實驗結果與對比

將采集到的振動數據進行分割，每段樣本的長度為3136個數據點，相鄰樣本重疊500個數據點；設置4種少樣本情況，從每類實驗數據中隨機抽取5、10、50和100個真實樣本分別輸入DCGAN，分別通過生成器獲得400個樣本用于訓練；從實驗數據中每類提取100個樣本用于測試。在DCGAN生成的數據中隨機選取一個樣本進行對比，結果如圖11所示。圖11a為輪對軸承一個真實數據的部分頻譜圖，圖11b為生成器輸出的模擬數據從局部頻譜圖，圖11c所示為二者對比的情況，結果表明生成器具有較強的模擬能力。

圖12對比了3種分類器DDCNN、MSCNN和DCNN的分類結果。根據實驗結果可以發現：

(1)DCGAN的數據生成能力使其可以利用少量樣本模擬真實數據，不論選用何種分類器，均可獲得較為準確的識別結果，軸承狀態識別準確率最低為88.68%，最高為99.21%，可有效緩解少樣本導致的模型學習能力變差的問題。

圖12 3種深度學習方法對輪對軸承少樣本的診斷結果Fig.12 Accuracy comparisons using three deep learning algorithms for few samples of wheel bearings

(2)DDCNN具有更好的類別區分能力。與MSCNN和DCNN相比，DDCNN對輪對軸承的多狀態分類具有較高的識別準確率，能夠區分不同軸承的健康狀態與轉速變化；而MSCNN因其具有多尺度檢測能力，與加入密集塊結構的DCNN相比，前者的類別區分能力略好。

4.3 噪聲敏感性和不平衡樣本測試與對比

本節對上述3種深度網絡的噪聲敏感性和不平衡樣本情況進行對比分析。

首先，實驗中在DDCNN的訓練樣本中添加一定程度的高斯白噪聲，信噪比(signal-to-noise ratio，SNR)定義為有用信號的功率和噪聲功率的比值：

(4)

式中，Ps和Pn分別為有用信號s和噪聲信號n在周期T時間段內的平均功率。

選取10個實驗樣本生成的模擬數據分別添加了不同程度的高斯白噪聲，相應的信噪比為0 dB、-1 dB和-2 dB，表6顯示了3種網絡在此種情況下的分類準確性。對比表中結果可以看出，3種深度網絡的分類準確性相比圖12的結果有明顯的下降，但輸入樣本未經過信號預處理，通過深度學習依然可以提取出數據中的主要特征，能夠較為準確地區分軸承狀態。同時，與其他兩種方法相比，本文所提DDCNN仍具有較高的分類準確率，結果表明所構建的網絡對噪聲的敏感性較低，若與信號預處理方法結合可適應比較復雜的診斷情況。

表6 噪聲和不平衡樣本情況下3種深度網絡分類性能對比

其次，選取表5中的3種不同軸承類別，分別設置較少的訓練樣本，用以分析多分類模型在樣本不均衡時網絡的學習能力。表6中“C9-10”表示設定表5中的類別C9對應的訓練樣本為10個，而其他類別訓練樣本仍為400個，用以對比網絡性能差異。對其他兩類軸承數據C4和C6也將樣本數量設置為不均衡模式，分類結果見表6。其結果與圖12中10個真實樣本情況相近，表明不同類別間的樣本不平衡對網絡診斷性能影響較小，盡管部分類別的樣本較少，但生成器只需對該類別進行模擬即可，所得誤差較小，在實際使用時無需對每個類別采集同樣數量的數據。

通過實驗軸承與輪對軸承的驗證與分析結果表明，本文提出的DCGAN-DDCNN的結構能夠更好地應對復雜工況下的少樣本數據分析，并具有更好的類別辨識能力，能夠完成較為復雜的數據學習與智能診斷任務。

5 結論

本文提出了一種基于改進卷積生成對抗網絡的少樣本軸承智能診斷方法。利用生成對抗網絡的對抗學習功能，可從少量真實數據中提取其特征，進而生成相似的數據，用以緩解少樣本導致的網絡學習不充分的問題。同時，將密集塊與擴容卷積融入卷積神經網絡中，從網絡的深度和廣度兩個維度增強網絡的學習能力，同時避免深度網絡中的梯度消失問題，使其可以滿足較為復雜的故障診斷需求。在實驗軸承和輪對軸承數據上的驗證和對比結果表明，設定不同的損傷程度與運行工況(變轉速)等多個類別，DCGAN可以從較少的樣本上獲取數據分布，用模擬數據降低少樣本的影響；對比不同的深度卷積網絡，DDCNN可以更好地區分不同類別之間的差異，進而對軸承狀態做出準確判斷。當存在噪聲和樣本不均衡時，DCGAN與DDCNN的結合可以共同提高復雜工況、少樣本情況下的網絡故障診斷的準確性，在實際軸承智能故障診斷中具有可行性。