基于多傳感器的不平衡數據軸承故障診斷

董逸凡,文傳博,王正

(上海電機學院 電氣學院,上海 201306)

軸承是電動機的重要部件,對電動機的健康可靠運行有著極大影響[1],約40%大型機械系統,90%小型機械系統的故障可歸因于軸承缺陷[2],因此,軸承故障診斷的研究具有十分重要的現實意義。近年來,基于數據驅動的故障診斷算法發展迅速,但其會遇到數據不平衡的問題,即不同類別的樣本量差異非常大。在實際工況中,正常狀態下收集到的數據遠遠多于故障狀態下的數據,從而帶來以下問題:1)少數類樣本所包含的信息有限,導致少數類的識別率低;2)許多算法在存在不確定時往往傾向于把樣本分類為多數類,這將極大地影響算法精度[3]。因此,解決不平衡數據所帶來的影響是當前研究的熱點。

目前,國內外學者試圖從以下幾個方面解決不平衡問題:

1)數據層面,研究主要涵蓋了上采樣、下采樣以及數據增廣。文獻[4]提出一種二次數據增強以及深度卷積神經網絡(Convolutional Neural Networks,CNN)的故障診斷模型,通過重采樣構造平衡數據集,再利用一維CNN進行特征提取;文獻[5]結合過采樣和欠采樣方法,提出了一種基于混合采樣和支持向量機(Support Vector Machine,SVM)的診斷方法;文獻[6]結合CNN設計了一種新的生成對抗網絡(Generative Adversarial Networks,GAN)模型,使用CNN提取特征后再利用GAN將特征解碼生成樣本。

2)算法層面,主要是研究不平衡權重對模型的影響。文獻[7]提出一種基于自適應增強算法(Adaptive Boosting,AdaBoost)集成加權寬度學習系統的不平衡數據分類方法;文獻[8]提出一種自適應權重和多尺度卷積的提升CNN,對多尺度特征進行加權融合,增加重要特征的貢獻度,減少非相關特征的影響。

3)損失函數層面,主要通過對少數類樣本的損失進行加權從而使得算法更關注少數類樣本[9-10]。

4)試驗驗證,通過大量試驗將不平衡問題轉換為樣本的難易區分問題,從另一個角度解決不平衡問題[11-12]。

上述研究雖然考慮了數據不平衡問題,但并未考慮到實際工況下的數據源往往并不單一,而大量文獻表明,使用多傳感器數據將會加強診斷的可靠性和穩定性并大大提高診斷精度:文獻[13]通過變分模態分解和改進深度自編碼器實現了多域特征集的融合;文獻[14]使用快速傅里葉變換將多傳感器信號轉為頻域信號,使用CNN和動態路由算法進行故障診斷;文獻[15]將每個傳感器數據視為一個通道,使用一維CNN對信號進行特征提取。

綜上,本文基于多傳感器數據,從數據增強和損失函數2個方面對數據不平衡問題展開研究。首先,使用多傳感器數據代替單傳感器數據進行診斷,增強數據所包含的信息;然后,針對數據不平衡問題設計了一種基于多傳感器的帶輔助分類器的生成對抗網絡(Auxiliary Classifier GAN,ACGAN),將少數類多傳感器數據樣本輸入ACGAN生成足量的多維高質量數據;最后,提出了一種改進的均值焦點損失函數(m-Focal Loss),通過加入均值實時更新損失函數的調制系數,從而使得分類模型在訓練時更專注于難分類的樣本,進一步提高模型診斷效果。

1 理論分析

1.1 ACGAN

ACGAN是GAN架構的一個變體,特點是使用一個分類器對生成數據進行分類,若生成數據具有較高的分類準確率,即可認為所生成的數據具有高質量的特點。

如圖1所示:ACGAN由生成器和鑒別器組成,同時在鑒別器的輸出部分加入一個輔助分類器提高性能。將類標簽和噪聲輸入鑒別器,生成假數據后送入鑒別器區分真假與類別,然后得到損失進行反向傳播,當鑒別器無法區分所生成的假數據的真假并能夠準確區分類別時,則說明網絡具有生成高質量數據的能力。

圖1 ACGAN的結構

傳統的ACGAN通常使用全連接層構建生成器和鑒別器,而本文加入卷積層和轉置卷積層代替對應部分,不僅可以減少模型參數量,降低計算負荷,提高數據生成速度,而且可以生成多維數據,避免分別生成每個維度數據而造成的數據質量下降問題。如果將每種傳感器視為一個維度,則可將所生成的多維數據用于擴充原多傳感器數據集,從而緩解原數據集的不平衡對分類模型精度的影響。同時,ACGAN所特有的鑒定-分類結構可以生成高質量的數據,保證所生成數據對于模型訓練具有正面作用。

生成器由4層一維轉置卷積組成,一組一維的隨機噪聲輸入生成器后輸出生成多維的假數據。鑒別器和分類器共享3層的一維卷積進行特征提取,分別對輸出進行一維卷積、全局池化,經過全連接層和激活函數Sigmoid得到鑒別結果并經過全連接層和Softmax分類器得到分類結果。

1.2 m-Focal Loss

以二分類為例,標準交叉熵損失(CrossEntropy Loss,CE)函數可表示為

(1)

式中:pt為預測樣本屬于1的概率;y為標簽,取值為{0,1}。當y=0時,假如某個樣本x預測為0這個類的概率pt=a,那么損失就是-loga。多分類以此類推。

對于標準交叉熵損失,根據樣本比例加權雖然可以提高少數類樣本的損失,但其本身也屬于難分類樣本,加權乘積后的效果并不好;另外,負樣本數量太大,占總損失值的大部分,而且多是容易分類的。于是,在標準交叉熵損失前加上一個調制系數γ,通過減小易分類樣本的權重使模型在訓練時更專注于難分類的樣本,即交點損失(Focal Loss,FL)函數[16],可表示為

LFL(pt)=-(1-pt)γlogpt。

(2)

交點損失函數將樣本類別不平衡問題轉化為樣本的難易分類問題,在一定程度上提高了分類精度,但其難分類區間固定,不利于網絡后期的訓練。

統計不平衡數據早期訓練中的結果概率并繪制成密度分布圖,結果如圖2所示。觀察不平衡數據的早期訓練結果概率密度分布可以發現,每次早期訓練結果的概率可以近似看作雙峰分布。將2個峰看作較易樣本和較難樣本的集合,以概率均值作為與CE的交點,根據每一次結果的概率分布情況放大或縮小難易樣本的調制系數,就可以完成對調制系數的動態更新:因此,提出一種改進的均值交點損失(m-Focal Loss,m-FL)函數,可表示為

(a) 均值為0.301是

Lm-FL(pt)=-ka-ptlogpt,

(3)

式中:a為概率均值,隨每次訓練結果更新。相比標準交叉熵損失,均值交點損失值在均值a前放大且在a之后縮小。

3種損失函數在不同概率下的損失值曲線如圖3所示:對于γ=5的FL曲線,難分類樣本區間大概在0～0.3, 即當結果概率超過0.3則反向傳播的梯度幾乎為0,在訓練后期易出現梯度消失;m-FL由于存在動態更新的調制系數,隨著每次訓練結果概率均值的不斷變大,相對難分類樣本區間也在變大,對整個訓練過程具有良好的指導作用。

(a) CE與FL

2 模型結構與診斷流程

2.1 ACGAN模型結構

本文采用的生成器和鑒別器如圖4所示:生成器由4層一維轉置卷積組成,一組一維的隨機噪聲輸入生成器后輸出生成多維的假數據。鑒別器和分類器共享3層的一維卷積進行特征提取,分別對輸出進行一維卷積、全局池化,經過全連接層和激活函數Sigmoid得到鑒別結果,經過全連接層和Softmax分類器得到分類結果。

(a) 生成器

ACGAN的生成器和鑒別器的模型參數見表1,其中n為傳感器個數,即數據的通道數。隨機生成一組一維長度100的數據送入生成器,輸出一組n維長度512的數據;然后將生成數據送入鑒別器,經過特征提取得出鑒別結果和分類結果。

表1 生成器和鑒別器的結構及參數

2.2 故障診斷流程

本文所設計的故障診斷流程如圖5所示:首先,將數據按比例劃分為訓練集、驗證集和測試集并進行標準化;然后,訓練ACGAN并分別生成每一類小樣本,將生成數據與原始數據混合后送入1DCNN進行特征提取;最后,通過Softmax分類并使用m-FL對反向傳播進行引導,在達到所設定的最大循環次數后結束訓練。

圖5 故障診斷流程

3 試驗分析

試驗采用美國凱斯西儲大學(CWRU)軸承數據集進行測試并以實驗室數據集進行驗證,利用Intel(R)Core(TM)i5-10400 CPU @ 2.90GHz 2.90 GHz + NVIDIA GeForce GTX 2060設備進行數據分析,并使用均值平均精準率(Mean Average Precision,MAP)衡量模型的測試結果。

平均精度(Average Precision,AP)是每類的精準率(precision)和召回率(recall)構成曲線的面積,其表達式為

(4)

(5)

(6)

式中:n為召回率的個數;ri為按升序排列的第i個召回率值;p(ri+1)為ri+1對應的最大精準率;TP為真正例;FN為假負例;FP為假正例。

均值平均精準率則定義為每類平均精度的均值,可表示為

(7)

式中:K為總類別數。

3.1 數據集介紹

選用CWRU軸承數據集中12 kHz,0 kW負載,1 797 r/min轉速下在驅動端和風扇端采集的振動加速度信號。6205軸承的運行狀態分為正常、內圈故障、外圈故障以及鋼球故障,故障直徑均包括0.178,0.356,0.533 mm這3種尺寸,總計10種狀態。根據實際工況,設置正常狀態下訓練集、驗證集和測試集的樣本數為100/50/50。各故障狀態的訓練集、驗證集和測試集樣本數按1∶1,2∶1,5∶1,10∶1的不平衡數據比例分別等比縮為100/50/50,50/25/25,20/10/10,10/5/5,數據長度均為512。

實驗室使用的電動機額定轉速為1 420 r/min,軸承型號為6206-2RS,采樣頻率為10 kHz。軸承運行狀態分為正常、內圈故障、外圈故障以及鋼球故障。內、外圈故障為由砂輪機加工形成的條狀磨損,故障深度為0.6 mm,鋼球故障由機器擠壓而成。由于0負載、25%負載以及50%負載對應的電動機實際轉速不同,同類故障狀態下振動信號的特征也不相同[17-19],因此細分為12種狀態。試驗數據由安裝在電動機徑向、橫向和軸向的振動傳感器和定子的三相電壓傳感器采集,共6通道。振動信號用于檢測結構缺陷,電壓信號用于測量故障期間電動機電源的波動,結合2種信號可以更全面地描述電動機狀態。設置正常狀態下訓練集、驗證集和測試集的樣本數為100/50/50,各故障狀態同樣按1∶1,2∶1,5∶1,10∶1的不平衡數據比例劃分訓練集、驗證集和測試集,數據長度均為512。

3.2 多傳感器數據

使用多傳感器數據驗證本文所提方法,并與單傳感器數據試驗進行對比以驗證多傳感器數據對不平衡數據下模型精度的提升作用。試驗結果見表2:在CWRU數據集上,使用多傳感器數據,在不平衡程度從1∶1到10∶1的情況下,PmAP從0.979下降到了0.921,只降低了0.058,而使用單傳感器數據時則從0.955降到0.871,降低了0.084;在實驗室數據集上,使用多傳感器和單傳感器時PmAP分別下降了0.081和0.130;同時,在同一不平衡比例下,使用多傳感器數據時的PmAP始終更高;試驗結果充分說明使用多傳感器數據可以有效抑制不平衡數據帶來的精度下降,增強診斷結果的可靠性和穩定性。

表2 多傳感器數據對不平衡數據故障診斷PmAP的影響

3.3 數據增強

使用ACGAN生成高質量多傳感器數據,在不平衡程度分別為10∶1,5∶1和2∶1的情況下將數據補全為1∶1。多傳感器下數據增強試驗的PmAP折線圖如圖6所示:盡管無法將診斷結果還原成不平衡比例1∶1下使用原始數據時的精度,但數據增強后的PmAP有了巨大地提高,這說明本文所構造的ACGAN具有產生高質量多維數據的能力,使用ACGAN擴充數據集可在一定程度上遏制數據不平衡造成的精度下降問題。

圖6 多傳感器下數據增強試驗的PmAP

使用欠采樣、隨機偏度過采樣技術(Random Skewness Oversampling Technique,RSOT)、人工少數類過采樣法(Synthetic Minority Over-Sampling Technique,SMOTE)和GAN進行數據處理,對比驗證本文模型在不平衡多傳感器數據處理上的優勢。各數據處理技術的結果如圖7所示:欠采樣方法效果最差,ROST和SMOTE這2種過采樣技術與GAN的效果接近,但均不如本文所設計的ACGAN。欠采樣減少了大樣本數據從而使數據達到平衡,但同時也拋棄了大樣本數據所具有的特征信息,導致樣本難以區分,在小數據集中尤其明顯;而ACGAN在數據生成時經過輔助分類器鑒定,其所攜帶的特征信息更明顯,補充了數據集的同時也使其更容易被分類。

圖7 各數據處理技術的PmAP

3.4 損失函數

分別使用CE,FL以及m-FL對不平衡狀態下的軸承數據進行診斷,為使差異更明顯,不使用ACGAN進行數據擴充,試驗結果見表3:在不平衡比例為1∶1時,3種損失函數的效果接近,而在其他不平衡比例時m-FL均取得了更高的精度;在10∶1的不平衡比例下,CWRU數據集中m-FL的PmAP分別比CE和FL高0.015和0.029,實驗室數據集中m-FL的PmAP則高出了0.037和0.059,說明m-FL動態調整調制系數從而放大難分類樣本的概率,縮小易分類樣本的概率,相比于CE和FL更有利于指導網絡向少數類樣本進行學習。

表3 不同損失函數在不平衡比例下的PmAP

3.5 網絡調參

對于GAN網絡,由于生成器輸入、輸出的尺寸固定,每層的卷積核參數需計算得到。因此,在3層結構鑒別器網絡的基礎上改變鑒別器的層數結構,通過觀察鑒別器和生成器訓練中的損失函數查看網絡調參結果,如圖8所示:2層的卷積結構使鑒別器偏弱,無法很好地指導生成器,鑒別器和生成器的損失值增加,且振幅比較大;而4層的卷積結構使得鑒別器過強,梯度消失,損失函數劇烈震蕩;本文所提3層卷積結構的鑒別器和生成器的損失函數最終分別在0.75和0上下小幅振蕩,具有較優的數據生成能力。

(a) 3層卷積結構

4 結論

針對不平衡數據影響故障診斷模型精度的問題,設計了一種基于多傳感器的輔助分類對抗神經網絡模型,并提出改進m-FL以加強損失函數對網絡訓練的指導能力,通過CWRU和實驗室數據集對所提方法進行了驗證,得到以下結論:

1)使用多傳感器數據可以有效抑制不平衡數據帶來的精度下降問題。

2)加入ACGAN所生成的樣本可大大提高不平衡數據下軸承故障診斷模型的精度。

3)所提出的m-FL,可以帶來比CE,FL等損失函數更高的PmAP。