基于提升卷積神經網絡的航空發動機高速軸承智能故障診斷

韓淞宇,邵海東,*,姜洪開,張笑陽

1. 湖南大學 機械與運載工程學院,長沙 410082 2. 西北工業大學 民航學院,西安 710072 3. 中國航空工業集團公司西安航空計算技術研究所 民機事業部,西安 710065

航空發動機是飛機的“心臟”,其服役性能直接影響飛機的安全運行,每一次返廠維修的費用高達數百萬美元。現代航空發動機正朝著高速重載,輕量化、高可靠性方向發展,使得發動機的工作條件愈發惡劣。作為航空發動機轉子系統的“關節”,軸承長期于轉速高且波動劇烈,負載大且變化明顯的工況,將不可避免地產生性能衰退甚至引發各類故障。自動準確的航空發動機高速軸承故障診斷方法有助于提升航空發動機轉子系統的運行安全性和維修經濟性。基于振動信號特征提取構建淺層學習模型在航空發動機故障診斷領域已得到了廣泛研究。然而由于航空軸承的動力學特性復雜、故障形式多樣、原始振動信號具有強烈的非平穩性且含有大量干擾,致使淺層學習模型的診斷性能過度依賴信號預處理和人工特征提取。

人工智能的發展為故障診斷提供了新的思路和機遇,深度學習模型能在很大程度上擺脫對研究人員的診斷知識和工程經驗的依賴,形成了端到端的診斷系統。近年來,在軸承等關鍵機械部件的故障診斷中受到了極大關注：姜洪開等對飛行器關鍵部件的深度學習智能故障診斷研究進行了系統性綜述。Ding等結合了稀疏分解與卷積變分自編碼器,實現了航空發動機主軸承的微弱故障特征提取。邵海東等提出基于提升深度遷移自動編碼器的智能診斷方法實現不同機械設備間的遷移診斷。李巍華等改進了堆疊降噪自編碼器,提高了軸承的故障識別準確率。楊世錫等提出了基于長短期記憶網絡(Long Short-Term Memory, LSTM)和循環神經網絡(Recurrent Neural Network, RNN)的智能故障診斷方法,能快速準確地區分滾動軸承故障類型。Zhang等將原始振動信號轉化為二維圖像,采用軸承數據集驗證了該方法的有效性。此外,陳仁祥等提出了基于深度置信網絡遷移學習的診斷方法；胡蔦慶等提出基于經驗模態分解的CNN(Convolutional Neural Network)故障診斷方法；湯寶平等構建多共振分量融合卷積神經網絡；魏曉良等構建了基于LSTM和CNN的損傷程度識別方法；均對機電液系統的關鍵部件故障完成了準確診斷。

CNN減少了對故障診斷先驗知識的依賴性,然而傳統CNN的卷積核只有一個尺度,導致其難以提取具有較強魯棒性的多尺度特征適應不同類型故障,也難以自適應不同的故障數據集。相較于傳統CNN,多尺度CNN具有更豐富的視野域和泛化能力,能夠同時對信號的全局性信息和局部特征進行提取,近年來成為研究的熱點：張明德等闡述了多尺度卷積策略,利用軸承數據進行了驗證。彭鵬等利用多尺度卷積網絡實現噪聲干擾下旋轉矢量減速器的故障診斷。沈長青等提出了基于多尺度卷積類內自適應的深度遷移學習模型,有效診斷了變工況下軸承的多種故障模式。

多尺度CNN為故障診斷提供了新的思路,然而,現有研究多是基于平衡數據樣本開展。實測的航空高速軸承故障樣本遠小于健康樣本,在健康樣本與故障樣本不平衡時,深度學習模型診斷結果容易向大樣本偏斜,導致診斷性能的下降。數據增強和重采樣方法對小樣本進行數量補償是解決數據不平衡故障診斷問題時常采用的策略,如利用生成對抗網絡(Generative Adversarial Network, GAN和合成少數類過采樣技術(Synthetic Minority Oversampling Technique, SMOTE產生與原始數據樣本近似的生成數據樣本,平衡故障數據和健康數據之間的數量差異。然而,通過GAN進行訓練對樣本數量要求嚴苛,訓練樣本太少難以保證訓練效果,訓練樣本太多會脫離發動機的實際工況；利用SMOTE擴充樣本存在盲目性,可能導致樣本混疊,增加故障診斷的難度。此外,生成樣本會增加大量時間成本,因此更高效的研究工作需要展開,提升不平衡數據下端對端的軸承故障診斷性能。

為自動準確地診斷不平衡數據下航空發動機高速軸承的各類故障,提出了一種提升卷積神經網絡：多尺度卷積網絡用于提取數據的多尺度特征,使提取特征更具代表性；自適應權重單元用于提升相關特征的重要性,減少非相關特征的影響；LSTM進一步處理加權融合特征,增加特征的魯棒性；采用Focal Loss損失函數,提升網絡模型對故障樣本的關注程度。航空發動機高速軸承模擬試驗臺的振動加速度數據集證明了所提方法在樣本不平衡下故障診斷的有效性。

1 CNN和LSTM基本理論

1.1 CNN

由于權值共享,魯棒性好等優點,CNN在故障診斷中得到了廣泛應用。常見的CNN主要由卷積層,池化層,批量歸一化層和激活函數構成。卷積層的主要作用在于提取輸入信號的相關特征；池化層對卷積層提取的特征向量進行降維處理,進一步減少優化參數的數量,降低訓練過程中過擬合的可能；常見的池化方法包括最大值池化和平均值池化；批量歸一化層通過規范化手段將神經網絡的任意神經元輸入修正至標準正態分布,使訓練時每一批次的分布相似,避免了梯度離散的問題,提高了神經網絡的表現性能；激活函數的選擇對網絡模型的診斷準確率有顯著的影響,常見的Sigmoid函數隨著訓練次數的迭代容易導致梯度消失,ReLU函數有效地解決了這一問題,但隨著神經網絡層數的加深會導致神經元死亡,Swish函數綜合了兩者的優點,在避免梯度消失的同時提高了迭代速度,不同數據集的驗證證實其分類準確率高于ReLU函數,鑒于此,采取Swish作為所提模型的激活函數。

采用一維CNN直接處理振動信號更為合適,其運算可定義為

(1)

(2)

(3)

(4)

1.2 LSTM

CNN對時序信號的前后聯系不敏感,RNN被證明能夠更好學習時間序列中隱藏的發展趨勢。作為RNN的變體,LSTM解決了RNN記憶容量有限,易產生梯度離散的問題,對長時間序列有更強的適應能力。結合CNN和LSTM,能從空間和時間兩個維度實現對樣本表征性信息更全面的提取。

LSTM通過引入遺忘門,輸入門,輸出門等門結構,狀態向量,內存向量對循環神經網絡進行了改進,提高了網絡的表現性能。遺忘門作用于內存向量,控制之前的系統狀態信息對系統當前時刻狀態的影響,并對記憶內容進行篩選；輸入門通過更新實時狀態向量來控制系統對輸入的接受程度,并通過tanh函數將輸入數據進行壓縮；輸出門計算系統的輸出,并根據輸出完成對當前狀態向量的更新：

=(*[-1,]+)

(5)

′=tanh(*[-1,]+)

(6)

=(*[-1,]+)

(7)

=×′+×-1

(8)

=(*[-1,]+)

(9)

=×tanh()

(10)

式中：(·)為sigmoid激活函數；為上一時刻的狀態向量-1和當前時刻輸入與遺忘門之間的權重矩陣；為相關偏置；為遺忘門的輸出；、分別為、-1同輸入門之間的權重矩陣；、為相關偏置；為輸入門的輸出；′為候選單元狀態,和系統前一時刻內存向量-1共同決定系統當前時刻的內存向量;為-1、同輸出門之間的權重矩陣；為相關偏置；為輸出門的輸出；為更新之后當前時刻的狀態向量。

2 所提方法

2.1 多尺度特征提取網絡

準確故障診斷的關鍵之一在于提取特征是否能夠反映不同類型信號的差異性,單尺度的卷積核只能對信號的特定周期進行覆蓋,提取特征時缺乏自適應性,難以在不同的機械設備故障診斷中得到應用。多尺度特征提取網絡將不同尺寸的卷積核作用于不同的卷積單元,其不同卷積層視野域的迭代計算公式為

=(+1-1)+

(11)

式中：為卷積核的尺寸；為卷積步長；為視野域；下標為卷積層數。

當步長和迭代次數一定時,卷積核的大小反映了視野域的大小。小尺寸的卷積核更關注數據局部之間的聯系,注重定位信號中的關鍵信息,大尺寸的卷積核利于提取信號的全局特征。將不同大小卷積核的卷積網絡并行作用于同一信號,能學習到信號不同尺度的抽象特征,從多個尺度挖掘具有識別性的振動信息,增強網絡故障特征識別的魯棒性。組合不同尺寸的卷積核能夠適應輸入信號的改變,使模型具有更強的泛化能力。

多尺度特征提取網絡采用不同大小的卷積核對輸入信號的視野域進行感受,不僅能夠降低選擇卷積核尺寸的經驗要求,更能提取魯棒性好的多尺度特征。相比于單尺度特征,多尺度特征更能體現對不同故障數據的描述。所提方法的多尺度網絡構建了相同形狀的平行通道,采用不同大小的卷積核搭配不同數量的過濾器提取樣本的多尺度特征。為了豐富特征的視野尺度,卷積核尺寸應該覆蓋一定的范圍,選擇單數的卷積核,能夠匹配數據的中心點,不易產生特征偏移,因此不同平行通道的卷積核尺寸設置為：3、11、17。此外,每個平行通道添加了旁路連接,利用大小為1的卷積核對信號的關鍵信息進行定位。

多尺度特征提取網絡的有關結構參數和示意圖由表1和圖1給出,過程可以描述為

(12)

表1 多尺度特征提取網絡結構參數

圖1 多尺度特征提取網絡結構示意圖Fig.1 Structure of multiscale feature extraction network

2.2 自適應權重單元

通過多尺度特征提取網絡提取的特征具有同等的重要性,然而不同的特征對故障診斷結果理應有不一樣的貢獻率。為了提升相關特征的貢獻,降低非相關特征對故障診斷結果的干擾,設計了自適應權重單元對多尺度特征進一步處理。如圖2所示,首先利用卷積層和最大池化層對輸入特征進行壓縮,使特征的重要性更容易被學習,然后利用大小為1的卷積神經網絡為每個特征生成對應權重值,上采樣層用于將權重還原至和輸入特征相同的尺寸和維度,使特征權重值的形狀和特征形狀對應,便于乘積運算,最后通過Softmax函數將特征的重要性壓縮至0～1之間。自適應權重單元本質上是所提方法中的網絡連接層,利用分類損失函數進行訓練,通過誤差的反向傳播即可完成有關參數的更新,從而每次訓練過程中計算的特征重要性也會發生變化,即完成權重的自適應過程：

(13)

(14)

(15)

(16)

圖2 自適應權重單元結構Fig.2 Structure of adaptive weight unit

2.3 Focal Loss

在樣本高度不平衡時,損失函數同樣對故障診斷性能產生了影響,傳統的交叉熵損失(Cross Entropy Loss,CE Loss)通過計算真實分布與預測分布的差異計算損失值：

(17)

1) CE Loss將每一類型樣本的分類成本視為相等,但訓練過程中的總損失是所有樣本的CE Loss之和。當健康樣本遠多于故障樣本時,健康樣本的損失值在總損失中占有足夠高的比例,當對損失值進行最小優化時,由于故障樣本的CE Loss對整體損失的貢獻程度很小,當健康樣本已經正確分類,整體的損失值就會降低到相對較低的水平,容易導致神經網絡訓練停滯。

2) CE Loss對易混淆樣本的重視程度有待提高。如對于一個類的故障診斷問題,存在兩個故障類別的樣本,在某次訓練過程中輸出分別為[0.19…0.190.200.19…0.19],[0.10…0.100.500.10…0.10],在進行下一次訓練過程時,前者被誤判為其他樣本的概率顯然高于后者,提高易混淆樣本的損失值所占比例有利于提高整體的故障診斷準確率。

針對上述問題,采用Focal Loss損失函數作為訓練過程中的損失函數：

(18)

相較于CE Loss,做出如下改進：

1) 引入平衡因子平衡健康樣本與故障樣本之間的數量差異,其與不同故障類型的樣本數量呈負相關關系。

2) 引入放縮因子用于降低易分類樣本損失所占比例,增加易混淆樣本的損失貢獻,使訓練過程中神經網絡更關注易混淆樣本。

2.3 所提方法步驟流程

所提方法用于不平衡數據下的航空發動機高速軸承故障診斷,主要步驟如下：

采用三軸振動傳感器采集各種狀態下航空發動機高速軸承振動加速度數據,其中健康樣本遠多于故障樣本。

對振動加速度數據進行線性歸一化處理,歸一化的范圍為[-1,1]。

將3個方向的振動數據簡單拼接,使每個數據點包含3個方向的振動數據,并將數據集劃分為訓練樣本和測試樣本。

構建基于自適應權重和多尺度卷積的提升卷積神經網絡模型,訓練過程中采用Focal Loss損失函數。

測試樣本進行故障診斷,不同的評價指標評估所提模型的診斷性能。

3 航空發動機高速軸承試驗數據集描述

3.1 航空發動機高速軸承故障模擬試驗臺

采用的數據來自意大利都靈理工大學機械和航天工程系的航空發動機高速軸承故障模擬試驗臺,該試驗臺可測量航空軸承在不同高轉速和不同重載荷下的振動加速度數據。

圖3為實驗平臺,B1、B2、B3為3個軸承支座,A1和A2處各安裝1個三軸振動加速度傳感器,分別用于測量損壞軸承支架B1處和受外載荷最大B2處的振動數據。使用Rockwell工具在軸承內圈或滾子上產生不同大小的錐形壓痕,模擬不同的故障類型,軸承不同健康狀態的測量過程相同：首先在空載下以100 Hz轉頻(6 000 r/min)短暫運行,檢查安裝是否正確,正確安裝后逐步改變外載荷的大小,并以100 Hz為步長提高。當軸的轉速穩定后就通過傳感器對振動數據進行測量,表2給出了轉速和外載荷之間的試驗組合。

圖3 實驗平臺Fig.3 Experimental platform

表2 測試負載和旋轉速度Table 2 Testing load and rotating speed

3.2 不平衡數據集構造

為模擬航空發動機軸承長期運行于高速和重載的真實工況,且進一步測試所提方法的故障狀態識別性能,選取3種高轉速(18 000、24 000、30 000 r/min)和2種大載荷下(1 000、1 400 N)的振動數據用于驗證所提方法有效性,不僅可以更好地模擬航空發動機轉速的波動,還可以提升故障診斷任務的復雜性。為了模擬訓練樣本的不平衡情形,將健康類別的訓練樣本設置為1 000個,故障類別的訓練樣本數量滿足均值為50,方差為10的高斯正態分布,進行測試時,健康樣本和各故障類型樣本均設置為100個。傳感器不同通道的數據體現了對故障類型的一致性描述,雖然在分布上有所差異,但本質上屬于同構數據,采用直接拼接的處理方式不僅可以減少數量的損失,也能更全面探索不同通道間互補的信息。鑒于此,選擇、、方向各1 200個數據點依次拼接成1 200×3的樣本。共構建2個實驗數據集T1和T2,相關的具體描述由表3和表4給出。

表3 數據集T1描述 (載荷=1 400 N)Table 3 Description of data set T1 (載荷=1 400 N)

表4 數據集T2描述 (載荷=1 000 N)Table 4 Description of data set T2 (載荷=1 000 N)

4 案例驗證

所提方法與目前常用的深度學習智能診斷方法對比,包括：CNN1 (CE Loss)、CNN2 (Focal Loss)、卷積自編碼器和雙向LSTM。CNN1和CNN2采用單一尺寸的卷積核,堆疊層數與所提方法相同,對比方法均采用ReLU函數作為激活函數。分別對數據集T1和數據集T2進行故障診斷。為防止隨機誤差對實驗的干擾,所有的實驗重復進行10次,并取實驗的平均值作為該種方法的平均診斷準確率,具體的結果由表5給出。

表5 不同方法故障診斷結果對比

案例運行環境簡單介紹：CPU：i5-10400F；GPU：GTX1650；運行系統：Windows10；運行軟件版本：Tensorflow2.1。案例中參數設置如下：設置為2；為第類樣本數量占總樣本數量的倒數再經過歸一化處理后的值；迭代次數設置為100次；初始學習率為0.000 1,若訓練過程中連續5次損失值未下降,學習率乘以0.85進行更新。訓練過程中,CNN1采用CE Loss函數,其余所有方法均使用Focal Loss函數。

結果顯示所提方法對數據集T1的平均診斷正確率為98.20%±0.834%,對數據集T2的平均診斷正確率為98.92%±0.532%,均高于其余對比方法。采用Focal Loss后,CNN2在診斷準確率上相較CNN1有了明顯提升,分別提高了約20個百分點和17個百分點,但結果顯示Focal Loss損失函數只能在訓練過程中對小樣本的數量進行補償,并不能保證CNN能準確提取不同故障類型具有代表性的樣本特征,因此CNN2相較CNN1,雖然故障診斷準確率有了提升,但由于提取的故障樣本特征依然不具有充分的表征性,仍難以實現高性能的故障診斷。

當訓練樣本數量不平衡時,精確率和召回率是評估診斷性能的優良指標：

(19)

(20)

式中：pre為精確率；recall為召回率；TP為正樣本預測為正樣本的個數；FP 為負樣本預測為正樣本的個數；FN為正樣本預測為負樣本的個數。

圖4和圖5給出了訓練過程中所提方法針對數據集T1、T2的故障診斷準確率,精確率,召回率的迭代變化曲線,進一步對所提方法的故障診斷性能進行評估。結果顯示當訓練次數超過20次之后,訓練集的各項指標已經達到較高的水準,只在小范圍內進行波動。當迭代次數達到100次時,各項指標都達到了100%的水準；測試曲線的各項指標略低于訓練曲線,并未出現神經網絡過擬合導致測試精度降低的現象,證明所提方法在訓練樣本不平衡的情況下針對測試樣本的診斷性能也維持原有的高水平。

圖4 評價指標曲線-T1Fig.4 Curves of evaluation indexes-T1

圖5 評價指標曲線-T2Fig.5 Curves of evaluation indexes-T2

為更好評估模型的診斷性能,分別給出某次測試過程中所提方法關于數據集T1和T2的故障診斷混淆矩陣,如圖6和圖7所示。圖中橫坐標代表的是真實標簽,縱坐標代表的是預測標簽。

圖6結果顯示,在對數據集T1進行測量時,類別為1的樣本診斷準確率為91%,被誤分為類別3,8的比例分別為8%,1%；類別為2的樣本診斷準確率為88%,被誤分為類別4的比例為12%；類別為4的樣本診斷準確率為91%,被誤分為類別2的比例為9%,其余樣本的診斷準確率均達到了100%。

圖6 所提方法診斷結果混淆矩陣-T1Fig.6 Confusion matrix of diagnosis results of proposed method-T1

圖7結果顯示,在對數據集T2進行測量時,類別為3的樣本診斷準確率為71%,被誤分為類別0的比例達到了29%；其余樣本的診斷準確率均高于95%,其中類別1的診斷準確率為96%,少量樣本被誤判為類別0和類別3；除類別3,類別1外,其余樣本的診斷準確率均達到了100%兩實驗集的混淆矩陣進一步證明所提方法在不平衡樣本的情況下更能適應不同故障信號的變化,提取的特征具有較好的差異性,能夠完成高準確率的航空發動機軸承故障診斷。

圖7 所提方法診斷結果混淆矩陣-T2Fig.7 Confusion matrix of diagnosis results of proposed method-T2

采用T分布隨機鄰域嵌入(T-Stochastic Neighbor Embedding,T-SNE)方法可視化某次測試過程中CNN1,CNN2,和所提方法的最終輸出特征,如圖8和圖9所示。

圖8展示了3種對比方法對數據集T1進行故障診斷時提取特征的二維空間分布圖。圖像顯示所提方法提取的特征在二維空間上的聚類非常清晰,相同類型樣本之間的分布更加緊湊,只有少量不同類別樣本的輸出特征分布在臨近的區域。結果同樣顯示CNN1和CNN2能夠區分個別樣本類型,提取特征在二維空間上形成聚類分布,但多數樣本產生了重疊現象,證明單一尺寸卷積核可實現對某些類型振動信號特征的提取,但難以適應振動信號的改變,導致診斷準確率難以達到較高水平。

圖8 特征二維可視化-T1Fig.8 Two-dimensional visualization of features-T1

圖9展示了3種對比方法對數據集T2進行故障診斷時提取特征的二維空間分布圖。相較于數據集T1、CNN1和CNN2能夠識別更多類別的樣本,Focal Loss提高了卷積神經網絡對小樣本損失的重視,使CNN2提取特征的聚類現象優于CNN1,但兩種方法依然無法適應所有類型的輸入信號,產生重疊的樣本類別和數量依然多于所提方法。

圖9 特征二維可視化-T2Fig.9 Two-dimensional visualization of features-T2

兩組數據集的特征二維空間分布圖的對比證實了在不平衡數據集下,所提方法提取的多尺度特征具有更強的識別性,能夠反映不同故障信號之間的差異。

自適應權重單元對特征重要性進行了區分,提高相關特征的重要性利于實現高性能的故障診斷。圖10給出了訓練過程中卷積核尺寸為17的特征提取網絡提取特征的權重自適應過程,數據顯示提取特征被賦予了不同的權重,其重要性得到有效區分。權重隨著迭代進行而改變,當迭代50次和100次時,所提模型的分類準確率在峰值水平波動,對應的特征重要性也存在很大程度的相似,說明了自適應權重單元的必要性。

圖10 特征權重自適應過程Fig.10 Adaptive process of feature weights

5 結 論

1) 相較于單尺度神經網絡,多尺度卷積神經網絡更能夠適應不同的故障信號,具有更強的泛化能力,在樣本不平衡時能夠挖掘表征性特征,經過自適應權值單元的加權融合處理能使多尺度特征更具代表性,所提模型能夠充分挖掘故障樣本的信息,在樣本不平衡條件下實現高性能的故障診斷。

2) 不平衡數據集下采用Focal Loss損失函數能夠提高卷積神經網絡對小樣本和易混淆樣本的關注程度,進而在一定程度上提高故障診斷的準確率。