基于深度學習的航空發動機傳感器故障檢測*

劉云龍， 謝壽生， 鄭曉飛， 邊 濤

(空軍工程大學 航空航天工程學院，陜西 西安 710038)

基于深度學習的航空發動機傳感器故障檢測*

劉云龍， 謝壽生， 鄭曉飛， 邊 濤

(空軍工程大學 航空航天工程學院，陜西 西安 710038)

針對傳統反向傳播(BP)神經網絡和支持向量機(SVM)存在的過擬合、維數災難、參數選擇困難等問題，提出了一種基于深度學習算法的航空發動機傳感器故障檢測方法。對發動機參數記錄儀采集的多維數據進行預處理，建立基于深度置信網絡(DBN)的故障檢測模型，利用預處理后的數據對檢測模型進行訓練，經過DBN故障檢測模型逐層特征學習實現了傳感器故障檢測。仿真結果表明：在無人工特征提取和人工特征提取的情況下，基于DBN故障檢測的準確率均高于BP神經網絡和SVM模型。

航空發動機傳感器； 故障檢測； 深度學習； 深度置信網絡； 飛參數據

0 引 言

航空發動機傳感器通常于在高溫、高壓等惡劣、復雜的工作環境下，傳感器故障頻發，占發動機控制系統故障的很大比例[1]。因此,研究傳感器故障檢測技術，提高故障檢測水平，對于保證飛行安全具有重要意義。

傳感器故障診斷技術理論方法主要分為三大類：基于冗余技術的傳感器故障診斷方法、基于信號處理的故障診斷方法和人工智能方法[2，3]。在人工智能方法中，反向傳播(back propogation,BP)神經網絡、支持向量機(support vector machine,SVM)及其改進方法被廣泛用于航空發動機傳感器故障檢測中，并取得了一定的成果。在長期實踐中，BP神經網絡和SVM等具有單隱含層節點的淺層機器學習模型的問題顯現。淺層模型假設靠人工經驗抽取樣本特征，因此，特征的好壞成為檢測系統的瓶頸[4]。此外，神經網絡和SVM存在過擬合、維數災難、參數選擇困難等問題[5]。深度學習通過模擬人腦對知識的抽象過程，從訓練樣本中學習并獲得統計規律，從而解決分類(故障檢測)問題。其實質是通過構建具有很多隱含層的機器學習模型和海量的訓練數據，學習更有用的特征，最終提升分類或預測的準確性。其主要特點是模型結構深度往往包含多層隱節點，通過逐層特征變換，將樣本在原空間的特征變換到新的特征空間，分類更加簡單[6]。

本文以發動機傳感器數據檢測為例，提出了一種基于大數據—深度學習的故障檢測方法。利用飛行參數記錄儀記錄的機載傳感器數據之間的關聯性，進行數據集訓練深度置信網絡(deep belief network,DBN)，實現傳感器故障檢測。

1 數據的采集與預處理

文獻[7～12]顯示了DBN優異的特征提取能力。本文從某型國產飛機的參數據中隨機挑選了7000組數據，建立了一個13維的數據集，數據參數如表1。

表1 13維數據

1)數據預處理：采取文獻[13]中基于狀態匹配與SVM的缺失飛行參數方法，對缺失飛行數據進行補充。由于DBN的輸出層輸出樣本的聯合概率分布，其輸出值在[0，1]之間，因此,需要對輸入數據在[0，1]區間上進行歸一化處理

(1)

2)數據分組:將7 000組數據劃分為2組，第一組為包含6 850組數據的訓練數據：{(α1i,α2i,N1i,N2i,di,φi,pi,vi,TEGi,θi,hi,FFi,ti)，Yi}，第二組為包含150組數據的測試數據：{(α1j,α2j,N1j,N2j,dj,φj,pj,vj,TEGj,θj,hj,FFj,tj)Yj}，其中,Yi,Yj分別為每組數據對應的標簽，即正常或故障。

2 基于DBN的故障檢測模型

2.1DBN的構建

根據DBN的原理[6～16]對DBN建模。

圖1為一個含3個隱含層的DBN，可以看出使最高2層保留無向圖模型，其余各層均為有向置信網絡，且方向由上至下。優點是使低層的輸出為頂層提供一個可以參考的關聯，使其與記憶的內容聯系在一起，便于微調[15]。圖中可視層v的輸入為樣本，h1,h2,,h3為第1，2，3隱含層；W為相鄰2個神經元連接權值。給出含有l個隱含層的置信網絡的輸出為

(2)

圖1 具有3個隱含層的DBN結構

式中 v=h0;P(hk|hk+1)為第k層受限制玻爾茲曼機(restrictedBoltzmannmachine,RBM)可視層與隱含層之間的條件分布,即針對該聯合概率分布進行網絡學習。由輸入數據集可知，可視層v的神經元個數為13。通過大量實驗，得到 nh1=100,nh2∈[15～35],nh3∈[5～25]。為了得到最優的隱含層節點數，利用RBM的重構誤差進行尋優，并繪制等高線誤差，如圖2。重構誤差[14]具體計算步驟如下：

1)初始化誤差Error=0；

2)輸入訓練樣本v(i)、RBM隱層單元數m、最大循環迭代次數T,對于v(i)，i∈{1,2,…,K|；

3)對隱含層采樣，計算P(h|v(i),θ)，從條件概率分布中抽取h∈{0,1}；

從圖2可以看出:當nh2=20,nh3=10時，重構誤差最小，由于本文針對正常、故障兩類問題分類，因此，輸出層節點數為2，最終網絡結構為13—100—20—10—2。

圖2 訓練樣本重構誤差隨nh2,nh3節點數目變化

2.2DBN訓練

DBN訓練分為2個主要步驟：用無監督貪婪算法對每一層RBM進行訓練；對整個網絡進行微調，使整個網絡達到最優。步驟如下：

1)以v=h0作為輸入，訓練第1個RBM，使其達到穩定狀態；

2)將第1個RBM學習到外界輸入的聯合概率分布作為第2個RBM的可視層輸入，直至穩定狀態；

3)重復執行步驟(2)，直到最后一個RBM；

4)將最大似然函數作為目標函數，用BP算法微調各層參數，使整個網絡達到最優。

步驟(1)～步驟(3)，通過學習訓練數據獲得RBM的參數集θ=(wij,ai,bj)。其中，wij為可視層第i個節點與隱含層第j個節點的連接權值；ai為可視層第i個節點的偏置；bj為隱含層第j個節點的偏置。RBM參數調節算法如下

Δwij=ε(〈vihj〉data-〈vihj〉model)

(3)

Δai=ε(〈vi〉data-〈vi〉model)

(4)

Δbj=ε(〈hj〉data-〈hj〉model)

(5)

式中 〈〉model計算需要花費指數級時間，使用對比散度算法(CD)[15]可減少運算量，新的調節算法如下

Δwij=ε(〈vihj〉data-〈vihj〉1)

(6)

Δai=ε(〈vi〉data-〈vi〉1)

(7)

Δbj=ε(〈hj〉data-〈hj〉1)

(8)

式中 〈〉1為對樣本進行一次吉布斯采樣的得到的重構樣本；ε為學習率，表示參數每次調節的大小，一般取0.005～0.200[16]，本文令ε=0.15。

由于神經網絡在學習過程中經常陷入局部極小值，需引入動量項，將導致參數更新方向與梯度方向不一致，調節方法如下

(9)

式中 m為動量項，本文令m=0.5；t為迭代次數。

設置RBM迭代的次數，即RBM進行1次權值更新即迭代1次，根據大量實驗，當迭代次數超過250次時，重構誤差變化非常小，因此，設置每層RBM迭代次數250次。

在步驟(4)中進行全局微調，將原始訓練數據作為監督數據對整個網絡進行有監督的學習，采用BP算法對整個深度網絡進行優化，利用交叉熵[17]衡量輸出與輸入概率分布的逼近程度，公式為

(10)

式中 q,p分別為輸入和重構樣本的概率分布。表明：交叉熵越小，越能夠完備地表征出樣本的特征，經過大量實驗，設置微調次數150次。

圖3給出了輸入數據經過DBN訓練時各層特征提取曲線，圖中縱坐標為重構特征。可知：1)傳感器故障的第3隱含層較傳感器正常的第3隱含層重構特征粗糙，因為傳感器正常情況下，各維數據之間滿足某種關系，特征更明顯，而傳感器故障時，各維數據不滿足某類關系，顯得雜亂無章；2)隱含層深度越深，提取的特征越抽象。

圖3 DBN逐級特征提取曲線

3 故障檢測效果對比與分析

由于DBN為基于概率的模型，因此，每次的識別效果可能會有差異。為了確保識別效果，本文計算結果由程序運行50次求取平均值，為更直觀地了解分類準確率，繪制標簽圖4。

圖4 測試集的分類結果

為檢驗故障檢測的效果，將DBN模型與目前主流的診斷方法SVM和BP神經網絡的分類準確率進行對比。同時為了體現深度學習在自動提取特征方面的強大能力，將對比實驗分為2組。1)不做任何人工手動的特征提取，直接使用原始數據進行故障檢測；2)對原始數據進行主元分析[18]、關聯分析[19]、人工窮舉提取主要特征，發現影響故障檢測的主要特征有參數N1,N2,d,φ,TEG，并使用智能算法進行故障檢測。

由表2可以看出：1)無論是否為人工提取特征，基于DBN的故障檢測方法的分類準確率均遠高于其他2種智能故障檢測方法。2)基于DBN的故障檢測方法訓練集與測試集的正確率相差不大，而其他2種方法存在明顯差距，說明基于DBN的故障檢測方法不會因為訓練次數的增加陷入過擬合的情況。3)人工提取特征后，基于BP神經網絡和SVM的故障檢測方法分類準確率均有大幅上升，而基于DBN的方法分類準確率有所下降，充分證明了DBN能夠從高維度、大規模的數據中自動提取特征，數據維數越高、規模越大，DBN能夠學習的特征就越豐富，越能夠完備地刻畫樣本。4)人工提取特征后DBN模型的準確率有所下降，原因可能是提取特征后人為的剔除參數α1，α2，p，v，θ，h，FF，t8維數據，減少了某些隱含特征的提取源，使得分類效果變差。

表2 6種故障檢測方法對比

注：RBF核為徑向基函數；c為懲罰系數;g為核參數。

4 結 論

利用基于DBN的分類模型與飛行參數記錄儀采集的大量數據，建立了一種大數據-深度學習的航空發動機排傳感器故障檢測模型，利用發參采集的13維數據作為輸入，能夠自動從高維數據中進行特征提取，無需人工干預。

實驗證明：DBN提取的特征優于人工提取的特征，且在深層網絡的學習中能充分挖掘數據信息而未出現過擬合現象，檢測效果準確。由于使用該方法進行傳感器故障檢測，不需要對傳感器建立精確的數學建模，在檢測過程中也不需要進行繁瑣的人工特征提取，因此，算法具有優秀的泛化效果，在大數據時代，可以推廣到其他復雜元器件的故障檢測中。但該模型也存在診斷時間較長的問題，未來將著重解決。

[1] 王修巖，李萃芳，高銘陽，等.基于SVM和SNN的航空發動機氣路故障診斷[J].航空動力學報,2014，29(10):2493-2498.

[2] 李業波，李秋紅，黃向華，等.航空發動機傳感器故障與部件故障診斷技術[J].北京航空航天大學學報，2013，39(9):1174-1180.

[3] 孫曉倩，艾延延，張 振.航空發動機傳感器故障診斷方法研究[J].沈陽航空工業學院學報，2010，27(2):15-19.

[4] 余 凱，賈 磊，陳雨強，等.深度學習的昨天、今天和明天[J].計算機研究與發展，2013，50(9):1799-1804.

[5] 孫毅剛，劉靜雅，趙 珍，等.基于極限學習機的航空發動機傳感器故障診斷[J].傳感器與微系統，2014，33(8):23-26.

[6] 吳 同.基于深度學習的分類算法研究及應用[D].長春:吉林大學，2016:9-11.

[7] 趙光權，葛強強，彭喜元，等.基于DBN的故障特征提取及診斷方法研究[J].儀器儀表學報，2016，37(9):1946-1953.

[8] Hinton G E，Salakhutdinov R.Reducing the dimensionality of data with neural network[J]．Science，2006，313:504-507．

[9] Bengio Y.Learning deep architectures for AI[J].Foundations and Trends in Machine Learning，2009，2(1):1-127．

[10] Arel I,Rose D C,Karnowski T P.Deep machine learning:A new frontier in artificial intelligence research[J]．IEEE Computational Intelligence Magazine，2010，5(4):13-18．

[11] Hinton G E．Training products of experts by minimizing contrastive divergence[J]．Neural Computation，2002，14(8):1771-1880．

[12] Graves A，Mohamed A R，Hinton G E．Speech recognition with deep recurrent neural networks[C]∥IEEE International Con-ference on Acoustics，Speech and Signal Processing(ICASSP)， Santa Clara:[s.n.],2013:6645-6649．

[13] 謝 川,倪世宏,張宗麟.一種缺失飛行參數預處理的新方法[J]．計算機仿真，2005，22(4):27-31．

[14] 劉建偉，劉 媛，羅雄麟.玻爾茲曼機研究進展[J].計算機研究與發展，2014,51(1):1-16.

[15] Hinton G,Osindero S,The Y.A fast learning algorithm for deep belief nets[J].Neural Computation,2006,18(7):1527-1554.

[16] Hinton G A.Practical guide to training restricted Boltzmann machines[R].Toronto：Machine Learning Group University of Toronto,2010:129-136.

[17] 黃海波，李人憲，楊 琪，等.基于DBNs的車輛懸架減振器異響鑒別方法[J].西南交通大學學報，2015,50(5)：776-782.

[18] 崔建國，吳 燦，董世良，等．基于主元分析法和模糊積分的航空發動機氣路狀態檢測[J]．火力指揮與控制，2014,39(10)：1808-1812.

[19] 芮少輝，張鳳鳴，徐顯亮．改進關聯規則挖掘算法航空發動機故障檢測[J]．火力指揮與控制，2011,36(9)：1815-1818.

Fault diagnosis of aero-engine sensor based on deep learning*

LIU Yun-long, XIE Shou-sheng, ZHENG Xiao-fei, BIAN Tao

(College of Aeronautics and Astronautics Engineering,Air Force Engineering University,Xi’an 710038,China)

Aiming at the problems of traditional back propogation(BP)neural network and support vector machine(SVM)learning algorithm,such as over fitting, dimension disaster and difficulty of parameter selection,put forward an aircraft engine sensor fault detection method learning algorithm based on deep learning algorithm.Preprocess the multi dimensional data acquired by aero-engine parameter recorder;fault detection model based on the deep belief network(DBN)is set up;fault detection model is trained using proprocessed data, after DBN fault detection model characteristics learning layer by layer,sensor fault detection is realized.It is shown from the simulation results,in the absence of artificial feature extraction and feature extraction,accuracy based on DBN fault detection is higher than that of BP neural network and SVM model.

aero-engine sensor; fault detection; deep learning; deep belief network(DBN); flight parameter

10.13873/J.1000—9787(2017)09—0147—04

2017—01—02

國家自然科學基金資助項目(51476187，51506221)

TP 212

A

1000—9787(2017)09—0147—04

劉云龍(1992-)，男，碩士研究生，主要研究方向為航空發動機狀態監控與故障診斷。