基于卷積神經網絡的發動機故障預測方法

房紅征

(1.青海民族大學 計算機學院，西寧 810007； 2.北京航天測控技術有限公司，北京 100041；3.北京市高速交通工具智能診斷與健康管理重點實驗室，北京 100041；4.裝備全壽命周期狀態監測與健康管理技術與應用國家地方聯合工程研究中心，北京 100041)

0 引言

在發動機等典型設備的故障診斷中，具有較好的非線性問題處理能力的神經網絡等方法得到了很多成功的應用。隨著人工智能科學的發展，機器學習算法不斷豐富，學習深度不斷加深，性能不斷提高，基于深度學習方法得到廣泛應用，在圖像、視覺和智能對弈等領域取得了空前的成功[1-2]。深度學習方法是多層表示的表示學習方法，多層表示由一個從低到高的非線性簡單模塊網絡獲得，每個模塊將表示從一個層次(起始于原始輸入)轉化至另一個更高的更抽象的層次。深度學習是機器學習的一個分支，基于一個嘗試使用多復雜結構處理層或多非線性變化來模型化高層次抽象的算法集。

常見的深度學習方法包括深度神經網絡(Deep Neural Network, DNN)[3-4]、深度置信網絡(Deep Belief Network，DBN)[5-6]、遞歸神經網絡(Recurrent Neural Network, RNN)[7]、卷積神經網絡(Convolutional Neural Network, CNN)等[8-9]。其中，卷積神經網絡(CNN)作為一種重要的深度神經網絡方法，可以為識別二維形狀提供多層感知器，對于平移、縮放、傾斜或其他形式的變形具有高度不變的特點，因此更適合于用于時間序列和語音信號的處理，在模式識別各個領域都取得了很好的成果[10]。此外在工業生產流水線上對磁片的缺陷檢測、潛射武器健康狀態評估也有了初步應用[11-12]。

基于卷積神經網絡的預測方法已經有了一些研究。文獻[13]利用CNN方法權值共享的特性帶來的減少網絡參數數量、降低訓練難度、便于網絡優化的優勢，對飛行器的航跡進行了預測。文獻[14]利用改進卷積神經網絡DropSample訓練方法構建短時交通流量預測模型，并利用Adam算法的優化器對預測模型進行優化，與傳統的CNN、卡爾曼濾波、BP神經網絡等方法相比取得了更高的預測精度。文獻[15]建立了一種用于太陽能輻照度預測的卷積神經網絡結構，針對CNN預測模型因為超參數選取不當而導致預測性能差的問題，利用融合算法對CNN網絡的超參數進行優化，有效地提高了CNN的預測性能。但是目前在發動機故障預測領域的應用較少。本文針對卷積神經網絡故障預測方法進行了研究，基于發動機試驗仿真數據對提出的方法進行了驗證，并與其它一些傳統的方法進行了比較，驗證結果表明，提出的基于卷積神經網絡的預測方法具有較好的可行性和效果，可作為開展發動機PHM技術研究的參考。

1 基于卷積神經網絡的故障預測方法

1.1 卷積神經網絡原理

卷積神經網絡的模型構建如圖1所示。CNN具有局部連接、權值共享、池化操作以及多層結構等特點，一方面使得CNN可以有效提取局部特征，并通過網絡參數量的減少從而降低訓練過程的難度；另一方面對于平移、縮放、傾斜或其他形式的變形具有不變性，使其適用于時間序列和語音等信號的處理；此外，其多層結構的特點還具有比其他方法更強的學習與特征表達能力。

圖1 卷積神經網絡模型構建示意圖

卷積神經網絡的基本結構包括輸入層、卷積層、激活層、池化層、全連接層和輸出層等。CNN方法的應用首先是進行卷積層CNN，并通過卷積+池化的方法提取出某個時間點特征之間的空間信息，具體包括：

1)卷積層：對整體數據做卷積，通過多個卷積核來提取不同角度的空間信息；

2)池化層：減少模型的參數維度，提高模型訓練的效率。

CNN的訓練算法分為兩個階段：前向傳播階段：該階段首先需要從樣本集中取樣并輸入網絡，然后再計算相應的實際輸出。后向傳播階段：需要先計算真實結果與預期結果之間的差值，然后再根據最小化誤差的方法調整權重矩陣。

1.2 基于CNN的故障預測方法

基于CNN的預測方法的流程如圖2所示。首先，對發動機的故障預測試驗數據集進行預處理，將相應的數據進行歸一化。然后準備用于訓練和測試的數據集，其中每個樣本包含時間窗內的時間序列信息。之后，基于特定的信號處理問題和數據集信息，開始建立用于預測的卷積神經網絡，并且確定其配置包括隱藏層的數量，卷積濾波器數量和長度等。卷積神經網絡將標準化訓練數據作為輸入，并且訓練樣本的標記剩余壽命值用作網絡的目標輸出。反向傳播學習用于更新網絡中的權重。對于每個訓練周期，將樣本隨機分成多個小批量，每批包含若干(如512)個樣本，并放入訓練系統。接下來，基于每個小批量的平均損失函數來優化網絡信息，即每層中的權重。批量大小的選擇會影響網絡訓練性能。例如本研究中根據實驗發現512個樣品的批量大小是合適的，并且它被用于本文的所有案例研究中。此外，采用不同的學習率。最后，將測試數據樣本饋送到訓練的網絡中以進行剩余壽命估計，并且得到預測準確性。

圖2 卷積神經網絡模型構建示意圖

2 基于卷積神經網絡的氣路故障預測軟件平臺

在卷積神經網絡方法研究基礎上開發了基于深度學習的氣路故障診斷預測軟件平臺。算法實現基于TensorFlow平臺架構，使用Python語言實現深度學習和其他算法。TensorFlow平臺架構示意如圖3所示。

圖3 TensorFlow平臺架構示意圖

如圖3所示，通過平臺API接口層的核心功能，可以實現相關的實驗和應用[16]。TensorFlow的系統架構如圖3所示。它從底部分為設備管理/通信層，數據操作層，圖形計算層，API接口層和應用層。在所有層中，管理/通信層，數據操作層和圖形計算層是TF的核心層。

在方法層面，整個過程包括數據集成，數據處理，特征工程，模型培訓，數據集成，模型評估，模型保存等。 選擇卷積神經網絡(CNN)、長短時記憶網絡(LSTM)等深度學習模型，選擇MES，RMSE和相關系數等評價指標，評價試驗數據的預測精度。氣路預測算法包括診斷過程創建模塊，過程模板管理模塊，數據集設置管理模塊，算法模型編輯管理模塊，算法模型訓練模塊和算法性能評估模塊等。

利用軟件平臺各個功能模塊，通過平臺構建模型的過程主要包括：創建流程；選擇流程模板；修改流程參數；訓練模型，評估性能。深度學習模型評估頁面如圖4所示。

圖4 深度學習模型評估頁面示意圖

3 實驗和分析

3.1 實驗說明

發動機測試數據源自于NASA發布的一組發動機實驗數據，該組數據包含了一系列多元多變量時間序列。NASA發布該數據主要用于開展發動機壽命預測方面的競賽等目標[17]。發動機實驗數據描述如表1所示。

表1 發動機實驗數據描述

這里利用該數據開展基于數據的發動機的故障預測方法研究，通過人工智能方法實現基于數據的預測。本試驗數據的每一組數據被劃分成了訓練和測試數據，每臺發動機數據開始于一定程度的磨損和誤差，磨損和誤差程度未知。訓練數據中分別含有100臺、260臺、100臺、249臺發動機的全壽命測試數據，測試數據中分別含有100臺、259臺、248臺發動機某生命周期階段中的數據，剩余壽命數據給出了測試數據中每臺發動機的實際剩余壽命。

實驗數據主要記錄了發動機每次工作循環的以下26個參數：

1)發動機號；2)循環次數；3)運行設置1； 4)運行設置2；5)運行設置3；6)風扇入口總溫T2； 7)LPC出口總溫T24；8)HPC出口總溫T30；9)LPT出口總溫T50；10)風扇入口壓力P2；11)旁通總壓P15；12)HPC出口總壓P30；13)物理風扇轉速Nf；14)物理核心機轉速Nc；15)發動機壓氣比Epr(P50/P2)；16)HPC出口靜壓Ps30(Psia)；17)燃油流量Phi；18)換算風扇轉速NRF；19)換算高壓轉速NRC；20)涵道比(BPR)；21)燃燒室油氣比(FarB)；22)氣流焓值(htBleed)；23)要求的風扇轉速Nf_dmd；24)要求修正的風扇轉速PCNfR_dmd(R/min)；25)HPT冷卻流量W31(Lbm/s)；26)LPT冷卻流量W32。

3.2 數據選取處理

本文選取test_FD002文件數據作為驗證數據，選取RUL_FD002文件數據作為觀察值數據，并對數據進行歸一化等處理。訓練數據樣本和測試數據樣本文件如圖5、圖6所示。

圖5 訓練數據樣本文件

圖6 測試數據樣本文件

根據數據特點，再進行歸一化等預處理操作。數據的結尾為標簽信息。由于數據特征空間不一致，需要進行歸一化處理，以品更各特征權重。預處理后生成相應的結果數據。

3.3 模型搭建

根據卷積神經網絡模型原理，結合上述試驗數據，在相關文獻基礎上[17-18]，搭建學習模型，實現相關預測過程。模型包含2層CNN和2層的池化層構建神經網絡，如圖7所示。

圖7 面向發動機故障預測的CNN模型示意圖

由于綜合了連續的15條記錄進行預測，所以選擇了卷積神經網絡進行建模。卷積神經網絡通過卷積核，將卷積視野下的連續幾個特征卷積在一起，達到了更好的提取局部特征的功能。

池化層采用下采樣操作(最大值方法)，即對于某個Filter抽取到若干特征值，只取其中得分最大的那個值作為Pooling層保留值，其它特征值全部拋棄，值最大代表只保留這些特征中最強的，而拋棄其它弱的此類特征。

面向發動機試驗數據的CNN模型結構主要包括以下過程：卷積(Convolution)：特征掃描、提取；池化(Pooling)：特征過濾，最大值法；降維(Flatten)：實現數據的平展與降維；分類(Dense)：對提取的特征進行分類。

3.4 模型驗證

將處理后的訓練數據，利用神經網絡進行訓練，得到訓練后的氣路系統故障診斷與預測模型。之后，將測試數據導入模型中進行計算，得出每個發動機的剩余壽命，并將其與實際結果進行比對與評價。評價方法選用MES、RMSE、Pearson相關系數等指標。計算方法如下：

(1)

(2)

(3)

其中:MSE主要用于評價數據的變化程度；RMSE主要用于評價樣本離散程度；Pearson相關系數(PCC)主要用來衡量定距變量間的線性關系。

利用卷積神經網絡將處理后的訓練數據進行訓練，得到發動機氣路系統故障預測模型。將測試數據導入模型預測每臺發動機的剩余壽命。如圖8所示。

圖8 基于CNN模型的預測結果示意圖

3.4 結果對比分析

為便于與本文提出的方法進行對比，在驗證過程中對一些數據驅動的算法進行了應用分析，包括支持向量機、線性回歸、嶺回歸、彈性網絡、貝葉斯脊回歸等方法，具體說明如下：1)支持向量機方法建立在統計學習和結構風險最小原理的基礎上，可作為二元分類器，對線性可分和線性非可分數據的分類較為有效，對發動機數據擬合與預測有良好的適應性；2)線性回歸是一種傳統的基于回歸分析的數理統計分析方法，包括簡單回歸和多元回歸等；3)嶺回歸建立在最小二乘估計基礎上并進行了改進，較為適合針對線性數據的分析；4)彈性網絡是一種適用于很少的權重不為零的稀疏模型的線性回歸模型；5)貝葉斯脊回歸方法主要用于解決最大似然估計中很難決定模型的復雜程度，并對數據進行正規化處理。

上述各種算法的預測結果如圖9～12所示，預測結果分析如表2所示。

圖9 基于支持向量機的預測結果示意圖

圖10 基于線性回歸的預測結果示意圖

圖11 基于嶺回歸的預測結果示意圖

圖12 基于彈性網絡的預測結果示意圖

從表2可見，通過各算法的MSE、RMSE和Pearson系數可得出，CNN由于具有良好的容錯能力和自學習能力，其預測精度最高，與實際數據的相關度也較高，基于回歸分析的預測精度最差；SVM由于具備非線性及高維模式識別的優勢，也具有較好的預測精度和效果，且與實際數據的相關度更高。

4 結論

本文研究了基于卷積神經網絡的發動機故障預測方法，構建了基于深度學習的發動機故障預測人工智能算法平臺，實現的人工智能算法，較傳統支持向量機以及回歸分析等方法相比，在預測的準確率上有較大的提升。研究方法可直接應用于典型實驗環境下的航空發動機氣路故障診斷與預測；算法經適應性調整和訓練后，亦可推廣應用于其他類型的發動機裝備中，具有較好的推廣前景和價值。