基于LSTM網絡參數優化的航空發動機壽命預測

宋 慧,陶冠葉,曲大義,曲亞川

(青島理工大學 機械與汽車工程學院,青島 266525)

航空發動機作為飛機的動力系統,其安全性、可靠性和可用性一直都備受關注。航空發動機的剩余使用壽命(RUL)是評估系統安全性、可靠性和可用性的一個重要指標,它指的是發動機從當前時刻到發生潛在故障的預計持續正常工作時間。因此,準確預測航空發動機的RUL對于飛機安全使用以及維護方案制定有著重要作用[1-3]。

目前,航空發動機RUL預測方法主要分為三大類[4]:基于物理模型預測法、基于專業經驗法和數據驅動法。雖然物理模型法可以通過運用已經學習的力學與機械原理來建立數學模型,但是其往往會花費大量的人力、物力以及財力,且該類方法無法模擬在各種環境下對于結果的影響。專業經驗法是基于專家分析,雖然專家分析不需要進行復雜的建模,但由于依靠個人經驗往往會產生誤判,風險系數過高,而且依靠個人分析無法解決更為復雜的環境分析。數據驅動法則是利用已知的機器退化數據來構建數據庫,再對數據庫進行整合,采用各類方法有效學習與預測,且該方法在確保精度的同時降低成本,因此成為當下研究熱點。

數據驅動法中機器學習更被研究者所喜愛,而深度學習在機器學習領域一直都是熱門。基于當前長短時記憶(LSTM)網絡在航空發動機RUL預測中的應用[5-8],本文運用混沌博弈優化(CGO)算法自動地為LSTM網絡挑選合適的神經元個數、學習率、迭代次數等參數,以期達到提升航空發動機RUL預測精度的目的。為了敘述上的方便,本文將所提出的方法簡記為CGO-LSTM算法。具體地,基于航空發動機歷史運行數據首先構建CGO算法的適應度函數;其次,利用CGO算法對LSTM網絡內的神經元個數、學習率、迭代次數等參數進行調整;最后,利用訓練好的LSTM網絡預測在役航空發動機的RUL。

1 CGO-LSTM算法

1.1 CGO算法

混沌博弈優化(CGO)算法[9]是基于混沌理論提出的一種優化算法,其往往被用于優化約束的數學和工程問題,并在大多數情況下優于其他元啟發式算法。CGO利用分形和混沌博弈的基本概念,建立了CGO算法的數學模型。該算法是Sierpinski三角形中構建多個候選解(xi)又稱合格種子,并以此來搭建搜索空間。其中,包含的每個候選解(xi)由一些決策變量(xi,j)組成,其數學模型如下:

(1)

式中:n為搜索空間(Sierpinski三角形)內合格種子(候選解)的數量;d為這些種子的維數。

合格種子的初始位置在搜索空間中隨機生成確定,過程如下:

(2)

用αi來模擬種子的隨機位置,βi和γi為0或1的隨機整數來模擬隨機量。而αi可以用以下公式表示:

(3)

式中:Rand,δ和ξ為0到1區間內的隨機向量。

于是,第一個種子的產生如下:

(4)

式中:Send為種子;ZB為目前最優位置;AG為種群平均位置。

基于最優位置生成第二個種子如下:

(5)

基于種群平均位置生成第三個種子:

(6)

基于決策變量生成第四個種子:

(7)

式中:τ為1～d的隨機整數;R為0～1的隨機數。

1.2 LSTM算法

循環神經網絡(Recurrent Neural Network,RNN)[10]是一種用于處理序列數據的神經網絡。相比于其他一般的神經網絡,它能夠處理序列變化的數據。長短時記憶(LSTM)網絡[11]是一種特殊的RNN,主要是為了解決長序列訓練過程中的梯度消失和梯度爆炸問題,因而LSTM能更好地在長序列中工作。如圖1所示,LSTM網絡通過引入細胞狀態、遺忘門、輸入門和輸出門有效控制了累積而引起的后果。

圖1 LSTM的基本結構

基于當前給定的輸入xt以及上一時刻的隱含層輸出ht-1,LSTM網絡更新過程如下[12-14]:

(8)

式中:f,i和o分別為遺忘門、輸入門和輸出門;C為神經網絡的單元狀態;σ為sigmoid激活函數;tanh為雙曲正切激活函數;W,b分別為權重與偏置矩陣。

1.3 CGO-LSTM建模步驟

如果僅僅利用LSTM網絡去進行壽命預測,很難有好的預測結果,這是因為LSTM網絡迭代次數k、學習率ε和神經元數量L會大大影響模型的精度,且會由于其遍歷性花費大量時間。因此,本文采用CGO來進行網絡的參數尋優,具體步驟如下:

1) 標準化處理航空發動機運行數據;

2) 確定LSTM網絡拓撲結構;

3) 初始化神經網絡的學習率以及其余參數;

4) 計算CGO適應度值,進行自適應更新系數,更新合格種子,判斷是否最優;

5) 如若不滿足最優條件,CGO重新更新直到滿足條件;如若滿足條件,輸出k,ε和L;

6) LSTM更新完成后進行在役航空發動機RUL預測。

為了刻畫預測模型的性能,模型評價指標將采用均方根誤差[15],其數學公式描述如下:

(9)

2 算法驗證

2.1 航空發動機退化仿真數據集

本文選取NASA提供的航空發動機退化仿真數據集[16]進行驗證。該數據集是RUL預測領域廣泛使用的基準數據集,不僅包含發動機在不同運行條件和故障模式下的4組監測數據,每組數據包括訓練集(完整退化序列)、測試集(非完整退化序列)以及真實RUL三部分,而且包括數據集中每臺發動機帶有不同程度的初始磨損,同時也在數據中引入了大量隨機噪聲。在此數據集中,監測數據為21維,代表著航空發動機監測過程中共使用了21個傳感器。對于這21個傳感器變量詳細描述,可參見文獻[16]。

2.2 實驗結果與比較

本實驗在Corei7-12650H,16-GB RAM,NVIDIA RTX 2050 GPU環境下進行,操作系統為Windows 11,仿真軟件為MATLAB 2021b。其中,CGO算法的合格點數設置為30,最大迭代次數設置為100次。

圖2為CGO優化LSTM網絡參數期間的RMSE變化過程。從圖2可以看出,在CGO的初始迭代過程中,LSTM網絡預測的RMSE值較大,這表明隨機設置的網絡參數預測性能很差,需要進一步迭代優化以提升預測性能。之后,不斷增加迭代次數,CGO算法通過其自身的混沌博弈機制驅使種群中的合格點不斷向最優解靠近。相應地,RMSE呈現階梯下降形狀。最終,在CGO算法迭代至25次時,LSTM網絡達到了最小的預測誤差15.2146。此時,表明LSTM網絡的參數已經達到了最佳,可用于在役航空發動機的RUL預測。

圖2 CGO迭代過程

將訓練好的CGO-LSTM網絡用于100臺測試發動機的RUL預測。圖3為測試集中部分航空發動機的RUL預測結果。從圖3可以看出,相較于單一的LSTM網絡,無論測試發動機25,38,70抑或91,CGO-LSTM預測的RUL曲線總是更貼近于真實的RUL曲線。

為了定量說明CGO-LSTM網絡優于單一LSTM網絡,計算了這2個預測模型的RMSE。圖4為不同預測模型的RMSE分布。從圖4可以看出,CGO-LSTM網絡預測誤差在-10～10時的頻率明顯高于單一LSTM網絡,這表明CGO-LSTM網絡預測結果更為穩定。相應地,CGO-LSTM網絡對100臺測試發動機預測結果的RMSE為16.8135,低于LSTM網絡對100臺測試發動機的17.5201,這表明采用CGO-LSTM混合模型預測性能優于單一LSTM網絡預測模型。

圖4 不同預測模型的RMSE分布

3 結論

考慮到LSTM網絡參數難確定以及高精度預測需求,本文提出了一種基于CGO-LSTM模型的航空發動機RUL預測方法,該方法無須人工經驗的知識,能夠自動選擇合適的神經元個數、學習率、迭代次數等參數。通過NASA航空發動機退化仿真數據集進行驗證,結果表明,基于CGO優化算法的LSTM預測模型的預測精度優于單一LSTM網絡預測模型。