基于Bi-LSTM的電子裝備故障預測方法研究

倪祥龍，石長安，麻曰亮，劉 磊，何 健

(中國人民解放軍63891部隊，河南 洛陽 471003)

0 引 言

電子裝備在軍隊武器裝備系統中占有重要地位，其性能優劣將直接影響到武器系統綜合作戰效能乃至戰場態勢。隨著電子技術的不斷發展和制造工藝的逐步提升，電子裝備結構日趨復雜，對維修保障提出了更高的要求。作為新理念，故障預測與健康管理(Prognostics and Health Management，PHM)技術已經在各國軍事和民用部門得到廣泛的研究，并被用于武器裝備維修保障領域[1]。

PHM技術[2]是指利用傳感器采集到的各種數據，通過智能推理算法來診斷和預測系統或部件故障，評估其健康狀態和壽命，并提供一系列的視情維修和健康管理決策，保障系統或部件可靠運行，其系統框架如圖1所示。故障預測是PHM技術的核心之一，主要包括系統健康狀態評估、性能參數趨勢預測、剩余壽命(Remaining Useful Life，RUL)預測等。故障預測方法一般分為基于模型和基于數據驅動兩種[3-4]：基于模型的預測方法主要是根據對象的物理失效模型(如磨損、疲勞和老化等)來進行預測，不同的物理失效具有不同的失效演化規律；基于數據驅動的故障預測方法不需要系統的先驗知識，只需要利用歷史數據和先進的智能算法建立預測模型，便可對當前部件進行故障預測?；谀Ｐ偷念A測方法在很大程度上依賴于物理系統領域的專業知識，模型通常表現出較弱的泛化能力[3]，隨著系統越來越復雜，基于模型的故障預測方法已經逐漸不再適用于PHM；與此同時，隨著狀態監測技術的發展，能獲取的監測數據越來越多，數據驅動方法呈現出較強的適應能力，用于PHM技術的優勢越來越明顯，逐漸成為故障預測的主流方法。

圖1 PHM技術系統框架

故障預測的研究對象大多為時間序列數據，一般做法是對歷史時序數據進行分析，從而獲得未來數據的發展趨勢。因此，對歷史數據合理的記憶、提取和應用，成為時間序列數據預測效果優劣的關鍵。循環神經網絡(Recurrent Neural Network，RNN)是一種以時間序列數據作為網絡輸入、在序列演進方向進行遞歸，并將節點鏈式連接到深度神經網絡。由于該網絡可實現對歷史數據的記憶功能，因此，被廣泛應用在RUL預測領域。文獻[5]將經驗模式分解得到的能量熵作為RNN的輸入，從而實現機械設備運行狀態的預測。文獻[6]將各種特征相結合輸入到RNN中實現滾動軸承的RUL預測，取得了很高的預測精度。盡管RNN在處理時間序列數據方面，提供了較好的解決方案，但是由于梯度消失問題的存在，導致RNN在實際應用中“記憶能力受限”，往往只能學習到網絡短時間步長內的依賴關系[7]。

長短時記憶網絡(Long Short-Term Memory，LSTM)基于RNN解決了隨著時間的增加會發生梯度下降或者梯度爆炸的問題，進一步解決了獲取長期記憶的問題，已被應用于工具磨損、燃料電池電壓輸出、鋰離子電池單元容量和軸承健康狀態等預測領域[7]。文獻[8]對歷史數據的特征進行優化提取，并利用LSTM網絡模型實現了電池的RUL預測。文獻[9]將一維卷積神經網絡(Convolutional Neural Network，CNN)與LSTM相結合，在更好地學習鋰離子電池老化規律的基礎上實現了電池容量預測。文獻[10]利用LSTM實現滾動軸承的RUL預測，并驗證了基于LSTM的RUL預測方法比BP神經網絡和支持回歸向量機的預測方法更具有效性。文獻[11]構建了一種基于多尺度排列熵和 LSTM的RUL預測模型，實現了設備退化過程的有效預測，并且達到了較好的實驗效果。LSTM模型盡管對長序列學習模型效果較好，但是常用的單向LSTM模型輸出往往受最后時刻狀態的影響，序列開始部分的影響在長序列傳播過程中趨于消失；同時，LSTM模型的構建方法是將“過去”的信息整合起來，然后輔助處理當前信息，然而大部分系統的性能退化過程實際上是一個在時間上具有前后依賴關系的連續變化過程，當前信息的處理也有必要整合“未來”的信息。

雙向長短時記憶網絡(Bi-Directional Long Short-Term Memory，Bi-LSTM)由前向LSTM和后向LSTM共同構成，前向LSTM獲取輸入序列的過去信息，后向LSTM獲取輸入序列的未來信息，實現過去和未來信息的充分利用。與LSTM網絡相比，Bi-LSTM對強調順序的數據表達能力更強[12]。文獻[13]通過奇異值分解方法提取得到刀具磨損特征值，然后借助Bi-LSTM有效預測了刀具磨損情況。文獻[14]提出一種基于Bi-LSTM的循環神經網絡結構用于軸承的RUL預測，并通過設計接收隨機長度樣本的Bi-LSTM網絡進行訓練，進一步提升模型的泛化能力。文獻[15]將一維CNN和Bi-LSTM相結合應用于航空發動機RUL預測，通過Bi-LSTM對性能退化量進行時間序列預測，得到性能退化的未來趨勢，再通過設定性能退化閾值得到更準確的RUL預測結果。綜上所述，Bi-LSTM能夠較好地處理時序數據，并能有效地用于刀具、軸承、發動機等機械系統的故障預測，但其是否適用于電子裝備的故障預測仍有待進一步驗證。因此，本文提出基于Bi-LSTM的電子故障預測方法，驗證了Bi-LSTM應用于電子裝備故障預測有效性，且該方法提高了電子裝備故障預測結果的準確性。

1 Bi-LSTM神經網絡模型

1.1 長短時記憶網絡(LSTM)

LSTM是RNN的變體，LSTM通過設置多個門結構，能同時記錄長期和短期的信息，解決RNN模型訓練過程中可能出現的梯度消失問題(即丟失前面的信息)。經典RNN模型和LSTM模型的結構如圖2所示，可以看出，LSTM模型結構相比于經典RNN更為復雜。經典RNN單元中只有1個tanh激活函數，而LSTM單元中含有3種不同控制作用的門結構，分別是遺忘門、輸入門和輸出門，這些門結構用于學習一些有用的長期信息，放棄一些無意義的信息。LSTM常被用于語義分類、軌跡預測和動作分類等[16-17]。

圖2 RNN和LSTM單元結構

圖中，xt為輸入序列，即用于故障預測的系統狀態監測信息；ht為隱含層輸出，即每個LSTM單元的學習結果；ft為遺忘門；it為輸入門；Ot為輸出門；tanh為激活函數；σ為sigmoid激活函數；W為權重矩陣；*為點對乘積。

(1)遺忘門：LSTM按照指定順序處理時間序列數據，某時間段數據蘊含的信息中存在有用的，也有無用的。遺忘門的作用就是決定哪些信息進行保留，哪些信息直接忽略。遺忘門的輸出為

ft=σ(Wf·[ht-1,xt]+bf)

(1)

式中：Wf為遺忘門的權重量；bf為遺忘門的偏置量。

(2)輸入門：信息經過遺忘門的取舍后進入到輸入門中，輸入門的作用是判斷哪些參數需要進行更新，以及怎么更新。輸入門的輸出為

it=σ(Wi·[ht-1,xt]+bi)

(2)

(3)

(4)

式中：Wi和WC分別為相應的權重；bi和bC分別為相應的偏置；Ct為當前的單元狀態值。

(3)輸出門：信息經過遺忘門和輸入門的篩選之后到達輸出門，輸出門的作用是決定輸出哪些信息。輸出門的輸出為

Ot=σ(WO·[ht-1,xt]+bO)

(5)

ht=Ottanh(Ct)

(6)

式中：WO為輸出門的權重量；bO為輸出門的偏置；ht為當前單元的輸出值。

LSTM的優點在于處理本單元信息時能夠參考先前單元的信息，缺點在于沒有參考后續單元的信息[16-17]。但對于某些問題，不僅跟先前單元信息有關，還跟后續單元信息有關，例如反映系統性能退化過程的狀態參數，由于傳感器采集過程中存在的觀測不準確或數據不確定性等原因，先前時刻和后續時刻采集的參數均有助于確認當前時刻參數的準確性。于是，能夠同時學習前向和后向數據規律的雙向長短時記憶網絡(Bi-LSTM)應運而生。

1.2 雙向長短時記憶網絡(Bi-LSTM)

Bi-LSTM是一種LSTM網絡的變體，既能學習先前時刻的信息，也能學習未來時刻的信息[18]。Bi-LSTM通過同時向前和向后兩方向的LSTM推算，一方面解決了LSTM推算中只考慮單向時序的問題，另一方面改善了LSTM推算中存在的權重受時序影響大的問題。Bi-LSTM網絡結構[7]如圖3所示。

圖3 Bi-LSTM網絡結構

(7)

(8)

(9)

2 基于Bi-LSTM的故障預測方法

在復雜系統中，系統狀態很少能被直接觀察到，需要通過傳感器測量值X得到無量綱健康指數來表示系統狀態Y。為了得到系統性能退化過程模型，本文提出基于Bi-LSTM實現系統性能狀態跟蹤的方法。

設系統的故障閾值為Yf、工作時間為Ts時系統性能參數的累積退化量為Y(Ts)，Y(Ts)

RULs=inf{tr,Y(Ts+tr)≥Yf|Y(Ts)

(10)

根據PHM技術的基本流程，可得基于Bi-LSTM的電子裝備故障預測方法步驟，具體如下：

(1)狀態監測數據采集，借助合適的傳感器對電子裝備工作過程中能夠反映系統狀態的參數進行監測采集，并記錄；

(2)退化特征參數提取，從采集的狀態監測數據中提取能夠反映系統性能變化趨勢的特征參數，即健康度；

(3)退化特性分析，對提取得到的退化特征參數進行分析，確認退化特征參數的變化趨勢和演變規律；

(4)退化過程模型建立，根據退化特征參數屬性設置Bi-LSTM模型參數，并將退化特征參數輸入Bi-LSTM模型中進行訓練；

(5)RUL預測，根據工作時間情況和故障閾值，基于訓練后的Bi-LSTM模型進行RUL計算和預測。

3 模擬電路故障預測仿真驗證案例

模擬電路作為電子裝備不可或缺的重要組成部分，其運行情況關系到整個電子裝備的性能和功能，開展模擬電路的故障預測研究對于電子裝備PHM技術發展具有重要意義。

3.1 模擬電路健康度提取方法

3.1.1 模擬電路的健康狀態特征表述

模擬電路故障預測中特征提取的目的在于提取隨元件退化而規律變化的性能數據，本文借助一種無需信號處理和理論計算的簡單方法來提取特征參數。對模擬電路應用掃頻激勵源作為輸入源，在整個響應頻段中均勻提取特定頻點的信號值作為特征，如圖4所示。

圖4 模擬電路特定頻點信號值提取方法

Fv=[V1,V2, …,Vm]

(11)

式中：V1,V2, …,Vm為提取的頻率響應信號，在此即為電壓；m為特征頻點數量。

3.1.2 模擬電路的健康度計算方法

以“健康度”表示元件的退化程度，在模擬電路的元件從完好慢慢退化的過程中，元件的參數值逐步偏離標稱值，對應的元件健康度逐漸下降。相關系數可以反映不同變量之間相關關系的密切程度[19]，適用于量化表征元件的健康度。皮爾遜積矩相關系數(Pearson Product-Moment Correlation Coefficient，PPMCC)常被用于研究變量之間的線性相關程度，具有計算量低的優點[20]，因此，本文選擇用PPMCC計算模擬電路健康度。

PPMCC可通過計算兩個向量的線性關系(如電壓和頻率)，傳遞兩個向量之間的緊密程度[19]，公式如下：

(12)

3.2 模擬電路退化仿真和健康度提取

為提取模擬電路中元器件的健康度，假設每個測試元件的參數值在元件退化過程中均勻變化，每次變化在時間上對應一個時間單位，即一個時間點，然后在每個時間點利用Pspice軟件的AC Sweep功能從起始頻率到截止頻率對被測電路進行一次掃頻激勵。

本文選取某雷達接收機帶通濾波放大器的模擬電路開展故障預測方法研究。某帶通濾波放大器模擬電路如圖5所示，含有5個運算放大器(U1，U2，U3，U4和U5)，運算放大器的VCC和VDD接線情況如圖左上角所示；輸入為1 V的正弦波信號。選取帶通濾波放大器模擬電路中的電阻R5、電容C7和運算放大器U1作為電路健康度計算元件，該模擬電路性能退化實驗的交流掃頻的起始頻率和終止頻率分別設置為1 Hz和100 kHz。各個測試元件的初始標稱值V標稱值、仿真最終值V最終值、一個時間單位內的變化量V單位變化量和仿真最終時間T最終時間如表1所示。

圖5 某帶通濾波放大器模擬電路

表1 某帶通濾波放大器模擬電路實驗參數

仿真計算得到放大器模擬電路中各元件的健康度，如圖6中“仿真值”所示。電阻R5的健康度如圖6(a)所示，可以發現R5的健康度從1開始逐漸遞減，即當電阻等于標稱值健康度為1，隨著仿真設置的電阻參數偏離量增大健康度逐漸降低。不過，圖中R5仿真健康度是在理想情況下計算得到的，沒有考慮實際情況下元件容差、熱噪聲干擾、測量誤差等不確定性因素的影響。為使R5健康度更加貼近實際，根據工程經驗在提取的R5健康度中注入其信號強度2%的高斯白噪聲表示元件容差、熱噪聲干擾、測量誤差等不確定性因素的影響[19-21]。添加了高斯白噪聲的電阻R5健康度如圖6(a)中“加噪聲”所示。與此類似，可以得到電容C7和運算放大器U1的健康度，如圖6(b)～(c)所示。

圖6 元件健康度

3.3 模擬電路故障預測及結果分析

取前400個時間點的健康度數據作為訓練數據，后200個時間點的健康度數據作為測試數據，用于驗證RNN、LSTM和Bi-LSTM三種預測方法的優劣。訓練時，各預測方法的參數設置如下：(1)基于RNN方法時，RNN單元的隱藏層數量為250個，最大訓練次數為2 500次，每次訓練迭代3次；(2)基于LSTM方法時，LSTM單元的隱藏層數量為250個，最大訓練次數為2 500次，每次訓練迭代3次，數據最小批數為120個；(3)基于Bi-LSTM方法時，第一層和第二層LSTM單元的隱藏層數量為250，最大訓練次數為2 500次，每次訓練迭代3次，數據最小批數為120。

圖7～9表示基于Bi-LSTM的R5，C7和U1的健康度訓練與預測結果?？梢园l現，隨著時間的推移, 三種方法的預測結果均逐漸偏離測試數據，且相同時間點時基于RNN的預測結果偏離最大，基于Bi-LSTM的預測結果整體偏離最小。

圖7 R5健康度訓練與預測結果

圖8 C7健康度訓練與預測結果

為進一步評價三種方法的預測結果優劣性，建立均方根誤差(Root Mean Square Error，RMSE)、平均誤差(Mean Error，ME)和標準差(Standard Deviation，SD)三個參數作為評價指標，各個參數的定義如下：

圖9 U1健康度訓練與預測結果

(13)

(14)

(15)

式中：bi和ai分別為健康度真值和預測值；n為數值的數量。可以發現，eRMSE,eME和eSD的絕對值越小，表示預測值越接近于健康度真值，代表預測效果越好。

放大器模擬電路性能退化趨勢預測結果評價指標如表2所示，可以發現，在退化趨勢較為穩定、不發生突變的情況下，如電阻R5和電容C7，基于Bi-LSTM預測結果的eRMSE、eME和eSD的絕對值均是最小的，即基于Bi-LSTM的預測效果最好，LSTM次之，RNN最差，說明Bi-LSTM更適用于模擬電路平穩退化過程的退化趨勢預測。

表2 放大器模擬電路性能退化趨勢預測結果情況

取tRUL實際為50，100和150三個時刻(即測試數據為450，500和550)作為故障時間，開展剩余壽命預測結果評價。故障預測時，考慮到測試數據波動較大會對故障預測結果產生較大影響，故取故障時間點前后9個健康度的均值作為故障閾值，例如當tRUL實際=50(即測試數據為450)時，其健康故障閾值為測試數據集第446～454個健康度的均值。為進一步評估故障預測結果的準確性，利用絕對誤差和相對誤差對RUL預測結果進行量化評估，預測結果與tRUL實際的絕對誤差和相對誤差分別為

C絕對=|tRUL預測-tRUL實際|

(16)

(17)

可以發現，tRUL預測越接近tRUL實際，絕對誤差和相對誤差越小，反之則絕對誤差和相對誤差越大；兩者的區別在于絕對誤差只反映tRUL預測與tRUL實際的偏差大小，而相對誤差反映的是tRUL預測與tRUL實際的偏差大小相對于tRUL實際的偏差比例，即考慮了隨著時間推移預測結果不確定性越來越大的影響。三種情況的剩余壽命預測結果及絕對誤差和相對誤差如圖10和表3所示?？梢?，除tRUL實際=150時，U1的預測結果外，三種預測方法中RNN的預測效果最差，Bi-LSTM的預測效果最好。當tRUL實際=50時，RNN，LSTM和Bi-LSTM三種方法的預測R5的結果偏差分別是28%，22%和18%。當tRUL實際=150時，U1的健康度演變趨勢在tRUL實際>100(即測試數據集個數第500個后)發生變化，偏離歷史數據的變化趨勢，導致基于歷史數據訓練得到的模型預測效果變差。

圖10 預測結果相對誤差

表3 元件剩余壽命預測結果及相對誤差

4 雷達發射機故障預測應用案例

雷達發射機多工作在高頻率、高電壓的復雜電磁環境下，是雷達常見故障的模塊。為保證雷達發射機正常運行，必須對其關鍵部件開展PHM技術研究。

4.1 雷達發射機狀態監測數據介紹

高壓電源是雷達發射機的重要組成部分，其狀態的好壞直接關系到整個系統的射頻質量和壽命，對發射機性能的影響巨大，且高壓電源也是易發生故障的模塊。柵控行波管在雷達發射機系統中地位十分重要，其好壞直接影響雷達發射機的狀態正常與否。文獻[22]中給出了某型雷達發射機全壽命周期內等間隔采集的高壓電源的紋波電壓、柵控行波管的管體電流和收集極電流的狀態監測實驗值，如圖11～13所示，共60組數據。由圖11可知，紋波電壓隨著高壓電源使用時間的延長，其健康狀況逐漸變差，紋波電壓總體呈非線性上升趨勢，且增加的幅度也在逐漸加大；由圖12～13可知，行波管的管體電流呈非線性增加趨勢，而收集極電流呈非線性減少趨勢，隨著行波管使用時間的增加，管體電流增加和收集極電流減少的速度變快。

圖11 高壓電源紋波電壓測試值

圖12 行波管管體電流測試值

4.2 發射機故障預測及結果分析

將文獻[12]中雷達發射機的狀態監測實驗值用于驗證基于Bi-LSTM的故障預測方法有效性。取前50個時間點的健康度數據作為訓練數據，后10個時間點的健康度數據作為測試數據，用于驗證故障預測結果的優劣。RNN，LSTM和Bi-LSTM三種方法訓練參數設置與3.3節一樣。

圖13 行波管收集極電流測試值

圖14～16表示基于Bi-LSTM的紋波電壓、管體電流和收集極電流的訓練與預測結果。可以發現，隨著時間的推移，三種方法的預測結果均逐漸偏離測試數據，且相同時間點時基于RNN的預測結果偏離最大，基于Bi-LSTM的預測結果偏離最小。

圖14 紋波電壓訓練與預測結果

雷達發射機性能退化趨勢預測結果評價指標如表4所示?？梢园l現，無論是紋波電壓、管體電流還是收集極電流，基于Bi-LSTM預測結果的eRMSE，eME和eSD均是最小的，即基于Bi-LSTM的預測效果最好，LSTM次之，RNN最差。預測結果表明本文提出的基于Bi-LSTM的電子裝備故障預測方法相較于傳統的RNN方法預測效果更好、精度更高。

圖15 管體電流訓練與預測結果

圖16 收集極電流訓練與預測結果

表4 雷達發射機性能退化趨勢預測結果情況

取tRUL實際=5時(即測試數據為第55次測量值)作為故障時間，開展剩余壽命預測結果評價。剩余壽命預測結果及絕對誤差和相對誤差如表5和圖17所示，可以看出，三種預測方法中Bi-LSTM的預測效果明顯好于RNN和LSTM。利用RNN和LSTM對紋波電壓進行故障預測時，絕對誤差為1.61和1.63，相對誤差為32.2%和32.6%；而利用Bi-LSTM進行故障預測時，絕對誤差和相對誤差分別只有0.61和12.2%，明顯小于RNN和LSTM的預測結果。

圖17 預測結果相對誤差

表5 剩余壽命預測結果相對誤差

5 結 論

為提高電子裝備PHM技術水平，提升故障預測準確性，提出基于Bi-LSTM的電子裝備故障預測方法。通過雷達帶通濾波放大器模擬電路仿真數據案例和雷達發射機狀態監測實際數據案例分析，充分說明Bi-LSTM具有更好的時序數據處理能力，基于Bi-LSTM的故障預測方法優于RNN和LSTM，能夠提高電子裝備故障預測測準確性。研究表明，雖然電子裝備和機械裝備千差萬別，但只要反映兩者性能退化過程的參數演變趨勢特點相似，基于數據驅動的故障預測方法即可參考互用，達到提高故障預測準確性的目的，其限制明顯少于基于模型的故障預測方法。