基于ARIMA-LSTM深度學習混合模型的PEMFC老化預測方法

張鈺凡, 李玉忍, 馬睿, 張宏宇, 梁波

(西北工業大學 自動化學院, 陜西 西安 710072)

隨著全球環境與能源問題的日益嚴重,大力發展新能源技術以減少污染、降低對化石燃料的需求已成為國際共識。各類新型清潔能源中,燃料電池作為一種能將儲存在燃料里的化學能直接轉化為電能的發電裝置,具有高效率、高能量密度、零污染等優勢,已廣泛應用于交通運輸、發電設備等諸多領域。盡管燃料電池在效率以及能量密度上具有較大優勢,但較短的使用壽命仍在一定程度上限制了其大規模商業化[1]。因此,對燃料電池構建故障診斷與健康管理系統(prognostic health management, PHM)對于提升其使用壽命和運行性能都有較強意義。老化趨勢預測作為燃料電池PHM系統中的重要組成環節之一,由于其對于燃料電池壽命提升有著重要意義,近年來得到了廣泛關注[2]。

燃料電池的老化趨勢預測是根據燃料電池歷史退化數據對其短期退化趨勢以及剩余使用壽命進行預測的一個回歸過程,目前預測方法主要可以分為基于模型的方法、數據驅動的方法以及結合二者的混合方法。其中,基于模型的方法通常需要構建數學統計模型來準確描述燃料電池的退化機制,模型的準確性將直接影響算法的預測精度:Futter等[3]為研究氣體壓力、電壓以及相對濕度等因素對于PEMFC老化的影響效果,建立了可擬合PEMFC不同運行條件的二維老化模型,對燃料電池老化趨勢進行預測;考慮到PEMFC在不同工況下具有不同老化速率,Hu等[4]利用經驗公式建立了PEMFC老化模型以預測動態工況下的電壓衰退情況;Bressel等[5]提出了一種半經驗老化預測模型,選取PEMFC的極限電流密度與電堆電阻作為健康因子并利用擴展卡爾曼濾波進行模型參數辨識;文獻[6]建立了燃料電池經驗模型,通過修改極化方程方法可有效預測燃料電池的電壓衰減以估計退化趨勢。以上基于模型方法的預測精度決定于老化模型的精度,然而燃料電池作為一個多約束、多時間尺度、強耦合的復雜非線性系統,其老化的相關機理尚未完全明晰,建立精確模型的難度較大,這在一定程度上將降低了預測結果的可靠性。

相比之下,基于數據驅動的方法可以在無需了解老化機制的情況下,利用采集的歷史數據完成老化預測并提高預測精度,因此近年來受到了廣泛關注:針對傳統循環神經網絡所存在的梯度彌散問題,Ma等[7]提出一種基于長短期記憶神經網絡的老化預測方法并將之應用于不同燃料電池以驗證其可移植性;為預測PEMFC在動態工況下的剩余使用壽命,Li等[8]在利用變參數模型提取健康因子的基礎上,通過回聲狀態網絡對燃料電池的電壓衰退情況進行預測;除了使用燃料電池輸出電壓這一變量,部分數據驅動的預測方法同時還將燃料電池的電堆溫度、電流等用于學習算法的訓練以提高預測的精度[9-10]。考慮到數據驅動方法對于歷史數據的依賴性,近年來部分學者對于結合基于模型與數據驅動的混合型方法也展開了研究:Liu等[11]結合自適應神經模糊系統與自適應無跡卡爾曼濾波對燃料電池剩余使用壽命進行預測,動態工況下算法被證實可對燃料電池電壓衰退進行精確預測;Wang等[12]所提出的混合型方法則使用了半經驗模型的預測結果對數據驅動結果進行修正,方法被證實在長期預測方面具有較好結果。混合型方法雖然可以一定程度上提高預測精度,降低數據依賴,但是在算法復雜度與計算量方面仍需要進一步完善。

考慮到燃料電池老化情況受到了多種因素共同影響,其整體變化呈非線性規律的同時還存在線性趨勢,本文提出一種用于PEMFC老化趨勢預測的數據驅動深度學習混合模型, 具體貢獻可歸納如下:

1) 對常見的時序分析方法,如自回歸模型與神經網絡模型等,進行了研究和應用,并發現其在線性與非線性擬合方面具有不同的擬合水平。

2) 為確保預測精度并提高預測性能,模型提出了一種深度學習混合算法。算法使用非線性方式對回歸模型與神經網絡進行了結合,避免了因累加關系缺失導致的預測性能問題。

3) 基于1 154 h的公開數據集,所提出方法被證明具有較好的預測水平。較單一模型而言,混合模型在趨勢表達與預測精度方面均有更好表現。

1 燃料電池老化測試

研究中所使用的燃料電池老化數據來源于IEEE 2014 PHM 數據挑戰,其老化測試平臺基本架構如圖1所示[13],測試平臺由PEMFC系統、電子負載、控制系統、測試系統以及LabView界面組成。其中PEMFC系統包括有輔助系統(如水熱管理系統)與1 kW的燃料電池電堆;控制系統被內部集成于測試臺架,一方面用于保證系統和電子負載的正常工作,另一方面LabView接口和傳感器所傳來的數據進入控制系統后,控制系統將對輔助系統等發送控制信號以保證系統的正常運行。

圖1 PEMFC測試平臺實物

為保證待測PEMFC電堆的正常工作,測試工作之前首先需要設定各輔助系統的控制參數,具體設定如表1所示。

表1 PEMFC系統控制參數

隨后,為采集預測所需數據,首先在70 A電流的穩態工況下對型號為ZSW BZ-100-13-5 PEMFCs的質子交換膜燃料電池進行了為期1 154 h的老化測試。待測電堆由5個燃料電池單體組成,每個單體的有效反應面積為100 cm2,額定工作電流密度為0.7 A/cm2,最大電流密度為1 A/cm2。測試中,臺架以毫秒級水平對燃料電池的單片電壓、電堆電壓、電流及電流密度、氣體出入口溫度、氣體出入口壓強、氣體流速、空氣入口濕度、冷卻水流速以及冷卻水出入口溫度等24個參數進行了測量記錄,并最終得到143 862條測量數據。

2 相關方法

本文結合差分整合移動平均自回歸模型(ARIMA)與長短期記憶遞歸神經網絡(LSTM)進行了燃料電池的老化趨勢預測模型構建,下文將對方法的原理與建立過程展開說明。

2.1 ARIMA模型

ARIMA是常用的時間序列模型之一,旨在通過解釋數據序列內部自相關性對變化趨勢進行預測,模型中主要參數包括自回歸系數q、偏自回歸系數p以及差分系數d。該模型可考慮為自回歸滑動平均模型(ARMA)的一種擴展,即首先對非平穩隨機過程進行差分計算直到序列平穩,隨后轉化后的平穩序列可以通過如下的ARMA模型進行描述[14]

(1)

式中:Xt為時間序列的當前值;Xt-i為過去i個時刻的序列值;φi,θj分別為模型的自回歸系數與滑動平均系數;m,n分別為自回歸與滑動平均2個部分的階數;at代表均值為零的一個殘差序列。基于以上思想,ARIMA模型的建立主要分為以下步驟進行:

1) 平穩性檢驗與d階差分平穩化處理;

2) 根據信息量準則選取p,q系數;

3) 根據模型殘差是否為白噪聲序列判斷有效性;

4) 模型有效情況下根據歷史數據進行預測。

作為最常見的時序分析手段之一,ARIMA模型的建立不需要復雜的回歸分析,且參數簡明、可解釋性強,可以對燃料電池老化趨勢進行有效預測。但是作為一種線性建模方法,ARIMA單獨使用時無法很好對燃料電池老化數據的非線性部分進行刻畫,因此進一步引入了長短期記憶神經網絡模型,以提高模型的預測水平和表現性能。

2.2 長短期記憶模型

長短期記憶神經網絡是一種特殊的遞歸神經網絡,可被用于解決長期依賴問題以及遞歸神經網絡存在的梯度消失與梯度爆炸問題。

如圖2所示,長短期記憶細胞單元由輸入門、輸出門、遺忘門以及記憶單元組成[15]。其中,xt表示當前數據輸入,ht-1,ct-1表示接收到上一節點的輸入,yt為當前節點輸出,ht,ct則表示傳輸給下一節點的輸出。長短期記憶網絡的前向傳播可表示為:

圖2 長短期記憶細胞構成

首先使用當前數據輸入與上一時刻狀態拼接訓練,得到4個狀態

(2)

(3)

(4)

(5)

(6)

最終輸出值的確定將通過輸出門ot確定,同時通過一個tanh層對當前細胞狀態進行縮放并與輸出門做乘積,從而可得到當前的隱藏節點ht,相應的輸出yt將通過ht變換得到。至此,長短期記憶神經網絡的前向傳播完成,后續為了更新網絡參數,需要得到每個權重的梯度,這一步則將通過時間序列的反向傳播算法完成。這一過程中,誤差項在向上一個狀態逐層傳遞的過程中幾乎不存在衰減。

對于燃料電池老化預測而言,使用LSTM模型可有效適應數據序列中深層次的復雜依賴關系,并且在考慮溫度、流量等多變量相互關系的基礎上,對數據非線性部分進行擬合,提高預測精確度。

2.3 基于ARIMA的長短期記憶模型建立

本文在結合ARIMA這一傳統時間序列預測方法與LSTM神經網絡預測模型優點的基礎上,構建了一種新興的非線性混合預測模型,使用ARIMA和LSTM分別對序列的線性及非線性特征進行擬合,完成最終的燃料電池老化預測。混合模型可以在同時考慮時序因素與非線性因素的基礎上,基于多維度變量對燃料電池老化進行預測,并具有較高的模型穩定性和準確性。具體的實施流程可表述如下:

1) 通過PEMFC測試平臺進行老化數據采集;

2) 對數據進行重構與降噪處理,以提高數據質量,減少異常數據對于算法實施的影響;

3) 使用ARIMA對數據的線性部分進行擬合得到預測值與殘差序列,使用LSTM直接對數據的非線性部分即殘差序列進行擬合得到預測序列;

4) 使用燃料電池輸出電壓作為健康評判因子,將ARIMA與LSTM模型預測所得作為輸入用于LSTM算法疊加預測,以避免信號無累加關聯對結果的影響并最終得到燃料電池輸出電壓的跌落趨勢。圖3為以上步驟的整體流程示意圖。

圖3 ARIMA-LSTM預測流程

3 驗證與討論

3.1 數據處理與模型設定

燃料電池老化測試過程中部分溫度、壓力相關參數變化情況如圖4所示。

圖4 PEMFC老化測試部分數據

基于參數變化曲線對燃料電池老化數據進行分析可發現:穩態工況下燃料電池的電堆電壓隨時間出現了明顯波動與下降,而溫度、濕度等其他參數均并未出現明顯的衰退變化趨勢。因此,本文選取PEMFC電堆電壓作為燃料電池老化指標來表征燃料電池的老化情況。在此基礎上,考慮到燃料電池老化多以小時為單位發生,而測試平臺以毫秒級別進行數據采集,所以對原始數據調整間隔進行了重新采樣,最終得到如圖5所示的3 462組重采樣數據用于后續算法訓練與驗證。

圖5 PEMFC電堆電壓

對數據的重新采樣并未使其質量得到明顯提高,仍包含大量噪聲與因故障導致的電壓驟降等異常信號。為提高數據質量,采用最小二乘平滑濾波進一步對數據進行重構處理,多次對比實驗后,指定多項式階次為1,框長度為31。處理后的數據如圖6所示,對比原始數據可發現主要衰退趨勢得到保留的同時,噪聲與異常數據均得到了有效處理。

圖6 核主成分分析結果

圖7 數據劃分示意圖

隨后,對具有24維屬性的測試數據進行特征提取和降維。考慮到各參數之間數值范圍差距較大,為更加可靠地反映出不同變量對于燃料電池性能衰退的影響水平,首先歸一化平滑數據,將各變量映射至[0,1]區間。對歸一化數據通過核主成分分析進行降維處理,設定多項式核為核函數可得到圖6所示的分析結果,取累計方差貢獻率為75%后將數據由24維降至7維。

處理后的數據被進一步劃分,取前525 h的采樣數據用于模型訓練,剩余的數據則用于測試和驗證。劃分后的數據首先被送入ARIMA模型進行處理:經過ADF檢驗確定數據一次差分后可符合平穩性要求,隨后結合考慮AIC與BIC準則與計算負擔后取模型階數(p,d,q)為(4,1,2)。

在LSTM預測模型中,2次使用的模型具有不同輸入層,但剩余結構保持相同:首先,為防止訓練過程中的發散現象,模型學習率設定為0.005,使用Adam優化器進行訓練;隨后經多次實驗對比不同隱藏層數及迭代次數后,發現隨隱藏層及迭代次數的增加精度呈現波動變化,但在200層隱藏層時誤差保持為最小,此時對應500次迭代情況下精度最高;因此最終設定模型隱藏層數為200,迭代次數500,并通過在隱藏層后添加Dropout層以避免訓練中的過擬合現象。

3.2 預測分析

模型預測中首先將重構數據分別輸入ARIMA與LSTM模型中得到ARIMA預測殘差序列與LSTM預測序列,之后將二者共同在此輸入LSTM預測模型得到最終的老化電壓變化趨勢預測結果如圖8所示。

圖8 ARIMA與結合LSTM預測結果

為評估模型的性能效果,本文取均方誤差(EMS)、平均絕對誤差(EMA)、均方根誤差(ERMS)與R2為評價指標,從不同評價角度對預測結果進行評估,相關計算公式為:

(7)

(8)

(9)

(10)

在對比所提出方法與傳統ARIMA時序模型預測效果的同時,支持向量機回歸(SVR)以及非線性自回歸神經網絡(NARX)同樣被應用于老化數據,不同方法的對比結果如表2所示,NAR及SVR方法的預測結果曲線如圖9所示。

表2 預測結果評估對比

圖9 NAR與SVM預測結果

結合圖表分析可發現,相比ARIMA的單獨模型,混合模型有效提高了預測結果的擬合情況,具有更高的預測精度,并且有效改善了ARIMA模型存在的滯后情況。同時通過與NAR時序神經網絡以及支持向量回歸預測進行對比可以發現,混合模型的各項指標均優于其他方法,以RMSE為主要評判指標時,混合模型可明顯提高精度65%～71%。即發揮了混合模型在長期趨勢和短期變化中的預測優勢,通過捕捉歷史數據變化以及多維度數據關聯,實現了時序因素和非線性因素的組合預測。整體看來,本文中使用的結合ARIMA模型與LSTM的深度學習混合模型有著更好的預測精度和預測性能。

4 結 論

燃料電池老化預測對于其壽命提升,突破大規模商業化應用瓶頸有著重要意義。由于PEMFC系統是一個強耦合、多時間尺度的復雜非線性系統,同時具備線性與非線性特征,使用單一的傳統時間序列模型難以對其數據進行很好的擬合,因此本文提出了一種結合ARIMA與LSTM的深度學習混合模型用于預測燃料電池的性能衰退趨勢。

本文所提出的方法同時具備ARIMA模型精確的線性序列預測能力,以及神經網絡較強的非線性建模能力。選取燃料電池的輸出電壓作為燃料電池老化評價指標,ARIMA-LSTM混合模型相比其他經典預測方法有效提高了預測精度,并且可以更好地對燃料電池老化情況進行擬合,從而做出準確的預測判斷,以供后續健康管理應用。

方法的性能經對比分析得到驗證的同時,數據依賴性較強的問題仍未得到解決,因此在后續工作中將考慮調整模型,通過遷移學習實現小樣本精確預測,以縮減對于訓練數據的需求,并促進其適用于長期剩余使用壽命預測。