基于SAM-BiGRU網絡的鋰電池RUL預測

朱夢雨，陳富安

(河南工業大學電氣工程學院，河南鄭州 450001)

隨著電池技術的不斷發展，憑借循環壽命長、比能量高等優點，鋰離子電池正逐步取代傳統的鉛酸蓄電池，在生產生活中得到迅速普及[1]。鋰電池的荷電狀態（state of charge，SOC)和健康狀態(state of health，SOH)作為評估鋰電池狀態的兩個重要指標，對其研究已比較成熟[2-5]，而對鋰電池剩余使用壽命(remaining useful life，RUL)的預測研究尚在發展階段。準確預測鋰電池的RUL，對儲能設備的精準管理和降低設備維護成本等有很高應用價值。

當前對鋰電池RUL的預測方法主要分為兩種[6]。一是基于模型驅動的方法。該方法又分為電化學模型、等效電路模型和退化經驗模型。ASHWIN等[7]提出了一種偽二維(pseudo two dimensions,P2D)電化學模型，研究發現對流換熱系數和孔隙率的變化對固體電解質界面層的增長和電池容量有顯著影響，以此來預測鋰電池RUL。孫冬等[8]基于鋰電池一階戴維南等效電路，提出了多模型數據融合技術的預測方法。YANG等[9]建立了兩項對數模型來捕捉鋰電池的降解趨勢，通過對電池退化數據的擬合，基于貝葉斯模型進行鋰電池RUL預測，實驗證明該模型優于現有的退化經驗模型。利用模型驅動的方法在研究中往往需要花費大量時間建立鋰電池的準確模型，而且模型的泛化性能普遍比較差，導致基于模型驅動的方法應用不是非常廣泛。

二是基于數據驅動的方法，該方法只需從表征鋰電池外部特性的歷史數據中挖掘容量變化的規律，而不用了解鋰電池內部變化的化學機理，具有較強的實用性[10]。近些年隨著深度學習算法的發展進步，傳統的循環神經網絡(recurrent neural network，RNN)作為一種適合處理時間序列的模型，經過長時間的發展，衍生了一系列的變體，比較典型的就是長短期記憶(long short-term memory,LSTM)神經網絡和門控循環單元(gated recurrent unit,GRU)神經網絡，兩者都很好地緩解了RNN 網絡在學習過程中容易出現的梯度消失或梯度爆炸等問題[11]。ZHANG等[12]利用LSTM 網絡研究了鋰電池容量退化過程中的長期依賴關系，利用多個鋰電池在兩種不同溫度下的實驗數據建模，該方法能夠獨立于離線訓練數據對鋰電池的RUL進行預測。而GRU 網絡作為LSTM 網絡的變體，其對LSTM 網絡進行了優化，減少了參數，模型訓練速度提高。

具體到鋰電池剩余使用壽命預測的問題上，建立模型時需要考慮到未來時序數據的反饋以獲得更深層次的信息，采用雙向門控循環單元(bi-directional gated recurrent Unit，BiGRU)神經網絡，其對強調順序的數據表達能力更強，并可以利用得到的反饋信息對模型進行修正；對于鋰電池容量衰減過程中長時間預測時的中早期輸入信息易丟失的問題，引入自注意力機制(self-attention mechanism，SAM)來對重要信息進行捕捉，使模型能夠根據不同時期的輸入信號對于輸出結果的貢獻大小分配不同的關注度。綜上所述，本文提出一種基于SAM-BiGRU 網絡的鋰電池剩余使用壽命預測方法。

1 基本網絡模型

1.1 自注意力機制

BAHDANAU[13]首先提出了注意力機制，后經多位學者對其改進，延伸出多個變種，如自注意力機制和多頭注意力機制等[14]。自注意力機制本質是在輸入信息上計算概率分布，得到不同輸入信息對應當前任務的權重分布，再根據不同權重對當前輸入信息進行加權，從而實現對任務相關性較高的信息賦予更高的權重。在時間序列分析方面，可以用于從時間序列中捕獲到關鍵時間點的信息，以提高神經網絡的效率。自注意力機制結構和計算流程見圖1。

圖1 自注意力機制結構和計算流程

q、k、v不同時刻求解見式(1)～(3)，其中W q、W k、W v為網絡訓練參數。

式中：q、k、v分別為查詢向量、鍵向量和值向量，由輸入序列X=(x1,x2,…,xt)通過線性映射所得。

以輸入向量x1為例，首先分別計算x1與x1，x2，…，xt的相關性并用α表示，稱為attention score，通常采用點積運算的方式，然后通過softmax 函數進行歸一化處理得到注意力分布α′，如式(4)～(5)所示。

最后通過加權求和，對注意力進行匯總得到向量x1所對應的輸出，如式(6)所示。

1.2 BiGRU 網絡

GRU 網絡對LSTM 網絡進行了優化，只有兩個門控結構。一是更新門zt，其數值大小決定從歷史狀態中保留多少信息到當前狀態；二是重置門rt，其數值大小決定對前一時刻狀態信息的遺忘程度，從而控制信息的流動以確保重要時序數據傳遞下去。GRU 網絡單元結構見圖2。

圖2 GRU 網絡單元結構

從圖2 可以看出，以t時刻輸入向量xt與t-1 時刻隱藏層狀態ht-1為輸入，通過sigmoid 激活函數σ計算rt和zt，計算公式見式(7)～(8)。

式中：W、U分別表示相對應的權重矩陣；b為偏置向量；?為Hadamard 乘積，即對應元素相乘。

上述網絡僅單向考慮了輸入序列的關聯，在前后關聯性強的數據上有局限性。所以本文采用雙向門控循環單元(BiGRU)神經網絡。圖3 是BiGRU 網絡結構。該結構可以綜合考慮鋰電池歷史時刻和未來時刻的容量信息，提升模型效率，使得預測過程更加全面。

圖3 BiGRU網絡結構

該網絡通過式(11)和(12)獨立計算前向傳播和反向傳播的隱藏層狀態，最后通過式(13)拼接兩個方向上的輸出。

1.3 模型整體結構

鋰電池的容量衰退是一種時序問題，本文通過自注意力機制充分捕捉長距離序列數據關鍵時間點的特征并分配權重，并利用BiGRU 神經網絡有效地獲取長序列數據的歷史和未來信息，兩者可以形成有效補充。通過自注意力機制和BiGRU 網絡相結合，構建SAM-BiGRU 模型。SAM-BiGRU模型框架見圖4。

圖4 SAM-BiGRU模型框架

首先，對鋰電池的容量序列x1～xt進行線性變換及劃分，作為自注意力機制的輸入。然后，將其輸入到自注意力模型，各部分經過點積運算后進行輸出，將輸出結果進行拼接處理，得到輸入信息的權重分配。最后，將注意力輸出結果作為BiGRU 網絡的輸入，利用BiGRU 網絡對時間序列數據的處理能力對鋰電池剩余容量進行預測。

2 實驗及結果

2.1 數據集

本文所用數據集為美國馬里蘭大學先進生命周期工程研究中心(CALCE)鋰電池實驗數據，采用電池編號CS2 系列鈷酸鋰(LiCoO2)電池中的35、36、37 號三只電池的數據。鋰電池額定容量為1.1 Ah，均以標準恒流恒壓協議進行充放電，充電電流1C，直到電壓達到4.2 V，然后4.2 V 恒壓充電，直到充電電流降至0.05 A 以下停止。放電為恒流放電，電流1C，截止電壓為2.7 V。實驗均在室溫條件(25 ℃)下進行。當電池測試容量低于額定容量的70%時，可判斷電池失效，本文實驗中鋰電池失效閾值為0.77 Ah。圖5 為循環中電池容量衰減曲線。

圖5 鋰電池容量衰減曲線

表1 為三只鋰電池循環數據，其中有效循環次數是指到達失效閾值時鋰電池完成的充放電循環次數。

表1 鋰電池循環數據

2.2 結果及分析

為體現本文所提SAM-BiGRU 模型的預測優勢，選取LSTM 模型和BiGRU 模型進行對比實驗。同時為方便對比，使用三只鋰電池有效循環次數的前50%作為訓練數據，其中CS35、CS36 號電池采用前320 次循環作為訓練集，CS37 號電池采用前350 次循環作為訓練集，均以剩余循環次數作為測試集。

實驗結果見圖6～圖11。可以看出，相比于LSTM 和BiGRU 模型，SAM-BiGRU 預測曲線更接近容量衰退的真實值，擬合度更高。

圖6 CS35號鋰電池預測結果

圖7 CS35號鋰電池預測誤差

圖8 CS36號鋰電池預測結果

圖9 CS36號鋰電池預測誤差

圖10 CS37號鋰電池預測結果

圖11 CS37號鋰電池預測誤差

為有效評估模型的準確性，本文選擇均方根誤差(RMSE)和平均絕對百分比誤差(MAPE)兩個評價指標。二者計算公式見式(14)～(15)。

式中：Qi為鋰電池的實際容量值；為鋰電池的預測容量值；n為樣本數。

均方根誤差和平均絕對百分比誤差值越小代表模型性能越好，從均方根誤差和平均絕對百分比誤差的角度展示了本文所提方法的優勢，數據見表2。

表2 不同模型對比結果

使用LSTM 模型對三只鋰電池預測的RMSE和MAPE均高于4%，模型預測效果較差。BiGRU 模型優化了LSTM 模型的“門”結構并引入了雙向記憶機制，因此其預測誤差相較于LSTM 模型有明顯減小。本文提出的SAM-BiGRU 模型通過引入自注意力機制對輸入信息分配權重，減少無關信息對預測結果的影響，因而對預測精度有進一步提升，SAMBiGRU 模型對CS35 號電池的預測上兩組數值均不超過1.5%，對CS36 和CS37 號電池預測上兩組數值最大值均不超過2%，相較于LSTM 模型和BiGRU 模型，其精度有較大提高。這說明該模型的RUL預測性能最好。

表3 展示了鋰電池RUL預測模型的參數選擇。表3 中，當所有模型網絡前置參數均相同的情況下，可以看出本文所提方法的優勢。其中，BiGRU 和SAM-BiGRU 考慮了雙向時序，線性映射層輸入數據長度為LSTM 的兩倍。

表3 鋰電池RUL 預測模型參數

2.3 RUL 預測

通過容量衰減到額定容量的70%作為鋰電池的失效閾值，從而預測鋰電池達到失效閾值時的剩余循環次數，本文使用RULAE和RULRE來衡量RUL預測精度，如式(16)和(17)所示：

式中：RULAE為鋰電池RUL預測的絕對誤差(Absolute Error)；RULRE為鋰電池RUL預測的相對誤差(Relative Error)；Ctr和Cpre分別代表鋰電池到達失效閾值時的實際剩余循環次數和預測剩余循環次數。鋰電池的RUL預測誤差見表4。

表4 三種模型鋰電池RUL 預測

從表4 可以看出，使用LSTM 模型對三只鋰電池預測的相對誤差分別為18.75%、22.46%和20%，RUL的預測結果較差，雖然BiGRU 模型結果相較于LSTM 模型稍好，但精度仍然不足，而本文所提出的SAM-BiGRU 模型對三組鋰電池RUL預測的相對誤差分別為0.94%、1.27%和2.22%，預測精度較高，沒有出現較大的波動。

3 結論

本文建立了一種基于自注意力機制的雙向門控循環單元網絡模型SAM-BiGRU，通過自注意力機制捕捉到鋰電池容量歷史信息中的關鍵時間點并為其分配權重，綜合考慮鋰電池歷史時刻和未來時刻的容量信息，提高了預測的精度。使用CALCE 鋰電池數據集的CS2 系列35、36、37 號鋰電池數據驗證所提方法的實用性，實驗結果表明，所提方法在35、36號鋰電池上的預測誤差均在1.5%以內，37 號鋰電池預測誤差為2.22%，預測精度較高。

下一步將考慮以鋰電池容量衰退數據為關鍵因子，建立鋰電池的物理模型與之相結合，同時考慮鋰電池的容量再生效應，建立更為準確的鋰電池RUL預測模型。