基于GAN-BiLSTM的鋰電池RUL預(yù)測

孟 春,汪濟(jì)洲,彭 相,張開宇

(合肥學(xué)院 1.先進(jìn)制造工程學(xué)院;2.能源材料與化工學(xué)院,安徽 合肥 230601)

鋰電池因其循環(huán)使用周期長、充電速率快等優(yōu)越特性,被廣泛應(yīng)用于民用、商用、軍用等能源設(shè)備中[1]。然而,隨著鋰電池多次的循環(huán)使用和充放電操作,電池的剩余使用壽命不可避免地縮減,最終導(dǎo)致系統(tǒng)無法正常工作甚至可能造成安全事故[2]。若能提前預(yù)測鋰電池的剩余使用壽命,并預(yù)先做出對策,勢必會大大降低危險事故發(fā)生的頻次,因此準(zhǔn)確的鋰電池RUL預(yù)測顯得尤為重要。

目前對于鋰電池RUL預(yù)測任務(wù)方法的研究主要包括基于模型的方法和基于數(shù)據(jù)驅(qū)動的方法[3-5]。其中前者需要考慮鋰電池內(nèi)部的復(fù)雜變化,從而建立相應(yīng)的物理和數(shù)學(xué)模型,而基于數(shù)據(jù)驅(qū)動的方法采用統(tǒng)計學(xué)理論和機器學(xué)習(xí)方法[6],主要通過神經(jīng)網(wǎng)絡(luò)對RUL進(jìn)行估算。如張浩等人[7]將容量、阻抗、溫度作為輸入數(shù)據(jù),提出了基于BiLSTM的RUL預(yù)測算法,趙顯赫等人[8]利用attention強化輸入數(shù)據(jù)中敏感性較高的特征,將長短期記憶網(wǎng)絡(luò)(long short-term memory, LSTM)和attention相融合,提出了基于Attention-LSTM的RUL預(yù)測模型。雖然采用數(shù)據(jù)驅(qū)動的方法只需從數(shù)據(jù)出發(fā)而無需考慮復(fù)雜的電池內(nèi)部變化,但是此種方法需要大量的數(shù)據(jù)作為前提,若數(shù)據(jù)量較小則其準(zhǔn)確率無法保證,在一些獲取鋰電池充放電數(shù)據(jù)較為困難的場景,若采用數(shù)據(jù)驅(qū)動的方法則準(zhǔn)確率較低。因此如何在鋰電池數(shù)據(jù)量較小的情況下,研究一種具有高準(zhǔn)確率的RUL估計方法很有必要。

本文提出基于GAN-BiLSTM的鋰電池RUL預(yù)測,在學(xué)者研究的基礎(chǔ)上,增加了GAN模型,通過生成對抗網(wǎng)絡(luò)擴充數(shù)據(jù)集,在樣本數(shù)據(jù)量較小或數(shù)據(jù)獲取較為困難的場景下,大大提高了鋰電池RUL預(yù)測的準(zhǔn)確率。與其他循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行對比,獲得了較好的實驗效果,并驗證了具有較低的損失,因此具有一定的實際應(yīng)用價值。

1 相關(guān)方法分析

1.1 GAN

生成對抗網(wǎng)絡(luò)由兩部分組成[9],包括生成器G和判別器D,如圖1所示,生成器用于生成鋰電池數(shù)據(jù),而判別器用于判斷數(shù)據(jù)的真假,具體步驟如下:隨機噪聲z經(jīng)過生成器G生成虛假的鋰電池數(shù)據(jù)G(z),訓(xùn)練判別器D判斷樣本數(shù)據(jù)來源于生成數(shù)據(jù)G(z)還是真實的樣本數(shù)據(jù)x,用訓(xùn)練好的判別器訓(xùn)練生成器G生成接近真實鋰電池數(shù)據(jù)的樣本,以求達(dá)到博弈論中的“納什平衡”,最終生成器生成接近真實的鋰電池數(shù)據(jù)以欺騙判別器,而判別器判別不出真假。

圖1 GAN模型結(jié)構(gòu)圖

GAN模型的目標(biāo)函數(shù)如式(1)所示。

V(G,D)=Ex～Pdata(x)[logD(x)]+Ez～Px{log{1-D[G(z)]}}

(1)

式(1)中:高斯隨機噪聲z～pz;真實數(shù)據(jù)樣本x～pdata(x),分為兩部分進(jìn)行單獨訓(xùn)練,優(yōu)化一次生成器后再優(yōu)化k次訓(xùn)練器,從而使各自的代價函數(shù)達(dá)到最低。

1.2 LSTM

LSTM[10]在RNN的基礎(chǔ)上提出門控的概念,該模型由輸入門,輸出門,遺忘門組成。通過三個門的作用進(jìn)行信息的保留以及遺忘。若在訓(xùn)練過程中捕捉到兩個信息之間的關(guān)聯(lián)性,則會通過記憶單元保留其狀態(tài)信息,若未捕捉到其關(guān)聯(lián)性,則選擇遺忘該狀態(tài)信息。并通過記憶單元對數(shù)據(jù)進(jìn)行更新。基本結(jié)構(gòu)如圖2所示,表達(dá)式如式(2)-式(7)所示。

圖2 LSTM結(jié)構(gòu)圖

(1)輸入門

it=σ(Wixt+Uiht-1+bi)

(2)

式(2)中:it為輸入門輸出;σ為sigmoid激活函數(shù);Wi、Ui為權(quán)重參數(shù),ht-1為t-1時刻隱藏層輸出;bi為偏重參數(shù);xt為t時刻的輸入。

(3)

(2)遺忘門

ft=σ(Wfxt+Ufht-1+bf)

(4)

式(4)中:ft為遺忘層輸出;Wf、Uf為遺忘門的權(quán)重參數(shù);bf為遺忘門的偏重參數(shù)。

(3)輸出門

ot=σ(Woxt+Uoht-1+bo)

(5)

式(5)中:ot為輸出門輸出;Wo、Uo為輸出門的權(quán)重參數(shù);bo為輸出門的偏重參數(shù)。

ht=ot·tanh(Ct)

(6)

式(6)中:ht為t時刻隱藏層的輸出;Ct為t時刻內(nèi)部狀態(tài)。

(4)單元狀態(tài)

(7)

式(7)中:Ct-1為t-1時刻內(nèi)部狀態(tài),反映歷史信息。

LSTM中每個神經(jīng)元都通過“逐元素運算”和“激活運算”,選擇和傳遞狀態(tài)中有用的信息,但LSTM僅學(xué)習(xí)了過去狀態(tài)對當(dāng)前狀態(tài)的影響,忽略了未來狀態(tài)的作用,沒有充分利用時間序列的前后依賴性關(guān)系,因此對于數(shù)據(jù)的學(xué)習(xí)能力有所欠缺。而Bi-LSTM網(wǎng)絡(luò)能同時學(xué)習(xí)過去與未來狀態(tài)對當(dāng)前狀態(tài)的作用,極大提高了模型對具有前后依賴關(guān)系的長序數(shù)據(jù)的學(xué)習(xí)能力,能夠迅速捕捉前后數(shù)據(jù)間的細(xì)微關(guān)系。鋰電池RUL預(yù)測中不僅要考慮過去數(shù)據(jù)對當(dāng)前狀態(tài)的影響,也需要考慮將來數(shù)據(jù)對當(dāng)前狀態(tài)的影響,所以必須考慮前后兩個方面的狀態(tài)關(guān)系。因此本文選擇BiLSTM替代LSTM模型,在每一個t時刻都要進(jìn)行從前往后的正向處理hL和從后往前的逆向處理hR,t時刻的BiLSTM輸出為:ht=hL·hR。

2 GAN-BiLSTM模型與算法建立

鋰電池的一次循環(huán)充放電數(shù)據(jù)中存在著大量的數(shù)據(jù),由于這些數(shù)據(jù)中存在著大量的冗余信息不能直接將數(shù)據(jù)作為模型的輸入,根據(jù)學(xué)者研究[11],每項數(shù)據(jù)指標(biāo)中的最大值、最小值或者突變點可以更好地表征電池性能,因此本文根據(jù)鋰電池的輸入數(shù)據(jù):溫度、容量、電壓數(shù)據(jù),按照偏度skew,正態(tài)分布的峰度值kurtosis、最大值max、最小值min、平均值mean、標(biāo)準(zhǔn)差std進(jìn)行劃分?jǐn)?shù)據(jù),再加上時間t的值,得到原始數(shù)據(jù),并劃分?jǐn)?shù)據(jù)集為訓(xùn)練集和測試集,按照SOH容量計算的方式計算每個循環(huán)次數(shù)的鋰電池健康狀態(tài)(state of health, SOH)值,其含義如式(8)所示,并將SOH值小于80%時的最大值作為截止SOH,而標(biāo)簽y即為截止SOH時對應(yīng)循環(huán)次數(shù)值與當(dāng)前循環(huán)次數(shù)值之差。

(8)

式(8)中:Cnow和C0分別為鋰電池的當(dāng)前可用容量和標(biāo)稱容量。

為減少異常數(shù)據(jù)的影響,加快訓(xùn)練過程中數(shù)據(jù)收斂,首先對數(shù)據(jù)歸一化和標(biāo)準(zhǔn)化處理,標(biāo)準(zhǔn)化后的值如式(9)所示。

(9)

其中:x為樣本值;x*為標(biāo)準(zhǔn)化后的值;min(·)、max(·)分別表示取最小值和取最大值。標(biāo)準(zhǔn)化操作使得所有數(shù)據(jù)位于[0,1]之間,減少了單個數(shù)據(jù)對整體的影響,并設(shè)置時間窗大小對數(shù)據(jù)進(jìn)行滑動,其中窗寬度為10,時間步長為1,得到預(yù)處理后的數(shù)據(jù)。再通過GAN模型進(jìn)行數(shù)據(jù)的擴充后使用BiLSTM模型進(jìn)行預(yù)測,所建立的GAN-BiLSTM模型,如圖3所示。

圖3 基于GAN-BiLSTM的鋰電池RUL預(yù)測模型圖

對鋰電池數(shù)據(jù)增強的GAN模型,如圖4所示,為捕捉鋰電池前后數(shù)據(jù)相互依賴的內(nèi)部關(guān)系,生成器和判別器均采用BiLSTM模型。

圖4 生成器和判別器結(jié)構(gòu)圖

在生成器中,維度為(11,41)的隨機噪聲經(jīng)過三層BiLSTM并通過RepeatVector層轉(zhuǎn)換變成了(11,256)的張量,然后經(jīng)過三層BiLSTM和一層LSTM后,輸出(11,41)的張量,即為一組gan模型生成數(shù)據(jù),生成器網(wǎng)絡(luò)的BiLSTM層均采用了ReLU激活函數(shù)。

在判別器中,輸入為(11,41)的張量,分為真實的鋰電池數(shù)據(jù)和生成器生成的數(shù)據(jù),經(jīng)過兩個BiLSTM層、一個Dropout層、一個RepeatVector層后,輸出(1,256)的張量,再經(jīng)過一層TimeDistributed層,一層Dropout層,輸出(1,128)張量,最終輸出前經(jīng)過一個全連接層后得到輸出值,即為判別器的判別結(jié)果,判別器的激活函數(shù)采用LeakyRelu。

實驗中選擇GAN模型生成的樣本數(shù)量為128,原輸入數(shù)據(jù)的維度為(302,11,41),經(jīng)過GAN模型進(jìn)行數(shù)據(jù)增強的數(shù)據(jù)維度為(128,11,41),擴充后數(shù)據(jù)量維度達(dá)到(430,11,41)。最后使用BiLSTM對鋰電池此RUL進(jìn)行預(yù)測。本文的模型采用了一層BiLSTM網(wǎng)絡(luò),前向LSTM的神經(jīng)元個數(shù)是624,反向LSTM的神經(jīng)元個數(shù)是416,激活函數(shù)采用Relu,損失函數(shù)采用MSE變體,優(yōu)化器采用Adam,將原始數(shù)據(jù)和增強的數(shù)據(jù)一起輸入到BiLSTM模型中進(jìn)行訓(xùn)練,最后通過全連接層和relu激活函數(shù)對剩余壽命進(jìn)行預(yù)測。

3 實驗與結(jié)果分析

由于GAN-BiLSTM模型采用了GAN模型和基本的時間序列模型BiLSTM,為充分驗證模型的先進(jìn)性,通過實驗與未經(jīng)數(shù)據(jù)集拓展的其他時間序列模型:LSTM、GRU、BiGRU、BiLSTM進(jìn)行比較,并對實驗結(jié)果進(jìn)行比較,驗證本文提出模型的優(yōu)越性。

3.1數(shù)據(jù)集介紹

本實驗采用牛津大學(xué)老化實驗數(shù)據(jù)集[12],電池容量740mAh的SLPB 533459H鋰電池。采用恒壓恒流方式進(jìn)行循環(huán)充放電,共選擇了cell1-cell8共8塊電池進(jìn)行實驗,每塊鋰電池循環(huán)充放電次數(shù)不超過8200次,每個電池數(shù)據(jù)中包含著充電和放電的數(shù)據(jù),每組數(shù)據(jù)中包括容量、電壓、時間、溫度等數(shù)據(jù),并將其作為輸入數(shù)據(jù)。

3.2 評價指標(biāo)

(10)

(11)

(12)

(2)diff與0進(jìn)行比較,得到是否大于0的布爾類型張量greater。

(3)將布爾類型張量greater轉(zhuǎn)換為float32類型(0或者1)。

(4)將greater值加1。

(6)計算MSE值與greater乘積:loss=MSE×greater。

(a)MSE損失函數(shù)曲線

3.3 結(jié)果分析

五組模型在SLPB 533459H鋰電池上的預(yù)測效果如圖6所示,可以看出,幾種模型的總體預(yù)測趨勢一致,但是LSTM模型的預(yù)測曲線與實際曲線相比,始終有一定差距,這是因為使用LSTM僅考慮了單向的影響,并沒有考慮到前后數(shù)據(jù)間相互依賴的關(guān)系,因此差距較大。BiLSTM、GRU、BiGRU與實際曲線較為擬合,但效果都沒有加入GAN模型進(jìn)行數(shù)據(jù)增強的GAN-BiLSTM模型擬合效果好。這是因為在小樣本的訓(xùn)練中會出現(xiàn)過擬合或者樣本數(shù)據(jù)量較小無法表征整體的情況,GAN模型的加入,解決了小樣本下訓(xùn)練的困難,在樣本量較少時,通過擴充數(shù)據(jù)集使模型泛化能力大大提高,從最初的樣本個數(shù)302,擴充到430,樣本數(shù)量大大提高,在樣本數(shù)量充足的情況下,模型的訓(xùn)練效果也更好,所以曲線擬合程度也較高。

圖6 模型預(yù)測比較曲線圖

為了更加直觀地看出各個模型的效果,根據(jù)實驗結(jié)果繪制前2000個epoch的模型訓(xùn)練集上損失曲線圖和驗證集上損失曲線圖,如圖7所示。由圖7中的結(jié)果可以直觀反映出LSTM模型表現(xiàn)欠佳,前2000個Epoch損失未能迅速下降,而BiLSTM、GRU、BiGRU、GAN-BiLSTM曲線迅速下降,如圖8所示,BiLSTM模型損失下降過程中振蕩較為嚴(yán)重,幅度較大,一直不能達(dá)到穩(wěn)定,而GAN模型的加入擴充了數(shù)據(jù)集,使得前1000個Epoch損失的振蕩幅度快速下降,后趨于穩(wěn)定,GAN-BiLSTM的損失值最低值達(dá)到24.1,較其他幾個模型也始終最低。

圖7 模型訓(xùn)練損失圖

圖8 模型訓(xùn)練損失圖(局部放大圖)

在驗證集上驗證時如圖9所示,與在訓(xùn)練集上訓(xùn)練的趨勢一致,LSTM模型的預(yù)測損失較大,且損失值較高一直不能快速下降,其驗證的效果預(yù)測精度較差,局部放大后如圖10所示,前500個epoch雖然BiLSTM快速震蕩但后趨于穩(wěn)定,并且損失值達(dá)到最低1.04,而BiLSTM模型雖然能夠快速穩(wěn)定但較GAN-BiLSTM而言,始終保持一定損失值。與其他模型對比表明GAN-BiLSTM在驗證集上預(yù)測精度較高,即預(yù)測的RUL更接近真實值。

圖9 模型驗證損失圖

圖10 模型驗證損失圖(局部放大圖)

結(jié)語

本文提出的GAN-BiLSTM模型在小樣本場景下通過GAN進(jìn)行數(shù)據(jù)集的擴充,使用BiLSTM模型進(jìn)行在線鋰電池RUL預(yù)測,模型評估階段采用符合實際需求的鋰電池RUL預(yù)測評價指標(biāo):基于MSE變體的評價指標(biāo),并在牛津大學(xué)鋰電池數(shù)據(jù)集上進(jìn)行驗證,通過與LSTM、GRU、BiGRU、BiLSTM模型進(jìn)行對比實驗,實驗證明了GAN-BiLSTM在訓(xùn)練集和驗證集上損失最低:在訓(xùn)練集上損失達(dá)到24.1,測試集上達(dá)到1.04。與其他時間序列模型相對比模型的泛化能力較高,因此有著更高的預(yù)測精度,即預(yù)測的鋰電池RUL值更接近真實值,通過提前預(yù)測鋰電池剩余循環(huán)次數(shù),優(yōu)化退役鋰電池的后續(xù)處理措施,因此具有一定的工程應(yīng)用價值。