幾種機(jī)器學(xué)習(xí)算法的鋰電池SOC估計(jì)研究

張志冬,李云伍,李楊柳,梁新成

(1.西南大學(xué) 工程技術(shù)學(xué)院, 重慶 400715;2.西南大學(xué) 計(jì)算機(jī)信息與科學(xué)學(xué)院軟件學(xué)院, 重慶 400715)

0 引言

電動(dòng)汽車是目前使用清潔能源的主要交通工具。鋰電池具備性能穩(wěn)定、壽命長(zhǎng)、能量密度高的良好特性,因此成為了電動(dòng)汽車動(dòng)力電池的首選[1]。荷電狀態(tài)(state of charge,SOC)作為電動(dòng)汽車電池管理系統(tǒng)(battery management system,BMS)的核心參數(shù),對(duì)其精確估計(jì)可以避免電動(dòng)汽車動(dòng)力電池過充或虧電,從而延長(zhǎng)使用壽命。因此,SOC的準(zhǔn)確估計(jì)對(duì)電動(dòng)汽車技術(shù)的進(jìn)一步發(fā)展至關(guān)重要[2]。

劉湘東等[3]采用安時(shí)積分法和開路電壓法融合估計(jì)鋰電池SOC,該方法可以解決電池長(zhǎng)時(shí)間靜置的問題,但難以消除累計(jì)誤差;雷肖等[4]提出一種徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)方法估計(jì)SOC,可以解決SOC不能非線性估計(jì)的問題,但所用模型結(jié)構(gòu)過多且復(fù)雜;劉鵬等[5]提出遺忘遞推最小二乘法與自適應(yīng)無跡卡爾曼濾波估計(jì)鋰電池SOC,但不能保證估計(jì)的準(zhǔn)確性。不同于上述方法,基于數(shù)據(jù)驅(qū)動(dòng)的鋰電池SOC估算方法只需要通過機(jī)器學(xué)習(xí)或深度學(xué)習(xí)就能得到SOC與放電數(shù)據(jù)的關(guān)系,具有較強(qiáng)的非線性處理能力,能有效避免出現(xiàn)累計(jì)誤差,提高估計(jì)精度。目前,基于數(shù)據(jù)驅(qū)動(dòng)的鋰電池SOC估計(jì)方法大多是單個(gè)分類器,其存在泛化能力較弱、分類精度低等缺點(diǎn)。駱秀江等[6]采用支持向量機(jī)方法(support vector machine,SVM)對(duì)鋰電池的SOC進(jìn)行估計(jì),但建模過程中參數(shù)選取難度高,不利于實(shí)際應(yīng)用。王爽等[7]將遺傳算法(genetic algorithms,GA)和BP神經(jīng)網(wǎng)絡(luò)(back propagation,BP)結(jié)合作為融合算法估計(jì)鋰電池的SOC,但該方法訓(xùn)練模型建立難度大。Wang等[8]建立AFSA-BP神經(jīng)網(wǎng)絡(luò)模型,實(shí)現(xiàn)了鋰電池SOC的準(zhǔn)確估計(jì),但訓(xùn)練時(shí)間長(zhǎng)、網(wǎng)絡(luò)收斂速度慢。

為了提高鋰電池SOC估計(jì)的實(shí)時(shí)性和精確度,基于一種新型的LightGBM算法,并與隨機(jī)森林、支持向量機(jī)、線性回歸、神經(jīng)網(wǎng)絡(luò)等4種常用的算法在估計(jì)SOC的速度及精度方面進(jìn)行比較[9]。該算法具有2個(gè)特性：① 擁有傳統(tǒng)算法的計(jì)算速度快、泛化能力好等優(yōu)點(diǎn);② 防止過擬合并支持?jǐn)?shù)據(jù)采樣和列抽樣。此外,LightGBM算法可以降低時(shí)間復(fù)雜度并且提高估計(jì)精度。筆者首先介紹了LightGBM算法,然后應(yīng)用隨機(jī)森林、支持向量機(jī)、線性回歸、神經(jīng)網(wǎng)絡(luò)4種算法對(duì)4個(gè)數(shù)據(jù)集(數(shù)據(jù)集a、b、c、d)分別進(jìn)行訓(xùn)練,最后通過對(duì)比4種訓(xùn)練結(jié)果得出LightGBM算法在估計(jì)鋰電池SOC方面的優(yōu)越性。

傳統(tǒng)的SOC估計(jì)方法包括安時(shí)積分法、開路電壓法、電導(dǎo)法、卡爾曼濾波法等[10]。安時(shí)積分法通過實(shí)時(shí)監(jiān)測(cè)電池工作狀態(tài)的充放電量從而準(zhǔn)確得到電池的剩余電量,但是需要獲得精確的SOC初值[11]。開路電壓法根據(jù)電池的開路電壓估計(jì)SOC值,將放電過后的電池靜置后,端電壓與容量存在相對(duì)固定的函數(shù)關(guān)系,但是電池靜置時(shí)間較長(zhǎng)不能滿足估計(jì)的實(shí)效性[12]。電導(dǎo)法通過對(duì)鋰電池電導(dǎo)或電阻的大量測(cè)試數(shù)據(jù)分析出鋰電池電導(dǎo)與SOC的關(guān)系,從而實(shí)現(xiàn)對(duì)鋰電池SOC的估計(jì)?？柭鼮V波法在等效電路模型的基礎(chǔ)上在線估計(jì)鋰電池SOC,可實(shí)時(shí)獲得被估計(jì)狀態(tài)量的最優(yōu)估計(jì)值,但是估計(jì)的準(zhǔn)確性依賴于電路模型建立的準(zhǔn)確性[13]。相比于傳統(tǒng)估計(jì)方法,新型估計(jì)方法有著估計(jì)精度高、估計(jì)方法簡(jiǎn)單的優(yōu)點(diǎn)。

新型估計(jì)方法主要有支持向量回歸法、多元線性回歸法、多種深度學(xué)習(xí)網(wǎng)絡(luò)模型融合算法、滑模觀測(cè)器方法(sliding mode observer,SMO)等多種方法,可以有效解決傳統(tǒng)SOC估計(jì)方法的不足[14]。

神經(jīng)網(wǎng)絡(luò)法通過對(duì)大量的樣本數(shù)據(jù)進(jìn)行多次訓(xùn)練,只需依靠輸入和輸出間的映射關(guān)系即可建立估計(jì)模型,無需考慮系統(tǒng)內(nèi)部的實(shí)際反應(yīng)情況。Li等[15]建立了一種基于外部輸入全并行非線性自回歸神經(jīng)網(wǎng)絡(luò)的鋰電池SOC估計(jì)方法,將實(shí)時(shí)測(cè)得的電池電流、電壓和溫度作為網(wǎng)絡(luò)的輸入,而SOC作為輸出。姚芳等[16]使用了3層BP神經(jīng)網(wǎng)絡(luò)模型對(duì)電池SOC進(jìn)行了數(shù)據(jù)識(shí)別。支持向量機(jī)是一種針對(duì)二分類任務(wù)設(shè)計(jì)的數(shù)據(jù)驅(qū)動(dòng)模型,但是估計(jì)SOC數(shù)據(jù)量過大時(shí)模型精度會(huì)下降,速度會(huì)降低。融合算法可實(shí)現(xiàn)對(duì)現(xiàn)有算法的優(yōu)化,提高數(shù)據(jù)的綜合能力和非線性擬合能力。大數(shù)據(jù)及數(shù)據(jù)挖掘技術(shù)的發(fā)展使SOC數(shù)據(jù)驅(qū)動(dòng)估計(jì)方法逐漸成為主流估計(jì)方法。

各種SOC估計(jì)方法優(yōu)缺點(diǎn)如表1所示。

表1 各種SOC估計(jì)方法優(yōu)缺點(diǎn)對(duì)比

1 LightGBM算法

LightGBM是一種快速、分布式和高性能的梯度提升框架,基于決策樹算法實(shí)現(xiàn)。相較于其他方法,它具有更高的訓(xùn)練效率、更低的內(nèi)存占用和更高的準(zhǔn)確率,同時(shí)支持高效的并行化學(xué)習(xí)。

在LightGBM算法提出之前,XGBoost算法是主要的GBDT工具。XGBoost算法相比LightGBM算法的缺點(diǎn)是計(jì)算量大、內(nèi)存占用大、易產(chǎn)生過擬合,由于迭代方式為L(zhǎng)evel-wise,故采用排序的方式會(huì)消耗大量空間。LightGBM算法框架的提出高效地解決了GBDT在處理較大數(shù)據(jù)集時(shí)的不足,有利于GBDT更好更快地應(yīng)用于工業(yè)實(shí)踐。此外,XGBoost算法需要保存數(shù)據(jù)的特征值和對(duì)應(yīng)的排序結(jié)果,故需要消耗數(shù)據(jù)集2倍的內(nèi)存,效率比較低。XGBoost的目標(biāo)函數(shù)如下：

(1)

(2)

式(2)表示有k個(gè)樣本,在XGBoost里每棵樹是逐次往里加的,以下各式為XGBoost集成的核心：

(3)

(4)

(5)

(6)

(7)

LightGBM算法支持3種并行方式：特征并行、數(shù)據(jù)并行和基于投票的數(shù)據(jù)并行。特征并行的主要思想是在不同的機(jī)器和不同的特征集上分別尋找最優(yōu)的分割點(diǎn),然后在機(jī)器之間同步最優(yōu)的分割點(diǎn)。數(shù)據(jù)并行的主要思想是讓不同的機(jī)器先在本地構(gòu)造直方圖,然后進(jìn)行全局的合并,最后在合并的直方圖上尋找最優(yōu)分割點(diǎn)。而基于投票的數(shù)據(jù)并行能夠解決數(shù)據(jù)并行在直方圖合并時(shí)通信代價(jià)大的缺點(diǎn)。LightGBM估計(jì)速度是XGBoost的1/10,而內(nèi)存占用率只為XGBoost的1/6。LightGBM與隨機(jī)森林、支持向量機(jī)、線性回歸、神經(jīng)網(wǎng)絡(luò)(3層)的時(shí)間復(fù)雜度見表2所示。n為訓(xùn)練實(shí)例數(shù),k為決策樹數(shù)量,d為數(shù)據(jù)維數(shù)。

LightGBM優(yōu)化了對(duì)類別特征的支持,可以直接輸入類別特征而不需要額外展開,并在決策樹算法上增加了類別特征的決策規(guī)則。LightGBM采用histogram算法通信代價(jià)小,通過使用集合通信算法實(shí)現(xiàn)并行計(jì)算的線性加速。

2 實(shí)驗(yàn)結(jié)果及分析

2.1 數(shù)據(jù)集處理

在應(yīng)用LightGBM訓(xùn)練模型之前,需要對(duì)初始數(shù)據(jù)集進(jìn)行預(yù)處理以達(dá)到更好的估計(jì)效果。采用Panasonic-18650PF-Data公開鋰電池?cái)?shù)據(jù)集[17]。該數(shù)據(jù)集已實(shí)現(xiàn)全氣候動(dòng)力電池的全壽命高效管理,電池實(shí)驗(yàn)狀態(tài)為室溫狀態(tài)25 ℃。首先,構(gòu)建輸入數(shù)據(jù)集對(duì)應(yīng)的標(biāo)簽和特征,該數(shù)據(jù)集的特征包含電壓、電流、電池溫度、放電時(shí)間,標(biāo)簽為電池SOC,數(shù)據(jù)集預(yù)處理方式見圖1。

圖1 數(shù)據(jù)集預(yù)處理框圖

將該數(shù)據(jù)集劃分為4個(gè)子數(shù)據(jù)集分別進(jìn)行4次訓(xùn)練,以減小訓(xùn)練誤差從而獲得更好的SOC估計(jì)效果。處理數(shù)據(jù)集時(shí)刪除一些噪聲影響以及其他影響的數(shù)據(jù)點(diǎn),然后選擇精確點(diǎn)。將數(shù)據(jù)集95%劃分為訓(xùn)練集,5%為測(cè)試集,通過訓(xùn)練集確定擬合參數(shù)的曲線,測(cè)試集測(cè)試已經(jīng)訓(xùn)練好的模型的誤差,并對(duì)機(jī)器學(xué)習(xí)模型的泛化誤差進(jìn)行評(píng)估。最后,將數(shù)據(jù)可視化,以顯示參數(shù)之間的任何明顯趨勢(shì),調(diào)優(yōu)統(tǒng)計(jì)模型以確定所需的變量,繪制特征之間的關(guān)系圖。圖2為子數(shù)據(jù)集SOC的變化曲線。

2.2 LightGBM模型訓(xùn)練結(jié)果

選擇最優(yōu)參數(shù)的方法為交叉驗(yàn)證法,即通過多次循環(huán)來尋找最優(yōu)估計(jì)數(shù),首先將各子數(shù)據(jù)集劃分為100個(gè)大小相等的樣本子數(shù)據(jù)集,依次遍歷每個(gè)子數(shù)據(jù)集,每次把當(dāng)前子數(shù)據(jù)集作為驗(yàn)證集,其余所有樣本作為訓(xùn)練集進(jìn)行模型訓(xùn)練和評(píng)估,該方法可以充分利用數(shù)據(jù)集。圖3分別為4個(gè)子數(shù)據(jù)集帶有LightGBM循環(huán)的最優(yōu)估計(jì)數(shù),4個(gè)子數(shù)據(jù)集最優(yōu)估計(jì)數(shù)分別為298、298、298、299。

圖3 帶有LightGBM循環(huán)的最優(yōu)估計(jì)數(shù)

選擇平均絕對(duì)誤差(mean absolute error,MAE)、均方根誤差(root mean square error,RMSE)、R2-score作為預(yù)測(cè)模型的評(píng)價(jià)準(zhǔn)則。

(8)

(9)

(10)

經(jīng)過多次循環(huán)之后得到數(shù)據(jù)集a的MAE為0.011 13,MSE為0.013 9;數(shù)據(jù)集b的MAE為0.007 9,MSE為0.000 1;數(shù)據(jù)集c的MAE為0.007 5,MSE為0.000 1;數(shù)據(jù)集d的MAE為0.011 3,MSE為0.000 2。

在對(duì)LightGBM算法進(jìn)行調(diào)參時(shí),學(xué)習(xí)率(learning_rate)、弱學(xué)習(xí)器最大迭代次數(shù)(n_estimators)、最大樹深(math_depth)、單葉最小權(quán)重(min_child_weight)、葉子節(jié)點(diǎn)數(shù)(num_leaves)為主要參數(shù)。上述參數(shù)的取值標(biāo)準(zhǔn)：取較小的學(xué)習(xí)率可以提高模型性能;弱學(xué)習(xí)器最大迭代次數(shù)越大,模型準(zhǔn)確性越好;最大樹深是LightGBM算法的核心參數(shù),根據(jù)數(shù)據(jù)集特征取值在100～1 000;單葉最小權(quán)重即單個(gè)葉子上的最小樣本數(shù),取值過小停止分裂,過大則會(huì)造成過擬合;葉子節(jié)點(diǎn)數(shù)對(duì)模型的性能具有很大的影響,默認(rèn)值為31。

設(shè)置迭代循環(huán)估計(jì)次數(shù)為200次,為了加速分析減少過多迭代,將學(xué)習(xí)率設(shè)置為0.1,該數(shù)據(jù)集特征數(shù)量多,在尋找分割點(diǎn)時(shí)容易產(chǎn)生過擬合,可以在group邊界上找到分割點(diǎn),將樹中的最小數(shù)據(jù)設(shè)置為較大值來限制樹的深度,完成最優(yōu)調(diào)參后訓(xùn)練數(shù)據(jù)集得到的SOC估計(jì)結(jié)果,如圖4所示。

圖4 LightGBM與實(shí)際對(duì)比

由圖4可以得出,估計(jì)值與真實(shí)值的擬合結(jié)果比較準(zhǔn)確,調(diào)至最優(yōu)參數(shù)的訓(xùn)練模型在估計(jì)時(shí)間和精度方面都得到提升,4個(gè)子數(shù)據(jù)集的訓(xùn)練效果都比較好,說明LightGBM模型估計(jì)鋰電池SOC的效果較好,滿足實(shí)際需求。

2.3 對(duì)比算法分析

目前,估計(jì)鋰電池SOC的新型方法主要有隨機(jī)森林(random forest)、支持向量機(jī)(support vector machine)、線性回歸(linear regression)、神經(jīng)網(wǎng)絡(luò)(neural network)4種模型。將對(duì)比4種模型與LightGBM模型的訓(xùn)練結(jié)果,通過分析對(duì)比訓(xùn)練結(jié)果的準(zhǔn)確率與速率來體現(xiàn)其模型估計(jì)SOC的優(yōu)勢(shì)。

1) 隨機(jī)森林模型

隨機(jī)森林模型調(diào)參,將估計(jì)循環(huán)次數(shù)調(diào)至與LightGBM一致的200次,森林中樹的深度設(shè)置為10。隨機(jī)森林模型的重要參數(shù)主要有隨機(jī)發(fā)生器的種子數(shù)、最大特征數(shù)、決策樹的最大深度、強(qiáng)學(xué)習(xí)器的最大迭代次數(shù)等參數(shù)。

2) 支持向量機(jī)模型

SVM允許決策邊界很復(fù)雜,在低維數(shù)據(jù)和高維數(shù)據(jù)下的表現(xiàn)都比較好,缺點(diǎn)是運(yùn)行時(shí)間和內(nèi)存使用方面消耗比較大?；赟VM的估計(jì)模型輸入變量為電壓,輸出變量為SOC。計(jì)算得出SVM模型的MAE為0.033 23,MSE為0.045 1。

3) 線性回歸模型

應(yīng)用線性回歸模型對(duì)數(shù)據(jù)集進(jìn)行訓(xùn)練,本次研究中特征值為電壓,目標(biāo)值為SOC。設(shè)置計(jì)算時(shí)使用的核數(shù)為默認(rèn)值1,減小loss函數(shù)值,增大學(xué)習(xí)比率值。線性回歸模型應(yīng)用簡(jiǎn)單,訓(xùn)練速度快,但是估計(jì)結(jié)果準(zhǔn)確率較低。

4) 神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)調(diào)參將所有的參數(shù)值權(quán)重設(shè)置為0,均值為0,方差較小的正態(tài)分布初始化,選用的神經(jīng)網(wǎng)絡(luò)模型迭代第100次需要的時(shí)間為23.961 4 s,loss函數(shù)為0.001 1,MAE為0.026 8,第500次需要的時(shí)間為119.097 5 s,loss函數(shù)值為0.001 0,MAE為0.025 7。迭代500次訓(xùn)練模型準(zhǔn)確度與調(diào)整至最優(yōu)參數(shù),正式訓(xùn)練整個(gè)數(shù)據(jù)集迭代至3 000次,訓(xùn)練時(shí)間為717.630 2 s,loss函數(shù)值為0.000 6,MAE值為0.018 5,MSE為0.000 6。

2.4 最終結(jié)果對(duì)比

將LightGBM模型與經(jīng)過參數(shù)調(diào)優(yōu)的隨機(jī)森林、支持向量機(jī)、線性回歸、神經(jīng)網(wǎng)絡(luò)4種主流的機(jī)器學(xué)習(xí)算法模型進(jìn)行對(duì)比,再將數(shù)據(jù)集分別代入各機(jī)器學(xué)習(xí)模型進(jìn)行訓(xùn)練,并且對(duì)模型進(jìn)行參數(shù)調(diào)優(yōu)以達(dá)到各自最優(yōu)的估計(jì)結(jié)果,訓(xùn)練結(jié)果如圖5所示。

圖5為L(zhǎng)ightGBM與隨機(jī)森林模型估計(jì)結(jié)果對(duì)比。從曲線中可以得出,LightGBM模型的估計(jì)結(jié)果比隨機(jī)森林模型估計(jì)結(jié)果更加接近SOC真實(shí)值,模型估計(jì)精度和擬合度都比較好。調(diào)參完成后的模型的估計(jì)速度和精度得到提升,相比其他4種對(duì)比模型,具有快速、高精度的優(yōu)點(diǎn)。證明LightGBM模型估計(jì)鋰電池SOC的變化結(jié)果比較準(zhǔn)確,可以作為電池工作過程中SOC變化的參考,監(jiān)測(cè)電池工作狀態(tài),延長(zhǎng)電池使用壽命。

圖6為L(zhǎng)ightGBM模型訓(xùn)練數(shù)據(jù)集估計(jì)SOC的誤差。從圖中可以看出,模型訓(xùn)練的整個(gè)過程中誤差值比較小,且模型估計(jì)誤差的波動(dòng)也小?？紤]外界因素如電池放電過程中溫度、運(yùn)行工況等的影響,整個(gè)電池放電過程中誤差值最大達(dá)到0.10,整體誤差不超過0.06,誤差值集中在0.02以內(nèi),其中數(shù)據(jù)集c的誤差最小。訓(xùn)練結(jié)果表明,LightGBM模型估計(jì)SOC效果較好,且可滿足實(shí)際的需求。

圖6 誤差分析

表3為L(zhǎng)ightGBM模型與4種對(duì)比算法的SOC估計(jì)結(jié)果對(duì)比。表中各算法訓(xùn)練的數(shù)據(jù)集均為同一數(shù)據(jù)集,各個(gè)模型均經(jīng)過參數(shù)調(diào)優(yōu)至各自最佳的訓(xùn)練效果。由表3中數(shù)據(jù)可知,LightGBM的估計(jì)速率以及精確度都優(yōu)于其他幾種算法,估計(jì)結(jié)果誤差小且實(shí)驗(yàn)數(shù)據(jù)精確度高,在MAE、MSE、R2-score均取得較好的結(jié)果,LightGBM算法在保證高效率的同時(shí)防止了訓(xùn)練產(chǎn)生過擬合,顯著提高了鋰電池SOC估計(jì)的速率與精確度。

表3 各算法訓(xùn)練結(jié)果對(duì)比

3 結(jié)論

1) 提出新型的機(jī)器學(xué)習(xí)方法估計(jì)鋰電池SOC,得到比傳統(tǒng)方法更好的估計(jì)效果。

2) 采用Panasonic-18650PF-Data鋰電池實(shí)驗(yàn)數(shù)據(jù)集驗(yàn)證了所提出的LightGBM算法的創(chuàng)新性,減小了數(shù)據(jù)訓(xùn)練誤差,并評(píng)估機(jī)器學(xué)習(xí)模型的泛化誤差,將實(shí)驗(yàn)數(shù)據(jù)進(jìn)行可視化處理,可顯示參數(shù)之間的相互關(guān)系。

3) 應(yīng)用LightGBM算法及支持向量機(jī)等對(duì)比算法訓(xùn)練Panasonic-18650PF-Data鋰電池?cái)?shù)據(jù)集,得出估計(jì)時(shí)間為對(duì)比算法隨機(jī)森林的1/22,支持向量機(jī)的1/88,神經(jīng)網(wǎng)絡(luò)的1/1 330。改進(jìn)的LightGBM算法具有更快的估計(jì)速度和更高的估計(jì)精度。