基于XGBoost的船舶能耗實時預測

胡智輝 金永興 周田瑞 胡勤友

摘要：為更加準確地預測船舶能耗，提出一種基于新興XGBoost算法的船舶能耗實時預測模型。通過傳感器采集大量船舶能耗數(shù)據(jù);結合領域知識，提出一種數(shù)據(jù)預處理方法;利用貝葉斯超參數(shù)優(yōu)化及交叉驗證方法優(yōu)化模型性能。實驗結果表明，數(shù)據(jù)預處理和超參數(shù)調優(yōu)均能在一定程度上提高模型性能。與多元線性回歸、人工神經(jīng)網(wǎng)絡、嶺回歸和隨機森林模型相比，本文提出的模型具有更好的預測性能，且模型運行時間能達到秒級響應，滿足船舶實時預測要求。高準確度、實時性強的能耗預測模型能為船舶未來采取合理的節(jié)能減排措施提供理論依據(jù)，對船舶運營公司提高競爭力和保護環(huán)境具有重要意義。

關鍵詞：

XGBoost; 船舶能耗預測; 集成學習; 超參數(shù)調優(yōu)

中圖分類號：? U676.3

文獻標志碼：? A

Real-time prediction of ship energy consumption based on XGBoost

HU Zhihui， JIN Yongxing， ZHOU Tianrui， HU Qinyou

（Merchant Marine College， Shanghai Maritime University， Shanghai 201306， China）

Abstract：

In order to predict ship energy consumption more accurately， a real-time ship energy consumption prediction model based on the emerging XGBoost algorithm is proposed. A large amount of ship energy consumption data is collected through sensors; a data preprocessing method is proposed based on the domain knowledge; the Bayesian hyper-parameter optimization and cross-validation methods are used to optimize the model performance. Experimental results show that the data preprocessing and the hyper-parameter tuning can improve the model performance to some extent. Compared with the multiple linear regression， artificial neural network， ridge regression and random forest models， the proposed model in the paper is of better prediction performance， and the running time of the model can reach a second-level response， meeting the requirements of ship real-time prediction. The energy consumption prediction model with the high accuracy and strong real-time performance can provide a theoretical basis for ships to adopt reasonable energy-conservation and emission-reduction measures in the future， which is of great significance for ship operating companies to improve their competitiveness and protect the environment.

Key words：

XGBoost; ship energy consumption prediction; ensemble learning; hyper-parameter tuning

0 引 言

海上交通運輸量約占全球貿易總量的90%[1]。隨著國際貿易的不斷發(fā)展，大量的船舶投入到海上運輸中，必然要消耗大量的能源，同時排放大量的溫室氣體，給環(huán)境造成很大的影響。近年來，國際海事組織（International Maritime Organization，IMO）及各國均出臺了一系列船舶能耗管理計劃，期望提高船舶能效，從而達到船舶節(jié)能減排的效果。

高準確度、強魯棒性的船舶能耗實時預測是提高船舶能效的前提和基礎。實時、準確預測出不同船況、不同海況下的船舶能耗，可為挖掘出船舶能耗最少的最優(yōu)航線和航速以及船舶操縱方案提供參考依據(jù)，從而為船公司和船員等相關人員制訂節(jié)能減排計劃提供決策支持。

船舶能耗預測建模方法以往主要以傳統(tǒng)經(jīng)驗公式[2-4]、仿真實驗[5-6]為主，前者所需船舶參數(shù)眾多，需要一定程度的領域知識，后者仿真時間成本較高，難以滿足船舶實時預測要求。隨著IMO及各國采取船舶能耗數(shù)據(jù)采集措施，大量船舶午時報告（noon reports）數(shù)據(jù)及傳感器（sensors）數(shù)據(jù)被采集，因此，基于能耗數(shù)據(jù)的船舶能耗預測模型逐漸成為研究熱點。BIALYSTOCKI等[7]通過收集船舶午時報告數(shù)據(jù)，并根據(jù)當時船舶所處的風、流環(huán)境，對船舶航速進行更正，最后利用更正的船舶航速與船舶能耗數(shù)據(jù)進行擬合，得到船舶能耗與航速呈二次方關系，度量擬合優(yōu)度的可決系數(shù)R2=0.755 7。SONER等[8]、WANG等[9]通過最小絕對收縮選擇算子（least absolute shrinkage and selection operator，LASSO）或嶺回歸（ridge regression，RR）算法對船舶能耗數(shù)據(jù)進行特征篩選或壓縮，并進行能耗預測建模，獲得

較高預測準確度的模型。HU等[10]利用人工神經(jīng)網(wǎng)絡（artificial neural network，ANN）和高斯過程回歸方法分別對

包含、不包含海上環(huán)境因素的能耗數(shù)據(jù)進行建模，并進行了性能對比，實驗結果證明海上環(huán)境因素對船舶能耗建模具有一定的貢獻度。牟小輝等[11]以長江干線某旅游船為研究對象，提出利用隨機森林（random forest，RF）方法建立船舶能耗預測模型，實驗結果顯示RF模型優(yōu)于ANN模型和支持向量機模型。YANG等[12]和CORADDU等[13]建立了船舶能耗灰箱模型，雖然該模型在預測準確度上稍遜于黑箱模型，但其可解釋性更強，便于理解。GKEREKOS等[14]通過對比船舶能耗預測模型的性能，發(fā)現(xiàn)基于集成學習的船舶能耗預測模型預測準確度更高（達0.97）。

從上述文獻可知：基于能耗數(shù)據(jù)的船舶能耗預測模型各不相同，其研究方法主要以神經(jīng)網(wǎng)絡為主，但神經(jīng)網(wǎng)絡在小數(shù)據(jù)集中容易產生過擬合現(xiàn)象，泛化能力差;LASSO和RR算法在處理維度大、樣本小的數(shù)據(jù)上具有較大優(yōu)勢;集成學習預測模型同樣被證明是一種較好的能耗預測模型，但其超參數(shù)的合理設置是一個難點;不同數(shù)據(jù)集適合的方法也各不相同[15]。因此，本文結合采集的船舶能耗數(shù)據(jù)特點，基于一種新興算法XGBoost對船舶能耗進行實時預測建模，利用貝葉斯優(yōu)化其超參數(shù)值，獲得較好的預測性能，并且可滿足船舶能耗實時預測要求。

1 船舶能耗及其特征數(shù)據(jù)的采集與處理

1.1 船舶能耗及其特征數(shù)據(jù)的采集

對某集裝箱船能耗及其特征數(shù)據(jù)進行采集，時間跨度為2017年9月14日—2018年9月25日，數(shù)據(jù)量共24 386條，每條數(shù)據(jù)包括采集時間、每15 min的實時能耗、航速、吃水、縱傾、流速、流向、風速、風向、浪高和浪向等。將測得的船舶主機每15 min消耗的重油體積（用體積流量計采集）與重油密度相乘，可獲得船舶每15 min的實時能耗;通過全球定位系統(tǒng)（global positioning system，GPS）可獲得船舶航速;通過對測深儀測得的艏吃水、艉吃水分別求均值和差值（艏吃水-艉吃水）可獲得吃水和縱傾;通過測風儀可獲得風速和風向數(shù)據(jù);通過測波儀可獲得浪高和浪向數(shù)據(jù)。

船舶實時能耗為船舶主機每15 min消耗的能源。為便于后續(xù)研究，計算每日能耗來取代實時能耗，其計算公式為

Ei=4Fi×24=96Fi （i=1，2，…，n）

（1）

式中：Fi為第i個15 min的船舶能耗，n為采集的數(shù)據(jù)總量。船舶能耗及其特征數(shù)據(jù)樣本見表1。

1.2 船舶能耗及其特征數(shù)據(jù)的預處理

數(shù)據(jù)預處理是基于數(shù)據(jù)建模的重要環(huán)節(jié)。數(shù)據(jù)預處理的主要對象是數(shù)值為空、明顯錯誤和不合理的數(shù)據(jù)。

數(shù)值為空的數(shù)據(jù)：由于天氣、設備等原因，數(shù)據(jù)丟失，造成某時間段船舶能耗或其某一特征值為空，導致該時間段數(shù)據(jù)不可用，直接刪除。

明顯錯誤的數(shù)據(jù)：根據(jù)領域知識，風、流、浪向大小范圍應該為0～360°，因此若風、流、浪向不在0～360°范圍內，則可直接刪除相應時間段的數(shù)據(jù)。通過上述兩個步驟處理后，數(shù)據(jù)還剩9 371條。

不合理的數(shù)據(jù)：將航速限定在10～30 kn內，并根據(jù)航速與每日能耗的關系，刪除不合理的數(shù)據(jù)。處理步驟[16]如下：（1）刪除航速小于10 kn或者大于30 kn的數(shù)據(jù)。（2）計算任意兩次采集的船舶每日能耗比值

k（k=Ei/Ej，i， j=1，2，…，n），作為判斷能耗數(shù)據(jù)是否異常的依據(jù)。如果k<

min

{（vi/vj）2，（vi/vj）4}或者k>max{（vi/vj）2，（vi/vj）4}（vi和vj分別為第i和j個

15 min內的航速），則這2條數(shù)據(jù)異常得分皆加1。遍歷所有數(shù)據(jù)，統(tǒng)計出每條數(shù)據(jù)的異常總得分。（3）按數(shù)據(jù)異常總得分從大到小排序，將前20%數(shù)據(jù)作為異常數(shù)據(jù)刪除。將不合理的數(shù)據(jù)刪除后，獲得7 493條干凈、可靠的數(shù)據(jù)。

由圖1a可知，預處理前的能耗分布比較分散、凌亂，隨航速變化的規(guī)律不明顯。由圖1b可知，預處理后的能耗隨航速的變化表現(xiàn)出一定的規(guī)律，能耗分布更加集中。

2 船舶能耗預測模型的建立

2.1 船舶能耗實時預測模型框架

基于XGBoost的船舶能耗預測模型具體框架見圖2。首先通過不同傳感器采集數(shù)據(jù)，并進行數(shù)據(jù)預處理，建立高質量的數(shù)據(jù)庫;其次將數(shù)據(jù)按4∶1的比例隨機劃分為訓練集和測試集，并結合超參數(shù)調優(yōu)和交叉驗證方法對本文模型（XGBoost）和參考模型（ANN模型、RF模型、RR模型和多元線性回歸（multiple linear regression，MLR）模型）進行訓練;最后利用測試集對不同模型的性能進行評估，驗證本文模型的有效性和實時性。

2.2 XGBoost數(shù)學原理

XGBoost算法具有精度高、正則化、支持并行運算、可對缺失值進行自動處理等優(yōu)勢，在各領域具有廣泛的應用[17-18]。該算法在進行t次迭代后的目標值Ot為

2.3 超參數(shù)調優(yōu)

對模型的超參數(shù)進行優(yōu)化，能有效提升模型預測性能。由于超參數(shù)的隨機組合是無窮的，所以超參數(shù)的組合優(yōu)化只能獲得更優(yōu)解，沒有最優(yōu)解。超參數(shù)調優(yōu)方法主要有網(wǎng)格搜索、隨機網(wǎng)格搜索和貝葉斯優(yōu)化。網(wǎng)格搜索對枚舉的所有可能性進行全面搜索，能獲得所有枚舉組合中的最優(yōu)超參數(shù)組合，但耗時

太長。隨機網(wǎng)格搜索對超參數(shù)的可能組合進行一定的隨機搜索，因此運行速度較快，但獲得“最優(yōu)”組合的概率較低。貝葉斯優(yōu)化性能介于上述兩種方法之間，運行速度較快，而且也能獲得較優(yōu)的超參數(shù)組合。在超參數(shù)調優(yōu)過程中，為避免數(shù)據(jù)隨機劃分帶來的偶然性，通常結合k折交叉驗證方法訓練模型，從而獲得更加合理的超參數(shù)組合。

2.4 模型評價指標

為對比船舶能耗預測模型的性能，構建5個評價指標：可決系數(shù)R2、均方誤差

eMS、均方根誤差eRMS、平均絕對誤差

eMA和模型運行時間t。各評價指標計算公式如下：

3 實驗結果分析

所有模型的實驗環(huán)境為64位Windows 10操作系統(tǒng)、i5-7200 CPU、12.0 GB內存，編程軟件采用Python 3.5。

為驗證本文模型的有效性和優(yōu)勢，與現(xiàn)有文獻的研究方法（參考模型）進行船舶能耗預測性能對比，將經(jīng)過預處理的數(shù)據(jù)以4∶1的比例

隨機劃分為訓練集和測試集。

由于船舶能耗及其各特征值的取值范圍不同，如航速為10～30 kn，風向為0～360°等，會對模型（XGBoost和RF除外）性能造成一定的影響，所以要對數(shù)據(jù)進行標準化處理：

3.1 數(shù)據(jù)預處理對模型性能的影響分析

為驗證數(shù)據(jù)預處理對建模的影響，利用模型分別在數(shù)據(jù)集Set1（9 371條數(shù)據(jù)，已刪除有空值及明顯錯誤的數(shù)據(jù)）和數(shù)據(jù)集Set2（7 493條數(shù)據(jù)）中進行建模和性能對比，結果見表2。表2中數(shù)據(jù)皆為5個評價指標在不同訓練集下的均值。從表2可知，5種模型皆在數(shù)據(jù)集Set2中表現(xiàn)出更好的預測性能，如XGBoost、RF、ANN、RR和MLR模型的評價指標R2分別提高了0.015 3、0.019 6、0.020 3、0.096 1和0.096 1，

eMS、eRMS和eMA皆有一定程度的減小，并且由于數(shù)據(jù)量的減少，運行時間也相應地減少。

3.2 超參數(shù)調優(yōu)對模型性能的影響分析

為驗證超參數(shù)調優(yōu)對模型性能的影響，對所有模型進行超參數(shù)調優(yōu)前后性能的對比。采用貝葉斯優(yōu)化模型的超參數(shù)和5折交叉驗證方法。超參數(shù)調優(yōu)值為某一數(shù)據(jù)集的調優(yōu)值，隨著數(shù)據(jù)集的不同，其超參數(shù)調優(yōu)值也會發(fā)生改變，見表3。某次的超參

數(shù)調優(yōu)前后模型性能指標R2對比如圖4所示。從圖4可知，MLR模型和RR模型在超參數(shù)調優(yōu)前后的R2未變，這是因為MLR

模型沒有超參數(shù)，不需要進行超參數(shù)調優(yōu)，而RR模型超參數(shù)默認值較優(yōu)，故其超參數(shù)優(yōu)化效果不明顯。ANN、RF和XGBoost模型在進行超參數(shù)調優(yōu)前，其性能指標R2皆已達到0.98以上，在超參數(shù)調優(yōu)后R2分別提升了0.003 7、0.003 3和0.001 8。

3.3 不同模型性能對比分析

為驗證本文模型的有效性和優(yōu)勢，將其與4種參考模型進行性能對比。同時，為防止數(shù)據(jù)集隨機劃分帶來的偶然性，采用所有模型重復實驗5次，并計算其性能指標的平均值作為最終值。5種模型的評價指標值見表4。從表4可以看出：XGBoost模型表現(xiàn)較優(yōu)，其R2高達0.992 8;在5個指標中，XGBoost模型有3個指標是最優(yōu)的，分別為R2、eMS和eRMS;RF同樣作為一種集成學習方法，其性能指標評價僅次于XGBoost;ANN是深度學習的一種，其R2為0.986 7，稍遜于集成學習方法;MLR模型和RR模型表現(xiàn)較差，其R2只有0.926 8，且其eMS、eRMS、eMA也比其他3種模型的高，只在時間指標t上占有優(yōu)勢;由于數(shù)據(jù)采集時間間隔為15 min，而5種不同模型皆能達到秒級響應，因此皆滿足實時預測要求。

不同模型預測值對比見圖5。圖5只展示出小部分（第1 340～1 440個樣本）能耗預測值（測試集共1 499條數(shù)據(jù)），并將其中一部分（第1 357～1 360個樣本）放大。從圖5可以看出：MLR和RR模型預測效果最差（RR模型預測值與MLR模型的基本

相同），偏離真實值程度較大; ANN、RF和XGBoost模型預測效果最佳，皆與真實值接近程度較好，其中XGBoost模型的預測值與真實值最接近。圖5反映的模型預測性能與表4的高度一致。

3.4 不同特征對船舶能耗的影響分析

船舶能耗受多種因素（特征）影響，且影響機理復雜，因此定量計算出不同特征對能耗的重要度有助于理解船舶能耗內在機理。利用XGBoost和RF兩種模型對不同特征的重要度進行計算，其結果見圖6。

從圖6可知：航速在XGBoost和RF模型中均為重要度最高的特征，重要度分別為0.841 3和0.649 8，表明航速對船舶能耗影響最大，航速越大船舶能耗越大（根據(jù)文獻[12，19]，能耗與航速近似呈三次方關系，甚至六次方關系），這也是當今船舶主要通過降速達到節(jié)能減排效果的關鍵原因;其次為縱傾和吃水，這是因為不同的縱傾會導致船舶受到的阻力不同，并且船舶縱傾和吃水造成的阻力變化大小取決于船型，尤其是船首形狀，阻力變化與縱傾呈非線性關系，與吃水大致呈三分之二次方關系[20];航速、縱傾和吃水三者重要度之和在兩種模型中分別達到0.920 5和0.938 9，表明這3種特征在船舶能耗建模中起主導作用。

在環(huán)境因素特征中，浪（重要度為0.039 7）和風（重要度為0.023 5）是最重要的特征因素，即浪和風皆會導致船舶能耗的增加[21]。這是由于風速的增加會導致船舶航行阻力增加，風阻力與風速呈二次方關系，而浪阻力與浪高和船舶靜水航速皆呈二次方關系。流的重要度僅為0.016 2，其原因是：建模研究對象是每日能耗，而不是單位距離能耗，流會影響單位距離能耗，但對每日能耗的影響很小。

4 結論與展望

基于XGBoost算法建立的船舶能耗實時預測模型，對傳感器采集的實船能耗數(shù)據(jù)進行分析，并與當前參考文獻中的模型進行對比，獲得如下幾點結論：（1）數(shù)據(jù)預處理能在一定程度上提高船舶能耗預測性能。XGBoost、RF、ANN、RR和MLR模型在預處理后的數(shù)據(jù)集中皆表現(xiàn)出更佳的性能，R2分別提高了0.015 3、0.019 6、0.020 3、0.096 1和0.096 1。（2）超參數(shù)調優(yōu)能有效提升基于深度學習和集成學習的能耗預測模型性能。（3）航速、縱傾和吃水是最主要的能耗影響因素，其重要度之和在0.92以上，該結論可為后續(xù)模型特征篩選提供參考。（4）與參考模型相比，XGBoost模型表現(xiàn)出更優(yōu)的預測性能。與RF、ANN、RR、MLR模型相比，其R2分別高出0.000 1、0.006 1、0.066 0、0.066 0，其eMS分別降低0.089 2、7.185 9、78.289 9、78.290 1，并且模型運行時間達到秒級響應，能滿足船舶實時預測要求。提出的模型具有高預測精度和實時響應速度，

能為未來船舶能耗實時優(yōu)化提供參考，進而助力船公司增效提質、提高競爭力以及減少船舶溫室氣體排放等。

參考文獻：

[1]PALLOTTA G， VESPE M， BRYAN K. Vessel pattern knowledge discovery from AIS data： a framework for anomaly detection and route prediction[J]. Entropy， 2013， 15： 2218-2245. DOI： 10.3390/e150 62218.

[2]LI X H， SUN B Z， ZHAO Q B， et al. Model of speed optimization of oil tanker with irregular winds and waves for given route[J]. Ocean Engineering， 2018， 164： 628-639. DOI： 10.1016/j.oceaneng.2018.07.009.

[3]文元橋， 耿曉巧， 黃亮， 等. 風浪流影響下的船舶廢氣排放測度模型研究[J]. 安全與環(huán)境學報， 2017， 17（5）： 1969-1974. DOI： 10.13637/j.issn.1009-6094.2017.05.067.

[4]王直歡， 王維勛， 施欣. 基于AIS數(shù)據(jù)的船舶排放估測模型與實船驗證[J]. 上海海事大學學報， 2019， 40（4）： 12-16. DOI： 10.13340/j.jsmu.2019.04.003.

[5]劉伊凡， 孫培廷， 張躍文， 等. 船舶能效營運指數(shù)預測的建模及仿真分析[J]. 哈爾濱工程大學學報， 2016， 37（8）： 1015-1021. DOI： 10.11990/jheu.201505053.

[6]ABOUELFADL A H， ABDELRAOUF E E Y. The impact of optimizing trim on reducing fuel consumption[J]. Journal of Shipping and Ocean Engineering， 2016， 6（3）： 179-184. DOI： 10.17265/2159-5879/2016.03.006.

[7]BIALYSTOCKI N， KONOVESSIS D. On the estimation of ship’s fuel consumption and speed curve： a statistical approach[J]. Journal of Ocean Engineering and Science， 2016， 1（2）： 157-166. DOI： 10.1016/j.joes.2016.02.001.

[8]SONER O， AKYUZ E， CELIK M. Statistical modelling of ship operational performance monitoring problem[J]. Journal of Marine Science and Technology， 2019， 24： 543-552. DOI： 10.1007/s00 773-018-0574-y.

[9]WANG S Z， JI B X， ZHAO J S， et al. Predicting ship fuel consumption based on LASSO regression[J]. Transportation Research Part D， 2018， 65： 817-824. DOI：10.1016/j.trd.2017.09.014.

[10]HU Z H， JIN Y X， HU Q Y， et al. Prediction of fuel consumption for enroute ship based on machine learning[J]. IEEE Access， 2019， 7： 119497-119505. DOI： 10.1109/ACCESS.2019.2933630.

[11]牟小輝， 袁裕鵬， 嚴新平， 等. 基于隨機森林算法的內河船舶能效預測模型[J]. 交通信息與安全， 2017， 35（4）： 100-105. DOI： 10.3963/j.issn.1674-4861.2017.04.013.

[12]YANG L Q， CHEN G， RYTTER N G M， et al. A genetic algorithm-based grey-box model for ship fuel consumption prediction towards sustainable shipping[J]. Annals of Operations Research， 2019. DOI： 10.1007/s10 479-019-03183-5.

[13]CORADDU A， ONETO L， BALDI F， et al. Vessels fuel consumption forecast and trim optimisation： a data analytics perspective[J]. Ocean Engineering， 2017， 130（15）： 351-370. DOI： 10.1016/j.oceaneng.2016.11.058.

[14]GKEREKOS C， LAZAKIS I， THEOTOKATOS G. Machine learning models for predicting ship main engine fuel oil consumption： a comparative study[J]. Ocean Engineering， 2019， 188： 1-14. DOI： 10.1016/j.oceaneng.2019.106282.

[15]OLSON R S， CAVA W L， MUSTAHSAN Z， et al. Data-driven advice for applying machine learning to bioinformatics problems[J]. Pacific Symposium on Biocomputing， 2018： 192-203. DOI： 10.1142/9789813235533_0018.

[16]MENG Q， DU Y Q， WANG Y D. Shipping log data based container ship fuel efficiency modeling[J]. Transportation Research Part B， 2016， 83： 207-229. DOI： 10.1016/j.trb.2015.11.007.

[17]CHEN T Q， GUESTRIN C. XGBoost： a scalable tree boosting system[C]//Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York City： Association for Computing Machinery， 2016： 785-794. DOI： 10.1145/2939672.2939785.

[18]史佳琪， 張建華. 基于多模型融合Stacking集成學習方式的負荷預測方法[J]. 中國電機工程學報， 2019， 39（14）： 4032-4041. DOI： 10.13334/j.0258-8013.pcsee.181510.

[19]YAO Z S， NG S H， LEE L H. A study on bunker fuel management for the shipping liner services[J]. Computers & Operations Research， 2012， 39： 1160-1172. DOI： 10.1016/j.cor.2011.07.012.

[20]BOCCHETTI D， LEPORE A， PALUMBO B， et al. A statistical approach to ship fuel consumption monitoring[J]. Journal of Ship Research， 2015， 59（3）： 162-171. DOI： 10.5957/JOSR.59.3.150012.

[21]王凱. 基于營運數(shù)據(jù)分析的內河船隊能效優(yōu)化方法研究[D]. 武漢： 武漢理工大學， 2018.

（編輯 賈裙平）

收稿日期： 2020-11-23

修回日期： 2021-05-12

基金項目： 上海市科學技術委員會重大項目（18DZ1206300）

作者簡介：

胡智輝（1991—），男，江西上饒人，博士研究生，研究方向為船舶能效數(shù)據(jù)管理與分析，（E-mail）2276366212@qq.com;

金永興（1958—），男，上海人，教授，博導，博士，研究方向為載運工具應用、船舶航行安全，（E-mail）yxjin@shmtu.edu.cn