融合滑動窗口和MLP-AdaBoost 的電力負荷預測*

李先鵬 吳若男 王義洋 王會宇 劉妙男 王 魏

（1.大連海洋大學信息工程學院 大連 116023）（2.遼寧科技學院中美雙百學院 本溪 117004）（3.華能國際電力股份有限公司大連電廠 大連 116100）

1 引言

電弧爐［1］煉鋼及其后續工藝LF 精煉爐的熱源均來自于電能［2］，其耗電占鋼鐵企業用電的比例非常大，通常電爐變壓器設計的富裕容量大，在煉鋼尖峰負荷很大，并且不可控，所以企業都選擇按照變壓器裝機容量來滿足工作需要，造成工業成本增加。負荷預測模型，在電弧爐煉鋼負荷預測與控制系統中占據決定性作用，預測到負荷尖峰時，可及時對電極調節器［3］進行調節，能夠準確地控制電弧爐的最大需量，提高電弧爐電能的利用率，減少工業用電成本。

國內外負荷預測模型主要采用的是數學模型和統計學模型，如灰色預測模型［4～5］，自回歸模型，隨著傳統的數學模型不能滿足實際的精度要求，模糊表達式和模糊計算［6］也融入模型中。近幾年，隨著工業和計算機的發展，人工智能模型［7］正在逐步替代數學模型和統計學模型。常見的有K 近鄰（K—Nearest Neighbor，KNN），隨機森林（Random Forest，RF），支持向量機（Support Vector Regres?sion，SVR），BP 神經網絡、卷積神經網絡（Convolu?tional Neural Networks，CNN）循環神經網絡（Recur?rent Neural Network，RNN）。例如，文獻［8］使用KNN 和RF 的結合模型對供熱機組的熱負荷進行預測。文獻［9］糊均值聚類和改進烏鴉搜索算法優化支持向量回歸機對低壓臺區負荷進行預測。如文獻［10］用小波變化加權雙支持向量回歸的方式靜態對電弧爐能耗進行預測如文獻［11］和文獻［12］均采用不同的優化算法，對BP 神經網絡進行優化建模，完成熱負荷和電負荷的預測。文獻［13］用變分模態分解、長短期記憶網絡和卷積神經網絡建立短期負荷預測模型對建筑負荷進行預測。文獻［14］通過長短期記憶網絡和自適應增強算法建立負荷預測模型對城市住宅區負荷進行預測。

由于煉鋼過程中電弧爐負荷變化具有隨機性和突變性，導致序列的時序性降低，故本文未選取處理時序性強的循環神經網絡模型，而是采用滑動窗口技術來聯系負荷的時序性。在結合上述模型的特點和數據特征后，選取了網絡穩定性高和數據容錯性強的神經網絡多層感知機，最后通過Ada?Boost 算法對其進行提升，來建立混合模型提高模型的魯棒性［15］。同時，MLP的穩定性和容錯性能更好地彌補AdaBoost 算法迭代帶來的誤差累積的缺陷。本文先利用滑動窗口方法構建數據集，再利用MLP_AdaBoodt 模型對電弧爐負荷進行實時預測，將將神經網絡和機器學習算法結合，為解決預測魯棒性低穩定性差提供了新的思路，同時針對工程和社會生產的實際問題建立模型，為不同數據類型的預測建模提供可能。

2 相關工作

針對煉鋼電力負荷的調控包括預測和控制兩部分，預測是控制的基礎，是近年來的研究熱點，如何精準預測工業用電負荷是預測控制的關鍵一步。本文采用了具有較強的穩定性的MLP 神經網絡，同時運用Adaboost集成學習算法能夠針對預測效果差的數據進行權重分配的特點，使得預測更有針對性。

圖1 工業用電閉環回路

該系統包括負荷預測模型和負荷控制模型兩部分。圖中S（N）為控制對象第N 時間段爐況，含電壓、電流、檔位等；P（N）為第N 時間段的控制量；P（N+1）為15min 預測均值；PS 為負荷設定值。由于電弧爐煉鋼生產過程中負荷變化具有很多不確定性，因此僅僅靠傳統的方法建立的數學模型很難滿足實際使用的精度要求，本文在使用了Adaboost算法解決傳統算法的魯棒性和穩定性差的問題，來提高預測的精度。由負荷預測模型計算出的下一個15min 的負荷預測均值，與負荷設定值進行比較，負荷控制模型則根據差值，計算負荷控制的輸出值，從而到達調控用電負荷節約成本的作用。

MLP 分別有輸入層、輸出層和隱藏層構成，每層由同種類型的神經元構成且每層之間使用全連接的方式，其中輸入層和輸出層是可視的，可以看成輸入到輸出的一種映射［16］。其結構如圖2所示。

圖2 MLP原理圖

其中LayerL1表示輸入層，用于輸入特征向量，LayerL2表示隱藏層，用于提取數據特征，LayerL3表示輸出層用來輸出結果。MLP 中每個神經元都有一個非線性的激活函數Sigmoid，通過每個神經元的激活函數和層與層連接關系，其在處理非線性問題有好的效果。MLP層節點公式為

MLP由相同的神經元組成，雖然單個的神經元功能和結構簡單，但是其網絡中的每層神經元并行運行，大大提高運算能力和對信息處理能力。每個神經元受上一層所有神經元影響，通過非線性輸入輸出的關系，來影響下一層神經元。該模型將大量數據特征儲存在每層不同的神經元權值中，采用這種分布式的特點提高了模型的容錯性，對數據處理具有更高的穩定性。

自適應增強算法（Adaptive Boosting，Ada?Boost），是一種提升集成機器學習算法，通過對模型中樣本的權重進行迭代再分配來完成的［17］。Ad?aBoost 結合了決策樹樁的短一級決策樹的預測，AdaBoost 算法試圖使用許多弱模型并通過添加額外的弱模型來糾正它們的預測，故也可以用于其他算法中本文將AdaBoost 與MLP 結合。Boosting 算法思想圖，如圖3所示。

圖3 Boosting算法原理圖

圖3 為Boosting 類算法圖，弱學習模型會對數據進行帶權訓練，通過數據的誤差率得到新的權重系數并更新數據權重，重復這一過程得到多個弱學習模型。將多個弱學習模型組合得到強學習模型。

3 算法設計

3.1 MLP-AdaBoost算法設計

本文將AdaBoost 與MLP 相結合，利用MLP 具有高容錯性和穩定性，將其作為弱學習模型，使用AdaBoost 集成學習算法對MLP 弱學習進行迭代提升。

MLP-AdaBoost算法計算步驟：

給每個訓練樣本一個權重：

式中，WT（i）表示算法對MLP 弱學習模型迭代T 次時的樣本權重，N表示實驗總樣本數。

2）采用MLP 建立弱學習模型MT（x），對含權重WT（i）的樣本數據進行訓練得到弱學習模型，得到預測結果y。

3）通過預測結果y重新計算樣本數據權重，對預測誤差率大的數據放大其權重，經過弱學習模型迭代訓練。

式中：emax表示最大誤差，eT表示T 次迭代時弱學習模型的誤差率。

4）重復迭代T次結束。

5）將弱學習器按照性能，線性組合，通過每個弱學習模型的性能判斷其在強學習模型中的比重：

式中，?T表示第T 個弱學習模型占強學習模型的比重。

6）每一次訓練后，通過數據誤差率和模型占比可以來更新訓練數據權重：

式中，ZT表示歸一化因子，為了將迭代后數據權值歸一化。

7）通過最終權值和模型的組合得到強學習模型。

式中H（x）最終強學習模型的輸出結果。

3.2 基于MLP-AdaBoost煉鋼負荷預測模型

煉鋼負荷預測模型流程圖如圖4所示。

圖4 滑動窗口的MLP-AdaBoost煉鋼負荷預測模型流程圖

MLP-AdaBoost 煉鋼負荷預測模型針對煉鋼廠有功功率進行建模，通過計算得到負荷，對數據預處理后，通過重構數據并賦予其初始權重，通過MLP 弱學習模型完成第一次預測，然后經過Ada?Boost集成學習算法對模型進行提升得到多個弱學習模型，最后這些模型線性組合得到強學習模型。最終通過強學習模型完成煉鋼過程中的負荷預測。

4 數據處理

4.1 異常值處理

在實際的數據測量過程中有功功率是通過現場傳感器實測的值，所以儀器測量頻率、故障，記錄或傳輸異常等諸多因素會影響采集的數據。這樣會造成數據的重復、缺失和誤差過大等情況，由于AdaBoost 算法在權值分配的時候會將誤差數據放大，從而增加模型的誤差率，故對數據的預處理非常重要。

根據負荷數據的時序性，針對重復和冗余的數據選擇直接刪除；針對離群數據采用標準差法進行篩選；針對缺失值的采用插值法對缺失值進行填充。

式中：xi表示當前時刻的值，xi-1表示前一時刻的值，若當前時刻值為空時則使用前一時刻的值來補充數據。

式中：xmean表示數據的均值，xstd表示數據的標準差，把異常值識別為與均值相差超過3 個標準差的臨界值。

4.2 數據歸一化

本文采用的是單輸入模型，但采用了滑動窗口來劃分數據集使模型參數復雜，故為了縮小取值范圍，避免數值過大，保留所有特征的同時減少參數的大小，本文采用0均值標準化。

其中，x為原始數據，xmean為原始數據的均值，xstd為原始數據的標準差，xscale表示歸一化結果。

4.3 滑動窗口

采用滑動窗口方法對數據進行處理，選取窗口大小為N，利用X-N 至X 個實測有功功率預測未來X+1 的有功功率。通過滑動窗口的移動，更久時刻的數據逐漸去除，新數據隨著窗口移動不斷增加，來實現數據的更替，通過滑動窗口來考慮數據的時序性。

4.4 模型結構參數及訓練

基于滑動窗口MLP-AdaBoost煉鋼負荷預測模型是單變量預測模型，本實驗采用TensorFlow 框架實現。采用MLP 網絡構建模型，其中輸入層包含神經元150個，隱藏層神經元150個，輸出層神經元1個，且在輸入層和隱藏層中間加入了Dropout來防止過擬合。優化器Optimizer 選取ADAM 算法來優化，損失函數Loss 選取均方誤差MAE（Mean Abso?lute Error，MAE）來計算。

5 仿真實驗及結果分析

本文實驗數據來自某企業2018 年1 月11 日線路1 每秒由現場傳感器實測的企業煉鋼負荷數據。部分數據見表1。

表1 2018年1月11日部分煉鋼負荷數據

本數據包括煉鋼廠基礎負荷和煉鋼工作時的負荷，該模型需要預測在煉鋼過程中的負荷變化進行下一步調控，來節約資源減少成本，其中負荷是根據有功功率計算得到的，故本文只取數據中煉鋼過程中的有功功率變化數據作為實驗研究對象。

5.1 數據預處理后結果

數據經異常值處理和歸一化處理后，數據預處理結果如圖5所示。

圖5 數據預處理結果圖

5.2 數據集劃分

數據集包括時間、需量和有功功率。其中需量為電路當前時刻負荷最大值，負荷是根據有功功率計算得到的，故預測有功功率即可計算負荷。所以本文將有功功率作為預測對象完成建模，并通過預測的有功功率計算煉鋼負荷。在對數據進行建模前，采用滑動窗口方法對數據進行處理。在將數據進行窗口化處理后，選取其中80%作為訓練集，20%作為測試集。

5.3 模型預測結果分析

實驗中將經過預處理和窗口化的訓練樣本加入模型進行訓練，本文經過多次試驗最終選取窗口大小N=10，AdaBoost 迭代次數T=2 次。為了展示預測結果，選取部分點觀察預測結果，如圖6所示。

由圖6 可見，MLP-AdaBoost 預測模型相較其他模型預測效果更好。統計學算法ARIMA、CNN和LSTM 預測模型在面對這類高隨機性、強突變性和低時序性的數據時預測效果差。LSTM采用Ada?boost 算法提升效果不顯著，相反MLP 模型有高容錯性和穩定性，故在處理這類問題有更好的效果。可以看出MLP-AdaBoost 預測模型的變化趨勢與MLP十分相近，但其在部分細節處的結果相比MLP更好且更穩定。

圖6 煉鋼負荷預測結果圖

本文選取迭代次數T=2，則會有3個子模型，每個子模型處理不同權重的數據，為了便于觀察選取部分樣本點展示，3個子模型預測結果，如圖7所示。

圖7（a）為第一次迭代后產生的弱學習模型1，可以看出在點5 和10 點的變化趨勢不明顯且誤差較大。在得到第一個弱模型后，會根據預測結果對數據權重再分配。

圖7（b）為第二次迭代后產生的弱學習模型2，在模型1 預測結果基礎上對預測效果差的數據權重放大，使模型在處理5和10這類效果不好的點時更準確，同時由于其他點的權重縮小，故圖像有所下移整體預測結果較弱模型1差。

圖7 3個子模型預測結果

圖7 （a）為第三次迭代后產生的弱學習模型3，該模型建立在前兩次的基礎上，針對預測結果差的數據再放大。可以看到弱模型3 在處理5 和10 這類點的效果優于弱模型1、2。

圖7 分別為三次迭代中的子模型，弱模型2、3的整體預測結果較差，因為是權重再分配的結果。最終的強學習模型經過式（8）的一個非線性疊加，根據每個點的權重分配和預測結果，組成強學習模型。最終的強學習模型集成了所有弱學習模型在處理不同點的優勢。

5.4 模型評價

滑動窗口的MLP-AdaBoost煉鋼負荷預測模型的準確性采用均方根誤差（Root Mean Square Er?ror，RMSE）平均絕對誤差（Mean Absolute Error，MAE）平均絕對百分比誤差（Mean Absolute Percent?age Error，MAPE），公式如下：

式中，n表示樣本數量；yi為真實值，這里為煉鋼有功功率；yi為預測值。本文采用的突變性和隨機性高的煉鋼負荷其數值相對較大。RMSE、MAE、MAPE 三個指標根據數據特點大小有所不同。本實驗采用這三個指標來評價模型的精確度。結果見表2。

表2 中實驗結果為10 次實驗的平均值。可以看出MLP 處理這類時序性低，突變性強的數據時相較其他模型具有一定的優勢。通過三個指標可以直觀的反映MLP-AdaBoost預測模型的各項指標比其他數學模型和人工智能模型有顯著的降低。

表2 模型評價指標

本文取實驗結果中處理時序性序列效果好的LSTM 預測模型、未進行AdaBoost 提升的MLP 預測模型和MLP-AdaBoost 預測模型比較10 次結果RMSE、MAE、MAPE的變化情況，如圖8所示。

圖8 RMSE、MAE、MAPE三指標對比圖

由圖8 可以看出在多次實驗時MLP-AdaBoost煉鋼預測模型的三大指標變化相較比LSTM 和MLP 模型更平穩，說明MLP-AdaBoost 預測模型更穩定。AdaBoost 算法能夠有效地解決傳統預測模型單次預測魯棒性差和穩定性低問題。

迭代次數T 取不同次數時MLP-AdaBoost 煉鋼預測模型RMSE、MAE、MAPE見表3。

表3 MLP-AdaBoost不同迭代次數結果

表3 中實驗結果為10 次實驗的平均結果。可以看出，AdaBoost在對模型進行提升時隨著迭代次數增大，模型的預測效果在兩次迭代后達到最優，繼續迭代模型預測精度開始下降。因為AdaBoost迭代次數達到一定時弱學習模型對部分數據預測結果已經達到最優，增加迭代次數只會放大誤差數據權重，增大模型的誤差率。

6 結語

為了有效調控煉鋼工業用電負荷，為下一步控制提出依據。提出MLP-AdaBoost 算法，該算法通過組合弱學習模型有效地解決了以往算法單次預測魯棒性和穩定性差的問題。同時，該算法對工業煉鋼過程數據進行建模，證明了針對這類高隨機性、強突變性和低時序性的數據預測效果更好。滑動窗口MLP-AdaBoostl 煉鋼預測模型能夠有效的為工作過程中控制電弧爐的需量，做出有力的依據，同時該算法可以根據數據特征選取不同的弱學習模型來應用于冶金、水泥、汽車、重型機械、賓館，水產養殖等場景。