基于Spark和深度神經網絡的短期電力負荷預測方法

張思揚，匡芳君，周文俊

（溫州商學院 信息工程學院，浙江 溫州 325035）

0 引言

電力負荷預測是智能電網建設和規劃的基礎，負荷預測結果的準確性對電網的動態估計、負荷調度和降低發電成本具有重要意義，直接關系到電力投資的效益、供電的可靠性、電力需求的正常發展以及整個社會的經濟效益和社會效益［1-3］。準確快速的短期負荷預測不僅可以有效降低發電成本，而且是電力企業在市場環境下實施需求響應工程、安排供電調度計劃的前提。

面對海量、高維、異構的電力負荷數據，用傳統數據挖掘方法進行負荷特性分析和預測，已難以滿足需求，如何提高預測精度是研究負荷預測理論和負荷特性的重點內容，也深受學者們關注，近年來學者進行了大量研究［4-5］，有靜態短期電力負荷預測方法［6-8］，這些方法不能準確預測非線性載荷和時間序列，但可以解釋其物理特性。也有智能方法在處理STLF中的不確定性和非線性時間序列方面表現得更好［9-14］，如秦昌平利用級聯神經網絡預測短期電力負荷［15］；Ahmad等利用非線性自回歸和隨機森林模型預測中長期電力負荷［16］；Suryanarayana等提出了一種用于熱負荷預測的深度學習方法［17］；Gou等利用深度前饋網絡進行短期電力負荷預測［18］；Chen等提出了一種能集成領域知識和研究人員理解的深度殘差網絡短期電力負荷預測模型［19］；孔祥玉等提出了一種基于有監督和無監督結合的深度信念網絡短期負荷預測模型［20］；這些智能方法對高維數據的處理能力較強，

但存在共同問題是缺少考慮時序數據中的時間相關性，需要添加時間特征來確保預測效果。還有學者提出了提高預測精度的混合預測模型［21-29］，如Ribero等提出了用于短期負荷預測的小波神經網絡集成模型［23］；Rafiei等提出了結合廣義極值學習機、小波預處理和bootstrapping混合模型用于概率電力負荷預測［24］等。Hamed提出了基于Kalman濾波、小波和人工神經網絡的短期負荷預測組合模型［25］；Vrablecová等提出利用在線支持向量回歸進行短期電力負荷預測［26］；Sideratos等提出了基于人工神經網絡和深度學習的混合模型，用于周負荷預測［27］；Zhang等提出了基于長短期記憶的短期電力負荷組合預測模型［28］；葉琳等［29］綜述了深度學習在電力系統和負荷預測中的應用。這些方法中深度神經網絡（Deep Neural Networks，DNN）由于其具有更多隱含層，并能通過強有力的訓練程序重組，是電力負荷預測中相對較好的解決方案，但這些方法大多以集中式的迭代運算為基礎，計算資源消耗很大，面對海量、高維、異構的電力負荷數據，已不能很好地滿足負荷效率和預測精度要求。

針對短期電力負荷模型計算量大，維度高以及負荷數據采集越來越快，增大了數據規模，同時運用短期電力負荷預測的深度學習模型，在訓練中需要進行系列復雜繁瑣的大規模計算，并且還需要不斷地調整超參數訓練模型來得到相對最合適的預測模型。因此，短期電力負荷預測模型極需并行化實現方案來解決海量、高維和異構負荷數據下的負荷效率和預測精度要求。Liu等［30］分析比較了神經網絡算法在Spark和Hadoop兩種并行版本各種情況的性能，得出Spark在各種情況下是最有效。因此，本文從短期負荷預測模型規模和實際預測需求考慮，通過搭建分布式集群，利用Spark計算平臺實現數據并行，在各節點上對數據進行計算和數據處理，即每個機器都擁有模型的完整副本，然后用不同的訓練數據子集訓練，得到的參數結果發送給中心參數服務器，由中心參數服務器組合每個節點的結果并更新模型后反饋最新模型的副本和新的數據子集給各個節點，并將每輪結果都被納入預測模型，為下一輪做準備，從而提升運行效率。

1 粒子群優化深度神經網絡的短期負荷預測模型

深度神經網絡（Deep Neural Network，DNN）結構如圖1所示［31］，由1個輸入層、1個輸出層和多個隱含層組成，其預測性能影響的關鍵因素主要是模型構造和對模型的有效訓練。

圖1 深度神經網絡結構圖Fig.1 Structure of deep neural network

DNN的輸入向量X=[x1，…，xm]T經輸入層到達第1層隱含層，按式（1）處理后輸出。

式（1）中，R1、W1、B1分別表示第1層隱含層輸出矩陣及該層與輸入層的權重和閾值。

式（2）中，f、g分別表示隱含層和輸出層的非線性激活函數，本文都使用sigmoid函數。

利用DNN進行電力負荷預測時，應先考慮DNN結構參數和各層間的最優權重和閾值參數，即判斷DNN隱含層數量及層內節點數以及層間權重和閾值參數等，但考慮DNN的這些參數較難選擇，需要對其參數進行優化處理后，再進行預測，以提升其預測性能。而粒子群優化算法（Particle Swarm Optimization，PSO）是一種群智能優化算法，它因原理簡單、收斂快和易于實現的特點常被用于模型參數的選擇和優化［32］。因此，本文采用PSO對DNN網絡結構和參數進行優化，以提高模型的性能。限于篇幅，PSO算法描述在此不再贅述。

本文主要通過PSO優化DNN網絡結構、權重和閾值參數，其實施方案如下：

1）通過PSO優化DNN結構隱含層數和層內神經元數，此過程可以看作離散性問題，讓DNN結構與PSO粒子狀態形成映射關聯。用粒子位置取1與0來判斷是否存在隱含層和層間神經元，當粒子的位置為1時表示存在神經元，當粒子位置為0時表示不存在神經元。

2）通過PSO優化DNN權重和閾值，通過讓DNN各層權重和閾值與PSO中粒子狀態形成對應關系，以便更新粒子狀態時就能實現DNN參數更新，然后查找所有解空間中隨機粒子位置，將DNN預測負荷值與實際負荷值間的平均絕對百分比誤差定義為PSO粒子適應度F，即按式（3）計算適應度以便獲取最優解。

式（3）中，N為測試樣本規模；y(i)為實際負荷值；yˉi為預測負荷值。

2 基于Spark的粒子群優化深度神經網絡短期負荷預測

對深度學習網絡采用集群方式進行分布式訓練，在Spark平臺下構建基于改進群智能算法的深度神經網絡短期負荷預測模型，其預測流程和運行機制如圖2所示。首先將訓練數據轉換為支持并行操作的RDD格式訓練副本，同時利用Spark計算框架使深度神經網絡的訓練過程在內存上運行，通過對深度神經網絡訓練過程的并行化，避免不必要的I/O操作以提升可拓展性，從而提高模型的性能和效率。同時，針對深度學習網絡參數難以選擇和隱含層層數難確定的問題，利用粒子群優化算法來優化深度學習模型參數和隱含層層數，以提高深度神經網絡模型的性能，最后利用訓練好的深度神經網絡短期負荷預測模型去預測待預測日的電力負荷。

圖2 基于Spark和深度神經網絡的負荷預測運行機制Fig.2 Operation mechanism of load forecasting based on spark and deep learning

3 實驗與分析

所有實驗運行在搭建好的Hadoop2.6.0平臺上，平臺有16個節點，計算機配置內存8G，處理器為i7，主頻為2.30 Hz，硬盤1 TB等。Hadoop版本為2.6.0，Spark版本為2.2.0，所有算法程序都是利用Python和MATLAB語言編程，仿真環境為Python3.6和MATLAB R2019b。

3.1 數據集

本文數據來源于第九屆全國大學生電工數學建模競賽所提供的標準數據集［33］，即選取某地區2012年1月1日至2015年1月10日的電力負荷值、氣象因素數據對電力短期負荷預測，其中，電力負荷值是每隔15 min采樣1次，所以每天有96個采樣時刻點，氣象因素則包括相對濕度，降雨量，最高、最低和平均溫度，日期類型等數據。

3.2 數據預處理

3.2.1 處理缺失數據

使用的數據集相對較規整，本文采用線性插值法填充缺失數據，公式如下：

式（4）中，fn和fn+1分別為n、n+1時刻的負荷值；fn+j為中間時刻n+j缺失的負荷值。

3.2.2 處理異常數據

在處理異常數據時，如果某一時刻的負荷值與前一時刻的負荷值偏差大于±10%，則采用水平處理。當某一時刻負荷值與前一天及前兩天同期負荷值偏差大于±10%時，采用垂直處理。

1）水平處理：考慮到電力負荷的連續性，相鄰時段的負荷不會發生突變，采用平均值方法對異常數據進行平滑處理。

2）垂直處理：考慮電力負荷的周期性，對不在其范圍內的異常數據進行校正。

3.3.3 數據標準化

1）利用對數對負荷數據進行標準化，公式如下：

式（7）中，xij，x′ij分別為原始負荷值和標準化后的負荷值。

2）用數字表示日期類型的標準化：根據負荷的周期性，周一取0.7，周二至周五取0.8，周六取0.4，周日取0.3。

3）采取離差標準化處理溫度、濕度和降雨量數據：

式（8）中，Tij為濕度、降雨量和溫度的原始數據；Tjmin，Tjmax分別為濕度、降雨量和溫度中的最小值、最大值；T′ij為標準化后的濕度、降雨量和溫度數據。

3.3 性能評價指標

本文采用平均絕對百分比誤差和均方根相對誤差來評價模型的性能，公式如下：

1）平均絕對百分比誤差（Mean Absolute Percentage Error，MAPE）

2）均方根相對誤差（Root-Mean-Square Error，RMSE）

式（9）、式（10）中，yi為實際負荷；yˉi為預測負荷；N為預測負荷數據個數，N=96，即統計一天中96個時刻的絕對百分比誤差對算法性能進行評估；MAPE和RMSE越小，說明算法的預測效果越好。

3.4 實驗結果分析

在構建預測模型時，考慮到溫度、濕度、降雨量、日期類型對短期負荷的影響，對每天96個預測點分別建立預測模型，即選用預測點前一天的氣象數據、前一天的同期負荷數據、前兩天同期負荷數據和當天的氣象數據形成訓練輸入數據，得到預測點的輸出數據，再將此輸出數據對應預測點的同期負荷數據作為輸入數據繼續預測下一個預測日，直到完成全部日期的預測，得到預測模型，最后利用訓練好的預測模型對待預測日進行預測。

3.4.1 模型性能誤差對比分析

利用訓練樣本集對基于Spark的粒子群優化深度神經網絡（Spark_DNN_PSO）短期負荷預測模型進行訓練，并對預測日2015年1月10日的96個采樣點的負荷進行預測，并與PSO優化支持向量機（SVM_PSO）、深度神經網絡（DNN）、隨機森林（Random Forest，RF）、支持向量機（SVM）5種負荷預測模型進行比較，不同模型算法運行30次后的負荷預測結果如圖3所示。5種負荷預測模型在預測日上的MAPE、RMSE和運行時間（RunTime）如表1所示。

圖3 各負荷預測模型預測結果Fig.3 Prediction results of load forecasting models

從圖3和表1可以看出，本文提出的Spark_DNN_PSO預測模型與其他模型相比，具有更好的預測效果。預測負荷曲線更接近實際負荷曲線，其MAPE、RMSE和運行時間最小，而且擬合效果更好，尤其是在負荷變化的峰谷值時，本文提出的方法預測效果更能準確地捕捉負荷變化趨勢。因此，該模型能較好地應用于短期電力負荷預測。

表1 各預測模型的預測誤差和運行時間統計Table 1 Prediction error and running time statistics of models

3.4.2 算法并行性能分析

為了比較平臺集群節點數以及數據集大小對短期負荷預測結果的影響，本實驗設置節點數分別為4，8，16，觀察模型預測結果的運行時間，并采用加速比來測試算法的并行性能。將原始數據擴大，采用不同大小的數據文件來檢測算法預測精度是否受到影響，對各數據容量運行預測模型Spark_DNN_PSO，并計算其MAPE和運行時間，如表2所示。

表2 不同數據文件大小的模型預測誤差與運行時間Table 2 Model prediction error and running time of different data file sizes

由表2可以看出，當數據樣本較大時，集群節點數大的預測模型運行時間相對較小，能有效縮短運行時間，而當樣本數據量較小時，各節點數在運行時間上基本差不多，沒有明顯優勢，而且節點數大的運行時間還稍長些，這是因為Spark在集群運算進行CPU和內存分配時所花時間占比較大，但隨著數據量的增加，這種開銷占比會越來越小，其集群性能優勢明顯，所以當數據集較小時搭建分布式集群環境進行預測時需要考慮成本和實際情況，而且并不是節點數越多越好。另外，隨著數據項目條數增大，MAPE預測誤差稍有增加，但波動范圍較小，沒有明顯規律性，最大MAPE誤差為1.24%，最小MAPE誤差為0.85%。實驗表明，Spark_DNN_PSO算法能較好地應用于電力大數據預測環境下進行短期負荷預測。

4 結語

針對單機電力負荷預測模型存在的問題，本文提出了基于Spark的PSO優化DNN負荷預測模型，通過Spark計算平臺部署16個節點的集群來提升模型的運行效率，此外將負荷輸入數據集分片成RDD數據集提高了算法的適應性和泛化能力，同時，通過PSO確定深度神經網絡的隱含層層數和各層的神經元個數以及優化DNN權重和閾值參數能有效地提升模型的性能，減少預測誤差。下一步將研究機器學習集成算法在Spark計算平臺上的并行性，進一步提高并行算法的執行效率和負荷預測精度，以及研究輕量級的預測模型加快訓練和預測速度，進而更好地應用于實際的電力大數據預測環境。