GRU神經網絡短期電力負荷預測研究

周莽 高僮 李晨光 姜辰龍

摘 要：隨著智能電網的快速發展，針對電力部門亟需解決的短期電力負荷預測的問題，提出了一種基于棧式自編碼和GRU神經網絡的短期電力負荷預測方法，方法首先對輸入的歷史數據，包括電力負荷、天氣信息和節假日信息等進行棧式自編碼，從而將輸入數據進行壓縮，然后利用多層GRU構建神經網絡，從而預測電力負荷，實例結果表明，將文本提出的電力負荷預測模型能有效預測電力負荷的日變化，與其它常用模型進行比對，預測誤差更小，精度更高。

關鍵詞：智能電網；神經網絡；電力負荷預測；棧式自編碼

中圖分類號：TM715 文獻標志碼：A 文章編號：2095-2945（2018）33-0052-03

Abstract： With the rapid development of smart grid， a short-term load forecasting method based on stack self-coding and GRU neural network is proposed. Methods the input historical data， including power load， weather information and holiday information， are compressed by stack self-coding， and then the neural network is constructed using multi-layer GRU to predict the power load. The results show that the proposed power load forecasting model can effectively predict the diurnal variation of power load， and compared with other commonly used models， the forecasting error is smaller and the accuracy is higher.

Keywords： smart grid； neural network； power load forecasting； stack self-coding

1 概述

電力負荷預測包括長期電力負荷預測、中期電力負荷和短期電力負荷。短期負荷預測主要是預測短時間的負荷用量，一般包括數分鐘到數小時的電力負荷使用狀況，或者日電力負荷和周電力負荷預測情況，預測結果會對電廠的水電調度、發電機組控制、水火協調控制等提供理論參考依據，因此短期電力負荷預測是電網短期日常運行所需的重要工作內容。根據預測的輸出形式要求，電力負荷預測可劃分為點負荷預測和概率預測。點負荷預測是指對某一時刻用電量的一個具體的數值預測；概率負荷預測是指對用電量的概率區間的預測，結果為一個概率密度函數或一個預測區間。概率負荷預測與點預測相比，它對未來電力負荷的輸出結果提供了更多的選擇。但是，電力負荷預測會受到天氣、溫度、節假日等因素的影響，因此，短期負荷預測的方法和模型必須充分考慮環境因素，才能保證方法和模型的精確性和可靠性[1-3]。

2 電力負荷預測方法

棧式自編碼和GRU神經網絡進行融合，通過棧式自編碼將數據進行壓縮，然后利用GRU進行訓練，然后預測電力負荷。自編碼是一種無監督學習的過程，因此自編碼的過程是自己建立標簽[4]。自編碼是一個典型的三層神經網絡模型，包含輸入層、隱藏層、輸出層（重構層）。

工作流程如下：首先，訓練第一層神經網絡的權重值，然后將權值輸入到自編碼器，得到參數W1和b1；根據參數可以計算出經過第一層隱藏層的輸出值。繼續把輸出值作為輸入到自編碼器，同樣可以得到第二層隱藏層的參數W2和b2。把第二層隱藏層通過計算得到的輸出值，作為特征輸入到分類器，然后分類器經過訓練得到了分類器的參數。為了優化結果，在上述預訓練過程后，可以通過反向傳播算法同時調整（微調）所有層的參數以改善參數結果。

GRU是RNN（循環神經網絡）的一種改進模型，RNN是利用數據樣本的時序性進行結果預測。傳統神經網絡的特點是從輸入層到隱藏層，最后到輸入層，各層直接的節點是連接的，但是每一層的節點之間是無連接的[5-6]。RNN網絡會對前面的信息進行記憶然后再應用于當前輸出的計算中，即隱藏層之間的節點不再是無連接的而是有連接的，并且隱藏層的輸入不僅包括當前輸入層的輸出還包括上一時刻隱藏層的輸出，隱藏它可以有效的解決各層節點直接的無連接的缺點。但是RNN雖然能有效的利用以前時刻的輸出信息，但是它缺點是隨著隱藏層的增多，歷史信息可能逐層衰減，在反向傳播時可能會產生梯度消失或梯度爆炸，因此在長時間序列應用上效果不好。

首先，根據xt和ht-1的信息可以獲得兩個門控zt和rt狀態，如式所示：

zt=f（wz[xt，ht-1]+bz） （1）

rt=f（wr[xt，ht-1]+br） （2）

其中f為sigmoid函數，可以控制值域在0-1之間，這樣就可以用來進行門控，從而得到門控信號。在得到門控信號后，首先要使用重置門控rt，然后得到經過重置后的數據h't-1，再與xt結合，通過tanh激活函數激活，得到t。

t=f（w[rt×ht-1，xt]） （3）

其中f為tanh激活函數，可以控制值域在-1～1之間。可以看出t包含了輸入數據xt，然后控制了隱藏信息ht-1。

在更新階段，使用了更新門zt進行控制，同時進行遺忘和記憶這兩個操作。如公式所示。

ht=（1-zt）×ht-1+zt×t （4）

其中，zt的范圍為0～1，當越趨近于1時，代表記憶（保留）的數據越多，zt越趨近于0則代表遺忘（丟棄）的數據越多。因此，通過zt可以同時進行遺忘和記憶的控制。因此，式中zt×t表示對隱藏狀態的遺忘程度，zt的功能相當于遺忘門，選擇性遺忘一些不相關信息。（1-zt）×ht-1表示當前節點信息的選擇性記憶程度，1-zt的功能相當于選擇一些相關信息。公式4的作用是遺忘上層傳遞下來的ht-1中的某些維度信息，并加入當前節點輸入的某些維度信息。詳細說明了基于棧式自編碼和GRU神經網絡的預測模型（SAE-GRUs）的過程，方法的結構如圖2所示。

本文提出的深度神經模型可分為3個部分，按照從左到右的次序，第一層為棧式自編碼層，該層只包含編碼功能，不包含解碼的功能，作用是用來進行輸入數據信息壓縮；第二層結構是GRU深度神經網絡結構，包含3個GRU層疊，作用是用來進行數據的操作；第三層是深度神經網絡的輸出層，用來輸出電力負荷的預測結果。

3 實驗結果分析

本文建立了基于棧式自編碼和GRU神經網絡的短期負荷預測模型，下面將對這個模型與LSTM和SVM進行比較，從而驗證模型的預測結果。本文使用的數據集為某省某市的電力數據，來進行短期電力負荷預測，其中訓練集數據取值范圍為2016年1月1日至2017年12月31日，預測區間為從訓練日結束每30分鐘一個樣本點的一天（24小時）的實際負荷數據為例，取700天樣本數據用于訓練，即共有33600個訓練樣本點。

圖3、圖4和圖5分別給出了SAE-GRUs、LSTM和SVM三種模型對于冬季的工作日、周末、節假日的單日電力負荷預測對比圖，從圖中可以看出，SVM模型的誤差水平最高，而LSTM在經過500輪訓練后，由于LSTM模型沒有進行堆疊處理，網絡結構較簡單，沒有實現對數據的深度挖掘。而由于棧式自編碼的結構，SAE-GRU模型誤差低于簡單LSTM模型，同時由于單層LSTM模型層數較少，沒有充分挖掘數據上下文的能力，因此誤差水平較高，但要低于SVM模型。

相比于其它模型SAE-GRUs模型有的預測準確率最高。比對SVM預測模型我們可以發現，SAE-GRUs模型的準確度有較大提升，與LSTM神經網絡模型相比，SAE-GRUs模型的準確度也提升較大，這說明棧式自編碼的數據降維和數據壓縮方面，具有很好的效果。從不同日期類型情況下的誤差對比中發現，當節假日進行電力負荷預測時，由于節假日的不確定性，三個模型的預測誤差均會增加，但SAE-GRUs模型的誤差依然是最小的，因此，本文提出的SAE-GRUs模型基于較強的魯棒性。

4 結束語

本文在進行短期電力負荷預測時，充分考慮了預測時的歷史數據、溫度濕度和節假日信息，分析了神經網絡將輸入數據進行歸一化，提出了一種基于棧式自編碼和GRU深度神經網絡的短期電力負荷預測方法，方法首先將輸入的數據進行壓縮編碼，對不確定性時間的序列輸入數據進行了有效特征提取和重構，然后搭建了3層結構的GRU深度神經網絡，充分利用GRU的兩個邏輯門結構，有效的對歷史時間序列數據進行了處理，提高了對可變長度時間序列的信息處理能力。實驗分析表明，SAE-GRUs模型比傳統的SVM模型和GRU模型在負荷預測的精度上有很多提高。

參考文獻：

[1]彭春華，劉剛，孫惠娟.基于小波分解和微分進化支持向量機的風電場風速預測[J].電力自動化設備，2012，32（1）：9-13.

[2]孫海蓉，謝碧霞，田瑤，等.基于數據的SecRPSO-SVM短期電力負荷預測[J].系統仿真學報，2017（8）：1829-1836.

[3]張亞麗，胡伯軒，李莎莎，等.基于相似日搜索的改進LMD與ESN相結合的短期電力負荷預測模型[J].鄭州大學學報（理學版），2017，49（2）：121-127.

[4]史佳琪，譚濤，郭經，等.基于深度結構多任務學習的園區型綜合能源系統多元負荷預測[J].電網技術，2018，42（3）：698-707.

[5]李幼軍，黃佳進，王海淵，等.基于SAE和LSTMRNN的多模態生理信號融合和情感識別研究[J].通信學報，2017，38（12）：109-120.

[6]牛哲文，余澤遠，李波，等.基于深度門控循環單元神經網絡的短期風功率預測模型[J].電力自動化設備，2018，38（5）：36-42.