GRU神經(jīng)網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測(cè)研究

周莽 高僮 李晨光 姜辰龍

摘 要：隨著智能電網(wǎng)的快速發(fā)展，針對(duì)電力部門亟需解決的短期電力負(fù)荷預(yù)測(cè)的問題，提出了一種基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)方法，方法首先對(duì)輸入的歷史數(shù)據(jù)，包括電力負(fù)荷、天氣信息和節(jié)假日信息等進(jìn)行棧式自編碼，從而將輸入數(shù)據(jù)進(jìn)行壓縮，然后利用多層GRU構(gòu)建神經(jīng)網(wǎng)絡(luò)，從而預(yù)測(cè)電力負(fù)荷，實(shí)例結(jié)果表明，將文本提出的電力負(fù)荷預(yù)測(cè)模型能有效預(yù)測(cè)電力負(fù)荷的日變化，與其它常用模型進(jìn)行比對(duì)，預(yù)測(cè)誤差更小，精度更高。

關(guān)鍵詞：智能電網(wǎng)；神經(jīng)網(wǎng)絡(luò)；電力負(fù)荷預(yù)測(cè)；棧式自編碼

中圖分類號(hào)：TM715 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：2095-2945（2018）33-0052-03

Abstract： With the rapid development of smart grid， a short-term load forecasting method based on stack self-coding and GRU neural network is proposed. Methods the input historical data， including power load， weather information and holiday information， are compressed by stack self-coding， and then the neural network is constructed using multi-layer GRU to predict the power load. The results show that the proposed power load forecasting model can effectively predict the diurnal variation of power load， and compared with other commonly used models， the forecasting error is smaller and the accuracy is higher.

Keywords： smart grid； neural network； power load forecasting； stack self-coding

1 概述

電力負(fù)荷預(yù)測(cè)包括長(zhǎng)期電力負(fù)荷預(yù)測(cè)、中期電力負(fù)荷和短期電力負(fù)荷。短期負(fù)荷預(yù)測(cè)主要是預(yù)測(cè)短時(shí)間的負(fù)荷用量，一般包括數(shù)分鐘到數(shù)小時(shí)的電力負(fù)荷使用狀況，或者日電力負(fù)荷和周電力負(fù)荷預(yù)測(cè)情況，預(yù)測(cè)結(jié)果會(huì)對(duì)電廠的水電調(diào)度、發(fā)電機(jī)組控制、水火協(xié)調(diào)控制等提供理論參考依據(jù)，因此短期電力負(fù)荷預(yù)測(cè)是電網(wǎng)短期日常運(yùn)行所需的重要工作內(nèi)容。根據(jù)預(yù)測(cè)的輸出形式要求，電力負(fù)荷預(yù)測(cè)可劃分為點(diǎn)負(fù)荷預(yù)測(cè)和概率預(yù)測(cè)。點(diǎn)負(fù)荷預(yù)測(cè)是指對(duì)某一時(shí)刻用電量的一個(gè)具體的數(shù)值預(yù)測(cè)；概率負(fù)荷預(yù)測(cè)是指對(duì)用電量的概率區(qū)間的預(yù)測(cè)，結(jié)果為一個(gè)概率密度函數(shù)或一個(gè)預(yù)測(cè)區(qū)間。概率負(fù)荷預(yù)測(cè)與點(diǎn)預(yù)測(cè)相比，它對(duì)未來電力負(fù)荷的輸出結(jié)果提供了更多的選擇。但是，電力負(fù)荷預(yù)測(cè)會(huì)受到天氣、溫度、節(jié)假日等因素的影響，因此，短期負(fù)荷預(yù)測(cè)的方法和模型必須充分考慮環(huán)境因素，才能保證方法和模型的精確性和可靠性[1-3]。

2 電力負(fù)荷預(yù)測(cè)方法

棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)進(jìn)行融合，通過棧式自編碼將數(shù)據(jù)進(jìn)行壓縮，然后利用GRU進(jìn)行訓(xùn)練，然后預(yù)測(cè)電力負(fù)荷。自編碼是一種無監(jiān)督學(xué)習(xí)的過程，因此自編碼的過程是自己建立標(biāo)簽[4]。自編碼是一個(gè)典型的三層神經(jīng)網(wǎng)絡(luò)模型，包含輸入層、隱藏層、輸出層（重構(gòu)層）。

工作流程如下：首先，訓(xùn)練第一層神經(jīng)網(wǎng)絡(luò)的權(quán)重值，然后將權(quán)值輸入到自編碼器，得到參數(shù)W1和b1；根據(jù)參數(shù)可以計(jì)算出經(jīng)過第一層隱藏層的輸出值。繼續(xù)把輸出值作為輸入到自編碼器，同樣可以得到第二層隱藏層的參數(shù)W2和b2。把第二層隱藏層通過計(jì)算得到的輸出值，作為特征輸入到分類器，然后分類器經(jīng)過訓(xùn)練得到了分類器的參數(shù)。為了優(yōu)化結(jié)果，在上述預(yù)訓(xùn)練過程后，可以通過反向傳播算法同時(shí)調(diào)整（微調(diào)）所有層的參數(shù)以改善參數(shù)結(jié)果。

GRU是RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）的一種改進(jìn)模型，RNN是利用數(shù)據(jù)樣本的時(shí)序性進(jìn)行結(jié)果預(yù)測(cè)。傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是從輸入層到隱藏層，最后到輸入層，各層直接的節(jié)點(diǎn)是連接的，但是每一層的節(jié)點(diǎn)之間是無連接的[5-6]。RNN網(wǎng)絡(luò)會(huì)對(duì)前面的信息進(jìn)行記憶然后再應(yīng)用于當(dāng)前輸出的計(jì)算中，即隱藏層之間的節(jié)點(diǎn)不再是無連接的而是有連接的，并且隱藏層的輸入不僅包括當(dāng)前輸入層的輸出還包括上一時(shí)刻隱藏層的輸出，隱藏它可以有效的解決各層節(jié)點(diǎn)直接的無連接的缺點(diǎn)。但是RNN雖然能有效的利用以前時(shí)刻的輸出信息，但是它缺點(diǎn)是隨著隱藏層的增多，歷史信息可能逐層衰減，在反向傳播時(shí)可能會(huì)產(chǎn)生梯度消失或梯度爆炸，因此在長(zhǎng)時(shí)間序列應(yīng)用上效果不好。

首先，根據(jù)xt和ht-1的信息可以獲得兩個(gè)門控zt和rt狀態(tài)，如式所示：

zt=f（wz[xt，ht-1]+bz） （1）

rt=f（wr[xt，ht-1]+br） （2）

其中f為sigmoid函數(shù)，可以控制值域在0-1之間，這樣就可以用來進(jìn)行門控，從而得到門控信號(hào)。在得到門控信號(hào)后，首先要使用重置門控rt，然后得到經(jīng)過重置后的數(shù)據(jù)h't-1，再與xt結(jié)合，通過tanh激活函數(shù)激活，得到t。

t=f（w[rt×ht-1，xt]） （3）

其中f為tanh激活函數(shù)，可以控制值域在-1～1之間?？梢钥闯鰐包含了輸入數(shù)據(jù)xt，然后控制了隱藏信息ht-1。

在更新階段，使用了更新門zt進(jìn)行控制，同時(shí)進(jìn)行遺忘和記憶這兩個(gè)操作。如公式所示。

ht=（1-zt）×ht-1+zt×t （4）

其中，zt的范圍為0～1，當(dāng)越趨近于1時(shí)，代表記憶（保留）的數(shù)據(jù)越多，zt越趨近于0則代表遺忘（丟棄）的數(shù)據(jù)越多。因此，通過zt可以同時(shí)進(jìn)行遺忘和記憶的控制。因此，式中zt×t表示對(duì)隱藏狀態(tài)的遺忘程度，zt的功能相當(dāng)于遺忘門，選擇性遺忘一些不相關(guān)信息。（1-zt）×ht-1表示當(dāng)前節(jié)點(diǎn)信息的選擇性記憶程度，1-zt的功能相當(dāng)于選擇一些相關(guān)信息。公式4的作用是遺忘上層傳遞下來的ht-1中的某些維度信息，并加入當(dāng)前節(jié)點(diǎn)輸入的某些維度信息。詳細(xì)說明了基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型（SAE-GRUs）的過程，方法的結(jié)構(gòu)如圖2所示。

本文提出的深度神經(jīng)模型可分為3個(gè)部分，按照從左到右的次序，第一層為棧式自編碼層，該層只包含編碼功能，不包含解碼的功能，作用是用來進(jìn)行輸入數(shù)據(jù)信息壓縮；第二層結(jié)構(gòu)是GRU深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包含3個(gè)GRU層疊，作用是用來進(jìn)行數(shù)據(jù)的操作；第三層是深度神經(jīng)網(wǎng)絡(luò)的輸出層，用來輸出電力負(fù)荷的預(yù)測(cè)結(jié)果。

3 實(shí)驗(yàn)結(jié)果分析

本文建立了基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測(cè)模型，下面將對(duì)這個(gè)模型與LSTM和SVM進(jìn)行比較，從而驗(yàn)證模型的預(yù)測(cè)結(jié)果。本文使用的數(shù)據(jù)集為某省某市的電力數(shù)據(jù)，來進(jìn)行短期電力負(fù)荷預(yù)測(cè)，其中訓(xùn)練集數(shù)據(jù)取值范圍為2016年1月1日至2017年12月31日，預(yù)測(cè)區(qū)間為從訓(xùn)練日結(jié)束每30分鐘一個(gè)樣本點(diǎn)的一天（24小時(shí)）的實(shí)際負(fù)荷數(shù)據(jù)為例，取700天樣本數(shù)據(jù)用于訓(xùn)練，即共有33600個(gè)訓(xùn)練樣本點(diǎn)。

圖3、圖4和圖5分別給出了SAE-GRUs、LSTM和SVM三種模型對(duì)于冬季的工作日、周末、節(jié)假日的單日電力負(fù)荷預(yù)測(cè)對(duì)比圖，從圖中可以看出，SVM模型的誤差水平最高，而LSTM在經(jīng)過500輪訓(xùn)練后，由于LSTM模型沒有進(jìn)行堆疊處理，網(wǎng)絡(luò)結(jié)構(gòu)較簡(jiǎn)單，沒有實(shí)現(xiàn)對(duì)數(shù)據(jù)的深度挖掘。而由于棧式自編碼的結(jié)構(gòu)，SAE-GRU模型誤差低于簡(jiǎn)單LSTM模型，同時(shí)由于單層LSTM模型層數(shù)較少，沒有充分挖掘數(shù)據(jù)上下文的能力，因此誤差水平較高，但要低于SVM模型。

相比于其它模型SAE-GRUs模型有的預(yù)測(cè)準(zhǔn)確率最高。比對(duì)SVM預(yù)測(cè)模型我們可以發(fā)現(xiàn)，SAE-GRUs模型的準(zhǔn)確度有較大提升，與LSTM神經(jīng)網(wǎng)絡(luò)模型相比，SAE-GRUs模型的準(zhǔn)確度也提升較大，這說明棧式自編碼的數(shù)據(jù)降維和數(shù)據(jù)壓縮方面，具有很好的效果。從不同日期類型情況下的誤差對(duì)比中發(fā)現(xiàn)，當(dāng)節(jié)假日進(jìn)行電力負(fù)荷預(yù)測(cè)時(shí)，由于節(jié)假日的不確定性，三個(gè)模型的預(yù)測(cè)誤差均會(huì)增加，但SAE-GRUs模型的誤差依然是最小的，因此，本文提出的SAE-GRUs模型基于較強(qiáng)的魯棒性。

4 結(jié)束語

本文在進(jìn)行短期電力負(fù)荷預(yù)測(cè)時(shí)，充分考慮了預(yù)測(cè)時(shí)的歷史數(shù)據(jù)、溫度濕度和節(jié)假日信息，分析了神經(jīng)網(wǎng)絡(luò)將輸入數(shù)據(jù)進(jìn)行歸一化，提出了一種基于棧式自編碼和GRU深度神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)方法，方法首先將輸入的數(shù)據(jù)進(jìn)行壓縮編碼，對(duì)不確定性時(shí)間的序列輸入數(shù)據(jù)進(jìn)行了有效特征提取和重構(gòu)，然后搭建了3層結(jié)構(gòu)的GRU深度神經(jīng)網(wǎng)絡(luò)，充分利用GRU的兩個(gè)邏輯門結(jié)構(gòu)，有效的對(duì)歷史時(shí)間序列數(shù)據(jù)進(jìn)行了處理，提高了對(duì)可變長(zhǎng)度時(shí)間序列的信息處理能力。實(shí)驗(yàn)分析表明，SAE-GRUs模型比傳統(tǒng)的SVM模型和GRU模型在負(fù)荷預(yù)測(cè)的精度上有很多提高。

參考文獻(xiàn)：

[1]彭春華，劉剛，孫惠娟.基于小波分解和微分進(jìn)化支持向量機(jī)的風(fēng)電場(chǎng)風(fēng)速預(yù)測(cè)[J].電力自動(dòng)化設(shè)備，2012，32（1）：9-13.

[2]孫海蓉，謝碧霞，田瑤，等.基于數(shù)據(jù)的SecRPSO-SVM短期電力負(fù)荷預(yù)測(cè)[J].系統(tǒng)仿真學(xué)報(bào)，2017（8）：1829-1836.

[3]張亞麗，胡伯軒，李莎莎，等.基于相似日搜索的改進(jìn)LMD與ESN相結(jié)合的短期電力負(fù)荷預(yù)測(cè)模型[J].鄭州大學(xué)學(xué)報(bào)（理學(xué)版），2017，49（2）：121-127.

[4]史佳琪，譚濤，郭經(jīng)，等.基于深度結(jié)構(gòu)多任務(wù)學(xué)習(xí)的園區(qū)型綜合能源系統(tǒng)多元負(fù)荷預(yù)測(cè)[J].電網(wǎng)技術(shù)，2018，42（3）：698-707.

[5]李幼軍，黃佳進(jìn)，王海淵，等.基于SAE和LSTMRNN的多模態(tài)生理信號(hào)融合和情感識(shí)別研究[J].通信學(xué)報(bào)，2017，38（12）：109-120.

[6]牛哲文，余澤遠(yuǎn)，李波，等.基于深度門控循環(huán)單元神經(jīng)網(wǎng)絡(luò)的短期風(fēng)功率預(yù)測(cè)模型[J].電力自動(dòng)化設(shè)備，2018，38（5）：36-42.