基于LSTM神經(jīng)網(wǎng)絡算法的高壓用戶日負荷預測

俞沛宙 孔旭鋒 燕俞波 朱斌 趙婉芳

摘要：在迎峰度夏高峰期，電力供應處于緊平衡狀態(tài)，需要進行用戶需求側(cè)響應和有序用電工作。如何高效且精確地編制錯避峰方案，快速開展需求側(cè)管理工作是需要解決的重要問題。不同用戶的用電特性不同，在用電高峰時段可響應的負荷也不同。本文基于LSTM神經(jīng)網(wǎng)絡算法對高壓用戶進行日負荷預測，以寧波市鄞州區(qū)專變用戶為試點對象，預測未來某日內(nèi)用戶負荷情況，對日后的需求側(cè)響應工作給與數(shù)據(jù)支撐。該方法通過LSTM神經(jīng)網(wǎng)絡算法對歷史負荷曲線進行擬合，預測單用戶未來短期負荷，并通過與傳統(tǒng)ARMA自回歸算法預測結(jié)果進行對比，分析優(yōu)缺點。

關鍵詞：需求側(cè)響應 可控負荷 負荷特性 負荷預測 神經(jīng)網(wǎng)絡

0引言

隨著電網(wǎng)建設的不斷強化，大規(guī)模的有序用電已經(jīng)成為歷史，但隨著經(jīng)濟和人民生活水平的不斷提高，近幾年電力供應能力仍處于緊平衡狀態(tài)。根據(jù)寧波市能源局統(tǒng)計，2018年寧波市全社會最高用電負荷約1278萬千瓦，同比增長約10.3%，逼近寧波市最高電力供電能力;預計2019年，全社會用電負荷1350萬千瓦，電力供應緊平衡趨勢仍將持續(xù)。

需求側(cè)響應是解決緊平衡的最好方法，它是在電力市場改革的背景下，用戶針對市場價格信號或者政府激勵機制做出的改變正常電力消費模式的市場化行為。

目前電力公司、用戶、政府在需求側(cè)響應中的現(xiàn)狀為：一是電力公司找用戶難，計算響應負荷更難，因此方案編制費時、費心、費力;二是電力用戶雖然了解需求側(cè)響應政策，但不知道自己能響應多少;三是政府不知道多少用戶能響應，無法進行統(tǒng)籌規(guī)劃和激勵機制的優(yōu)化。

1LSTM網(wǎng)絡

LSTM網(wǎng)絡是一種能夠?qū)W習并記憶序列長期信息的遞歸模型，由圖1所示的存儲模塊構(gòu)成^[1]。

LSTM的核心由input、forget、output三個記憶胞組成，其能在每個時刻編碼輸入的信息。每個記憶胞的行為由門（gate）控制，控制信息保存與否，若保存則為1，否則為0。詳細來說，forget?gate?f控制是否保存當前狀態(tài)的胞信息，input?gate?i控制是否讀取輸入信息，output?gate?o控制是否輸出新的胞信息。其運算公式如下所示^[2]

其中，x表示輸入向量，h表示輸出向量，?表示點乘運算符，矩陣W表示待訓練參數(shù)。表示sigmoid非線性函數(shù)，表示雙曲正切函數(shù)。

LSTM通過多門協(xié)作的方式使得LSTM訓練具有魯棒性，且避免了梯度彌散消失。本文采用LSTM網(wǎng)絡對時間序列描述的負荷數(shù)據(jù)進行線性擬合，進而進行短期預測。

2負荷預測算法設計

2.1算法框架

考慮到單變量負荷時間序列有限樣本點的數(shù)據(jù)特征，以及循環(huán)神經(jīng)網(wǎng)絡從簡的設計原則，本文構(gòu)建LSTM預測模型的整體框架如圖2所示，包括輸入層、隱藏層、輸出層、網(wǎng)絡訓練以及網(wǎng)絡預測5個功能模塊。輸入層負責對原始負荷時間序列進行初步處理以滿足網(wǎng)絡輸入要求，隱藏層采用圖2表示的LSTM細胞搭建單層循環(huán)神經(jīng)網(wǎng)絡，輸出層提供預測結(jié)果，網(wǎng)絡訓練采用Adam優(yōu)化算法，網(wǎng)絡預測采用迭代的方法逐點預測。

2.2神經(jīng)網(wǎng)絡訓練

網(wǎng)絡訓練主要以隱藏層為研究對象。首先在輸入層中，定義原始負荷時間序列為，則劃分的訓練集和測試集可以表示為和，滿足約束條件和。然后對訓練集中的元素進行標準化，采用經(jīng)典的歸一化公式（最小值為0，最大值為1），歸一化后的訓練集可以表示為^[3]

為了適應隱藏層輸入的特點，應用數(shù)據(jù)分割的方法對進行處理，設定分割窗口長度取值為L，則分割后的模型輸入為

對應的理論輸出為

接下來，將X輸入隱藏層。從圖2可以看出，隱藏層包含L個按前后時刻連接的同構(gòu)LSTM細胞，X經(jīng)過隱藏層后的輸出可以表示為

式中：和分別為前一個LSTM細胞的狀態(tài)和輸出;LSTMforward表示LSTM細胞前向計算過程。設定細胞狀態(tài)向量大小為，則和2個向量的大小均為。可以看出，隱藏層輸出P、模型輸入X和理論輸出Y都是維度為（m-L，L）的二維數(shù)組。選用均方誤差作為誤差計算公式，訓練過程的損失函數(shù)可以定義為

設定損失函數(shù)最小為優(yōu)化目標，給定網(wǎng)絡初始化的隨機種子數(shù)seed、學習率η以及訓練步數(shù)steps，應用Adam優(yōu)化算法不斷更新網(wǎng)絡權(quán)重，進而得到最終的隱藏層網(wǎng)絡。

2.3神經(jīng)網(wǎng)絡預測

本小節(jié)應用訓練好的LSTM網(wǎng)絡（表示為）進行預測。預測過程采用迭代的方法。首先，理論輸出Y的最后一行數(shù)據(jù)為

將Yf輸入，輸出結(jié)果可以表示為

則m+1時刻的預測值為pm+1。然后，將Yf的最后L-1個數(shù)據(jù)點和pm+1合并為新的一行數(shù)據(jù)

將Yf+1輸入，則m+2時刻的預測值為pm+2，依次類推，得到的預測序列為

接下來，通過對Po進行反歸一化（表示為de_normalize），得到最終的與測試集Fte對應的預測序列為

類似地，將X的每一行作為模型輸入可以得到與訓練集Ftr對應的擬合序列Ptr。最后，通過計算Ftr和Ptr，以及Fte和Pte的偏差定量地給出模型的擬合和預測精度。

總的來說，基于LSTM的負荷時間序列模型訓練和預測算法概括如下：

算法1訓練并預測LSTM負荷時間序列模型

輸入：。

輸出：與測試集對應的預測序列以及模型

精度。

1 ?getfromby

2

3 ?getfromby

4 ?createby

5 ?connectbyand

6 ?initializeby seed

7 ?for each step in

8

9

10 updateby Adam with loss and η

11 ?get

12 ?for each j in

13

14 ?appendwith

15

16 error measure

其中：訓練過程涉及輸入層、隱藏層、輸出層、網(wǎng)絡訓練4個模塊，預測過程主要涉及輸出層模塊;LSTMcell表示LSTM隱藏層細胞;LSTMnet表示LSTM隱藏層網(wǎng)絡;εe為誤差度量函數(shù)。

2.4評價指標

模型訓練階段誤差度量函數(shù)采用RMSE，但在最終結(jié)果的評價階段，準確度指標采用平均絕對百分比誤差（MAPE）進行評價，主要考慮MAPE在誤差評價中更能被直觀理解。

表示預測負荷的時刻點數(shù)，根據(jù)數(shù)據(jù)選取維度確定24或96;

表示某時刻點，[0，23]或[0，95];

表示測試集中某時刻的預測負荷（）;

表示測試集中某時刻的真實負荷（）。

3數(shù)據(jù)驗證

3.1數(shù)據(jù)準備

首先介紹實驗中所選用的負荷數(shù)據(jù)集，與本文提出的LSTM模型相對比的其他時間序列預測模型，評價不同預測模型優(yōu)劣的精度度量指標，以及實驗運行平臺和軟硬件環(huán)境配置。

3.1.1數(shù)據(jù)集

實驗數(shù)據(jù)采用浙江省寧波市負荷時間序列數(shù)據(jù)集。該數(shù)據(jù)集包含鄞州地區(qū)2017年-2018年的高壓專變用戶負荷記錄，通過整理后得到1200戶包含96個數(shù)據(jù)點的日負荷時間序列數(shù)據(jù)。

3.1.2對比模型

ARMA是時間序列分析的經(jīng)典理論和方法，其模型可以表示為ARMA（p，d，q），其中p、d、q分別為自回歸項數(shù)、差分次數(shù)、移動平均項數(shù)^[4]。在實際使用中，這3個參數(shù)可以通過觀測自相關函數(shù)（AutoCorrela-tionFunction，ACF）和偏自相關函數(shù)（PartialAu

-toCorrelationFunction，PACF）確定。

3.2實驗結(jié)果

本項目負荷預測部分的算法評估依據(jù)用戶群體負荷預測評價矩陣，通過不同負荷特征的用戶群在不同算法上的評估指標進行羅列對比。

在訓練集樣本中，共選取了1200個目標樣本，構(gòu)建用戶群體負荷預測評價矩陣，反應模型在測試集數(shù)據(jù)上的預測效果以及運行時間。

基于單戶用戶96點負荷數(shù)據(jù)，選取樣本數(shù)據(jù)某一天的負荷情況為預測對象。在不同的曲線類型下，分別匹配最優(yōu)算法，進行負荷預測，形成預測曲線與真實曲線的直觀對比。

4小結(jié)

總的來說，本文驗證了LSTM模型在可靠性預測領域中的適用性，擴展了神經(jīng)網(wǎng)絡技術的應用范疇。基于目前的工作，后續(xù)可以展開進一步研究：比如擴展隱藏層層數(shù)，檢驗多隱藏層LSTM網(wǎng)絡結(jié)構(gòu)的應用效果;或者從眾多LSTM模型參數(shù)入手，尋求更有效的參數(shù)優(yōu)化方法。此外，本文是從歷史數(shù)據(jù)出發(fā)，應用數(shù)據(jù)驅(qū)動的技術逆向建立預測模型。下一步，可以從可靠性相關的領域知識出發(fā)，應用提取出來的關鍵特征和要素正向研究可靠性預測方法。

參考文獻：

[1]?竇珊， 張廣宇.?熊智華?基于 LSTM 時間序列重建的生產(chǎn)裝置異常檢測[J]. 化工學報， 2019，70（2）：481-486.

[2]?Hochreiter S， Schmidhuber J. Long short-term memory[J]. Neural?Computation， 1997， 9（8）： 1735-1780

[3]?王鑫，吳際，劉超等.?基于 LSTM 循環(huán)神經(jīng)網(wǎng)絡的故障時間序列預測[J].?北京航空航天大學學報， 2018.04，44（4）：1001-5965

[4]?BARTHOLOMEW D J. Time series analysis forecasting andcontrol[J]. Journal of the Operational Research Society，1971，22（ 2） ： 199-201.