基于VMD-EWT-IASSP-EBILSTM的短期電力負荷預測

楊健,孫濤,陳小龍,蘇堅,姚健,周倩

(國網寧夏供電有限公司吳忠供電公司,吳忠 751100)

近年來,國家大力建設電力市場,深化電力系統改革,但隨著電力系統消納的動態運轉,電力系統的供給側不斷發生變化,系統負荷充滿隨機不確定性與非平穩性,對后續電力系統調度計劃的應用與能源系統的安全穩定運行帶來巨大影響[1]。因此,通過對電力系統負荷進行預測,獲得電力系統負荷波動的區間范圍,對電力市場合理優化配置資源具有重要指導意義。

國內外研究者對負荷預測領域的研究主要集中在點預測技術上,點預測方法主要采用指數平滑模型[2]、回歸[3]與時間序列等統計方法。隨著人工智能的發展,負荷預測開始應用一些人工智能的技術如神經網絡[4-5]、支持向量機[6]和模糊系統[7]等。然而,由于電力市場負荷的波動性,其預測精度并不理想。

Gaillard等[8]分別采用半參數回歸模型、多元時間序列仿真模型和重采樣策略進行點負荷預測,但預測性能不佳;Kou等[9]提出了一種基于高斯過程的日負荷預測擴散異方差預測方法,但直接采用歷史的預測誤差估計擴散異方差的精度不高; Wang等[10]采用卷積神經網絡模型來估算風電負荷,相較于Delta方法,負荷預測復雜度較低,精度較高,但該模型不能有效提取負荷時序信息;秦勉等[11]采用遺傳算法與極限學習機(extreme learning machine,ELM)模型結合,構建負荷預測模型,采用遺傳算法來優化ELM的參數,但遺傳算法較為復雜,迭代求解過程速率較慢;李守茂等[12]基于小波神經網絡與粒子優化算法進行負荷預測,但采用的粒子群優化算法計算量大,容易出現維數災問題。Musaed等[13]采用卷積神經網絡與長短時記憶網絡 (convolutional neural networks-long short term memory,CNN-LSTM)結合的模型結構,用CNN提取輸入樣本的特征信息,再利用LSTM進行電力系統負荷預測,但該方法LSTM負荷預測的精度受CNN提取特征的約束,若CNN特征層提取不佳,會導致預測精度下降。任成國等[14]提出一種經驗模態分解(empirical mode decomposition,EMD)與LSTM網絡模型結合的算法,將時間序列分解若干子分量,在子分量基礎上分別訓練LSTM模型訓練,預測精度有較高的提升,但EMD算法容易造成模態混疊的現象。

綜上所述,現有算法存在著預測精度、時效、穩定度等不同問題,難以穩定工程化應用。為了有效提高模型的預測精度與時效性,提出一種短期電力負荷預測模型。考慮到變分模態分解 (variational mode decomposition,VMD)方法和經驗小波變換(empirical wavelet transform,EWT)方法對非線性信號具有良好的分解特性,采用VMD方法對原始的電力負荷序列進行分解,并采用EWT方法對殘差序列進一步分解,利用過零率指標劃分高低頻負荷序列。為了對分解的高低頻負荷序列進一步預測,結合通道注意力的思想改進ASSP網絡結構,優化卷積核提取感受野的方式,增強高頻序列負荷特征提取能力;同時構造時序依賴捕獲模塊EBiLSTM結構,充分捕獲低頻序列負荷特征的長期依賴性,共同構建出一種高低頻雙流的神經網絡短期負荷預測模型。最后將每個子序列的預測結果組合,得到最終的預測結果。

1 負荷神經網絡模型預測架構

1.1 變分模態分解與經驗小波分解方法

電力負荷數據變化具有一定的規律性,同時受季節、地理位置、日期的影響,存在著負荷量急劇增加或減少等非平穩現象,若直接用原始數據進行神經網絡訓練,誤差較大[15]。為提高后續模型的訓練精度,負荷預測前需對負荷序列進行模態特征的分解,而現在常用的EMD手段容易引發模態混疊的問題,進而影響后續的預測精度。VMD[16]能夠解決負荷序列模態混疊的問題,但經過VMD分解的殘差序列,負荷變化特征仍比較復雜,并不能有效利用。

EWT是一種自適應信號分解方法。根據原始信號傅里葉譜的分割,建立合適的小波濾波器組,將原始信號分解為緊湊支持傅里葉譜的多個子信號,分解的信號具有完整性與自適應性,其完整性體現于分解后的子序列信號與殘差信號累加后可還原原始信號。因此,結合VMD與EWT方法的分解特性,利用VMD將原始的負荷序列分解為若干子序列和殘差序列,解決信號模態混疊問題,再利用EWT方法對殘差序列進行進一步分解,降低負荷序列的復雜度。

VMD可以將一個復雜信號在頻域內分解為一系列具有特定帶寬的子信號,從而挖掘復雜非線性信號的特征。假設VMD方法分解過程中各模態分量的頻率集中在中心頻率wk附近,利用VMD序列分解問題可轉化為優化問題,優化的目的是尋找模態分解數K,使分解模態序列的總帶寬最小,且滿足所有分解序列求和得到原始信號f(t)的條件,優化問題數學建模,表達式為

(1)

式(1)中:f(t)為原始負荷信號;δ(t)為狄拉克分布函數;t表示時間;uk與wk為第k次分解的模態分量與對應的中心頻率;K為模態分解數量;j為虛數單位。將式(1)引入二次懲罰和拉格朗日乘子,上述約束變分問題可轉化為無約束優化問題,即

(2)

利用經驗小波變換(EWT)對殘差序列進行進一步分解的主要步驟如下。

(1)將殘差序列的傅里葉譜分成N個連續段。

(2)基于經驗小波構造帶通濾波器,每段的經驗尺度函數φn(w)與小波函數ψn(w)定義為

(3)

(4)

式中:ζ為平移量,函數β(x)定義為

(5)

(3)計算近似系數Wf(0,t)和細節系數Wf(n,t),近似系數由原始信號與經驗尺度函數內積得出,細節系數由原始信號與小波函數內積得出,定義為

(6)

(7)

(4)計算子信號(經驗模態函數),第一個子信號f1(t)與第n個子信號fn(t)定義為

f1(t)=Wf(0,t)φ1(t)

(8)

fn(t)=Wf(n,t)ψn(t)

(9)

1.2 低頻模態分量特征捕獲EBiLSTM結構

電力負荷數據受輻照度、溫度、濕度等一些外部因素的影響,雖具有一定的波動性,但用戶消費習慣仍具有一定的規律性,因此,在一段時間序列內,負荷特征數據也具有一定的周期規律性。這種周期規律性相對比較平緩,多反映在負荷的低頻模態信號中。因此,提出一種時序依賴捕獲模塊EBiLSTM結構,考慮上下文的序列信息,提取低頻模態分量的特征信息。

EBiLSTM結構接收原始負荷信號,通過集成雙向的輸入門、忘記門與輸出門等長短時門結構與記憶結構,不斷學習負荷數據的短時、中長時、長時等多維度負荷時序信息,同時考慮模型訓練中的過擬合問題,設計Dropout層與BatchNormal層,合理地減少網絡的過擬合問題,提高了模型的魯棒性,具體的EBiLSTM結構如圖1所示。

圖1 時序特征信息提取鏈路

1.3 高頻模態分量特征提取IASSP結構

電力負荷數據經過VMD與EWT分解的高頻序列,局部范圍內負荷特征變化較為劇烈,具有一定的波動性,需構建高效的特征提取模塊來提取局部的特征信息。采用不同尺度的卷積核結構,改進ASSP網絡結構的特征提取模塊,稱為IASSP(improved atros spatial pyramid pooling)模塊,具體的模塊結構如圖2所示。首先采用1×1卷積結構降維,減少計算量,再采用1×1結構、3×3結構與連續兩次3×3卷積操作進行網絡的并行處理,空洞卷積的擴張率設計為1、3、5結構,采用不同卷積核多尺度提取的特征結構。

圖2 IASSP特征提取結構

為進一步提高有效特征的權重比例,借鑒SENet模型的通道注意力機制,為IASPP模塊的每個通道添加相應的權重值,學習并篩選出對目標預測貢獻較大的特征圖。原ASSP網絡模型,默認同等對待每個通道信息,對負荷預測貢獻相同。實際上,隨著卷積層的堆疊與語義信息的豐富,每個通道攜帶了不同的特征信息,與目標的關聯程度也不盡相同。若對特征圖的通道賦予權重,并學習與篩選出對負荷預測貢獻較大的特征,讓網絡更加關注輸入的重要特征,更好地判斷輸入到輸出的映射關系,進一步提高模型的預測精度和泛化能力。

IASSP模塊構建完畢,模塊內設計卷積結構,后接全局池化結構來降低特征數據的維度,減少模型的參數量,避免模型的過擬合現象。激活函數采用SiLU函數,該函數結合Sigmoid函數與Relu激活函數的平滑可微的優勢,進行非線性映射,增強模型對復雜結構的學習能力,具體數學表達式為

f(x)=xsigmoid(x)

(10)

為提高負荷特征提取能力并加快特征梯度整體的傳輸效率,網絡模型的設計過程中借鑒DenseNet網絡的跳躍連接思想,特征層能夠直接獲取損失函數計算的梯度信息,并得到淺層網絡結構的輸入信息與負荷特征,減輕模型梯度消失問題,提高預測的精度,最后輸出電力系統提取的特征信息來預測系統負荷的局部趨勢,具體的特征信息提取鏈路的網絡結構如圖3所示。

圖3 高頻特征提取鏈路

2 基于VMD-EWT-IASSP-EBiLSTM的負荷預測模型

2.1 數據分解與參數確定

利用VMD分解原始負荷序列前,需預先確定懲罰因子α與模態分解數K。α決定各模態分量的帶寬大小。當α增大時,各模態分量的帶寬減小,反之,帶寬增大。同樣,模態分解數K的取值,直接影響分解結果。當K很小時,原始信號不能完全分解,分解誤差大,預測精度低;當K較大時,原始信號被過度分解,隨著累積誤差的疊加,過多的分解會導致預測精度下降,增加計算負擔。

通過均方誤差損失函數來設計自適應優化模數K,具體的損失函數為

(11)

(12)

式(12)中:uk(t)代表第k次的模態分量。定義損失函數后,對VMD分解進行迭代優化,Ede越小,VMD分解越徹底。

經過VMD分解的殘差序列,再利用EWT方法對殘差序列進行進一步分解,降低負荷序列的復雜度,EWT分解的模態次數過大過小都會影響分解結果,考慮到VMD算法中心頻率的收斂特性可自適應檢測模態分量的邊界與中心頻率,因此ETW分解殘差序列前,先利用VMD分解殘差序列,利用中心頻率的收斂自適應確定ETW的模態分解次數。

2.2 基于VMD-EWT-IASSP-EBiLSTM負荷預測模型

為提高電力系統負荷預測精度,基于VMD、EWT、IASSP、EBiLSTM模塊提出了一種負荷預測模型,模型的預測流程圖如圖4所示。

圖4 負荷預測模型的流程圖

首先,利用VMD將原始負荷序列分解為若干次序列和殘差序列,利用EWT對殘差序列進行進一步分解。將VMD分解的子序列利用過零率進行高低頻信號的劃分,過零率的具體定義為

(13)

式(13)中:Z0為過零率;z0為過零的次數;N為負荷樣本總數目。

然后將子序列劃分的低頻序列,利用EBiLSTM模塊構建的網絡結構進行負荷特征長期依賴性的捕獲;劃分的高頻序列,利用IASSP模塊進一步特征提取。最后疊加重構每個子序列的負荷預測,得到整體的負荷預測結果。

基于VMD-EWT-EBiLSTM-IASSP設計的負荷預測模型如圖5所示。低頻分量的主干網絡通過堆疊EBiLSTM模塊來捕獲負荷的時序變化,堆疊的數量為1、2、4、4、2、2;高頻分量的主干網絡通過堆疊IASSP結構提取局部負荷特征,模塊堆疊的數量為2、2、2、4、4、2,共同構成高低頻雙流鏈路的特征提取通道。將雙流鏈路的提取的特征信息疊加重構,輸入到64個長短時神經元結構,學習來自兩條路徑特征融合的長期依賴性,然后將長短時神經元捕獲的特征通過跳躍結構進行連接。經過Concat層處理后作為全連接層的輸入,同時為避免過擬合現象,采用Dropout層進行連接,最后經過激活函數為Sigmoid的全連接層預測電力系統的負荷信息。

圖5 基于VMD-EWT-IASSP-EBiLSTM負荷預測模型

3 實驗結果與分析

3.1 數據集與負荷序列分解

采用寧夏吳忠電網的實測數據為基礎進行算法的驗證。實測數據時間范圍為2018年1月—2021年12月,包含了輻照度、溫度、濕度的時序數據,采樣周期為15 min。將2018年1月1日—2020年12月31日的數據作為神經網絡預測模型的數據集進行訓練,為了評估網絡模型的泛化能力,根據交叉驗證原則,將2021年1月1日—12月31日的數據作為測試集進行驗證。

VMD算法分解負荷序列,設置VMD分解算法的初始參數,α設置為4 000,以調整每個模式分量的帶寬到適當的水平。τ設置為0.000 01,λ設置為0,K初始化為1,Ede的閾值為0.03;然后利用VMD分解算法迭代更新參數,每次分解計算誤差Ede。

VMD算法分解負荷序列迭代更新后,最終模態分解數K=5時,迭代終止,分解誤差為0.026 7。因此取K=5為變分模態分解數目,具體的分解結果如圖6所示。EWT的模態分解次數利用VMD分解殘差序列中心頻率的收斂來確定,最后模態次數為4時,序列的中心頻率值收斂,因此ETW的模態分解次數取N=4,具體的分解結果如圖7所示。

圖6 VMD分解負荷原始信號

圖7 EWT分解殘差信號

利用過零率對分解序列進行高低頻分量的劃分,各模態分量的過零率計算如表1所示。其中取過零率大于0.05的模態分量作為高頻分量,可看到IMF1與IMF2模態分量屬于低頻分量,IMF3、IMF4、IMF5模態分量與殘差序列均作為高頻分量。

表1 不同模態分量的過零率

3.2 模型損失函數與訓練

網絡的訓練過程中,為更好地獲得負荷預測的最優結果。整個訓練過程共兩個階段,第一階段,只訓練主干網絡的高頻分量特征提取鏈路與低頻時序依賴捕獲鏈路;第二階段基于一階段訓練的網絡權重,對整體網絡結構進行訓練。訓練過程中,采用Adam優化算法,尋找全局最優。定義神經網絡預測模型的損失函數為

(14)

3.3 客觀評價指標

為更系統地評估本文提出的神經網絡模型對電力系統負荷預測,采用平均絕對誤差(mean absolute error,MAE)[17]和均方根誤差(root mean squared error,RMSE)[18]這兩種客觀評價指標對預測性能進行評估,具體的計算公式為

(15)

(16)

3.4 不同分解算法對比的實驗結果

為驗證VMD-EWT算法分解負荷序列對負荷預測的效果,選取EMD方法、VMD方法以及模態序列不分解方法,結合IASSP與EBiLSTM網絡結構進行對比仿真驗證。

取測試集測試驗證,對所有預測結果統計分析,結果如圖8所示。

由圖8可看出,將原始負荷序列經過VMD-EWT、EMD、VMD與序列模態不分解的方法進行預測,曲線的總體趨勢基本一致,在負荷波動處,相較于其他分解算法,本文提出的VMD-EWT算法的預測值更趨近于真實值。

負荷真實值與各算法預測結果利用式(15)進行評估,具體實驗結果如圖9所示,可看到本文算法誤差范圍趨于[0,100]區間,VMD誤差范圍趨于[0,200],EMD誤差范圍趨于[0,400],負荷未模態分解的預測誤差范圍趨于[0,500]區間,由誤差范圍區間可判斷出采用VMD-EWT分解的方法,再采用神經網絡模型預測的負荷精度更高。

圖9 不同分解方法誤差對比實驗

采用客觀評價指標均方根誤差RMSE、平均絕對誤差MAE,對不同模態分解方法做進一步的性能驗證,具體的驗證指標結果如表2所示。

表2 不同模態分解方法誤差對比

如表2所示,本文提出的模態分解方法的RMSE指標與MAE指標誤差更低,算法誤差降低了53.7%～79.6%,進一步驗證負荷序列在急劇增加或急劇減少的波動處,采用VMD-EWT分解方法進行特征分量的分解,有助于提高負荷模型的預測精度。

3.5 負荷神經網絡模型對比實驗

為了驗證本文提出負荷預測模型的性能,與QR(quantile regression)算法[19]、ELM算法[20]、LSTM算法[21]、CNN-LSTM算法[22]等四種國內外前沿短期負荷概率預測方法進行對比。

為驗證不同模型對電力系統負荷預測的性能,利用測試集進行負荷預測評估,預測結果如圖10所示,從圖10(a)～圖10(e)可以看出本文算法、CNN-LSTM網絡模型、LSTM模型對負荷的預測與真實負荷曲線趨勢相近,而ELM算法與QR模型預測的負荷值與真實值略有偏差。為進一步評估不同算法模型對電力負荷預測的效果,繪制出不同模型的預測結果與真實值的絕對誤差如圖10(f)所示,可看到本文提出的神經網絡算法的誤差區間為[0,50],CNN-LSTM算法誤差區間為[0,100],LSTM算法誤差區間為[0,130],ELM算法誤差區間趨于[0,240],QR算法誤差范圍趨于[0,200]。

圖10 不同模型對能源系統的負荷預測

同樣采用MAE、RMSE客觀評價指標對不同模型的負荷預測結果進行評估,如表3所示。

表3 不同算法的預測誤差對比

可直觀體現出本文提出的負荷預測模型的誤差相對較小,相比于現有的主流預測算法,負荷預測的絕對誤差降低了37%～75%,更反映出本文提出的網絡模型對電力系統的負荷預測方面效果更佳。

同時采用兩年的實測數據進行模型的訓練,數據量較大,環境覆蓋比較豐富,包含大部分的負荷供給場景,實驗數據也表明了本文所提負荷預測模型的可靠性較高。

4 結論

以時間為序列的電力負荷預測是高度非線性的,往往依賴于各種參數,并涉及許多不確定因素,較難預測,而準確可靠的電力系統負荷預測可以幫助市場參與者輔助構建智能化電網控制系統。本文基于VMD-EWT-IASSP-BiLSTM方法提出一種負荷預測模型,該算法利用VMD方法將原始負荷序列分解子序列與殘差序列,利用EWT方法進一步分解殘差序列,將具有復雜變化特征的原始負荷序列分解為一系列變換特征相對簡單的子序列,降低原始序列的復雜性。利用過零率指標劃分的高低頻序列,分別采用IASSP特征提取模塊與BiLSTM時序依賴提取模塊進行負荷預測,最后疊加重構子序列預測結果,經過全連接層非線性映射得到最終的負荷預測結果。以寧夏某地實測數據進行模型泛化能力的驗證,得到如下實驗結果。

(1)采用VMD-EWT分解的方法,相較于其他負荷分解的方法,負荷預測精度更高,預測誤差降低了53.7%～79.6%。

(2)構建的神經網絡負荷預測模型,相較于國內外前沿神經網絡,負荷預測的MAE均方根誤差降低了36.3%～70.9%,RMSE絕對誤差降低了37%～75%。

(3)后續網絡模型的輸入還會考慮一些其他干擾負荷預測的因素,比如天氣信息、負荷電價等因素。