基于殘差-密集連接-雙向長短期記憶融合網(wǎng)絡(luò)的光伏出力短期預(yù)測

柳 杰，練小林，黃 冬，李曉露，陳楚靚

(1. 國網(wǎng)上海市電力公司長興供電公司，上海 201913； 2. 上海電力大學(xué) 電氣工程學(xué)院，上海 200093)

光伏系統(tǒng)的輸出功率受太陽輻射、溫度、濕度等諸多氣象因素影響而具有顯著的間歇性、波動性和不確定性，然而光伏出力預(yù)測的準確性對電力調(diào)度運行、發(fā)電計劃安排極為重要。隨著分布式光伏在配電網(wǎng)的高比例滲透，光伏出力預(yù)測的準確性將極大影響配電網(wǎng)運行的穩(wěn)定性、可靠性和經(jīng)濟性。

目前常用的光伏出力預(yù)測方法分為物理方法、統(tǒng)計方法、人工智能方法，以及這些方法的混合[1-2]。物理方法主要有全天空圖像預(yù)測方法、數(shù)值天氣預(yù)報方法和衛(wèi)星圖像預(yù)測方法[1-3]。在天氣條件穩(wěn)定的情況下，物理模型的準確性較高，但模型性能極易受到氣象變化的影響。統(tǒng)計方法則基于歷史數(shù)據(jù)通過將待預(yù)測的功率輸出與歷史功率數(shù)據(jù)相關(guān)聯(lián)來預(yù)測光伏出力，其應(yīng)用比物理模型更為廣泛，典型的有自回歸滑動平均法(ARMA)、時間序列分析方法等[4-5]。隨著人工智能技術(shù)的快速發(fā)展，強大的自主學(xué)習(xí)能力使其在短期光伏出力預(yù)測方面受到廣泛關(guān)注，如反向傳播(BP)神經(jīng)網(wǎng)絡(luò)[6-7]、卷積神經(jīng)網(wǎng)絡(luò)[8]、長短期記憶網(wǎng)絡(luò)(Long Short-Term Memory，簡稱LSTM)[11-14]、時間卷積網(wǎng)絡(luò)[15]、生成對抗網(wǎng)絡(luò)以及基于幾種神經(jīng)網(wǎng)絡(luò)的混合方法[16-17]。其中，基于LSTM[13]的模型可有效捕捉時間序列的長期依賴關(guān)系，具有更好的新能源發(fā)電出力短期預(yù)測性能[11-14]。

在理論上，增加LSTM網(wǎng)絡(luò)堆疊的層數(shù)，網(wǎng)絡(luò)可進行更加復(fù)雜的特征模式提取，預(yù)測的準確性也可相應(yīng)提高。然而，深層網(wǎng)絡(luò)存在著梯度消失或者爆炸的問題，導(dǎo)致模型層數(shù)越多，訓(xùn)練越難以收斂。

為解決梯度消失或梯度爆炸以及退化問題，有學(xué)者提出了殘差網(wǎng)絡(luò)結(jié)構(gòu)(ResNet)[18]、稠密連接網(wǎng)絡(luò)結(jié)構(gòu)(DenseNet)[19]。ResNet模型的核心是通過建立前面層與后面層之間的“短路連接”，實現(xiàn)訓(xùn)練過程中梯度的反向傳播，從而訓(xùn)練出更深層的網(wǎng)絡(luò)。DenseNet的提出，同樣是為了解決深層網(wǎng)絡(luò)梯度退化的問題。DenseNet通過建立前面所有層與后面層的密集連接，直接連接不同層的特征，實現(xiàn)特征重用。DenseNet可極大降低網(wǎng)絡(luò)參數(shù)的數(shù)據(jù)，并通過特征重用避免過多的冗余特征。ResNet和DenseNet也廣泛用于構(gòu)建深層的時間序列預(yù)測模型。文獻[20-23]將LSTM與ResNet、DenseNet進行組合，希望使用ResNet、DenseNet獲取空間特征或局部特征，使用LSTM獲取序列特征。

對于同時依賴前后信息的時間序列，雙向長短期記憶網(wǎng)絡(luò)(Bidirectional LSTM，簡稱BiLSTM)有著更好的預(yù)測效果。文獻[22]提出基于BiLSTM的密集連接網(wǎng)絡(luò)進行超短期風(fēng)電出力預(yù)測，采用長BiLSTM、短BiLSTM并聯(lián)的方式來分別學(xué)習(xí)長期趨勢和短期趨勢，實現(xiàn)了對新能源出力峰值的更準確預(yù)測。

這些研究表明，基于深層網(wǎng)絡(luò)的深度學(xué)習(xí)對于時間序列預(yù)測準確度的提高十分有效，眾多研究也針對準確度提升來設(shè)計預(yù)測模型的網(wǎng)絡(luò)結(jié)構(gòu)。為此，本文提出殘差、密集連接、雙向長短時記憶融合的網(wǎng)絡(luò)結(jié)構(gòu)，綜合ResNet、DenseNet以及Bi-LSTM的特點，進行光伏出力的短期預(yù)測。

1 光伏出力短期預(yù)測模型結(jié)構(gòu)

本文結(jié)合BiLSTM、ResNet、DenseNet在時間序列數(shù)據(jù)預(yù)測上的特點，設(shè)計了基于Res-Dense-BiLSTM融合網(wǎng)絡(luò)(Integrated ResNet-DenseNet-BiLSTM Network，簡稱IRD-BiLSTM)的光伏出力短期預(yù)測模型。下面對IRD-BiLSTM中關(guān)鍵結(jié)構(gòu)塊以及總體結(jié)構(gòu)進行詳細闡述。

1.1 雙向長短期記憶網(wǎng)絡(luò)的結(jié)構(gòu)

長短期記憶網(wǎng)絡(luò)(LSTM)[24]是為了解決一般的循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)存在的長期依賴問題而專門設(shè)計出來的，由t時刻的輸入、單元狀態(tài)、臨時單元狀態(tài)、隱藏狀態(tài)、遺忘門、記憶門、輸出門組成，其結(jié)構(gòu)如圖1所示。

LSTM適合處理和預(yù)測時間序列中間隔和延遲非常長的重要事件。STM的輸出表達式為

it=φ(WxiXt+WHiht-1+bi)

(1)

ft=φ(WxfXt+WHfht-1+bf)

(2)

ot=φ(WxoXt+WHoht-1+bo)

(3)

ct=ft°Ct-1+it。tanh(WxcXt+WHcht-1+bc)

(4)

ht=ot。tanh(ct)

(5)

(6)

式中φ——Sigmoid函數(shù)；tanh——雙曲正切函數(shù)；W——權(quán)重；bi，f，o，c——輸入、遺忘、輸出門和單元的偏差；Xt——層的輸入；ht——層的輸出；°——兩個向量的逐項乘積。

BiLSTM的思想來自于雙向循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)，數(shù)據(jù)序列用兩個隱藏層進行前向和反向處理。BiLSTM由前向LSTM與后向LSTM組合而成，通過雙向的學(xué)習(xí)提高傳統(tǒng)時間循環(huán)網(wǎng)絡(luò)的準確率。BiLSTM的結(jié)構(gòu)如圖2所示。

BiLSTM的輸出表達式為

htBD=concat(ht，ht′)

(7)

式中htBD——BiLSTM的隱藏狀態(tài)；ht——前向LSTM的隱藏狀態(tài)；ht′——后向LSTM的隱藏狀態(tài)。

1.2 IRD-BiLSTM的殘差塊結(jié)構(gòu)

依據(jù)ResNet[18]的思想，本文設(shè)計了如圖3所示的殘差塊結(jié)構(gòu)IRD-ResBlock。IRD-ResBlock通過短路機制進行殘差學(xué)習(xí)，輸出的表達式：

H(X)=F(X)+X

(8)

1.3 IRD-BiLSTM的密集連接塊結(jié)構(gòu)

IRD-BiLSTM的密集連接塊結(jié)構(gòu)如圖4所示，命名為IRD-DenseBlock。在這個DenseBlock中，拼接(Concat)層將本DenseBlock的輸入、IRD-ResBlock的輸出、IRD-ResBlock輸出的1×1卷積進行拼接。IRD-DenseBlock的輸出表達式：

X=H(H0，X1，X2)

(9)

1.4 IRD-BiLSTM的總體結(jié)構(gòu)

本文將IRD-ResBlock及IRD-DenseBlock進行堆疊以獲得深層網(wǎng)絡(luò)IRD-BiLSTM，其總體結(jié)構(gòu)如圖5所示。

由圖5顯示，該結(jié)構(gòu)中，每一層將稠密連接子網(wǎng)與殘差子網(wǎng)進行并聯(lián)，兩個子網(wǎng)的輸出進行拼接。其中，稠密連接子網(wǎng)為短IRD-DenseBlock與長IRD-DenseBlock進行并聯(lián)，短IRD-DenseBlock的LSTM單元數(shù)為N，長IRD-DenseBlock的LSTM單元數(shù)則為4N；殘差子網(wǎng)為3個IRD-ResBlock的堆疊。稠密連接子網(wǎng)與殘差子網(wǎng)拼接之后進行3層堆疊，再經(jīng)過BiLSTM層、Dense層，最終形成本文的用于光伏出力短期預(yù)測的融合網(wǎng)絡(luò)。

2 光伏出力短期預(yù)測流程

采用圖5所示的IRD-BiLSTM融合網(wǎng)絡(luò)進行光伏出力短期預(yù)測的流程如圖6所示。首發(fā)根據(jù)歷史氣象數(shù)據(jù)和歷史光伏出力數(shù)據(jù)進行日氣象類型分類，分解為晴、陰、雨數(shù)據(jù)子集；同時對歷史數(shù)據(jù)進行互信息相關(guān)性分析，獲取與光伏出力相關(guān)性強的氣象因素。然后通過IRD-BiLSTM網(wǎng)絡(luò)進行模型訓(xùn)練，分別得到對應(yīng)3種氣象類型的光伏出力預(yù)測模型。最后，基于訓(xùn)練得到的預(yù)測模型，輸入未來某日的氣象預(yù)報數(shù)據(jù)便可對該日的光伏出力進行預(yù)測。

2.1 日氣象類型分類

相對于不同季節(jié)，不同天氣類型條件下的光伏出力值有明顯差異，假定天氣類型在一天內(nèi)保持不變，則未來一天的天氣類型根據(jù)天氣預(yù)報獲得，歷史日天氣可使用式(10)進行分類[6]，即根據(jù)每日總太陽能散射輻射量和每日總太陽能輻射量之比來劃分。

(10)

式中Kd——取值范圍代表了這一天的天氣類型，Kd在0～0.15表示晴天，在0.15～0.45表示陰天，0.45～1.00之間表示雨天；t——每天的氣象數(shù)據(jù)采集點，每5 min采樣一次數(shù)據(jù)，則一天共有288個采樣點；DHRt和GHRt——t時刻的太陽能散射輻射量和太陽能總輻射量。

2.2 互信息相關(guān)性分析

本文使用最大互信息系數(shù)(Maximal Information Coefficient, 簡稱MIC)來選取用于模型訓(xùn)練的天氣因素特征。MIC能快速地評估不同類型的關(guān)聯(lián)關(guān)系，以發(fā)現(xiàn)廣泛范圍的關(guān)系類型。其中，互信息的定義為

(11)

式中p(x，y)——聯(lián)合概率密度分布函數(shù)。

最大信息系數(shù)MIC為

(12)

式中a，b——兩個變量的關(guān)系使用散點圖表示時在x、y方向上所劃分的格子數(shù)目；B——設(shè)置為數(shù)據(jù)量的0.6次方左右。

2.3 光伏出力預(yù)測模型訓(xùn)練

針對不同氣象類型的數(shù)據(jù)子集，輸入到IRD-BiLSTM網(wǎng)絡(luò)進行訓(xùn)練，獲得不同天氣類型下的預(yù)測模型。

2.4 未來日光伏出力預(yù)測

以未來日的天氣預(yù)報數(shù)據(jù)作為輸入，根據(jù)未來日的Kd來選擇使用特定天氣類型下的訓(xùn)練模型進行該日的光伏出力預(yù)測。

3 算例分析

3.1 測試設(shè)置

本文選取澳大利亞太陽能中心(Desert Knowledge Australia Solar Center，簡稱DKASC)網(wǎng)站公開的Alice Springs光伏電站的數(shù)據(jù)，以1A站點的歷史監(jiān)測數(shù)據(jù)作為研究對象，原始監(jiān)測數(shù)據(jù)采樣間隔為5 min，本文對其進行重采樣，得到采樣間隔為15 min的數(shù)據(jù)集。數(shù)據(jù)集中包括了該站點的歷史輸出功率，以及溫度、相對濕度、太陽能總輻射量(GHR)、太陽能散射輻射量(DHR)、風(fēng)速、風(fēng)向、降雨等氣象數(shù)據(jù)。考慮到氣象條件對光伏出力的影響，本文按照晴天、陰天、雨天分別進行建模。本文訓(xùn)練集、測試集的選取為2019年1月1日—2021年1月20日的數(shù)據(jù)，訓(xùn)練集、測試集按照8∶2的比例交替選取，即連續(xù)10 d的數(shù)據(jù)前8 d作為訓(xùn)練樣本，后2 d數(shù)據(jù)作為測試樣本。以擬合系數(shù)(R2)、均方根誤差(Root Mean Square Error，RMSE)、平均絕對誤差(Mean Absolute Error, MAE)3個指標對常規(guī)堆疊BiLSTM網(wǎng)絡(luò)、堆疊IRD-ResBlock的殘差網(wǎng)絡(luò)、本文所提的IRD-BiLSTM網(wǎng)絡(luò)的預(yù)測精度進行評價。

3.2 測試數(shù)據(jù)集預(yù)處理

由于光伏電站中設(shè)備的故障或維護會造成一些數(shù)據(jù)的丟失或錯誤，因此數(shù)據(jù)預(yù)處理中刪除這些缺失或錯誤值。剔除缺失與錯誤數(shù)據(jù)后的數(shù)據(jù)集根據(jù)式(10)計算的Kd分為晴天、陰天、雨天3個數(shù)據(jù)子集。

為識別與光伏輸出功率相關(guān)性較強的氣象特征，對氣象因素與光伏出力進行互信息相關(guān)性分析，即分別針對晴天、陰天、雨天按照式(12)計算MIC。對晴天數(shù)據(jù)集進行MIC計算得到的熱圖如圖7所示。一般選取相關(guān)性系數(shù)>0.1的特征作為預(yù)測模型的輸入特征。從圖7的分析結(jié)果可知，溫度、相對濕度、GHR、DHR、風(fēng)速、風(fēng)向與光伏出力相關(guān)性較強。由于原始數(shù)據(jù)集中后期的風(fēng)速采集數(shù)據(jù)缺少維護，因此選取溫度、相對濕度、GHR、DHR、風(fēng)向作為晴天光伏出力的輸入。同樣對陰天、雨天進行MIC分析，分別選取對陰天、雨天光伏出力相關(guān)性強的氣象因素作為預(yù)測的輸入特征。

3.3 光伏出力預(yù)測結(jié)果

本文分別選取一個晴天、陰天、雨天使用3種模型進行預(yù)測。3種模型具體如下。

模型1：2層堆疊BiLSTM網(wǎng)絡(luò)，每層LSTM的單元數(shù)目為24。

模型2：9層堆疊IRD-ResBlock網(wǎng)絡(luò)，每層LSTM的單元數(shù)目為24。

模型3：3層IRD-BiLSTM網(wǎng)絡(luò)，圖5中的IRD-DenseBlock 1、IRD-ResBlock中每層LSTM單元數(shù)為6，IRD-DenseBlock 2中每層LSTM單元數(shù)為24。

模型訓(xùn)練中batch_size為32，epoch為20，初始學(xué)習(xí)率為0.001，訓(xùn)練過程中如果進入平臺期則進行學(xué)習(xí)率的調(diào)整。使用按照天氣類型劃分的數(shù)據(jù)子集進行訓(xùn)練，分別得到3種天氣類型下的3個模型。

使用天氣類型數(shù)據(jù)子集訓(xùn)練的3種模型預(yù)測結(jié)果如表1所示。相比于模型1、模型2，基于IRD-BiLSTM的預(yù)測模型，在3種天氣類型下，R2、RMSE、MAE指標均較模型1、模型2有較大的提升。

表1 使用天氣類型數(shù)據(jù)子集訓(xùn)練的3種模型預(yù)測結(jié)果

如果模型訓(xùn)練數(shù)據(jù)集不區(qū)分天氣類型，選取的晴天、陰天、雨天日期與表1中的相同，訓(xùn)練出的模型性能如表2所示。對比表1和表2結(jié)果可得出，根據(jù)天氣類型進行分類訓(xùn)練和預(yù)測，預(yù)測性能可得到提升。

表2 使用全數(shù)據(jù)集訓(xùn)練的3種模型預(yù)測結(jié)果

對3種天氣類型采用3種模型的預(yù)測結(jié)果如圖8所示。由圖8可以看出，相對于模型1和模型2，本文所提出的IRD-BiLSTM預(yù)測模型對晴天、陰天、雨天的預(yù)測結(jié)果都與原始數(shù)據(jù)有更近似的波形，同時較準確地預(yù)測了光伏出力的峰值。3種模型的訓(xùn)練過程如圖9所示。由圖9可以看出，使用本文的方法，在3種天氣類型下，模型3的訓(xùn)練過程較模型1、模型2可以更快地收斂，訓(xùn)練集損失和測試集損失也較低。

4 結(jié)語

本文提出了一種融合ResNet與DenseNet特點的光伏出力預(yù)測模型，即基于IRD-BiLSTM網(wǎng)絡(luò)的光伏出力短期預(yù)測模型。采用Kd對光伏歷史監(jiān)測數(shù)據(jù)進行分類，使模型訓(xùn)練更有針對性。該模型融合了DenNet、ResNet以及BiLSTM進行時序數(shù)據(jù)預(yù)測的優(yōu)點，避免了梯度消失或梯度爆炸問題以及退化問題，構(gòu)建出深層網(wǎng)絡(luò)以提取時序數(shù)據(jù)的復(fù)雜特征模式，從而提高了預(yù)測的準確性。