基于LSGAN 和GA-ELM 的風(fēng)電功率短期預(yù)測(cè)

趙睿智, 丁云飛

(1.國(guó)網(wǎng)上海市電力公司長(zhǎng)興供電公司, 上海 201913;2.上海電機(jī)學(xué)院 電氣學(xué)院, 上海 201306)

風(fēng)電功率的短期預(yù)測(cè)多采用風(fēng)電場(chǎng)的數(shù)值天氣數(shù)據(jù)(Numerical Weather Prediction,NWP)。NWP數(shù)據(jù)具有一定的規(guī)律性和差異性,相似天氣和極端天氣的NWP數(shù)據(jù)差異顯著,因此對(duì)NWP數(shù)據(jù)作聚類分析是十分必要的。目前,基于聚類分析的風(fēng)電功率預(yù)測(cè)研究已卓有成效,文獻(xiàn)[1-3]采用聚類算法對(duì)功率數(shù)據(jù)進(jìn)行聚類分析預(yù)測(cè),均取得良好的效果。

盡管NWP的聚類分析已在風(fēng)電預(yù)測(cè)中產(chǎn)生良好的效果,但其未考慮聚類后不同類別的數(shù)據(jù)是否平衡,即正常天氣NWP的數(shù)量遠(yuǎn)遠(yuǎn)大于極端天氣的數(shù)量的情況。若將非平衡數(shù)據(jù)代入模型中訓(xùn)練,則容易導(dǎo)致多數(shù)類預(yù)測(cè)效果優(yōu)于少數(shù)類。針對(duì)非平衡數(shù)據(jù)集問(wèn)題,文獻(xiàn)[4]在數(shù)據(jù)過(guò)采樣處理前,對(duì)不平衡數(shù)據(jù)進(jìn)行聚類劃分,緩解了過(guò)采樣技術(shù)難以處理類內(nèi)不平衡數(shù)據(jù)的缺陷。文獻(xiàn)[5]首先獲取非平衡數(shù)據(jù)的概率密度,再通過(guò)概率增強(qiáng)生成少數(shù)類,從而達(dá)到數(shù)據(jù)平衡。文獻(xiàn)[6]通過(guò)引入修正因子抑制多數(shù)類樣本的權(quán)重,擴(kuò)大少數(shù)類樣本的權(quán)重,進(jìn)而達(dá)到分類的平衡性。針對(duì)非平衡問(wèn)題,前期研究的重點(diǎn)在于診斷模型的權(quán)重分配,該類模型的可適應(yīng)性因數(shù)據(jù)的變化而改變。

生成對(duì)抗網(wǎng)絡(luò)[7](Generative Adversarial Network,GAN)作為少數(shù)類樣本的生成方法為樣本不平衡難題提供了新的解決思路。目前,衍生出許多優(yōu)化的GAN 算法,如深度卷積生成對(duì)抗網(wǎng)絡(luò)[8](Deep Convolutional GAN,DCGAN)、條件生成對(duì)抗網(wǎng)絡(luò)[9](Conditional GAN,CGAN)、最小二乘生成對(duì)抗網(wǎng)絡(luò)(Least Squares GAN,LSGAN)等。這幾類算法已用于多種領(lǐng)域并取得良好的效果。胡若暉等[10]采用DCGAN擴(kuò)充少量的軸承振動(dòng)信號(hào),實(shí)現(xiàn)了少量樣本情況下軸承診斷的新思路。CHENG等[11]通過(guò)DCGAN 算法生成頻譜數(shù)據(jù),實(shí)現(xiàn)了小樣本條件下的通信行為識(shí)別。張文強(qiáng)等[12]利用CGAN 算法生成特定條件下光伏的功率序列,縮小了特定天氣下光伏不確定出力的范圍。ZHOU 等[13]采用CGAN 來(lái)實(shí)現(xiàn)書法漢字的生成,有效解決了漢字筆畫遺漏的情況。

本文受對(duì)抗博弈思想的啟發(fā),采用LSGAN 算法生成風(fēng)電功率少數(shù)類的NWP數(shù)據(jù),用以改善GAN方法訓(xùn)練的不穩(wěn)定性,達(dá)到不同類樣本數(shù)據(jù)的平衡。然后,采用基于遺傳算法的極限學(xué)習(xí)機(jī)(Genetic Algorithm Extreme Learning Machine,GAELM)模型[14]進(jìn)行預(yù)測(cè),用以提高預(yù)測(cè)模型的精度。

1 基本理論

1.1 模糊C均值算法

模糊C 均值(Fuzzy C-Means,FCM)算法采用隸屬度描述數(shù)據(jù)歸為每個(gè)類別的隸屬程度。該算法的基本思想為:將欲聚類的數(shù)據(jù)集X=[x1,x2,…,xN]劃分為c類,其中,x1,x2,…,xN為欲聚類的樣本數(shù)據(jù),N為樣本數(shù)量,2≤c≤N,假設(shè)聚類中心V=[v1,v2,…,vc]T。

目標(biāo)函數(shù)J的計(jì)算公式為

式中,λ為拉格朗日因子。

1.2 生成式對(duì)抗網(wǎng)絡(luò)算法

GAN是一種無(wú)監(jiān)督的神經(jīng)網(wǎng)絡(luò),由生成器(Generator,G)和判別器(Discriminator,D)構(gòu)成,其思想源于零和博弈思想[15],生成器G學(xué)習(xí)真實(shí)樣本的特征分布,將隨機(jī)噪聲優(yōu)化為逼真的虛擬樣本;判別器D是二分類器,甄別虛擬樣本與真實(shí)樣本。具體框架如圖1所示。

圖1 GAN基本結(jié)構(gòu)

假設(shè)隨機(jī)噪聲為z(z服從高斯分布Pz),真實(shí)樣本為x(x服從實(shí)際分布Pr),生成器輸出為G(z);判別器進(jìn)行甄別,得到D(x)和D(G(z))。G的目標(biāo)是使G(z)的分布趨近真實(shí)樣本x的分布,即Pg逼近Pr,而D的目標(biāo)是區(qū)分G(z)和x。經(jīng)過(guò)多次迭代,使得Pg無(wú)限逼近Pr。

G和D的損失函數(shù)為

式中:E(·)為數(shù)學(xué)期望;G(z)為G生成的樣本數(shù)據(jù);D(·)為判別器的輸出結(jié)果。

1.3 LSGAN算法

GAN算法的損失函數(shù)存在的問(wèn)題是JS散度不能拉近真實(shí)數(shù)據(jù)和生成數(shù)據(jù)之間的距離。被判別器D鑒別為真實(shí)樣本的生成樣本,樣本離決策邊界很遠(yuǎn),也無(wú)法被生成器G優(yōu)化,這導(dǎo)致G生成的樣本數(shù)據(jù)質(zhì)量不高。最小二乘損失函數(shù)的優(yōu)點(diǎn)是將離決策邊界較遠(yuǎn)的生成數(shù)據(jù)拉近到?jīng)Q策邊界,從而使生成數(shù)據(jù)被G優(yōu)化。LSGAN 算法采用最小二乘損失函數(shù)代替了GAN 的損失函數(shù),降低了GAN算法穩(wěn)定性低和生成數(shù)據(jù)質(zhì)量差的程度。

LSGAN的目標(biāo)函數(shù)為

式中:D(x;θD)為判別器;G(x;θG)為生成器;a為真實(shí)樣本數(shù)據(jù)標(biāo)簽;b為生成樣本數(shù)據(jù)標(biāo)簽;c為生成器參數(shù);a=c=1,b=0。

1.4 GA-ELM 算法

ELM 的輸入權(quán)值和閾值是隨機(jī)確定的,因此ELM 模型訓(xùn)練的效果和時(shí)間具有隨機(jī)性[16]。本文采用GA 方法對(duì)ELM 模型的輸入?yún)?shù)進(jìn)行尋優(yōu),具體步驟如下:

(1) 設(shè)置初始參數(shù),產(chǎn)生初始種群、迭代次數(shù)、初始權(quán)值和隱層閾值;

(2) 設(shè)置適應(yīng)度函數(shù),通過(guò)GA 模型的不斷選擇、交叉和變異,經(jīng)過(guò)多次迭代,獲取最優(yōu)的權(quán)值w與閾值b,將迭代后的均方根誤差S作為GA 適應(yīng)度函數(shù),公式為

式中:n為測(cè)試樣本數(shù);yi為預(yù)測(cè)值;^yi為實(shí)際值。

(3) 將優(yōu)化后的權(quán)值和閾值代入ELM 網(wǎng)絡(luò),建立GA-ELM 模型。

2 基于LSGAN和GA-ELM 的預(yù)測(cè)模型

2.1 訓(xùn)練樣本聚類

采用FCM 算法將NWP數(shù)據(jù)進(jìn)行聚類分析,得到聚類類別數(shù)c和隸屬度矩陣,根據(jù)隸屬度值判斷樣本所屬類別。以聚類有效性評(píng)價(jià)指標(biāo)為準(zhǔn)則,確定NWP數(shù)據(jù)樣本聚類的最佳數(shù)量。假設(shè)聚類數(shù)量為c時(shí)V(U,V,c)最小,此時(shí)NWP數(shù)據(jù)已被分為c種典型天氣類型,確定類別中心cj和各典型天氣類型的樣本數(shù)據(jù)。

聚類有效性的評(píng)價(jià)指標(biāo)如下:

式中:U為隸屬度矩陣;V為聚類中心;c為聚類數(shù)量;xi為第i個(gè)點(diǎn)的位置;vk為第k個(gè)聚類中心的位置;分子部分表示各聚類中心的緊湊性,分子越小表明各類內(nèi)部越緊湊;分母部分表示各聚類之間的獨(dú)立性,每個(gè)類之間的距離越大,則表明各類之間的獨(dú)立性越強(qiáng),聚類中心越疏遠(yuǎn)。

因此V(U,V,c)越小,則表明各聚類內(nèi)部越緊湊,各聚類之間越獨(dú)立,進(jìn)而表明聚類分析結(jié)果越合理。

2.2 LSGAN數(shù)據(jù)生成

由FCM 算法獲得c類NWP數(shù)據(jù)[D1,D2,…,Dc],比較各類數(shù)據(jù)的數(shù)量,選出最大數(shù)量的數(shù)據(jù)Di(i∈[1,c]),分別將其他數(shù)據(jù)Dj(j∈1,2,…,c,j≠i)作為真實(shí)樣本數(shù)據(jù)集代入LSGAN 模型中生成新的數(shù)據(jù)集D′j,使D′j的樣本數(shù)量等于Di的樣本數(shù)量。因此,數(shù)據(jù)集[D1,D2,…,Dc]經(jīng)過(guò)LSGAN模型轉(zhuǎn)變?yōu)閿?shù)據(jù)集[D′1,D′2,…,D′i,…,D′c],各類樣本數(shù)據(jù)集由非平衡狀態(tài)調(diào)整為平衡狀態(tài)。

2.3 建立模型

首先,將風(fēng)電功率NWP數(shù)據(jù)進(jìn)行預(yù)處理,再采用FCM 算法對(duì)NWP數(shù)據(jù)進(jìn)行聚類,獲得c個(gè)典型天氣類型。判別不同天氣類型的數(shù)據(jù)集是否平衡,若數(shù)據(jù)集非平衡,則將數(shù)據(jù)集代入LSGAN數(shù)據(jù)生成模塊生成該天氣類型的新樣本,進(jìn)而達(dá)到數(shù)據(jù)集平衡。將平衡后的數(shù)據(jù)集代入GA-ELM 模型進(jìn)行訓(xùn)練,建立GA-ELM 預(yù)測(cè)模型。將測(cè)試數(shù)據(jù)代入模型中獲得預(yù)測(cè)結(jié)果,具體流程如圖2所示。

圖2 基于LSGAN和GA-ELM 的風(fēng)電功率短期預(yù)測(cè)流程

3 評(píng)價(jià)指標(biāo)

為了驗(yàn)證模型的預(yù)測(cè)效果,本文分別以絕對(duì)平均誤差(Mean Absolute Error,MAE)、平均絕對(duì)百分比誤差(Mean Absolute Percentage Error,MAPE)、均方根誤差(Root Mean Square Error,RMSE)作為評(píng)價(jià)指標(biāo)。其公式為

式中:et=Rt-Yt為預(yù)測(cè)絕對(duì)誤差值;Rt為第t個(gè)風(fēng)電功率實(shí)測(cè)值;Yt為第t個(gè)風(fēng)電功率預(yù)測(cè)值;m為預(yù)測(cè)時(shí)間點(diǎn)數(shù)。

4 仿真實(shí)驗(yàn)

本文以上海某14 MW 風(fēng)電場(chǎng)2017年5月份的NWP數(shù)據(jù)為例。該NWP數(shù)據(jù)包括風(fēng)速、風(fēng)向、溫度、氣壓、空氣密度5項(xiàng)特征,時(shí)間間隔為1 h。分別將第1～28 d的NWP數(shù)據(jù)共672組數(shù)據(jù)作為訓(xùn)練集,將第29～31 d共72組數(shù)據(jù)作為測(cè)試集。該風(fēng)電場(chǎng)5月份的風(fēng)電功率時(shí)序圖如圖3所示。

圖3 上海某14 MW 風(fēng)電場(chǎng)5月份功率時(shí)序數(shù)據(jù)

4.1 NWP數(shù)據(jù)的聚類分析

采用FCM算法將風(fēng)電場(chǎng)的NWP數(shù)據(jù)進(jìn)行聚類分析,計(jì)算不同聚類數(shù)目的聚類有效性V(U,V,c),進(jìn)而確定最佳聚類的數(shù)量。NWP數(shù)據(jù)聚類分析中不同聚類數(shù)目的有效性函數(shù)值見表1。

表1 FCM 的聚類數(shù)和有效性函數(shù)值

由表可知,FCM 方法在聚類數(shù)為4時(shí)聚類有效性取最小值,這說(shuō)明該NWP數(shù)據(jù)最佳可分為4種典型天氣類型。

將4類典型天氣類型分別記為聚類集D1、D2、D3、D4。每個(gè)聚類集中的樣本個(gè)數(shù)見表2。

表2 各聚類集中樣本個(gè)數(shù)

4.2 LSGAN平衡樣本集

本文使用的LSGAN 和GAN 模型中,生成器G中隱含層的激活函數(shù)采用Relu函數(shù),輸出層則采用tanh函數(shù)。判別器D中隱含層的激活函數(shù)選用ELU 函數(shù),輸出層無(wú)激活函數(shù)。

將聚類集D1、D3、D4分別按照D2的樣本數(shù)量進(jìn)行LSGAN的樣本生成。以D1為例,LSGAN和GAN模型中的G和D的損失函數(shù)曲線,如圖4、圖5所示。由圖4可見,LSGAN模型中G損失函數(shù)會(huì)急劇降低,并在達(dá)到一定迭代次數(shù)后趨于穩(wěn)定,曲線變化小、收斂快。這表明LSGAN中生成器在整個(gè)訓(xùn)練過(guò)程中穩(wěn)定性好,其損失函數(shù)收斂迅速。與此對(duì)比,GAN模型中G損失函數(shù)在迭代過(guò)程中波形變化大,收斂過(guò)程中產(chǎn)生多次發(fā)散,這表明GAN模型中生成器在整個(gè)訓(xùn)練過(guò)程中穩(wěn)定性較差。由圖5可見,LSGAN模型中D損失函數(shù)會(huì)急劇降低,達(dá)到一定迭代次數(shù)后趨于穩(wěn)定,這表明LSGAN 中判別器在訓(xùn)練過(guò)程中穩(wěn)定性好且收斂快。GAN 模型中D損失函數(shù)在迭代過(guò)程中曲線變化大,無(wú)法迅速收斂。

圖4 LSGAN和GAN中生成器G 損失函數(shù)的對(duì)比結(jié)果

圖5 LSGAN和GAN中判別器D 損失函數(shù)的對(duì)比結(jié)果

迭代完成后,LSGAN 和GAN 模型中判別器D對(duì)生成樣本的判定結(jié)果,如圖6所示?？芍?LSGAN中判別器的判別概率在[0.4,0.7]上下波動(dòng),判別概率在0.5～0.6內(nèi)居多,表明LSGAN 的判別器實(shí)現(xiàn)了納什平衡。由于GAN 中判別器的損失函數(shù)未收斂,導(dǎo)致GAN 中判別器的判別概率上下波動(dòng)大,判別概率多為0或1。

圖6 LSGAN和GAN中判別器對(duì)噪聲生成樣本的判別概率

4.3 預(yù)測(cè)結(jié)果分析

經(jīng)過(guò)LSGAN 生成后的NWP數(shù)據(jù)集為[D′1,D′2,D′3,D′4],各類之間均具有平衡性。本文針對(duì)該數(shù)據(jù)集進(jìn)行GA-ELM 預(yù)測(cè),模型參數(shù)見表3。

表3 GA-ELM 的網(wǎng)絡(luò)參數(shù)設(shè)置

風(fēng)功率預(yù)測(cè)結(jié)果如圖7所示。LSGAN-GAELM 模型預(yù)測(cè)曲線擬合程度優(yōu)于GAN-GA-ELM模型,這表明LSGAN方法生成的樣本數(shù)據(jù)更貼近于真實(shí)數(shù)據(jù)。

圖7 風(fēng)電場(chǎng)5月份功率預(yù)測(cè)曲線

各種方法的預(yù)測(cè)評(píng)價(jià)指標(biāo)見表4,GA-ELM 模型的MAE值和RMSE值明顯低于ELM 模型,這說(shuō)明GA算法優(yōu)化ELM 算法的輸入權(quán)值和閾值可提高預(yù)測(cè)的精度。GAN-GA-ELM 模型和LSGANGA-ELM 模 型 的MAE、RMSE、MAPE 值 均 比GA-ELM 模型小。這表明對(duì)風(fēng)電NWP數(shù)據(jù)進(jìn)行聚類分析,并采用GAN 算法生成少類樣本數(shù)據(jù),達(dá)到各類樣本的平衡,使得模型訓(xùn)練更加完善,可提高預(yù)測(cè)的精度。LSGAN-GA-ELM 模型的MAE、RMSE、MAPE值分別比GAN-GA-ELM 模型降低了0.374 3 MW、0.537 5 MW、3.63%,這說(shuō)明最小二乘損失函數(shù)使模型波動(dòng)小,也更穩(wěn)定,樣本生成質(zhì)量高,進(jìn)而預(yù)測(cè)模型效果更好。為了驗(yàn)證本文算法的廣泛性,本實(shí)驗(yàn)同時(shí)采用了9月份、12月份的NWP數(shù)據(jù),分別對(duì)比了ELM、GA-ELM、GAN-GA-ELM、LSGAN-GA-ELM 模型的預(yù)測(cè)效果。對(duì)比結(jié)果顯示,LSGAN-GA-ELM 模型在風(fēng)電功率預(yù)測(cè)中精度更高,穩(wěn)定性更好。

表4 風(fēng)電功率預(yù)測(cè)的評(píng)價(jià)指標(biāo)

5 結(jié) 語(yǔ)

本文提出了基于LSGAN 和GA-ELM 的風(fēng)電功率短期預(yù)測(cè)方法。針對(duì)NWP數(shù)據(jù)的規(guī)律性和差異性,將NWP數(shù)據(jù)進(jìn)行聚類分析,再采用LSGAN方法生成少數(shù)類樣本的數(shù)據(jù),從而達(dá)到各類樣本的平衡,再通過(guò)GA-ELM 模型對(duì)平衡樣本進(jìn)行訓(xùn)練和預(yù)測(cè)。

分析了LSGAN 和GAN 方法損失函數(shù)之間的變化趨勢(shì),對(duì)比了2種方法在生成數(shù)據(jù)中產(chǎn)生的效果,進(jìn)而得出LSGAN 方法在處理該風(fēng)電場(chǎng)NWP數(shù)據(jù)時(shí)更穩(wěn)定且收斂更快。通過(guò)對(duì)比各類方法的預(yù)測(cè)效果,得出本文方法預(yù)測(cè)效果更優(yōu)。本文方法是GAN 相關(guān)理論在風(fēng)電功率預(yù)測(cè)領(lǐng)域的應(yīng)用和延伸,為風(fēng)電功率短期預(yù)測(cè)和處理非平衡問(wèn)題提供了有效途徑。