基于聚類與SVM短期負(fù)荷預(yù)測(cè)的算法

陳祖成,王碩禾，王 剛，趙紹策，韓 帥

(石家莊鐵道大學(xué) 電氣與電子工程學(xué)院,河北 石家莊 050043)

1 問題提出

企業(yè)采用最大需量標(biāo)準(zhǔn)支付基礎(chǔ)電價(jià)時(shí)，如能準(zhǔn)確預(yù)測(cè)峰值負(fù)荷出現(xiàn)的時(shí)間和強(qiáng)度，采取有效技術(shù)手段避免大的峰值負(fù)荷的產(chǎn)生，對(duì)以電弧爐為主要設(shè)備的特鋼生產(chǎn)廠家這樣的高耗能企業(yè)來(lái)說(shuō)，不僅能降低裝機(jī)容量、節(jié)約基礎(chǔ)電費(fèi)開支，而且能夠避免對(duì)上一級(jí)電網(wǎng)造成過大沖擊[1]。不少學(xué)者對(duì)電力度負(fù)荷預(yù)測(cè)做了研究，文獻(xiàn)[2]提出了一種相間重構(gòu)與支持向量機(jī)相結(jié)合的短期功率預(yù)測(cè)方法，利用相間重構(gòu)的方法獲取相空間中的數(shù)據(jù)序列，作為支持向量機(jī)的輸入，建立負(fù)荷預(yù)測(cè)模型，提高了一定的預(yù)測(cè)精度，但是效率較低；文獻(xiàn)[3]提出采用加權(quán)粒子群優(yōu)化的 LSSVM電力負(fù)荷預(yù)測(cè)，該算法采用加權(quán)的粒子群優(yōu)化傳統(tǒng)的LSSVM的參數(shù)，并將此模型應(yīng)用于鋼鐵企業(yè)的電力負(fù)荷預(yù)測(cè)，結(jié)合實(shí)際條件，選取合理因子，算例分析取得了較好的預(yù)測(cè)效果，但是對(duì)于歷史數(shù)據(jù)的處理做得不精細(xì)，存在一定缺陷。

支持向量機(jī)(SVM)是統(tǒng)計(jì)學(xué)習(xí)理論中最實(shí)用的一部分，主要是針對(duì)模式識(shí)別問題和統(tǒng)計(jì)回歸問題。

支持向量機(jī)作為一種解決小樣本、非線性、高維度數(shù)據(jù)的擬合問題上有著優(yōu)良的效果。采用結(jié)構(gòu)化風(fēng)險(xiǎn)最小的原則可以對(duì)數(shù)據(jù)進(jìn)行全局最優(yōu)化處理且模型的訓(xùn)練較為容易[4]。在對(duì)現(xiàn)場(chǎng)工況和數(shù)據(jù)進(jìn)行詳細(xì)分析的基礎(chǔ)上，本文提出首先利用聚類算法對(duì)大量源數(shù)據(jù)進(jìn)行分析，然后以聚類之后的統(tǒng)計(jì)數(shù)據(jù)經(jīng)過matlab歸一化函數(shù)處理后做為輸入向量，通過CV判別算法選擇具有很好逼近效果的核函數(shù)，在輸入空間計(jì)算出點(diǎn)積。為了有效地消除SVM中的“維數(shù)災(zāi)難”影響，需要通過非線性變換將原空間轉(zhuǎn)換成高維特征空間中的線性問題，從而建立最優(yōu)超平面模型，最后利用該模型完成48 h短期負(fù)荷預(yù)測(cè)[5-6]。

2 聯(lián)合聚類與SVM的短期負(fù)荷預(yù)測(cè)算法實(shí)現(xiàn)

SVM是一種適用于小樣本數(shù)據(jù)的機(jī)器學(xué)習(xí)算法。在給定的數(shù)據(jù)逼近的精度與逼近函數(shù)的復(fù)雜性之間尋求折中，以獲得最好的泛化性能，SVM的基本點(diǎn)是回歸。當(dāng)SVM在實(shí)際應(yīng)用時(shí)，需要選擇合適的模型，即對(duì)選擇合適的參數(shù)和核函數(shù)。

2.1 歷史負(fù)荷數(shù)據(jù)的預(yù)處理

短期負(fù)荷預(yù)測(cè)需要收集大量的負(fù)荷數(shù)據(jù)，如果不對(duì)負(fù)荷數(shù)據(jù)進(jìn)行預(yù)處理勢(shì)必會(huì)造成預(yù)測(cè)精度的降低，選用合適的數(shù)據(jù)處理方法尤為重要。歷史負(fù)荷數(shù)據(jù)的預(yù)處理包括對(duì)數(shù)據(jù)進(jìn)行補(bǔ)缺和修正，以提高數(shù)據(jù)質(zhì)量。本文主要采用以下方法：

1)數(shù)據(jù)的初始濾波。假設(shè)電力系統(tǒng)的歷史負(fù)荷數(shù)據(jù)的變化可用下式表示：

(1)

3)數(shù)據(jù)的補(bǔ)充。電力負(fù)荷數(shù)據(jù)有一定的規(guī)律性，根據(jù)歷史數(shù)據(jù)的規(guī)律，采用聚類的方法選取與缺失數(shù)據(jù)相似度最高的幾個(gè)數(shù)據(jù)求取均值作為補(bǔ)充，提高數(shù)據(jù)質(zhì)量。

最后利用歸一化函數(shù)對(duì)電力負(fù)荷的歷史數(shù)據(jù)進(jìn)行歸一化，主要目的是消除量綱等其他因素對(duì)輸入向量的影響，繼而使權(quán)值調(diào)整進(jìn)入誤差平坦區(qū)。

2.2 利用聚類算法實(shí)現(xiàn)SVM輸入向量的確定

聚類是分類問題中一種統(tǒng)計(jì)分析方法，也是數(shù)據(jù)挖掘中的重要算法，是從大量的歷史數(shù)據(jù)中挖掘其潛在價(jià)值[7-9]。本文利用分割聚類法(partitioning methods)中的K均值聚類，它是基于距離平方和最小的聚類方法：

1) 假設(shè)要聚成K個(gè)類，那么首先選擇K個(gè)初始質(zhì)心c1,c2,…,ck；

根據(jù)劃分到每個(gè)簇內(nèi)的點(diǎn)，更新質(zhì)心，直至質(zhì)心不在變化。以誤差平方和(sum of squared error，SSE)為衡量聚類效果的目標(biāo)函數(shù)，求其最小值，進(jìn)行全局優(yōu)化。SSE為：

(2)

式(2)中Ci是第i個(gè)簇，x是Ci中的點(diǎn)，ci是x的平均值。對(duì)SSE求導(dǎo)，令導(dǎo)數(shù)為0，求出第k個(gè)質(zhì)心ck。簇的最小化SSE的最佳質(zhì)心即為簇中各點(diǎn)的均值。應(yīng)用中通過有效的數(shù)據(jù)預(yù)處理避免了K均值算法在聚類過程中趨向于無(wú)解的情況，提高了輸入量的聚類質(zhì)量，獲得較理想的聚類效果。見表1。

通過設(shè)置不同的參數(shù)和得到的結(jié)果，找到了以誤差平方和最小值為目標(biāo)的48點(diǎn)聚類中心，即這48個(gè)點(diǎn)同一簇實(shí)例之間的距離最小。在聚類過程中，通過比較同一類數(shù)據(jù)之間的相似程度平滑了負(fù)荷序列，經(jīng)過聚類之后，日負(fù)荷數(shù)據(jù)信息容量大量減少，由原來(lái)的1 440組數(shù)據(jù)壓縮成48點(diǎn)數(shù)據(jù)，解決了樣本容量過大而導(dǎo)致的復(fù)雜性問題和數(shù)據(jù)不規(guī)范性。最終由聚類的輸出確定了支持向量回歸模型的輸入向量。

表1 日48點(diǎn)中部分點(diǎn)負(fù)荷聚類輸出結(jié)果

2.3 交叉驗(yàn)證評(píng)判確定SVM核函數(shù)的選擇

SVM經(jīng)常選用線性函數(shù)、RBF函數(shù)和多項(xiàng)式函數(shù)做為內(nèi)積函數(shù)。核函數(shù)的形式確定了特征空間，核函數(shù)的選擇決定了構(gòu)造分類器空間性質(zhì)[10]。

對(duì)于某一具體問題，選擇合適的核函數(shù)并沒有標(biāo)準(zhǔn)準(zhǔn)則。本文提出通過交叉驗(yàn)證算法(CV)來(lái)判斷確定核函數(shù)的選擇是否恰當(dāng)。評(píng)價(jià)SVM算法的效果通常是通過對(duì)比較該算法的泛化能力來(lái)完成，小樣本數(shù)據(jù)時(shí)，CV是評(píng)估分類器泛化殘差的一種有效方法，當(dāng)采用k折交叉驗(yàn)證方法時(shí)，訓(xùn)練樣本M劃分為容量大致相同的k個(gè)互不相交的樣本，及S=S1∪S2∪S3…Sk，共進(jìn)行k次訓(xùn)練和測(cè)試。

利用算法導(dǎo)入訓(xùn)練及計(jì)算出決策函數(shù)后，就可以對(duì)預(yù)測(cè)樣本Si進(jìn)行預(yù)測(cè)，根據(jù)不同時(shí)段的數(shù)據(jù)采取不同的核函數(shù)進(jìn)行預(yù)測(cè)的結(jié)果如表2。

表2 不同內(nèi)積函數(shù)的誤差和運(yùn)行時(shí)間結(jié)果

比較結(jié)果，多項(xiàng)式和徑向基核函數(shù)的預(yù)測(cè)效果要好于線性函數(shù)，在上午(8:00—10:00)和傍晚(18:00—21:00)，多項(xiàng)式和徑向基核函數(shù)的預(yù)測(cè)精度基本一致，但是在預(yù)測(cè)速度上明顯是多項(xiàng)式核函數(shù)快，所以這兩個(gè)時(shí)段內(nèi)選擇多項(xiàng)式函數(shù)作為預(yù)測(cè)核函數(shù)；對(duì)于凌晨(0:00—3:00)和中午(11:00—13:00)系統(tǒng)負(fù)荷較低的時(shí)間段，徑向基核函數(shù)的預(yù)測(cè)準(zhǔn)確度明顯高于多項(xiàng)式核函數(shù)，所以在這個(gè)時(shí)間段內(nèi)選擇徑向基核函數(shù)作為預(yù)測(cè)；剩余時(shí)間段內(nèi)，選用徑向基核函數(shù)可以保證預(yù)測(cè)速度和精度。

2.4 算例分析與實(shí)現(xiàn)

算法的實(shí)現(xiàn)框圖如圖1所示。選擇邊際系數(shù)C、不敏感損失函數(shù)中的誤差ε以及核函數(shù)寬度系數(shù)σ2進(jìn)行SVR回歸模型訓(xùn)練，實(shí)現(xiàn)步驟如下：

1)拉格朗日乘數(shù)取初始值，通常αi=0；

2)首先利用第一個(gè)訓(xùn)練樣本，計(jì)算其KKT互補(bǔ)條件，尋找與KKT互補(bǔ)條件的樣本點(diǎn)不相符的拉格朗日乘數(shù)，將該乘數(shù)作為兩個(gè)擬優(yōu)化的拉格朗日乘數(shù)之一；

3)由最大優(yōu)化步數(shù)選取在原始樣本集中滿足max|f(x1)-f(x2)+y1-y2|條件的樣本點(diǎn)對(duì)應(yīng)的拉格朗日乘數(shù)。保證其余拉格朗日乘數(shù)不變，形成一個(gè)最小規(guī)模的二次規(guī)劃問題。求解上述問題，得到一對(duì)新的α1、α2；

4)樣本計(jì)算結(jié)束，執(zhí)行下一步，否則返回(2)，計(jì)算下一樣本；

5)將0<αi

待訓(xùn)練完成，在建立模型對(duì)樣本進(jìn)行預(yù)測(cè)，把歸一化后的結(jié)果與真實(shí)值進(jìn)行比對(duì)，能夠清晰地比較預(yù)測(cè)結(jié)果。在表3和圖2中，分別計(jì)算出實(shí)際運(yùn)行系統(tǒng)中每日48點(diǎn)的負(fù)荷預(yù)測(cè)數(shù)據(jù)與真實(shí)數(shù)據(jù)，相對(duì)誤差參數(shù)等信息，選擇部分?jǐn)?shù)據(jù)列出在表3。

表3 SVM預(yù)測(cè)值與真實(shí)值的部分?jǐn)?shù)據(jù)比較結(jié)果

由計(jì)算的預(yù)測(cè)數(shù)據(jù)可以得出以下結(jié)論：1)負(fù)荷的波動(dòng)性對(duì)預(yù)測(cè)結(jié)果影響不大；2)預(yù)測(cè)值與實(shí)際負(fù)荷結(jié)果基本一致，相對(duì)誤差很小；3)對(duì)沖擊性負(fù)荷的預(yù)測(cè)效果也很好，最大誤差僅為4.11%。所以該算法具有一定的實(shí)用價(jià)值和研究?jī)r(jià)值。

3 結(jié)論

SVM在負(fù)荷預(yù)測(cè)研究中經(jīng)常被用到[11-13]。本文提出了一種基于聚類和支持向量機(jī)的短期負(fù)荷預(yù)測(cè)算法，該算法先采用數(shù)據(jù)挖掘技術(shù)中常用的聚類算法對(duì)歷史數(shù)據(jù)進(jìn)行預(yù)處理，在確保數(shù)據(jù)質(zhì)量的情況下，選取聚類中心作為SVM短期預(yù)測(cè)模型的特征輸入，然后利用交叉驗(yàn)證方法選取合適的SVM內(nèi)積函數(shù)，最終完成負(fù)荷預(yù)測(cè)。結(jié)合相關(guān)企業(yè)的研究背景，收集相應(yīng)的歷史負(fù)荷數(shù)據(jù)，采用該模型進(jìn)行預(yù)測(cè)，經(jīng)過算例分析，發(fā)現(xiàn)該算法能夠提高電力負(fù)荷預(yù)測(cè)精度，尤其對(duì)沖擊性負(fù)荷，逼近效果也很好；該算法還可以有效地去除數(shù)據(jù)的異常、缺失和復(fù)雜性對(duì)預(yù)測(cè)效果的影響。對(duì)AI預(yù)測(cè)算法，很大程度上取決于訓(xùn)練集，選取合適的訓(xùn)練集可以有效提升預(yù)測(cè)效果，達(dá)到誤差范圍。