基于改進(jìn)人工魚群算法優(yōu)化參數(shù)的支持向量機(jī)研究

溫玨

摘要：

為了降低人為設(shè)定參數(shù)值對支持向量機(jī)運(yùn)行結(jié)果準(zhǔn)確度的影響，采用智能算法中的人工魚群算法，搜尋支持向量機(jī)相應(yīng)參數(shù)的最優(yōu)解。由于人工魚群算法運(yùn)算在尋優(yōu)精度和效率方面均有提升空間，故將混沌機(jī)制引入人工魚參數(shù)初始化，通過改進(jìn)固定參數(shù)和行為算子得到支持向量機(jī)預(yù)測模型。使用該模型進(jìn)行中長期電力需求預(yù)測研究，并與其它參數(shù)優(yōu)化算法產(chǎn)生的模型進(jìn)行均方誤差對比。研究結(jié)果表明：改進(jìn)后的模型在擬合均方誤差和預(yù)測均方誤差上都優(yōu)于未優(yōu)化的模型，支持向量機(jī)在預(yù)測精度方面有一定程度的提升。

關(guān)鍵詞：

中長期負(fù)荷預(yù)測；支持向量機(jī)；人工魚群算法；混沌機(jī)制；參數(shù)優(yōu)化；均方誤差

DOIDOI：10.11907/rjdk.172423

中圖分類號：TP319

文獻(xiàn)標(biāo)識碼：A文章編號文章編號：16727800（2018）003018304

英文摘要Abstract：In order to weaken the effect that artificial parameter values influence on accuracy of result of support vector machine（SVM）， this paper uses the artificial fish swarm algorithm（AFSA）， one of the intelligence algorithms， to search the optimum solution of corresponding parameters of SVM. Owing to the room for improvement in accuracy and efficiency of AFSA， the chaos mechanism is introduced into the parameter initialization of artificial fishes with the improvement of fixed parameters and operator， which reaches the prediction model of SVM based on parameter optimized by improved AFSA， and helps the prediction study of midandlong term power demand， which compares with models optimized by other algorithm. The results show that the improved model is more excellent than the model without optimization in mean square error （MSE） of fitting and forecasting. Besides that， the prediction accuracy of SVM has a certain degree of improvement.

英文關(guān)鍵詞Key Words：midandlong term load forecast； support vector machine（SVM）； artificial fish swarm algorithm（AFSA）； chaotic mechanism； parameter optimization； mean square error （MSE）

0引言

電力系統(tǒng)建設(shè)投資大、周期長，為了實(shí)現(xiàn)中長期電力系統(tǒng)的合理規(guī)劃和安全運(yùn)行，應(yīng)盡可能提高電力需求預(yù)測精確度。電力需求預(yù)測指未來某個(gè)時(shí)段內(nèi)可能產(chǎn)生的電力需求量的一種估算，根據(jù)運(yùn)算周期長短不同，可分為短期電力需求預(yù)測和中長期電力需求預(yù)測。其中，中長期電力需求預(yù)測的目標(biāo)一般為月度、季度或年度電力需求[13]。

中長期電力需求預(yù)測研究較為廣泛。孫輝等[4]對基于灰色預(yù)測理論的電力系統(tǒng)中長期負(fù)荷預(yù)測的實(shí)用方法進(jìn)行了研究，在小樣本量、相關(guān)影響因素復(fù)雜的條件下，得到了較為理想的預(yù)測結(jié)果。Rahman等[5]根據(jù)優(yōu)化向量法比較各種因素對目標(biāo)變量的影響，并通過專家系統(tǒng)進(jìn)行預(yù)測。人工智能算法中，Islam等[6]將網(wǎng)絡(luò)預(yù)測方法運(yùn)用于中長期電力預(yù)測，雷紹蘭等[7]使用BP網(wǎng)絡(luò)進(jìn)行短期電力負(fù)荷預(yù)測，牛東曉、Pai等[89]則利用數(shù)據(jù)挖掘和支持向量機(jī)進(jìn)行電荷預(yù)測。

1支持向量機(jī)參數(shù)尋優(yōu)

1.1支持向量機(jī)

支持向量機(jī)（SVM）是基于統(tǒng)計(jì)學(xué)概念的機(jī)器學(xué)習(xí)方法，這種方法使用探索結(jié)構(gòu)化風(fēng)險(xiǎn)最小，提升算法的泛化能力，以達(dá)成經(jīng)驗(yàn)風(fēng)險(xiǎn)及置信區(qū)間最小化。其理論基礎(chǔ)來源于統(tǒng)計(jì)學(xué)的VC統(tǒng)計(jì)理論[10]，在小樣本、非線性特征、局部最優(yōu)和高維模式等方面優(yōu)勢明顯[11]。它具備較強(qiáng)的魯棒性、泛化能力和非線性擬合能力。起初用于小樣本、非線性的分類問題，隨后逐步應(yīng)用于非線性擬合，表現(xiàn)出良好的性能[12]。由于核函數(shù)有較強(qiáng)的局部插值能力，且在小樣本前提下比其它算法更具優(yōu)勢，因此本算法更適用于中長期電力需求預(yù)測。

在預(yù)測過程中需對參數(shù)實(shí)行人工設(shè)定，其中支持向量機(jī)參數(shù)中的核函數(shù)和錯(cuò)誤懲罰因子對運(yùn)算結(jié)果影響較大，人為設(shè)置參數(shù)使預(yù)測精度難以提高，故需要對損失函數(shù)參數(shù)及核參數(shù)進(jìn)行相應(yīng)優(yōu)化。近年來常用于支持向量機(jī)改進(jìn)的智能算法有遺傳算法[13]、果蠅算法、粒子群算法等，本文使用人工魚群算法實(shí)現(xiàn)相關(guān)參數(shù)尋優(yōu)。

1.2人工魚群算法

人工魚群算法[14]（AFSA）是根據(jù)魚類活動特點(diǎn)總結(jié)出的一種群智能隨機(jī)全局優(yōu)化技術(shù)。它學(xué)習(xí)自然界中魚類的覓食、聚群以及追尾行為，通過魚群中個(gè)體間的相互協(xié)助尋覓目標(biāo)函數(shù)的全局最優(yōu)解。此算法不但有較優(yōu)秀的全局尋優(yōu)能力，而且具備初始值不甚敏感、魯棒性較強(qiáng)、收斂速度快等特點(diǎn)[15]。因此，本文使用人工魚群算法對支持向量機(jī)進(jìn)行關(guān)鍵參數(shù)的優(yōu)化改進(jìn)，以便提升支持向量機(jī)的穩(wěn)定性和測量精度。

假如在一個(gè)D維空間中，共有N條人工魚構(gòu)成了一個(gè)整體，而其中第i條人工魚所在的位置可描述成向量Xi，i=1，2，…，N。人工魚當(dāng)前位置對應(yīng)的食物濃度（適應(yīng)度）函數(shù)為Y=f（X），其中每條人工魚所處位置都可視作一個(gè)潛在的解。將向量Xi代入食物濃度函數(shù)能得出該位置相應(yīng)的適應(yīng)度值Yi，并能使用適應(yīng)度Yi的大小衡量人工魚所在位置Xi的優(yōu)劣。規(guī)定所有人工能檢測到的視野范圍為visual，step為人工魚每次行動前進(jìn)的步長，δ為擁擠度因子（δ<1），用以表示某個(gè)點(diǎn)周圍的擁擠度大小，try_number為每條人工魚執(zhí)行覓食算子時(shí)可進(jìn)行嘗試的最大次數(shù)。

覓食、聚群及追尾算子是構(gòu)成人工魚群算法的3種核心算子，決定了算法性能的優(yōu)劣和參數(shù)尋優(yōu)的精度。如果分別執(zhí)行上述算子后依舊無法改善適應(yīng)度，則需要執(zhí)行隨機(jī)算子，該算子不一定能向最優(yōu)解所在方向靠攏，但它能幫助魚群更好地逃離局部最優(yōu)的陷阱，尋覓更理想的解。

1.2.1覓食算子

設(shè)一條人工魚i當(dāng)前所在位置為Xi，所對應(yīng)的適應(yīng)度值為Yi，在其視野范圍內(nèi)依照式（1）隨機(jī)選定另一位置Xj，其適應(yīng)度值為Yj。如果Yi

Xj=Xi+rand（）stepXj-XiXj-Xi（1）

Xnext=Xi+rand（）step（2）

1.2.2聚群算子

假設(shè)人工魚當(dāng)前所在位置為Xi，其相應(yīng)適應(yīng)度函數(shù)為Yi，以其自身Xi為中心點(diǎn)的視野范圍visual內(nèi)共存在nf條人工魚。當(dāng)nf≥1時(shí)，根據(jù)式（3）得出該魚群的中心位置為Xcenter，所對應(yīng)的適應(yīng)度為Ycenter。如果滿足Ycenter/nf>δYi，表明該魚群中心的食物較為充足且擁擠程度偏低，故根據(jù)式（4）向該中心位置所對應(yīng)的方向移動一步；若不滿足該條件，則選擇執(zhí)行覓食算子。

Xcenter=∑nfj=1Xjnf（3）

Xnext=Xi+rand（）stepXcenter-Xi‖Xcenter-Xi‖（4）

1.2.3追尾算子

在自然狀態(tài)下，如果魚群中的一條或幾條魚尋覓到食物較為充足且不太擁擠的區(qū)域，鄰近的魚就會緊隨其后迅速抵達(dá)該點(diǎn)，這在尋優(yōu)算法中表示為一種趨向性。設(shè)人工魚i當(dāng)前位置為Xi，其相應(yīng)的適應(yīng)度函數(shù)為Yi，人工魚i在當(dāng)前視野范圍內(nèi)能夠搜尋到的具有適應(yīng)度最大值的人工魚伙伴所在位置為Xmax，則該位置所對的適應(yīng)度值為Ymax。如果Ymax>Yi，則以Xmax為中心點(diǎn)搜尋在其視野范圍內(nèi)的所有人工魚，所得條數(shù)為nf。如果同時(shí)滿足Ymax>Yi與Ymax/nf<δYi，則說明該伙伴所在位置Xmax對應(yīng)較高的適應(yīng)度值，且四周不擁擠。按照式（5）向視野范圍內(nèi)擁有最大適應(yīng)度值的伙伴位置Xmax前進(jìn)一步，反之則選擇執(zhí)行覓食算子。

Xnext=Xi+rand（）stepXmax-Xi‖Xmax-Xi‖（5）

2人工魚群算法改進(jìn)

2.1混沌初始化

基礎(chǔ)的人工魚群算法雖然具備初始值不敏感、魯棒性較強(qiáng)等優(yōu)點(diǎn)，但如果能使人工魚群的初始值盡量均勻分布在可能的解空間內(nèi)，就能使算法的尋優(yōu)效率得到有效提升。此外，混沌算法自身具有遍歷性與規(guī)律性，使用混沌算法對人工魚群進(jìn)行算法初始化，可提高初始解群的質(zhì)量，加快人工魚群算法的尋優(yōu)進(jìn)程[17]。本文所用的Tent映射函數(shù)如下：

xk+1=xkax∈[0，a]（1-xk）（1-a）x∈（a，1] （6）

其中，當(dāng)0

2.2聚群算子與追尾算子改進(jìn)

在基礎(chǔ)的人工魚群算法中，視野范圍visual、擁擠度因子δ和移動步長step等模型參數(shù)都是由人工預(yù)設(shè)的固定值，并非是最優(yōu)參數(shù)值，在算法運(yùn)行后期容易出現(xiàn)在極值點(diǎn)周圍來回震蕩，不利于適應(yīng)度值的收斂，故進(jìn)行下列優(yōu)化改進(jìn)。

在聚群和追尾算子運(yùn)算過程中，位置不同的食物濃度（適應(yīng)度值）有著相同的吸引程度，不利于人工魚更好、更快地趨向高適應(yīng)度。為了加快收斂進(jìn)程，設(shè)定目標(biāo)點(diǎn)適應(yīng)度值遠(yuǎn)大于當(dāng)前位置適應(yīng)度值，即Ycenter>>Yi或Ymax>>Yi，則認(rèn)為目標(biāo)點(diǎn)對該人工魚具有較大吸引力，應(yīng)增大向該處移動時(shí)的步長step。設(shè)目標(biāo)點(diǎn)對人工魚吸引的評價(jià)標(biāo)準(zhǔn)為ΔY=（Yintmax-Yintmin）/2，其中Yintmax、Yintmin，分別為初始狀態(tài)下對應(yīng)的適應(yīng)度最大、最小值。在聚群算子中，如果Ycenter-Yi>ΔY，則如式（7）所示；否則按式（4）進(jìn)行計(jì)算。追尾算子同理可得。

Xnext=Xi+rand（）stepXcenter-Xi‖Xcenter-Xi‖Ycenter-YiΔY（7）

2.3對視野范圍、移動步長和擁擠度因子δ定值的改進(jìn)

為減小算法運(yùn)行后期的震蕩，令視野范圍visual、移動步長step根據(jù)下面公式進(jìn)行相應(yīng)的衰減調(diào)整，使二者隨迭代次數(shù)的增加而減小，以提升算法精度。

Visual=Visual×α+Visualmin（8）

step=step×α+stepmin（9）

α=e-20k/try_number（10）

其中，visualmin、stepmin分別為預(yù)設(shè)的最小視野范圍和最小步長，k為當(dāng)前算法運(yùn)行的迭代次數(shù)，try_number為算法可執(zhí)行的最大迭代次數(shù)。

采用指數(shù)式衰減變化策略[18]對擁擠度因子δ進(jìn)行改進(jìn)，使δ隨迭代次數(shù)的增多而逐漸減小，以提高算法的搜索精度。

δ=δ*β（11）

β=e-0.03Ymax（12）

其中Ymax為每次迭代時(shí)人工魚位置所對應(yīng)的適應(yīng)度最大值。

3實(shí)例分析

以山西省統(tǒng)計(jì)局公布的2010年1月至2016年12月全社會用電量數(shù)據(jù)為研究對象，并取每月同期的主要工業(yè)產(chǎn)品產(chǎn)量（原煤、生態(tài)、粗鋼、鋼材）、地區(qū)生產(chǎn)總值（GDP）、居民消費(fèi)價(jià)格指數(shù)以及當(dāng)?shù)仄骄鶜鉁貫樘卣髦怠Ｆ渲幸?010年1月至2015年12月的相應(yīng)數(shù)據(jù)為向量機(jī)訓(xùn)練樣本，對山西省2016年1月至12月的用電量需求進(jìn)行預(yù)測。初始數(shù)據(jù)經(jīng)過小波降噪和歸一化處理后所得的每月特征值如圖1所示，其中，橫坐標(biāo)1-84分別表示2010年1月至2016年12月各月份。

分別選取支持向量機(jī)參數(shù)預(yù)設(shè)特定值（令錯(cuò)誤懲罰因子c=2.0，核函數(shù)g=0.1），以及使用粒子群算法（PSO）、人工魚群算法（AFSA）和本文的改進(jìn)人工魚群算法進(jìn)行SVM參數(shù)尋優(yōu)，并分別進(jìn)行支持向量機(jī)擬合和預(yù)測。4種算法所得的擬合以及預(yù)測對比如圖2、圖3所示，其中，

將2010年1月至2014年12月的數(shù)據(jù)和2011年1月至2015年12月的全社會用電量分別作為向量機(jī)樣本擬合的輸入、輸出，并以2015年全年數(shù)據(jù)和2016年全年的全社會用電量為向量機(jī)預(yù)測輸入、輸出。通過PSO、AFSA以及改進(jìn)的AFSA，得出相應(yīng)錯(cuò)誤懲罰因子和核函數(shù)，同隨機(jī)初始參數(shù)一起代入向量機(jī)并進(jìn)行比較，以所得數(shù)據(jù)與原始數(shù)據(jù)的均方誤差作為評判標(biāo)準(zhǔn)。可以看出，人工魚群算法優(yōu)于粒子群算法，且不像隨機(jī)初始值一般因設(shè)定值不同變動過大。此外，改進(jìn)后的人工魚群算法亦比原始算法有所進(jìn)步。由圖2、圖3可知，原始數(shù)據(jù)波動劇烈，非線性擬合難以得到很高的準(zhǔn)確性。在全局?jǐn)M合方面，由優(yōu)化算法與原始數(shù)據(jù)的均方誤差可知，改進(jìn)的AFSA算法比其它算法更接近原始數(shù)據(jù)，尤其當(dāng)原始數(shù)據(jù)出現(xiàn)大幅震蕩時(shí)，SVM擬合精度普遍較低，改進(jìn)的AFSA所得結(jié)果較其它3種優(yōu)化算法更為接近原數(shù)據(jù)。

本文采用的改進(jìn)人工魚群算法可加快尋優(yōu)速度，在AFSA上進(jìn)一步提升尋優(yōu)效率。與AFSA對比，在相同迭代次數(shù)下更快收斂，且具有更好的收斂效果。代入本文實(shí)例，可對比魚群算法和改進(jìn)魚群算法每次迭代時(shí)的最大適應(yīng)度，結(jié)果如圖4所示。在本例中適應(yīng)度值越大表明尋優(yōu)效果越好，由此可知，優(yōu)化后的魚群算法能夠更快更好地進(jìn)行尋優(yōu)。

上述實(shí)驗(yàn)表明，本文提出的改進(jìn)人工魚群算法優(yōu)化了SVM關(guān)鍵參數(shù)的預(yù)測模型，明顯比單獨(dú)的SVM預(yù)測模型以及經(jīng)粒子群算法優(yōu)化的SVM模型有更好的精確度，比未經(jīng)改進(jìn)的人工魚群算法優(yōu)化的SVM模型的預(yù)測精度也有了進(jìn)一步提升。

4結(jié)語

本文利用支持向量機(jī)在小樣本、非線性特征、局部最優(yōu)和高維模式等方面的突出優(yōu)勢，對中長期電力需求進(jìn)行擬合預(yù)測。由于參數(shù)值選取對支持向量機(jī)預(yù)測的精確率起關(guān)鍵作用，因此提出了一種運(yùn)用人工魚群算法對支持向量機(jī)關(guān)鍵參數(shù)尋優(yōu)的方法。在此基礎(chǔ)上對人工魚群算法相應(yīng)算子和固定參數(shù)進(jìn)行合理改進(jìn)，進(jìn)一步提升了算法的全局尋優(yōu)能力，加快了運(yùn)算后期的收斂進(jìn)程，更好地避免了局部最優(yōu)解。實(shí)例證明經(jīng)過改進(jìn)的人工魚群算法，能有效提高支持向量機(jī)的預(yù)測精度。由于中長期電力預(yù)測涉及的數(shù)據(jù)量有限，而相關(guān)領(lǐng)域眾多，未來研究中會對多領(lǐng)域的特征輸入函數(shù)篩選和分類進(jìn)行改進(jìn)，以便能夠更加深入、全面地對中長期電力負(fù)荷需求預(yù)測進(jìn)行研究。

參考文獻(xiàn)參考文獻(xiàn)：

[1]OOLOFSSON T， ANDERSSON S. Longterm energy demand predictions based on shortterm measured data [J]. Energy and Buildings， 2001，33（2）：8591.

[2]廖旎煥，胡智宏，馬瑩瑩，等.電力系統(tǒng)短期負(fù)荷預(yù)測方法綜述[J].電力系統(tǒng)保護(hù)與控制，2011，39（1）：147152.

[3]麥鴻坤，肖堅(jiān)紅，吳熙辰，等.基于R語言的負(fù)荷預(yù)測ARIMA模型并行化研究[J].電網(wǎng)技術(shù)，2015，39（11）：32163220.

[4]王大鵬.灰色預(yù)測模型及中長期電力負(fù)荷預(yù)測應(yīng)用研究[D].武漢：華中科技大學(xué)，2013.

[5]RAHMAN S， BABA M. Software design and evaluation of a microcomputerbased automated load forecasting system [J]. Power Systems， IEEE Transactions on， 1989，4（2）：7828.

[6]ISLAM S M， ALALAWI S M， ELLITHY K A. Forecasting monthly electric load and energy for a fast growing utility using an artificial neural network[J]. Electric Power Systems Research， 1995，34（1）：19.

[7]雷紹蘭，孫才新，張曉星，等.基于徑向基神經(jīng)網(wǎng)絡(luò)和自適應(yīng)神經(jīng)模糊系統(tǒng)的電力短期負(fù)荷預(yù)測方法[J].中國電機(jī)工程學(xué)報(bào)，2005，25（22）：7882.

[8]牛東曉，谷志紅，邢棉，等.基于數(shù)據(jù)挖掘的SVM短期負(fù)荷預(yù)測方法研究[J].中國電機(jī)工程學(xué)報(bào)，2006，26（18）：612.

[9]PAI P F， HONG W C. Forecasting regional electricity load based on recurrent support vector machines with genetic algorithms[J]. Electric Power Systems Research， 2005，74（3）：417425.

[10]VAPNIK V. The nature of statistical learning theory [M]. New York； Springer Verlag， 1995.

[11]TAGLIAFERRI F， VIOLA I M， FLAY R G J. Wind direction forecasting with artificial neural networks and support vector machines[J]. Ocean Engineering， 2015，97（15）：6573.

[12]李瑾，劉金朋，王建軍.采用支持向量機(jī)和模擬退火算法的中長期負(fù)荷預(yù)測方法[J].中國電機(jī)工程學(xué)報(bào)，2011，31（16）：6366.

[13]吳景龍，楊淑霞，劉承水.基于遺傳算法優(yōu)化參數(shù)的支持向量機(jī)短期負(fù)荷預(yù)測方法[J].中南大學(xué)學(xué)報(bào)：自然科學(xué)版，2009，40（1）：180184.

[14]李曉磊，邵之江，錢積新.一種基于動物自治體的尋優(yōu)模式：魚群算法[J].系統(tǒng)工程理論與實(shí)踐，2002，22（11）：3238.

[15]朱旭輝，倪志偉，程美英.變步長自適應(yīng)的改進(jìn)人工魚群算法[J].計(jì)算機(jī)科學(xué)，2015，42（2）：210216.

[16]楊淑瑩，張樺.群體智能與仿生計(jì)算——MATLAB技術(shù)實(shí)現(xiàn)[M].北京：電子工業(yè)出版社，2014：123.

[17]ALATAS B. Chaotic bee colony algorithms for global numerical optimization[J]. Expert Systems with Applications， 2010，37（8）：56825687.

[18]LISUFESCU M. Finite Markov processes and their application [M]. Chichester， UK： Wiley Press， 1980.

責(zé)任編輯（責(zé)任編輯：杜能鋼）