基于CEPSO-LSSVM的煤炭消費量預測模型

楊世杰，龍 丹，周慶標

1.浙江工業職業技術學院 信息工程分院，浙江 紹興 312000

2.浙江大學醫學院，杭州 310058

基于CEPSO-LSSVM的煤炭消費量預測模型

楊世杰1，龍 丹2，周慶標1

1.浙江工業職業技術學院 信息工程分院，浙江 紹興 312000

2.浙江大學醫學院，杭州 310058

1 引言

煤炭是我國的主要能源，在經濟生活中具有不可替代的地位，但由于缺乏長期、科學的規劃，我國煤炭供需處于一種失衡狀態，科學地對煤炭消費量進行預測，解決煤炭供需失衡問題，保證經濟正常、快速發展，具有十分重要的意義[1]。

針對煤炭消費量預測問題，國內外學者進行了大量研究，有回歸分析、灰色系統和時間序列分析等傳統預測方法[2]。傳統方法假設煤炭消費量是一種線性變化規律，但由于煤炭消費量受到多種因素影響，實際上具有非平穩性、時變性等特點，因此，傳統方法預測效果并不理想[3]。20世紀80年代以來，非線性的神經網絡算法在煤炭消費量預測中得到了廣泛的應用，提高了煤炭消費量預測的精度[4]，但是神經網絡要求樣本數量大，而煤炭消費量是一種小樣本數據，難以滿足該條件，因此預測結果易出現過擬合現象[5]。最小二乘支持向量機（Least Square Support Vector Machines，LSSVM）是專門解決小樣本、非線性等難題的機器學習算法，泛化能力強，為煤炭消費量預測提供了一種新的研究方法[6]。LSSVM的預測性能與其參數密切相關，粒子群優化（PSO）算法的全局搜索能力強，在LSSVM參數優化中應用最為廣泛[7-8]。但傳統PSO算法存在“早熟”收斂和陷入局部最優等缺陷，難以獲得最優的LSSVM參數，從而對煤炭消費量預測結果產生不利影響[9]。

“鯰魚效應”（catfish effect）模擬鯰魚對沙丁魚群體的驅趕機制，以改變沙丁魚的惰性，提高了沙丁魚群體活性[10]。基于此，針對PSO算法的不足，引入“鯰魚效應”產生一種鯰魚粒子群優化（CEPSO）算法，并采用CEPSO優化LSSVM參數，最后根據最優參數的LSSVM建立煤炭消費量預測模型，通過仿真測試檢驗模型的性能。

2 CEPSO優化LSSVM的煤炭消費量模型

2.1 最小二乘支持向量機

對于訓練樣本{(xi，yi)}，i=1，2，…，n，LSSVM通過非線性映射函數Φ(·)將樣本映射到高維特征空間，并進行線性回歸，則有：

式中，w為權值向量，b為偏置量。

根據預測誤差和計算復雜折衷原則，式（2）變為：

式中，γ為正則化參數，ei為預測誤差[11-12]。

為簡化LSSVM求解過程，引入拉格朗日乘子，將式（2）變為對偶優化問題，即

式中，αi為拉格朗日乘子。

對于非線性預測問題，引入核函數轉變成為線性預測問題，選擇徑向基核函數作為LSSVM的核函數，最后LSSVM回歸模型為：

式中，σ表示徑向基核函數的寬度。

2.2 CEPSO算法

設粒子i的飛行速度和位置分別為：vi=(vi1，vi2，…，viD)T和xi=(xi1，xi2，…，xiD)T，粒子i的歷史最優位置為pi=(pi1，pi2，…，piD)，種群最優位置為pg=(pg1，pg2，…，pgD)，粒子i的位置和速度更新方式為：

式中，c1、c2為加速系數；rand()為[0，1]之間的隨機數；t為當前迭代次數；w為慣性權值[13-14]。

由式（6）可知，一旦PSO算法出現“早熟”現象，全局極值pg一定是局部最優解，因此可以通過直接改變pg或間接改變pi，幫助粒子逃逸局部最優解區域，進入其他區域進行搜索，最終找到全局最優解[15]。根據“鯰魚效應”啟示：當粒子聚集在局部最優解，搜索出現停滯時，用一條“鯰魚”去刺激粒子群，增加粒子活力，幫助其中逃出局部極值點，這就是鯰魚粒子群算法（CEPSO）的基本思想。CEPSO算法通過偏差的閾值作為“鯰魚效應”觸發條件，采用鯰魚算子對pg或pi進行擾動，這樣粒子速度更新變為：

式中，c3表示鯰魚對個體最優的沖撞強度，c4表示鯰魚對全局最優的沖撞強度；c3×rand()和c4×rand()為鯰魚算子，分別定義為：

式中，ep表示當前值與當前個體最優值的偏差；eg表示當前值與當前全局最優值的偏差；e0p和e0g分別表示當前值與當前局部最優值、全局最優值間偏差的閾值。

2.3 LSSVM參數優化的數學模型

其中，f()表示LSSVM模型。

要建立最優的煤炭消費量預測模型，首先要找到最優的LSSVM參數，然而LSSVM參數優化的目標是找到最優參數組合，使LSSVM預測值與實際煤炭消費量值之間的誤差最小，因此采用均方根誤差作為煤炭消費量LSSVM參數優化的目標函數，即

式中，n為煤炭消費量樣本個數；yi和y?i分別表示第i個樣本實際值和預測值。

2.4 CEPSO算法優化支持向量機參數步驟

艾司西酞普蘭與度洛西汀治療抑郁癥有效性與安全性的Meta分析 ……………………………………… 路淑淑等（10）：1395

（1）收集一維煤炭消費量時間序列，并將其重構成多維時間序列，產生LSSVM的訓練集和驗證集。

（2）預估計LSSVM參數γ、σ范圍，并設置CEPSO算法的相關參數值。

（3）隨機產生粒子群，每一個粒子位置串包括γ、σ。

（4）LSSVM根據初始粒子群的γ、σ對訓練集進行學習，并通過式（12）計算每一個粒子的適應度值，并將適應度值最小者作為個體極值Pi和群體極值Pg。

（5）根據式（8）、式（9）確定鯰魚算子，并更新粒子的速度和位置。

（6）根據式（12）計算每個粒子在新位置上的適應度值，粒子的適應度值與Pi的適應度值比較，如果優于Pi的適應度值，則用該粒子代替最優適應度值，并用該粒子位置代替Pi。

（7）將粒子的適應度值與Pg的適應度值比較，如果優于Pg的適應度值，則該粒子為群體的最優適應度值，同時用該粒子的位置代替Pg。

（8）若迭代次數超過最大允許迭代次數，則訓練結束，并輸出粒子群全局最優位置相對應的LSSVM的γ、σ，否則跳轉至步驟（5）繼續進行參數優化。

（9）采用最優γ、σ建立煤炭消費量預測模型，并對驗證集進行預測，對預測結果進行分析。

3 仿真實驗

3.1 數據來源

數據來自1990年—2012年中國煤炭消費量，具體如圖1所示。前18個數據組成訓練集用于尋找LSSVM最優參數，其余5個數據組成驗證集對參數有效性能和模型泛化能力進行檢驗，仿真測試在CPU Intel 2.8 GHz，RAM 1 GB，Windows XP，Matlab 2009的平臺上編程實現。

圖1 煤炭消費量數據

3.2 數據歸一化處理

LSSVM對[0 1]之間的數據十分靈敏，煤炭消費量具有突變性，數值差異較大，為此，在建模之前，進行歸一化處理，具體為：

式中，表示歸一化后煤炭消費量值，xmax、xmin分別為煤炭消費量的最大、最小值。

3.3 模型評價指標

為了使CEPSO-LSSVM預測結果更具說服力，采用粒子群算法優化LSSVM（PSO-LSSVM）、遺傳算法優化LSSVM（GA-LSSVM）作為對比模型。采用均方根誤差（RMSE）和平均絕對百分誤差（MAPE）作為模型的評價指標，它們分別定義如下：

3.4 LSSVM參數優化過程

煤炭消費量數據是一種時間序列，因此數據之間有明顯的數據相關性，當前時刻的煤炭消費量與前段時間煤炭消費量存在一定的聯系，這樣就可以利用歷史煤炭消費量數據對未來時刻煤炭消費量進行預測，本研究選擇前12個時間點的數據對當前煤炭消費量進行預測，那么要預測yi，其輸入為：{yi-1，yi-2，…，yi-12}。

GA的交叉概率為Pc=0.9，變異概率為Pm=0.02；CEPSO的c1=c2=2，c3=1.2，c4=3.5，e0g=0，e0p=0.01，PSO參數與CEPSO設置相同，所有算法的種群大小均為10，最大迭代次數為500。LSSVM參數的范圍為：γ∈[1，1 000]，σ∈[0.1，10]，將煤炭消費量訓練集輸入到LSSVM進行訓練，在訓練過程中用GA、PSO、CEPSO對參數(γ，σ)進行在線優化，根據訓練集的10折交叉驗證誤差最小原則，參數優化過程如圖2所示，得到的最優參數結果見表1。從圖2可知，相對于PSO、GA，CEPSO可以更快地找到LSSVM參數，且交叉驗證誤差更小，這表明CEPSO是一種有效的LSSVM參數優化算法。

圖2 各算法的LSSVM參數尋優曲線對比

表1 各算法優化LSSVM的參數結果

3.5 結果與分析

3.5.1 擬合能力比較

采用表1中的γ、σ值作為LSSVM參數，對訓練集進行學習，建立相應的GA-LSSVM、PSO-LSSVM、CEPSOLSSVM的煤炭消費量預測模型，并采用這些模型對訓練集進行擬合，得到的擬合結果見表2所示。從表2可知，在所有模型中，CEPSO-LSSVM的擬合誤差最小，擬合精度最高，根據擬合對比結果可知，CEPSO可以獲得更優的LSSVM參數，更加準確地刻畫了煤炭消費量變化趨勢。

表2 各模型對訓練集的擬合誤差

3.5.2 泛化能力比較

評價一個預測模型性能的優劣，主要考察其預測能力，為此采用建立的煤炭消費量模型對驗證集進行預測，均采用一步預測，具體方式：采用前18個煤炭消費量數據作為最原始訓練集，對第19個數據進行預測，然后采用滾動方式將第19個數據合到訓練集，對第20個數據進行預測，依此類推，最后得到第23個數據的預測結果，預測結果如圖3和表3所示。從圖3和表3可知，相對于對比模型，CEPSO-LSSVM的預測精度更高，說明CEPSO具有較好的全局搜索能力，通過引入“鯰魚效應”，有助于跳出局部最優值，從而找到了更優的LSSVM參數，建立的煤炭消費量預測模型更加準確地描述了煤炭消費量時變、非平穩變化趨勢。

圖3 各模型對驗證集的預測結果對比

表3 各模型對驗證集的預測誤差

4 結語

煤炭消費量受到多種因素的影響，具有隨機性、時變性，針對LSSVM在煤炭消費量預測中的參數優化問題，提出一種CEPSO-LSSVM的煤炭消費量預測模型。首先將LSSVM參數優化視為一個組合優化問題，并根據煤炭消費量預測建立參數優化的目標函數，然后基于煤炭消費量預測結果的誤差最小原則，采用PSO算法對LSSVM最優參數進行尋優，并引入“鯰魚效應”解決PSO算法存在的不足，最后采用實際煤炭消費量進行仿真實驗，并與其他模型進行對比。結果表明，CEPSO-LSSVM可以獲得更優的煤炭消費量預測模型，提高了煤炭消費量的預測精度，并擴展了LSSVM在其他非線性預測領域的應用范圍。

[1]王延中.我國能源消費政策的變遷及展望[J].中國工業經濟，2001（4）：33-38.

[2]李世祥，吳巧生.我國煤炭需求函數回歸模型的建立及需求預測[J].中國煤炭，2005，31（6）：17-19.

[3]孫國文，尹光志.基于灰色系統理論的重慶市煤炭消費預測[J].重慶大學學報，2006，29（7）：142-145.

[4]寧云.煤炭需求預測的復合小波神經網絡模型[J].煤炭學報，2003，28（1）：108-112.

[5]張宏，李仲學.煤炭需求影響因素及前景分析[J].煤炭學報，2007，32（5）：557-560.

[6]韓超，車永才，王繼波.改進的BP神經網絡煤炭需求預測模型[J].遼寧工程技術大學學報，2005（S1）：121-126.

[7]穆朝絮，張瑞民，孫長銀.基于粒群優化的非線性系統最小二乘支持向量機預控制方法[J].控制理論與應用，2010，27（2）：164-167.

[8]劉智國，張雅明，林立忠.基于粒子群LSSVM的網絡入侵[J].計算機仿真，2011，27（11）：136-139.

[9]張朝龍，江巨浪，李彥梅.基于云粒子群-最小二乘支持向量機的傳感器溫度補償[J].傳感技術學報，2012，25（4）：472-477.

[10]陳磊.遺傳最小二乘支持向量機法預測時用水量[J].浙江大學學報：工學版，2011，45（6）.

[11]梁昔明，閻綱，李山春，等.基于最小二乘支持向量機和混沌優化的非線性預測控制[J].信息與控制，2010，39（2）：129-135.

[12]景龍，楊淑霞，劉承水.基于遺傳算法優化參數的支持向量機短期負荷預測方法[J].中南大學學報：自然科學版，2009，40（1）.

[13]易文周.混沌鯰魚粒子群優化和差分進化混合算法[J].計算機工程與應用，2012，48（15）：54-58.

[14]Hu X H，Eberhart R C.Multi-objective optimization using dynamic neighborhood particle swarm optimization[C]//Proceedings of the 2002 Congress on Evolutionary Computation.Honolulu：IEEE，2002.

[15]Li Y，Wang C S，Yang C H.Chaotic catfish particle swarm optimization for solving global numerical optimization problems[J].Applied Mathematics and Computation，2011，217：6900-6916.

YANG Shijie1,LONG Dan2,ZHOU Qingbiao1

1.School of Computer Science,Zhejiang Industry Polytechnic College,Shaoxing,Zhejiang 312000,China
2.Zhejiang University School of Medicine,Hangzhou 310058,China

The coal consumption has time-varying and nonlinear characteristics.In order to improve the prediction accuracy of coal consumption,a coal consumption prediction model based on Catfish Particle Swarm algorithm and Least Squares Support Vector Machine（CEPSO-LSSVM）is proposed.LSSVM parameter is encoded into the position of the particle,and minimum of the cross validation error of network training set is taken as optimal target,and then the parameters of LSSVM are obtained by the exchange information among particles,and“catfish effect”is introduced to keep the diversity of particle swarm to overcome the local optimum of the traditional particle swarm optimization algorithm,and coal consumption prediction model is built according to the optimum parameters,and the simulation test is carried out on actual coal consumption data.The results show that,compared with other prediction models,the proposed model can get better parameters,and coal consumption prediction accuracy can be improved.It is more suitable for complex coal consumption prediction.

coal consumption;Least Squares Support Vector Machine（LSSVM）;Particle Swarm Optimization（PSO）algorithm; catfish effect

針對煤炭消費量的時變性、非平穩性特點，為了提高煤炭消費量預測精度，提出了一種鯰魚粒子群算法優化最小二乘支持向量機（LSSVM）的煤炭消費量預測模型（CEPSO-LSSVM）。將LSSVM參數編碼成粒子位置串，并根據煤炭消費量訓練集的交叉驗證誤差最小作為參數優化目標，通過粒子間信息交流找到最優LSSVM參數，并引入“鯰魚效應”，保持粒子群的多樣性，克服傳統粒子群算法的局部最優，根據最優參數建立煤炭消費量預測模型，并采用實際煤炭消費量數據進行仿真測試。結果表明，相對于其他預測模型，CEPSO-LSSVM可以獲得更優的LSSVM參數，提高了煤炭消費量預測精度，更加適用于復雜非線性的煤炭消費量預測。

煤炭消費量；最小二乘支持向量機；粒子群優化算法；鯰魚效應

A

TP391

10.3778/j.issn.1002-8331.1305-0287

YANG Shijie,LONG Dan,ZHOU Qingbiao.Coal consumption prediction based on LSSVM optimized by Catfish Particle Swarm Optimization algorithm.Computer Engineering and Applications,2013,49（18）：108-111.

浙江省教育技術研究規劃課題（No.JB083）。

楊世杰（1979—），男，講師，主要研究領域為機器學習算法、模式識別、圖形圖像；龍丹（1975—），男，博士，主要研究領域為計算機應用、機器學習算法；周慶標（1972—），男，博士，副教授，主要研究領域為計算機應用、時間序列預測。

2013-05-22

2013-06-17

1002-8331（2013）18-0108-04