基于ＱＰＳＯ—ＲＢＦ ＮＮ的混沌時(shí)間序列預(yù)測

摘要：提出一種基于量子粒子群優(yōu)化算法訓(xùn)練徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)進(jìn)行混沌時(shí)間序列預(yù)測的新方法。在確定徑向基函數(shù)網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)后，將相應(yīng)網(wǎng)絡(luò)的參數(shù)，包括隱層基函數(shù)中心、擴(kuò)展常數(shù)，以及輸出權(quán)值和偏移編碼成學(xué)習(xí)算法中的粒子個(gè)體，在全局空間中搜索具有最優(yōu)適應(yīng)值的參數(shù)向量。實(shí)例仿真證實(shí)了該方法的有效性。

關(guān)鍵詞：混沌時(shí)間序列；預(yù)測；量子粒子群優(yōu)化算法；徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)

中圖分類號：TP393．01文獻(xiàn)標(biāo)志碼：A

文章編號：1001－3695(2007)05－0068－03

0引言

混沌是自然界與人類社會(huì)普遍存在的運(yùn)動(dòng)形式。其本質(zhì)是系統(tǒng)對初值有著敏感的依賴性。混沌時(shí)間序列預(yù)測在許多領(lǐng)域都有著重要的意義。混沌時(shí)間序列預(yù)測是建立在Takens提出的嵌入定理和相空間重構(gòu)理論基礎(chǔ)上的。其目的是試圖在高維空間中恢復(fù)混沌吸引子。根據(jù)Takens的理論，提出了基于神經(jīng)網(wǎng)絡(luò)的時(shí)間序列預(yù)測方法，并取得了較好的結(jié)果。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)（RBF NN）具有良好的逼近任意非線性映射和處理系統(tǒng)內(nèi)在的難以解析表達(dá)的規(guī)律性的能力。因此其在混沌時(shí)間序列預(yù)測方面具有廣泛的應(yīng)用。

進(jìn)化算法具有較強(qiáng)的全局收斂能力和較強(qiáng)的魯棒性，且不需要借助問題的特征信息，如導(dǎo)數(shù)等梯度信息。因此，將其應(yīng)用于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法，不僅能發(fā)揮神經(jīng)網(wǎng)絡(luò)的泛化映射能力，而且能夠提高神經(jīng)網(wǎng)絡(luò)的收斂速度及學(xué)習(xí)能力[1]。量子粒子群優(yōu)化（QPSO）算法是在對粒子群優(yōu)化（PSO）算法收斂性問題研究的基礎(chǔ)上，提出的一種全新的群體智能優(yōu)化算法。其具有算法模型更簡單、收斂速度更快和收斂性能更好的優(yōu)點(diǎn)。本文提出將其應(yīng)用于RBF NN的訓(xùn)練學(xué)習(xí)算法中。仿真實(shí)例證實(shí)了該學(xué)習(xí)算法的有效性。

1RBF神經(jīng)網(wǎng)絡(luò)

RBF NN是由J.Moody和C.Darken于1989年提出的。圖1為RBF神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)。

不失一般性，假設(shè)輸出層只有一個(gè)節(jié)點(diǎn)，這種結(jié)構(gòu)很容易推廣到多輸出節(jié)點(diǎn)的情形。從結(jié)構(gòu)上看，RBF NN是由輸入層、隱含層和輸出層組成的三層前向型神經(jīng)網(wǎng)絡(luò)。其中隱含層由一組徑向基函數(shù)構(gòu)成，與每個(gè)隱含層節(jié)點(diǎn)相關(guān)的參數(shù)向量為ti（即徑向基函數(shù)中心）和σi（即擴(kuò)展常數(shù)）[2]。徑向基函數(shù)是一類局部分布的中心點(diǎn)徑向?qū)ΨQ衰減的非負(fù)非線性函數(shù)。一般隱含層各節(jié)點(diǎn)都采用相同的徑向基函數(shù)g(x)。徑向基函數(shù)有多種形式，多數(shù)情況下都采用高斯基函數(shù)。RBF NN的輸入層由輸入信號源節(jié)點(diǎn)組成。由于徑向基函數(shù)是非線性的，從輸入空間到隱含層空間的變換是非線性的；而從隱含層空間到輸出層空間的變換則是線性的，即隱含層的輸出信號，通過線性加權(quán)求值作為輸出層節(jié)點(diǎn)的輸出值。 網(wǎng)絡(luò)輸入與輸出之間映射關(guān)系為

2QPSO算法原理

2．1PSO算法

粒子群算法（Particle Swarm Optimization，PSO）是在1995年由美國社會(huì)心理學(xué)家James Kennedy和電氣工程師Russell Eberhart共同提出的。其基本思想是受他們早期對鳥類群體行為研究結(jié)果的啟發(fā)，并利用了生物學(xué)家Frank Heppner的生物群體模型[3]。PSO算法將每個(gè)粒子看做是在n維搜索空間中的一個(gè)沒有重量和體積的微粒，并在搜索空間中以一定的速度飛行。該飛行速度由粒子的飛行經(jīng)驗(yàn)和群體的飛行經(jīng)驗(yàn)進(jìn)行動(dòng)態(tài)調(diào)整。

2．2QPSO算法

2004年，Sun等人在研究了Clerc等人的關(guān)于粒子收斂行為的研究成果后，從量子力學(xué)的角度出發(fā)提出了一種新的PSO算法模型。這種模型是以DELTA勢阱為基礎(chǔ)，認(rèn)為粒子具有量子的行為，并根據(jù)這種模型提出了量子粒子群算法（Quantum－behaved Particle Swarm Optimization，QPSO）[6]。

在量子空間中粒子滿足聚集態(tài)的性質(zhì)完全不同。它可以在整個(gè)可行解空間中進(jìn)行搜索，因而量子PSO算法的全局搜索性能遠(yuǎn)遠(yuǎn)優(yōu)于標(biāo)準(zhǔn)PSO算法。在量子空間中，粒子的速度和位置是不能同時(shí)被確定的，因此文獻(xiàn)[6]通過波函數(shù)ψ(x，t)（其物理意義為：波函數(shù)的平方是粒子在空間某一點(diǎn)出現(xiàn)的概率密度）來描述粒子的狀態(tài)，并通過求解薛定諤方程得到粒子在空間某一點(diǎn)出現(xiàn)的概率密度函數(shù)。隨后通過蒙特卡羅隨機(jī)模擬的方式得到粒子的位置方程為

量子粒子群算法能夠克服一般粒子群算法在收斂性能上的缺陷是由于其具有如下三點(diǎn)特性 ：

（1）量子系統(tǒng)是一個(gè)復(fù)雜的非線性系統(tǒng)，并且符合狀態(tài)重疊原理。因此量子系統(tǒng)比一個(gè)線性系統(tǒng)具有更多的狀態(tài)。

（2）量子系統(tǒng)是一個(gè)與典型隨機(jī)系統(tǒng)遠(yuǎn)遠(yuǎn)不同的不確定性系統(tǒng)。在這樣一個(gè)系統(tǒng)中，一個(gè)粒子能夠以某一確定的概率出現(xiàn)在搜索空間中的任意一個(gè)位置。因?yàn)榱Ｗ記]有一個(gè)確定的軌跡。

（3）在PSO算法中，粒子必須在一個(gè)有限的搜索范圍內(nèi)以確保粒子群的聚集性，使算法收斂于一個(gè)最優(yōu)點(diǎn)或局部最優(yōu)點(diǎn)。在傳統(tǒng)的PSO算法中，有限的搜索范圍將粒子限制在一個(gè)固定的區(qū)域；而在QPSO算法中，粒子能夠以某一確定的概率出現(xiàn)在整個(gè)可行搜索空間中的任意一個(gè)位置，甚至是一個(gè)遠(yuǎn)離P點(diǎn)的位置。這樣一個(gè)位置可能比當(dāng)前群體中的最佳位置具有更好的適應(yīng)值。

3混沌時(shí)間序列預(yù)測仿真實(shí)例分析

3．1混沌時(shí)間序列預(yù)測問題描述

3．2基于QPSO的RBF NN學(xué)習(xí)算法設(shè)計(jì)

（1）數(shù)據(jù)預(yù)處理及徑向基層單元數(shù)確定。將網(wǎng)絡(luò)的訓(xùn)練樣本數(shù)據(jù)和測試樣本數(shù)據(jù)按比例轉(zhuǎn)換為處理單元函數(shù)所允許的范圍。根據(jù)文獻(xiàn)[8]，采用對手受罰的競爭學(xué)習(xí)（Rival Penalized Competitive Learning，RPCL）算法確定徑向基層單元數(shù)。

（2）將RBF NN中的參數(shù)編碼成實(shí)數(shù)碼串表示的個(gè)體，隨機(jī)產(chǎn)生一定數(shù)目的個(gè)體（粒子）組成種群。其中不同的個(gè)體代表神經(jīng)網(wǎng)絡(luò)的一組不同參數(shù)，同時(shí)初始化各個(gè)粒子的pi和整個(gè)種群的pg。

(4) 判斷是否滿足算法的終止條件。若不滿足則按照QPSO算法模型生成新的個(gè)體粒子，并轉(zhuǎn)到（3）；若滿足則輸出一組具有最優(yōu)適應(yīng)值的參數(shù)作為最后結(jié)果，RBF NN訓(xùn)練算法結(jié)束。

3．3混沌模型仿真實(shí)例

模型1Logistioc模型

由圖2可知，真實(shí)值與預(yù)測值幾乎完全重合，說明了基于QPSO算法的RBF NN應(yīng)用于混沌時(shí)間序列預(yù)測具有很好的預(yù)測效果。在系統(tǒng)的極值處也能得到良好的預(yù)測值，這是該方法的另一個(gè)優(yōu)點(diǎn)。

由表1可知，基于QPSO算法的RBF NN應(yīng)用于混沌時(shí)間序列預(yù)測方法在訓(xùn)練集上的均方誤差和測試集上的均方誤差均達(dá)到了10-4數(shù)量級，具有很高的精度，能滿足較高的預(yù)測要求。

因此，可以看出基于QPSO算法的RBF NN應(yīng)用于混沌時(shí)間序列預(yù)測具有良好的預(yù)測精度，是一種能被廣泛運(yùn)用的預(yù)測方法。

4結(jié)束語

本文主要提出了一種新的RBF神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法。該算法以目前最新的群體智能算法QPSO算法為基礎(chǔ)，將RBF神經(jīng)網(wǎng)絡(luò)的參數(shù)組成一個(gè)多維向量，作為算法中的粒子進(jìn)行進(jìn)化，由此在可行解空間范圍內(nèi)搜索最優(yōu)解。同時(shí)將本文提出的方法所訓(xùn)練的RBF 神經(jīng)網(wǎng)絡(luò)應(yīng)用于混沌時(shí)間序列預(yù)測。仿真實(shí)例證明該方法具有良好的預(yù)測精度。

參考文獻(xiàn)：

［1］

曾建潮，介婧，崔志華.微粒群算法[M]. 葉世偉，史忠植，譯.北京：科學(xué)出版社，2004:104－105.

[2]HAYKIN S.神經(jīng)網(wǎng)絡(luò)原理[M]. 北京：機(jī)械工業(yè)出版社，2004.

[3]KENNEDY J，EBERHART R C. Particle swarm optimazation:proc. of IEEE Int. Conf. on Neural Networks[C].Piscataway:IEEE Ser－vice Center， 1995:1942－1948.

[4]SHI Y， EBERHART R C. A modified particle swarm optimizer:proceedings of the IEEE International Conference on Evolutionary Computation[C].Piscataway:IEEE Press，1998:69－73.

[5]CLERC M.The swarm and queen:towards a deterministic and adaptive particle swarm optimization:proc. of CEC1999[C].[S.l.]:[s.n.]，1999:1951－1957.

[6]SUN Jun， FENG Bin， XU Wenbo. Particle swarm optimization with particles having quantum behavior:proceedings of 2004 Congress on Evolutionary Computation[C].[S.l.]:[s.n.]，2004:325－331.

[7]SUN Jun， XU Wenbo. A global search strategy of quantum－behaved particle swarm optimization:proceedings of IEEE Conference on Cybernetics and Intelligent Systems[C].[S.l.]:[s.n.]，2004:111－ 116.

[8]XU Lie， KRZYZAK A， OJA E. Rival penalized competitive learning for clustering analysis， RBF net， and curve detection [J].IEEE Trans. on Neural Networks，1993，4(4): 636－649.

注：“本文中所涉及到的圖表、注解、公式等內(nèi)容請以PDF格式閱讀原文”