基于混沌相空間重構(gòu)參數(shù)優(yōu)化的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型研究

修妍

摘 要：針對(duì)傳統(tǒng)相空間重構(gòu)參數(shù)的選取無(wú)統(tǒng)一標(biāo)準(zhǔn)，影響混沌時(shí)序相空間重構(gòu)質(zhì)量及預(yù)測(cè)精度問(wèn)題，提出了相空間重構(gòu)優(yōu)化參數(shù)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的新方法。該方法在重構(gòu)相空間的基礎(chǔ)上利用動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)模型對(duì)混沌時(shí)序進(jìn)行預(yù)測(cè)，由預(yù)測(cè)誤差綜合確定預(yù)測(cè)模型的參數(shù)設(shè)置，并反推出重構(gòu)相空間的最佳嵌入維數(shù)和延遲時(shí)間。通過(guò)對(duì)Lorenz混沌系統(tǒng)的仿真，證明文章提出的方法是有效的。

關(guān)鍵詞：相空間重構(gòu)；動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)；預(yù)測(cè)

中圖分類(lèi)號(hào)：TP27 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：2095-2945（2017）23-0013-03

1 概述

混沌時(shí)間序列分析與預(yù)測(cè)已經(jīng)在天氣預(yù)報(bào)、經(jīng)濟(jì)預(yù)測(cè)、電力負(fù)荷預(yù)測(cè)等方面得到了廣泛的應(yīng)用。相空間重構(gòu)是進(jìn)行混沌時(shí)間序列分析與預(yù)測(cè)的基礎(chǔ)，而進(jìn)行相空間重構(gòu)的嵌入維數(shù)和延遲時(shí)間參數(shù)對(duì)重構(gòu)后的相空間質(zhì)量有很大的影響，相空間重構(gòu)的質(zhì)量將直接影響到混沌時(shí)間序列的預(yù)測(cè)精度以及預(yù)測(cè)時(shí)長(zhǎng)。相空間重構(gòu)的嵌入維數(shù)如果選取的較小，則不能完全展現(xiàn)混沌系統(tǒng)的細(xì)微結(jié)構(gòu)；其嵌入維數(shù)如果選取的較大，則會(huì)使計(jì)算工作復(fù)雜化，引起噪聲。相空間重構(gòu)的延遲時(shí)間如果選取的較小，通過(guò)重構(gòu)的系統(tǒng)相軌跡由于相關(guān)性較強(qiáng)而在相空間主方向壓縮，使相空間中的相鄰延遲坐標(biāo)元素差別太小，造成信息冗余；其延遲時(shí)間如果選取的較大，則系統(tǒng)中某一時(shí)刻的狀態(tài)與其后的狀態(tài)在因果關(guān)系上變得不相關(guān)，導(dǎo)致相鄰延遲坐標(biāo)元素之間的信息丟失，信號(hào)軌跡可能會(huì)出現(xiàn)折疊現(xiàn)象。因此，對(duì)相空間進(jìn)行重構(gòu)的嵌入維數(shù)和延遲時(shí)間的參數(shù)選擇成為研究者的重要研究課題。

目前，相空間重構(gòu)參數(shù)的確定方法有兩類(lèi)。一類(lèi)為分別計(jì)算兩個(gè)參數(shù)，其中對(duì)延遲時(shí)間的選取主要有自相關(guān)函數(shù)法、平均互信息法、平均位移法等，對(duì)嵌入維數(shù)的選取主要有關(guān)聯(lián)維數(shù)法、虛假鄰點(diǎn)法等。另一類(lèi)為同時(shí)計(jì)算兩個(gè)參數(shù)，如時(shí)間窗口法、C-C法等。此外，還有一些學(xué)者對(duì)相空間重構(gòu)參數(shù)的常見(jiàn)方法進(jìn)行了改進(jìn)研究[1-5]。雖然各種研究方法都取得了一定的效果，而且大部分研究都以經(jīng)典混沌系統(tǒng)Lorenz混沌時(shí)序?yàn)槔M(jìn)行了驗(yàn)證研究，但是不同的研究人員得到的研究結(jié)果并不一致。由于有研究表明應(yīng)用神經(jīng)網(wǎng)絡(luò)進(jìn)行建模預(yù)測(cè)時(shí)，獲得最優(yōu)預(yù)測(cè)結(jié)果所對(duì)應(yīng)的相空間重構(gòu)參數(shù)并不是應(yīng)用傳統(tǒng)方法獲得的嵌入維數(shù)和延遲時(shí)間[6]。因此，為了提高混沌時(shí)間序列的預(yù)測(cè)精度和預(yù)測(cè)時(shí)長(zhǎng)，本文綜合考慮相空間重構(gòu)和預(yù)測(cè)算法之間的內(nèi)在聯(lián)系，研究在相空間重構(gòu)以后，從對(duì)未來(lái)時(shí)序進(jìn)行預(yù)測(cè)的預(yù)測(cè)模型誤差的大小反推嵌入維數(shù)和延遲時(shí)間以及預(yù)測(cè)模型的參數(shù)選擇是否為最佳選擇，從而使相空間重構(gòu)參數(shù)和預(yù)測(cè)模型的參數(shù)選擇可以同步進(jìn)行，并運(yùn)用Lorenz混沌時(shí)序進(jìn)行仿真實(shí)驗(yàn)，以驗(yàn)證本文方法的可行性和優(yōu)越性。

2 混沌時(shí)序相空間重構(gòu)

2.1 相空間重構(gòu)

設(shè)觀測(cè)到的混沌時(shí)間序列為x1，x2，...，xn，按照Takens[7]的延遲嵌入理論，可選用適當(dāng)?shù)难舆t時(shí)間和嵌入維數(shù)m，將混沌時(shí)間序列重構(gòu)為如下的m維相空間：

2.2 延遲時(shí)間和嵌入維數(shù)m的確定

由于在工程實(shí)踐及金融經(jīng)濟(jì)研究中所獲取的時(shí)間序列都是有限長(zhǎng)且含有噪聲的，也無(wú)法事先預(yù)知此類(lèi)系統(tǒng)的非線性特征，采用分別計(jì)算其相空間重構(gòu)參數(shù)的方法并不可行。此外，大量實(shí)驗(yàn)表明，嵌入維數(shù)m和延遲時(shí)間的關(guān)系與重構(gòu)相空間的時(shí)間窗W密切相關(guān)， 因此，m和的聯(lián)合算法更適合實(shí)際應(yīng)用。其中，1999年，H.S.Kim、R.Eykholt和J.D.Salas提出的C-C算法[8]由于方法相對(duì)簡(jiǎn)單，易于在計(jì)算機(jī)上實(shí)現(xiàn)，能夠同時(shí)得到和W而得到了廣泛的應(yīng)用。該方法將整個(gè)時(shí)間序列分成t個(gè)不相交的時(shí)間序列，序列長(zhǎng)度l=N/t，當(dāng)N→∞時(shí)，

3 相空間重構(gòu)優(yōu)化參數(shù)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型

本文利用相空間重構(gòu)和動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)對(duì)混沌時(shí)間序列進(jìn)行預(yù)測(cè)，相空間重構(gòu)參數(shù)的選取對(duì)于相空間重構(gòu)的質(zhì)量以及動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)對(duì)未來(lái)時(shí)序的預(yù)測(cè)精度和預(yù)測(cè)時(shí)長(zhǎng)的影響較大。因此，本文綜合考慮相空間重構(gòu)和預(yù)測(cè)算法之間的內(nèi)在聯(lián)系，從預(yù)測(cè)模型誤差的大小來(lái)反推嵌入維數(shù)和延遲時(shí)間以及預(yù)測(cè)模型的參數(shù)選擇是否為最佳，從而同步確定相空間重構(gòu)的參數(shù)和預(yù)測(cè)模型的參數(shù)，得到未來(lái)時(shí)序預(yù)測(cè)的精確值。具體過(guò)程如下：

第一步：對(duì)混沌時(shí)序數(shù)據(jù)進(jìn)行歸一化處理，歸一化方法可采用最大最小化方法，避免因?yàn)檩斎胼敵鰯?shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測(cè)誤差較大。

第二步：用C-C算法即公示（2）、（3）、（4）和（5）對(duì)第一步歸一化處理后的混沌時(shí)序初步計(jì)算其嵌入維數(shù)m和延遲時(shí)間。

第三步：將第二步計(jì)算出的嵌入維數(shù)m和延遲時(shí)間帶入公示（1），將原混沌時(shí)序重構(gòu)為m維相空間。

第四步：將第三步得到的相空間重構(gòu)數(shù)據(jù)作為動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)，建立動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)NARX預(yù)測(cè)模型。NARX（Nonlinear Auto-Regressive models with Exogenous Inputs） 神經(jīng)網(wǎng)絡(luò)被稱為帶外部輸入的非線性自回歸模型[10]，它是非線性動(dòng)態(tài)系統(tǒng)中應(yīng)用最廣泛的一種神經(jīng)網(wǎng)絡(luò)，NARX模型非常適合混沌時(shí)序的預(yù)測(cè)。在應(yīng)用前一般要事先確定輸入和輸出的延時(shí)階數(shù)、隱層神經(jīng)元個(gè)數(shù)等。再將輸入數(shù)據(jù)經(jīng)NARX神經(jīng)網(wǎng)絡(luò)隱含層的tansig激活函數(shù)，以及輸出層的purelin傳遞函數(shù)，得到輸出向量，然后將輸出向量延時(shí)反饋引入網(wǎng)絡(luò)訓(xùn)練中，形成新的輸入向量。在訓(xùn)練、驗(yàn)證及測(cè)試過(guò)程中，網(wǎng)絡(luò)模型的輸入不僅包括原始輸入數(shù)據(jù)，還包含經(jīng)過(guò)訓(xùn)練后的輸出數(shù)據(jù)，網(wǎng)絡(luò)的泛化能力得到提高。NARX神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型可以表示為：

其中f（·）表示用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)的非線性函數(shù)。

第五步：運(yùn)用第四步建立好的NARX神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型對(duì)混沌時(shí)序進(jìn)行滾動(dòng)外推多步預(yù)測(cè)。以絕對(duì)預(yù)測(cè)誤差（APE）和標(biāo)準(zhǔn)均方根誤差（RMSE）衡量模型的預(yù)測(cè)性能，計(jì)算方法如下：

式中ytrue，i為實(shí)際觀測(cè)值，ypredict，i為模型預(yù)測(cè)值，n為測(cè)試樣本個(gè)數(shù)。絕對(duì)預(yù)測(cè)誤差值和均方根誤差值越小，表明預(yù)測(cè)效果越好。為達(dá)到期望的預(yù)測(cè)效果，需要對(duì)第四步NARX預(yù)測(cè)模型的隱層神經(jīng)元個(gè)數(shù)和延時(shí)階數(shù)的具體數(shù)值反復(fù)調(diào)試，并結(jié)合第三步計(jì)算出的嵌入維數(shù)m和延遲時(shí)間經(jīng)過(guò)篩選對(duì)比，選擇預(yù)測(cè)誤差最小時(shí)對(duì)應(yīng)的參數(shù)作為最佳的相空間重構(gòu)參數(shù)，而最佳相空間重構(gòu)參數(shù)對(duì)應(yīng)的預(yù)測(cè)值即為所需要的預(yù)測(cè)結(jié)果。

第六步：對(duì)第五步的預(yù)測(cè)結(jié)果作反歸一化，得到混沌時(shí)序的最終預(yù)測(cè)值。

4 仿真研究

本文以Lorenz系統(tǒng)進(jìn)行仿真研究， 以驗(yàn)證本文提出方法的有效性。Lorenz混沌時(shí)序方程如下：

由C-C算法得到延遲時(shí)間的值為10，其嵌入維數(shù)m的參考值為6，分別取嵌入維數(shù)m的值為3、4、5和6，進(jìn)行相空間重構(gòu)，然后設(shè)置NARX預(yù)測(cè)模型的延遲階數(shù)為3，隱層神經(jīng)元個(gè)數(shù)為10，對(duì)Lorenz混沌系統(tǒng)的將來(lái)值進(jìn)行滾動(dòng)外推50步預(yù)測(cè)，絕對(duì)預(yù)測(cè)誤差如圖1所示。由圖1可看出當(dāng)延遲時(shí)間？子的值為10，其嵌入維數(shù)m的值為5時(shí)，其絕對(duì)預(yù)測(cè)誤差較小，標(biāo)準(zhǔn)均方根誤差值為0.78419。

重復(fù)以上過(guò)程，只是改變NARX預(yù)測(cè)模型的延遲階數(shù)和隱層神經(jīng)元個(gè)數(shù)的設(shè)置，得到一系列預(yù)測(cè)值，比較預(yù)測(cè)值的標(biāo)準(zhǔn)均方根誤差，選取最小的均方根誤差所對(duì)應(yīng)的參數(shù)值為最佳。研究結(jié)果表明，當(dāng)NARX預(yù)測(cè)模型的延遲階數(shù)設(shè)置為3，隱層神經(jīng)元個(gè)數(shù)設(shè)置為20，相空間重構(gòu)延遲時(shí)間的值為10，其嵌入維數(shù)m的值為6時(shí)，Lorenz混沌時(shí)序滾動(dòng)外推預(yù)測(cè)50步時(shí)的均方根誤差最小，其值為0.07098。為了驗(yàn)證本文方法的有效性，采用偽近鄰方法確定嵌入維數(shù)m=3和互信息方法確定延遲時(shí)間=19重構(gòu)相空間，與本文方法用同樣的NARX神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)誤差對(duì)比，證明了本文方法的預(yù)測(cè)效果較好，如表1所示。

5 結(jié)束語(yǔ)

本文結(jié)合相空間重構(gòu)和動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)NARX對(duì)混沌時(shí)序的預(yù)測(cè)進(jìn)行了研究，提出了相空間重構(gòu)優(yōu)化參數(shù)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的新方法。該方法在重構(gòu)相空間的基礎(chǔ)上利用動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)，由預(yù)測(cè)誤差綜合確定預(yù)測(cè)模型的參數(shù)設(shè)置，并反推出重構(gòu)相空間的最佳嵌入維數(shù)和延遲時(shí)間，由于在確定參數(shù)的過(guò)程中已經(jīng)進(jìn)行了預(yù)測(cè)計(jì)算，因此直接選擇最佳參數(shù)對(duì)應(yīng)的預(yù)測(cè)結(jié)果即為最終預(yù)測(cè)值。通過(guò)對(duì)Lorenz混沌系統(tǒng)的仿真，證明本文提出的方法是有效的。

參考文獻(xiàn)：

[1]馬紅光，李夕海，王國(guó)華，等.相空間重構(gòu)中嵌入維和時(shí)間延遲的選擇[J].西安交通大學(xué)學(xué)報(bào)，2004，38（4）：335-338.

[2]姚洪興，姜桂仁，耿霞.相空間重構(gòu)中參數(shù)確定方法的新探討[J].江蘇大學(xué)學(xué)報(bào)自然科學(xué)版，2005，26（s1）：82-85.

[3]陸振波，蔡志明，姜可宇.基于改進(jìn)的C-C方法的相空間重構(gòu)參數(shù)選擇[J].系統(tǒng)仿真學(xué)報(bào)，2007，19（11）：2527-2529.

[4]張春濤，馬千里，彭宏.基于信息熵優(yōu)化相空間重構(gòu)參數(shù)的混沌時(shí)間序列預(yù)測(cè)[J].物理學(xué)報(bào)，2010，59（11）：7623-7629.

[5]王一頡，韓敏.基于優(yōu)化相空間重構(gòu)的多變量混沌時(shí)間序列預(yù)測(cè)[C].中國(guó)控制會(huì)議，2007.

[6]Dulakshi S.K.Karunasinghe， Long Shieyui. Chaotic time series prediction with a global model： Artificial neural network[J]. Journal of Hydrology， 2006，323：92-105.

[7]F. Takens， in： D.A. Rand， L.S. Young ..Dynamical Systems and Turbulence[J].Lecture Notes in Mathematics， vol. 898 Springer， Berlin，1981：336.

[8]H.S.Kim， R. Eykholt， J.D.Salas. Nonlinear dynamics delay times， and embedding windows [J]. Physica D 127（1999）：48-60.

[9]秦奕青，蔡衛(wèi)東，楊炳儒.非線性時(shí)間序列的相空間重構(gòu)技術(shù)研究[J].系統(tǒng)仿真學(xué)報(bào)，2008，20（11）：2969-2973.

[10]王小川，史峰，等.MATLAB神經(jīng)網(wǎng)絡(luò)43個(gè)案例分析[M].北京：北京航空航天大學(xué)出版社，2013：354-365.