基于Elman神經(jīng)網(wǎng)絡(luò)改進(jìn)ARIMA模型的網(wǎng)絡(luò)負(fù)荷預(yù)測研究

丁春莉， 韓杏花(. 陜西交通職業(yè)技術(shù)學(xué)院, 西安 7008； . 西北農(nóng)林科技大學(xué), 楊凌 700)

基于Elman神經(jīng)網(wǎng)絡(luò)改進(jìn)ARIMA模型的網(wǎng)絡(luò)負(fù)荷預(yù)測研究

丁春莉1， 韓杏花2
(1. 陜西交通職業(yè)技術(shù)學(xué)院, 西安 710018； 2. 西北農(nóng)林科技大學(xué), 楊凌 712100)

針對ARIMA模型預(yù)測結(jié)果具有誤差大和滯后性的缺點，利用Elman神經(jīng)網(wǎng)絡(luò)的優(yōu)越的非線性逼近能力修正ARIMA模型，提出一種基于ARIMA-Elman組合模型的網(wǎng)絡(luò)負(fù)荷預(yù)測模型。選擇RMSE、MAE和MAPE作為評價指標(biāo)，研究結(jié)果表明，提出的ARIMA-Elman組合模型進(jìn)行網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)預(yù)測的精度優(yōu)于ARIMA、SVM和Elman，從而驗證了算法的優(yōu)越性和可靠性。

神經(jīng)網(wǎng)絡(luò)； 時間序列； ARIMA模型； 網(wǎng)絡(luò)負(fù)荷

0 引言

隨著互聯(lián)網(wǎng)規(guī)模的日益壯大和計算機(jī)技術(shù)的發(fā)展，網(wǎng)絡(luò)規(guī)模和復(fù)雜程度成指數(shù)級增加，使得網(wǎng)絡(luò)管理和規(guī)劃工作任務(wù)急劇增加，網(wǎng)絡(luò)故障時常發(fā)生。因此對網(wǎng)絡(luò)負(fù)荷進(jìn)行高精度預(yù)測，對網(wǎng)絡(luò)資源的管理和調(diào)度具有重要實際意義和理論價值。目前網(wǎng)絡(luò)負(fù)荷預(yù)測的方法主要有時間序列方法[1]、神經(jīng)網(wǎng)絡(luò)[2]和支持向量機(jī)[3]等。時間序列方法主要有AR模型、MA模型和ARMA模型，具有操作簡單和易于實現(xiàn)的優(yōu)點，但存在滯后性和預(yù)測誤差大的缺點。神經(jīng)網(wǎng)絡(luò)主要有RBF神經(jīng)網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)和Elman神經(jīng)網(wǎng)絡(luò)等。神經(jīng)網(wǎng)絡(luò)具有較強(qiáng)的預(yù)測能力，但存在局部最優(yōu)和收斂速度慢的缺點。

針對ARIMA網(wǎng)絡(luò)負(fù)荷預(yù)測模型存在預(yù)測精度低和誤差大的缺點，在ARIMA模型的基礎(chǔ)上，利用Elman神經(jīng)網(wǎng)絡(luò)的優(yōu)越的逼近性能對ARIMA模型進(jìn)行修正，提出一種基于ARIMA-Elman組合模型的網(wǎng)絡(luò)負(fù)荷預(yù)測模型。

1 Elman神經(jīng)網(wǎng)絡(luò)

Elman神經(jīng)網(wǎng)絡(luò)[4]由Jeffrey L.Elman于1990年提出，其是一種反饋神經(jīng)網(wǎng)絡(luò)，具有很強(qiáng)的計算能力和容錯能力。若輸入向量u為r維向量，輸出向量y為m維，隱含層輸出向量x為n維，承接層輸出向量xc為n維，w1、w2、w3分別為隱含層到輸出層、輸入層到隱含層、承接層到隱含層的連接權(quán)值。g(·)為輸出神經(jīng)元的激活函數(shù)。f(·)為隱含層神經(jīng)元的激活函數(shù)，h(·)為承接層的海派函數(shù)，net()表示某層的凈輸入，t表示迭代次序。Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，如圖1所示。

圖1 Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

Elman神經(jīng)網(wǎng)絡(luò)較BP神經(jīng)網(wǎng)絡(luò)具有更高的運行效率，其網(wǎng)絡(luò)穩(wěn)定性和訓(xùn)練速度有了進(jìn)一步的提高，通過調(diào)節(jié)Elman的網(wǎng)絡(luò)層數(shù)和神經(jīng)元個數(shù)，可以任意精度逼近任何非線性動態(tài)過程。

2 ARIMA時間序列模型

2.1 自回歸模型

若一個隨機(jī)過程可由式(1)表示[5]。

Xt=φ1Xt-1+φ2Xt-2+…+φpXt-p+μt

(1)

其中，φi(i=1,2,…,p)為自回歸參數(shù)，μt為白噪聲過程，則Xt為p階自回歸過程，可表示為AR(p)。

2.2 移動平均模型

若一個線性隨機(jī)過程，可由式(2)表示[6]。

Xt=μt+θ1μ+θ2μ+…+θqμ=

(1+θ1L+θ2L+…+θqL)μt=Θ(L)μt

(2)

其中，θ1,θ2,…,θ為回歸參數(shù)，μt為白噪聲過程，則公式(12)表示q階移動平均過程，可表示為MA(q)。

2.3 自回歸滑動平均模型

AR(p)和MA(q)的組合模型可表示為ARIMA(p,d,q)，其表達(dá)式可由式(3)表示[7]。

Xt=φ1Xt-1+φ2Xt-2+…+φpXt-p+μt+θ1μ+θ2μ+…+θqμ(3)

ARIMA模型的優(yōu)點在于不僅考察預(yù)測變量的歷史值，而且將模型的歷史數(shù)據(jù)預(yù)測結(jié)果的誤差考慮進(jìn)ARIMA模型，能夠較好地刻畫數(shù)據(jù)序列的發(fā)展趨勢。

3 ARIMA-Elman組合模型

由于網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)的非線性特點，ARIMA進(jìn)行網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)預(yù)測時會存在較大的滯后性，差分處理之后的網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)可以較好地反映原始網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)的變化趨勢，具有一定預(yù)知特性。針對ARIMA預(yù)測精度低和誤差大的缺點，利用Elman神經(jīng)網(wǎng)絡(luò)修正ARIMA模型，將ARIMA預(yù)測誤差和歷史網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)1階差分序列作為Elman神經(jīng)網(wǎng)絡(luò)的輸入，修正ARIMA模型的誤差，最后將Elman神經(jīng)網(wǎng)絡(luò)的誤差預(yù)測結(jié)果和ARIMA模型的預(yù)測結(jié)果相疊加，獲取組合模型的網(wǎng)絡(luò)負(fù)荷預(yù)測值，ARIMA-Elman組合模型的流程框圖，如圖2所示。

圖2 ARIMA-Elman組合模型

ARIMA-Elman組合模型進(jìn)行網(wǎng)絡(luò)負(fù)荷預(yù)測的流程如下：

(1) 讀取網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)；

(2) 檢驗網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)的平穩(wěn)性，若為非平穩(wěn)序列，則進(jìn)行差分處理；反之，則進(jìn)行ARIMA模型定階和識別；

(3) ARIMA模型預(yù)測，并計算ARIMA模型的預(yù)測誤差；

(4) 將網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)的1階差分序列和ARIMA模型的預(yù)測誤差作為Elman模型的輸入，ARIMA模型的預(yù)測誤差作為輸出，構(gòu)建Elman神經(jīng)網(wǎng)絡(luò)預(yù)測模型；

(5) 進(jìn)行Elman預(yù)測；

(6) 疊加ARIMA預(yù)測結(jié)果和Elman預(yù)測結(jié)果，獲取ARIMA-Elman組合模型的網(wǎng)絡(luò)負(fù)荷預(yù)測值。

4 實證分析

4.1 數(shù)據(jù)來源

為證明本文提出算法的有效性，數(shù)據(jù)來源[8-9]于http://newsfeed.ntcu.net/～news/2017/ ，選擇2017年6月7日-2017年6月21日的15天網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)為研究對象，其采樣間隔為1時，獲取360組網(wǎng)絡(luò)負(fù)荷時間序列數(shù)據(jù)，網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)，如圖3所示。

圖3 網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)

4.2 評價指標(biāo)

為了說明網(wǎng)絡(luò)負(fù)荷預(yù)測的效果，選擇平均絕對百分比誤差(mean absolute percentage error ，MAPE) 、平均絕對誤差(mean absolute error ，MAE) 和均方根誤差( root mean square error ，RMSE) 作為評價指標(biāo)，如式(3)、(4)、(5)。

(4)

(5)

(6)

4.3 預(yù)測結(jié)果

將網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)分成訓(xùn)練樣本和測試樣本，訓(xùn)練樣本303組用于建立訓(xùn)練模型，而測試樣本57組則用于驗證所建立模型的正確性，其訓(xùn)練和預(yù)測結(jié)果，如圖4—圖7所示。

(a) 訓(xùn)練結(jié)果

(b) 測試結(jié)果

圖4 ARIMA-Elman組合模型

(a) 訓(xùn)練結(jié)果

圖5 ARIMA模型

(a) 訓(xùn)練結(jié)果

圖6 Elman模型

(a) 訓(xùn)練結(jié)果

圖7 SVM模型

為了進(jìn)一步驗證組合模型的優(yōu)越性，將本文算法與ARIMA 、Elman[10]和SVM[11]進(jìn)行對比，對比結(jié)果，如表1所示：

表1 不同方法預(yù)測結(jié)果評價指標(biāo)對比

由圖4-圖7和表1對比結(jié)果可知，在RMSE、MAE和MAPE三個評價指標(biāo)上，提出的ARIMA-Elman組合模型進(jìn)行網(wǎng)絡(luò)負(fù)荷數(shù)據(jù)預(yù)測的精度優(yōu)于ARIMA、SVM和Elman，從而驗證了本文算法的優(yōu)越性和可靠性，如圖8所示。

圖8 訓(xùn)練集和測試集不同比例

由圖8可知，隨著訓(xùn)練集和測試集比例的增加，所有方法的精度呈現(xiàn)增加的趨勢，通過本文算法與GRNN、BP、MA、AR、SVM和RBF的比較發(fā)現(xiàn)，本文算法的精度最高，效果最好。

5 總結(jié)

針對ARIMA網(wǎng)絡(luò)負(fù)荷預(yù)測模型存在預(yù)測精度低和誤差大的缺點，在ARIMA模型的基礎(chǔ)上，利用Elman神經(jīng)網(wǎng)絡(luò)的優(yōu)越的逼近性能對ARIMA模型進(jìn)行修正，提出一種基于ARIMA-Elman組合模型的網(wǎng)絡(luò)負(fù)荷預(yù)測模型。通過與ARIMA、SVM和Elman模型對比發(fā)現(xiàn)，提出的ARIMA-Elman組合模型具有預(yù)測精度高和誤差點的優(yōu)點，效果較好。

[1] 申紅磊. 基于時間序列預(yù)測的異構(gòu)無線網(wǎng)絡(luò)負(fù)載均衡技術(shù)研究[D]. 上海師范大學(xué), 2015.

[2] 孟安波, 胡函武, 劉向東,等. 基于縱橫交叉算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的負(fù)荷預(yù)測模型[J]. 電力系統(tǒng)保護(hù)與控制, 2016, 44(7):102-106.

[3] 魏立兵, 趙峰, 王思華,等. 基于人群搜索算法優(yōu)化參數(shù)的支持向量機(jī)短期電力負(fù)荷預(yù)測[J]. 電測與儀表, 2016, 53(8):45-49.

[4] Li P, Li Y, Xiong Q, et al. Application of a hybrid quantized Elman neural network in short-term load forecasting[J]. International Journal of Electrical Power amp; Energy Systems, 2014, 55(2):749-759.

[5] 鄭曉天, 李寶明, 張云杰,等. 基于ZTS-SVR支持向量機(jī)算法的HTS網(wǎng)絡(luò)負(fù)載預(yù)測[C]// 衛(wèi)星通信學(xué)術(shù)年會. 2016.

[6] 曾會鋒, 劉一田. 幾種準(zhǔn)實時IT系統(tǒng)負(fù)荷預(yù)測方法比較研究——基于R語言[J]. 計算機(jī)工程與應(yīng)用, 2017, 53(9):90-96.

[7] Madhiarasan M, Deepa S N. ELMAN Neural Network with Modified Grey Wolf Optimizer for Enhanced Wind Speed Forecasting[J]. Circuits amp; Systems, 2016, 7(10):2975-2995.

[8] Lin C M, Boldbaatar E A. Autolanding Control Using Recurrent Wavelet Elman Neural Network[J]. IEEE Transactions on Systems Man amp; Cybernetics Systems, 2015, 45(9):1281-1291.

[9] 李孟剛, 周長生, 連蓮,等. 基于ARIMA神經(jīng)網(wǎng)絡(luò)的工業(yè)生產(chǎn)指數(shù)仿真研究[J]. 計算機(jī)科學(xué), 2016, 43(s2):554-556.

[10] 萬紅新, 彭云. 基于主題模型和ARIMA算法的網(wǎng)絡(luò)輿情熱點發(fā)現(xiàn)研究[J]. 科技廣場, 2016(8):17-20.

[11] 黃玲莉, 劉小龍. 基于ARIMA與BP神經(jīng)網(wǎng)絡(luò)的收視率組合預(yù)測模型[J]. 電視技術(shù), 2015, 39(9):117-121.

StudyOnNetworkLoadForecastingBasedOnElmanNeuralNetworkToImproveARIMAmodel

Ding Chunli1, Han Xinghua2
(1. Shaanxi Vocational and Technical College of Transportation, Xi'an 710018, China;2. Northwest A amp; F University, Yangling, Shaanxi 712100, China)

For the prediction results of ARIMA model has large error and the disadvantage of lag, using the nonlinear approximation capability of the Elman neural network is superior modified ARIMA model, put forward a kind of network load forecasting model based on ARIMA - Elman’s combination model.RMSE, MAE and MAPE is chosen as the evaluation index, the results show that the proposed Elman combination of ARIMA model for network load data to predict the accuracy is better than ARIMA, SVM and Elman, which verified the superiority and reliability of the algorithm in this paper.

neural network; Time series; ARIMA model; Network load

陜西交通職業(yè)技術(shù)學(xué)院院級科研項目(YJ17009)。

丁春莉(1963-)，女，臨潼人，副教授，研究方向：計算機(jī)校園信息化。

韓杏花(1964-)，女，蒲城人，理學(xué)學(xué)士，副教授，研究方向：網(wǎng)絡(luò)工程等。

1007-757X(2017)11-0065-04

TP311

A

2017.09.01)