非線性時間序列B樣條優化網絡預測模型及工業應用

孔玲爽，龔小龍，周維龍

（湖南工業大學 電氣與信息工程學院，湖南 株洲 412007）

非線性時間序列B樣條優化網絡預測模型及工業應用

孔玲爽，龔小龍，周維龍

（湖南工業大學 電氣與信息工程學院，湖南 株洲 412007）

為有效實現非線性時間序列的實時預測，建立了一種B樣條優化網絡預測模型。在網絡結構的設計中，將各個樣條基函數的權值參數和節點位置同時視為待優化的獨立變量，并選擇預測誤差平方和為評價函數，設計了一種全局優化算法，對網絡結構進行優化。工業仿真實驗結果表明，所提出的優化網絡預測模型具有較高的預測精度，而且結構簡單，待優參數少，是一種有效的非線性時間序列預測方法。

非線性時間序列；B樣條網絡；預測模型；工業過程

1　背景知識

時間序列預測問題廣泛存在于經濟、金融、氣象、氣候、環境以及工業生產等領域。時間序列是將某種統計指標的數值按時間先后順序排列所形成的數列。時間序列預測方法通過編制和分析時間序列，根據其所反映出來的發展過程、方向和趨勢，進行類推或延伸，借以預測下一段或以后若干時間可能達到的水平［1］。由于時間序列本身的隨機特性，許多預測方法都是基于統計學原理的，比如自回歸（autoregressive，AR）模型、滑動平均（moving average，MA）模型和差分自回歸滑動平均（autoregressive integrated moving average，ARIMA）模型等。這些預測方法主要適用于同方差和單變量的線性問題。盡管在許多實際應用中，線性模型基本上可行，然而近些年來，研究者越來越清楚地看到它們諸多的局限性（例如它們無法產生帶有非堆成周期的數據，它們通常是時間可逆的）?，F實問題要求人們不得不以“非線性”來看待時間序列，并不斷地改進模型。

針對時間序列的非線性建模方法主要有門限自回歸（self-exciting threshold autoregressive，SETAR）模型、雙線性（bilinear，BL）模型和指數自回歸（exponential artoregressive，EAR）模型等［2］。其中，SETAR是最簡單的一種非線性時間序列模型。

隨著智能技術的發展和優勢，人工神經網絡逐漸成為非線性時間序列預測的有效工具［3-8］。理論上，如果隱層神經元數目足夠多，人工神經網絡可以以任意精度逼近非線性系統。然而，通常的神經網絡具有多層感知，結構復雜且難于理解。為此，研究者提出一種基于網格的徑向基函數網絡來近似非線性系統，但對于如何選擇網格點沒有進一步的討論和研究。另一類人工神經網絡是模糊聯想記憶神經網絡，它采用基函數的線性組合來近似非線性系統，這類網絡的結構更容易理解。對于這類網絡，基函數有多種選擇，最常用的基函數是徑向基核函數，但徑向基核函數難以確定中心值和寬度參數［9-11］。另一類常用的基函數是B樣條基函數，它是用分段多項式來表示的函數，網絡結構為B樣條基函數的線性組合［12-13］。在B樣條網絡的結構設計中，節點的選擇對于網絡的預測精度非常重要。但在大多數研究中，由于理論的缺乏，節點往往被預先設定，或者當近似精度不能滿足要求時，均勻地增加節點，這2種方法都不能實現節點的最優設置，所以網絡的近似精度往往不如人意［14-15］。

本文擬采用一種節點優化B樣條神經網絡實現某冶金過程非線性時間序列參數的預測。該網絡將B樣條基函數的節點視為獨立決策變量，在網絡訓練過程中，與網絡參數一起優化；為避免優化過程陷入局部最小，設計了一種隨機優化算法進行全局尋優計算。仿真結果表明，在具有相同精度的條件下，與徑向基核函數網絡相比，B樣條優化網絡具有更簡單的結構和更低的計算成本。

2　B樣條函數

B樣條函數是一個分段多項式，它可表示為B樣條基函數的線性組合。為了簡單，本研究先討論一維樣條函數。

式中k和m均為正整數。

這樣，在［a， b］上，m階的標準樣條基函數可表示為i，m，i=-m+1， -m+2， …， k。其定義為

對于任意m≥1，B樣條基函數滿足：

實質上，基函數是對單位1的一種分割，即有

當m≥3時，基函數在（-∞， +∞）上是光滑的。

這樣，一個m階的一維B樣條函數 （x， x）定義為基函數的線性組合，即：

式中ci是待定常數，其中i=-m+1，-m+2，…， k。

3　非線性時間序列B樣條優化網絡

設有一非線性時間序列｛y1， y2， …， yn｝，有

式中：n+1為預測誤差；

f（·）為預測函數。

時間序列預測問題就是如何構建預測模型f（·）使其能夠利用過去的時間序列數據預測現在或將來的結果。在這里，采用多維B樣條函數網絡逼近f（·）。一個n維B樣條網絡函數f（·）可以用式（2）和式（3）的一維樣條基函數的張量積表示，即

X=（x1， x2， …， xn）為節點矩陣；

sj（j=1， 2， …， n）為第j維變量值域內的值。

在現有大多數的研究中，式（6）的網絡結構都是被預先設定，也就是說，各維變量的節點xj是預先設定好的。在訓練網絡過程中，僅將視為變量，這種被預先固定結構的B樣條網絡性能往往是不理想的。為了優化網絡結構，將網絡（6）中的xj和同時視為決策變量，并進行全局尋優，獲得一種帶有優化節點的樣條網絡結構。算法步驟如下。

1）選定一組序列 ｛ y1， y2， …， yn， yn+1， … ， yN｝，令，在超立方體［a， b］n上， 隨機初始化節點矩陣X ；給定一個常數 c，隨機初始化

2）選定最大優化次數M，令M0=0，初始化1個小正數=random（-1， 1）。

3）根據式（5）計算預測誤差的平方和，即

4　工業仿真實驗

為檢驗模型的有效性，采用某冶金配料過程的數據進行仿真驗證。在該配料過程中，由于生產條件和檢測技術的限制，原料質量參數無法在線檢測，只能進行離線分析，檢測結果非常滯后，無法及時指導生產。但這些滯后的檢測數據是按時間順序排列的，構成了時間序列，因此，如何利用這些時間序列進行原料質量參數的實時預測非常有意義。在該工業仿真實驗中，對一種原料中氧化鈣和氧化硅的百分含量進行預測，分別取200組數據點訓練網絡。其中，樣條基函數為三階，即m=3；網絡為二維，即n=2；在訓練過程中，設定M=10 000。網絡訓練完成后，另取50組數據驗證模型的泛化能力，如圖1和圖2所示。從2個圖中可以看出，預測結果非常接近實際值，說明了模型的有效性。

圖1　氧化鈣含量預測結果Fig. 1　Prediction results of calcium oxide content

圖2　氧化硅含量預測結果Fig. 2　Prediction results of sodium oxide content

為進一步評價方法的性能，將所提出的網絡和徑向基函數網絡進行比較，結果如表1所示。表1中采用預測值與實際值的最大相對誤差和均方根誤差作為評價指標，可看出所提出網絡的2種誤差明顯小于徑向基網絡的誤差，說明其具有較好的預測效果。

表1　2種網絡預測性能比較Table 1　Prediction performance comparison of 2 kinds of network %

5　結語

本文將一種B樣條優化網絡用于非線性時間序列預測，該網絡在參數優化中，結構也同時被優化，克服了結構固定網絡的不足。工業應用仿真實驗結果表明，所提出的優化網絡具有較好的泛化能力，且結構簡單，優化參數少，是一種有效的非線性時間序列預測方法。

［1］張美英，何杰. 時間序列預測模型研究綜述［J］. 數學的實踐與認識，2011，41（18）：189-195. ZHANG Meiying，HE Jie. Summary on Time Series Forecasting Model［J］. Mathematics in Practice and Theory，2011，41（18）：189-195.

［2］張滸. 時間序列短期模型研究與應用［D］. 武漢：華中科技大學，2013. ZHANG Hu. The Research and Application of Short-Term Forecasting Model for Time Series［D］. Wuhan：Huazhong University of Science and Technology，2013.

［3］牛家洋. 基于神經網絡的非線性系統時間序列的預測方法研究［D］. 濟南：山東師范大學，2013. NIU Jiayang. Forecast Method Research of Nonlinear System Time Series Based on Neural Network［D］. Jinan：Shandong Normal University，2013.

［4］李哲敏，許世衛，崔利國，等. 基于動態混沌神經網絡的預測研究：以馬鈴薯時間序列價格為例［J］. 系統工程理論與實踐，2015，35（8） ：2083-2091. LI Zhemin，XU Shiwei，CUI Liguo，et al. Prediction Study Based on Dynamic Chaotic Neural Network：Taking Potato Time-series Prices as an Example［J］. System Engineering-Theory & Practice，2015，35（8）：2083-2091.

［5］張大斌，李紅燕，劉肖，等. 非線性時間序列的小波-模糊神經網絡集成預測模型［J］. 中國管理科學，2013，21（S2）：647-651. ZHANG Dabin，LI Hongyan，LIU Xiao，et al. A Integrated Prediction Method of Wavelet-Fuzzy Neural Network for Nonlinear Time Series［J］. Chinese Journal of Management Science，2013，21（S2）：647-651.

［6］楊娟麗，徐梅，王福林，等. 基于BP神經網絡的時間序列預測問題研究［J］. 數學的實踐與認識，2013，43（4）：158-164. YANG Juanli，XU Mei，WANG Fulin，et al. Research Based on BP Neural Netword Time Series Forecastin［J］. Mathematics in Practics and Theory，2013，43（4）：158-164.

［7］洪嘉灝，李雄英，王斌會. 基于人工神經網絡和隨機游走模型的匯率預測［J］. 經濟數學，2016，33（1）：30-35. HONG Jiahao，LI Xiongying，WANG Binhui. Exchange Rate Forecast Based on Artificial Neural Network and Random Walk Model［J］. Journal of Quantitative Economics，2016，33（1）：30-35.

［8］宋怡霖，陳新楚，鄭松. 對角遞歸神經網絡在控制系統中的應用現狀分析［J］. 電氣傳動和自動控制，2016，38（2）：41-43，68. SONG Yilin，CHEN Xinchu，ZHENG Song. An Analysis on the Status of Application of Diagonal Recurrent Neural Network in Control Systems［J］. Electric Drive & Automatic Control，2016，38（2）：41-43，68.

［9］佩世鑫，李仲怡，催芬萍，等. 基于RBF人工神經網絡的X級以上太陽耀斑預報研究［J］. 西北師范大學學報（自然科學版），2014，50（6）：26-32. PEI Shixin，LI Zhongyi，CUI Fenping，et al. A Study of the Prediction for X-Class and Above Flares Based on RBF Artificial Neural Network［J］. Journal of Northwest Normal University（Natural Science），2014，50（6）：26-32.

［10］李光，楊韻. 基于RBF神經網絡的柔性機械臂位置控制［J］. 湖南工業大學學報，2014，28（3）：41-46. LI Guang，YANG Yun. Flexible Manipulation Position Control Based on RBF Neural Network［J］. Journal of Hunan University of Technology，2014，28（3）：41-46.

［11］陳帝伊，柳燁，馬孝義. 基于徑向基函數神經網絡的混沌時間序列相空間重構雙參數聯合估計［J］. 物理學報，2012，61（10）：22-31. CHEN Diyi，LIU Ye，MA Xiaoyi. Parameter Joint Estimation of Phase Space Reconstruction in Chaotic Time Series Based on Radial Basis Function Neural Networks［J］. Acta Physica Sinica，2012，61（10）：22-31.

［12］張浩，張代遠. 基于三次樣條權函數神經網絡的股價預測［J］. 計算機技術與發展，2014，24（6）：28-31. ZHANG Hao，ZHANG Daiyuan. Stock Prediction Based on Neural Networks with Cubic Spline Werght Functions［J］. Computer Technology and Development，2014，24（6）：28-31.

［13］王世東，王煥寶. 基于SOM網絡的三次B樣條曲線重建［J］. 計算機工程與應用，2012，48（15）：192-244. WANG Shidong，WANG Huanbao. Cubic B-Spline Curve Reconstruction Based on SOM［J］. Computer Engineering and Applications，2012，48（15）：192-244.

［14］YIU K F，WANG S，TEO K L，et al. Nonlinear System Modeling Via Knot-Optimizaing B-Spline Networks［J］. IEEE Transaction on Neural Networks，2001，12（5）：1013-1022.

［15］WANG S，SHAO Q，ZHOU X. Knot-Optimizing Spline Networks（KOSNETS） for Nonparametric Regression［J］. Journal of Industrial & Management Optimization，2008，4（1）：33-52.

（責任編輯：申劍）

An Optimized Model Based on Nonlinear Time Series for B-Spline Networks Prediction and Its Industrial Application

KONG Lingshuang，GONG Xiaolong，ZHOU Weilong
（School of Electrical and Information Engineering，Hunan University of Technology，Zhuzhou Hunan 412007，China）

An optimizing model for B-spline networks prediction has been proposed for the effective realization of the real-time prediction based on nonlinear time series. A global optimization algorithm has been adopted for the optimization of the design of the network structure， with the weight parameters and node location of spline functions synchronous independent variables to be optimized. The industrial simulation results show that the proposed optimized model for networks prediction has a relatively higher prediction accuracy. With its structure much simpler and less parameters to be optimized， this is an effective prediction method based on nonlinear time series.

nonlinear time series；B-spline networks；prediction model；industrial process

TP274

A

1673-9833（2016）03-0082-04

10.3969/j.issn.1673-9833.2016.03.015

2016-03-27

國家自然科學基金資助項目（61203136），湖南省自然科學基金資助項目（2015JJ5025）

孔玲爽（1979-），女，河北邢臺人，湖南工業大學副教授，博士，主要從事復雜工業過程建模與優化控制方面的研究，E-mail：konglingsh@126.com

周維龍（1978-），男，湖南邵陽人，湖南工業大學講師，碩士，主要研究方向為無線傳感器網絡與嵌入系統設計，E-mail：604085429@qq.com