基于最小二乘法的BP神經網絡在極端溫度預測模型中的應用

牛志娟,胡紅萍

(中北大學 理學院,山西 太原 030051)

基于最小二乘法的BP神經網絡在極端溫度預測模型中的應用

牛志娟,胡紅萍

(中北大學 理學院,山西 太原 030051)

摘要：指出了極端溫度預測問題受到多種因素的共同影響,具有非線性和高度復雜性。為了提高非線性時間序列在預測模型中的準確性,提出了一種利用最小二乘法優化的BP神經網絡預測方法。該方法通過采用最小二乘法對數據樣本集進行擬合,用BP算法進行優化,構建了兩者結合的預測模型。應用1989～2009年的密云市溫度數據資料,分別建立了基于最小二乘優化的BP神經網絡和單一BP神經網絡模型,并對預測結果進行了分析對比。結果表明:最小二乘法優化的BP神經網絡具有更好的泛化能力,對平均最低溫度的預測更加穩定,預測精度高于單一的BP神經網絡。該模型可以對氣候變化中氣候變化中的平均最低氣溫具有較好的預測能力。

關鍵詞：BP神經網絡;最小二乘法;極端溫度;預測

收稿日期：2015-09-08

基金項目：國家自然科學基金項目(編號:61275120)資助

作者簡介：牛志娟(1988—)，女，河南開封人,中北大學理學院碩士研究生。

通訊作者：胡紅萍(1988—),女,山西靈石人,博士后,副教授,主要從事數學在工程中的應用研究。

中圖分類號：O29

文獻標識碼：A

文章編號：：1674-9944(2015)11-0017-03

Abstract:The prediction of extreme temperature is affected by many factors,which has nonlinearity and high complexity.In order to improve the accuracy of nonlinear time series in the prediction model,the article proposes a BP neural network prediction method which is optimized by least squares method.This method builds a combination forecasting model by using the least square method for fitting sample data set and using BP algorithm for optimizing.Taking the temperature data of Miyun from 1989 to 2009 as data source,the article establishes the BP neural network model based on least squares optimization and the single BP neural network model respectively.Then the article analyzes and compares the forecasting results.The results show that the BP neural network model which is optimized by the least squares exhibits better generalization ability than single BP neural network model.The forecast of average minimum temperature is more stable by the BP neural network model which is optimized by the least squares and the prediction accuracy is higher than that by single BP neural network model.The developed model can be expected to predict the average minimum temperature in the climate change with high predictive ability.

1引言

氣候變化對人類健康和農業經濟起著重要作用[1],溫度的變化是重要的影響因素之一,對溫度準確性預測的研究具有重要的科學實際意義。極端溫度是一段時間內某一地區達到的最低和最高溫度，對人類健康有重要影響，影響極端溫度的因素包括：降水量、平均氣溫、降水距百分率等。目前氣候預測主要是運用基本的物理過程通過數學方程式表達構成數學模式進行預測研究[2],這些傳統的線性模型對非線性的時間序列預測很難有較好的預測精度。近年來,人工神經網絡廣泛應用于氣象預測領域中,并取得良好的預測效果[3]。在預測問題時采用單一的模型不能全面客觀地預測出系統的運行情況。因此,需要選用其它預測模型來反映系統的運行。將神經網絡和最小二乘法二者結合起來可以彌補最小二乘法的不足,充分利用了二者的優點對未來的平均最低溫進行精確預測。同時,將神經網絡預測與最小二乘法有效地結合起來,能很好地解決非線性系統問題。通過 實證分析,結果表明：最小二乘法的BP神經網絡模型預測結果明顯優于單一BP神經網絡,既能更接近預測精度的要求又提高了訓練速度,可以有效用于氣候變化中氣溫的預測。

2最小二乘法原理

最小二乘法(又稱最小平方法)是一種數學優化技術。它通過最小化誤差的平方和尋找數據的最佳函數匹配。利用最小二乘法解決如何從一組測量值中尋求可信賴值得問題,使得這些求得的數據與實際數據之間誤差的平方和為最小。最小二乘法還可用于曲線擬合。使得這條擬合曲線上的各點的值與測量值的差的平方和在所有擬合曲線中最小。

研究物理量和一個變量x1,x2,Lxi間的依賴關系式為:

y=f(x1,x2,Lxi;a0,a1,Lan)

(1)

最小二乘法又稱曲線擬合,所謂“擬合”是求一條曲線使數據點離曲線上下方的不遠處點。將實測值與計算值得離差的平方和最小為“優化判據”。

3BP神經網絡的基本原理

人工神經網(Artificial Neural Network-ANN),是通過對人腦結構及其信息處理方式的算法數學模型,是基于模仿大腦神經網絡功能而建立的一種信息處理系統。人工神經網絡是由大量簡單的神經元互相連接而成的非線性動態系統網絡。在理論上能逼近任意非線性映射。目前BP神經網絡是應用最廣泛的網絡模型之一[4]。它是一種反向傳播算法訓練的多層前饋網絡該模型具有高度的非線性,能夠進行復雜的邏輯操作和非線性關系實現的系統模型[5],與其它傳統模型相比,能更好地應用于氣象要素的分析和預測。

三層誤差反向傳播算法(Back Propagation,BP)模型是氣象預測中最為常用的模型,是由一個輸入層為N節點、隱含層有M個節點、輸出層為P個節點組成的BP神經網絡結構圖,詳見圖1。

BP神經網絡的隱含層節點數對BP神經網絡預測精度有較大的影響:節點數太少,網絡就不能很好地學習,需要增加訓練次數,訓練精度就受到影響;節點數太多,訓練時間增加則網絡就易擬合。最佳隱含層節點數選擇選擇范圍如下公式[6]:

l

(2)

(3)

l=log2n

(4)

式中,n為輸入層節點數;l為隱含層節點數;m為輸出層節點數;a為0～10之間的常數。在實際問題中,隱含層節點數首先參考公式確定范圍,然后再選用試湊法確定最佳節點數。一般來說,BP神經網絡的分類誤差會隨著隱含層節點數的增加呈現先減少后增加的趨勢。

BP人工神經網絡使用優化中最簡便的最小二乘法把輸入和輸出樣本問題作為非線性優化問題來處理,用迭代算法求解網絡權值,并通過調節隱節點的方法增加優化參數,從而使得更可能得到精確解。BP算法求解函數最優問題如下:

(5)

(6)

4基于最小二乘法的BP神經網絡在月平均最低溫度的預測方法

采用最小二乘法與BP神經網絡相結合方法來預測月平均最低溫度,需選取的數據樣本集進行直線擬合,然后用BP算法進行優化,最后將得到的數據樣本集進行作為BP神經網絡模型的輸入進行訓練預測。最小二乘法的擬合過程是根據BP神經網絡模型及最小二乘法理論得知,預測溫度的時間序列x={xi/i=0,1,2,Lm},實際上是用已知{xk,xk-1,Lxk-n+1}來求xk+1。首先對原始輸入數據進行歸一化處理[7],將數據轉化成[0,1]區間的值,歸一化公式:

(7)

5模型的應用及預測結果分析

本文選取1989～2009年密云市月平均最低氣溫資料作為網絡的學習訓練樣本,建立與最低氣溫相關的6個因子組成的前期平均氣溫時間序列,作為神經網路的輸入,然后以2010年3～9月平均最低氣溫數據作為預測樣本,分別利用單一的BP神經網絡和基于最小二乘法的BP神經網絡訓練和預測,預測結果分別如圖2和如圖3所示。

圖2、圖3中的兩條預測線分別代表數據的預測輸出(虛線)及期望輸出(實線)。可以看出,圖2中第一個點和最后一個點的預測值和期望值偏差較為明顯,而圖3中的兩條曲線走勢基本趨于吻合。因此,基于最小二乘法的BP神經網絡對溫度的預測較于單一的BP網絡的預測精度。

表1給出的2010年密云市月平均最低溫度的最小二乘法的BP模型和單一的BP預測數據的對比。由表1可以看出,單一的BP神經網絡模型9月份的預測值與實測值之間誤差最大,基于最小二乘法的BP神經網絡模型對相同數據進行預測的整體效果高于單一BP神經網絡,BP神經網絡的平均相對誤差為5.1232%。然而最小二乘法的BP神經網絡的平均相對誤差為2.1559%。預測精度較優于單一BP神經網絡。

表1　2010年密云市月平均最低溫度的最小二乘法的BP模型和單一的BP預測數據的對比

6結語

文中利用BP神經網絡基本原理與最小二乘法結合的方法構建網絡模型,對極端溫度進行預測,將非線性轉化成線性優化方法,采用最小二乘法計算網絡權值,避免了傳統BP網絡在訓練過程中易陷入網絡局部極小問題。實驗結果表明,在預測月平均最低溫度時,最小二乘法優化過的BP神經網絡的預測精度比單一的BP網絡精度高,同時該方法也降低了預測方法的復雜性。本文所用模型的擬合和預報精度均優于單一的BP神經網絡的預測誤差和精度,能更好地滿足預測的實際需求。

參考文獻：

[1] 智協飛,伍清,白永清,等.基于IPCC-AR4模式資料地面氣溫超級集合預測[J].氣象科學,2010,30(5):708～714.

[2] 劉國光,茅寧.氣溫隨機模型與我國氣溫期權定價研究[J].數理統計與管理,2008,27(6):959～967.

[3] S S Yang,X H Hua,R Jiang,at al,New optimal weight combination model for forecasting precipitation[J].Mathematical Problems in Engineering,2012:1～13.

[4] 賀艷輝,袁永明,張紅燕,等.BP人工神經網絡在羅非魚價格預測中的應用[J].安徽農業科學,2010,38(35):20443～20445.

[5] 王芳,涂春麗,勾永堯.基于Elman神經網絡的氣溫預測研究[J].安徽農業科學,2011,39(33):20859～20860.

[6] 王小川,史峰,郁磊,等.MATLAB神經網絡43個案例分析[M].北京:北京航空航天大學出版社,2011:8～19.

[7] 叢爽.面向 MATLAB工具箱的神經網絡理論與應用[M].合肥:中國科技大學出版社,1998:84～89.

[8] 季剛,姚艷,江雙五.基于徑向基神經網絡的月降水量預測模型研究[J].計算機技術與發展,2013,23(12).

[9] 李倩,周彬倩,張建成,等.基于自適應差分進化和BP神經網絡的光伏功率預測[J].陜西電力,2014,42(2):1672～7598.

[10] 紀廣月.基于灰色關聯分析的BP神經網絡模型在中國碳排放預測中的應用[J].數學的實踐與認識,2014,44(14):243～24.

Application of BP Neural Network in Extreme Temperature Prediction

Model Based on Least Square Method

Niu Zhijuan,Hu Hongping

(SchoolofScience,NorthUniversityofChina,Taiyuan030051,China)

Key words:BP neural network;least square method;extreme temperature;prediction