基于LM遺傳神經網絡的短期股價預測

郭建峰，李 玉，安 東

(1.西安郵電大學,陜西 西安 710121;2.英國雷丁大學，雷丁 RG6 6AH)

基于LM遺傳神經網絡的短期股價預測

郭建峰1,2，李 玉1，安 東1

(1.西安郵電大學,陜西 西安 710121;2.英國雷丁大學，雷丁 RG6 6AH)

隨著人工智能的不斷發展，BP神經網絡作為其中一種重要的技術，被廣泛應用在股票預測領域。BP神經網絡有很強的非線性逼近能力、自學習自適應等特性，故非常適合解決股價預測中的一些復雜問題。但其在實際的應用過程中還存在一些問題導致其不能很好地進行預測，如網絡收斂速度比較慢和容易產生局部最優值等缺點。針對BP神經網絡自身存在的這些不足，提出了一種改進的BP神經網絡算法。就是通過LM算法改進BP神經網絡里的梯度下降法并用遺傳算法優化網絡參數，即網絡的初始權值和閾值，從而提高了網絡的收斂速度和搜索全局最優值的能力。用改進后的網絡對股票短期價格進行仿真測試，結果表明，改進后的BP神經網絡模型有著更快的收斂速度和更高的精確性。

人工智能；BP神經網絡；LM算法；遺傳算法；股票短期價格預測

0 引 言

隨著國內金融業的改革和深入發展，尤其是股票這樣一種蘊含潛力和經濟利益的金融產品為越來越多的人所關注。股票預測也隨之成了一門非常熱門的課題。股票投資者在進行股票投資活動時，需要時刻對股票市場進行觀測，以便對股價的走勢進行預測，從而最大限度地降低風險，增加收益。研究者們通過對股票市場進行長期觀察和研究，同時將各種統計學和概率論的方法應用于股票市場[1]，從而建立了一些傳統的預測模型，如：VAR模型(向量自回歸模型)、ARM模型(自回歸滑動平均模型)、ARCH模型(自回歸條件異方差模型)、多元回歸模型、指數平滑模型等[2-4]。這些理論基礎比較成熟，并且大多都基于基本的理論，對股票市場的熟悉程度和經驗要求較高。其共同的特點都是基于對數據序列的主觀模型，然后根據主觀的模型和經驗進行預測，所以在預測的精度和穩定度方面沒有保障，且不具備自適應和自學習的能力。然而，股票市場作為一種復雜系統，受到問題的動態非線性、數據的高噪音、人為操控、政策干預等多種因素的影響，并且各因素相互之間的影響機理也相當復雜[5]。因此，利用傳統方法對股票價格進行預測難度很大。

近年來，隨著人工智能(Artificial Intelligence,AI)領域研究的不斷發展，越來越多的研究者采用人工神經網絡建立預測模型對股價進行預測，并取得了較好的預測效果[6]。神經網絡由大量的神經元相互連接成為復雜的網絡模型，是對人腦的模擬抽象。神經網絡具有并行處理、自組織和自調節的能力，是一種高度復雜的非線性系統，很適合處理股價預測中的多因素、非線性動態的不確定性信息處理問題[7]。但是在實際應用過程中，該算法也存在一定的局限性，如易陷入局部極值點、收斂速度慢等問題[8]，使得該算法只能對較小規模的問題進行求解，并且得到的極有可能是局部最優解，從而限制了BP(Back Propagation)神經網絡算法在股票短期價格預測中的應用。

為了使神經網絡能夠更好地應用于股票短期價格預測，采用LM(Levenberg-Marquardt)算法優化BP神經網絡的梯度下降法，并用遺傳算法(Genetic Algorithm，GA)優化BP神經網絡的初始權值和閾值。

1 傳統BP神經網絡

標準的BP神經網絡的拓撲結構由三層組成，包括有輸入層、隱含層(也稱為中間層)和輸出層，如圖1所示。

圖1 三層BP網絡結構

同層節點之間不存在相互連接，層與層之間多采用全互聯方式，且各層的連接權值可調，輸入層和輸出層節點根據實際情況而定，隱含層節點數由下式確定：

(1)

其中，n0表示隱含層節點數；ni表示輸入層節點數；nk表示輸出層節點數[9]。

BP網絡的學習過程是由工作信號的正向傳播和誤差信號的反向傳播組成。正向傳播是由輸入層開始逐層計算各層神經元的凈輸入和輸出，誤差信號的反向傳播是由輸出層開始逐層計算各層神經元的輸出誤差，采用的是梯度下降法，調整各層之間的連接權值使得樣本誤差減小，使實際輸出接近期望值。

BP神經網絡具體計算步驟如下：

(2)初始化神經網絡。隨機產生輸入層與隱含層及隱含層與輸出層的權重矩陣vij和wjk及隱含層和輸出層節點的閾值θi和θk。

(2)

(4)計算輸出層的輸出：

(3)

(5)計算神經網絡的輸出誤差：

(4)

(6)如果上式得出的誤差大于預定誤差，則通過梯度下降法修改網絡各層的連接權值與閾值，權值修正量分別為：

(5)

(6)

(7)

BP神經網絡作為最具有特點的多層前饋人工神經網絡，具有較強的線性逼近非線性映射特性，容錯性也不錯。但由于BP算法本身采用梯度下降法修改權值，極易陷入局部最優值，并且收斂速度較慢。故文中采用LM算法對BP算法進行改進。

2 傳統BP神經網絡的改進

LM算法屬于最優化算法，是使用最廣泛的非線性最小二乘算法。它在搜索的過程中同時具有梯度法和牛頓法的優點，使其每次迭代的過程中不再單一地沿著負梯度的方向，而是讓誤差可沿著上升的方向進行搜索，使目標不易陷入局部最優解[10]。同時通過梯度下降法和高斯牛頓法之間的自適應調整來優化網絡權值，提高網絡的收斂速度[11]。具體步驟如下：

(1)給定初始值X(0)、誤差標準ε。

(2)求目標函數值fi(X(k)),i=1,2,…,m，即fi(X(k))=[f1(X(k)),f2(X(k)),…,fm(X(k))]。

(4)解下列線性方程組，求得梯度搜索方向d(k)。

[J(X(k))TJ(X(k))+μkI]d(k)=-J(X(k))Tf(X(k))

(5)搜索X(k+1)=X(k)+δkd(k)。其中，δk滿足：

F(X(k)+δkd(k))=minF(X(k)+δkd(k))

(6)若‖X(k+1)-X(k)‖<ε，則搜索成功；否則轉向下一步。

(7)若F(x(k+1))

LM用于修正BP算法的梯度下降法，在與BP神經網絡的結合中，其權值的修正公式為：

Wij(t+1)=Wij(t)-(JTJ+μI)-1JTe

(8)

其中，Wij(t+1)為t+1次迭代時網絡的權值；Wij(t)為第t次迭代時網絡的權值;J為誤差對權值微分的Jacobian矩陣；μ為取值大于零的常量，可以自適應調節，其值很大時，式(8)接近梯度法，很小時，式(8)接近高斯牛頓法；I為單位矩陣；e為誤差向量

梯度下降法每次迭代沿著負梯度方向進行，起初誤差下降較快，但隨著目標逐漸靠近最優值時梯度也接近于零，導致目標函數下降很慢。而牛頓法可在目標靠近最優值時提供一個理想的搜索方向。LM法將二者進行有效結合，大大加快了收斂速度。

3 LM-BP神經網絡的優化

遺傳算法是一種借鑒生物界自然選擇和遺傳機制的隨機搜索算法，采用群體搜索策略[12]。其思想來源于生物遺傳學中適者生存的自然法則，通過群體中個體之間的信息交換，使得本身具有較強的全局搜索能力。將遺傳算法與BP神經網絡相結合，尋找BP網絡的初始權值和閾值，這樣能將搜索范圍擴至全局，使算法快速高效[13]。遺傳算法優化神經網絡權值的過程如下：

(1)初始化種群的生成：初始化種群大小、遺傳代數、交叉概率和變異概率。

(2)編碼：對隨機產生的連接權值和閾值進行編碼，文中采用實數編碼方法。

(3)適應度函數計算和選擇：以每個樣本的誤差函數值的倒數作為適應度函數值，選擇適應度大的個體進入下一代。

(4)交叉：對從步驟(3)中選出的個體用一定的交叉概率執行部分基因交換產生新個體。

(5)變異：隨機挑選對交叉后的個體，讓其子代基因產生小概率的變化來保持群體多樣性。

(6)算法結束：完成了預定的進化代數或者種群中的最優個體在連續的若干代中沒有改進，則輸出新種群中適應度最大的個體作為最優解，算法終止。否則返回步驟(3)繼續計算。

GA-BP具體實現流程如圖2所示。

圖2 GA-BP流程圖

文中用實數編碼對BP神經網絡的初始權值和閾值按照一定的順序進行編碼，可以提高解的精準度，且不需要編解碼[14]。編碼后的總長度即為所有權值和閾值個數之和，即S=R*S1+S1*S2+S1+S2。其中，R為輸入層節點個數，S1為隱含層節點個數，S2為輸出層節點個數。

編碼完成后系統會計算個體適應度，文中將輸入輸出的相對誤差平方和作為適應度函數,即:

fitness=1/(SE+1)

(9)

其中，SE為誤差平方和。

(10)

一般情況下，SE

4 實驗結果分析

4.1 仿真條件

為了說明LM-GA改進的BP神經網絡對股票預測的效果，分別對BP、LM-BP和GA-LM-BP三種預測模型進行對比實驗。

BP神經網絡采用三層拓撲結構，輸入層神經元個數為15，隱含層神經元個數為7，輸出層神經元個數為1。BP神經網絡參數設置為：訓練次數為3 000，訓練目標為1.0e-003，學習率為0.3，動量因子為0.95。遺傳算法參數設置為：初始種群規模為40，進化代數為200，選擇時的交叉率為0.61，變異率為0.08。

為了減少不同因子之間由于數據大小差異的不同所引起的誤差，在學習之前需要對數據進行歸一化處理。文中采用premnmx對數據進行處理，處理后數據在[-1，1]范圍內均勻分布，函數的一般格式為：

[XT,minx,maxx]=premnmx(X)

(11)

其中，X為原始輸入樣本；XT為歸一化后的樣本；minx和maxx分別為X的最小值和最大值。

4.2 實測股票價格時間序列的預測分析

仿真實驗中的數據來自wind金融終端，利用滬深300期貨的成交價格數據作為實驗數據，采樣區間為2014年12月17日-2015年3月6日，頻度為每日的1 min高頻數據，共5 421個有效樣本，其中包括4 000個學習樣本和1 421個檢測樣本。分別采用BP、LM-BP與GA-LM-BP進行預測，結果如圖3所示。圖中為每隔100 min提取的觀測值。

圖3 預測結果對比圖

滬深300期貨的誤差統計特性見表1；不同算法的運行過程對比見表2。

表1 滬深300期貨的誤差統計特性表(單位：點)

表2 不同算法的運行過程對比

從圖3、表1和表2中可以看出，GA-LM-BP與其他兩種算法相比，在預測的準確性、穩定性及收斂速度方面都有改善，尤其針對傳統的BP神經網絡，性能得到了較大的提升。

5 結束語

股票市場是一個復雜多變的系統，確立一個有效的系統來預測股價的走向是一個難題。BP神經網絡具有良好的線性逼近能力，在股票預測中具有很大的潛力。但是BP神經網絡本身存在過擬合現象和易陷入局部最小值的問題，導致其預測效果較差。

針對BP神經網絡的上述問題，提出用LM算法進行改進，然后引入遺傳算法優化BP神經網絡的初始權值和閾值。文中主要使用LM-BP和GA-LM-BP模型，對滬深300期貨的成交價格進行了預測。實驗結果表明，遺傳算法優化的LM-BP模型在迭代時間和次數方面都要優于LM-BP模型。GA-LM-BP收斂速度加快，克服了易陷入局部最優解的缺點，在具體的股價預測分析中的可行性更高。

[1] 劉雁鳴,曾 華.概率統計分布對股票管理分析研究[J].價值工程,2013,32(7):314-315.

[2] Nwogugu N.Further critique of GARCH/ARMA/VAR/EVT stochastic-volatility models and related approaches[J].Applied Mathematics and Computation,2006,182(2):1735-1748.

[3] Maia A L S,Carvalho F D A T D.Holt's exponential smoothing and neural network models for forecasting interval-valued time series[J].International Journal of Forecasting,2011,27(3):740-759.

[4] Xiang C,Fu W M.Predicting the stock market using multiple models[C]//9th international conference oncontrol,automation,robotics and vision.[s.l.]:[s.n.],2006.

[5]LeeYJ,ChoHG,WooG.Analysisonstockmarketvolatilitywithcollectivehumanbehaviorsinonlinemessageboard[C]//Internationalconferenceoncomputerandinformationtechnology.[s.l.]:IEEE,2014:482-489.

[6]YangL,WangQ.PredictingthestockpricebasedonBPneuralnetworkandbigtransaction[C]//9thinternationalconferenceonfuzzysystemsandknowledgediscovery.Chongqing,Sichuan,China:[s.n.],2012.

[7] 任康平.建筑經濟管理中神經網絡的應用[J].城市建設理論研究,2014(22):3801-3802.

[8]LiX,QiB,WangL.AnewimprovedBPneuralnetworkalgorithm[C]//Secondinternationalconferenceonintelligentcomputationtechnologyandautomation.[s.l.]:[s.n.],2009.

[9] 張 鵬,崔文利.基于粗糙集優化神經網絡結構的啟發式算法[J].控制工程,2009,16(1):42-45.

[10]BehlingR,FischerA,HerrichM,etal.ALevenberg-Marquardtmethodwithapproximateprojections[J].ComputationalOptimizationandApplications,2014,59(1):5-26.

[11] 史步海,朱學峰.LMBP神經網絡改進算法的研究[J].控制工程,2008,15(2):164-167.

[12] 劉國靖,康 麗,羅長壽.基于遺傳算法的主題爬蟲策略[J].計算機應用,2007,27:172-174.

[13]LiF,LiuC.ApplicationstudyofBPneuralnetworkonstockmarketprediction[C]//Ninthinternationalconferenceonhybridintelligentsystems.[s.l.]:[s.n.],2009:174-178.

[14] 張希影.基于遺傳算法優化的BP神經網絡股票價格預測[D].青島：青島科技大學,2014.

Prediction for Short-term Stock Price Based on LM-GA-BP Neural Network

GUO Jian-feng1,2,LI Yu1,AN Dong1

(1.Xi’an University of Posts & Telecommunications,Xi’an 710121,China; 2.University of Redding，Redding RG6 6AH,UK)

With the development of artificial intelligence,BP neural network,as one of the important technology,is widely used in stock prediction.The neural network,which has the capabilities of non-linear approach,self-learning and self-adaption,is very suitable for solving some complex problems in the stock market.But there are many problems in practical applications result in its poor prediction,such as low convergence speed and local minimum.In order to deal with the defects,an improved BP neural network is proposed by using Levenberg-Marquardt (LM) algorithm to improve the gradient descent in BP neural network and Genetic Algorithm (GA) to optimize the network’s initial weights and thresholds.It enhances the convergence speed of the algorithm and the ability to search the global optimization.The model is simulated on short-term stock price prediction and the results indicate that the improved BP model has high convergence speed and accuracy.

artificial intelligence;BP (Back Propagation) neural network;LM (Levenberg-Marquardt) algorithm;Genetic Algorithm (GA);short-term stock price prediction

2016-03-14

2016-06-16

時間：2017-01-04

工信部“跨境移動支付與風險管理創新研究課題”(2012R08-2);2015年陜西省軟科學重點項目(2015KRA001)

郭建峰(1972-),男,碩士,教授，中組部“千人計劃”特聘專家,英國雷丁大學亨利商學院高級研究員,研究方向為計算金融；李 玉(1992-),女，碩士研究生,研究方向為計算金融。

http://www.cnki.net/kcms/detail/61.1450.TP.20170104.1102.082.html

TP301.6

A

1673-629X(2017)01-0152-04

10.3969/j.issn.1673-629X.2017.01.034