基于機器學習的時序數據預測方法研究綜述

趙婷婷，韓雅杰，楊夢楠，任德華，陳亞瑞，王 嫄，劉建征

(天津科技大學人工智能學院，天津 300457)

在大數據背景下，機器學習技術迅速發展，被廣泛應用到各個領域，而機器學習的發展對數據有很強的依賴性.在眾多數據中，時序數據是一種重要且復雜的數據類型，其在各行各業中扮演著重要角色.時序數據即時間序列數據，是指數據按照時間發生先后進行排列組成的數據，具有很強的時間相關性.常見的時序數據如股票價格、氣溫、糧食產量、降雨量等.

時序數據預測方法是通過捕捉歷史時序數據之間的規律預測數據的長期發展趨勢，典型的時序數據分析如股票大盤走勢、氣象變化、內存監控等.金融數據是一種具有非線性和非穩定特點的時序數據，對于此類時序數據預測往往具有很大的難度，主要體現在[1]：具有非線性和高噪聲性，投資者投資具有盲目性，數據的變動受國家政策等多種不可控因素影響.基于上述原因，使得金融時序數據預測的結果往往不盡如人意.由此可見，金融時序數據預測在時序數列預測領域一直以來都是一個極具挑戰的問題.

相關學者經過長期的探索和研究，加深了對金融時序數據內在規律的認識.根據該數據的變化規律總結出了大量的預測方法，主要可分為線性預測方法和非線性預測方法[2].線性預測[3]方法是早期使用的預測方法，經典算法主要包括指數平滑法[4-5]、自回歸積分移動平均預測方法[6-11]等，此類方法具有結構簡單、計算量少的優點，可以對短期預測取得較好的結果，但是這類方法不能很好地捕捉金融時序數據之間的非線性關系，且當面對長期預測時就會突顯其局限性[6].面對線性方法的諸多不足，相關研究提出利用非線性模型進行改進，增加對復雜數據的捕捉能力，從而提出非線性預測方法，主要包括BP神經網絡[12-19]、支持向量機[20-23]、循環神經網絡[24-29]和生成對抗網絡[30-32]及強化學習[33-36].此類方法可以更全面地捕捉金融時序數據之間的非線性關系，并取得了相對準確的預測結果，是未來金融時序數據領域的研究重點及趨勢.

股票數據是金融時序數據中典型和熱點的研究對象，而金融時序數據由于其序列相關性、季節變化性及復雜的變化趨勢，使得對其進行分析及預測極具挑戰.本文以股票數據預測為例，圍繞該領域中的算法展開綜述，首先介紹股票預測模型的建模；然后介紹股票預測領域中的經典算法的原理，并分析各算法的優缺點及改進方法方案；最終展望該領域的研究趨勢.

1 預測模型建模

時序數據的預測通常建模為利用歷史數據值預測未來的數據走勢.本文所關注的時序數據預測中的股票預測模型可表示為

其中 x = {x1,x2,…, xt}表示歷史數據，S表示預測系統，表示預測結果.預測可分為短期預測和長期預測[6].短期預測，如單步預測可表示為

2 預測方法

根據預測模型的類型，將預測方法分為線性預測方法和非線性預測方法.本部分將圍繞上述兩類預測方法進行討論，分別從各經典算法的原理、優缺點及改進方法進行詳細介紹.

2.1 線性預測方法

2.1.1 基于指數平滑的預測方法

指數平滑預測法是時序數據預測領域早期常用的方法之一，其基本思想是利用權值將當前時刻的真實值和預測值聯系起來，以加權算術平均數方法對預測對象進行預測[4]，具體可表示為

其中：a ,a( 1? a) ,… ,a ( 1? a)t?1為數據各時刻的權值.權值距離預測時刻由近到遠按指數逐級遞減，即，a＞ a (1?a) ＞ …＞ a ( 1?a)t?1.

指數平滑預測法主要包括一次指數平滑法、二次指數平滑法和三次指數平滑法.該算法實現簡單，所需數據信息少，只利用歷史數據的加權和就可以預測出下一時刻的股票數據.但是，這種線性的預測方法擁有很多局限性[5]：首先，對平滑系數較為敏感，平滑系數的選擇不同，預測結果也不同，還會影響預測精度；此外，該方法只適用于短期的預測，而對于長期且不穩定的股票數據，則會造成嚴重失誤.

2.1.2 基于自回歸積分移動平均的預測方法

自回歸積分移動平均模型(autoregressive integrated moving average model，ARIMA)是自回歸移動平均模型(autoregressive moving average model，ARMA)的擴展，ARMA更加適合處理平穩的時間序列，而金融時序數據具有不平穩性，由此擴展出了ARIMA，該模型由自回歸模型(AR)、移動平均模型(MA)和差分法結合而成.該方法是利用差分方法經過d次差分將時序數據平穩化，然后確定參數p、q進行預測，最后將預測結果反平穩化得到最后的預測結果，整個過程可表達為ARIMA(p，d，q).其中，p是自回歸項，d是將數據平穩化總的差分次數，q是移動平均項數[7].模型的方程表示為

使用ARIMA對股票數據進行預測已取得了不錯的結果，但是對于長期的預測卻不太理想，且此類方法對于波動較大的股票數據，也難以得到理想結果.由于該方法從根本上是對平穩數據進行處理[7]，因此針對此問題，結合非線性模型可有效改善其性能.

綜上所述，線性模型普遍存在長期預測不理想，無法很好捕捉股票數據的非線性等缺點.面對股票數據的非線性特性，利用線性模型的預測方法難以達到令人滿意的效果.此外，股票預測的目標不僅局限于下一時刻，而是關注更久遠的預測結果.因此，基于線性模型的預測方法有待進一步改進.

2.2 非線性預測方法

針對時序數據中股票數據非線性及高噪聲的特點，利用線性模型的預測方法對該類數據進行預測無法達到令人滿意的效果.針對其不足，相關學者把目光放在了非線性預測方法上.非線性方法能夠更好地捕捉股票數據的內在規律，從而得到更加準確的預測結果.

2.2.1 基于BP神經網絡的預測方法

神經網絡(artificial neural network，ANN)是一種模擬人類大腦神經元連接結構進行信息處理的數學模型，其根據訓練數據不斷調整內部節點之間的關系學習數據變化.相較于傳統的線性模型，神經網絡是一種表達能力極強的非線性模型，它的優勢在于其自適應性、泛化能力、容錯性等方面，從而使得它在處理非線性數據時表現得更為突出.

在時序數據預測中，使用最廣泛的神經網絡為反向傳播(back propagation，BP)神經網絡[12].BP神經網絡由輸入層、隱藏層和輸出層組成，在其訓練過程中，可分為兩個過程：一個是數據輸入層經隱藏層到輸出層輸出，即正向傳播過程；另一個是如果輸出層輸出的數據沒有達到預期的效果，則誤差將從相反的方向對權值進行調整，即反向傳播過程.

基于BP神經網絡的股票預測原理是：股票數據輸入到BP神經網絡中，由該網絡分析股票數據和參數的規律，利用其函數逼近功能進行預測，具體預測模型如圖1[13]所示.其中：x1,x2,…,xt分別為各個時刻真實值；h1,h2,…,ht分別為各個時刻的隱藏層狀態；+1為t＋1時刻的預測值.該模型通過正向傳播進行預測，目標是使輸出的預測值+1與實際值xt+1盡可能保持一致，該過程是通過反向傳播進行權值調整，使得總誤差達到最小.其誤差(E)可表示為

圖1 基于BP神經網絡的預測模型Fig. 1 Prediction model based on BP neural network

最早將BP神經網絡應用到股票預測的是White[14]，但是發現由于BP神經網絡極易陷入局部極小值而導致模型的預測效果較差.此外，BP神經網絡算法還有收斂速度慢、訓練時間長的缺點[15].針對訓練時間長的問題，鹿天宇等[16]采用主成分分析(principal component analysis，PCA)對輸入數據進行降維，有效簡化網絡的輸入，從而提高訓練的速度.針對易陷入局部極小值和收斂速度慢的問題，季闊[17]在權值調整公式中加入動量項對權值調整公式

進行改進，避免在訓練過程中發生震蕩，加快收斂速度，而且在訓練時，允許略過一些極小值，因此易陷入局部極小值的問題得到了一定程度的緩解.此外，Li[18]和郭怡然等[19]引入了遺傳算法對該方法進行改進，進一步緩解了上述問題.

2.2.2 基于支持向量機的預測方法

支持向量機(support vector machine，SVM)于1995年被首次提出[37]，其主要思想是將輸入向量以非線性的方式映射到一個高維的特征空間，在這個特征空間中構造一個決策面，利用決策面的特殊性來保持其較高的泛化能力.SVM可以很好地處理非線性和高維的問題，將它運用在金融時序數據預測中，克服了BP神經網絡本身的缺陷[20]，體現出很大的優勢.

利用SVM進行股票預測，給定股票數據序列{ x1,x2,…,xt}，定義輸入序列為 X = {xt,xt?1,…, xt?n+1}進行預測，其原理就是找到真實值x與預測值x?之間的映射關系.

Rn為影響股票數據預測的因數，nx∈R；R為預測向量，∈R.對于股票預測這種非線性問題，利用核函數建立非線性的回歸函數

其中：αi和為拉格朗日乘子，K (xi,xt) 為核函數，tx為影響預測的因素，xi為t－n個樣本中第i個樣本，b為閾值.由以上回歸函數可得到下一步的預測

整個過程可由圖2[20]表示.

圖2 基于SVM的預測模型Fig. 2 Prediction model based on SVM

在股票預測中，基于SVM的預測方法的性能優于基于BP神經網絡的方法，但其在預測時存在一定的不足.首先，SVM只能得到具體的預測值，而不能預測股票的變化趨勢.其次，核函數是該方法的核心問題，核函數的選擇會對預測精度產生直接影響.針對前者，通常首先使用模糊信息粒化對原始的股票數據進行預處理，再使用SVM預測出短期的變化趨勢[21].針對后者，黃同愿等[22]分析了采用不同核函數對最后預測結果的影響.李坤等[23]突破傳統的核函數，采用小波核將小波和SVM結合，不但能消除數據的高頻干擾，還具有很好的抗噪能力，更適合股票預測；通過選取3種不同的小波核進行比較，得出不同的股票要選擇合適的核函數進行預測的結論.

2.2.3 基于循環神經網絡的預測方法

循環神經網絡(recurrent neural network，RNN)是一種用來處理序列數據的神經網絡，其每一時刻輸出都與歷史的輸入建立起關聯.在時序數據預測應用中，RNN利用其時序特性，能夠很好地利用歷史數據對數據未來變化作出預測.基于RNN的預測原理和BP神經網絡相同，正向傳播輸出預測結果，反向傳播進行參數優化.然而，RNN在訓練過程中容易出現梯度消失的問題，導致其在反向傳播的過程中無法學習到長期依賴，即它只有短期記憶，在時序數據預測中無法準確地對數據進行長期預測.

長短時記憶[38](long short-term memory，LSTM)是一種改進的RNN模型，由輸入門(input gate)、遺忘門(forget gate)、輸出門(output gate)和細胞單元(cell)構成.該模型各部分功能[45]為數據首先通過遺忘門，由其決定是否遺忘t時刻隱藏節點所包含的歷史信息，可表達為

其中：ft為遺忘門在t時刻的輸出，σ為激活函數，xt為t時刻的輸入，ht-1和ct-1分別為t－1時刻的隱層狀態和細胞單元信息，Wxf、Whf、Wcf為權值矩陣，bf為遺忘門的偏差矩陣.然后由輸入門執行遺忘門的決定，并更新ct-1的信息，計算公式為

其中：it和ct分別為輸入門和細胞單元在t時刻的輸出，Wxi、Whi、Wci、Wxc、Whc為權值矩陣，bi和bc分別為輸入門和細胞單元的偏差矩陣.最后由輸出門確定最后的輸出為

其中：ot為輸出門在t時刻的輸出，Wxo、Who、Wco為權值矩陣，bo為輸出門的偏差矩陣，ht表示t時刻的隱藏層狀態.

圖3 基于LSTM的預測模型Fig. 3 Prediction model based on LSTM

LSTM雖然能夠很好地處理時序數據問題，但是它在進行股票預測時存在以下問題：第一，有陷入局部最優解的可能[24]；第二，在預測時具有滯后性[25].LSTM雖然在一定程度上解決了RNN梯度消失的問題，使其在梯度下降過程中不會很快進入局部最優解，但是在理論上還是無法逃脫局部最優解的可能性.一種雙向LSTM模型可以從前后兩個方向充分對股票數據之間的關系進行分析，在解決易陷入局部最優解問題的同時解決了長期依賴問題[24].針對滯后性問題，方紅等[26]運用多維度向量輸入、特征工程和新聞情感分析3個步驟對LSTM進行改進，使得滯后性和精確度都得到了一定程度的改善.

除了改進LSTM本身存在的不足，還可以與其他模型組合成混合模型，以提升LSTM的預測性能，例如LSTM和ARIMA組合模型[11]，LSTM和卷積神經網絡(convolutional neural networks，CNN)組合模型[27]，LSTM、維德情緒分析(valence aware dictionary and entiment reasoner，VADER)和 差 分 隱 私(differential privacy，DP)組合模型[28]，LSTM和棧式自編碼器(stacked autoencoder，SAE)組合模型[29].這些混合模型和單一的模型相比更具有優勢.

2.2.4 基于生成對抗網絡的預測方法

生成對抗網絡[39](generative adversarial net，GAN)是一種新型的生成模型，由生成器G和判別器D兩部分組成，如圖4[39]所示.GAN的主要思想就是G和D進行一個極大極小博弈游戲，其中生成器G用于捕捉樣本數據的分布，輸入隨機噪聲z，目標是生成類似真實數據的樣本數據G(z)，生成的樣本越像真實數據X越好；判別器D就是一個二分器，用來判別生成樣本的真實性，輸出一個概率，生成的樣本越像真實數據則輸出的概率越接近1，否則接近0.

圖4 GAN結構圖Fig. 4 Structure of GAN

GAN已在圖像生成[40]、繪畫[41]和文本生成[42]等領域取得顯著成果.在金融時序數據預測中，該方法用生成器G去捕捉從金融市場中給出的歷史金融數據的數據分布，并根據其分布規律對未來的數據進行預測；而判別器D用來判別生成金融數據的真實性.具體模型如圖5[30]所示.將第t天的數據X={x1,…,xt}輸入到生成器中，生成第t＋1天的數據t+1，該過程定義為

圖5 基于GAN的預測模型Fig. 5 Prediction model based on GAN

基于GAN的時序數據預測方法的優勢在于GAN能夠更好地捕捉數據分布和反映數據的波動，從而使得生成數據更加逼近真實數據.然而，GAN本身存在由于訓練過程中出現梯度消失而導致的訓練不穩定的問題.Wasserstein GAN(WGAN)[43]是對原始GAN的一種改進，它使用平滑的Earth-Mover(EM)距 離 代 替Kullback-Leibler(KL)和Jensen-Shannon(JS)散度，可以一直提供有效的梯度，從而解決梯度消失的問題，使得訓練更加穩定.Boris[31]將WGAN和Metropolis-Hastings GAN(MHGAN)相結合對股票進行預測，從而避免了梯度消失對股票預測所帶來的困擾.另外，生成器和判別器的選擇也會對預測結果產生影響.Zhang等[30]將LSTM作為生成器，多層感知機(multilayer perceptron，MLP)作為判別器對股票數據進行預測，取得了較為準確的預測結果，但是采用MLP作為判別器，在全連接的情況下，過深的神經網絡容易導致梯度消失.而Zhou等[32]則采用卷積神經網絡(CNN)作為判別器，解決了MLP存在的問題，使得預測結果更加準確.

基于增長極理論，運用因子分析法、旅游區位熵計算法等構建旅游增長極模型，進行安徽省各市旅游業綜合發展水平測度與分類，得到以下結論：

在股票預測的應用中，GAN取得了相對準確的預測結果，但是如何克服GAN訓練困難的問題仍是一個具有挑戰性的任務.

2.2.5 基于強化學習的預測方法

強化學習(reinforcement learning，RL)[44]是機器學習領域用來解決連續決策問題的學習范式，它通過與環境的交互獲得知識，自主地進行動作選擇，通過不斷地試錯獲得最優策略，如圖6[44]所示.近年來，強化學習方法在電子游戲[45]、棋類[46]等領域得到了應用，同時在股票、外匯和期貨等方面的應用也得到廣泛的研究.

圖6 強化學習基本框架Fig. 6 Framework of reinforcement learning

基于強化學習的時序數據預測方法主要分為以下兩類：

其中：st∈S 表示t時刻的股票數據，at∈A表示t時刻的交易動作，+1表示t＋1時刻股票的預測值.目前，以馬爾科夫過程為模型，已使用TD算法[33]、深度Q網絡[34]和DDPG算法[35]等實現了對于股票的預測，并取得了不錯的結果.

另一類是利用強化學習對預測模型的網絡結構和參數進行優化.此類方法是預測系統對輸入的數據進行處理，然后強化學習模塊對其輸出進行評價，隨后反饋給預測系統對其進行調整或優化，其過程可由圖7[34]表示.葉德謙等[36]提出了強化學習BP神經網絡(RBP)，用強化學習對BP神經網絡進行參數優化，從而實現股票預測，該模型在實現系統自我學習的同時還提高了預測精度；Boris[31]將強化學習加入到GAN中，不斷對其超參數進行優化，解決了由于股市的不斷變化所導致模型無法自適應的問題.

圖7 基于強化學習改進的預測模型Fig. 7 Prediction model based on reinforcement learning improvement

強化學習利用其強大的自主學習能力，在進行股票預測時，能夠更加適應不斷變化的股市，從而可以更好地進行長期的交互學習.但是強化學習本身依然存在著訓練困難、樣本利用率低等問題.

3 模型評估方法

3.1 數據集

針對股票等時序數據，在對其模型進行評估時通常使用美股中的標準普爾500指數(Standard ＆Poor’s 500(S＆P 500 Index))、中國平安保險(集團)股份有限公司(PAICC)股票指數、來自全美證券交易商協會(NASDAQ)的微軟公司(MSFT)股票指數、紐約證券交易所(NYSE)的國際商業機器公司(IBM)股票指數、中國股票中的上證綜指[47]作為常用數據集.數據集選取的數據通常為過去20年的日數據(每只股票中幾乎有5000條數據)和7個金融因素預測未來的收盤價.描述股票數據7個因素包括在一天中股票的最高價、最低價、開盤價、收盤價、成交量、周轉率和Ma5(5日價格移動平均線).這7個因素在技術分析、均值回歸或三月理論的價格預測中具有重要的價值和意義.因此，這些因素可以作為股票數據的7個特征用于未來收盤價的預測.

為了更直觀地理解所分析的數據，在表1中展示了PAICC股票數據集中的部分數據，每個數據包括7個特征.

表1 每個特征不同時刻的數據列表Tab. 1 Data list of different time of each feature

為了提高模型的預測精度，在模型進行訓練之前通常需要對數據進行歸一化處理[47].經典的歸一化方法為0均值歸一化方法(z-score)，該方法是將原始數據減去均值再除以標準差，經過該方法處理的數據符合標準正態分布，即x～N(0，1).歸一化函數計算式可表示為

其中：x為原始的股票數據，μ為所有股票數據的均值，σ為所有股票數據的標準差.為歸一化后的股票數據.

3.2 評價指標

關于時序數據預測任務的目標是希望股票預測數據與真實歷史數據之間的誤差盡可能小.均方誤差(mean square error，MSE)可以很好地衡量整個模型最后的訓練效果，利用MSE定義模型的損失函數可表示為

除了將MSE作為損失函數，還使用平均絕對誤差MAE、均方根誤差RMSE和平均絕對百分比誤差MAPE的評估方法反映股票數據的預測值和其真實值之間的偏差.MAE、RMSE和MAPE的值越小則表示預測值和真實值之間的誤差越小，模型的預測效果越好.

3.3 模型對比結果

為了進一步觀測各時序數據預測方法在股票數據中的性能，相關文獻[47]總結了各算法的預測結果，該結果是基于3.1節所述的的5個數據集上的RMSE、MAE、AR的平均值作為預測方法的性能評估.預測結果見表2[47]，其中粗體部分表示最佳預測結果，較低的MAE、RMSE和MAPE表明對收盤價的預測與真實值的誤差越小.AR表示5個數據集基于4種預測方法的日平均收益.從表2可知，在所比較的數據中，GAN與其他方法相比，具有最優性能.

表2 對5個股票數據集的平均評價Tab. 2 Averaged performance on five stock data sets

4 展 望

時序數據是一種復雜的數據類型，其變化既有內在規律的影響，還有外在事件的影響，通過對時序數據的預測可以更好地分析相關領域及市場.雖然現有方法在股票預測中取得了較好的效果，但是面對股票數據的動態性、復雜性及不可控因素等特點，依然還有很大的改進空間.未來研究方向可從以下幾個方面展開.

(1)從數據自身特點分析總結得到，金融時序數據具有維度高、非線性的特點.現有方法通常直接對原始數據進行處理，這樣增加了計算成本和模型的復雜程度；另一方面，使用線性降維方法如PCA，對股票數據進行降維后再進行預測.然而，股票是一種非線性數據，線性降維無法很好地捕捉股票數據之間的關系，對于股票數據的特征描述具有一定的局限性.因此，如何在低維空間對股票數據進行有效分析及預測是亟待解決的研究問題.

(2)從預測模型分析發現，不同的模型具有其各自優勢，通過相關研究可知，將不同的方法進行組合可以取得更優的預測效果.因此，將不同的模型及學習方法進行組合，讓不同的理論方法相結合，達到優劣互補的目的，也是該領域的一個重要研究方向.

(3)現有的預測模型一次只能預測一支股票，如果要預測另一支股票，模型需要從頭開始訓練.元學習(meta learning)[48]是機器學習中一個新的分支，它可以通過在多個任務上的訓練以實現在新場景下快速調整模型的目的.可以考慮使用元學習一次訓練多支股票，當面對新的預測任務時可以快速地完成預測，從而避免重新訓練模型.