基于遺傳算法優化的LSTM神經網絡期貨價格預測模型研究

李瑩 王璐璐

摘要：該文提出一種基于遺傳算法優化的長短時記憶神經網絡模型（GA-LSTM）。該模型在LSTM神經網絡的基礎上應用遺傳算法對窗寬及參數進行尋優，提高了期貨價格預測的精確度，防止陷入局部最優。實驗針對期貨市場價格的復雜、非線性時間序列數據進行建模預測。通過結果發現模型預測效果良好，具有普遍適用性。

關鍵詞：LSTM神經網絡;遺傳算法;期貨價格預測

中圖分類號：TP393 文獻標識碼：A

文章編號：1009-3044（2020）01-0182-03

1概述

隨著金融市場的逐步發展，期貨交易作為現貨交易的一種補充方式，有著發現價格、規避風險、套期保值的作用，逐漸受到越來越多學者的關注。針對期貨價格這種具有時間序列特征的數據人們通常采用傳統統計模型進行研究，例如：ARIMA模型、GRACH模型等，而對于價格變動具有非線性、非平穩性的數據來說，研究效果往往不盡如人意。因此，機器學習方法逐漸被廣泛應用到此類問題中。常見的機器學習算法包括：決策樹、支持向量機（SVM）、神經網絡。例如：黃秋萍等人在2015年進行了SVM、BP神經網絡和小波神經網絡模型在股票預測中的應用研究，對三種模型進行了分析比較。其中長短期記憶模型（LSTM）作為循環神經網絡（RNN）的一個變種，克服了循環神經網絡（RNN）面臨的梯度消失的問題，具有選擇性通過新信息和選擇性刪除舊信息的功能，不僅在自然語言處理，圖像識別，文本翻譯等領域廣泛使用，而且在處理期貨價格變化等時序數據時仍有良好表現。彭燕等人在2019年將LSTM神經網絡應用在股票價格的研究當中。與其他神經網絡類似，LSTM神經網絡的一些參數也需要人為進行設置，很難在有限時間內找到最優參數。本文應用遺傳算法（Genetic Algorithm）的全局優化能力對LSTM神經網絡進行優化，尋找最優時間窗口及隱藏層神經元數目，建立神經網絡模型，對期貨價格變化進行預測。

2算法介紹

2.1神經網絡

LSTM神經網絡是基于RNN神經網絡的改進，是一種深度神經網絡。LSTM神經網絡在RNN的基礎上添加了一個用于處理信息是否有用的記憶單元，每一個記憶單元包括輸入門、輸出門以及遺忘門。

由于LSTM神經網絡對具有時間或空間上相關特性的數據產生了良好的處理效果，因此也被廣泛應用在金融時序數據的建模預測中。

2.2遺傳算法

遺傳算法是一種全局搜索最優解的優化方法，遺傳算法工作原理與生物種群中的進化論相似，在自然界中應用交叉、變異等方式產生新的染色體。遺傳算法的實現過程大致分為編碼、初始化種群、計算適應度值、遺傳操作這四個步驟。遺傳算法因其能與其他算法結合，對其他算法進行優化和改進，從而得到快速發展，被廣泛應用到各類優化問題中。

遺傳算法的優點包括以下三個方面：第一，擁有良好的全局搜索能力，通過交叉、變異等手段，防止陷入局部最優解，從而取得全局最優解;第二，具有良好的兼容性，可與其他算法結合進行優化;第三，與一般尋優問題相比，對數學方面要求較低，不需建立目標函數等條件，僅需根據問題進行求解。基于以上三方面優點，本文選取遺傳算法對神經網絡進行優化，尋找全局最優解，進行建模。

2.3模型建立

期貨數據作為一種金融時序數據，具有復雜的非線性、不穩定性等特點，傳統時間序列模型針對這類數據建模效果往往不盡人意。長短期記憶模型作為一種基于深度學習的神經網絡算法可以在處理此類數據時發揮優勢。本文在LSTM神經網絡模型的基礎上，融合遺傳算法對模型參數進行優化，從而得出最優解，建立模型，對期貨價格進行預測。具體算法流程如圖1所示。

尋找最佳窗口及單元數方法大致分為以下四個步驟：

步驟1、解碼遺傳算法解決方案以獲得窗口大小和單元數。

步驟2、使用GA找到的窗口大小來準備數據集，并將其劃分為訓練和驗證集。

步驟3、輸入LSTM模型，在驗證集上計算RMSE，并返回該值將其作為當前遺傳算法解決方案的適應度值，得出最優參數。

步驟4、建立LSTM神經網絡模型，并使用上述步驟得出的最優時間窗口大小及最優神經網絡隱藏層單元數作為相應參數并預測結果。

本文中使用的染色體編碼為二進制位，表示時間窗的大小和LSTM神經單元數。隨機生成初始種群，使用伯努利分布隨機初始化。根據適應度函數和選擇進行評估，然后進行交叉和變異，使用有序交叉、隨機突變和賭輪選擇。這個過程重復定義迭代的次數中重復。最后，選擇一個具有最高適應度分數的解決方案作為最佳解決方案。適應度函數是遺傳算法的重要組成部分，必須慎重選擇。在本文中我們使用RMSE（均方根誤差）來計算每個染色體的適應度，并返回最小的RMSE子集作為最優解，得到最佳窗寬及單元數目。

3實證分析

3.1數據準備

本文選取螺紋鋼期貨作為研究對象，數據通過上海期貨交易所平臺獲得。在本文中，選取收盤價為輸出變量。輸入變量除開盤價、收盤價、最高價、最低價以及持倉量外，將一些技術指標也考慮在內，如MACD、KDJ、ROC等。技術指標主要分為趨勢型指標：MA、MACD等;反趨勢型指標：KDJ、RSI、ROC等;以及人氣型指標：PSY等。由于輸入變量較多，而各變量之間存在信息重疊，較多的輸入變量也會降低LSTM神經網絡的收斂速度以及預測精度。因此，我們應用主成分分析法（PcA）對輸入變量進行降維，保留原始的開盤價、收盤價、最高價、最低價，針對其他指標進行降維處理，最后保留七個輸入變量。

首先，由于期貨交易并不是每天都進行，因此需要對缺失值進行處理，本文為簡化過程，選擇將卻是數據行直接刪除。接下來將數據進行歸一化處理，消除數據不同量綱的影響，同時提高預測精度。在歸一化處理時我們選擇sldearn下的Min-MaxScaler函數，將數據歸一化至0到1之間。

3.2模型預測及結果分析

本實驗均在Python語言下編程，深度學習模型使用tensor-flow下的keras完成，遺傳算法應用DEAP包完成。將數據處理完成后，本文采用以下四個步驟進行建模：

步驟1、確定輸入層及輸出層。通過遺傳算法挑選最優窗寬，將處理好的七維數據對應窗寬作為輸入變量，本文中訓練出的最優窗寬為9。換句話說，也就是在預測一個收盤價數據時，我們需要用到過去九天的數據。輸出層為預測收盤價的連續數據。

步驟2、設置網絡參數。本實驗設定隱藏層數目為一層，隱藏層神經網絡單元數按照遺傳算法訓練出的最優單元數14個設定，激活函數選用默認的Sigmoid函數，隱藏層到輸出層的激活函數選用Linear線性函數，LSTM神經網絡使用Adam作為優化函數，MSE作為損失函數。

步驟3、計算預測誤差。本文中使用均方根誤差（RMSE）計算預測值與真實值之間的誤差：

本文選取上海螺紋鋼期貨2009年3月30日至2018年4月4日的交易數據，共2196條作為實驗樣本，其中80%作為訓練集，20%作為測試集。經過前期數據處理，計算技術指標，進行主成份分析，將得到的數據輸入構建的GA-LSTM模型。本文為驗證實驗結果，將設置GA-RNN模型、LSTM模型、RNN模型作為對照組。實驗結果如下圖2所示。

其中，綠色線為測試數據的收盤價真實值，藍色線為不同模型的收盤價預測值。從上圖可以粗略看出遺傳算法改進的RNN及LSTM模型都較原模型擬合效果好，GA-LSTM模型的預測值更貼近于真實值，較GA-RNN模型更為準確。為了更清晰的評價各模型預測精度，計算各模型的均方根誤差進行對比。各個模型的均方根誤差值如表1所示。

在建立傳統LSTM神經網絡及RNN神經網絡模型時，本文根據多次實驗及經驗選取適當的參數進行建模，由于時間等因素限制并不能保證參數為最優。從實驗結果可以得出結論，GA-LSTM神經網絡具有良好的預測效果，模型擬合效果最好，均方根誤差最小，并在有限時間內找出了最佳窗寬及最優神經網絡隱藏層單元數目，多次實驗結果也較為穩定，可以看出此改進方法有效。

4結論

針對具有時間序列特征的期貨價格預測問題，本文創新地提出了GA-LSTM模型，應用遺傳算法對長短時記憶神經網絡模型進行優化，找出最佳時間窗口大小及神經網絡隱藏層單元數目的參數，以得到最佳預測結果。本文選取螺紋鋼期貨作為實驗數據，通過對比實驗驗證了該模型的可行性，并取得了良好的預測結果，提高了預測精度。該模型在時間序列數據的研究中將有更廣闊的應用前景。