多源異構數據融合驅動的股票指數預測研究

耿立校，劉麗莎，李恒昱

河北工業大學 經濟管理學院，天津 300401

隨著信息時代的到來和網絡媒體的普及，股票市場預測已經受到學術界各個領域的廣泛關注。在金融市場中，根據傳統的有效市場假說理論，股票的價格基本反映目前可用的信息，同時指出股票價格總是由理性的投資者驅動，大致反映出公司預期未來收益的合理現值[1]。因此股票價格受新信息的影響很小，遵循隨機的變化路徑。但是隨著信息技術的發展，越來越多的投資者會關注與股票市場相關的信息并不斷地做出改變，意見的不一致使得股票實際價格與內在價值產生差異，最終產生價格的波動[2-4]。近年來行為金融學領域的實證研究發現股票走勢并不是無跡可尋的，Chan[5]在研究公司新聞發布對股票的影響中發現股票面對公司負面新聞時表現不佳，會出現比較大的波動，而面對好消息時表現出較小的波動。Vega研究了私人信息和公共新聞對股票的影響，實證結果表明，投資者（私人或公眾）對資產真實價值的了解越多，對該信息的認同程度越高，交易的異常收益波動越小[6]。雖然傳統金融學與行為金融學領域對信息如何影響股票市場的意見不一致，但是也證明了信息對股票市場是存在影響的。

網絡媒體的出現，使得信息釋放、傳播和吸收的方式發生了翻天覆地的變化。現階段研究中股票市場預測主要是依靠三方面的信息：基本面信息、技術指標信息以及網絡媒體信息?；久嫘畔⒅饕ü镜目傮w經營情況、財務報告、管理能力以及宏觀經濟一些指標信息，Cheung等研究了隨時間變化公司規模與股票價格波動之間的關系[7]。技術指標信息主要是包括反應當天的交易情況數據，例如每日的收盤價、最高價和最低價等等。越來越多的研究者使用歷史價格來預測未來的趨勢，前兩種信息是定量信息，獲取是相對來說比較容易的。技術的進步使得信息交互的方式發生了變化，由單向傳播變成了雙向多元傳播，人們對股票相關信息的看法和態度擁有更多的表達渠道，社交媒體中用戶的廣泛參與導致網絡媒體信息的重要性越來越大[8]。因此行為金融學與計算機科學領域學科的學者開始探索網絡媒體信息對股票的影響，Li等提出了媒體感知量化交易框架，發現公共情緒會因公司的特征對股票走勢產生不同的影響[9]。Nguyen等提出一種基于方面的情感分析方法，通過大規模的實驗研究了社交媒體對股票走勢的影響[10]。網絡媒體信息屬于定性信息，在研究過程中對于前兩類信息來說屬于互補信息。股票信息更新快速并且以“前所未有”的速度傳播著，對于投資者來說在正式統計報告出來之前獲取第一手信息尤為重要[11-13]。

為了研究多種來源信息的共同影響，金融學領域的學者開始應用計量經濟學分析模型[14]，主要有線性回歸、邏輯回歸、向量自回歸（VAR）以及時間序列模型自回歸綜合移動平均（ARIMA）。計算機科學領域的研究人員提供了更多可選擇的方法，主流的是機器學習的模型[15]，可以找出股票走勢和信息來源之間的非線性關系，SVM和KNN是最初廣泛運用的模型，可以預測未來的股票走勢及股票價格。深度學習的方法近年來開始被廣泛應用到預測模型中，它可以彌補機器學習中一些缺點，例如可以更好地處理時序化數據，捕獲高度的非線性關系[16-17]。

根據以往的研究，越來越多的數據源被運用到股票預測中，但對于股票話題數據情感的分析大多集中在情感詞典以及詞袋方法上，較少地運用深度學習的算法；因此本文的投資者情緒將采用卷積神經網絡（Convolutional Neural Networks，CNN）模型，捕獲更深層次的情感特征。

為了更準確地預測股票市場的變化，在此基礎上引入深度學習中的長短期記憶網絡（Long Short-Term Memory Network，LSTM）構建股指漲跌預測模型，旨在將股票交易數據、技術指標以及投資者情緒三種源數據結合起來，探究其對股票指數趨勢的共同影響。通過LSTM和其他基線方法的比較，驗證多種數據源以及深度學習模型的有效性。

1 基于卷積神經網絡的情感分析模型

1.1 卷積神經網絡原理

卷積神經網絡（CNN）屬于監督學習中的深度學習算法，實驗之前需要對數據進行標注，通過對打標數據構建語料庫，深度學習文本中的復雜特征，同時考慮語義之間的聯系。

假設需要對一些句子進行分類，句子中每個詞是由n維詞向量組成的，也就是說輸入矩陣大小為m×n，其中m為句子長度。模型需要對輸入樣本進行卷積操作，對于文本數據，卷積核采用向下移動的方式，提取詞與詞間的局部相關性，最終得到多個卷積后的向量。然后對每一個向量進行最大化池化操作并拼接各個池化值，最終得到這個句子的特征表示，將這個句子向量輸入到分類器中進行分類，至此完成整個流程。CNN情感分析模型結構設計如圖1所示。

圖1 CNN情感分析模型結構圖Fig.1 Structural figure of CNN emotion analysis model

以下具體介紹每一層的具體工作原理。

（1）嵌入層（Embedding Layer）：通過將股吧評論進行過濾和分詞操作后，句子表示為多個詞語的集合，因此需要將每個句子的長度對齊統一嵌入層的維度；在此之后通過word2vec訓練進行詞向量的表示，將編碼后的句子作為輸入層。

（2）卷積層（Convolution Layer）：卷積層的作用是通過不同的卷積核從嵌入向量中提取多維的特征，在text-CNN中，卷積核的寬度的取值為3、4、5，每個尺寸卷積核的數量為256；可以通過卷積層從不同的角度分析句子，考慮了語義之間的關系，以獲取更全面更深層次的特征表達。在卷積層后加一個激活函數，用于生成每個尺寸卷積核的特征遍歷。

（3）池化層（Pooling Layer）：池化層中采用最大池化的方法，即抽取每個特征向量的最大值表示最重要的特征。當對所有卷積層生成的特征向量進行池化之后，還需要將每個特征值給拼接起來，合成一個長形特征向量。在池化層到全連接層之前可以加上dropout防止過擬合。

（4）全連接層（Fully connected layer）：全連接層使用SoftMax激活函數可得到屬于每個類的概率，根據概率計算出情感值以及每日的消極與積極的分數。在模型的評估方面，在分類問題中損失值常采用交叉熵損失函數，除此之外，精準率、召回率以及F1值也是本實驗中的主要評價指標。

1.2 情感分析流程

在情感分析的過程中，將獲取到的社交媒體文本進行劃分，在原則上選取全部數據集的一部分進行打標，為后續的模型訓練做準備?？傮w的情感分析流程如圖2所示。

圖2 CNN情感分析流程圖Fig.2 CNN flow chart of emotion analysis

具體步驟如下：

（1）標注數據：由于CNN是一種監督學習算法，因此需要對數據集進行標注，本文采取交叉打標的方法，確保數據標注的質量；其中積極和中性的文本標注為1，消極的文本標注為0；打標的數據集參與模型的訓練過程，而另外一部分則為實例數據集。

（2）劃分訓練集與測試集：將標注好的數據集進行訓練集和測試集的劃分，并且分別將積極和消極的數據區分開來，按照命名規范統一存儲到一個文件夾內。

（3）數據預處理：主要包含數據清洗，將不符合規范或空值的文本信息進行處理，根據去停用詞的列表將無意義字符與標點符號去除，之后使用jieba分詞對每條文本進行分詞，為后續的詞向量轉換做準備。

（4）生成詞向量：首先根據分詞結果統計訓練集中所有的詞匯，生成vocab.txt，根據詞匯來構建索引，并將每個單詞映射到0～M間的整數（M為詞匯大?。瑢⒚總€句子都成為整數向量，生成vec.txt。

（5）模型訓練：首先定義模型訓練前的一些參數，包含句子長度（統一后）、輸出層的類別數（本文是兩類：積極和消極）、嵌入維度、濾波器的數量等等，定義之后梳理輸入層、卷積層、池化層以及輸出層的代碼，細節如上一節中的模型設計。根據定義好的模型進行結果以及評估指標的輸出，根據驗證集的結果來保存最優的參數。

（6）模型復用及測試：將測試集通過相同的數據預處理方式得到詞向量，根據訓練過程中保存的參數，進行模型的加載與復用，最終對得到的結果進行評估，結果可以再次優化，重新訓練，直到最終的效果最優。

以上為CNN情感分析的流程，后續通過測試集得到最優的結果之后可將其用于實例數據的情感極性結果的輸出，作為投資者情緒來源。本文設定了兩個參數，作為投資者情緒的量化指標，在情感分析的研究中，如需給文本的情感賦值為積極與消極，大多是采用1和0的方式；本文的情感分析模型是卷積神經網絡（CNN），是一個二分類模型，因此本文將積極情感賦值為1，消極情感賦值為0，這樣就可以得出定正向和負向的數量。首先需要統計當日積極和消極的條數來去確定當日股吧帖子條數，以一天為一個單位為當日內情感極性為積極的帖子數量，為當日內情感極性為消極的帖子數量，numt為t天的股吧論壇帖子數量，見公式（1）；另外本文將非交易日周六和周日的帖子數量總和放在周五，共同影響周一的股票市場。

投資者情緒參數是通過對每一條文本信息輸出情感極性之后，將根據對數平均值的方法來量化當日股民的情緒值。由于規定積極的情感值輸出為1，消極的為0，最終是以對數函數為基礎來定義，可以得出持有某種傾向的投資者數量的多少，為senti t,計算方法見公式（2）。情感指標值越大，說明偏向于積極情感的投資者數量越多。

2 基于LSTM的股票漲跌預測

2.1 長短期神經網絡（LSTM）原理

長短記憶神經網絡（通常稱作LSTM），是一種特殊的RNN，能夠學習更長的依賴關系。LSTM由Hochreiter和Schmidhuber[18]引入，并被許多人進行了改進和普及，現在被廣泛使用。

LSTM是一種特殊的遞歸神經網絡，解決了RNN長期依賴中梯度消失和梯度爆炸的弊端，在時間序列數據的預測方面具有優勢。LSTM的內部空間的單元結構如圖3所示。

圖3 LSTM模型單元結構圖Fig.3 LSTM model unit structure diagram

模型中相較于RNN添加了輸入門、遺忘門和輸出門三種記憶細胞的狀態，其中模型輸入的參數是h t-1和x t，分別代表上一個的隱藏層輸出狀態和t時刻的變量值，通過對輸入的參數對無用信息進行處理，而同時更加注重有用信息，達到遺忘門的作用，給出式（3），參數為左側第一列中遺忘門的權重矩陣(w)與偏置項(b)，同理，第二三列為輸入門，計算方法為式（4）和式（5），第四列的式（6）為輸出門以及單元狀態的權重矩陣與偏置項：

步驟中的σ為sigmoid函數，tanh為正切函數，上述步驟計算完成之后，式（7）計算了t時刻的輸出狀態C t，是使用遺忘門和輸入門的參數f t、i t和C′t；最終在輸出門狀態下，式（8）使用正切函數計算t時刻的隱藏層輸出。

至此，一個LSTM層的計算完成，t時刻的輸出將被傳遞到下一個時刻進行計算。

2.2 融合投資者情緒的股票漲跌預測

在本研究中，本文的預測模型的功能是捕獲多個信息來源與未來股價走勢之間的關系。本節將從股票市場的特點以及影響其變化的主要因素出發，借助網絡媒體平臺，將股票交易數據、技術指標以及投資者情緒特征整合起來，通過深度學習的方法構建股票趨勢預測模型，探索它們對股票走勢的綜合影響。其中論壇文本數據采用卷積神經網絡的方法進行投資者情緒的挖掘，整合多維特征數據，輸入LSTM模型進行預測，最終輸出分類結果。后續將在此基礎上，選取4個在股票預測研究中常見的方法作為基線方法，與主體方法進行對比實驗。

將特征數據進行預處理之后輸入LSTM模型進行預測，最終輸出分類結果。整體預測框架圖如圖4所示。

圖4 融合投資者情緒的股票預測框架圖Fig.4 Block diagram of stock forecast incorporating investor sentiment

本文的主題是股票市場的漲跌預測，由于是時間序列預測，因此要考慮時間步長，不同的步長效果會有所不同；在預測模型的輸入中，可以從圖5流程圖中看出，左側是輸入前t天的股票特征數據，其中包括股票每日交易數據、技術指標以及投資者情緒，而右側則是輸出下一個交易的股票趨勢，分為上漲和下跌。

圖5 股票漲跌模型預測流程圖Fig.5 Stock rise and fall model prediction flow char

模型訓練的過程中，采取交叉驗證的方法，以此來減小損失，損失計算選擇均方誤差作為損失函數，利用隨機梯度下降的方法更新權重。模型評估則是通過計算真實值和預測值的誤差來進行比較，最后在驗證集中驗證模型的準確率，選取最優的模型進行測試集結果的輸出。

3 實驗結果與分析

3.1 樣本選取與實驗設置

交易數據以及技術指標數據：本文選擇上海股票主板市場的代表“上證50指數”（上海證券市場最具影響力的一批優質大盤企業）作為研究對象。時間跨度為2017-03-20至2020-03-20。在選擇時，選取接口中的開盤價、收盤價、最高價、最低價、漲跌額、漲跌幅、成交量以及成交額是最重要的變量，這應該是投資者主要關注的因素；除以上變量外，還手動構建了5和10日的移動平均線（MA）、指數移動平均線（EMA）、變動率指標（ROC）、相對強弱指數（RSI）、能量潮（OBV）技術指標等量化數據。

社交媒體文本數據：根據股票指數數據，從東方財富平臺的股吧論壇（http：//guba.eastmoney.com）獲取社交媒體話題數據，這一時間段的選取為2017年03月20日—2020年03月20日。為了自動化抓取網絡媒體中的評論數據，本文在PyCharm平臺基于Python編寫爬蟲程序。網絡爬蟲主要收集了包括浦發銀行（600000）、上海機場（600009）、民生銀行（600016）、中國石化（600028）、中信證券（600030）、三一重工（600031）等50只包含在“上證50指數”中股票的股吧評論，主要用于股票論壇語料庫的構建，一共爬取到約240萬條評論。

3.2 模型驗證與對比

3.2.1 數據預處理

（1）文本預處理

文本數據預處理包括查看重復評論數據、去除評論中出現的數字和英文字符、分詞、去除停用詞及詞性標注。數據清洗：首先對爬取到的文本進行清洗，刪除內容或者時間缺失與異常的評論，通過對應去停用詞將評論中的標點符號以及無意義詞清洗掉。中文分詞與去停用詞：使用python的jieba分詞器完成分詞工作，并使用哈工大停用詞表，在分詞過程中直接去除停用詞；與此同時，進行詞性標注。詞向量生成：通過word2vec訓練出評論的詞向量，并統一詞序列的長度，作為模型的輸入。數據對應關系：當天15點之前的評論數據影響當天的股票走勢，15點之后的影響下一天的股票走勢。

（2）標準化處理

由于每個特征屬于不同量綱，因此需要對數據進行標準化，使用的是Z-score方法，進行特征縮放，保證處理后的數據符合正態分布。計算方法如式（9）：

其中，μ為樣本均值，σ為樣本標準差，x為樣本數據本身。

將整體的數據集按照8∶2的比例劃分訓練集與測試集，再從訓練集中挑選10%的數據作為驗證集。在訓練過程中，采取每次40條交易數據的批量，總迭代次數為500次，時間窗的跨度為5～14天，選擇不同的時間窗做對比實驗。

3.2.2 模型驗證及結果分析

根據設置好的具體參數，將數據輸入LSTM漲跌預測模型進行結果的輸出。在此基礎上，實驗選取機器學習中分類預測表現比較出色的隨機森林（RF），K最近鄰（KNN），樸素貝葉斯（NB）以及支持向量機（SVM）這四種基線方法進行對比，通過改變時間窗的大小，分別研究方法以及時間窗對預測模型的影響。

首先是針對本文所提出的模型的分析，LSTM模型的預測效果如圖6所示，圖中為測試集的146條數據的預測結果，可以看出股票漲跌的趨勢基本是一致，當股價變化比較小時，預測得比較準確，但是在100～140這個區間可以看出當股價變化較大的時候，真實值與預測值之間的誤差變大，準確率會有所下降。一個方面是因為在這段期間，“上證50指數”每日的收盤價、開盤價等交易數據變化較大，導致以此為基礎構建的技術指標的變化也相對較大，多個指標的不確定性增加，因此導致了預測的偏差較大；另外一個方面是由于當時的大環境處于新冠肺炎疫情期間，大多數股民的情感偏向與消極，因此情感指標的不確定性再次導致預測的誤差偏大。雖然指標的不確定性導致預測值與真實值的偏差較大，但是總體看來，模型在此期間的漲跌趨勢預測是準確的，具有一定的指導意義。

圖6 模型預測結果Fig.6 Model prediction results

其次是與基線方法的比較，圖7為五種方法的預測準確率對比圖。從圖中可以看出，根據不同方法的對比，雖然隨著時間窗的增加，LSTM模型從整體上看準確率基本高于其他方法，呈上升的趨勢，但是增長幅度比較小，說明了在LSTM模型中交易信息的長期與短期數據對股市的影響基本沒有太大變化。

圖7 預測模型準確率對比圖Fig.7 Comparison of prediction model accuracy

從圖7中可以看出，隨著時間窗的增加，基線方法的準確率呈逐步增長的跡象，說明了時間窗越大，模型學習到的信息越多，預測效果越好；但是從12天到14天的變化中可以看出，大部分算法的準確率呈下降趨勢，說明時間窗的設置并不是越長越好。

從總體上可以看出，在預測下一個交易日的漲跌方面，LSTM方法的準確率在這幾種方法中表現最好，并且時間窗在一定范圍內的改變下，準確率的波動比較小，整體上都高于其他的基線方法，表現出了其在處理時間序列數據的優越性；在基線方法中，SVM方法的準確率在5～9天的范圍內隨時間窗變化的波動變化比較大，之后呈現上升的趨勢；其中隨機森林（RF）的表現最好，其次是KNN、NB、SVM方法。

上面的實驗基本驗證了模型的有效性，接下來在模型的輸入變量上，本文尋求了更多的可能性。通過手動構造技術指標以及投資者情緒來衡量其對股票市場的影響，對實驗做進一步的改進，形成更加多樣的對比實驗，從而使本文的結論更加豐富。

3.3 對比實驗一：添加技術指標

上述實驗中，本文考慮了接口中固定的幾個指標，因此在特征工程方面，嘗試構造更多的技術指標來探究對股票市場的影響；技術指標都是由交易數據計算得出的，本文在技術指標的選取一方面是考慮到中國股市的交易周期是一周五天，構建了5日和10日的移動平均線（MA），另外由于漲跌預測是一個趨勢預測，為了更好地觀察股票價格的變化，還構建了指數移動平均線（EMA）、RSI指標（相對強弱指數：某一個期間內股價上漲總幅度占股價變化總幅度平均值的百分比），另外就是能量潮OBV（統計成交量變化的趨勢）和ROC（變動率）這幾個指標，旨在通過添加特征來提高準確率。在本次實驗中，選取時間窗中的第11天（該參數下各個算法的準確率比較穩定），調整不同的算法進行對比實驗，實驗結果如表1所示。

表1 添加技術指標后的準確率Table 1 Accuracy after adding technical indicators

從表中可以看出，添加技術指標之后，各個算法的準確率都有不同程度的增加，股票市場預測模型的預測效果有所提升，說明本文構造的技術指標對于股票市場也是有一定影響的。

后期通過PCA方法對添加的技術指標進行指標排序，排名靠前的是漲跌點、成交額、指數移動平均線、變動率，說明這些特征對股市的影響更加突出。

3.4 對比實驗二：添加投資者情緒

通過訓練CNN情感分類模型，對上證50中的50支股票約240萬條評論進行情感值的輸出。由并將每日的15點作為節點，按照日期匯總每日情感值；由于非交易日也有部分評論，考慮到周六周日的評論會影響周一的股票市場，故將其歸結到周五的評論中，共同影響周一的股市。最終結果的輸出為看漲與看跌，對應股民積極和消極的情感傾向。實驗最后輸出第一個情緒特征（藍線）與收盤價（紅線）進行Z-score標準化之后基本變化如圖8所示。

圖8 每日收盤價與每日情緒趨勢Fig.8 Daily closing price and daily mood trend

從圖中可以看出，相對于股價的變化來說，股民每日的情感值變化波動較大，間接說明了股價牽動著萬千股民的心。

整個時間的跨度為2017-03-20到2020-03-20，從整體上觀察可以看出在2017年到2018年6月份之間和2019年到2020年3月份之間兩個特征的趨勢基本一致，股價上漲，股民的情感呈現上升的趨勢，上升的程度較??；但是股價一旦下跌，股民的情感會很敏感，負向情感比較明顯，與前一天產生比較大的落差，聯想實際可以看出股民對于股價下跌的接受程度比較小。比較反常的是2018年6月份到2019年初，這段期間股價在3年之內屬于最低的一部分，股民情緒前后落差較大，但是股民的情感在股價下跌的過程中整體呈現上升的趨勢，預估是股民們覺得股價應該不會跌到如此程度，抱著看漲的心態，但是好景不長上升一段時間后開始急速下降，之后股價的一點點上升都會引起情感值大幅度的上升，間接體現了當股市處于低迷時，股民的情緒比平常更加不穩定。

通過將每日的兩個情感特征輸入到前一個階段的股票預測模型中，實驗結果如圖9所示：綠色線為添加投資者情緒之后的準確率結果。可以從圖中看出：添加投資者情緒之后，各個算法準確率都增加了。

圖9 添加投資者情緒后的準確率Fig.9 Accuracy of adding investor sentiment

實驗結果顯示上文中通過CNN情感分析得到的股民情緒雖然起伏比較大，但是一定程度上反映在了股票市場的決策方面，投資者情緒變量對預測股票市場漲跌有一定的作用，驗證了本文的研究目的，可以在一定程度上輔助相關利益者及時做出決策。

4 結束語

本文首先提出了卷積神經網絡模型，提取深度情感特征，構建了股票市場中的投資者情緒特征；引入深度學習中的LSTM，建立了一種股票指數漲跌預測模型，定量研究了交易數據、技術指標以及投資者情緒三種源數據對股票市場漲跌的影響。通過對上證50指數近三年數據的實證研究，與單一數據源和基線方法相比，融合投資者情緒的LSTM模型預測效果更佳，擬合程度更高；證明股票市場對于公眾的情緒是相對敏感的，模型可以為相關利益者輔助決策。目前存在的問題是未考慮投資者的社交關系，后期可以考慮增加社交節點權重來豐富模型的輸入，進而提升模型的性能。