基于多視圖注意力機(jī)制的多維度價(jià)格預(yù)測(cè)模型研究
2022-12-31 00:00:00宋津米利群蘇妍嫄
計(jì)算機(jī)應(yīng)用研究 2022年11期
摘 要：傳統(tǒng)的股票價(jià)格預(yù)測(cè)模型只針對(duì)單一維度價(jià)格進(jìn)行預(yù)測(cè)，忽略了多維度價(jià)格之間的復(fù)雜關(guān)系。因此，為了更好地對(duì)股票價(jià)格進(jìn)行準(zhǔn)確預(yù)測(cè)和為決策者提供前瞻性信息，提出了一種新的基于多視圖注意力機(jī)制的多維度價(jià)格預(yù)測(cè)模型。通過多視圖的深度可分離卷積網(wǎng)絡(luò)學(xué)習(xí)多維度股票價(jià)格潛在的復(fù)雜的輸入—輸出關(guān)系，更好地提取股票價(jià)格的時(shí)空特征，實(shí)現(xiàn)時(shí)空數(shù)據(jù)的智能關(guān)聯(lián)，并使用注意力機(jī)制進(jìn)一步提升模型的預(yù)測(cè)性能，進(jìn)而通過時(shí)空多維度的股價(jià)歷史數(shù)據(jù)來(lái)預(yù)測(cè)單和多時(shí)間步長(zhǎng)股票價(jià)格。該模型與其他四種模型在中國(guó)銀行股價(jià)數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)和比較，發(fā)現(xiàn)所提模型在不同預(yù)測(cè)時(shí)長(zhǎng)下相比于表現(xiàn)最好的模型，平均絕對(duì)誤差分別降低了0.4%、0.5%、4.2%、3.9%，均方誤差分別降低了0.8%、2%、1.9%、1.9%，平均百分比誤差分別降低了0.15%、0.21%、1.24%和1.34%。因此所提模型預(yù)測(cè)精度最高，預(yù)測(cè)性能最好，并且在對(duì)其他維度的股票價(jià)格預(yù)測(cè)上具有普適性。
關(guān)鍵詞：股票價(jià)格預(yù)測(cè)；注意力機(jī)制；時(shí)空智能關(guān)聯(lián)；多視圖角度；多維度預(yù)測(cè)模型
中圖分類號(hào)：TP391 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1001-3695（2022）11-008-3258-05
doi： 10.19734/j.issn.1001-3695.2022.04.0176
Research on multidimensional price prediction model based on multi-view attention mechanism
Song Jin， Mi Liqun， Su Yanyuan
（School of Economics amp; Management， Yanshan University， Qinhuangdao Hebei 066004， China）
Abstract：Traditional stock price forecasting models only predict prices in a single dimension， ignoring the complex relationship between prices in multiple dimensions. Therefore， to better predict stock prices accurately and provide forward-looking information for decision-makers， this paper proposed a new multidimensional price prediction model based on multi-view attention mechanism. It learned the underlying complex input-output relationship of multidimensional stock prices through multi-view depthwise separable convolution networks， better extracted the spatial-temporal features of stock prices， realized the intelligent association of spatial-temporal data， and used the attention mechanism to further improve performance， and then predicted stock prices of single and multiple time steps through spatial-temporal and multidimensional stock price historical data. The model was tested and compared with other four models on the bank of China stock price datasets. Comparing with the best performing model under different forecasting time periods， it show that the mean absolute error of the model is reduced by 0.4%， 0.5%， 4.2%， and 3.9%， the mean squared error is reduced by 0.8%， 2%， 1.9%， and 1.9%， and the mean absolute percentage error is reduced by 0.15%， 0.21%， 1.24%， and 1.34%， respectively. Therefore， the proposed model has the highest prediction accuracy and the best prediction performance， and has universality in predicting stock prices in other dimensions.
Key words：stock price forecast; attention mechanism; spatial-temporal intelligent correlation; multi-view angles; multi-dimensional prediction model
基金項(xiàng)目：國(guó)家自然科學(xué)基金資助項(xiàng)目（72101227）；河北省高等學(xué)校人文社會(huì)科學(xué)研究青年基金資助項(xiàng)目（SQ191076）
作者簡(jiǎn)介：宋津（1995-），女，吉林四平人，碩士研究生，主要研究方向?yàn)榫G色金融經(jīng)濟(jì)研究與預(yù)測(cè)和深度學(xué)習(xí)；米利群（1971-），女（回族）（通信作者），遼寧錦州人，副教授，碩導(dǎo)，博士，主要研究方向?yàn)榻鹑诮?jīng)濟(jì)（miliqun@ysu.edu.cn）；蘇妍嫄（1991-），女，河北唐山人，副教授，碩導(dǎo)，博士，主要研究方向?yàn)樾畔⑶閳?bào).
0 引言
股票作為人們投資中的一部分，一直是政府和投資者關(guān)注的對(duì)象。股票價(jià)格的準(zhǔn)確預(yù)測(cè)可以讓投資者最大限度地規(guī)避風(fēng)險(xiǎn)，作出正確的投資策略，使其收益最大化，也可以為監(jiān)管部門提供科學(xué)的決策依據(jù)，進(jìn)而引導(dǎo)市場(chǎng)平穩(wěn)運(yùn)行。因此，探索股票市場(chǎng)的內(nèi)在聯(lián)系，掌握股票價(jià)格的發(fā)展規(guī)律，準(zhǔn)確預(yù)測(cè)股票價(jià)格成為了國(guó)內(nèi)外研究者關(guān)注的課題［1，2］。
近年來(lái)，隨著硬件的發(fā)展和深度學(xué)習(xí)的不斷普及，股票價(jià)格的量化也經(jīng)歷了三個(gè)階段：a）傳統(tǒng)的統(tǒng)計(jì)學(xué)預(yù)測(cè)方法［3］，如移動(dòng)平均模型、指數(shù)平均p階自回歸模型AR、q階自回歸模型MA和自動(dòng)回歸移動(dòng)平均模型ARIMA等，這類方法對(duì)于小規(guī)模、單變量的預(yù)測(cè)是較為準(zhǔn)確的，但在復(fù)雜且大量的數(shù)據(jù)集的場(chǎng)景中比較難適用，因?yàn)檫@類方法需要大量的參數(shù)化建模；b）基于數(shù)據(jù)挖掘的機(jī)器學(xué)習(xí)預(yù)測(cè)方法［4］，如支持向量機(jī)（SVM）、回歸樹和極端梯度增強(qiáng)算法（XGBoost）等，這類預(yù)測(cè)方法雖然不需要進(jìn)行平穩(wěn)性檢驗(yàn)，但是需要對(duì)復(fù)雜且大量的預(yù)測(cè)數(shù)據(jù)進(jìn)行預(yù)處理并進(jìn)行特征工程；c）深度學(xué)習(xí)預(yù)測(cè)方法［5］，如長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（LSTM）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）和基于注意力機(jī)制的模型，這類預(yù)測(cè)方法不僅人工介入程度最低，而且針對(duì)復(fù)雜、非線性和非平穩(wěn)性的價(jià)格時(shí)間序列時(shí)，可以從大量時(shí)間序列中學(xué)習(xí)隱藏規(guī)律［6，7］。但大部分研究只考慮了股票價(jià)格的某一維度進(jìn)行分析預(yù)測(cè)，忽略了多維度價(jià)格下的多視圖之間的復(fù)雜時(shí)空關(guān)系。因此，本文提出了一種新的基于多視圖注意力機(jī)制的多維度價(jià)格預(yù)測(cè)模型，通過學(xué)習(xí)多維度價(jià)格下多視圖之間復(fù)雜的輸入—輸出關(guān)系來(lái)實(shí)現(xiàn)股票價(jià)格的多維度預(yù)測(cè)。隨后，使用注意力機(jī)制為多維度價(jià)格下多視圖的重要時(shí)間段進(jìn)行加權(quán)，提高模型的預(yù)測(cè)效果。
1 研究背景和相關(guān)工作
1.1 研究背景
目前，已經(jīng)有很多不同的統(tǒng)計(jì)學(xué)預(yù)測(cè)方法和機(jī)器學(xué)習(xí)預(yù)測(cè)方法運(yùn)用于股票價(jià)格的預(yù)測(cè)。最廣泛采用的方法分別是ARIMA 模型和SVM模型。文獻(xiàn)［8］將小波變換和ARIMA模型進(jìn)行融合從而對(duì)短期時(shí)間序列進(jìn)行預(yù)測(cè)。Krizhevsky等人［9］通過提出一個(gè)EMD方法、自回歸移動(dòng)平均型和支持向量機(jī)的融合框架實(shí)現(xiàn)了長(zhǎng)期碳價(jià)格系列預(yù)測(cè)。盡管兩者被證明在很多應(yīng)用中都是有效的，但應(yīng)對(duì)更具挑戰(zhàn)性和更復(fù)雜的價(jià)格預(yù)測(cè)任務(wù)時(shí)則采用CNN。最初，CNN因其捕捉空間關(guān)系的能力而被用于圖像應(yīng)用。隨后，CNN也應(yīng)用于價(jià)格預(yù)測(cè)任務(wù)。例如，文獻(xiàn)［10］使用了基于CNN的模型來(lái)實(shí)現(xiàn)時(shí)間序列任務(wù)的高預(yù)測(cè)精度。賈寧等人［11］將深度學(xué)習(xí)中的CNN、LSTM和注意力機(jī)制相互融合從而實(shí)現(xiàn)對(duì)短期指數(shù)準(zhǔn)確的預(yù)測(cè)。
與大多數(shù)的股票價(jià)格預(yù)測(cè)的研究工作相比，CNN更適用于實(shí)際的預(yù)測(cè)場(chǎng)景，因此本文采用CNN為基礎(chǔ)模型對(duì)股票價(jià)格進(jìn)行預(yù)測(cè)。
1.2 相關(guān)工作
由于股票價(jià)格時(shí)間序列多以日度價(jià)格為主，數(shù)據(jù)量龐大，并且價(jià)格受多因素影響，具有非線性、動(dòng)態(tài)、非平穩(wěn)性等特點(diǎn)。因此，深度學(xué)習(xí)在股票價(jià)格預(yù)測(cè)領(lǐng)域運(yùn)用是勢(shì)在必行的。陳俊華等人［12］首次采用小波變換對(duì)石油匯率時(shí)間序列信號(hào)進(jìn)行降噪，然后在運(yùn)用深度置信網(wǎng)絡(luò)（DBN）來(lái)構(gòu)建深度學(xué)習(xí)模型對(duì)其進(jìn)行預(yù)測(cè)。徐任超等人［13］通過改進(jìn)循環(huán)神經(jīng)網(wǎng)絡(luò)模型（RNN），并引入時(shí)間序列的趨勢(shì)損失函數(shù)和周期損失函數(shù)來(lái)挖掘時(shí)間序列的深層特征，并對(duì)其進(jìn)行精準(zhǔn)預(yù)測(cè)。
盡管上述深度學(xué)習(xí)方法都取得了不錯(cuò)的預(yù)測(cè)效果，可是都沒有考慮多維度股票價(jià)格下的復(fù)雜時(shí)空關(guān)系，只是對(duì)其中某一維度下的時(shí)間序列進(jìn)行預(yù)測(cè)。因此，Mehrkanoon［14］首次引進(jìn)二維和三維CNN模型對(duì)時(shí)間序列進(jìn)行多維度預(yù)測(cè)，學(xué)習(xí)時(shí)間序列的復(fù)雜的輸入—輸出關(guān)系，取得不錯(cuò)的預(yù)測(cè)精度。Bello等人［15］在此基礎(chǔ)上對(duì)二維和三維CNN模型應(yīng)用了注意力機(jī)制，進(jìn)一步提高對(duì)時(shí)間序列的多維度特征提取的能力。Ronneberger等人［16］通過對(duì)多維度時(shí)間序列進(jìn)行轉(zhuǎn)換以及應(yīng)用雙卷積神經(jīng)網(wǎng)絡(luò)來(lái)對(duì)時(shí)間序列進(jìn)行預(yù)測(cè)。Trebing等人［17］隨后在此基礎(chǔ)上在對(duì)時(shí)間序列多維度數(shù)據(jù)進(jìn)行張量轉(zhuǎn)換，并運(yùn)用CNN提取復(fù)雜的時(shí)空特征。盡管這些方法考慮了多維度時(shí)間序列并取得了不錯(cuò)的預(yù)測(cè)效果，可是都沒有考慮多維度股票價(jià)格下的多視圖之間的復(fù)雜時(shí)空關(guān)系，而且對(duì)多維度時(shí)間序列的復(fù)雜關(guān)系提取并不充分。因此，本文在上述模型的基礎(chǔ)上進(jìn)一步研究多維度股票價(jià)格下的多視圖之間的復(fù)雜時(shí)空和輸入—輸出關(guān)系。
2 方法
2.1 擠壓和激勵(lì)注意機(jī)制
擠壓和激勵(lì)注意機(jī)制（squeeze and excitation attention module， SE）［18］是一種全新的圖像識(shí)別機(jī)制，它通過對(duì)特征通道間的相關(guān)性進(jìn)行建模，并把重要的特征進(jìn)行強(qiáng)化以便提高模型的時(shí)空特征提取能力。表1顯示SE模塊的具體結(jié)構(gòu)，實(shí)現(xiàn)如圖1所示，具體步驟如下：
a）假設(shè)SE模塊的輸入維度為xi∈?C×T×V，輸入的每個(gè)通道中的全局時(shí)空特征信息被壓縮為一個(gè)標(biāo)量qi∈?C×1×1，如下所示。
其中：Fsq（·）表示擠壓機(jī)制；qi表示壓縮數(shù)據(jù)。
b）然后，應(yīng)用兩個(gè)線性層和激活函數(shù)來(lái)激發(fā)匯總被擠壓張量qi，定義為
其中：Fex（qi）代表激勵(lì)機(jī)制；zi代表激勵(lì)后的數(shù)據(jù)；fsig（·）和fReLU（·）代表激活函數(shù)。
c）最后對(duì)輸出進(jìn)行縮放操作，如下所示。
其中：Fscale（·）代表縮放機(jī)制；xi代表經(jīng)過SE模塊后的數(shù)據(jù)。
2.2 深度可分離卷積網(wǎng)絡(luò)
深度可分離卷積網(wǎng)絡(luò)（depthwise separable convolution，DSC）［19］ 源于CNN模型，并創(chuàng)新性地將傳統(tǒng)的卷積分為逐通道卷積和逐點(diǎn)卷積兩部分，如圖2所示。在逐通道階段，每個(gè)通道只使用一個(gè)卷積核，然后將所有卷積核的輸出再進(jìn)行拼接得到逐通道卷積的最終輸出。緊接著，在逐點(diǎn)卷積階段將逐通道卷積的輸出通過一個(gè)共同的卷積核進(jìn)行融合，串聯(lián)成DSC的最終輸出。與正常卷積相比，使用DSC的優(yōu)勢(shì)在于，它需要較少的參數(shù)，同時(shí)保持相似的精度。
2.3 本方法模型
本文模型是基于DSC提出的一種新模型，創(chuàng)新性地通過多維度價(jià)格的三個(gè)視圖來(lái)學(xué)習(xí)其潛在的復(fù)雜輸入—輸出關(guān)系，能更好地表征多維度價(jià)格的時(shí)空演變過程，總體框架如圖3所示。假設(shè)多維度價(jià)格的輸入數(shù)據(jù)的尺寸的形狀為?C×T×F，其中C=#多維度價(jià)格，T=#時(shí)間尺度和F=#多維度價(jià)格特征，所以三個(gè)視圖分別對(duì)應(yīng)多維度價(jià)格的C、T和F。同時(shí)設(shè)卷積核的尺寸為3×3，每個(gè)視圖下的每個(gè)通道的特征圖數(shù)量設(shè)置為16。具體實(shí)現(xiàn)方法如圖3所示。
階段1：在第一個(gè)DSC模型的逐通道階段，模型的卷積核通過視圖C，來(lái)遍歷其他兩個(gè)視圖T和F，輸入數(shù)據(jù)的尺寸從?C×T×F變?yōu)? （C×16）×T×F，從而可以很好地提取T和F之間的時(shí)空關(guān)系；在第二個(gè)DSC模型的逐通道階段，模型的卷積核通過視圖T，來(lái)遍歷其他兩個(gè)視圖C和F，輸入數(shù)據(jù)的尺寸從?C×T×F變?yōu)?C×（T×16）×F，從而可以很好地提取C和F之間的時(shí)空關(guān)系；在第三個(gè)DSC模型的逐通道階段，模型的卷積核通過視圖F，來(lái)遍歷其他兩個(gè)視圖C和T，輸入數(shù)據(jù)的尺寸從?C×T×F變?yōu)?C×T×（F×16），從而可以很好地提取C和T之間的時(shí)空關(guān)系。
階段2：在第一個(gè)DSC模型的逐點(diǎn)卷積階段，對(duì)上一階段的時(shí)空關(guān)系進(jìn)行進(jìn)一步特征提取，將?（C×16）×T×F的尺寸降維成最終的輸出尺寸?C×T×F；在第二個(gè)DSC模型的逐點(diǎn)卷積階段，對(duì)上一階段的時(shí)空關(guān)系進(jìn)行進(jìn)一步特征提取，將?C×（T×16）×F的尺寸降維成最終的輸出尺寸?C×T×F；在第三個(gè)DSC模型的逐點(diǎn)卷積階段，對(duì)上一階段的時(shí)空關(guān)系進(jìn)行進(jìn)一步特征提取，將?C×T×（F×16）的尺寸降維成最終的輸出尺寸?C×T×F。
階段3：在DSC的逐點(diǎn)卷積后，應(yīng)用SE模塊進(jìn)一步提高模型的時(shí)空特征提取性能。
階段4：將遍歷三個(gè)視圖的最終輸出?C×T×F進(jìn)行串聯(lián)并展平成維度為3×C×T×F的特征圖，然后將處理所得的特征圖輸送到階段5的全連接層，最后是輸出層。輸出層的數(shù)量取決于多維度價(jià)格的維度數(shù)目。
本文方法實(shí)驗(yàn)的具體網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)如表2所示。在本文方法中，將全連接層的隱藏神經(jīng)元數(shù)量設(shè)置為20。在逐點(diǎn)卷積之后，應(yīng)用批量歸一化（BN）。在BN之后和全連接層之后使用校正線性（ReLU）激活函數(shù)。
2.4 比較方法
為評(píng)價(jià)本文模型的預(yù)測(cè)效果，將其與四種基于CNN的模型進(jìn)行了性能比較。這包括文獻(xiàn)［14］的2D卷積模型（方法1），文獻(xiàn)［15］提出的基于注意力機(jī)制的2D卷積模型（方法2），文獻(xiàn)［16］的基于雙卷積的2D卷積模型（方法3）和無(wú)注意力機(jī)制的本文模型（方法4）。
2.5 預(yù)測(cè)性能評(píng)估指標(biāo)
為了評(píng)估本文方法對(duì)價(jià)格預(yù)測(cè)的性能，采用以下數(shù)學(xué)指標(biāo)作為方法的測(cè)評(píng)標(biāo)準(zhǔn)：平均絕對(duì)誤差（mean absolute error，MAE）、均方誤差（mean squared error，MSE）和平均絕對(duì)百分比誤差（mean absolute percentage error，MAPE）。其數(shù)值越小代表
方法的價(jià)格預(yù)測(cè)精度越高，預(yù)測(cè)效果越好。計(jì)算公式分別為
其中：n代表預(yù)測(cè)樣本的數(shù)目；yi和i分別代表真實(shí)值和預(yù)測(cè)值。
3 案例分析
3.1 數(shù)據(jù)來(lái)源
基于上海證券交易所中國(guó)銀行2011—2021年的多維度價(jià)格：開盤價(jià)、最高價(jià)、最低價(jià)、收盤價(jià)，部分展示如圖4所示。
將2011—2020年的價(jià)格區(qū)間作為訓(xùn)練集，然后將2021年的價(jià)格區(qū)間作為測(cè)試集。訓(xùn)練時(shí)，對(duì)訓(xùn)練集使用最大最小縮放操作（min-max scaler）進(jìn)行歸一化。因此，輸入數(shù)據(jù)的尺寸的形狀為C×T×F，其中C=#多維度價(jià)格、T=#時(shí)間尺度和F=#多維度價(jià)格特征（因此輸入尺寸為4×4×1）。
3.2 實(shí)驗(yàn)細(xì)節(jié)
本文模型損失值隨著迭代次數(shù)變化曲線如圖5所示。因此從圖中可知本文模型的迭代次數(shù)為150次，批量的大小為64，學(xué)習(xí)率為0.001，這兩個(gè)參數(shù)是根據(jù)實(shí)驗(yàn)經(jīng)驗(yàn)人為選取的超參數(shù)。優(yōu)化函數(shù)為Adam optimizer，損失函數(shù)為MAE函數(shù)，對(duì)五個(gè)模型實(shí)驗(yàn)進(jìn)行10次取平均值以減少誤差。同時(shí)對(duì)中國(guó)銀行股價(jià)進(jìn)行不同時(shí)間步長(zhǎng)（1、2、3和4天）的預(yù)測(cè)。具體實(shí)驗(yàn)的配置如表3所示。
3.3 結(jié)果分析與討論
在不同的預(yù)測(cè)時(shí)間步長(zhǎng)下，中國(guó)銀行股票的四個(gè)維度價(jià)格對(duì)應(yīng)五個(gè)模型的 MAE、MSE和MAPE的平均值列于表4。
從表4中可以得出，在不同的預(yù)測(cè)時(shí)間步長(zhǎng)時(shí)，本文模型的MAE預(yù)測(cè)誤差比表現(xiàn)最好的方法4分別低0.4%、0.5%、4.2%和3.9%，MSE預(yù)測(cè)誤差分別低0.8%、2%、1.9%和1.9%，MAPE預(yù)測(cè)誤差分別低0.15%、0.21%、1.24%和1.34%。本文模型與表現(xiàn)最差的方法1相比，MAE預(yù)測(cè)誤差分別低1.4%、1.9%、5.16%和5.7%，MSE預(yù)測(cè)誤差分別低4.9%、5.3%、5.4%和5.4%，MAPE預(yù)測(cè)誤差分別低0.4%、0.65%、4.7%和4.2%。由此可以看出在不同的預(yù)測(cè)時(shí)間步長(zhǎng)下，本文模型預(yù)測(cè)誤差遠(yuǎn)小于其他對(duì)比模型。當(dāng)預(yù)測(cè)時(shí)間步長(zhǎng)從1天變?yōu)?天時(shí)，從方法1到本文模型的MAE預(yù)測(cè)誤差分別上升了14.9%、14.4%、14.2%、14.1%和10.6%，MSE預(yù)測(cè)誤差分別上升了40%、39.9%、39.7%、40.6%和39.5%，MAPE預(yù)測(cè)誤差分別上升了5.14%、5.03%、4.95%、4.79%和3.60%。可以觀察
到所有模型隨著預(yù)測(cè)時(shí)間步長(zhǎng)變大，預(yù)測(cè)誤差也變大，預(yù)測(cè)的效果也變差。特別地，本文模型隨著預(yù)測(cè)時(shí)間步長(zhǎng)變大，價(jià)格預(yù)測(cè)誤差增加遠(yuǎn)少于其他對(duì)比模型。最后，可以表明本文模型與其他四種模型相比能夠取得更準(zhǔn)確的價(jià)格預(yù)測(cè)結(jié)果，其預(yù)測(cè)性能最優(yōu)。為了更加直觀地展示方法的優(yōu)越性，圖6為在預(yù)測(cè)時(shí)間步長(zhǎng)為1天時(shí)，不同方法進(jìn)行10次的預(yù)測(cè)結(jié)果的MAPE的箱型圖和散點(diǎn)分布圖。可以觀察到，本文模型的預(yù)測(cè)結(jié)果的MAPE更加穩(wěn)定且是最低的，說(shuō)明本文模型的預(yù)測(cè)結(jié)果更加準(zhǔn)確且穩(wěn)定。
由圖7可以看出，預(yù)測(cè)步長(zhǎng)為1天時(shí)，本文模型在預(yù)測(cè)開盤價(jià)、最高價(jià)和收盤價(jià)時(shí)，其預(yù)測(cè)誤差小于其他方法；在預(yù)測(cè)最低價(jià)時(shí)，預(yù)測(cè)誤差也僅僅略高于方法4且低于其他三種方法。預(yù)測(cè)步長(zhǎng)為2天時(shí)，本文模型在預(yù)測(cè)四種維度價(jià)格時(shí)，其預(yù)測(cè)誤差均小于其他方法；預(yù)測(cè)步長(zhǎng)為3天時(shí)，本文模型在預(yù)測(cè)開盤價(jià)、最高價(jià)和最低價(jià)時(shí)，其預(yù)測(cè)誤差遠(yuǎn)小于其他方法；在預(yù)測(cè)收盤價(jià)時(shí)，預(yù)測(cè)誤差也僅僅略高于方法4且低于其他三種方法。預(yù)測(cè)步長(zhǎng)為4天時(shí)，本文模型在預(yù)測(cè)最高價(jià)、最低價(jià)和收盤價(jià)時(shí)，其預(yù)測(cè)誤差遠(yuǎn)小于其他方法；在預(yù)測(cè)開盤價(jià)時(shí)，預(yù)測(cè)誤差也僅僅略高于方法4且低于其他三種方法。由此可以得出，本文模型幾乎在所有預(yù)測(cè)時(shí)間步長(zhǎng)上都具有每個(gè)維度價(jià)格中最低或次低的預(yù)測(cè)誤差，從而反映出本文模型具有最優(yōu)的預(yù)測(cè)效果。為了進(jìn)一步凸顯本文模型相比于其他模型預(yù)測(cè)性能的優(yōu)越性，計(jì)算了每個(gè)維度價(jià)格在所有預(yù)測(cè)時(shí)間步長(zhǎng)上的MAE平均值，見圖8。可以觀察到，本文模型在預(yù)測(cè)每個(gè)維度價(jià)格時(shí)，其預(yù)測(cè)誤差均小于其他方法。最后，可以表明本文模型與其他四種模型相比能夠取得更準(zhǔn)確的價(jià)格預(yù)測(cè)結(jié)果，其預(yù)測(cè)性能最優(yōu)。
圖9顯示了本文模型在預(yù)測(cè)時(shí)間步長(zhǎng)為1和3天時(shí)的預(yù)測(cè)價(jià)格值與實(shí)際價(jià)格值，其中以中國(guó)銀行股價(jià)中的最高價(jià)和收盤價(jià)為例。由圖9可以看出，當(dāng)預(yù)測(cè)時(shí)間步長(zhǎng)為1天，本文模型的預(yù)測(cè)值更接近實(shí)際值，預(yù)測(cè)值與實(shí)際值的波動(dòng)也相似。當(dāng)預(yù)測(cè)時(shí)間步長(zhǎng)為3天，本文模型的預(yù)測(cè)值較為接近實(shí)際值，預(yù)測(cè)值與實(shí)際值的波動(dòng)也大體相似，但預(yù)測(cè)值與實(shí)際值的偏差明顯大于預(yù)測(cè)步長(zhǎng)為1天時(shí)的偏差。因此，本文模型在時(shí)間步長(zhǎng)為1天時(shí)，價(jià)格的預(yù)測(cè)值更接近于實(shí)際的價(jià)格。
圖10顯示了本文模型在預(yù)測(cè)時(shí)間步長(zhǎng)為1和3天時(shí)的預(yù)測(cè)值與實(shí)際值的quantile-quantile圖，其中以中國(guó)銀行股價(jià)中的最高價(jià)和收盤價(jià)為例。可以發(fā)現(xiàn)本文模型在預(yù)測(cè)步長(zhǎng)為1和3天的預(yù)測(cè)值和實(shí)際值分布都大部分位于圖中直線附近，因此兩者分布相似，能夠側(cè)面顯示出本文模型的預(yù)測(cè)效果優(yōu)秀、預(yù)測(cè)精度高的特點(diǎn)。
圖11顯示了所有方法在預(yù)測(cè)時(shí)間步長(zhǎng)為1天時(shí)，對(duì)于最高價(jià)的預(yù)測(cè)結(jié)果。由圖可知本文模型對(duì)股票的最高價(jià)格的預(yù)測(cè)值更接近真實(shí)值，偏差更小且擬合情況基本吻合，特別是在應(yīng)對(duì)數(shù)據(jù)波動(dòng)時(shí)，本文模型穩(wěn)定性也遠(yuǎn)高于其他方法。綜合對(duì)比可得，本文模型的預(yù)測(cè)性能最優(yōu)。
本文模型的預(yù)測(cè)性能主要取決于輸入數(shù)據(jù)的維度，其中以C和T 為主。但是C一般是由實(shí)驗(yàn)數(shù)據(jù)決定且固定，T 是人為選定的，因此極大地影響模型的預(yù)測(cè)性能。圖12顯示了預(yù)測(cè)步長(zhǎng)為1天時(shí)，不同的時(shí)間尺度T對(duì)于模型的影響。
由圖12可知，當(dāng)時(shí)間尺度T的選取從2～6時(shí)，本文模型的MAE在不斷變小，訓(xùn)練時(shí)間不斷增加。主要是因?yàn)椋?dāng)時(shí)間尺度T選取越大時(shí)，包含的數(shù)據(jù)價(jià)格的歷史信息越多，對(duì)于模型的未來(lái)價(jià)格預(yù)測(cè)也就越精準(zhǔn)，但訓(xùn)練相應(yīng)的模型時(shí)間就會(huì)變長(zhǎng)。當(dāng)T選取3時(shí)，雖然訓(xùn)練時(shí)間短，但模型的預(yù)測(cè)誤差較大，預(yù)測(cè)性能無(wú)法達(dá)到要求。當(dāng)T選取5時(shí)，雖然模型的預(yù)測(cè)誤差小，但訓(xùn)練時(shí)間長(zhǎng)，無(wú)法滿足一定的即時(shí)性。綜上所述，當(dāng)T選取4時(shí)，模型的預(yù)測(cè)誤差小且訓(xùn)練時(shí)間也相對(duì)較短，既可以滿足預(yù)測(cè)性能也可以滿足一定的即時(shí)性。
4 結(jié)束語(yǔ)
本文基于CNN模型等相關(guān)理論，提出了一種新的基于多視圖注意力機(jī)制的多維度價(jià)格預(yù)測(cè)模型。在中國(guó)銀行股票價(jià)格數(shù)據(jù)集上，將本文模型與其他四種方法進(jìn)行了比較。結(jié)果表明，本文模型在預(yù)測(cè)單時(shí)間步長(zhǎng)和多時(shí)間的步長(zhǎng)價(jià)格時(shí)，MAE和MSE均比其他方法小，而且預(yù)測(cè)值和實(shí)際值的分布是相似的。證明此模型具有最高的預(yù)測(cè)精度和最優(yōu)的預(yù)測(cè)效果，并且預(yù)測(cè)誤差最低，預(yù)測(cè)波動(dòng)最小。這主要得益于本文模型不僅可以提取多視圖角度下多維度股票價(jià)格的時(shí)空信息，還可以學(xué)習(xí)潛在的復(fù)雜的輸入—輸出關(guān)系。因此，可以更好地輔助投資者規(guī)避市場(chǎng)風(fēng)險(xiǎn)和提高投資能力，為監(jiān)管部門提供可靠的決策手段，促使市場(chǎng)平穩(wěn)發(fā)展。
然而，本文模型并沒有考慮多維度價(jià)格之間的關(guān)系強(qiáng)度，因此未來(lái)的工作是通過圖神經(jīng)網(wǎng)絡(luò)的連接矩陣來(lái)確定多維度價(jià)格的強(qiáng)弱關(guān)系，并通過圖神經(jīng)網(wǎng)絡(luò)對(duì)多維度價(jià)格進(jìn)行更加精準(zhǔn)的時(shí)空預(yù)測(cè)。
參考文獻(xiàn)：
［1］史建楠，鄒俊忠，張見，等. 基于DMD-LSTM模型的股票價(jià)格時(shí)間序列預(yù)測(cè)研究［J］. 計(jì)算機(jī)應(yīng)用研究，2020，37（3）： 662-666. （Shi Jiannan，Zou Junzhong，Zhang Jian，et al. Research of stock price prediction based on DMD-LSTM model［J］. Application Research of Computers，2020，37（3）： 662-666.）
［2］Yu Pengfei，Yan Xuesong. Stock price prediction based on deep neural networks［J］. Neural Computing and Applications，2020，32（6）： 1609-1628.
［3］吳玉霞，溫欣. 基于ARIMA模型的短期股票價(jià)格預(yù)測(cè)［J］. 統(tǒng)計(jì)與決策，2016（23）： 83-86. （Wu Yuxia，Wen Xin. Short-term stock price forecasting based on ARIMA model［J］. Statistics amp; Decision，2016（23）： 83-86.）
［4］王章章. 基于機(jī)器學(xué)習(xí)的價(jià)格預(yù)測(cè)模型研究與實(shí)現(xiàn)［D］. 西安： 長(zhǎng)安大學(xué)，2018. （Wang Zhangzhang. Research and implementation of machine learning based price prediction model［D］. Xi'an： Chang'an University，2018.）
［5］劉廣. 基于深度學(xué)習(xí)的股票市場(chǎng)預(yù)測(cè)模型和評(píng)估方法研究與應(yīng)用［D］. 北京： 北京郵電大學(xué)，2020. （Liu Guang. Research and application of stock market prediction models and evaluation methods based on deep learning［D］. Beijing： Beijing University of Posts and Telecommunications，2020.）
［6］景楠，史紫荊，舒毓民.基于注意力機(jī)制和CNN-LSTM模型的滬銅期貨高頻價(jià)格預(yù)測(cè)［J/OL］.中國(guó)管理科學(xué). （2020-08-13）［2022-09-04］. https：//doi.org/10.16381/j.cnki.issn1003-207x.2020.0342. （Jing Nan，Shi Zijin，Shu Yumin. Forecasting high frequency price of shanghai copper futures based on attention mechanism and CNN-LSTM［J/OL］. Chinese Journal of Management Science. （2020-08-13）［2022-09-04］. https：//doi.org/10.16381/j.cnki.issn1003-207x.2020.0342.）
［7］曹超凡，羅澤南，謝佳鑫，等. MDT-CNN-LSTM模型的股價(jià)預(yù)測(cè)研究［J］. 計(jì)算機(jī)工程與應(yīng)用，2022，58（5）： 280-286. （Cao Chaofan，Luo Ze'nan，Xie Jiaxin，et al. Stock price prediction based on MDT-CNN-LSTM model［J］. Computer Engineering and Applications，2022，58（5）： 280-286.）
［8］Aasim，Singh S N，Mohapatra A. Repeated wavelet transform based ARIMA model for very short-term wind speed forecasting［J］. Renewable Energy，2019，136： 758-768.
［9］Krizhevsky A，Sutskever I，Hinton G E. ImageNet classification with deep convolutional neural networks［J］. Communications of the ACM，2017： 60（6）： 84-90.
［10］Liang Xiaoyuan，Zhang Yuchuan，Wang Guiling，et al. A deep lear-ning model for transportation mode detection based on smartphone sen-sing data［J］. IEEE Trans on Intelligent Transportation Systems，2020，21（12）： 5223-5235.
［11］賈寧，鄭純軍. 基于LSTM-DA神經(jīng)網(wǎng)絡(luò)的農(nóng)產(chǎn)品價(jià)格指數(shù)短期預(yù)測(cè)模型［J］. 計(jì)算機(jī)科學(xué)，2019，46（S2）： 62-65，71. （Jia Ning，Zheng Chunjun. Short-term forecasting model of agricultural price index based on LSTM-DA neural network［J］. Computer Science，2019，46（S2）： 62-65，71.）
［12］陳俊華，郝彥惠，鄭丁文，等. 基于DBN深度學(xué)習(xí)的期貨市場(chǎng)價(jià)格預(yù)測(cè)建模與決策［J］. 計(jì)算機(jī)科學(xué)，2018，45（S1）： 75-78，84. （Chen Junhua，He Yanhui，Zheng Dingwen，et al. Deep learning based modeling and decision making for futures market price forecasting［J］. Computer Science，2018，45（S1）： 75-78，84.）
［13］徐任超，閻威武，王國(guó)良，等. 基于周期性建模的時(shí)間序列預(yù)測(cè)方法及電價(jià)預(yù)測(cè)研究［J］. 自動(dòng)化學(xué)報(bào)，2020，46（6）： 1136-1144. （Xu Renchao，Yan Weiwu，Wang Guoliang，et al. Research on time series forecasting method and electricity price prediction based on periodic modeling［J］. Acta Automatica Sinica，2020，46（6）： 1136-1144.）
［14］Mehrkanoon S. Deep shared representation learning for weather elements forecasting［J］. Knowledge-Based Systems，2019，179（9）： 120-128.
［15］Bello I，Zoph B，Le Q，et al. Attention augmented convolutional networks［C］// Proc of IEEE/CVF International Conference on Computer Vision. Piscataway，NJ： IEEE Press，2019： 3285-3294.
［16］Ronneberger O，F(xiàn)ischer P，Brox T. U-Net： convolutional networks for biomedical image segmentation［C］// Proc of International Confe-rence on Medical Image Computing and Computer-Assisted Intervention. Berlin： Springer，2015： 234-241.
［17］Trebing K，Mehrkanoon S. Wind speed prediction using multidimensional convolutional neural networks［C］// Proc of IEEE Symposium Series on Computational Intelligence. Piscataway，NJ： IEEE Press，2020： 713-720.
［18］Hu Jie，Shen Li，Albanie S，et al. Squeeze-and-excitation networks［J］. IEEE Trans on Pattern Analysis and Machine Intelligence，2020，42（8）： 2011-2023.
［19］Chollet F. Xception： deep learning with depthwise separable convolutions［C］// Proc of IEEE Conference on Computer Vision and Pattern Recognition. Piscataway，NJ： IEEE Press，2017： 1800-1807.
