一種基于金融時間序列數(shù)據(jù)的深度學(xué)習(xí)風(fēng)險預(yù)測方法

朱林

摘要：金融時間序列數(shù)據(jù)的指標按照不同的會計準則會得到不同的數(shù)值，如何取舍會受到人為因素的干預(yù)。針對金融時序數(shù)據(jù)的領(lǐng)域泛化專門提出一種異常檢測方法，解決特征分布的多樣性和復(fù)雜性，捕捉金融序列數(shù)據(jù)的特有表征模式。將循環(huán)神經(jīng)網(wǎng)絡(luò)之后獲得的結(jié)果僅作為學(xué)習(xí)到的知識，通過標準分類器在特征空間對其邊緣分布進行適配，然后再通過隱變量自回歸模型進一步進行預(yù)測，以此來提高預(yù)測的精度。然后，構(gòu)建一個隱變量自回歸模型來進行風(fēng)險預(yù)測，通過捕捉金融時間序列數(shù)據(jù)之間的特征分布來識別其中的金融風(fēng)險，實驗結(jié)果表明，模型具有一定的可行性。

關(guān)鍵詞：深度學(xué)習(xí)；金融時間序列數(shù)據(jù)；特征分布；金融風(fēng)險；異常檢測

一、前言

深度學(xué)習(xí)已經(jīng)被廣泛應(yīng)用于計算機視覺和自然語言處理領(lǐng)域。但是與圖像領(lǐng)域和自然語言處理領(lǐng)域有較多的經(jīng)典網(wǎng)絡(luò)結(jié)構(gòu)可選擇不同，金融時間序列數(shù)據(jù)處理吸引了大批研究者探索其未來研究的方向。嘗試使用深度學(xué)習(xí)技術(shù)增強金融風(fēng)險防范措施，無論在基礎(chǔ)理論研究上還是對于國民經(jīng)濟和社會發(fā)展中的金融風(fēng)險防范工作，都具有很高的研究和應(yīng)用價值。

二、深度學(xué)習(xí)技術(shù)在金融風(fēng)險預(yù)測領(lǐng)域的作用

異常檢測是一門由來已久的技術(shù)，已經(jīng)廣泛應(yīng)用于各個領(lǐng)域。隨著近些年深度學(xué)習(xí)技術(shù)的突飛猛進，兩項技術(shù)的集合受到了諸多研究者的關(guān)注，并且也在一些領(lǐng)域展開了應(yīng)用，網(wǎng)絡(luò)入侵檢測[1]、智慧醫(yī)療[2]、傳感器網(wǎng)絡(luò)[3]，以及視頻異常檢測[4]等。一個金融時間序列數(shù)據(jù)的指標按照不同的會計準則會得到不同的數(shù)值，如何取舍會受到人為因素的干預(yù)。當前被判定合規(guī)的數(shù)據(jù)標簽，在金融風(fēng)險真實發(fā)生后再回溯人工智能的學(xué)習(xí)過程，相當于非主觀有意地對模型數(shù)據(jù)進行“投毒”。有研究者注意到，深度學(xué)習(xí)模型，無論卷積神經(jīng)網(wǎng)絡(luò)還是循環(huán)神經(jīng)網(wǎng)絡(luò)提取到的特征都具有相似性和繼承性[5]，嘗試將其應(yīng)用在其他具備一定特征的金融時序數(shù)據(jù)集上進行泛化研究，對于探索深度學(xué)習(xí)在金融風(fēng)險預(yù)測工作上的有效性具有應(yīng)用意義。與其他很多異常檢測場景不同，在實務(wù)中，金融風(fēng)險不一定意味著損失，也可能是套利的機會。在金融時間序列數(shù)據(jù)場景下獲得準確的標簽的代價是十分昂貴的，尤其是異常數(shù)據(jù)在一開始往往會標記成正常數(shù)據(jù)，因為事件之初，總有各種各樣的解釋背書該操作的合理合規(guī)性。如何通過多源時序數(shù)據(jù)的時空關(guān)聯(lián)性來發(fā)現(xiàn)通用表征模式，不同的是這里誤導(dǎo)模型的將不再有噪聲數(shù)據(jù)，而是并不太準確，事后往往被發(fā)現(xiàn)錯誤標注的標簽數(shù)據(jù)。這是金融時序數(shù)據(jù)場景下異常檢測面臨的另一個關(guān)鍵挑戰(zhàn)。

本文提出一種針對金融時序數(shù)據(jù)的領(lǐng)域泛化異常檢測方法，解決特征分布的多樣性和復(fù)雜性，捕捉金融序列數(shù)據(jù)的特有表征模式。該方法基于循環(huán)神經(jīng)網(wǎng)絡(luò)，但在架構(gòu)上分為兩個學(xué)習(xí)模塊。在兩個學(xué)習(xí)模塊之間具有學(xué)習(xí)到的特征知識的傳遞，先在一個源領(lǐng)域上進行pre-train，使用循環(huán)神經(jīng)網(wǎng)絡(luò)作特征提取模塊，然后在目標領(lǐng)域上進行隱變量的自回歸分析（latent autoregressive models）。

三、研究方案

（一）將數(shù)據(jù)的學(xué)習(xí)和使用分為兩個部分

在該模型中，金融時間序列數(shù)據(jù)領(lǐng)域所有的標簽被認為都只有在事后才能明確其準確性。那么，該模型的設(shè)計方案中在循環(huán)神經(jīng)網(wǎng)絡(luò)之后獲得的結(jié)果僅把它當做學(xué)習(xí)到的知識，通過標準分類器在特征空間對其邊緣分布進行適配，然后再通過隱變量自回歸模型進一步進行預(yù)測，通過這樣的方法來提高預(yù)測的精度。

（二）使用隱變量自回歸模型尋找金融風(fēng)險的分布特征

該研究使用隱變量自回歸模型計算預(yù)測值與標簽之間的分布距離，對于特征空間進行分布適配。雖然大多數(shù)深度研究的前提都是滿足獨立同分布這一要求，金融時間序列數(shù)據(jù)相較于其他數(shù)據(jù)集在這一點上矛盾并不突出，但也不能認為在嚴格意義上完全符合。假設(shè)在其他時間序列中的噪音，在該領(lǐng)域指不由各種機構(gòu)有意操控的數(shù)據(jù)分布下的金融時間序列數(shù)據(jù)。在更多考慮金融時間序列數(shù)據(jù)的時間依賴性、空間依賴性，以及金融“噪音”數(shù)據(jù)分布的各種影響后，通過當前的方案使得正常數(shù)據(jù)在隱變量特征空間具有獨立同分布這一特性，在沒有添加生成數(shù)據(jù)的同時可以提高研究模型的魯棒性。

四、方案設(shè)計

（一）復(fù)合深度學(xué)習(xí)框架

本研究中對深度學(xué)習(xí)各種模型的層次架構(gòu)進行操作，建立一個可以互相銜接使用的數(shù)據(jù)處理學(xué)習(xí)機制架構(gòu)。構(gòu)建由循環(huán)神經(jīng)網(wǎng)絡(luò)與隱變量自回歸模型組合的復(fù)合架構(gòu)如圖1所示，旨在通過隱變量的特征學(xué)習(xí)，將過去時間金融數(shù)據(jù)以及其在隱變量自回歸模型中預(yù)測產(chǎn)生的誤差，再進行統(tǒng)一的學(xué)習(xí)。

在金融時間序列數(shù)據(jù)中，每個金融機構(gòu)包含m個指標、n個（n>1）金融機構(gòu)的數(shù)據(jù)集，定義S表示指標集合，模型所獲得的金融時間序列數(shù)據(jù)總體有N=|S|=mn個指標，每一個指標為xi∈S，xi∈Rti×1。其中，ti表示指標xi的長度。目標限定在金融時間序列數(shù)據(jù)這一種時間序列上，完成對于金融風(fēng)險的預(yù)測這一學(xué)習(xí)任務(wù)。利用相似性度量在大量金融數(shù)據(jù)集進行學(xué)習(xí)，通過學(xué)習(xí)找出金融數(shù)據(jù)時間序列計算風(fēng)險閾值的較優(yōu)方法。

假設(shè)當前某一機構(gòu)的時間序列數(shù)據(jù)為Xi，那么向下一個隱變量自回歸模型傳遞的特征知識由循環(huán)神經(jīng)網(wǎng)絡(luò)進行計算，如公式（1）。

（1）

其中，Ht-1是上一個時間點的該機構(gòu)金融時間序列數(shù)據(jù)計算獲得的特征知識，即X=（x1…，xN）T∈RN×T表示包含所有數(shù)據(jù)源的輸入樣本。

通過本研究的方式，尋找相鄰時間隱變量Ht和Ht-1之間的關(guān)系，并將學(xué)習(xí)到的信息保留在當前時間的隱變量之中。這些隱變量在模型的下一個計算層，將被送入帶有激活函數(shù)的全連接層。隨后使用隱變量自回歸算法來做金融時間序列數(shù)據(jù)集異常特征的線性預(yù)測，將不同機構(gòu)的特征帶入當前學(xué)習(xí)的特征中去進行隱變量自回歸分析。利用特征空間中的數(shù)據(jù)分布信息來探測當前數(shù)據(jù)源的特征是否異常。按照既定的研究目標將循環(huán)神經(jīng)網(wǎng)絡(luò)在指定金融時間序列數(shù)據(jù)集內(nèi)學(xué)習(xí)到的特征知識表示作為隱變量自回歸模型的輸入。

對于金融時間序列數(shù)據(jù)集中的標簽與模型預(yù)測值之間的距離，當前研究使用交叉熵來進行計算。為了考慮一個機構(gòu)的金融時間序列數(shù)據(jù)集在前后時間線上的預(yù)測差距規(guī)模，使用時間累積影響度這個值來衡量整個序列中所有時間預(yù)測值之間的交叉熵損失，如公式（2）。

（2）

前置循環(huán)神經(jīng)網(wǎng)絡(luò)計算金融時間序列數(shù)據(jù)的訓(xùn)練數(shù)據(jù)，學(xué)習(xí)獲得符合獨立同分布要求的隱變量知識，再通過隱變量自回歸模型學(xué)習(xí)獲得金融時間序列數(shù)據(jù)集在相關(guān)機構(gòu)、相關(guān)時間上的預(yù)測差距規(guī)模，如公式（3）。

（3）

λ為模型目標函數(shù)的超參數(shù)，用于調(diào)整誤差之間的權(quán)重大小。LCEL 為前置循環(huán)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差，該值指示了學(xué)習(xí)到的隱變量知識是否能夠很好地保留輸入樣本的特征分布，這里誤差計算使用交叉熵。LMSE表示隱變量自回歸模型的訓(xùn)練誤差，通過這個值考查正常情況與異常情況之間的距離，以探測金融風(fēng)險。

最終通過深度學(xué)習(xí)獲得的是一個風(fēng)險閾值，它在不同金融場景下意義可能不同。對于金融機構(gòu)，它可以是止盈止損閾值。對于監(jiān)管機構(gòu)，它可以是管控紅線。這里的訓(xùn)練集X={x1，x2，…，xD}，xi∈RN×T是包含風(fēng)險存在的、真實的一個時間段內(nèi)的特征集合。FRPL（xi）是對應(yīng)樣本標簽xi在循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)合隱變量自回歸模型訓(xùn)練之后得到的距離總和，u是其均值。η是超參數(shù)，通過這種模型的不斷應(yīng)用形成這個超參數(shù)的特征標簽庫之后，η也可以通過深度模型學(xué)習(xí)獲得，如公式（4）。

（4）

在預(yù)測階段，通過判斷是否預(yù)測樣本特征xi的距離FRPL（xi）>FRthreshold，如果大于，則該樣本xi被標定為金融風(fēng)險，反之為正常。

五、實驗結(jié)果分析

（一）該模型與僅使用循環(huán)神經(jīng)網(wǎng)絡(luò)之間的比較

實驗使用金融時間序列數(shù)據(jù)集為私有，反映了某小金融行業(yè)在某行政區(qū)域內(nèi)的綜合指數(shù)。為了驗證模型的有效性，使用循環(huán)神經(jīng)網(wǎng)絡(luò)模型、隱變量自回歸模型，采用新提出的、兩者結(jié)合的方法對指數(shù)進行預(yù)測，并將獲得的預(yù)測標簽與數(shù)據(jù)集中的標簽進行了對比，分別對應(yīng)圖中的實線段和點化線線段，如圖2所示。可以看出在短期內(nèi)該模型有預(yù)測能力，長期預(yù)測情況下，能力會被不斷削弱，但也要強于全點線所對應(yīng)的循環(huán)神經(jīng)網(wǎng)絡(luò)。

如果將預(yù)測測試集的數(shù)據(jù)也投入訓(xùn)練，可以得到圖2中的虛線線段曲線，對于監(jiān)管場景下的應(yīng)用具有實踐價值。

（二）該模型使用交叉熵與平方損失之間的比較

協(xié)變量漂移將會導(dǎo)致誤差的積累，在數(shù)據(jù)脫離金融規(guī)律的循環(huán)之后，預(yù)測將不再準確，甚至?xí)驗樵谀Ｐ蛢?nèi)部達到某個奇點而造成自動梯度下降的算法失靈。即使來自于同一個行業(yè)，由于協(xié)方差漂移問題的存在，在源域特征分布與目標域特征分布之間也存在差異。該研究相較于異常檢測中常規(guī)使用的LMSE，來度量這兩個分布之間的差距，使用了交叉熵來處理這種距離損失。通過實驗結(jié)果數(shù)據(jù)可以看出該模型取得了一個更好的效果，如圖3所示。

（三）金融市場常態(tài)環(huán)境下預(yù)測風(fēng)險效果

如果給定的金融時間序列數(shù)據(jù)完全剔除金融市場中的黑天鵝事件、灰犀牛事件，該模型可以獲得比較滿意的結(jié)果，如圖4所示。在應(yīng)用于金融時間序列數(shù)據(jù)的特征分布比較穩(wěn)定的情景下，該模型可以預(yù)測出該市場金融風(fēng)險閾值的發(fā)展趨勢。由于在金融時間序列中，正常和異常數(shù)據(jù)往往具有同一個類別的標簽，考慮到其數(shù)據(jù)分布的差異性，實際上在不同階段可以給這些數(shù)據(jù)集賦予新的偽標簽。

六、結(jié)語

本研究具體方法是首先構(gòu)建循環(huán)神經(jīng)網(wǎng)絡(luò)新的隱知識學(xué)習(xí)體系，然后，構(gòu)建一個隱變量自回歸模型來進行風(fēng)險預(yù)測。通過捕捉金融時間序列數(shù)據(jù)之間的特征分布特征來識別其中的金融風(fēng)險，實驗結(jié)果表明，模型具有一定的可行性。

參考文獻

[1] Chalapathy R， Chawla S. Deep learning for anomaly detection： A survey [J]. arXiv preprint arXiv：1901.03407， 2019.

[2] Litjens G， Kooi T， Bejnordi B E， et al. A survey on deep learning in medical image analysis [J]. Medical image analysis， 2017， 42： 60-88.

[3]Ball J E， Anderson D T， Chan C S. Comprehensive survey of deep learning in remote sensing： theories， tools， and challenges for the community [J]. Journal of Applied Remote Sensing， 2017， 11（04）： 042609.

[4]Kiran B， Thomas D， Parakkal R. An overview of deep learning based methods for unsupervised and semi-supervised anomaly detection in videos [J]. Journal of Imaging， 2018， 4（02）： 36.

[5]Zhang Y， Chen Y， Wang J， et al. Unsupervised deep anomaly detection for multi-sensor time-series signals[J]. IEEE Transactions on Knowledge and Data Engineering， 2021， 35（02）： 2118-2132.

基金項目：1.貴州省第六批千層次人才項目（項目編號：筑科合同-GCC[2022]011）；2.2024年度貴州省基礎(chǔ)研究計劃（自然科學(xué)類）項目“基于金融數(shù)據(jù)的時間序列在線深度遷移學(xué)習(xí)研究”（項目編號：黔科合基礎(chǔ)-ZK[2024]一般520）

作者單位：貴陽學(xué)院電子信息工程學(xué)院

■ 責任編輯：王穎振、鄭凱津