基于混頻時(shí)序深度學(xué)習(xí)模型的汽車產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)研究

DOI：10.3969/j.issn.1004-910X.2025.07.011 [中圖分類號(hào)]F425；F224 [文獻(xiàn)標(biāo)識(shí)碼］A

引言

在全球經(jīng)濟(jì)版圖迅速擴(kuò)張的宏大背景下，現(xiàn)代產(chǎn)業(yè)的多元化領(lǐng)域正經(jīng)歷著前所未有的繁榮機(jī)遇與深刻挑戰(zhàn)交織并存的局面[1，2]。然而，這一發(fā)展浪潮中，產(chǎn)業(yè)界亦不可避免地遭遇著來自內(nèi)外部環(huán)境的重重考驗(yàn)。部分產(chǎn)業(yè)因內(nèi)部技術(shù)壁壘高企、自主創(chuàng)新能力不足等內(nèi)在短板，其成長(zhǎng)步伐受到顯著掣肘[3]。與此同時(shí)，市場(chǎng)風(fēng)向的瞬息萬變、政策環(huán)境的調(diào)整更新、自然氣候的不可預(yù)測(cè)波動(dòng)，乃至突發(fā)的社會(huì)輿論風(fēng)波等外部力量，如同暗流涌動(dòng)，為產(chǎn)業(yè)發(fā)展平添了諸多不確定性與潛在影響[4]。在此背景下，隨著信息檢索技術(shù)的日新月異、大數(shù)據(jù)浪潮的泗涌澎湃以及人工智能領(lǐng)域的持續(xù)革新，產(chǎn)業(yè)數(shù)據(jù)以前所未有的速度激增，形成了一個(gè)浩瀚無垠的數(shù)據(jù)海洋，其中蘊(yùn)藏著推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的寶貴知識(shí)寶藏[5]。這一趨勢(shì)不僅極大地豐富了數(shù)據(jù)資源，更為精準(zhǔn)洞察產(chǎn)業(yè)未來走向提供了可能。產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)，作為一項(xiàng)基于歷史數(shù)據(jù)深度挖掘、趨勢(shì)前瞻性分析以及復(fù)雜模型構(gòu)建的綜合性工作，正逐步成為導(dǎo)航產(chǎn)業(yè)穩(wěn)健前行的重要燈塔[6。它通過對(duì)紛繁復(fù)雜的風(fēng)險(xiǎn)因素進(jìn)行系統(tǒng)梳理與量化建模，旨在提前洞悉并預(yù)警潛在風(fēng)險(xiǎn)，科學(xué)預(yù)測(cè)產(chǎn)業(yè)未來可能面臨的風(fēng)險(xiǎn)等級(jí)與影響范圍[7]

當(dāng)前，各產(chǎn)業(yè)正處于技術(shù)和業(yè)務(wù)管理快速變化的階段，技術(shù)之間的相互依賴性不斷增強(qiáng)，對(duì)風(fēng)險(xiǎn)預(yù)測(cè)的準(zhǔn)確性和實(shí)時(shí)性提出了更高的要求[8]。此外，官方機(jī)構(gòu)發(fā)布的產(chǎn)業(yè)統(tǒng)計(jì)數(shù)據(jù)是產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)最基本的數(shù)據(jù)來源之一，通過分析各產(chǎn)業(yè)指標(biāo)，可以總結(jié)歸納出產(chǎn)業(yè)發(fā)展變化潛在的客觀規(guī)律，并對(duì)某一時(shí)間節(jié)點(diǎn)的產(chǎn)業(yè)風(fēng)險(xiǎn)進(jìn)行科學(xué)量化的分析[9]這些產(chǎn)業(yè)指標(biāo)根據(jù)不同的采樣頻率又可分為年度、季度、月度等類型。年度指標(biāo)是對(duì)產(chǎn)業(yè)在整個(gè)年度內(nèi)的表現(xiàn)進(jìn)行評(píng)估的時(shí)間序列數(shù)據(jù)集合，提供了對(duì)產(chǎn)業(yè)長(zhǎng)期趨勢(shì)和發(fā)展方向的洞察[10]。通常，低頻數(shù)據(jù)具有高穩(wěn)定性和高可靠性，受到短期波動(dòng)的影響較小，可以更好地反映產(chǎn)業(yè)中長(zhǎng)期趨勢(shì)和結(jié)構(gòu)性變化[1]。高頻數(shù)據(jù)具有高實(shí)時(shí)性和高細(xì)節(jié)性，可以更深人及時(shí)地分析市場(chǎng)的細(xì)微變化和波動(dòng)[12]。結(jié)合混頻數(shù)據(jù)模型和其它統(tǒng)計(jì)方法，既可以改進(jìn)模型的預(yù)測(cè)精度和時(shí)效性；也能夠捕捉不同頻率下的數(shù)據(jù)動(dòng)態(tài)特征，從而更全面地解釋數(shù)據(jù)之間的關(guān)聯(lián)和趨勢(shì)[13]。因此，在產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)中，如何高效利用高頻數(shù)據(jù)成為一個(gè)亟待解決的問題。

產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)與深度學(xué)習(xí)的深度融合，正逐步成為風(fēng)險(xiǎn)管理領(lǐng)域不可忽視的革新力量[14]。作為人工智能領(lǐng)域的最新算法，深度學(xué)習(xí)憑借其卓越的數(shù)據(jù)處理效能與模式識(shí)別能力，為產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)開辟了一條前所未有的路徑[15]。在這一融合進(jìn)程中，復(fù)雜多變的產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)，其源頭廣泛分布于多個(gè)時(shí)間尺度（如日、月、季度等），形成了極具挑戰(zhàn)性的混頻數(shù)據(jù)集。為了應(yīng)對(duì)這一挑戰(zhàn)，基于深度學(xué)習(xí)的混頻數(shù)據(jù)預(yù)測(cè)模型應(yīng)運(yùn)而生，其中GRU-CNN混合模型尤為引人注目。不僅能夠有效捕捉各頻率數(shù)據(jù)中的時(shí)序依賴性，還能在特征層面上實(shí)現(xiàn)跨頻率的數(shù)據(jù)融合與統(tǒng)一，極大地提升了預(yù)測(cè)的精度與魯棒性。尤為關(guān)鍵的是，深度學(xué)習(xí)模型在處理非線性關(guān)系及高維數(shù)據(jù)方面有良好性能，使得其在揭示產(chǎn)業(yè)風(fēng)險(xiǎn)背后錯(cuò)綜復(fù)雜的因果關(guān)系與交互效應(yīng)時(shí)游刃有余[16]。通過構(gòu)建深度神經(jīng)網(wǎng)絡(luò)架構(gòu)，模型能夠深人挖掘數(shù)據(jù)間隱藏的深層次聯(lián)系，精準(zhǔn)把握風(fēng)險(xiǎn)演變的脈絡(luò)，為產(chǎn)業(yè)風(fēng)險(xiǎn)的提前預(yù)警與有效管理提供了堅(jiān)實(shí)的數(shù)據(jù)支撐與科學(xué)依據(jù)[17]。因此，本文致力于探索深度學(xué)習(xí)技術(shù)與混頻時(shí)序分析相結(jié)合的全新視角，針對(duì)產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)問題提出創(chuàng)新解決方案。

本文聚焦于中國(guó)汽車制造業(yè)，選取2012＼～2023年間的產(chǎn)業(yè)相關(guān)數(shù)據(jù)作為研究樣本，旨在將產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)問題轉(zhuǎn)化為復(fù)雜的多源時(shí)序預(yù)測(cè)挑戰(zhàn)。在這一背景下，不同采樣頻率的數(shù)據(jù)源構(gòu)成了預(yù)測(cè)過程中的關(guān)鍵輸入，使得問題更加貼近實(shí)際且充滿挑戰(zhàn)。為解決這一問題，本文創(chuàng)新性地設(shè)計(jì)并構(gòu)建了一種基于GRU-CNN混合神經(jīng)網(wǎng)絡(luò)與雙重注意力機(jī)制的產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)模型。該模型的核心思想在于充分利用深度學(xué)習(xí)技術(shù)在處理時(shí)序數(shù)據(jù)和特征融合方面的優(yōu)勢(shì)，同時(shí)結(jié)合注意力機(jī)制以突出關(guān)鍵信息對(duì)預(yù)測(cè)結(jié)果的影響。具體而言，模型先部署了一組門控循環(huán)單元網(wǎng)絡(luò)，這些網(wǎng)絡(luò)被配置以學(xué)習(xí)并捕捉來自不同頻率數(shù)據(jù)源的時(shí)序關(guān)聯(lián)特性。通過GRU網(wǎng)絡(luò)的處理，原始的時(shí)序數(shù)據(jù)被轉(zhuǎn)化為富含動(dòng)態(tài)信息的編碼矩陣，為后續(xù)的特征融合提供了堅(jiān)實(shí)的基礎(chǔ)。隨后，模型引入了一組卷積神經(jīng)網(wǎng)絡(luò)，這些網(wǎng)絡(luò)在特征層上發(fā)揮了至關(guān)重要的作用。CNN網(wǎng)絡(luò)不僅能夠自適應(yīng)地?cái)U(kuò)展或提取各個(gè)頻率編碼矩陣的時(shí)序特征，還能夠有效地實(shí)現(xiàn)混頻信息在長(zhǎng)度上的統(tǒng)一和特征層面上的深度融合。這一過程極大地豐富了模型對(duì)數(shù)據(jù)的理解和表示能力，為后續(xù)的預(yù)測(cè)任務(wù)奠定了良好的數(shù)據(jù)基礎(chǔ)。在特征融合的基礎(chǔ)上，模型進(jìn)一步引入了時(shí)間和特征雙重注意力機(jī)制。這一機(jī)制從兩個(gè)關(guān)鍵維度出發(fā)一時(shí)間維度和特征維度—對(duì)經(jīng)過GRU和CNN層提取的信息進(jìn)行重要性評(píng)估。通過精細(xì)的注意力計(jì)算，模型能夠區(qū)分出哪些時(shí)間點(diǎn)和哪些特征對(duì)預(yù)測(cè)結(jié)果具有更大的影響，并據(jù)此調(diào)整預(yù)測(cè)過程中的權(quán)重分配。這一過程極大地提高了模型對(duì)關(guān)鍵信息的敏感度和預(yù)測(cè)結(jié)果的準(zhǔn)確性。

綜上所述，本文通過構(gòu)建基于GRU-CNN的混合時(shí)序深度學(xué)習(xí)模型，不僅成功地將多源時(shí)序預(yù)測(cè)問題轉(zhuǎn)化為可處理的數(shù)學(xué)模型，還在實(shí)踐中驗(yàn)證了該模型在提升預(yù)測(cè)精度和時(shí)效性方面的顯著優(yōu)勢(shì)。研究成果不僅為中國(guó)汽車制造業(yè)的風(fēng)險(xiǎn)管理提供了有力支持，也為其他產(chǎn)業(yè)的類似問題提供了寶貴的參考和借鑒。

1 相關(guān)工作

1.1產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)研究

風(fēng)險(xiǎn)預(yù)測(cè)模型的傳統(tǒng)研究方法多采用統(tǒng)計(jì)分析和數(shù)學(xué)模型[18]，通過對(duì)歷史數(shù)據(jù)的累積和分析，觀察過去的事件和趨勢(shì)，以預(yù)測(cè)未來可能的風(fēng)險(xiǎn)。在風(fēng)險(xiǎn)預(yù)測(cè)中，多元判別分析用于識(shí)別不同的風(fēng)險(xiǎn)群體，并確定導(dǎo)致風(fēng)險(xiǎn)的關(guān)鍵因素。通過分析多個(gè)變量之間的關(guān)系，多元判別分析能夠幫助識(shí)別那些與特定風(fēng)險(xiǎn)密切相關(guān)的因素，并基于這些因素建立預(yù)測(cè)模型。Logistic回歸是一種統(tǒng)計(jì)模型[19]，常用于評(píng)估某些因素對(duì)風(fēng)險(xiǎn)事件發(fā)生的影響。灰色預(yù)測(cè)模型則適用于數(shù)據(jù)缺乏或數(shù)據(jù)不完整的風(fēng)險(xiǎn)預(yù)測(cè)場(chǎng)景，通過灰色數(shù)列建模、灰色關(guān)聯(lián)分析和灰色模型修正，揭示各風(fēng)險(xiǎn)指標(biāo)的規(guī)律性和趨勢(shì)，從而實(shí)現(xiàn)對(duì)未來風(fēng)險(xiǎn)的預(yù)測(cè)。支持向量機(jī)（SupportVector Machine，SVM）是一種監(jiān)督學(xué)習(xí)算法[20]通過學(xué)習(xí)歷史數(shù)據(jù)的模式和趨勢(shì)，識(shí)別潛在風(fēng)險(xiǎn)因素，并將數(shù)據(jù)點(diǎn)分類為不同風(fēng)險(xiǎn)級(jí)別，實(shí)現(xiàn)風(fēng)險(xiǎn)事件的預(yù)測(cè)。

近年來，基于上述傳統(tǒng)風(fēng)險(xiǎn)預(yù)測(cè)模型的改進(jìn)及其應(yīng)用相繼涌現(xiàn)。如Hao等[2]基于算法優(yōu)化的模型對(duì)食品安全數(shù)據(jù)集進(jìn)行分類檢測(cè)，通過算法優(yōu)化模型的參數(shù)以找到最優(yōu)解，提高了食品安全風(fēng)險(xiǎn)預(yù)測(cè)的準(zhǔn)確度。劉瀟雅和王應(yīng)明[22]在模型中引入基于信息熵增益率分類原理的決策樹來進(jìn)行優(yōu)化，并將其應(yīng)用于個(gè)人信用風(fēng)險(xiǎn)預(yù)測(cè)中。尹海寧[23]采用回歸森林組合模型，結(jié)合了邏輯回歸的概率建模和回歸森林的集成學(xué)習(xí)優(yōu)勢(shì)，為急性冠狀動(dòng)脈綜合癥后風(fēng)險(xiǎn)提供了更及時(shí)準(zhǔn)確的預(yù)測(cè)手段。潘翱和賴健瓊[24借助Verhulst模型殘差修正優(yōu)化灰色預(yù)測(cè)模型，明顯提高了交通事故預(yù)測(cè)的精度。然而，這些研究大多未涉及汽車產(chǎn)業(yè)，忽視了該產(chǎn)業(yè)巨大的市場(chǎng)價(jià)值，因此，本文將以汽車產(chǎn)業(yè)為例，進(jìn)行深入分析。

在產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)研究中，行業(yè)特性是影響模型構(gòu)建和預(yù)測(cè)效果的關(guān)鍵因素。汽車產(chǎn)業(yè)作為典型的資本和技術(shù)密集型行業(yè)，其風(fēng)險(xiǎn)特征顯著區(qū)別于其他領(lǐng)域。現(xiàn)有研究表明[25]，汽車產(chǎn)業(yè)具有三重獨(dú)特性：（1）政策敏感性強(qiáng)，各國(guó)新能源補(bǔ)貼政策和碳排放法規(guī)的調(diào)整會(huì)直接改變市場(chǎng)競(jìng)爭(zhēng)格局；（2）供應(yīng)鏈脆弱性突出，全球分布的零部件供應(yīng)體系易受地緣政治和突發(fā)事件影響；（3）技術(shù)迭代快速，電動(dòng)化和智能化轉(zhuǎn)型帶來技術(shù)路線競(jìng)爭(zhēng)風(fēng)險(xiǎn)。這些特性使得傳統(tǒng)風(fēng)險(xiǎn)預(yù)測(cè)模型在汽車產(chǎn)業(yè)應(yīng)用中面臨數(shù)據(jù)非平穩(wěn)性、變量非線性相關(guān)等特殊挑戰(zhàn)。針對(duì)汽車產(chǎn)業(yè)的風(fēng)險(xiǎn)預(yù)測(cè)，近年研究開始關(guān)注行業(yè)特定要素的整合。Plante等[26]指出，傳統(tǒng)統(tǒng)計(jì)模型難以有效捕捉汽車產(chǎn)業(yè)的技術(shù)顛覆性風(fēng)險(xiǎn)，建議結(jié)合復(fù)雜網(wǎng)絡(luò)理論分析供應(yīng)鏈風(fēng)險(xiǎn)傳導(dǎo)路徑。Deiva和Kalpana[27]的實(shí)證研究顯示，芯片短缺等突發(fā)事件的影響評(píng)估需要融合實(shí)時(shí)供應(yīng)鏈數(shù)據(jù)與灰色預(yù)測(cè)方法。然而，現(xiàn)有文獻(xiàn)在汽車產(chǎn)業(yè)風(fēng)險(xiǎn)的系統(tǒng)性建模方面仍存在明顯不足，特別是缺乏對(duì)政策變動(dòng)與技術(shù)演進(jìn)交互影響的動(dòng)態(tài)分析框架，這正是本文試圖突破的重點(diǎn)方向。

1.2 混頻數(shù)據(jù)預(yù)測(cè)模型

在實(shí)際研究中，結(jié)合金融、經(jīng)濟(jì)時(shí)間序列數(shù)據(jù)和相應(yīng)理論模型的應(yīng)用是混頻數(shù)據(jù)預(yù)測(cè)模型關(guān)注的重點(diǎn)。自前，最主要的模型是以混頻向量自回歸（Mixed Frequency Vector Auto Regressive，MF-VAR）[28]模型為代表的混頻狀態(tài)間模型和混頻數(shù)據(jù)樣（Mixed Frequency Data Sampling Regression Models，MIDAS）[29]模型及其變體。MF-VAR模型將低頻變量視作周期性缺失序列[30]，結(jié)合了向量自回歸（VAR）模型和分?jǐn)?shù)階差分的概念，利用低頻數(shù)據(jù)來預(yù)測(cè)高頻數(shù)據(jù)。Bekertman和Gribisch[3i使用隨機(jī)波動(dòng)形式的MF-VAR模型對(duì)混頻資產(chǎn)收益率的動(dòng)態(tài)和分布特性進(jìn)行了較可靠的解釋。劉洪等[32]利用穩(wěn)態(tài)隨機(jī)先驗(yàn)拓寬了MF-VAR的應(yīng)用場(chǎng)景并提高了預(yù)測(cè)精度。Foroni 等[33]在分布滯后模型（DL）的基礎(chǔ)上首次提出MIDAS模型，核心思想是將高頻數(shù)據(jù)轉(zhuǎn)換為低頻數(shù)據(jù)，并利用分布滯后多項(xiàng)式函數(shù)對(duì)轉(zhuǎn)換后的低頻向量施加約束。

MIDAS模型在后續(xù)研究中不斷得到擴(kuò)展，并衍生出眾多變體，以適應(yīng)不同場(chǎng)景下的混頻數(shù)據(jù)處理需求。由于MIDAS模型的約束函數(shù)多適用于金融領(lǐng)域，F(xiàn)oroni等[33]提出了反向無約束混頻模型，以解決使用低頻向量解釋并預(yù)測(cè)高頻向量的問題，并在頻率倍差較小的混頻數(shù)據(jù)集中取得了良好的預(yù)測(cè)效果。 Xu 等[34]在MIDAS和RU-MIDAS模型的基礎(chǔ)上結(jié)合ANN提出反向限制性ANN-MIDAS模型，實(shí)驗(yàn)證明該模型在捕捉混頻數(shù)據(jù)的非線性特征方面優(yōu)于其他模型。Kamolthip等[35]在長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）架構(gòu)中融入U(xiǎn)MIDAS模型方案，用于預(yù)測(cè)泰國(guó)宏觀經(jīng)濟(jì)變量的變化率。實(shí)驗(yàn)證明，LSTM-UMIDAS模型在處理混頻數(shù)據(jù)后，能夠?qū)r(shí)間序列進(jìn)行長(zhǎng)期依賴信息學(xué)習(xí)，并在6個(gè)月內(nèi)的預(yù)測(cè)表現(xiàn)顯著優(yōu)于采樣對(duì)齊后的LSTM模型。盡管混頻數(shù)據(jù)預(yù)測(cè)模型在處理原始混頻數(shù)據(jù)方面表現(xiàn)出了顯著優(yōu)勢(shì)，但目前還沒有學(xué)者成功將其應(yīng)用于產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)。因此，如何將這兩者結(jié)合起來，以最大化地利用產(chǎn)業(yè)混頻數(shù)據(jù)信息，成為一個(gè)重要的研究課題。

2 模型與方法

2.1 數(shù)據(jù)集構(gòu)建

為了確保本文分析所依據(jù)數(shù)據(jù)的可靠性，本文篩選并采用了多個(gè)權(quán)威數(shù)據(jù)源，包括但不限于國(guó)家統(tǒng)計(jì)局官方網(wǎng)站（https：//www.stats.gov.cn）、中國(guó)統(tǒng)計(jì)年鑒系列、中國(guó)工業(yè)統(tǒng)計(jì)年鑒、以及中國(guó)汽車工業(yè)協(xié)會(huì)的專業(yè)資料庫（https：//www.caam.org.cn），輔以CEIC 數(shù)據(jù)統(tǒng)計(jì)網(wǎng)站（https：//www.ceicdata.com.cn）的深度數(shù)據(jù)，時(shí)間跨度廣泛覆蓋了從2012年1月至2023年12月的豐富信息。在數(shù)據(jù)甄選過程中，若同一指標(biāo)存在不同頻率的記錄，本文優(yōu)先采納高頻數(shù)據(jù)，以期在提升數(shù)據(jù)時(shí)效性的同時(shí)，確保其精度的最大化。這些數(shù)據(jù)集涵蓋了季度、月度及年度等多種時(shí)間粒度，特別聚焦于月度產(chǎn)業(yè)風(fēng)險(xiǎn)指數(shù)的精準(zhǔn)預(yù)測(cè)

鑒于產(chǎn)業(yè)風(fēng)險(xiǎn)領(lǐng)域的特定數(shù)據(jù)資源相對(duì)有限，為全面驗(yàn)證模型效能，本文創(chuàng)造性地引人了來自UCIrvine機(jī)器學(xué)習(xí)庫的一項(xiàng)實(shí)驗(yàn)數(shù)據(jù)集作為補(bǔ)充。該數(shù)據(jù)集專為構(gòu)建低能耗建筑中電氣能耗預(yù)測(cè)的多變量回歸模型而設(shè)計(jì)，時(shí)間跨度橫跨約4.5個(gè)月，采樣頻率高達(dá)每10分鐘1次，總計(jì)包含19735個(gè)觀測(cè)點(diǎn)及29項(xiàng)詳盡特征，如通過無線傳感器網(wǎng)絡(luò)實(shí)時(shí)監(jiān)測(cè)的房屋溫濕度條件等。為貼合本文研究需求，本文挑選了其中10個(gè)關(guān)鍵特征，并創(chuàng)新性地將記錄頻率調(diào)整為每30分鐘1次，從而構(gòu)建了一個(gè)包含10分鐘與30分鐘兩種采樣頻率的混合數(shù)據(jù)集，其中，以每10分鐘記錄的電能消耗數(shù)據(jù)作為核心預(yù)測(cè)目標(biāo)。

針對(duì)上述兩個(gè)數(shù)據(jù)集，本文采取了嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)預(yù)處理流程：（1）利用前向填充技術(shù)，有效填補(bǔ)了各時(shí)間序列中的缺失值，確保數(shù)據(jù)的完整性；（2）通過z-score標(biāo)準(zhǔn)化處理，消除了不同量綱對(duì)數(shù)據(jù)分析的影響，提升了數(shù)據(jù)的可比性；（3）遵循科學(xué)的7：3比例原則，精準(zhǔn)劃分了訓(xùn)練集與測(cè)試集，為后續(xù)模型的構(gòu)建與驗(yàn)證奠定了堅(jiān)實(shí)的基礎(chǔ)

2.2 模型介紹

本文提出的MF-TF-DAN模型結(jié)構(gòu)如圖1所示。作為一種混頻時(shí)序深度學(xué)習(xí)模型，該模型以混合頻率的原始數(shù)據(jù)作為輸入，輸出頻率等同預(yù)測(cè)目標(biāo)的采樣頻率，但是模型的架構(gòu)不會(huì)隨著輸出頻率變化而變化。

（1）模型根據(jù)預(yù)測(cè)目標(biāo)的時(shí)序特性確定最佳的滯后階數(shù)，并結(jié)合采樣頻率選擇適當(dāng)?shù)幕瑒?dòng)窗口長(zhǎng)度。在初始化滑動(dòng)窗口時(shí)，模型設(shè)定了不同采樣頻率下窗口內(nèi)數(shù)據(jù)的長(zhǎng)度；（2）利用一組GRU網(wǎng)絡(luò)分別學(xué)習(xí)各采樣頻率數(shù)據(jù)的時(shí)序依賴信息，并生成相應(yīng)的隱藏層特征和嵌入向量；（3）通過一組CNN網(wǎng)絡(luò)對(duì)每個(gè)采樣頻率的GRU輸出的隱藏層特征進(jìn)行自適應(yīng)提取或擴(kuò)展[36]，以確保所有CNN網(wǎng)絡(luò)的輸出結(jié)果長(zhǎng)度保持一致。為此，設(shè)置了相同數(shù)量的卷積核。經(jīng)過GRU和CNN網(wǎng)絡(luò)處理，成功提取并融合了不同采樣頻率數(shù)據(jù)的時(shí)序依賴特征信息；（4）本文引入雙重注意力機(jī)制，從融合后的特征中學(xué)習(xí)時(shí)間和特征上的注意力向量，以獲取時(shí)間上下文向量和特征上下文向量；（5）模型利用時(shí)間和特征上下文向量以及混頻數(shù)據(jù)的嵌入特征進(jìn)行注意力計(jì)算，并通過全連接層輸出模型的預(yù)測(cè)結(jié)果。綜上所述，MF-TF-DAN模型由兩個(gè)核心部分組成：第一部分是對(duì)滑動(dòng)窗口內(nèi)的原始混頻數(shù)據(jù)進(jìn)行時(shí)序特征提取與特征融合；第二部分是雙重注意力機(jī)制，用于自適應(yīng)地學(xué)習(xí)數(shù)據(jù)的時(shí)間信息和特征信息。

2.2.1時(shí)序特征提取與特征融合

本文將混頻數(shù)據(jù)預(yù)測(cè)視為一種多源時(shí)序預(yù)測(cè)問題，即同一種采樣頻率的多種數(shù)據(jù)采自同一數(shù)據(jù)源，而不同采樣頻率的數(shù)據(jù)采自不同數(shù)據(jù)源。假設(shè)原始數(shù)據(jù)里有 V 種采樣頻率，則模型輸入由V 個(gè)時(shí)間序列組成，可以表示為 X={X¹，…，X^V}∈ RNxK。第v種頻率對(duì)應(yīng)的時(shí)間序列用X={ 來表示， x^vi 表示一條第 v 種頻率下采集到的序列， n^v 表示維度，即第 v 種采樣頻率下的每條數(shù)據(jù)的長(zhǎng)度， k^v 表示第 v 種采樣頻率下有多少條數(shù)據(jù)， ， N=max{n¹，…，n^V} 。為了對(duì)MF-TF-DAN模型進(jìn)行更深入的介紹，本節(jié)將分析模型核心組件的設(shè)計(jì)細(xì)節(jié)。

2.2.2 窗口滑動(dòng)

為了更好地捕捉混頻數(shù)據(jù)的動(dòng)態(tài)性和時(shí)序性，本文使用滑動(dòng)窗口方法對(duì)原始時(shí)間序列進(jìn)行切片處理來為模型劃分出輸入數(shù)據(jù)。傳統(tǒng)滑動(dòng)窗口的大小一般由兩個(gè)參數(shù)決定，（1）最佳滯后階數(shù)，代表窗口長(zhǎng)度，表示為 p ；（2）原始時(shí)間序列的維度，代表窗口寬度。滑動(dòng)窗口以1個(gè)單位時(shí)間間隔的步長(zhǎng)向前滑動(dòng)。由于MF-TF-DAN模型用于混頻數(shù)據(jù)預(yù)測(cè)，不能直接應(yīng)用傳統(tǒng)滑動(dòng)窗口，因此做了以下調(diào)整：

由于本文自的是基于混頻數(shù)據(jù)預(yù)測(cè)高頻信息，因此滑動(dòng)步長(zhǎng)選擇高頻預(yù)測(cè)自標(biāo)的單位時(shí)間間隔。結(jié)合預(yù)測(cè)目標(biāo)序列的采樣頻率和時(shí)間間隔使用網(wǎng)格搜索方法遍歷多個(gè)滯后值 p 的組合來選擇最佳的滯后值。由于滑動(dòng)步長(zhǎng)選擇高頻單位時(shí)間間隔，所以不同時(shí)刻滑動(dòng)窗口內(nèi)的低頻數(shù)據(jù)數(shù)目可能會(huì)不同，為避免此情況，模型在初始化滑動(dòng)窗口時(shí)先確定各序列在窗口內(nèi)的數(shù)據(jù)長(zhǎng)度，當(dāng)窗口內(nèi)數(shù)據(jù)長(zhǎng)度減少時(shí)會(huì)填充窗口以外的數(shù)據(jù)來保持一致性。

2.2.3 時(shí)序特征提取

本文使用一組GatedRecurrentUnit（GRU）網(wǎng)絡(luò)來提取混頻數(shù)據(jù)的時(shí)序特征[37]。尤其是對(duì)于要解決的產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)問題，面對(duì)這種數(shù)據(jù)量較少的情況，GRU面臨比LSTM小很多的過擬合風(fēng)險(xiǎn)。GRU建模過程公式：

其中 z_t 和 r_t 分別表示更新率和重置率， W_z 和 表示更新門和重置門的權(quán)重，是可學(xué)習(xí)參數(shù)。σ（?） 為激活函數(shù)。重置率與上一時(shí)刻輸出值 h_t-1 進(jìn)行計(jì)算，和當(dāng)前時(shí)刻的輸人 x_t 一起通過tanh 函數(shù)得到候補(bǔ)狀態(tài) 。用狀態(tài) 和更新率進(jìn)行計(jì)算，遺忘 h_t-1 的部分信息，記憶 的部分信息，得到內(nèi)部隱藏狀態(tài) h_t 。MF-TF-DAN 模型分配了不同的GRU網(wǎng)絡(luò)來對(duì)不同采樣頻率的時(shí)間序列進(jìn)行獨(dú)立編碼，即使用特定的GRU函數(shù)學(xué)習(xí)它所對(duì)應(yīng)采樣頻率數(shù)據(jù)的時(shí)序特征，網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。

時(shí)序特征提取模塊的輸出內(nèi)容有兩部分，網(wǎng)絡(luò)傳遞過程中的隱藏層特征編碼矩陣 H_t={H_t¹，… H_t^v，…，H_t^V} 以及混頻數(shù)據(jù)最后一個(gè)時(shí)間步的隱藏狀

h h h

H_t^ν （2 F F F F F

X^ν Liii Time

態(tài) h_t 。其中 ， m^v 表示第 v 種頻率對(duì)應(yīng)GRU網(wǎng)絡(luò)中隱藏層特征的維度，l^v 表示第 v 種頻率的輸入數(shù)據(jù)在一個(gè)滑動(dòng)窗口內(nèi)的長(zhǎng)度。 h_t 的公式化表現(xiàn)為：

2.2.4 特征融合

經(jīng)過時(shí)序特征提取后，模型獲得了各個(gè)GRU網(wǎng)絡(luò)輸出的隱特征編碼矩陣和最終的嵌入向量。然而，由于不同GRU網(wǎng)絡(luò)對(duì)應(yīng)的數(shù)據(jù)序列長(zhǎng)度和維度存在差異，導(dǎo)致如何同時(shí)處理這些信息以學(xué)習(xí)不同頻率數(shù)據(jù)之間的依賴關(guān)系成為了一個(gè)挑戰(zhàn)。為了解決這一問題，本文選擇使用CNN網(wǎng)絡(luò)來自適應(yīng)地調(diào)整各采樣頻率下的數(shù)據(jù)序列的時(shí)序特征，從而實(shí)現(xiàn)混頻數(shù)據(jù)特征層信息的融合。

CNN 的核心結(jié)構(gòu)包括卷積層和池化層[38]，卷積層能夠有效提取或擴(kuò)展數(shù)據(jù)特征，而池化層則有助于減少數(shù)據(jù)大小和維度。在MF-TF-DAN模型中，主要利用了CNN的卷積操作來完成混頻數(shù)據(jù)特征的融合。一維卷積操作在時(shí)序數(shù)據(jù)中是一種常見的特征提取方法，它通過在每個(gè)位置上對(duì)輸人序列的局部窗口與卷積核或?yàn)V波器進(jìn)行點(diǎn)積運(yùn)算，并移動(dòng)卷積核或?yàn)V波器來遍歷整個(gè)輸人序列，以此來捕捉序列中的空間和局部特征。延續(xù)上一節(jié)的思路，模型為每個(gè)瀕率的時(shí)間序列分配具有相同數(shù)量的卷積核的CNN網(wǎng)絡(luò)，并用它們來處理相對(duì)應(yīng)的各GRU網(wǎng)絡(luò)輸出。其結(jié)構(gòu)如圖3所示。

用 C 表示一個(gè)CNN網(wǎng)絡(luò)的卷積核數(shù)量，則第v 種頻率數(shù)據(jù)對(duì)應(yīng)CNN網(wǎng)絡(luò)的卷積核集合可表示為 C^v={C₁^v，…，C_c^v} ， C_c^v∈R¹×（l^v-1） 。使用 R_t^v 來表示第 v 個(gè)頻率數(shù)據(jù)對(duì)應(yīng)的CNN網(wǎng)絡(luò)的輸出，其計(jì)算公式為：

R_t^v={H_t^v*C₁^v，…，H_t^v*C_C^v}={r₁^v，…，r_C^v}

其中 表示卷積操作， R_t^v∈R^m×C ， ，R_t={R_t¹，…，R_t^v，…，R_t^V} 。經(jīng)卷積處理后，混頻數(shù)據(jù)時(shí)間特征的維度被一致調(diào)整為 c ，使得它們可以被集成到同一個(gè)編碼矩陣中，從而實(shí)現(xiàn)了特征層信息融合。

2.2.5雙重注意力機(jī)制

注意力機(jī)制可以提高模型對(duì)輸人信息的理解和處理能力，通過分配不同程度的注意力使模型動(dòng)態(tài)地關(guān)注輸入的不同部分，削弱冗余信息和噪音，從而增強(qiáng)模型的表征能力和泛化能力。應(yīng)用到時(shí)序分析領(lǐng)域，注意力機(jī)制往往用來根據(jù)輸入序列每個(gè)時(shí)間步的重要性來動(dòng)態(tài)地調(diào)整注意力[39]然而，在進(jìn)行多變量時(shí)序預(yù)測(cè)時(shí)，僅靠這種設(shè)置會(huì)忽略各個(gè)變量之間的重要度關(guān)系。因此，本文在傳統(tǒng)時(shí)間維度上的注意力機(jī)制基礎(chǔ)上增添了特征維度上的注意力機(jī)制，這種雙重注意力機(jī)制可以幫助混頻數(shù)據(jù)預(yù)測(cè)模型改善對(duì)時(shí)間和特征兩個(gè)維度的綜合識(shí)別能力，進(jìn)而提高對(duì)目標(biāo)序列的預(yù)測(cè)能力。

（1）時(shí)間注意力機(jī)制

本文引人Soft-Attention機(jī)制來為模型進(jìn)行時(shí)間維度上的注意力計(jì)算[40]，如圖4所示，軟注意力屬于全局注意，它基于融合后編碼矩陣的所有隱藏狀態(tài)，為序列中所有的時(shí)間步上的隱向量計(jì)算注意力權(quán)重，從而優(yōu)化時(shí)間維度上的注意力資源配置。

Soft-Attention機(jī)制產(chǎn)生上下文相關(guān)向量的計(jì)算過程如下：

其中 e_i^r 表示 r_i 和嵌入向量 h_t 的相關(guān)度，經(jīng)過softmax處理后得到 α_i^r ，表示時(shí)間注意力， s^r 表示時(shí)間上下文向量。

（2）特征注意力機(jī)制

在許多情況下，多變量時(shí)序預(yù)測(cè)中不同特征之間的相關(guān)性也會(huì)有所不同，這種相互性主要表現(xiàn)為稀疏性和交互性[41]。部分輸入特征之間的相關(guān)性可能是稀疏的，這意味著只有少數(shù)特征之間具有顯著的相互作用，數(shù)據(jù)中存在的信息量不均勻，部分特征對(duì)于模型預(yù)測(cè)任務(wù)可能比其他特征更加重要；另外，部分輸入特征之間可能存在復(fù)雜關(guān)系或相互作用，這種交互可能是非線性的，難以用一般的線性模型來捕獲。通過引入特征注意力，模型可以在處理輸入數(shù)據(jù)時(shí)自適應(yīng)地對(duì)當(dāng)前任務(wù)更重要的特征分配更多注意力，并且可以考慮到特征之間的交互關(guān)系，從而更好地提取數(shù)據(jù)中的特征。本文引人Multi-Representational Attention機(jī)制來為模型進(jìn)行特征維度上的注意力計(jì)算[40]，如圖5所示。特征上下文相關(guān)向量的計(jì)算公式如下：

e_j^a=f（h_t，a_j）=a_jW_ah_t

其中， a_j 表示融合編碼矩陣中特征維度上的向量， e_j^a 表示特征向量 a_j 與嵌入向量 h_t 的相關(guān)度，經(jīng)過softmax處理后得到 α_j^a ，表示特征注意力， s^a 表示特征上下文向量。

尤其在產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)中，引入時(shí)間和特征雙重注意力機(jī)制至關(guān)重要。產(chǎn)業(yè)風(fēng)險(xiǎn)涉及多種指標(biāo)，其重要性不一，不同類型和頻率指標(biāo)之間也可能存在內(nèi)容覆蓋、互相作用等復(fù)雜關(guān)系，通過動(dòng)態(tài)調(diào)整模型對(duì)各種指標(biāo)的注意力，能夠提高模型對(duì)于關(guān)鍵特征的捕捉能力，從而提升風(fēng)險(xiǎn)預(yù)測(cè)的準(zhǔn)確性和魯棒性；另外，這些產(chǎn)業(yè)風(fēng)險(xiǎn)指標(biāo)又具有隨時(shí)間變化的長(zhǎng)期依賴關(guān)系，通過調(diào)整模型對(duì)不同時(shí)間點(diǎn)的注意力，可以更準(zhǔn)確地捕捉到產(chǎn)業(yè)風(fēng)險(xiǎn)隨時(shí)間的演變趨勢(shì)。

2.2.6 模型輸出

在對(duì)混頻數(shù)據(jù)進(jìn)行預(yù)測(cè)時(shí)，本文選擇使用多步預(yù)測(cè)方法。相較于單步預(yù)測(cè)方法，多步預(yù)測(cè)可以在一次預(yù)測(cè)中同時(shí)預(yù)測(cè)多個(gè)時(shí)間步的值，能夠減少計(jì)算成本并簡(jiǎn)化模型架構(gòu)，同時(shí)捕捉到數(shù)據(jù)中更長(zhǎng)期的時(shí)序依賴。模型輸出層通過一個(gè)全連接網(wǎng)絡(luò)結(jié)合 s^a 、 s^r 、 h_t 3個(gè)向量進(jìn)行目標(biāo)序列的預(yù)

測(cè)，輸出值計(jì)算公式為：

其中 W_?Y 、 、 W_s 、 W_H 為可學(xué)習(xí)參數(shù)， 為下一時(shí)間步的目標(biāo)序列預(yù)測(cè)值。

2.3 實(shí)驗(yàn)設(shè)計(jì)

2.3.1 實(shí)驗(yàn)設(shè)置

對(duì)于上述兩個(gè)數(shù)據(jù)集，為了測(cè)試模型短期、中期、長(zhǎng)期的預(yù)測(cè)效果，采用多步預(yù)測(cè)方法分別對(duì)預(yù)測(cè)步數(shù)為1、3、12的目標(biāo)數(shù)據(jù)時(shí)序進(jìn)行預(yù)測(cè)。MF-TF-DAN模型需要進(jìn)行參數(shù)調(diào)節(jié)的超參數(shù)包括滑動(dòng)窗口大小（Window_size）、批量大小（Batch_size）、GRU隱藏單元數(shù)目（Units）、卷積核數(shù)目（Filters）、學(xué)習(xí)率（Learning_rate）、暫退法（Dropout），采用網(wǎng)格搜索方法來確定最優(yōu)參數(shù)。實(shí)驗(yàn)中對(duì)MF-TF-DAN模型超參數(shù)的選擇方案如表1所示，其中黑體數(shù)字表示最優(yōu)選取值。模型采用Adam優(yōu)化器算法，激活函數(shù)為ReLU函數(shù)，損失函數(shù)為RMSE。

本文實(shí)驗(yàn)使用的設(shè)備配置為：Windows11操作系統(tǒng)，處理器為Intel（R）Core（TM）i7-12700H，GPU型號(hào)為NVIDIAGeForceRTX3050。實(shí)驗(yàn)?zāi)Ｐ途幊陶Z言為Python3.10，在Anaconda4.14.0虛擬環(huán)境以及Pycharm2022.2.3上進(jìn)行開發(fā)，模型開發(fā)基于Pytorch1.12.1框架，使用的Cuda 版本為11.7，實(shí)驗(yàn)具體開發(fā)運(yùn)行環(huán)境配置如表2所示。

2.3.2 評(píng)價(jià)指標(biāo)

為驗(yàn)證提出模型的預(yù)測(cè)效果，本文參考過去相關(guān)研究中的誤差評(píng)價(jià)測(cè)度，選擇采用均方根誤差（RootMean Squared Error，RMSE）和平均絕對(duì)誤差（MeanAbsoluteError，MAE）來作為評(píng)價(jià)指標(biāo)。RMSE和MAPE用于反映預(yù)測(cè)值和實(shí)際值之間的誤差大小，RMSE和MAPE越小則誤差越小。

3 結(jié)果分析

3.1 對(duì)比實(shí)驗(yàn)分析

為驗(yàn)證MF-TF-DAN模型在混頻數(shù)據(jù)預(yù)測(cè)上的有效性，在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集和電氣能源數(shù)據(jù)集上進(jìn)行了對(duì)比實(shí)驗(yàn)，對(duì)比模型包括RUMIDAS、MF-VAR、GRU、LSTM-RUMIDAS4種模型。其中RU-MIDAS和MF-VAR模型是傳統(tǒng)混頻數(shù)據(jù)處理模型中利用低頻數(shù)據(jù)預(yù)測(cè)高頻目標(biāo)的兩個(gè)主流模型。GRU是一個(gè)單層的GRU網(wǎng)絡(luò)，混頻數(shù)據(jù)在輸人GRU網(wǎng)絡(luò)之前通過上采樣方法轉(zhuǎn)換為相同高等頻率數(shù)據(jù)，采用的上采樣方法為前向填充。LSTM-RUMIDAS是LSTM-UMIDAS模型的變體，它先利用RUMIDAS對(duì)齊頻率，之后利用LSTM網(wǎng)絡(luò)捕捉數(shù)據(jù)之間的非線性關(guān)系，實(shí)現(xiàn)了在處理混頻數(shù)據(jù)后對(duì)時(shí)間序列進(jìn)行長(zhǎng)期依賴信息的學(xué)習(xí)。在對(duì)比實(shí)驗(yàn)中，GRU和LSTM-RUMIDAS選擇與MF-TF-DAN模型相同的超參數(shù)調(diào)優(yōu)策略以確保公平比較。

本文分別基于預(yù)測(cè)步數(shù)為1、3、12的預(yù)測(cè)實(shí)驗(yàn)，圖6展示了MF-TF-DAN模型在不同預(yù)測(cè)步數(shù)下基于產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果，圖7展示了MF-TF-DAN模型在不同預(yù)測(cè)步數(shù)下基于電氣能源數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果。MF-TF-DAN模型和4種對(duì)比模型在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果如表3所示，可視化結(jié)果如圖8所示，在電氣能源數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果如表4所示，可視化結(jié)果如圖9所示。

通過對(duì)比實(shí)驗(yàn)結(jié)果可知，相較于其他模型，MF-TF-DAN模型在混頻數(shù)據(jù)預(yù)測(cè)中表現(xiàn)出更為優(yōu)異的效果。（1）對(duì)于兩個(gè)數(shù)據(jù)集，經(jīng)過數(shù)據(jù)上采樣處理后的單層GRU網(wǎng)絡(luò)的預(yù)測(cè)精度明顯不如其他模型，這驗(yàn)證了直接基于原始混頻數(shù)據(jù)進(jìn)行建模方案的優(yōu)越性；（2）觀察到在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集中，RUMIDAS和MF-VAR模型的表現(xiàn)相較于在電氣能源數(shù)據(jù)集中較弱，主要原因在于產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集中的各輸入特征之間存在較明顯的共線性問題。部分變量信息的重疊或相似性影響了模型的評(píng)估效果。此外，隨著預(yù)測(cè)步數(shù)的增加，RU-

MIDAS和MF-VAR模型的預(yù)測(cè)精度下降更加顯著，可能是因?yàn)樗鼈兓诰€性假設(shè)，無法很好地捕捉數(shù)據(jù)中的非線性關(guān)系和長(zhǎng)期依賴性，因此在中長(zhǎng)期預(yù)測(cè)任務(wù)中存在一定的局限性。

另外，LSTM-RUMIDAS模型整體表現(xiàn)優(yōu)于RUMIDAS模型，這在一定程度上反映了深度學(xué)習(xí)模型在捕捉非線性關(guān)系方面的優(yōu)勢(shì)，從而提升了模型的預(yù)測(cè)精度。總體來看，LSTM-RUMIDAS和MF-TF-DAN模型均優(yōu)于RUMIDAS和MF-VAR模型。其中一個(gè)原因是多維時(shí)間序列數(shù)據(jù)集包含了多種不同頻率的變量以及復(fù)雜的時(shí)空關(guān)系，這些特點(diǎn)為深度學(xué)習(xí)模型提供了豐富的建模機(jī)會(huì)，使得模型能夠更好地適應(yīng)數(shù)據(jù)的復(fù)雜性，進(jìn)而取得更好的預(yù)測(cè)效果。尤其是在電氣能源數(shù)據(jù)集中，LSTM-RUMIDAS模型和MF-TF-DAN模型的預(yù)測(cè)效果更佳，主要原因是該數(shù)據(jù)集較大，能夠更充分地利用深度學(xué)習(xí)的優(yōu)勢(shì)，并為其提供充足的訓(xùn)練樣本，從而提高了預(yù)測(cè)的準(zhǔn)確性和泛化能力[42]。通過對(duì)比實(shí)驗(yàn)結(jié)果可知，相較于其他模型，MF-TF-DAN模型在混頻數(shù)據(jù)預(yù)測(cè)中表現(xiàn)出更為優(yōu)異的效果。（1）對(duì)于兩個(gè)數(shù)據(jù)集，經(jīng)過數(shù)據(jù)上采樣處理后的單層GRU網(wǎng)絡(luò)的預(yù)測(cè)精度明顯不如其他模型，這驗(yàn)證了直接基于原始混頻數(shù)據(jù)進(jìn)行建模方案的優(yōu)越性；（2）觀察到在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集中，RUMIDAS和MF-VAR模型的表現(xiàn)相較于在電氣能源數(shù)據(jù)集中較弱，主要原因在于產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集中的各輸入特征之間存在較明顯的共線性問題。部分變量信息的重疊或相似性影響了模型的評(píng)估效果。此外，隨著預(yù)測(cè)步數(shù)的增加，RUMIDAS和MF-VAR模型的預(yù)測(cè)精度下降更加顯著，可能是因?yàn)樗鼈兓诰€性假設(shè)，無法很好地捕捉數(shù)據(jù)中的非線性關(guān)系和長(zhǎng)期依賴性，因此在中長(zhǎng)期預(yù)測(cè)任務(wù)中存在一定的局限性。

另外，LSTM-RUMIDAS模型整體表現(xiàn)優(yōu)于RUMIDAS模型，這在一定程度上反映了深度學(xué)習(xí)模型在捕捉非線性關(guān)系方面的優(yōu)勢(shì)，從而提升了模型的預(yù)測(cè)精度。總體來看，LSTM-RUMIDAS和MF-TF-DAN模型均優(yōu)于RUMIDAS和MF-VAR模型。其中一個(gè)原因是多維時(shí)間序列數(shù)據(jù)集包含了多種不同頻率的變量以及復(fù)雜的時(shí)空關(guān)系，這些特點(diǎn)為深度學(xué)習(xí)模型提供了豐富的建模機(jī)會(huì)，使得模型能夠更好地適應(yīng)數(shù)據(jù)的復(fù)雜性，進(jìn)而取得更好的預(yù)測(cè)效果。尤其是在電氣能源數(shù)據(jù)集中，LSTM-RUMIDAS模型和MF-TF-DAN模型的預(yù)測(cè)效果更佳，主要原因是該數(shù)據(jù)集較大，能夠更充分地利用深度學(xué)習(xí)的優(yōu)勢(shì)，并為其提供充足的訓(xùn)練樣本，從而提高了預(yù)測(cè)的準(zhǔn)確性和泛化能力。

3.2 消融實(shí)驗(yàn)

為驗(yàn)證MF-TF-DAN模型各個(gè)組件的有效性，本文在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集和電氣能源數(shù)據(jù)集上進(jìn)行了消融實(shí)驗(yàn)。消融實(shí)驗(yàn)中使用的3個(gè)對(duì)比模型分別是在MF-TF-DAN模型的基礎(chǔ)上移除CNN特征融合模塊、移除時(shí)間注意力機(jī)制和移除特征注意力機(jī)制。其中，移除CNN特征融合模塊的模型需要對(duì)數(shù)據(jù)進(jìn)行上采樣處理。MF-TF-DAN模型在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集和電氣能源數(shù)據(jù)集上的消融實(shí)驗(yàn)結(jié)果分別如表5和表6所示。

從消融實(shí)驗(yàn)結(jié)果可以看出，CNN特征融合模塊、時(shí)間注意力機(jī)制和特征注意力機(jī)制均有助于提升模型的預(yù)測(cè)效果，移除任何一個(gè)組件都會(huì)導(dǎo)致模型性能的下降。具體來說，移除CNN層會(huì)使MF-TF-DAN模型失去混頻數(shù)據(jù)的特征融合能力，必須依賴提前進(jìn)行的數(shù)據(jù)同頻化處理，這對(duì)模型性能的影響最為顯著。另外，特征注意力機(jī)制和時(shí)間注意力機(jī)制對(duì)MF-TF-DAN模型都有貢獻(xiàn)，但它們?cè)诓煌瑪?shù)據(jù)集中表現(xiàn)出不同的重要性。

在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集中，由于各輸入特征之間存在較強(qiáng)的相關(guān)性，并可能有復(fù)雜的關(guān)系或相互作用，移除特征注意力機(jī)制會(huì)對(duì)模型性能產(chǎn)生較大的負(fù)面影響。而在電氣能源數(shù)據(jù)集中，各輸入特征之間的獨(dú)立性較強(qiáng)，時(shí)間注意力機(jī)制的作用更為突出。因此，基于原始混頻數(shù)據(jù)建模，并通過GRU等深度學(xué)習(xí)模型捕捉數(shù)據(jù)中的非線性關(guān)系和長(zhǎng)期依賴關(guān)系，在混頻數(shù)據(jù)預(yù)測(cè)任務(wù)中取得了較好的效果。引入時(shí)間和特征雙重注意力機(jī)制以及CNN特征融合模塊進(jìn)一步提升了模型的預(yù)測(cè)精度和泛化能力。

4討論與結(jié)語

4.1 不足與展望

在對(duì)混頻時(shí)序深度學(xué)習(xí)預(yù)測(cè)模型MF-TF-DAN的深入探索中，本文所依托的兩個(gè)數(shù)據(jù)集雖具一定代表性，卻也不可避免地面臨若干局限性。

（1）產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集規(guī)模相對(duì)有限，這一現(xiàn)狀難以充分發(fā)揮深度學(xué)習(xí)模型在處理復(fù)雜數(shù)據(jù)關(guān)系上的潛在優(yōu)勢(shì)，限制了模型效能的全面展現(xiàn)。此外，作為對(duì)比基準(zhǔn)的傳統(tǒng)混頻數(shù)據(jù)預(yù)測(cè)模型，由于輸人特征之間可能存在潛在的共線性問題，導(dǎo)致其性能遇到瓶頸，這進(jìn)一步凸顯了數(shù)據(jù)質(zhì)量對(duì)模型性能的關(guān)鍵影響；另外，電氣能源數(shù)據(jù)集雖然經(jīng)過設(shè)計(jì)以模擬真實(shí)場(chǎng)景，但其本質(zhì)仍為仿真數(shù)據(jù)，缺乏實(shí)際應(yīng)用中的復(fù)雜多變性和不確定性，這在一定程度上削弱了實(shí)驗(yàn)結(jié)果的說服力和普適性。因此，未來的研究應(yīng)致力于將MF-TF-DAN模型應(yīng)用于更加多元和廣泛的真實(shí)世界數(shù)據(jù)集，通過豐富的實(shí)驗(yàn)案例全面評(píng)估其有效性與適用性，確保模型在復(fù)雜多變的現(xiàn)實(shí)環(huán)境中依然能夠保持穩(wěn)健的性能。

（2）受限于當(dāng)前數(shù)據(jù)獲取能力，本文的研究主要聚焦于中國(guó)汽車制造業(yè)的月度數(shù)據(jù)分析，未能觸及更高頻率（如周度、日度）的數(shù)據(jù)分析，這在一定程度上限制了模型捕捉快速市場(chǎng)動(dòng)態(tài)變化的能力。為彌補(bǔ)這一不足，后續(xù)研究應(yīng)積極探索創(chuàng)新的數(shù)據(jù)收集與處理方法，力求將數(shù)據(jù)樣本范圍擴(kuò)展至更高時(shí)間分辨率，從而提升模型的訓(xùn)練效率，增強(qiáng)泛化能力，并產(chǎn)出更為實(shí)時(shí)和精準(zhǔn)的產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)結(jié)果。

（3）本文在產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)領(lǐng)域的研究主要集中于中國(guó)汽車制造業(yè)這一單一案例，盡管具備深入分析，但在一定程度上限制了模型跨行業(yè)應(yīng)用潛力的評(píng)估。因此，未來的研究方向應(yīng)著眼于構(gòu)建多元化的產(chǎn)業(yè)研究框架，涵蓋不同行業(yè)和不同經(jīng)濟(jì)背景下的廣泛實(shí)證分析，以全面驗(yàn)證MF-TF-DAN模型在不同產(chǎn)業(yè)環(huán)境中的適應(yīng)性與泛化能力，為產(chǎn)業(yè)風(fēng)險(xiǎn)管理的智能化轉(zhuǎn)型提供更加堅(jiān)實(shí)可靠的理論支撐與實(shí)踐指導(dǎo)。

4.2結(jié)語

隨著經(jīng)濟(jì)全球化的加速推進(jìn)和現(xiàn)代產(chǎn)業(yè)的蓬勃發(fā)展，產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)正面臨著前所未有的嚴(yán)苛要求和復(fù)雜挑戰(zhàn)。為有效應(yīng)對(duì)這些挑戰(zhàn)，本文創(chuàng)新性地構(gòu)建了一種基于GRU-CNN混合神經(jīng)網(wǎng)絡(luò)與雙重注意力機(jī)制的混頻時(shí)序深度學(xué)習(xí)模型——MF-TF-DAN，并成功將其應(yīng)用于產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)領(lǐng)域。MF-TF-DAN模型巧妙融合了不同頻率數(shù)據(jù)的優(yōu)勢(shì)，通過一組設(shè)計(jì)的GRU網(wǎng)絡(luò)，深入學(xué)習(xí)并捕捉各頻率數(shù)據(jù)的時(shí)序特征，生成高質(zhì)量的原始數(shù)據(jù)編碼矩陣。隨后，模型利用一組高效的CNN網(wǎng)絡(luò)，在特征層面上自動(dòng)完成混頻數(shù)據(jù)特征的精準(zhǔn)融合，實(shí)現(xiàn)了信息的深度整合與優(yōu)化。尤為重要的是，模型引入了雙重注意力機(jī)制，從時(shí)間和特征兩個(gè)維度對(duì)經(jīng)過GRU和CNN層提取的信息進(jìn)行重要性評(píng)估。通過精細(xì)的注意力計(jì)算，模型進(jìn)一步突出了關(guān)鍵信息，有效提升了預(yù)測(cè)結(jié)果的準(zhǔn)確性和魯棒性。為了全面驗(yàn)證MF-TF-DAN模型的性能，本文在產(chǎn)業(yè)風(fēng)險(xiǎn)數(shù)據(jù)集和電氣能源數(shù)據(jù)集上進(jìn)行了廣泛的實(shí)驗(yàn)，包括不同預(yù)測(cè)步長(zhǎng)（1、3、12步）的模型對(duì)比實(shí)驗(yàn)和消融實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果表明，MF-TF-DAN模型在混頻數(shù)據(jù)預(yù)測(cè)任務(wù)中表現(xiàn)出了顯著的優(yōu)越性，其預(yù)測(cè)效果明顯優(yōu)于其他對(duì)比模型。

這一成果不僅驗(yàn)證了模型設(shè)計(jì)的科學(xué)性和有效性，也為產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)領(lǐng)域提供了新的思路和方法。通過構(gòu)建基于混頻數(shù)據(jù)的預(yù)測(cè)模型，本文成功將高頻數(shù)據(jù)的時(shí)效性優(yōu)勢(shì)與低頻數(shù)據(jù)的穩(wěn)定性特點(diǎn)相結(jié)合，有效克服了單一頻率數(shù)據(jù)在預(yù)測(cè)中的局限性，顯著提高了汽車產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)的精度和時(shí)效性。這一突破性的進(jìn)展為企業(yè)高層管理者提供了更加精準(zhǔn)、全面的風(fēng)險(xiǎn)預(yù)警信息，有助于他們更加科學(xué)合理地制定戰(zhàn)略決策，以應(yīng)對(duì)市場(chǎng)變化帶來的各種挑戰(zhàn)。綜上所述，MF-TF-DAN模型在產(chǎn)業(yè)風(fēng)險(xiǎn)預(yù)測(cè)領(lǐng)域的應(yīng)用具有重要的理論價(jià)值和實(shí)踐意義。它不僅是深度學(xué)習(xí)技術(shù)在金融風(fēng)險(xiǎn)管理領(lǐng)域的一次成功嘗試，也為未來混頻數(shù)據(jù)預(yù)測(cè)模型的研究和發(fā)展提供了新的方向。

參考文獻(xiàn)

[1]BoodhunN，JayabalanMJC，SystemsI.RiskPredictioninLifeInsuranceIndustryUsing SupervisedLearningAlgorithms[J].Com-plexamp;Intelligent Systems，2018，4（2）：145～154.

[2]PengY，WangG，KouG，etal.AnEmpirical StudyofClassifica-tionAlgorithmEvaluationforFinancialRiskPrediction[J].AppliedSoft Computing，2011，11（2）：2906～2915.

[3］龔強(qiáng)，張一林，林毅夫．產(chǎn)業(yè)結(jié)構(gòu)、風(fēng)險(xiǎn)特性與最優(yōu)金融結(jié)構(gòu)[J].經(jīng)濟(jì)研究，2014，49（4）：4～16.

[4]北京大學(xué)課題組，黃璜．平臺(tái)驅(qū)動(dòng)的數(shù)字政府：能力、轉(zhuǎn)型與現(xiàn)代化．電子政務(wù)[J].2020，（7）：2～30.

[5］劉洋，呂樹月，黎若珺.社交機(jī)器人在信息行為研究中的概念、任務(wù)及應(yīng)用[J]．農(nóng)業(yè)圖書情報(bào)學(xué)報(bào)，2024，36（3）：4～20.

[6]范小群，譚冰．新能源汽車產(chǎn)業(yè)政策風(fēng)險(xiǎn)研究[J].時(shí)代汽車，2021，（23）：133～135.

[7]LiuY，ZengQ，YangH，etal.Stock Price Movement Predic-tion from Financial News with Deep Learning and KnowledgeGraph Embedding[C]. Proceedings of the Knowledge Manage-ment and Acquisition for Intelligent Systems：15th Pacific RimKnowledge Acquisition Workshop，2018，（8）：102～113.

[8］《中國(guó)公路學(xué)報(bào)》編輯部．中國(guó)汽車工程學(xué)術(shù)研究綜述·2017[J]．中國(guó)公路學(xué)報(bào)，2017，30（6）：1～197.

[9]LiuY，HuangF，MaL，etal.Credit Scoring Prediction Levera-ging Interpretable Ensemble Learning[J].Journal of Forecasting，2024，43（2）：286～308.

［10］劉洋，張?chǎng)悖龋诙嗄B(tài)深度學(xué)習(xí)的酒店股票預(yù)測(cè)［J]．?dāng)?shù)據(jù)分析與知識(shí)發(fā)現(xiàn)，2023，7（5）：21～32.

[11］劉漢，劉金全．中國(guó)宏觀經(jīng)濟(jì)總量的實(shí)時(shí)預(yù)報(bào)與短期預(yù)測(cè)——基于混頻數(shù)據(jù)預(yù)測(cè)模型的實(shí)證研究［J]．經(jīng)濟(jì)研究，2011，46（3）： 4～17.

[12]Lyócsa S，Molnár P，Vyrost T.Stock Market Volatility Fore-casting：Do We Need High-frequency Data？[J]. InternationalJournal of Forecasting，2021，37（3）：1092～1110.

[13]Liu Y，Zeng Q，Li B，et al. Anticipating Financial Distress ofHigh-tech Startupsin the European Union：A MachineLearningApproach for Imbalanced Samples[J].2022，41（6）：1131～1155.

[14]Moradi R，Cofre-Martel S，Droguett EL，etal. Integration ofDeep Learning and Bayesian Networks for Condition and OperationRisk Monitoring of Complex Engineering Systems[J].ReliabilityEngineering System Safety 2022， 222：108433.

[15]LeCun Y，Bengio Y，Hinton G. Dep Learning[J].Nature，2015，521（7553）：436～444.

[16]Paltrinieri N，ComfortL，Reniers G.Learning About Risk：Ma-chine Learning for Risk Assessment[J]. Safety Science，2019，118： 475～486.

［17］劉洋，段宇杰，張?chǎng)危?今天你上“小紅書”了嗎？在線社區(qū)用戶信息分享的主題提取與動(dòng)機(jī)分析［J]．圖書情報(bào)知識(shí)，2024，41（4）：110～120，145.

[18]Theodossiou PT.Predicting Shifts in theMeanof aMultivariateTime Series Process：An Application in Predicting Business Fail-ures [J]. Journal of the American Statistical Asociation，1993，88（422）：441～449.

[19］于立勇，詹捷輝．基于Logistic回歸分析的違約概率預(yù)測(cè)研究［J]．財(cái)經(jīng)研究，2004，（9）：15～23.

[20］丁世飛，齊丙娟，譚紅艷．支持向量機(jī)理論與算法研究綜述［J]．電子科技大學(xué)學(xué)報(bào)，2011，40（1）：2～10.

[21]Hao M，Wang Y，Huang W，et al.Food Safety Risk Assess-ment Method Based on SVM Optimization Model[C].Procee-dings of the 2O22 7th International Conference on Multimedia Sys-temsand Signal Processing，2022，（10）：52～56.

[22］劉瀟雅，王應(yīng)明．基于C4.5算法優(yōu)化SVM的個(gè)人信用評(píng)

估模型[J]．計(jì)算機(jī)系統(tǒng)應(yīng)用，2019，28（7）：133～138.

[23］尹海寧．基于Logistic 回歸和隨機(jī)森林構(gòu)建急性心肌梗死患者不良心血管事件風(fēng)險(xiǎn)預(yù)測(cè)模型[D]．鎮(zhèn)江：江蘇大學(xué)，2023.

[24］潘翱，賴健瓊．基于改進(jìn)灰色預(yù)測(cè)模型的交通事故預(yù)測(cè)模型研究[J]．計(jì)算機(jī)時(shí)代，2022，（5）：33～38.

[25]Sturgeon T，Van Biesebroeck J，GerefiG.Value Chains，Net-worksand Clusters：Reframing the Global Automotive Industry[J].Journal of Economic Geography，2008，8（3）：297～321.

[26]Plantec Q，Deval M A，Hooge S，et al. Big Data as an Explo-ration Trigger or Problem-solving Patch：Designand IntegrationofAI-embedded Systems in the Automotive Industry[J].Techno-vation，2023，124：102763.

[27]Deiva GA，Kalpana P.Supply Chain Risk Identification：AReal-time Data-mining Approach[J]. Industrial managementamp;data systems，2022，122（5）：1333～1354.

[28]Schorfheide F，Song D.Real-time Forecasting with a Mixed-fre-quency VAR [J]. Journal of Business Economic Statistics 2015，33（3）：366～380.

[29]GhyselsE，Kvedaras V，Zemlys V.Mixed Frequency DataSampling Regression Models：The R Package Midasr[J].Jour-nal of Statistical Software，2016，72（4）：1～35.

[30]Ghysels E.Macroeconomics and the Reality of Mixed FrequencyData[J]. Journal of Econometrics，2016，193（2）：294～314.

[31]Bekierman J，Gribisch B.A Mixed Frequency Stochastic Vola-tilityModel forIntradayStockMarketReturns[J].Journalof Fi-nancial Econometrics，2021，19（3）：496～530.

[32］劉洪，王丹陽，高躍偉．穩(wěn)態(tài)隨機(jī)先驗(yàn)下MF-VAR預(yù)測(cè)模型及其應(yīng)用[J].統(tǒng)計(jì)與決策，2023，39（5）：22～26.

[33]Foroni C，Marcelino M，Schumacher C.Unrestricted MixedData Sampling（MIDAS）： MIDAS Regressions with UnrestrictedLag Polynomials[J]. Journal of theRoyal Statistical Society，2015，178（1）：57～82.

[34]Xu Q，Zhuo X，Jiang C，et al.An Artificial Neural Network forMixed Frequency Data [J]. Expert Systems with Applications，2019，118：127～139.

[35]Kamolthip S. Macroeconomic Forecasting with LSTM and MixedFrequency Time Series Data [R]. Pier Discussion Papers，2021：13777.

[36]Gu J，Wang Z，Kuen J，et al. Recent Advances in Convolutio-nal Neural Networks[J].Patern Recognition，2018，77：354～377.

[37]ChungJ，GulcehreC，ChoK，etal.Empirical EvaluationofGated Recurrent Neural Networks on Sequence Nodeling [R].2014：3555.

「38]Alzubaidi L. Zhang I．Humaidi A J.et al.Review of Deep Lear-

ning：Concepts，CNNArchitectures，Challenges，Applications，F(xiàn)u-tureDirections[J].Journal ofBigData，2O21，8（1）：1～74.

[39]TaoC，Gao S，Shang M ，etal.GetThePointofMyUttera-nce！Learning Towards Effective Responses with Multi-Head Atten-tionMechanism [C].Proceedings of the 27th International JointConference on Artificial Intelligence，2018，（7）：4418～4424.

[40]Niu Z，ZhongG，YuH.AReviewon theAttentionMechanismof Deep Learning[J].Neurocomputing，2021，452：48～62.

[41]Shih SY，SunFK，LeeHY.Temporal Pattern Attention for Mul-tivariate Time SeriesForecasting[J].Machine Learning，2019，108：1421～1441.

[42]劉洋，丁星辰，馬莉莉，等.基于多維度圖卷積網(wǎng)絡(luò)的旅游評(píng)論有用性識(shí)別[J]．?dāng)?shù)據(jù)分析與知識(shí)發(fā)現(xiàn)，2023，7（8）：95～104.

[Abstract）Asacore link inmodernindustrialeconomic management，industrialrisk prediction playsan ieplaceablerole in ensuringcordinatedeconomicdevelopent，optiingindustrialstructurendsientificallfoulatingindustrialdeveloppolicies.This paperproposesaninnovativesolution-Mixed-FrequencyTemporalFusionDual Atention Network（MF-TF-DAN）. Whatis particularlycriticalisthattheF-TF-DANmodelinnovativelyintroducsadualatention mechanism，whichstartsfrom thetwodimensionsof timeandfeatures todeeplymineandevaluatetheimportanceof theinformationprocessdbyGRUandCNN. Thispaperconductedcomprehensiveandin-depthexperimentalverificationonteindustrialriskdataset，includingmodelcoparisonexperimentsandablationexperimentswithdiferentpredictionstepsizes.ExperimentalresultsshowthattheMF-TF-DAN modelperformssignifcantlybeterthanothercomparisonmodelsinthemixingdatapredictiontask.Thisresultnotonlyprovesthe scientificandefectivenessofthemodeldesign，butalsobringsnewbreakthroughsinthefieldofindustrialriskpredictionThis modelprovides industrymanagerswithunprecedentedacurateriskwaringcapabilities，alowingmanagerstohaveadeperinsight intomarketchanges，identifyandevaluatepotentialrisksinadvance，andtherebyformulatemorescientficandreasonablecorpo rate strategies and market response strategies.

[Key words]industrial risk；automobile industry；deep learning；time series；mixed frequencydata；sliding windows；electrical energy；dual attention mechanism

[Jelclassification]L62；O14（責(zé)任編輯：楊婧）