基于時空聯合學習的城市交通流短時預測模型

葛宇然，付強

（同濟大學道路與交通工程教育部重點實驗室，上海 201804）

0 概述

實時準確的交通流預測對城市交通管理和智慧城市建設具有積極作用。交通流具有典型復雜系統的不確定性與高度非線性，其動態時空演化在宏觀和微觀層面呈現不同的表現形式與規律，準確建模和預測交通流變化非常具有挑戰性［1］。隨著大數據與人工智能等新興技術的發展，結合時空序列數據對交通流的演化機理和運行規律進行學習具有十分重要的意義［2］。

針對交通流預測問題，國內外已有眾多學者開展了大量研究，諸多典型的數據驅動方法得以應用，如自回歸移動平均模型（ARIMA）［3］、向量自回歸（VAR）［4］、K 最近鄰（KNN）［5］、支持向量回歸 機（SVR）［6］、卡爾曼濾波［7］等。但是，這類模型通常基于線性假設或需要人工干預進行學習，難以捕捉過于復雜的交通流時空關聯性。

圖神經網絡（Graph Neural Networks，GNNs）處理非結構化數據時具有出色能力，因此，基于GNNs的各種時空學習模型成為交通流預測領域的發展趨勢和研究重點［8］。文獻［9］提出STGCN，其利用由圖卷積和時間卷積依次串聯組成的時空模塊學習交通流空間和時間關聯性。文獻［10］提出ASTGCN，引入注意力機制學習交通流數據中的時間和空間動態關聯性。文獻［11］和文獻［12］分別提出DCRNN 和GWN，通過擴散卷積提取交通流的空間依賴關系，然后分別利用LSTM（Long-Short Term Memory）和TCN（Temporal Convolutional Network）學習空間特征序列中蘊含的時間關聯。

上述模型或利用串聯的空間和時間模塊依次提取交通流的空間與時間特征，或通過并行的方式分別學習空間和時間特征后再進行融合。這類時空分離式的學習模塊設計割裂了時間和空間維度間的內在聯系，僅從單一視角揭示交通流的時空演化特征。本質上，這些模型類似于通過不同函數嵌套而成的復合函數學習時空模式，時間和空間規律由2 個不同的函數所決定。

對比單一視角下的學習，基于時空域的聯合學習模型更加關注目標在時空序列中的運動變化。利用時空聯合學習模塊，可從多個維度同步提取時空特征。目前，這類模型多應用于多主體軌跡預測［13］與人體行為識別［14］領域，將其應用于交通流預測領域具有重要的價值與意義。文獻［15］提出STG2Seq，利用沿時間軸而堆疊的多層圖卷積構造一種時空聯合學習模塊，并由注意力機制融合不同模塊的輸出。文獻［16］提出STSGCN，通過多個鄰接矩陣拼接構造時空圖，然后基于時空圖堆疊多層時空圖卷積用以學習交通流局部時空下的異質性，其提高了預測精度。但是，上述模型對交通流變化中其他豐富的時空交互關系以及動態演化規律等方面的探究較為有限，因此，在時空關聯模式挖掘和預測精度上仍存在一定的改進空間。

本文針對交通流在不同時空尺度下的動態演化規律和協同變化，提出一種基于時空域聯合學習的動態層次網絡（Joint Spatial-Temporal Dynamic Hierarchical Network，JST-DHNet）。JST-DHNet 基于動態時空圖的層次化結構，利用圖乘積構建多種時空關聯關系。結合小波變換和傅里葉變換分別在捕捉局域性和全域性變化方面的優勢，設計2 種不同的時空同步卷積以實現分層學習。不同于時空分離式模塊，JSTDHNet 聯合時空局域和全域卷積將時間與空間學習融入同一運算，從而捕捉多尺度的時空交互聯系。此外，本文將圖神經網絡與內嵌物理知識的學習相融合，基于廣義偏微分方程建模交通波的時空轉移規律，學習交通流時空動態演化過程中復雜的時空交互機制。

1 問題描述

本文旨在解決交通流的時空聯合學習問題，為此，首先針對城市交通流數據固有的空間和時間屬性進行結構化表達，給出空域圖和時域圖的定義。本文所涉及的關鍵符號定義如表1 所示。

表1 關鍵符號定義Table 1 Key symbols definition

定義1（空域圖）路網的空間拓撲結構可以表示為圖GS=(VS,ES,AS)，其中，ES為邊的集合，連接圖中|VS|=N個節點。每個節點對應路網中的交通檢測器。鄰接矩陣AS∈RN×N描述節點間的空間聯系。空域拉普拉斯矩陣為LS=DS-AS，DS為度矩陣。

定義2（時域圖）城市交通流的變化具有周期性，有限周期性時間序列可結構化為環圖，每個節點對應一個時間步。對于|VT|=T個時間步構成的環圖GT=(VT,ET,AT)，其鄰接矩陣AT∈RT×T為循環矩陣。邊的權重表示時間步間的關聯強度。時域圖的拉普拉斯矩陣LT=DT-AT也為循環矩陣。當LT滿足對稱性時其特征值與時頻相對應，時域圖上的卷積運算近似于時序濾波。

本文將t時刻交通流數據視為圖信號Xt=，其中，為第i個節點處的特征觀測值。時間窗口T內的歷史觀測序列可表示為時變圖信號X=[X1,X2,…,XT]∈RN×T，其矢量形式寫作x=vec(X)∈RN×T。基于上述定義，交通流預測問題為學習一個時空聯合函數f，該函數將歷史時間段T內的輸入映射為未來時間段H內的輸出，如下：

2 基于時空聯合學習的交通流預測模型

2.1 模型結構

圖1（a）所示為本文JST-DHNet 模型的框架結構，主要包括時空元知識學習器、聯合時空全域和局域學習網絡、多尺度動態聚合器等4 個部分。

JST-DHNet 首先應用時空元知識學習器從輸入的歷史時空序列X∈RN×T中學習動態變化的關聯信息，并與靜態知識混合生成動態時空圖J=(VJ,EJ,AJ)；然后將輸入X和時空圖J 分別送入聯合時空全域、局域學習網絡這2 個子網絡進行多層次的時空聯合學習，如圖1（b）所示，每個子網絡都先經過一個聯合時空卷積層來提取交通流在不同時空尺度下的特征，再由時空VAR 或時空擴散卷積模塊學習其演化規律，其中，聯合時空全域學習網絡用于學習交通流的整體分布特征與變化共性，聯合時空局域學習網絡用于感知不同區域的特異性變化與演化規律，2 個子網絡的輸出Οglobal和Οlocal通過多尺度動態聚合器進行耦合，實現交通流宏觀與微觀特征的統一；最后模型將與Οglobal拼接并傳入輸出層，得到未來時間段內的交通流預測值Y′∈RN×H。

圖1 JST-DHNet 模型整體架構Fig.1 The overview architecture of JST-DHNet model

2.2 動態時空圖生成

JST-DHNet 模型基于時空元知識學習器融合靜態基本屬性和動態變化信息，自適應學習時空拓撲結構。利用注意力機制分別構建動態的空間和時間鄰接矩陣：

圖2 3 種時空圖結構的可視化效果Fig.2 Visualization effect of three spatio-temporal graph structures

根據不同的時空關聯關系，時空圖的拉普拉斯矩陣LJ∈RNT×NT計算分別為：

2.3 全域時空演化特征學習

為捕獲交通流全域態勢和學習交通流整體的變化趨勢，本文提出一種由聯合時空全域卷積和時空VAR 串聯組成的聯合時空全域學習網絡，如圖1（b）中的左圖所示。

2.3.1 基于時空傅里葉的聯合時空全域卷積

全局時空特征反映了區域性的總體變化，能夠描述特定時間段內出行者在城市空間中分布的整體情況，存在較為明顯的區域協同性。傅里葉變換通常能體現信號的全局特征并分離局部擾動。給定時空圖J，時空傅里葉變換（Joint time-vertex Fourier Transform，JFT）［18］定義為：

結合卷積定理，本文設計基于JFT 的聯合時空全域卷積，提取區域交通流的整體運行特征，從而學習全局時空表征。具體計算為：

其中：aq為聯合濾波器hglobal(λ,ω)的Q階多項式擬合系數。由于聯合濾波函數計算復雜度較高，為優化運算效率并適應多樣化的時空關聯結構，文獻［19］設計基于快速傅里葉切比雪夫算法（Fast Fourier Chebyshev algorithm，FFC）加速的聯合時空全域卷積，這種聯合時空全域卷積通過頻譜域中的迭代近似任意時空濾波器，從而將計算復雜度降低為O(T|ES|K+NTlogaT)，K、ES和N分別為切比雪夫多項式階數、空域圖中邊集和節點數。對應廣義時空圖J=GS?GT=(VJ,EJ,AJ) 上的輸入X∈RN×T，基于FFC 的聯合時空全域卷積計算方式為：

其中：θ為待學習參數。圖3 所示為聯合時空卷積與圖卷積GCN［20］的差異。具體而言，聯合時空全域卷積經由快速傅里葉變換FFT 將輸入X映射至頻域中，然后再利用聯合濾波提取時空關聯特征，最后再由IFFT 將輸出還原至時空域。聯合時空全域卷積可提取若干連續幀間的時空聯合特征，學習到更多的時空交互信息，而定義在空域中的GCN 無法提取空間實體間的時間關聯。

圖3 3 種卷積運算的對比Fig.3 Comparison of three convolution operations

2.3.2 全域變化趨勢追蹤

利用VAR 建立交通流序列隨時間推移所呈現的宏觀變化規律，從而提取交通流時空協同變化趨勢。在宏觀上，交通流通常具有亞穩態特征和滯后效應，t時刻的全域交通流狀態可近似由歷史的時滯序列線性表示。設時間窗口為T，時空VAR 單步預測的計算方式為：

其中：βτ為學習參數；εt∈RN為t時刻的擾動。

多步預測基于時間滑動窗口構建，依次拼接H次滑動輸出此外，將1D 時間卷積加入在時空VAR 前用于增強長距離時間依賴性［21］。

2.4 局域時空演化特征學習

為捕捉局部時空擾動和學習局域時空演化規律及交互影響，本文設計由聯合時空局域卷積和時空擴散卷積串聯而成的聯合時空局域學習網絡，如圖1（b）中的右圖所示。

2.4.1 基于時空小波的聯合時空局域卷積

受外部因素和時空差異的影響，交通流內部的穩定性時常伴隨局部擾動的產生，這些局部差異難以被GCN 等過平滑或全局特征提取器識別。鑒于小波變換在奇異性檢測和局部細化特征提取方面的有效性，本文利用小波捕捉交通流中產生的局部時空擾動。給定時空圖J，時空小波變換（Joint timevertex Wavelet Transform，JWT）［19］定義為：

其中：g(·)是定義在頻譜域上的核函數。考慮到交通流變化的局部時空分異，設計核函數為g(λ,ω)=g1(λ)g2(ω)，則有：

為避免矩陣特征分解，引入基于惰性隨機游走［22-23］的圖小波算子。當尺度因子為2j時，圖小波算子Ψj可寫為：

2.4.2 基于領域知識嵌入的時空擴散卷積

在宏觀交通流理論的動力學模型中，交通流被視為由大量車輛組成的可壓縮連續流體介質，反映車輛集體的綜合平均行為，近似具有時空交互作用的粒子流，每個粒子代表一輛車［24］。交通系統本質上屬于離散的非線性動力系統，伴隨反復發生的局部擾動和自發簇效應等非線性動態現象。為還原交通流性態，模擬非線性擾動波傳播和發展趨勢，本文引入廣義二階偏微分方程——基于圖的波動方程，以模擬交通流的時空演化規律。

為保證時間和空間上的傳播連續性，時域和空域拉普拉斯矩陣會經過掩碼處理。給定輸入Z∈RN×T，以拉普拉斯矩陣為離散二階微分算子，標準的波動方程可推廣為非歐域中的廣義形式，即：

其中：MT∈RT×T保留相鄰時間聯系；MS∈RN×N過濾非地理位置相鄰的空間聯系；v=α2對應波動的傳播速度。在相關條件已知時，t時刻的解可近似由初始條件線性表達。設z0為初始擾動狀態，則式（17）的解為：

時空擴散核函數Kt,v是關于傳播時間t和速度v的矩陣函數，其在譜域中的形式［25］為：

其中：c0和c1分別為矩陣主、次對角線上的元素。由于arccos(x)的定義域為[-1,1]，v應滿足v≤c1+c0/2，以保證計算穩定性。圖4 所示為模擬的交通波隨傳播時間演化的物理過程可視化效果。由卷積定理，時空擴散卷積定義為：

圖4 不同傳播速度v 下的時空擴散核可視化Fig.4 Visualization of spatio-temporal diffusion kernel under different propagation velocities v

但是，交通流不同狀態的演變實際上是一個強非線性的復雜時空協同過程，本文將交通領域知識嵌入到神經網絡學習中，訓練聚合器函數實現交通波擴散過程中各種時空交互的融合。一個可學習的阻尼系數項Θdamp∈RN×(T+H)用于自適應交通流擾動波形隨時間的變化，即：

為降低時空擴散卷積的運算開銷，本文利用FFC 算法加速訓練，保證在計算資源有限的設備上能夠高效運行。最終，時空擴散卷積的輸出Οlocal∈RN×H計算方式為：

圖5 所示為DCRNN 擴散卷積與JST-DHNet 時空擴散卷積的差異，就每個節點而言，DCRNN 擴散過程僅發生在時刻t，忽略了后續時空下的時滯，JSTDHNet 時空擴散卷積建立的是非穩態擴散過程，擾動傳播強度會隨距離和時間而發生變化，描述了交通波隨時空變化的一般規律。

圖5 JST-DHNet 時空擴散卷積與DCRNN 擴散卷積的對比Fig.5 Comparison between JST-DHNet spatio-temporal diffusion convolution and DCRNN diffusion convolution

2.5 基于Attention 的多尺度特征融合

聯合時空局域學習網絡的輸出Οlocal表征交通流中局部擾動的傳播結果，與交通流的宏觀時空分布以及演化存在關聯。微觀區域的持續變化會逐漸擴散至更大的區域層面，積累到一定程度甚至會影響城市交通整體的運行水平。聯合時空全域學習網絡的輸出Οglobal表征宏觀區域時空演化的結果，也會對局部區域的變化過程產生影響。兩者間具有協同演化、相互作用的關系。本文設計一種基于注意力機制的多尺度動態聚合器，用于學習這種復雜的動態耦合關系。以Οglobal作為“查 詢”Query、Οlocal作為“鍵”Key，動態聚合器的計算公式為：

其中：dlocal為縮放因子，對應節點數；σ為激活函數Sigmoid；Diag 保留注意力矩陣對角線元素；Winter表達全域交通流對微觀區域變化的反饋。通過融合全域時空信息對Οlocal進行動態更新，

2.6 輸出層

其中：Y為真實值；Y′為預測值；δ為對誤差敏感度的閾值，實驗中取值為1.0。

3 實驗分析

3.1 數據集與預處理

為評估JST-DHNet 模型的交通流預測性能，選取4 種實際交通場景下的交通流數據進行實驗，包括PeMS03、PeMS04、PeMS07、PeMS08［16］。這些數據集來自美國加利福尼亞州路網的實時交通數據。將30 s/次采樣頻率的原始數據匯總為5 min 時間間隔的交通流數據樣本，每個檢測器每天共得288 個數據樣本。各數據集的具體信息如表2 所示。利用線性插值方法對數據集中的缺失值進行修復，同時，為降低量綱差異的影響，采用Z-score 對數據進行標準化預處理。所有的數據集按時間戳劃分為6∶2∶2的訓練集、驗證集和測試集。

表2 數據集信息Table 2 Datasets information

3.2 實驗設置

針對不同網絡規模的數據集，適當調整參數值，PeMS08 等小規模交通網絡中，時空小波尺度因子jt和jS被設置為1；PeMS07 等較大規模的交通網絡中，時空尺度因子jt和jS被設置為2；其他路網中時空尺度因子jt和jS可分別被設置為1 和2。高斯核超參數為0.2，擬合階數Q、K和P設置為3、5 和10，C1、C2、C3和C4設置為32、1、64 和128。1D 時間卷積核尺寸為3。模型訓練階段以Adam 為優化器，設置學習率為0.001，批大小為32，訓練200 輪。所有參數在驗證集上經反復測試以獲得模型的最佳表現。設T=12，H=12，實驗以歷史1 h 觀測數據預測未來1 h 交通流量，統一在Tesla P100-16 GB 上經過10 次測試。

3.3 評價指標與基準模型

為保證實驗結果的公平合理，所有基準模型均不額外使用天氣、節假日等外部信息。分別選擇經典的統計模型VAR 和機器學習模型SVR 以及FC-LSTM［26］、DCRNN、STGCN、GWN、ASTGCN、STG2Seq、STSGCN等深度學習模型，與JST-DHNet進行實驗比較。表3 從方法特點、類別、關鍵技術等方面對6 種基準模型進行歸納總結。利用平均絕對誤差（MAE）、平均絕對百分比誤差（MAPE）和均方根誤差（RMSE）這3 種指標來評價預測表現。另外，3 種不同形式的JST-DHNet也參與實驗對比，分別為基于克羅內克乘積圖、笛卡爾乘積圖、強乘積圖的JST-DHNet（K）、JST-DHNet（C）和JST-DHNet（S）模型，以分析不同時空關聯結構對預測性能的影響。

3.4 結果分析

3.4.1 時空聯合學習模型的預測效果分析

在表4 中，“_”為最佳基準模型，提升率=|本文模型誤差-最佳基準模型誤差|/最佳基準模型誤差。從表4 可以看出，本文JST-DHNet 模型具有最佳的預測表現。VAR、SVR、FC-LSTM 等時序模型忽略了交通流的空間關聯特征，使得預測效果欠佳。深度學習類模型具有比VAR、SVR 等傳統模型更強的表達能力。DCRNN、STGCN、ASTGCN、GWN 等采用時空分離式學習模塊的深度學習模型由于無法提取交通流數據中復雜的時空交互關系，導致預測精度較為有限。

表4 交通流預測模型的性能對比Table 4 Performance comparison of traffic flow prediction models

在時空聯合學習的同類模型中，STG2Seq 利用圖卷積時序模塊建模時空關聯性，實現相鄰時空域中節點特征的簡單聚合，難以表達復雜的時空交互與協同變化。STSGCN 由多個空域鄰接矩陣的拼接構建時空圖，但其時空圖表現為固定的關聯結構，難以適應動態變化的時空關聯關系。受GCN 過平滑問題的影響，STSGCN 捕獲到的局部時空異質性有限。相比之下，JST-DHNet 基于時空元知識學習器生成隨輸入變化的動態時空圖，具有更強的時空聯合表達能力。

3.4.2 時空關聯特征學習的作用分析

表5所示為JST-DHNet與3種變體的預測性能對比。JST-DHNet（K）反映周邊歷史交通態勢對目標區域的影響，JST-DHNet（C）更關注目標區域自身交通流變化和周邊區域的關系。強乘積圖相當于克羅內克乘積圖與笛卡爾乘積圖的一種混合，因此，JST-DHNet（S）能夠表達更復雜的時空關聯關系，具有比JST-DHNet（K）和JST-DHNet（C）更佳的預測表現。基于廣義時空圖的JST-DHNet具有較好的泛化性，可兼容多種時空關聯結構，預測精度更優，可見豐富的時空關聯關系對交通流預測具有重要作用。

表5 不同變體模型的預測性能對比Table 5 Comparison of prediction performance of different variant models

3.4.3 模型學習效率分析

時空圖的計算代價較高，為在復雜城市網絡場景下對模型進行線上部署，對各模型的效率和收斂性進行對比實驗。從圖6（a）、圖6（b）可以看出，JST-DHNet（S）需要比JST-DHNet（K）和JST-DHNet（C）更長的訓練和推斷時間，可見越復雜的時空交互關系所需學習時間越長。JST-DHNet通過引入惰性隨機游走、FFC 等多種加速策略，使得在時空圖上的運算效率得到有效改善。從圖6（c）、圖6（d）可以看出，JST-DHNet具有更快的學習速度，且收斂時間更短。

圖6 各模型的效率與收斂性分析Fig.6 Efficiency and convergence analysis of each model

3.4.4 參數分析

如圖7 所示，尺度因子jt和jS影響聯合時空局域卷積的局域尺度，其最優值隨著交通網絡規模的增大而增加，在路網規模較小的PeMS08 數據集上，更小的尺度因子對應更好的預測性能。聯合時空全域卷積用于捕獲交通流全局時空特征，隨著階數K的增加，其在時空域內的感受野增大，能夠更好地表征全局性，預測誤差也隨之降低。但是，當K過高時，容易引起過擬合問題，影響預測性能。階數P的增加使得對交通流局部擾動傳播的模擬更加準確，模型預測誤差先顯著降低后逐漸趨于平穩，每個迭代周期的訓練時間明顯增加。為平衡模型計算精度和訓練時間，時空擴散卷積的階數P宜取10。

圖7 JST-DHNet 的關鍵參數分析Fig.7 Analysis of key parameters of JST-DHNet

4 結束語

本文提出一種基于時空聯合學習思想的層次網絡模型JST-DHNet。通過動態時空圖上的時空同步卷積操作，對時空序列數據中嵌入維度間不同層次的交互作用進行學習。將交通領域知識嵌入神經網絡訓練中，應用數據和知識混合驅動的學習方式，模擬真實交通場景下交通流擾動傳播的物理規律。4 個真實路網交通流數據集上的實驗結果表明，豐富的時空交互關系挖掘對交通流預測具有重要作用，基于時空域的聯合學習模型具有更強的時空表達能力，較對比預測模型，JST-DHNet 在預測性能和運算效率方面有較大提升，具備在復雜城市路網環境下高效準確預測交通流的能力與更好的解釋性。同時，實驗結果也表明經典交通流理論蘊含的領域知識對深度學習的網絡設計具有重要指導意義。下一步考慮引入更多的外部信息用于聯合訓練與學習，如天氣、節假日、POI 等相關的元知識，從而進一步提高模型的預測效果。