基于時空卷積注意力網絡的道路速度預測研究

胡錚 林楊 曾秋霖 舒泰 武筱彬

摘? 要：針對交通流數據建模時空特性挖掘不足的問題，提出了STGAN網絡。運用時空圖卷積和注意力機制挖掘道路網絡時空規律。注意力機制使得網絡對相鄰道路和歷史時間數據的關注度不同，其分組注意力卷積的機制能夠使得網絡訓練擺脫路網空間拓撲規模的限制，并使模型可運用在較大規模的路網上。實驗表明，STGAN模型在寧波高、快速路和主干路上速度預測誤差比DCRNN小，在寧波數據集上預測速度表現出良好的精度。

關鍵詞：公路運輸；速度預測；時空依賴；注意力；圖卷積

中圖分類號：TP39；U495? 文獻標識碼：A? 文章編號：2096-4706（2023）05-0128-04

Research on Road Speed Prediction Based on Spatiotemporal Convolution Attention Network

—A Case Study of Ningbo's Main Road Network

HU Zheng， LIN Yang， ZENG Qiulin， SHU Tai， WU Xiaobin

（Ningbo Transportation Development Research Center， Ningbo? 315042， China）

Abstract： STGAN network is proposed to solve the problem of insufficient mining of spatiotemporal characteristics of traffic flow data modeling. The spatiotemporal graph convolution and attention mechanism is used to mine the spatiotemporal laws of road network. The attention mechanism makes the network pay different attention to adjacent roads and historical time data. Its grouping attention convolution mechanism can make the network training get rid of the restriction of the spatial topological scale of the road network， and make the model can be applied to a large scale road network. The experiment shows that the STGAN model has a smaller speed prediction error than DCRNN in Ningbo high-speed， expressway and trunk roads， and the prediction speed shows good accuracy on Ningbo data set.

Keywords： road transportation; speed prediction; spatiotemporal dependence; attention; graph convolution

0? 引? 言

隨著機動車數量的快速增加，而城市路網承載能力有限，城市路網的擴張難以企及機動車數量的增加速度，道路交通管理已經成為當前城市治理的難題之一。在互聯網技術和人工智能技術高度發達的今天，智能交通系統已被廣泛應用于城市交通監測及治理[1]，交通管理部門可以基于歷史路網交通流數據預測得到未來時段的交通狀況，預先進行交通資源分配或智能調度交通信號來對道路通行進行控制。出行者可以根據預測得到的路網交通狀態來規劃出行時間及出行方式，更好地進行路徑規劃。精確實時的交通流預測可以幫助改善交通堵塞、交通事故等一系列道路交通問題，對城市交通管理和綜合治理水平的提高具有重要意義。

交通流數據具有明顯的時間和空間的模式規律，國內外眾多研究者針對交通流預測問題提出了多種預測方法，分別從交通流的時間特性、空間特性、時空依賴等多方面展開了深入研究，各自具有不同的優點及適用范圍：

（1）時間序列模型。早在1975年時空相關性的概念就被提出，將時間序列計算模型延伸至空間領域，構建了時空序列分析模型框架，從而能夠定量地測量時空依賴性。Moorthy將時間序列的移動平均自回歸方法（ARMA）引入到交通流的預測當中，開啟了ARMA預測的大門。

（2）統計方法模型。Asif [2]等考慮到研究時空特性可以改善智能交通系統的性能，提出了利用K-means挖掘路網層面和路段層面的時空性能趨勢結合SVM對路網速度進行預測。李樹彬[3]等通過層次聚類判定交通流狀態，并結合相空間重構和XGBoost算法提出了一種短時交通流預測模型。

（3）深度學習。Yang等[4]使用特征增強的LSTM方法用于交通流量預測，以遏制單一特征長序列卷積導致的梯度下降問題。朱凱利等[5]基于圖神經網絡進行交通流量和速度預測，利用圖卷積（GCN）捕獲圖的拓撲結構。Li等[6]引入擴散卷積神經網絡（DCRNN）進行路網流量預測，基于圖上的雙向隨機游走來捕獲空間相關性，并使用具有預定采樣的編碼器-解碼器架構來捕獲時間相關性，在規模較大的路網下有效。Wu等[7]基于WaveNet網絡預測時空交通流取得不錯的效果。Rasaizadi等[8]使用人工神經網絡和K-nearest鄰居混合的模型預測預測小時交通量和每小時平均流量速度，根據結果敏感性分析后，得出影響K-nearest和預測精度的關鍵特征。

交通流受到路段狀況、天氣情況、人為活動等多種事件因素的影響，使得其具有高度的時變性、多模式性以及不確定性等特點，也增加了對交通流準確預測的難度。本文針對短時交通量受隨機因素影響大、非線性強、時空規律多模態的特點，將時空卷積注意力網絡應用于交通量預測的研究。

1? 時空卷積注意力預測模型

本文基于STGAN網絡進行道路流量預測，STGAN模型有四個組成模塊，分別是位置編碼模塊、時空編碼器、時空解碼器和輸出模塊。如圖1所示。

1.1? 注意力模塊

在時空編碼器中分別使用了局部注意力模塊和分組注意力模塊，分別對交通流速度數據的時間和空間模式規律進行建模。局部注意力機制用提取時序數據中的時間維度上的多模式依賴關系，基于不同的卷積核在時間序列上滑動提取不同范圍內的局部特征，基于Attention機制利用因果卷積在局部時間特征上挖掘交通流時序數據的時間依賴關系。

組范圍卷積注意力用于學習交通流路段節點間的空間依賴，使得它們難以捕獲空間依賴的動態性和多模式性。由于實際應用中路網規模大，圖注意力卷積的關于路網節點數N的計算復雜度是O（N2），對算力和內存都將是挑戰。另外，路網中節點依賴隨著距離降低，反映在圖上就是節點依賴關系雖鄰域的階數增加而降低。組范圍卷積注意力使用核大小和步長均為k的一維卷積將輸入節點分組，以降低網絡復雜性，組數通過式（1）計算：

（1）

其中? 表示向下取整函數，N表示路段節點的數量。卷積核k決定了組內節點數量及組的數量，卷積操作將組內節點信息進行匯聚，之后使用注意力機制計算組間的注意力分數，隨后將得到的注意力得分矩陣作為圖的鄰接權重矩陣，表示組與組之間的相關關系。

1.2? 位置編碼器

STGAN沒有用到LSTM的序列卷積，其采用了位置編碼器提取速度時間序列的位置信息，位置編碼器借鑒了Transformer中位置編碼的做法來考慮序列位置信息，如式（2）：

（2）

其中pos表示序列的位置，i表示編碼向量的位置下標。由于交通流預測任務中使用歷史觀測值對未來值進行預測，歷史輸入和預測輸出在序列上并不是獨立的，具有前后位置關系。如模型輸入的歷史時間步長為P，預測輸出的時間步長為Q，則據式（2）計算第1個位置到第P+Q個位置的連續編碼向量為：PE={PE1，PE2，…，PEP+Q}，為了在模型中考慮這種前后位置信息，本文將輸入序列和前P個位置編碼向量做加性和，如式（3）所示，其中⊕表示元素和，Xin表示輸入的交通流序列， 和? 將用于時空編碼器和時空解碼器的輸入：

（3）

1.3? 時空編碼器

時空編碼器由并行的空間編碼器和時間編碼器組成。每個空間編碼器層包含兩個子層，分別是組范圍卷積注意力和全連接前饋網絡。歷史觀測數據首先經過一個1×1的卷積層被轉換為 ，然后輸入空間編碼器產生輸出 ，每個時間編碼器層由局部范圍卷積注意機制和前饋網絡組成，時間編碼器的其他部分與空間編碼器相同。在連續位置編碼嵌入后， 被饋送到時間編碼器并產生輸出 、 和? 經過拼接后產生時空編碼器的最終輸出 。

1.4? 時空解碼器

時空解碼器由時間解碼器和空間解碼器串行組成，其中時間解碼器和空間解碼器都由L個相同的子層堆疊而成，解碼器中使用到的殘差連接、層正則化以及前饋網絡都和編碼器相同。時間解碼器中的注意力機制為局部范圍卷積注意力，將連續位置編碼模塊的輸出作為輸入，通過L層堆疊后生成輸出 。空間解碼器中使用的注意力機制是組范圍卷積注意力，空間解碼器的最后一個子層生成時空解碼器的最終輸出 。

1.5? 輸出模塊

在輸出模塊中，時空解碼器輸出的時空特征作為輸出模塊的輸入。輸出模塊由兩個1×1的標準卷積層組成，將時空解碼器的輸出轉換成期望的預測輸出，公式表示為：

（4）

2? 模型性能評估

本文提出的速度預測模在PMES數據集中的交通流速度進行驗證，如表1所示，PMES美國加州運輸機構性能檢測系統收集的高速公路交通監控數據，數據按照5 min時間跨度進行切片，分別記錄了交通流量、平均速度和路段占用率，該數據集質量較高不存在數據缺失的問題。

2.1? 模型試驗設置

將PEMS數據集劃分為70%訓練集、30%驗證集，本文使用Adam優化器搭配閾值為5的梯度裁剪來訓練模型。初始學習率為0.001，權重衰減為0.000 1，并且在每個數據集上訓練模型150個批次，PEMS04數據集batch size為32，PEMS07數據集batch size為16。為防止過擬合，采取drop out和earl stop在驗證集上的損失連續10個批次沒有減少時，停止訓練，所有訓練基于i9-9900K、RTX2080和128 GB內存的Windows平臺進行。

如表2所示，PEMS04和PEMS07的輸入輸出步長均12，即用過去一個小時的而速度序列預測未來一個小時的速度序列。由于PEMS07道路數量多，組范圍卷積數量調整為100，編碼器和解碼器堆疊層數設置為4，損失函數選擇L1。

2.2? 試驗結果

本文將所實現的STGAN模型與以下基準模型進行比較，包括傳統時間序列分析方法ARMA、時間序列深度學習預測方法FC-LSTM[4]、基于深度圖神經網絡的方法DCRNN[6]、WaveNet[7]等模型，模型評價指標選擇RMSE和MAPE。由表3多步預測平均誤差可知，相比FC-LSTM的序列卷積，時空卷積和圖注意力機制對交通流的多模式時空建模更有效；加入transformer結構的STGAN比DCRNN在PMES-07數據集上表現更優，原因在于PMES-07相比節點數量PMES-04更多，時空關系更復雜，與此同時，分組卷積在減少計算量的同時，挖掘路網節點之間的時空相關性依賴也更有效。

在圖2中的多步預測誤差圖中，隨著預測步長的增加，FC-LSTM、DCRNN和STGAN預測誤差都在增加，在PEMS-07上的增加速度大于PEMS-04，STGAN在多步預測中精度較高，誤差上升速度慢于DCRNN。

3? 寧波路網速度預測

為了驗證STGAN網絡在國內城市交通速度預測的實際應用效果，本文在寧波市高、快速路速度數據集（NB_expressway）和寧波主干道速度數據（NB_trunk_road）集上，訓練STGAN模型并評估預測效果。

3.1? 預測案例

寧波路網運行速度由浮動車GPS地圖匹配與高德路況數據融合得到，每5 min計算一次全網道路運行速度，幾乎覆蓋寧波城區所有主要道路，寧波路網信息及數據采集時間如表4所示。

由于車流在路網中時空分布不均勻的天然屬性，導致路網速度監控數據存在不同程度的缺失，高速數據缺失9.13%、快速路缺失14.82%、主干道缺失23.36%，缺失程度隨道路等級降低而加重。根據歷史速度數據分組統計得出寧波市道路運行速度均值如表5所示，針對速度缺失不嚴重的路段進行缺失值填補，以適當緩解速度缺失對預測模型訓練及預測精度的影響。STGCN具體的訓練參數設置如表6所示，由于主干道數量多，NB_trunk_road分組卷積數量設置為6，transformer編碼解碼結構設置為6，為降低顯存壓力，將批次大小調整為8。

3.2? 預測效果

由表7知，STGAN模型在寧波高、快速路和主干路上速度預測誤差比DCRNN小，在高、快速路上，預測誤差低0.39%，在主干路上低0.84%。在圖3多步預測誤差圖中，STGAN在NB_expressway和NB_trunk_road速度數據集上的預測誤差均隨著預測步長的增加，并且主干道誤差上升明顯快于高、快速路，表明STGAN對路況更加復雜的城市主干道交通流時空關系建模能力有所下降，STGAN在寧波高快速路和主干路的預測效果如圖4所示。

4? 結? 論

本文提出的STGAN網絡預測道路速度，在開放數據集上達到與主流標準模型一致水平的預測精度，其優勢在于結合時空注意力機制時，使用局部注意力卷積和分組注意力卷積網絡訓練參數收斂速度快。另外，分組注意力卷積用于學習交通流路段節點間的空間依賴，使得網絡捕獲空間依賴的動態性和多模式性。在寧波實際道路速度預測場景中，誤差比傳統模型小，證明了模型的有效性；同時需要注意的是，在城市主干道速度預測中，由于路網結構復雜，道路數量多，易受交通信號限制，速度預測難度增加，模型存在預測精度下降的問題，下一步需投入更多精力解決此問題。

參考文獻：

[1] 冉斌．世界智能交通進展與趨勢 [J].中國公路，2018（14）：22-23.

[2] ASIF M T，DAUWELS J，CHONG Y G，et al. Spatiotemporal Patterns in Large-Scale Traffic Speed Prediction [J].IEEE Transactions on Intelligent Transportation Systems，2014，15（2）：794-804.

[3] 李樹彬，孔祥科，李青桐，等.考慮混沌特性的PSR-XGBoost短期交通流預測（英文） [J].東南大學學報：英文版，2022，38（1）：92-96.

[4] YANG B L，SUN S L，LI J Y，et al. Traffic flow prediction using LSTM with feature enhancement [J].Neurocomputing，2019，332：320-327.

[5] 朱凱利，朱海龍，劉靖宇，等.基于圖卷積神經網絡的交通流量預測 [J].智能計算機與應用，2019，9（6）：168-170+177.

[6] LI Y G，YU R，SHAHABI C，et al. Diffusion Convolutional Recurrent Neural Network： Data-Driven Traffic Forecastingg [J/OL]. arXiv：1707.01926 [cs.LG].[2022-09-28].https：//arxiv.org/abs/1707.01926.

[7] WU Z H，PAN S R，LONG G D，et al. Graph WaveNet for Deep Spatial-Temporal Graph Modeling [J/OL]. arXiv：1906.00121 [cs.LG].[2022-09-29].https：//arxiv.org/abs/1906.00121.

[8] RASAIZADI A，ARDESTANI A，SEYEDABRISHAMI S. Traffic management via traffic parameters prediction by using machine learning algorithms [J].IJHCM（International Journal of Human Capital Management），2021，6（1）：57-68.

作者簡介：胡睜（1985—），男，漢族，浙江寧波人，高級工程師，碩士，研究方向：交通信息化。

收稿日期：2022-10-20

基金項目：寧波市交通運輸局科技項目（202117）