融合多維時空特征的交通流量預測模型

宋瑞蓉， 王斌君*， 仝 鑫， 劉文懋

(1.中國人民公安大學信息網絡安全學院， 北京 100038； 2.綠盟科技集團股份有限公司， 北京 100089)

隨著汽車數量的大幅攀升，緩解交通擁堵越來越成為城市發展所要面對的重大課題。構建完善的智能交通預測系統，是一項重要的應對措施。準確的交通流量預測能夠輔助有關部門進行決策，提前采取相關預警措施，促進管理體系和管理能力現代化，給人們出行提供更加合理的建議，減緩交通擁堵。

現有文獻對交通流量預測進行了廣泛的研究，預測方法可以分為四類：線性模型、非線性模型、組合模型以及交通仿真模型[1]。其中，組合模型是近些年研究的熱點，通過組合能夠綜合不同模型的優勢，提取不同維度、不同層面的交通流量特征，從而提取到更加全面的交通流量信息，做出更為精準的交通流量預測。

在組合模型中，基于時空融合的組合模型由于其能夠提取到更為全面的特征而被廣泛研究。組合模型可以分為三類：時序與非時序模型的組合、線性與非線性模型的組合以及多個非線性神經網絡模型的組合。文獻[2]組合了時序預測方法霍爾特-溫特(Holt-Winters)與線性回歸模型，對高鐵的客流量進行預測，綜合提取了時序與非時序特征。文獻[1]將非線性模型小波神經網絡與線性模型卡爾曼濾波進行組合，能對交通流數據中的線性部分和非線性部分進行充分提取，更為完整地描述了交通流特征，從而對交通流更加準確地做出預測。將優化算法與預測模型相結合可以提高模型預測精度，如文獻[3]中利用粒子群算法優化支持向量回歸模型，從而對高速公路做出交通流預測。集成模型也是交通流預測中常采用的方法，文獻[4]中提出了一種雙機制Stacking集成模型可以更好克服單一模型存在的不足，從而做出更精確的預測。

在神經網絡組合模型中，基于時空融合的組合模型是研究的熱點。由于交通流的變化在時間維度上具有明顯的時序傳遞性的同時，也會受空間維度上相鄰路段的影響，所以時空融合方法能夠更加全面地考慮影響交通流變化的因果關系，從而提供更為準確的預測。文獻[5]提出了一種注意力交通流機制(attentive traffic flow machine，ATFM)，用于提取交通流的時間與空間特征。采用注意力機制自適應地對相關部分予以關注，從而能端到端地生成交通流預測圖。文獻[6]對提取交通流空間特征的有向性和動態性進行了改進，通過雙流圖卷積層提取空間相關性的穩定分量和動態分量，最后將所提取的時空相關性進行融合，從而得到較好的預測結果。文獻[7]提出了基于CNN-ResNet-LSTM的網絡結構，通過殘差單元加深網絡深度，提高預測準確度，同時充分提取交通流的時空特征。文獻[8]利用圖卷積網絡(graph convolutional networks,GCN)對路網的空間結構進行拓撲關系建模，將其輸出作為門控循環單元(gate recurrent unit,GRU)的輸入，用于提取時間特征。文獻[9]使用卷積-門控循環單元和雙向門控循環單元分別提取時空特征，將融合后的特征用于對交通流預測。文獻[10]構建了空間鄰接矩陣作為空間相關性的量化指標，從而建立交通預測模型。文獻[11]提出了一種多圖注意力網絡(graph multi-attention network, GMAN)，使用多個時空注意力塊作為編碼器和解碼器來模擬時空因素對交通狀況的影響。文獻[12]提出了一種優化的圖卷積神經網絡，避免了CNN會對路網空間結構產生破壞，用圖來表示網絡的空間信息。文獻[13]提出了基于注意力機制的Conv-LSTM網絡結構，綜合提取交通流中的時間特征、空間特征以及周期特征。文獻[14]考慮到距離較遠的路段可可能對當前路段的交通狀況產生重要的影響，提出了深度學習框架T-MGCN，對路網中的全局特征進行聯合建模，從而進行預測。文獻[15]提出了一種新的時空圖神經網絡，以綜合捕捉交通流的時空模式。文獻[16]用卷積神經網絡提取日間的交通模式，然后輸入長短期記憶神經網絡來提取日內交通流隨時間演化的特征。文獻[17] 結合了卷積神經網絡(convolutional neural networks,CNN)、長短時記憶網絡(long-short term memory,LSTM)和支持向量回歸(support vector regression,SVR)，將CNN與LSTM提取的空間與時間特征輸入SVR進行交通流預測。文獻[18]將注意力機制與LSTM相結合，提出了一種端到端的時空注意力模型STATF，來自適應地學習交通流中的時空依賴性。

從時空融合出發，構建一個多維時空特征提取的組合模型，充分考慮影響交通流量變化的線性和非線性因素，從而提高交通流量預測的準確度，以饗讀者。

1 CLABEK模型

現有文獻多基于神經網絡模型的組合進行展開。神經網絡組合模型能夠綜合不同模型的優勢，全面提取交通流中隱藏的時空特征，在各種預測任務中表現出較好的效果。但神經網絡屬于非線性模型，無法很好地提取交通流中的線性部分特征。基于此，提出神經網絡與線性模型卡爾曼濾波組合的交通流預測模型。神經網絡部分由卷積-長短期記憶網絡(convolutional long-short term memory, Conv-LSTM)層、雙向長短期記憶網絡(bidirectional long-short term memory，BiLSTM)層、全連接(densely connected convolutional networks,Dense)層構成，分別用于提取交通流中的時空特征、周期特征以及外部特征，利用卡爾曼濾波預測交通流中的線性部分，從而構建多維時空特征融合的交通流預測CLABEK(CNN_LSTM_attention_BiLSTM_extra feature_Kalman filtering)模型，模型總體流程如圖1所示。

為線性部分的預測值;為非線性部分的預測值

CLABEK模型將交通流數據分解為線性部分Lt與非線性部分Ut，對兩部分分別進行預測，表達式[1]為

yt=Lt+Ut+ξt

(1)

式(1)中：ξt表示預測過程中出現的隨機誤差。

(2)

(3)

式(3)中：εt表示隨機誤差。

(4)

CLABEK模型將交通流分為線性和非線性兩個部分分別進行預測,從而更加全面地提取交通流特征，做出更為準確地預測。

1.1 組合神經網絡模型

組合神經網絡模型用于提取交通流數據中的非線性部分，由四個模塊構成：時空特征提取模塊、周期特征提取模塊、額外特征提取模塊與特征融合模塊。時空特征提取模塊使用的是添加了注意力機制的Conv-LSTM模型[13]。周期特征提取模塊使用兩個BiLSTM分別提取交通流的日周期和周周期特征。額外特征提取模塊是考慮到日期類型、天氣狀況以及溫度這些額外因素對交通流的影響，使用全連接層提取這些額外特征。特征融合層將上述所提取到的不同特征進行拼接，通過多個全連接層輸出最后的預測結果。神經網絡組合模型的結構如圖2所示。

圖2 組合神經網絡模型

組合模型的優勢在于增加模型的復雜性后，解決了單一模型只能夠很好地提取某一類特征以及容易造成過擬合的問題。CLABEK模型借鑒這一思路組合了CNN、LSTM、BiLSTM，目的是發揮不同模型的優勢，多維度、多層次提取更為全面的特征，從而做出更為精準的交通流量預測。

1.1.1 時空特征提取模塊

根據上述研究現狀的綜合分析，空間特征提取多使用GCN與CNN，其中GCN用于對復雜的路網拓撲結構進行建模，CNN對簡單路網結構表現出更好的特征提取能力。時間特征提取多使用LSTM及GRU，兩者在時序特征提取上表現出近似的效果。時空融合模型總體思路是將路網空間和交通流量時間兩類特征提取模型進行組合，具體可以分為兩類：將空間特征提取的輸出作為時序特征提取的輸入；空間特征提取模塊與時序特征提取模塊并行設置。由于本文所選取的數據集空間結構較為簡單，CLABEK模型選擇CNN與LSTM組合的Conv-LSTM以提取時空特征。Conv-LSTM屬于上述第一類組合類型，同時將并行設置的CNN-LSTM設置為對比實驗，后文的實驗結果表明Conv-LSTM相較于CNN-LSTM表現出更好的交通流量特征提取能力。

考慮到不同時刻對待預測時刻交通流量的影響并不相同，為了對所提取的不同時間步的交通流特征按照其重要程度賦予不同權重的關注，文獻[13]在Conv-LSTM模型中引入了注意力機制，使得模型能夠動態自適應地對更加重要的信息予以更多關注，如圖3所示。

圖3 添加了注意力機制的Conv-LSTM結構圖

Ht為經過注意力機制加權后的輸出值，具體計算過程為

(5)

式(5)中：ht-(k-1)為LSTM網絡的輸出值；βk為注意力權重，由注意力網絡通過自適應學習得到。

(6)

為了充分提取空間特征，本文中對空間數據排列方式進行了改進。文獻[9]將待預測站點的交通流量數據置于矩陣中心，其余觀測點的數據按照與待預測觀測點的距離從中心向兩邊依次排開。考慮到距離不是影響重要程度的唯一因素，與待預測觀測點較遠，也有可能對待預測站點的交通流量產生重要影響，所以采用皮爾遜相關系數法計算所有觀測點與待預測站點交通流量的相關系數，按照系數絕對值大小從中間向兩側依次排開。

1.1.2 周期特征提取模塊

交通流作為時間序列數據具有很強的周期性。首先在一日之內會出現早高峰、晚高峰，交通流隨時間變化的大致趨勢會日復一日的重復，提取日內的周期特征可以更加準確地判斷日內的交通峰值和低谷。其次，以周為單位的交通流序列也具有明顯的周期性，工作日與周末會顯示出不同的變化趨勢，所以以周為單位的周期特征的提取對于交通流預測也具有重要意義。

本模型使用兩個BiLSTM來分別提取日周期特征和周周期特征。BiLSTM由兩個平行的LSTM堆疊構成，其中一層LSTM前向傳播，一層后向傳播，最后將其兩個方向的隱藏狀態進行組合從而得到最終的輸出結果[13]，BiLSTM的結構如圖4所示。

圖4 BiLSTM結構示意圖

(7)

式(7)中：td表示頭天與t相同的時刻；ftd表示該時刻的交通流量數據。

(8)

式(8)中：tw表示上周中與t相同的時刻；ftw表示該時刻的交通流量數據。

(9)

(10)

1.1.3 額外特征提取模塊

上述周期特征提取模塊可以提取到交通數據流隨工作日和周末的變化趨勢。但所提取的信息并不完整，因為交通流量不僅會在工作日和周末表現出不同的特點，在特殊的節假日也會表現出與工作日及周末不同的特征。所以日期類型，包含工作日、周末及節假日作為交通流量數據的影響因素，應當在模型訓練時予以考慮。

由(2)式可以看到，解釋變量對被解釋變量的影響依賴于門檻變量人力資本存量的取值。當HCit≤γ時，xit的系數為當HCit>γ時，xit的系數為令原假設為：通過構建F統計量進一步檢驗模型(1)是否存在顯著的門檻效應。除了一個門檻值的檢驗程序外，為確定是否存在兩個或兩個以上的門檻值，必須再進行兩個門檻值的檢驗。

其次，不同的天氣類型：如下雨、下雪、晴朗，對人們出行會產生一定程度的影響，所以天氣因素也應當作為影響交通流預測的因素予以考慮。除此之外，溫度也會影響人們的出行安排，同樣應當考慮。上述日期類型、天氣類型及溫度作為交通流預測的額外特征，應當與時空特征、周期特征融合后共同作用于當前時間步的交通流預測結果。

日期及天氣作為類型數據，要對其進行one-hot編碼，對溫度值需要進行0-1標準化，將其處理后的結果在一維上進行拼接，這樣就得到了額外特征提取模塊的輸入，將其輸入全連接層，進一步進行特征提取，輸出結果為所提取到的額外特征。額外因素的類型及其表示如表1所示。

表1 額外因素類型及其表示

用Xexit表示所提取的額外特征，表達式為

Xexit=Dense(concatenate([DayType,Weather

Type,Temperature]))

(11)

式(11)中：concatenate表示在一維上進行拼接的操作，DayType及WeatherType代表經過one-hot編碼的日期類型和天氣類型。Temperature代表0-1標準化后的溫度。

1.1.4 非線性特征融合模塊

(12)

1.2 卡爾曼濾波模型

卡爾曼濾波(Kalman filtering，KF)是由Kalman所提出的線性系統方程，通過上一時刻狀態的預測值和當前狀態的觀測值來遞推出當前的狀態[19]。卡爾曼濾波作為一種線性的時序預測方法，經常在含有不確定信息的動態系統中使用，對系統的下一步走向做出有根據的預測，在各種誤差存在的情況下，總能得到最趨近于真實值的狀態。考慮到交通流數據既包含線性部分也包含非線性部分，將神經網絡預測后的殘差輸入卡爾曼濾波模型，進一步提取交通流數據中的線性部分。

卡爾曼濾波的過程可以描述為估計與校正兩個階段：估計是指使用上一時間步的交通流量預測值對當前時間步的交通流量進行估計；校正是指對所獲得的估計值使用觀測值來進行修正，使預測結果更趨近于真實值。

Step 1估計。

(13)

Step 2校正。

(14)

Kk=P′kHT(HP′kHT+R)-1

(15)

(16)

2 實驗結果及分析

2.1 數據來源

本文中實驗數據來自加利福尼亞運輸性能測量系統PEMS(portable emission measurement system) 所收集的高速公路數據集[9]，每5 min收集一次數據。選取了包含7個相鄰觀測點6個月的交通流量數據，時間跨度為2017年9月18日—2018年3月18日。

本文中添加了額外特征提取模塊，所包含的特征有日期類型(工作日、節假日、周末)，天氣類型(晴朗、多云、下雨、下雪)以及溫度。日期類型通過在日歷上查看數據集對應的日期，從而添加相應的屬性對日期類型進行分類標注。天氣類型及溫度均在天氣網站上對相應時間點進行查詢，對溫度以小時為單位進行統計。

2.2 特征分析

為了直觀顯示交通流量的變化趨勢和周期特征，將2017年9月18—24日，時間跨度為一周的交通流量進行統計，如圖5所示。

由圖5可以看出交通流量以日為單位呈現出明顯的周期性，所以通過周期特征提取模塊對日內的周期特征進行提取，對于交通流量變化趨勢預測具有重要意義。

圖5 交通流量周期特征示意圖

為了顯示不同日期類型對于交通流量變化趨勢的影響，選取了具有代表性的三種日期類型，分別是：工作日(周一)、周末、節假日(元旦)，對其交通流數據進行統計，如圖6所示。

圖6中選取的工作日和元旦均為周一，但交通流量呈現出不同的變化趨勢，因此，只有周周期特征提取模塊無法對節假日所對應的交通流量的變化趨勢進行很好的擬合。由圖6可以看出，工作日的交通流量早高峰出現在7：00附近，而周末與節假日則并未明顯的出現早高峰，這與日常生活相符。

圖6 不同日期類型交通流量對比圖

本文中還考慮了天氣因素對于交通流預測的影響，選取了三種不同天氣類型所對應的交通流數據進行統計，結果如圖7所示。

圖7 不同天氣類型交通流量對比圖

上述選取的三種天氣所對應的日期類型相同，所以在交通流上呈現出了相同的變化趨勢，但在10：00—18：00這一區間內出現了明顯的分層。晴朗天氣的交通流量依次大于多云天氣，大于下雨天氣。由此可以說明天氣因素對于交通流預測也具有一定程度的影響。

2.3 實驗結果及分析

為了驗證本文所提出的CLABEK模型在交通流量預測方面的有效性，對實驗結果進行了統計和分析。輸入序列長度設置為15，由于本文所選取的數據間隔為5 min，即用75 min的流量序列向后進行預測。為了對比模型在不同預測區間下的預測能力，將實驗分為四個部分，分別是向后預測1個時間間隔(5 min)、3個時間間隔(15 min)、6個時間間隔(30 min)及12個時間間隔(60 min)。設置了五個對比模型，分別為 Without_attention、Without_bilstm、Conv_LSTM、CNN_LSTM及Conv_LSTM_E。

Without_attention是傳統的時空特征提取模型，使用CNN提取空間特征后輸入LSTM提取時間特征，Without_bilstm在Without_attention基礎上添加了注意力機制。Conv_LSTM相較于Without_bilstm模型添加了BiLSTM層來提取日周期特征和周周期特征。CNN_LSTM與 Conv_LSTM相比，CNN層與LSTM層的組合方式不同，Conv_LSTM采用串聯的方式將CNN層的輸出作為LSTM層的輸入進行進一步地特征提取，CNN_LSTM則將兩個模塊并行設置，分別用于提取時間和空間特征，同樣也引入了注意力機制。Conv_LSTM_E則是在Conv_LSTM模型的基礎上添加了額外特征提取模塊，考慮了天氣及溫度等因素的影響。

使用兩個評價指標對實驗結果進行評價，分別是均方根誤差(root mean squard error, RMSE)與平均絕對誤差(mean absolute error，MAE)，計算公式為

(17)

(18)

不同模型實驗結果如表2所示。

表2 實驗結果

圖8顯示了不同模型在一天內的預測結果及交通流的真實值。

首先，觀察表2可以得到注意力機制能夠提高模型提取特征的能力，從而提高模型的預測準確度。同時，添加BiLSTM提取交通流量的周期特征后可以進一步提高模型的預測效果，因為交通流數據中蘊含著很強的周期性。其次，Conv_LSTM模型與CNN_LSTM模型相比較，表現出更好的預測效果，這是因為交通數據中的時空特征往往交織在一起，Conv_LSTM模型將CNN與LSTM集成在了一個模塊，相較于CNN_LSTM并行設置兩個網絡層，分別用于提取時空特征而言，更能夠提取到深層次的特征，表現出更好的預測效果。接下來，通過將Conv_LSTM_E與Conv_LSTM模型的預測結果相比較可以得出，增加額外特征提取模塊可以提高模型的預測能力，因為日期類型、天氣因素及溫度會影響人們的出行安排，所以在交通流預測時也應當予以考慮。最后，本文所提出的CLABEK模型在不同預測區間上均表現出了最好的預測效果。因為交通流數據中同時含有線性和非線性部分，神經網絡對于非線性部分有很好的預測能力，但無法很好地處理交通流數據中的線性部分，本模型使用卡爾曼濾波繼續提取數據的線性部分，通過實驗證明能夠提高交通流預測的準確度。

由圖8可以看出，CLABEK模型能夠很好擬合交通流隨時間變化的趨勢。

圖8 不同模型交通流量預測對比圖

3 結論

本文提出的CLABEK模型能夠融合交通流的時空特征、周期特征、額外特征，與現有預測方法相比，可以給出更為精準的預測。但該方法所考慮的路網結構較為單一，對于多路口及復雜的路網結構尚無法進行較好地預測。使用圖神經網絡提取現實生活中復雜的路網結構所蘊含的交通流的時空特征是下一步研究的重點內容。