基于深度循環高斯模型的動態時空預測

型主要利用卷積神經網絡和循環神經網絡對時空數據進行建模；現有的深度學習時空預測方法具備復雜特征表達和高效模型求解的優勢。然而，在現實生活中進行時空預測時，現有神經網絡模型缺乏對全局規律的建模，難以建模動態變化的空間分布與時間依賴。相較于神經網絡模型，概率模型可以更好地捕捉空間維度的全局規律和時間維度的依賴規律，為預測提供更加豐富的信息。因此，針對時空預測中的時空動態性，文章提出一種深度循環高斯時空預測模型，結合深度學習模型和概率圖模型對空間分布以及時間依賴同時進行建模。該模型利用高斯分布在處理動態性問題中的優勢，顯式地建模歷史時刻的全局空間分布，利用循環高斯混合模型捕獲對歷史空間分布的長期依賴。同時，循環高斯混合模型結合自注意力機制，不僅顯式地建模了相關的歷史空間分布的傳播規律，且為預測結果提供了一定的解釋。實驗結果表明，該模型在多個真實數據集上優于6個基準模型。相比神經網絡模型的預測效果，該模型降低了至少3.8%的預測誤差。

關鍵詞：深度學習模型；時空動態性；城市時空預測；深度概率模型；高斯混合模型；自注意力機制

中圖分類號：TP391文獻標識碼：A

文章編號：1009-3044（2025）14-0007-07

0引言

隨著城市中各種傳感設備以及智能設備的發展和普及，城市中涌現了大量的時空數據，為智慧城市提供了數據支撐[1]。智慧城市平臺可以利用這些時空大數據（例如用戶軌跡數據、線下服務交互數據）對城市居民的需求趨勢進行準確的預測，進而為城市規劃和個人出行提供有效的決策輔助。在實際生活中，城市服務的流量受到居民出行偏好等影響，在時間和空間兩個維度上都具有動態變化的特點。這種動態特性為有關企業和部門的服務調度也帶來了一些挑戰，例如在共享單車調度，出租車調度，充電樁電量調度等應用上，企業和管理部門需要根據實時需求進行靈活調配。因此，如何有效建模城市服務需求的動態變化規律，成為提升服務調度效率、改善用戶體驗的關鍵。

針對城市時空預測問題，目前的方法主要建模城市的局部空間分布，以及建模在時間上的依賴關系[1-2]。分別使用卷積神經網絡（ConvolutionalNeuralNetwork，CNN）和循環神經網絡（RecurrentNeuralNet?work，RNN）來捕獲空間和時間維度上的特征。例如，Shi等人[3]提出了ConvLSTM模型來捕捉時空相關性對地區的降雨量進行預測。該模型結合了CNN和長短期記憶（Longshort-termMemory，LSTM），建模局部地區的降雨量空間分布和時間維度上的依賴關系。

Zhang等人[4]提出了DeepST模型對城市中人進行預測。該模型通過CNN捕獲每個時刻的局部空間規律，再融合多種時間粒度的空間特征。雖然在時空數據學習過程中，深度學習模型具有復雜特征表達和高效模型求解的優勢，但是在建模動態變化的時空時，還存在以下不足。

1）現有方法缺乏對全局空間規律的建模：現有方法主要利用CNN捕獲城市中的局部區域特征。但是從局部視角來看，個體的移動具有隨機性，導致局部區域的產生隨機變化，難以準確預測。因此，有限的局部特征會影響模型的預測效果，需要進一步建模在空間維度上的全局規律。

2）現有方法難以建模時間維度上復雜的依賴關系：在長期時空序列預測時，當前時刻的與歷史具有依賴關系，而這種依賴關系是動態變化的，例如有些區域依賴于較長時間段內的歷史，而有些區域僅依賴于短期內的歷史。而現有方法對不同區域采用相同的時序建模方式，難以捕獲不同區域中動態的時間依賴關系。時間依賴的動態性不僅影響預測的準確率，還給分析時間維度上的傳播規律增加了困難。

要建模空間分布的動態性，需要進一步研究城市中人群移動的規律。根據文獻[5-7]以及圖1中的數據分析結果，可以發現人群通常集中在少量熱點區域，這些熱點區域相比其他區域具有較大的流量。這種分布規律可以使用高斯分布進行刻畫。同時，高斯分布的均值和方差可以估計隨機變化。盡管現有工作[6]使用高斯模型取得了較好的預測效果，但是在求解參數的過程中仍存在一定困難。

因此，本文針對城市流量的時空預測問題，結合神經網絡和高斯混合模型，提出了一種深度循環高斯時空預測模型（RecurrentGaussianSpatio-TemporalModel，RGST）。該模型由兩個模塊構成，分別為空間分布學習模塊和時間依賴學習模塊。空間分布學習模塊利用CNN和高斯編碼來學習每個時間點的局部和全局空間分布特征，而時間依賴學習模塊則捕捉時間上的依賴關系，從而預測未來時刻的流量分布。概括來說，本文的主要貢獻有以下3個方面。

1）本文研究了城市中流量的時空預測問題，分析了少數人群隨機移動導致的空間分布動態性，以及長時間尺度上的時間依賴動態性。通過研究這些動態特性，進一步探討了其對時空預測的影響。

2）本文提出了一種深度循環高斯時空預測模型RGST，模型首先使用空間分布學習模塊結合CNN和高斯編碼對空間分布進行顯示表達，再利用時間依賴學習模塊自適應地學習對歷史空間分布的動態性依賴。3）本文使用真實數據集對模型進行驗證。實驗結果表明，RGST的預測結果優于6個基準模型。同時，通過消融實驗驗證了RGST的有效性。

1相關工作

本文利用深度概率圖模型對城市時空序列進行預測。本節回顧與該問題和模型相關的兩類工作：城市時空序列預測和深度概率圖模型。

1.1城市時空序列預測

近年來，城市時空預測方法是城市計算，可以運用到多種重要應用場景，例如：城市發展態勢分析、城市規劃、智慧出行和公共安全管理等。

早期的時空預測方法大多使用整合移動平均自回歸模型（AutoRegressiveIntegratedMovingAverage，ARIMA）。該模型是時間序列預測的方法之一，可以捕獲歷史時間節點與未來預測時間節點之間的關聯關系。例如，Yoon等人[8]利用ARIMA模型提取了每個共享單車車站的流量在時間上的傳播模式。但是城市中的流量預測不僅與歷史的流量有關，還與一些外部特征有關，如天氣因素、車站所在地點的熱度等有關。為了引入外部特征提高預測的準確性，文獻[9-10]擴展了ARIMA模型并分別加入了熱點簇和空間關聯性對流量進行預測。然而AIRMA適用于平穩變化的數據，難以處理周期性和趨勢較為復雜的時空數據。近年來，隨著神經網絡的廣泛使用，循環神經網絡（RNN）和卷積神經網絡（CNN）常常被用于提取復雜的時空依賴關系。例如，文獻[12-13]使用CNN提取空間特征的關聯，再使用RNN建模歷史空間特征和當前空間特征的關聯。Yao等人[14]從多個視角學習城市中的流量分布，進一步從不同方面捕獲更豐富的空間分布特征。為了建模空間關系，Wang等人[15]使用圖結構對道路上的交通傳感器之間的空間關系進行建模，通過整合鄰近路段的交通信息對當前路段的交通進行預測。文獻[16-17]利用多種特征構建多個視角的站點關系圖，如空間距離、流量相關性和站點之間的交互記錄等。

上述工作時空預測的工作達到了較好的預測效果，但是在處理時空動態性問題上還存在不足：1）CNN可以快速且有效地提取局部空間特征，但忽略了全局的空間分布規律；2）雖然利用RNN網絡可以學習很好的時間依賴，但是RNN的信息傳播過程是隱式的，難以分析空間分布在時間維度上的動態傳播過程。因此，在對時空數據進行建模時需要兼顧時空動態性的問題。

1.2深度概率模型

近年來，越來越多的研究嘗試結合概率模型與神經網絡模型，以提升預測效果[18-25]。例如，Gal等人[26]在2015年提出了一個利用貝葉斯模型建模神經網絡的理論框架。在后續研究中，他們將傳統深度網絡中的dropout訓練過程轉化為高斯過程中的貝葉斯估計，來模擬預測過程中的不確定性。他們在論文中也表明，任何一個采用dropout的神經網絡都是一個近似貝葉斯模型，并且可以通過不同dropout掩碼計算得到的多次輸出結果，來衡量模型輸出的不確定性。

在進一步研究中，為了使得模型更易于求解，For?tunato等人[27]提出了BayesbyBackprop的方法，利用訓練數據對神經網絡參數的后驗分布進行估計，然后通過對神經網絡參數進行采樣的方式，實現模型輸出的不確定性度量。Li等人[28]在預測城市中的風力發電時也采用了這個方法，將每個站點的歷史發電量作為時序數據輸入，進而預測每個站點未來的發電量的上界和下界。

以上研究為時空預測提供了新的研究思路，可以借鑒概率模型對城市中時間和空間兩個維度上的動態性進行建模。現有深度概率模型主要對個體規律進行建模，而在城市時空預測中，捕獲全局空間分布的動態變化尤為重要，從全局視角約束預測結果將有助于更準確地時空預測。

2問題定義

本文將以紐約市出租車流量為例研究深度概率圖在時空預測問題上的應用。本節將提出城市時空流量預測的形式化定義，并介紹建模所需的特征及含義。

定義1：網格。由于流量大多是以GPS點進行記錄的，為了便于時空預測，本文將整個城市劃分為相同大小的網格。以紐約市為例，本文將紐約市劃分為2km×2km的網格。

定義2：時空序列。時空序列可以表示為X={X1，X2，…，Xt，…XT}，為T個時刻的城市中的流量序列。其中表示t（t∈T）時刻城市中所有網格的流量向量。Xit表示第i個網格在第t個時刻的流量。

定義3：外部特征。城市的動態變化也是影響流量的重要因素。為了城市的動態變化，本文考慮了每個時刻的外部特征，如天氣因素、節假日、工作日。對于時刻t，其外部特征可以表示為Ft。

定義4：給定一段時間區間rt的時空流量序列XT-rt：T-1，及其對應時間區間的外部特征FT-rt：T-1，預測在未來第T個時刻城市中各個網格中的流量XT。

3模型描述

本節將詳細介紹深度循環高斯網絡的時空預測模型RGST的組成和各模塊構成，模型框架圖如圖2所示。RGST主要由兩個模塊組成：空間分布學習模塊和時間依賴學習模塊。該模型首先結合貝葉斯網絡和CNN捕獲城市中每個區域的局部空間依賴關系，然后利用高斯編碼表示城市中所有區域的流量全局分布。進而，模型結合自注意力機制和混合高斯分布模型來融合歷史信息與當前信息，自適應地捕獲空間分布之間的時間依賴關系。

空間分布學習模塊用于學習空間高斯分布，從而能夠表示人們隨機移動產生的空間動態性。第t時刻的空間分布編碼ET是由該時刻的流量XT和外部特征FT共同決定。其中每個時刻的空間分布都服從高斯分布，可以將其寫作公式（1）。

在公式（1）中，ut和st分別為第t時刻的空間高斯分布的均值和方差。該均值和方差可由第t時刻時流量XT和外部特征FT的融合特征推理得到。

時間依賴學習模塊用于學習時間維度上的動態性依賴。對于第t個時刻，隱藏狀態HT不僅與歷史各個時刻的隱藏狀態HT-rt：T-1有關，同時與當前時刻的信息也有關。因此，第t時刻的隱藏狀態可以表示為公式（2）。

根據空間分布學習和時間依賴學習兩個模塊的概率圖，本文分別設計了神經網絡結構，利用神經網絡的優勢學習隱藏特征和快速優化模型。

3.1空間分布學習模塊

該模塊主要用于學習每個時刻的局部空間特征和全局空間分布，并對每個時刻的空間進行顯式表示。現有的空間分布學習方法主要使用CNN提取空間特征，這些方法在訓練完成后使用固定的卷積核對城市中的區域進行掃描。但是由于一些區域的存在動態變化的特性，使用固定的卷積核可能會忽略區域中的變化。因此為了捕獲區域中不確定的流量，因此本文結合CNN和高斯分布學習每個時刻的空間分布。高斯分布能夠顯式地表達空間中各個網格之間的關聯關系。同時，結合方差變化與隨機因子能夠估計人們隨機移動的情況，可以一定程度上處理空間分布的動態性。然而相比神經網絡，高斯分布中的參數訓練比較困難。所以在綜合考慮以上問題后，結合CNN和高斯編碼實現對空間分布的顯式表達以及對參數的快速求解。

具體來說，每個時刻的空間局部特征由外部特征和流量特征共同決定，使用全連接層對Ft進行編碼，用CNN卷積神經網絡對流量Xt進行編碼，如公式（3）所示。

公式（3）中CNN（·）表示卷積神經網絡，Flat（·）表示一個整平操作，⊕表示一個拼接操作，WF和bF表示可訓練參數。

在獲得城市中各區域的局部特征后，還需要考慮城市中的全局流量分布。根據每個時刻的特征編碼，可以對因為每個時刻的流量分布為高斯分布，所以本文使用高斯編碼學習每個時刻的流量顯式分布。一方面，可以采用高斯分布對全局分布進行表示。另一方面，利用變分編碼可以考慮到城市中人群的隨機移動產生的流量。在使用高斯編碼的過程，關鍵在于獲得高斯分布的均值和方差。具體地，使用兩個參數不同的前向神經網絡fu（·）和fs（·），對Zt進行編碼可得到當前時刻的均值ut和方差st。

該步驟是為保證高效求解高斯分布的參數。計算方式如公式（4）和公式（5）所示。

4實驗評估

本節將詳細介紹實驗設置，從不同角度評估RGST模型的效果。

4.1實驗設置

1）數據集與模型實現

本文采用紐約市在2016年公開的出租車行程數據集預測下一小時的出租車流量。該數據集的時間跨度為2016年2月1日至2016年5月31日，包含1454204個流量樣本。為了對城市中各地區的出租車流量進行預測，本文將紐約市劃分為494個邊長2公里的正方形網格[30]。同時，采用2016年的氣象數據集和節假日數據集作為流量預測的外部特征。氣象數據集包含天氣狀況、溫度和風速。節假日數據集包含節假日、工作日和星期名稱標簽。流量數據、氣象數據和節假日數據需要預處理為標準的輸入格式。流量數據和氣象數據為連續值，對其歸一化并按照時間順序整理成標準格式。節假日數據為離散值，將數值根據是否為節假日、工作日和星期名稱進行分類，再對每一類進行編碼表示。

為了訓練和評估模型，本文將數據集按照時間順序進行劃分，將前86天（2064小時）的數據作為訓練集，接下來的21天（504小時）的數據作為驗證集，最后14天（336小時）的數據作為測試集。在訓練模型過程中，采用滑動窗口的形式選取輸入數據，滑動窗口的大小在后續實驗中進行驗證。模型特征提取層的維度（Da）設置為128，學習率設置為0.001，采用隨機梯度下降方法對模型進行優化。

2）對比模型

為了評估RGST，本文選取了當前流行的流量預測模型和RGST模型的變體與RGST模型進行對比，這些方法包括：

①歷史平均（HistoricalAverage，HA），將歷史流量的平均值作為未來流量的預測值。

②線性回歸（LinearRegression，LR），通過計算歷史流量和預測值之間的關聯關系，進而通過歷史流量預測未來流量。

③門控循環神經元（GatedRecurrentUnit，GRU）[13]，是一種循環神經網絡，常用于預測時間序列。

④LSTNet模型[32]，結合CNN和長短期記憶網絡（Long-ShortTermMemory，LSTM）學習短期和長期時間依賴。使用CNN模型發現局部的時間片之間的短期依賴，再使用LSTM捕獲長期依賴

⑤ConvLSTM模型[3]，通過多層CNN網絡學習輸入到隱藏狀態，以及隱藏狀態之間的變換。具體地，預測某個網格的流量時，通過該網格的歷史流量以及該網格鄰居的歷史流量決定該網格未來的流量。過建立多種層級關系學習流量的空間分布和站點之

⑥HCP模型[33]，是建模共享單車流量的方法。通間的空間依賴，如城市級、站點簇級和站點級。再利用高斯模型預測每個站點未來的流量。

⑦RGST-CG模型，即不包含高斯編碼和循環高斯模型。通過CNN提取空間特征，再通過GRU捕獲時間依賴。

⑧RGST-G模型，即不包含循環高斯模型。通過高斯編碼學習每個時刻的空間依賴，再使用GRU學習時間依賴。

3本文選取了）評價指標2個時空預測問題中的常見評價指標對不同模型的預測效果進行評估，分別為均方根誤差（rootmeansquareerror，RMSE）和平均絕對百分比誤差（meanabsolutepercentageerror，MAPE）。

①均方根誤差用于評估預測流量和實際流量之差的標準差，RMSE越小表示流量預測效果越好。該指標將評估G個地塊在Ttest個測試時刻的真實值Y*t，g與預測值Yt，g之間的誤差，具體計算公式如下。

4.2實驗結果與分析

本實驗首先對比不同基準模型與RGST模型的效果，然后與RGST變體模型對比進行消融實驗，最后分析了參數對模型效果的影響。另外，本實驗對時間依賴關系進行可視化，并分析各時刻的時間依賴影響。

1）對比實驗

所有基準模型采用與RGST模型相同的輸入數據，并對每個模型都進行了10次實驗，對比實驗結果如表1所示。表中為10次實驗結果的誤差均值，RGST模型在RMSE和MAPE兩個指標上都優于其他基準模型。從實驗結果可以發現以下結論。

①神經網絡方法在預測效果上優于經典時序預測算法，如GRU、LSTNet和ConvLSTM的預測效果優于HA和LR，主要由于神經網絡方法存在以下兩個優勢：一方面可以更好地捕獲時間依賴，另一方面可以學習到復雜的空間分布特征。

②與神經網絡方法相比，HCP效果有較為明顯的差距。主要原因在于HCP為每個區域的流量獨立建立高斯回歸模型，而沒有考慮到區域的全局分布規律，可能會忽略在空間上的變化。并且，通過網格劃分后的出租車流量在時間維度上較為稀疏，而這種時間維度上稀疏的數據難以直接使用高斯分布進行建模。根據本文分析，相比時間維度上的稀疏依賴關系，每個時刻城市的流量空間分布接近高斯分布，因此RGST模型使用高斯分布對城市的全局空間分布進行建模可以有效提升預測效果。

③相比其他基準方法，RGST模型結合神經網絡和高斯分布效果有較為明顯的提升。一方面，RGST模型的優勢在于它可以模擬空間中的隨機，進而預測不確定的流量。另一方面，RGST模型結合混合高斯模型和自注意力機制，在不同時刻可以自適應地捕獲與歷史空間分布的依賴。RGST考慮不同時間和區域的不確定性變化，所以預測誤差較小。該結果也進一步說明考慮時空動態變化對于流量預測的有效性。

2）消融實驗

為了驗證RGST模型中各模塊的有效性，本實驗對比了RGST模型和兩個變體模型，實驗結果如表2所示。從實驗結果中可以看出，RGST模型相比其他變種模型的預測效果較好。具體來說：1）在高斯編碼和RGN同時缺失的情況下，預測模型RGST-CG模型的預測效果最差。相比RGST-CG，RGST降低了1.96%的預測誤差（RMSE）。結果可以說明加入高斯分布建模空間分布對預測流量是有幫助。進而驗證了第3.1節中闡述的高斯分布在表示空間分布時的有效性。2）相比RGST-G模型，RGST模型降低了1.13%的預測誤差（RMSE），但兩者的MAPE表現相似，說明RGST-G在某些時刻的預測結果偏差較大。尤其在使用RGST-CG時，MAPE和RMSE都與RGST的差距較大，說明RGST的總體預測結果與真實值差距較大。實驗結果可以說明，RGST模型結合高斯混合模型和自注意力機制對歷史空間分布進行融合，相比直接使用GRU的效果更好。說明在長期的時間依賴中存在動態性依賴，并且通過高斯混合模型可以在不偏離高斯分布的情況下使得歷史信息向前傳播。

3）參數分析

本實驗對兩個重要參數對RGST模型的影響進行評估，分別為序列長度和參數γ。

為了選擇合適的時空序列長度，本實驗評估不同序列長度下模型的效果。本實驗選取了3種不同的序列長度，分別為6小時、9小時和12小時。圖4所示為序列長度對RGST模型效果的影響。從實驗結果中可以看出，隨著序列長度不斷增加，RGST模型在RMSE和MAPE兩個指標上的效果逐漸變差。因此，最終選擇6小時作為訓練和預測時的序列長度。

實驗分別選取了5中不同取值，分別是：0、1e-6、1e-5、1e-4、1e-3。圖5展示了參數γ對RGST模型在RMSE和MAPE兩個指標上的影響。從實驗結果中可以得出，隨著γ不斷增大，RMSE和MAPE整體都呈現出先減小后增大的趨勢，并且在1e-5時RGST模型在兩個指標上表現最優。因此，最終選擇1e-5作為γ的取值。4）時間依賴可視化為了展示當前時刻流量對歷史信息的依賴關系，本實驗記錄了預測一天中22：00的流量時歷史每個時刻的注意力權重αk，t，并將權重進行可視化。圖6所示為不同時刻對歷史空間分布依賴的注意力權重可視化。每行表示的是當前時刻對歷史時刻的依賴，每行的權重之和為1。對于H18，只有一個前序時間節點H17。所以H18對H17依賴的注意力權重為1。從實驗結果中看，當前時間節點不一定總與前一個時間節點最相關。例如，H22與H17和H20的相關程度是相比其他時間節點的相關程度較大，說明22：00的流量和17：00以及20：00的流量更相關。可能的原因是，人群在這幾個時間點于商業區活動較為相似。同時，實驗結果也表明自適應捕獲時間依賴的重要性。

5總結

本文提出的深度循環高斯時空預測模型RGST模型，能夠更有效地捕獲時空的動態變化規律。與基準模型相比，RGST模型的預測誤差降低了至少3.8%。實驗結果充分驗證了RGST在建模全局空間分布方面的有效性。該方法也可擴展至多個時空預測領域應用，如油氣田采油量預測，空氣質量預測等應用中。在后續工作中，將進一步提升模型的抗干擾能力，通過評估隨機性移動或者缺失數據導致的不確定性，使其能夠在更多復雜場景下穩健應用。

參考文獻：

[1]WANGSZ，CAOJN，YUPS.Deeplearningforspatio-temporaldatamining：asurvey[J].IEEETransactionsonKnowledgeandDataEngineering，2022，34（8）：3681-3700.

[2]WANGXY，MAY，WANGYQ，etal..Trafficflowpredictionviaspatialtemporalgraphneuralnetwork[C].ProceedingsofTheWebConference，2020：1082-1092.

[3]SHIXJ，CHENZR，WANGH，etal.ConvolutionalLSTMnet?work：amachinelearningapproachforprecipitationnowcasting[J].AdvancesinNeuralInformationProcessingSystems，2015，2015-January：802-810.

[4]ZHANGJB，ZHENGY，QIDK.Deepspatio-temporalresidualnetworksforcitywidecrowdflowsprediction[J].ProceedingsoftheAAAIConferenceonArtificialIntelligence，2017，31（1）：1655-1661.

[5]CHANGHW，TAIYC，HSUJYJ.Context-awaretaxidemandhotspotsprediction[J].InternationalJournalofBusinessIntelli?genceandDataMining，2010，5（1）：3.

[6]CHENC，LIKL，TEOSG，etal.Exploitingspatio-temporalcor?relationswithmultiple3Dconvolutionalneuralnetworksforcitywidevehicleflowprediction[C]//2018IEEEInternationalConferenceonDataMining（ICDM）.November17-20，2018.Sin?gapore.IEEE，2018：893-898.

[7]CHENJ，HSIANGLOWK，KENG-YANTANC.Gaussianprocess-baseddecentralizeddatafusionandactivesensingformobility-on-demandsystem[C]//Robotics：ScienceandSystemsIX.Robotics：ScienceandSystemsFoundation，2013：1306-1491.

[8]YOONJW，PINELLIF，CALABRESEF.Cityride：apredictivebikesharingjourneyadvisor[C]//2012IEEE13thInternationalConferenceonMobileDataManagement.July23-26，2012.Ben?galuru，India.IEEE，2012：306-311.

[9]MOREIRA-MATIASL，GAMAJ，FERREIRAM，etal.Predict?ingtaxi–passengerdemandusingstreamingdata[J].IEEETransactionsonIntelligentTransportationSystems，2013，14（3）：1393-1402.

[10]LIXL，PANG，WUZH，etal.Predictionofurbanhumanmobil?ityusinglarge-scaletaxitracesanditsapplications[J].Fron?tiersofComputerScience，2012，6（1）：111-121.

[11]FENGJ，LINZQ，XIAT，etal.Asequentialconvolutionnet?workforpopulationflowpredictionwithexplicitlycorrelationmodelling[C]//ProceedingsoftheTwenty-NinthInternationalJointConferenceonArtificialIntelligence.July11-17，2020.Yokohama，Japan.InternationalJointConferencesonArtificialIntelligenceOrganization，2020：1331-1337.

[12]ZHANGJB，ZHENGY，QIDK.Deepspatio-temporalresidualnetworksforcitywidecrowdflowsprediction[J].ProceedingsoftheAAAIConferenceonArtificialIntelligence，2017，31（1）：1655-1661.

[13]BAISJ，KOLTERJZ，KOLTUNV.AnEmpiricalEvaluationofGenericConvolutionalandRecurrentNetworksforSe?quenceModeling[C].arXivpreprint，2018：1-14.

[14]YAOHX，WUF，KEJT，etal.Deepmulti-viewspatial temporalnetworkfortaxidemandprediction[J].ProceedingsoftheAAAIConferenceonArtificialIntelligence，2018，32（1）：2588-2595.

[15]WANGXY，MAY，WANGYQ，etal.Trafficflowpredictionviaspatialtemporalgraphneuralnetwork[C].ProceedingsofTheWebConference，2020：1082-1092.

[16]CHAID，WANGLY，YANGQ.Bikeflowpredictionwithmulti-graphconvolutionalnetworks[C]//Proceedingsofthe26thACMSIGSPATIALInternationalConferenceonAd?vancesinGeographicInformationSystems.SeattleWashing?ton.ACM，2018：397-400.

[17]GENGX，LIYG，WANGLY，etal.Spatiotemporalmulti-graphconvolutionnetworkforride-hailingdemandforecasting[J].ProceedingsoftheAAAIConferenceonArtificialIntelli?gence，2019，33（1）：3656-3663.

[18]GRAVESA.Practicalvariationalinferenceforneuralnet?works[C].Advancesinneuralinformationprocessingsystems，2011：1-9.

[19]HINTONGE，SEJNOWSKITJ.Analyzingcooperativecom?putation[C].Proc.ofthe5thAnnualcongressoftheCognitiveScienceSociety，1983.2554-2558.

[20]TIELEMANT.TrainingrestrictedBoltzmannmachinesusingapproximationstothelikelihoodgradient[C]//Proceedingsofthe25thInternationalConferenceonMachineLearning-ICML'08.July5-9，2008.Helsinki，Finland.ACM，2008：1064-1071.

[21]LAROCHELLEH，BENGIOY.Classificationusingdiscrimina?tiverestrictedBoltzmannmachines[C]//Proceedingsofthe25thInternationalConferenceonMachineLearning-ICML'08.July5-9，2008.Helsinki，Finland.ACM，2008：536-543.

[22]ZHANGN，DINGSF，LIAOHM，etal.Multimodalcorrelationdeepbeliefnetworksformulti-viewclassification[J].AppliedIntelligence，2019，49（5）：1925-1936.

[23]HINTONGE，OSINDEROS，TEHYW.Afastlearningalgo?rithmfordeepbeliefnets[J].NeuralComputation，2006，18（7）：1527-1554.

[24]KINGMADP，WELLINGM.Auto-encodingvariationalBayes[J].2ndInternationalConferenceonLearningRepresentations，ICLR2014-ConferenceTrackProceedings，2014：1-14.

[25]GALY，GHAHRAMANIZ.DropoutasaBayesianapproxima?tion：representingmodeluncertaintyindeeplearning[J].33rdInternationalConferenceonMachineLearning，ICML2016，2016，3：1651-1660.

[26]GALY，GHAHRAMANIZ.BayesianConvolutionalNeuralNetworkswithBernoulliApproximateVariationalInference[C].InternationalConferenceonLearningRepresentationsworkshoptrack，2015.1-12.

[27]FORTUNATOM，BLUNDELLC，VINYALSO.Bayesianrecur?rentneuralnetworks[EB/OL].2017：1704.02798.https：//arxiv.org/abs/1704.02798v4.

[28]LIXP，WUJ，XUZB，etal.Uncertaintysetpredictionofaggre?gatedwindpowergenerationbasedonBayesianLSTMandspatio-temporalanalysis[C]//2021IEEE17thInternationalConferenceonAutomationScienceandEngineering（CASE）.August23-27，2021.Lyon，France.IEEE，2021：361-366.

[29]VASWANIA.，SHAZEERN.，PARMARN.，etal.Attentionisallyouneed[C].Advancesinneuralinformationprocessingsystems，2017.5998-6008.

[30]WANGQR，GUOB，OUYANGY，etal.Learningsharedmobility-awareknowledgeformultipleurbantraveldemands[J].IEEEInternetofThingsJournal，2022，9（9）：7025-7035.

[31]CHOK，VANMERRIENBOERB，GULCEHREC，etal.Learn?ingphraserepresentationsusingRNNencoder–decoderforstatisticalmachinetranslation[C]//Proceedingsofthe2014ConferenceonEmpiricalMethodsinNaturalLanguagePro?cessing（EMNLP）.Doha，Qatar.Stroudsburg，PA，USA：ACL，2014：1724-1734.

[32]LAIGK，CHANGWC，YANGYM，etal.Modelinglong-andshort-termtemporalpatternswithdeepneuralnetworks[C]//The41stInternationalACMSIGIRConferenceonResearchamp;DevelopmentinInformationRetrieval.AnnArborMIUSA.ACM，2018：95-104.

[33]LIYX，ZHENGY.Citywidebikeusagepredictioninabike sharingsystem[J].IEEETransactionsonKnowledgeandDataEngineering，2020，32（6）：1079-1091.

【通聯編輯：王力】