基于圖卷積與長短期記憶網絡的動態網絡表示學習模型

張元鈞，張曦煌

（江南大學人工智能與計算機學院，江蘇無錫 214002）

0 引言

隨著大數據時代的到來，數據信息急劇增加，而且各種數據之間存在千絲萬縷的關系，因此復雜信息網絡普遍被用來存儲實體間復雜的關系信息，而事物之間的聯系可以自然地用圖數據的形式表示。比如學術論文之間的引用和被引用關系可以看作網絡中的邊，各類論文便是網絡中的各個節點，由此學術論文之間的引用關系就可以用圖數據集的形式表示成相應的復雜網絡；社交媒體［1］中的用戶可以看作網絡中的節點，用戶之間的聯系是相對應的邊，由此形成了社交網絡；城市交通中的城市即為網絡中的節點，道路的通暢情況可作為網絡中的邊，由此形成了交通網絡。上述三個復雜網絡案例都是經典的動態網絡，隨著時間的推移，邊之間的聯系也會不斷變化。鏈路預測的主要目的是預測未來網絡中丟失的邊，或者可能出現的邊。近年來，大數據和深度學習技術日漸成熟，上述交通網絡中可以通過分析前段時間的道路擁堵情況來判斷未來時刻交通的暢通情況，類似此種應用的廣泛增加，因此復雜信息網絡的鏈路預測［2］已經成為一個熱門的研究課題。

大數據時代下，網絡被用來存儲事物間復雜的關系信息，將復雜的網絡信息表示成相應的拓撲圖結構，提取拓撲圖的信息與時間之間的聯系，來預測未來時刻節點之間的鏈路關系。以圖1 所示的簡單社交網絡為例，模擬鏈路預測模型提取特征的一些方法。

圖1 社交關系網絡演變圖Fig.1 Social network evolution diagram

圖1中，A、B、C、D分別代表四名用戶，用戶之間出現的連線表示用戶之間相互認識，沒有連線則彼此不認識。在初始狀態t時刻：用戶A只認識用戶B，用戶B只認識用戶C，用戶C只認識用戶D；進入下一個時刻即t+1時刻，就可能因為在t時刻用戶A認識用戶B，用戶B把用戶C介紹給用戶A，導致用戶A認識用戶C，即A和C兩個節點之間產生連線；在t+2 時刻，可能因為t時刻用戶C與用戶D認識和t+1 時刻用戶A認識了用戶C，導致用戶A認識了用戶D，即A和D兩個節點之間產生連線。本文在進行鏈路預測時提取特征的部分手段就與上述舉例方法類似，即通過學習不同時刻的鏈路演化信息對未來時刻節點之間的鏈路信息進行預測。目前大多數網絡表示學習算法都能有效學習靜態網絡［3］中節點的向量表示，然而現實世界的網絡大部分都是動態的，網絡中的節點和邊會隨著時間的推移而變化。近年來網絡表示學習的算法［4］在處理動態網絡時，往往收效甚微，存在不能保留動態圖的長時間跨度的演化信息，面對復雜的動態網絡時存在預測精度較低、模型的復雜度較高等問題。

針對近年來動態網絡中存在的問題，受Kipf 等［5］提出的圖卷積網絡（Graph Convolutional Network，GCN）和Goyal 等［6］提出的dyngraph2vecAE 模型啟發，本文提出了一種以降噪自編碼器（denoising AutoEncoder，dAE）［7］為框架的動態網絡表示學習模型dynGAELSTM。該模型利用GCN［5］提取圖的特征向量作為dAE 的編碼層輸入，編碼層的輸出進入長短期記憶（Long Short-Term Memory，LSTM）網絡采集時空依賴特征，最后輸入dAE 的解碼層得到下一個時刻拓撲圖的預測，并加入懲罰參數和真實拓撲圖進行對比得到損失函數，以此來構建鏈路預測［2］。將dyngraph2vecAE 模型在SBM、Hep-th、AS 三個數據集上進行實驗，結果表明該模型在提高鏈路預測的精度和降低參數復雜度上有顯著效果。

本文的主要工作如下：

1）提出了一種鏈路預測的動態網絡表示學習模型——dynGAELSTM，該模型可以學習動態圖節點之間的結構信息和時空依賴特征來預測鏈路，同時也實現了動態網絡預測圖的可視化；

2）dynGAELSTM 模型的節點采樣端加入了GCN 進行高階圖鄰域結構特征的提取，并利用LSTM 網絡來獲取動態圖的長時間跨度的演化信息，在面對復雜的動態圖時，預測結果更加準確；

3）dynGAELSTM 模型以節點隨機斷開的dAE 為框架，能有效降低模型的復雜度，提高運算效率。

1 相關工作

動態網絡數據在本文中表示成一系列隨時間變化的靜態圖像，實驗時也是將此類動態數據集β={G1，G2，…，Gt} 轉化為靜態圖G=(V，E)進行輸入，其中：V代表節點的集合，E代表邊的集合。

近年來的動態網絡表示學習模型主要是通過施加一個時間正則化來增強相鄰動態網絡鏡像中節點表示的平滑性。比如，2018 年Goyal 等［6］提出了使用自編碼器（AutoEncoder，AE）將輸入數據映射到高度非線性空間來捕捉當前時刻網絡連通性的dynGEM［8］模型，并通過PropSize［8］來動態擴展模型；雖然該模型能學習到動態網絡的演化依賴信息和網絡的結構信息，但只用了前一個時間的網絡信息進行預測，不能保留動態圖的長時間跨度的演化信息。2018 年Zhou 等［9］提出的DynamicTriad 模型假設動態圖的時空演化持續時間很短，僅有兩個時間步長，模型采用的時間節點表示僅限于一階鄰近度的建模，忽略了高階圖鄰域的結構。2019 年，Goyal 等［6］提出的dyngraph2vecRNN 模型如圖2 所示。該模型利用自編碼器（AE）結合循環神經網絡（Rerrent Neural Network，RNN）學習復雜網絡的動態信息，可以有效提取有權圖的長時間跨度演化信息；但dyngraph2vecRNN 模型的高階圖鄰域結構特征提取不完善，且與其他基準模型相比復雜度較高。此外，Luo等［10］提出的OptimalSVD 模型和Taheri 等［11］提出的RerunSVD模型都基于鄰接矩陣的奇異值分解表示圖中的各個節點，但獲取高階圖鄰域結構特征的能力都較差。

圖2 dyngraph2vecRNN模型結構Fig.2 Structure of dyngraph2vecRNN model

上述近年來動態網絡表示學習模型的不足之處總結如下：1）不能保留動態圖的長時間跨度的演化信息；2）忽略了高階圖鄰域的結構，在面對復雜的動態網絡時預測精度較低；3）動態網絡模型的復雜度較高。本文針對上述問題給出了相應的改進方法，提出了dynGAELSTM模型。

本文dynGAELSTM 模型的鏈路預測主要從動態圖節點之間的特征和時空依賴特征這兩方面著手。該模型受Kipf 等［5］改進的K階多項式代替傳統卷積神經網絡（Convolutional Neural Network，CNN）上的卷積核的啟發，并結合Bengio 等［12］提出的基于圖的標簽傳播算法，以此抽取動態圖中心節點k步范圍內節點的局部結構特征；時空依賴特征的提取以Sathasivam 等［13］提出的RNN 為基礎，通過歷史信息的保留和輸入信息來處理和預測序列數據。下面具體介紹dynGAELSTM模型的三個基本構成組件。

1.1 降噪自編碼器

dynGAELSTM 模型采用了降噪自編碼器（dAE）的框架，通過重建網絡與輸入網絡進行對比，反向傳播更新參數優化模型。自編碼器（AE）是在2006 年由Hinton 等［14］提出的一種無監督神經網絡模型，dAE 在在自編碼器的隱藏層上設置了一個斷開率，獲得輸入圖的低維特征。dAE 的結構如圖3所示。

圖3 降噪自編碼器結構Fig.3 Structure of dAE

dAE 由編碼器和解碼器兩個部分組成：編碼器就是將輸入層映射到隱藏層，并在映射過程中的節點鏈接之間設置一個斷開率，防止干擾因素過多，避免過擬合現象；解碼器則是將隱藏層的特征信息重建至輸出層，和輸入數據進行對比，使用梯度下降算法優化模型。此模型的組件利用其編碼層的隨機斷開率降低模型復雜度。

1.2 圖卷積網絡

dynGAELSTM 模型編碼器的前端加入了圖卷積網絡（GCN），相應的圖卷積框架如圖4 所示，其目的是從輸入的復雜的拓撲結構中提取圖的特征信息，并精簡進入到dAE 的編碼器的輸入，其中σ(x)為圖卷積層的激活函數。傳統的CNN可以提取空間特征，在圖像處理和語言處理等應用上效果顯著，但在面對由頂點和邊建立相應關系的拓撲網絡時，由于每個頂點相鄰點的數目不同，使用共享權值來進行卷積運算無法準確提取特征。研究圖信號處理的學者基于拉普拉斯矩陣［15］的圖譜分解，把拉普拉斯算子的特征函數e-iwt轉變為圖對應的拉普拉斯矩陣的特征向量。Kipf 等［5］在GCN［5］中加入一階Chebyshev多項式作為卷積核，克服了傳統的離散卷積在拓撲結構上無法保持平移不變性的缺點，GCN 中結合Bengio等［12］提出的基于圖的標簽傳播算法抽取中心節點的局部結構特征，相較于傳統的離散卷積神經網絡，算法的復雜度從O(N2)降低到了O(N)，其中N表示節點的個數，圖數據集特征提取精度提高。此模型的組件提取了高階圖鄰域的結構特征信息，解決了復雜動態網絡預測精度較低的問題。

圖4 圖卷積網絡結構Fig.4 Structure of GCN

1.3 長短期記憶網絡

dynGAELSTM 模型利用長短期記憶（LSTM）網絡采集時空依賴特征。LSTM 網絡是基于RNN［13］的一種變種，RNN 的結構如圖5所示。

圖5 RNN結構Fig.5 Structure of RNN

一個長度為T的序列用RNN 建模，展開之后是一個T層的前饋神經網絡。其中，第t層的隱含狀態ht編碼了序列中前t個輸入的信息，通過當前的輸入xt和上一層神經網絡的狀態ht-1建模，隱藏狀態ht和輸出y的表達為：

其中：f和g為激活函數；U為輸入層到隱含層的權重矩陣；U1為隱藏層到輸出層的權重矩陣；W為隱含層從上一時刻到下一個時刻的狀態轉移的權重矩陣。

由于RNN 存在梯度彌散和梯度爆炸問題，學習能力有限，往往達不到預期的效果，于是李衛疆等［16］在RNN 的基礎上給出了如圖6所示的LSTM網絡框架。

圖6 LSTM網絡結構Fig.6 Structure of LSTM network

與傳統的RNN 相比，LSTM 網絡仍然是基于輸入xt和隱含狀態ht-1來計算ht，只不過對內部的結構進行了優化設計，加入了輸入門it、遺忘門ft、和輸出門ot三個門和一個內部記憶單元ct。輸入門控制當前的新狀態以多大程度更新到記憶單元中，遺忘門控制前一步記憶單元中的信息以多大程度被遺忘，而輸出門控制記憶單元在當前輸出中的程度。多個此組件組合成的LSTM 網絡模塊可以保留動態圖的長時間跨度的演化信息。

2 dynGAELSTM模型

針對第1 章總結的近年來鏈路預測模型的三個不足之處，在面對復雜的動態網絡時預測精度較低、高階圖鄰域的特征信息提取不完善的問題時，Fu 等［17］利用GCN［8］完成靜態網絡的節點聚類，能較好地提取高階圖的結構特征，模型的節點聚類能力強。受此啟發，本文將GCN 作為dynGAELSTM 模型的前端模型來采集動態圖的特征信息。面對不能保留動態圖的長時間跨度的演化信息時，由于李衛疆等［16］提出的LSTM網絡可以通過上一個時刻的信息來預測下一個時刻的信息，雖然可以提取部分時空依賴度，但無法保存大跨度時間的信息，于是將多個LSTM 網絡層組合成LSTM 網絡模塊可以接收多個時間的動態圖信息，因此選擇LSTM 網絡模塊來采集動態圖長時間跨度的演化信息。面對動態網絡模型復雜度較高的問題時，利用dAE的編碼層的隨機斷開率，能減少模型的節點參數，降低模型復雜度。

下面將詳細闡述dynGAELSTM 模型結構和損失函數的定義。輸入該模型的三個數據集都是動態圖的數據集，將其劃分為不同時刻的有權圖G=(V，E)，其中：V代表節點的集合；E代表邊的集合，?eij∈E(i，j=1，2，3，…)，eij表示邊的權重。

dynGAELSTM 模型通過學習輸入的t+lb時刻之前的網絡演化信息，根據第t個時刻至第t+lb時刻的輸入圖去預測t+lb+1 時刻的輸出圖。該模型以dAE 為框架，前端加入了GCN 來提煉動態圖節點之間的高階相似特征，將獲得的拓撲圖的節點向量作為dAE 的輸入向量，使用隨機斷開的特性進一步獲得相應的低維向量表示，將第t至第t+lb個時刻獲得的低維向量輸入LSTM 網絡中獲取其相應的低維時空依賴特征向量，并將低維向量輸入解碼器進行解碼，重構預測圖，并引入懲罰參數將預測圖與真實圖對比構建損失函數，以隨機梯度下降的方法不斷優化模型。本文dynGAELSTM 模型的結構如圖7所示。

圖7 dynGAELSTM模型結構Fig.7 Structure of dynGAELSTM model

GCN 層的輸出進入dAE 后，輸入進LSTM 網絡層。LSTM網絡是在RNN 中加入輸入門it、遺忘門ft、和輸出門ot三個門和一個內部記憶單元ct。三個門的記憶單元及節點v在t時刻的第一層LSTM網絡層的定義式為：

dAE 的解碼器層提取LSTM 網絡層輸出的時空依賴特征的有效信息，重建動態輸入的網絡，即為預測的t+lb+1 時刻的圖。

上述為模型的GCN 層和LSTM 網絡層的輸出，以此為基準構建模型的損失函數。引入懲罰參數γ對圖在t+lb+1 時刻不正確的重構就進行糾正，利用均方誤差（Mean Square Error，MSE）的概念，將得到的預測結果與實際結果建立損失函數為：

3 實驗與分析

本章將描述所使用的數據集并闡述比較基準模型的基本原理和參數設置；此外，為實驗結果設置評價指標。所有實驗的環境配置均在64位Ubuntu16.04.1LTS系統上進行，該系統使用型號為intel Core i7-9700KF 的CPU，具有8 個CPU 內核，主頻為3.60 GHz；顯卡型號為GeForce RTX 2080Ti，顯存容量為11 GB。

3.1 實驗數據集

本文采用了一個模擬數據集SBM（Stochastic Block Model）［6］和兩個真實數據集（Hep-th［19］和AutonomousSystems（AS）［20］）對dynGAELSTM 模型進行實驗，這三個數據集為Goyal 等［6］在測試dyngraph2vecAERNN 模型鏈路預測能力時使用的三個公共數據集，能有效評估該模型鏈路預測的綜合能力。這三個數據集中的節點數量均不隨時間的變化增加或減少，隨時間改變的只有現有時間節點之間的鏈接關系。現將SBM、Hep-th和AS三個數據集的信息匯總于表1。

表1 數據集匯總Tab.1 Summary of datasets

SBM：該模擬數據集用Wang 等提出的隨機模型，該模型可生成相應的SBM 數據集，擁有兩個社區，每個社區包含500個節點，最多可以生成56 016 條鏈路，經歷每個時間步長時，其社區間的移動概率為0.01，社區內的移動概率為0.1，該數據集隨時間的不斷推移，節點由一個社區逐步遷移到另一個社區，每個時間步長平均都有10至20個節點進行遷移。

Hep-th：該真實數據集是第一個用來測試動態網絡模型綜合能力的數據集，描述了高能物理理論會議上各作者之間合作關系的復雜網絡。原始數據集包含1993 年1 月至2003年4 月期間在高能物理理論會議上的作者合作關系，每次統計其時間步長為一個月。模型實驗選用該數據集從2000年4月以后的有權圖。

AS：該真實數據集是基于邊界網關協議（Border Gateway Protocol）日志中“與誰通話”的通信網絡。數據集包含從1997年11月8日到2000年1月2日的733個實例，其時間步長為一個月。對數據集進行整理，使用該數據集的一個子集，包含最新的100個快照，共4 154個節點進行訓練與測試。

3.2 基準模型

本節具體介紹與dynGAELSTM 模型做對比的其他6 種基準模型的參數設置，如表2。這6個模型主要使用的模型原理及在動態網絡鏈路預測應用中存在的不足已經在相關工作進行了介紹。

表2 模型參數設置Tab.2 Model parameter setting

3.3 評價標準

本文中引入前k個節點的精確率［21］（Precision@k，P@k）和平均精確率均值（mean Average Precision，mAP）兩個指標評估dynGAELSTM 模型在鏈路預測的綜合性能，P@k測試模型的最高預測性能，mAP 反映模型的綜合性性能。將預測為正類實際也為正類的個數記為TP（True Positive）；將預測為負類實際為正類的個數記為FP（False Positive）；將預測為正類實際為負類的個數記為TN（True Negative），在此基礎上給出精確率Pr（precision）和召回率Re（recall）的定義式為：

其中：Y為鏈路集合。精確率反映鏈路預測的正確比例，召回率反映能預測出來的比例，并以節點數量進行分批實驗，記為P@k，直觀反映網絡重構的精確率。在精確率的基礎上融入召回率，設置k個召回率的閾值列表，并實驗出相應的精確率，以橫軸為召回率，縱軸為精確率，繪制P-R 曲線。由此平均精確率（Average Precision，AP）和mAP［22］的定義式為：

其中：SPR為在不同的召回率閾值上精確率與召回率構成的圖形的面積；APi表示第i個召回率閾值的平均精確率。

3.4 節點社區預測可視化

SBM數據集由兩個社區組成，在兩個社區中共選取320個節點，使用OptimalSVD［10］、dynGEM［8］、dyngraph2vecAERNN［6］、dynGAELSTM 四個模型（為方便表示在圖8 中分別簡稱為OSVD、dGEM、dAER和本文模型）通過學習前t-1個時刻的動態圖進行訓練，將訓練好的四個模型預測t、t+1、t+2和t+3這4個時刻的預測圖并在二維平面上表示出來，與真實時刻的拓撲圖8（a）進行對比，結果如圖8（b）～（e）所示。由于點數過多，使用不同顏色標記動態圖中的10個節點，直觀比較這10個節點的分布位置來比較各模型節點轉移和所有節點在社區中聚類的預測性能。

圖8 SBM數據集上的節點社區預測可視化Fig.8 Node community prediction visualization on SBM dataset

圖8（b）、（c）為OptimalSVD 和dynGEM 兩個模型在4 個不同時刻的預測圖，與真實圖（a）相比，可以觀察出兩個模型的預測圖社區分類相對明顯，但dynGEM 的后兩張預測圖社區分類的兩種點互相摻雜，并且一部分紅點的分布位置不在相應的社區內。圖8（d）、（e）為dyngraph2vecAERNN 和dynGAELSTM 兩個模型在4 個不同時刻的預測圖，社區分類的區分度較高，紅點的分布位置大致準確，預測精度相較于OptimalSVD 和dynGEM 兩個模型的預測圖有了明顯的提高，但在圖（d）的第一張圖（t時刻）中可以觀察有一個紅點不在所屬的社區內，圖（e）的第二張圖（t+1時刻）可以觀察出有一個紫色節點在黃色節點所屬的社區內，兩相比較，可較為直觀地判斷dynGAELSTM 模型捕捉動態網絡時空演化特征的能力略勝一籌。由于可視化中只取了一部分節點可視化出來做比較差異并不明顯，下述實驗中將采用三個不同的數據集進行實驗比較。

3.5 實驗結果

本節在SBM、Hep-th 和AS 三個數據集進行測試，GCN 上的第一層神經元個數設置為256，第二層設置為128；LSTM 網絡的隱藏層單元個數為128；CNN 層第一層設置為128，第二層設置為64；dAE的斷開率設置為0.1。

在SBM 數據集上的實驗結果如圖9 所示。為表示方便，后面的實驗結果圖中均用d2vAERNN、d2vAERNN 分別表示dyngraph2vecRNN、dyngraph2vecAERNN。由圖9 可以得出除dynamicTriad 模型的鏈路預測效果較差外，其他模型在SBM數據集上前1 000 個節點的普遍精度都可以達到0.95 以上，說明dynGAELSTM 模型適合動態圖的鏈路預測。由于SBM數據集的節點個數較少，數據信息的復雜情況一般，模型在提取特征時更偏向于對時空依賴特征的提取，因此可以說明dynGAELSTM 模型中的LSTM 網絡模塊能夠有效提取動態圖長時間的跨度演化信息。

圖9 SBM數據集上的P@k性能Fig.9 P@k performance on SBM dataset

在Hep-th 數據集上的實驗結果如圖10 所示。在Hep-th數據集上可以明顯觀察出dynGAELSTM 模型在前2 000 個節點的精確率在k為100，800，1 200，2 000 時都要略高于精度第二的dyngraph2vecAERNN，且前2 000 個節點的精確率都可以達到0.99 以上，dynGAELSTM 模型的鏈路預測能力比dyngraph2vecAERNN 模型以外的模型明顯要高。Hep-th 數據集取了前2 000個節點，節點數多，鏈路較多，此動態圖數據集的預測對時空的依賴特征和高階圖鄰域結構特征的提取要求較高，dynGAELSTM 模型比其他基準模型的精度都高，足以說明模型中的LSTM 網絡模塊能夠有效提取動態圖長時間的跨度演化信息，且GCN 對高階圖鄰域結構特征的信息獲取能力較強。

圖10 Hep-th數據集上的P@k性能Fig.10 P@k performance on Hep-th dataset

在節點和鏈路較多的AS 數據集上的實驗結果如圖11 所示。在AS 數據集上可以明顯觀察出dynGAELSTM 模型在前2 000個節點的精確率都高于精度第二的dyngraph2vecAERNN模型，且前2 000 個節點的精確率都可以達到0.97 以上。AS數據集相較于SBM 和Hep-th 數據集的節點數更多，鏈路的權重因素更復雜，模型在面對更加復雜的動態圖數據集AS 時，dynGAELSTM 模型鏈路預測的競爭力明顯強于其他基準模型，可以說明dynGAELSTM 模型的GCN 在面對關系復雜的數據集時可以高效地提取高階圖鄰域結構特征信息。

圖11 AS數據集上的P@k性能Fig.11 P@k performance on AS dataset

dynGAELSTM 模型在SBM、Hep-th 和AS 三個數據集進行mAP 性能的測試，結果如表3。由表3 可得，dynGAELSTM 模型在SBM、Hep-th 兩個數據集上的mAP 性能略高于dyngraph2vecAERNN 模型，提高了7.9和1.19個百分點，而且遠高于其他基準模型。在復雜的AS 數據集上dynGAELSTM模型的mAP 性能比dyngraph2vecAERNN 模型高出3.13 個百分點，實驗結果可以說明模型前端的GCN 提取了拓撲圖的高階特征，第t至第t+lb個時刻的LSTM 網絡層獲取了數據集的時空依賴特征，提升了dynGAELSTM 模型鏈路預測的綜合性能。

表3 SBM、Hep-th和AS數據集上的mAP性能Tab.3 mAP performance on SBM，Hep-th and AS datasets

3.6 模型復雜度分析

為驗證dynGAELSTM 模型的復雜度較低，將它與基準模型在復雜度上進行對比。首先與鏈路預測綜合性能第二的dyngraph2vecAERNN 模型在模型結構上進行對比，可以看出，dyngraph2vecAERNN 模型采用了AE 的框架，編碼層之間采用全連接層，節點參數并未減少；而dynGAELSTM 模型采用了dAE 的框架，節點之間設置隨機斷開率為0.1，在dAE 的編碼層的參數量將會變為原來的0.9，后續的解碼層兩者都為全連接重建，參數量接近。由此可以認為：與鏈路預測綜合性能第二的dyngraph2vecAERNN 模型相比，dynGAELSTM 模型的參數復雜程度有所下降，訓練效率提高，并且預測精度更高。

復雜度的對比還借鑒了文獻［23］中研究的復雜度對比方法。該方法在相同的實驗環境配置下將所提出的模型作為基準，其相應的訓練時間記為1×，基準模型和對比模型同時進行訓練，得出對比模型的訓練時間與基準訓練時間的對比度，以此判斷模型的時間復雜度。本次實驗中，上述實驗環境配置不變，在SBM 數據集取前200 個點和前300 個點進行兩次實驗，dynGAELSTM 模型與6 個對比模型在相同環境同時進行訓練，將dynGAELSTM 模型的訓練時間設為基準（記為1×），其余6個基準模型的訓練時間與基準的訓練時間進行對比，相應的對比度記為A×，A為相應的比值。其實驗結果如表4所示。

由表4 可得出模型鏈路預測綜合性能排名前三的模型分別是dynGAELSTM 模型、dyngraph2vecRNN 模型和dynGEM 模型，其他四個模型在三個數據集上的mAP 性能均比前三個模型下降較多，即使在表3 中dynamicTraid 模型的運行時間比dynGAELSTM 模型短，但dynGAELSTM 模型的鏈路預測綜合性能要遠高于dynamicTraid 模型，在精度相差較大的情況下不再做運行時間的對比，以精度優先。由表4 還可以看出，dynGAELSTM 模型的運行時間最短，相比預測性能第二的dyngraph2vecAERNN 模型在SBM 數據集的前200 個點上運行時間降低了0.92%，在前300 個點上的運行時間降低了1.73%。

表4 網絡表示學習模型在SBM數據集上的運行時間對比Tab.4 Running time comparison of network representation learning models on SBM dataset

綜上所述，dynGAELSTM 模型與6 個基準模型相比，參數復雜度降低，運行效率提升，而且鏈路預測綜合性能最高。

4 結語

本文提出了一種用于鏈路預測的動態網絡表示學習模型dynGAELSTM。針對相關工作中總結出的鏈路預測模型的三個不足之處，該模型分別用了降噪自編碼器（dAE）節點之間的隨機斷開率來降低模型的復雜度，利用圖卷積網絡（GCN）來提取高階圖鄰域結構的特征信息，第t至第t+lb個時刻的LSTM 網絡層提取動態圖的長時間跨度的演化信息。在三個數據集上進行鏈路預測實驗的結果顯示，dynGAELSTM 模型在SBM、Hep-th 和AS 數據集上的精確率高，說明該模型適合動態圖的鏈路預測，可以有效提取動態圖長時間的跨度演化信息；在Hep-th 和AS 數據集上的實驗結果表明，dynGAELSTM 模型在面對節點之間關系復雜的動態圖時，預測精確率明顯優于其他基準模型，說明它可以高效地提取網絡的高階圖鄰域結構特征信息。在SBM 數據集上的復雜度實驗結果也表明，dynGAELSTM 模型的復雜度低于其他基準模型，運行效率更高。綜上所述，dynGAELSTM 模型適合處理結構復雜和時間跨度較長的動態圖的鏈路預測任務。

在未來的研究中，我們將針對回溯參數（LSTM 網絡的層數）進行研究，探索回溯參數的設置與時空依賴特征提取之間的關聯，并用復雜的數據集對模型復雜度的對比作進一步研究。