圖神經網絡在冷啟動推薦中的實現

高 巍，朱風蘭，李大舟，周河曉，陳思思

(沈陽化工大學 計算機科學與技術學院，遼寧 沈陽 110142)

0 引 言

在互聯網快速發展的時代，推薦系統的出現刺激了互聯網經濟的爆炸增長。由于數據的高度稀疏性，推薦系統中存在用戶冷啟動和項目冷啟動兩個嚴重問題。用戶冷啟動主要解決了如何為新用戶提供個性化推薦的問題。當新用戶進入平臺時，該平臺沒有行為數據，因此無法基于其歷史行為進行預測，而導致不能提出個性化推薦。項目冷啟動無法向有興趣的用戶推薦新啟動的項目。解決用戶冷啟動和項目冷啟動問題成為了當前研究領域的熱點。相關研究可以提高企業的收益率、平臺的留存率和用戶的使用舒適度。實現冷啟動推薦對企業、用戶和平臺的發展具有重要意義。

1 相關工作

推薦系統面臨著稀疏性和冷啟動[1,2]問題。解決該問題的傳統方法是對矩陣分解[3,4]的目標函數進行正則化，但并沒有為電商提供良好的推薦結果。此外，在解決具有多模態、大規模、數據稀疏等復雜特征的冷啟動問題工作中，利用輔助信息能夠比矩陣分解帶來更好的效果，例如上下文信息[5]、用戶和項目的關系[6,7]。推薦系統中的用戶信息和項目信息在本質上具有圖結構。可以構建同構圖和異構圖的圖神經網絡體系結構[8]便開始被應用于推薦系統。

YING等[9]提出一種采用局部卷積的可伸縮的圖卷積算法，即PinSage算法，該算法解決了模型訓練時間復雜度大的問題。ZHANG等[10]提出了一種層疊和重構的圖卷積網絡，即STAR-GCN結構，該結構提高了推薦的效果。LEE等[11]提出了一種基于優化的元學習MeLU算法，解決了圖卷積神經網絡難以設置較深的層數學習節點表征形式的問題。LU等[12]提出了一種采用元學習支持集的MetaHIN算法，解決了元學習者在任務特定參數之前適應全局參數的問題。吳等[13]提出了一種基于用戶與項目節點間關系的圖神經網絡算法，提高了冷啟動推薦的效果。

2 基于圖神經網絡的冷啟動推薦模型(IGNN)

在用戶冷啟動和項目冷啟動推薦系統中，難點在于缺少用戶和項目的偏好信息即歷史交互。對于此難點，可以使用用戶或項目的特征來表示屬性信息，但仍存在兩個問題。一是如何將屬性表示轉換為偏好表示，二是如何有效聚合鄰域中節點的不同模態屬性。由于推薦系統的大部分數據本質上有圖結構，并且圖神經網絡技術在捕獲節點間的連接和圖數據的表示學習方面有強大的功能。此外，圖神經網絡可以構建同構屬性圖，解決稀疏度高的問題。因此，本文提出了一種同構屬性特點的圖神經網絡的冷啟動推薦模型，即信息圖神經網絡(infographic neural network，IGNN)。IGNN模型結構如圖1所示。

圖1 本文提出的IGNN模型結構

IGNN模型由4部分組成：輸入層、屬性交互層、門控注意力層和預測層。輸入層對原始數據進行獨熱編碼，構造用戶間信息圖和項目間信息圖，兩圖均為同構屬性圖，解決了屬性信息的表示問題；屬性交互層對圖中的節點進行高階交互，并使用改進的圖變分自編碼器重構偏好嵌入，解決了如何將屬性表示轉換為偏好表示和偏好缺失問題；門控注意力層使用門控注意力聚合器，解決了聚合鄰域中節點不同模態的多屬性問題；預測層拼接用戶和項目的聚合表示并利用多層感知機(multilayer perceptron，MLP)解決過擬合、梯度彌散等問題，得到最終的評分分數。

2.1 輸入層

輸入層由圖1中用戶間信息圖和項目間信息圖兩個部分構成。圖1中用戶間信息圖，圓圈表示用戶，連接線表示用戶與用戶之間的關系；項目間信息圖，圓圈表示項目，連接線表示項目與項目之間的關系。以用戶間信息圖為例，信息圖包含著屬性信息和結構信息兩種信息，兩者分別描述了信息圖中節點的固有性質和節點之間的關聯性質，這兩者對信息圖中節點和全圖的刻畫起著關鍵作用。項目間信息圖結構特點、內容與用戶信息圖相似。輸入層的輸入為原始數據，輸出為用戶間信息圖和項目間信息圖。

(1)輸入層中對每個用戶和項目的屬性信息進行獨熱編碼，并且不考慮之間的交互關系，將多個屬性的獨熱編碼簡單的連接為一個長向量，以構成原始數據的每個用戶和每個項目的一組信息關聯。以用戶u為例，其原始數據分別為性別：男、年齡段：16歲～25歲、用戶等級：4、注冊時間：2016年，即共有4個屬性。用戶屬性信息獨熱編碼中具有特征的位置標記為1，沒有的標記為0，而用戶屬性信息多熱編碼則是獨熱編碼的簡單連接，圖2是用戶u的屬性信息編碼示例。項目屬性信息獨熱編碼和多熱編碼的原理與用戶編碼方法相似。

圖2 用戶u信息編碼

(2)對于用戶，若兩個用戶有相似的屬性信息，例性別、年齡等；對于項目，若兩個項目有相似的屬性信息，例品牌、型號等，則定義用戶與用戶之間、項目與項目之間有較高的屬性相似度。對于用戶，若兩個用戶有相似的行為記錄列表,則定義用戶與用戶之間有較高的偏好相似度；對于項目，若兩個項目有相似的記錄列表，則定義項目與項目之間有較高的偏好相似度。屬性相似度和偏好相似度都可以使用修正的余弦距離來測量。修正的余弦相似度在余弦相似度的基礎上，進一步把所有評分都減去該評分所對應的用戶的評分均值，結果越大，相似度越高。計算方法如式(1)所示

(1)

(2)

式中：att為屬性相似度，pre為偏好相似度。

(3)輸入層將與目標節點具有top p%的總體相似度sim的所有節點都添加到候選池。在接下來的每輪訓練中，根據相似度對節點的鄰居從候選池采樣，為保證鄰域多樣性使用年齡作為決定鄰居的主要因素，若沒有年齡，則選擇用戶等級作為主要因素進行動態圖構建策略，一旦圖被構造，將保持固定數量的鄰居。得到圖1中輸入層的用戶間信息圖和項目間信息圖。

2.2 屬性交互層

屬性交互層由圖1的屬性交互和重構偏好嵌入兩部分構成。由于在構造的用戶間信息圖和項目間信息圖中，每個節點都包含多熱屬性編碼和表示身份唯一的獨熱編碼，并且推薦系統中的用戶和項目數量眾多，導致節點的獨熱編碼表示維數較高，因此屬性交互層目標是減少獨熱編碼的維數，并學習多熱信息編碼表示的高階信息交互。以用戶u和項目i為例，定義用戶屬性為xu、用戶偏好為mu、項目屬性為yi和項目特征為ni。對于冷啟動節點來說，由于新用戶和新項目沒有交互信息，因此用戶偏好和項目屬性不存在，所以需要對圖1中屬性交互層節點進行重構偏好嵌入。

(1)屬性交互

圖1中的屬性交互層首先將節點的獨熱編碼轉換為低維的密集向量并構建查找表。查找表對應于用戶的參數矩陣M和項目的參數矩陣N兩個參數矩陣。屬性交互層然后使用雙向交互池操作捕獲高階屬性間的交互，最后增加了線性組合操作。屬性交互層采用的雙向交互和線性組合操作定義如式(3)所示

(3)

式中：ai和aj是屬性編碼，vi和vj是屬性編碼中的第i類屬性和第j類屬性的嵌入向量，⊙表示按元素乘積。

在二階交互和線性組合之后分別使用一個全連接層，實現了對高階特征交互的學習，fFC函數計算方法如式(4)所示

(4)

式中：Wfc，bfc和LeakyReLU分別是權重矩陣、偏置向量和激活函數。用戶u的屬性編碼au和項目i的屬性編碼ai分別被饋入fFC函數，產生了用戶的屬性嵌入xu和項目的屬性嵌入yi，如式(5)所示

xu=fFC(au),yi=fFC(ai)

(5)

(2)重構偏好嵌入

重構偏好嵌入是圖1中的屬性交互層的第二部分。對于用戶冷啟動和項目冷啟動問題，則是由于新用戶和新項目缺少歷史交互引起的，即缺少偏好。針對上述問題，本文提出改進的變分圖自編碼器(improved variational graph autoencoder，IVGAE)從用戶和項目的信息分布中重構偏好，其結構包含3個部分：①推斷模型；②生成模型；③近似模型。以用戶u為例，如圖3所示。

圖3 改進的變分圖自編碼器(IVGAE)結構

推斷模型又稱為編碼器，由圖卷積神經網絡(graph convolutional network，GCN)[14]組成，由圖3的推斷模型部分看出，對于用戶u， 它以用戶屬性xu和參數矩陣M作為輸入，輸出embedding空間的變量Z。ReLU函數用于推斷模型，可以克服梯度消失并且加快訓練速度，第一個隱藏層生成一個低維特征矩陣。GCN的計算方法如式(6)所示

(6)

第二個隱藏層生成μ和logσ2， 如式(7)所示

(7)

聯立第一個隱藏層和第二個隱藏層，可以得到編碼器的計算，如式(8)所示

(8)

下采樣以μ,logσ2的分布作為輸入，輸出embedding空間變量Z，如式(9)所示

Z=μ+σ×ε,ε～N(0,1)

(9)

生成模型又稱為解碼器，生成模型由embedding變量Z之間的內積定義；由圖3的生成模型部分看出，解碼器的輸出是一個重構的用戶屬性x′u， 計算過程如式(10)所示。引入生成模型的所有參數，參數化為多層感知機。同理，項目i重構的項目特征為y′i

x′u=sigmoid(ZZT)

(10)

從圖3的近似模型部分看出，屬性交互層將用戶重構嵌入x′u約束為用戶偏好嵌入mu， 項目重構嵌入y′i約束為項目特征嵌入ni。 綜上，可以得到mu～x′u和ni～y′i。

最后，本文將偏好嵌入和屬性嵌入融合到節點嵌入中，使每個節點既包含歷史偏好又包含其自身的信息，計算過程如式(11)所示。其中 [;] 表示向量級聯運算，Wu和Wi分別為用戶u和項目i的權重矩陣，bu和bi分別為用戶u和項目i的偏置向量，mu是用戶u的偏好，ni是項目i的特征。項目在屬性交互層的操作過程和用戶相似。屬性交互層的輸出為用戶節點嵌入Pu和項目節點嵌入qi

Pu=Wu[mu;xu]+bu,qi=Wi[ni;yi]+bi

(11)

2.3 門控注意力層

門控注意力層的目的是有效的聚集鄰域中不同模態的各種屬性，包括多頭注意力和學習門兩部分。

針對鄰域聚集問題，門控注意力層采用了鍵值注意力機制和點積注意力，計算一個附加軟門在0(低重要性)和1(高重要性)之間，賦予每個磁頭不同的重要性，結合多頭注意力聚合器，得到了本文設計的門控注意力網絡結構[15]。門控注意力網絡結構如圖4所示，以兩個用戶的中心節點的三頭門控注意力聚合器為例，不同的顏色代表不同的注意頭，在學習門中，深色的門代表較大的值。

圖4 門控注意力網絡結構

本文給定一個用戶節點u， 其節點嵌入為Pu，Nu為節點u的相鄰節點，ZNu={Zv|v∈Nu} 是相鄰節點中參考矢量的集合。用戶節點的鄰居聚合和節點更新過程包含以下3個步驟：

(12)

(13)

步驟2 圖4中的學習門以鄰居嵌入ZNu和步驟1得到的注意力權重作為輸入，進行細粒度聚合操作。為了確保增加門不會引入太多的附加參數，門控注意力層使用卷積網絡ψg， 該卷積網絡采用中心節點和相鄰節點的特征生成門值。計算過程如式(14)所示

(14)

本文結合了平均池和最大池來構建卷積網絡，如式(15)所示

(15)

式中：θm將相鄰特征映射到dm維向量，然后取元素方向的最大值，θg將連接的特征映射到最終的K門。

通過設置一個小的dm， 用于計算門的子網的計算開銷可以忽略不計。

綜合3個步驟可以得到門控注意力聚合器的公式，如式(16)所示

(16)

2.4 預測層

圖5 MLP的模型

本文將用戶u對項目i的預測評分計算如式(17)所示

(17)

3 實驗設計

3.1 實驗環境

本實驗在Ubuntu18.02系統下進行，使用Intel@i5-7200U作為計算單元，內存為8 GB。模型使用Pytorch框架進行搭建，版本為1.8.1。基于Pytorch框架進行用戶和項目評分預測模型的搭建和訓練，使用DGL庫來進行圖神經網絡的構建。本文的實驗環境配置見表1。

表1 實驗環境配置

3.2 實驗數據集

本文使用京東2016年2月至4月的高潛用戶購買意向預測數據集來評估提出模型。京東數據集由103 525個用戶、17 181個商品、2 861 262條評分信息組成。數據集由5個文件組成，各個文件信息見表2。本文對數據進行清洗，將用戶行為數據文件合并為一個文件JData_Action。

表2 數據集基本信息

3.3 評價指標

本文采用了廣泛用于評分預測任務的3個評價指標：均方誤差(mean square error，MSE)、均方根誤差(root mean square error，RMSE)和平均絕對誤差(mean absolute error，MAE)。

(1)均方誤差(MSE)

均方誤差是線性回歸中最常用的損失函數。MSE可以評價數據的變化程度，MSE的值越小，說明預測模型描述實驗數據具有更好的精確度。MSE的定義如式(18)所示

(18)

(2)均方根誤差(RMSE)

均方根誤差衡量的是預測值與真實值之間的偏差，并且對數據中的異常值較為敏感。RMSE的定義如式(19)所示

(19)

(3)平均絕對誤差(MAE)

平均絕對誤差是絕對誤差的平均值，它其實是更一般形式的誤差平均值。因為如果誤差是[-1,0,1]，平均值就是0，但這并不意味之系統不存在誤差，只是正負相互抵消了，因此要加上絕對值。MAE的定義如式(20)所示

(20)

3.4 參數設置

本文提出的IGNN模型，按照經驗設置批次大小為128、LeakyReLU的斜率為0.01和初始學習率為0.0005。本文討論了模型計算結果中隱藏向量維數D和候選集閾值p在構造用戶間信息圖和項目間信息圖過程中的最優參數的設定問題。實驗初始設置方式如下：隱藏向量維數D=40， 候選集閾值p=5。

在優化隱藏向量維數D的過程中，實驗通過更改不同維度的集合 {10,20,30,40,50} 來進行討論。實驗首先將候選集閾值p設置為5，然后改變隱藏向量維數D。 隱藏向量維數D的參數優化調整結果如圖6所示。

圖6 隱藏向量維數D的參數優化調整結果

從圖6可以看出，隨著隱藏向量維數的增加，性能呈總體上升趨勢。圖6(a)中用戶冷啟動的MSE值隨隱藏向量維數的增加數值平穩降低，性能呈上升趨勢；項目冷啟動的MSE值隨隱藏向量維數的增加先降低，在40維后降低，40維后又上升。圖6(b)中用戶冷啟動的RMSE值隨隱藏向量維數的增加數值大幅度降低，在40維后數值迅速增加；項目冷啟動的RMSE值隨隱藏向量維數的增加數值大幅度降低，在40維后數值緩慢增加。圖6(c)中用戶冷啟動的MAE值隨隱藏向量維數的增加數值大幅度降低，在40維后數值緩慢增加；項目冷啟動的MAE值隨隱藏向量維數的增加數值大幅度降低，在40維后數值緩慢增加。綜合兩個冷啟動的比較，隱藏向量維數為40時，IGNN模型的性能最好。這表明較大的維度可以捕獲用戶、項目及其各自信息的更多隱藏因素，從而產生了節點更好的表示能力。

在優化候選集閾值p的過程中，實驗從候選集的閾值 {1,5,10,15,20} 中進行挑選。實驗首先將隱藏向量維數D設置為40，然后改變候選集的閾值p。 候選集閾值p在構造用戶間信息圖和項目間信息圖過程中的參數優化調整結果如圖7所示。

圖7 候選集閾值p的參數優化調整結果

從圖7中可以看出，在大多數情況下，p取值為5時，在候選范圍內取得最優結果。圖7(a)中用戶冷啟動的MSE值隨候選集閾值的增加數值先增加再下降，以此規律反復；項目冷啟動的MSE值隨候選集閾值的增加先降低后持續增加。圖7(b)中用戶冷啟動的RMSE值隨候選集閾值的增加數值先增加，在第15個后開始下降；項目冷啟動的RMSE值隨候選集閾值的增加先下降后持續增加。圖7(c)中用戶冷啟動的MAE值隨候選集閾值的增加數值先降低，在第5個后開始增加；項目冷啟動的MAE值隨候選集閾值的增加持續增加。當從候選集采樣時，被選擇概率與候選集大小無關，因此排名靠前的樣本始終具有較高的被選擇概率。因此，p=5時被選為最優設定。

3.5 實驗結果與分析

在用戶冷啟動過程中，訓練集來自于JData_user文件中80%的用戶以及JData_Action文件中80%的行為數據，測試集來自于JData_user文件剩余20%的用戶。在項目冷啟動過程中，訓練集來自于JData_Product文件中80%的項目以及JData_Action文件中80%的行為數據，測試集來自于JData_Product文件剩余20%的項目。評價指標采用均方誤差(MSE)、均方根誤差(RMSE)和平均絕對誤差(MAE)，實驗結果如圖8所示。從圖8中可以看出，隨著迭代次數的增加，IGNN模型的MSE值、RMSE值和MAE值總體趨于降低的趨勢；在迭代40輪前，IGNN模型的3個評價指標數值變化明顯，從40輪后，評價指標趨于平緩和穩定。

圖8 評價指標MSE、RMSE和MAE隨訓練次數的變化

從圖8(a)中可以看出，用戶冷啟動在前40輪迭代MSE值呈明顯下降趨勢，從40輪迭代后逐漸趨于穩定，最優MSE值為0.9612，橫軸為訓練次數，范圍為[0,60]，縱軸為MSE值，范圍為[0.900 754,1.250 817]，可以看出MSE值下降了27.9%；項目冷啟動在前40輪迭代MSE值呈下降趨勢，從40輪迭代后有較小幅度波動，最優MSE值為0.9067，橫軸為訓練次數，范圍為[0,60]，縱軸為MSE值，范圍為[0.956 769,1.082 582]，可以看出MSE值下降了11.6%。用戶冷啟動和項目冷啟動在第24輪迭代時兩個MAE值相等，在這之后，用戶冷啟動處于下降狀態，項目冷啟動則開始處于波動狀態。

從圖8(b)中可以看出，用戶冷啟動一直趨于降低趨勢，最優RMSE值為1.0472，橫軸為訓練次數，范圍為[0,60]，縱軸為RMSE值，范圍為[1.034 216,1.279 592]，可以看出RMSE值下降了19.2%；項目冷啟動在前40輪迭代RMSE值呈下降趨勢，從40輪迭代后有較小幅度波動，最優RMSE值為1.0294，橫軸為訓練次數，范圍為[0,60]，縱軸為RMSE值，范圍為[1.017 509,1.081 228]，可以看出RMSE值下降了5.9%。

從圖8(c)中可以看出，用戶冷啟動在前40輪迭代MAE值呈明顯下降趨勢，從40輪迭代后有較小幅度波動，最優MAE值為0.8636，橫軸為訓練次數，范圍為[0,60]，縱軸為MAE值，范圍為[0.840 633,1.044 911]，可以看出MAE值下降了19.5%；項目冷啟動在前20輪迭代MAE值呈下降趨勢，從20輪迭代后有較小幅度波動，最優MAE值為0.8201，橫軸為訓練次數，范圍為[0,60]，縱軸為MAE值，范圍為[0.803 610,0.868 817]，可以看出MAE值下降了7.5%。

本文實驗選擇6種常用于解決冷啟動的方法，分別為STAR-GCN、MetaHIN、DropoutNet、LLAE、HERS和MetaEmb，與本文提出的模型IGNN作比較。圖9和圖10分別表現了用戶冷啟動模型、項目冷啟動模型的實驗結果對比。

圖9 用戶冷啟動模型實驗結果對比

圖10 項目冷啟動模型實驗結果對比

從圖9中可以看出，在7個用戶冷啟動基線中，本文提出的IGNN模型性能最佳。IGNN的MSE值、RMSE值和MAE值對比于其它6個基線的最優值分別降低了4.05%、2.02%和2.47%。STAR-GCN在用戶和項目的二部圖上使用了圖卷積網絡，可以將信息聚合到節點嵌入中，MSE值和RMSE值表現性能次佳。在MAE值指標下，MetaEmb性能相對STAR-GCN較好，因為其通過元學習嵌入生成器，可以適應冷啟動場景。LLAE的表現非常差，因為其目標是使用戶的整個評分適合所有項目，并且有根據用戶屬性重構的向量，而評分預測是優化每個用戶和項目對的評分。

從圖10中可以看出，在7個項目冷啟動基線中，本文提出的IGNN模型性能最佳。IGNN的MSE值、RMSE值和MAE值對比于其它6個基線的最優值分別降低了0.47%、1.80%和2.46%。MetaEmb通過基于梯度的元學習方法訓練嵌入生成器，模型性能次佳。MetaHIN性能一般，因為它需要一套支持集以適應先驗知識。DropoutNet效果并不好，因為DropoutNet需要內容信息來近似矩陣分解的結果，并且其性能取決于預訓練的偏好嵌入。HERS性能表現和DropoutNet相似。LLAE的表現最差，因為其目標是使用戶的整個評分適合所有項目，并且有根據項目屬性重構的向量，而評分預測是優化每個用戶和項目對的評分。

綜上所述，在最優基準改進1%具有統計學意義，用戶冷啟動模型提升效果較為明顯，項目冷啟動提升效果一般，但優于目前基線方法。通過將屬性圖應用于用戶冷啟動和項目冷啟動推薦場景，結果驗證了本文提出的IGNN體系結構的性能優越性。

4 結束語

互聯網金融產業對國民經濟產生巨大影響，產生巨大經濟效益并有巨大社會影響。互聯網金融在快速發展過程中，強烈依賴于推薦系統。推薦系統為互聯網金融注入了強有力的新鮮血液和留存了用戶使用率。在推薦系統的實現中，解決冷啟動問題對提升企業的經濟效益，保留平臺的用戶留存率有著直接的影響效果。本文嘗試將深度學習技術應用于京東電商平臺商品推薦的研究中，提出了基于圖神經網絡結構的信息圖神經網絡。該模型利用改進的變分圖自編碼器重構偏好嵌入解決了偏好缺失問題，而且通過門控注意力結構提高模型容量，解決細粒度鄰居聚合的問題。在MSE、RMSE和MAE評價指標下，與多種冷啟動模型相比較，本文提出的IGNN模型在用戶冷啟動至少改進了2%左右，在項目冷啟動至少改進了1%左右，有著更好的性能表現。