融合知識圖譜的矩陣分解推薦算法

周巧扣，倪紅軍

（南京師范大學泰州學院信息工程學院，江蘇泰州 225300)

0 引言

隨著互聯網技術的蓬勃發展，產生了海量的數據信息，為了幫助人們快速有效地篩選信息，個性化推薦系統應運而生[1]。推薦系統從用戶的歷史行為和數據出發，建立相關的模型挖掘用戶的需求和興趣，并以此為依據從海量信息中為用戶篩選出用戶可能感興趣的信息。然而，傳統的推薦算法通常存在數據稀疏以及冷啟動等問題，影響推薦算法的性能，需要借助一些輔助信息來提升推薦算法的性能，例如，用戶的社交網絡，項目的文本信息以及圖片信息等[2-4]。知識圖譜(Knowledge Graph,KG)是由知識組成的有向異構信息網絡，其中包含了大量的實體和關系，蘊藏了豐富的實體之間的結構信息和語義信息，將知識圖譜融入推薦算法中，能夠更加精確地建模用戶偏好與項目特征，從而可以較大程度上提升推薦效果[5]。

本文在矩陣分解算法[6]的基礎上，提出一種融合知識圖譜的矩陣分解推薦算法(Matrix Factorization Based Knowledge Graph,MFBKG)。

1 問題定義及相關算法

1.1 數據定義

用戶集合、項目集合以及知識圖譜可以使用一個四元組表示S=，其中U={u1,u2,…,um}表示用戶集合，O={o1,o2,…,on}表示項目的集合，G表示知識圖譜，G=，E 表示知識圖譜中的實體集，R表示知識圖譜中的關系集。X 表示用戶對項目的評分矩陣，xij表示用戶ui對項oj的評分，D表示用戶與評分項目的二元組的集合，即(ui,oj)?D。

1.2 矩陣分解算法

矩陣分解算法通過將用戶評分矩陣X 使用機器學習的方法分解為一個代表用戶偏好的用戶矩陣P和一個代表被推薦項目特征的項目矩陣Q，用戶矩陣中的行向量和項目矩陣中的列向量的點積即為行向量用戶對列項目的評分。定義如公式(1)所示：

μ為所有項目的總平均分，bu為用戶偏置項，bi為項目的偏置項。

1.3 融合知識圖譜的矩陣分解推薦算法

TransH 算法[7]是一種知識圖譜表示學習算法，通過訓練可以得到知識圖譜中實體和關系的低維向量，然后計算實體之間的相似度，本文中計算相似度的方法采用余弦相似度公式，設Bi和Bj分別為項目oi和oj在知識圖譜中對應的向量表示，則項目oi和oj的相似度計算方法如公式(3)所示：

計算出項目之間的相似度后，在MF 算法優化函數中，增加項目隱因子向量qi與其近鄰集合中所有項目隱因子向量的均值差的二階Frobenius 范數這個限制條件，這樣算法中參數的學習將受到兩個方面的限制：1)學習評分值應該盡可能接近實際的評分值。2)項目的隱因子向量應該與知識圖譜中與其語義相近的項目的隱因子向量盡可能接近。改進的算法優化函數如下所示：

通過增加語義限制條件，使得即使在評分數據比較稀疏的場景中，算法中的參數也能得到很好的優化，從而訓練得到的用戶隱因子和項目隱因子也更加精確。與MF 算法一樣，文中也采用隨機梯度下降的方法學習算法中的參數。

算法1 MFBKG算法

輸入:用戶評分矩陣X、知識圖譜G、隱因子向量維度d、正則項參數λ、平衡因子α、學習率η、最大迭代次數Z

輸出:用戶隱因子矩陣P和項目隱因子矩陣Q

1.使用TransH 算法計算G 中實體及關系的低維向量

2 實驗結果及分析

2.1 實驗數據集

文中采用文獻[5]中的電影數據集，該數據集在MovieLens-1M數據集的基礎上采用Microsoft Satori構建數據集的知識圖譜。數據集中包含：2 347個實體、20 782組關系、1 000 209條用戶對電影的評分。實驗采用5-fold交叉驗證，訓練集所占比例為80%，測試集所占比例為20%。

2.2 評價標準

本文針對所提算法采用的評價指標是平均絕對誤差(MAE)和均方根誤差(RMSE)。MAE 和RMSE 的值可以通過計算項目的預測評分與實際評分之間的偏差得到，值越小證明算法的推薦精度越高。

2.3 參數設置

MFBKG算法中包含多個超參數，如：迭代次數Z、學習率η、正則項參數λ、平衡因子α、隱因子向量維度d。實驗中參數值設置為：Z=50、η=0.001、λ=0.01，TransH算法中實體和關系向量的維度為100。

2.4 實驗對比

將本文提出的MFBKG算法與概率矩陣分解算法(PMF)[1]以及SVD++[6]算法進行對比實驗。

2.4.1 算法性能分析

實驗中設定隱因子向量維度d分別為：10、20、30、60、80、100、120，三種算法在MAE 性能指標的對比如圖1 所示。PMF 算法在d為30 時達到最優為0.691，SVD++算法在k為80 時達到最優為0.683，MFBKG 算法在d為60時達到最優為0.678。三種算法達到最優后隨著d的增加，性能不同程度的降低。

圖1 三種算法MAE性能對比

相同的設置下，三種算法在RMSE 性能指標上的對比如圖2 所示。PMF 算法在d為30 時達到最優為0.877，SVD++算法在d為80 時達到最優為0.870，MFBKG算法在d為60時達到最優為0.864。

圖2 三種算法RMSE性能對比

從MAE和RMSE兩種性能指標的對比分析看來，SVD++算法和MFBKG 算法要明顯優于PMF 算法，這是因為PMF算法只考慮了評分矩陣的分解，沒有考慮其他輔助信息，SVD++算法在評分矩陣的基礎上考慮了用戶的隱式反饋，對算法的性能有所提升，MFBKG算法在三種算法中最優，表明知識圖譜所包含的語義關系對推薦算法的性能提升最大。

2.4.2 α值對算法性能的影響

參數α控制MFBKG 算法中項目之間語義關系對算法整體性能的影響力度。其值越大表明矩陣P和Q受項目之間語義關系的影響就越大。如圖3所示，當α為0 時，MFBKG 算法退化為SVD 算法，當α為0.4時，MFBKG算法性能達到最佳，之后隨著α值的增加，性能逐漸下降。

圖3 α值對MFBKG算法性能的影響

2.4.3 近鄰集合的數目N對算法的性能的影響

N 的值也會對MFBKG 算法的優化過程產生影響。圖4 顯示了隨著N 值的增大，算法在MAE 和RMSE上的表現越好，當N達到60時，性能達到最優，此后算法性能趨于穩定，因為隨著項目鄰域集合的增加，它們與項目之間的語義關聯越弱，因而對推薦算法性能的提升越小。

圖4 近鄰集合的數目N對MFBKG算法性能的影響

3 結束語

本文主要研究了將知識圖譜表達的語義關系融入矩陣分解推薦算法中，以提高推薦算法性能的方法。首先利用TransH 算法將知識圖譜中的實體和關系轉為包含語義關系的圖譜向量，接著計算實體之間的語義相似度，然后在矩陣分解推薦算法的優化函數中增加語義相關性對項目隱因子向量優化的限制，使得語義相似的項目隱因子向量應該更接近。最后在真實的數據集中，對提出的算法進行了性能測試并與其他相關算法進行了對比，實驗表明本文提出的算法在MAE 和RMSE 性能指標上具有更好的表現。知識圖譜所蘊藏的項目之間語義關系非常豐富，如何更有效地利用知識圖譜提升推薦算法的性能是本文下一步研究的目標。