999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

融合畫像和文本信息的輕量級關系圖注意推薦模型

2023-01-01 00:00:00劉超朱波
計算機應用研究 2023年4期

作者簡介:劉超(1983-),男,四川鄰水人,副教授,碩導,博士,主要研究方向為社交網絡分析;朱波(1998-),男(通信作者),安徽阜陽人,碩士研究生,主要研究方向為用戶畫像、推薦系統(zhub214@163.com).

摘 要:針對當前基于圖神經網絡的推薦系統受數據稀疏影響推薦效率不高的問題,提出融合畫像和文本信息的輕量級關系圖注意推薦模型(LightRGAN)。首先,利用用戶畫像和項目畫像初始化用戶和項目的嵌入表示。其次,引入評論、項目描述和項目類型作為輔助信息,并通過基于多頭注意力機制的文本嵌入網絡挖掘同一用戶評論集和描述集中文本之間的潛在聯系。然后,通過融合注意力機制的輕量級關系圖卷積網絡學習用戶和項目的嵌入表示。最后,對各層嵌入表示加權求和并通過預測網絡計算匹配分數。在三個公開數據集上的實驗結果表明LightRGAN的效果優于多個現有的基線模型,評估指標HR@20、NDCG@20較最優基線模型最少提升了2.58%、2.37%。

關鍵詞:推薦系統;圖神經網絡;用戶畫像;文本信息

中圖分類號:TP391 文獻標志碼:A 文章編號:1001-3695(2023)04-013-1037-07doi: 10.19734/j.issn.1001-3695.2022.08.0428

Abstract:To address the problem of poor performance in graph neural network based recommendation systems due to the data sparse problem, this paper proposed a light relational graph attention recommendation model (LightRGAN) that fusing with profiles and text information. First, this model used user profiles and item profiles to initialize the embeddings of users and the items. Secondly, it introduced comments, descriptions and categories as auxiliary information. Meanwhile, it mined the relationships between the text in the comment set and the description set of the same user through the text embedding network based on the multi-head attention mechanism. Then, it learned the embedding representations of the users and the items through a light relational graph convolutional network fused with the attention mechanism. Finally, it weighted sum the embedding representations at each layer and inputted them to the prediction network to calculated match score between the users and the items. The results on three public datasets show that the LightRGAN outperforms other baseline models. The evaluation metrics HR@20 and NDCG@20 improved at least 2.58% and 2.37% than the optimal baseline model.

Key words:recommendation system; graph neural network; user profile; text information

0 引言

隨著互聯網的發展,信息過載成為日益突出的問題。推薦系統作為一種解決信息過載的工具,在視頻影音[1]、旅游[2]、電子商務[3]等領域得到廣泛應用。近幾年,由于圖的強大表示能力,基于圖神經網絡的推薦 (簡稱圖神經推薦)逐漸成為推薦系統的研究熱點[4~11]。圖神經推薦根據用戶—項目交互圖的拓撲結構信息進行節點間信息的傳播和聚合,能夠捕獲交互圖中的線性和非線性協同信號,準確地學習用戶和項目的嵌入表示,具有優越的推薦性能。盡管如此,其推薦效果依然受到數據稀疏問題的影響,緩解數據稀疏問題的典型方案是引入輔助信息[13],將輔助信息與用戶和項目一起轉換為通用特征向量,并輸入圖神經網絡模型進行預測。現有基于圖神經網絡的推薦模型如KGAT[8]、HGNR[9]、LT-HGCF[10]等通過引入項目屬性、社交關系、文本等輔助信息學習用戶和項目的嵌入表示,在一定程度上緩解了數據稀疏問題,取得了不錯的推薦效果,但仍存在以下三點不足:a)現有研究忽略了用戶和項目初始嵌入的重要性;對于用戶和項目的初始嵌入通常使用隨機初始化或零初始化,這種方式初始化的用戶和項目的嵌入表示不包含用戶或項目自身的特征,使得后續學習到的用戶和項目的嵌入表示不夠準確。而且在嵌入傳播過程中不能很好地區分與鄰域節點間的相關性,增加了噪聲信息的聚合,影響用戶和項目特征的學習。b)現有研究未考慮文本之間的潛在聯系;它們通常通過直接嵌入的方式來引入文本信息;實際上,同一用戶(項目)直接交互的文本之間具有一定的聯系,如同一用戶的多條評論都隱含了用戶一定程度的偏好信息,因此它們之間就具有一定的相似性;通過挖掘文本之間的潛在聯系能夠增強它們自身的語義表示[25],從而更加準確地表示用戶(項目)特征。c)現有融合文本信息的圖神經推薦方法未引入項目類型作為輔助信息;現有研究一般僅考慮評論、項目描述等信息中隱含的用戶和項目的特征,忽視了項目的類型信息在表示用戶和項目特征方面的作用;項目類型作為項目的屬性信息,顯式地表達了項目自身的特征。并且利用用戶歷史交互項目的類型信息能夠更加準確地刻畫用戶的偏好。

為解決上述不足,本文提出融合畫像和文本信息的輕量級關系圖注意推薦模型LightRGAN (light relational graph attention network)。首先,構建用戶畫像和項目畫像,利用畫像中包含的用戶和項目特征初始化它們的嵌入表示,能夠更加全面地表示用戶和項目的特征,并且在嵌入傳播過程中可以有效地區分鄰域節點相關性,減少噪聲信息的聚合。其次,利用多頭注意力機制挖掘同一用戶的評論集和描述集中文本間的潛在聯系,利用文本之間的相似性來增強文本自身的嵌入表示。同時,引入項目類型作為輔助信息,利用類型標簽能夠顯示地描述用戶偏好和項目特征的特點來更加準確地表示用戶和項目。最后,通過融合注意力機制的輕量級關系圖卷積網絡(relational graph convolutional network,RGCN)學習用戶和項目的嵌入表示,并利用基于表示學習和匹配函數學習的預測網絡計算匹配分數。本文主要貢獻如下:

a)提出融合畫像和文本信息的輕量級關系圖注意推薦模型LightRGAN,利用用戶畫像和項目畫像分別初始化用戶和項目的嵌入表示,能夠更加全面地表示用戶和項目的特征,并且減少了嵌入傳播過程中噪聲信息的聚合,提升了用戶和項目的嵌入表示學習的準確性。

b)通過基于多頭注意力機制的文本信息嵌入網絡獲取同一用戶評論集和描述集中文本信息之間的潛在聯系,能夠進一步挖掘用戶和項目的特征,并且通過引入項目類型作為輔助信息來增強模型學習用戶和項目嵌入表示的能力。

c)使用亞馬遜公共數據集的三個子類別數據集digital music、beauty和clothing shoes and jewelry進行大量對比實驗,結果證明LightRGAN模型的推薦效果有大幅提升。

1 相關工作

1.1 基于圖神經網絡的推薦

近年來,大量基于圖神經網絡的推薦模型被提出。例如GCMC[4]利用單層圖卷積網絡(graph convolutional network,GCN)捕獲用戶—項目二部圖上的一階協同信號。NGCF[5]基于用戶—項目交互圖,利用多層GCN學習用戶和項目的嵌入表示,以高階連接的形式顯式地編碼協同信號,克服了GCMC只能利用一階協同信號的缺點。但是NGCF使用包含權重矩陣和非線性激活函數的標準GCN,極大地增加了模型的訓練難度。LightGCN[6]對 NGCF進行了改進,丟棄了標準GCN中的權重矩陣和非線性激活函數,降低了模型的訓練難度,提升了模型的預測效果。

為提升圖神經網絡推薦模型的性能,有學者通過引入輔助信息來增強用戶和項目的表示學習,如KGCN[7]引入項目屬性信息構建知識圖譜,通過增加項目與屬性之間的連接來學習用戶和項目的嵌入表示。HGNR[9]引入評論文本和社交信息來挖掘用戶之間的聯系和項目之間的聯系,以此豐富用戶和項目的嵌入表示。LT-HGCF[10]引入用戶評論和項目描述文本信息作為輔助信息,并利用輕量級RGCN解決HGNR中未考慮不同類型節點間關系的問題。最后通過基于MLP的預測網絡代替HGNR中的內積進行預測,進一步提升了模型的預測效果。除輔助信息外,也有學者利用注意力機制進一步提升圖神經推薦模型的性能。如KGAT[8]通過堆疊多層GCN挖掘高階連通信息,并在進行信息傳播和聚合過程中,利用注意力機制動態學習不同實體間的權重,通過為相關性更高的節點賦予更大的權重來提升模型的學習效果。GraphRec[11]結合了用戶—項目交互信息和社交信息,利用圖神經網絡(graph neural network,GNN)學習用戶和項目的嵌入表示,并通過融合用戶注意力、項目注意力和社交關系注意力三種注意力機制來聚集不同結構的信息,進一步提升了模型的表示學習能力。

上述工作雖然取得了不錯的推薦效果,但通過隨機初始化和零初始化用戶和項目的嵌入表示,使得學習到的用戶和項目特征不夠準確。并且在引入文本信息學習用戶和項目特征時,忽略了文本間的潛在聯系和項目的類型信息,限制了它們的推薦效果。

1.2 基于用戶畫像的推薦

近幾年,由于用戶畫像在表示用戶特征方面的優越性,其在推薦系統中得到廣泛應用。如Khattak等人[15]利用自然語言處理方法分析推特平臺用戶的推文數據,通過對用戶的推文進行分類和情感分析來構建用戶畫像,并基于用戶畫像提供個性化推薦。Widiyaningtya等人[16]利用用戶的基本信息構建用戶畫像,然后基于用戶畫像計算相似度,從而進行推薦。Hu等人[17]根據用戶評論構建用戶畫像,并基于用戶畫像對商品打分,最后按照商品排名進行推薦。利用用戶畫像能夠提升推薦系統的推薦效果,而當表示用戶特征的標簽過于稀疏時,會影響最終的推薦結果,為解決該問題,一些學者進行了相應的研究。如Pan等人[18]基于貝葉斯網絡擴展用戶畫像標簽,以提升模型的推薦效果。Tahmasebi等人[19]利用多種策略豐富用戶的評分畫像,此外還通過用戶的人口統計學信息來豐富用戶鄰域集,以緩解冷啟動問題。除擴展用戶畫像外,也有大量學者研究通過為項目構建畫像來進一步提升推薦效果。如Xu等人[20]為解決評分稀疏和相同評分下的情緒偏差問題,利用用戶的基本信息、行為信息和興趣信息構建用戶畫像,并利用項目的熱度、購買情況等信息構建項目畫像,最后通過用戶相似度和項目相似度進行推薦。Bahrani等人[21]為解決冷啟動問題,利用項目屬性信息構建用戶和項目畫像,并通過LARS、GMRS、IMLRS等多種策略對用戶和項目畫像標簽進行擴充,然后結合混合推薦算法進行推薦。

上述研究雖然強調了用戶畫像在表示用戶偏好方面的重要性,但僅將用戶畫像與傳統的推薦方法融合,模型推薦效果有限。本文將用戶畫像與圖神經網絡融合,利用用戶畫像技術初始化用戶和項目的嵌入表示,推薦效果遠優于傳統模型。

2.2 模型結構

LightRGAN模型結構如圖1所示,模型共包含三部分:a)初始嵌入層?;谖谋拘畔?,利用標簽法構建用戶和項目畫像。然后利用基于全連接層、LDA和K-means的用戶畫像嵌入網絡Netup和項目畫像嵌入網絡Netip,通過用戶和項目畫像來初始化用戶和項目的嵌入表示。同時利用基于SBERT[22]和多頭注意力機制的文本信息嵌入網絡Nett,對評論、描述和類型信息進行初始嵌入。b)嵌入傳播層。基于引入文本信息的用戶—項目交互圖,利用輕量級RGCN學習用戶和項目的嵌入表示,并在其中加入注意力機制學習鄰域節點權重。c)預測層。利用基于MLP的預測網絡計算用戶和項目之間的匹配分數。

2.3 初始嵌入層

初始嵌入層由用戶畫像嵌入網絡Netup、項目畫像嵌入網絡Netip和文本信息嵌入網絡Nett三個并行的網絡組成。主要負責對引入文本信息的用戶—項目交互圖中的節點進行初始嵌入。

2.3.1 用戶畫像和項目畫像嵌入

現有研究對用戶和項目通常進行隨機初始化或零初始化,這種方式初始化的嵌入向量不包含任何的用戶和項目的特征,使得后續通過圖神經網絡學習到的用戶和項目的嵌入表示不夠準確。因此本文設計用戶畫像嵌入網絡Netup和項目畫像嵌入網絡Netip來初始化用戶和項目的嵌入表示。由于用戶畫像嵌入網絡和項目畫像嵌入網絡結構相似,且輸入的數據類型相同,下面以負責用戶畫像嵌入的網絡Netup為例進行說明(項目畫像嵌入網絡Netip過程同理),具體過程如圖2所示。

給定用戶評論集和用戶類型集(用戶交互過的項目類型集),分別從中抽取出基于評論的標簽集和基于類型的標簽集以構建用戶畫像。其中基于類型的標簽集直接由用戶類型集中的項目類型標簽構成;基于評論的標簽集則是通過LDA挖掘隱藏在用戶評論中的主題構成。通過對上述兩種標簽集進行嵌入,得到全體用戶基于評論的嵌入向量集Elr和基于類型的嵌入向量集Elc,標簽嵌入過程如下:

a)基于類型的標簽集的嵌入

由于基于類型的標簽集中所包含的都是項目類型標簽,種類有限,所以直接通過統計每位用戶基于類型的標簽集中各類項目類型標簽的數量,得到全體用戶基于類型的標簽的嵌入向量集Elc,向量長度為數據集中類型標簽的種類數量。

b)基于評論的標簽集的嵌入

由于基于評論的標簽集由通過LDA挖掘隱藏在用戶評論中的主題集構成,無種類區分。因此通過K-means算法將全體用戶基于評論的標簽分為Kclu類,通過統計每位用戶基于評論的標簽集中各類標簽的數量,得到全體用戶基于評論的嵌入向量集Elr,向量長度為聚類后的簇數Kclu。

最后,通過一層全連接層融合Elc和Elr,得到全體用戶的初始嵌入U(0),融合過程如式(1)所示。

U(0)=σ(W(Elc⊕Elr)+b)(1)

其中:σ(·)表示激活函數;⊕表示向量拼接操作;W和b分別表示權重矩陣和偏置向量。

2.3.2 文本嵌入網絡

現有研究在融合文本信息時,僅考慮了評論、描述等數據中隱含的用戶和項目特征,忽略了項目類型信息在表示用戶和項目特征方面的作用。項目類型作為項目的屬性信息,顯式地表示了項目的特征。通過分析用戶歷史交互項目的類型信息能夠發現用戶感興趣的項目類型,進一步刻畫用戶特征。鑒于項目類型在描述用戶和項目特征方面的作用,引入項目類型作為輔助信息學習用戶和項目的嵌入表示。通過搜集數據集中所有種類的項目類型組成類型集,然后逐條輸入到文本嵌入模型中,得到類型集的初始嵌入列表C(0)。

此外,在評論和描述的嵌入過程中,由于現有研究在利用嵌入工具對文本進行嵌入后就直接輸入到圖神經網絡中進行學習,忽略了文本之間的潛在聯系。本文使用句嵌入預訓練模型SBERT對評論、項目描述進行嵌入后,通過多頭注意力機制(multi-head attention)從多個維度挖掘用戶評論集和用戶描述集(即同一用戶交互過的項目描述)中文本之間的潛在聯系。以用戶un的評論嵌入列表Run為例,多頭注意力機制的學習過程如式(2)~(6)所示。

3 實驗

3.1 數據集

為驗證LightRGAN的有效性,使用亞馬遜公共數據集的三個子類別數據集:digital music、beauty和clothing shoes and jewelry(下文簡稱music、beauty和clothing),這些數據集(http://snap.stanford.edu/data/amazon/productGraph/categoryFile)中關于每一個項目的評論數不小于5。其中clothing數據集的規模最大(共包含大約4萬名用戶和24萬條評論),同時稀疏度也最高(99.97%)。music數據集規模最小 (僅包含約5千名用戶和6萬條評論),數據稀疏度也最低(99.67%)。數據集的詳細信息如表1所示。對于上述數據集中的每個樣本,共使用到用戶ID、項目ID、用戶對項目的評論、項目的描述和項目所屬的類型五個特征。

3.2 評估方法和指標

本文采用留一法評估模型的推薦效果,即將用戶最近的一條交互信息用于測試,其余數據用于訓練。在評估階段,隨機采樣99個用戶未交互的項目和測試樣本一起計算匹配分數。此外,為保證結果的可靠性,移除測試數據中相關的用戶評論。

采用兩種推薦系統中常用的評估指標:HR(hit ratio)和NDCG(normalized discounted cumulative gain),分別選擇它們在推薦列表長度為10和20時的結果進行比較,記為HR@10、NDCG@10、HR@20和NDCG@20。其中HR直觀地評估測試項目是否出現在top-K列表中,NDCG通過給排名靠前的命中分配更高的分數來表明命中的位置。HR和NDCG值越高,說明效果越好。

3.3 參數設置

實驗中所有數據集的默認超參數設置如下:用戶畫像和項目畫像中基于評論的標簽數為20,聚類后的簇數為30;多頭注意力中head個數為8;SBERT使用BERT的預訓練版本為bert_uncased_L-12_H-256_A-4;嵌入傳播層的輸入維度為256,輸出維度為64,隱維度為128;嵌入傳播層層數為1,預測網絡中表示學習部分、匹配函數學習部分和預測部分的MLP層數分別為1、2、1;表示學習部分和匹配函數學習部分的隱維度為128;嵌入傳播層和預測網絡節點的dropout率為0,正則化強度λ為10-2,預測網絡的學習率為10-3。

3.4 對比模型

為驗證LightRGAN模型的有效性,將其與五個現有的主流推薦模型進行了對比:

a)NGCF[5]將用戶—項目交互表示為二部圖,并基于圖卷積網絡進行嵌入傳播,以高階連通的形式顯式地編碼協同信號。

b)LightGCN[6]丟棄了GCN中的權重矩陣和激活函數,通過線性傳播來學習節點的嵌入表示。在用戶—項目交互二部圖上,模型推薦效果顯著提升。

c)LT-HGCF[10]引入用戶評論和項目描述,利用輕量級RGCN進行嵌入傳播,最后結合表示學習和匹配函數學習進行交互預測,顯著提升了模型的推薦效果。

d)DeepCF[12]利用深度學習網絡預測用戶項目的可能性。克服了傳統點乘方法表達能力弱、無法捕獲低秩關系的缺陷,提升了模型的預測效果。

e)NeuMF[24]聯合矩陣分解和深度神經網絡來建模用戶—項目的隱結構。

3.5 性能比較

本文模型和其他對比模型的實驗結果如表2所示,其中最優結果以粗體顯示,次最優以下畫線顯示,通過分析實驗結果可以得出模型LightRGAN在三個數據集上的評估指標HR和NDCG全面優于其他基線模型。從表中可以看出,除LightRGAN外,基線模型LT-HGCF的效果要明顯優于其他基線模型。這是因為LT-HGCF除了使用交互信息外,還引入評論和描述文本作為輔助信息,通過利用這些文本中隱藏的用戶和項目的特征信息,能夠學習到更加準確的用戶和項目的嵌入表示。證明了融合評論和項目描述在提升模型推薦性能方面的積極作用。而LightRGAN相對于LT-HGCF評價指標HR@20在三個數據集上又分別提升了2.58%、35.61%、49.69%。這是由于LightRGAN融合了畫像和文本信息,并且能夠挖掘文本信息之間的潛在聯系,具有良好的表示學習能力,從而能夠進一步提升模型性能。而且可以發現在數據稀疏度由music數據集的99.67%增加到clothing數據集的99.97%,對比模型的推薦效果迅速下降,而LightRGAN的下降幅度不明顯,這反映了LightRGAN在緩解數據稀疏問題方面的優越性。因為在引入用戶畫像、項目畫像和文本信息后,模型能夠在交互信息稀疏的情況下學習到較為準確的用戶和項目的嵌入表示,從而緩解數據稀疏問題對模型推薦效果的影響。

3.6 消融實驗

3.6.1 畫像有效性分析

為驗證用戶和項目畫像嵌入對模型LightRGAN性能的影響,以下面三個變體模型進行對比實驗:

a)LightRGANup。利用用戶畫像嵌入網絡初始化用戶的嵌入表示,零初始化項目的嵌入表示。

b)LightRGANip。利用項目畫像嵌入網絡初始化項目的嵌入表示,零初始化用戶的嵌入表示。

c)LightRGAN0。零初始化用戶和項目的嵌入表示。

用戶畫像和項目畫像嵌入分析結果如表3所示。將以上三個變體模型和LightRGAN進行對比分析得出:a) LightRGAN的推薦效果在三個數據集上要全面優于其他變體模型,這表明使用用戶畫像和項目畫像初始化用戶或項目的嵌入表示在提升模型推薦效果方面的有效性;b)變體模型LightRGANup的推薦效果要優于LightRGANip,這說明利用用戶畫像初始化用戶的嵌入表示的效果要優于利用項目畫像初始化項目的嵌入表示。

選取beauty數據集部分樣本數據為例分析畫像有效性,如圖4所示。樣本數據包含用戶u0和項目集{v8,v76,v137,v208},其中v8為用戶u0交互過的項目,其余為未交互項目。圖中分別展示了使用和不使用用戶和項目畫像時模型的預測結果。從圖中可以發現,在使用用戶和項目畫像時,模型的預測結果中u0和v8的匹配分數最高,因此會將v8推薦給u0,這與實際情況一致。而在不使用用戶和項目畫像時,模型預測u0和v208的匹配分數最高,那么就會將v208推薦給u0,而實際上用戶u0并未交互項目v208,從而產生錯誤的推薦結果。

3.6.2 類型信息有效性分析

為驗證項目類型信息的有效性,對比LightRGANc和模型LightRGAN在beauty和clothing數據集上的推薦效果。其中LightRGANc表示不使用類型信息時的模型。在兩個數據集上的實驗結果如圖5所示。

從圖中可以發現,不使用類型信息的模型LightRGANc推薦效果在所有的評價指標上要明顯低于LightRGAN。這證明引入項目類型數據作為輔助信息能夠有效提升模型的推薦效果。

3.6.3 文本間潛在聯系有效性分析

為探究文本信息之間的聯系對模型性能的影響,對比LightRGANsa和LightRGAN的實驗結果,其中LightRGANsa不使用多頭注意力機制挖掘文本之間的聯系。在三個數據集上的實驗結果如表4所示,通過對比LightRGAN和LightRGANsa的推薦效果可以發現,利用多頭注意力機制挖掘用戶評論集和描述集中文本之間的潛在聯系能夠進一步提升模型推薦性能,驗證了挖掘文本間潛在聯系在提升模型性能方面的積極作用。

選取beauty數據集部分數據為例分析挖掘文本潛在聯系的作用,如圖6所示。樣本數據包括用戶u0、評論集{r13, r109,r324}和項目集{v8,v76,v137,v208},其中v8為用戶u0交互過的項目。圖中用戶與評論之間的數字為聚合權重,用戶與項目之間的數字表示匹配分數。可以觀察到,在使用多頭注意力網絡挖掘文本間的潛在聯系時u0與v8的匹配分數最高,那么模型就會將v8推薦給用戶u0,這與實際情況一致。在不使用多頭注意力機制而是直接嵌入文本時,與u0匹配分數最高的為v208,模型則會錯誤地將v208推薦給用戶,從而影響模型的推薦效果。

3.7 嵌入傳播層層數分析

嵌入傳播層由融合注意力機制的輕量級RGCN組成,為探究其層數對模型性能的影響,對比了層數L={1,2,3,4}時模型在數據集music、beauty和clothing上的推薦效果。實驗結果如圖7所示。從圖中可以發現,模型在層數L為1時的效果最好,隨著層數的不斷增加模型效果逐漸下降。這與大多數圖神經推薦模型的推薦效果隨著層數增加而提升不同,原因是在融入畫像信息和文本信息后,用戶和項目的初始嵌入就包含一定的特征,且具有豐富一階鄰域信息,因此只需要通過一次嵌入傳播就可以學習到準確的用戶和項目的嵌入表示,層數的增加則會引入更多的噪聲信息,從而影響模型性能,這與文獻[14]的研究結果類似。

4 結束語

本文提出融合畫像和文本信息的輕量級關系圖注意推薦模型LightRGAN,有效提升了目前基于圖神經網絡推薦模型的推薦效果。該模型基于用戶畫像技術為用戶和項目構建畫像,通過兩種畫像的嵌入來初始化用戶和項目的嵌入表示;同時,除評論和描述信息,額外引入類型信息學習用戶和項目的嵌入表示,并利用基于SBERT和多頭注意力機制的文本嵌入網絡進一步挖掘用戶評論集和描述集中文本間的潛在聯系。最后,利用融合注意力機制的輕量級RGCN學習用戶和項目的嵌入表示;并通過基于表示學習和匹配函數學習的預測網絡進行匹配分數預測。在三個公共數據集上進行大量實驗,結果驗證了模型LightRGAN的有效性。

在未來的研究中計劃引入時序特征,將與用戶交互的項目、評論信息按照時間順序進行排序,使得模型能夠構建隨時間變化而動態轉變的用戶畫像。并且在圖神經網絡的嵌入傳播過程中引入時序特征,使得模型能夠根據時間信息進一步區分鄰域節點的相關性。

參考文獻:

[1]高茂庭,楊濤. 融合協同過濾和主題模型的彈幕視頻推薦算法 [J]. 計算機應用研究,2020,37(12): 3565-3568,3577. (Gao Maoting,Yang Tao. A video recommendation algorithm based on collaborative filtering and topic model [J]. Application Research of Computers,2020,37(12): 3565-3568,3577.)

[2]Nitu P,Coelho J,Madiraju P. Improvising personalized travel recommendation system with recency effects [J]. Big Data Mining and Analytics,2021,4(3): 139-154.

[3]馮興杰,生曉宇. 基于圖神經網絡與深度學習的商品推薦算法 [J]. 計算機應用研究,2021,38(12): 3617-3622. (Feng Xingjie,Sheng Xiaoyu. Commodity recommendation algorithm based on graph neural network and deep learning [J]. Application Research of Computers,2021,38(12): 3617-3622.)

[4]Berg R,Kipf T N,Welling M. Graph convolutional matrix completion [EB/OL]. (2017-10-25). https://doi. org/10. 48550-/arXiv. 1706. 02263.

[5]Wang Xiang,He Xiangnan,Wang Meng,et al. Neural graph collaborative filtering [C]// Proc of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York:ACM Press,2019: 165-174.

[6]He Xiangnan,Deng Kuan,Wang Xiang,et al. LightGCN: simplifying and powering graph convolution network for recommendation [C]// Proc of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2020: 639-648.

[7]Wang Hongwei,Zhao Miao,Xie Xing,et al. Knowledge graph convolutional networks for recommender systems [C]// Proc of World Wide Web Conference. 2019: 3307-3313.

[8]Wang Xiang,He Xiangnan,Cao Yixin,et al. Kgat: knowledge graph attention network for recommendation [C]// Proc of the 25th ACM SIGKDD International Conference on Knowledge Discovery amp; Data Mining. New York:ACM Press,2019: 950-958.

[9]Liu Siwei,Ounis I,MacDonald C,et al. A heterogeneous graph neural model for cold-start recommendation [C]// Proc of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York:ACM Press,2020: 2029-2032.

[10]Wang Chaoyang,Guo Zhiqiang,Li Guohui,et al. A light heterogeneous graph collaborative filtering model using textual information [J]. Knowledge-Based Systems,2021,234: 107602.

[11]Fan Wenqi,Ma Yao,Li Qing,et al. Graph neural networks for social recommendation [C]// Proc of World Wide Web Conference. 2019: 417-426.

[12]Deng Zhihong,Huang Ling,Wang Changdong,et al. DeepCF: a unified framework of representation learning and matching function lear-ning in recommender system [C]// Proc of AAAI Conference on Artificial Intelligence. Palo Alto,CA: AIII Press,2019: 61-68.

[13]Guo Guibing,Qiu Huihuan,Tan Zhenhua,et al. Resolving data sparsity by multi-type auxiliary implicit feedback for recommender systems [J]. Knowledge-Based Systems,2017,138: 202-207.

[14]Li Zhifei,Liu Hai,Zhang Zhaoli,et al. Learning knowledge graph embedding with heterogeneous relation attention networks [J]. IEEE Trans on Neural Networks and Learning Systems,2022,33(8): 3961-3973.

[15]Khattak A M,Batool R,Satti F A,et al. Tweets classification and sentiment analysis for personalized tweets recommendation [EB/OL]. (2020-12-17). https://doi. org/-10. 1155/2020/8892552.

[16]Widiyaningtyas T,Hidayah I,Adji T B. User profile correlation-based similarity (UPCSim) algorithm in movie recommendation system [J]. Journal of Big Data,2021,8(1): 1-21.

[17]Hu Shigang,Kumar A,Al-Turjman F,et al. Reviewer credibility and sentiment analysis based user profile modelling for online product recommendation [J]. IEEE Access,2020,8: 26172-26189.

[18]Pan Yinghui,Huo Yongfeng,Tang Jing,et al. Exploiting relational tag expansion for dynamic user profile in a tag-aware ranking recommender system [J]. Information Sciences,2021,545(6): 448-464.

[19]Tahmasebi F,Meghdadi M,Ahmadian S,et al. A hybrid recommendation system based on profile expansion technique to alleviate cold start problem [J]. Multimedia Tools and Applications,2020,80(2): 2339-2354.

[20]Xu Yong,Wang Qian,Huang Shuqin,et al. A hybrid recommendation method combining user profile and product profile [M]// Forest Chemicals Review. 2022: 828-846.

[21]Bahrani P,Minaei-Bidgoli B,Parvin H,et al. User and item profile expansion for dealing with cold start problem [J]. Journal of Intelligent amp; Fuzzy Systems,2020,38(4): 4471-4483.

[22]Reimers N,Gurevych I,Reimers N,et al. Sentence-BERT: sentence embeddings using Siamese BERT-Networks [C]// Proc of Conference on Empirical Methods in Natural Language Processing. 2019: 671-688.

[23]Kingma D P,Ba J. Adam: a method for stochastic opti-mization [EB/OL]. (2014). https://arxiv. org/abs/1412. 6980.

[24]He Xiangnan,Liao Lizi,Zhang Hanwang,et al. Neural collaborative filtering [C]// Proc of the 26th International Conference on World Wide Web. 2017: 173-182.

[25]Vaswani A,Shazeer N,Parmar N,et al. Attention is all you need [J]. Advances in Neural Information Processing Systems,2017,30: 5998-6008.

主站蜘蛛池模板: 白浆免费视频国产精品视频| 激情六月丁香婷婷四房播| 蜜芽一区二区国产精品| 国产香蕉在线视频| vvvv98国产成人综合青青| 亚洲中文字幕无码mv| 视频二区亚洲精品| 欧美伦理一区| 熟妇人妻无乱码中文字幕真矢织江 | 国产99视频精品免费视频7| 亚洲不卡影院| 在线日本国产成人免费的| 一级片免费网站| jizz国产视频| 国产成人无码AV在线播放动漫| 亚洲高清国产拍精品26u| 91免费片| 亚洲一级毛片在线观| 无码电影在线观看| 国产麻豆福利av在线播放| 亚洲成人福利网站| 亚欧美国产综合| 国产精品嫩草影院视频| 精品无码一区二区三区在线视频| 91麻豆精品国产91久久久久| 18禁色诱爆乳网站| 亚洲二三区| 在线免费观看a视频| 亚洲动漫h| 国产第一页屁屁影院| 欧美日韩福利| 亚洲高清资源| 午夜精品久久久久久久99热下载| 国产精品欧美在线观看| 成人午夜视频在线| 国内精自线i品一区202| 亚洲精品无码久久久久苍井空| 色视频久久| 99久久亚洲精品影院| 一级片一区| 一级毛片在线免费视频| 久久综合九九亚洲一区| 欧美成人二区| 91无码人妻精品一区| 香蕉视频在线精品| 午夜毛片免费观看视频 | 国产人成午夜免费看| 青青草原偷拍视频| 亚洲欧洲一区二区三区| 在线播放国产99re| 美女潮喷出白浆在线观看视频| 久久精品中文字幕免费| 色婷婷狠狠干| 成年人福利视频| 亚洲福利网址| 热伊人99re久久精品最新地| 国产综合精品日本亚洲777| YW尤物AV无码国产在线观看| 91青青草视频| 色综合久久综合网| 日本一区中文字幕最新在线| 黄色在线不卡| 毛片网站在线看| 国产系列在线| 伊伊人成亚洲综合人网7777| 最新国产你懂的在线网址| 狠狠色狠狠色综合久久第一次| a级毛片免费看| 1024国产在线| 国产亚洲成AⅤ人片在线观看| 国产91丝袜| 亚洲日韩精品伊甸| 好吊色妇女免费视频免费| 国产欧美精品一区二区| 婷婷激情五月网| 男人的天堂久久精品激情| 日韩大乳视频中文字幕| 又粗又大又爽又紧免费视频| 亚洲天堂视频网站| 国产成人亚洲综合A∨在线播放| 国产亚洲欧美日韩在线一区| 男女猛烈无遮挡午夜视频|