基于用戶(hù)偏好的協(xié)同過(guò)濾推薦算法

楊恒宇, 胡學(xué)鋼, 林耀進(jìn)

(1.合肥工業(yè)大學(xué) 計(jì)算機(jī)與信息學(xué)院,安徽 合肥 230009; 2.安徽省科學(xué)技術(shù)情報(bào)研究所,安徽 合肥 230011; 3.閩南師范大學(xué) 計(jì)算機(jī)學(xué)院,福建 漳州 363000)

基于用戶(hù)偏好的協(xié)同過(guò)濾推薦算法

楊恒宇1,2, 胡學(xué)鋼1, 林耀進(jìn)3

(1.合肥工業(yè)大學(xué) 計(jì)算機(jī)與信息學(xué)院,安徽 合肥 230009; 2.安徽省科學(xué)技術(shù)情報(bào)研究所,安徽 合肥 230011; 3.閩南師范大學(xué) 計(jì)算機(jī)學(xué)院,福建 漳州 363000)

在用戶(hù)的協(xié)同過(guò)濾推薦模型中,用戶(hù)對(duì)項(xiàng)目評(píng)分的偏好行為會(huì)導(dǎo)致計(jì)算用戶(hù)之間的相似性出現(xiàn)偏差,影響推薦的質(zhì)量。文章根據(jù)用戶(hù)的評(píng)分習(xí)慣劃分用戶(hù),利用大間隔尋找用戶(hù)的近似鄰居,提出了一種基于用戶(hù)偏好的協(xié)同過(guò)濾推薦算法,首先引入一種新的相似性度量方法計(jì)算用戶(hù)之間的相似度,再構(gòu)建一種基于用戶(hù)偏好的協(xié)同過(guò)濾推薦模型。實(shí)驗(yàn)結(jié)果表明,該算法能有效提高推薦質(zhì)量。

協(xié)同過(guò)濾;用戶(hù)偏好;大間隔;相似性

0 引 言

Internet技術(shù)的快速發(fā)展增加了Web信息的容量,為用戶(hù)提供有價(jià)值的信息成為電子商務(wù)必須面對(duì)的問(wèn)題。協(xié)同過(guò)濾是推薦系統(tǒng)中的一種流行技術(shù),它能有效地解決信息過(guò)載問(wèn)題,幫助用戶(hù)迅速找到有價(jià)值的信息,過(guò)濾無(wú)用信息[1-5]。其基本思想是依據(jù)用戶(hù)的購(gòu)買(mǎi)記錄、評(píng)分記錄、瀏覽記錄以及標(biāo)注等,推薦給用戶(hù)所需要的信息或者預(yù)測(cè)用戶(hù)對(duì)項(xiàng)目的興趣偏好,以實(shí)現(xiàn)推薦結(jié)果的個(gè)性化。

基于用戶(hù)的協(xié)同過(guò)濾推薦算法利用用戶(hù)間的相似愛(ài)好推薦用戶(hù)目標(biāo),其結(jié)果可解釋性強(qiáng)[6-9],但極端稀疏的數(shù)據(jù)會(huì)影響用戶(hù)近鄰的準(zhǔn)確選擇。針對(duì)該問(wèn)題,文獻(xiàn)[10]利用用戶(hù)-項(xiàng)目評(píng)分矩陣設(shè)計(jì)了以用戶(hù)的信用等級(jí)代替用戶(hù)之間相似度的計(jì)算,實(shí)現(xiàn)更好地尋找目標(biāo)用戶(hù)的近鄰;文獻(xiàn)[11]依據(jù)用戶(hù)過(guò)去評(píng)分的相關(guān)性,有效利用用戶(hù)的評(píng)分習(xí)慣,提高了推薦質(zhì)量;文獻(xiàn)[12]利用用戶(hù)個(gè)體之間和用戶(hù)所處群體之間的相似性,準(zhǔn)確地尋找目標(biāo)用戶(hù)的近鄰;文獻(xiàn)[13]通過(guò)RFM(最近一次消費(fèi)Recency、消費(fèi)頻率Frequency、消費(fèi)金額Monetary)模型分析用戶(hù)行劃分群組,然后基于相似向量比對(duì)用戶(hù)的相似度,提高推薦效率和準(zhǔn)確性;文獻(xiàn)[14]提出了一種有效的針對(duì)稀疏評(píng)分的最近鄰選擇方法,即兩階段最近鄰選擇算法。

用戶(hù)間相似性的準(zhǔn)確刻畫(huà)影響基于用戶(hù)協(xié)同過(guò)濾推薦模型的精度[15-16]。在用戶(hù)的協(xié)同過(guò)濾推薦算法推薦結(jié)果的過(guò)程中,存在用戶(hù)打分偏低或偏高的情況，相似興趣的用戶(hù)也存在評(píng)分不同。本文提出一種基于用戶(hù)偏好的協(xié)同過(guò)濾推薦算法。首先,提出一種啟發(fā)式相似模型以計(jì)算用戶(hù)之間的相似度;其次,構(gòu)建基于用戶(hù)偏好的協(xié)同過(guò)濾推薦系統(tǒng)預(yù)測(cè)結(jié)果;最后,評(píng)估該模型的性能。實(shí)驗(yàn)結(jié)果表明,本文算法能有效提高推薦質(zhì)量。

1 協(xié)同過(guò)濾推薦模型和相似性度量方法

1.1 基于用戶(hù)的協(xié)同過(guò)濾推薦模型

在基于用戶(hù)的協(xié)同過(guò)濾推薦模型中,評(píng)分矩陣R(m,n)包含m個(gè)用戶(hù)的集合User={U1,U2,…,Um}和n個(gè)項(xiàng)目的集合Item={I1,I2,…,In},見(jiàn)表1所列。其中,Ri,j為用戶(hù)Ui(1≤i≤m)對(duì)項(xiàng)目Ij(1≤j≤n)的評(píng)分。

表1 用戶(hù)-項(xiàng)目評(píng)分矩陣

為獲取目標(biāo)用戶(hù)的相似鄰居,需計(jì)算用戶(hù)間的相似度,傳統(tǒng)的相似性度量方法[2-3]主要有:

(1) 相關(guān)相似性(pearson correlation coefficient,PCC)。通過(guò)Pearson相關(guān)系數(shù)度量用戶(hù)之間的相似度,即

sim(Ua,Ub)=

(1)

(2) 余弦相似性(cosine,COS)。通過(guò)向量間的余弦?jiàn)A角度量用戶(hù)之間的相似度,即

sim(Ua,Ub)=cos(Ua,Ub)=

(2)

通過(guò)(1)式或(2)式,可以得到用戶(hù)之間的相似度矩陣。進(jìn)一步利用用戶(hù)之間相似度大小,為目標(biāo)用戶(hù)尋找k個(gè)最相似的鄰居用戶(hù)。最后,對(duì)目標(biāo)用戶(hù)的未評(píng)分項(xiàng)進(jìn)行預(yù)測(cè),其表達(dá)式為:

(3)

1.2 新啟發(fā)式相似性度量算法

傳統(tǒng)的相似性度量算法(PCC和COS)過(guò)分依賴(lài)用戶(hù)間的共同評(píng)分項(xiàng),未從全局考慮用戶(hù)的評(píng)分傾向性。為了更好地度量用戶(hù)之間的相似性,文獻(xiàn)[4]引入新啟發(fā)式相似模型(new heuristic similarity model,NHSM)相似性度量算法。該算法主要體現(xiàn)3個(gè)方面的信息,即用戶(hù)之間評(píng)分差異(PSS)、用戶(hù)之間共同評(píng)分項(xiàng)(Jaccard)、所有用戶(hù)潛在評(píng)分傾向性(URP)。

(1) 新啟發(fā)式相似性度量算法定義如下:

(4)

其中

significance(Ra,k,Rb,k)singularity(Ra,k,Rb,k)]

(5)

proximity(Ra,k,Rb,k)=

(6)

significance(Ra,k,Rb,k)=

(7)

singularity(Ra,k,Rb,k)=1-

(8)

其中,μk為項(xiàng)目k的平均評(píng)分;Ra,k為用戶(hù)Ua對(duì)項(xiàng)目Ik的評(píng)分;Rmed為評(píng)分集合的中位數(shù)。

(2) 利用改進(jìn)的Jaccard系數(shù)來(lái)反映共同評(píng)分項(xiàng)帶來(lái)的影響,定義如下:

(9)

(3) 用戶(hù)潛在的評(píng)分傾向性度量表達(dá)式為:

(10)

2 基于用戶(hù)偏好的協(xié)同過(guò)濾模型

2.1 用戶(hù)偏好

基于用戶(hù)的協(xié)同過(guò)濾推薦算法是利用用戶(hù)之間的相互作用,通過(guò)尋找最相似的k鄰居來(lái)輔助目標(biāo)用戶(hù)預(yù)測(cè)未評(píng)分項(xiàng)。但用戶(hù)在評(píng)分時(shí)存在偏好行為,存在用戶(hù)打分偏低或偏高的情況，相似興趣的用戶(hù)也存在評(píng)分不同。因此,在為目標(biāo)用戶(hù)尋找近似鄰居時(shí),根據(jù)目標(biāo)用戶(hù)的偏好行為尋找近鄰,可提高推薦質(zhì)量。本文設(shè)定不同偏好用戶(hù)群體用戶(hù)數(shù)量平衡,根據(jù)用戶(hù)對(duì)項(xiàng)目的評(píng)分值,設(shè)定閾值p,將用戶(hù)劃分為高評(píng)用戶(hù)(偏向打高分的用戶(hù))和低評(píng)用戶(hù)(偏向打低分的用戶(hù))。其中,閾值p由評(píng)分矩陣確定,即

(11)

給定用戶(hù)對(duì)項(xiàng)目的實(shí)際評(píng)分矩陣見(jiàn)表2所列,評(píng)分為5分制。其中,矩陣的行表示用戶(hù);列表示項(xiàng)目。根據(jù)(11)式,可以計(jì)算出閾值p=3.06。將每個(gè)用戶(hù)的平均評(píng)分和閾值p比較,用戶(hù)U1、U3、U5被劃分為高評(píng)用戶(hù),其他3個(gè)用戶(hù)歸類(lèi)為低評(píng)用戶(hù)。本文以Movielens數(shù)據(jù)集為例,對(duì)閾值p在[3，4]區(qū)間的用戶(hù)數(shù)進(jìn)行統(tǒng)計(jì),用戶(hù)評(píng)分分布情況如圖1所示。其中,橫坐標(biāo)表示閾值p,縱坐標(biāo)表示平均評(píng)分大于閾值p的用戶(hù)占所有用戶(hù)的比例。如p取值為3,平均評(píng)分大于閾值p的用戶(hù)占所有用戶(hù)百分比高于90%。

表2 用戶(hù)-項(xiàng)目實(shí)際評(píng)分矩陣

圖1 Movielens數(shù)據(jù)集中用戶(hù)評(píng)分分布情況

2.2 基于用戶(hù)偏好的協(xié)同過(guò)濾推薦模型

為更精準(zhǔn)地尋找目標(biāo)用戶(hù)的近似鄰居,本文利用目標(biāo)用戶(hù)的偏好行為,設(shè)計(jì)了一種基于大間隔尋找目標(biāo)用戶(hù)近鄰的算法。大間隔方法不僅能夠獲取與目標(biāo)用戶(hù)更加相似的鄰居,而且能夠自適應(yīng)地確定目標(biāo)用戶(hù)的近鄰個(gè)數(shù)。

定義1 設(shè)目標(biāo)用戶(hù)Ua的同偏好用戶(hù)群體為s,不同偏好群體為d,則目標(biāo)用戶(hù)Ua與其他用戶(hù)Ub的相似度定義式如下:

若maxsim(Ua,Ub)s>maxsim(Ua,Ub)d,則

maxsim(Ua,Ub)d|+maxsim(Ua,Ub)s

(12)

若maxsim(Ua,Ub)s≤maxsim(Ua,Ub)d,則

(13)

基于大間隔尋找近鄰的主要思想是:通過(guò)設(shè)計(jì)一種新的相似性度量公式,使用戶(hù)空間中與目標(biāo)用戶(hù)相同偏好的近鄰屬于同一類(lèi)別,不同偏好的用戶(hù)與目標(biāo)用戶(hù)盡量區(qū)分開(kāi)。這體現(xiàn)了用戶(hù)潛在的偏好行為,縮小有相同偏好用戶(hù)之間的距離,增大不同偏好用戶(hù)之間的距離。相比于其他許多改進(jìn)的協(xié)同過(guò)濾推薦算法,該算法能自動(dòng)確定近鄰個(gè)數(shù),提高推薦效率。

定義2 給定目標(biāo)用戶(hù)Ua和其他用戶(hù)Ub的相似度sim(Ua,Ub),則新的相似性公式為:

Newsim(Ua,Ub)=

(14)

根據(jù)定義2計(jì)算獲得目標(biāo)用戶(hù)的近似鄰居,對(duì)目標(biāo)用戶(hù)未評(píng)分項(xiàng)進(jìn)行預(yù)測(cè),表達(dá)式為:

(15)

2.3 算法

根據(jù)2.2節(jié)中的基于用戶(hù)偏好的協(xié)同過(guò)濾模型,設(shè)計(jì)基于用戶(hù)偏好的協(xié)同過(guò)濾算法流程如下:

(1) 輸入用戶(hù)-項(xiàng)目評(píng)分矩陣R(m,n),取所有用戶(hù)評(píng)分的平均評(píng)分,通過(guò)(11)式設(shè)定閾值p,將用戶(hù)分為高評(píng)用戶(hù)和低評(píng)用戶(hù)。

(2) 通過(guò)(4)式,利用NHSM相似性度量方法計(jì)算用戶(hù)之間的相似度,獲得用戶(hù)間的相似度矩陣。

(3) 利用定義1計(jì)算目標(biāo)用戶(hù)與其他用戶(hù)的相似度。

(4) 利用(14)式得到用戶(hù)間新的相似度矩陣。

(5) 根據(jù)(15)式預(yù)測(cè)目標(biāo)用戶(hù)Ut在項(xiàng)目Ii上的評(píng)分Pt,i。

3 實(shí)驗(yàn)結(jié)果及分析

3.1 數(shù)據(jù)集

采用公開(kāi)的Movielens和Jester-data-2數(shù)據(jù)集驗(yàn)證本文算法。Movielens數(shù)據(jù)集包含943個(gè)用戶(hù)在1 682個(gè)電影上的評(píng)分,其中每個(gè)用戶(hù)至少對(duì)20部電影有評(píng)分記錄;Jester-data-2數(shù)據(jù)集包含1 582個(gè)用戶(hù)在100個(gè)笑話(huà)上的評(píng)分,其中每個(gè)用戶(hù)至少對(duì)1個(gè)笑話(huà)有評(píng)分記錄,數(shù)據(jù)集的詳細(xì)信息見(jiàn)表3所列。

為保證實(shí)驗(yàn)結(jié)果的無(wú)偏性,數(shù)據(jù)集分成訓(xùn)練集和測(cè)試集,訓(xùn)練集占整個(gè)數(shù)據(jù)集的80%,其余20%數(shù)據(jù)作為測(cè)試集。整個(gè)過(guò)程采用五折交叉驗(yàn)證方法,測(cè)試集之間是互斥的,并且有效地覆蓋了整個(gè)數(shù)據(jù)集。

表3 數(shù)據(jù)描述

3.2 度量指標(biāo)

本文評(píng)價(jià)推薦質(zhì)量的度量指標(biāo)包括平均絕對(duì)誤差(mean absolute error,MAE)和覆蓋率(Coverage)。MAE是一種常見(jiàn)的度量指標(biāo),通過(guò)計(jì)算預(yù)測(cè)的用戶(hù)評(píng)分和實(shí)際用戶(hù)評(píng)分之間的偏差來(lái)度量預(yù)測(cè)的準(zhǔn)確性,MAE值越小,推薦質(zhì)量越好;Coverage用來(lái)衡量一個(gè)算法能夠預(yù)測(cè)的項(xiàng)目占所有項(xiàng)目的百分比,Coverage值越大,推薦質(zhì)量越好。

設(shè)有n個(gè)項(xiàng)目,用戶(hù)的實(shí)際評(píng)分集合為r={r1,r2,…,rn},預(yù)測(cè)的用戶(hù)評(píng)分集合為p={p1,p2,…,pn},s表示p集合中有評(píng)分的個(gè)數(shù),則度量指標(biāo)MAE和Coverage分別表示為:

3.3 實(shí)驗(yàn)結(jié)果分析

將本文算法(Large margin-NHSM-CF)與基于Pearson相關(guān)系數(shù)的協(xié)同過(guò)濾(collaborative filtering based on pearson correlation coefficient,PCC-CF)算法、基于cosine相似性的協(xié)同過(guò)濾(collaborative filtering based on cosine,COS-CF)算法和基于NHSM相似性的協(xié)同過(guò)濾推薦(collaborative filtering base on new heuristic similarity model,NHSM-CF)算法在算法性能上進(jìn)行比較。

在Movielens數(shù)據(jù)集上,MAE和Coverage隨近鄰數(shù)k變化而變化的情況如圖2所示,其中近鄰數(shù)k在10～100之間變動(dòng)。

由圖2可以看出,NHSM-CF算法的MAE值比COS-CF和PCC-CF的都小,Coverage的值相對(duì)較大。

圖2 Movielens數(shù)據(jù)集上的MAE和Coverage值

在Jester-data-2數(shù)據(jù)集上MAE和Coverage的變化情況如圖3所示。

由圖3可以看出,NHSM-CF的MAE值比COS-CF和PCC-CF的小,Coverage值較大。因此可以得出,NHSM-CF的推薦質(zhì)量?jī)?yōu)于COS-CF和PCC-CF。

由圖2和圖3可知,無(wú)論近鄰數(shù)k如何變化,Large margin-NHSM-CF的MAE和Coverage都能夠取相對(duì)穩(wěn)定的值。這是由于在利用大間隔確定目標(biāo)用戶(hù)與其他用戶(hù)的相似度時(shí),k的取值對(duì)推薦結(jié)果的影響較小。在Movielens數(shù)據(jù)集上,Large margin-NHSM-CF的MAE值都比NHSM-CF的小,Coverage值都比NHSM-CF大。同樣,在Jester-data-2數(shù)據(jù)集中,MAE和Coverage的變化情況與Movielens數(shù)據(jù)集呈現(xiàn)相同的規(guī)律。

因此,本文算法優(yōu)于NHSM-CF算法,進(jìn)一步提高了協(xié)同過(guò)濾系統(tǒng)的推薦質(zhì)量,驗(yàn)證了基于用戶(hù)偏好的協(xié)同過(guò)濾推薦算法的有效性。

圖3 Jester-data-2數(shù)據(jù)集上的MAE和Coverage值

4 結(jié) 論

協(xié)同過(guò)濾是目前推薦系統(tǒng)中一種流行的推薦技術(shù)。近年來(lái)由于Web數(shù)據(jù)量的急劇增加,協(xié)同過(guò)濾技術(shù)在為用戶(hù)提供個(gè)性化服務(wù)方面起到了越來(lái)越重要的作用。本文從用戶(hù)偏好角度出發(fā),在評(píng)分?jǐn)?shù)據(jù)稀疏的情況下,提出了一種新的相似性度量方法計(jì)算用戶(hù)之間的相似度，構(gòu)建了一種基于用戶(hù)偏好的協(xié)同過(guò)濾推薦模型,減少了預(yù)測(cè)結(jié)果的偶然性。實(shí)驗(yàn)結(jié)果表明,與其他算法相比,本文算法能夠更加精確地度量用戶(hù)間的相似度,提高推薦質(zhì)量。

[1] BREESE J S,HECKERMAN D,KADIE C.Empirical analysis of predictive algorithms for collaborative filtering[C]//Proceeding of the 14th Conference on Uncertainty in Artificial Intelligence.San Francisco:Morgan Kaufmann Publishers Inc.,1998:43-52.

[2] ADOMAVICIUS G,TUZHILIN A.Toward the next generation of recommender systems:a survey of the state-of-the-art and possible extensions[J].IEEE Transactions on Knowledge and Data Engineering,2005,17(6):734-749.

[3] RESNICK P,IACOVOU N,SUCHAK M,et al.GroupLens:an open architecture for collaborative filtering of netnews[C]//ACM Conference on Computer Supported Cooperative Work.New York:ACM,1994:175-186.

[4] LIU H F,HU Z,MIAN A,et al.A new user similarity model to improve the accuracy of collaborative filtering [J].Knowledge-Based Systems,2014,56(3):156-166.

[5] LINDEN G,SMITH B,YORK J.Amazon.com recommendations:item-to-item collaborative filtering[J].IEEE Internet Computing,2003,7(1):76-80.

[6] HOFMANN T.Latent semantic models for collaborative filtering[J].ACM Transactions on Information Systems,2004,22(1):89-115.

[7] KIM H N,EL-SADDIK A,JO G S.Collaborative error-reflected models for cold-start recommender systems[J].Decision Support Systems,2011,51(3):519-531.

[8] SYMEONIDIS P,NANOPOULOS A,PAPADOPOULOS A N,et al.Collaborative recommender systems:combining effectiveness and efficiency[J].Expert Systems with Applications,2008,34(4):2995-3013.

[9] BLBADILLA J,HEMANDO A,ORTEGA F,et al.Collaborative filtering based on significances[J].Information Sciences An International Journal,2012,185(1):1-17.

[10] JEONG B,LEE J,CHO H.User credit-based collaborative filtering[J].Expert Systems with Applications,2009,36(3):7309-7312.

[11] HUETE J F,NDEZ-LUNA J M,DE CAMPOS L M,et al.Using past-prediction accuracy in recommender systems[J].Information Sciences,2012,199(15):78-92.

[12] 林耀進(jìn),胡學(xué)鋼,李慧宗.基于用戶(hù)群體影響的協(xié)同過(guò)濾推薦算法[J].情報(bào)學(xué)報(bào),2013,32(3):299-305.

[13] 李鵬,于曉洋,孫渤禹.基于用戶(hù)群組行為分析的視頻推薦方法研究[J].電子與信息學(xué)報(bào),2014,36(6):1485-1491.

[14] 冷亞軍,梁昌勇,丁勇,等.協(xié)同過(guò)濾中一種有效的最近鄰選擇方法[J].模式識(shí)別與人工智能,2013,26(10):968-974.

[15] 黃創(chuàng)光,印鑒,汪靜,等.不確定近鄰的協(xié)同過(guò)濾推薦算法[J].計(jì)算機(jī)學(xué)報(bào),2010,33(8):1369-1377.

[16] 鄧愛(ài)林,朱揚(yáng)勇,施伯樂(lè).基于項(xiàng)目評(píng)分預(yù)測(cè)的協(xié)同過(guò)濾推薦算法[J].軟件學(xué)報(bào),2003,14(9):1621-1628.

(責(zé)任編輯 胡亞敏)

Collaborative filtering recommendation algorithm based on user preference

YANG Hengyu1,2, HU Xuegang1, LIN Yaojin3

(1.School of Computer and Information, Hefei University of Technology, Hefei 230009, China; 2.Anhui Institute of Scientific and Technical Information, Hefei 230011, China; 3.School of Computer Science, Minnan Normal University, Zhangzhou 363000, China)

Users have different rating preference in the model of the user-based collaborative filtering recommendation, and the preference behavior leads to the deviation of calculating the similarity among users. Consequently, the recommendation quality of systems is restricted. On this basis, all users are divided into different groups according to user’s preference behavior, and the method of large margin is presented to define user’s neighborhood, and an algorithm of collaborative filtering recommendation based on user preference is proposed. Firstly, the similarity among users is calculated by introducing a new similarity measure method. Then a model of collaborative filtering recommendation based on user preference is constructed. Finally, the experimental results show that the proposed algorithm can improve the recommendation quality effectively.

collaborative filtering; user preference; large margin; similarity

2016-03-10

國(guó)家重點(diǎn)基礎(chǔ)研究發(fā)展計(jì)劃(973計(jì)劃)資助項(xiàng)目(2013CB329604)；國(guó)家自然科學(xué)基金資助項(xiàng)目(61273292)和安徽省科技廳年度重點(diǎn)科研資助項(xiàng)目(1301023012)

楊恒宇(1973-)，男，安徽泗縣人，合肥工業(yè)大學(xué)博士生，安徽省科學(xué)技術(shù)情報(bào)研究所研究員； 胡學(xué)鋼(1961-)，男，安徽當(dāng)涂人，博士，合肥工業(yè)大學(xué)教授，博士生導(dǎo)師.

10.3969/j.issn.1003-5060.2017.05.009

TP391.3

A

1003-5060(2017)05-0619-06