基于全域市場數據感知的終端客戶推薦①

何利力,張 星

(浙江理工大學 信息學院,杭州 310018)

隨著“互聯網+”的快速推進,大型制造商在投入巨大資金建設大數據的同時也面臨著數據因多源化而變得分散難以管理的難題.如何有效融合PC 端,移動端及線下數據等多渠道采集的客戶信息,將大量的不統一的數據碎片通過數據挖掘匯聚成可視化的整體并從中發現其個性化需求變得更加困難.為了走出因多源數據而產生的數據孤島的困局,大型制造商力圖通過建設全域市場數據體系打通跨屏,多源數據間的障礙,實現以全域市場數據來驅動業務,讓數據發揮更大價值.為了尋找最佳目標客戶實現產品精準投放提高營銷利潤,開發智能化的終端客戶推薦系統成為解決這一難題的有效手段,近年來受到學術界和工業界的廣泛關注.

目前使用的推薦系統絕大部分是基于協同過濾技術的推薦.它是一種基于用戶偏好且對所有用戶無差別的推薦,這可能導致大型制造商在獲利甚微的客戶身上投入不適當的成本.營銷活動的持續開展使得新生產品日益豐富,每個產品在進行選戶投放時可能存在眾多銷量一樣而客戶屬性相差巨大的不同客戶候選集,制造商不可能通過將產品均衡投放到所有客戶的方式開展系列營銷活動,這就導致了用戶-產品矩陣非常稀疏.因此,利用推薦系統預測評分矩陣中的缺失項為目標產品尋找機會點,并將結果以個性化列表的形式推薦給客戶經理成為了一項挑戰.

針對目前客戶推薦方法所造成的推薦效果差和營銷成本大的問題,本文提出了一種基于全域市場數據感知的終端客戶推薦方法.首先通過采集全國范圍內的客戶訂單交易數據對客戶進行全方位價值評估,然后利用子空間分解的方法對各個區域內產品的購買情況進行分析,通過構建區域特色系數對客戶購買產品情況進行衡量,最后結合客戶自身價值與區域特色系數構建全域用戶項目評分矩陣.在此基礎上,利用基于耦合對象相似度的推薦算法計算各個客戶之間的相似度,深度挖掘全域市場下不同客戶之間的隱式關聯,為大型制造商推薦最佳目標客戶.

1 協同過濾推薦算法

在個性化推薦領域,協同過濾(Collaborative Filtering,CF)[1,2]雖然是使用最廣泛的技術之一,但由于其存在嚴重的項目稀疏性和冷啟動問題,使得大量的學者針對此進行不斷研究.Lika 等[3]提出了一種利用已知分類算法創建用戶組,并結合語義相似性技術識別相似行為用戶的方法緩解冷啟動問題.Ji 等[4]提出了一種利用因子矩陣分解模型,結合用戶和項目的內容信息來緩解冷啟動問題的推薦算法.Forsati 等[5]提出了一種動態微調正則化參數的矩陣分解算法被廣泛關注并證明了矩陣分解推薦算法的有效性.

矩陣分解算法(Matrix Factorization,MF)[6,7]是利用降維的思想將用戶項目矩陣分解為用戶隱特征向量矩陣和項目隱特征向量矩陣,然后通過兩個隱特征向量矩陣的點積計算預測評分矩陣的缺失項.其中典型的矩陣分解算法包括:概率矩陣分解(Probabilistic Matrix Factorization,PMF)[8],最大間隔矩陣分解(Maximum Margin Matrix Factorization,MMMF)[9],非負矩陣分解(Nonnegative Matrix Factorization,NMF)[10],正則化奇異值分解(Regularization Singular Value Decomposition,RSVD)[11],貝葉斯概率矩陣分解(Bayesian Probabilistic Matrix Factorization,BPMF)[12],SVD++[13]等.但用戶項目評分矩陣的稀疏性造成的項目冷啟動問題仍然是目前亟待解決的問題,為了進一步提高推薦算法的有效性,近年來已有不少學者提出利用不同類型的信息源來解決項目冷啟動問題.Yang 等[14]提出了一種社交信任網絡的矩陣分解模型,利用額外的信任數據來解決這一問題.Gurini 等[15]提出了一種融合情感分析的在社交網絡推薦算法,在矩陣因子分解過程中利用在社交平臺所生成的內容中提取到的用戶情感信息,為目標用戶推薦要關注的偏好用戶.

區別于基于簡單相似匹配(SMS)[16]衡量客戶相似性的推薦算法,本文在矩陣分解時利用耦合對象相似度(Coupled Object Similarity,COS)[17,18]捕獲客戶屬性信息來改善推薦效果.通過目標約束條件,利用客戶屬性信息約束矩陣分解的過程來學習客戶間的隱特征關系,使推薦結果更具可解釋性.

1.1 傳統的矩陣分解方法

矩陣分解模型將用戶和項目映射到維度為K的低維聯合隱特征空間,而用戶-項目交互信息可以被建模為該空間中的內積.每個用戶u對應于一個列向量Pu∈Rk,每個項目i對應于一個行向量Qi∈Rk.對于一個給定的用戶u,Pu的元素度量了這個用戶對相應的項目特征的偏好程度.對于給定的項目i,Qi的元素度量了該項目擁有這些特征的程度.m個用戶和n個項目分別形成用戶隱特征矩陣P∈Rk和項目隱特征矩陣Q∈Rk.其內積PTu Qi就是用戶u對項目i交互的建模.因此,若給定特征向量維數K,用戶-項目評分矩陣可分解為P和Q兩部分:

通過用戶對項目的評分數據,最小化目標函數學習隱特征矩陣P和Q,目標函數定義如下:

1.2 耦合對象相似度

借鑒文獻[17],客戶u和客戶u′之間的相似度定義如下:

其中,ui,u′i是客戶u和u′在特征i上的屬性值,δiA為耦合屬性值相似度(Coupled Attribute Value Similarity,CAVS).

耦合屬性值相似度(CAVS)形式化的由IaAVS和IeAVS 兩部分組成.其中IaAVS 表示特征內耦合屬性值相似度,IeAVS 表示特征間耦合屬性值相似度.

特征i上屬性值ui和u′i之間的耦合屬性值相似度定義如下:

其中,δIia表示特征內耦合屬性值相似度(IaAVS),δIie表示特征間耦合屬性值相似度(IeAVS).

特征內耦合屬性值相似度(IaAVS)度量屬性值相似度從頻率分布角度刻畫屬性值間的相似度,其在計算相似度時僅考慮了同一特征ai內 的屬性值ui和u′i之間的相互關系,定義如下:

其中,ak是特征ak(k≠i)下的第k個屬性的權重參數.是 屬性值ui和u′i在特征ak(k≠i)下的特征間耦合屬性值相似度,定義如下:

其中,∩表示特征ai取屬性值ui條件下特征ak的屬性值的所有取值集合與特征ai取屬性值u′i條件下特征ak的屬性值得所有取值集合的交集.Pk|i({w}|ui)和Pk|i({w}|u′i)是信息條件概率,其定義如下:

其中,Pk|i({w}|ui)描 述了特征ai取 屬性值ui條件下,特征ak取值w的屬性值分布特征.

2 基于全域市場數據感知的推薦算法

全域市場數據感知推薦方法是一種從數據源頭進行全面的整體趨勢和性能分析,對全國范圍內的客戶評估其總體價值,然后通過域子空間分解的方法,對各個區域客戶購買產品情況進行分析構建初始的用戶-項目評分矩陣,最后融合全域客戶價值和各區域初始評分得到最終的全域用戶項目評分矩陣.

2.1 全域用戶項目評分矩陣

區別于產品推薦在協同過濾算法中的輸入,本文提出的全域用戶項目評分矩陣由兩部分構成:1)利用全國范圍內的客戶訂單交易數據評估客戶的總體價值;2)根據某一區域內的客戶訂單交易數據以及該區域的特色構建初始評分矩陣;最后,融合1)和2)計算的結果作為全域用戶項目評分矩陣.

假設用vu表 示客戶u在全域范圍內其自身的價值.借鑒文獻[19],利用RFM 模型通過對客戶最近消費時間R,消費頻率F以及消費金額M記錄來計算客戶價值.其中,R(Recency)表示客戶最近一次交易時間的間隔;F(Frequency)表示客戶在給定的時段內消費的次數;M(Monetary)表示客戶在給定的時段內總共消費的金額數.

在RFM 模型中,對于時間間隔R來說,當客戶最近一次交易時間的間隔越短時,則R值越大,客戶在短時間內也最有可能產生新的消費行為.隨著R的不斷增大,客戶的相關信息也越來越完善,因為隨著時間間隔的不斷縮短,客戶再次購買產品的可能性會逐漸變大.對于消費頻率F來說,消費頻率與客戶忠誠度成正比,客戶消費頻率越高,說明該客戶的忠誠度也越高,為制造商創造的價值也越大.對于消費金額M來說,它是客戶對制造商貢獻值大小的最直接體現方式,消費金額越大,說明客戶為制造商帶來的價值也越大.通過以上分析,使用RFM 模型從時間間隔,消費頻率和消費金額3 個維度描述客戶的消費行為,可以較好的體現出客戶為制造商所創造的現實價值,也就是客戶自身價值.

根據客戶在最近一年內的購買行為,利用RFM 模型計算客戶價值的過程如下:

1)獲取客戶最近一年內消費時間R,消費頻率F,消費金額M這3 個行為指標;

2)R,F,M按照其對大型制造商收益的貢獻值大小將數據區間從高到低分別用5,4,3,2,1 進行賦值;

3)采用z-score 標準化(zero-mean normalization)對RFM 模型的指標數據進行標準化處理;

4)利用層次分析法(Analytic Hierarchy Process,AHP)對RFM 模型的指標權重進行評估;

5)RFM 模型中在已知R,F,M3 個指標權重分別為a,b,c的情況下,計算客戶價值vu:

與此同時,通過域子空間分解的方法,先將全國范圍內的客戶數據按省,市進行歸類,然后利用市內POI 數據分布的特點,將客戶劃分到旅游區域,商業區域,辦公區域等不同的區域內.根據不同區域客戶購買產品的數量指標不同,本文提出用區域特色系數來衡量客戶購買產品情況.

對于市內的兩個不同區域(如商業區域和旅游區域),位于商業區的客戶占有地理位置優勢,平時客流量大,此區域內的客戶訂單量大且購買產品的頻次高,制造商對該區域的偏好程度也大.而位于旅游區的客戶受季節性因素影響,平時客流量小,只有在旅游旺季產品購買量才會有明顯上升.為了描述這種因區域因素造成的客戶購買產品情況的差異,本文使用片區域特色系數表示市內不同區域購買產品的整體差異.片區域特色系數是將市內各區域的客戶購買量與該市的所有客戶總購買量做比值運算,比值越高的區域,客戶整體購買量也越高,制造商對該區域的偏好程度也越大.與此類似,為了描述省內因城市內部因素造成的客戶購買產品情況的差異,本文使用市區域特色系數表示省內不同城市購買產品的整體差異,用各個城市的客戶購買量與該省所有客戶的購買量的比值表示制造商對該城市的偏好程度.為了描述全國因各省份內部因素造成的客戶購買產品情況的差異,本文使用省區域特色系數表示全國各省份購買產品的整體差異,用各個省份的客戶購買量與全國所有客戶的購買量的比值表示制造商對該省份的偏好程度.在某一片區域內,則由客戶自身購買產品的數量與該區域的客戶購買產品總量的比值表示客戶在片區域內與其他客戶購買產品的差異,用客戶購買量系數來表示.基于以上討論,本文使用客戶所在區域,所處城市和所屬省份計算得到片區域特色系數,市區域特色系數和省區域特色系數,加上客戶購買量系數表示全國范圍內客戶購買產品情況,并以此構建初始的用戶-項目評分矩陣:

其中,ru,i表示用戶u對 項目i的 初始評分.μ表示區域特色系數,計算過程如下:

1)計算全國客戶總的購買量Ng,省內客戶的購買量Ns,市內客戶的購買量Nc,片區域內客戶的購買量Np,客戶u的購買量Nu;

2)計算省區域特色系數 μs=Ns/Ng,市區域特色系數μc=Nc/Ns,片區域特色系數μp=Np/Nc和客戶u的購買量系數μu=Nu/Np;

3)采用z-score 標準化對μs,μc,μp和 μu分別進行標準化處理,得到和;

最后,本文給出用戶u對 項目i的最終評分:

其中,α=1/log(1+N(i)),表示用戶-項目評分的平衡因子,vu表 示客戶u的 自身價值,ru,i表示用戶-項目的原始評分,N(i)表 示客戶購買產品的數量,N(i)越小,表示該客戶購買的產品數量越少,同時l og(1+N(i))的值越小,α的值就越大.對于新客戶來說,其購買產品的數量很小,平衡因子 α的值就會越大,此時用戶-項目的評分基本上是由客戶自身價值來決定,這在一定程度上解決了推薦系統冷啟動問題.

2.2 基于全域市場數據感知的推薦算法框陣

基于全域市場數據感知的推薦算法(Global Market Data Perception Matrix Factorization,GMF)是利用客戶屬性信息約束矩陣分解的過程,緩解推薦系統冷啟動問題.本文利用客戶屬性信息構建客戶關系正則化項,并假設當客戶u和u′的屬性信息相似時,他們隱特征向量pu和pu′也盡可能相似.

根據文獻[20],利用與已知評分的最小平方逼近誤差,定義損失函數為:

其中,Iu,i是指示函數,等于1 是表示客戶u購買過產品i,等于0 時表示客戶u未購買過產品i,Ru,i是已知評分矩陣.

為解決過擬合問題,本文在上述模型的基礎上加入低秩分解因子的范數 ∥P∥2F和∥Q∥2F對P和Q的訓練過程進行控制,使模型分解保持穩定.考慮到客戶之間的不同,在損失函數中加入正則化約束項和偏置項信息:

其中,c os(u,u′)表示基于屬性信息的客戶u和u′間的相似度,pu和pu′ 表示分別客戶u和u′的特征向量,β 表示先驗參數,用于衡量客戶相似度信息對矩陣分解約束的強度,該值越大,說明客戶相似度的增強對于客戶潛在特征表示越重要,λ1,λ2,λ3>0表示正則項的調節參數,其作用是防止過擬合.

3 實驗分析

為了驗證所提出的推薦算法的準確性,本文在大型制造商真實數據集上進行了實驗.

3.1 實驗數據

由于本文使用的數據來自多個渠道(如國家統計局,營銷人員走訪客戶采集,相關并行系統以及互聯網等),因此需要先將數據清洗操作,然后將多數據源進行實體唯一,屬性唯一,編碼取值統一及數據全鏈路的全域一致性處理,最后集成到數據中臺.最后從數據中臺中收集2018年全國范圍內的客戶基本數據及訂單交易數據,進行實驗研究.其中,數據庫客戶訂單交易部分字段如表1所示.

3.2 評價指標

本文選擇平均絕對誤差(Mean Absolute Error,MAE)和均方根誤差(Root Mean Squared Error,RMSE)兩種評價指標來評估推薦算法的質量.下面是兩種誤差的計算方法:

其中,ru,i和分別表示實際的評分值和推薦預測的評分值,T表示測試數據集大小.MAE或RMSE的值越小,推薦算法的推薦質量越高.

表1 客戶訂單交易部分字段示例

3.3 實驗過程與結果分析

3.3.1 RFM 客戶聚類實驗

為了驗證利用客戶最近消費時間,消費頻率以及消費金額3 個因素計算客戶價值的合理性,我們利用K-Means 聚類算法進行驗證.

通過層次分析法計算得到R參數權重a為–0.287,F參數權重b為0.548,M參數權重c為0.165.將RFM各參數作為聚類變量,利用K-Means 聚類算法將客戶分為5 類后,分別計算這5 類客戶的R參數,F參數及M參數的平均值,將其代入式(8)中,可得用戶分類結果如表2所示.

表2 RFM 模型客戶分類結果

通過指標分析可將客戶分為監管戶,流失戶,價值戶,連鎖戶和核心戶5 種類別.從分類結果呈現非線性聚集和客戶分類的精準度可以看出,利用RFM 模型計算客戶價值可有效區分各不同類別客戶購買產品能力的差異.

3.3.2 區域特色系數的影響實驗

為了驗證區域特色系數在用戶對項目最終評分準確度的影響,我們將未加入區域特色系數前和加入區域特色系數后的用戶項目評分進行了對比.

由圖1可知,未加入區域特色系數前的用戶項目評分大多集中在2–3 分之間,而加入區域特色系數以后的用戶項目評分在1–2,2–3 和3–4 間的比例均有增加,消除了因客戶價值導致的項目評分趨于一致性的問題,使得用戶-項目評分更加準確.

圖1 加入區域特色系數前后的客戶比

3.3.3 與經典方法的對比實驗

為了驗證基于全域市場數據感知算法的有效性,本文選擇以下經典方法在MAE和RMSE兩個指標上進行對比實驗:

(1)PMF[8]:該方法僅考慮用戶對物品的評分信息進行概率矩陣分解預測缺失項.

(2)MMMF[9]:該方法引入計算序數回歸排序損失函數進行矩陣分解模型預測缺失項.

(3)NMF[10]:該方法限定在訓練學習過程中隱特征向量更新僅包含非負項進行矩陣分解預測缺失項.

(4)RSVD[11]:該方法基于SVD 模型中引入正則化項進行奇異值分解預測缺失項.

(5)BPMF[12]:該方法使用馬爾科夫鏈蒙特卡洛方法進行近似推理預測缺失項.

(6)SVD++[13]:該方法同時考慮偏置信息以及用戶隱式反饋信息進行矩陣分解預測缺失項.

為了公平比較,我們根據各個對比算法的參考文獻或者實驗結果設置對比算法的參數.在這些參數設置下,各對比算法取得最佳性能.我們設置λ1=λ2=λ3=0.01,學習率 η=0.005,同時,我們將處理后的數據集每次隨機抽取80% 的數據作為訓練數據,剩下的20% 的數據作為測試數據進行5 折交叉驗證.最后,取5 次不同測試數據集上運行結果的平均值作為實驗的MAE和RMSE的最終結果.實驗結果如表3所示.

表3 GMF 與其他算法質量對比

(1)實驗參數K的影響

隱特征向量的維數K的取值對推薦算法的性能有很大影響,在實驗中,本文將K初始值設置為5,同時設置步長為5,直至K值遞增到50.

實驗結果如圖2和圖3所示.

圖2 K 對MAE 的影響

圖3 K 對RMSE 的影響

當K小于15 時,推薦算法隨著K的增加其質量不斷提高,但當K大于15 以后繼續增加K的值推薦算法的質量不再提高.這說明隱特征數量的增加會在一定范圍內提高推薦算法質量,一旦超過某一閾值以后可能就不會再提高推薦算法的質量.造成這一現象的原因可能是本文所選的數據集在K大于15 以后用戶和項目的隱特征向量已經能夠很好的刻畫其隱特征,而繼續增加K的值反而會因為噪音的影響降低了推薦算法的質量.

(2)實驗參數β 的影響

β控制著GMF 算法中的客戶的屬性信息對學習隱特征向量的影響.若 β=1時,客戶隱特征向量將直接與它鄰居的特征向量相似,忽略了評分數據的影響;若β=0時,僅使用評分信息進行矩陣分解預測缺失評分.本文在大型制造商數據集上,設置隱特征向量維度K為10,β的值從0 到1 并以步長0.1 的間隔逐漸增加.實驗結果如圖4和圖5所示,隨著 β

值的增長,MAE和RMSE的值先下降后遞增.這說明 β的值一旦超過某一閾值后,推薦算法的性能就會下降.也就是說,不依賴或完全依賴客戶屬性信息都會使得推薦系統性能下降,推薦結果不可靠.

圖4 β 對MAE 的影響

圖5 β 對RMSE 的影響

(3)冷啟動對推薦系統性能的影響

為了驗證利用客戶自身價值計算用戶-項目的評分緩解推薦系統冷啟動問題的有效性,我們根據項目的評分數量對數據集進行分組后,在每個組上與其他推薦算法做對比分析.

在所選取的大型制造商35 萬數據集上,先根據項目的評分數量情況分成了6 組,分別是“0”,“1–20”,“21–40”,“41–80”,“81–160”,“>160”,然后對分組后的數據集上進行對比實驗.實驗結果如圖6和圖7所示,從圖中可以看出,本文使用客戶自身價值計算用戶項目評分在6 組實驗中均有好的推薦效果,特別是在評分少的項目上效果比較明顯,說明在一定程度上緩解了推薦系統冷啟動問題.為了進一步解決冷啟動項目對推薦系統性能的影響,對于新用戶將通過以用戶所在地理位置為圓心,向外進行雷達擴散式尋找周邊近距離的客戶進行推薦.隨著評分數量的增多,GMF 方法相比其他推薦方法的仍然有一定的優勢.這是因為本文使用在矩陣分解推薦算法的過程中考慮了耦合對象相似來捕獲客戶間的屬性特征,從而產生更加可靠的推薦結果.

圖6 評分數量對MAE 的影響

圖7 評分數量對RMSE 的影響

4 結論與展望

本文提出一種基于全域市場數據感知的推薦方法GMF 尋找最佳目標客戶.首先根據客戶訂單交易數據及客戶屬性信息獲取原始用戶-項目評分矩陣和客戶自身價值,然后在兩者間引入平衡因子 α通過歸一化處理后得到最終的用戶-項目評分矩陣.再根據用戶屬性通過耦合對象相似度計算客戶間的相似度為產品尋找目標客戶.在大型制造商數據集上進行的實驗表明,本文提出的算法在準確性上優于當前流行的典型推薦算法.同時,在大型制造商精準營銷實踐中的結果表明:利用本文提出的GMF 方法效益提升了26.8%.

在后續的研究中,將針對RFM 模型進行進一步研究,因為RFM 模型中3 個指標描述的是客戶的行為特征,并不能代表客戶的大多數行為,為了更好的衡量客戶價值,可以考慮將客戶的第一次交易至最近一次交易期間的間隔時長,某一時間段內的最高消費金額和客戶平均收入等因素考慮在內進行模型優化,建立一個更加全面準確的客戶價值體系.