基于注意力機制與改進TF-IDF 的推薦算法

李昆侖，于志波，翟利娜，趙佳耀

（河北大學電子信息工程學院，河北保定 071000）

0 概述

隨著互聯網技術的發展，數據超載成為當今數據爆炸時代面臨的困境之一。為解決數據超載難題，推薦系統應運而生。推薦系統旨在從龐大的數據中篩選出用戶感興趣的內容并推薦給用戶，使在線用戶快速找到符合他們需要的個性化信息［1］。經過多年發展，推薦系統的推薦性能得到了極大的提升。目前推薦算法主要分為基于協同過濾的推薦算法［2］、基于內容的推薦算法［3］和混合推薦算法［4］。基于協同過濾的推薦算法通過獲取用戶的歷史行為和評分數據找到相似用戶，通過獲取相似用戶的喜好并向用戶推薦其未曾瀏覽過的項目。基于內容的推薦算法主要依據用戶已經選擇的項目或者評分，根據用戶的歷史行為信息去尋找與之相似的項目進行推薦。混合推薦算法將不同的推薦算法進行融合后再推薦，獲得更好的推薦效果。隨著數據不斷增長，數據類型也越來越多樣化。傳統推薦算法無法學習到用戶或項目的深層次特征。如何充分利用多源異構數據提高推薦系統性能，成為推薦系統研究的熱點［5］。

近年來，深度學習（Deep Learning，DL）具有自身強大的學習能力，在圖像識別、語音識別、自然語言處理等領域得到廣泛的應用［6］。深度學習善于挖掘和學習多源異構數據中深層次的特征，通過將其與推薦系統結合獲得更高效的學習用戶和項目屬性的隱藏特征［7］。因此，越來越多的研究者將深度學習應用到推薦系統中。盡管將神經網絡應用到推薦系統中能有效提高推薦性能，但不是所有的特征交互作用都能對預測結果做出貢獻。例如，在學習用戶或項目特征時，與無用的特征相互作用可能會引入噪聲從而影響推薦系統性能［8］。

本文提出一種基于注意力機制與改進TF-IDF的推薦算法AMITI。將注意力機制引入卷積神經網絡（Convolutional Neural Network，CNN）中，在卷積層前加入注意力網絡，對經過預處理的項目文本信息進行重新賦權。將多層全連接神經網絡學習到的用戶特征向量和項目特征向量輸入到第2 層注意力機制中，使多層感知機（Multilayer Perceptron，MPL）對注意力分數進行參數化。在完成推薦任務后，通過將用戶評分和項目類別與TF-IDF 結合，分析不同項目類型在推薦結果中的權重，獲取用戶對不同項目類型的偏好程度，并對推薦結果進行分類。

1 相關工作

1.1 注意力機制

注意力機制（Attention Mechanism）最初被用在圖像處理領域。在對圖像進行處理時注意力機制使神經網絡更關注輸入數據的重點內容［9］。

MNIH等［10］將注意力機制與循環神經網絡（Recurrent Neural Network，RNN）結合用于圖像分類，減少了非必要信息的干擾，提高分類的準確性。注意力機制被廣泛應用于機器翻譯、特定目標情感分析、語音識別等領域。將注意力機制引入到神經網絡中，在處理句子分類問題時使網絡識別句子中的重要信息，并對這些信息給予更高的關注度，同時提高神經網絡的可解釋性。夏斌等［11］將注意力機制引入到RNN，提出ARNN 結構進行位置推薦，利用目標用戶的歷史簽到數據捕獲用戶的生活模式，并向用戶進行可解釋性的位置推薦；CHEN 等［12］提出的AFM 模型不僅通過用戶的關注內容整合項目特征，還增強了模型的可解釋性。

1.2 基于深度神經網絡的推薦算法

隨著研究的深入，越來越多的深度神經網絡模型被引入到推薦系統中［13］。基于深度學習的推薦方法能夠融入多源異構數據并生成推薦，這些數據分為用戶的顯式反饋數據如評分、喜歡/不喜歡；隱式反饋數據如瀏覽、點擊等行為記錄；用戶屬性信息如性別、年齡、職業等；項目屬性信息如項目名稱、簡介等；社交關系、標簽、評論等輔助信息［14］。通過構建多層神經網絡來輸入項目或用戶的相關信息，采用回歸等方法對輸入數據進行評分預測，解決了傳統推薦算法中數據稀疏性和冷啟動等難題［15］。文獻［16］提出一種基于神經協同過濾的推薦模型（Neural Collaborative Filtering，NCF）。該模型通過一個并行的神經網絡分別學習用戶與項目潛在特征向量，在預測層通過MLP將隱向量映射為預測值。NCF推薦模型如圖1所示，由兩個并行的神經網絡組成，用戶和項目的評分數據經過嵌入層。嵌入層首先輸入數據分配索引，用索引構建用戶和項目的特征序列；再將該索引轉換為具有固定大小的向量。通過嵌入層可將輸入層中高維稀疏的向量映射為低維稠密的向量表示。

圖1 NCF 模型架構Fig.1 NCF model architecture

用戶和項目數據都是通過one-hot 編碼得到稀疏向量，經過嵌入層得到用戶嵌入向量pu和項目嵌入向量qν作為多個全連接層的輸入。利用MLP 學習用戶和項目的交互函數：

其中：fMPL(·)為MLP 網絡中的激活函數。利用非線性激活函數增強模型的非線性和靈活性，定義MLP模型如式（2）～式（4）所示：

其中：⊙表示元素積操作；yn，fn，wn，bn分別表示第n層的輸出值、激活函數、權值矩陣和第n層的偏置向量。

NCF 模型利用MLP 提取高階特征信息以提高模型的推薦能力。在特征交互過程中并非所有的特征交互作用都能對預測結果做出貢獻，忽視了歷史交互序列中項目對當前預測所起的不同作用。因此，將注意力機制引入神經網絡中為歷史交互序列的項目分配個性化權重，并將改進TF-IDF 對推薦結果分組，向目標用戶進行項目組推薦。

2 AMITI 推薦算法

在NCF 推薦模型的基礎上將用戶和項目的屬性信息作為輸入數據u：{u1，u2，…，un}，例如，用戶ID、年齡、性別等；項目屬性信息ν：{ν1，ν2，…，νn}，例如，項目ID、類型、標題等。AMITI 模型架構如圖2 所示。

圖2 AMITI 模型架構Fig.2 AMITI model architecture

引入雙層注意力機制，一層用于與CNN 結合構建子網絡，使CNN 學習項目文本中的重點內容；另一層以用戶及項目特征向量作為輸入數據，利用注意力機制為用戶歷史交互項目分配個性化權重，得到不同項目對當前預測偏好所起的作用。將推薦結果分組，以項目組的形式向用戶展示推薦結果，增強推薦內容的有序性。

2.1 學習用戶和項目潛在特征

為改善推薦系統中數據稀疏的問題，利用用戶和項目的屬性信息進行評分預測。將用戶及項目屬性信息經過數據預處理后輸入到嵌入層對屬性信息進行編碼，嵌入層將輸入的稀疏向量映射為稠密的低維嵌入向量，得到用戶和項目屬性的嵌入表示pu和qν。在訓練剛開始的時候，嵌入是簡單的隨機選擇，隨著訓練的進行，每個嵌入的向量都會得到更新，以幫助神經網絡執行其任務。

將用戶和項目的嵌入向量pu、qν輸入到并行的多層全連接神經網絡中，分別學習用戶和項目非文本屬性的潛在特征向量。

其中：f(·)為tanh 激活函數；wn和bn分別為需要學習的權值矩陣和偏置。

2.2 引入注意力機制的卷積神經網絡

對于項目屬性的文本信息如項目標題，為了增強網絡對文本中重點內容的學習能力，將注意力機制與CNN 結合構成提取文本特征的子網絡。文本卷積神經網絡構成如圖3 所示，由注意力層、卷積層、池化層、全連接層組成。

圖3 文本卷積神經網絡Fig.3 Text convolutional neural network

注意力層通過對每個項目文本的詞向量矩陣賦予注意力權重以得到更新后的詞向量矩陣。將項目文本內容通過嵌入層得到詞向量矩陣E∈?n×d，其中d為詞向量的維度，即把每一個詞映射為d維向量xj∈?d，n為單詞的個數；F∈?s×d表示目標用戶ui瀏覽過的所有項目所攜帶文本信息的詞向量矩陣，xi為第i個詞的詞向量表示xi∈?d。計算目標用戶詞向量矩陣F中每個詞匯的詞向量表示xi與項目所有文本詞向量矩陣E中每個詞匯xj的注意力分數。

通過softmax 函數對a(xi，xj)注意力分數進行歸一化處理，得到每個詞向量對應的注意力權重aij。

其中：aij∈As×d為注意力權重值，將注意力權重矩陣As×d與項目原詞向量矩陣F進行向量拼接運算，得到更新后的項目詞向量矩陣，作為卷積神經網絡的輸入矩陣。

在卷積層中，每個神經元由卷積核Fj∈?d×m沿著句子的方向從矩陣Fatt的最左邊向右滑動。其中卷積核Fj的窗口大小設置為m，通過卷積操作后獲取句子中每個單詞的特征表示，再通過激活函數形成特征圖。第j個神經元產生的特征如式（10）所示：

其中：*為卷積運算；bj為偏置項；f為非線性激活函數ReLU，通過激活函數f以增強卷積神經網絡的非線性。

選取最大池化對卷積層的輸出結果進行池化操作，將特征圖分為若干個矩形區域，并對每個子區域輸出最大值。最大池化去除每個子區域中對于當前任務不重要或重復的特征，保留能表達文本特征的信息。同時進一步減少參數數量，有效提高網絡特征提取效率。第j個卷積核的池化結果如式（12）所示：

將池化后的輸出結果輸入到全連接層，與全連接層的權值矩陣相乘并加上偏置求和，通過ReLU 激活函數后分類輸出，得到項目文本信息的隱特征，如式（13）所示：

其中：wj為全連接層的權重系數；bj為對應的偏置項。將項目非文本屬性特征向量與文本特征向量qtext做向量連接即可得到項目特征q^j。

2.3 預測評分生成

在AMITI 模型的預測層，利用神經注意力網絡區分歷史項目的重要性來克服傳統神經網絡推薦模型的局限性。學習到用戶特征的隱表示和項目特征的隱表示作為注意力層的輸入，學習目標用戶對不同項目的關注度，不同關注度對預測下一項目所起的作用不同。用戶ui對項目νj的注意力分數如式（15）所示：

其中：w1和b1是需要學習的權重矩陣和偏置項，通過Re激活函數得到當前項目對預測下一項目的非線性關系。即注意力分數值越大，表示用戶ui對項目νj有更多的關注度，項目νj對預測下一個項目所起的作用越大。利用softmax 函數對注意力分數進行歸一化處理。

采用均方誤差（Mean Square Error，MSE）作為損失函數在訓練模型的過程中去最小化真實評分和預測評分之間的差距。

其中：yui為用戶對項目的真實評分為用戶對項目的預測評分。利用隨機梯度下降方法最小化損失函數對目標函數進行優化，采用反向傳播算法來優化學習每一層的權重wn和偏置bn。通過上述算法完成對神經網絡的訓練后，利用模型預測用戶對未評分項目進行評分，根據預測評分大小，向目標用戶進行推薦，產生的推薦結果用于后續分組，實現項目組推薦。

2.4 TF-IDF 方法的改進

TF-IDF 常被用于文本分類和信息檢索，通常僅考慮文檔數量和關鍵詞在文檔中出現的頻率，而當字詞擁有評分數據時無法充分利用評分數據更準確地計算TF-IDF 值。例如，利用TF-IDF 計算用戶ui觀看電影中喜劇類型gj的TF-IDF 值時，僅將喜劇類型gj在用戶ui瀏覽歷史電影集和整個數據集中出現的頻率代入計算，并未利用用戶對喜劇類電影的評分數據。當喜劇類型gj在用戶瀏覽歷史中出現頻率較低，但用戶對這類電影的評分卻較高時，采用傳統的TF-IDF 方法無法準確地獲取用戶對喜劇類型gj的偏好程度。

將評分數據引入到TF-IDF 方法中，在評估字詞重要程度的同時，避免丟失評分較高的字詞。改進的TF-IDF 方法如式（20）所示：

其中：Suj，wi為詞語wi對于用戶uj的重要程度，取值是為包含詞語wi的文件評分和為所有文件的評分和；|D|為語料庫中文件總數；|{j：wi∈dj}|為包含詞語wi的文件數量。式（20）中根據項目所在的數據集確定獲取評分數據在針對訓練集中指定用戶的歷史項目進行統計時，利用用戶對其歷史項目的評分數據計算利用改進的TF-IDF 對推薦結果中項目所含類型進行TF-IDF值計算，通過獲取用戶對不同類型的偏好程度，實現項目組推薦。式（20）中的即通過AMITI 模型獲得的目標用戶uj對候選集中項目νs的預測評分。

式（20）中第一部分為TF-IDF 的詞頻計算（Term frequency，TF），利用預測評分計算包含文件wi的項目評分和在總文件評分和中的占比，當占比較大時說明含有詞語wi的文件評分越高，一定程度反映了詞語wi的重要性；第二部分為TF-IDF 的逆向文件頻率（Inverse document frequency，IDF），表示在語料庫的文件總數|D|中，包含詞語wi的文件數量越多，對TF即詞語wi重要性的削弱能力越強。將兩部分相乘得到的值說明用戶對詞語wi的偏好程度。

基于TF-IDF 算法的改進對推薦結果中項目類型進行分析，獲取不同項目類型對用戶的重要程度，實現推薦結果的自動分組。Top-N 推薦結果中的同類項目被放入同一組中。用戶最喜歡的某類項目將被優先推薦，使用戶能快速找到符合自己興趣的內容。改進的TF-IDF 算法具體實現步驟如下：

步驟1計算詞頻是在特定文件dj中，包含詞語wi的項目評分和在用戶瀏覽歷史中所有項目的評分和中所占比例。

步驟2計算逆向文件頻率指數據集中項目數量除以包含詞語wi的項目的數量，再將得到的商取對數，如式（22）所示：

步驟3將詞頻和逆向文件詞頻相乘得到詞語wi在文件dj中的TF-IDF 值

改進后的TF-IDF 在計算詞頻時利用評分數據反映詞語wi在文件dj中所占比例。而傳統的TF-IDF 詞頻計算則通過將詞語wi在文件dj中出現的次數與文件dj中所有詞語出現次數之和的比，從而獲得詞語wi的詞頻。

2.5 推薦結果分組

利用改進TF-IDF 方法獲取用戶對不同項目類型的喜好程度。以電影推薦為例，選用MovieLens 數據集進行算法測試。電影類型詞頻信息如表1 所示。首先對用戶ui推薦得到N部電影。其次對推薦結果中的電影建立電影信息文檔M={m1，m2，…，mN}，從電影信息文檔中提取出所包含的電影類型并建立電影類型信息文檔G={g1，g2，…，gN}。最后對電影類型文檔進行詞頻統計，得到推薦結果中電影類型的詞頻信息。

表1 電影類型詞頻信息Table 1 Word frequency information of movie genre

當推薦的電影ms包含電影類型gi時則為1，反之為0。利用改進的TF-IDF 對獲得電影類型詞頻信息進行分析，預測用戶對不同電影類型的偏好程度，如式（24）所示：

圖4 傳統推薦列表和項目組推薦列表Fig.4 The traditional recommendation list and the item group recommendation list

2.6 AMITI 算法描述

利用深度神經網絡結合注意力機制能有效提升推薦算法對用戶和項目潛在特征的提取能力，并緩解數據的稀疏性問題。依據項目類型分組將推薦結果推薦給用戶。AMITI 算法整體實現步驟如下：

輸入用戶屬性信息u：{u1，u2，…，un}，un表示用戶的第n個屬性；項目屬性信息ν：{ν1，ν2，…，νn}，νn表示項目的第n個屬性

輸出生成K個項目組，每個項目組含D個同類項目

步驟1對用戶屬性和項目屬性進行數據預處理，將其轉換成數字類型。

步驟2用戶屬性和項目ID 及類型屬性輸入嵌入層，得到低維稠密的嵌入向量pu和qν。將pu和qν分別輸入到并行的多層全連接層中進行特征學習，得到用戶特征和項目非文本屬性向量

步驟3對項目名稱做卷積處理，通過注意力機制對電影名稱的詞向量矩陣重新賦權，得到更新后的詞向量矩陣

步驟4將詞向量矩陣輸入卷積神經網絡中提取項目名稱特征并生成特征qtext，再利用tf.concat（）函數合并項目各屬性特征得到最終的項目特征

步驟5使用注意力機制為每個項目分配個性化權重得到更新后的項目特征

步驟6將用戶隱含特征與項目隱含特征作內積計算得到預測評分

步驟7輸入指定用戶產生Top-N個推薦結果，利用改進TF-IDF 分析用戶對不同項目類型的偏好程度值

步驟8根據偏好程度值將項目類型降序排列，取前K個類型作為待推薦項目組的組名，K即為推薦項目組的數量。

步驟9在每個項目組加入D部與組名對應的同類電影，并按每部電影的預測評分降序排列。最終進行由K個項目組構成，且每個項目組包含D部同類型電影的項目組進行推薦。

與傳統的協同過濾推薦算法相比，AMITI 算法以用戶和項目屬性信息為輸入數據，經過深度神經網絡特征提取產生預測評分，解決了傳統協同過濾推薦算法中評分數據稀疏性問題。與NCF 推薦模型相比，AMITI 算法在深度神經網絡中引入注意力機制，一方面增強CNN 對項目文本中重要內容的提取能力；另一方面區分歷史項目對預測下一個項目所起的不同作用，能有效提高推薦精度。

3 實驗結果與分析

在實驗環境及所選實驗數據集和相應的評價指標，對推薦算法與傳統的推薦算法進行對比分析。

3.1 實驗環境及數據集介紹

實驗中使用的計算機配置為Intel Core i5-4210U的CPU，8 GB 內存，Windows7 旗艦版64 位操作系統。編程語言使用python 語言，版本為python3.6，編譯環境在Anaconda 的Jupyter Notebook 中實現。

實驗選用的數據集是美國GroupLens［17］提供的電影數據集MovieLens-1M 來驗證上述推薦算法的有效性。該數據集被廣泛應用于推薦系統的實驗中，其中包含6 040 個用戶對3 952 部電影的1 000 209 條評分記錄，評分范圍為0～5。在6 040 個用戶中每個用戶至少對20 部電影進行評分。在電影訓練集中，包含每部電影的元數據（電影ID、電影標題、上映時間、電影的所屬類型）；在評分訓練集中包含（用戶ID、電影ID、對應的用戶評分、時間戳）；在用戶訓練集中包含關于用戶的人口統計學數據（年齡、性別、職業）。該數據集的稀疏度在94%左右，在實驗中隨機選取數據中80%作為訓練集，20%作為測試集，通過訓練集數據訓練模型，用測試集數據對算法的性能進行評價。

3.2 評價指標

本文采用均方根誤差［18］（Root Mean Square Error，RMSE）和平均絕對誤差［19］（Mean Absolute Error，MAE）作為評價模型性能的指標。對于測試集的用戶，用戶u對物品i的真實評分為rui，推薦算法計算出的預測評分為，則RMSE（RMSE）和MAE（MA）的計算如式（25）和式（26）所示：

其中：T為測試集中含評分記錄的項目數量。

在驗證推薦結果的準確性后，根據保留率公式對最終項目組推薦結果的可靠性進行驗證，如式（27）所示：

其中：R(u)為分組前的推薦結果；F(u)為最終的推薦結果。

3.3 對比實驗

為了驗證項目組推薦算法得到推薦結果的準確性和有效性，在統一的數據集MoviesLens 選取以下4 種經典的推薦算法與項目組推薦算法進行對比。

1）ItemCF：基于物品的協同過濾推薦算法，根據之前計算出的物品相似度和用戶歷史行為為用戶生成推薦列表［20］。

2）CDL：協同深度學習是一種使用堆疊去噪自編碼提取描述文檔特征并結合用戶歷史評分數據產生推薦的模型［21］。

3）NAIS：融合注意力機制的基于項目MLP 的協同過濾推薦模型［22］。

4）NCF：神經協同過濾推薦算法，利用MLP 神經網絡從用戶和項目的隱向量中學習用戶和項目間的交互函數，產生預測評分。

3.4 結果分析

在MovieLens-1M 的電影數據集上對提出AMITI算法進行實驗評估，將RMSE 和MAE 作為評價指標衡量預測評分的準確性。在保證實驗數據集和實驗環境相同的情況下，研究以下3 個超參數對AMITI 模型推薦性能的影響。

1）迭代次數（epoch）：1 個迭代次數表示使用訓練集中所有樣本在神經網絡訓練了1 次。

2）丟棄率（dropout）：在模型參數較多，訓練樣本較少的情況下，訓練出的模型易產生過擬合現象。利用丟棄率隨機抹去一些神經元，減少參數數量，從而防止過擬合現象的發生。

3）學習率（learning rate）：決定模型的收斂結果和效率。

隨著迭代次數的增加，神經網絡中權重的更新次數也隨之增加。因過多的迭代次數易造成模型的過擬合，導致模型準確性降低。當迭代次數大于10時，MAE 和RMES 增大。迭代次數取不同值時對MAE 和RMSE 的影響如圖5 所示。

圖5 迭代次數取不同值時的實驗結果對比Fig.5 Comparison experimental results of epoch with different values

超參數中丟棄率可防止模型出現過擬合問題，訓練時丟棄率使部分隱層單元停止工作，提高網絡的泛化能力。從圖6 中可以看出，當丟棄率取值為0.5 時模型效果達到最佳，即在訓練中有一半的神經被丟棄，隨著丟棄率的增大，更多神經元被丟棄則會降低神經網絡對特征的學習能力。丟棄率取不同值時對MAE 和RMSE 的影響如圖6 所示。

圖6 丟棄率取不同值時的實驗結果對比Fig.6 Comparison experimental results of dropout with different values

學習率不同取值對模型性能的影響如圖7 所示。學習率為0.000 1 時模型的效果最佳。隨著學習率取值的增大，模型的MAE 和RMSE 隨之增大，學習率取值越大易錯過局部極小值，導致模型難以擬合。

圖7 學習率取不同值時的實驗結果對比Fig.7 Comparison experimental results of different learning rates

從圖5～圖7 可以看出，在丟棄率、學習率、每批訓練大小分別為0.5，0.0001，256 情況下，迭代次數取值為10，模型的均方根誤差和平均絕對誤差達到最低。

項目組推薦與其他4 種推薦算法的均方根誤差和平均絕對誤差對比如圖8 所示。在MovieLens-1M 的數據集上，AMITI 算法與ItemCF、CDL、NAIS、NCF 相比，4 種算法RMSE 分別提高了14.09%、4.46%、2.37%、2.04%，MAR分別提高了14.38%、3.65%、2.77%、2.47%。ItemCF 較其他算法的效果較差，MAE 和RMSE 較大；CDL 算法、NAIS 算法和NCF 算法的指標相近。AMITI算法相比其他算法提升2%以上，基于注意力機制的神經網絡提取用戶和項目的隱含特征后一定程度上提高了推薦系統的準確性。

圖8 不同推薦算法的RMSE 和MAE 結果對比Fig.8 Comparison results of RMSE and MAE of different recommended algorithm

在計算用戶的電影類型偏好時發現每個用戶有2～4 個為特別偏好，確定在最終推薦項目組的數量設置推薦效果最佳。Top-N取不同值對保留率的影響如圖9 所示。將項目組個數分別設置為2、3、4，每個項目組包含4 部同類型電影，同時選取不同的Top-N來比較這3 種情況下對應保留率的變化情況。保留率均隨項目組數量的增大而增大，當Top-N取值相同，項目組數量越少保留率越高，同時保留率也更快地達到100%。但如果在最終推薦時只推薦2 個項目組，很難覆蓋大部分用戶對電影類型偏好的需求，將最終推薦項目組的數量確定為3。

圖9 Top-N 取不同值對保留率的影響Fig.9 The influences Top-N with different values on retention rate

將預測評分較高的電影優先推薦給用戶，Top-N選取時需要滿足N取值盡量小、保留率盡量大。根據圖9 可知，為了適當增加冷門項目出現概率，當項目組數量為3，N=50，同時保證每次推薦都有1～2 個項目為隨機推薦。

4 結束語

本文提出一種基于注意力機制與改進TF-IDF的推薦算法，通過將雙層注意力機制引入卷積神經網絡，提高卷積神經網絡的特征提取能力，并對項目特征分配不同的偏好權重以實現更符合用戶偏好的推薦。在向目標用戶進行項目推薦時，將評分數據和項目類型數據與TF-IDF 進行結合，完成對推薦結果分組。MovieLens-1M 數據集上的實驗結果表明，AMITI 算法在一定程度上提高了推薦準確性以及增強呈現方式的有序性和可選擇性。下一步將矩陣分解技術融合到深度神經網絡模型中，以提高評分預測的精準性和最終項目組推薦內容的可靠性。