基于超圖卷積神經(jīng)網(wǎng)絡的多行為感知服務推薦方法

陸佳煒，李端倪，王策策，徐俊，肖剛

(1.浙江工業(yè)大學 計算機科學與技術(shù)學院，浙江 杭州 310023；2.中國計量大學 機電工程學院，浙江 杭州 310018；3.中國計量大學 信息工程學院，浙江 杭州 310018)

服務計算與區(qū)塊鏈、物聯(lián)網(wǎng)、云計算等新興技術(shù)跨界融合，催生出海量異構(gòu)多模態(tài)的應用程序接口 (application programming interface, API)服務，如何有效地推薦符合用戶開發(fā)需求的API 服務成為當前服務計算領域的熱點問題[1]，服務推薦受到學術(shù)界和工業(yè)界的廣泛關(guān)注.早期服務推薦方法大多基于協(xié)同過濾的思想[2-3]，根據(jù)用戶或服務的相似度進行推薦.此類方法缺乏對用戶特征和服務特征的深度挖掘，推薦準確度較低.一些研究者結(jié)合聚類技術(shù)、主題模型和因子分解機等方法[4-7]進行改進.雖然上述方法在一定程度上提高了推薦精確度和效率，但是仍存在以下缺陷:1)當輸入維度較高時，大部分服務推薦方法難以有效挖掘API 服務之間隱式高階關(guān)聯(lián)； 2)在考慮用戶行為相似性時，現(xiàn)有方法大多將用戶與服務之間復雜的多行為交互（如調(diào)用、組合）同質(zhì)化，視其為單一行為類型.

圖神經(jīng)網(wǎng)絡可以較好地提取網(wǎng)絡結(jié)構(gòu)信息，是推薦系統(tǒng)目前的研究重點[8-10].受限于圖結(jié)構(gòu)的度數(shù)要求，普通圖神經(jīng)網(wǎng)絡只能將高階服務關(guān)聯(lián)轉(zhuǎn)換為二元關(guān)系, 容易造成原始服務信息的丟失.超圖可以利用超邊連接任意數(shù)量的服務節(jié)點，實現(xiàn)更為合理的服務特征建模[10].以超圖學習為基礎，結(jié)合多行為推薦思想, 本研究提出基于超圖卷積神經(jīng)網(wǎng)絡的多行為感知服務推薦方法(multibehavior aware service recommendation method based on hypergraph graph convolution neural network, MBSRHGNN).該方法構(gòu)建多重超圖結(jié)構(gòu)對服務組合特征以及多行為依賴關(guān)系進行建模；利用雙通道超圖卷積網(wǎng)絡捕獲隱含的用戶-服務特征；將API服務轉(zhuǎn)化為嵌入向量，結(jié)合超圖信號產(chǎn)生推薦服務的概率分布.本研究創(chuàng)新點如下：1）構(gòu)建行為感知超圖和服務組合超圖，根據(jù)超圖功能結(jié)構(gòu)特性，設計雙通道超圖卷積網(wǎng)絡.在超圖卷積過程中，采用Chebyshev 卷積算子和HG-DiffPool 池化方法降低計算復雜度，減少模型過擬合風險.2）引入多行為推薦方法對服務推薦場景中的多行為交互進行建模，結(jié)合超圖自注意力機制優(yōu)化目標行為表示，克服傳統(tǒng)推薦方法中多行為交互同質(zhì)化的缺陷.

1 相關(guān)工作

協(xié)同過濾[2-3]在服務推薦場景中的應用較為廣泛，較為經(jīng)典的是由Zheng 等[2]提出的一種混合式協(xié)同過濾服務推薦方法.該方法綜合考慮用戶相似性和服務相似性，采用線性組合加權(quán)的方式進行服務推薦，但是傳統(tǒng)的協(xié)同過濾服務推薦方法在應用時存在冷啟動以及可拓展性差的問題.現(xiàn)有研究[4-6]表明服務功能聚類技術(shù)能夠有效縮小服務搜索空間，優(yōu)化API 服務推薦流程.此類方法大多利用向量空間模型將服務描述文檔映射至高維特征空間，并結(jié)合余弦距離、歐式距離、馬氏距離等方法計算服務相似度.Agarwal 等[4]使用長度特征權(quán)重矢量化表示API 服務，結(jié)合功能詞頻進行服務聚類.由于向量空間模型存在特征維度過高、語義稀疏的問題，一些工作結(jié)合自然語言處理技術(shù)來發(fā)掘服務間的語義關(guān)聯(lián)[5-6].筆者[5]提出一種融合功能語義關(guān)聯(lián)計算與密度峰值檢測的Mashup 服務聚類方法，利用功能語義權(quán)重來計算服務語義特征.服務間語義關(guān)聯(lián)的發(fā)掘需要高質(zhì)量語料，然而現(xiàn)實中的服務描述文本容易導致大部分主題模型難以準確捕捉服務描述間的隱式語義關(guān)聯(lián)[6].

圖神經(jīng)網(wǎng)絡可以有效地提取數(shù)據(jù)樣本間的高階關(guān)聯(lián)和結(jié)構(gòu)信息，目前在推薦系統(tǒng)中已得到廣泛的應用[8-10].Wu 等[9]將會話建模為序列圖結(jié)構(gòu)，引入門控循環(huán)單元來生成項目嵌入和會話嵌入.序列圖、二分圖、帶權(quán)圖等普通圖結(jié)構(gòu)都難以表示服務推薦場景中復雜的高階服務組合關(guān)聯(lián).作為一種特殊的圖結(jié)構(gòu)，超圖能更有效地建模復雜數(shù)據(jù)樣本之間的多元關(guān)系[10].本研究采用構(gòu)建多重超圖的方式，基于雙通道超圖卷積神經(jīng)網(wǎng)絡深度挖掘服務組合特征.

多行為推薦方法能從異構(gòu)的用戶交互行為中挖掘潛在的行為語義，幫助構(gòu)建更為合理、準確的用戶行為表示[11-13].Yang 等[12]提出一種跨視圖對比學習框架，利用多尺度Transformer 和低秩自注意力機制捕獲多行為偏好.Xia 等[13]基于圖遷移學習思想，采用元學習器構(gòu)建用戶行為表示.受上述工作啟發(fā)，本研究將多行為推薦方法融合到服務推薦場景中，并引入超圖自注意力機制動態(tài)地學習行為權(quán)重，優(yōu)化行為感知超圖的關(guān)聯(lián)矩陣表示.

2 MBSRHGNN 方法

2.1 MBSRHGNN 模型整體架構(gòu)

本研究提出的服務推薦模型MBSRHGNN 的整體框架如圖1 所示，主要由以下3 個模塊構(gòu)成.1）多重超圖構(gòu)建：將爬取到的真實服務數(shù)據(jù)轉(zhuǎn)化為行為感知序列和服務劃分集，根據(jù)多行為交互類型和服務組合信息構(gòu)建多重超圖.2）雙通道超圖卷積網(wǎng)絡：基于雙通道超圖卷積網(wǎng)絡捕獲全局多行為依賴和高階服務組合關(guān)聯(lián).在行為感知卷積通道上，引入自注意力機制動態(tài)學習行為權(quán)重，將服務推薦與多行為推薦方法相結(jié)合.在服務組合卷積通道上，增加HG-DiffPool 超圖池化層來降低服務特征維度.在此模塊中，self-attention 為超圖自注意力機制，Chebyshev Conv 指的是Chebyshev近似后的卷積操作.3）語義編碼推薦：通過基于Transformer 的雙向編碼器 (bidirectional encoder representation from transformers，BERT)編碼層將功能語義信息轉(zhuǎn)化為語義向量.根據(jù)語義向量與API服務的one-hot 編碼結(jié)果，產(chǎn)生語義嵌入.結(jié)合全局多行為依賴和高階服務組合關(guān)聯(lián)得到全局序列特征，預測推薦服務的概率.

圖1 MBSRHGNN 模型總體架構(gòu)Fig.1 Framework of MBSRHGNN

2.2 多重超圖構(gòu)建

2.2.1 行為感知超圖構(gòu)建 行為感知序列和服務劃分集是構(gòu)建行為感知超圖的基礎.將用戶交互的服務項按時間順序排列，并記錄下具體的交互行為類型，可以得到行為感知序列S={,···,}.其中，多行為交互項，代表用戶與API 服務an之間有類型為bk的交互行為.按服務種類對S進行劃分，結(jié)果定義為服務劃分集P={pj=(,···,)}，pj為服務劃分，是與an相關(guān)的所有多行為交互項的集合.

構(gòu)建行為感知超圖Gs=（Vs,Es）.其中,Vs為超點集，由行為感知序列中的多行為交互項構(gòu)成.Es為超邊集，超邊由服務劃分轉(zhuǎn)換而來.Gs可以用關(guān)聯(lián)矩陣Hs∈R|Vs|×|P|表示， |Vs| 和 |P| 分別為行為感知超圖中的超點總數(shù)和超邊總數(shù)，|P|=|Es|.Hs中的每個元素定義為

2.2.2 服務組合超圖構(gòu)建 基于API 服務之間的組合關(guān)聯(lián)構(gòu)建服務組合超圖.首先，定義服務組合集M={mi=(a1,···,an)} ，mi為服務組合，代表一系列API 服務之間存在的組合關(guān)系，下標i用以區(qū)分不同的服務組合，下標n用于表示不同的API服務.將mi與行為感知序列相交，交集中的所有API 服務構(gòu)成超點集Vm，具體過程為

當mi與S中的多行為交互項相交時，考慮服務的異同.每一組交集都將構(gòu)成一條服務組合超邊，將交集總數(shù)記為 τ ，超邊集可定義為Em=.服務組合超圖可以表示為Gm=（Vm,Em）.在服務組合超圖中，關(guān)聯(lián)矩陣可以定義為Hs∈R|Vm|×τ，其中 |Vm| 為超點總數(shù).超點度矩陣和超邊度矩陣分別定義為Dvm∈R|Vm|×|Vm|與Dem∈Rτ×τ.

服務組合超圖的歸一化鄰接矩陣定義為

2.3 雙通道超圖卷積網(wǎng)絡

行為感知超圖和服務組合超圖結(jié)構(gòu)不同、模態(tài)相異，難以用單一的超圖卷積網(wǎng)絡捕獲其復雜異構(gòu)的高階關(guān)聯(lián)信息.因此，將超圖上的近似譜卷積過程細分為2 類卷積通道.1)行為感知卷積通道：主要考慮多行為推薦方法和超圖神經(jīng)網(wǎng)絡的結(jié)合，利用自注意力機制優(yōu)化目標行為表示.2)服務組合卷積通道：側(cè)重于增強模型的泛化能力，降低高階服務組合關(guān)聯(lián)的特征維度，減少過擬合風險.

2.3.1 超圖上的近似譜卷積 根據(jù)譜分解理論與圖信號處理的思路[14],將任意通道上的超圖卷積過程定義為

式中：gφ為超圖卷積核，φ為卷積核參數(shù)， ? 為超圖卷積操作運算符,x為超圖信號,U為特征向量矩陣, ⊙ 為矩陣的Hadamard 乘積.

由于涉及到多次特征分解和矩陣乘法運算，如式（5）定義的超圖卷積過程計算代價較高，其復雜度與節(jié)點數(shù)量的平方成正比.為此應用一階Chebyshev 多項式對卷積核gφ展開求解，并將拉普拉斯矩陣的最大特征值縮放為2[15].近似后的超圖卷積過程為

式中：Dvc和Dec為任意卷積通道上的節(jié)點度矩陣和超邊度矩陣.Hc為任意卷積通道上的關(guān)聯(lián)矩陣.進一步將式（6）改寫為

2.3.2 超圖自注意力機制 式（7）表明超圖卷積過程中的信息轉(zhuǎn)移概率由關(guān)聯(lián)矩陣和度矩陣所確定.在行為感知超圖上，關(guān)聯(lián)矩陣的權(quán)重大小在初始化時就已經(jīng)指定，因此難以度量不同服務交互的重要性差異.為了進一步比較行為感知卷積通道上不同服務交互行為對超圖信號的影響，引入自注意力機制優(yōu)化行為感知超圖的關(guān)聯(lián)矩陣表示.注意力分數(shù)的計算方法和關(guān)聯(lián)矩陣的優(yōu)化過程為

式中： αi為學習得到的注意力分數(shù)，∈Rd為行為嵌入，∈Rd為服務嵌入，LeakyReLU 為非線性激活函數(shù), ⊕ 為嵌入向量的拼接操作, |B|為行為數(shù).

超圖自注意力機制提高了節(jié)點間信息傳播過程的可解釋性.如圖2（a）所示為一個基于真實服務數(shù)據(jù)構(gòu)建的行為感知超圖實例.圖中v1、v2、v3分別為Google Map、Open Weather 和Facebook 服務.節(jié)點上標1、2、3 分別為調(diào)用行為、瀏覽行為和組合行為，調(diào)用行為是目標行為.為構(gòu)建的超邊實例.如圖2（b）所示通過熱力圖展示自注意力機制對Hs的優(yōu)化過程.色塊顏色的深淺代表注意力分數(shù)的高低，也反映了不同行為類型的重要性差異.當未引入自注意力機制時，所有色塊顏色相同，這代表矩陣元素取值只能為0 或1，節(jié)點間信息轉(zhuǎn)移概率是固定的.當訓練16 輪次后，具有目標行為類型的節(jié)點 1、5、6、9 取得了更高的注意力分數(shù)；當訓練32 輪次后，色塊顏色區(qū)分更為明顯.以節(jié)點7、8 為例，雖然兩者均擁有輔助行為類型，但是節(jié)點7 的色塊顏色更深，對應的瀏覽行為擁有更重要的影響力，說明模型通過自注意力機制學習到多行為交互間更細微的差異.引入超圖自注意力機制后，行為感知超圖通道上的超圖卷積過程為

圖2 行為感知超圖上的自注意力機制Fig.2 Self-attention mechanism on behavior-aware hypergraph

2.3.3 超圖池化方法HG-DiffPool 由于在服務組合超圖上，按式（4）構(gòu)建的鄰接矩陣較為稠密，直接進行特征學習存在較高的過擬合風險，而均值池化、最大池化、隨機池化等常用池化方法在超圖上所起到的降維效果有限，并且容易造成結(jié)構(gòu)信息的丟失[16].本研究根據(jù)超圖結(jié)構(gòu)特性，在DiffPool[17]的基礎上進行改良，提出超圖池化方法HG-DiffPool.

該方法將服務組合通道上的第l層的鄰接矩陣和超圖信號輸入到超圖神經(jīng)網(wǎng)絡部件中進行學習，得到賦值矩陣Al∈RNl×Nl+1.利用得到的賦值矩陣對鄰接矩陣進行池化：

式中：Zl∈RNl×d是經(jīng)過特征采樣后生成的特征向量,∈RNl+1×d是池化后的超圖信號.

2.4 語義編碼推薦

為了最大程度地利用服務語義信息，分2 步構(gòu)建API 服務的嵌入向量.首先利用one-hot 編碼將每個API 服務轉(zhuǎn)化為服務嵌入∈Rd；使用自然語言處理工具包 (natural language toolkit，NLTK)對訓練樣本中的服務描述文本和功能標簽進行分詞、去停、詞頻統(tǒng)計等操作，再利用BERT 將處理后的描述文本和功能標簽轉(zhuǎn)化為相應的語義向量.拼接語義向量和服務嵌入，得到語義嵌入si∈Rd.

行為感知序列的局部序列特征可以定義為Sp=.通過全連接層融合局部序列特征與超圖信號，得到全局序列特征Sg.計算全局序列特征和服務嵌入之間的乘積，得到推薦分數(shù).具體過程為

式中：xm和xs分別為超圖卷積得到的高階服務組合關(guān)聯(lián)和全局多行為依賴；W為可以學習的模型參數(shù)，即W∈Rd×3d；r為推薦分數(shù).

為了消除超圖卷積神經(jīng)網(wǎng)絡中的過平滑效應，所有的高階特征均取多層卷積的平均值作為最終結(jié)果[18].在得到推薦分數(shù)后,每個API 服務被推薦的預測概率定義為

通過構(gòu)造交叉熵損失函數(shù)來訓練和學習MBSRHGNN 模型：

式中：yi為API 服務被推薦的真實值.

3 實驗評估

3.1 實驗設置

通過多組實驗來驗證MBSRHGNN 模型的有效性，給出實驗數(shù)據(jù)集、基線方法、評估指標以及超參設置的介紹.通過基線實驗、消融實驗、超參數(shù)實驗回答以下3 個問題：1）與現(xiàn)有的服務推薦方法、基于圖神經(jīng)網(wǎng)絡的推薦方法和多行為推薦方法相比,模型的推薦性能如何？2）多重超圖結(jié)構(gòu)在模型中起何種作用？3）不同的超參數(shù)設置(例如：行為感知序列長度、特征向量維度大小)對模型的性能有什么影響？

3.1.1 實驗數(shù)據(jù)集 本研究爬取了2019—2020 年P(guān)rogrammableWeb 網(wǎng)站上真實的用戶交互記錄和服務信息進行實驗.其中包括3 102 位用戶的11 032 條多行為交互記錄，6 206 種服務組合以及13 329 項API 服務信息.為了驗證MBSRHGNN 模型和現(xiàn)有推薦方法在數(shù)據(jù)高度稀疏場景下的性能表現(xiàn)，將預處理后的數(shù)據(jù)劃分為稀疏數(shù)據(jù)集和稠密數(shù)據(jù)集，表1 所示為2 種實驗數(shù)據(jù)集的具體統(tǒng)計信息.表中，μ為用戶數(shù)量，ε 為服務組合數(shù)量，λ為API 服務數(shù)量，l為服務描述文檔的平均長度，?為API 服務被調(diào)用數(shù)，ρ 為數(shù)據(jù)集的密度，Z為交互類型.

表1 實驗中數(shù)據(jù)集的統(tǒng)計信息Tab.1 Statistics of datasets used in experiments

3.1.2 基線方法 將MBSRHGNN 模型與現(xiàn)有的10 種推薦方法進行比較.在實驗過程中，各基線方法的參數(shù)設置基本保持和原文一致.當出現(xiàn)梯度下降速度較慢、收斂時間過長、模型難以收斂等問題時，適當?shù)卣{(diào)整學習率、批大小等參數(shù).基線方法中的前2 種為服務推薦方法，第3、4 種為基于圖神經(jīng)網(wǎng)絡的推薦方法，其余方法為多行為推薦方法.基線方法的詳細介紹如下.

1）AFMRec[7].采用注意力分解機挖掘多維特征向量之間的隱式服務關(guān)聯(lián).超參設置為：注意力網(wǎng)絡大小64，批大小512，學習率0.001.

2）WR-MSN[5].基于密度峰值檢測聚類算法進行服務聚類，利用服務鄰域進行推薦.超參設置為：詞向量維度300，聚類劃分數(shù)9，局部密度0.4.

3）DHCN[8].基于雙通道超圖卷積網(wǎng)絡提取序列特征嵌入.超參設置為：特征維度100，批大小128，學習率0.000 1.

4）HyperRec[19].將用戶交互視為連接項目的超邊，構(gòu)建超圖捕捉用戶的動態(tài)短期興趣.超參設置為：特征維度64，批大小256，學習率0.001.

5）MBHT[12].利用多尺度 Transformer 結(jié)合低秩自注意力對多行為序列進行編碼.超參設置為：特征維度64，批大小32，學習率0.001.

6）MB-GCN[13].基于圖卷積神經(jīng)網(wǎng)絡捕獲用戶—項目交互圖上的多行為交互信息.超參設置為：特征維度128，批大小64，學習率0.003.

3.1.3 評估指標與超參設置 為了保持和現(xiàn)有工作一致的評估設置，采用以下評估指標：命中率(hit ratio, HR)、歸一化折損累計增益 (normalized discounted cumulative gain, NDCG)和平均倒數(shù)排名(mean reciprocal rank, MRR).HR 指標越高，說明服務推薦的精確性越好；NDCG 指標與MRR 指標越高，說明服務推薦的相關(guān)性越強.

在實驗過程中, MBSRHGNN 模型的主要超參設置如下：1）服務嵌入特征維度和語義嵌入特征維度在{16,32,64,96,128}中選擇；2）行為感知序列長度在{10,20,30,40,60,100}中選取；3）學習率的取值為{0.001,0.003,0.006}；4）在{0.05,0.10,0.15,0.20}調(diào)整學習率衰減系數(shù)；5）使用基于最小批的ADAM 優(yōu)化器優(yōu)化模型參數(shù)，取最小批大小為128.

根據(jù)參數(shù)實驗結(jié)果,模型性能在特征維度為96，序列長度為40 時達到最優(yōu).依據(jù)實際經(jīng)驗，學習率初始取值為0.006，根據(jù)模型收斂情況進行分段衰減.此外，在模型訓練過程中執(zhí)行提前停止策略.如果在連續(xù)10 個時間段內(nèi)，測試數(shù)據(jù)上的HR 指標、NDCG 指標和MRR 指標沒有增加，則提前終止訓練.

3.2 基線實驗與分析

針對實驗部分提出的問題1），將MBSRHGNN模型與基線方法進行比較，以驗證性能優(yōu)勢.每組基線實驗在相同的實驗設置下重復10 次，取平均值作為最終實驗結(jié)果，實驗結(jié)果如表2 所示.表中，IMP 為MBSRHGNN 相較于最優(yōu)基線方法的性能提升幅度，表中對所提出的MBSRHGNN 方法進行加粗，具體分析如下.

表2 MBSRHCNN 模型與基線方法的對比實驗結(jié)果Tab.2 Accuracy and correlation comparison results of MBSRHCNN model and baseline method

1）在服務推薦方法中，基于服務聚類的WRMSN 方法受數(shù)據(jù)稀疏性問題影響較大.基于注意力分解機的AFMRec 方法能較好地適應數(shù)據(jù)稀疏的推薦場景，HR@5 指標達到了0.381.在稠密數(shù)據(jù)集上,WR-MSN 方法的推薦精確度和相關(guān)性提升較大.對比AFMRec 方法，WR-MSN 方法的HR@5指標提高了12.8%，MRR 指標提高了11.7%.

2）在基于圖神經(jīng)網(wǎng)絡的推薦方法中，HyperRec方法的性能表現(xiàn)最佳.在多行為推薦方法中, MBHT 模型的HR@5、MRR 指標在所有基準方法中最優(yōu).MBHT 模型在多尺度Transformer 的基礎上融入超圖卷積神經(jīng)網(wǎng)絡，并利用跨視圖對比學習方法進一步提高用戶交互嵌入向量的表征能力.

3）所提的MBSRHGNN 模型在不同密度的實驗數(shù)據(jù)集上均取得了更好的推薦結(jié)果.相較于最優(yōu)的基準方法，MBSRHGNN 的HR@5 指標提高了4.5%～8.3%, NDCG@5 指標和MRR 指標分別提高了3.2%～8.8%和4.9%～6.9%，說明MBSRHGNN模型擁有更高的推薦精確度和推薦相關(guān)性.

MBSRHGNN 模型的推薦性能優(yōu)勢具體分析如下：1）根據(jù)多重超圖功能結(jié)構(gòu)特性設計的雙通道超圖卷積網(wǎng)絡能有效捕獲高階服務組合關(guān)聯(lián)和全局多行為依賴；2）多行為權(quán)重并非事先指定，而是利用自注意力在模型訓練過程中動態(tài)學習得到的；3）將API 服務的one-hot 編碼與BERT 語言模型相融合，克服了服務嵌入語義稀疏的問題.

3.3 消融實驗與分析

針對實驗部分提出的問題2），構(gòu)造3 種MBSRHGNN 的變體模型進行消融實驗，變體模型的詳細介紹如下：1)MH-Behavior：移除行為感知超圖，屏蔽行為感知卷積通道上的超圖信號.2)MH-Mashup：移除服務組合超圖，屏蔽服務組合卷積通道上的超圖信號.3)MH-HyperGraph：移除多重超圖結(jié)構(gòu).

在消融實驗過程中,所有變體模型取相同的超參數(shù)設定，在2 類服務數(shù)據(jù)規(guī)模（見表1）下進行10 次實驗.實驗結(jié)果如圖3 所示，圖中，E為模型訓練批次.可以看出：1）移除多重超圖結(jié)構(gòu)的MH-HyperGraph 變體表現(xiàn)出較差的學習能力，各項指標沒有隨著訓練輪次的增加而提升，綜合推薦質(zhì)量也較低；2）保留了部分超圖結(jié)構(gòu)的MH-Behavior 和MH-Mashup 變體表現(xiàn)出更強的數(shù)據(jù)樣本學習能力.從實驗結(jié)果看，在經(jīng)過30～40 輪次訓練后，兩者的HR@5、NDCG@5 和MRR 指標均超過了MH-HyperGraph 變體.3）相較于各種變體，擁有多重超圖結(jié)構(gòu)的原模型MBSRHGNN 表現(xiàn)出最好的推薦性能.綜上可知，所提的多重超圖結(jié)構(gòu)是有效的，能夠?qū)崿F(xiàn)對用戶-服務特征的合理建模.

圖3 多重超圖結(jié)構(gòu)消融實驗結(jié)果Fig.3 Ablation experimental results of multi-hypergraph structure

3.4 超參數(shù)實驗與分析

針對實驗部分提出的問題3），驗證特征維度和行為感知序列長度對推薦性能的影響.特征維度在{16,32,64,96,128}中選擇，序列長度在{10,20,30,40,60,100}中選取.超參數(shù)實驗結(jié)果如圖4 所示.圖中dim 為特征維度，seq 為序列長度，prf 為推薦性能.

圖4 不同特征維度設置下的服務推薦性能表現(xiàn)Fig.4 Service recommendation performance under different feature dimension settings

3.4.1 特征維度對推薦性能的影響 特征維度決定服務嵌入和語義嵌入的表征能力，并且對模型的學習能力也有重要的影響.過小的特征維度將導致模型不能充分地學習數(shù)據(jù)樣本間的非線性關(guān)系，造成欠擬合問題.隨著特征維度的增高，模型的學習能力逐漸增強，但是過強的學習能力容易造成過擬合現(xiàn)象.特征維度不是越大越好.對比圖4（a）、（b），當特征維度取值較低時，模型的推薦性能較差.隨著特征維度的上升，模型的推薦性能逐漸增強.當特征維度取值為128 時，模型在稀疏數(shù)據(jù)集上的推薦性能達到最優(yōu).當特征維度取值為64 時，模型在稠密數(shù)據(jù)集上的推薦性能達到最優(yōu).隨著特征維度的上升，模型的推薦性能略有下降，MBSRHGNN 模型具有一定的魯棒性，推薦性能不會因為超參數(shù)細微的變化發(fā)生大幅波動.

3.4.2 序列長度對推薦性能的影響 行為感知序列長度主要對多重超圖構(gòu)建過程有較大的影響.當行為感知序列較短時，產(chǎn)生的服務劃分數(shù)量會變少，并且與服務組合集的相交部分也會變小,導致構(gòu)建的行為感知超圖和服務組合超圖變得更為稀疏,不利于全局多行為依賴和高階服務組合關(guān)聯(lián)的提取.當行為感知序列較長時,雖然能夠引入更多的用戶交互樣本，但是也會帶來一定的噪聲，造成推薦準確率的下降.對比圖4（c）、（d）可以看出，序列長度的合理取值應該在[30,60].在稀疏數(shù)據(jù)集上，用戶交互的API 服務數(shù)量較少, 需要更長的序列來引入額外的交互信息.在稠密數(shù)據(jù)集上，交互信息較豐富，即使序列長度較短，模型也有較高的推薦質(zhì)量.

4 結(jié) 語

本研究提出基于超圖卷積神經(jīng)網(wǎng)絡的多行為感知服務推薦方法.通過自注意力機制，為不同的服務交互行為賦予權(quán)重.相比較于普通的圖神經(jīng)網(wǎng)絡，通過多重超圖結(jié)構(gòu)能夠有效地表示全局多行為依賴和高階服務組合關(guān)聯(lián)2 種特征.在不同稀疏度的數(shù)據(jù)集上，本研究相比其他主流推薦方法在精度評價指標和相關(guān)度評價指標上能夠獲得更好的效果.不足之處在于提出的多重超圖結(jié)構(gòu)仍不夠完善，沒有考慮服務質(zhì)量信息，超圖信號與嵌入向量的融合過程還有待改進.在下一階段的工作主要包括: 豐富多重超圖結(jié)構(gòu)，以便可以更準確、合理地表示服務特征；探索超圖信號與嵌入向量的自適應地融合方法；在圖神經(jīng)網(wǎng)絡框架的基礎上，構(gòu)造不同類型的神經(jīng)網(wǎng)絡，從多個側(cè)面提取、整合服務特征.