CDN 緩存空間調(diào)整優(yōu)化方法

［滕勇雋 陳戈］

1 引言

互聯(lián)網(wǎng)CP（Content Provider，內(nèi)容提供者）租用CDN（Content Delivery Network，內(nèi)容分發(fā)網(wǎng)絡(luò)）時，會向CDN 運營商提出KQI（Key Quality Indicator，關(guān)鍵質(zhì)量指標）指標要求。在KQI 指標中，欠流率（因CDN 節(jié)點沒緩存而需向源站實時獲取的比率）是非常重要指標，這是由于欠流率未達標時，互聯(lián)網(wǎng)CP 的業(yè)務(wù)質(zhì)量及源站負載會受到影響。

現(xiàn)有CDN 節(jié)點緩存的內(nèi)容是根據(jù)節(jié)點內(nèi)容的訪問熱度來決定的，CDN 節(jié)點內(nèi)部對所存儲的內(nèi)容根據(jù)內(nèi)容訪問熱度進行排序，節(jié)點會定時將熱度排序后面的內(nèi)容刪除，以騰出空間存儲新的高熱度內(nèi)容。大CP 由于其服務(wù)的用戶多，其內(nèi)容熱度往往比小CP 的熱度高，因此大CP 的內(nèi)容往往比小CP 的內(nèi)容熱度更高，出現(xiàn)大CP 較冷的內(nèi)容也比小CP 最熱的內(nèi)容熱度高。由于緩存的內(nèi)容多少決定了內(nèi)容的命中率，因此，在這種機制下小CP 欠流率容易不達標。

為解決該問題，現(xiàn)有的CDN 通過為各CP 劃分專用資源的方式，例如vCDN（Virtual Content Delivery Network，虛擬內(nèi)容分發(fā)網(wǎng)絡(luò)），來解決欠流率問題。在劃分專用資源的方式下，每個CP 會分配固定空間的存儲，相互獨立，不能共享。因此，這種機制下CDN 節(jié)點的復用率不高，容易造成資源浪費的問題。

2 提升CDN 欠流率的總體思路

CDN 欠流是由于CDN 節(jié)點內(nèi)容緩存數(shù)量與用戶請求的內(nèi)容數(shù)量不匹配而形成的，提升CDN 欠流率最直接的方法是提升各CDN 節(jié)點的總緩存空間。但由于CDN 成本制約，提升CDN 欠流率最有效的方案應(yīng)該是根據(jù)目標欠流率，合理為CP 內(nèi)容進行合理緩存。

由于CDN 承載了多個CP 的業(yè)務(wù)，每個CP 也有不同類型的業(yè)務(wù)類型及內(nèi)容，如視頻點播業(yè)務(wù)、視頻直播業(yè)務(wù)、靜態(tài)頁面等，因此，不同的CP 對欠流率有不同，通過不同業(yè)務(wù)及CP 的內(nèi)容欠流率來調(diào)節(jié)CP 緩存是可行方案。

也應(yīng)看到，當某CDN 節(jié)點存在大部分欠流率不達標CP 的情況，很可能表明該CDN 節(jié)點資源不足，通過調(diào)整不同CP 不同業(yè)務(wù)的欠流流很可能無法達到所有欠流率達標，這時應(yīng)通過請求GSLB 將部分資源轉(zhuǎn)移到其它節(jié)點，從而緩解該CDN 節(jié)點的緩存空間壓力。

因此，提升CDN 欠流率的方法應(yīng)滿足以下要求：

（1）CDN 節(jié)點應(yīng)具備判斷CDN 緩存資源是否具備全部CP 欠流率的能力，當無法滿足時，CDN 節(jié)點應(yīng)通過CDN GSLB 過載，由GSLB 把流量調(diào)度到其他CDN節(jié)點；

（2）提升CDN 欠流率的方法應(yīng)有普適性，可適用于不同類型的業(yè)務(wù)；

（3）提升CDN 欠流率的方法應(yīng)易于實施，不影響現(xiàn)有CDN 的緩存算法；

（4）提升CDN 欠流率的方法應(yīng)具備個性化配置能力，通過定義不同的欠流率為不同質(zhì)量要求的業(yè)務(wù)提供不同等級的服務(wù)質(zhì)量。

3 CDN 緩存空間調(diào)整方案

本文提出的一種緩存空間調(diào)整方法，主要通過緩存空間調(diào)度服務(wù)器及安裝在CDN 節(jié)點的欠流率監(jiān)測上報兩個模塊的協(xié)同完成，這兩個模塊交互接口如圖1 所示。

圖1 緩存空間調(diào)度系統(tǒng)示意圖

緩存空間調(diào)度服務(wù)器根據(jù)內(nèi)容分發(fā)網(wǎng)絡(luò)CDN 節(jié)點以預(yù)定周期上報的各內(nèi)容提供者CP 的欠流率，判斷是否存在欠流率不達標CP。在存在欠流率不達標CP 的情況下，調(diào)整指定CP 的CP 熱度變量。將指定CP 的下發(fā)給CDN節(jié)點，以便CDN 節(jié)點利用CP 熱度變量對指定CP 的內(nèi)容熱度進行調(diào)整，以調(diào)度各CP 的緩存空間。

CDN 節(jié)點欠流率監(jiān)測上報，如表1 所示。

表1 CDN 節(jié)點欠流率上報參數(shù)表

其中CP 熱度變量計算方法如下：

CP 熱度變量=（Target_Rate-Real_Rate）*HotdegreeX+HotdegreeX

CDN 緩存空間調(diào)整流程如圖2 所示。

圖2 緩存空間調(diào)度流程圖

（1）根據(jù)CDN 節(jié)點以預(yù)定周期上報的各CP 的欠流率，判斷是否存在欠流率不達標CP。

（2）發(fā)現(xiàn)CPx 的欠流率不達標。

（3）判斷是否存在其它欠流率不達標的CP。若不存在其它欠流率不達標CP，則執(zhí)行步驟4；若存在其它欠流率不達標CP，則執(zhí)行步驟8。

（4）在欠流率達標的CP 中選擇出欠流率最低的CPmin。

（5）分別計算CPx 和CPmin 的CP 熱度變量。例如，若CPx 的熱度為HotdegreeX，當前欠流率為Real_Rate，目標欠流率為Target_Rate，則CPx 的熱度變量為：（Target_Rate-Real_Rate）×HotdegreeX ＋HotdegreeX

（6）相應(yīng)地，也可利用上述公式計算CPmin 的熱度變量。

（7）將CPx 和CPmin 的CP 熱度變量下發(fā)給CDN節(jié)點，以便CDN 節(jié)點利用CP 熱度變量對CPx 和CPmin的內(nèi)容熱度進行調(diào)整，以調(diào)度各CP 的緩存空間。

（8）經(jīng)過預(yù)定時間間隔，判斷CPx 當前的欠流率是否達標。若CPx 當前的欠流率仍未達標，則返回步驟3。若CPx 當前的欠流率已達標，則結(jié)束調(diào)度。

（9）向GSLB（Global Server Load Balance，全局負載均衡）單元發(fā)送流量調(diào)度請求，以便將CDN 節(jié)點上的部分流量調(diào)度到其它CDN節(jié)點。

（10）若存在多個CP 欠流率不達標的情況，表明CDN 節(jié)點當前的資源不足，這時可通過向GSLB 發(fā)送請求，以便將部分流量調(diào)度到其它CDN 節(jié)點，從而能夠減少緩存空間需求，解決當前多個CP 欠流率不達標的情況。

4 應(yīng)用效果

本文方案在CDN 應(yīng)用中發(fā)現(xiàn)，當不是大部分CP 發(fā)生欠流率不達標情況下，通過本方案可快速降低CP的欠流率，適用于大部分的CDN 應(yīng)用場景。