采用OpenFlow交換機的服務器負載均衡策略

曾友雯，李雙慶，鄒東升

(重慶大學 計算機學院，重慶 400044)

隨著云計算的興起，云數據中心往往通過負載均衡手段協調服務器池中的服務器負載分配，以獲得優化的響應性能[1-2]。近年來，軟件定義網絡SDN(software defined network)在云數據中心廣泛應用。SDN將控制平面與數據平面解耦合，由SDN控制器感知網絡狀態[3-4]。在SDN網絡中，控制器通過OpenFlow協議[5]動態變換交換機中的流表規則，實現對網絡的動態控制。一些研究利用這一特點，通過動態變換用作負載均衡的交換機LBS(load balancing switch)中的流表規則來實現服務器間的負載均衡。負載均衡的策略集中在控制器端，其優點是通過軟件定義的方式動態部署不同的負載均衡策略，并且節省了傳統負載均衡器方式的部署成本[6]。

近年來對SDN環境下的服務器負載均衡領域的研究主要集中在服務器均衡策略[7-8]、流表資源優化[9-11]等方面。Zhong等[7]將用戶請求定向到實時響應時間最短的服務器處理，使服務器保持負載均衡的狀態。Handigol等[8]提出Plug-n-Server流量負載平衡方案，將控制器模塊化，通過控制器全局管理資源，使控制器高效有序地調度資源。Wang等[9]使用通配符規則轉發服務請求，將請求端按IP地址前綴劃分為多個區塊，根據負載動態分解或合并各區，以期占用LBS較少的流表項資源。Lin等[10]提出通過給服務器分配優先級設置不同的通配符規則，適用于大規模數據中心，以更少的流表項達到更高效率。Mao等[11]提出單流表和組流表結合的動態流表設計算法，負載均衡時調整更少流表項，減少負載均衡流表變換。

文中提出一種采用OpenFlow交換機的服務器負載均衡策略，使用分區通配符規則均衡轉發服務請求，在LBS上預先部署多地址定向流表，SDN控制器周期性采集LBS活躍連接數，據此計算出服務器負載狀態。利用蟻群算法的信息正反饋和啟發式搜索特性，在服務器負載偏差超過閾值時求解負載調度方案，遷移負載以達到負載均衡的目的。

1 基于通配符的流表規則

采用負載均衡策略的服務器集群對外以單一IP地址形成單一映像(single image)。作為負載分配器(load dispatcher)的LBS按照SDN控制器部署的流表規則轉發請求到指定后端服務器。如果流表記錄每個請求的轉發規則，會產生流表溢出，影響轉發效率，增大控制器處理開銷[12-13]。

將服務請求按源IP地址前綴劃分為多個區塊，分別用通配符表示每個區塊相同的地址前綴部分，將其映射到OpenFlow流表匹配字段中。在LBS轉發服務請求時，由于多個請求匹配同一轉發規則，因此稱之為多地址定向流表MDFT(multi-address directed flow table)，如圖1所示。MDFT能有效解決流表過多的問題，主要用于流量轉發和流量數據監控。

圖1 多地址定向流表表項Fig. 1 Multi-address directed flow entry

當需要平衡負載，將原區域的負載重新分配時，引入單地址定向流表SDFT(single-address directed flow table)。在負載均衡調整期中同時存在調整前的TCP連接和調整啟動后的新連接。SDFT登記每條新請求的TCP連接，而調整前的流量則繼續沿用原來的規則，從而保障TCP連接映射服務器的一致性。

在匹配規則上約定SDFT優先級高于MDFT，當請求同時滿足SDFT和MDFT匹配條件時，按照SDFT規則轉發流量。多個MDFT可以將服務請求轉發到同一服務器，但MDFT間IP通配符地址不能重疊，以保證服務請求轉發到唯一服務器。MDFT生存時間較長，在不需要調整流表項時，服務請求按照MDFT轉發。SDFT生存時間較短，僅在負載均衡調整期使用。

2 基于OpenFlow交換機的負載均衡策略

如圖2所示，假設部署x臺服務器Si(i=1,2,…,x)，將請求端按源IP地址前綴初始劃分為m個區塊Bk(k=1,2,…,m)，每個區塊分別映射一個MDFT表項，其IP地址前綴為Ipre_k,每個區塊覆蓋n個請求端源IP地址，SDN控制器對應生成并下發m個流表項Fk(Ipre_k,Si,p)到LBS，其中k=1,2,…,m，p為流表項的優先級。地址前綴滿足Ipre_k的服務請求通過LBS匹配流表項Fk(Ipre_k,Si,p)后被轉發到服務器Si。當不同服務器分配到的負載發生不均衡時，SDN控制器需要及時感知并做出負載再分配以均衡服務器負載。

圖2 負載均衡交換機轉發示意圖Fig. 2 Diagram of load balancing switch forwarding

2.1 服務器負載計算

在衡量服務器負載時，主要分為直接或間接方式獲取服務器的負載狀態。李艷冠等[14]和于天放等[15]通過控制器采用SNMP協議獲取服務器CPU利用率、內存利用率等指標來計算服務器負載。文獻[7]通過控制器發送Ping命令測試服務器實時響應時間，根據實時響應時間度量服務器負載。上述直接獲取服務器負載狀態的方法可以較準確地衡量服務器的負載情況，但該方式對服務器缺乏透明性，對服務器的響應方式有一定的要求，因此存在一定的局限性。另外，該方式需要控制器直接參與服務器數據采集，增加了控制器的開銷。Boero等[16]提出通過交換機服務請求的入隊速率和處理速率衡量后端服務器負載不均衡程度，將交換機中入隊速率大于處理速率的流量重路由，從而達到后端服務器負載均衡的目的。該方法采用對服務器透明的機制，雖不能計算出服務器實際負載，但可以有效衡量后端服務器負載不均衡程度，減少控制器資源消耗，不限制服務器的響應方式。

Li=θ*Ci，

(1)

式中，θ為活躍連接數對服務器負載的影響因子。當服務請求到達LBS，LBS中匹配的流表項通過計數器對TCP的SYN位和FIN位計數，SDN控制器周期性采集LBS流表項中的該計數值，從而計算出活動連接數。

考慮負載均衡出現抖動，采取t次采樣數據計算平均數的方法來計算確定服務器平均負載

(2)

式中，Li[z]為在第z時刻服務器的總負載，t為采樣次數。

通過方差表示服務器間負載失衡度δ為

(3)

式中，δ(t)為t時刻服務器間負載失衡度。δ(t)越大，表示服務器間的不平衡程度越大。SDN控制器觸發負載均衡策略的條件為

δ(t)>ω，

(4)

式中，ω為負載失衡度閾值。

2.2 自適應動態負載均衡策略

文中提出一種自適應動態服務器負載均衡策略，利用SDN控制器向LBS部署MDFT和SDFT流表項重定向服務請求，SDN控制器采用基于蟻群算法的負載重定向算法ACO-LBSA(ACO-based load balance switching algorithm)來決策服務器間的負載遷移，以達到負載均衡。

2.2.1 負載重定向方案選擇

蟻群算法[18-20]是一種模擬螞蟻尋找食物過程中發現路徑的智能優化算法，該算法具有分布計算、信息正反饋和啟發式搜索的特點。在研究場景中，負載均衡策略需要實時監控全局負載變化，并自適應均衡負載分配，因此采用蟻群算法以達到較快的收斂速度和較高的求解準確度。將服務器負載情況作為蟻群算法的信息素，重定向活動連接數的倒數作為啟發函數，服務器間負載失衡度作為路徑長度，算法目標是求解過載服務器負載重定向最優方案。

假定在當前時刻服務器Si過載。負載重定向算法過程描述如下：

1)初始化信息素濃度及每只螞蟻。在云數據中心初始化階段，考慮服務器之間的處理能力異構性，用服務器的負載處理能力對信息素τki初始化：

τki=di，

(5)

式中，di表示為服務器Si處理負載的能力。創建包含m個MDFT表項、x個服務器的螞蟻對象，初始化服務器失衡度。螞蟻隨機選擇路徑(Fk,Si)，路徑表示為將流表項Fk重定向到服務器Si。并將分配過的MDFT從搜索列表gh中刪除，加入到禁忌表。

2)選擇重定向服務器。螞蟻按照概率與輪盤賭算法選擇服務器重定向MDFT，在t時刻第h只螞蟻選擇將流表項Fk重定向到副本服務器Si的概率

(6)

式中：τki(t)表示t時刻將流表項Fk重定向到服務器Si的路徑上的信息素濃度；α為信息素啟發因子，表示螞蟻在路徑上留下的信息素的重要性；β為期望啟發因子，反映了啟發函數的重要性。ηki(t)為啟發函數表示服務器Si處理流表項Fk轉發流量的可見度，本策略采用重定向活動連接數定義啟發函數

(7)

3)更新任務禁忌表、搜索列表和服務器負載情況。根據步驟1中的方法更新禁忌表、搜索列表和服務器負載情況。

4)每只螞蟻形成一個局部最優解。當一次迭代結束后，每只螞蟻按照式(8)選擇最小失衡度的解為最優解，最優解加入到序列List<(Fk,Si)>中，其中a代表螞蟻的數量，h代表第h只螞蟻

(8)

5)更新信息素。為了防止信息素堆積，對每只螞蟻完成分配后，調整信息素：

(9)

(10)

6)重復進行迭代，直到達到最大迭代次數，計算出最優解，并給出最優負載重定向矩陣

(11)

若eki的值不為空，則表示將流表項Fi的負載重定向到服務器Sj；若為空，則不重定向。

2.2.2 基于蟻群算法的負載重定向算法

根據前文求解到的最優負載重定向矩陣E，SDN控制器向LBS下發流表項重定向服務請求，實現負載均衡。基本思路為：SDN控制器下發優先級為p1(p1>p)的流表項Fnew(Ipre_k,Si,p1)和轉發到新服務器Sj流表項Fnew(Ipre_k,Sj,p)，當服務請求到達Fnew(Ipre_k,Si,p1)時，流表項檢查TCP標識SYN位。若SYN=1，視為新的TCP流，由SDN控制器下發優先級為p2(p2>p1)的源IP地址為Ikj的SDFT表項fnew(Ikj,Sj,p2)定向到新的服務器Sj，并將流表項加入SDFT表項集合fj，將新的TCP請求重定向到新的服務器處理；若為原來持續的流，由SDN控制器下發流表項fnew(Iki,Si,p2)，設置空閑超時時間idle_time，從而保障TCP連接映射服務器的一致性，并將流表項加入集合fi。通常情況下[9]，若在60 s內無數據傳輸，視為連接關閉，因此實驗中設置idle_time 為60 s。超過idle_time后，刪除fj和Fnew(Ipre_k,Si,p1)，查看fi，若為空則刪除集合，實現無差錯的負載重定向。該算法偽代碼如表1所示。

表1 ACO-LBSA算法

3 實驗結果與數據分析

3.1 實驗環境

研究在Ubuntu環境下使用Mininet搭建SDN網絡仿真實驗環境，選擇Ryu作為SDN控制器，選擇OpenVSwitch作為負載均衡交換機，構建實驗網絡，該網絡拓撲結構如圖3所示。

圖3 實驗網絡拓撲Fig. 3 Experimental network topology

實驗為服務器集群配置4臺服務器，服務請求端選擇整個IP地址空間的一個子集，將其劃為24個初始區塊，每個服務器初始按平均方式各分配6個區塊。

3.2 實驗分析

以云數據中心為目標，模擬4種場景下分別使用Random算法、Round Robin算法和ACO-LBSA算法進行均衡負載的過程。4種場景分別為：①低負載運行，服務器負載均在10%～20%；②負載失衡度較高，不同區塊的負載相差可達10倍；③服務請求突增，某些區塊的負載在某個時刻陡增一倍；④高負載運行，服務器負載均在80%～90%。如圖4～圖7所示，為4種場景下發生一次負載均衡過程前后總共180 s內服務器平均響應時間，其中每隔5 s計算一次平均響應時間。

圖4 場景(1)下服務器平均響應時間變化趨勢Fig. 4 Trend of average server response time under scenario (1)

圖5 場景(2)下服務器平均響應時間變化趨勢Fig. 5 Trend of average server response time under scenario (2)

圖6 場景(3)下服務器平均響應時間變化趨勢Fig. 6 Trend of average server response time under scenario (3)

圖7 場景(4)下服務器平均響應時間變化趨勢Fig. 7 Trend of average server response time under scenario (4)

如表2所示，為分別采用ACO-LBSA算法與Random算法、Round Robin算法在4種場景下服務器響應性能對比。

表2 服務器響應性能對比

從圖4～圖7和表2中可以看出，在場景(1)下，采用3種算法的服務器平均響應時間相差不大，但采用ACO-LBSA算法的服務器平均響應時間略有優勢，且服務器平均響應時間波動更小；在場景(2)下，采用ACO-LBSA算法的服務器平均響應時間明顯優于其他2種算法，且服務器平均響應時間波動更小；在場景(3)下，采用ACO-LBSA算法的服務器平均響應時間明顯優于其他2種算法，且服務器平均響應時間的波動明顯降低；在場景(4)下，采用ACO-LBSA算法的服務器平均響應時間優化較場景(1)～場景(3)下程度更高，服務器平均響應時間波動較其他算法明顯降低。

根據以上實驗可以看出，文中提出的ACO-LBSA算法較Random算法和Round Robin算法在服務器響應性能方面有所改善，在云數據中心處于負載失衡度較高、服務請求突增和高負載運行等典型場景下，較其他2種算法對服務器響應性能改善更為明顯。

4 結束語

提出了一種采用OpenFlow交換機的負載均衡策略。通過通配符規則縮減流表項數量，分別采用MDFT和SDFT用于均衡的負載分配和負載調整期的負載過渡，以活躍連接數度量服務器負載，從而使負載均衡對服務器保持透明。當服務器負載失衡度超過閾值，SDN控制器通過蟻群算法求解出最優的負載調度方案，并向LBS下發MDFT流表項和SDFT流表項重定向服務請求，以達到負載均衡。通過仿真實驗顯示文中的策略較隨機和輪轉策略性能更優。后續研究工作將在此基礎上討論引入區分服務的負載均衡策略。