基于mean-variance的服務集群負載均衡方法

包曉安，魏雪，陳磊，胡國亨，張娜

（浙江理工大學，浙江 杭州310018）

研究與開發

基于mean-variance的服務集群負載均衡方法

包曉安，魏雪，陳磊，胡國亨，張娜

（浙江理工大學，浙江 杭州310018）

大量并發請求任務進行分配時，負載調度機制是通過最小化響應時間及最大化節點利用率實現網絡中節點的負載均衡，在基于遺傳算法的負載均衡算法中，適應度函數設計對服務集群負載均衡效率產生重要的影響。對此提出了一種基于mean-variance的服務集群負載均衡方法對適應度函數進行優化，采用投資組合選擇模型mean-variance進行最小化響應時間，以得到每個服務器資源利用率的權重，從而獲得最優的分配組合，進而提高適應度函數的準確性和有效性。在不同服務環境下與其他模型進行比較，仿真結果表明，本文的負載均衡算法在節點利用率和響應時間方面使服務集群得到了更好的均衡。

負載均衡；mean-variance模型；遺傳算法；負載調度

1 引言

在服務器集群中，用戶的請求需要經過負載均衡器將請求任務分配到后臺的服務器進行處理。由于同一時間會有大量任務等待被分配，為了解決請求分配的流量擁塞及控制問題，負載均衡器在接收到來自內部或外部的資源請求時，根據服務器集群的負載情況通過均衡調度算法進行合理分配。負載均衡機制[1,2]的目的是能夠高效地為服務集群分配任務提供好的解決方案。服務集群在實現負載均衡這一領域，已經取得了很多研究成果[3-5]，但是這些傳統的調度算法操作簡單，不適于工作復雜的現實環境，并且點到點式的算法在搜索過程中往往會產生大量錯誤的峰值點，從而影響最佳結果的判定。Zomaya和Teh[6]提出將遺傳算法（genetic algorithm，GA）用到負載均衡策略上并且得到廣泛應用。GA的本質是一種求解問題的高度并行性全局搜索算法，能在搜索過程中自動獲取和積累有關搜索空間的知識，并控制搜索過程以求得最優解。當服務集群有大量任務等待處理時負載均衡器會通過GA進行調度，其目標函數是最小化執行時間，充分利用節點的利用率并均衡網絡負載。但簡單遺傳作為一種啟發式搜索算法，尋優理論還不完善。有各種類型的負載均衡算法[7,8]，其中服務器的性能和已使用情況不同，則當前的節點利用率也將不同。但是，更多的負載均衡算法忽略了各個服務器應有的差異權重，針對節點利用率的計算是采用簡單的求和，降低了適應值的準確性和有效性。

為了實現高效的基于遺傳算法的負載均衡，特別是降低頻繁訪問節點的響應時間還需要進行研究。適應度函數是GA進行最優選擇的關鍵步驟。如果提高了其有效性將在一定的資源利用率基礎上節約響應時間。mean-variance投資組合選擇理論[9]主要研究如何使金融資產進行合理配置與選擇，使用證券收益方差度量風險，從而實現收益率最大化與風險最小化間的均衡，為投資者進行決策提供了指導。繼而mean-variance投資組合選擇理論還被用于應用層路由中，路由的多路徑權值采用 mean-variance模型，在求解約束條件下求解最優化問題而獲得的。本文是基于GA對負載任務進行合理分配，在一定的資源利用率情況下最小化響應時間，mean-variance模型適合適應度函數中二者的特殊關系。通過mean-variance模型改進傳統適應度函數，以一定水平的資源利用率盡量縮短用戶請求的等待時延，從而獲得最優的分配組合，提高用戶體驗。

2 負載均衡機制

2.1 量化負載

當大量用戶訪問網絡時，不同服務所需的時間和所消耗的計算資源是千差萬別的。其中請求服務的類型不同，當前網絡帶寬或服務器資源利用的情況不同等都是影響因素。例如，負載比較輕的請求或許只需要讀一個HTML頁面進行比較簡單的計算，然而一些負載比較重的請求則需要計算密集的查詢、數據庫訪問及很長的響應數據流，所以需要對不同的請求任務進行合理量化。根據服務器的日志文件進行分析，然后將其中涉及的請求文檔進行分類[10]，通過不同文檔類型在日志文件中所占的比重及不同的服務請求類型形成的不同負載值，對用戶的請求任務進行負載值量化。

2.2 mean-variance模型

投資組合優化問題作為現代金融學的一個核心課題[11]，主要研究如何對金融資產進行合理配置與選擇，從而實現收益率最大化與風險最小化。

負載均衡策略的主要目標是在最小化響應時間的情況下最大化節點利用率。負載均衡問題符合馬克維茨模型的幾個條件：在一定的平均資源利用率基礎上，期望的均衡時間最少；在一定的均衡時間上，期望的資源利用率最大；每一次的適應度函數的取值與前一次的資源利用率分布情況相關聯；負載均衡的時間與平均資源利用率息息相關。因此，針對m個服務器的節點利用率及響應時間問題，本文采用mean-variance模型[10,11]在約束條件下進行設計，通過方差度量負載調度的響應時間，在最小化響應時間的狀態下得到期望利用率，從而增加了適應度值計算的有效性，更好地實現服務集群的負載均衡。

2.3 自適應閾值函數設計

自適應的閾值策略中的閾值[12,13]表示處理器是重負載或輕負載。每一個處理器在達到或完成任務時會直接向中央調度程序報告，然后根據目前的系統負載和新調度任務的負載得到單個服務器的負載均值。系統設置了重閾值（Lmax）和輕閾值（Lmin）來判斷服務器當前所處的負載環境，基于平均負載值可導出：

其中，CSL（current system load）定義為目前的節點負載量，表示負載均衡器中遺傳調度算法未給服務器集群分配任務，服務集群依舊在執行前一次調度算法分配的任務量。

NTL（new tasks load）定義為即將分配的負載量，表示遺傳調度算法通過迭代操作已經選擇出最優分配組合，即將分配給服務集群的任務量。

Lave是根據目前的節點負載量（CSL）和即將分配的負載量（NTL）之和與總服務節點量N的比值求得。而R和D給負載平衡機制添加了靈活性和有效性，R是比1大的值，表明處理器的負載量大于平均負載值小于重閾值；同時D是比1小的值，表明處理器的負載量小于平均負載值，大于輕閾值。超負載的服務器將不再分配任務，否則會出現負載過重或過輕的不均衡問題。其中，R和D的值根據任務的數量及服務器的性能進行設置。自適應閾值策略可以靈活地調動整個負載系統，是負載均衡系統的重要保障。

3 負載均衡優化

根據當前時刻t的系統狀態采集各服務節點的信息，當有空閑出現時需要負載均衡器調用均衡算法進行新一輪的任務分配。由于本文負載均衡調度是結合GA解最優化問題，采用生存的優勝劣汰技術交換信息進行個體創新。其中遺傳方法需要根據歷史信息及預期對新搜索點進行改善。這里的負載策略主要包括參數編碼和適應度設計。

3.1 編碼

在編碼機制中，參數的編碼方式有多種[14]，其中二進制編碼因為簡單易行且處理模式數最多成為最常用的編碼方法，但是編碼串太長使得空間搜索量變大且將一直占用內存，導致計算機資源的使用率較底，因此提出采用三維十進制對空間的候選解進行參數編碼。其中每個組成數組的字符串具有固定大小，在搜索空間中的每個節點都有字符串代表，而且其代表的字符串是唯一的，從而三維十進制編碼也將提高遺傳操作的準確性。

在三維十進制編碼中，每個解被編碼為一個由3個屬性表示的十進制數組，記作＜Tα,Tβ,Pi＞，這里的Tα、Tβ分別表示任務的編號和任務的負載量，而Pi表示此任務被分配的服務器i，其中i=1,2,…,m。表1是將10個并發任務分配給4個服務器，其中第一組表示服務器1上的任務3的負載量為7，第二組表示服務器4上的任務5的負載量為3等。

表1 任務編碼

采用隨機函數產生Q個初始結構數據，每個結構數據稱為一個字符串，也稱為一個個體，因此Q個字符串構成了一個群體。在GA中將隨機產生的適量初始串結構數據作為初始種群。

3.2 適應度函數構建

負載策略目的是使分配給服務集群的負載更均衡，而在GA中適應度函數是評價字符串性能的唯一標準，所以有效地構建適應度函數就變得極其重要。將適應度函數分為3部分，包括資源利用率、響應時間和可接受分配服務器的概率。

3.2.1 負載指數

通過服務器運行時各方面的參數得到負載指數，主要包括CPU使用量、內存和帶寬利用率。變量中CPU、內存及帶寬的利用情況可以通過負載平衡器監測到。

其中，每個服務器的內存利用率定義為：

其中，Vdi為服務器的已用內存，Pdi為服務器i的總內存。CPU、帶寬利用率的定義與內存利用率具有相似形式，分別為：

其中，Vci、Vbi分別為服務器已被占用的CPU和帶寬，Pci、Pbi則是服務器的總資源。

對于負載指數的衡量，在不同類型的系統應用中，各個參數的重要程度也有所不同。在典型的Web應用環境下，可使用的內存資源和響應時間就非常重要，如果用戶以長的數據庫事務為主[15-17]，則CPU使用率和可用內存就相對重要一些。因而在資源利用率的問題上不可將以上因素同等看待，為了方便在系統運行過程中針對不同的應用對各個參數的比例進行適當調整，為每一個參數設定一個常量系數ki(i=1,2,3)，用來表示各個負載參數的權值。所以服務器的資源利用率表示如下：

其中，k1、k2、k3為常數，且k1+k2+k3=1。常量系數根據系統的應用環境進行設置。

3.2.2 資源利用率和響應時間分析

由于不同的服務器的性能和使用的情況不同，引入了mean-variance模型計算服務集群的資源利用率及響應時間[7]。假設對m個服務器進行資源利用率的配置，對應的資源利用率為隨機變量Rui（Ru1,Ru2,…,Rum），則系統中總的節點利用率為：

其中，wi(i=1,2,…,m)代表 m個服務器資源利用率的比例，即權重因子。系統中總的期望 up和響應時間Makespan為：

其中，ui是服務器i資源利用率的期望，而cov(Rui,Ruj)表示任意兩個服務器資源使用情況的協方差，協方差也可表示為σi,j。mean-variance模型通過求解約束優化問題來獲得最優的權重向量：

根據期望及權重因子可以得到目標函數的兩個約束條件：

在限制條件下求解Rui資源利用率組合時的最小負載執行時間，關于最值問題，可通過拉格朗日目標函數求得。構建拉格朗日式如下：

其中，λ1和λ2是拉格朗日乘數，通過計算L相對于wi和拉格朗日乘子的導數為0的等式來獲得最優的權重向量。分別對wi、λ1、λ2求偏導：

通過求偏導數得到權值因子wi，從而在式（8）和式（10）中可得到目標函數的總資源利用率和響應時間。

3.2.3 可接受分配的服務器

雖然服務器的資源利用率得到提高，執行時間縮短但仍舊可能出現部分服務器超載運行的狀況，所以負載均衡的下一個目標是提高可接受分配服務器 （number of acceptable distribution server，ADS）的概率。

自適應閾值策略得到重閾值（Lmax）和輕閾值（Lmin），每個服務器目前的負載與將要分配的負載之和不能超過重閾值或低于輕閾值：

可接受分配的服務器表示服務器目前的負載值符合以上條件，即式（18），且允許被調度算法再次分配任務。但是，服務器的負載值超過Lmax或低于Lmin則此服務器是不正常運作，也將被定義為不可接受分配任務的服務器。在整個字符串中可接受分配任務的服務器的數量越多，表示調度任務的分配更均衡。

3.2.4 組合適應度函數設計

通過3個目標函數的計算可得到組合適應度函數為：

這里的適應度函數是用來評價負載調度任務的質量。其中，式（14）構建的拉格朗日式可以得到權值因子wi，從而通過式（8）和式（10）中可得到目標函數的總資源利用率Rp和響應時間Makespan。當響應時間縮短，資源利用率提高，且可接受分配服務器ADS的概率也較高時，適應度值就會增大，這就表示負載均衡策略越好。

服務集群按照組合適應度函數進行評估操作，從而實現分配組合的優勝劣汰。以下算法利用mean-variance模型計算分配組合的適應度函數值，通過遺傳操作并行搜索得到最優解。首先，按輪盤賭選擇方法對適應性強的字符串進行選擇復制，對選擇的優秀字符串進行交叉、變異運算；再次，在完成變異操作后，字符串將產生新的適應度值，所以需要被重新評估，然后產生新的幸存概率，這些值將被用來定義下一輪循環中輪盤的插槽值；最后，在需要判斷是否達到K次循環后，再決定是否將得到的最優字符串解碼并用于任務分配或繼續迭代。對于新系統狀態t+1時刻，檢查是否有空閑處理器出現，若有空閑，將啟動負載均衡進行新任務的分配。

算法 負載均衡的最優解設計

Load balance algorithm{

RequestQ in sliding-window//請求隊列

ServerList//服務節點負載信息

Do{

Requesti=RequestQ.Out_Q//請求出隊

Shedule IGA//通過遺傳算法分配請求

Initialize newPop//初始化種群

Evaluate fitness of P(t)based mean-variance//“適者生存”遺傳判斷

While(not Terminate-Condition)//不滿足終止條件時，循環

{

Select operation for P(t)//選擇操作

Crossover operation for P(t)//交叉操作

Mutation operation based Polynomial Mutation for P(t)//變異操作

P(t+1)=P(t) //得到下一代群體P（t+1）,循環

GA-operation//遺傳操作

Evaluate fitness of P(t)//適應度判斷

}

End While

Output(Requesti)

}}

4 仿真實驗設計及結果

針對適應度函數中響應時間和資源利用率的有效性計算問題，引入投資組合選擇模型mean-variance來計算服務集群中節點利用率的權重，優化遺傳算法中的適應度函數，以獲得最優的分配組合。

4.1 實驗設計

為了驗證本文的優化算法增加了適應度函數的有效性，以提高服務集群的負載均衡表現。本文使用OPNET14.5仿真平臺進行測試，其中服務集群的負載均衡策略遵循三層建模規則，包括網絡模型、節點模型和進程處理模型。服務集群采用集中式負載均衡網絡拓撲結構，100 Mbit/s帶寬的局域網架構，集群的3個處理器分別為6MIPS、3MIPS、1MIPS。客戶端為4個以太子網，每個子網包括20個用戶，子網彼此通過64口以太網交換機連接，負載均衡單元與客戶端在10 Mbit/s線路上交流，而16口的Hub為服務集群與負載均衡單元的交流服務。

節點模型中負載均衡器的設計遵循OSI建模規則[18]，在IP處理層采用NET實現基于 mean-variance的負載均衡算法。該工作的實現在進程模型中，首先，初始化負載均衡單元；然后，對獲得的數據分組進行源、目的地址分析并根據其端口號進行分類，根據用戶請求任務調用負載均衡算法分配給對應的服務器；最后，把響應的數據分組進行NET地址轉換再反饋給客戶端。

完成網絡、節點及進程建模后，通過圖1的負載均衡系統實現本文算法的性能表現，其中設計的負載均衡模型包含負載均衡調度模塊 （基于mean-variance的負載均衡算法、FCFS（first come first served）算法[4]、DGA（dynamic genetic load balancing）算法[3]）、數據分組分析模塊、負載信息采集模塊、請求轉發模塊及服務集群模塊。當客戶端傳入數據分組后，根據網絡協議的端口判斷請求任務的類型[9]，將請求數據分組傳遞給負載均衡調度模塊。在 mean-variance模型的基礎上通過 GA并行搜索得到最優分配組合 （其中負載采集模塊需要描述服務節點的CPU使用量），內存和帶寬利用率等采集間隔時間設置為 10 s。改寫用戶的請求數據分組的目的地址為對應服務器的內部 IP地址，再將數據分組發送至服務集群中。

4.2 實驗結果與分析

對于算法效果的驗證，將本文提出的方法與FCFS及DGA進行比較。實驗運行基于表2的默認參數。

根據以上的參數設置，算法會有不同的性能表現。在負載均衡機制中迭代次數和并發請求量是影響節點利用率和響應時間兩個目標函數的關鍵因素，但隨機分配中部分參數只與GA相關。例如，迭代次數的變化在節點利用率和響應時間方面對FCFS算法沒有影響。所以進行實驗時，在GA算法中改變迭代次數來觀察參數對算法性能的影響。

圖1 負載均衡系統模型設計

表2 實驗參數

在圖2和圖3中可以看出迭代次數從5次增加到60次時，兩種算法的響應時間的增幅逐漸減少，而節點利用率為增加的趨勢，最后趨于平緩。并且本文的負載均衡方法在響應時間和節點利用率方面都優于DGA算法。已知適應度函數是用來評價負載調度的質量，圖4的結果中，當迭代次數增加時本文算法的適應度值逐漸增加，達到35次時目標值最大。結合圖2、圖3觀察，隨著迭代的繼續進行使得資源利用率有所提高，但在響應時間上卻出現增幅較大的現象。因此對GA進行過多的迭代是多余的并且會增加響應時間，違背了負載調度的最初目的。所以將迭代次數設置為35次會使得本文算法得到最優適應度，并且本文的算法相對于DGA算法的適應度值較高，這也表明了本文算法的優越性。所示，任務數量從250個到3 000個進行間隔250個的線性增加，3個算法總響應時間也逐漸增加。在請求任務較少時，本文算法因引入拉格朗日乘數兩個約束條件求最優權重因子，并對3個參數求偏導數導致響應時間較長。但隨機分配的任務數量大于1 250左右時，本文算法相對于DGA和FSFC算法的利用率產生一定差距。實驗表明，通過增加的mean-variance模型對節點利用率權重的精確計算，使得適應度函數的準確性得到改善，從而節省了遺傳算法通過優勝劣汰選擇最優分配組合的時間，使得負載均衡算法分配任務到服務集群的響應時間最小化。

圖2 Makespan:改變迭代次數

圖3 平均節點利用率:改變迭代次數

圖4 適應度值：改變迭代次數

除了迭代次數外，并發請求量也是均衡算法的另一個關鍵因素，當任務量增加時3種算法在響應時間和節點利用率上的負載均衡表現如圖5、圖6所示。

本實驗中除了任務數量外其他參數均為默認值，如圖5

圖5 Makespan:改變任務數量

圖6 平均節點利用率：改變任務數量

如圖6所示，隨著任務的增加本文算法的服務集群節點利用率逐漸從90.5%增長到96.8%，與DGA相比較增加了 0.9%。表明在不同負載比重的任務類型中，采用mean-variance模型有效地計算適應度函數，然后通過拉格朗日乘數求得約束條件下節點利用率的權重因子，此方法是值得肯定的。本文提出的算法使得每個服務器資源利用率的權重因子得到更精確的評估和預測，從而提高了并發任務分配的效率。

5 結束語

有效的任務分配中負載均衡策略至關重要，大部分研究都集中關注這一問題并提出了一系列的解決方案。本文通過對服務集群均衡方法的研究，發現結合投資組合選擇理論中的mean-variance模型來設置服務集群中節點利用率的權重，以最小化任務完成時間為條件來獲得最優的權值向量，為每個服務器的資源利用率分配權值從而得到更有效的組合適應度函數。實驗結果表明，本文所提出的方法在縮短響應時間，提高節點利用率及負載均衡分配方面有很好的表現。但隨著應用服務的逐漸升級，在大規模的應用場景中用戶還需要一定的QoS保障[19]。為此，本文將在現有的基礎上，進一步結合用戶QoS保障機制進行深入研究。

[1]李文中,郭勝,許平,等.服務組合中一種自適應的負載均衡算法[J].軟件學報,2006,17(5):1068-1077. LI W Z,GUO S,XU P,et al.An adaptive load balancing algorithm for service composition[J].Journal of Software,2006, 17(5):1068-1077.

[2]DONG B,LI X,WU Q,et al.A dynamic and adaptive load balancing strategy for parallel file system with large-scale I/Oservers[J].Journal of Parallel&Distributed Computing,2012, 72(10):1254-1268.

[3]RAMAKRISHNA M,KODATI V,GRATZ P,et al.GCA:global congestion awareness for load balance in networks-on-chip[J]. IEEE Transactions on Parallel&Distributed Systems,2016: 1-8.

[4]ZHANG Y,LIAO X,JIN H,et al.Inc-part:incremental partitioning for load balancing in large-scale behavioral simulations[J].IEEE Transactions on Parallel&Distributed Systems,2015,26(7):1900-1909.

[5]CHANDAKANNA V R,VATSAVAYIV K.A sliding window based self-learning and adaptive load balancer[J]. Journal of Network&Computer Applications,2015,56(C): 188-205.

[6]LI Y,YANG Y,MA M,et al.A hybrid load balancing strategy of sequential tasks for grid computing environments[J].Future Generation Computer Systems,2009,25(8):819-828.

[7]KORKHOV V V,MOSCICKI J T,KRZHIZHANOVSKAYA V V. Dynamic workload balancing ofparallelapplications with user-levelscheduling on the Grid [J].Future Generation Computer Systems,2009,25(1):28-34.

[8]BALASANGAMESHWARA J,RAJU N.A hybrid policy for fault tolerant load balancing in grid computing environments[J]. Journal of Network&Computer Applications,2012,35(1): 412-422.

[9]吳偉平,高建軍,李端.多階段均值-方差資產負債管理的隨機控制[J].控制理論與應用,2015,32(9):1200-1207. WU W P,GAO J J,LI D.Stochastic control for multiperiod mean-variance asset-liability management[J].Control Theory& Applications,2015,32(9):1200-1207.

[10]FOSTERI,KESSELMAN C,TUECKES.The anatomy of the grid:enabling scalable virtual organizations[J].The International Journal Performance Computing Applications,2001,15(3): 200-222.

[11]WU Z W,SONG X F,XU Y Y,et al.A note on a minimax rule for portfolio selection and equilibrium price system[J]. Applied Mathematics&Computation,2009,208(1):49-57.

[12]韓東升,丁莎莎,余萍.一種基于閾值的無線異構網絡基站分簇方法[J].電信科學,2015,31(4):18-21. HAN D S,DING S S,YU P.A clustering method based on the thresholdinwireless heterogeneous network[J].Telecommunications Science,2015,31(4):18-21.

[13]MOHAMED N,AL-JAROODI J,EID A.A dual-direction technique for fast file downloads with dynamic load balancing in the cloud[J].Journal of Network&Computer Applications, 2013,36(4):1116-1130.

[14]鄧亮,趙進,王新.基于遺傳算法的網絡編碼優化[J].軟件學報,2009,20(8):2269-2279. DENG L,ZHAO J,WANG X.Genetic algorithm solution of network coding optimization[J].Journal of Software,2009,20(8): 2269-2279.

[15]蘇金樹,郭文忠,余朝龍,等.負載均衡感知的無線傳感器網絡容錯分簇算法 [J].計算機學報,2014,37(2): 445-456. SU J S,GUO W Z,YU C L,et al.Fault-tolerance clustering algorithm with load-balance aware in wireless sensor network[J]. Chinese Journal of Computers,2014,37(2):445-456.

[16]ANGRISANIL,CAPRIGLIONED,FERRIGNO L,etal. Locality-sensitive task allocation and load balancing in networked multiagent systems:talent versus centrality[J].Journal of Parallel&Distributed Computing,2011,71(6):822-836.

[17]DONG B,LI XQ,WU QM,et al.A dynamic and adaptive load balancing strategy for parallel file system with large-scale I/O servers[J].Journal of Parallel and Distributed Computing,2012, 72(10):1254-1268.

[18]CHENG D,RAO J,GUO Y,et al.Improving performance of heterogeneous mapreduce clusters with adaptive task tuning[J]. IEEE Transactions on Parallel&Distributed Systems,2016:1.

[19]郭濤,李有明,雷鵬,等.MIMO中繼系統中一種基于用戶QoS的資源分配方法[J].電信科學,2015,31(4):115-120. GUO T,LI Y M,LEI P,et al.A resource allocation scheme based on user’s QoS in MIMO relay system[J].Telecommunications Science,2015,31(4):115-120.

Load balancing method of service cluster based on mean-variance

BAO Xiaoan,WEI Xue,CHEN Lei,HU Guoheng,ZHANG Na
Zhejiang Sci-Tech University,Hangzhou 310018,China

When a large number of concurrent requests are allocated,the load scheduling mechanism is to achieve the load balancing of nodes in the network by minimizing the response time and maximizing the utilization ratio of nodes.In the load balancing algorithm based on genetic algorithm,the fitness function is designed to have an important influence on the load balancing efficiency.A service cluster load balancing method based on mean-variance was proposed to optimize the fitness function.The investment portfolio selection model mean-variance was used to minimize the response time,which was used to get the weight of each server’s resource utilization,so as to obtain the optimal allocation combination.This method improves the accuracy and efficiency of the fitness function.Compared with other models in different service environment,the simulation results show that the load balancing algorithm makes the service cluster get a better balance performance in terms of node utilization and response time.

load balancing,mean-variance model,genetic algorithm,load scheduling

TP393

A

10.11959/j.issn.1000-0801.2017027

包曉安（1973-），男，浙江理工大學教授，主要研究方向為軟件工程及軟件測試、智能信息處理。

魏雪（1990-），女，浙江理工大學碩士生，主要研究方向為網關負載調度和智能優化算法。

陳磊（1992-），男，浙江理工大學碩士生，主要研究方向為智能信息處理及嵌入式設備視頻采集。

胡國亨（1992-），男，浙江理工大學碩士生，主要研究方向為智能信息處理及物聯網協議。

張娜（1977-），女，浙江理工大學副教授，主要研究方向為軟件工程及軟件性能分析、軟件測試技術。

2016-11-12；

2017-01-09

國家自然科學基金資助項目（No.61379036，No.61502430）；國家自然科學基金委中丹合作項目（No.61361136002）；浙江省重大科技專項重點工業項目（No.2014C01047）；浙江理工大學“521人才培養計劃”基金資助項目

Foundation Items:The National Natural Science Foundation of China(No.61379036,No.61502430),China-Denmark Cooperation Program of the National Natural Science Foundation of China(No.61361136002),Major Science and Technology Projects of Zhejiang Province(No.2014C01047), 521 Talent Project of Zhejiang Sci-Tech University