基于深度強(qiáng)化學(xué)習(xí)的邊云協(xié)同串行任務(wù)卸載算法

張鳳荔，趙佳君，劉 東，王瑞錦

(1.電子科技大學(xué)信息與軟件工程學(xué)院 成都610054；2.網(wǎng)絡(luò)與數(shù)據(jù)安全四川省重點實驗室 成都610054)

近年來，移動應(yīng)用程序在各行各業(yè)都有著廣泛的應(yīng)用，但在實現(xiàn)諸如媒體處理、在線游戲、增強(qiáng)現(xiàn)實、虛擬現(xiàn)實和在移動設(shè)備中執(zhí)行各種創(chuàng)新移動應(yīng)用程序的時間、能量、成本和安全性等相關(guān)方面仍存在一些困難和挑戰(zhàn)。由于這些移動設(shè)備的資源限制，為了滿足應(yīng)用程序運行的低延遲和高數(shù)據(jù)速率的需求，產(chǎn)生了一種新的計算模式——移動邊緣計算(mobile edgecomputing,MEC)[1]。

在MEC場景中，通過在用戶設(shè)備周圍的無線基站部署MEC服務(wù)器，將處于遠(yuǎn)距離云端的計算資源延伸至網(wǎng)絡(luò)邊緣，為用戶設(shè)備提供物理距離更近的服務(wù)，降低由網(wǎng)絡(luò)延遲造成的任務(wù)時延，同時也可以緩解應(yīng)用數(shù)據(jù)傳輸對核心網(wǎng)造成的壓力。當(dāng)進(jìn)行任務(wù)卸載操作時，用戶設(shè)備將計算任務(wù)數(shù)據(jù)通過無線基站傳輸至MEC服務(wù)器上進(jìn)行計算，MEC服務(wù)器完成計算后將計算結(jié)果返回至用戶設(shè)備，從而完成一次任務(wù)卸載操作，如此可以使得用戶應(yīng)用獲得更低的延遲體驗，變相地增加用戶設(shè)備應(yīng)用程序擁有的計算能力。

目前大量的研究是基于用戶設(shè)備與MEC服務(wù)器之間的任務(wù)卸載，并未考慮云端依舊擁有大量的計算資源，且能夠針對特定場景優(yōu)化計算環(huán)境的情況。在大量移動設(shè)備和物聯(lián)網(wǎng)設(shè)備的高度計算資源需求下，僅依靠MEC服務(wù)器進(jìn)行計算是難以完成的，仍然會出現(xiàn)資源瓶頸。在考慮用戶設(shè)備與MEC服務(wù)器之間的網(wǎng)絡(luò)邊緣任務(wù)卸載的同時，還需要云端的強(qiáng)大計算能力來輔助MEC服務(wù)器，通過邊云協(xié)同來共同為移動設(shè)備提供相對低時延、高計算能力的服務(wù)。由于云端需要考慮網(wǎng)絡(luò)傳輸時延和特定任務(wù)需求，在進(jìn)行任務(wù)細(xì)粒度卸載時，對任務(wù)不同的環(huán)節(jié)需要有優(yōu)先級考量，這也使得整個任務(wù)卸載工作的復(fù)雜程度增加。

近幾年，移動邊緣計算任務(wù)卸載問題一直是研究熱點問題，因為任務(wù)卸載在決策時需要考慮諸多因素，在尋找最優(yōu)解的過程中充滿挑戰(zhàn)。其中文獻(xiàn)[2]針對MEC服務(wù)器和用戶設(shè)備間通信和資源分配，提出了hJTORA啟發(fā)式算法，在小規(guī)模的任務(wù)卸載中，實現(xiàn)了相對基線算法的更優(yōu)解。文獻(xiàn)[3]提出一種基于匈牙利和貪心算法的啟發(fā)式算法，對密集網(wǎng)絡(luò)下信道分配進(jìn)行了優(yōu)化。文獻(xiàn)[4]針對資源受限的串行任務(wù)，提出一種基于化學(xué)反應(yīng)優(yōu)化算法的MSTDOS算法，實現(xiàn)對串行任務(wù)細(xì)粒度卸載的優(yōu)化。文獻(xiàn)[5]提出一種基于組合拍賣模型的算法，解決車聯(lián)網(wǎng)中的任務(wù)卸載問題。文獻(xiàn)[6]中提出了一種基于博弈論的啟發(fā)式算法，從云?邊?用戶3層結(jié)構(gòu)中尋找任務(wù)卸載策略。以上文獻(xiàn)采用的是傳統(tǒng)的啟發(fā)式算法，在面對復(fù)雜環(huán)境時，計算能力會大幅下降，更好的解決辦法是采用深度學(xué)習(xí)或強(qiáng)化學(xué)習(xí)的方式來處理高度復(fù)雜的場景中任務(wù)卸載問題。文獻(xiàn)[7]提出一種AHP和DQN相結(jié)合的任務(wù)卸載算法，解決在車輛網(wǎng)環(huán)境下車載設(shè)備與MEC服務(wù)器間的任務(wù)卸載問題。文獻(xiàn)[8]基于LSTM和HER改進(jìn)深度學(xué)習(xí)算法，解決單用戶多服務(wù)器的任務(wù)卸載問題，對能耗時延費用等多種指標(biāo)進(jìn)行比較。文獻(xiàn)[9]提出了一種基于DQN的MEC環(huán)境下的多任務(wù)卸載和資源分配算法。通過此方法，將混合整數(shù)非線性規(guī)劃轉(zhuǎn)變?yōu)橐粋€RL問題，找到了更優(yōu)的解決方案。

但上述研究仍存在以下不足：1)沒有考慮云邊協(xié)同問題；2)粗粒度的卸載算法缺乏靈活性。本文算法基于云?邊?用戶的3層結(jié)構(gòu)，針對邊云協(xié)同場景下的任務(wù)卸載資源分配進(jìn)行研究，基于Rainbow DQN[10]算法提出了一種面向邊云協(xié)同帶有權(quán)重串行任務(wù)卸載算法(edge-cloud weighted serial task offloading algorithm based on rainbow DQN,ECWS-RDQN)，考慮多用戶的串行任務(wù)卸載對MEC服務(wù)器和云端的計算資源競爭，以及不同用戶應(yīng)用的優(yōu)先級，以任務(wù)延遲時間、任務(wù)能量消耗和服務(wù)質(zhì)量保證作為評價標(biāo)準(zhǔn)。

1 系統(tǒng)模型及問題定義

本文的任務(wù)卸載模型由多個移動用戶設(shè)備(UE)、擁有MEC服務(wù)器的無線基站(BS)和云端服務(wù)器(CS)組成，構(gòu)成一個云?邊?用戶的3層結(jié)構(gòu)，如圖1所示。用戶設(shè)備產(chǎn)生串行任務(wù)，MEC服務(wù)器在中間層為用戶和云端提供任務(wù)的資源分配、任務(wù)卸載調(diào)度工作，同時可以為用戶分擔(dān)一定程度的計算任務(wù)，云端則擁有強(qiáng)大的計算能力，可以更加快速地解決復(fù)雜計算問題，但相對邊緣服務(wù)器會擁有更高的網(wǎng)絡(luò)延遲。

圖1 邊云協(xié)同系統(tǒng)模型

其中，用戶設(shè)備用集合{1,2,···,U}表示，用戶設(shè)備擁有有限的計算資源，并且僅帶有一個串行任務(wù)Wi；每個用戶u可 以用一個5元組表示u={i,Wi,Ti,Ri,Qi}，i∈{1,2,···,u}為用戶編號；Wi是該用戶設(shè)備當(dāng)前擁有的串行任務(wù)；Tu是該用戶設(shè)備當(dāng)前任務(wù)的預(yù)計完成時間；Ru表示為用戶設(shè)備與無線基站的通信帶寬；Qu表示為該用戶設(shè)備的服務(wù)質(zhì)量保證，該值越高代表該用戶的服務(wù)優(yōu)先級越高；系統(tǒng)中MEC服務(wù)器用M表示，M={Cm,Tm,Rc}，其中Cm為 該MEC服務(wù)器的計算能力，Tm為該服務(wù)器當(dāng)前任務(wù)的預(yù)計完成時間；云端服務(wù)器用C表示，C={Cc,Tc}，其中Cc為 該云服務(wù)器的計算能力，Tc為該服務(wù)器當(dāng)前任務(wù)的預(yù)計完成時間。

用戶設(shè)備在產(chǎn)生任務(wù)后，會將任務(wù)卸載決策請求發(fā)送至MEC服務(wù)器，MEC服務(wù)器會根據(jù)當(dāng)前系統(tǒng)狀態(tài)決定任務(wù)是在本地執(zhí)行還是上傳至MEC服務(wù)器或是云端執(zhí)行。卸載策略由X表示，其中X∈{0,1,2,3}，0表示本次策略為空操作，1表示任務(wù)將會在本地執(zhí)行，2表示任務(wù)將會卸載至MEC服務(wù)器執(zhí)行，3表示任務(wù)將會卸載至云端服務(wù)器執(zhí)行。

1.1 串行任務(wù)模型

本文中的任務(wù)假設(shè)為多個微任務(wù)串行組成的任務(wù)，一個任務(wù)應(yīng)用由多個串行微任務(wù)組成，其中微任務(wù)中的起始和末尾代表該任務(wù)中的輸入和輸出部分，并且輸入必須由本地完成。本文使用鏈表Wi={t,l},i∈{1,2,···,u}表示任務(wù)，t為當(dāng)前微任務(wù)，l為下一個任務(wù)指針，其中用三元組來表示微任務(wù)t，ct為該任務(wù)計算所需的CPU周期數(shù)(cycle)，dt為該任務(wù)卸載時需要傳輸?shù)臄?shù)據(jù)量(kb)，m axT為該任務(wù)的時延上限要求(ms)。

串行任務(wù)的特點在于其任務(wù)之間的依賴關(guān)系，微任務(wù)i?1項完成才可以執(zhí)行微任務(wù)i，直至執(zhí)行至最后一個微任務(wù)，該項串行任務(wù)才全部執(zhí)行完成。在實際應(yīng)用場景中，串行任務(wù)也是最為常見的任務(wù)類型之一，如圖像識別等應(yīng)用。

1.2 時延模型

時延在各種任務(wù)場景中都是一項至關(guān)重要的指標(biāo)，時延表示一項任務(wù)從任務(wù)請求開始至任務(wù)全部完成的時間，并且時延大小決定了一項任務(wù)的完成時間是否可以滿足應(yīng)用需求。本節(jié)中的時延為用戶設(shè)備完成其當(dāng)前微任務(wù)的時延，分別從本地、邊緣和云端3個部分討論其任務(wù)時延的組成。

1.2.1本地執(zhí)行

在本地執(zhí)行策略中，代表該微任務(wù)會在本地進(jìn)行計算，不會將數(shù)據(jù)傳輸至MEC服務(wù)器，所以當(dāng)前的任務(wù)時延d Tu表示為：

式中，ct為該任務(wù)所需的CPU周期數(shù)(cycle)；fu為用戶設(shè)備的CPU頻率(Hz)。

1.2.2邊緣服務(wù)器執(zhí)行

在邊緣服務(wù)器執(zhí)行策略中，代表該微任務(wù)將會通過無線傳輸進(jìn)行任務(wù)卸載，把計算該微任務(wù)的必要數(shù)據(jù)傳輸至MEC服務(wù)器中。在此策略中，時延由計算時延、傳輸時延、排隊時延組成，所以當(dāng)前的任務(wù)時延d Tu表示為：

式中，fs為邊緣服務(wù)器的CPU周期數(shù)；為回傳數(shù)據(jù)的數(shù)據(jù)量；Ru為用戶設(shè)備和MEC服務(wù)器的傳輸速率。

1.2.3云端執(zhí)行

在云端執(zhí)行策略中，代表該任務(wù)將會通過無線傳輸和主干網(wǎng)將任務(wù)所需的數(shù)據(jù)提交至云端服務(wù)器。在此策略中，時延由計算時延、傳輸時延、傳播時延、排隊時延組成，所以當(dāng)前的任務(wù)時延dTu表示為：

式中，fc為云服務(wù)器的CPU周期數(shù)；Rc為MEC服務(wù)器與云端服務(wù)器的傳輸速率；dt為MEC服務(wù)器與云端的傳播時延。

1.3 能耗模型

能耗在實際場景中也是十分重要的指標(biāo)之一，采用電池供電的用戶設(shè)備會對能耗大小更加敏感。在此場景中，能耗由CPU的計算和閑置消耗、無線傳輸時的能量消耗構(gòu)成，以下將會從本地、邊緣和云端3部分分別討論系統(tǒng)能耗的組成。

1.3.1本地執(zhí)行

在本地執(zhí)行策略中，將會使用本地用戶設(shè)備的CPU執(zhí)行計算任務(wù)，所以該策略的執(zhí)行能耗為：

式中，κ為CPU的能量效率系數(shù)[11]；fu為用戶設(shè)備的CPU周期數(shù)。

1.3.2邊緣服務(wù)器執(zhí)行

在邊緣服務(wù)器執(zhí)行策略中，計算任務(wù)將會提交至MEC服務(wù)器進(jìn)行計算，在提交和計算的過程中，能耗由用戶設(shè)備的傳輸能耗和空閑能耗組成：

式中，Pup為用戶設(shè)備在無線傳輸時消耗的能量；Pidle為用戶設(shè)備空閑時消耗的能量。

1.3.3云端執(zhí)行

在云端執(zhí)行策略中，計算任務(wù)數(shù)據(jù)將會通過無線和主干網(wǎng)傳輸至云端服務(wù)器，能耗由用戶設(shè)備的傳輸能耗和空閑能耗組成：

1.4 服務(wù)質(zhì)量保證

服務(wù)質(zhì)量保證在任務(wù)調(diào)度場景中是決定不同優(yōu)先級的用戶服務(wù)質(zhì)量的關(guān)鍵，使得具有更低時延或能耗要求的用戶在資源競爭時會在請求中更有優(yōu)勢。在此場景中，服務(wù)質(zhì)量保證的組成為：

式中， α+β=1,α,β≥0；α為 基礎(chǔ)值；β為該目標(biāo)函數(shù)中服務(wù)質(zhì)量占比；qu為各用戶的優(yōu)先級。

1.5 問題定義

本文的目標(biāo)是使用RainbowDQN生成決策實現(xiàn)時延和能耗的降低，前文已經(jīng)給出了時延和能耗模型，采用線性加權(quán)的方式來規(guī)劃目標(biāo)函數(shù)。因此，原問題可以定義為：

式中， λe,λt,λq∈[0,1]， 并且 λe+λt+λq=1，分別表示能耗、時延和服務(wù)質(zhì)量保證在目標(biāo)函數(shù)中的占比。

2 算法模型

本文研究的任務(wù)卸載問題根本上是一個多目標(biāo)優(yōu)化問題，通常使用啟發(fā)式算法或機(jī)器學(xué)習(xí)方法。在啟發(fā)式算法中一般使用遺傳算法、粒子群算法、化學(xué)反應(yīng)算法等；在機(jī)器學(xué)習(xí)領(lǐng)域更多采用的是強(qiáng)化學(xué)習(xí)方法[12]，如Q學(xué)習(xí)、DQN等[13]。在系統(tǒng)環(huán)境相對復(fù)雜的條件下，往往采用DQN來進(jìn)行更高效的任務(wù)卸載分配工作處理。本文基于改進(jìn)后的DQN?rainbow DQN。rainbow DQN是在原始DQN的基礎(chǔ)上結(jié)合了Double DQN、優(yōu)先經(jīng)驗回放(prioritized experience replay)、決 斗 網(wǎng) 絡(luò)(duelling network)、多步學(xué)習(xí)(multi-step learning)、分布式網(wǎng)絡(luò)(distributional network)、噪聲網(wǎng)絡(luò)(noisy network)[14-18]后改進(jìn)的DQN算法，在訓(xùn)練速度、樣本效率和性能方面與初始DQN算法相比有顯著的增強(qiáng)。

DQN作為強(qiáng)化學(xué)習(xí)的一種，其核心思想是通過獲取環(huán)境狀態(tài)和輸出動作互動后的獎勵，使用神經(jīng)網(wǎng)絡(luò)來近似值函數(shù)，使用經(jīng)驗回放來儲存之前經(jīng)歷的數(shù)據(jù)，在更新參數(shù)時在其中選取一部分來使用。rainbowDQN采用multi-step learning更新Loss函數(shù)：

式中，A和S分別為系統(tǒng)狀態(tài)和動作；γ為折扣因子；R為 獎勵函數(shù)；θ為目標(biāo)網(wǎng)絡(luò)參數(shù)；θ根據(jù)損失來更新；St為迭代時動作A t的 觀測值；a′為在St+n狀態(tài)下獎勵最優(yōu)解。之后最小化Loss函數(shù)來更新網(wǎng)絡(luò)參數(shù)θ。

在更新后存入經(jīng)驗池時，采用的是優(yōu)先經(jīng)驗值回放，根據(jù)損失函數(shù)來決定該項采樣的權(quán)值pt：

式中，pt將 會從損失函數(shù)中獲取；w為優(yōu)先經(jīng)驗回放的優(yōu)先級因子。基于上述改進(jìn)以及其余擴(kuò)展，在本文提出的ECWS-RDQN中，還需根據(jù)系統(tǒng)需求重新定義狀態(tài)空間、動作空間以及獎勵函數(shù)，在獎勵函數(shù)中引入權(quán)重來更加貼合實際的運行場景，優(yōu)化串行任務(wù)調(diào)度策略。

其中動作決策值X∈{0,1,2,3}，表示對任務(wù)w做出的決策，0表示該次請求暫時跳過；1表示該任務(wù)將在本地執(zhí)行；2表示該任務(wù)將卸載至MEC服務(wù)器執(zhí)行；3表示該任務(wù)將卸載至云端執(zhí)行。

在獎勵函數(shù)設(shè)計中，考慮到能耗、時延和服務(wù)質(zhì)量等優(yōu)先級問題，不同的用戶設(shè)備本身的優(yōu)先級、任務(wù)組中某些微任務(wù)在不同計算場景下的效率或是系統(tǒng)的費用成本，都會影響每個微任務(wù)的權(quán)重。并且由于串行任務(wù)的特殊性，會導(dǎo)致多個任務(wù)交叉進(jìn)行，僅對單個微任務(wù)的優(yōu)化可能會導(dǎo)致某些串行任務(wù)總時延或總成本升高，所以在對單個微任務(wù)計算時延、能耗的同時，也需要對串行任務(wù)進(jìn)行約束。

本文確定各項串行任務(wù)權(quán)重時，考慮當(dāng)前任務(wù)計算成本標(biāo)準(zhǔn)du、參考容忍時延標(biāo)準(zhǔn)tu、用戶設(shè)備服務(wù)質(zhì)量保證優(yōu)先級qu這3項評價因素。權(quán)重矩陣A表示為：

計算成本和參考容忍時延使用z-score標(biāo)準(zhǔn)化所有用戶的實際使用情況作為參考標(biāo)準(zhǔn)，質(zhì)量保證為用戶預(yù)設(shè)優(yōu)先級。成本計算和容忍時延計算標(biāo)準(zhǔn)化如下：

利用式(12)求得當(dāng)前用戶正規(guī)化值，即得到該用戶與該環(huán)境中其余用戶在時延要求和成本要求的相對值。再根據(jù)此相對值進(jìn)行歸一化和區(qū)間調(diào)整，即可獲取各個用戶的權(quán)重向量，從而優(yōu)化系統(tǒng)中串行任務(wù)的卸載執(zhí)行效率，使得偏離標(biāo)準(zhǔn)的用戶可以在下一次請求中擁有更高的優(yōu)先級，從而提升系統(tǒng)的穩(wěn)定性。

結(jié)合目標(biāo)函數(shù)，采用min-max標(biāo)準(zhǔn)化方法對綜合能耗、時延和服務(wù)質(zhì)量3項評價指標(biāo)進(jìn)行歸一化，最后得到獎勵函數(shù)為：

在ECWS-RDQN算法中，當(dāng)MEC服務(wù)器接收到用戶設(shè)備發(fā)送的任務(wù)卸載請求后，獲取當(dāng)前系統(tǒng)狀態(tài)，通過計算獲得權(quán)重向量，可以根據(jù)當(dāng)前狀態(tài)得到最優(yōu)的卸載策略輸出。綜合以上模型，ECWSRDQN算法如下。

3 實驗設(shè)計與結(jié)果分析

本節(jié)通過python語言對本文提出算法進(jìn)行仿真以評估其性能，仿真場景為云?邊?用戶3層結(jié)構(gòu)，由一個云端服務(wù)器、一個帶有MEC服務(wù)器的無線基站和多個用戶設(shè)備組成。主要通過與本地計算(local)、全卸載至邊緣(MEC)、全卸載至云端(cloud)、隨機(jī)(平均)分配(random)方案、文獻(xiàn)[8]中的DQN方案和僅使用基于RainbowDQN算法對比本文給出的ECWS-RDQN算法。在時延、能量、服務(wù)質(zhì)量等約束條件下的策略對比，來驗證算法的有效性。其中環(huán)境參數(shù)設(shè)置參考文獻(xiàn)[3,8]，如表1所示。

表1 環(huán)境參數(shù)設(shè)置

ECWS-RDQN算法首先針對Rainbow DQN進(jìn)行優(yōu)化，將串行任務(wù)拆解成多個微任務(wù)后需對獎勵值獲取頻率以及數(shù)值標(biāo)準(zhǔn)化進(jìn)行處理。其中考慮環(huán)境復(fù)雜度和學(xué)習(xí)速度，學(xué)習(xí)速率設(shè)置為r=0.001，multi-step值為10；考慮其經(jīng)驗-探索策略，折扣因子γ=0.99，優(yōu)先經(jīng)驗回放參數(shù)采用α =0.5、β =0.4[16]，噪聲網(wǎng)絡(luò)標(biāo)準(zhǔn)差為σ=0.01。最終本文算法的loss值收斂如圖2所示，在150 000步時基本收斂，因評估中仍會使用貪婪策略跳出，因此在步數(shù)較高等情況下還會出現(xiàn)波動。

圖2 Loss值隨學(xué)習(xí)步數(shù)的變化

在實驗中使用表1給出的環(huán)境配置，使用10個用戶設(shè)備來生成串行任務(wù)，總計需完成100個串行任務(wù)，每個串行任務(wù)由5個微任務(wù)組成，通過調(diào)整串行任務(wù)的生成速率和計算復(fù)雜度進(jìn)行對比。

在圖3中，y軸目標(biāo)函數(shù)值由目標(biāo)函數(shù)歸一加權(quán)后得到，x軸為串行任務(wù)卸載請求的間隔時間，以10 ms為單位時間。對比發(fā)現(xiàn)在任務(wù)生成間隔較大、總的任務(wù)計算壓力較低時，卸載至邊緣服務(wù)器的效果較好。隨著間隔變短，計算傳輸量都增加的情況下，僅靠邊緣服務(wù)器已經(jīng)無法承載。而使用本文提供的ECWS-RDQN算法后，各種情況下的表現(xiàn)都遠(yuǎn)優(yōu)于傳統(tǒng)策略，相較于DQN算法也有一定優(yōu)勢。

圖3 目標(biāo)函數(shù)值隨串行任務(wù)生成速度的變化

同樣，在固定任務(wù)間隔的情況下，改變串行任務(wù)中高計算復(fù)雜度的占比，如圖4給出的目標(biāo)函數(shù)數(shù)值曲線，在計算復(fù)雜度快速升高的情況下，計算能力較低的本地設(shè)備難以完成任務(wù)；邊緣服務(wù)器由于計算量超過承載能力出現(xiàn)任務(wù)堆積，擁有高計算能力和高網(wǎng)絡(luò)延遲的云端幾乎不受影響。圖5和圖6分別從系統(tǒng)時延和能耗開銷兩方面進(jìn)行評價，針對串行任務(wù)的權(quán)值分配策略也在任務(wù)復(fù)雜度較高的情況下，有效降低了平均時延和成本。相較于其他策略和算法，本文給出的ECWS-RDQN算法總體穩(wěn)定，能夠提供更低時延、更低能耗的服務(wù)，有效提升了服務(wù)質(zhì)量。

圖4 目標(biāo)函數(shù)隨任務(wù)計算復(fù)雜度的變化

圖5 串行任務(wù)完成時延隨任務(wù)計算復(fù)雜度的變化

圖6 串行任務(wù)能耗成本隨任務(wù)計算復(fù)雜度的變化

而在圖7中，改變不同的計算復(fù)雜度觀察ECWSRDQN算法在不同情況下對不同優(yōu)先級的用戶組的調(diào)度優(yōu)化，其中獎勵值為時延、能耗的獎勵值歸一化得到。可以看出隨著優(yōu)先級的提高，更高優(yōu)先級的用戶可以在時延和能耗上獲得更好的服務(wù)。

圖7 不同優(yōu)先級用戶組隨計算復(fù)雜度的目標(biāo)函數(shù)值變化

4 結(jié)束語

為面對邊云協(xié)同串行任務(wù)卸載調(diào)度場景，本文提出了ECWS-RDQN算法，并且針對串行任務(wù)特點進(jìn)行優(yōu)化，在時延、能量和服務(wù)質(zhì)量的約束條件下能夠?qū)崿F(xiàn)智能任務(wù)卸載，并且通過實驗驗證了其有效性，本算法在各項參數(shù)下均有較明顯優(yōu)勢。今后將會考慮算法的細(xì)節(jié)優(yōu)化，同時在通信資源分配和多服務(wù)器調(diào)度等方面進(jìn)行研究。