聯邦學習在邊緣計算場景中應用研究進展

張依琳，陳宇翔，田 暉，王 田

1(華僑大學 計算機科學與技術學院，福建 廈門 361021) 2(華僑大學 廈門市數據安全與區塊鏈技術重點實驗室，福建 廈門 361021) 3(北京師范大學 人工智能與未來網絡研究院，廣東 珠海 519000) 4(北京師范大學-香港浸會大學聯合國際學院 人工智能與多模態數據處理廣東省重點實驗室，廣東 珠海 519000) E-mail：cs_tianwang@163.com

1 引 言

隨著全球物聯網 (Internet of Things，IoT)的高速發展，全球物聯網設備激增，專注于IoT、Machine to Machine (M2M)和工業4.0領域的研究機構IoT Analytics在2019年12月發布物聯網平臺報告：2020年全球活躍的物聯網設備數量將達到100億臺，預測2025年將達到220億臺.這些物聯網設備收集產生大量數據，為智慧城市、工業物聯網、智能家居、車聯網等應用場景的發展提供了機會[1].

在傳統云計算模式下，物聯網設備收集的數據直接傳送到云計算中心進行數據處理，再回傳到終端物聯網設備[2].這樣大量的數據上傳到云計算中心不僅對網絡帶寬的要求高，并且高延遲會影響系統工作效率、用戶體驗，同時會造成資源浪費以及數據傳輸過程中的隱私安全等諸多問題[3].邊緣計算(Edge Computing)作為一種新的計算范式，實際上是云計算的擴展和補充，并不是取代云計算[4，5].為了使移動設備的能力也得到提升，還引入了移動邊緣計算作為邊緣計算的一個分支[6，7].與傳統云計算模式相比，邊緣計算在網絡邊緣提供計算和存儲服務，更靠近終端物聯網設備，因此能更好地管理設備并且具有低延遲、數據管理成本低、可信度高等特點[8-10].同時，邊緣計算也為隱私計算和存儲服務提供了平臺[11].2018年，工業互聯網聯盟 (Industrial Internet Consortium，IIC)發布《工業物聯網邊緣計算介紹》白皮書(1)https：//www.iiconsortium.org/pdf/Introduction_to_Edge_Computing_in_IIoT_2018_06_18.pdf，其中總結了將邊緣計算應用于物聯網，具有改善服務性能、保證數據安全和隱私等重要價值[12].

邊緣計算能夠為云計算模式中敏感隱私數據提供較好的隱私保護機制，一方面，在邊緣端對數據進行預處理，以實現對敏感隱私數據的保護[13]；另一個方面，邊緣端和云數據中心的接口可以降低隱私泄露的風險[14，15].但是，邊緣計算并不是絕對的安全，仍有暴露用戶隱私數據的風險，特別是在人工智能和深度學習[16]領域結合應用時仍存在隱私安全難題.除了隱私安全問題之外，在大部門行業中的數據通常都是“小數據”或者質量很差的數據且數據分布較為分散，這樣就形成了一個個“數據孤島”，如何匯集這些“數據孤島”成為了尖銳難題.

隨著公眾對隱私問題的日益重視以及日益嚴格的數據隱私法規，為應對這些挑戰，聯邦學習(Federated Learning)應運而生.聯邦學習具有解決“數據孤島”和隱私問題的強大能力[17]，成為目前人工智能技術領域的研究熱點之一.經典聯邦學習模型在通信效率和模型性能之間難以權衡，而基于邊緣計算的聯邦學習模型利用邊緣計算的特點可先在邊緣服務器上進行邊緣聚合和更新.學者研究發現，基于邊緣計算的聯邦學習三層式(端—邊—云)框架模型效率更高，并且在邊緣計算場景中利用聯邦學習進行模型訓練可以解決數據涉及參與方隱私的問題.例如，利用邊緣服務器先在邊緣層進行邊緣聚合可以降低通信成本[18]；在構建邊緣緩存和計算卸載的系統模型時，訓練數據來自不同參與方，利用聯邦學習的訓練模式可以保護各個參與方的隱私數據.

傳統聯邦學習在高通信效率和高模型性能之間難以平衡，而邊緣計算提供了合適的解決方案.利用邊緣計算的優勢，可以把更多的計算任務卸載到邊緣設備.在服務器全局聚合之前，在邊緣節點或者移動設備上增加本地訓練迭代次數或更多的計算，使局部模型的精度更高，以減少聯邦學習的訓練輪數.此外，在訓練優化中使用更合理的模型聚合方式或更快速模型收斂的方法，也可以減少通信次數[19].

首先對聯邦學習進行概述，根據孤島數據的分布特點，介紹聯邦學習的3種分類.其次，根據現有聯邦學習的不足，總結了引入邊緣計算的聯邦學習模型優勢.接著，介紹了目前在邊緣聚合、邊緣緩存和計算卸載領域應用聯邦學習的相關工作并提出聯邦學習技術在邊緣計算場景中應用的七大未來研究方向，為學者進一步研究指明方向.最后，對本文的工作進行總結.

2 聯邦學習概述

大數據時代下，推進了人工智能和深度學習等技術的發展.相關技術利用海量的數據進行訓練，從而達到智能化目的.然而，在大多數實際應用中存在數據較少的情況，若使用人工智能技術來解決問題是很困難的[20].例如，在智慧城市中，每個攝像頭會收集數據，但從全局監控系統看，每一個攝像頭收集的數據十分有限，實際場景需要聚合多個攝像頭的數據從而進行數據分析.然而在多個設備來自不同公司的情況下，聚合數據會涉及到隱私數據問題.同樣的，在自動駕駛場景下中，每一輛車的行駛數據涉及隱私問題，對于單個車輛的小數據如何匯聚成大數據從而進行模型訓練是一項挑戰.

在模型訓練的時候需要大量數據，而實際應用中數據卻是小數據孤島，當聚合數據孤島受嚴格的法律限制和社會道德規范，如何解決問題是一項重大挑戰.聯邦學習具有保護數據隱私的特點，在符合法律法規和道德要求下成為解決上述問題的新技術.聯邦學習是分布式機器學習的一種方法，它不需要共享數據就可以進行協作訓練.共同參與訓練的設備通過網絡通信與邊緣服務器共享模型參數，共同訓練一個全局模型.聯邦學習使邊緣計算適用于安全性要求更高的場景，而邊緣計算可以優化聯邦學習的模型建模，通信傳輸等.因此，聯邦學習可以和邊緣計算相結合發揮出更強大的作用.

在聯邦學習的實際應用場景中，由于數據的特征以及不同數據孤島有各自的特點，學者提出將聯邦學習分為3類：橫向聯邦學習、縱向聯邦學習、聯邦遷移學習.

如圖1、圖2、圖3所示，矩形的寬代表著樣本(用戶)維度，矩形的長代表著樣本(用戶)特征維度.

圖1 橫向聯邦學習Fig.1 Horizontalfederatedlearning圖2 縱向聯邦學習Fig.2 Verticalfederatedlearning圖3 聯邦遷移學習Fig.3 Federatedtransferlearning

1)橫向聯邦學習指的是在兩個數據集中，用戶的特征維度重復較多而用戶重疊較少的情況下，把數據集橫向切分，并取出兩個數據集中特征相同但不全部一樣用戶的數據進行訓練.適用于業務相似但是用戶群體不一樣的場景，例如兩家不同地區的醫院可以利用當地某疾病的患病情況及數據進行聯合建模，從而對該疾病進行更詳細的分析等；

2)縱向聯邦學習指的是在兩個數據集中，用戶重疊較多而其特征維度重復較少的情況下，把數據集縱向切分，并取出兩個數據集中用戶相同但不全部一樣特征的數據進行訓練.適用于用戶群體基本相似但業務不同的場景，例如銀行和電商公司可以根據用戶的銀行卡流水、評級以及購買記錄進行聯合建模，從而實現為用戶更好地確定等級或推薦商品等功能；

3)聯邦遷移學習[21]指的是在兩個數據集中，用戶維度和用戶特征維度重疊都很少.在這種情況使用遷移學習技術[22]克服數據和標簽不等問題.例如一些小微企業成立時間短，在信貸業務中存在數據樣本少和不全面等問題.因此這些小微企業的信貸風控可以利用大型金融機構訓練完成并投入應用的模型，進行遷移學習，提升應用效果.

3 聯邦學習模型

在本節對比分析經典聯邦學習模型和基于邊緣計算的聯邦學習模型的異同點和優缺點.在經典聯邦學習模型訓練過程中，參與者與云服務器需要進行多輪通信才能達到目標的精度，如果在復雜的深度學習模型下，例如：卷積神經網絡(Convolutional Neural Networks，CNN)[23]，每個更新可能包含數百萬個參數，從而導致高昂的通信成本，并且可能導致訓練瓶頸[24，25].通過增加參與者設備個數和其計算能力雖然可以提高通信效率，但是引入邊緣計算后，基于邊緣計算的聯邦學習模型利用邊緣服務器的臨近性可以降低通信成本，減輕云服務器的壓力.

3.1 經典模型

在聯邦學習經典訓練模型中，多個參與方共同參與訓練，最終生成服務器模型需要的參數，一般都是假設參與方的數據是真實無惡意的數據[26，27].聯邦學習具有以下特點：參與方并沒有向其他機構平臺直接提供其本地數據，不會泄露用戶隱私；每個參與方是小數據，通過模型訓練可以有效地解決數據孤島問題；每個參與方的地位相同，模型隨機選取參與方進行每一輪的訓練，且參與方最終都能從中受益.

一輪訓練過程如圖4所示，圖4中假設有4個參與方，其中參與方A、B、C參與本輪訓練，參與方D此輪沒有參與訓練.首先，由服務器向參與方分發傳送全局模型；其次，參與方先利用加密樣本對齊技術確認參與方共有用戶，參與方基于其本地數據在其本地進行訓練，然后將參數加密后回傳給服務器，隨后在服務器中通過第3方協作者E進行加密訓練，協作者E將公鑰發送給A、B、C用于訓練過程交換的數據進行加密，A、B、C將參數發給協作者E匯總，由E將參數解密發給A、B、C用于更新各自模型后，服務器將參與方的模型參數進行聚合.

圖4 聯邦學習經典模型Fig.4 Classical model of federated learning

整個聯邦學習的訓練過程可以整理為3步：

1)任務初始化：服務器確定訓練的目標、參數以及參與訓練的終端設備，并將全局模型w0G傳給參與方設備；

(1)

3)全局模型聚合和更新：服務器聚合參與方設備上傳的模型參數，更新全局模型wt+1G；

(2)

通過不斷迭代上述訓練過程，直至滿足收斂或者終止條件訓練結束[28].從聯邦學習的經典訓練模型中，我們可以發現，訓練過程中本地設備通過模型參數與服務器進行通信，從而達到保護隱私保護的目的.

3.2 基于邊緣計算的聯邦學習模型英文摘要

基于邊緣計算的聯邦學習模型能夠有效地減少通信成本并提高通信效率.在經典聯邦學習模型的FedAvg算法[29]中無邊緣服務器，直接與云服務器進行通信，全局聚合更新頻繁.文獻[30]提出在經典訓練模型中引入邊緣計算，基于邊緣計算的聯邦學習模型如圖5所示.

圖5 基于邊緣計算的聯邦學習模型Fig.5 Model of federated learning based on edge computing

(3)

在終端設備上進行了k2次邊緣聚合和更新之后由云服務器進行全局聚合和更新所有邊緣服務器模型，則云服務器的全局聚合可以表示為：

(4)

基于邊緣計算的聯邦學習模型主要特點是：在終端上傳參數時，不直接傳到云服務器，而是在位于網絡邊緣、靠近終端設備的邊緣服務器上先進行邊緣聚合，再上傳邊緣聚合后的參數至云服務器進行全局模型的聚合與更新.這樣可以減少不必要的更新與通信，減少通信成本，提高效率.

為了解決FedAvg算法[29]面臨對非獨立同分布(non-independent identically，non-IID)客戶端數據集進行大量輪次收斂和通信成本的問題，文獻[31]在FedAvg算法上結合分布式的Adam優化形式以及壓縮技術，利用邊緣服務器資源并提出了Communication-efficient FedAvg (CE-FedAvg).作者采用MNIST(2)http：//yann.lecun.com/exdb/mnist、CIFAR-10[32]兩個數據集并對設備設定不同的IID、non-IID數據進行實驗.實驗表明，CE-FedAvg在對上傳數據進行主動壓縮具有更好的魯棒性，使用Raspberry Pi (Rpi)測試平臺進行的實驗表明，CE-FedAdam的實時收斂率可達1.7倍.

3.3 小 結

傳統的聯邦學習模型是基于終端—云的二層式架構，而新穎的基于邊緣計算的聯邦學習模型是基于終端—邊端—云的三層式架構.將二層式架構拓展到三層式架構上，模型收斂性是一個關鍵問題.與深度學習模型訓練相似，模型的收斂性與收斂速率也是判斷聯邦學習訓練效果的重要指標.一般來說，當模型具有較快的收斂速率時，則在訓練過程中不僅可以節省參與方參與訓練的時間和資源損耗，還可以提高聯邦學習的訓練效率.當在邊緣層先進行邊緣聚合，通過減少不必要的更新與通信從而減少終端設備與遠程云服務器進行全局聚合更新的通信次數、通信過程中的能量損耗以及降低延遲.目前基于邊緣計算的聯邦學習模型均通過邊緣層進行模型的聚合和更新，未考慮到引入邊緣層所帶來的邊緣設備能耗問題，這也是一個關鍵問題.

4 聯邦學習在邊緣計算中應用研究

在上一節介紹了基于邊緣計算的聯邦學習模型，這種三層式(端—邊—云)框架模型可以提高聯邦學習的通信效率.另一個值得關注的是，聯邦學習由于其自身的特點可以使其在邊緣計算場景中得到廣泛應用.在本節介紹聯邦學習在邊緣計算中的邊緣聚合、邊緣緩存、計算卸載領域的應用.

對于聯邦學習模型，通信成本是一個十分關鍵的因素.為了降低通信成本、減少通信輪次，文獻[29]提出兩種方法：增加參與方設備數量、增加參與方計算任務(在與云服務器進行全局聚合之前進行更多次數的本地更新)[33].雖然文獻[29]提出的FedAvg算法能夠減少30倍以上的通信輪次，但其未利用邊緣服務器，仍直接與云服務器進行通信，其全局聚合更新還是較為頻繁.而通過利用邊緣服務器先進行邊緣聚合，由于邊緣服務器部署位置距離參與方設備較近，可以有效地降低通信成本.

在邊緣計算中，邊緣層服務器有一定的存儲空間并可以提供計算服務.邊緣緩存指的是在邊緣服務器上緩存某些服務，使得終端設備不需要向遠程云端服務器請求服務而向靠近終端設備的邊緣服務器請求即可[34].計算卸載是針對終端設備和邊緣服務器而言，由于終端設備計算能力有限，將計算任務由邊緣服務器執行可以提高整體服務性能和減少延遲[35，36].然而邊緣服務器的計算能力和存儲空間也是有限的，任務無法全部卸載至邊緣端執行，所以將部分任務卸載至遠程云端服務器進行計算，其結果將先返回給邊緣服務器，最后再回傳給終端設備.

然而由于邊緣服務器的資源是有限的，故邊緣服務器緩存的服務以及終端設備向邊緣服務器卸載的任務也是有限的.通過結合時下成熟的人工智能技術，例如深度學習[16]、Q-learning、深度強化學習[37](Deep Reinforcement Learning，DRL)等，能夠有效地提高邊緣緩存和計算卸載的性能.雖然人工智能技術可以優化邊緣計算中邊緣緩存和計算卸載方案，但是邊緣緩存和計算卸載中的隱私數據問題仍是一項重大挑戰.聯邦學習的特點是解決數據“孤島”問題和保護參與方隱私數據，將聯邦學習運用在邊緣計算上，可以將聯邦學習看作是邊緣計算的操作系統，并提供協調和安全的學習協議[38].

4.1 邊緣聚合

在邊緣計算中，引入分布式的機器學習——聯邦學習不僅可以解決邊緣計算中數據被不同參與方持有造成的數據“孤島”問題，還可以提高聯邦學習模型的通信效率、降低通信成本.

文獻[30]提出的分層的聯邦學習算法——HierFAVG算法，參與者需要上傳的模型參數先在邊緣服務器進行邊緣聚合，當邊緣服務器聚合一定數量模型后，邊緣服務器與云服務器進行通信，進行全局模型聚合.HierFAVG算法會減少全局聚合次數，作者的實驗表明對于兩個全局聚合之間相同數量的本地更新，與FedAvg算法相比，在每個全局聚合之前進行更多中間邊緣聚合可以減少通信開銷.但是當將HierFAVG算法應用于non-IID數據時，仿真結果表明，在某些情況下，例如，當邊緣云服務器散度很大或邊緣服務器個數很多時，HierFAVG算法無法收斂到所需的精度水平(90%).HierFAVG算法是在邊緣網絡上實施聯邦學習的有效方法，它通過利用中間邊緣服務器的鄰近性來降低通信成本，并可以減輕遠程云計算中心的負擔.

4.2 邊緣緩存

現有研究中有許多關于邊緣緩存和計算卸載方現有研究中有許多關于邊緣緩存和計算卸載方案的算法.例如，文獻[39]研究了在邊緣計算中密集蜂窩網絡中關注較多但研究較少的動態服務緩存問題，提出了一種高效率的在線服務緩存算法(Online seRvice caching for mobile Edge cOmputing，OREO)，該算法可以聯合優化動態服務緩存和任務卸載兩個問題，從而解決服務異構性和耦合問題.而文獻[40]介紹了一種隱私感知邊緣緩存方案，考慮到邊緣云中的資源約束，在邊緣服務器上部署用戶首選的服務.首先，根據服務請求次數等信息以及其他用戶上下文信息(例如年齡和位置)構建用戶的偏好模型.但是，由于這可能涉及敏感的個人信息，因此作者提出了一種基于聯邦學習的方法來訓練偏好模型，同時將用戶的數據保留在其個人設備上；然后，提出了一個優化問題，其目標是根據用戶的喜好，在不受邊緣服務器的存儲容量、計算能力以及上行鏈路、下載帶寬約束的情況下，最大限度地提高邊緣需求的服務數量.通過使用貪婪算法解決優化問題，添加最改進目標函數的服務，直至滿足資源約束的條件為止.

與文獻[40]不同，文獻[41]使用基于聯邦學習的堆疊自動編碼器(Stacked Autoencoder，SAE)學習模型——基于聯邦學習的主動內容緩存方案(Federated learning based Proactive Content Caching scheme，FPCC)用來預測內容的流行度，從而在保護用戶隱私的同時優化邊緣緩存服務，如圖6所示.

圖6 基于聯邦學習的堆疊自動編碼器模型Fig.6 Edge caching and computational offloading based on Federated learning

在每一輪訓練中，用戶首先從聯邦學習服務器下載全局模型；然后，使用模型的本地數據對模型進行訓練和更新；隨后將更新的模型上載到聯邦學習服務器，并使用聯邦平均算法(FedAvg)進行匯總；匯總得到最終的模型；從而進行緩存決策.

通過堆疊自動編碼器學習用戶的歷史請求信息等，利用相似度矩陣表示用戶和歷史請求文件的相似度.根據相似度矩陣，可以為每個用戶確定K個最近的鄰居用戶，并計算出用戶的歷史觀察列表與鄰居用戶之間的相似度，將所有用戶中相似度最高的文件緩存在邊緣服務器中.為了保護用戶的隱私，利用聯邦學習來學習堆疊自動編碼器的參數，而用戶不必向聯邦學習服務器提供其個人信息或其內容請求歷史記錄.

4.3 計算卸載

文獻[42]提出在優化物聯網系統中的計算卸載決策時使用深度強化學習(Deep Reinforcement Learning，DRL)，系統模型由物聯網終端設備和邊緣服務器節點組成，終端設備可以維護帶有未處理和未成功處理任務的本地任務隊列.這些任務按照先進先出(First In First Out，FIFO)的順序在終端設備本地處理或卸載到邊緣服務器節點進行處理.DRL的智能體(agent)決定將計算任務卸載到邊緣服務器或本地執行計算.為了保護用戶的隱私，對agent進行訓練，用戶不需要將本地數據上傳到服務器.在每一輪訓練中，選擇一組隨機的物聯網終端設備，從邊緣服務器下載DRL agent的模型參數；然后使用終端設備本地數據來更新模型參數；最后，將DRL的agent更新參數發送到邊緣節點服務器進行模型聚合.仿真結果表明，基于聯邦學習的分布式方法可以達到與集中式DRL方法相同的總效用水平.

Wang等人[43]針對邊緣場景中的高空氣球 (High Altitude Balloons，HABs)網絡計算卸載問題展開研究.HABs作為無線基站在空中飛行，其計算能力強于本地終端設備，用戶可以選擇將部分任務卸載至HABs進行計算.但是由于每個用戶的計算任務的數據大小是時變的，所以HABs必須動態調整用戶基站關聯關系、服務順序和任務卸載方案從而滿足用戶的需求.作者提出了基于支持向量機(Support Vector Machine，SVM)的聯邦學習算法，確定用戶關聯，優化每個用戶的服務序列和任務分配.仿真實驗結果表明，與傳統集中式方法相比，該算法的能耗和延遲加權降低16.1%.而文獻[44]使用了云—邊—端的三層結構，與文獻[27]不同的是，將應該由移動設備獨立完成的本地模型更新過程進行分割.訓練過程中的每次迭代包括了邊緣服務器和相對應的邊緣設備之間的多次分割訓練，以及邊緣服務器和全局服務器之間的全局聚合.初始化時，全局服務器會將初始參數發送至邊緣服務器，邊緣設備從邊緣服務器下載模型參數.

以CNN為例，邊緣設備只參與需要數據的第一卷積層和池化層，將結果卸載到對應的邊緣服務器，作為模型其余層的輸入進行訓練，最后匯總至全局服務器進行聚合.通過將部分計算任務卸載到邊緣服務器，相對于聯邦平均算法(FedAvg)，可以降低設備的計算成本和全局服務器的通信成本.

4.4 聯合邊緣緩存和計算卸載

在相關研究中，大部分研究將邊緣緩存和計算卸載應用分開考慮，只單獨考慮其中一個，通過設計相關算法進行問題求解[45，46].然而事實上邊緣緩存和計算卸載結合性能更優，因為邊緣服務器不僅可以執行計算任務還有存儲功能，可以提供緩存服務的功能.

為了解決邊緣計算中的動態和時變環境帶來的問題，文獻[47]提出了使用通過聯邦學習訓練的DRL來優化系統中的邊緣緩存和計算卸載決策.基于聯邦學習的邊緣緩存和計算卸載如圖7所示，每次訓練系統隨機選取一批終端設備作為參與者，采用雙深度Q-Network (Double Deep Q-Network，DDQN)方法，并基于聯邦學習的訓練方式，利用終端用戶的歷史數據進行訓練，由DRL的agent決定邊緣服務器是否緩存文件，以及緩存時要替換的文件.在服務時，對于已緩存在邊緣層的服務，終端設備只需向邊緣層發起請求即可，無需向遠程云請求服務.針對圖7中的計算卸載功能，終端設備可以通過無線信道將計算任務卸載到邊緣服務器，也可以選擇本地執行；若邊緣服務器無法提供相應計算服務，可以將任務卸載至遠程云服務器，具體的計算卸載策略由模型訓練結果確定.

圖7 基于聯邦學習的邊緣緩存和計算卸載Fig.7 Edge caching and computational offloading based on Federated learning

聯邦學習在邊緣計算場景中的應用，在表1中做了全面的總結和詳細分類.通過調研分析不難發現，聯邦學習在邊緣緩存和計算卸載中的應用具有重大價值，在保護隱私方面貢獻巨大.研究方案在相關研究場景下通過設計算法和模型，再結合聯邦學習訓練模型，從而發揮聯邦學習在整個系統框架中保護隱私數據的作用.目前邊緣緩存和計算卸載的相關研究已經成熟，但其中方案大多假設數據可獲取且未提及用戶隱私問題.然而，在實際應用中，用戶隱私數據受保護會導致現有方案不可行或效率低下的難題.將聯邦學習應用在邊緣緩存和計算卸載的相關研究中成為一個熱門可行方案，研究學者們可以在這個方向上創新和突破.目前，這個方向的研究工作比較少但的確是值得深入研究的方向，聯合邊緣緩存和計算卸載的聯邦學習方案也比較少，但聯合考慮上述兩個問題能夠更好地提升邊緣計算的服務性能.

表1 聯邦學習在邊緣計算場景中的應用Table 1 Application of Federated learning in edge computing scene

5 未來研究方向

在上一節介紹了聯邦學習在邊緣緩存和計算卸載中的應用，但是在邊緣計算許多應用方面都存在隱私數據不可獲取的難題，本章節提出了聯邦學習應用在邊緣計算場景中7個重要方向.通過討論在應用場景下聯邦學習的可行性，探討了聯邦學習在邊緣計算場景應用中的未來研究方向.

5.1 基于邊緣計算的聯邦學習模型優化

在3.2節中介紹了基于邊緣計算的聯邦學習模型的原理以及訓練過程，這種基于端—邊—云的三層架構模型利用分布式客戶端的數據和計算資源不僅可以提高模型性能，還能夠降低通信成本、保護用戶隱私，同時也減輕了云計算中心的負擔.然而，該模型在選擇參與方進行每一輪訓練時采用的是隨機選擇方式，這種選擇方式可能因為參與方設備的計算資源受限、無線信道條件差等原因導致模型訓練遭遇瓶頸.為了解決隨機選擇參與方設備帶來的挑戰，Nishio等人[48]提出了一種新的聯邦學習協議FedCS，考慮在異構網絡中的參與方設備狀態，管理異構參與方設備的資源.這樣服務器可以在有限的時間框架內聚合更多的參與方設備的更新，提高訓練過程的效率.

除了對參加訓練的參與方設備進行選擇可以優化模型外，模型聚合的方法也能提高模型訓練效率.例如，Wang等人[49]提出了減少聯邦學習的通信次數的方法，通過識別出參與方的無關更新并組織這些更新上傳至服務器，從而減少網絡占用、避免不必要的更新操作、提高通信效率.

基于邊緣計算的聯邦學習模型在通信與訓練過程方面仍有較大發展空間，可以通過模型壓縮、模型聚合、選擇參與方設備等方案提升模型的性能.同時，可以通過設計獎勵機制激勵設備參與訓練激勵具有高質量的設備參與訓練，從而提高基于邊緣計算的聯邦學習模型的精度.

5.2 智能卸載方案

盡管引入聯邦學習可以提升邊緣計算卸載的安全性，但是目前出現的一些研究表明聯邦學習仍然存在安全性問題.

文獻[51]提出可以通過攔截替換一個或多個邊緣設備訓練的本地模型，達到破壞全局模型.文獻[52]從服務器的角度，提出了多分類任務的生成對抗網絡，通過獲取指定的設備更新數據，不僅可以推出數據類別，還可以反推出此設備的原始數據.這些研究也說明了盡管數據集沒有上傳到服務器，但依然存在數據泄露問題.所以智能卸載中的隱私安全依舊是一個研究的方向.目前關于智能卸載的研究都只考慮靜態的狀態.而實際情況往往復雜許多，這些邊緣設備都為移動設備，接入的網絡狀態大有不同，隨時都有可能在卸載的過程中從系統退出，降低系統性能.如何選取合適的設備狀態以提高智能卸載過程中的穩定性，這有待進一步研究[53].

人工智能逐漸從云端向邊緣端遷移，智能邊緣計算由此應運而生.在邊緣計算場景中的計算卸載方案研究中應用人工智能技術，將會面臨新的問題和挑戰：邊緣設備的算力日益增強，部分任務在本地花費的時間比卸載到邊緣服務器所花費總時長更短，那么在卸載過程中，如何劃分任務使得本地設備和邊緣服務器所需的運行時長最短？由于設備的異構性，設備所擁有的算力有較大差異，并且每個邊緣設備的空閑狀態和網絡情況也各不相同，能否通過人工智能技術對邊緣層進行建模，在上一個問題的基礎上，動態挑選計算節點分配任務?這一系列的問題都值得學者進行研究.

5.3 網絡攻擊檢測

當今，物聯網發展迅速，網絡攻擊日益復雜[54]，目前基于深度學習的網絡攻擊檢測技術已經成熟，通過結合聯邦學習技術可以更好地保護用戶隱私數據.文獻[55]指出，深度學習技術在KDDcup 1999、NSL-KDD和UNSW-NB15這3個數據集上可以精準的預防攻擊，但其精準度主要取決于有大量數據集進行訓練.若要獲取設備或用戶的數據進行訓練，則會涉及到隱私數據等情況，從而導致沒有足夠的數據進行訓練，使得基于深度學習技術的網絡攻擊檢測普及受限.通過將聯邦學習模型應用在現有模型的訓練上，參與者只需下載模型通過上傳相關模型參數而不需要提供本地數據就可以參與訓練，能夠有效地保護用戶數據隱私，并且提升預防攻擊模型的準確性.

目前還沒有將聯邦學習應用于基于深度學習的網絡攻擊檢測的研究工作，但是學者們可以利用聯邦學習能夠保護隱私數據進行分布式訓練的特點從而獲取多個參與方的數據用于模型訓練，可以大大增加用于模型訓練的數據量.

另一方面，傳統機器學習中會受到對抗性攻擊或數據投毒攻擊，而這些問題在聯邦學習中也同樣存在，如何檢測攻擊并避免被攻擊成為一項具有挑戰性的任務.如果聯邦學習的參與方中存在惡意用戶對模型進行攻擊，即它有針對性地毒害全局模型，則對聯邦學習模型訓練而言又是一個新的挑戰.Bhagoji等人[56]探索了深度神經網絡的多種攻擊策略，從有針對性的模型中毒開始，使用惡意代理更新的增強來克服其他代理的影響，并使用隱形指標來檢測聯邦學習訓練回合中帶有顯示增強的模型投毒目標.

差分隱私是一種靈活的防御數據投毒的方法，無論對手目標是什么其都能夠適用，但其缺點是在學習過程中必須注入噪聲，而增加的噪聲會影響模型的性能.如何有效地解決數據投毒也成為一個關鍵問題.

5.4 基站用戶關聯模型

在5G網絡中，隨著用戶的數量和需求的不斷增加，用戶向基站發射數據流會導致基站收到干擾信息從而影響通信質量，而優化基站用戶關聯可以解決上述干擾問題.傳統優化基站用戶關聯的方法通常是基于用戶數據可用的情況下進行的研究，但是事實上在實際場景中涉及隱私數據會導致數據不可用的問題.

借助聯邦學習技術可以有效解決隱私數據，通信帶寬和可靠性問題，建立基于聯邦學習的基站用戶關聯模型，獲取多方用戶數據進行訓練，求解最優化模型的解，從而求出用戶與基站之間的最優關聯關系.隨著異構網絡的發展，通過基站與用戶關聯更好地實現網絡負載均衡.

5.5 車聯網場景中的隱私和安全問題

車聯網(The Internet of Vehicles，IoV)作為智慧城市的應用場景之一，它由可以進行數據收集、計算、通信功能的智能車輛構成[57].IoV可以實現導航、自動駕駛、交通控制、智能停車、實時預警道路情況(前方道路擁堵、道路顛簸或結冰)、協調車輛進行變道等功能.由于車輛需要實時與服務器進行頻繁的通信，但是遠程云服務器距離較遠，在這個過程中不僅會帶來高延遲的問題還會給云服務器帶來巨大的壓力.

而邊緣計算可以提供實時可靠的車輛連接、通信、安全服務，通過位于網絡邊緣端的邊緣節點提供高效、低延遲的服務質量[58-60].Wang等人[61]針對基于邊緣計算的車聯網框架，設計了一種基于深度學習的隱私數據采集和預處理方案，通過采用數據增強和標簽猜測的半監督學習算法，首先在邊緣層進行數據濾波，清除大量相似數據和無關數據.雖然目前基于邊緣計算的車聯網框架已經逐步成熟，但是車聯網中車輛數據仍然會涉及到駕駛員的駕駛路徑信息、個人信息等隱私數據.在車聯網應用場景中，可以通過采用聯邦學習技術，車輛可以在本地設備進行訓練再將更新的模型參數上傳，從而有效地保護本地隱私數據安全.

5.6 激勵設備參與共同訓練

邊緣計算中存在網絡帶寬，存儲，特別是隱私問題，引入了聯邦學習使用邊緣設備訓練本地數據，上傳模型參數，大幅降低網絡通信負載和提高了邊緣計算的適用場景安全性，但也因為聯邦學習中數據不離開本地設備的特點，使得邊緣服務器無法收集設備中的數據，以此評估設備做出的貢獻給予一定的激勵.對于較多數據樣本和數據種類的設備，獲得與較少數據的設備相同的獎勵，必然不會繼續參與訓練任務.

Zhan等人[62]針對聯邦學習獎勵問題，設計了一套基于強化學習的聯邦激勵機制.邊緣計算節點通過使用從設備收集的數據來訓練本地模型來參與聯邦學習.全局服務器致力于最小化總回報，而每個邊緣節點最大化全局服務器收到的獎勵減去模型訓練和數據收集的成本.對于參與者共享其決策情況，參數服務器可以準確地評估其對訓練的準確性的共享，根據基于Stackleberg理論的激勵機制從而得到納什均衡.雖然目前已經出現聯邦學習的激勵機制的研究，但是往往只考慮了數據量和通信損耗作為獎勵的參考.當設備進行移動時，邊緣設備為了獲得更多的獎勵，從通信不好的地方轉移到好的地方，這一過程也應該考慮，是否在設備主動參與時額外提供一些獎勵以此調動邊緣設備的積極性，從而提高模型的精確度和加速訓練過程.

5.7 感知情境的聯邦學習

在邊緣設備中，根據使用者地理位置和語言的不同，每天都在產生海量數據，但這些數據又存在差異性.只是將所有數據視為同一類進行聚合訓練，生成的模型準確率欠佳.那么如何根據用戶的上下文信息進行聯邦學習成為了一個新的研究熱點.現在設備的進步，手機擁有大量傳感器.在設備中，所產生的數據信息可以增加上傳感器信息，即用戶何時何地的產生了這些數據.以鍵盤預測下一詞為例，考慮了情境這個條件，那么根據不同地區和不同語言進行更加準確的推薦.盡管會產生更多的數據，但是聯邦學習恰恰可以保護用戶隱私，防止組織獲取到原始數據，這對于分地區建立用戶更準確的上下文情境信息起到更好的隱私保護.

6 結 論

在高速發展的物聯網時代下，邊緣計算作為可以提升物聯網智能性的計算范式與物聯網緊密相連.然而在許多邊緣計算場景中，由于物聯網設備自身數據涉及隱私，數據隱私問題給物聯網智能化發展帶來了新的挑戰.目前，聯邦學習作為一個數據隱私保護且可以解決數據孤島問題的熱門人工智能技術備受關注，通過對聯邦學習進行詳細概述，并對比分析經典聯邦學習模型和基于邊緣計算的聯邦學習訓練模型的優缺點.在邊緣計算場景中應用聯邦學習技術能夠有效解決物聯網設備的數據隱私問題.針對聯邦學習在邊緣計算場景中邊緣聚合、邊緣緩存和計算卸載的應用研究進行綜述，對比分析當前有關研究方案的優缺點.在目前關于聯邦學習技術在邊緣計算場景應用研究還比較少的情況下，提出了七大重要的未來研究方向供學者們參考.