面向邊緣智能的空中計算

曹曉雯/CAO Xiaowen,莫小鵬/MO Xiaopeng,許杰/XU Jie

（1.香港中文大學（深圳），中國深圳440307；2.廣東工業大學，中國廣州510006）

1 邊緣智能的概念

隨著人工智能和物聯網等技術的快速發展，信息技術與通信技術不斷融合，通信網絡已不再局限于提供數據傳輸服務，而正逐漸演變為支撐下一代互聯網、智能城市、自動駕駛、工業自動化的核心基礎設施。近年來，通信網絡支撐的終端設備數目和承載的業務量都急劇增加。據思科預測，到2023年，全球聯網設備總數將達到293億，而從2017—2022年，平均每年全球業務量增長將達到42%[1]；因此，未來通信網絡需要支持海量設備節點的隨時隨地接入，并提供超可靠低時延的信息感知、傳輸、處理、控制。

在通信網絡中融入智能能力，是實現自動駕駛和工業自動化等新型應用的關鍵。未來的智能通信網絡需要根據基站和終端設備所采集的海量數據進行學習和理解，進行智能的推理、規劃和決策，并對物理世界進行反饋和執行控制。例如，在自動駕駛場景中，網絡將匯總車輛的環境感知信息，并結合超高分辨率地圖和實時交通信息，利用人工智能算法進行智能推理和決策，輔助車輛進行導航路徑規劃和精準避障駕駛[2]。由于海量數據產生于無線網絡邊緣，為實現快速的智能信息處理和實時控制，人們需要將傳統云服務器的計算、存儲和智能能力下沉到網絡邊緣的基站和終端設備；因此，邊緣網絡智能（或邊緣智能）成為大勢所趨，并成為未來6G研究的一個重要方向[3-5]。與傳統單機智能相比，邊緣智能能夠避免單個終端設備存儲計算能力受限問題，打破設備間的數據孤島；與傳統云智能相比，邊緣智能能夠有效降低網絡帶寬需求，降低網絡時延，保護數據隱私安全。

從技術上看，邊緣智能主要包括在無線網絡邊緣對人工智能或機器學習模型進行分布式的智能訓練和智能推理兩個過程。其中，機器學習模型的智能訓練對數據量和計算量有很高的要求，因此，本文中我們著重討論機器學習模型的智能訓練。在多種不同的分布式模型訓練方法中，聯邦學習[6]在保障用戶隱私和數據安全方面具有獨特的優勢，因此獲得了非常廣泛的關注。在聯邦學習中，海量終端設備利用各自的本地數據，在邊緣服務器的協調下，聯合訓練共同的機器學習模型。聯邦學習的訓練過程可以基于分布式梯度下降法迭代進行：在每一次迭代中，不同終端設備根據各自的本地數據，更新局部模型參數，并通過無線信道將各自的局部模型參數上傳至邊緣服務器進行模型匯總，以更新全局模型參數。上述步驟迭代進行，直至全局模型參數收斂。聯邦學習能夠在終端設備不進行原始數據共享的情況下，充分挖掘邊緣網絡蘊藏的分布式計算存儲能力，進行高效的模型訓練。

空中計算是解決上述問題的一種有效技術[9]。與傳統多址接入方式對多用戶數據單獨解碼、通信計算分離設計不同，空中計算技術可以利用無線鏈路上行多址接入信道的信號疊加特性，直接在空中進行計算，完成終端數據的快速匯總平均。空中計算技術通過通信和計算的一體化設計，可以有效降低分布式訓練過程中的通信開銷和時延，提高邊緣智能網絡和聯邦學習的訓練效率；因此，基于空中計算的聯邦學習，已成為邊緣智能的一個重要研究熱點。

2 空中計算的基本原理

在實際的空中計算過程中，系統受到無線信道的衰落特性以及接收機噪聲的影響，而終端設備的發送功率也往往有限；因此，如何在實際系統約束下，設計發送信號和接收機算法，是有效恢復期望信號f的關鍵。在無線網絡中，空中計算具體有兩種實現方式：模擬和數字的空中計算。

對于模擬的空中計算，每個終端設備不需要對感知到的環境數據進行編碼，只需要對原始數據進行預處理，緊接著通過無線信道發送到邊緣服務器，并進行平均處理[10-11]。針對模擬空中計算，一般使用計算失真率作為主要衡量指標，以有效衡量空中計算的鏈路性能。例如，計算均方誤差（MSE）是一種有效衡量空中計算失真的指標，其定義為MSE=E[(^-f)2]。針對單天線加性高斯白噪聲信道，本地信息{Xk}獨立的場景，計算均方誤差可以表示為[11]：

公式（1）中，σ2為噪聲功率。在這種情況下，可以利用發送端的自適應功率分配，平衡信號的不對準以及噪聲的影響，有效降低系統均方誤差[11]。除此之外，為進一步提高空中計算性能，文獻[12-14]采用多天線技術，利用多天線的空間復用和陣列增益，聯合設計發送端和接收端波束賦形，可以同時實現多模態傳感信息的矢量值函數計算，最大程度地降低均方誤差。

2)傳感器包括捷聯慣導、超聲波傳感器、激光測距傳感器和視覺測量系統，其中視覺測量系統由防爆除塵相機和16點紅外LED標靶組成，相機安裝在掘進機機身上，紅外LED標靶安裝在截割臂靠近回轉臺的位置。前期研究[4]表明，多點狀紅外LED標靶可以防止因灰塵過大而導致視覺計算不正確，并且視覺測量的精度為垂直擺角誤差在±0.8°以內，水平擺角誤差為±0.5°。

公式（2）中，(x)+=max(x,0)。針對不同場景，功率分配、多天線、非正交多址接入技術[16]都是提高計算速率的有效手段。

3 空中計算驅動的邊緣智能

邊緣智能是指通過挖掘基站和終端設備散布的數據和通信計算資源，在邊緣網絡中對人工智能或機器學習模型進行分布式的訓練和推演。本節中我們主要關注聯邦學習的分布式訓練過程[6]。如圖2所示，系統中的K個終端設備利用各自的本地數據，在邊緣服務器的協調下，聯合訓練一個共同的機器學習模型。

▲圖1 空中計算示意圖

▲圖2 聯邦學習示意圖

近年來，利用空中計算進行高效的模型參數傳輸聚合，已成為解決聯邦學習的通信瓶頸的一個研究熱門[18-22]。文獻[18-22]研究了基于（模擬的）空中計算技術的邊緣聯邦學習，充分利用多址接入信道的信號疊加特性，提高聯邦學習的收斂速度和準確度。由于在信息匯總過程中，信道較差的終端上傳的模型參數將會產生較大的失真，影響網絡整體的模型訓練收斂速度。針對此問題，文獻[18-22]分別從用戶調度和功率控制的角度進行了研究。例如，文獻[18]結合用戶篩選和接收端波束賦形設計，在滿足計算均方誤差要求的情況下，最大化參與聯邦學習的終端設備數目，以提高模型訓練的性能；在功率控制方面，文獻[19]針對一個寬帶正交頻分多址接入系統，提出一種截斷功率控制方法，排除遭受深度衰落信道的終端設備，在學習性能和聚合誤差之間取得良好的折衷；文獻[20]研究了聯邦學習中基于梯度統計信息的空中計算功率控制問題，關注衰落信道下的最優功率控制問題，通過聯合設計發射端的功率控制和接收端的降噪處理，最小化計算誤差，進而提高收斂速度；此外，針對模擬空中計算中出現的噪聲干擾問題，文獻[21]研究了聯邦學習中由于采用空中計算進行信息匯總出現的迭代噪聲問題，依據子空間學習與跟蹤技術解決了存在的傳輸數據缺失情況；文獻[22]研究了基于空中計算的聯邦學習出現的隱私保護問題，為了防止邊緣服務器等聚合中心惡意揣測用戶的隱私數據，通過對終端用戶的功率進行控制，進而控制接收機接收到的注入到在聚合的全局模型中的噪聲干擾，從而實現對保密級別和信噪比之間的最佳權衡。

4 未來研究展望

空中計算驅動的邊緣智能具有巨大的應用前景，但其研究還處于初始階段。例如，如何將數字空中計算與邊緣智能進行有效結合？如何建立準確的性能度量體系，刻畫空中計算下分布式邊緣智能網絡的性能極限？這些都還需要研究。除此之外，本節中我們對空中計算驅動的邊緣智能的幾個未來研究方向進行展望。

1）分層網絡的空中計算

已有工作主要研究單個邊緣服務器和多個終端設備協作進行機器學習模型訓練的場景。為充分挖掘邊緣智能的潛力，需要利用大規模網絡中海量終端設備的分布數據進行學習。在這種情況下，單個邊緣服務器可能無法滿足海量設備連接和計算能力的要求，因此，人們需要設計新的分層網絡架構，通過依靠多個邊緣服務器甚至云服務器，實現海量節點的分布式數據聚合和模型訓練。針對分層網絡，空中計算是提高分布式模型訓練性能的一種有效手段。以圖3的三層網絡為例，每個邊緣服務器連接了不同的終端設備，而不同邊緣服務器連接到上層服務器進行數據和模型的匯總更新。該三層網絡可以通過兩跳的空中計算實現大規模終端設備的模型匯總平均：在模型訓練過程中，不同終端可以利用第一跳的空中計算，將更新后的局部模型參數上傳至中間邊緣服務器；邊緣服務器則進行第二跳的空中計算，將其部分匯總的模型參數上傳至上層服務器，進行全局模型匯總聚合。在這種情況下，如何確定中間邊緣服務器的轉發策略（基于模擬空中計算的放大轉發或基于數字空中計算的解碼轉發）？如何確保兩跳空中計算的時間同步？如何抑制或利用終端設備到不同中間邊緣服務器的共道干擾？這些都是值得深入探索的問題。

2）設備間通信輔助的多跳空中計算

未來網絡將存在海量終端設備，其中部分設備可能距離邊緣服務器較遠，這將大大影響空中計算和邊緣智能的性能。為解決該問題，可以采用設備間通信技術，利用附近的一些閑置終端設備幫助偏遠的設備終端進行信息匯總。例如，通過在網絡中將終端設備劃分為多個簇，每個簇具有一個簇頭和多個鄰近的簇成員。由于相同簇中的終端設備之間距離很近，利用設備間通信能夠保證較好的傳輸性能。如圖4所示，簇成員通過將各自信息經由空中計算匯總到簇頭端。所有簇頭作為一個信息匯總中繼節點，將接收到的信息通過空中計算匯總到邊緣服務器。如何根據網絡規模，設計分簇大小并選擇適當的簇頭節點？如何基于分簇情況，聯合優化通信和計算資源，并設計設備間通信與空中計算技術的融合機制？這些都是未來重要的研究方向。此外，已有研究表明，通過在有限的信任簇群中通過設備間通信傳輸對數據進行共享，能有效改善分布式機器學習面臨的數據非獨立同分布問題[23];因此，針對一些需要進行數據共享的邊緣智能應用場景，如何有效結合設備間通信以及數據分布重塑增益，提升設備間通信輔助的空中計算性能，也是未來值得研究的方向。

▲圖3 三層網絡下的空中計算

3）隱私保護

在邊緣智能網絡中，移動終端訓練的模型數據需要通過無線信道發送到邊緣服務器進行聚合匯總。盡管在聯邦學習中，終端設備不需要將其私有數據公開，但其仍然面臨隱私泄露的風險。這是由于終端設備上傳的模型參數仍然存在有用信息，邊緣服務器（或環境中的竊聽者）可以從接收到的每個終端設備發送的信息中惡意地推斷出終端設備的私有信息（例如數據的標簽等）。空中計算則可以利用無線信道的疊加特性避免這一方面的隱私泄露。當網絡中的終端設備將信息發送到空中后，邊緣服務器接收到的是所有信息的疊加信號，無法從中推斷出具體某一個終端設備的信息，從而避免終端設備的隱私被惡意推測；因此，在這種情況下，如何通過配置最優無線資源分配實現保密性高的空中計算？如何刻畫聯邦學習訓練的收斂性、無線資源優化和隱私保護之間的最優折衷關系？這些都是值得深入探討的關鍵問題。

4）能量效率問題

在未來大規模物聯網應用中，終端設備尤其是低功耗物聯網節點的能量效率問題，顯得至關重要。針對空中計算驅動的邊緣智能網絡，如何提高系統的能量效率是一個重要的問題。例如，聯合優化終端的計算和通信資源分配是一個有效的方案。此外，也可以利用先進的能量技術（如能量采集和無線能量傳輸等），從能量供給側提高邊緣智能網絡的能量效率和成本效益[24]。例如，圖5給出了一個可持續邊緣智能網絡的示意圖，其中，邊緣服務器利用環境中的可再生能源（比如太陽能、風能等）進行供能，而終端設備則利用無線能量傳輸供能，或利用無線反射通信進行模型上傳。由于可再生能量到達具有隨機性和間歇性，而無線能量傳輸效率則取決于發射端的功率和距離，因此，如何聯合優化能量管理和空中計算的無線資源是一個值得深入研究的課題。

5 結束語

空中計算打破了傳統無線網絡通信計算分離的架構，實現“通信計算一體化”，能有效降低邊緣智能網絡的通信計算開銷，進而提高訓練性能。目前，針對空中計算驅動的邊緣智能研究尚處于起步階段。針對分層網絡和設備間通信等不同網絡架構，考慮隱私保護和能量效率等實際因素，研究先進的空中計算方法，刻畫邊緣智能的性能極限，是未來研究亟待深入探討的理論問題。這對推動空中計算走向6G應用具有重要的實際價值。

▲圖4 設備間通信輔助的空中計算

▲圖5 可持續邊緣智能網絡示意圖