面向電力數據分析的隱私增強聯邦學習框架

摘要：為解決模型更新攻擊對聯邦學習在智能電網中部署與應用的安全威脅，文章基于云邊協同框架和隱私計算技術，提出一種面向電力數據分析的安全高效聯邦學習框架，通過差分隱私機制為客戶端訓練模型參數添加噪聲，以保護訓練過程中模型參數的安全性；利用秘密分享算法對噪聲模型參數進行安全聚合，在保證模型快速收斂的同時實現對電力數據和本地模型參數的保護。理論分析和實驗結果表明，該方法能夠顯著提升電力數據和共享模型參數的隱私性。

關鍵詞：聯邦學習；差分隱私；秘密分享；電力數據；隱私保護

中圖分類號：TP309""文獻標志碼：A

0"引言

電力數據的對外開放共享可有效預測國民經濟的運行情況，為各行業發展提供決策依據^［1］。但隨著電力數據開放性增加，與用電用戶關聯的各類信息安全和隱私保護問題也日益凸顯。聯邦學習（Federated Learning， FL）是一種新穎的機器學習方法，用于解決分布式模型訓練時的數據隱私泄露問題^［2］，作為數據流通的新范式，在滿足數據隱私保護和共享分析優化權衡的條件下，實現多方聯合使用數據建模，已服務于電力負荷評估、電力監控系統態勢感知等場景，為電力行業的運行和發展決策提供有效支持和有力支撐^［3］。

聯邦學習雖然在一定程度上保障了用戶隱私和數據安全，但在共享與分析電力數據上仍然面臨諸多挑戰^［4］。一方面，與集中式機器學習方法不同，FL訓練機器學習模型時不與中心服務器共享用戶或設備數據，須根據全局模型更新，共享本地模型參數并在全局模型中聚合所有模型參數，這使得上傳更新模型參數到中心服務器時通信開銷花費較高。另一方面，電力數據通常是差異性較大的非獨立同分布數據，該特點使得由電力數據訓練產生的模型收斂性和性能不佳。此外，在聯邦學習交換模型參數過程中極易受到梯度泄露攻擊、成員推理攻擊等多類攻擊影響，安全性和隱私性降下。因此，設計隱私增強的聯邦學習技術在保證用戶信息和數據安全的前提下，實現有效的數據分析和降低通信開銷是當前研究熱點，其在電力數據中的應用研究也成為智能電網發展的重點。

為解決上述問題，陳嘉翊等^［5］基于聯邦學習和同態加密算法，提出了一種電力數據預測模型的局部保護方法，解決了數據模型訓練過程中的隱私泄露問題，有效降低了網絡資源開銷。Ye等^［6］提出了基于邊緣計算和FL的系統模型EdgeFed，在不損害隱私的情況下增加用于訓練深度學習模型的數據量和多樣性，同時降低邊緣設備的計算成本和總通信開銷。Fekri等^［7］提出了基于FL和長短時記憶網絡的分布式負荷預測模型，歸一化處理不同大小的智能電表讀數，提升了模型的準確率。李宇遠等^［8］提出了用于保護電力物聯網中用戶數據安全的FL框架，通過對用戶分級進行數據管理和分析的，提高模型訓練效率。Liu等^［9］通過提取和捕獲數據的整體特征和時間特征，設計了基于FL的CNN-Attention-LSTM 模型對多種能源負荷進行預測，在保護客戶端隱私的同時，保證了模型提取特征的能力。Gupta等^［10］以隱私保護為導向的FedGrid框架，用于預測可再生能源的發電量和電力負荷，以實現高效的電力供應。

本文所做的工作與上述工作不同，通過將差分隱私、秘密分享與基于云邊協同的聯邦學習框架結合，增強電力數據的隱私性同時提高用戶通信效率。利用差分隱私機制為本地客戶端訓練模型參數添加噪聲，在此過程中設計梯度裁剪機制控制噪聲引入量以確保訓練模型的有效性。在上傳模型參數到邊緣服務器聚合時，采用秘密分享算法處理加噪模型參數，進一步確保原始數據的安全性。

1"預備知識

1.1"聯邦學習

聯邦學習使參與者能夠聯合訓練共享模型而不泄露其實際數據，從而在一定程度上保護參與者的數據隱私^［11］，每個參與者訓練一個集成的神經網絡模型并通過中央聚合器對其進行更新，以分布式方式協作找到最小化全局損失函數Θ（ω）的參數^［12］：

ω^*=argminΘ（ω）（1）

為了找到該參數，模型服務器首先從所有節點中隨機選擇參與者參加聯邦學習訓練。所選參與者從模型服務器下載全局模型參數Θ（ω）后，使用隨機梯度下降（Stochastic Gradient Descent， SGD）算法進行局部模型訓練。本輪局部訓練中，被選中的參與者的局部模型參數表示為：

ωi（t+1）=ω（t）-ηΘ（ωi（t））（2）

其中，ω表示全局迭代次數，η為訓練步長。

在所有參與者完成本地模型訓練后，將其本地模型參數以分布式方式上傳到模型服務器，由模型服務器使用聯邦平均算法FedAvg對全局模型進行聚合，即對收集到的模型參數進行平均處理得到新的全局模型參數。在第N輪中生成的全局模型參數如下：

ωi（t+1）=∑^N_i=1Diωi（t+1）∑^N_i=1Di（3）

其中，Di表示每個參與者擁有的本地數據集樣本數量。

模型服務器在生成新的全局模型參數并完成本輪聚合后，將更新后的全局模型以集中方式返回給參與者，以供下一輪訓練。當達到全局迭代的預定義閾值時，訓練過程終止。

1.2"差分隱私

差分隱私（Differential Privacy， DP）是一種應用廣泛的數據隱私保護技術^［13］，其核心思想是通過在原始數據或查詢結果中添加隨機噪聲，達到提高發布數據的隱私性，降低與數據集中個人信息相關的隱私泄露風險的目的。

定義1"（ε，δ）-差分隱私。給定一個隨機算法，相鄰數據集和滿足|D1ΔD2|≤1，即和僅有一條數據記錄不同，若在相鄰數據集和的任意輸出結果滿足：

Pr［M（D1）∈S］≤exp（）Pr［M（D2）∈S］+δ（3）

則稱隨機算法滿足差分隱私。其中，Pr［M（D1）∈S］表示數據集經過隨機算法處理后輸出的概率。為用于控制隱私保護級別的隱私預算，其值越小表示隱私級別越高。δ表示向數據添加噪聲時違反差分隱私的概率，其值為0時，式（1）為嚴格意義上的差分隱私定義。

定義2"全局敏感度。給定任意函數，則該函數的全局敏感度為：

Δ=Sup_D1D2‖f（D1），f（D2）‖（4）

其中，‖f（D1），f（D2）‖表示數據集和之間的歐氏距離。

定義3"高斯機制。給定數據集和任意函數，若算法的輸出滿足：

F（D）=f（D）+N（0，Δ²σ²）（5）

其中，σ=Δ2log（1.25／δ）/為高斯分布的標準差，用于控制噪聲的尺度。δ∈（0，1）表示松弛項，表示違反嚴格差分隱私定義的概率。

1.3"秘密分享

秘密分享是安全多方計算中主流技術，其核心思想是通過設計特殊算法將秘密值x分成個部分{x1，x2}，將其中一份秘密分享給秘密共享者，在秘密恢復時由雙方進行協同計算得到明文結果，由秘密分享算法和秘密恢復算法2個部分構成^［14］。

秘密分享算法：對于秘密值x，秘密擁有者利用生成隨機數r←RZ_2l將秘密值分成［x］0=r和［x］1=x-r（bmod2^l），并發送給參與計算的兩方。

秘密恢復算法：參與方通過計算x=［x］0+［x］1（bmod2^l）恢復秘密值。

秘密分享具有加法同態性與乘法同態性。

加法同態性：［x］［y］分別是秘密值x和y的份額，秘密共享雙方可計算得到［z］i=［x］i+［y］i。

乘法同態性：秘密共享雙方借助三元組（a，b，c）進行乘法運算［z］=［x］［y］，其中c=ab。離線階段，秘密分享方計算得到三元組（［a］i，［b］i，［c］i）。在線計算階段，秘密分享方計算出［e］i=［x］i-［a］i，［f］i=［y］i-［b］i。秘密共享雙方交換并恢復e和f，最終秘密擁有者計算［z］i=-ief+e［y］i+［x］i f+［c］i。

2"面向電力數據分析的隱私增強聯邦學習方法

本節對面向電力數據分析的隱私增強聯邦學習方法進行詳細介紹，首先定義面向電力數據分析的隱私增強聯邦學習系統模型與安全需求，其次在定義模型和需求的基礎上設計方案，最后分析所提方案的安全性。

2.1"系統模型與安全需求

本文系統模型由4個主要實體組成，分別為電力數據擁有者（Power Data Owners， PDOs）（如電網公司、政府、銀行、醫院等）、邊緣服務器（Edge Server， ES）、云服務器（Cloud Server， CS）以及能源服務提供商（Energy Service Providers， ESPs）（公共事業公司）。其中，PDOs各自擁有部分地區的電力數據，為實現整個地區電力數據分析以提供能源服務，需要使用擁有的數據進行聯邦學習訓練，在提升電力用戶信息及數據隱私性的前提下，向能源服務提供商提供準確性較高的模型。

在上述系統模型中，假設提供數據的PDOs和提供服務的ESPs被認為是誠實可信的，CS和ES被認為是誠實且好奇的，任何PDOs、ESPs、CS與ES之間彼此不會共謀。具體來說，CS和ES會嚴格遵循協議存儲由PDOs上傳的模型參數，并向ESPs提供用于能源服務的聚合模型，但它們也會因好奇原始數據相關信息，而嘗試使用各類手段對接收到的模型參數進行學習分析，窺探數據中包含的隱私或敏感信息。

基于上述威脅模型，所設計方案應保證聯邦學習參與方的隱私性，即任何敵手都無法從聯邦學習過程中獲得泄露的本地數據集和由其訓練出的模型參數，同時在最大程度降低計算和通信開銷的基礎上，保證發布全局模型的準確性，滿足隱私性、效率與準確性3個方面的安全需求。

2.2"方案設計

為滿足上述安全需求，在云邊一體化智能電網下，本文引入了差分隱私機制和秘密分享算法，設計實現面向電力數據分析的隱私增強聯邦學習方案，如圖1所示。當ESPs將聯邦學習任務發布到云端時，聯邦學習任務由CS托管并下發任務請求到多個邊緣計算節點組成的ES或直接將其發送給PDOs。若ES收到任務請求，則為PDOs分發訓練所需的參數和數據。當PDOs收到訓練所需的參數，則根據提供的模型訓練數據集，在局部模型中對訓練性能良好的特征標簽添加差分隱私噪聲，并利用秘密分享算法對加噪模型進行劃分后上傳到ES。ES聚合更新模型后，將其發送給CS進行全局聚合并將結果返回給ESPs。ESPs利用訓練好的模型進行數據分析，為行業用戶提供定制化的能源服務。本文方案具體實施主要包括學習任務發布、本地模型訓練、安全數據聚合與聚合結果恢復4個階段。

2.2.1"學習任務發布

假設I=｛1，…，i，…，I｝和J=｛1，…，j，…，J｝表示提供能源服務區域中電力數據擁有者PDOs和能源服務提供商ESPs的集合，每個PDOi（i∈I）擁有電力數據集Di（Di=|Di|為數據樣本數量），每個ESPj（j∈J）負責將數據分析任務Yj。當接收到ESP發布的數據分析任務后（步驟①）；CS使用隨機權重初始化全局模型參數Θ，將其傳遞給所有參與的PDOs（步驟②）。

2.2.2"本地模型訓練

在收到全局模型參數Θ后，每個PDOi使用SGD算法對本地數據集進行局部模型訓練并在此過程中加入滿足差分隱私保護的噪聲（步驟③）。為避免引入過量噪聲，使用全局模型函數Θ的L2范數Θt（ωi）=Θ（ωi）/max（1，‖Θt（ωi）‖2/C）作為裁剪標準，其中C表示梯度裁剪閾值。為增強隱私保護效果，設置C為梯度敏感度并在高斯噪聲方差中引入常數因子I，保證差分隱私的不確定性，得到擾動后的梯度Θt（ωi）=Θt（ωi）+N（0，C²σ²I）。在訓練本地模型時，添加噪聲后，攻擊者利用逆向工程方法將難以竊取客戶端的原始數據信息。然而，由于云服務器CS聚合全局模型，攻擊者仍然可以通過其他方式攻擊CS竊取原始數據信息，即使所有來自客戶端的模型都添加了滿足差分隱私保護的噪聲，但攻擊者仍然可以利用隱私攻擊來觀察和分析噪聲的統計屬性，提取客戶端的原始隱私數據。為了防止該攻擊，PDOi首先將其本地數據集Di劃分成大小為ζB的小批次，并通過SGD算法和擾動后的梯度對每個小數據集進行訓練，得到更新參數后的模型Θ←Θi-ηΘt（ωi），η為學習率。然后，使用秘密共享協議將Θi劃分為［Θi］0和［Θi］1，并將其發送給邊緣服務器（步驟④）。

2.2.3"安全數據聚合

在接收到所有客戶端更新參數后的模型［Θi］j后，根據秘密分享的加法同態性質計算聚合結果［Θ_ES］j=∑ni=1［Θi］j，將其上傳到云服務器CS（步驟⑤—⑥）。

2.2.4"聚合結果恢復

CS在收到邊緣服務器上傳的部分聚合結果后，使用秘密恢復算法計算恢復更新參數后的模型Θ_ES=［Θ_ES］0+［Θ_ES］1，更新全局模型參數Θ←Θ-ηΘ_ES，同時檢測模型性能，在全局模型達到預定精度后，結束學習過程并將訓練后的模型傳遞給相應的ESP（步驟⑦—⑧）。

2.3"安全性分析

半誠實模型和惡意模型是隱私計算中廣泛使用的2種安全模型^［15］，半誠實敵手嚴格按照協議進行計算，但會試圖從接收到的數據或模型中推斷出額外信息，惡意敵手有能力破壞協議并竊取額外信息。在迭代訓練中，邊緣服務器ES可以獲得基于秘密分享與差分隱私的局部模型，而云服務器CS只能收到加噪更新參數后的全局模型。在合理假設2個邊緣服務器、與云服務器CS之間不存在合謀勾結的情況下，本文所提出的方案在半誠實模型和惡意模型下是安全的。

定理1.在邊緣服務無合謀假設下，本文方案可以保證半誠實模型下PDOs數據的安全性。

證明：在無合謀的假設下，任意邊緣服務器只能獲得部分加噪密文。假設敵手破壞邊緣服務器后，只能獲得部分密文。根據秘密共享協議，訓練模型的恢復需要和云服務器之間相互合作完成。因此，在半誠實模型下，本文提出的方案可以保證電力數據擁有者數據的安全性。

定理2.在邊緣服務無合謀假設下，本文方案可以保證惡意模型下PDOs數據的安全性。

證明：同理，根據秘密分享協議，任意敵手無法從接收的加噪密文中獲得任何關于原始數據的隱私信息，邊緣服務器每一輪聚合的結果已被電力數據擁有者編碼，在此種情況下，敵手無法從聚合結果中竊取額外信息。因此，在惡意模型下，本文提出的方案可以保證電力數據擁有者數據的安全性。

3"實驗與結果分析

3.1"實驗設置

采用的實驗環境如下：CPU為Intel Xeon E5-2650 2.30 GHz，GPU為NVIDIA GeForce RTX 3060，126 GB RAM，內存為8 GB，實驗平臺為PyTorch，網絡由一個1 Gbps 延遲為 0.3 ms 的局域網（LAN） 和一個 50 Mbps 延遲為 50 ms 的廣域網（WAN）組成。本文提出方法在上述實驗環境下的2臺參數服務器和10個客戶端上進行仿真實驗，實驗中使用的模擬參數設置如表1所示。實驗數據使用UC Irvine 機器學習庫中的Individual Household Electric Power Consumption（IHEPC）數據集^［16］，該數據集為近4年內法國巴黎地區家庭電力使用情況，包括功率、電能等字段信息，選擇DP-SGD和EdgeFed作為比較方法^［6，17］，從隱私性、準確率和效率3方面進行實驗評估。

3.2"實驗結果分析

本文提出的方法目的是增強基于電力數據的聯邦學習的隱私性，同時保證發布模型的準確率以支撐后續數據分析使用，因此實驗從模型準確率和隱私性2個角度進行實驗分析。

3.2.1"聯邦訓練輪數對隱私性分析

為了評估本文方案在增強隱私性方面的有效性，通過調整聯邦訓練迭代次數，分析對隱私預算ε的影響。如圖2所示為在IHEPC數據集上本文方案與DP-SGD隨著隱私預算的增加模型準確率的變化情況，從圖中可以看出，訓練迭代次數與隱私預算大小成正比，即隱私預算值越大、訓練輪數越多，模型準確率越高。在隱私預算=6時，本文方案與DP-SGD達到幾乎相同的最佳樣本質量，也進一步說明將隱私預算設置為6是合理且有效的。

3.2.2"準確率分析

為進一步驗證本文方案與差分隱私機制、秘密分享協議結合的有效性，在IHEPC數據集上通過在卷積神經網絡（CNN， Convolutional Neural Network）、多層感知器（MLP， Multi-Layer Perceptron）上進行全局模型的分類準確性評估。如表2所示，本文方案在分類準確率方面優于其他2種方案，這是因為本文提出的方案在使用差分隱私機制保護模型訓練過程時，通過引入常數因子到梯度裁剪機制以避免在模型中添加過多噪聲，減少隱私保護對訓練模型效果的影響。

3.2.3"通信效率分析

如圖3所示，學習任務數量從 1 到 10 變化時，本文方案與FedEdge方案的總通信延遲。在EdgeFed方案中，全局/本地模型更新過程直接在邊緣節點和電力數據擁有者之間交換，沒有考慮聚合器。從圖3可以觀察到，本文提出的方案可以在不同任務數量的情況下有效減少通信延遲，主要是因邊緣節點中的聚合器可以改善網絡連接和容量，以減少用戶和云之間不可靠性和間歇性無線連接的影響，因此本文基于邊緣云協作框架提出的聯邦學習框架下可實現更高的通信效率。

4"結語

本文針對基于聯邦學習的電力數據分析系統，結合差分隱私機制和秘密分享算法，提出了一種隱私增強聯邦學習框架，以提升云邊協同場景下電力數據的隱私性。通過在本地模型訓練過程中添加滿足差分隱私保護的高斯噪聲，同時在模型參數上傳時使用秘密分享算法加密數據，以有效抵抗惡意攻擊者和半誠實參與者的梯度泄露攻擊和成員推理攻擊，同時保護聯邦學習參與者的原始數據隱私。此外，還為高斯噪聲設置了裁剪閾值，以確保在訓練過程中添加噪聲后所提模型的有效性。在UCI用電數據集的實驗結果表明，本文所提出方法在確保客戶端隱私性和安全性的同時，達到了與原始 FL 方法相當的測試準確率水平。

參考文獻

［1］KADDOUR S M，LEHSAINI M.Electricity consumption data analysis using various outlier detection methods［J］.International Journal of Software Science and Computational Intelligence （IJSSCI），2021（3）：12-27.

［2］WEN J，ZHANG Z，LAN Y，et al.A survey on federated learning：challenges and applications［J］.International Journal of Machine Learning and Cybernetics，2023（2）：513-535.

［3］ZHAO S，BLAABJERG F，WANG H.An overview of artificial intelligence applications for power electronics［J］.IEEE Transactions on Power Electronics，2020（4）：4633-4658.

［4］李祉岐，張瓊尹，李寧，等.新型電力系統中聯邦機器學習面臨的網絡威脅［J］.中國信息化，2024（1）：49-50，48.

［5］陳嘉翊，孫晨雨，周欣桐，等.基于聯邦學習和同態加密的電力數據預測模型本地保護［J］.信息安全研究，2023（3）：228-234.

［6］YE Y，LI S，LIU F，et al.EdgeFed：optimized federated learning based on edge computing［J］.IEEE Access，2020，8：209191-209198.

［7］FEKRI M N，GROLINGER K，MIR S.Distributed load forecasting using smart meter data：federated learning with recurrent neural networks［J］.International Journal of Electrical Power amp; Energy Systems，2022（5）：137.

［8］李宇遠，于海洋.基于聯邦學習模型的電力客戶隱私保護方法［J］.信息技術，2023（6）：184-188.

［9］LIU Y，DONG Z，LIU B，et al.FedForecast：a federated learning framework for short-term probabilistic individual load forecasting in smart grid［J］.International Journal of Electrical Power amp; Energy Systems，2023（10）：152.

［10］GUPTA H，AGARWAL P，GUPTA K，et al.FedGrid：a secure framework with federated learning for energy optimization in the smart grid［J］.Energies，2023（24）：8097.

［11］CAMPOS E M，SAURA P F，GONZLEZ-VIDAL A，et al.Evaluating federated learning for intrusion detection in Internet of Things：review and challenges［J］.Computer Networks，2022，203：108661.

［12］CHEN Q，YAO L，WANG X，et al.SecMDGM：federated learning security mechanism based on multi- dimensional auctions［J］.Sensors，2022（23）：9434.

［13］DWORK C，ROTH A.The algorithmic foundations of differential privacy［J］.Foundations and Trends"in Theoretical Computer Science，2014（3-4）：211-407.

［14］KEERUP K，BOGDANOV D，KUBO B，et al.Privacy-preserving analytics，processing and data management［J］.Big Data in Bioeconomy：Results from the European DataBio Project，2021（8）：157-168.

［15］LU Y，ZHANG B，REN K.Maliciously secure MPC from semi-honest 2 PC in the server-aided model［J］.IEEE Transactions on Dependable and Secure Computing，2023（21）：3109-3125.

［16］HEBRAIL G，BERARD A.Individual household electric power consumption data set［EB/OL］.（2012-08-01）［2024-07-19］.https：//doi.org/10.24432/C58K54.

［17］ZHAO J，CHEN Y，ZHANG W.Differential privacy preservation in deep learning：challenges，opportunities and solutions［J］.IEEE Access，2019，7：48901-48911.

（編輯"沈"強）

Privacy-enhanced federated learning framework for power data analysis

DING "Yi¹， YANG "Jun²， SHEN "Bo²

（1.China Electronics Technology Group Corporation， Beijing 100846， China;

2.The 15th Research Institute of China Electronics Technology Group Corporation， Beijing 100083， China）

Abstract： "To address the security threat of model update attacks on the deployment and application of federated learning in smart grids， this article proposes a secure and efficient federated learning framework for power data analysis based on cloud edge collaboration framework and privacy computing technology. By adding noise to the training model parameters of the client through differential privacy mechanism， the security of the model parameters during the training process is protected; Using secret sharing algorithm to securely aggregate noise model parameters， while ensuring fast convergence of the model， to protect power data and local model parameters. Theoretical analysis and experimental results indicate that this method can significantly improve the privacy of power data and shared model parameters.

Key words： federated learning; differential privacy; secret sharing; electricity data; privacy protection