基于聯邦學習的短期負荷預測模型協同訓練方法

車亮，徐茂盛，崔秋實

（1.湖南大學電氣與信息工程學院，湖南長沙 410082；2.重慶大學電氣工程學院，重慶 400044）

電力系統短期負荷預測是指根據過去一段時間的負荷以及日期、氣象等數據，對未來短時間的負荷變化進行預測［1］.精準的負荷預測是電網實施精確調度、制訂發電計劃以及設置合理備用的基礎，是保證電力系統可靠運行與增加經濟效益的必要條件［2］.隨著電網數字化程度不斷加深，電力公司陸續安裝了多種智能儀表，獲得了更多精細的負荷與氣象等數據，這使得采用人工智能方法進行精準負荷預測變得可行［3］.

近年來，機器學習算法被廣泛應用在短期負荷預測領域，研究者們對各種算法進行改進，提出了許多解決短期負荷預測領域相關問題的方法［4］.研究者將支持向量機、BP（Back Propagation）神經網絡（Neural Network，NN）、LSTM 網絡等多種機器學習算法應用于負荷預測，并對其進行改造以提升預測精度.文獻［5］提出基于深度信念網絡的短期負荷預測方法，將無監督與有監督訓練結合，進而提升預測準確度；文獻［6］將Attention 機制加入LSTM 網絡構建預測模型，從輸入數據中提取對負荷預測起到關鍵作用的特征；文獻［7］基于Hadoop 架構中的MapReduce 框架構建BP 神經網絡預測模型；文獻［8］構建基于雙向長短期網絡的預測模型，并融入特征選擇方法，選擇出最佳輸入特征.一般來說，單一類型的神經網絡只擅長挖掘數據的某一類特征，而負荷預測數據包括負荷、氣象和日期等多類特征，利用不同的神經網絡能更有效提取不同數據類型的特征［9］；文獻［10］先運用卷積神經網絡（Convolutional Neural Network，CNN）提取特征與負荷的聯系，最后將結果輸入到GRU 網絡中進行負荷預測，提升預測準確率；文獻［11］將卷積神經網絡（CNN）和長短期記憶（LSTM）網絡相結合以構建短期負荷預測模型；文獻［12］綜合集合經驗模態分解（Ensemble Empirical Mode Decomposition，EEMD）、門控循環單元神經網絡（Gated Recurrent Unit，GRU）和多元線性回歸（Multiple Linear Regression，MLR）方法構建預測模型；文獻［13］提出了一種基于GRU-NN 模型的短期電力負荷預測方法；文獻［14］提出了基于LSTM 和XGBoost的組合預測模型.

由上可見，目前機器學習方法在短期負荷預測領域的應用已取得了一定的成果，但在實際應用中，現有方法還存在以下問題：

1）未解決實際情況下負荷數據樣本數量與特征不足的問題.現有基于機器學習的負荷預測方法依賴于預測者擁有樣本數足夠多、特征種類足夠豐富的訓練數據集，但在實際負荷預測工作中，部分預測者往往難以滿足該條件（例如小規模電力公司、新接入電網的用戶和負荷聚合商等通常難以建立滿足負荷預測需求的數據量和特征足夠的訓練數據集［15-16］）.

2）預測模型泛化能力問題.僅使用單個地區數據訓練出的模型，難以直接移植到新的地區進行預測，預測模型的泛化能力亟待增強.

3）數據隱私問題.若能實現不同地區間共享數據訓練模型，就可以有效提升模型預測能力［17］.但目前各電力公司均具有較高的數據保密要求，歷史負荷等數據是嚴格保密的，這限制了數據共享訓練，因此相關數據隱私保密問題亟待解決.

因此，目前亟需一個在保護負荷等數據隱私的前提下實現協同構建負荷預測模型的方法.針對這一需求，本文引入聯邦學習（Federated Learning，FL）方法.聯邦學習可以實現多個數據持有者在不共享其數據情況下協同訓練機器學習模型，在保護數據隱私的同時降低數據通信量，提高通信效率［18］.目前，聯邦學習已被研究者們應用在一些需要考慮數據隱私及降低通信開銷的場景［19］.文獻［20］將深度強化學習模型進行聯邦，實現高準確率、低時延的設備節點選擇；文獻［21］將聯邦學習應用于物聯網框架下的邊緣計算過程；文獻［22］將聯邦學習應用于霧計算過程；文獻［23］將聯邦學習應用在電力計量系統中，分別應用于計量裝置故障診斷、無線接入安全檢測以及電費風險識別場景，均取得了較好的效果，證明了將聯邦學習方法應用在電力系統領域具有實用性和可行性.

針對上述負荷預測模型構建所需數據樣本數量與特征不足、模型泛化能力差以及負荷相關數據高度保密無法共享訓練的問題，本文引入聯邦學習方法，以LSTM 網絡的短期負荷預測模型為基礎，提出基于聯邦學習的短期負荷預測模型協同訓練方法，結合短期負荷預測場景的特點，對數據傳輸過程與模型聚合過程進行優化改進.該方法實現了各負荷運營商在保護數據隱私的前提下對模型進行協同訓練，并且有效提升了短期負荷預測模型的預測準確率和泛化能力.

1 基于LSTM 的短期負荷預測模型

1.1 長短期記憶(LSTM)網絡

LSTM 網絡是由循環神經網絡改進而來的，解決了循環神經網絡存在的長期依賴問題.相比常規循環神經網絡，LSTM 添加了輸入門、遺忘門和輸出門［24］.LSTM網絡基本單元如圖1所示.

圖1 LSTM網絡基本單元Fig.1 LSTM network basic unit

圖1 中，σ為sigmoid 激活函數，xt為該時刻輸入序列值，tanh 代表tanh 激活函數.Ct-1和Ct分別表示上一時刻和當前時刻的單元狀態，ht-1和ht分別表示上一時刻和當前時刻的隱藏狀態，ft、it和ot分別表示當前時刻的遺忘門、輸入門和輸出門計算變量，C^t表示該時刻輸入的單元狀態.上述變量計算公式如下：

式中：Wf、Wi、Wo分別為遺忘門、輸入門、輸出門的權重矩陣；bf、bi、bo分別為遺忘門、輸入門、輸出門的輸出偏置項；*表示矩陣的Hadamard積.

1.2 基于LSTM 網絡的短期負荷預測模型構建

由于負荷數據數量級較高，與溫度、日期等特征數量級差距較大，不利于模型訓練.為了消除各類特征之間量綱不同的影響，使模型快速收斂，并且考慮到各負荷運營商之間負荷數據數量級存在較大差異，故利用本文方法對輸入數據進行歸一化處理，將所有輸入數據歸一化在［0，1］內，如下式所示：

圖2 LSTM網絡模型結構Fig.2 Structure of LSTM network model

負荷預測效果評價指標采用均方根誤差（Root Mean Square Error，RMSE）和平均絕對百分比誤差（Mean Absolute Percentage Error，MAPE），指標值越小，表示預測值與真實值之間的誤差越小，模型的預測效果越好.指標計算公式分別如式（8）和式（9）所示.

2 基于FL 的短期負荷預測模型協同訓練方法

2.1 方法概述

基于聯邦學習的短期負荷預測模型協同訓練方法能在保護各負荷運營商數據隱私的同時，利用各個運營商所擁有的負荷數據資源協同訓練短期負荷預測模型，有效提高模型的預測準確率及多場景泛化能力.

本文方法整體系統架構如圖3 所示.其中，本文第1 節所構建的負荷預測模型部署在服務器端與各個負荷運營商端，負荷運營商可以是某地區電力公司或某些電力用戶的集合.

圖3 本文方法整體系統架構Fig.3 The overall system structure of this method

在結構上，本文方法整體組成包括服務器端、通信網絡、本地負荷運營商及其對應的負荷、氣象和日期數據.令L=｛l1，l2，…，ln｝表示所有參與協同訓練的負荷運營商的集合，每一個lk（k=1，2，…，n）具有對應的訓練數據以及進行本地模型訓練、模型推理的能力.圖3 中，令V表示訓練數據（包括負荷數據、氣象數據、日期數據）集合，則第k個負荷運營商lk所擁有的訓練數據表示為Vl，k；W表示服務器下發到本地的模型權重參數；令Wk（k=1，2，…，n）表示第k個本地端lk從本地服務端上傳至服務器端的模型權重參數.

整體流程主要包括預測模型下發、負荷運營商本地訓練、各運營商模型上傳以及模型聚合4 個步驟.具體步驟如算法1所示.

1）以LSTM網絡的短期負荷預測模型為基礎，服務器端初始化各參數，并下發模型到本地端.

2）本地端接收下發的模型，用該模型參數更新自身模型參數，并以自身數據訓練模型.

3）將已訓練完成的模型上傳至服務器端，采用不傳輸梯度而是直接傳輸完整權重參數的方法降低數據泄露風險，避免被針對模型參數進行攻擊的算法竊取數據.

4）服務器端執行模型聚合，考慮電力負荷預測場景的特點，在模型聚合階段，根據各參與方數據集質量形成適用于負荷預測場景的模型聚合策略.最終，形成完整的基于聯邦學習的短期負荷預測模型協同訓練方法.

選取算法1 步驟中較為主要的10）～12）在2.2 節詳細介紹；步驟13）和14）在2.3 節詳細介紹；步驟16）和17）在2.4節詳細介紹.

2.2 模型下發與本地訓練更新

在服務器端進行模型預訓練，得到服務器端模型權重參數W.通過通信網絡將W下發至各個參與訓練的聯邦參與本地端lk.各lk接收服務器下發的W，更新本地模型參數Wk.隨后以其所擁有的數據集Vl，k作為本地訓練樣本集，進行本地訓練并更新Wk.

模型訓練過程采用Adam（Adaptive Moment Estimation）優化算法.該算法在RMSprop 算法的基礎上添加了動量項，根據t時刻梯度gt的一階矩估計和二階矩估計來動態調整每個參數的學習率.該算法的主要優點為：經過偏置校正后，每一次迭代學習率都存在于一個確定的范圍，使得參數較為穩定.

基于Adam的模型訓練過程描述如下：

1）根據t時刻的梯度gt分別計算梯度和梯度平方的指數移動平均數mt和vt，β1與β2分 別 取0.9、0.999，m0與v0均設為0：

2）為降低偏差對訓練初期帶來的影響，需對m0=0和v0=0帶來的偏差進行糾正，將mt和vt分別糾正為和，如式（11）所示：

3）按式（12）更新模型權重參數Wk，t，式中η為學習率（一般取0.001），?為用于避免除數為0 的很小常數（一般取10-8）.

4）模型權重參數更新如式（13）所示，式中Wk表示參數更新后的第k個本地模型權重，∑ΔWk，t表示第k個本地模型總的權重變化量：

采用平均絕對誤差（Mean Absolute Error，MAE）作為模型的目標損失函數yMAE.

2.3 模型上傳

本地模型訓練完成后，每個負荷運營商lk經過通信網絡上傳模型權重參數Wk至服務器端，但在參數傳輸過程中存在多種不同的傳輸方式.

經典的聯邦學習方法在訓練迭代時傳輸梯度數據gt，每位本地參與者首先將當前訓練的模型梯度相關系數上傳至服務器，服務器通過求取每位參與者最新的梯度相關系數的平均值來更新全局模型；在下一次迭代中，參與者再下載最新的全局模型參數繼續訓練.但是，此種方法已被指出存在隱私泄露風險.有學者發現在聯邦過程中，如果發生梯度參數泄露，則可用算法通過梯度反推出該次迭代對應的訓練數據.例如較為典型的Deep Leakage from Gradients（DLG）算法［25］：首先假設虛擬的輸入和對應的標簽；隨后，計算虛擬的梯度，在此基礎上優化虛擬梯度與真實梯度之間的距離，通過梯度的匹配使得假設的虛擬數據不斷靠近原始數據；最終，獲取參與方的真實訓練數據.

為了避免由于梯度參數泄露導致反推出對應數據樣本的風險，本文采用不傳輸梯度而是直接傳輸完整權重參數的方法，在參與方本地模型訓練完成后，上傳整體模型權重參數Wk，而非單個數據樣本訓練時產生的梯度.權重參數經過該參與方使用自身全部數據通過Adam 算法進行多次迭代訓練，根據上述Adam 訓練過程及DLG 算法原理，此時已無法推導出每一條數據樣本訓練時所對應的梯度計算值，從而無法推導出對應的原始數據樣本.因此，在權重參數上傳過程中，即使遇到模型參數竊取行為，竊取者也無法推導出該參與方對應的所有訓練數據集樣本.

同時，為了服務于模型聚合階段的權值計算過程，在此階段還需上傳各本地負荷運營商lk所擁有數據Vl.k的時間跨度信息Uk.

2.4 模型聚合

當所有本地負荷運營商lk完成模型上傳流程后，服務器端對接收到的全部模型執行聚合.以下介紹本文執行模型聚合步驟時權值wB，k的計算方法.

現有的聯邦學習模型聚合方法并不適應負荷預測場景.例如，在經典聯邦學習方法中，某聯邦參與方lk模型聚合的權值wB，k僅與其參與訓練的樣本數量大小有關.這種方法沒有結合實際的應用場景，未充分考慮各個聯邦參與方數據樣本的質量.這會導致在聚合時使用了不合理的聚合權重參數，影響最終模型的預測準確率和泛化能力.而在本文方法所針對的短期負荷預測場景中，擁有越多樣化、越全面的數據的負荷運營商所訓練出的本地負荷預測模型往往有著更優秀的預測準確率與泛化能力，在模型聚合時應該給予更高的聚合權重.

本文結合負荷預測場景的特點，定義各個負荷運營商的貢獻度G，進而更新聚合權值wB，k.貢獻度Gk與運營商lk所擁有的數據樣本數量大小以及對應的數據日期跨度Uk均有關；當一個負荷運營商自身數據樣本數量越大或其所擁有的相對其他運營商數據的新時刻數據越多，其貢獻度G應該越大；該模型對服務器模型的聚合過程也應該有更大的影響，參數聚合時擁有較高的權重.

對每一個存在數據的時刻賦予總量為1 的貢獻量，對于i時刻，若在該時刻共有Qi個負荷運營商存在數據樣本，則共同平分該時刻的貢獻量，每個運營商得到的貢獻分量為Bk，i；若負荷運營商lk在該時刻i沒有數據樣本，則其貢獻分量Bk，i=0.

負荷運營商lk在所有時刻的貢獻分量之和可計為∑iBk，i.事實上，不同運營商擁有的數據所覆蓋的時段可能不一致；將所有這些時段的并集構成的時段包含的時刻點數量記為H；換言之，H表示有一個或以上運營商擁有數據的時刻點的總數量.那么，∑iBk，i與H的比值，即為運營商lk的貢獻度Gk，如式（16）所示.

貢獻度確定后，按照各參與方對聯邦模型的貢獻度Gk更新wB，k，執行模型聚合，更新模型參數.更新方法如式（17）（18）所示.

式中：W為已更新后模型權重參數；Wk為參與方lk在經過本地訓練后所上傳的模型權重參數.

3 仿真驗證

3.1 試驗環境

本文采用多個相互獨立的計算機模擬參與聯邦的各個負荷運營商，進而驗證本文所提出方法對預測準確率與泛化能力的提升.采用5臺計算機模擬5個本地負荷運營商（地區），各計算機配置均為英特爾至強6248R CPU，RTX 3080 GPU，512 GB 內存；同時采用一臺個人計算機作為服務器端，配置為Intel i7 CPU，16 GB 內存，Intel UHD Graphics 630 集成顯卡.上述設備之間可點對點通信.

本文采用在負荷預測中具有代表性的GEFCom2012比賽數據［26］，作為試驗樣本數據集.該數據集包含20個地區每1 h記錄1次的電力負荷數據、對應溫度數據以及日期信息，將其整理成可用于本文LSTM 模型輸入的數據集.深度學習算法采用Python 3.6 編程語言編程，負荷預測模型的深度學習框架采用TensorFlow2.

3.2 仿真結果

1）為了驗證本文方法對模型預測能力的提升，同時排除日期等因素對預測精度的影響，在3.2.1 節中將參與協同訓練的各地區所擁有數據的時間跨度均設置為同一時間段，樣本設為相同數量.

2）為了驗證本文方法對模型泛化能力的提升，在3.2.2 節中將各參與方的數據時間跨度設置為不同時間段，樣本設為不同數量.設置3 個算例驗證其在3種場景下對模型預測精度和泛化能力的提升.

3.2.1 相同時間跨度與數據量的參與方進行聯邦

為了體現本文方法對模型預測準確率的提升，選取5 個地區作為相互獨立的負荷運營商參與聯邦過程，分別記為l1、l2、l3、l4、l5.數據集選擇該5 個地區2004 年量測數據Vl，1～Vl，5，每1 h 有1 次記錄，全年每個Vl，k有8 784個數據樣本.

需要說明的是，本算例主要目的是驗證本文方法對預測精度的提升，所以應排除各地區數據量及選取日期差異的干擾.因此，本算例采用1 月1 日至7 月27 日的數據樣本作為模型訓練樣本集，以7 月28日的24個數據樣本作為測試集.

依次將5 個地區作為目標對象，每一個地區均進行以下工作：首先以地區lk（k=1、2、3、4、5）自身所擁有的數據集進行模型訓練，并將該訓練好的模型作為服務器模型，記錄此時模型對該日負荷的預測結果；隨后，將該服務器模型下發至除lk外其余4 個本地端，各lk根據自身所擁有的數據集進行本地模型訓練；依次進行本地模型更新、本地模型上傳、服務器接收模型、服務器模型聚合更新流程；地區lk得到更新后的服務器模型，并在測試集進行測試.最終，記錄5 個地區單獨模型負荷預測及聯邦后預測的結果，并對比實際負荷、單一模型及本文方法的預測結果.各地區負荷預測結果對比分別如圖4～圖8所示，RMSE和MAPE結果對比分別如表1和表2所示.

表1 RMSE對比Tab.1 RMSE comparison

表2 MAPE對比Tab.2 MAPE comparison

圖4 地區1負荷預測結果對比Fig.4 Comparison of load forecast results for region 1

圖5 地區2負荷預測結果對比Fig.5 Comparison of load forecast results for region 2

圖6 地區3負荷預測結果對比Fig.6 Comparison of load forecast results for region 3

圖7 地區4負荷預測結果對比Fig.7 Comparison of load forecast results for region 4

圖8 地區5負荷預測結果對比Fig.8 Comparison of load forecast results for region 5

從圖4～圖8 可以看出，使用單一負荷預測模型預測的負荷曲線與實際負荷曲線存在著明顯差距，但經過本文方法訓練的模型所預測的負荷曲線與真實曲線之間的差距明顯縮小.由表1 和表2 可知，在5次測試中，各地區單一模型的預測結果相對該地區實際負荷的誤差均較大，地區4的MAPE甚至超過了5%，這表明單獨使用單一負荷預測模型并不具備良好的誤差控制效果.使用本文所提方法，模型的誤差指標RMSE 與MAPE 都有了明顯下降.地區1的誤差下降最為明顯，相比單一模型，RMSE 與MAPE 分別減少了32%和43%.由此可見，本文所提方法在保護數據隱私的情況下，豐富了參與到模型訓練的數據特征，彌補了單一地區數據集特征不夠全面的缺陷，最終驗證了經過本文所提方法訓練的負荷預測模型具有比單一數據集訓練的模型更加優秀的預測準確度和更好的誤差控制能力.

3.2.2 多場景測試

本文所提方法也適合更多復雜的場景.為了驗證經過本文方法訓練后的模型在多場景下具有良好的預測準確率和泛化能力，設置如下3 個算例：算例1 和算例2 模擬利用本文方法實現擴充數據集時間跨度的場景；算例3 模擬將模型移植到新的地區進行預測的場景.

對仿真所用到的數據集進行預處理，地區1～地區5的數據量及日期特征均不相同.其中地區4由于為新設立的區域，并無歷史數據，但具有負荷、氣象等數據量測能力.詳細設置如表3所示.

表3 數據集設置Tab.3 Dataset settings

算例1以地區2 的數據進行訓練，得到地區2負荷預測模型，并用該模型預測地區2 的負荷，記錄預測結果；再以地區1 聯合地區2 進行協同訓練，用訓練出的模型預測地區2 的負荷，記錄此時預測結果.算例1 負荷預測結果對比如圖9 所示，預測誤差對比如表4所示.

表4 算例1預測誤差對比Tab.4 Comparison of forecasting errors of example 1

圖9 算例1負荷預測結果對比Fig.9 Comparison of load forecast results for example 1

由圖9 和表4 可知，采用本文所提方法后，在保證地區1 數據隱私的同時，訓練出的模型降低了地區2 因7 月數據缺失造成7 月份負荷預測準確度下降的影響，預測出的負荷曲線更接近實際數據，其誤差也大幅降低，RMSE 與MAPE 分別降低了21%和28%.這體現出本文方法有效地豐富了地區5模型訓練可利用的樣本特征，驗證了本文方法在數據量不足情況下對模型預測準確率的提升效果.

算例2以地區5 的數據進行訓練，得到地區5 負荷預測模型，并用該模型預測地區5 的負荷，記錄預測結果；再以地區3 聯合地區5 進行協同訓練，用訓練出的模型預測地區5 的負荷，記錄此時預測結果.結果如表5 所示，預測負荷曲線圖如圖10 所示.

表5 算例2預測誤差對比Tab.5 Comparison of forecasting errors of example 2

圖10 算例2負荷預測結果對比Fig.10 Comparison of load forecast results for example 2

從表5 和圖10 可以看出，相較地區5 僅用自身數據訓練的模型，采用本文方法訓練后的模型預測曲線與真實曲線之間的差距大幅縮小，對應的誤差RMSE 和MAPE 分別下降了74%和80%.在本算例中，地區5 自身所擁有的數據極少，僅用該數據訓練出的模型預測能力和泛化能力非常弱.由于本文方法對數據量進行了大幅擴充，且補充了更多不同日期的特征，對預測準確率的提升十分顯著，使得誤差大幅降低.這也符合深度學習在樣本不夠全面的情況下，當訓練樣本增加時模型性能也提升的特點.與此同時，在協同訓練過程中有效地保證了地區3、5各自的數據隱私.綜上所述，本算例說明本文方法能有效提升模型的預測能力.

算例3利用地區1、2、3、5的數據協同訓練負荷預測模型，將該模型應用于新加入聯邦的地區4 的負荷預測；先量測地區4 預測時刻前24 h 時刻的歷史負荷數據以及預測時刻的氣象、日期數據，作為聯合預測模型的輸入，進而預測下一時刻的負荷變化，記錄下一日預測結果.預測負荷曲線圖如圖11 所示，預測誤差對比如表6 所示.從圖11 和表6 中可以看出，模型在新地區具有良好的預測準確率，相比單一模型，本文方法預測曲線與真實負荷曲線差距較小，RMSE 和MAPE 分別降低了19%和23%.這是因為本文方法訓練出的短期負荷預測模型學習了多個地區數據的特征，適應能力更強，具有良好的泛化能力.

表6 算例3預測誤差對比Tab.6 Comparison of forecasting errors of example 3

圖11 算例3負荷預測結果對比Fig.11 Comparison of load forecast results for example 3

4 結論

本文針對構建負荷預測模型所需數據樣本數量與特征不足、模型泛化能力差以及負荷相關數據高度保密無法共享訓練的問題，引入聯邦學習方法，提出基于聯邦學習的短期負荷預測模型協同訓練方法，實現各負荷運營商在滿足保證數據隱私的前提下協同訓練短期負荷預測模型.在GEFCom2012 比賽的多個地區負荷數據集上進行了仿真測試，驗證了所提方法對模型預測準確率的提升，證明了通過本文方法訓練出的短期負荷預測模型在多場景下具有優秀的泛化能力.在本文基礎上，未來可進一步研究配電網多主體協同的去中心化分布式訓練機制.