基于深度學習的智能電網穩定性預測

張曉穎，段金鳳，吳 琦

(長春大學 理學院，長春 130022)

作為電力系統的一項重大創新，智能電網方便了電力系統的管理，在很大程度上提升了電力系統的服務質量。為了向用戶提供源源不斷、質量合格的電能，要求電力系統具有很高的穩定性和可靠性[1-2]。

圖1 智能電網穩定性預測研究方案流程圖

目前，針對智能電網穩定性預測的相關研究較少。VERMA等[3]介紹了智能電網的規劃和運行范圍隨著人工神經網絡、深度學習等方法的引入逐步擴大。文中提供了一些智能電網組件相關的工作調查。GüNEL等[4]展示了ML方法在提取和分析智能電網等現代工業系統設計特征方面的優勢。討論了最大似然算法，并簡要研究了智能電網的應用。HOSSAIN等[5]對通過智能電網的出現引入的電力電網新技術進行了全面研究。其中，物聯網集成智能電網系統可以提供高效的負荷預測和數據采集技術，具有成本效益。YOU 等[6]介紹了與傳統方法相比，機器學習算法在節省模型開發和數值計算時間上對于智能電網穩定性的預測有效。ANKIT GHOSH等[7]基于人工智能技術，通過使用部分先進的最大似然算法，預測智能電網的穩定性，對其結果進行了比較。其使用的增強ML算法已被實施用來預測智能電網的穩定性。

由于電力數據龐大且涉及的算法參數較多，目前簡單的機器學習模型并不能滿足智能電網系統準確預測的需要。因此，本研究提出基于深度學習算法的智能電網穩定性的預測模型，多次迭代并使用多種優化器，通過仿真驗證，與經典機器學習算法等進行效果和性能比較如圖1所示。本研究數據來源于加州大學歐文分校(UCI)公開收集的智能電網數據庫。

圖2 4節點電網星形網絡結構圖

文章的結構如下：(1)獲取加州大學歐文分校(UCI)公開收集的智能電網數據集；(2)進行數據預處理；(3)進行特征工程，確定所給的特征是否合適，降低過擬合風險；(4)利用深度學習和機器學習算法進行建模求解與模型對比。

描述數據集的詳細論文見ARZAMASOV等[8]，作者研究了智能電網絡的不穩定性。數據為4節點的星形網絡，如圖 2 所示。數據集所考慮的3個維度是:反應時間(τ)、功率平衡(P)和價格彈性系數(γ)。

1 數據處理和特征工程

(1)

預處理后，繪制數據分布圖，進行數據的可視化。

數據集中給定特征數為12，但仍需要進行特征篩選確定所給的特征是否合適。本研究選擇過濾法與嵌入法結合的方式，進行特征選擇。過濾法主要使用相關系數法，嵌入法使用隨機森林算法判斷特征重要性。如圖 4 、圖5所示，隨機森林重要程度較高的變量，在基于過濾法的特征選擇中相關系數也較高。其中，發電商的反應時間(tau1)影響權重最大，電力消費者的反應時間(tau2-tau4)、消費者的伽瑪系數(g3-g4)影響權重較大。

圖4 特征相關系數可視化

圖5 隨機森林法特征的重要程度

2 模型構建與結果對比

2.1 模型評價指標

對于分類問題，模型評價指標主要有準確率(Accuracy)、精密度(Precision)、召回率(Recall)、F-score和ROC-AUC曲線。同時，考慮到模型性能，模型運行耗時也作為評價指標。

2.2 BP神經網絡算法

BP算法是利用輸出層的誤差來估計輸出層的直接前導層的誤差，再用這個誤差估計更前一層的誤差，逐層迭代，修正每層的網絡權值，直到誤差滿足要求[9]。

本研究采用BP 神經網絡模型，各層參數如表 1 所示，神經網絡結構如圖6所示。選取Relu函數作為隱含層的轉移函數，選取Sigmoid函數作為輸出層的轉移函數。確定BP神經網絡模型中參數batch_size為12，損失函數使用的交叉熵為binary_crossentropy，dropout值為0.2。

表1 BP神經網絡各層參數表

圖6 智能電網穩定性預測BP神經網絡結構圖

圖7 智能電網穩定性CNN預測模型框架

2.3 卷積神經網絡算法

卷積神經網絡(CNN)[11]是一類具有深度結構的前饋神經網絡，卷積神經網絡由一個或多個卷積層和頂端的全連通層組成，同時也包括權重和池化層(pooling layer)。卷積層(convolutional layer)是卷積神經網絡的核心層，該層的主要功能是提取輸入矩陣的特征。池化層通常會在卷積層之后得到維度很大的特征，將特征切成幾個區域，取其最大值或平均值，得到新的、維度較小的特征。全連接層(fully-connected layer)把所有局部特征結合變成全局特征，用來計算最后每一類的得分。

對數據集進行標準化后輸入數據。卷積層的激活函數為Relu， 提高了模型的非線性表達能力，由于是二分類問題，輸出層采用Sigmoid函數，同時為了防止模型過擬合，設置dropout值為0.3，batch_size值為12，損失函數為交叉熵。利用Keras框架構建CNN模型，詳細模型參數如下：

表2 BP神經網絡各層參數表

2.4 深度學習優化算法

隨機梯度下降算法(SGD)[12]是深度學習中最基礎、最典型的優化算法，在所有的n個樣本中隨機抽取m(m≤n)個小批量樣本，這m個樣本是獨立同分布的。將這m個樣本梯度的平均值作為算法的搜索方向。

AdaGrad算法[13]的學習速率是自動變化的，即算法在整個迭代過程中自動地調整學習率。首先給出初始學習率η，并用該學習率與歷史梯度的平方根的比值作為當前迭代的學習率。而AdaGrad 算法將歷史梯度的平方根作為分母，會導致學習率逐漸減小至零，導致算法提前終止，因此便有了RMSProp算法。

RMSProp算法[14]的分母不再采用歷史梯度的平方根，而是采用歷史梯度的指數衰減平均，即算法初始迭代點處的梯度所占權重很小，越靠后的迭代點處的梯度所占的權重越大。這樣可以丟掉比較靠前的點處的梯度，從而加速算法收斂。AdaGrad 算法和 RMSProp 算法都是基于梯度L2范數的優化算法。基于動量的優化算法和基于L2范數的優化算法各有優缺點，將兩者的優勢結合起來，產生的新算法為Adam算法。

Adam算法[15]將具有經典動量思想的RMSProp 算法和L2范數的思想相結合。具有易于實現、計算高效、存儲要求低等優勢。Adam算法只需要計算損失函數的一階梯度，不同的參數具有不同的學習率，這些學習率是算法 Adam根據參數梯度的一階和二階矩估計自動選取的。

圖8 BP模型不同優化器損失值(左)、準確率(右)和迭代次數的關系

2.5 模型結果與對比

對BP神經網絡回歸預測模型的參數進行優化。主要采用SGD、Adam、AdaGrad、RMSprop4種優化算法進行參數優化，模型的預測效果如圖8所示。 隨著迭代次數的增加， 4種優化算法的損失函數都逐漸下降， 且 AdaGrad算法的損失函數始終低于其他3種算法。 迭代70算法次后的準確度：AdaGrad≈Adam>SGD>RMSprop，并且隨著迭代次數的增加，準確度不斷提高。因此，最終選用Adam算法進行優化。

在CNN模型中也對比了Adam、RMSprop、SGD和Adagrad4種優化器對CNN模型影響，效果如圖9所示。SGD和Adagrad兩種優化器在epoch為80之前并不能達到一個收斂的程度，說明SGD和Adagrad兩種優化器在此數據集上不適用于CNN模型，Adam在模型迭代40次的時候準確率就高于RMSprop， 因此在CNN模型中使用Adam優化器。

圖9 CNN模型不同優化器損失值(左)、準確率(右)和迭代次數的關系

接下來，基于定量分析對多種模型預測能力，采用Acc、Precision、Recall、F1、Auc、Time等多種評價指標定量分析經典機器學習算法與深度學習算法的預測能力。在眾多機器學習算法中取效果前3的模型，分別為支持向量機、隨機森林、XGB。深度學習模型包括BP神經網絡和卷積神經網絡如表 3 所示。

表3 各模型預測精度和性能的比較

(1)SVM模型預測精度較高(Acc=0.977 919)，但其對如何確定核函數比較敏感。在相同內存下，高時間成本(Time=50.493 627 s)也是SVM的一個問題。(2)隨機森林算法采用了集成算法，準確性較高(Acc=0.946 201)。但決策樹個數較多時，訓練的時間空間較大，可解釋性差，屬于黑盒模型；在噪音比較大的情況下，容易出現過擬合現象。(3)XGB模型預測精度高(Acc=0.951 713)，在相對少的調參時間情況下，預測的準確率也比較高。但由于弱學習器之間存在依賴關系，難以并行訓練數據。同時數據維度較高時會加大算法的計算復雜度。(4)BPNN模型迭代70次的運行時間較少，只需要6.304 808 s，預測精度相對較低(Acc=0.910 833)。且BP神經網絡每次都需要更新數量較多的閾值和權值，從而導致收斂速度過慢。同時BP算法是一種速度較快的梯度下降算法，容易陷入局部最小值的問題。可能并不能得到問題的真正解。

CNN模型具有極高的預測精度，在迭代70次后，精度Acc為0.979 000。且CNN模型迭代70次后的耗時僅為28.398 703 s，僅略低于隨機森林。CNN模型共享卷積核，更易處理高維數據，有利于智能電網消費者端的擴展。卷積層可以自動進行特征提取，對實時化的智能電網系統預測有實際意義。CNN在最優優化算法下的預測結果如圖10所示。

圖10 最優優化器下CNN預測模型的效果

3 結論

本研究基于數據挖掘和深度學習算法探究預測智能電網穩定性的方法。深度學習CNN模型其預測性能明顯優于其他預測模型，Acc、Auc都比較高，且Precision和Recall表現良好。綜合模型預測和定量分析的結果，CNN模型要遠高于其他機器學習預測模型，因此可以選擇使用Adam優化器的CNN模型作為智能電網穩定性模型。下一步可以將其推廣到有更多電力消費者的實時智能電網系統中，隨著逐步加強預測系統的可靠性，對實現高效配電具有重要意義。