基于混合門控循環(huán)單元子層的多任務(wù)暫態(tài)穩(wěn)定評估

孫黎霞，彭嘉杰，田屹昀，陳欣凌，袁歡

(河海大學(xué)能源與電氣學(xué)院，南京市 211100)

0 引 言

在碳中和、碳達(dá)峰的目標(biāo)下，近年來多種新型能源類型與新型設(shè)備以多種方式接入電網(wǎng)；電力系統(tǒng)中可再生能源和電力電子設(shè)備占比的增加，電力系統(tǒng)呈現(xiàn)高比例可再生能源和高比例電力電子設(shè)備的“雙高”特性；“雙高”特性使得電力系統(tǒng)暫態(tài)過程更加復(fù)雜，增加了系統(tǒng)運(yùn)行風(fēng)險(xiǎn)[1-3]。因此，快速準(zhǔn)確的電力系統(tǒng)暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定評估對于電力系統(tǒng)安全穩(wěn)定運(yùn)行具有重要意義。

傳統(tǒng)的時域仿真法存在建模難度大、計(jì)算速度慢等缺點(diǎn)，難以滿足實(shí)際需求。而基于數(shù)據(jù)驅(qū)動的暫態(tài)穩(wěn)定評估可以采用機(jī)器學(xué)習(xí)或深度學(xué)習(xí)方法，利用電力系統(tǒng)穩(wěn)態(tài)和故障后的量測數(shù)據(jù)實(shí)現(xiàn)快速、準(zhǔn)確的暫態(tài)功角穩(wěn)定評估和暫態(tài)電壓穩(wěn)定評估。

但在過去的相關(guān)研究中，通常獨(dú)立研究電力系統(tǒng)暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定評估問題。文獻(xiàn)[4]利用變分自編碼和卷積神經(jīng)網(wǎng)絡(luò)降低了噪聲對暫態(tài)穩(wěn)定評估的影響；文獻(xiàn)[5-7]分別利用一維卷積神經(jīng)網(wǎng)絡(luò)和長短期記憶神經(jīng)網(wǎng)絡(luò)提取量測數(shù)據(jù)的時序特性進(jìn)行暫態(tài)功角穩(wěn)定評估。文獻(xiàn)[8]采用Catboost方法提高暫態(tài)電壓穩(wěn)定評估的計(jì)算準(zhǔn)確率和計(jì)算效率；文獻(xiàn)[9]通過Shapelet方法提取暫態(tài)數(shù)據(jù)的特征表示從而實(shí)現(xiàn)暫態(tài)電壓穩(wěn)定評估；文獻(xiàn)[10]采用隨機(jī)森林實(shí)現(xiàn)電壓穩(wěn)定評估。以上研究均取得了良好效果，但電力系統(tǒng)暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定存在一定內(nèi)在聯(lián)系，往往在大擾動過程中相伴出現(xiàn)并難以完全區(qū)分[11]。

而單任務(wù)學(xué)習(xí)會阻斷任務(wù)間的相互聯(lián)系，浪費(fèi)計(jì)算和存儲資源；多任務(wù)學(xué)習(xí)則可以同時實(shí)現(xiàn)多個評估任務(wù)，在訓(xùn)練過程促進(jìn)任務(wù)間的信息共享，有利于獲得更好的評估性能[12]。因此利用多任務(wù)學(xué)習(xí)建立評估模型不僅可以節(jié)省計(jì)算、存儲資源，還可以獲得更好的模型性能。但不同評估任務(wù)間具有相似性和差異性。當(dāng)任務(wù)相近時可以忽略差異性的影響，如文獻(xiàn)[13-14]利用硬參數(shù)共享實(shí)現(xiàn)了暫態(tài)穩(wěn)定性判斷和功角離群發(fā)電機(jī)識別的多任務(wù)評估。但暫態(tài)功角穩(wěn)定和電壓穩(wěn)定本質(zhì)上是兩類穩(wěn)定性問題，而硬參數(shù)共享依賴相同特征表示完成不同評估任務(wù)。這導(dǎo)致任務(wù)間差異性會對模型性能產(chǎn)生一定負(fù)面影響[15]。

電力系統(tǒng)暫態(tài)過程具有明顯的時序特性，而門控循環(huán)單元(gated recurrent unit, GRU)具有高效提取數(shù)據(jù)中時序特征的能力[16]。本文提出基于混合GRU子層的多任務(wù)暫態(tài)穩(wěn)定評估模型。該模型利用多個GRU子層提取量測數(shù)據(jù)的時序特征，并引入門控機(jī)制自動調(diào)節(jié)各個子層在不同評估任務(wù)中的權(quán)重，實(shí)現(xiàn)面對不同任務(wù)時靈活的特征共享，既保留任務(wù)間相似性的積極影響，又削弱任務(wù)間差異性的負(fù)面影響。本文在IEEE 39節(jié)點(diǎn)測試系統(tǒng)及其修改系統(tǒng)中進(jìn)行測試，結(jié)果表明本文提出模型具有更好的評估性能和計(jì)算速度。

1 多任務(wù)學(xué)習(xí)方法

1.1 門控循環(huán)單元

循環(huán)神經(jīng)網(wǎng)絡(luò)對于時序特性具有良好特征提取能力，本文利用GRU進(jìn)行電力系統(tǒng)量測數(shù)據(jù)時序特性的提取。GRU是在傳統(tǒng)長短期記憶網(wǎng)絡(luò)(long short-term memory，LSTM)的基礎(chǔ)上簡化而來，減少了LSTM內(nèi)部復(fù)雜的門控機(jī)制，僅具有更新門和重置門。在保持良好時序特征提取能力的同時，提高了計(jì)算效率。

更新門決定了前一時間步的特征記憶保存到當(dāng)前時間步的信息量；而重置門決定了如何將當(dāng)前時間步的新輸入信息與前一時間步的特征信息相結(jié)合。GRU的單元結(jié)構(gòu)如圖1所示。

圖1 門控循環(huán)單元的結(jié)構(gòu)Fig.1 Structure of a gated recurrent unit

GRU內(nèi)部各變量的計(jì)算關(guān)系為：

rt=σsigmoid(Wrxt+ht-1Wr+br)

(1)

zt=σsigmoid(Wzxt+ht-1Wz+bz)

(2)

(3)

(4)

電力系統(tǒng)在遭遇大擾動時，暫態(tài)動態(tài)響應(yīng)過程中的各電氣量具有明顯時序特性。系統(tǒng)穩(wěn)定和失穩(wěn)時的穩(wěn)態(tài)至故障切除時刻的電氣量測數(shù)據(jù)具有明顯差異。本文將包含時序特性的電氣量測數(shù)據(jù)作為模型輸入，利用GRU進(jìn)行高效特征提取，并將提取得到的時序特征用于后續(xù)的評估任務(wù)。

1.2 基于混合GRU子層的多任務(wù)學(xué)習(xí)

過去相關(guān)研究中，通常基于量測數(shù)據(jù)獨(dú)立分析電力系統(tǒng)暫態(tài)功角穩(wěn)定問題和暫態(tài)電壓穩(wěn)定問題；但電力系統(tǒng)經(jīng)大擾動后，二者往往同時存在，難以完全區(qū)分。并且，二者之間具有一定內(nèi)在聯(lián)系和差異[17]。同一組量測數(shù)據(jù)中既蘊(yùn)含著說明暫態(tài)功角穩(wěn)定性的相關(guān)信息，還包含著體現(xiàn)暫態(tài)電壓穩(wěn)定性的相關(guān)內(nèi)容。單任務(wù)學(xué)習(xí)模型無法充分利用量測數(shù)據(jù)的內(nèi)在信息，隔絕了兩種穩(wěn)定性評估任務(wù)之間的內(nèi)在聯(lián)系。又考慮暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定問題之間同時存在一定差異性。常規(guī)的硬參數(shù)共享多任務(wù)學(xué)習(xí)方法如圖2所示，其采用單一共享特征進(jìn)行多個任務(wù)的評估，會受到任務(wù)間差異性影響，影響模型評估性能。

圖2 硬參數(shù)共享多任務(wù)學(xué)習(xí)Fig.2 Hard parameter shared multi-task learning

混合子層的多任務(wù)學(xué)習(xí)方法，通過建立多個子層實(shí)現(xiàn)多種特征表示的提取，并引入門控機(jī)制自動調(diào)節(jié)各個特征在不同評估任務(wù)中的占比從而建立共享特征，實(shí)現(xiàn)靈活的特征共享。假設(shè)共有N個子層進(jìn)行特征提取，則共享特征為：

(5)

式中：y為混合子層輸出的共享特征；fGate，n為第n個門控機(jī)制的輸出值；fn為第n個子層的特征提取結(jié)果。

fGate=fsoftmax(WGatex+bGate)

(6)

式中：fsoftmax為門控機(jī)制的輸出，為n×1的向量；x為輸入特征；WGate為門控機(jī)制中的權(quán)重矩陣；bGate為門控機(jī)制中的偏差向量。fsoftmax的表達(dá)式為：

(7)

式中：zj為全連接層的第j個神經(jīng)元的輸出值。

1.3 全連接層

全連接層與前一層全部直接相連，其表達(dá)式為：

z=xlWl+bl

(8)

式中：xl為第l層全連接層輸入；Wl為第l層全連接層權(quán)重；bl為第l層全連接層偏差。

2 多任務(wù)暫態(tài)穩(wěn)定評估模型

2.1 多任務(wù)暫態(tài)穩(wěn)定評估模型的構(gòu)建

本文將暫態(tài)功角穩(wěn)定作為任務(wù)一，暫態(tài)電壓穩(wěn)定評估作為任務(wù)二，利用GRU層、GRU子層、門控機(jī)制、全連接層和分類器構(gòu)建基于混合子層的多任務(wù)暫態(tài)穩(wěn)定評估模型，簡稱為混合子層多任務(wù)模型，其結(jié)構(gòu)如圖3所示。

圖3 混合子層多任務(wù)模型Fig.3 Multi-task learning with multi-gate mixture-of-expert

首先利用GRU層進(jìn)行時序特征提取，通過GRU子層和門控機(jī)制實(shí)現(xiàn)針對不同任務(wù)的靈活特征共享并將其輸入至全連接層進(jìn)行分類，同時實(shí)現(xiàn)暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定評估。假設(shè)系統(tǒng)節(jié)點(diǎn)數(shù)為m，本文提出模型需要調(diào)節(jié)的模型參數(shù)有：GRU層數(shù)和神經(jīng)元數(shù)；GRU子層數(shù)量n和神經(jīng)元數(shù)；門控機(jī)制中全連接層層數(shù)為1，神經(jīng)元數(shù)量為n，其輸出值分別對應(yīng)各個子層在構(gòu)建共享特征時的所占權(quán)重；評估任務(wù)一中全連接層數(shù)為2，激活函數(shù)為Softmax，用于評估暫態(tài)功角穩(wěn)定狀態(tài)；評估任務(wù)二中全連接層神經(jīng)元數(shù)等于系統(tǒng)節(jié)點(diǎn)數(shù)m，激活函數(shù)為Sigmoid，用于評估每個節(jié)點(diǎn)的電壓狀態(tài)。

2.2 混合GRU子層多任務(wù)模型的評估和測試流程

模型評估和測試流程如圖4所示。

1) 生成數(shù)據(jù)集。數(shù)據(jù)集對于基于數(shù)據(jù)驅(qū)動的暫態(tài)穩(wěn)定評估至關(guān)重要，通常利用電力系統(tǒng)量測系統(tǒng)實(shí)測數(shù)據(jù)或仿真數(shù)據(jù)建立數(shù)據(jù)集。數(shù)據(jù)集中的特征選取同樣十分關(guān)鍵，本文根據(jù)參考文獻(xiàn)[18]，選擇穩(wěn)態(tài)、故障發(fā)生時刻、故障切除時刻的節(jié)點(diǎn)電壓幅值和相角作為特征量。

2) 數(shù)據(jù)貼標(biāo)。任務(wù)一根據(jù)暫態(tài)穩(wěn)定指數(shù)(transient stability index, TSI)進(jìn)行貼標(biāo)，TSI為：

(9)

式中：Δδmax為仿真時長內(nèi)任意2臺發(fā)電機(jī)功角差值的最大值；η>0則認(rèn)為系統(tǒng)穩(wěn)定，η<0則認(rèn)為系統(tǒng)失穩(wěn),分別標(biāo)記為1和0。

針對任務(wù)二，本文采用暫態(tài)電壓穩(wěn)定實(shí)用判據(jù)：母線節(jié)點(diǎn)電壓在故障后低于0.75 pu的時間不超過1 s[19]。將滿足該條件的節(jié)點(diǎn)視為穩(wěn)定節(jié)點(diǎn)標(biāo)記為1，不滿足的節(jié)點(diǎn)視為失穩(wěn)節(jié)點(diǎn)標(biāo)記為0，每個樣本得到1×m維的標(biāo)簽。

3) 數(shù)據(jù)預(yù)處理。不同數(shù)據(jù)的量綱往往不同，為避免不同量綱下數(shù)值差異過大帶來模型訓(xùn)練困難的問題，需要對數(shù)據(jù)進(jìn)行歸一化處理。本文采用min-max方法進(jìn)行歸一化處理：

(10)

4) 模型訓(xùn)練。首先確定模型參數(shù)，損失函數(shù)選擇交叉熵?fù)p失函數(shù)，使用Adam優(yōu)化器，采用Dropout防止過擬合，利用Mini-batch加快計(jì)算速度[20-21]。訓(xùn)練至滿足精度需求，若不滿足則調(diào)整模型參數(shù)重新訓(xùn)練。

5) 模型評估。將測試數(shù)據(jù)或在線運(yùn)行數(shù)據(jù)輸入至訓(xùn)練好的模型進(jìn)行評估，獲得系統(tǒng)暫態(tài)功角穩(wěn)定和暫態(tài)電壓穩(wěn)定狀態(tài)。

圖4 多任務(wù)模型評估流程Fig.4 Process of multi-task model evaluation

2.3 模型性能評價(jià)指標(biāo)

任務(wù)一采用準(zhǔn)確率、F1值(F1)、FPR(false positive rate)衡量評估性能，計(jì)算方法分別為：

(11)

(12)

(13)

式中：TP和FN分別表示穩(wěn)定樣本中被正確和錯誤評估的數(shù)目；TN和FP分別表示失穩(wěn)樣本中被正確和錯誤評估的數(shù)目。

任務(wù)二采用杰卡德系數(shù)衡量失穩(wěn)節(jié)點(diǎn)評估集合與真實(shí)集合之間的差距，其計(jì)算方式為：

(14)

式中：S1為真實(shí)失穩(wěn)集合；S2為多任務(wù)模型輸出的失穩(wěn)集合。

3 仿真算例

算例分析采用IEEE 10機(jī)39節(jié)點(diǎn)系統(tǒng)，利用Tensorflow和Keras搭建本文提出的混合子層多任務(wù)模型[22-24]。計(jì)算平臺配置為Intel Core i5-6300HQ CPU/8.00 GB RAM/ GTX 960M。

3.1 數(shù)據(jù)集生成

系統(tǒng)中發(fā)電機(jī)采用6階模型，負(fù)荷模型采用由50%感應(yīng)電動機(jī)和50%恒阻抗負(fù)荷組成的混合負(fù)荷模型。負(fù)荷水平在70%～140%之間，并響應(yīng)調(diào)整發(fā)電機(jī)出力。在不同負(fù)荷水平下分別在每一條線路設(shè)置三相短路故障，故障持續(xù)時間分別持續(xù)0.1～0.2 s。共生成18 360個樣本。將 12 301個樣本作為訓(xùn)練集，其余6 059個樣本作為測試集。

3.2 模型性能評價(jià)指標(biāo)

確定模型參數(shù)：GRU層數(shù)量為3，各層神經(jīng)元為200、400、200；GRU子層數(shù)量為4，每個子層神經(jīng)元數(shù)量為100。訓(xùn)練過程中Dropout設(shè)為0.2；初始學(xué)習(xí)速率為0.01，每15輪減少一半的學(xué)習(xí)速率。將訓(xùn)練得到的模型與硬參數(shù)共享的多任務(wù)模型、GRU、Bi-LSTM、卷積神將網(wǎng)絡(luò)(convolutional neural networks, CNN)、深度神經(jīng)網(wǎng)絡(luò)(deep neural networks, DNN)、支持向量機(jī)(support vector machine, SVM)、隨機(jī)森林(random forest, RF)單任務(wù)模型進(jìn)行對比，其結(jié)果如表1所示。由表1可知，本文提出的混合子層多任務(wù)模型相對于常規(guī)硬參數(shù)多任務(wù)模型性能更好；并且相較于其他單任務(wù)模型在計(jì)算速度和評估精度方面的表現(xiàn)均更加優(yōu)異，準(zhǔn)確率和杰卡德系數(shù)最高分別提升了1.1%和1.6%。

為驗(yàn)證混合子層多任務(wù)模型的特征提取能力，利用T-SNE降維可視化模型的特征提取結(jié)果，如圖5所示。由圖5可知，本文提出的混合子層多任務(wù)模型具有較強(qiáng)的特征提取能力，在經(jīng)過GRU特征提取后穩(wěn)定樣本和失穩(wěn)樣本之間逐漸出現(xiàn)明顯的分界線。

表1 暫態(tài)穩(wěn)定評估結(jié)果Table 1 Transient stability assessment results

圖5 特征提取效果Fig.5 Feature extraction effect

為驗(yàn)證本文提出模型中門控機(jī)制的有效性，將測試樣本輸入模型，門控機(jī)制為不同任務(wù)輸出的子層權(quán)重值如圖6所示。由圖6可知，對于同一樣本，門控機(jī)制自動為任務(wù)一和任務(wù)二分配了不同的子層權(quán)重，實(shí)現(xiàn)了靈活的特征共享，驗(yàn)證了混合子層多任務(wù)學(xué)習(xí)方法的有效性。

圖6 門控機(jī)制輸出結(jié)果Fig.6 Result of gating mechanism

3.3 含新能源系統(tǒng)中的性能評估

為驗(yàn)證本文提出模型在含新能源系統(tǒng)中的有效性，將IEEE 39節(jié)點(diǎn)中的部分同步發(fā)電機(jī)組替換為風(fēng)力發(fā)電機(jī)，具體替換方式如表2所示。

系統(tǒng)負(fù)荷水平和發(fā)電機(jī)出力變化范圍為90%～120%，在各條線路上設(shè)置三相短路故障，故障持續(xù)0.1～0.2 s。共生成4 896組數(shù)據(jù)，其測試結(jié)果如表3所示。

3.4 模型魯棒性測試

為驗(yàn)證本文提出模型的魯棒性，在3.1節(jié)的原始數(shù)據(jù)中分別加入信噪比為50、30、10 dB的高斯白噪聲，對比不同模型在噪聲影響下的準(zhǔn)確率和杰卡德系數(shù)，其結(jié)果如表4所示。由表4可知，在50 、30 dB噪聲環(huán)境下，噪聲對模型性能影響較小，本文提出模型的準(zhǔn)確率和杰卡德系數(shù)最多分別下降了0.8%和1.0%，而其他模型下降在1.2%～2.4%之間；在10 dB環(huán)境中，噪聲影響較大，本文提出模型性能雖然優(yōu)于其他模型，但性能下降也較為明顯。因此，總體來看本文提出模型相較其他方法具有更好的魯棒性，但在高噪聲環(huán)境中的魯棒性仍有待提高。

表2 風(fēng)機(jī)替換方式Table 2 Replacement mode of wind power generators

表3 新能源系統(tǒng)下暫態(tài)穩(wěn)定評估結(jié)果Table 3 Results of transient stability assessment for new energy system

表4 考慮噪聲干擾時的暫態(tài)穩(wěn)定評估結(jié)果Table 4 Transient-stability assessment results with considering noise

4 結(jié) 論

本文考慮電力系統(tǒng)暫態(tài)功角穩(wěn)定評估和暫態(tài)電壓穩(wěn)定評估之間的相關(guān)性和差異性，提出混合子層的多任務(wù)暫態(tài)穩(wěn)定評估模型，實(shí)現(xiàn)靈活的特征共享。采用GRU實(shí)現(xiàn)高效的特征提取，并在IEEE 39節(jié)點(diǎn)測試系統(tǒng)中進(jìn)行仿真驗(yàn)證，得到如下結(jié)論：

1)GRU具有良好的時序特征提取能力，并且具有更快的計(jì)算速度；能夠高效實(shí)現(xiàn)電力系統(tǒng)時序特征的提取。

2)電力系統(tǒng)暫態(tài)功角穩(wěn)定評估和暫態(tài)電壓穩(wěn)定評估具有一定的相關(guān)性和差異性，利用多任務(wù)學(xué)習(xí)能夠利用任務(wù)間相關(guān)性提升模型性能并且節(jié)約計(jì)算時間。

3)本文提出的混合子層多任務(wù)學(xué)習(xí)可以針對不同任務(wù)實(shí)現(xiàn)靈活的特征共享，有效削弱了任務(wù)間差異性對模型性能產(chǎn)生的負(fù)面影響，具有更好的特征提取效果，便于獲得更好的模型性能。

后續(xù)將考慮較大噪聲對于模型性能的影響，提高模型魯棒性；并針對如何在評估中量化電力系統(tǒng)失穩(wěn)風(fēng)險(xiǎn)，確定不同風(fēng)險(xiǎn)等級的具體區(qū)域，實(shí)現(xiàn)更為精細(xì)化的穩(wěn)定性評估開展進(jìn)一步研究。