基于CEEMD-TCN 模型的變壓器油中溶解氣體濃度預(yù)測方法*

楊海晶，孫運(yùn)全，朱 偉，錢 堯，金 浩

(江蘇大學(xué)電氣信息工程學(xué)院,江蘇 鎮(zhèn)江 212013)

電力變壓器是構(gòu)成現(xiàn)代電力系統(tǒng)關(guān)鍵設(shè)備之一,確保變壓器安全穩(wěn)定的運(yùn)行是電力設(shè)備領(lǐng)域的重要課題[1]。在變壓器正常運(yùn)行的進(jìn)程中,設(shè)備會產(chǎn)生老化或者發(fā)生電、熱故障,會導(dǎo)致產(chǎn)生多種氣體。這些氣體溶解在絕緣油中,其成分含量以及不同氣體間的比例關(guān)系可以反映出當(dāng)前變壓器的健康狀況[2-3]。所以,對溶解在變壓器油中的各類氣體濃度進(jìn)行預(yù)測和分析,為變壓器的運(yùn)行狀況的評估和故障的診斷提供了重要依據(jù)。

迄今為止,大量國內(nèi)外學(xué)者對變壓器油中溶解氣體濃度預(yù)測這一課題進(jìn)行了研究,并取得了許多重要成果。該課題的研究可以歸納為3 個(gè)方向:統(tǒng)計(jì)預(yù)測、智能預(yù)測和組合預(yù)測。

統(tǒng)計(jì)預(yù)測包含模糊預(yù)測模型[4]、灰度模型[5]和時(shí)間序列預(yù)測模型[6]等,此類模型最終預(yù)測結(jié)果受限于實(shí)驗(yàn)數(shù)據(jù)的分布規(guī)律。模糊預(yù)測對不確定事件具有良好的預(yù)測效果；灰度模型和時(shí)間序列模型分別在處理指數(shù)型數(shù)據(jù)和線性型數(shù)據(jù)時(shí)具有優(yōu)勢。

智能預(yù)測是指構(gòu)建機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的預(yù)測模型,使用海量的歷史數(shù)據(jù)樣本進(jìn)行訓(xùn)練,最終使其能夠較好反映時(shí)間序列的發(fā)展趨勢。其中常見的機(jī)器學(xué)習(xí)模型有支持向量機(jī)、人工神經(jīng)網(wǎng)絡(luò)和決策樹等[7]。由于傳統(tǒng)的機(jī)器學(xué)習(xí)模型無法高效地處理大量訓(xùn)練數(shù)據(jù)以及提取訓(xùn)練數(shù)據(jù)中的時(shí)序趨勢特征,影響其對油中溶解氣體的預(yù)測精度。伴隨著人工智能技術(shù)的不斷發(fā)展,深度學(xué)習(xí)中的循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)可以有效解決這一問題[8]。循環(huán)神經(jīng)網(wǎng)絡(luò)具有循環(huán)反饋網(wǎng)絡(luò)結(jié)構(gòu),在時(shí)序預(yù)測問題中具有較強(qiáng)的適應(yīng)能力。卷積神經(jīng)網(wǎng)絡(luò)具有特殊的卷積層結(jié)構(gòu),被廣泛用應(yīng)于圖像識別。一些專門的卷積神經(jīng)網(wǎng)絡(luò)模型可以較好地完成時(shí)間序列預(yù)測,如時(shí)間卷積網(wǎng)絡(luò)、WaveNet 等。

組合預(yù)測的研究可以分成兩個(gè)方向,一個(gè)方向是使用多種不同算法對收集到的數(shù)據(jù)分別預(yù)測,最終預(yù)測結(jié)果取決于各算法的預(yù)測結(jié)果以及各算法的權(quán)重值,該方向的預(yù)測結(jié)果易受權(quán)重分配影響,導(dǎo)致預(yù)測結(jié)果失真；另一個(gè)研究方向是使用序列處理方法對油中溶解氣體濃度序列進(jìn)行預(yù)處理,再對經(jīng)過處理的子序列分量分別建模,將各個(gè)模型結(jié)果疊加重構(gòu)得到原始序列的組合預(yù)測結(jié)果。常用的序列預(yù)處理方法有小波分解[9]、經(jīng)驗(yàn)?zāi)B(tài)分解[10]等。

鑒于以上的研究背景,提出了一種基于互補(bǔ)集合經(jīng)驗(yàn)?zāi)B(tài)分解(Complete Ensemble Empirical Mode Decomposition,CEEMD)方法和時(shí)間卷積網(wǎng)絡(luò)(Temporal Convolutional Network,TCN)的組合預(yù)測模型。長期收集的變壓器油中溶解氣體濃度序列經(jīng)過CEEMD 分解后得到的多組子分量和一個(gè)殘余分量,再通過卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)的專門針對序列預(yù)測的變種TCN 分別進(jìn)行訓(xùn)練并得到預(yù)測結(jié)果,再對各組結(jié)果進(jìn)行重構(gòu)組合,最終得到完整的序列預(yù)測趨勢圖像。根據(jù)實(shí)例所預(yù)測的結(jié)果表明,相比于傳統(tǒng)的各種預(yù)測模型,所提出的CEEMD-TCN 模型預(yù)測精度更高。

1 互補(bǔ)集合經(jīng)驗(yàn)?zāi)B(tài)分解

1.1 經(jīng)驗(yàn)?zāi)B(tài)分解

經(jīng)驗(yàn)?zāi)B(tài)分解(Empirical Mode Decomposition,EMD)方法被廣泛應(yīng)用于信號分析領(lǐng)域的非平穩(wěn)、非線性信號分析[11]。在處理時(shí)間序列問題時(shí),由于實(shí)際序列受到多重復(fù)雜因素干擾,這些因素可能彼此耦合,難以用一個(gè)精準(zhǔn)的數(shù)學(xué)模型表示,因此直接使用預(yù)測模型擬合誤差大,預(yù)測效果準(zhǔn)確度不高。而EMD 方法能夠?qū)⒃夹蛄幸圆煌瑫r(shí)間尺度分解為一系列具有一定規(guī)律性的子序列,可以明顯降低對原始序列的擬合難度。

EMD 方法將復(fù)雜序列分解為若干固有模態(tài)函數(shù)(Intrinsic Mode Function,IMF)和一個(gè)殘余分量,確定IMF 需滿足2 個(gè)條件:(1)在序列中,極值點(diǎn)和過零點(diǎn)的個(gè)數(shù)必須相等或者最多相差一個(gè)；(2)在序列中任意時(shí)間點(diǎn),由局部極大值點(diǎn)和極小值點(diǎn)所形成的上、下包絡(luò)線平均值為0。

EMD 方法的步驟如下:

(1)設(shè)原始序列x(t)={x1,x2,…,xi},從中取出局部極大值點(diǎn)和局部極小值點(diǎn),將所有局部極大值點(diǎn)和局部極小值點(diǎn)分別以三次樣條曲線連接并擬合成x(t)的上、下包絡(luò)線Ux(t)、Vx(t)。

(2)求出Ux(t)、Vx(t)的平均值,記為m1(t):

(3)求取原始序列x(t)與m1(t)之差h1(t):

(4)若h1(t)滿足IMF 分量的條件,則記為x(t)的第一個(gè)IMF 分量；若不滿足,將x(t) 替換成h1(t),重復(fù)前三步,直到h1(t)滿足IMF 條件,則將h1(t)記為第一個(gè)IMF 分量c1(t):

(5)將原始序列x(t)減去第一個(gè)IMF 分量c1(t),結(jié)果記做殘余分量r1(t):

將r1(t)作為原始序列,重復(fù)以上(1)到(5)步驟,得到第二個(gè)IMF 分量,重復(fù)n次,得到第n個(gè)IMF 分量,有:

當(dāng)最終的殘余分量rn(t)為常數(shù)或?yàn)閱握{(diào)函數(shù)時(shí)停止迭代。序列x(t)被分解為n個(gè)IMF 分量和1個(gè)殘余分量rn(t)之和。

原始信號x(t)可以表示為:

式中:ci為第i個(gè)IMF 分量；rn為分解完成后的殘余分量。

1.2 互補(bǔ)集合經(jīng)驗(yàn)?zāi)B(tài)分解

EMD 方法分解序列難以解決組合分量的模態(tài)混疊現(xiàn)象。模態(tài)混疊是在某一IMF 中包含了相互耦合、難以分解的其他時(shí)間尺度的IMF 分量。為了改善這一問題,Huang 和Wu[12]提出一種噪聲輔助數(shù)據(jù)分析的集合經(jīng)驗(yàn)?zāi)B(tài)分解(Ensemble Empirical Mode Decomposition,EEMD)。EEMD 是一種輔助信號加入法,通過在序列分解的過程中多次添加高斯白噪聲并進(jìn)行EMD 分解,將多次分解的結(jié)果進(jìn)行平均,得到最終的IMF。

然而,EEMD 方法添加的白噪聲并不能真正地完全抵消,會對數(shù)據(jù)的完備性造成影響。因此,Torres 等[13]提出了一種互補(bǔ)集合經(jīng)驗(yàn)?zāi)B(tài)分解,通過對原始信號添加大小相同,符號相反的白噪聲來保證數(shù)據(jù)的完備性。

CCEMD 的步驟如下:

(1)成對地給原始序列添加大小相同、符號相反的白噪聲:

式中:M1、M2分別為加入白噪聲后的序列,S為原始序列,N為添加的白噪聲。

(2)采用EMD 分解方法對添加白噪聲后的M1、M2序列進(jìn)行分解,將得到第i個(gè)序列第j個(gè)IMF分量記Cij。

(3)對所有得到IMF 分量進(jìn)行平均得到最后分解結(jié)果:

式中:IMFj表示得到的第j組IMF 分量。

2 時(shí)間卷積網(wǎng)絡(luò)

時(shí)間卷積網(wǎng)絡(luò)是一種新型的時(shí)間序列預(yù)測算法。TCN 采用一維卷積網(wǎng)絡(luò),其架構(gòu)中包括了膨脹因果卷積(Dilated Causal Conv) 和殘差模塊(Residual block)[14]。相較于長短期記憶網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)和門控循環(huán)單元(Gated Recurrent Unit,GRU),TCN 有效地避免了梯度消失和梯度爆炸的問題,具有占用內(nèi)存低、梯度穩(wěn)定、并行性良好和感受野靈活的優(yōu)點(diǎn)。

TCN 的卷積層結(jié)構(gòu)如圖1 所示,每一層的t時(shí)刻的結(jié)果都依賴于上一層的t,t-1,…,0 時(shí)刻的值,而每一層對上一層信息的提取,都是通過間隔采樣的形式,逐層膨脹系數(shù)以2 的指數(shù)增長。因此TCN可以用較少的層,獲得很大的感受野。由于膨脹卷積的特性,每一層都需要做Padding 操作來對邊緣進(jìn)行填充,以此保證不丟失上一層的信息。

圖1 膨脹因果卷積結(jié)構(gòu)圖

由圖1 中的膨脹因果卷積結(jié)構(gòu)可知,通過調(diào)整卷積核大小、模型深度、膨脹系數(shù)等參數(shù)即可實(shí)現(xiàn)對指定長度序列的整體感知。設(shè)輸入的一維序列x∈Rn,卷積核f:{0,…,k-1}→R,對該序列元素s經(jīng)過膨脹因果卷積運(yùn)算F的表達(dá)式為:

式中:d為膨脹系數(shù)；k為卷積核大小；“*d”表示卷積運(yùn)算。

TCN 的殘差模塊如圖2 所示,輸入的數(shù)據(jù)需要通過兩輪的膨脹因果卷積、權(quán)重歸一化、激活函數(shù)和Dropout。為了增加TCN 的準(zhǔn)確率,引入了殘差卷積的跳層連接和1×1 卷積操作。

圖2 殘差模塊結(jié)構(gòu)圖

3 CEEMD-TCN 組合預(yù)測模型

提出一種基于CEEMD-TCN 組合預(yù)測模型,其建模的一般步驟為:

(1)對油中溶解氣體濃度數(shù)據(jù)預(yù)處理,剔除異常數(shù)據(jù),使用均值法填充空缺數(shù)據(jù),構(gòu)成完整的原始時(shí)間序列；

(2)對原始序列進(jìn)行分解,以降低其非線性、非平穩(wěn)性對模型所產(chǎn)生的不利影響。通過CEEMD 方法處理序列,得到多組IMF 分量和一組殘余分量；

(3)分別對各個(gè)子序列數(shù)據(jù)歸一化,采用窗口滑動(dòng)的處理方式,以被選定采樣長度的時(shí)間點(diǎn)數(shù)據(jù)為特征,下一個(gè)時(shí)間點(diǎn)數(shù)據(jù)為標(biāo)簽,構(gòu)建TCN 預(yù)測模型,使用優(yōu)化算法來調(diào)整預(yù)測模型的超參數(shù)；

(4)使用訓(xùn)練集訓(xùn)練經(jīng)過優(yōu)化的TCN 預(yù)測模型,通過單步預(yù)測,即可得到各個(gè)子序列的預(yù)測結(jié)果,將所有分量的結(jié)果疊加重構(gòu)后得到最終預(yù)測結(jié)果。

其中,CEEMD-TCN 預(yù)測的流程如圖3 所示:

圖3 CEEMD-TCN 預(yù)測模型結(jié)構(gòu)圖

4 實(shí)例分析

4.1 預(yù)測模型評價(jià)指標(biāo)

為了更好地評定模型的預(yù)測效果,使用平均絕對百分比誤差(Mean Absolute Percentage Error,MAPE)和均方根誤差(Root Mean Square Error,RMSE)作為評價(jià)指標(biāo),公式為:

4.2 數(shù)據(jù)集劃分

為了驗(yàn)證CEEMD-TCN 預(yù)測模型的準(zhǔn)確性,選用某330 kV 變壓器油色譜在線監(jiān)測數(shù)據(jù)為例,以2015 年3 月16 日至2016 年8 月23 日監(jiān)測周期為24 h 的監(jiān)測數(shù)據(jù)為數(shù)據(jù)樣本,共計(jì)527 組。將2015年3 月16 日至2016 年7 月4 日的477 組監(jiān)測數(shù)據(jù)作為訓(xùn)練集,將2016 年7 月5 日至2016 年8 月23日的50 組監(jiān)測數(shù)據(jù)作為測試集。

本次實(shí)驗(yàn)所使用的電腦配置為Inter Core i7-6700HQ 處理器,8GB 內(nèi)存。仿真平臺為MATLAB 2018b 版,訓(xùn)練環(huán)境是Python 3.7.6。

變壓器油色譜在線數(shù)據(jù)由于變壓器的穩(wěn)定性以及可能存在的外界因素干擾,常常會導(dǎo)致產(chǎn)生異常數(shù)據(jù),因此需要預(yù)先剔除異常值,使用均值法填充空缺數(shù)據(jù),以確保預(yù)測模型精度。選用H2濃度監(jiān)測序列為原始序列展開分析。經(jīng)過預(yù)處理的原始序列如圖4 所示:

圖4 H2 濃度原始序列

4.3 數(shù)據(jù)處理

采用CEEMD 方法對H2原始序列進(jìn)行分解,依次分離可得到8 組IMF 分量和1 組殘余分量。分解結(jié)果如圖5 所示:

圖5 H2 濃度序列的CEEMD 分解

為了提高TCN 預(yù)測模型的訓(xùn)練效率,需要針對各個(gè)子序列做歸一化處理。數(shù)據(jù)歸一化選用離差標(biāo)準(zhǔn)化公式:

式中:xmax、xmin分別為樣本序列中的最大值和最小值,yi為歸一化后的數(shù)據(jù)。

4.4 實(shí)驗(yàn)結(jié)果與分析

各子序列分量的預(yù)測模型可以使用訓(xùn)練集數(shù)據(jù)對TCN 模型進(jìn)行訓(xùn)練得到。模型的超參數(shù)通過Adam 優(yōu)化算法更新,學(xué)習(xí)率lr 大小設(shè)置為0.001,batch_size 設(shè)置為36,dropout_rate 設(shè)置為0.05,最大迭代周期數(shù)為100。

使用預(yù)測模型對未來50 d 進(jìn)行預(yù)測,即可獲得各子序列分量的預(yù)測結(jié)果。將預(yù)測結(jié)果疊加重構(gòu),最終所得到的數(shù)據(jù)即為H2濃度在未來50 d 的預(yù)測結(jié)果。

為了驗(yàn)證模型的有效性,使用同一訓(xùn)練集分別訓(xùn)練CEEMD-TCN、TCN、CEEMD-BPNN 和CEEMD-RNN模型。其中,BPNN 指反向傳播神經(jīng)網(wǎng)絡(luò)(Back Propagation Neural Network,BPNN),RNN 指循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)。神經(jīng)網(wǎng)絡(luò)模型采用Adam 優(yōu)化算法更新超參數(shù),設(shè)置隱藏層層數(shù)為1,隱藏層神經(jīng)元個(gè)數(shù)為100,學(xué)習(xí)率lr 為0.001,迭代周期數(shù)為100。實(shí)際值和各模型預(yù)測值曲線如圖6 所示:

圖6 CEEMD-TCN 模型H2 濃度預(yù)測及其與TCN、CEEMD-BPNN、CEEMD-RNN 模型的對比

從圖6 中可以看出,CEEMD-TCN 模型預(yù)測結(jié)果相較于CEEMD-BPNN 和CEEMD-RNN 模型明顯波動(dòng)較小,具有較好的預(yù)測效果。而采用CEEMD方法分解的TCN 模型預(yù)測結(jié)果對實(shí)際值擬合精度要優(yōu)于未采用分解的模型。圖7 為CEEMD-TCN 模型與其他預(yù)測模型的相對誤差對比:

圖7 預(yù)測模型相對誤差對比

從圖7 的預(yù)測模型相對誤差對比結(jié)果可以看出,CEEMD-TCN 模型的相對誤差在[-2,2]這一區(qū)間內(nèi)波動(dòng),而其他預(yù)測模型的相對誤差的波動(dòng)范圍則在[-5,5]區(qū)間內(nèi),這一結(jié)果表明CEEMD-TCN 模型的預(yù)測精度明顯要高于其他幾種模型。

使用eRMSE和eMAPE來評估測試樣本預(yù)測誤差指標(biāo),評估結(jié)果如表1 所示:

表1 CEEMD-TCN 與其他模型預(yù)測結(jié)果評估

結(jié)合表1 中數(shù)據(jù)可知,在對油中溶解的H2濃度的預(yù)測結(jié)果中,相較于直接使用TCN 模型預(yù)測,通過采用CEEMD 分解原始序列的方法,使得eRMSE和eMAPE指標(biāo)分別降低0.773 和0.433%。而與CEEMDBPNN 和CEEMND-RNN 相比,CEEMD-TCN 的eRMSE分別減小1.007、0.533,eMAPE分別減小0.673%、0.376%。因此,CEEMD-TCN 模型的預(yù)測精度更高,預(yù)測數(shù)據(jù)更符合實(shí)際值。

4.5 其余氣體濃度預(yù)測實(shí)驗(yàn)結(jié)果

在上文的實(shí)驗(yàn)案例中,重點(diǎn)分析了CEEMD-TCN模型對H2濃度預(yù)測的結(jié)果。為了了解CEEMD-TCN模型對變壓器中除H2外其余氣體濃度變化趨勢的預(yù)測情況,將其預(yù)測結(jié)果分別與其他3 種預(yù)測模型對比。

由表2 可知,相比較于TCN、CEEMD-BPNN、CEEMD-RNN 模型,使用CEEMD-TCN 模型預(yù)測其余油中溶解氣體同樣具有較高的預(yù)測穩(wěn)定性。

表2 其余氣體濃度預(yù)測實(shí)驗(yàn)結(jié)果對比

5 結(jié)論

針對變壓器油中溶解氣體濃度預(yù)測問題展開研究,提出基于CEEMD-TCN 模型的預(yù)測方法,得出結(jié)論如下:

(1)采用CEEMD 方法處理原始序列,可以有效解決不同時(shí)間尺度信息間的相互耦合問題,更深層次地挖掘原始序列特性,能夠極大提高模型預(yù)測精度；

(2)采用TCN 模型預(yù)測油中溶解氣體濃度各子序列分量,其結(jié)構(gòu)中的膨脹因果卷積和殘差模型能夠有效地捕捉序列內(nèi)部關(guān)聯(lián)特性,進(jìn)而高精度地追蹤序列變化趨勢；

(3)通過實(shí)驗(yàn)分析,采用同一油中溶解氣體濃度數(shù)據(jù)集,CEEMD-TCN 相對于TCN、CEEMD-BPNN和CEEMD-RNN 預(yù)測模型,其預(yù)測誤差更低,預(yù)測精度更高。