基于TCN-LSTM神經網絡的線纜性能衰退預測方法

王發麟, 俞威

(南昌航空大學航空制造工程學院, 南昌 330063)

線纜作為復雜機電產品各電氣設備間的連接樞紐,對整個產品設備進行傳遞信息、電信號時的作用很重要。當線纜的性能受到嚴重影響導致的例如線纜的絕緣層破裂、電磁兼容過大等問題從而造成線纜無法正常傳輸信號、能量時,會給設備造成安全隱患。這類絕緣層破裂等問題則是由于復雜機電產品的工作環境多樣性的原因,線纜會受到不確定因素的影響,導致線纜的物理、電氣等方面的性能產生衰退。因此在針對線纜性能衰退方面的問題上需要得到研究重視。目前國內外對于復雜機電產品的線纜性能衰退問題的研究還較少,研究的方向大致都是針對設備上的性能的研究[1-3],而線纜作為復雜機電產品中的組成部分,相對于設備中其他部分來說,存在著電磁影響等特殊的性質。因此大多預測方法在處理線纜衰退預測上因設備通性存在雖存在一定的可行性,但仍需依據線纜的衰退性質進行修改,提高方法適用性。

目前存在的對設備狀態預測方面的研究,大致都是依據研究對象的特點,通過構建特定的神經網絡將采集分析的已有數據輸入神經網絡模塊后,進行學習、訓練,最后得到預測結果。例如:Wu等[4]針對礦井電纜壽命的預測問題,構建了徑向基函數神經網絡預測模型進行預測,并對壽命預測值進行了驗證。ngel等[5]依據地下電纜的網絡配置、參數和電涌放電器數據等指標,構建電纜故障風險預測的人工神經網絡的方法。Olga等[6]提出了一種基于多指神經元的多層前饋神經網絡的方法,利用實際數據預測劣化程度的案例研究,驗證預測的良好性能。李亞平等[7]依據滾動軸承作為旋轉機械的關鍵零件為出發點,采用時序卷積神經網絡對滾動軸承的振動趨勢做預測,并最終證實了時間卷積網絡(temporal convolutional network,TCN)可以用于滾動軸承的振動趨勢及剩余壽命預測。趙星宇等[8]將自適應噪聲完備集合經驗模態分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)方法和TCN、長短期記憶網絡(long short-term memory network,LSTM)神經網絡結合共同處理電力負荷這一時間序列的問題,并通過實力驗證表明了方法的精確性及可靠性。王欣等[9]以航空發動機為研究對象,將注意力機制引入神經網絡中提高模型預測精度,并通過實驗對比驗證了方法可靠性。

綜合以上國內外的研究來看,對設備本身的狀態或者其他零部件進行狀態的預測除了傳統統計模型方法以外,目前各研究所學習使用的方法為基于數據驅動的方法。在通過可靠的指標數據的基礎上,進行良好的預測,但是以上研究中大多部分的網絡模型未考慮到數據存在著不同性質的問題,在代入數據時尚未考慮到數據的時序性、數據維度等差異。而在預測線纜的性能衰退狀態時,運用到的數據部分存在著時間關聯性以及數據特征不同等問題,因此在構建線纜的性能衰退預測模型的時候,需要考慮這一部分時序特征特性。

現通過對線纜性能衰退原因進行分析,選取能有效反映線纜性能狀態的參數,并選取記錄的其他相關影響因素,如工作環境溫度、濕度等數據進行融合代入所構建的時序卷積-長短期記憶神經網絡模型中學習、訓練以及預測。同時在訓練過程中確定其他線纜性能影響因素對結果的影響程度。最后將預測結果與單體神經網絡得出的預測結果進行對比分析,尋求相對最優的網絡模型。

1 問題描述及線纜性能衰退分析

線纜的機械、電氣性能在長時間的使用下,會受到環境、人為等各種因素的影響,不再具備穩定工作的性能條件以及使用壽命。現缺少一種詳細有效的預測方法對線纜的衰退程度做到一個預警,往往都是出現事故后才開始彌補。因此需要構建一種預測模型以及預測方法,對線纜的性能衰退狀態進行預測,并在此之后將預測的線纜狀態結果反饋給檢修人員及使用人員,從而提供修檢維護的參考與決策,起到一個預防線纜失效的功能。本文通過對線纜衰退原因進行分析,依據分析結果按指標進行數據集選取,構建TCN結合LSTM的網絡模型。最后得出預測結果并進行比較分析,為線纜性能衰退狀態的預測提供方案,具體過程如圖1所示。

對于線纜而言,線纜會由于其結構在組成材料部分的化學性能上發生不可逆的變化而導致線纜的性能衰退是不可逆的(如有機物腐蝕、電解腐蝕等),線纜本身最薄弱的環節通常是絕緣材料部分,絕緣材料的性能會隨時間而發生劣化或老化等問題,這也是導致線纜性能退化的主要原因。而導致絕緣材料發生故障的原因有多種,如表1所示。

圖1 線纜性能衰退預測流程圖Fig.1 Cable performance degradation prediction flow chart

表1 絕緣材料故障原因Table 1 Insulation material failure causes

除了以上導致絕緣材料上的劣化的原因,線纜性能還存在著其他材料上的老化、損壞導致線纜發生水樹、腐蝕等現象,而這些現象最終都基本反映在線纜絕緣電阻等的變化上,因此在構建預測模型選取相關參數上應選擇能夠良好反映線纜的絕緣狀態的數據。而線纜中的介質損耗角正切值、直流電流、線纜絕緣電阻值等都與線纜的絕緣狀態有關,所以本文選取此參數作為主要的預測輸入對象。

2 基于融合相關性分析的預測模型

對于線纜性能衰退的預測而言,考慮到時序卷積網絡[10]、循環神經網絡[11]等單體神經網絡在不同性質序列數據下訓練的結果以及效果會有差異。通過構建TCN與LSTM的結合網絡模型,將通過采集儀器所得到的各線纜信息時間序列數據,與通過相關性分析后確定的其他影響線纜性能的情況,如溫度、濕度等非時間序列數據輸入模型中進行訓練,并在訓練構建的結合網絡中進行預測后,將預測出的結果與在各單體神經網絡訓練后所預測出的結果、效果進行比較分析。

2.1 基于TCN-LSTM的預測模型結構

TCN模型依據其因果卷積對數據進行提取,保證時序性,對線纜性能衰退預測問題中所確定的各數據的特征提取后代入神經網絡中特定的結構中進行學習分析。標準LSTM模型在處理長期問題的情況下,因長時間、多種類數據優化存儲能力不足會導致預測精度下降、預測反饋延遲問題[12]的產生。而TCN網絡中含擴張卷積操作以及殘差連接,可優化網絡的處理速度與預測精度,因此在文中將兩種模型融合構建了TCN-LSTM模型,如圖2所示。

模型結構主要包括輸入層(輸入1、輸入2)、TCN網絡層、LSTM網絡層以及輸出層,每一層的相連以及運作最終構成預測模型。輸入層的輸入1部分為通過分析所確定的可以良好反應線纜性能的參數數據,TCN網絡層內設置為2層的殘差單元,殘差單元簡單來說就是將輸入添加到單元中進行計算后輸出為下一層的輸入,公式為

圖2 TCN-LSTM模型結構圖Fig.2 TCN-LSTM model structure diagram

(1)

式(1)中:Xn為第n層卷積層所包含的信息;K為擴張卷積操作,也就是所說的包含的直接映射部分;Ki為第i個卷積核的數量;F為不同層之間進行殘差映射操作。

本模型構造的卷積層為多卷積,以進行深層特征提取,卷積單元的激活函數為ReLU函數,對卷積核的權重進行歸一化,并在后加入dropout層進行正則化減輕過擬合的發生。具體計算過程為

yi=Conv(WiFj+bi)

(2)

{Y0,Y1,…,Yi}=Hi-norm({y0,y1,…,yi})

(3)

{T0,T1,…,Ti}=ReLU({Y0,Y1,…,Yi})

(4)

式中:yi是i時刻卷積計算的狀態值;Wi為i時刻卷積計算的時間序列矩陣;j為層數,bi為偏置矩陣;{T0,T1,…,Ti}為最后通過所有計算得到的序列特征。輸入2為各類影響線纜性能的非時序數據,例如溫度、濕度等因素,并且在選取非時序數據時,為了進一步的提高訓練以及預測的準確性,在選取非時序數據時先經過皮爾遜相關分析進行原始數據的降維以及優選。LSTM網絡層設置三層單元,并將輸入1的輸出與輸入2作為網絡層的輸入。整體模型預測流程如圖3所示。其中TCN內處理過程為擴張卷積及殘差連接的引入,一是在極大效率的過濾長時數據中包含的無用信息的同時,保證能保留原有影響線纜狀態的多因素信息之間的關聯性,減少后續處理的數據量。二是解決網絡太深而造成的退化問題,為模型的建立以及預測做好基礎。

圖3 預測方案流程圖Fig.3 Flow chart of prediction scheme

2.2 相關性分析

輸入2的非時序數據在選取過程中,對通過分析確定的影響線纜性能的各因素進行相關性分析,通過比對不同數據集進行學習訓練后預測的結果,來確定最終進行模型對比的數據,已驗證構造的方法的有效性。在考慮到影響線纜性能的因素及線纜性能本身的情況,可將他們看為兩個變量來兩兩進行分析,采用皮爾遜相關系數來分析兩個變量(X,Y),即影響線纜性能的因素和線纜性能之間的相關程度。皮爾遜相關性系數r計算公式為

(5)

式(5)中:r的絕對值的大小與相關性強度的關系為絕對值越接近1,兩個變量之間的相關性越高,詳細關系如表2所示。

通過經皮爾遜系數計算線纜性能變化與溫度、濕度等因素之間的相關程度得到結果后,確定在影響線纜性能衰退的非時序數據中,哪些數據對線纜性能衰退的影響最大,從而選擇適宜的數據進行輸入、預測。

表2 相關性強度表Table 2 Correlation strength table

2.3 評估準則

在經過輸入、學習、預測等一系列操作后,用對預測結果得到的數據值進行選取平均絕對百分誤差(mean absolute percentage error,MAPE)以及決定系數R2作為模型的衡量指標與評估標準。R2作為表示預測模型擬合程度的指標,其中差越小,決定系數的值越接近1,表明模型的擬合效果越好。各公式為

(6)

(7)

3 實例分析

文中進行搭建神經網絡的服務器配置為WIN10系統,16 G運行內存,顯卡為NVIDIA 1050ti,編程環境為pycharm2020.2,神經網絡模型為Keras框架。

3.1 數據準備及處理

選取某系列機電設備中所檢測反映線纜性能狀態的數據,將其中的絕緣阻值IR、介質損耗正切角tanδ、內部電流I、電容電流IC的參數數據作為輸入1。再依據線纜性能會受到例如溫度、濕度、設備使用時長等情況的影響,將記錄的日志數據作為輸入2,具體為溫度、濕度、設備單位時間使用時長、季度以及設備清潔次數。

按照式(5)～式(7)可知在相關性系數在0.7以上的有溫度、濕度、使用時長這三個影響因素,而清潔次數與線纜性能變化的相關性系數為0.65。因此為比較是否選擇清潔次數這一因素對預測線纜性能衰退狀態的影響程度,本文中采取對比非時序數據取(溫度、濕度、使用時長)以及(溫度、濕度、使用時長、清潔次數)兩種情況進行分析。以構建預測效果最優的網絡模型。

3.2 網絡模型設置

TCN網絡層內設置為2層的殘差單元,其中每層殘差單元包含兩個卷積單元,擴張系數以2的倍數疊加。LSTM層經實驗發現,模型訓練初期,預測精度隨LSTM神經網絡層數的增加而提高,而網絡層數超過3層時預測精度變低,因此選擇LSTM網絡層數為3層,各層神經元數量為256。

其中TCN網絡設置為四個輸入端,以及四個輸出端,每個輸入端都是以三維張量的形式以進行輸入;LSTM網絡在依據影響數的選擇分別建立為7與8次的輸入端進行訓練,最后以四個輸出口為目標進行設置。

3.3 預測分析

3.3.1 非時序數據影響對比

現將能良好反映線纜性能狀態的四種參數數據以及通過皮爾遜相關性分析確定的兩種情況的非時序數據進行輸入,時序數據通過輸入1中的輸入端口,在pycharm2020.2環境中編寫的py程序中讀取時序文件,在構建的TCN網絡中進行模型訓練,進行時序特征提取,再同非時序數據一同輸入LSTM網絡中進行模型訓練。為比較清潔次數這一因素在線纜性能衰退中造成的效果以及對預測的影響,在非時序數據中進行對其添加與否的分析比較,圖4和圖5所示分別為不包含清潔次數與包含清潔次數這一情況預測后的圖形。

其中,圖4、圖5為反映線纜性能狀態的各參數數據預測圖,縱軸的值為介電損耗正切角、電流、絕緣阻值的數值。當線纜開始老化時,正切角、內部電流以及電容電流的值會變大,絕緣電阻值會因老化而變小,因此依此來評判線纜的衰退狀態。預測圖中藍色部分前一段為設定的訓練部分,后一部分為與預測比較的實際值部分,橙色部分為通過構建的神經網絡訓練得到預測值。從最后的預測部分的結果圖中可以看出包含了清潔次數的預測情況與實際值擬合程度比較高。為了嚴謹的比較出兩種情況的最優結果,現通過2.3節中的評估準則來計算誤差等值來衡量預測程度,如表3所示。

圖4 未包含清潔次數預測的結果Fig.4 Results without cleaning count prediction

圖5 包含清潔次數預測的結果Fig.5 Results with cleaning count prediction

表3 預測誤差比較Table 3 Comparison of prediction errors

根據評估準則計算出的誤差值可知非時序數據在選擇包含清潔次數的情況時計算的誤差值比不包含清潔次數的情況所預測的值要小,預測誤差在3.4%～4.1%,預測精度在95.9%～96.6%,相較而言非時序數據選擇了包含清潔次數的情況在構造的網絡中預測的程度更好。

3.3.2 網絡對比驗證

驗證不同數據的預測影響后,為比較驗證構造的網絡模型在預測性上的性能,先通過構建各類網絡模型將TCN-LSTM模型與TCN-GRU模型、TCN模型、LSTM模型、GRU模型進行對比訓練,模型網絡層數統一設置為三層,通過學習、訓練后得到的預測效果如表4所示。

表4 模型對比Table 4 Model comparison

根據表4可得,構建的TCN-LSTM模型的平均MAPE值為3.65%,與其他網絡模型相比,有更好的預測精度,并且可知加入了TCN網絡來處理含時序數據的準確度比單體網絡模型更加的高,因此在圖6中對比了TCN分別與LSTM和GRU構成的模型生成的預測效果。

依據圖6中曲線結果可以看出TCN與兩種變體RNN結合的網絡在預測上擬合程度差不多,但通過計算得到的平均絕對百分誤差可以確定TCN-LSTM模型要優于其他模型,與實際擬合的效果更佳。因此在預測數據上存在著不同類型的情況下,可以通過構建混合型網絡處理不同的數據集,通過調節參數以及網絡結構來構造預測效果好、符合預測內容的模型。

圖6 多模型結果對比Fig.6 Comparison of multi-model results

4 結論

(1)通過對線纜性能衰退進行分析可以確定介質損耗正切值、電流值、絕緣電阻值的變化可以良好的反映線纜的絕緣狀態從而確定線纜性能的狀態。

(2)構造的TCN-LSTM網絡模型進行學習、訓練預測后的結果與實際比較貼合,預測效果比較好,并且相較于單體的網絡預測結果更貼合實際,因此在預測多類型數據樣本時,可考慮構造結合網絡。

(3)在非時序數據的選擇上來說,加入記錄的清潔次數這一影響因素對整個預測有一個較好的提升,說明清潔次數影響線纜性能的程度需要考慮,從側面反映清潔對于機電設備來說很重要,防止線纜設備腐蝕而造成的性能變化。

(4)對線纜的衰退狀態預測在一定程度提供一個準確的預測結果,并且可以該結果依據評估對線纜進行相應的防護措施,起到一個提供決策的應對準則,在面對線纜的安全問題時防患于未然。