劉 峰,劉海生
(北京交通大學 計算機與信息技術學院,北京 100044)
基于改進小波神經網絡的動車組牽引電機故障趨勢預測
劉 峰,劉海生
(北京交通大學 計算機與信息技術學院,北京 100044)
針對小波神經網絡在多維輸入情況下易于陷入局部極小值、收斂速度慢的弱點,引入Levenberg Marquardt(LM)算法優化小波神經網絡,解決傳統小波神經網絡收斂速度慢的問題?;趥鹘y小波神經網絡和LM算法改進的小波神經網絡分別建立預測模型,用于動車組牽引電機的故障趨勢預測,通過MATLAB軟件對兩種預測模型的訓練過程進行了數值仿真,仿真實驗結果表明改進小波神經網絡建立的故障預測模型提高了小波神經網絡的預測精度,同時加快了神經網絡的收斂速度,是一種有效的預測模型。
小波神經網絡;LM算法;動車組牽引電機;故障趨勢預測
近年來我國高速鐵路動車組進入大規模建設時期,投入運營的動車組數量不斷增加,動車組監測數據也不斷的增長。牽引電機為動車組提供動力,在運行過程中承受各種電磁交變應力的作用,易導致牽引電機出現各種電氣故障和機械故障,牽引電機的正常運行對動車組的安全起著至關重要的作用。因此利用這些不斷積累的動車組監測數據,對牽引電機進行故障趨勢預測,具有十分重要的意義。
小波神經網絡用小波函數代替BP神經網絡隱含層節點的激勵函數,通過映射變換建立起小波變換與網絡系數之間的連接,廣泛應用于設備的故障診斷和故障趨勢預測。但傳統小波神經網絡的學習訓練算法一般為梯度下降法,在多維輸入情況下有易于陷入局部極小值、收斂速度慢的弱點[1],無法滿足動車組進行實時故障預測的要求。本文提出一種基于LM算法優化小波神經網絡的方法,并應用于動車牽引電動機的故障趨勢預測。實驗結果表明,經過改進的小波神經網絡不僅迭代次數少,而且收斂精度也得到了較大的提高。
1.1 小波神經網絡
1992年,法國信息科學研究機構的Qinghua Zhang等人提出了小波神經網絡的概念和算法[2]。小波神經網絡是一種基于小波變換理論而構造的前饋神經網絡,具有較強的函數逼近能力和較快的收斂速度,其主要可分為松散型和緊密型兩種類型。本文采用緊密型結構來構造小波神經網絡,其基本思想是將常規小波神經網絡隱含層節點的激勵函數用小波函數代替,在網絡訓練過程中逐步更新神經元間的連接權值、神經元的閾值及小波函數的伸縮因子和平移因子。3層前饋網絡能以任意精度逼近一個非線性映射[3],因此本文采用3層小波神經網絡用于構造動車組牽引電機的故障趨勢預測模型。

圖1 三層小波神經網絡結構
圖1為3層小波神經網絡的網絡結構圖,其中輸入層有n個神經元,隱含層有k個神經元,輸出層有m個神經元,輸入層和輸出層的神經元個數根據實際要求確定,隱含層神經元數參考經驗公式表示輸人層的第i個神經元與隱含層的第j個神經元的連接權值,wij表示隱含層的第i個神經元與輸出層的第j個神經元的連接權值。設網絡輸入變量實際輸出變量期望輸出變量則隱含層輸出的計算公式為:

其中,h(j)為隱含層第j個節點的輸出值,Ψ(x)為小波函數,bj為小波函數的平移因子,aj為小波函數的伸縮因子,v0j是第j個隱含層節點閾值(相應的x0=-1),隱含層神經元的激勵函數常采用Morlet小波[4]:

輸出層神經元則采用sigmoid函數作為激勵函數:

設w0j是第j個輸出層節點閾值,則小波神經網絡輸出層的計算公式為:

傳統小波神經網絡多采用梯度下降法修正網絡的權值和小波函數的參數。梯度下降法是一階最優化算法,核心思想是以目標函數的負梯度方向為搜索方向,通過每次迭代使待優化的目標函數逐步減小。這種搜索是一種貪心算法的過程,只考慮目標函數在迭代點的局部性質。其中學習速率選擇過大或過小會導致網絡訓練過慢或震蕩發散,因此通常會在梯度下降法的基礎上附加動量因子加速算法收斂[5],使小波神經網絡預測輸出不斷逼近期望輸出。給定樣本集根據梯度下降法定義誤差目標函數:

基于上述目標函數進行誤差反向傳播,使權值沿誤差函數的負梯度方向改變,利用梯度下降法調整優化小波神經網絡的參數;


其中,t為迭代次數,β為學習速率,α為動量因子。
1.2 LM算法改進的小波神經網絡
1.2.1 LM算法
傳統的小波神經網絡算法采用梯度下降法進行誤差反向傳播,參數沿著與誤差梯度相反的方向移動,使誤差函數達到極小值。附加動量因子記憶上次迭代的變化方向,可以采用較大的學習速率系數以提高學習速度,但是參數調整優化過程依然線性收斂,相對速度依然較慢。LM算法是一種利用標準數值優化技術的快速算法,具有高斯牛頓法的局部收斂性和梯度下降法的全局特性,在局部搜索能力上強于梯度下降法[6]。
LM算法基本思想是先沿著負梯度方向進行搜索,然后根據牛頓法在最優值附近產生一個新的理想的搜索方向。LM算法具有二階收斂速度,迭代次數很少,可以大幅度提高收斂速度和算法的穩定性,避免陷入局部最小點的優點。設x(n)表示第n次迭代的小波神經網絡的參數所組成的向量,新的參數向量x(n+1)可根據下面的規則求得:

按式(5)定義的誤差目標函數,對于小波神經網絡的參數有Jacobian矩陣:

LM算法改進小波神經網絡的權值修正量為:

其中μ>0是比例系數,I是單位矩陣。當μ=0時,LM算法轉化為具有近似高斯牛頓法。當μ較大時,LM算法接近小步長的梯度下降法。
1.2.2 LM算法改進小波神經網絡的計算步驟
1)給出網絡訓練誤差允許值ε及網絡最大訓練次數M,一般選定ε=0.0000001,M=5000次,初始化系數μ0和β,且令n=0,μ=μ0。
2)計算網絡輸出Y(m)及誤差目標函數E(n)。
3)計算Jacobian矩陣。
4)計算權值修正量?x(k)。
5)若E(n)<ε或n>M,轉至步驟7),否則以x(n+1)為權重,計算誤差E(n+1)。
6)若E(n+1) 7)停止。 故障預測就是對裝備的未來性能給出定量的評價、分析[7]。動車組牽引電機故障趨勢預測模型以動車組牽引電機當前的運行狀態為起點,對未來任務段內其運行狀態的變化給出預測,以便于根據已知的結構特性、功能參數、服役條件及運行歷史(包括運行記錄和以往故障及修復的記錄),對動車組牽引電機可能出現的故障進行預報、分析和判斷[8]。 2.1 動車組電機預測的特點 動車組牽引電機固定在動車轉向架上,與周圍環境密切接觸,工作環境相對惡劣,工作強度較大,導致動車組牽引電機易發生各種電氣故障和機械故障,其故障趨勢預測也具有一下特點: 1)實時性要求。動車組牽引電機的運行狀態對于動車組的正常運行具有重要意義,其監控數據頻率是分鐘級別的,這就要求預測模型必須有較快的運算速度。 2)多因素相互影響。動車組牽引電機工作環境惡劣,其運行狀態受環境影響,各種運行狀態指標之間也存在相互影響,對其故障趨勢的預測必須考慮多因素。文獻[9]進行了發電機組振動多因素預測,并通過實驗比較說明隨機時間序列受多種因素影響時,將這些影響因子也作為網絡的輸入,綜合考慮網絡預測結果更好。 3)短時運行環境相對穩定。動車組短時內運行速度、運行環境溫度等相對變化較穩定。 2.2 動車組電機故障趨勢預測 針對動車組電機故障預測特點,建立時間序列上的動車組電機多因素滾動故障趨勢預測模型,利用過去一段時間的監測值預測未來的一段時間內動車組牽引電機的狀態。將動車組電機的歷史狀態數據編輯整理成時間序列,用每次單步預測模型的預測值替換下一步預測模型中輸入層時間最老的一個值,依次迭代,得到未來一段時刻的預測值。由于動車組電機短時運行環境相對穩定,對動車組電機的運行狀態產生影響的其他多因素取最近時刻的狀態值。 其中(x1,x2,…,xn,yn,…,zn)、(x2,x3,…,xn+1,yn+1,…,zn+1)和(xk-n,xk-n+1,…,xk-1,yk-1,…,zk-1)為訓練樣本輸入,模型訓練收斂后,輸入樣本(xk-n+1,xk-n+2,…,xk,yk,…,zk)預測xk+1時刻的值。依次類推得到期望的預測時間序列。 使用上海鐵路局提供的動車組牽引電機監控數據,分別建立傳統小波神經網絡和改進小波神經網絡的預測模型,基于牽引電機的軸承溫度、列車速度、環境溫度和定子溫度4個因素對定子溫度做預測,在MATLAB下驗證改進神經網絡建立的預測模型的優越性。實驗1通過比較兩個模型的迭代次數,驗證改進模型實時預測性能的優越性;實驗2通過比較兩個模型的預測結果,驗證改進模型預測精度的優越性。 3.1 數據歸一化處理 小波神經網絡的輸入變量具有不同的物理意義和不同的量綱,歸一化之后的數據都在[0,1]之間變化,從而使網絡訓練中各輸入分量有同等重要的地位。同時輸出層小波函數選用Sigmoid函數,該函數輸出在0~1之間,因此必須對數據歸一化處理才能用于預測問題。將輸入輸出數據變換為[0,1]區間的值常用以下變換式: 3.2 實例分析 現有來源于上海鐵路局的動車組牽引電機監測數據,是國內某段動車組2016年7月和8月共62天的監控數據,數據時間單位是分鐘,選用7月1日這一天5個小時共300組數據做實驗驗證。前280組數據做模型訓練,最后20組數據分別用于實驗1和實驗2。其中前10組數據用于實驗1,后10組數據用于實驗2。利用常規小波神經網絡和改進的神經網絡分別建立多因素滾動預測模型,基于牽引電機的軸承溫度、列車速度、環境溫度和定子溫度4個因素對定子溫度做預測,從預測的精度和模型訓練的迭代次數兩個方面,比較兩種預測模型的性能。 根據動車組牽引電機的特性設計小波神經網絡,確定輸入層節點數16,其中13個節點是動車組電機的定子溫度時間序列,其他3個節點分為列車速度、環境溫度和定子溫度,輸出層節點1個,隱含層節點4個,即本案例網絡拓撲結構為16:4:1。初始化神經網路參數學習率為0.5,網絡權值選定為0.5~+0.5之間的一組隨機數,小波函數選用morlet函數,系統誤差選定為0.0000001,最大迭代次數為5000次。 分別使用傳統小波神經網絡和改進小波神經網絡建立的牽引電機故障預測模型,采用相同的280樣本數據對預測模型進行訓練。實驗1使用相同的10組數據測試上述訓練完成的預測模型,誤差曲線如圖2和圖3所示。 圖2 傳統小波神經網絡誤差迭代曲線 圖3 改進小波神經網絡誤差迭代曲線 從圖2和圖3可以看出,改進小波神經網絡的收斂速度更快,網絡迭代次數更少,改進小波神經網絡迭代41次收斂,常規小波神經網絡迭代94次收斂,改進小波神經網絡的收斂速度提高了56%。迭代次數的減少,意味著改進小波神經網絡建立的預測模型在預測實時性上更好。 實驗2使用訓練完成的預測模型預測未來電機定子溫度的10組數據,預測結果如圖4和圖5所示,通過觀察預測擬合曲線可以發現,預測變化趨勢與實際值基本一致,因此可以用訓練好的網絡來預測動車組牽引電機的定子溫度,并對預測結果進行分析。 圖4 傳統小波神經網絡預測結果 圖5 改進小波神經網絡預測結果 采用相對誤差率分析預測結果,其計算公式為: 通過預測結果對照表1發現,用改進小波神經網絡建立的預測模型平均誤差率為1.26%,傳統小波神經網絡建立的預測模型為1.71%,改進模型預測的準確定更好。 本文采用小波神經網絡用于動車組牽引電機的故障 【】【】趨勢預測,通過預測牽引電機狀態變化,反應其故障變化趨勢。利用LM算法改進小波神經網絡,分別建立改進小波神經網絡和傳統小波神經網絡的電機故障趨勢預測模型,通過以上實驗可以得到以下結論: 表1 動車組牽引電機預測情況表 1)采用改進小波神經網絡建立的預測模型,網絡訓練迭代次數更少,網絡收斂速度更快,預測的實時性更好。 2)采用改進小波神經網絡建立的預測模型,預測的準確性也得到了一定的提高。 因此,基于改進小波神經網絡建立的動車組牽引電機多因素滾動故障預測模型具有更好的先進性和實用性,是一種有效的動車組牽引電機預測方法。 [1] 楊國為,王守覺,閆慶旭.分式線性神經網絡及其非線性逼近能力研究[J].計算機學報,2007,30(2):189-199. [2] Zhong Shisheng.Continuous wavelet process neural network and its application[J].Neural Network World,2007,17(5):483-495. [3] 閻平凡,張長水.人工神經網絡與模擬進化計算[M].北京:清華大學出版社,2000. [4] 涂遠,杜建江,王濤.壓電類智能層合結構的ANSYS仿真分析[J].廣西大學學報(自然科學版),2005,30(4):288-292. [5] J. L. Guardado. A comparative study of neural network efficiency in power transformers diagnosis using dissolved gas analysis[J].IEEE Transactions on Power Delivery,2001,16(4):643-647. [6] McKeown, John J. Some numerical aspects of the training problem for feed-forward neural nets[M].Elsevier Science Ltd.,1997,10(9):1455-1463. [7] 陳明,顧幸生.故障模糊預測模型研究[J].系統仿真技術,2005,1(2):74-78. [8] Himmelblau DM. Fault detection and diagnosis in chemical and petrochemical process[M].Amsterdam: Elsevier Press,1978. [9] AS Willsky. A survey of design methods for failure detection in dynamic systems[J].Automatica,1975,12(6):601-611. Fault trend prediction of EMU traction motor based on improved wavelet neural network LIU Feng, LIU Hai-sheng U269 :A 1009-0134(2017)07-0015-05 2017-05-02 國家科技部“863”項目-高速鐵路動車組全生命周期數據集成化管理平臺技術研究項目(K15B200011);國家科技支撐計劃項目:面向高鐵列車高效生產的新一代認知型制造執行系統研究與應用示范(2015BAF08B02) 劉峰(1961 -),男,北京人,教授,博士,研究方向為計算機軟件。2 動車組牽引電機故障趨勢預測模型

3 仿真實驗






4 結論
