改進極限學習機應用于電網故障診斷

夏威，張麟，袁秋實，陳國新，馬松濤，劉涌，李皓巖

（1.國網上海浦東供電公司，上海200122；2.上海博英信息科技有限公司，上海200240）

改進極限學習機應用于電網故障診斷

夏威1，張麟1，袁秋實2，陳國新1，馬松濤2，劉涌2，李皓巖2

（1.國網上海浦東供電公司，上海200122；2.上海博英信息科技有限公司，上海200240）

電網故障的診斷過程很難用傳統的數學方法描述，基于人工智能技術的專家系統、神經網絡［1］、遺傳算法、Petri網絡以及模糊理論等診斷方法在20世紀80年代初被引入電網故障診斷領域，并得到了廣泛應用。這些診斷方法基于準確的故障信息可以得到令人滿意的診斷結果，但在容錯能力方面存在一定的局限性，即當實時故障信息不完備或發生畸變時診斷可能失敗。

極限學習機是由新加坡南洋理工大學黃廣斌教授2004年提出的一種新型神經網絡，近年來在許多領域得到了廣泛應用。極限學習機隨機的選擇隱含節點參數（包括輸入權值和偏差）并且分析判斷單隱層前饋神經網絡（SLFN）的輸出權值。這樣，當達到最小訓練誤差時，訓練的負擔可以明顯地減少。它是一種簡單易用、有效的單隱層前饋神經網絡學習算法，不僅具有數學模型簡單、學習速度快的特點，而且具有良好的泛化性能，目前已被成功應用于手寫字體識別、氣象預測、語音及圖像識別等領域。本文采用改進極限學習機作為電網故障識別的分類器，旨在利用其不確定性處理能力，解決保護動作信息不完備和存在錯誤信息時的電網故障診斷問題。

1 BP人工神經網絡

人工神經網絡的形式不一，其決定性因素是系統特點、網絡拓撲結構、神經元傳遞函數和學習算法。根據其結構的不同，可分為前饋網絡（如BP網絡）和反饋網絡（如Hopfield網絡）；根據狀態方式可分為離散型網絡（如離散型Hopfield網絡）和連續性網絡（如連續性Hopfield網絡）；在學習方式方面又可分為監督學習網絡（如BP，RBF網絡）和無監督學習網絡（如自組織網絡）［2］。其中BP模型由于其能夠系統地解決多層網絡中隱單元層連接權的學習問題而成為人工神經網絡重要模型之一，并得到了廣泛的應用。

輸入層、隱含層和輸出層是BP人工神經網絡的組成部分。BP神經網絡通過一邊向后傳遞誤差，一邊修正誤差的方法來不斷調節網絡參數（權值和閾值），以實現或逼近所希望的輸入輸出映射關系。

輸入層的各神經元主要職責是把接收來的外界輸入信息傳遞給中間層各神經元；而負責信息變換的中間層，則根據信息變化能力的需求，可設計為多隱層或單隱層結構，來對內部信息進行處理；輸出層接收最后一個隱含層的每個神經元發出的信息，經過進一步分析處理，完成一次信息的正向傳播處理過程，并把信息處理結果傳遞到外界。如果實際輸出與期望輸出不符，則進入誤差的反向傳播階段。誤差通過輸出層，以誤差梯度下降的方式修正每一層的權值，向隱層、輸入層逐層反傳。周而復始誤差反向傳播和信息正向傳播過程，其實質是每層權值不斷調整和神經網絡學習訓練的過程，該過程一直進行到網絡輸出的誤差減少到允許的范圍內，或者預先設定的學習次數為止。BP人工神經網絡的結構如圖1所示［3-4］。

圖1 BP人工神經網絡結構Fig.1 BP artificial neural network structure

其中，o1，o2，…，ok，…，ol是BP神經網絡的預測值；x0，x1，…，xj，…，xn是神經網絡用來訓練的輸入值；vij是BP輸入層和隱含層之間的連接權值；wjk是隱含層和輸出層之間的連接權值，i=1，2，…，n，j=1，2，…，m，k=1，2，…，l。如果輸入節點數為n，輸出節點數為l，BP神經網絡就表達了從n個自變量到l個因變量的函數映射關系。該網絡通過最先進行的網絡訓練使其具有聯想記憶和預測能力。

BP神經網絡作為電網故障識別的分類器，針對不確定性問題的處理能力有所欠缺，無法解決保護動作信息不完備和存在錯誤信息時的電網故障診斷問題。本文將改進極限學習機提出并應用于電網故障診斷。

2 改進極限學習機（IELM）

極限學習機是一種簡單易用、有效的單隱層前饋神經網絡（SLFNs）學習算法［5］。其基本思想為：訓練前設置合適的隱含層節點數，在執行過程中只需要為輸入權值和隱含層偏置隨機賦值，整個過程一次完成，無需迭代，并且產生唯一的最優解。傳統的神經網絡學習算法（如BP神經網絡）需要人為設置大量的網絡訓練參數，并且很容易產生局部最優解，而極限學習機只需要設置網絡的隱含層節點個數，在算法執行過程中不需要調整網絡的輸入權值以及隱元的偏置，并且產生唯一的最優解，因此具有學習速度快且泛化性能好的優點。

一個單隱層前饋神經網絡SLFN包括3層：輸入層、隱含層和輸出層。其模型如圖2所示。

圖2 單隱層SLFN結構Fig.2 Single hidden layer feed forward neural networks SLFN

假設訓練數據組的樣本個數為n，SLFN有l層隱含節點，用sigmoid函數作為激活函數，則其輸出函數：

ELM完全不同于傳統的迭代學習算法，因為它隨機選取輸入權值向量w和隱含層的偏差b，并且能利用最小二乘法分析計算輸出權值β。在這種情況下，仍然可以用更好的概括性能來減小訓練誤差［6］。根據ELM理論，式（1）可簡化為：

對一個訓練數據集合，給定激活函數和隱含層節點數，其歸一化處理和BP神經網絡作一樣的處理，ELM算法可總結為以下3個主要的步驟：

1）隨機產生輸入權值向量wj和bj，1≤j≤l

2）計算隱含層輸出矩陣H

3）計算輸出權值矩陣β=H-1T

H-1是H的廣義逆矩陣。

計算H-1的廣義逆矩陣的方法有多種，其中奇異值分解由于其普遍性而被認為是最合適的方法。相比于傳統的人工神經網絡（ANN）算法，ELM算法在訓練過程中不需要調整網絡的輸入權值，因此其訓練速度可以快幾千倍。與此同時，它不僅能達到最小訓練誤差‖Hβ-T‖，并且輸出權值‖β‖的范數最小，根據ANN理論，當前饋神經網絡達到最小訓練誤差時，權值的范數越小，網絡就趨向于有越好的泛化能力。ELM另一個重要的優點是它高效的調節機制：當給定激活函數并且只有隱含層節點數需要調節時，可以通過線性驗證獲得。相比于傳統算法，ELM算法克服了類似于學習速率很難確定和容易陷入局部最優等缺點，并且具有很高的計算速度［7-10］。

傳統的ELM基于經驗風險最小化原則，它是利用訓練誤差最小的衡量準則，這種方法缺陷在于會產生過擬合問題，使得模型的推廣能力下降。由統計學理論可知，實際風險包括經驗風險和結構風險2種，一個具有較好泛化性能的模型應該能合理的權衡這2種風險，并取得最佳折中。為此本文在基于經驗風險最小化的ELM基礎上，引入結構風險最小化原理，提出一種改進的ELM模型。

3 基于改進極限學習機的電網故障診斷算法

在故障診斷中，可以利用分層、省略無關元件等方法對電網進行簡化，以最大限度地去除冗余信息，提高故障診斷效率。故障決策表是各種診斷方法的數據源，常用作為故障判別的依據。在表1所示的決策表中，a、b、c為條件屬性，d為決策屬性。根據極限學習機的訓練要求，可以將a、b、c作為極限學習機的輸入量，將d作為輸出量進行訓練，輸入函數的定義域范圍為［0，1］，輸出函數值域為［0，1］。訓練若干個樣本后，效果達到要求，即可停止訓練。

表1 決策表舉例Tab.1 Decision table

根據故障決策表舉例內容列舉配電網線路的決策表，用來驗證算法的故障分類效果。改進極限學習機算法和BP神經網絡算法極為相似，在參數初始化和分類速度方面極限學習機更具有優勢，下面通過實驗對比二者的優劣。

4 實驗設置及結果

4.1 實驗過程

圖3為一簡單配電系統，分為5個區域（Sec1～Sec5），均配有過流保護（CO1～CO5）；Sec1和Sec3配有距離保護（RR1、RR3）。針對圖3所示模型，首先選取相應的故障決策表，分別應用改進極限學習機和BP神經網絡對提供的故障樣本進行訓練［11-12］。

圖3 電網仿真示意圖Fig.3 Schematic diagram of power system simulation

電網模型對應的故障決策表見表2，共12組訓練樣本。表中有QF1～CO5共12個條件屬性，因此定義輸入變量為12個，神經網絡層數為3；輸出神經元個數為6，對應5個故障區域和1個無故障結果；隱含層神經元個數取30。訓練結果列于表3。

表4給出了含有保護裝置誤動信息的7個故障樣本。對照表2可知，樣本1和樣本7是斷路器誤動，樣本2是過流保護裝置誤動，樣本3～6是斷路器拒動。表5為BP神經網絡和改進極限學習機對這些樣本的診斷結果。表3和表5中BPANN代表BP神經網絡算法，IELM代表改進極限學習機算法。

4.2 結果分析

從訓練結果和訓練時間來看，改進極限學習機相比BP神經網絡具有較好的分類效果，更重要的是節省大量的故障分類時間，使得故障搶修工作以最快速度完成。從訓練過程來看，改進極限學習機需要更簡化的訓練模式，初始化參數較少，對分類結果影響更小。

表2 故障決策表Tab.2 Fault decision table

表3 BP神經網絡與改進極限學習機訓練結果Tab.3 BP neural network and improved extreme learning machine training results

故障數據采集避免不了有一些錯誤數據，例如開關量和保護措施的誤動作，使得采樣樣本出現錯誤的信息。但是通過實驗數據表明改進極限學習機在容錯性方面要強于BP神經網絡算法。主要表現在：表5中改進極限學習機可以識別所有的故障，而BP神經網絡智能識別故障樣本3。

5 結語

本文用BP神經網絡和改進極限學習機（IELM）分別對7種故障類型進行診斷，相較于BP模型，IELM模型需要較多的隱含層節點數，但是在各自的最好故障診斷效果下，IELM故障診斷能力比BP模型要高很多，并且其速度比BP高很多。而在參數初始化方面IELM受影響程度很小，BP神經網絡可能因為權重和閾值初始化不合適造成無法進行故障診斷。通過分析比較，IELM對于故障診斷來說精度高，速度快，能夠進行多種故障類型的在線精確預測，具有廣泛的應用前景。

表4 故障樣本對應的故障信息Tab.4 The corresponding fault information of fault samples

表5 BP神經網絡與改進極限學習機診斷結果Tab.5 BP neural network and improved extreme learning machine diagnosis results

［1］韓立群.人工神經網絡［M］.北京：北京郵電大學出版社，2006.

［2］侯瑞.人工神經網絡BP算法簡介及應用［J］.科技信息，2011（3）：75-79.

HOU Rui.Introduction and application of BP algorithm for artificial neural network［J］.Science&Technology Information，2011（3）：75-79（in Chinese）.

［3］KARAYIANNIS N B，PURUSHOTHAMAN G.Fuzzy pattern classification using feed forward neural networks with multilevel hidden neurons［J］.IEEE International on Neural Networks，1994，5（2）：127-132.

［4］LEONARD J.Improvement of back propagation for training neural network［J］.Computer Engineering，1990，14（3）：337-340.

［5］HUANG G B，ZHU Q Y.Extreme learning machine：a new learning scheme of feed forward neural networks［C］//in：Proceedings of International Joint Conference on Neural Networks（IJCNN2004），25-29 July，2004，Budapest，Hungary.

［6］HUANG G B，ZHU Q Y，SIEW C K.Extreme learning machine：theory and applications［J］.Neurocomputing，70（1-3）：489-501.

［7］嚴泰山.神經網絡BP算法研究及其在工業檢測中的應用［D］.桂林：廣西師范大學，2001.

［8］華晨輝，楊仲江，羅骕翾，等.基于BP神經網絡的普通建筑雷災風險評估［J］.電瓷避雷器，2014（5）：60-65.

HUA Chenhui，YANG Zhongjiang，LUO Suxuan，et al.Risk assessment method of lightning disaster about ordinary buildings based on the BP neural network process［J］.Insulators and Surge Arresters，2014（5）：60-65（in Chinese）.

［9］李德超.一種基于BP神經網絡的快速諧波分析算法研究［J］.電瓷避雷器，2014（6）：67-71.

LI Dechao.Study of fast harmonic analysis algorithm based on BP neural network［J］.Insulators and Surge Arresters，2014（6）：67-71（in Chinese）.

［10］岑文輝，戴文樣，仇新宏.人神經網絡的電力系統故障診斷［M］//南京：全國高校電自專業第八屆學術年會論文集，1992.

［11］劉超，何正友，楊健維.基于量子神經網絡的電網故障診斷算法，電網技術［J］.2008，32（9）：56-59.

LIU Chao，HE Zhengyou，YANG Jianwei.A quantum neural network based fault diagnosis algorithm for power grid［J］.Power System Technology，2008，32（9）：56-59（in Chinese）.

［12］高小剛，張自力，劉立剛，等.基于ATP-EMTP的直流輸電線路反擊特性研究［J］.電瓷避雷器，2014（3）：102-106.

GAO Xiaogang，ZHANG Zili，LIU Ligang，et al.The research on back striking characteristics of HVDC power transmission line based on ATP-EMTP［J］.Insulators and Surge Arresters，2014（4）：102-106（in Chinese）.

（編輯 董小兵）

Improved Extreme Learning Machine Applied in Power System Fault Diagnosis

XIA Wei1，ZHANG Lin1，YUAN Qiushi2，CHEN Guoxin1，MA Songtao2，LIU Yong2，LI Haoyan2
（1.State Grid Shanghai Pudong Electric Power Supply Company，Shanghai 200122，China；2.Shanghai Proinvent Information Technology Co.，Ltd.，Shanghai 200240，China）

電網故障診斷中交叉數據模式識別問題占據重要位置，傳統的人工智能方法處理效果不甚理想。提出運用改進極限學習機進行故障診斷的算法，隨機選取輸入權值向量和隱含層的偏差，并且利用最小二乘法分析計算輸出權值，以達到提高故障診斷容錯性的目的。仿真結果表明：在保護動作信息不完備的情況下，該算法的故障判斷準確性明顯優于BP神經網絡，該算法對存在一定錯誤數據的故障信息也具有良好的識別能力。

改進極限學習機；故障診斷；BP神經網絡

The cross data pattern recognition plays a very important role in the fault diagnosis in the power grid，but the effect of the traditional artificial intelligence method is limited. This paper proposes that the improved extreme learning machine be used for fault diagnosis，the input weight vector and the deviation of the hidden layer be randomly selected，and the output value be calculated and analyzed by using least square method in order to improve the fault toleration.The simulation results show that，in the condition of incomplete protection action information，the accuracy of the fault judgment algorithm of is better than BP neural network.In addition，the algorithm has better recognition ability for the fault information containing certain error data.

improved extreme learning machine；fault diagnosis；BP neural network

1674-3814（2015）04-0015-05

TM744；TP13

A

2014-12-03。

夏威（1987—），男，碩士，工程師，主要從事電網調控專業工作。