改進Sammon映射算法在分析暫態穩定評估輸入特征有效性中的應用

張春, 田芳, 于之虹, 李巖松, 張爽, 田蓓

(1.華北電力大學電氣與電子工程學院, 北京市 102206；2.中國電力科學研究院， 北京市 100192；3.國網寧夏電力公司電力科學研究院，銀川市 750002)

改進Sammon映射算法在分析暫態穩定評估輸入特征有效性中的應用

張春1, 田芳2, 于之虹2, 李巖松1, 張爽3, 田蓓3

(1.華北電力大學電氣與電子工程學院, 北京市 102206；2.中國電力科學研究院， 北京市 100192；3.國網寧夏電力公司電力科學研究院，銀川市 750002)

基于機器學習技術的電力系統暫態穩定評估方法中，輸入特征提取的是否合理往往決定了最終的分類效果。然而，目前卻缺乏一種工具去評價選擇的輸入特征是否具有可分性。鑒于此，引入Sammon映射算法將高維樣本數據映射到低維空間中，通過觀察映射點的分布情況判斷提取的特征是否有效，并針對原算法的不足之處進行改進。首先利用主成分分析法(principal component analysis, PCA)求出包含原始數據信息最多的前兩維主成分向量，代替原算法隨機取值的方法，作為映射點坐標向量的初始值。然后，采用迭代修正法求解最終的映射點坐標向量，加快了求解速度。最后，以改進Sammon映射算法作為工具，分析IEEE 39節點系統的仿真數據和某地區實際在線歷史數據提取特征的有效性，證明該算法在指導特征選擇中具有良好的應用前景。

暫態穩定; 機器學習; Sammon映射; 特征有效性

0 引 言

隨著我國特高壓交直流電網的快速發展，給基于電力系統仿真方法的電力系統暫態穩定評估帶來深刻變化和新的挑戰[1]。近年來大數據處理、云計算等新一代IT技術在電力行業的廣泛應用，日臻成熟的機器學習技術為電力系統暫態穩定評估帶來了新的發展方向[2-3]。在應用機器學習技術的電力系統暫態穩定評估(transient stability assessment, TSA)方法中，為了減少冗余特征干擾，加快分類模型訓練與預測的速度，特征提取是必不可少的步驟[4-5]。因此，最終的分類結果不僅與選擇的分類方法有關，還與所選取的特征子集有關，因為輸入特征的表達能力決定了輸入空間的可分性。如果選取的輸入特征是無效的，那么無論采用何種分類器都無法將穩定樣本和失穩樣本分開。由于缺乏一個有效的方法來評估提取特征的有效性，當采用某種方法進行分類時,如果分類結果不理想就無法判斷問題究竟源于分類方法還是選擇的輸入特征不當。

為了解決這個無法判斷問題來源的問題，本文引入可以分析數據結構特性的Sammon映射算法作為工具分析提取特征的有效性[6]。Sammon映射通過非線性變換可將一個高維的輸入空間近似地轉化為一個低維(二維)空間，且近似保持其數據內部的結構關系不變。因此，能夠在低維空間上直接觀察高維輸入空間的可分性。目前，已有學者將其作為工具對電力系統中基于機器學習的分類問題進行研究。文獻[7-8]利用Sammon映射分析基于神經網絡的暫態穩定評估輸入空間可分性。文獻[9]根據Sammon映射分析暫穩評估穩定樣本和失穩樣本的邊界問題。文獻[10]利用Sammon映射將高維數據映射到低維以快速了解光伏電站功率數據的分布。然而，Sammon映射算法對初始值敏感，選取初值好壞往往會影響最終的映射結果。并且，傳統Sammon映射算法采用隨機數作為初值，以致映射結果不穩定，需要重復進行多次計算以選取穩定效果[11]。此外采用最速下降法求解低維空間映射點的坐標向量時迭代多、耗時長，在實際工程應用中受到很大限制[12]。

針對上述問題，本文提出一種改進Sammon算法。首先利用主成分分析法(principal component analysis, PCA)為Sammon映射提供有效的初始值。在此基礎上，采用迭代修正方法求解映射點在低維空間中的坐標向量。最后，將改進算法應用于IEEE 39節點系統和實際某地區系統特征選取問題分析中。

1 主成分分析法的基本原理

PCA是多元統計學中常用的數據分析方法，其基本思想是利用原有變量線性組合出幾個彼此不相關且盡可能保留原有變量信息的新變量，從而可以讓較少不相關的新變量代替原有較多的相關聯變量進行數據分析，所組合的新變量即為主成分[13]。根據統計學原理，一個變量的數據信息可以用其方差來表征，方差越大，所包含的信息量越大。

主成分分析是對多個樣本的輸入變量形成的數據矩陣求取相關矩陣，根據相關矩陣的特征值，獲得累計方差貢獻率，再根據相關矩陣的特征向量，確定主成分。具體步驟如下所示。

設由N個運行樣本、p個特征構成的電力系統暫態穩定樣本數據矩陣為

(1)

(2)

(2)建立標準矩陣X*的相關矩陣

(3)

并求出其特征值λ1≥λ2≥...≥λp及相應的特征向量u1,u2,...,up，X*為X標準化后的標準矩陣。

(3)確定主成分構成的矩陣。前m個主成分對應的特征向量為Up×m=[u1,u2,..,um]，則N個樣本p個主成分構成的矩陣為

(4)

2 改進Sammon映射算法在分析特征有效性中的應用

2.1 算法思路分析

當采用某一算法提取子特征集后，Sammon映射算法將高維空間的樣本點通過非線性變換映射到低維的二維空間中，然后觀察穩定樣本與失穩樣本映射點類間邊界區的重疊情況，進而分析所選特征的分類能力。穩定樣本與失穩樣本映射點重疊情況少說明該輸入空間可分性好，選取特征能代表原始特征集的分類能力。重疊情況多則說明特征子集分類能力差，選取的特征是無效的，難以通過機器學習的方法對是否失穩進行分類。如果分類效果不理想，則需通過改進特征提取算法重新選擇新的輸入特征，最終選出有效的特征子集。Sammon映射算法指導分類特征選擇的流程如圖1所示。

圖1 算法流程圖

在傳統Sammon映射算法的映射過程中，2個重要因素影響著最終映射結果的穩定性和求解速度：低維空間映射點坐標向量初始值的選取和目標誤差函數的最小化迭代過程[14]。后續的改進算法是針對傳統Sammon算法的不足之處加以改進。

2.2 基于主成分分析的初值選取

Sammon映射算法對初始值的設定很敏感，初始值的設定會影響最終映射點的分布結果，所以當穩定樣本與失穩樣本映射點重疊較多時也有可能是由于初始值設置不當造成的，并非選取的特征無效。而傳統Sammon映射算法是利用隨機取值的隨機數作為初始值的，所以有可能選取不當的初始值，導致對特征有效性分析的誤判。因此，通常做法是進行多次計算，然后對比結果選出穩定的映射結果。這種求解方式的計算量大，重復很多不必要的計算。鑒于此，利用PCA法代替隨機取值可以提供一個比較好的初始值[15]。用PCA求出原始樣本中貢獻率最大的兩維主成分作為迭代的初始值，保留了原有矩陣的大部分信息，可以使映射結果更加穩定，減少不必要的計算。設低維空間映射點坐標向量的初始值為FN×2，則由式(4)得：

FN×2=X*[u1,u2]

(5)

式中u1、u2為相關矩陣R最大的2個特征值對應的特征向量。為了對比所述2種初值設定方法的映射效果，采用來自加州大學歐文分校的機器學習數據集中的葡萄酒數據對其分別進行測試[16]。

圖2是采用隨機選取初始值方法中的某一次的映射結果，圖中各類樣本重疊較多表明數據集特征是無效的，但實際特征集是有效的，表明這是由于初值不當而造成的誤判。圖3是采用PCA方法選取的初值，每次映射結果分布都一樣，并能正確表示出特征集的分類能力，說明改進算法具有更好的穩定性。

圖2 采用隨機取值法的映射結果

圖3 采用PCA確定初值的映射結果

2.3 迭代修正過程

Sammon映射將樣本點從高維空間“投影”到低維空間的非線性變換過程中，使低維空間中映射點相互之間的距離與高維空間中樣本之間的距離盡量相同，從而保持各樣本整體結構不變。因此，需要定義一個誤差E代表從距離角度來講，低維空間和高維空間樣本點分布的相似程度[3]。

設在維度為p的高維空間中，有N個向量，p維空間中的數據樣本向量Xi(i=1,...,N) 與樣本向量Xj(j=1,...,N)之間的距離(歐式距離)表示為

(6)

(7)

(8)

映射誤差E代表了從距離角度來講高維空間和低維空間的相似程度。映射誤差越小，低維映射空間中數據結構關系與原始高維空間中的數據結構關系的相似程度越高，所以需要尋求N個能最小化目標函數E的低維空間坐標向量。當誤差函數足夠小時，低維映射點能夠很好地保留原高維空間中的拓撲結構。

(9)

式中：Iteration為修正次數；maxIteration為總修正次數。迭代修正結束后通過式(7)、(8)計算映射誤差E，當誤差E小于某一設定閾值(本文設定的是10-6)時，停止迭代，輸出映射點坐標。若不滿足映射誤差要求，則增加修正次數，繼續迭代修正[17]。

改進Sammon算法利用迭代修正的方法調整低維空間映射點的坐標向量至目標誤差函數值到一定范圍內，比原最速下降法的求解速度更快。圖4為利用不同數據規模的加州大學歐文分校的葡萄酒數據進行測試，可以看出當數據規模越來越大時，改進算法減少的時間更多。

圖4 映射樣本個數與求解低維坐標時間

3 算例分析

3.1 測試系統與原始特征

3.1.1 IEEE 39節點系統

第1個算例采用經典的IEEE 39節點系統作為測試系統，系統結構如圖5所示，包含10臺發電機、39個節點、46條支路、19個負荷點。發電機模型采用4階模型，負荷模型為恒阻抗模型[18]。

圖5 IEEE 39節點系統

在電力系統運行過程中，隨機電網潮流狀態應滿足潮流方程，而該方程為f(A,p,D,u,x)=0。其中A表示網絡的結構變量；p表示輸電線參數、變壓器參數等的網絡元件參數；D是不可控變量，例如一般意義上的系統負荷；u是控制變量，例如發電機的有功功率和機端電壓、電容電抗器投切等；x是依從變量[19]。

上述4種變量確定后，系統的運行狀態隨之確定，這些被確定的量為依從變量。所以通過上述潮流方程發現，通過波動A，p，D，u均可以得到隨即電網潮流方式，而本文中采用在不同負荷水平下波動控制變量中的發電機出力變量，來獲取隨機電網潮流狀態：

(1)選擇一個運行方式作為潮流基準，各負荷水平是以基準負荷85%～105%及以5%為步長得到5組負荷數據；

(2)發電機在線的有功出力，其波動范圍是85%～115%，隨機生成該范圍內均勻隨機數，每種負荷水平下隨機生成400種潮流方案，共有2 000種隨機潮流方式；

(3)每種潮流方案下，在母線3和4之間的線路中間設三相短路，1 s后切除線路和故障，用PSD-BPA軟件進行時域仿真計算，在仿真結束時，以任意2臺發電機的最大相對功角差是否大于360°來判定系統是否失穩[20-21]。

為客觀評價各穩態狀態變量對電網安全評估的貢獻程度，選擇的候選輸入特征幾乎涵蓋了所有的電網穩態狀態量。該測試系統共選取263維特征，如表1所示[22-23]。在2 000個仿真樣本中，穩定樣本有1 790個，失穩樣本210個。

表1 IEEE 39節點系統原始特征集

Table 1 Original feature set of IEEE 39 bus system

3.1.2 某地區在線歷史數據

第2個算例的測試數據采用某地區1個月的在線歷史數據，故障考慮500 kV交流線路后備保護動作，根據計算出的極限切除時間是否超過0.3 s將系統分為穩定狀態與失穩狀態[24]。共選取有效在線數據1 979個，其中穩定樣本1 910個，失穩樣本69個。

至于在線數據，由于特征數過多，并且大多數特征與穩定程度相關性極小，所以首先利用相關性分析法，分析選取的輸入特征與極限切除時間的相關性，進行初步篩選。其中，相關性分析是指分析2組變量數據之間的相關程度，常用的方法為相關系數計算，又稱Person相關系數，計算公式如下：

(10)

相關系數取值在-1到+1之間，大于0時代表2個序列正相關，即A值隨B值的增加而增加，數值越接近于+1，則相關程度越強；反之小于0時代表2個序列負相關，越接近于-1，則相關程度越強；等于0時代表2個序列不相關。顯而易見，應選取相關系數絕對值較大的電氣量作為電網穩定特征。本文以0.3為閾值，選取絕對值大于或等于0.3的電氣特征。利用相關性分析，進行初步篩選后，剩余1 173個穩定特征如表2所示。

表2 某地區系統原始特征集

Table 2 Original feature set of an area system

3.2 改進Sammon映射算法在指導特征選擇中的應用

根據文獻[25]中所提的，利用隨機森林算法進行重要性排序計算，然后選取重要特征。隨機森林是組合多棵決策樹進行投票分類的集成學習算法，在訓練分類模型的同時，也會計算各個特征的重要性得分。文獻[25]根據隨機森林計算出的重要性得分大小將特征排序，保留得分較大的特征，刪除得分較小的特征。然而隨機森林只能計算出特征得分大小，區分是否為重要特征的重要性得分閾值的大小通常是由人工決定。因此，需要根據本文提出的改進Sammon映射算法檢驗閾值選擇的是否合理。圖6是IEEE 39節點系統原始特征集映射到二維空間的樣本點分布圖，圖7是選擇重要性得分排名靠前的45個的特征作為輸入特征得到的映射結果，圖8選擇的是前30個特征。同理，圖9是某地區實際系統原始特征集映射后的分布情況，而圖10是選擇重要性得分排名靠前的113個特征作為輸入特征映射后的結果，而圖11只是選擇前80個特征作為輸入特征。

圖6 IEEE 39系統原始特征集的映射結果

圖7 IEEE 39系統提取前45個特征后的映射結果

圖8 IEEE 39系統提取前30個特征后的映射結果

圖9 某地區系統原始特征集的映射結果

圖10 某地區系統提取前113個特征后的映射結果

圖11 某地區系統提取前80個特征后的映射結果

對比圖6—8可知，提取重要性得分排名靠前45個特征子集作為輸入特征后，映射結果和原始特征的映射結果基本保持不變，說明該子特征集仍保持原有的數據結構特性，選取的閾值是合理的。從只提取得分靠前的30個特征的映射分布圖中可以看出，穩定樣本和失穩樣本映射點重疊較多，說明該子特征集不具有可分性，選取特征子集是無效的，需重新設定選取特征數的閾值大小。同理，對比圖8—10可知，針對該地區的在線歷史數據集，重要性得分閾值設定在選取前113個是合理的，而設定為80時，特征子集是無效的，會導致后續的分類效果不理想。

4 結 論

本文提出了一種基于主成分分析的改進Sammon映射算法，用于分析暫態穩定特征提取是否有效的問題，該算法具有以下特點。

(1)改進算法比原算法更具穩定性與高效性。一方面利用主成分分析法為迭代提供初始值，使映射結果穩定。另一方面，采用迭代修正的方法求解低維空間映射點坐標，加快了求解速度。

(2)該算法為分析輸入空間的可分性提供了有力工具，對暫穩特征的選取具有很好的指導作用。同樣，在其他基于機器學習的電力系統問題中也具有良好的應用前景。

[1]李亞樓, 張星, 李勇杰,等. 交直流混聯大電網仿真技術現狀及面臨挑戰[J]. 電力建設, 2015, 36(12):1-8.

LI Yalou, ZHANG Xing, LI Yongjie, et al. Present situation and challenges of AC/DC hybrid large-scale power grid simulation technology [J]. Electric Power Construction, 2015, 36(12):1-8.

[2]趙春暉, 姜大為, 崔燦,等. 大數據時代下的新型電網規劃體系[J]. 電力建設, 2014, 35(10):17-20.

ZHAO Chunhui, JIANG Dawei, CUI Can, et al. New power grid planning system in big-data era[J]. Electric Power Construction,2014,35(10):17-20.

[3]張沛, 吳瀟雨, 和敬涵. 大數據技術在主動配電網中的應用綜述[J]. 電力建設, 2015, 36(1):52-59.

ZHANG Pei, WU Xiaoyu, HE Jinghan. Review on big data technology applied in active distribution network[J]. Electric Power Construction, 2015, 36(1):52-59.

[4]童曉陽，葉圣永．數據挖掘在電力系統暫態估中的應用綜述[J]．電網技術，2009，33(20)：88-93．

TONG Xiaoyang，YE Shengyong．A survey on application of data mining in transient stability assessment of power system[J]．Power System Technology，2009，33(20)：88-93．

[5]王同文，管霖，張堯．人工智能技術在電網穩定評估中的應用綜述[J]．電網技術，2009，33(12)：60-65．

WANG Tongwen，GUAN Lin，ZHANG Yao．A survey on application of artificial intelligence technology in power system stability assessment[J]．Power System Technology，2009，33(12)：60-65．

[6]SAMMON J W. A nonlinear mapping for data structure analysis[J]. IEEE Transactions on Computers, 1969, C-18(5): 401-409.

[7]顧雪平,張志剛,張文勤. 基于神經網絡的暫態穩定評估輸入空間可分性[J]. 華北電力大學學報,2000,27(2):16-20.

GU Xueping, ZHANG Zhigang , ZHANG Wenqin. Input space separability analysis of artificial neural networks based transient stability assessment[J].Journal of North China Electric Power University,2000,27(2):16-20.

[8]顧雪平,曹紹杰,張文勤. 基于神經網絡暫態穩定評估方法的一種新思路[J]. 中國電機工程學報,2000,20(4):78-82.

GU Xueping, TSO Shiukit, ZHANG Wenqin. A new framework for transient stability assessment based on neural networks[J]. Proceedings of the CSEE, 2000, 20(4):77-82.

[9]YU Zhihong, ZHOU Xiaoxin, WU Zhongxi. Transient stability boundary visualization for power system[C]// International Conference on Power System Technology. IEEE, 2006.

[10]RADVANSKY M, KUDELKA M, SNASEL V. Identifying power profiles in the photovoltaic power station data by self-organizing maps and dimension reduction by Sammon’s projection[C]//Soft Computing and Pattern Recognition (SoCPaR).IEEE, 2013.

[11]陳敏. 智舌非線性模式識別方法研究[D].杭州：浙江工商大學,2012.

CHEN Min. The research of nonlinear pattern recognition methods for smartongue[D].Hangzhou: Zhejiang Gongshang University, 2012.

[12]周凌嵐,葉浩歡,柳征,等. 基于改進Sammon映射的輻射源個體特征有效性分析[J].電子信息對抗技術,2010, 1(25):21-24.

ZHOU Linglan, YE Haohuan, LIU Zheng, et al. Validity analysis of emitter individual features based on an improved Sammon mapping [J].Electronic Warfare Technology, 2010, 1(25):21-24.

[13]崔巍，都秀文，楊海峰．基于主成分分析法的電力需求影響因素分析[J]．電力建設，2013，34( 8) : 34-39．

CUI Wei, DU Xiuwen, YANG Haifeng. Analysis on influencial factor of power demand based on principal component analysis[J]. Electric Power Construction,2013,34(8) : 34-39．

[14]LERNER B, GUTERMAN H, ALADJ E M, et al. Feature extraction by neural network nonlinear mapping for pattern classification[C]//13th International Conference on Pattern Recognition ( ICPR96). IEEE, 1996:320-324.

[15]KOVCS A, ABONYI J. Visualization of fuzzy clustering results by modified Sammon mapping[C]// IEEE International Conference on Fuzzy Systems. IEEE, 2004, 1(1):365-370.

[16]BACHE K, LICHMAN M. UCI Machine Learning Repository[EB/OL].[2016-06-05]. http//archive.ics.uci.edu/ml/datsets/wine.

[17]Kohonen T. Self-organizing Maps[ M]. 3rd Edition, Kerlin: Springer-Verlag, 2001.

[18]李揚，顧雪平．基于改進最大相關最小冗余判據的暫態穩定評估特征選擇[J]．中國電機工程學報，2013，33(34)：179-186．

LI Yang，GU Xueping．Feature selection for transient stability assessment based on improved maximal relevance and minimal redundancy criterion [J]．Proceedings of the CSEE，2013，33(34)：179-186．

[19]張伯明，陳壽孫，嚴正. 高等電力網絡分析[M]. 北京：清華大學出版社，2007.

[20]葉圣永，王曉茹，劉志剛，等．基于支持向量機的暫態穩定評估雙階段特征選擇[J]．中國電機工程學報，2010，30(31)：28-34．

YE Shengyong，WANG Xiaoru，LIU Zhigang，et al． Dual-stage feature selection for transient stability assessment based on support vector machine [J]．Proceedings of the CSEE，2010，30(31)：28-34．

[21]GOMEZ F R，RAJAPAKSE A D，ANNAKKAGE U D，et al. Support vector machine-based algorithm for post-fault transient stability status prediction using synchronized measurements[J]. IEEE Transactions on Power System，2011,26(3):1474-1483.

[22]章小強. 智能穩定評估中的關鍵特征識別研究[D].廣州：華南理工大學,2010.

ZHANG Xiaoqiang. Studies on kernel feature recognition for intelligent stability assessment [D]．Guangzhou: South China University of Technology，2010.

[23]于之虹，黃彥浩，魯廣明，等．基于時間序列關聯分析的穩定運行規則提取方法[J]．中國電機工程學報，2015，35(3)：519-526．

YU Zhihong，HUANG Yanhao，LU Guangming，et al．A time series associative classification method for the operation rule extracting of transient stability[J]．Proceedings of the CSEE，2015，35(3)：519-526．

[24]國家電網公司． 國家電網安全穩定計算技術規范: Q/GDW 404—2010[S]. 北京： 國家電網公司，2010．

[25]黃彥浩，于之虹，史東宇，等. 基于海量在線歷史數據的大電網快速判穩策略[J]. 中國電機工程學報，2016，36(3)：596-603.

HUANG Yanhao，YU Zhihong，SHI Dongyu，et al. Strategy of huge electric power system stability quick judgment based on massive historical online data [J]．Proceedings of the CSEE，2016，36(3)：596-603.

(編輯 劉文瑩)

Application of Improved Sammon Mapping Algorithm in Input Features Validity Analysis of Transient Stability Assessment

ZHANG Chun1, TIAN Fang2, YU Zhihong2, LI Yansong1, ZHANG Shuang3, TIAN Bei3

(1. School of Electrical and Electronic Engineering, North China Electric Power University, Beijing 102206, China; 2. China Electric Power Research Institute, Beijing 100192, China; 3. Electric Power Research Institute, State Grid Ningxia Electric Power Company, Yinchuan 750002, China)

In the method of power system transient stability assessment based on machine learning technology, the reasonableness of the input feature extraction decides the final classification result. However, there were no tools to judge whether the selected input features are the separable. Therefore, this paper introduces the Sammon mapping algorithm to map high dimensional sample data to low dimensional space, determines the effectiveness of selected feature through observing the distribution of mapping points, and improves the original algorithm according to its deficiencies. Firstly, we adopted principal component analysis (PCA) method to obtain the first two dimensional principal component vectors containing the most original data information, which worked as the initial value of the mapping point coordinate vector instead of the random selection method in the original algorithm. Then, we used the iterative method to solve the coordinate vector of mapping points to accelerate the solving speed. Finally, we used the improved Sammon mapping algorithm as a tool to analyze the effectiveness of selected features of the numerical simulation data in IEEE39-bus system and the actual online historical data of a certain area. The analysis results show that the improved algorithm has a good application prospect in guiding feature selection.

transient stability; machine learning; Sammon mapping; feature effectiveness

國家重點基礎研究發展計劃項目(973項目)(2013CB228203);國家電網公司科技(XT71-15-001)

TM 71

A

1000-7229(2016)12-0096-08

10.3969/j.issn.1000-7229.2016.12.013

2016-07-07

張春(1991)，男，碩士研究生，主要研究方向為電力系統穩定與控制；

田芳(1973)，女，博士，教授級高工，主要研究方向為電力系統分析與控制，電力系統數字仿真等；

于之虹(1975)，女，工學博士，高級工程師，主要從事電力系統安全穩定評估與控制、仿真分析技術等方面的工作；

李巖松(1975)，男，博士，教授，研究方向為電力系統分析與控制、光學傳感技術等;

張爽(1982)，男，高級工程師，主要從事電力系統計算、試驗、科研方面的工作；

田蓓(1977)，女，高級工程師，從事電力系統計算與分析方面的工作。

Project supported by National Basic Research Program of China (973 Program) (2013CB228203)