基于局部密度的加權一類支持向量機算法及其在渦軸發動機故障檢測中的應用

黃 功，趙永平，謝云龍

（南京航空航天大學能源與動力學院，南京210016）

（*通信作者電子郵箱y.p.zhao@163.com）

0 引言

渦軸發動機是一種將燃料的化學能轉化為輸出軸功率的機械裝置，主要為直升飛機提供動力。由于其壓氣機、渦輪等部件長時間工作在高溫、高壓和高轉速的惡劣環境里，發生故障在所難免。據統計，在航空發動機發生的各類故障中，氣路故障占比約90%以上，因此對氣路故障進行有效的檢測和研究就顯得尤為重要［1］。

為了能及時有效地對故障進行檢測和隔離來保護人民生命財產安全和降低損失，各國學者和技術人員提出了很多有用的方法。目前，針對氣路故障檢測的方法主要有基于模型、基于數據和基于知識規則等三種方法［2］。其中，基于模型和基于數據的兩種檢測方法應用最為廣泛。在基于模型的檢測方法中，比較常用的有基于卡爾曼濾波器［3-4］和基于觀測器的方法［5］。基于模型的檢測方法在機載實時應用方面為我們帶來了很多好處，但同時也存在著很多不足。該方法要求對發動機知識和建模過程有較全面的掌握，而且隨著發動機設計水平和制造工藝的日趨復雜，建模不確定性和建模難度也越來越大，使建立精確的數學模型充滿了挑戰。與此同時，隨著支持向量機（Support Vector Machine，SVM）、人工神經網絡（Artificial Neural Network，ANN）等人工智能算法的快速發展，基于數據的故障檢測方法在檢測效率和檢測精度等方面有了長足的進步。其中，反向傳播（Back Propagation，BP）算法是一種最基礎的ANN算法。理論上，BP算法具有任意逼近能力，但同時也存在譬如收斂速度慢，易陷入局部最小等缺點。殷鍇等［6］利用BP 算法來對航空發動機進行故障檢測，實驗表明，BP 算法可作為故障檢測的一種備選方案。為了進一步提高BP算法的檢測精度，Qu等［7］提出了一種利用遺傳算法（Genetic Algorithm，GA）來優化BP 神經網絡的初始權重和閾值的新算法，并將其用于航空發動機氣路故障診斷中，實驗證明，該算法相較于BP算法具有更快的收斂速度和更高的故障診斷精度。極限學習機（Extreme Learning Machine，ELM）是一種擴展的單隱含層前饋神經網絡（Single-hidden Layer Feedforward Neural Network，SLFNN）。相較于BP 神經網絡，ELM 不需要更新隱含層，因而大大縮短了訓練時間。王小雷等［8］利用ELM 對發動機進行故障檢測，取得了較好的效果。為了消除無效的隱含層節點，廖洪一［9］提出一種利用GA 來優化ELM 的輸入權值矩陣和隱含層偏置值的新算法，相較于標準的ELM，這一新算法有效地精簡了隱含層節點數，提高了模型的泛化能力。當ELM 用于解決故障檢測等分類問題時，存在一種硬間隔缺陷，Zhao 等［10］提出了一種軟極限學習機（Soft ELM，SELM）算法來解決這一問題。SELM 算法通過靈活地為每個樣本設定一個目標間隔，再求解一系列正則化的ELM，有效地提高了算法的分類精度、增強了模型的泛化能力。SVM 是Cortes 等［11］于1995 年提出的一種二分類算法，該算法通過最小化結構風險來尋找最優分類面，被廣泛應用于圖像分割［12-14］、人臉識別［15-17］和文本識別［18-19］等領域。在2012 年，Heng等［20］使用SVM 對航空發動機數據進行故障檢測分析，取得了比較好的效果。最小二乘支持向量機（Least Squares Support Vector Machine，LSSVM）是基于SVM 改進而來的，它通過求解線性方程組而不是求解二次規劃問題在很大程度上降低了算法的訓練時間。在2013 年，莊夏等［21］提出一種利用改進的粒子群優化算法來優化LSSVM 的懲罰參數和核函數參數的新算法，將該算法用于故障檢測中得到了比較好的結果。

隨著發動機設計水平的提高以及制造工藝的日趨完善，發動機故障數據獲取的難度越來越大，代價也越來越大，因此，類別不平衡學習（Class Imbalance Learning，CIL）問題在基于數據的故障檢測方法中的重要性日益凸顯。在2018 年，Xi等［22］提出了一種能解決CIL 問題的改進LSSVM 算法，在渦扇發動機數據集中取得了比較好的效果。一類支持向量機（One Class Support Vector Machine，OCSVM）是一種只需要正常數據就可建立故障檢測分類器的單分類算法，常用于故障檢測［23-24］、入侵檢測［25-26］等。加權一類支持向量機（Weighted OCSVM，WOCSVM）是通過對正常樣本分配較大的權值，對可能的故障樣本分配較小的權值，來最大限度地降低故障樣本對分類器的影響，從而達到增強算法魯棒性的目的，因此，對權重計算規則的制定就顯得尤為重要。文獻［27］提出了一種自適應加權一類支持向量機（Adaptive WOCSVM，AWOCSVM）算法，該算法能有效地對樣本中的離域點進行檢測，但也存在著不能很好地描述樣本邊界的問題。為此，本文提出一種基于局部密度的加權一類支持向量機（Local Density WOCSVM，LD-WOCSVM）算法。在該算法中，筆者首先考慮到馬氏距離能排除特征之間相關性的干擾這一特性，在求解樣本k近鄰的過程中，使用馬氏距離而不是歐氏距離來度量，并且選用當前樣本k近鄰的中心而不是整個數據集的中心來計算樣本權重。此外，筆者通過改進一種快速聚類算法來識別可能的故障樣本，并對故障樣本分配較小的權重而提出了一種新算法，為方便敘述，將這一新算法命名為FCLD-WOCSVM。在4 個基準數據集上的仿真結果表明，與A-WOCSVM 算法相比，LD-WOCSVM 算法和FCLD-WOCSVM算法在故障檢測中能取得更好的結果，證明了本文提出算法的有效性。

1 基于局部密度的加權一類支持向量機

1.1 加權一類支持向量機

OCSVM 是Sch?lkopf 等［28］于1999 年提出的一種單分類算法，只需要正常數據即可建立分類器，能很好地解決CIL 問題。為了能進一步提高OCSVM 算法的魯棒性，學者們提出了各種改進措施，WOCSVM 算法即是其中的一種。本文是在文獻［27］所提算法的基礎上做出改進的。

給定訓練樣本集D=，xi∈Rn，x是一個測試樣本，且x∈Rn。存在從Rn到希爾伯特空間χ的非線性映射φ使得φ(xi)∈χ，在希爾伯特空間存在超平面w·φ(xi)-ρ= 0 將原點和映射樣本完全分開。其中，w為超平面法向量，ρ為偏移量［29］，映射樣本代表著正常樣本，原點代表著故障樣本。引入松弛因子ξi≥0 可使算法具有某種程度的魯棒性。用ωi表示樣本xi對應的權重，且ωi∈[0，1]，則WOCSVM 的優化目標可寫為

其中w∈χ，ρ∈R。ν∈(0，1]為預先定義的正則化參數，是被允許的最大誤警率。引入拉格朗日乘子αi≥0，βi≥0，則有:

由Karush-Kuch-Tucker條件可得:

將式（3）代入式（2），可得原優化目標的對偶形式為:

其中SVs表示支持向量的索引。對于測試樣本x，如果f(x)的值為1，則說明x為正常樣本；如果f(x)的值為-1，則說明x為故障樣本。由式（4）可知，權重ωi越小，則對應的拉格朗日乘子αi越趨近于零，說明樣本xi與分類邊界的距離越遠，對分類邊界的影響越小。因此，只要對潛在的故障樣本分配較小的權重，即可起到增強算法魯棒性的作用。

1.2 基于局部密度的加權方式

現將文獻［27］的權重求取方式簡述如下。

設C為數據集的幾何中心，則樣本xi與C之間的歐氏距離為:

則樣本xi對應的權重ωi可由式（8）求得:

由上述表述可知，文獻［27］所提算法的權重求取方式存在一定缺陷。當訓練集的樣本構成比較復雜，比如存在多個小范圍聚集的情況，則樣本與訓練集中心的距離并不能衡量該樣本與數據集邊界的位置關系，也就是采用式（8）來求取權重并不科學。為此，本文提出一種基于局部密度的加權方式。其基本原理可簡述如下。

令表示樣本xi與其近鄰中心之間的正則化距離，則:

由于故障樣本與正常樣本的形成機制不同，一般情況下故障樣本均遠離正常樣本。當越大，說明樣本xi與其他樣本的距離越大，則xi為故障樣本的可能性越大，此時需要對它分配較小的權值。則令

式（11）即為基于局部密度的WOCSVM 算法的權重求取方式。

1.3 基于馬氏距離的k近鄰樣本的求取

在1.2 節中，求取離樣本xi最近的k個訓練樣本{xi，1，xi，2，…，xi，k}時，考慮到訓練數據集中可能摻雜有無法確定特征之間是否有聯系的故障樣本這一情況，如果采用傳統的歐氏距離來度量，則無法保證計算的科學性。為此，本文提出用馬氏距離（Mahalanobis Distance，MD）來度量兩樣本之間距離的遠近。

馬氏距離是統計學家馬哈拉諾比斯定義的一種距離，它與歐氏距離相比，能有效地消除各變量之間的關聯性并且和數據的量綱沒有關系。給定訓練樣本集D，對于第i個樣本xi和第j個樣本xj之間的馬氏距離可由下式計算得出:

其中Σ表示總體協方差矩陣。由于樣本協方差是總體協方差的無偏估計，為便于計算，常用樣本協方差矩陣代替總體協方差矩陣。當Σ為單位矩陣時，馬氏距離變為歐氏距離。

為方便敘述，將此算法簡稱為LD-WOCSVM。基于以上分析，可將算法流程簡述如下。

步驟2 由式（12）計算樣本的k個鄰近樣本。

步驟3 由式（11）求得權重，代入式（4），由序列最小最優（Sequential Minimal Optimization，SMO）算法求解式（4），繼而由式（5）求得決策函數。

步驟4 由式（5）預測新樣本是正常還是故障。

2 基于快速聚類的LD-WOCSVM

為了能進一步增強算法的魯棒性，先采用一種快速聚類分析算法來獲取樣本分布特點，再通過對可能的故障樣本分配較小的權重來實現自適應加權。基于快速聚類算法的權重求取如下。

Rodriguez 等［30］在2014 年提出了一種很簡潔的快速聚類算法，該算法的參數很容易確定，通過分析，該算法的復雜度為O(N2)。本文通過對該算法進行進一步改進，可以快速準確地識別出一部分故障樣本，從而使更大限度地提高算法魯棒性成為可能。該算法通過定義ρi和δi兩個參數來衡量對應的樣本xi是否為故障樣本。其中，ρi表示數據點xi的局部密度，δi表示數據點xi到高局部密度的距離。ρi定義為:

其中:當x＜0 時，χ(x)= 1；當x≥0 時，χ(x)= 0。dc為截斷距離（超參數），di j為樣本xj到樣本xi的距離。則ρi表示到樣本xi的距離小于dc的樣本的個數。對于dc值的選取，一種常用的方法是選擇的dc應能使平均每個樣本點的附近樣本個數為數據集總樣本個數的1%～2%。在本文中，使用k近鄰算法獲取dc的值，具體步驟如下。

N為數據集總樣本個數，s=N×1%取整數獲取s值。用xi，s(i= 1，2，…，N)表示xi的第s個近鄰樣本，d（xi，xi，s）表示樣本xi和樣本xi，s之間的歐氏距離。使用Q(x)來表示數據集中每個樣本與該樣本第s個近鄰樣本之間距離的集合，即Q(x)={d(xi，xi，s)}。則dc的計算公式如下:

對于參數δi，其計算公式為:

可知，δi表示數據點xi到高局部密度的最小距離。對于局部密度最大的點，設置δi=(dij)。通過上述分析計算，可以得到數據集中所有樣本對應的ρi和δi。從對參數定義的規則可以得到，擁有較大ρi值和較大δi的樣本，可以認為是訓練集中某個類簇的中心；而對擁有較小ρi值和較大δi的樣本，認為是訓練集中存在的故障樣本（噪聲）；對擁有較大ρi值和較小δi的樣本，認為是分布在距離最近的類簇中心的周圍；對擁有較小ρi值和較小δi的樣本，認為分布在距離該樣本最近的類簇的邊緣。為了使故障樣本分配到更小的權重，令

其中:Δ是一個很小的正數，目的是為了避免出現分母為零的情況，一般取Δ= 10-6。為了便于敘述，將此算法簡稱為FCLD-WOCSVM。基于以上分析，可將算法FCLD-WOCSVM的流程簡述如下。

步驟2 由式（13）和（15）計算ρi和δi，再由式（16）求得權重。

步驟3 將權重代入式（4），由SMO 算法求解式（4），繼而由式（5）求得決策函數。

步驟4 由式（5）預測新樣本是正常還是故障。

3 實驗分析

為了驗證本文所提的LD-WOCSVM 和FCLD-WOCSVM 兩種算法的有效性，本文將從以下兩個方面加以論述。首先選用4 個常用的基準數據集，用來測試本文所提算法的分類性能，同時參與比較的還有文獻［27］中的A-WOCSVM 算法、文獻［31］中的WOCSVM 算法、文獻［32］中的加權支持向量數據描述（Weighted Support Vector Data Description，WSVDD）算法、標準OCSVM 算法、文獻［33］中的局部異常因子（Local Outlier Factor，LOF）算法和文獻［34］中的孤立森林（Isolation FOREST，IFOREST）算法。仿真結果表明，本文所提算法相較于另6 種算法在分類性能上均有所增強。其次，將LDWOCSVM 和FCLD-WOCSVM 兩種算法用于某型渦軸發動機故障檢測，實驗結果表明，本文所提算法能夠構建性能較好的分類器，可作為故障檢測的候選算法。本文采用G-mean（Geometric mean）值和AUC（Area Under the Curve）值作為最終的評價指標，兩種指標的值越大，則說明故障檢測性能越好。為了減少樣本隨機選取對分類結果的影響，對每種算法均獨立運行50 次并取其平均值和方差作為最終結果。如前所述，本文采用高斯核函數作為非線性映射函數。核函數參數σ和正則化參數ν通過5 折交叉驗證進行優化，參數σ和ν的搜索區間分別為{2-10，2-9，…，2-4}和{10-4，10-3，…，103}。本文仿真實驗是在Intel Core i5-7400 CPU @ 3.00 GHz 的Windows 10上進行的，采用Matlab R2017a編程。

3.1 基準數據集測試

3.1.1 仿真設置

本文選取UCI（University of California Irvine）數據集中的4個常用數據集的基本信息在表1中列出。

表1 實驗中使用的4個UCI數據集的基本信息Tab. 1 Fundamental information of 4 UCI datasets used in the experiment

在本次實驗中，對于每個數據集，將樣本最多的那一類作為正常類，將剩余所有類作為故障類，并且將標簽分別改為+1和-1。在正常類中隨機抽取70%的樣本作為訓練集的一部分，在故障類中分別隨機抽取占整個訓練集5%和10%的樣本作為訓練集另一部分，并且將其標簽人為改為+1。測試集的樣本構成則為剩余的正常樣本和故障樣本。

故障樣本占整個訓練集5%和10%時所得實驗結果列于表2。其中，每組實驗的最優結果用黑體標出。

3.1.2 結果分析

由表2 可以看出，在Set 1 和Set 3 兩個數據集上，故障樣本占比10%且使用AUC 指標衡量時，LD-WOCSVM 算法的性能最優，其余情況下，均是FCLD-WOCSVM 算法具有最優的性能。以在Set 4 數據集上，故障樣本占比10%時為例，與AWOCSVM算法相比，FCLD-WOCSVM算法的G-mean值提高了12.1%。在Set 3 數據集上，故障樣本占比5% 時，與AWOCSVM 算法相比，LD-WOCSVM 算法的AUC 值降低了0.01%，但在使用G-mean 值衡量時，與A-WOCSVM 算法相比，LD-WOCSVM 算法的值增加了0.26%。在Set 1 數據集上，故障樣本占比10%時，與A-WOCSVM 算法相比，LDWOCSVM 算法的G-mean 值降低了0.7%，但在使用AUC 值衡量時，與A-WOCSVM 算法相比，LD-WOCSVM 算法的值提高了0.5%。且在其余情況下，LD-WOCSVM 算法的性能均優于A-WOCSVM算法的性能。

表2 故障樣本數占整個訓練集5%或10%時，在4個UCI數據集上的實驗結果Tab. 2 Experimental results on 4 UCI datasets when fault samples account for 5%or 10%of the total training set

總而言之，在本文選取的4 個數據集上，與A-WOCSVM、WOCSVM、WSVDD、標準OCSVM、LOF、IFOREST 等算法相比，算法FCLD-WOCSVM 和算法LD-WOCSVM 的性能更優。這說明了本文提出的FCLD-WOCSVM 算法和LD-WOCSVM 算法在解決故障檢測問題上的科學性和有效性。

3.2 渦軸發動機故障檢測

3.2.1 背景知識

渦軸發動機故障主要發生在壓氣機、燃氣渦輪和動力渦輪三個氣路部件處，因此對這三個部件進行故障檢測尤為重要。本文以T700發動機為研究對象，在部件級數學模型的基礎上以性能參數蛻化一定的量來模擬相應的故障。T700 發動機模型簡圖如圖1 所示，分別用代號3、42、5 和9 來表示壓氣機出口截面、燃氣渦輪出口截面、功率渦輪出口截面以及尾噴管出口截面。在圖1中，GT（Gas Turbine）表示燃氣渦輪，PT（Power Turbine）表示動力渦輪。

圖1 帶狀態數的T700渦軸發動機原理Fig. 1 Principle of T700 turboshaft engine with state number

在參照文獻［35］的基礎上，本文選擇5 個性能參數:壓氣機流量WC、燃氣渦輪流量WTG、壓氣機效率ηC、燃氣渦輪效率ηTG、動力渦輪效率ηTP。經過綜合比較各參數的測量難易程度，本文選擇11個傳感器測量參數:壓氣機出口總溫T3、壓氣機出口總壓P3、飛行高度H、前飛速度vx、燃油流量Wf、燃氣渦輪輸出轉速PNC、燃氣渦輪出口總溫T42、燃氣渦輪出口總壓P42、動力渦輪輸出轉速PNP、動力渦輪出口總溫T5、動力渦輪出口總壓P5。本文在全飛行包線范圍內，穩定工況下采集數據。限于篇幅，只設置單一故障模式。各個性能參數蛻化量及對應樣本數列于表3。

表3 性能參數的主要信息Tab.3 Main information about performance parameters

使用LD-WOCSVM/ FCLD-WOCSVM 算法進行渦軸發動機故障檢測時，其流程可簡述為:

1）獲取渦軸發動機工作狀態的數據集，劃分數據集為訓練集和測試集。

2）在訓練集中，利用5 折交叉驗證法求得核函數參數σ和正則化參數ν。

3）從訓練集中隨機抽取部分數據用于訓練模型。利用式（11）/（16）求得權重，將權重代入式（4）并利用SMO 算法求解，再利用式（5）求得決策函數。

4）將測試集中樣本代入決策函數，即可得測試結果。

3.2.2 參數設置

在本次實驗中，根據采集得到的5 種故障樣本，分別設計5 組實驗。由表4 中性能參數所列順序，將對應的5 組實驗依次命名為Case 1、Case 2、Case 3、Case 4和Case 5。將正常樣本作為正常類，并將其標簽改為+1；將5 種故障樣本作為故障類，并將其標簽改為-1。對每組仿真實驗，從正常類中隨機抽取40%的樣本作為訓練集的一部分，從對應的故障類中隨機抽取占比整個訓練集1%的樣本作為訓練集另一部分，并將該故障樣本的標簽人為改成+1，即:訓練集中正常樣本數為1 320，故障樣本數為13。測試集的樣本構成則為剩余的正常樣本和故障樣本。為了檢驗算法在故障樣本占比較高時的分類性能，本文還設計一組故障樣本占比5%時的仿真實驗，此時訓練集中正常樣本數為1 320，故障樣本數為69。

故障樣本占整個訓練集1%和5%時的實驗結果列于表4，其中，每組實驗的最優結果用黑體標出。在這一部分，選取了4 個對比算法:文獻［27］中的A-WOCSVM 算法、文獻［31］中的WOCSVM 算法、文獻［32］中的WSVDD 算法以及標準OCSVM算法。

表4 故障樣本數占整個訓練集1%或5%時，在渦軸發動機數據集上的實驗結果Tab. 4 Experimental results on turbo shaft engine datasets when fault samples account for 1%or 5%of the total training set

3.2.3 結果分析

由表4可以看出，對比算法WSVDD 的性能最差。無論是用AUC 還是G-mean 來度量，所得結果均小于0.5，說明該算法不適合用來解決渦軸發動機故障檢測問題。

由表4還可以看出，在Case 1數據集中:使用AUC 值作指標時FCLD-WOCSVM 算法的性能最優，使用G-mean值作指標時LD-WOCSVM 算法性能最優，且本文所提出的兩種算法的性能均優于對比算法A-WOCSVM。在Case 2 數據集中:故障樣本占比1% 時FCLD-WOCSVM 算法的性能最優，AWOCSVM 算法性能次優；故障樣本占比5%時LD-WOCSVM算法的性能最優，FCLD-WOCSVM 算法的性能次優。在Case 3 數據集上:故障樣本占比1%且使用AUC 指標衡量時，LDWOCSVM 算法性能最優，其余情況下均是FCLD-WOCSVM 算法的性能最優。在Case 4 數據集中:故障樣本占比5%時FCLD-WOCSVM 算法性能最優；占比1%時FCLD-WOCSVM算法的性能次優。在Case 5 數據集中:故障樣本占比5%時WOCSVM 算法性能最優；其余情況下，算法LD-WOCSVM 性能最優。從統計角度看，5個數據集，2種指標和2種故障樣本比例一共20 種情況，其中:算法FCLD-WOCSVM 性能最優的次數為9，次優的次數為10；算法LD-WOCSVM 性能最優的次數為9，次優的次數為2；算法A-WOCSVM 性能最優的次數為0，次優的次數為2；算法WOCSVM 性能最優的次數為1，次優的次數為3；算法OCSVM 性能最優的次數為1，次優的次數為3。

從以上分析可以看出，在發動機故障檢測方面，算法FCLD-WOCSVM 性能最優，算法LD-WOCSVM 性能次優，而對比算法A-WOCSVM 和WSVDD的性能最差。這進一步說明了本文所提算法FCLD-WOCSVM 和算法LD-WOCSVM 可以作為渦軸發動機故障檢測的兩種候選算法。

4 結語

本文通過在算法A-WOCSVM 的基礎上提出兩種改進算法:FCLD-WOCSVM 和LD-WOCSVM，并將其運用在渦軸發動機故障檢測方面，可得以下結論:

1）使用馬氏距離來選取每個樣本對應的k近鄰樣本，再通過計算樣本與局部密度中心而不是全局密度中心的距離提出的LD-WOCSVM 算法，能夠使訓練的分類器更精確地描述數據樣本邊界，分類效果更好。

2）通過對一種快速聚類分析算法進行改進，使該算法能更準確地識別故障數據，進而計算出更合適的權重而提出的FCLD-WOCSVM 算法，能夠最大限度地降低故障數據對分類邊界的影響，使得分類精度得到進一步的提高。

3）將算法FCLD-WOCSVM 和LD-WOCSVM 運用于渦軸發動機故障檢測中，仿真實驗表明，兩種算法能夠構建精度較高的分類器，可以作為故障檢測的候選算法。