基于改進核局部保持投影的故障檢測方法研究

張學磊 徐進學 祝朋艷

(大連海事大學船舶電氣工程學院 遼寧 大連 116026)

0 引 言

隨著工業過程中生產設備的集成度和復雜度的程度不斷提高，工業過程的生產效率和產品質量也隨之得到了提高。與此同時，不可避免地產生了大量的控制和檢測數據。如何在大量數據中對數據進行故障檢測和診斷對生產安全和產品質量變得尤為重要。在故障發生時，只有提取豐富的有效數據特征，才能得到更好的檢測和診斷效果。

豐富的數據特征包括數據的局部和全局信息。2000年，流形學習方法開始出現。因為其具有處理非線性數據的能力和能夠從高維數據中提取出隱藏的局部結構的特點，因此受到越來越多故障檢測領域專家的關注[1-3]。流形學習方法主要包括：拉普拉斯特征映射(Laplacian Eigenmaps, LE)[4]，局部線性嵌入(Locally Linear Embedding, LLE)[5]和局部保持投影(Locality Preserving Projections, LPP)[6]等。為了使LPP適用非線性的情況，He等[6]在LPP基礎上引入核函數，提出核局部保持投影(Kernel Locality Preserving Projections, KLPP)。除此之外，基于數據驅動的多元統計方法因其無須確定系統解析模型和先驗知識，被廣泛應用在過程故障檢測領域[7-9]。主要方法包括：主元分析(Principal Component Analysis, PCA)[10-11]、獨立成分分析(Independent Components Analysis，ICA)[12]和偏最小二乘(Partial Least-Squares，PLS)[13]等。PCA的基本思想是通過對協方差矩陣進行特征值分解來尋找主元方向，然后將原始數據投影到已找到的主元方向上，最終得到原始數據的主要特征。但是PCA作為一種線性的方法在對非線性過程數據進行處理時效果不理想。為了克服這一缺陷，基于核函數的主元分析(Kernel PCA，KPCA)被研究學者提出并應用到故障檢測領域[14-16]。KPCA是PCA的非線性拓展，其基本步驟是首先將原始數據通過核函數映射到高維特征空間，然后再運用PCA得到數據的非線性主元。雖然KPCA解決了數據的非線性問題，但是其仍然只提取數據的全局信息，忽略了數據的局部信息。為了在特征提取過程中獲得豐富有效的特征，一些綜合性的方法被提出[17-18]。Zhang等[19]將LPP和PCA方法相結合提出一種基于全局和局部結構分析(GLSA)模型，作為一種新的故障檢測和識別方案。Yu等[20]提出局部和全局主成分分析(LGPCA)。LGPCA除了保留全局方差信息外，同時捕捉良好的線性嵌入，保留局部結構，在高維過程數據中尋找有意義的低維信息。然而上述方法在本質上都是線性的，對于非線性數據則不能很好地提取到數據的局部和全局特征。文獻[21]提出一種基于核的全局局部保持投影(KGLPP)方法，很好地提取了非線性數據中蘊含的數據特征。但是該方法沒有考慮樣本數據尺度對于故障檢測率的影響。另一方面，工業生產過程中除了發生對過程影響比較大的故障外，往往還存在著緩慢變化的故障，因此會產生具有幅值小、故障特征不明顯等特點的微小故障。上述方法對于微小故障的檢測結果較差。

1 方法設計

改進核局部保持投影方法綜合了KLPP和KPCA 兩種方法的特點，既保持了樣本數據的局部近鄰結構，也保證了全局方差信息不變。存在數據集X=[x1,x2,…,xn]∈Rm×n，m是變量個數，n是樣本個數，并定義非線性映射φ(x)。通過φ(x)將原始數據X映射到高維特征空間，得到數據集Φ(X)=[φ(x1),φ(x2),…,φ(xn)]。改進核局部保持投影方法的目標是尋找投影矩陣F∈Rm×d將高維空間數據Φ(X)投影到d(d

1.1 核局部保持投影(KLPP)

KLPP方法是LPP方法[6]的非線性擴展。KLPP通過在高維特征空間建立近鄰圖，并對近鄰圖的各邊賦予權值，以保證原始數據中的局部結構保持不變。在特征空間中，假設φ(xi)和φ(xj)是近鄰，則它們各自在低維空間的投影yi和yj也應該是近鄰點，其中y=FTφ(x)。于是得到KLPP的目標函數為:

(1)

(2)

式中:t為熱核參數。權值選擇的證明可以參考文獻[4]。定義核矩陣K∈Rn×n。

Kij=K(xi,xj)=φ(xi)·φ(xj)=φT(xi)φ(xj)

(3)

選擇高斯核函數K(x,y)=exp(-‖x-y‖2/δ)。那么:

‖φ(xi)-φ(xj)‖2=(φ(xi)-φ(xj))T(φ(xi)-φ(xj))=

(φT(xi)-φT(xj))(φ(xi)-φ(xj))=

φT(xi)φ(xi)-φT(xi)φ(xj)-

φT(xj)φ(xi)+φT(xj)φ(xj)=

Kii-Kij-Kji+Kjj=

2-2Kij

(4)

由式(2)和式(4)可知，wij與φ(xi)和φ(xj)之間的距離成反比。若φ(xi)和φ(xj)互為近鄰點，那么通過最小化式(1)可以保證它們的投影yi和yj也互為近鄰點。這是因為wij根據距離值被賦予一個很大的值。然而，如果不對代表Φ(X)空間中顯著方差方向的遠點給出約束，KLPP可能會丟失方差信息，并將遠點置于一個小區域中。此外，如果遠點屬于故障點，KLPP的檢測效率也會受到影響，因為投影后將會很難區分這些點。

1.2 核主元分析(KPCA)

假設存在投影矩陣F，使得低維數據集Y=FTΦ(X)，則KPCA的目標函數[14]為:

(5)

式中：n表示樣本個數。低維空間數據Y與原始空間數據Φ(X)具有相同的外形，因為它們擁有相同的最大方差方向。KPCA的局限性在于忽略數據之間的局部鄰域結構信息。假設在原始空間中有一系列點φ(x1),φ(x2),…,φ(xm-1),φ(xm), 且[φ(xl-1),φ(xl)]是近鄰點，其中l=2,3,…,m。因為KPCA在投影時忽略了這些近鄰關系，那么在低維空間中對應的數據點y1,y2,…,ym-1,ym的順序可能被破壞。

1.3 改進核局部保持投影方法(MKLPP)

(6)

s.t.FTF=I

式中:I是單位陣。加入限制條件的原因包括：

(1) 正交約束在統計構造和重構誤差計算方面具有優越性，是故障檢測的理想方法[23]。

(2) 正交約束能有效提高降維方法的判別能力，是故障診斷的理想選擇[24]。

對MKLPP的目標函數式(6)引入拉格朗日函數，加入拉格朗日乘子λ，可得到:

λ(FTF-I)

(7)

式中:tr(·)表示矩陣的跡。分別對F和λ求導：

(8)

(9)

(10)

(11)

整理可得：

(12)

(13)

(14)

觀察式(14)可以發現，通過投影矩陣F計算數據集的低維表示轉化成由特征向量矩陣T′的轉置和核矩陣相乘得到。考慮到新數據的低維表示的樣本數據尺度不一，波動較大，可能影響故障檢測結果。將特征向量矩陣T′通過對角陣Λk進行縮放，使得降維后的樣本數據尺度歸一，故障變化較大樣本的故障尺度減小，故障變化較小樣本的故障尺度增大，減小故障的波動，使樣本的故障變得平穩，更容易檢測出故障樣本。

縮放后的特征向量矩陣表達式如下：

(15)

(16)

MKLPP方法的步驟如下：

(1) 給定標準化后的數據X=[x1,x2,…,xn]作為訓練數據。

(2) 構建近鄰圖，確定拉普拉斯矩陣。

(4) 由式(12)得到特征值和特征向量，選擇前d個特征值得到對角陣Λk，選擇前d個特征向量得到特征向量矩陣T′。

2 多元指數加權移動平均(MEWMA)

MEWMA[26]是指數加權移動平均(EWMA)[27]的一種多變量形式的拓展。EWMA引入權重因子將當前時刻數據與過去時刻數據結合考慮，構造新的時間相關的數據。通過施加大小不同的權值，對歷史數據產生平滑作用，并提取出過程數據中的微小故障信息，在檢測故障時可以得到很好的效果。

對于單變量情況，假設xi為第i時刻的采樣數據，則EWMA定義為：

zi=γxi+(1-γ)zi-1

(17)

式中：z0=0；γ(0<γ≤1)稱作遺忘因子，γ取值越小，表明歷史數據對當前時刻數據的影響就越大。

對于多變量情況，是EMWA的一種自然的擴展。定義為：

zi=Rxi+(I-R)zi-1

(18)

式中：zi是m維的采樣數據，且z0=0。R=diag(γ1,γ2,…,γm)，0<γj≤1，j=1,2,…,m。

如果對過去觀測值施加不同的權值沒有要求，則γ1=γ2=…=γm=γ。則式(18)可轉化為：

zi=γxi+(1-γ)zi-1

(19)

遞推可得：

(20)

3 故障檢測

3.1 基于MKLPP的故障檢測方法

(21)

(22)

式中：

(23)

(24)

KX,Xnew=K(Φ(X),Φ(Xnew))

(25)

式中:

(26)

SPE統計量的計算方式如下：

SPEnew=‖Φ(Xnew)‖2=‖(I-FFT)Φ(Xnew)‖2=

‖(I-Φ(X)T′(T′)TΦT(X))Φ(Xnew)‖=

(27)

式中：

EKXnew,XnewE-EKXnew,Xnew=K(Φ(Xnew),Φ(Xnew))

基于MKLPP方法的故障檢測過程離線建模步驟如下：

(1) 采集正常工況下的數據X作為訓練集，并對其進行標準化。

(2) 引入核函數，將訓練數據X映射到高維空間，得到Φ(X)。

(3) 計算并中心化核矩陣。

(4) 建立近鄰圖，確定拉普拉斯矩陣。

(5) 使用MKLPP提取數據特征并根據式(12)得到特征向量矩陣T′和對角陣Λk。

(6) 按照式(16)得到訓練數據的低維特征Y。

(7) 利用式(25)和式(27)分別計算訓練數據的T2和SPE統計量。

(8) 通過使用核密度估計方法分別得到T2和SPE統計量的控制限。

在線檢測步驟如下：

(1) 獲取新采集的測試樣本并進行標準化。

(2) 利用訓練集計算關于測試集的核矩陣，并進行中心化。

(3) 利用離線建模中步驟(5)得到的特征向量矩陣T′和對角陣Λk將測試數據投影到低維空間，獲得低維特征Ynew。

由以上可得到基于MKLPP的故障檢測流程如圖1所示。

圖1 基于MKLPP方法的故障檢測流程

3.2 基于MEWMA-MKLPP微小故障檢測方法

經過MKLPP方法的處理得到含有更多原始數據信息的低維數據，在此基礎上，運用MEWMA方法得到一組時間相關的新數據。通過給歷史數據加入小權重，近期數據加入大權重，減小動態性影響，達到預測以后時段觀測值的目的。基于MEWMA-MKLPP方法的微小故障檢測過程與MKLPP方法的檢測過程大致相同。離線建模的具體步驟如下：

(1) 獲取正常工況下的數據X作為訓練數據，并進行標準化處理。

(2) 運用MKLPP方法求出特征向量矩陣T′和對角陣Λk。

(3) 根據式(16)得到原始樣本在低維空間的特征Y。

(4) 由式(27)計算得到訓練數據的SPE統計量。

(5) 對低維特征Y和SPE統計量運用MEWMA：

ymewma,i=γyi+(1-γ)ymewma,i-1

(28)

SPEmewma,i=γSPEi+(1-γ)SPEmewma,i-1

(29)

式中：Y=[y1,y2,…,yn]∈Rd×n，i=1,2,…,n。因此，得到Ymewma和SPEmewma。

在線檢測步驟如下：

(1) 獲取待測樣本數據并進行標準化。

(2) 選擇合適參數，計算核矩陣并中心化。

(3) 利用離線建模步驟(2)中計算出的特征向量矩陣T′和對角陣Λk得到待測樣本數據的低維特征Ynew。

(4) 根據步驟(3)中的Ynew計算得到SPE統計量SPEnew。

(5) 對低維特征Ynew和SPE統計量SPEnew運用MEWMA：

ynewmewma,i=γynew,i+(1-γ)ynewmewma,i-1

(30)

SPEnewmewma,i=γSPEnew,i+(1-γ)SPEnewmewma,i-1

(31)

式中：Ynew=[ynew, 1,ynew,2,…,ynew,n]∈Rd×n，i=1,2,…,n。最終得到Ynew mewma和SPEnew mewma。

由以上描述可得到基于MEWMA-MKLPP微小故障檢測方法的流程如圖2所示。

圖2 基于MEWMA-MKLPP微小故障檢測流程

4 仿真實驗

為了對上述內容所提出的方法進行仿真實驗，對兩種方法使用的仿真數據均采用Tennessee Eastman(TE)過程數據。TE過程流程圖[21]如圖3所示。

圖3 TE過程流程圖

由圖3可以得知，TE過程由反應器(Reactor)、冷凝器(Condenser)、氣液分離器(Vap/Liq Separator)、循環壓縮機(Compressor)和汽提塔(Stripper)等五個主要單元組成。除此之外，還含有氣體原料A、C、D、E，反應產生兩種液體產物G和H，以及一種液體副產物F。反應過程產生22個測試集和22個訓練集，其中每一個數據集都包含52個變量，并且其中21個是在不同故障模式下采集的和一個正常運行情況下采集的。21種不同的故障模式如表1所示。測試集和訓練集的數據集0分別在正常工況下運行48小時和25小時，分別得到960個和500個樣本。其他的數據集(1-21)都是在運行48個小時期間采集得到，其中故障是在運行8小時后加入，因此數據集1-21的樣本總數是960個，且在第160個樣本以后都是故障數據。

表1 TE過程故障模式

4.1 基于MKLPP故障檢測仿真實驗

選擇TE數據集中的正常數據故障0作為MKLPP模型的訓練集。選擇TE數據集故障4、故障10和故障19三種故障模式的數據集作為測試集。將MKLPP方法與KLPP、KPCA方法進行對比。其中，高斯核參數統一設置為δ=500m，m為樣本的變量個數，熱核參數t=5，近鄰數k=15，降維后的維數d=20，統計量置信限為99%。

圖4、圖5和圖6分別為KLPP、KPCA和MKLPP對故障4的檢測結果。其中，虛線是根據訓練數據計算的控制限，實線是測試數據檢測統計量的波形曲線，且測試數據的故障是在第161個樣本點處被引入的，因此根據實線可以判斷不同方法對故障的檢測能力。由仿真結果可以得出，KLPP和KPCA方法對于故障4數據集只能檢測出部分故障，具有較低的檢測率。但由圖6可以看出MKLPP方法對于故障4的檢測結果相比較于KLPP和KPCA方法得到了顯著的提高。這是由該數據集的故障類型導致的。流入反應器中的冷卻水的溫度發生階躍變化，隨之發生變化的是冷卻水的流速，進一步反應器中的溫度也會跟著變化。所以該故障由兩個變量變化導致，其他變量保持不變，也就是說故障是局部變量的變化造成的，因此KLPP和KPCA對故障4的檢測有一定的困難。然而MKLPP方法可以全面地提取數據中的信息，所以可以較準確地檢測到故障4中發生的故障。

圖4 KLPP對于故障4的檢測結果

圖5 KPCA對于故障4 的檢測結果

圖6 MKLPP對于故障4的檢測結果

圖7、圖8和圖9分別為KLPP、KPCA和MKLPP對故障10的檢測結果。故障10是由于物料C的溫度變化引起。但由于TE過程可以反饋這個變化，并且緩慢地消除了這個誤差，使系統的溫度盡可能調整到正常值。從仿真結果來看，KLPP和KPCA只能檢測出大約第210至370以及第620至850樣本之間的故障，而在第370至620范圍的樣本幾乎都無法檢測出來故障。相對于KLPP和KPCA，MKLPP方法可以檢測出大部分的故障，可以較好地描述數據的全局和局部信息。

圖7 KLPP對于故障10的檢測結果

圖8 KPCA對于故障10的檢測結果

圖9 MKLPP對于故障10的檢測結果

圖10、圖11和圖12分別是KLPP、KPCA和MKLPP對于故障19的檢測結果。由圖10和圖11可以看出KLPP和KPCA方法幾乎無法檢測出故障19，因此超出統計量的置信范圍的樣本很少。而由圖12可知MKLPP方法的檢測結果優于KLPP和KPCA方法。

圖10 KLPP對于故障19的檢測結果

圖11 KPCA對于故障19的檢測結果

圖12 MKLPP對于故障19的檢測結果

表2分別列出了KLPP、KPCA和MKLPP三種方法對TE過程中產生的21種故障數據集的檢測率結果以及文獻[21]中提出的KGLPP方法的檢測結果作為對比。由表2可知，對于故障1、2、6、7、8、12、13、14、17，四種方法的檢測結果大致相同。對于故障4、5、11、16，MKLPP方法較KLPP方法和KPCA方法的檢測準確率得到了顯著提高。對于故障10、18、19、20、21，MKLPP方法對于KLPP、KPCA和KGLPP方法的檢測率都有所提高，說明MKLPP方法的監控性能得到了顯著的改善。對于故障3、9、15，MKLPP方法雖然較前三種方法的檢測率有所提高，但是總體檢測準確率還是很低的。故障3和故障9是D物料的溫度變化，故障15是冷凝器冷卻水閥門變化，這兩類變化對于TE過程中產物G和H的產品質量的影響很小。這三種故障模式下樣本數據的觀測變量的均值或者方差沒有明顯的變化。換句話說，這些故障的幅值很小，在數據中是不可觀察的，并且這些故障對于TE過程的影響很小，均屬于微小故障[28-29]。

表2 KLPP、KPCA和MKLPP方法故障檢測率(%)

4.2 基于MEWMA-MKLPP微小故障檢測仿真實驗

針對4.1節中MKLPP方法對于故障3、故障9和故障15檢測率低的問題，提出MEWMA-MKLPP方法。選擇TE過程數據集中正常數據故障0作為訓練集，選取故障3、故障9和故障15作為測試集，分別對兩種方法進行仿真實驗。遺忘因子γ取0.05，其他參數與上文中的一致。

圖13和圖14分別是MKLPP方法和MEWMA-MKLPP方法對于故障3的檢測結果。由仿真結果可知，MEWMA-MKLPP方法對于數據集故障3中存在的微小故障具有較好的檢測結果。反觀MKLPP方法對于數據集故障3的檢測結果，只能偶爾檢測到故障的發生，對于大部分故障無法檢測出。觀察圖14可以發現，故障點出現在樣本點200以后，這是因為遺忘因子會對過程產生延遲。

圖13 MKLPP對于故障3的檢測結果

圖14 MEWMA-MKLPP對于故障3的檢測結果

圖15和圖16分別是MKLPP和MEWMA-MKLPP方法對于故障9的檢測結果。由圖15可以看出，在第160個樣本后發生較大的波動，但是仍然在控制限以下，因此無法檢測出故障的發生。由圖16中的SPE統計量的仿真結果可以得到，雖然在初始階段發生一定的誤報，但是基本上可以檢測到有故障發生。

圖15 MKLPP對于故障9的檢測結果

圖16 MEWMA-MKLPP對于故障9的檢測結果

圖17和圖18分別為MKLPP方法和MEWMA-MKLPP方法對于故障15的檢測結果。如圖17所示，T2統計量只有在第780到900樣本點之間偶爾檢測到故障，其他時刻基本上無法檢測到過程中的故障。SPE統計量也只有在第780到840樣本點之間檢測到連續的異常值，而且波動比較大。由圖18仿真結果可知，SPE統計量在第620到第960個樣本點之間超出控制限，說明該過程發生故障。綜合圖13-圖18仿真結果可以得出MEWMA-MKLPP方法對過程數據中存在的微小故障的檢測效果是明顯的。

圖17 MKLPP對于故障15的檢測結果

圖18 MEWMA-MKLPP對于故障15的檢測結果

表3列出了MKLPP和MEWMA-MKLPP方法對于故障3、故障9和故障15的檢測率?？梢钥闯?，MEWMA-MKLPP方法對于MKLPP方法來說，檢測率都得到了顯著的提高。

表3 MKLPP、MEWMA-MKLPP方法故障檢測率(%)

5 結 語

本文針對KLPP方法在提取非線性數據特征時忽略數據全局方差的缺點，將KPCA融入到KLPP中，然后對特征向量矩陣按照特征值進行縮放，提出一種基于改進核局部保持投影(MKLPP)的故障檢測方法。在提取非線性數據特性時，使得到的低維數據既保留了原始數據全局最大方差信息，又保持了數據的局部結構，而且低維數據中的故障樣本的故障波動變得更加平穩。針對MKLPP方法對微小故障的檢測率低的缺點，提出一種MEWMA-MKLPP方法，通過對過程數據的加權處理，使得該方法對過程中的微小故障具有較高的檢測率。對上述方法均采用TE過程數據進行仿真實驗，結果驗證了所提出方法的有效性。