基于互信息的分散式動態PCA故障檢測方法

童楚東，藍艇，史旭華

?

基于互信息的分散式動態PCA故障檢測方法

童楚東，藍艇，史旭華

（寧波大學信息科學與工程學院，浙江寧波 315211）

對現代大型復雜動態過程來講，不同測量變量會存在不同的序列相關性，而且變量間的相互影響會體現在不同的采樣時刻上。為此，結合利用分散式建模的優勢，提出一種基于互信息的分散式動態過程故障檢測方法。該方法在對每個測量變量都引入多個延時測量值后，利用互信息為每個變量區分出與其相關的測量值，并建立起相應的變量子塊。這種變量分塊方式使每個變量子塊都能充分地獲取與之相對應的自相關性與交叉相關性信息，較好地處理了數據的動態性問題。然后，利用主元分析（PCA）算法對每一變量子塊進行統計建模從而建立起適于大規模動態過程的多模塊化的故障檢測模型。最后，通過實例驗證該方法用于動態過程監測的可行性和有效性。

主元分析；過程系統；互信息；故障檢測；統計過程監測

引 言

近年來，數據驅動的故障檢測方法因其簡單通用性，已作為保障生產安全的重要技術手段而得到了研究者們的重視[1-2]。針對以主元分析（principal component analysis，PCA）為代表的多變量統計過程監測方法的研究已經受到了工業界和學術界的廣泛關注，其基本思想都是從工業過程采集的數據中挖掘出能反映過程運行狀況的潛在信息[3-4]。這類方法能避免建立精確的過程機理模型，因而很適合于監測現代大型復雜化工業過程。

通常來講，傳統的PCA故障檢測模型假設過程變量滿足獨立同分布，即要求測量變量序列不相關。但現代復雜工業過程由于廣泛采納先進計算機與DCS技術，采樣數據間不可避免地存在序列相關性，即存在動態特性。為解決這一動態過程故障檢測問題，Ku等[5]提出先在過程數據矩陣中引入延時測量值構成增廣矩陣后再對其進行PCA建模，這也就是動態PCA（dynamic PCA，DPCA）及其他類似方法的基本出發點[5-6]。Kerkhof等[7]結合利用自回歸模型與偏最小二乘回歸算法來消除數據自相關性與交叉相關性的影響，解決了間歇動態過程監測問題。Li等[8]通過在數據投影變換的過程中區分過程數據的自相關性和交叉相關性，使提取的數據動態潛隱成分（dynamic latent variables，DLV）具有很好的可解釋性，進而提出了一種基于DLV算法的動態過程故障檢測方法。然而，考慮到現代工業過程數據的復雜性，不同測量變量會存在不同的自相關性，而且變量間的相互影響(即交叉相關性)會體現在不同的采樣時刻上。因此，動態過程故障檢測問題還有待進一步深入研究。

此外，工業過程規模的大型化發展趨勢已逐步凸顯出單個集中的故障檢測模型的局限性，分散式故障檢測方法更適合于處理大規模工業過程監測問題。Zhang等[9-10]詳細研究了針對大型過程的分散式故障檢測策略，提出了多種多模塊化的監測思路。可是，這類基于多模塊化算法的分散式故障檢測模型需要以過程機理和生產結構等知識為前提對測量變量做多分塊化處理。可想而知，若先驗知識不充分，就無法建立分散式的多塊故障檢測模型。為此，有學者提出完全從數據統計特性角度出發的變量分塊方法，在不需要任何機理知識的前提下實現了基于純數據的分散式故障檢測[11-13]。無可否認，分散式建模方法在進行分塊化處理的過程中能降低過程數據分析的復雜度，在監測大型工業過程對象時常表現出優越的性能。然而，在這些方法中，前面所提及的過程數據的動態性問題卻未得到充分的研究。

本文針對前述動態過程故障檢測與分散 式建模的不足，提出一種基于互信息（mutual information，MI）的分散式動態PCA建模方法并將其應用于工業過程故障檢測。在信息論領域里，互信息常用來度量一個隨機變量中包含的另一個隨機變量的信息量[14]。MI的這種度量相關性的方式不局限于單純的線性關系，對變量之間的非線性關系也能進行評估[15]。本文首先對每個測量變量都引入多個延時測量值，然后針對每個測量變量，利用互信息區分出與其相關的測量值并建立起相應的變量子塊。最后，對每一變量子塊進行PCA建模從而建立起適于大規模動態過程的多模塊化的故障檢測模型。基于MI-DPCA方法的有效性與優越性將在標準Tennessee Eastmann（TE）[16]仿真實驗平臺上通過對比分析進行驗證。

1 基本方法

1.1 PCA與DPCA

PCA算法旨在提取相互正交的主元以摒除原始數據空間的冗余信息而保留大量的方差信息[3]。通過對經過標準化處理后的數據矩陣（為樣本數，為變量數）進行奇異值分解，可建立PCA統計模型，即[1]

若是考慮過程數據序列相關性，可對引入前個時刻的測量值，構成如下增廣型矩陣[5]

1.2 互信息

互信息（MI）是信息論里一種無參數、非線性的測度指標，它可以用來評估兩個測量變量間的相關性。目前，多變量統計過程監測領域也有一些借鑒互信息分析處理過程數據的研究成果[17-18]。設兩個隨機變量和的聯合分布為，邊緣概率分別為和，互信息則定義為

若和之間不存在重疊的信息，即相互獨立時，互信息值等于0。反之，若兩者間的相關性越高，互信息值越大。值得注意的是，求解需要已知各變量的分布密度概率，實際應用中通常是使用核密度估計方法來確定對應的概率值。

2 基于MI-DPCA的過程監測方法

2.1 基于MI分散式動態過程建模方法

考慮到復雜動態過程變量間的相關性交錯，不同測量變量會存在不同的序列相關性，而且變量間的相互影響會體現在不同的采樣時刻上。為了更好地描述每個測量變量的動態性，提出如圖1所示變量分塊方法。具體的實施步驟介紹如下。

圖1 基于MI的變量分塊方法

（1）為每個變量引入個時刻的測量值構成增廣型數據矩陣；

（4）對所得到個變量子塊分別建立基于PCA算法的故障檢測模型，即

從上述步驟中可知，每個子塊中包含的變量是最能用來描述相應測量變量的動態性。與DPCA直接用所有個變量進行分析相比，本文所涉及的變量選擇方法能剔除某些不相關變量的“干擾”影響，從而使子塊PCA模型更好地反映出每個測量變量的動態性特征。因此，MI-DPCA方法在監測動態過程運行狀況時理應能取得更優越的故障檢測效果。

2.2 基于MI-DPCA模型的過程監測方法

值得指出的是，相比于DPCA與DLV方法，MI-DPCA方法因使用互信息與分散式建模方法而導致其計算量有所增加。然而，互信息與分散式PCA模型都是在離線建模階段進行的，不會對在線故障檢測直接產生影響。另外，基于貝葉斯推理的在線故障監測指標的概率融合只涉及簡單的數學計算，在計算機處理器飛速發展的今天，所增加的在線計算量幾乎可以忽略不計。

3 仿真實驗研究

TE仿真模型因其反應過程和生產結構的復雜性，已經成為測試不同控制方法和過程監測策略的標準實驗平臺[20-22]。TE過程的流程如圖2所示，主要由連續攪拌反應器、產品冷凝器、氣液分離塔、汽提塔和離心式壓縮機5個生產單元組成。TE過程可連續測量22個過程變量和12個操作變量，還可以仿真模擬如表1所列的21種不同的故障類型，詳細資料可見文獻[16]。在本文的研究中，選取過程可連續測量的33個變量作為監測變量，詳情可見文獻[11]。過程的測試數據可從網站http://web.mit. edu/braatzgroup/links. html上下載，所有的故障測試數據集都是從160個采樣時刻后引入非正常工況。

圖2 TE過程結構

離線建模階段，利用正常工況下的960個樣本建立DPCA、DLV[8]和MI-DPCA的過程監測模型以作對比分析用，置信限統一取值99%。其中，DLV故障檢測模型采用的是3個監測統計量，、以及Q，分別用于監測動態潛隱成分、靜態潛隱成分以及殘差。除此之外，相應的模型參數設置與原始文獻[8]一致，有關DLV的詳細介紹可見文獻[8]，這里不再贅述。按照Ku等[5]提出的方法，在DPCA與MI-DPCA模型中，確定引入的延時測量值個數，保留的主元個數通過累計方差貢獻率（CPV≥85%）準則求得。而在MI-DPCA模型中，同樣引入個延時測量值，每個子塊中選擇的變量個數，且每個子塊PCA模型中的主元個數都通過CPV≥85%準則進行設置。

首先，將3種故障檢測模型用于監測TE過程21種故障工況，并計算針對每種故障監測的故障漏報率，詳情列于表1中。值得注意的是，故障3、9和15由于對過程的影響甚微，很多文獻都證實這3種故障是很難被有效地檢測出來的[8,21]。因此，在本研究中不予考慮。在表1中，取得最小漏報率的監測指標已用黑體標出。顯而易見，MI-DPCA方法在絕大多數故障類型上能取得優越于傳統DPCA以及DLV方法的故障檢測結果。尤其是針對故障10與16，故障漏報率得到大幅度下降。這主要是因為MI-DPCA方法為每個測量變量選擇與之相關的不同延時測量值，極大地遏制了不相關測量值的負面影響。因此，所建立的子塊PCA模型能更好地描述相應測量變量的動態性特征，降低了故障漏報的可能性。為了更好地體現MI-DPCA相對于DPCA與DLV方法的優越性，特將故障16的過程監測圖顯示于圖3中。從圖中可以較直觀地看出3種方法在監測故障16時的漏報情況。此外，雖然MI-DPCA方法未能在故障1、2、和19上取得最佳監測效果，但是相應的漏報率值相差微乎其微。值得指出的是，針對故障5，MI-DPCA方法的故障檢測率明顯低于DLV方法，但從圖4中的監測結果來看，兩者都能在第一時間觸發故障警報并持續一段時間。從工程實踐角度來看，這不會影響MI-DPCA方法針對故障5的監測效果。

圖3 故障16的過程監測結果

圖4 故障5的過程監測結果

表1 TE過程故障漏報率

其次，為進一步說明MI-DPCA方法的有效性，還需對比分析3種方法的故障誤報率，即將正常數據樣本錯誤的判別為故障。通常來講，較低的故障漏報率會對應著較高的故障誤報率。因此，利用另外一組500個正常樣本組成的測試數據集測試DPCA、DLV以及MI-DPCA方法對正常工況的誤報率，詳情列于表2中。從表中可以看出，MI-DPCA方法的兩個統計量都能取得最低的故障誤報率。相比于其他兩種方法，本文所提出的MI-DPCA方法更可靠。通過上述對比分析，充分驗證了基于MI-DPCA的過程監測方法的優越性和有效性。

表2 TE過程故障誤報率

4 結 論

本文提出了一種基于MI-DPCA的統計過程監測方法。考慮到不同測量變量會存在不同的自相關性且變量間的相互影響（即交叉相關性）會體現在不同的采樣時刻上，該方法利用互信息為每個測量變量單獨的找出與之相關的測量值。在此基礎上得到的變量子塊能較好地解決復雜動態過程在不同時滯上的相關性交錯問題。該方法還利用了分散式建模的方式用多個統計監測模型并行實施故障檢測，在針對大規模過程對象的監測問題上，理應取得較好的故障檢測結果。在TE過程上的仿真研究也通過實例說明了MI-DPCA方法優越于DPCA與DLV方法。然而，MI-DPCA仍舊是一種線性建模方法，傳統PCA監測模型的缺陷同樣存在于MI-DPCA模型中。如何應對非線性、非高斯、多工況的復雜過程對象對下一步的工作提出了挑戰。此外，本文的研究只限于故障檢測，還未涉及后續的故障診斷，未來還需要開展相應的研究工作。

References

[1] GE Z, ONG Z, GAO F. Review of recent research on data-based process monitoring [J]. Industrial & Engineering Chemistry Research, 2013, 52 (10): 3543-3562.

[2] YIN S, DING S X, XIE X,. A review on basic data-driven approaches for industrial process monitoring [J]. IEEE Transactions on Industrial Electronics, 2014, 61 (11): 6418-6428.

[3] QIN S J. Statistical process monitoring: basics and beyond [J]. Journal of Chemometrics, 2003, 17 (7/8): 480-502.

[4] 童楚東, 史旭華. 基于互信息的PCA方法及其在過程監測中的應用 [J]. 化工學報, 2015, 66 (10): 4101-4106. TONG C D, SHI X H. Mutual information based PCA algorithm with application in process monitoring [J]. CIESC Journal, 2015, 66 (10): 4101-4106.

[5] KU W, STORER R H, GEORGAKIS C. Disturbance detection and isolation by dynamic principal component analysis [J]. Chemometrics & Intelligent Laboratory Systems, 1995, 30 (1): 179-196.

[6] FAN J, WANG Y. Fault detection and diagnosis of nonlinear non-Gaussian dynamic processes using kernel dynamic independent component analysis [J]. Information Science, 2014, 259: 369-379.

[7] KERKHOF P V D, GINS G, VANLAER J,. Dynamic model-based fault diagnosis for (bio)chemical batch processes [J]. Computers & Chemical Engineering, 2012, 40: 12-21.

[8] LI G, QIN S J, ZHOU D. A new method of dynamic latent-variable modeling for process monitoring [J]. IEEE Transactions on Industrial Electronics, 2014, 61 (11): 6438-6445.

[9] ZHANG Y, ZHOU H, QIN S J,. Decentralized fault diagnosis of large-scale processes using multiblock kernel partial least squares [J]. IEEE Transactions on Industrial Informatics, 2010, 6 (1): 3-10.

[10] ZHANG Y, MA C. Decentralized fault diagnosis using multiblock kernel independent component analysis [J]. Chemical Engineering Research Design, 2012, 90 (5): 667-676.

[11] TONG C, SONG Y, YAN X. Distributed statistical process monitoring based on four-subspace construction and Bayesian inference [J]. Industrial & Engineering Chemistry Research, 2013, 52 (29): 9897-9907.

[12] GE Z, SONG Z. Distributed PCA model for plant-wide process monitoring [J]. Industrial & Engineering Chemistry Research, 2013, 52 (5): 1947-1957.

[13] JIANG Q, WANG B, YAN X. Multiblock independent component analysis integrated with Hellinger distance and Bayesian inference for non-Gaussian plant-wide process monitoring [J]. Industrial & Engineering Chemistry Research, 2015, 54 (9): 2497-2508.

[14] LI W. Mutual information functionscorrelation functions [J]. Journal of Statistical Physics, 1990, 60 (5/6): 823-837.

[15] HAN M, REN W, LIU X. Joint mutual information-based input variable selection for multivariate time series modeling [J]. Engineering Applications of Artificial Intelligence, 2015, 37: 250-257.

[16] DOWNS J J, VOGEL E F. A plant-wide industrial process control problem [J]. Computers & Chemical Engineering, 1993, 17 (3): 245-255.

[17] VERRON S, TIPLICA T, KOBI A. Fault detection and identification with a new feature selection based on mutual information [J]. Journal of Process Control, 2008, 18 (5):479-490.

[18] JIANG Q, YAN X. Plant-wide process monitoring based on mutual information-multiblock principal component analysis [J]. ISA Transactions, 2014, 53 (5): 1516-1527.

[19] GE Z, SONG Z. Multimode process monitoring based on Bayesian method [J]. Journal of Chemometrics, 2009, 23 (12): 636-650.

[20] 趙忠蓋, 劉飛. 因子分析及其在過程監控中的應用 [J]. 化工學報, 2007, 58 (4): 970-974. ZHAO Z G, LIU F. Factor analysis and its application to process monitoring [J]. Journal of Chemical Industry and Engineering (China), 2007, 58 (4): 970-974.

[21] TONG C, PALAZOGLU A, YAN X. Improved ICA for process monitoring based on ensemble learning and Bayesian inference [J]. Chemometrics & Intelligent Laboratory Systems, 2014, 135: 141-149.

[22] 韓敏, 張占奎. 基于改進核主成分分析的故障檢測與診斷方法 [J]. 化工學報, 2015, 66 (6): 2139-2149. HAN M, ZHANG Z K. Fault detection and diagnosis method based on modified kernel principal component analysis [J]. CIESC Journal, 2015, 66 (6): 2139-2149.

Fault detection by decentralized dynamic PCA algorithm on mutual information

TONG Chudong, LAN Ting, SHI Xuhua

(Faculty of Electrical Engineering & Computer Science, Ningbo University, Ningbo 315211, Zhejiang, China)

For modern large-scale complex dynamic processes, different measured variables have their own serial correlations and interactions among these variables show on different time points. A mutual information based dynamic fault detection method was proposed by an advantageously decentralized modeling strategy. After made multiple time-delayed observations on each variable, the relevant measurements for the variable were separated from all observations by utilizing mutual information and corresponding variable sub-blocks were created. This approach of variable grouping allowed each variable sub-block to capture sufficient information about its own self- and inter-correlations such that the dynamic characteristics of process data could be well analyzed. The principal component analysis (PCA) algorithm was employed to construct statistical modeling on each variable sub-block and a decentralized dynamic fault detection model for large-scale dynamic process. The feasibility and effectiveness of the proposed method on dynamic process modeling were validated by a case study of a chemical process.

principal component analysis; process systems; mutual information; fault detection; statistical process monitoring

2016-02-29.

TONG Chudong, tongchudong@nbu.edu.cn

10.11949/j.issn.0438-1157.20160218

TP 277

A

0438—1157（2016）10—4317—07

國家自然科學基金項目（61503204）；浙江省自然科學基金項目（Y16F030001）；浙江省公益技術研究項目（2015C31017）；浙江省信息與通信工程重中之重學科開放基金項目（XKXL1526）。

2016-02-29收到初稿，2016-07-14收到修改稿。

聯系人及第一作者：童楚東（1988—），男，博士，副教授。

supported by the National Natural Science Foundation of China (61503204), the Natural Science Foundation of Zhejiang Province (Y16F030001), the Science & Technology Planning Project of Zhejiang (2015C31017) and the Key Discipline Fund of Information and Communication Engineering of Zhejiang (XKXL1526).