ARIMA算法在工業控制器故障預測的應用

馮 劍,姚罕琦,黃嘯虎,胡欽炫

(浙江中控技術股份有限公司，浙江 杭州 310053)

0 引言

工業控制器在現代工業控制系統中，有著舉足輕重的地位，是控制系統的大腦。但在實際的工業場景中，高溫、濕度、化學腐蝕等惡劣環境，都會讓控制器的硬件元件(如電容、電阻、三極管等)加速老化損壞，從而引起控制器功能失效，進而造成整個工業過程控制失效。這可能導致巨大的生產故障和生命財產損失。所以在控制器故障發生的早期，即還未對生產過程造成損害之前，就及時檢測出控制器故障，并提前對其進行故障排除和有針對性的維修，對工業安全生產有著十分重要的意義。

工業控制器是復雜的、集成度很高的電子系統，由多種不同功用的電子元件組成。這些電子元件的特點是很難建立壽命模型來描述當前狀態與壽命之間的關系，而且元器件之間會互相影響，當1個元器件失效或者半失效會影響其他元器件的狀態。工業控制器的上述特性，增加了人們對其故障預測的建模難度。

現代工業系統可以采集海量的過程運行數據，為基于數據的故障預測方法奠定基礎。其原理是通過各種數據分析方法挖掘出其中的隱含信息并進行預測操作，從而避免“難以獲得動態模型、不適合預測間歇性故障”等瓶頸出現，是1種實用的故障預測方法[1]。其中，時間序列分析是1種重要的現代統計分析方法，被廣泛應用于自然、社會、科研等各個領域。它描述的是某一變量自身的統計規律性，根據序列自身的統計相關關系，揭示相應系統的動態結構特性及其發展變化規律[2]。如：有的研究者提取車輛設備振動特征的時序數據，建立了振動故障序列自回歸滑移平均模型(auto-regressive moving average model,ARMA)，為進一步提取故障征兆信息及故障發展趨勢預測提供了條件[3-5]；有的研究者將隸屬監督學習的機器學習算法和時間序列分析算法相結合進行預測，即利用時序算法計算得到學習樣本，在此基礎上建立神經網絡模型或者包含專家經驗的模糊數學隸屬度函數，從而為預測工業故障開辟了新的道路[6-9]；還有的研究者使用非監督學習算法結合時間序列分析進行預測實踐，即結合無監督學習的無需先驗知識及人工打標簽等優點到時序算法中，取得了一定的效果[10-13]。

在上述研究成果的基礎上，本文結合聚類算法，提出了1種用自回歸積分滑動平均模型(auto-regressive integrated moving average model,ARIMA)預測工業控制器硬件故障的方法，并通過試驗驗證了該方法的可行性。

1 預測研究原理及方案

1.1 預測原理

工業控制器的硬件故障，可以從其各個電子原件的運行參數異常來判斷。如輸入/輸出(input/output,I/O)管腳原件老化異常，其電壓會偏離常規的范圍。本文選取了能表現控制器硬件故障的特征(CPU電壓、I/O管腳電壓、電源電壓)，對每個特征建立相應的ARIMA，從而預測未來值。當未來值不在正常范圍內，則認為控制器硬件出現故障。

ARIMA的數據樣本要求具有平穩性，否則預測結果會不準確。考慮到各個電子元件在運行期間會相互影響，導致它們的運行參數會有相關性，如CPU電壓在某個范圍波動，則I/O電壓也一定會在某個范圍內波動。所以本文將待預測的所有特征的實時值合成1個特征向量作為計算單元，再使用k-medoids聚類算法將每個單位時間內的多個特征向量進行聚類，獲得該單位時間的聚類中心，即可獲得每個特征在該單位時間的中心值。對連續時間單位進行聚類操作，即可獲得每個特征的連續時間序列作為ARIMA的學習樣本。

1.2 ARIMA

ARIMA的基本思想是將預測對象隨時間推移而形成的數據序列視為1個隨機序列，以時間序列的自相關分析為基礎，用一定的數學模型近似描述這個序列。這個模型一旦被識別后就可以依據時間序列的過去值及現在值來預測未來值[14]。ARIMA由自回歸(auto-regressive,AR)模型、移動平均(moving average,MA)模型、差分(integrated,I)法結合而成。

AR描述當前值與歷史值之間的關系，用變量自身的歷史時間數據對自身進行預測。首先，需要確定1個階數p，以表示用幾期的歷史值來預測當前值。p階自回歸模型的計算式定義為：

(1)

式中:yt為t時刻的值，t取0,1,2,...；μ為常數項；γi為第i階的自相關系數；εt為t時刻的誤差；p為自回歸過程階數。

MA關注自回歸模型中的誤差項的累加，q階自回歸過程的計算式定義如下。

(2)

式中:q為自回歸移動的平均過程階數；θi為第i階模型的估計系數。

移動平均法能有效地消除預測中的隨機波動。結合AR和MA，可獲得ARMA(p,q)。計算式定義如下。

(3)

再結合差分法，即可獲得ARIMA(p,q,d)。其中，d是需要對數據進行差分的階數，即差分項，一般取1階或者2階即可。p和q可通過自相關函數(autocorrelation function,ACF)和偏自相關函數(partial autocorrelation function,PACF)預估，再通過貝葉斯信息準則(Bayesian information criterion,BIC)進行最后確認。

BIC是衡量統計模型擬合優良性的1種標準，計算式如下。

BBIC=k× ln(n)-2ln(L)

(4)

式中:k為模型參數個數；n為樣本數量；L為似然函數。

1.3 聚類算法選擇

ARIMA算法的學習樣本是每個時間單元內、能反映當前特征情況的、有代表性的數值。由于工業環境復雜惡劣，采集的數據可能包含一定的噪聲，所以需要選擇1種既能夠去除異常數據又可以提取特征值的算法。監督學習算法雖然可以實現上述目標，但需要大量的對于數據的打標簽工作。標簽值也來自于人的經驗，在實際工業龐大數據量的情況下，隸屬于監督學習的算法費時費力且精度不高，不適合本文的場景。以聚類算法為代表的無監督學習算法可根據數據特征自主判斷異常值和特征值，無需人工參與，工作量小，精確度也較監督學習算法高。雖然計算復雜度較高，但是本文場景的時間單元內只有30個樣本值，所以計算速度并不低。因此，聚類算法是本文場景的第一選擇。聚類算法有很多，考慮到本文聚類的目的是通過聚2類獲得大多數樣本的聚類中心、去除噪聲等小數量樣本，所以選擇基于質心的聚類算法(如k-means和k-medoids算法)較為合適。

k-means算法中選取的中心點為當前類中所有點的重心，而k-medoids算法選取的中心點為當前cluster中存在的1點，準則函數是當前cluster中所有其他點到該中心點的距離之和最小[15]。正因為中心點較之均值更不容易被“噪聲”和“極端異常值”影響，所以本文選擇k-medoids算法進行數據處理。

k-medoids算法的數據處理流程如下。

①在總體n個樣本點中任意選取k個點作為medoids。

②按照與medoids最近的原則，將剩余的(n-k)個點分配到當前最佳的medoids代表的類中。

③對于第i類中除對應medoids點外的所有其他點，按順序計算當其為新的medoids時準則函數的值，遍歷所有可能，選取準則函數最小時對應的點作為新的medoids。

④重復步驟②～步驟③的過程，直到所有的medoids點不再發生變化或已達到設定的最大迭代次數。

⑤產出最終確定的k個類。

1.4 預測研究過程

①生成樣本。

選擇控制器每秒的CPU電壓、I/O管腳電壓、電源電壓3個硬件故障特征參數，合成1個3維向量。選取每30 s為1個時間單位，其30個向量使用k-medoids算法進行聚2類操作，獲得中心向量。獲取n個連續時序的中心向量，每個硬件故障特征擁有n個順序時序樣本。

②建立ARIMA。

對每組硬件故障特征樣本進行平穩性分析，并作d階差分，判斷其是否平穩，從而確定d值。

觀察序列的ACF、PACF，當其均呈衰減正弦波并趨向于零，表現為拖尾性時，則根據其拖尾起始位置確認p和q的取值范圍。利用BIC獲取最優的p值和q值，從而建立ARIMA。

③優化ARIMA。

對ARIMA的殘差進行白噪聲檢驗，如果檢驗不通過則調整p值和q值，最終建立通過白噪聲檢驗的ARIMA。

④故障預測。

為每個硬件故障特征建立1個ARIMA。利用ARIMA(p,d,q)進行預測，將預測結果與實際樣本進行比較，觀察預測曲線的擬合度，以及預測故障時間與真實控制器故障時間的一致程度。

2 研究實踐與結果分析

2.1 搭建實踐環境

本文選擇中控ECS 700控制器作為故障預測對象。在控制器的集成電路中嵌入1顆老化的電阻，讓其長期運行。由于電阻老化，控制器會在幾天之內迅速故障，可大幅度縮短試驗所需時間。

編寫程序，讓控制器以1次/秒的頻率通過工業控制網上報前述的3個特征參數給控制通信主機，即CPU電壓、I/O管腳電壓、電源電壓這3個特征參數。主機端存儲實時數據到Mysql數據庫。研究人員通過工業信息網從數據庫獲得樣本，使用Python3.5進行研究實踐，分析預測結果。

試驗環境如圖1所示。

圖1 試驗環境

2.2 采集樣本

本文從某天13∶10開始采集樣本，至第2天8∶15控制器開始出現故障，即控制器上報的CPU電壓、I/O管腳電壓均超出閾值，至第2天13∶09控制器上報的電源電壓也出現故障。

采集樣本數為86 400個(24 h)，選擇前57 600個(16 h)樣本作為學習樣本，后28 800個(8 h)樣本進行預測結果對比驗證。

每個樣本都是由每秒的“CPU電壓(C)、I/O電壓(I)、電源電壓(S)”組成向量V=[C,I,S]。

CPU電壓的正常波動范圍是1.7～1.9 V。I/O管腳電壓的正常波動范圍是3.1～3.5 V。電源電壓的正常波動范圍是18～35 V。

對采集的樣本進行觀察，樣本第19小時15分1秒的實時向量為[2.08,3.59,33.34]，即CPU電壓為2.08 V、I/O管腳電壓為3.59 V，都超過了正常波動范圍，可判斷為控制器硬件故障；第21小時1分18秒的實時向量為[2.39,3.79,35.8]，即電源電壓為35.8 V，也超過了正常波動范圍。

2.3 生成時序模型樣本

本文選擇30 s為1個聚類單位時間，包含30個特征向量，使用k-medoids算法聚2類。以聚集樣本多的那類中心點作為本單元的特征向量。不同單位時間內30個特征樣本聚2類結果如圖2所示。

圖2 不同單位時間內30個特征樣本聚2類結果

如在某個單位時間內，使用Python3.5實現k-medoids算法對30個特征樣本進行聚2類，得到圖2(a)。圖2(a)中，左下角有27個樣本，而右上角只有3個樣本。按照取樣本多的那類原則，取左下角那一族樣本的中心向量為該時間單元的特征向量，表征該時間單元3個參數(即CPU電壓、I/O管腳電壓、電源電壓)的特征。

再如某個單位時間內，同樣進行聚2類操作，得到如圖2(b)。圖2(b)中，左下角有12個樣本，而右上角有18個樣本。按照取樣本多的那類原則，取右上角那族樣本的中心向量為該時間單元的特征向量。

如上所述，利用k-medoids算法，對86 400個(24 h)樣本進行計算，獲得2 880個3維向量。這些向量中，已經除去了有明顯噪聲的數據，可以反映每30 s時間單位內(即CPU電壓、I/O管腳電壓、電源電壓)的特征。

從2 880個3維向量，分別獲得如圖3所示的3個特征的順序時間序列曲線。

圖3中，橫實線表示特征值的正常范圍。

圖3 順序時間序列曲線

2.4 確定ARIMA的參數

本文為3個特征分別建立3個ARIMA。本小節詳細論述了CPU電壓的ARIMA建模過程，而I/O管腳電壓、電源電壓的ARIMA建模過程與之相同，在此不作贅述。

2.4.1 參數d

首先檢測CPU電壓時序樣本的穩定性。

取CPU電壓時序數據前1 920個數據(前16 h)作為訓練樣本。如果樣本是非穩定時序，則ARIMA預測的結果不準確。利用Statsmodels算法庫進行單位根檢驗(augmented dickey-fuller test,ADF)，監測結果表明單位檢測統計量為0.811，明顯大于0.05，說明存在單位根。所以CPU電壓時序樣本是非穩定的，需要進行差分處理。

利用pandas算法庫進行1階差分操作，再次對1階差分結果進行穩定性檢測，得到單位檢測統計量為6.93e-28，已經遠小于0.05。因此，可認為其是穩定序列，則參數d=1。

2.4.2 階數p和階數q

使用CPU電壓1階差分后的樣本，繪制CPU電壓ACF圖及PACF圖分別如圖4、圖5所示。

圖4 CPU電壓ACF圖

圖5 CPU電壓PACF圖

由圖4、圖5可知，ACF在1階以后出現了明顯的截尾，而PACF在15階以后出現拖尾情況。則初設p=0、q=1。

利用BIC對模型ARIMA(p,1,q)進行試驗，從而獲得最佳p值和q值的組合。試驗后發現，p=0、q=1時，BIC函數最小，所以認為ARIMA(0,1,1)是最優參數。

因為ARIMA是在假設隨機干擾項是1個白噪聲的基礎上進行的，所以模型的殘差需要驗證是1個白噪聲序列。如果不能驗證為白噪聲序列，則說明殘差中還有有用的信息，需要重新調整p和q的值。

使用1 920個原始樣本(16 h)訓練模型對訓練結果的殘差進行ADF，獲得單位檢測統計量為0.0。這說明殘差不具有相關性，ARIMA(0,1,1)訓練后的模型可用于預測。

2.5 預測結果驗證

使用建立好的CPU電壓ARMIA，進行8 h(24 h中前16 h的數據為訓練樣本)的預測，獲得960個預測結果，并與真實樣本(24 h中后8 h)進行比較。CPU電壓ARMIA預測值與實際值對比如圖6所示。

圖6 CPU電壓ARMIA預測值與實際值對比圖

由圖6可知，預測值(虛線)與真實值在5 h內較為貼近，擬合效果較好，從第6 h開始偏差較大。這是因為控制器內部硬件故障導致模型突變，先前使用的訓練樣本和模型參數已經不足以實現較精準預測。

樣本顯示第二天的8∶15∶31—8∶16∶00這個聚類區間，CPU電壓為19.16 V，高于正常范圍；預測結果顯示第二天的8∶16∶31—8∶17∶00期間CPU電壓為19.02 V，高于正常范圍。該結果落后真實情況2個聚類時間區間。

由于預測的結果是1個30 s內的中心值，因此對于實際的故障預測效果進行再次驗證。從預測結果來看，預測第二天的8∶16∶31—8∶17∶00這個30 s區間出現超過閾值的CPU電壓數值，即從第二天的8∶16∶31開始CPU電壓不正常、控制器出現故障。真實情況是從第2天8∶15∶00開始，CPU電壓出現在閾值之外的情況，從此CPU電壓一直異常，即控制器從第二天8∶15∶00開始故障。

所以利用對CPU電壓的預測結果進行控制器故障預測，會晚3個聚類時間區間。其中，有1個區間的誤差是由于樣本采集方式導致的。因為ARIMA的樣本是1個30 s區間的中心值，如果CPU電壓數值異常(超出正常范圍)不是該區間內的主要狀態，則該區間的樣本值并不會是CPU電壓異常值，預測的結果也會是正常值，導致預測結果產生誤差。

I/O管腳電壓和電源電壓預測值與實際值對比分別如圖7、圖8所示。

圖7 I/O管腳電壓預測值與實際值對比圖

圖8 電源電壓預測值與實際值對比圖

由圖7、圖8可知，I/O管腳電壓和電源電壓的預測結果在前期與其樣本值的擬合度較高，后期由于硬件故障而超出模型的預測范圍，導致預測精度有所下降。

通過細致的觀察可以發現，I/O管腳電壓的ARIMA預測硬件出現故障的時間節點是在第二天的8∶17∶31，而實際I/O管腳電壓出現電壓值突變的時間節點為第二天的8∶16∶10。I/O管腳電壓的ARIMA預測硬件出現故障的時間比實際出現故障的時間晚了近3個聚類時間區間。

同樣的，電源電壓的ARIMA預測硬件出現故障的時間節點是在第二天的9∶01∶31，而實際電源電壓出現電壓值突變的時間節點為第二天的8∶58∶40。電源電壓的ARIMA預測硬件出現故障的時間比實際出現故障的時間晚了近4個聚類時間區間。

3 結論

本文探索了1種預測工業控制器故障的方法，即分別對CPU電壓、I/O管腳電壓、電源電壓這3個特征建立ARIMA，并驗證了該方法的可行性。模型訓練樣本使用k-medoids算法。以30 s為1個時間單元進行聚2類操作。研究結果表明，每個特征的ARIMA預測結果與真實結果非常接近，預測特征值出現異常只比真實情況晚3～4個聚類時間區間，即時延在2 min以內。因此，本文的研究結果為預測控制器故障提供了思路。

盡管本文提出的預測方法對于控制器運行故障的中短期預測達到了良好的效果，但對于長期預測的效果不理想，即預測2 d后的故障準確率逐漸下降。這既是ARIMA算法本身造成的，又和每個預測步長的設定有關。然而，模型可根據設定的時間步長實現連續多步預測，并不斷更新預測結果，實現長時間預測。同時，本文目前設定的預測步長為30 s，后期工作中在保證預測準確性的情況下將增加預測步長，從而擴大有效預測結果的時間范圍。同時，后期將結合灰色預測算法，實現控制器故障的中長期預測。