基于MSVM的多品種小批量動態過程在線質量智能診斷

劉玉敏　周昊飛

鄭州大學，鄭州，450001

基于MSVM的多品種小批量動態過程在線質量智能診斷

劉玉敏周昊飛

鄭州大學，鄭州，450001

提出了基于多分類支持向量機(MSVM)的多品種、小批量動態過程在線質量智能診斷方法。離線訓練時，提取異常模式仿真數據的小波重構特征，對MSVM識別和估計模型進行訓練和測試，同時建立異常因素診斷庫；在線診斷時，對“監控窗口”數據特征的過程模式及參數進行識別與估計，而后利用異常因素診斷庫實現對多品種、小批量動態過程實時在線智能診斷。某精密軸加工過程實例驗證了該智能診斷方法的有效性。

多品種小批量；質量異常模式；小波重構；分類支持向量機(MSVM)；在線智能診斷

0　引言

隨著市場競爭的加劇、顧客個性化需求程度的不斷提升，眾多制造型企業的生產方式已由大批量、規模化逐漸向多品種、小批量動態化轉變[1-2]。多品種、小批量生產因產品數量少、生命周期短等特點對動態過程穩定性的要求更高[3]，若未及時發現并消除其動態過程中出現的質量異常波動，會導致整批產品的返修甚至報廢。因此，如何及時準確地診斷多品種、小批量動態過程運行狀態，對及時調整生產過程、提高企業經濟效益具有重要的現實意義。

目前，國內外學者關于動態過程智能診斷的研究多集中于基于特征提取的控制圖模式識別研究，應用的特征主要有統計特征[4]、小波分解特征[5-6]和形狀特征[7-8]等。Vahid等[9]抽取離散小波分解近似系數，建立了基于小波分解特征的多分類支持向量機(multi support vector machine，MSVM)識別模型。Ata等[10]提出小波包分解與徑向基(RBF)神經網絡相結合的識別方法。Vahid等[11]采用統計特征和形狀特征相結合的MSVM識別模型對控制圖異常模式進行識別。這類研究大多通過提取不同的數據特征來提升分類器的整體識別效率。然而，導致過程質量異常的因素眾多，不同的異常因素可能會產生相同的控制圖異常模式。而異常模式中的參數往往反映過程質量異常的程度，異常模式的參數估計恰恰是異常原因診斷的關鍵。樂清洪等[12]基于局部有監督特征映射(RSFM)網絡提出了控制圖在線智能診斷分析系統框架。吳少雄[13]基于小波概率神經網絡提出了統計過程智能診斷系統。它們均是基于神經網絡(ANN)分類器構建的控制圖在線智能診斷系統，通常在大量訓練樣本數據下具有較好的識別能力，適用于大批量生產過程的質量智能診斷。然而，多品種、小批量動態過程往往因樣本數據量較少而難以構建控制圖，且常規控制圖對小波動監控能力不足[14]，使得上述控制圖在線質量智能診斷具有一定的局限性。因此，如何選取適用于小樣本的數據特征和分類器已成為多品種、小批量動態過程在線質量智能診斷的核心問題。

多品種、小批量動態過程中實時測量值形成的動態數據流呈現出上升、下降、向下階躍、周期變化等變化趨勢時，表明該動態過程處于質量異常狀況[15]。小波重構在不減少原始數據量的前提下，通過去除噪聲能更好地顯示原始數據的變化特性[16]，且支持向量機(SVM)通過核函數映射能有效地解決小樣本的非線性模式分類問題[17]。因此，本文提出了基于MSVM的多品種、小批量動態過程在線質量智能診斷框架。離線訓練時，提取質量異常模式仿真數據的小波重構特征，分別對MSVM異常模式識別模型和參數估計模型進行訓練與測試，同時依據實際生產過程中經驗知識建立異常因素診斷庫。在線診斷時，對“監控窗口”數據特征的過程模式及參數進行識別和估計，把估計值與異常因素診斷庫中的參數值進行匹配，對多品種、小批量動態過程運行狀態進行在線智能診斷。最后，以某精密軸加工過程為實例，驗證了該智能診斷方法的有效性。

1　基于MSVM的在線質量智能診斷框架

為了對多品種、小批量生產過程進行在線質量智能診斷，本文提出了基于MSVM的在線質量智能診斷框架，如圖1所示。該框架將多品種、小批量動態過程質量智能診斷劃分為質量異常模式識別、異常模式參數估計和在線過程診斷與調整三個階段。

圖1　基于MSVM的在線質量智能診斷框架

由于多品種、小批量過程實時獲得的測量值具有類型多、同一類測量值數據少的特點，因此，在線監控時本文首先利用基于公差法標準變換將不同類型的實測數據標準化，而后對標準化后的動態數據流進行在線監控及診斷，具體的質量智能診斷步驟如下：

(1)采用公差法對實測數據進行標準化，計算公式如下：

(1)

式中，Sij為第i批產品中第j個測量值轉化后的標準值；Xij為第i批產品中第j個產品質量特性的測量值；Dij為第i批產品中第j個產品質量特性的設計目標值；Tij為第i批產品中第j個產品的設計公差。

(2)階段Ⅰ、階段Ⅱ離線訓練及測試。首先利用蒙特卡羅方法仿真各種待識別、待估計的異常模式訓練、測試樣本，而后提取訓練、測試樣本的小波重構特征，采用小波重構特征對MSVM進行訓練及測試。

(3)階段Ⅲ異常因素診斷庫的建立。依據實際生產過程中實例知識和經驗知識，建立過程異常因素與異常模式參數對應的異因診斷庫。

(4)在線監控。通過移動“監控窗口”讀取動態數據流，在階段Ⅰ中識別當前監控窗口中動態數據流的質量模式。若為異常模式，則進入階段Ⅱ對異常模式的參數進行估計。否則，監控窗口向后移動取值再次進行異常模式識別。

(5)在線診斷與調整。當監控窗口出現異常模式時，把階段Ⅱ估計值與異常因素診斷庫中的參數值進行匹配，查明導致過程異常的原因，而后對加工參數進行及時調整或對生產設備進行補償控制，使動態過程重新處于穩定狀態。

2　基于小波重構的MSVM質量異常模式識別

2.1特征提取

當實時測量數值標準化后，即可對其形成的動態數據流進行連續監控，但動態數據流中仍包含有大量的噪聲。這些由生產過程中不可消除的隨機因素導致的噪聲在一定程度上干擾動態數據流的整體變化趨勢。為了有效地去除動態數據流中的噪聲，且不破壞動態數據流的整體變化趨勢，對由標準化數據Sij構成的動態數據流S(t)進行一維離散小波分解及重構，如圖2所示。

圖2　一維離散小波分解與重構

圖2中一維離散小波分解(DWT)通過高通h[n]、低通g[n]濾波器把動態數據流S(t)分解為高頻細節部分和低頻近似部分，設P0S=S，第j層上的DWT的公式如下：

(2)

j=1，2，…，L；k=0，1，2，…，N/2j-1

式中，cAj為低頻近似系數；cDj為高頻細節系數；N為動態數據流S(t)的長度；L為分解層數；ψ(t)為小波基函數；φ(t)為尺度函數。

經過L層DWT后，動態數據流S(t)中的噪聲主要分布在高頻細節部分中，而S(t)的主要信息分布在低頻部分，故依據下式：

(3)

(4)

分別抽取L層小波分解的低頻近似系數cAL和各層高頻細節系數cDj。而后，采用L層小波分解的低頻近似系數cAL和各層高頻細節系數cDj對S(t)進行重構，形成重構后的數據特征Sc(t):

(5)

2.2MSVM模式識別

SVM采用核函數的方法，將線性不可分的數據映射到高維空間，而后尋找最優分類面來解決線性不可分的兩分類問題[5-6]。由SVM的分類原理可知，單個SVM僅能解決線性不可分的兩分類問題，對于質量異常模式識別這種多分類問題，需要采用多分類支持向量機(MSVM)進行識別。常用的構建MSVM的分類方法主要有一對其余(O-V-P)、一對一(O-V-O)和一半對一半(H-A-H)等幾種[17]，但它們與實際的質量診斷流程均有一定的偏差。本文結合過程質量診斷的實際流程及小波重構后各種異常模式的變化特性，建立了過程質量模式MSVM識別方法。由于實際生產過程中大多為正常狀態，故首先采用SVM1把正常模式與其他5種異常模式進行區分；由于小波重構后的周期模式的變化特性明顯與另外4種模式不同，故采用 SVM2把周期異常模式與另外4種異常模式進行區分；由于上升、向上階躍模式均為向上變化，下降、向下階躍模式均為向下變化，故采用SVM3把上升、向上階躍與下降、向下階躍異常模式進行區分，最后再采用SVM4和SVM5分別識別出上升趨勢、向上階躍、下降趨勢、向下階躍4個異常模式，建立的過程質量模式MSVM識別結構如圖3所示。

圖3　過程質量模式MSVM識別結構

SVM中核函數的選取影響著識別性能，高斯核函數(RBF)在模式分類中表現出較好的識別性能[18]，本文中選取RBF為單個SVM中的核函數，公式如下：

k(x,xi)=exp(-‖x-xi‖/(2σ2))=

exp(-g‖x-xi‖)

(6)

3　基于小波重構的MSVM異常模式參數估計

異常模式的參數估計可為動態過程的異因分析及調整提供依據。在進行異常模式參數估計時，異常模式參數的變化相對較小，異常模式中噪聲很大程度上影響著MSVM的估計性能。多品種、小批量動態過程中因樣本數據量少，采用小波分解對其進行去噪聲處理時易于破壞其變化特性。小波重構提取數據特征的方法不僅能有效去除噪聲，而且在不減少樣本數據量的前提下還能增強原始信息的變化特性。因此，為了進一步增強MSVM對小波動下參數估計的能力，階段Ⅱ中采用基于小波重構的MSVM進行異常模式參數估計。同時為了避免不同參數估計間的互相干擾，采用獨立的MSVM分別估計不同異常模式中的參數。這種獨立的MSVM參數估計方法能有效增強估計模型的適應性，當需要增加新的參數時，在參數估計模型中相應加入一個MSVM即可。本文采用6個獨立的MSVM分別對趨勢型模式的斜率、階躍型模式的階躍幅度以及周期模式的周期和振幅進行估計。估計模型中MSVM采用訓練樣本數據量相對平衡的H-A-H多分類方法，估計趨勢型模式斜率參數的MSVM1結構如圖4所示。

圖4　估計斜率參數的H-A-H MSVM1結構

4　應用實例

以某企業自動化車床加工過程的質量控制為例，驗證面向多品種、小批量動態生產過程的在線質量智能診斷的有效性。該車床主要對精密軸進行自動化加工，目前有三種不同規格的精密軸在該設備上加工，A精密軸的軸徑加工精度等級為IT7，加工尺寸要求為(26±0.015)mm；B精密軸的軸徑加工精度等級為IT8，加工尺寸要求為(30±0.017)mm；C精密軸的軸徑加工精度等級為IT7，加工尺寸要求為(50±0.015)mm。

4.1離線訓練及測試

4.1.1MSVM識別模型離線訓練及測試

采用蒙特卡羅方法仿真多品種、小批量生產過程的實時測量值，公式如下：

S(t)=D+d(t)+r(t)×σ

(7)

式中，D為設計目標值；r(t)為過程隨機因素導致的波動且r(t)～N(0， 1)；σ為過程標準差；d(t)為過程異常因素導致的波動。

為了簡化仿真數據，設定D值為零，每種質量模式的仿真公式如下。

正常模式：

S(t)=r(t)×σ

(8)

上升趨勢模式：

S(t)=r(t)×σ+K×t

(9)

下降趨勢模式：

S(t)=r(t)×σ-K×t

(10)

向上階躍模式：

S(t)=r(t)×σ+b×s

(11)

向下階躍模式：

S(t)=r(t)×σ-b×s

(12)

周期模式：

(13)

式中，K為上升或下降趨勢的變化斜率，取值范圍為[0.1σ，0.24σ]；b為階躍位置，用t0表示階躍時刻，則b=t-t0，階躍前b=0，階躍后b=1；s為階躍幅度，取值范圍為[σ，2.4σ]；T為周期模式的變化周期，取值范圍為[3，17]；A為周期變化幅度，取值范圍為[σ，2.4σ]；σ取實際軸加工過程穩態時的標準差。

現對每種質量模式分別產生120組樣本規模為30的仿真數據，共120×6組仿真數據，取每種質量模式的前20組為訓練樣本，后100組為測試樣本。采用db4小波函數對每種質量模式進行三層一維離散小波分解及重構，5種質量異常模式的小波分解及重構如圖5～圖9所示(橫軸時間t均為量綱一參數)。從圖中可知，第三層低頻近似系數已局部上破壞了原始形狀變化特性，而小波重構后的數據特征在去除噪聲的同時更好地顯示了原始數據的形狀變化特性。

(a)原始數據

(b)三層分解低頻近似系數

(c)小波重構后數據特征圖5　周期模式的小波重構特征

(a)原始數據

(b)三層分解低頻近似系數

(c)小波重構后數據特征圖6　向上階躍模式的小波重構特征

(a)原始數據

(b)三層分解低頻近似系數

(c)小波重構后數據特征圖7　上升趨勢模式的小波重構特征

為驗證本文階段Ⅰ識別模型對動態過程質量異常模式識別的有效性，分別與文獻[9]中基于小波分解近似系數特征的MSVM識別模型Ⅰ、文獻[11]中采用統計特征和形狀特征的MSVM識別模型Ⅱ進行識別精度對比，各識別模型的離線識別結果見表1。

(a)原始數據

(b)三層分解低頻近似系數

(c)小波重構后數據特征圖8　下降趨勢模式的小波重構特征

(a)原始數據

(b)三層分解低頻近似系數

(c)小波重構后數據特征圖9　向下階躍模式的小波重構特征

由表1可知，識別模型Ⅰ的平均識別精度僅為95.83%，主要集中于上升趨勢與向上階躍和下降趨勢與向下階躍間的錯分率較高。結合圖5～圖9中三層小波低頻近似系數的變化趨勢可知，因采用三層小波低頻近似系數特征時破壞了原始數據一些局部上的關鍵信息，而使得模型Ⅰ的識別精度不高。基于統計特征與形狀特征識別模型Ⅱ，因形狀特征在一定程度上彌補了統計特征缺失的細節信息，模型的整體識別精度有所提升，達到97.17%。本文中采用小波重構特征的階段Ⅰ識別模型，因小波重構后的數據特征更好地表達了原始數據的趨勢變化特性，模型的整體識別精度達到98.33%，能更好地應用于質量異常模式識別。

4.1.2MSVM參數估計模型離線訓練及測試

采用式(9)～式(13)，設定周期模式的振幅A的取值范圍為[σ，2.4σ]，每間隔0.2σ取值，周期T的取值范圍為[3，17]，每間隔2取值；上升或下降趨勢的變化斜率k取值范圍為[0.1σ，0.24σ]，每間隔0.02σ取值；向上或向下階躍的階躍幅度s取值范圍為[σ， 2.4σ]，每間隔0. 2σ取值。按照上述設定每種質量異常模式均產生8種不同程度的狀態，對每種狀態分別產生120組仿真數據，取每種狀態的前20組為訓練樣本，后100組為測試樣本。而后，跟MSVM異常模式識別相似，采用db4或Coif3小波函數提取所有樣本數據的小波重構特征，對MSVM估計模型進行訓練及測試，測試結果見表2。

表1　不同識別模型的離線識別精度

4.2在線監控及診斷

將上述離線訓練好的MSVM識別、估計模型集成到圖1所示的在線質量診斷框架中，采用“監控窗口”實時移動取值，設定“監控窗口”寬度為30，窗口的移動步長為1，對精密軸加工過程進行在線質量智能診斷。

當“監控窗口”移動到圖10中第45個加工數據序列時，在階段Ⅰ識別出“監控窗口”內數據流為上升異常模式，而后在階段Ⅱ中估計出向上趨勢的斜率K為0.1σ。對比以往精密軸加工過程歷史數據記錄專家分析而形成的異常因素診斷庫，其部分內容見表3，分析出導致該過程異常的原因為刀具已經出現磨損，此時增大加工程序中刀具補償量，后續生產過程為正常狀態。當“監控窗口”移動到第124個加工數據序列時，此時識別出生產過程為向上階躍異常模式，且向上階躍幅度為1.2σ。根據表3，診斷出導致過程異常的原因為刀具中度磨損，因此對加工刀具進行磨刀處理，加工刀具進行磨刀處理后的生產過程為正常狀態。當“監控窗口”移動到第230個加工數據序列時，再次識別出生產過程出現向上階躍異常模式，且向上階躍幅度為1.6σ。根據表3，診斷導致過程異常的原因為刀具嚴重磨損，此時更換刀具，隨后的生產過程即為正常狀態。

表2　異常模式參數估計的參數設置及識別率

圖10　精密軸加工過程動態數據流

表3　精密軸加工過程異常因素診斷庫中部分內容

通過精密軸加工的實例應用，充分驗證了本文提出的面向多品種、小批量生產過程的在線智能診斷方法的實時性、有效性。該診斷方法通過異常模式的參數估計尋找到導致過程異常模式的主要原因，并及時對動態生產過程進行調整，不僅提高了動態過程異常因素診斷的效率而且降低了生產成本，能有效地提升多品種、小批量制造型企業的經濟效益。

5　結束語

針對多品種、小批量動態過程運行狀態的實時診斷問題，提出了基于MSVM的在線質量智能診斷方法。該智能診斷方法中主要包含基于小波重構的MSVM識別模型、基于小波重構的MSVM參數估計模型以及異常因素診斷庫，并針對其離線訓練、測試性能進行了深入研究。最后通過某企業精密軸加工過程的實例應用，充分驗證了本文提出的基于MSVM的多品種、小批量動態過程在線質量智能診斷方法的實時性、有效性。然而，“監控窗口”的大小、小波重構函數及分解層數的確定直接影響著在線監控、診斷的效率，如何選取它們的最優組合仍需進一步研究。

[1]Gu K,Jia X,You H.A T-chart for Monitoring Multi-variety and Small Batch Production Run[J].Quality and Reliability Engineering International,2013,30(2):287-299.

[2]曹軍，尹超，劉飛. 多品種小批量機加工車間關鍵工序動態SPC研究及應用[J].中國機械工程,2011,22(23):2822-2827.

Cao Jun,Yin Chao,Liu Fei. Research and Application on Dynamic Statistical Process Control of Key Process in Multi-varieties and Small-batch Machining Workshop[J]. China Mechanical Engineering, 2011,22(23):2822-2827.

[3]仲建蘭，馬義中.面向小批量生產過程的兩階段串聯可修系統SPC與維修策略整合優化[J].計算機集成制造系統,2014,20(8):1959-1967.

Zhong Jianlan,Ma Yizhong. Integrated Optimization for SPC and Maintenance Strategy of Two-stage Series Repairable Systems Oriented to Short-run Production[J].Computer Integrated Manufacturing Systems, 2014,20(8):1959-1967.

[4]Petros X, Talayeh R. A Weighted Support Vector Machine Method for Control Chart Pattern Recognition[J]. Computers & Industrial Engineering, 2014, 70 :134-149.

[5]吳常坤，趙麗萍.基于小波分析和SVM 的控制圖模式識別[J].中國機械工程，2010, 21(13):1572-1576.

Wu Changkun, Zhao Liping. Control Chart Pattern Recognition Based on Wavelet Analysis and SVM[J]. China Mechanical Engineering, 2010, 21(13):1572-1576.

[6]Shichang D, Delin H. Recognition of Concurrent Control Chart Patterns Using Wavelet Transform Decomposition and Multiclass Support Vector Machines[J].Computers & Industrial Engineering,2013, 66: 683-695.

[7]Ata E, Jalil A,Vahid R. Recognition of Control Chart Patterns Using an Intelligent Technique[J]. Applied Soft Computing,2013, 13: 2970-2980.

[8]Susanta K G, Shankar C. Recognition of Control Chart Patterns Using Improved Selection of Features[J].Computers & Industrial Engineering, 2009, 56:1577-1588.

[9]Vahid R, Ata E. Control Chart Pattern Recognition Using a Novel Hybrid Intelligent Method[J]. Applied Soft Computing, 2011,11: 2676-2686.

[10]Ata E,Vahid R. Control Chart Pattern Recognition Using an Optimized Neural Network and Efficient Features[J].ISA Transactions,2010,49:387-393.

[11]Vahid R,Ata E. Application of the PSO-SVM Model for Recognition of Control Chart Patterns[J]. ISA Transactions, 2010, 49:577-586.

[12]樂清洪，滕霖. 質量控制圖在線智能診斷分析系統[J]. 計算機集成制造系統, 2004,10(12):1583-1487.

Le Qinghong, Teng Lin. On-line Intelligent Diagnosis and Analysis System for Quality Control Charts[J]. Computer Integrated Manufacturing Systems, 2004,10(12):1583-1487.

[13]吳少雄. 智能統計工序質量控制的體系研究[J]. 計算機集成制造系統, 2006,12(11):1832-1837.

Wu Shaoxiong. Intelligent Statistical Process Control System[J]. Computer Integrated Manufacturing Systems, 2006,12(11):1832-1837.

[14]王明剛，朱永忠，王峰.SVM 在監控小批量生產中的應用及比較分析[J].重慶大學學報(自然科學版),2014,28(3):140-144.

Wang Minggang,Zhu Yongzhong,Wang Feng. Comparison Analysis and Application of SVM in the Monitor of Small Batch Production[J].Journal of Chongqing University of Technology(Natural Science), 2014,28 (3):140-144.

[15]劉玉敏，周昊飛.基于多特征的PSO-MSVM動態過程質量異常模式識別[J].計算機應用研究,2015,32(1): 124-129.

Liu Yumin, Zhou Haofei. Recognition of Quality Abnormal Patterns for Dynamic Process Based on Multi-features with PSO-MSVM [J]. Application Research of Computers,2015, 32(3):713-716.

[16]侯世旺，同淑榮.基于小波重構的控制圖并發異常模式識別研究[J].計算機工程與應用,2008,44(28):18-21.

Hou Shiwang,Tong Shurong.Wavelet-reconstruction Based Recognition Method for Control Charts Concurrent Abnormal Patterns[J].Computer Engineering and Applications, 2008,44 (28):18-21.

[17]李誠，張宏烈. 混合智能算法的控制圖模式識別仿真研究[J].計算機仿真,2013,10(30):345-349.

Li Cheng，Zhang Honglie. Simulation on Pattern Recognition of Control Chart Based on Hybrid Intelligent Algorithm[J].Computer Simulation, 2013,10(30):345-349.

[18]Liu Yumin, Zhou Haofei. MSVM Recognition Model for Dynamic Process Abnormal Pattern Based on Multi-kernel Functions[J]. Journal of Systems Science and Information, 2014, 2(5):473-480.

(編輯郭偉)

On-line Quality Intelligent Diagnosis for Multi-variety and Small-batch Dynamic Process Based on MSVM

Liu YuminZhou Haofei

Zhengzhou University,Zhengzhou,450001

An on-line quality intelligent diagnosis method was proposed based on MSVM. In off-line training, the feature data was extracted using wavelet reconstruction of quality patterns, the MSVM recognition model and estimation model then were trained and tested.In online diagnosis, the abnormal pattern and the parameter of data flow in “monitoring window” were recognized and estimated by the trained recognition model and estimation model, then the dynamic process was diagnosed by the construed diagnosis library. Finally, the proposed method is applied to online diagnosis the precision-axis machining process, and the results of application example show its effectiveness.

multi-variety and small-batch; quality abnormal pattern; wavelet reconstruction; multi support vector machine(MSVM); on-line intelligent diagnosis

2014-10-29

國家自然科學基金資助項目(71272207，61271146，U1204702)

TP391.4;TH165< class="emphasis_italic">DOI

：10.3969/j.issn.1004-132X.2015.17.014

劉玉敏，女，1956年生。鄭州大學商學院教授。主要研究方向為質量管理、質量工程。周昊飛，男，1983年生。鄭州大學商學院博士研究生。