支持向量機與神經網絡相結合的板帶凸度預測

劉明華，張強

（西安建筑科技大學 冶金工程學院,陜西 西安 710055）

隨著社會經濟的發展和科學技術的進步，板帶材是工農業生產中重要的金屬材料，人們對板帶材的質量要求越來越高[1]。板形是板帶軋制的關鍵技術指標，主要包括板帶凸度和平直度。目前，板帶凸度一直存在嚴重的問題，其不良凸度會直接造成巨大的資源浪費或其他潛在風險[2]。板帶軋制是一個多變量、強耦合、非線性和時變性的過程，而按照傳統理論方法建立的板帶凸度預測模型[3]，在建模中假設和簡化了軋制過程的諸多實際因素（將一個復雜非線性問題變成多個線性問題等），導致模型精確度較差，不能滿足高精度軋制技術的要求[4]。因此，迫切需要一種新的方法建立具有高精度預測能力的板帶凸度模型。

與傳統理論方法不同，人工智能方法[5]是模擬人腦處理真實發生的過程，基于實驗數據對目標值預測，可防止假設脫離實際和簡化過于粗糙而產生的誤差。隨著人工智能技術的發展，許多學者開始將人工神經網絡(ANN)[6-7]和支持向量機(SVM)[8-9]引入軋制領域。針對采用傳統理論方法建立板帶凸度模型考慮影響參數較少導致傳統數學模型預測誤差大的問題，方敏[10]提出一種BP 神經網絡(BPNN)與有限元(FEM)模型相結合的方法對板帶凸度進行預測，將FEM 仿真結果用于訓練和測試BPNN 模型。仿真結果表明，BPNN與FEM 相結合的板帶凸度預測模型的預測精度遠高于傳統數學模型的預測精度。針對傳統BPNN預測模型存在易陷入局部極小值點和收斂速度慢等問題，朱永波等[11]采用自適應變異粒子群算法優化BPNN 模型的權值和閾值，將已優化的BPNN模型用于預測板帶凸度。仿真結果表明，該模型預測效果與傳統BPNN 模型相比有所改善。在以上研究中，ANN 已經廣泛應用于軋制領域且該模型的預測精度高于傳統數學模型的預測精度，但它也有一些不足之處。ANN 以傳統統計學為基礎，它的內容是樣本無窮大時的漸進理論，但現實中樣本往往是有限的，采用ANN 方法建立的板帶凸度預測模型往往會產生過擬合現象。因此，急需一種在樣本有限的情況下，也可以實現較高泛化能力的板帶凸度模型。

與ANN 方法不同，SVM 是一種基于結構風險最小化原理的算法，保證了該模型具有良好的泛化能力[12]。SVM 以統計學理論為基礎，根據有限的樣本在模型的復雜性和學習能力之間尋求最佳折中，以期獲得最好的泛化能力[13-14]。支持向量回歸（SVR）是SVM 在回歸條件下的應用[15]。Fei等[16]提出在樣本有限的條件下，采用ANN 方法不適合建立預測模型，而采用SVR 方法建立的預測模型具有較高的泛化性能。Wu 等[17]在實驗數據有限的情況下，為提高SVR 軋制力模型的預測精度，采用粒子群優化算法（PSO）優化SVR 模型參數，結果表明，PSO-SVR 模型相比SVR 和BPNN模型具有較高的預測精度，且SVR 比BPNN 模型預測精度高。綜上可得，在樣本數據有限的情況下，采用SVR 建立模型可以避免ANN 建立模型所產生的過擬合現象，采用PSO 算法[18]可以提高SVR 模型的預測精度，即PSO-SVR 模型具有較高的泛化能力，但另一方面PSO 算法優化參數雖可以有效保證模型參數的有效性，但板帶軋制過程干擾因素較多、測量數據存在誤差和數據處理不當等因素都會導致輸入數據存在偏差，使PSOSVR 模型難以準確地預測板帶凸度。

為提高PSO-SVR 模型的預測精度，本文提出采用BPNN 建立板帶凸度偏差模型與PSO-SVR板帶凸度模型相結合的方法對板帶凸度進行預測。采用現場數據驗證模型的預測性能，結果表明，與PSO-SVR、SVR、BPNN 和GA-SVR 模型比較，PSO-SVR+BPNN 模型具有較高的學習能力和泛化能力。

1 建立PSO-SVR 板帶凸度預測模型

1.1 板凸度的基本概念

板凸度是指板帶材橫向的斷面厚度差，即板帶的中間與邊部厚度之差，板凸度的計算公式為

式中：C為板帶凸度；hc為中心厚度；he和he′為邊部代表點厚度。

板帶凸度示意圖如圖1 所示，其中e表示板材邊部代表點距板材邊上之間的距離，通常取e=25 mm或e=40 mm 處，本文分析中均取e=40 mm。

圖1 板帶凸度示意圖Fig.1 Schematic diagram of strip crown

1.2 實驗數據的采集與處理

從某中厚板廠的熱軋生產線上獲取670 組Q355B 板帶軋制數據，作為實驗樣本，如表1 所示。選擇軋前板材厚度H0、軋后板材厚度H1、軋前溫度T0、軋后溫度T1、軋前板材寬度B、軋制力F、軋制力矩P、軋制速度v、摩擦系數 μ和軋前板材凸度C0作為輸入變量，并選擇軋后板材凸度C1作為輸出變量。

表1 熱軋實驗數據Table 1 Experimental data of hot rolling

從工廠收集的樣本包含異常和嘈雜的數據，會降低模型的準確度，為獲得真實的分析結果，利用T 檢驗準則處理樣本，舍去34 組異常數據，最終選擇636 組數據作為實驗數據，其中500 組數據作為訓練集，剩余數據作為測試集。不同的影響因素通常具有數量級差異，將會降低模型的預測精度和訓練速度。在建模之前，實驗數據進行歸一化為[?1,1]，歸一化公式為

式中 max(xi)和 min(xi)分別為序列的最大值和最小值，i=1,2,···,l。

1.3 SVR 理論

SVR 是一種機器學習方法[15]，SVR 的基本思想是通過 φ(x)將非線性的低維不可分割數據映射到高維特征空間，并在該特征空間中執行線性SVR。

SVR 函數可以表述為

式中：f(x)為預測值；w為慣性權值；w·x為w和x的內積；b為閾值。

引入兩個松弛變量 ξi和 ξi?，優化問題可變成：

式中：C為懲罰因子；ξi和 ξi?為松弛變量；ε為不敏感損失參數。

引入拉格朗日函數和基于強對偶關系，并將核函數K(xi,x)=φ(xi)·φ(x)代入化簡，式(1)可以重寫為

式中 αi和 αi?是拉格朗日乘子向量。

選擇核函數對于SVR 至關重要，它將直接影響數據樣本的非線性映射。為了獲得更好的泛化能力，選擇RBF 核函數用于SVR 模型，公式為

K(xi,x)=exp(?g|xi?x|2)

式中g是RBF 核函數的參數。

C和g是影響SVR 模型預測精度的重要參數，選擇PSO 算法優化二者的最佳組合，以確保模型的最佳性能。

1.4 PSO 算法優化SVR 模型參數

PSO 算法是一種基于群體智能原理的隨機優化算法，由Kennedy 和Eberhart 在1995 年提出[19]。PSO 算法受到鳥類覓食行為的啟發并應用到解決優化問題[20]，粒子群在高維空間中隨機分布并跟蹤個體極值和種群極值不斷更新自己的位置和速度，使其向全局最優粒子的位置靠近，并試圖在空間中搜索最優參數（C,g）[21]。

2 建立PSO-SVR+BPNN 板帶凸度預測模型

2.1 BPNN 板帶凸度偏差預測模型

ANN 通過調整節點之間的關系來處理信息，具有強大的自學習能力。本文ANN 采用常用的BPNN 模型，模型結構由一個輸入層、單或多隱含層和一個輸出層組成[22]。利用訓練集檢驗SVR模型的誤差，并將誤差數據集用于訓練BPNN 模型。因此，在本節選擇軋后板帶凸度的預測偏差XC作為BPNN 模型的因變量，BPNN 與SVR 模型的自變量保持一致，即BPNN 模型輸入層節點數為10，輸出層節點數為1。在相同條件下，使用多隱含層所獲得的預測結果并未比單隱含層網絡擬合效果好，所以本文選擇單隱含層進行建模，通過經驗公式和試湊法[23]確定單隱含層節點數為6，輸入層到隱含層的網絡權值為 ωij，隱含層到輸出層的網絡權值為 ωjk，由以上參數繪制BPNN 的拓撲結構如圖2。

圖2 BPNN 拓撲結構Fig.2 Topological structure of BPNN

2.2 PSO-SVR+BPNN 板帶凸度預測模型

在實際應用中，板帶軋制過程干擾因素較多，測量數據存在誤差和數據處理不當，這些問題都會導致輸入數據存在偏差，使PSO-SVR 模型難以準確地描述板帶凸度變化趨勢。為提高該模型的預測精度，提出了將PSO-SVR 板帶凸度預測模型和BPNN 板帶凸度偏差模型相結合的方法對板帶凸度進行預測。該方法的主要思想是在無外界因素干擾的情況下，經過PSO 算法優化的SVR 模型具有良好的泛化能力，能夠很好地反映板帶凸度變化的主要趨勢，用它來預測板帶凸度的主值；BPNN模型反映擾動因素對板帶凸度的影響，用它來糾正板帶凸度的偏差。BPNN 修正PSO-SVR 模型的預測誤差，從而使PSO-SVR 模型預測誤差弱化，將兩者的優勢進行組合，可以得到最佳的預測效果，PSO-SVR+BPNN 模型預測板帶凸度公式為

式中：c2′為 PSO-SVR+BPNN 模型的預測值；c1′為PSOSVR 模型的預測值；xc為BPNN 模型的預測偏差。

本文所提出的PSO-SVR+BPNN 模型的建模過程如圖3 所示。

圖3 PSO-SVR+BPNN 模型的建模流程Fig.3 Modeling process of PSO-SVR+BPNN model

從工廠獲取實驗數據，并利用T 檢驗準則和歸一化方法預處理實驗數據，使其消除異常數據和數量級差異。其次，采用PSO 算法優化SVR 模型參數，利用訓練集檢驗建立PSO-SVR 模型時所產生的誤差，并將誤差數據集用于訓練BPNN 模型，將PSO-SVR 與BPNN 模型相結合進行預測板帶凸度。最后，利用測試集測試PSO-SVR+BPNN模型的預測精度，并采用決定系數(R2)、根均方誤差(RMSE)、平均絕對誤差(MAE)和平均絕對百分比誤差(MAPE)用于評估模型的綜合性能，公式為

式中：y′為模型的預測數據集；y為模型的目標數據集。

3 實驗結果與分析

3.1 PSO-SVR+BPNN 模型與PSO-SVR、SVR 和BPNN 模型比較

為了體現PSO-SVR+BPNN 模型綜合性能的優越性，采用PSO-SVR、SVR 和BPNN 建立板帶凸度模型，利用R2、RMSE、MAE 和MAPE 評估模型的綜合性能。在訓練集和測試集上，4 種模型預測值與目標值的回歸結果，如圖4 所示。從圖4可得，采用SVR 的3 種模型的回歸性能明顯優于BPNN 模型。在訓練集和測試集上，BPNN 模型的R2不高于0.995，而基于SVR 的3 種模型的所有R2均高于0.997，這充分說明了基于SVR 的3 種模型比BPNN 模型的預測精度高。由此可見，基于SVR 板帶凸度預測模型具有較高的泛化能力。

圖4 PSO-SVR+BPNN、PSO-SVR、SVR 和BPNN 模型預測值與目標值的回歸結果Fig.4 Regression results of predicted values and target values of PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models

圖4 描述了在訓練集和測試集上，PSO-SVR與SVR 模型相比具有較大的R2值，即PSO-SVR比SVR 模型預測性能好。同理可得，與PSO-SVR相比，PSO-SVR+BPNN 模型具有較好的預測性能。實驗結果表明，采用PSO 算法優化SVR 模型參數，可以提高SVR 模型的學習能力和泛化能力；利用BPNN 模型糾正PSO-SVR 模型的預測偏差，可以提高PSO-SVR 模型的學習能力和泛化能力。

圖5 描述了不同模型預測值與目標值的比較。從圖5 中可得，基于SVR 的3 種模型和BPNN模型有較高預測精度，但無法直接地區別各模型的預測精度，因此分別從兩個數據集上任意選取五個連續的樣本點測試模型的預測性能，如表2所示。表2 清楚地顯示PSO-SVR+BPNN 模型與PSO-SVR、SVR 和BPNN 模型之間的預測精度差異。在訓練集和測試集上，PSO-SVR+BPNN 模型預測值的相對誤差在2% 以內；PSO-SVR、SVR和BPNN 模型預測值中大部分數據點的相對誤差分別在5%、8%和11%以內。以上結果表明，SVR與BPNN 模型相比具有較高的預測性能，但低于PSO-SVR 模型的預測性能；與PSO-SVR、SVR 和BPNN 模型相比，PSO-SVR+BPNN 模型的學習能力和預測精度最高。

圖5 PSO-SVR+BPNN、PSO-SVR、SVR 和BPNN 模型預測值與目標值的比較Fig.5 Comparison of predicted values and target values for PSO-SVR+BPNN、PSO-SVR、SVR and BPNN models

表2 部分樣本數據下不同模型的相對誤差Table 2 Relative error of different models under partial sample data

續表 2

通過RMSE、MAE 和MAPE 測試各模型的綜合性能。表3 列出了各模型在訓練集和測試集上3 種誤差指標的計算值，圖6 是從計算結果中得出誤差分布的直方圖。表3 和圖6 清楚地表明，在訓練集和測試集上，PSO-SVR+BPNN 模型的RMSE、MAE 和MAPE 指標最小，分別為0.004 2和0.001 2、0.000 9 和0.000 8、2.371 5%和2.690 3%。PSO-SVR+BPNN 模型的MAPE 在2.7% 以內；PSO-SVR、SVR 和BPNN 模型的MAPE 分別在7.1%、16.4%和18.4%以內。以上結果與表2 結果保持一致，PSO-SVR+BPNN 模型與其他3 種模型相比具有最佳的學習能力和泛化能力，再次驗證了PSO-SVR+BPNN 板帶凸度模型的優越性。

圖6 不同模型的誤差直方圖Fig.6 Error histograms of different models

表3 不同模型的性能統計分析Table 3 Performance statistical analysis of different models

此外，對影響PSO-SVR+BPNN 板帶凸度模型性能的主要因素進行定量分析，將未優化SVR 模型參數C和g，設定為模型1；未優化BPNN 模型隱含層節點數，設定為模型2；未刪除異常數據，設定為模型3；以上因素全部考慮，設定為模型4，采用R2指標評價各模型的預測性能，實驗結果如表4 所示。從表4 可以看出，在訓練集和測試集上，模型3 的R2最小，模型2 的R2相對較小，而模型1 的R2相對較大。因此，異常數據對模型性能的影響最大，其次，隱含層節點數對模型性能的影響較小，而參數C和g對模型性能的影響最小。

表4 不同條件下模型性能的影響Table 4 Impact of model performance based on different conditions

3.2 PSO-SVR+BPNN 模型與GA-SVR 模型比較

遺傳算法（GA）[24]是一種通過模擬自然進化過程搜索最優解的方法，具有較高的全局優化能力、通用性強且適用于并行處理的優點，常常被使用在模型參數優化方面。本節采用GA 算法優化SVR 參數，建立GA-SVR 板帶凸度預測模型，并將PSO-SVR+BPNN 與GA-SVR 模型進行綜合性能對比。

PSO 與GA 算法相同的參數設置：種群規模20，終止迭代次數20，C和 g取值(0.01,100)和(0,1)。特有參數設置：對于PSO 算法，慣性權值為1/(2ln2)，加速因子為ln2+0.5；而GA 算法，交叉概率為0.4 和變異概率為0.1。在相同條件下，GA-SVR與PSO-SVR+BPNN 模型在訓練集和測試集上預測值的比較，如圖7 所示。圖7 中顯示兩個模型都具有較高的預測精度。為了直觀地分析2 個模型之間的性能差異，采用RMSE、MAE 和MAPE評估模型的預測性能，如表5 所示。在訓練集和測試集上，PSO-SVR+BPNN 模型的3 個誤差指標均明顯低于GA-SVR 模型的3 個誤差指標。以上結果充分證明，PSO-SVR+BPNN 比GA-SVR 模型具有更高的學習能力和預測精度。

圖7 PSO-SVR+BPNN 和GA-SVR 模型預測值與目標值的比較Fig.7 Comparison of predicted values and target values for PSO-SVR+BPNN and GA-SVR model

表5 不同模型的性能統計分析Table 5 Performance statistical analysis of different models

此外，運算時間是判斷模型是否能在線應用的一個重要指標。圖8 描述PSO-SVR+BPNN 和GA-SVR 模型在不同迭代條件下的運算時間。從圖8 中可得，在相同迭代次數條件下，GA-SVR 模型的運算時間明顯高于PSO-SVR+BPNN 模型。隨著迭代次數的增加，GA-SVR 模型比PSOSVR+BPNN 模型運算時間的增長趨勢更顯著，因此PSO-SVR+BPNN 模型更適合熱軋生產過程中板帶凸度的在線預測。

圖8 PSO-SVR+BPNN 模型與GA-SVR 模型運算時間比較Fig.8 Comparison of computing time for PSO-SVR+BPNN and GA-SVR model

4 結束語

為了提高熱軋生產過程中板帶凸度的預測精度，本文建立了PSO-SVR 模型與BPNN 模型相結合的混合模型PSO-SVR+BPNN 對板帶凸度進行預測。實驗結果表明：1）基于SVR 板帶凸度預測模型具有很高的泛化能力；2）在實驗數據有限的情況下，基于SVR 模型比BPNN 模型更適合作為板帶凸度預測模型；3）采用BPNN 模型與PSOSVR 模型相結合的方法可以提高PSO-SVR 模型的學習能力和泛化能力；4）PSO-SVR+BPNN 模型比PSO-SVR、SVR、BPNN 和GA-SVR 模型具有較高的學習能力和泛化能力，并且比GA-SVR 模型更適合熱軋生產過程中板帶凸度的在線預測。