粒子群與遺傳算法優化支持向量機的應用

滿春濤　劉博　曹永成

摘 要：為了提高參數優化精度，研究將粒子群算法與支持向量機相結合，建立基于粒子群算法的支持向量機復雜過程系統穩態模型。在此基礎上，為解決粒子群算法容易出現早熟收斂、搜索精度不高、在迭代的后期效率低、容易陷入局部極優點等問題，提出了引入遺傳算法的改進粒子群算法。通過利用改進后的粒子群算法對支持向量機參數進行優化，并應用到青霉素發酵這一復雜工業系統。仿真結果表明，改進算法提高了工業產量，實現了對系統結果的優化。

關鍵詞：粒子群優化算法;遺傳算法;支持向量機;青霉素發酵

DOI：10.15938/j.jhust.2019.03.014

中圖分類號： TP183

文獻標志碼： A

文章編號： 1007-2683（2019）03-0087-06

Abstract：In order to improve the precision of the parameter optimization， the research integrates the Particle Swarm Optimization Algorithm? with Support Vector Machine， and matches the experimental data， and then establishes a steadystate model of complex process system， which is based on Particle Swarm Optimization Algorithm and Support Vector Machine. On the basis of this model， an improved Particle Swarm Optimization Algorithm introduced to Genetic Algorithm is proposed， in order to overcome the defects of Particle Swarm Optimization Algorithm about premature convergencesearching accuracy is not high， the iterative efficiency is low in the late stage， trapping into the local optimization and so on.By making use of the improved Particle Swarm Optimization algorithm to optimize the parameters of Support Vector Machine， it is applied to the complex industrial system of penicillin fermentation. The simulation result shows that the optimized algorithm improves the industrial outputs， and optimizes the system results.

Keywords：particle swarms optimization algorithm; genetic algorithm; support vector machine; penicillin fermentation

0 引 言

隨著現代社會科學技術的不斷進步和工業生產方法的持續創新，復雜工業系統的穩態優化問題很難再用單一的方法加以解決，因而新的智能建模與優化的復合方法勢在必行。現代化大工業過程控制結構可看作三層，即控制層、優化層和調度層[1]。本文的研究正是處于優化層段，通過建立智能優化方法，使系統在最佳工況運行，提高生產的經濟效益。

在優化方面，遺傳算法（genetic algorithm，GA）和粒子群優化算法（particle swarm optimization algorithm，PSO）都在群智能和生物進化計算的范疇內，具有很強的互補性[2]。遺傳算法擁有極強的探索精度和求變功能，在解空間全局尋優上具有優勢，但在局部搜索能力上相對不足[3]。而作為一種帶有隨機性質的全局尋優算法，粒子群算法的優勢在于對優化對象的函數并不要求可解析性[4]，因而遇到難解的非線性問題且有不可微等繁復情況時多采用該方法。如果將兩者結合，將產生新的基于遺傳的粒子群優化算法，即一種將遺傳算子融入粒子群的，帶有慣性權重的非線性減小機制的改進優化算法，它會極大程度上避免較大震蕩現象的出現，同時加快迭代速度，提高全局優化能力[5]。

在控制方面，支持向量[6]（Support Vector Machine，SVM）不但能任意逼近非線性，而且能夠在小樣本數據下建立非常好的非線性映射模型，克服了一些傳統智能算法容易陷入局部極小值的缺陷，在預測控制方面具有非常高的穩定性和魯棒性[7]。

在工業應用中，本文擬在充分研究復雜系統特性的基礎上，以青霉素發酵工業過程為例[8-9]，將粒子群算法、遺傳算法、支持向量機有機結合，建立起復雜過程系統的穩態模型，進一步增強解決復雜工業系統的優化問題的能力。

1 支持向量機

SVM算法是基于VC維理論和結構風險最小的原理[10]。其本質是建立一個最優超平面，在保證最小經驗風險的前提下，準確分開兩類數據樣本并且使其間隔最大，即分類間隔最大。

2）對個體解碼，將解碼后的參數代入到訓練測試樣本中，計算出個體的適應度函數值，并分別保留每個個體最新狀態的二進制編碼。從t=2開始，若當前最新個體的適應度函數值小于前一次保留的值，那么就用新個體替換上一代個體，否則不替換。這樣的更新就保證了每個個體的歷史最優解都能保留下來，同時也保留下來了個體每代的最優解，為4）提供條件。

3）隨機選取種群中一定數目的個體，選取適應度最好的個體做為父體并以此為條件，完成所有個體的選擇。

4）應用均勻交叉，變異前先對個體進行解碼，變異完成后再重新對個體編碼。

5）判斷是否滿足終止條件，若達到最大迭代次數Tmax或者所得參數停止變化，則終止迭代并獲得最優參數與優化的模型，否則得到新的粒子種群后返回到2）。

粒子群算法與遺傳算法結合對SVM進行參數優化的具體流程如圖2所示。

4 優化算法的工業應用

如今，復雜工業系統的控制目標正向多元化發展，變量數目也日益增多并存在著各種約束條件。本文的研究，是一個非線性、時變性、滯后性和不確定性都較為嚴重的工業生產過程，各種環境條件都能影響到青霉素的合成。因此，為了提高資源利用能力與生產能力，工業上對其控制過程進行優化成為十分重要的方法。

影響青霉素最終產量的因素主要有以下幾點：溫度、酸堿度（PH值）、壓力、基質濃度、溶解氧濃度等。優化青霉素發酵過程的控制方法，其基本思想是：設定主控制量為基質補料的速率，以溫度、溶解氧濃度和PH值為輔助控制量，利用粒子群與遺傳算法優化 SVM后的模型對青霉素發酵過程進行改進，使得發酵終止時產量最優。青霉素發酵過程優化控制框圖如圖3所示。

整個優化控制的過程具體流程如下：

1）從多批次青霉素發酵數據中選出模型的多組樣本集進行訓練，再對基于GAPSO與SVM的青霉素發酵建模。

2）利用上述優化控制思想，根據具體的環境情況，在kT時刻由GAPSO算法確定一組控制過程中的補料速率、溶解氧、溫度、酸堿度等參數值。經過補料流加發酵過程，均勻交叉變異得到的生物參數測量值會被隨時記錄分析，并需要不斷改變懲罰系數C、不敏感函數ε、RBF核函數寬度系數σ等控制參數。然后，通過對支持向量機的狀態評估與預估值的比較，對產品進行下一步處理。重復此過程到（k+1）T時刻，得到一組新的參數值并把它作為（k+1）T到（k+2）T時刻的控制參數值。

3）以此規律循環直到各參數值不再發生變化，則發酵結束，最終使產出青霉素濃度最優。

本文共用到10組數據，前7組用作訓練樣本，其余3組用作測試樣本，模型參數經過訓練調整，最終達到最優。其中，利用式（4）作為RBF核函數。取粒子種群規模為30，c1=c2=2，r1、r2是均勻分布在[0，1]區間上的隨機數，本文取0.5，最大迭代次數為400。懲罰系數C在區間為[1，1000]內取值，核參數σ取值區間為[0，5]。記錄不同參數值，得到數據表如表1所示。

通過GAPSO算法對支持向量機模型參數的調整，最終得到數據表如表2所示。

用該參數集訓練所得青霉素發酵過程菌體濃度值與PSO優化SVM的模型所得菌體濃度值，如圖5所示。

從圖5可以看出，在GAPSO優化SVM的模型下，發酵的最終產物濃度從原來的4.637g/L提高至5.041g/L，青霉素發酵過程得到了優化，最終達到了提高產量的目的。

5 結 論

本文在青霉素發酵的支持向量機模型的基礎上，采用粒子群與遺傳算法相結合的方式對工業過程變量進行優化調整，并與基本粒子群算法優化SVM模型的仿真結果進行對比。最終研究表明，本文提出的基于粒子群與遺傳算法優化向量機參數的方法尋優效果更好，資源利用率更高，最終產物的產量得到進一步提升，其應用前景十分廣闊，具有重要的理論價值和實際應用意義。

參 考 文 獻：

[1] TOM F.Moving Beyond Steady State Optimization.Hydrocarbon Processing，Jun 2002，81（6）：15.

[2] 張鑫源，胡曉敏，林盈. 遺傳算法和粒子群優化算法的性能對比分析[J]. 計算機科學與探索，2014，8（1） ： 91.

[3] 韋琦，楊明.改進神經網絡算法的智能電網短期負荷預測[J].哈爾濱理工大學學報，2017，（04）：65.

[4] DEAN T， ALLEN J， ALOIMONOS Y. Artificial Intelligence： Theory and Practice. Pearson Education North Asia and Publishing House of Electronics Industry， 2003： 17.

[5] 曹春紅，張永堅，李文輝. 雜交粒子群算法在工程幾何約束求解中的應用. 儀器儀表學報，2004，8（8）： 397.

[6] 陳君，彭小奇，宋彥坡，等.特征空間最小數據分布最大間隔支持向量機[J].電機與控制學報， 2013（3）： 105.

[7] 趙娟平，陳健，姜長洪青霉素發酵過程建模研究[J]，計算機仿真，2008， 55（9）： 25.

[8] 李國正，王猛，曾華正. 支持向量機導論[M]. 北京： 電子工業出版社，2004.

[9] 潘豐，李海波，呂光帥. 發酵過程的建模與優化方法研究.計算機與應用化學2006，23（11）： 1112.

[10]蓋晁旭，梁隆愷，何勇軍.數據不充分情況下的說話人識別[J].哈爾濱理工大學學報，2017（3）： 13.

[11]ZHANG X G. Introduciton to Statistical Learning Theory and Support Vector Machine. Acta Automatic Since， 2000， 26（l）： 32.

[12]周建萍，鄭應平，王志萍. 最小二乘支持向量機分類問題的算法實現[J]. 上海電力學院學報， 2008，24（4）： 381.

[13]楊冬云，李數函. 支持向量機核函數的構造方法研究與分析[J]. 高師理科學刊，2010，30（2）： 23.

[14]KENNEDY J， EBERHART R. Particle Swarm Optimization. In： Proc IEEE Int Conf on Neural Networks，1995： 1942.

[15]馬志偉，滿春濤，李巍.基于STDM與粒子群優化的音頻水印算法[J].哈爾濱理工大學學報，2016（5）： 73.

[16]熊偉麗，徐保國. 粒子群算法在支持向量機參數選擇優化中的應用研究[C]∥中國控制與決策學術年會論文集，沈陽：東北大學出版社，2007： 447.

[17]WANG Xibin， ZHANG Xiaoping， WANG Hanhu. Parameter Optimization of Support Vector Machine and Application Based on Particle Swarm Optimization Mode Search.? Journal of Computer Applications， 2011.

[18]馬超，鄧超，熊堯，等.一種基于混合遺傳和粒子群的智能優化算法[J]. 計算機研究與發展， 2013（11）.

[19]王廣澤.改進粒子群算法在供應鏈庫存控制中的應用[J].哈爾濱理工大學學報，2016（5）： 90.

[20]朱霄珣，徐搏超，焦宏超，等.遺傳算法對SVR風速預測模型的多參數優化[J].電機與控制學報，2017，21（2）：70.

（編輯：關 毅）