劉孝保 嚴清秀 易斌 姚廷強 顧文娟



摘要:針對流程制造過程中工藝過程復雜、多工序耦合嚴重、工藝參數優(yōu)化困難等問題,提出一種基于長短期記憶(LSTM)神經網絡、極限梯度提升(XGBoost)算法和改進粒子群優(yōu)化(IPSO)算法的多工序工藝參數融合優(yōu)化方法。基于LSTM神經網絡建立了數據預處理模型,通過LSTM神經網絡提取流程工藝數據的時序特征,進而實現(xiàn)了對工藝數據中異常值的處理。在此基礎上,通過XGBoost算法擬合工藝參數與質量指標間的非線性關系,并結合粒子群算法構建了PSO-XGBoost質量預測模型,再將預測模型的輸出作為適應度,調用改進粒子群算法反向搜索全局最優(yōu)工藝參數,得到各工序的最優(yōu)工藝參數組合,從而實現(xiàn)了流程制造加工質量的融合優(yōu)化。以某企業(yè)的一條流程生產線為例,驗證了多工序工藝參數融合優(yōu)化模型的有效性。
關鍵詞:流程制造;多工序工藝參數優(yōu)化;改進粒子群優(yōu)化算法;長短期記憶神經網絡;極限梯度提升
中圖分類號:TP391
DOI:10.3969/j.issn.1004-132X.2023.23.008
開放科學(資源服務)標識碼(OSID):
Optimization of Process Parameters in Process Manufacturing Based on
Ensemble Learning and Improved Particle Swarm Optimization Algorithm
LIU Xiaobao1YAN Qingxiu1YI Bin2YAO Tingqiang1GU Wenjuan1
1.Faculty of Mechanical and Electrical Engineering,Kunming University of Science and
Technology,Kunming,650500
2.Technology Center,China Tobacco Yunnan Industrial Co.,Ltd.,Kunming,650500
Abstract:Considering the complexity of technological processes,the serious coupling between multiple processes and the difficulties in optimizing process parameters during the process manufacturing,a multi-process technological parameter fusion optimization method was proposed based on LSTM neural network,XGBoost algorithm and IPSO algorithm. A data preprocessing model was established based on LSTM neural network,and the time series characteristics of processing data were extracted through LSTM neural network,which realized the processing of outlier in process data. And a PSO-XGBoost quality prediction model was constructed by fitting the nonlinear relationship between processing parameters and quality indexes with XGBoost and combining with particle swarm optimization algorithm. Then the output of the quality prediction model was taken as the fitness,and the improved particle swarm algorithm was used for trolling the global optimal processing parameters,which realized the fusion optimization of the quality of process manufacturing. A process production line of an enterprise was taken as an example to verify the effectiveness of the multi-process technological parameter fusion optimization model.
Key words:process manufacturing; multi-process parameter optimization; improved particle swarm optimization(IPSO); long and short term memory(LSTM) neural network; extreme gradient boosting(XGBoost)
收稿日期:2023-05-23
基金項目:云南省重大科技專項(202302AD080001)
0 引言
流程工業(yè)是帶動經濟發(fā)展的重點產業(yè)之一[1],但原材料、生產工況和外部環(huán)境的變化往往會使流程工藝產品的質量發(fā)生波動,如何保證全流程的長期穩(wěn)定運行,是流程制造業(yè)亟需解決的新問題。不同于離散制造,流程制造主要通過功能不同的工序協(xié)同運行實現(xiàn)連續(xù)生產[2],所以,流程工藝整體優(yōu)化的關鍵在于如何實現(xiàn)多工序工藝參數的聯(lián)合優(yōu)化,即在內外部條件發(fā)生變化時通過調整工藝參數快速實現(xiàn)對產品質量的控制和優(yōu)化。此外,復雜流程制造具有工藝過程復雜、工序間耦合嚴重、工藝數據時序性強等特點,這使得難以通過統(tǒng)計分析的方法優(yōu)化流程工藝參數。因此,如何實現(xiàn)對復雜制造過程的建模預測,進而快速高效地對多工序工藝參數進行優(yōu)化已成為當下研究熱點之一[3]。
傳統(tǒng)流程工藝參數優(yōu)化主要是利用試驗分析法挖掘工藝參數與質量指標間的關系,從而為工藝參數優(yōu)化提供參考依據。鄧曰明等[4]通過響應曲面實驗研究了工藝參數對表面粗糙度的影響,建立了工藝參數與表面粗糙度的回歸模型并對工藝參數進行了優(yōu)化。余杰等[5]以焊縫成形系數、激光區(qū)面積比為評價指標設計響應曲面實驗,分析焊接參數對焊縫質量的影響,篩選出最優(yōu)工藝參數。WANG等[6]以車后本板為研究對象,通過正交試驗分析了熔體溫度、模具溫度、冷卻時間和填料壓力等參數對加工質量的影響,進而得到了最優(yōu)工藝參數。LEWISE等[7]通過響應面法探究了刀具的插入深度、旋轉速度和停留時間對拉伸剪切力的影響,進而得到了較優(yōu)的攪拌摩擦點焊(FSSW)工藝參數組合??梢娬辉囼灐㈨憫娣治龅仍囼炘O計法對了解工藝參數對質量指標的影響具有較好的輔助作用,但當流程制造中工藝參數與質量指標間存在非線性、強耦合關系時,試驗設計法難以給出具體的工藝參數調整方案。近年來,隨著人工智能的高速發(fā)展,大量學者采用機器學習與優(yōu)化算法結合的方式優(yōu)化工藝參數。羅留祥等[8]利用BP神經網絡和遺傳算法對薄板冷金屬過渡(CMT)點焊進行工藝參數優(yōu)化,提高了焊接效率。鄧聰穎等[9]通過BP神經網絡構建了以總加工時間為優(yōu)化目標,刀具懸伸量和銑削用量為優(yōu)化變量的工藝參數優(yōu)化模型,并利用麻雀搜索算法對模型進行求解獲得最優(yōu)工藝參數組合。鄭城等[10]提出將BP神經網絡與改進粒子群算法相結合的方法,對晶圓允收測試(wafter acceptance test,WAT)工藝參數進行優(yōu)化,實現(xiàn)了最小調整成本下晶圓良率最大化的目標。WANG等[11]將神經網絡與遺傳算法相結合構建了工藝參數尋優(yōu)模型,實現(xiàn)了對汽車轉向盤包裹層發(fā)泡工藝的參數優(yōu)化。MENG等[12]以銑削加工成本和溫度為目標,利用改進粒子群算法求解最優(yōu)銑削工藝參數。LIU等[13]利用廣義回歸神經網絡建立了刀具磨損與表面質量的關系模型,并調用改進粒子群算法優(yōu)化了切削工藝參數。然而,上述方法應用在流程工藝參數優(yōu)化上仍存在不足之處:目前大多數研究主要針對單工序進行優(yōu)化,對多工序工藝參數優(yōu)化的研究較少;基于機器學習的模型預測方法未考慮工藝數據中存在的異常值及超參數選擇不當對模型精度的影響,模型預測精度有待提高;流程工藝數據多源異構、數據量龐大,優(yōu)化算法在追求收斂速度的同時難以兼顧算法精度。
針對上述問題,本文提出一種基于集成學習和改進粒子群算法的多工序工藝參數融合優(yōu)化方法。該方法考慮到工藝數據中異常值對建模預測精度的影響,利用長短時記憶(long short term memory,LSTM)神經網絡建立流程工藝數據預處理模型,通過LSTM神經網絡提取工藝數據時序特征,重新生成流程工藝數據。在此基礎上,通過極限梯度提升(extreme gradient boosting,XGBoost)算法構建工藝參數與質量指標間的映射模型,并結合粒子群優(yōu)化(particle swarm optimization,PSO)算法確定模型的最優(yōu)超參數,形成基于PSO-XGBoost的多工序質量預測模型。再將PSO-XGBoost模型輸出的質量預測值作為適應度,調用改進粒子群優(yōu)化(improve particle swarm optimization,IPSO)算法反向搜索全局最優(yōu)工藝參數,獲得最佳多工序工藝參數組合。最后,在某流程生產線上驗證了所提方法的適用性和有效性。
1 流程工藝參數優(yōu)化問題分析
復雜流程工藝通常包含多道工序,各工序協(xié)同運作形成連續(xù)的生產線,原材料連續(xù)投入、產品連續(xù)產出[14]。以某流程生產線為例,該生產線共有6道工序(圖1),每道工序都包含大量的工藝參數、操作參數和質量指標數據,生產線通過布置在設備終端的傳感器采集數據,傳感器每6 s采集一次數據,采集到的數據按時間順序排列,形成完整的流程工藝數據。
將生產線各工序設為集合S={S1,S2,…,Sn},各工序的質量指標設為Q={Q1,Q2,…,Qn},工藝參數設為C={Ci1,Ci2,…,Cij},其中,Si表示制絲生產線的第i道工序,Qi表示第i道工序的質量指標,Cij表示第i道工序的第j個工藝參數。對于單一工序Si,其對應的質量指標由該工序的工藝參數和上道工序的質量共同決定,它們之間的關聯(lián)關系可以表示為Qi=Qi-1+a1Ci1+a2Ci2+…+anCij,其中,01,a2,…,an∈R。
對該生產線進行流程工藝參數優(yōu)化時主要面臨以下問題:
(1)耦合關聯(lián)度高。由于流程制造是一個動態(tài)、連續(xù)的過程,各工序的質量波動會在制造過程中傳遞、耦合并積累,進而影響最終的產品質量,且各工序間耦合關系復雜,難以通過線性回歸模型擬合這種復雜的耦合關系,因此,在進行多工序工藝參數優(yōu)化時需要研究各工序間的耦合作用機理,構建工藝參數與質量指標間的非線性函數,進而實現(xiàn)對流程工藝參數的反饋調節(jié)。
(2)工藝數據復雜。流程工藝數據來源于不同工序,不同工序具有差異化的生產工藝和工藝數據采集、命名規(guī)則,故流程工藝數據具有明顯的多源異構特征,這為數據分析和處理帶來了很大困難;流程制造是一個多工序耦合的連續(xù)過程,物料波動或生產工況改變會對整條生產線造成影響,從而導致工藝數據隨內外部環(huán)境變化呈動態(tài)波動性,不利于分析工藝參數對質量指標的影響機理。
(3)樣本時序性強。生產線每天都會產生工藝參數xi、質量指標yi和采集時間等信息,將這些信息集合起來就可以獲得時間序列{ti,xi,yi},其中,ti代表時間戳,ti與ti+1之間的間隔為6 s。對時間序列{ti,xi,yi}進行分析發(fā)現(xiàn),xi、yi和ti存在較強的相關性。
2 基于LSTM-XGBoost-IPSO的流程工藝參數優(yōu)化方法
流程制造通常由不同工序串聯(lián)或并聯(lián)組成,在時間和空間上具有關聯(lián)性,上道工序的質量會對下道工序的質量以及最終的產品質量產生影響,想要實現(xiàn)流程工藝參數的整體優(yōu)化,必須考慮質量波動在全流程的傳遞,因此,在構建多工序工藝參數優(yōu)化模型時,如果上一道工序的質量未達標,則將上一工序的輸出添加到下一工序的輸入中,共同構建質量預測模型(圖2),在質量預測模型的基礎上,調用優(yōu)化算法逐步優(yōu)化各工序的工藝參數,最終實現(xiàn)對全流程工藝參數的優(yōu)化。
在制絲工藝過程中,優(yōu)化工藝參數的目的是獲得與質量標準最接近的質量指標值,因此以流程工藝各工序的質量標準值和質量預測值之差最小為優(yōu)化目標,每個工序產生一個單目標函數,多個工序共同組成一個多目標函數,最終建立的優(yōu)化目標函數如下:
min F(x)=k1(f1(x)-o1)2+k2(f2(x)-o2)2+…+kN(fN(x)-oN)2(1)
式中,F(xiàn)(x)為目標函數;x為制絲工藝參數;f1(x),f2(x),…,fN(x)為各工序的質量預測值;o1,o2,…,oN為各工序的質量標準值;k1,k2,…,kN為各工序所占目標權重。
此外,過多地調控工藝參數容易導致產品質量波動大,從而使工藝調整成本急劇增加,所以需要對工藝參數的取值限定范圍,要求優(yōu)化后工藝參數在其歷史最大波動范圍以內,則x的約束條件如下:
式中,x(i)為實際工藝參數值;x(i)max為該工藝參數的歷史最大值;x(i)min為該工藝參數的歷史最小值。
基于多工序工藝參數優(yōu)化問題分析,針對流程制造多工序耦合嚴重、工藝過程建模預測困難和工藝數據時序特征強等問題,構建了多工序工藝參數融合優(yōu)化模型。該模型主要包括LSTM神經網絡工藝數據預處理、PSO-XGBoost多工序質量預測和IPSO流程工藝參數優(yōu)化三個部分,模型結構如圖3所示。
LSTM工藝數據預處理模型首先對原始數據進行歸一化和異常值剔除處理,然后在進行LSTM模型訓練時引入Dropout層防止模型過擬合,最后將缺失序列輸入訓練好的模型中,實現(xiàn)對異常工藝數據的補全;再基于完整工藝數據訓練XGBoost回歸模型,將XGBoost模型的均方誤差作為適應度,利用粒子群優(yōu)化算法搜索XGBoost模型的最優(yōu)超參數,形成PSO-XGBoost多工序質量預測模型;在質量預測模型的基礎上,以模型預測值和質量標準之差最小為優(yōu)化目標函數,調用改進粒子群算法求解目標函數,從而獲得最優(yōu)多工序工藝參數組合,最終實現(xiàn)對多工序工藝參數的聯(lián)合優(yōu)化。
2.1 LSTM數據預處理模型
在數據采集工作中,由于操作不當、傳感器故障和停機斷料等原因,采集的數據中通常會存在異常值,為提高流程工藝建模預測的精度,需要對原始數據中的異常值進行預處理。傳統(tǒng)上采用直接刪除或使用隨機數填充的方式去處理異常值[15],但這兩種方式在處理流程工藝數據時均存在不足之處:直接刪除異常值會破壞數據的完整性,使用隨機數來替換異常值則忽略了流程工藝數據中存在的時序特征以及各工藝參數與質量指標間復雜的關聯(lián)關系。LSTM神經網絡能從歷史信息中提取時序特征和關聯(lián)關系[16],因此利用LSTM神經網絡補全流程工藝數據中的異常值,模型具體結構如圖4所示。
為滿足LSTM模型的輸入條件,對原始數據進行歸一化處理后,通過滑動窗口對數據進行重構:假設原始數據序列長度為L、特征維度為F,滑動窗口長度為W,時間步長為1,新序列長度為S,則S=W+1。采用滑動窗口對原始數據進行循環(huán)遍歷,窗口每滑動一次即可得到一個新序列,滑動窗口循環(huán)次數即為數據重構后的樣本個數N(N=L-S),故重構后的工藝數據是一個三維數組:(N,S,F(xiàn))。對重構后的數據進行編碼,樣本前S-1行為輸入變量X,最后1行是輸出變量Y,t時刻的輸入變量Xt結合上一時刻的狀態(tài)變量Ct-1和ht-1依次經過Ft、It和Ot得到t時刻的狀態(tài)變量Ct和隱藏層狀態(tài)ht,ht通過輸出層即為LSTM在t時刻的輸出Yt。
2.2 PSO-XGBoost質量預測模型
工藝參數與質量指標間關聯(lián)關系復雜,無法直接構建它們之間的函數關系模型,所以也就無法求解最優(yōu)工藝參數組合,因此,基于XGBoost算法構建了制絲質量指標預測模型,通過XG-Boost來擬合工藝參數與質量指標間的非線性關系,構建制絲質量預測模型的流程如圖5所示。
具體步驟如下:
(1)數據輸入。流程工藝數據集由制絲工藝參數和質量指標組成,可表示為D={Xmn,Ym},其中,Xmn表示工藝參數,Ym表示質量指標,m為樣本數,n為工藝參數的個數。在對原始數據進行預處理的基礎上,將Xmn作為XGBoost模型的輸入,將Ym作為XGBoost模型的輸出。
(2)模型訓練。XGBoost模型先訓練前面k-1棵樹,再通過第k棵樹擬合前面所有樹的殘差,每加入一棵樹都會使目標函數減小,最終獲得最小目標函數,XGBoost目標函數的表達式為
式中,m為樣本總數;yi為真實值;y^i為模型預測值;L(yi,y^i)為損失函數;Ω(fk)為正則項;fk表示第k棵樹;γ、λ為懲罰系數;J為葉子節(jié)點的個數;ω為葉子節(jié)點的權重。
因此,XGBoost的目標函數可進一步表示為
式中,C為常數項。
XGBoost模型訓練的目的就是找到fk去優(yōu)化目標函數。
(3)預測輸出。訓練好的模型包含k棵樹,k棵決策樹的預測結果求和即為XGBoost模型預測結果,模型預測結果計算方式如下:
式中,xi表示第i個樣本;k為迭代次數;fk(xi)表示第i個樣本在第k棵決策樹上葉子節(jié)點處的權重。
(4)超參數優(yōu)化。XGBoost超參數眾多,超參數對模型的預測精度存在較大影響[17],故采用粒子群優(yōu)化算法搜索模型最優(yōu)超參數。PSO算法根據工藝范圍在D維空間隨機產生一些粒子,所有粒子都具有速度V=(v(1),v(2),…,v(D))和位置X=(x(1),x(2),…,x(D))兩個屬性,粒子不斷更新速度和位置,并通過適應度值評價粒子的好壞,最終得出粒子的全局最優(yōu)位置,粒子全局最優(yōu)位置即XGBoost模型的最優(yōu)超參數組合。
2.3 IPSO工藝參數尋優(yōu)模型
由于制絲工藝中各工序間相互耦合,工藝參數與質量指標間存在復雜的非線性關系,無法通過常規(guī)方法求解,而粒子群優(yōu)化算法具有收斂快、參數少等優(yōu)點[18],故采用粒子群優(yōu)化算法求解最優(yōu)工藝參數。此外,為解決優(yōu)化算法在追求收斂速度的同時難以兼顧算法精度的問題,對粒子群優(yōu)化算法進行了如下改進:
(1)慣性權重線性遞減。慣性權重ω越大全局搜索能力越強,ω越小局部搜索能力越強[19]。采用慣性權重遞減的方式,使ω隨迭代次數的增加而減小。第t次迭代時的慣性權重
式中,ωmax為最大慣性權重;ωmin為最小慣性權重;T為最大迭代次數。
(2)加速因子自適應變化。加速因子c1越大局部搜索能力越強,加速因子c2越大全局搜索能力越強[20]。采用加速因子隨迭代次數自適應變化的策略,使搜索初期c1較小、c2較大,搜索后期c1較大、c2較小。c(t)1、c(t)2為算法進行第t次迭代時的加速因子:
式中,c1max、c2max為最大加速因子;c1min、c2min為最小加速因子。
(3)限制粒子位置。在粒子搜索過程中,如果粒子速度過大則容易越過最優(yōu)解、跳出搜索空間,為了保證粒子始終在搜索范圍內,對粒子的位置進行限制:
式中,xi為粒子位置;xmin為粒子搜索下限;xmax為粒子搜索上限。
在PSO-XGBoost質量指標預測模型基礎上,根據具體的質量標準值,調用改進粒子群優(yōu)化算法反向搜索最佳工藝參數,算法所涉及的參數如表1所示,偽代碼如下:
融合改進粒子群算法和XGBoost的多工序工藝參數優(yōu)化
輸入:種群數為N,最大迭代次數為T,工藝范圍,質量標準
輸出:最優(yōu)工藝參數
隨機初始化粒子群
while(t for(種群) 計算所有粒子的適應度f if1(pbest,s 更新個體最優(yōu)位置,pbest=x end if1 if2(gbest,s 更新全局最優(yōu)位置,gbest=x end if2 更新ω,c1,c2,v,x 檢查是否有位置超出范圍的粒子,將超出范圍的粒子放回搜索范圍 end for t←t+1 end while return gbest對應的最優(yōu)工藝參數 具體過程如下: (1)隨機初始化粒子群。 (2)計算每個粒子的適應度,公式如下: 式中,f(x)為PSO-XGBoost質量預測模型的預測值;o為質量標準值。 (3)更新pbest和gbest。每個粒子搜索出的適應度值最小的位置為個體最優(yōu)位置(pbest),粒子群中適應度值最小粒子的位置為全局最優(yōu)位置(gbest)。 (4)根據式(8)更新慣性權重ω,根據式(9)、式(10)更新加速因子c1和c2。 (5)更新粒子的速度v與位置x: 式中,r1、r2為0~1之間的常數。 (6)限制粒子位置。根據式(11)檢查是否有位置超出范圍的粒子,將超出范圍的粒子放回搜索范圍。 (7)判斷是否達到設置的最大迭代次數T,若達到最大迭代次數,則輸出最優(yōu)工藝參數,若未達到最大迭代次數,則重復步驟(2)~步驟(7)。 3 實驗驗證 3.1 實驗設計 為了驗證提出的多工序工藝參數優(yōu)化方法的有效性,以某流程制造企業(yè)的制絲生產線為實驗對象,進行流程工藝參數的優(yōu)化與控制。根據工藝參數與質量指標的映射關系建立各工序的質量預測模型,基于預測模型判斷各工序的工藝參數能否使質量指標滿足需求,如果預測質量不達標,則根據質量標準調用優(yōu)化算法調節(jié)工藝參數。實驗運行環(huán)境如表2所示。 3.2 實驗數據 由于流程生產線工序較多,所以只對松散回潮、一級加料和二級加料三個工序展開分析,每道工序都包含4630條數據,松散回潮工序包含8個工藝參數和1個質量指標,一級加料工序包含13個工藝參數和1個質量指標,二級加料工序包含6個工藝參數和1個質量指標,各工序的生產數據如表3~表5所示。 3.3 實驗分析 3.3.1 LSTM異常值處理效果 各工序共有4630條數據,前4277條數據完整,后353條數據中出料含水率出現(xiàn)異常值,將異常值替換為空值后,利用LSTM神經網絡補全空值。將前4277條數據按7∶3的比例劃為訓練集和測試集,利用訓練集訓練工藝數據預處理模型,將工藝參數作為輸入、出料含水率為輸出,設置LSTM神經網絡的時間窗為10,通過前10條數據預測后1條數據的出料含水率。LSTM工藝數據預處理模型訓練完成后,通過測試集對LSTM工藝數據預處理模型進行測試,在模型滿足預測精度需求后將其應用在后353條數據出料含水率異常值的補全中。 LSTM工藝數據預處理模型的訓練過程如圖6所示,可知:基于松散回潮數據,LSTM工藝數據預處理模型迭代到350次左右時損失函數曲線趨于穩(wěn)定,損失值介于0~0.02;基于一級加料數據,LSTM模型運行到250次左右時損失函數曲線趨于穩(wěn)定,損失值介于0~0.02;基于二級加料數據,LSTM模型運行到200次左右時損失函數曲線趨于穩(wěn)定,損失值介于0~0.02。 利用測試集對LSTM工藝數據預處理模型進行測試,將出料含水率的真實值與預測值進行對比,由圖7可見,出料含水率真實值與預測值在極值處存在些許差異,在其他樣本點的擬合效果整體較好。 LSTM工藝數據預處理模型在松散回潮測試集上產生的平均絕對誤差(MAE)為0.0496,均方誤差(MSE)為0.0125,擬合優(yōu)度(R2)為0.9351;在一級加料測試集上產生的平均絕對誤差為0.0325,均方誤差為0.0057,擬合優(yōu)度為0.9370;在二級加料測試集上產生的平均絕對誤差為0.0175,均方誤差為0.0013,擬合優(yōu)度為0.9467。這表明構建的LSTM工藝數據預處理模型是合理的,通過該模型即可重新補全異常的出料含水率數據。 3.3.2 PSO-XGBoost質量預測效果 將填充完整的流程工藝數據按7∶3的比例分為訓練集和測試集,基于訓練集建立XGBoost預測模型,同時引入PSO優(yōu)化XGBoost預測模型的最優(yōu)超參數。待優(yōu)化的XGBoost超參數分別是:學習器的數量(ne),樹的最大深度(dmax),學習率(rL),最小損失減少量(γm),最小葉子權重和(wm),樣本采樣率(PS),特征采樣率(cbc),列采樣率(cbl)。 根據經驗確定XGBoost超參數搜索范圍,將加速因子c1設為1,加速因子c2設為1,慣性權重ω設為0.5,算法最大迭代次數T設為30,優(yōu)化后的超參數結果如表7所示。 基于超參數尋優(yōu)結果構建PSO-XGBoost質量指標預測模型,利用測試集對PSO-XGBoost質量預測模型進行測試。對比分析出料含水率的真實值與預測值,發(fā)現(xiàn)在松散回潮數據集上PSO-XGBoost質量預測模型的平均絕對誤差為0.0681,均方誤差為0.0093,擬合優(yōu)度為0.9624;在一級加料數據集上PSO-XGBoost質量預測模型的平均絕對誤差為0.0346,均方誤差為0.0464,擬合優(yōu)度為0.9780;在二級加料數據集上PSO-XGBoost質量預測模型的平均絕對誤差為0.0199,均方誤差為0.0011,擬合優(yōu)度為0.9666??傮w上看PSO-XGBoost質量預測模型精度較高,模型預測值與真實值對比曲線如圖8所示。 3.3.3 IPSO工藝參數尋優(yōu)效果 為尋找最佳工藝參數組合,保證產品質量,通過改進粒子群優(yōu)化算法進行流程工藝參數尋優(yōu)。根據工藝參數尋優(yōu)范圍確定搜索空間上下限,設置慣性權重ωmax為0.9、ωmin為0.2,個體學習系數c1max為2、c1min為1,全局學習系數c2max為2、c2min為1,算法最大迭代次數為100,多次運行算法取平均,結果如圖9所示。由圖9可知:在松散回潮數據上,經過40輪迭代后適應度值趨于穩(wěn)定,介于0~0.002之間;在一級加料數據上,經過40輪迭代后適應度值趨于穩(wěn)定,介于0~0.002之間;在二級加料數據上,經過80輪迭代后適應度值趨于穩(wěn)定,介于0~0.002之間。 3.4 對比實驗 為了驗證預測模型的有效性,分別采用線性回歸、隨機森林、XGBoost和PSO-XGBoost算法構建質量預測模型。利用相同的數據集訓練模型,并將訓練好的模型放在同一測試集中進行測試,繪制出線性回歸預測模型、隨機森林預測模型、XGBoost預測模型和PSO-XGBoost預測模型的出料含水率真實值與預測值的對比圖(圖10)。 對比分析4個模型的出料含水率真實值與預測值對比圖,可知PSO-XGBoost質量指標預測模型的擬合效果最好,四個模型的平均絕對誤差(MAE)、均平方誤差(MSE)和擬合優(yōu)度(R2)如表8所示。 由表8可知:線性回歸模型的平均絕對誤差和均平方誤差最大,擬合優(yōu)度最低;與線性回歸相比,隨機森林模型的平均絕對誤差和均平方誤差有大幅度降低,擬合優(yōu)度大幅度提高;XGBoost預測模型的平均絕對誤差和均平方誤差比隨機森林的低,擬合優(yōu)度比隨機森林的高;經粒子群算法優(yōu)化超參數的PSO-XGBoost模型的平均絕對誤差、均平方誤差和擬合優(yōu)度分別為0.0199、0.0011、0.9666,相較于未經優(yōu)化的XGBoost模型,平均絕對誤差減小了0.004,均平方誤差減小了0.0004,擬合優(yōu)度增大了0.011,PSO-XGBoost模型在出料含水率預測上更具準確性。 進一步將PSO和IPSO算法進行對比,結果如圖11所示。PSO的適應度函數曲線下降得比較快,算法迭代到20次左右就不再變化,迭代完成時PSO的適應度值在0~0.0025之間;相較于PSO,IPSO的適應度函數曲線下降得更慢,算法迭代到80次左右不再變化,迭代完成時IPSO的適應度值在0~0.002之間。由此可見PSO存在局部收斂現(xiàn)象,而IPSO通過慣性權重遞減、加速因子自適應變化和限制粒子位置的方式,增強了粒子靠近最優(yōu)解時的搜索能力,有效緩解了PSO難以兼顧收斂速度和算法精度的問題,最終得到了優(yōu)于PSO的結果。 4 結論 針對復雜制造過程多工序工藝參數優(yōu)化困難的問題,本文提出一種融合集成學習和改進粒子群算法的多工序工藝參數優(yōu)化方法,以實現(xiàn)對不同工序加工質量的精準預測和工藝參數優(yōu)化。主要結論如下: (1)通過LSTM神經網絡構建了流程工藝數據預處理模型,利用LSTM網絡的記憶功能提取流程工藝數據的時序特征和關聯(lián)關系,彌補了均值填充、眾數填充等常規(guī)異常值處理方法存在的不足,有效處理了異常的流程工藝數據。 (2)采用XGBoost算法構建工藝參數與質量指標間的映射模型,并引入粒子群算法搜索XGBoost模型的最優(yōu)超參數組合,實現(xiàn)了對復雜制造過程加工質量的精準預測。結果表明:經粒子群算法優(yōu)化的XGBoost預測模型與線性回歸、隨機森林和未經優(yōu)化的XGBoost模型相比,誤差最小、擬合優(yōu)度最大、預測效果最佳。 (3)在PSO-XGBoost質量預測模型的基礎上,以質量標準值和預測值的差最小為優(yōu)化目標函數,利用改進粒子群算法進行全局尋優(yōu),通過慣性權重遞減和加速因子自適應變化等策略,在提高尋優(yōu)速度的同時保證了算法精度,為流程工業(yè)提供了一種高效的多工序工藝參數優(yōu)化手段。 參考文獻: [1]程進,王堅. 數據驅動的流程制造工藝參數匹配方法[J]. 計算機集成制造系統(tǒng),2017,23(11):2361-2370. CHENG Jin,WANG Jian. Data-driven Matching Method for Processing Parameters in Process Manufacturing[J]. Computer Interated Manufacturing Systems,2017,23(11):2361-2370. [2]QIAN Feng. Artificial Intelligence Energizes Process Manufacturing[J]. Engineering,2021,7(9):5-8. [3]柴天佑,劉強,丁進良,等. 工業(yè)互聯(lián)網驅動的流程工業(yè)智能優(yōu)化制造新模式研究展望[J]. 中國科學:技術科學,2022,52(1):14-25. CHAI Tianyou,LIU Qiang,DING Jinliang,et al. Perspectives on Industrial-internet-driven Intelligent Optimized Manufacturing Mode for Process Industries[J]. Scientia Sinica(Technologica),2022,52(1):14-25. [4]鄧曰明,趙玉剛,劉廣新,等. 基于響應面法的鎳鈦合金血管支架管材內壁磁粒研磨工藝參數研究[J]. 表面技術,2021,50(10):384-393. DENG Yueming,ZHAO Yugang,LIU Guangxin,et al. Study on Process Parameters of Magnetic Abrasive Finishing of the Inner Wall of Ni-Ti Alloy Cardiovascular Stents Based on Response Surface Methodology[J]. Surface Technology,2021,50(10):384-393. [5]余杰,蔡創(chuàng),謝佳,等. 基于響應面法的低碳貝氏體鋼激光-電弧復合焊接工藝參數優(yōu)化[J]. 中國激光,2022,49(16):179-188. YU Jie,CAI Chuang,XIE Jia,et al. Process Parameter Optimization for Laser-arc Hybrid Welding of Low-carbon Bainite Steel Based on Response Surface Methodology[J]. Chinese Journal of Lasers,2022,49(16):179-188. [6]WANG G,WANG Y,YANG D. Study on Automotive Back Door Panel Injection Molding Process Simulation and Process Parameter Optimization[J]. Advances in Materials Science and Engineering,2021(2021):1-15. [7]LEWISE K A S,DHAS J E R. FSSW Process Parameter Optimization for AA2024 and AA7075 Alloy[J]. Materials and Manufacturing Processes,2022,37(1):34-42. [8]羅留祥,邢彥鋒. 基于BP神經網絡遺傳算法的薄板CMT點焊變形[J]. 焊接學報,2019,40(4):79-83. LUO Liuxiang,XIN Yanfeng. Deformation of Thin Plate CMT Spot Welding Based on BP Neural Network Genetic Algorithm[J]. Transactions of the China Welding Institution,2019,40(04):79-83. [9]鄧聰穎,葉波,祿盛,等. 基于切削穩(wěn)定性與表面質量約束的銑削工藝參數優(yōu)化研究[J]. 儀器儀表學報,2021,42(11):190-199 DENG Congying,YE Bo,LU Sheng,et al. Optimization of Milling Process Parameters Considering the Constraints of Cutting Stability and Surface Quality[J]. Chinese Journal of Scientific Instrument,2021,42(11):190-199. [10]鄭城,張潔,呂佑龍,等. 基于改進粒子群算法的晶圓良率優(yōu)化方法[J]. 計算機集成制造系統(tǒng),2023,29(4):1165-1173. ZHENG Cheng,ZHANG Jie,LYU Youlong,et al. Wafer Yield Improvement Based on Enhanced Particle Swarm Optimization[J]. Computer Integrated Manufacturing Systems,2023,29(4):1165-1173. [11]WANG L C,CHEN C C,HSU C C. Applying Machine Learning and GA for Process Parameter Optimization in Car Steering Wheel Manufacturing[J]. The International Journal of Advanced Manufacturing Technology,2022,122(11):4389-4403. [12]MENG Junyu,WANG Yuan,LIAO Qianfeng,et al. Corner-milling Process Parameter Optimization Regarding H62 Brass Using Kriging Model and Improved Particle Swarm Optimization Algorithm[J]. Journal of the Brazilian Society of Mechanical Sciences and Engineering,2020,42(4):172. [13]LIU Lillan,ZHANG Xiangyu,WAN Xiang,et al. Digital Twin-driven Surface Roughness Prediction and Process Parameter Adaptive Optimization[J]. Advanced Engineering Informatics,2022,51:101470. [14]ZHAO Lujun,QI Yuqi,SHAO Jiaming,et al. Modeland Practice of the Intelligent Manufacturing Readiness for Process Industry[J]. Chemical Industry and Engineering Progress,2023,42(1):118-127. [15]趙艷紅,姜漢橋,李洪奇,等. 基于機器學習的單井套損預測方法[J]. 中國石油大學學報(自然科學版),2020,44(4):57-67. ZHAO Yanhong,JIANG Hanqiao,LI Hongqi,et al. Research on Predictions of Casing Damage Based on Machine Learning[J]. Journal of China University of Petroleum(Edition of Natural Science),2020,44(4):57-67. [16]DEVI J V,KAVITHA K S. Automating Time Series Forecasting on Crime Data Using RNN-LSTM[J]. International Journal of Advanced Computer Science and Applications,2021,12(10):458-463. [17]姜少飛,鄔天驥,彭翔,等. 基于XGBoost特征提取的數據驅動故障診斷方法[J]. 中國機械工程,2020,31(10):1232-1239. JIANG Shaofei,WU Tianji,PENG Xiang,et al. Data Driven Fault Diagnosis Method Based on XGBoost Feature Extraction[J]. China Mechanical Engineering,2020,31(10):1232-1239. [18]韓丁,馬子寅,王俊林,等. 基于粒子群算法的超材料吸波體傳感器逆設計[J]. 中國激光,2022,49(17):168-175. HAN Ding,MA Ziyin,WANG Junlin,et al. Inverse Design of Metamaterial Absorber Sensor Based on Particle Swarm Optimization[J]. Chinese Journal of Lasers,2022,49(17):168-175. [19]許哲東,侯公羽,楊麗,等. 基于支持向量回歸積和改進粒子群算法的特定區(qū)間盾構機作業(yè)參數選?。跩]. 中國機械工程,2022,33(24):3007-3014. XU Zhedong,HOU Gongyu,YANG Li,et al. Selection of Shield Construction Parameters in Specific Setions Based on e-SVR and Improved Particle Swarm Optimization Algorithm[J]. China Mechanical Engineering,2022,33(24):3007-3014. [20]TANG Zhu,LI Shuqing,HUANG Fei,et al. Optimization of a Cable Support Strategy for Roadways in Coal Mines by Using the PSO Algorithm[J]. Geotechnical and Geological Engineering,2022,40(1):153-63. (編輯 王艷麗) 作者簡介:劉孝保,男,1978年生,副教授。研究方向為智能制造、人工智能。E-mail:forcan2008@qq.com。易 斌(通信作者),男,1974年生,高級工程師。研究方向為控制工程、人工智能。E-mail:yxyibin@126.com。