機器學習預測葉片-網孔管線式高剪切混合器性能

王靈杰郭俊恒李文鵬程 芹張金利?

(1.天津大學化工學院,天津 300072;2.鄭州大學化工學院,鄭州 450000;3.安徽大學化學化工學院,合肥 230601)

高剪切混合器作為一種新型的過程強化裝備,已廣泛應用于化工、食品、制藥以及農業領域。高剪切混合器核心部件為定轉子,不同的生產過程與操作工況需要采用不同定轉子構型及組合方式,這導致高剪切混合器的定轉子結構及組合形式復雜多樣[1]。高剪切混合器的結構參數、操作參數與物性參數對其流動、功耗、乳化和傳質特性的影響錯綜復雜,至今仍未形成對上述特性清晰而系統的認識。目前,高剪切混合器的設計、選型、工業放大和操作參數調控仍然主要依賴于工程經驗和反復實驗,這導致其存在開發與使用成本偏高,放大困難等問題[2]。因此,急需建立高剪切混合器設計與優化模型。

近些年來,機器學習飛速發展,機器學習建模方法越來越多地應用于模型預測及系統優化。例如,在微波固化材料技術中,由于微波腔內不均勻的電磁場導致物體表面溫度不均勻,嚴重阻礙了固化材料技術的發展;Zhou 等利用機器學習卷積神經網絡(Neural Network,NN)實現了溫度智能控制,使表面溫度的均勻性有了明顯地提高,解決了溫度不均勻的痛點,滿足了航空航天材料的高質量要求[3]。Wu 等利用機器學習的遷移學習方法,讓計算機從高分子數據庫中學習已有數據建立模型,并用實驗數據微調機器學習模型,極大改善了因實驗數據太少不能使用機器學習的缺點,設計了新型高導熱聚酰亞胺,其導熱系數比傳統的提高了80%[4]。由于神經網絡容易陷入局部極值,孫永利等使用機器學習神經網絡和遺傳算法結合的方法改善了神經網絡容易陷入局部極值的缺點,精確預測了螺旋折流板換熱器的殼程換熱系數和壓降[5]。李文鵬等使用反向傳播神經網絡機器學習算法對管線式高剪切反應器建模,減少了實驗次數,獲得了反應器的最優結構[6]。

可見基于人工智能和機器學習的建模和優化技術在化工方向發揮越來越重要的作用。然而高剪切混合器設計僅使用了一種機器學習算法,還有多種算法未嘗試。因此本工作采用多種機器學習算法對葉片-網孔管線式高剪切混合器的結構參數、操作參數和物性參數對其功耗、液液傳質和乳化性能進行建模,以期為葉片-網孔管線式高剪切混合器的設計與優化提供工具。從而減少實驗次數,獲得高剪切反應器的最優結構,降低成本,縮短開發周期。

1 機器學習算法

1.1 反向傳播神經網絡算法

反向傳播(Back Propagation,BP)神經網絡方法,在神經元足夠多的情況下,可以在任意精度的情況下,逼近非線性的映射關系[7]。

BP 神經網絡是多層的神經網絡,含有輸入層、隱含層和輸出層。前面1 層神經元與后1 層神經元各個相連接,但是本層神經元互不相連。調整權重和閾值,使用梯度下降法的策略,使預測值與實際值的誤差最小。

1.2 循環神經網絡算法

循環神經網絡(Recurrent Neural Network,RNN)是一種深度學習神經網絡[8]。在神經網絡中加入反饋連接層,能夠對過去的數據留下印象并且建立不同時間段數據的關系。可認為是同一單元重復構成的鏈式結構網絡,其輸出不僅受當前數據的影響而且受以前所有數據的影響。伴隨著時間和神經元數量增加,RNN 往往會出現梯度消失和爆炸的現象。

長短時記憶(Long Short Term Memory,LSTM)神經網絡也是一種神經網絡,它是RNN 的一種改進模型[9]。LSTM 利用記憶模塊代替普通的神經元,一個記憶模塊由輸入門、遺忘門和輸出門構成。由于遺忘門的存在,LSTM 可以忘記一些不重要的信息,有效防止梯度的消失和爆炸。

門控循環單元(Gated Recurrent Unit,GRU)神經網絡是LSTM 的改進版本[10]。GRU 比LSTM 少一個門控單元,優化了LSTM 內部結構,由于參數的減少,從而大幅提高了訓練速度。

1.3 基于樹的機器學習算法

決策樹(Decision Tree,DT)作為一種機器學習方法,可以進行數據分類和回歸[11]。使用一個基于樹的模型,以香農熵的大小為劃分依據。因為它的方法非常簡單、但卻有非常明確的物理含義,可以輕松的變成“如果-那么”的規則,能夠生成具有可解釋的類似于流程圖的樹狀結構的準確預測模型,從而使用戶能夠快速提取有用的信息。

極端隨機樹(Extremely Randomized Trees,ET)由Pierre Geurts 等于2006年提出[12]。通過對多個決策樹進行打分,根據各個決策樹預測值的平均值來預測。

極端梯度提升(Extreme Gradient Boosting,XGBOOST)由陳天齊博士提出[13]。內部是決策回歸樹,能處理大量的數據,自定義損失函數。采用弱分類器迭代計算,從而提高預測精確性。

梯度提升回歸樹(Gradient Boosting Regressor,GBR)每次迭代生成一個弱學習器用于擬合損失函數以前累積模型的梯度,之后將弱學習器加入累積模型,從而逐漸降低模型的損失[14]。

2 實驗

2.1 PyCaret 程序

PyCaret 是一個開源的程序,它對計算硬件資源的要求不是很高,8 GB 的運行內存就可以運行[15];操作系統為Windows 10,程序語言為Python,在Jupyter Notebook 軟件下運行。PyCaret 程序十分 方便機器學習初學者使用。

PyCaret 具有簡潔的、可以方便設置的程序界面,內置25 種不同的機器學習算法,僅僅用幾行代碼就可以完成從數據預處理到實現模型部署的整個流程。它包含了如今很多流行的機器學習算法,如:決策樹算法、隨機森林算法、支持向量機算法和最近鄰算法等。PyCaret 可以進行有監督和無監督模型的訓練,能夠實現分類、回歸、異常檢測、聚類、自然語言處理和關聯規則挖掘6 大類功能。

2.2 數據預處理

除PyCaret 以外,本研究所有機器學習模型的輸入數據均采用歸一化的方法[式(1)],將輸入數據變為-1～1 的值,將有量綱的數據變為無量綱的數據,變成純量數據后,更有利于機器學習的訓練。輸出數據采用對數的方法[式(2)]平滑輸出數據,使其更符合高斯分布,也更方便機器學習的訓練。最后使用式(3)將式(2)的輸出數據變為最終的擬合數據。

式(1)中:xmax為每個特征的最大值,xmin為每個特征的最小值。

2.3 數據描述

2.3.1 流體凈功耗(Pfluid)數據

流體凈功耗數據來自程芹和秦宏云的實驗,共有141 組數據[16,17]。輸入參數為轉子葉片彎曲角度、定轉子剪切間隙、轉子葉片個數、轉子轉速、流體流量、流體密度、連續相黏度、分散相黏度、外層直徑和層數,輸出參數為Pfluid,總計10 個輸入變量,1 個輸出變量。表1為部分流體凈功耗數據。

表1 部分流體凈功耗數據Table 1 Part of Pfluid data

2.3.2 液液總體積傳質系數(KLa)數據

液液總體積傳質系數KLa數據來自秦宏云的實驗,共有35 組數據[17]。輸入參數為定轉子剪切間隙、層數、轉子葉片個數、轉子葉片彎曲角度、轉子轉速,輸出參數為KLa,總計5 個輸入變量,1 個輸出變量。表2為部分液液KLa數據。

表2 部分液液KL a 數據Table 2 Part of liquid-liquid KL a data

2.3.3 液液乳化Sauter 平均直徑(d32)數據

表3 部分液液乳化液滴d32 數據Table 3 Part of liquid-liquid emulsification droplet d32 data

3 結果與討論

3.1 流體凈功耗模型

3.1.1 流體凈功耗GRU-BP 模型

GRU-BP 神經網絡是在算法層面對2 個網絡的結合。將GRU 層的輸出作為BP 神經網絡的輸入層,接著是BPNN 的隱含層,最后是輸出層。

圖1是GRU 單元內部結構,式(4)是sigmoid 激活函數。式(5)中zt為更新門,σ為sigmoid 激活函數,xt表示t時刻輸入,ht-1表示上一隱藏節點輸出;

圖1 GRU 單元結構Fig.1 The structure of GRU unit

式(6)中rt為重置門;式(7)中為隱藏節點待選值,tanh 為雙曲正切函數;式(8)中ht為t時刻隱藏節點的輸出,Wz、Wr、Wh、Uz、Ur和Uh為需要更新的參數。

將葉片-網孔管線式高剪切混合器流體凈功耗的141 組數據中的119 組數據為訓練集,22 組數據為測試集。訓練時使用式(2)和式(3)對輸出數據進行數據變換。使用GRU-BP 模型Adam 算法訓練數據,得到輸入層10 個神經元,1 層深度為2 的GRU 單元后接3 個神經元的全連接層,全連接層使用sigmoid 函數激活,輸出層為1 個神經元的GRUBP 模型(圖2)。式(9)～式(11)為評價模型平均絕對誤差(MAE)、平均相對誤差(MRE)和決定系數(R2)。模型訓練后的MAE、MRE、R2如表4所示。圖3為GRU-BP 模型預測值與實驗值的對比,最大相對誤差為24.94%。

圖2 經過優化的GRU-BP 結構Fig.2 Optimized structure of the GRU-BP model

圖3 GRU-BP 模型預測Pfluid 值和實驗結果對比Fig.3 Comparison of predicted Pfluid value and experimental value with GRU-BP model

表4 葉片網孔型流體凈功耗GRU-BP 模型表現Table 4 The performance of blade screen Pfluid GRU-BP model

式(9)～式(11)中:Ysim為預測值,Yrea為實驗值。

3.1.2 流體凈功耗樹模型

①公路橋梁養護及加固是其施工管理的重要組成部分，確保較高質量的公路養護和加固技術應用，對于工程建設質量提升，和道路運行安全具有重大影響，其能確保公路橋梁社會服務職能的充分發揮。②對于建設企業而言，公路橋梁養護和加固技術的應用，有助于其施工工藝的不斷成熟，從而在提升自身技術競爭優勢的同時，實現工程質量效益、經濟效益和社會效益的有效獲得。③從社會發展的角度來看，公路橋梁工程服務于區域的社會生產實踐，通過養護及加固技術應用，確保其建設的質量化，對于區域經濟發展和社會進步具有重大影響。由此可見，在公路橋梁工程建設中，確保養護及加固技術的深層次應用勢在必行。

使用PyCaret 程序默認設置對流體凈功耗數據進行擬合,在141 組數據中119 組數據為訓練集,22組數據為測試集。輸入數據和輸出數據均不作任何數據變換。在PyCaret 程序創建的25 種常用的機器學習模型中,選出MAE 較小的3 個模型,按照MAE 從小到大排列與GRU-BP 模型比較,模型的MAE、MRE 和R2如表5所示。從表5可以看到,經過PyCaret 優化的ET 模型不僅其MRE 為1.48%小于GRU-BP 模型的2.96%,而且其MAE 為1.111 9也小于GRU-BP 模型的2.375 8。由此可見,自動機器學習模型對于僅有少數機器學習背景的科研人員和工程師還是非常有用的,可以用于大數據量的建模與預測。

表5 4 種不同Pfluid 模型比較Table 5 Comparison of 4 different Pfluid models

3.2 液液總體積傳質系數KLa 模型

3.2.1 KLa 的RNN、BP 模型

將葉片-網孔管線式高剪切混合器的液液總體積傳質系數KLa共計35 組數據,分為28 組訓練數據和7 組測試數據;使用BP 算法,激活函數為sigmoid 函數,在輸入層、隱含層和輸出層之間進行數據傳輸。最終得到了輸入層5 個神經元、隱含層3個神經元、輸出層1 個神經元的5-3-1 網絡結構的BP1模型。模型訓練后的MAE、MRE、R2如表6所示,模型在所有數據集上的最大相對誤差為19.74%。

表6 葉片網孔型KL a 模型表現Table 6 The performance of blade screen KL a model

使用和BP1模型同樣的訓練集和測試集,采用RNN 模型Adam 算法訓練數據,得到輸入層5 個神經元,1 層RNN 單元,RNN 單元的深度為3,輸出層1 個神經元的RNN1模型。模型訓練后的MAE、MRE、R2如表6所示,模型在所有數據集上的最大相對誤差為19.70%。

使用模型融合方法,將不同模型的輸出乘以權重值加和后作為融合模型的輸出,可以減輕神經網絡容易過擬合,泛化能力差的問題。不同融合模型的預測精度如圖4所示。圖4中除BP1、RNN1外,其余模型名稱的命名規則與MK55 相同;MK55 中的M 是Model 的簡寫,K 是KLa的簡寫,第1 個5 表示BP1模型的權重為0.5、第2 個5 表示RNN1模型的權重為0.5。從圖4中可以看出,MK55 模型有最小的平均相對誤差,其平均相對誤差為6.36%;因此,選取MK55 作為葉片-網孔管線式高剪切混合器KLa的最終預測模型[式(12)]。圖5為MK55 模型預測不同結構參數和操作參數對KLa的影響,圖5中的圓球形表示的是實驗數據。由圖5知,KLa隨著轉子葉片個數先增大后減小;隨著轉子葉片彎曲角度增大而減小;低轉速下,層數增加,KLa增加。改變高剪切混合器的結構參數和操作參數,可以形成107 632 個組合,在此范圍內利用MK55 模型進行參數尋優,發現:定轉子剪切間隙為0.000 5 m、轉子層數為2 層、轉子有6 個葉片、轉子葉片彎曲角度為-15°、轉子轉速為3 000 r·min-1時,可以獲得最高的KLa值;此條件下,經GRU-BP 模型預測的流體凈功耗為35.02 W。

圖4 不同KL a 模型表現Fig.4 The performance of different KL a models

圖5 MK55 模型估算不同結構參數和轉速時葉片網孔KL a 的值Fig.5 The blade screen KL a MK55 model to estimate values of different configuration parameters and speeds

3.2.2 KLa 的樹模型

使用PyCaret 程序默認設置對總體積傳質系數35 組數據進行擬合,在35 組數據中28 組數據為訓練集,7 組數據為測試集。輸入數據和輸出數據均不作任何數據變換。在PyCaret 程序創建的25 種常用的機器學習模型中,選取2 個MAE 較小的模型與MK55 模型比較,模型的MAE、MRE 和R2如表7所示。表7的DT 模型和ET 模型對高剪切混合器性能的擬合均優于MK55 模型。

圖6是表7決策樹模型DT 估算不同剪切間隙和轉速時KLa值的變化情況。通過圖5與圖6比較,MK55 模型輸出值是平滑的,決策樹模型輸出值是階躍的。因此,雖然決策樹的MRE 和MAE 都優于MK55 模型,但在數據量較小的情況下,決策樹模型由于其輸出不能平滑變化,不能對高剪切混合器進行較好地優化。

表7 3 種不同KL a 模型比較Table 7 Comparison of 3 different KL a models

圖6 決策樹模型估算不同剪切間隙和轉速時葉片網孔KL a 的值Fig.6 The blade screen KL a decision tree model to estimate values of different shear gaps and speeds

3.3 乳化液滴d32 模型

將葉片-網孔管線式高剪切混合器的乳化液滴d32共計28 組數據分為23 組訓練數據和5 組測試數據,使用BP 模型Adam 算法訓練數據,得到5-2-1網絡結構的BP2模型。模型訓練后的MAE、MRE、R2如表8所示,模型在所有數據集上的最大相對誤差為10.34%。

表8 葉片網孔型d32 模型表現Table 8 The performance of blade screen d32 model

使用和BP2模型同樣的訓練集和測試集,使用RNN 模型Adam 算法訓練數據,得到輸入層5 個神經元,1 層RNN 單元,RNN 單元的深度為1,輸出層1 個神經元的RNN2模型。模型訓練后的MAE、MRE、R2如表8所示,模型在所有數據集上的最大相對誤差為12.10%。

圖7是不同乳化液滴d32模型的比較,除BP2、RNN2外,其余模型的命名規則與MD91 相同;MD91模型名稱的命名規則為:M 代表Model、D 代表d32,9表示BP2模型的權重為0.9,1 表示 RNN2模型的權重為0.1。

圖7 不同葉片網孔d32 模型表現Fig.7 The performance of different blade screen d32 models

從圖7中可以看出,各個模型MRE 變化相對于其最大相對誤差變化比較小,MD91 模型有最小的平均相對誤差,其平均相對誤差為2.69%;因此,選取MD91 作為乳化液滴d32的最終預測模型(式13)。改變高剪切混合器的結構參數和操作參數,可以形成55 552 個組合,在此范圍內利用MD91 模型進行參數尋優,發現:定轉子剪切間隙為0.000 5 m,轉子層數為3 層,轉子有9 個葉片,轉子葉片彎曲角度為15°,在轉速3 500 r·min-1下,可以獲得最小的d32。在此條件下,經GRU-BP 模型預測的流體凈功耗為57.26 W。

4 結論

1)BPNN、RNN、GRU-BP 算法可以準確預測高剪切混合器的功耗、液液傳質和乳化性能,通過對不同機器學習模型進行融合,可以使預測模型的最大相對誤差繼續下降,模型精度進一步提升。經過模型融合液液KLa模型最大相對誤差由19.74%下降至19.53%,平均相對誤差由 7.11% 下降至6.36%。乳化液滴d32模型最大相對誤差由12.10%下降至10.00%,平均相對誤差由4.44%下降至2.69%。從而為高剪切混合器的結構與操作參數設計提供工具。

2)為了獲得最適宜的液液傳質和乳化性能,利用機器學習模型對高剪切混合器的操作與結構參數進行了優化設計。最適宜參數組合為:定轉子剪切間隙為0.000 5 m,轉子層數為2 層,轉子葉片數為6 個,轉子葉片彎曲角度為-15°,轉子轉速為3 000 r·min-1時,可以獲得最高的KLa值;定轉子剪切間隙為0.000 5 m,轉子層數為3 層,轉子葉片數為9 個,轉子葉片彎曲角度為15°,轉子轉速為3 500 r·min-1時,可以獲得最小的乳化液滴d32。

3)基于自動機器學習的PyCaret 程序能夠準確擬合數據,但在數據量較小的情況下,其優化能力較差。