基于高斯過程機器學習的工程不確定性分析研究

魯俊 魏懿

摘要：工程中不確定性對結構的設計和安全分析產生不可忽略的影響，不確定性的分析與處理逐漸成為科學和工程中所關心的重要問題。針對復雜動力學結構響應的特點，研究基于高斯過程機器學習的不確定性傳播方法。首先對不確定性的來源和分類進行簡單介紹，重點研究高斯過程機器學習的基本原理，最后通過算例研究說明兩個數學測試函數和一個工程結構展示高斯隨機過程的建模優勢。

關鍵詞：不確定性傳遞;概率方法;機器學習;高斯隨機過程

中圖分類號：TP181

文獻標志碼：A

文章編號：1009-9492 （ 2022）02-0055-04

0 引言

復雜工程結構系統的設計中，一般會涉及到大量不確定性因素。由于不確定性對結構的設計和安全分析產生有不可忽略的影響，不確定性的量化和傳遞分析逐漸成為科學和工程中關鍵問題之一。目前工程設計中，表示不確定性的主流工具為概率方法。為了進行不確定性的定量分析，需要首先建立不確定性的概率模型，收集大量樣本數據。對于復雜模型，采用傳統的不確定性傳遞方法無疑會使得計算量變得異常龐大。為加快重分析，基于數據驅動的機器學習技術可以代替復雜仿真模型以提高實際工程中的分析效率。

在機器學習領域，有監督學習與無監督學習是兩種常見的方法。高斯過程是基于統計學習理論和貝葉斯理論發展起來的一種機器學習方、法[1]。這類方法也稱為代理模型技術，屬于機器學習中的有監督學習方法。通過現有訓練數據集進行建模，再用模型對新的數據樣本進行回歸分析。至今這類方法已經越來越受到工程的廣泛關注，并用于不同工程領域。在汽車防撞性優化設計中，Forsberg等[2]分別用到了多項式響應面和Kriging模型進行優化，展示了兩種模型在不同優化問題中有各自優勢。利用汽車正面碰撞模型，張宇[3]利用5種近似模型比較研究了代理模型在擬合車身碰撞加速度峰值、碰撞力峰值、最大吸能量以及最大變形量等響應。為比較擬合汽車正面碰撞中車體B柱加速度峰值響應的擬合能力，張勇等[4]研究了移動最小二乘模型和多項式模型。結果表明移動最小二乘的擬合精度明顯高于多項式，且需要較少的迭代就可以收斂并得到最優解。臧獻國等[5]采用多項式響應面法建立了設計變量與目標噪聲值的學習模型，有效地驗證了該方法的有效性。聶祚興等[6]建立了汽車板件厚度與聲壓級響應均方根值和一階扭轉頻率的多項式響應面模型，并利用響應面模型對結構進行優化。Li和Li-ang等[7]建立響應面模型進行了車身結構聲輻射分析和優化，以獲得振動聲學特性最優結構參數組合。對封閉箱體的結構聲學問題，Wang等[8]采用多項式響應面建立了阻尼層厚度與目標響應之間的函數關系，并對其進行了多目標優化。

本文針對復雜動力學結構響應的特點，研究基于高斯過程機器學習的不確定性傳播方法。首先對不確定性來源和描述方法進行簡單介紹，然后對代理模型的建模、驗證、常用的代理模型方法進行總結歸納。詳細闡述高斯過程機器學習的基本原理，最后通過數學測試算例展示高斯隨機過程模型的建模優勢。

1 結構不確定性分析理論和方法

1.1 不確定性來源和分類

實際復雜工程結構中幾乎所有的設計變量和參數都帶有一定的不確定性。不確定性主要來自模型與試驗，包括以下幾個方面。

（1）結構的參數不確定性（Parameter Uncertainty）。由于建模參數的設置存在誤差或制造裝配等導致結構的偏差，使得材料的楊氏模量、密度、構件的幾何參數等未能準確獲得，或者參數存在變異性。

（2）模型形式不確定性（Model Uncertainty）。由于結構仿真的理論模型假定的不精確及進行數學或力學建模過程中的不適當假設等引起數學模型與物理模型之間的模型偏差。

（3）算法不確定性（Algorithmic Uncertainty）。對復雜數學模型的求解，由于數值計算的近似導致數值上的誤差，或使用不同數值求解算法得到不同的求解結果。如采用有限元方法或者差分法進行對偏微分方程求解存在一定的誤差。

（4）試驗的不確定性（Experimental Uncertainty），即觀測誤差。比如完全相同的重復實驗產生不同實驗結果。試驗測試儀器的測試參數設置，試驗環境不確定性因素和儀器自身誤差導致的不確定性均屬于試驗不確定性。

根據不確定性屬性及來源，不確定性主要分為兩大類：偶然不確定性（Aleatory Uncertainty）與認知不確定性（Epistemic Uncertainty）。偶然不確定性，又稱隨機不確定性（ Stochastic Uncertainty）或客觀不確定性（Objec-tive Uncertainty），是指由偶然因素或隨機性產生的不確定性;認知不確定性，又稱主觀不確定性（Subjective Un-certainty），是指由于缺乏知識或數據而產生的不確定性。1.2不確定性描述與傳遞

不確定性的數學描述可以分為兩大類：概率方法和非概率方法。概率方法是物理系統中用于表征不確定性最廣泛的方法，主要用均值、方差、概率密度函數及累計分布函數來構建概率模型以描述不確定性。對于認知不確定性，通常數據量少，又沒有足夠的證據，無法用概率分布來描述不確定性，因此只能用非概率的方法來處理。非概率方法主要包括區間理論、模糊理論、概率邊界和證據理論等。

不確定性量化與傳遞分析著重研究參數不確定性問題，即不確定性在輸人參數和響應特征之間的傳遞。不確定性正向傳遞是指輸人參數不確定性通過所建立的模型映射到模型輸出，進而得到響應特征不確定性的統計影響。不確定逆向傳遞是指由響應特征的不確定性找到輸入參數不確定性，即通過輸出響應的不確定性來識別輸入不確定的過程，屬于結構分析的逆問題。

不確定性量化與傳遞分析著重研究參數不確定性問題，即不確定性在輸入參數和響應特征之間的傳遞。不確定性正向傳遞是指輸入參數不確定性通過所建立的模型映射到模型輸出，進而得到響應特征不確定性的統計影響。不確定逆向傳遞是指由響應特征的不確定性找到輸入參數不確定性，即通過輸出響應的不確定性來識別輸入不確定的過程，屬于結構分析的逆問題。

2 高斯隨機過程模型建模方法

基于代理模型的機器學習技術進行不確定性傳遞的原理簡單，關鍵在于如何通過訓練數據集構建預測模型，并保證預測模型的精度和效率。考慮到高斯過程機器模型在全局估計和局部估計兩方面都表現出良好的特性，對非線性問題的近似能力較好，本文將主要研究高斯隨機過程模型[9-10]。下面對它的基本原理及建模方法進行簡單介紹。

可以看出，CP模型不僅僅是對預測值的均值進行了描述，還對預測值的分布進行了分析。通過預測值的均值以及方差，可以方便地對預測值的置信區間進行分析，有效地對待測點處的模型擬合不確定性進行估計。值得注意的是，GP模型的構建主要困難在于超參數的最大似然估計，即如何有效獲得最佳的超參數組合。為了獲得超參數，通常需要采用數值優化算法求解超參數的最大似然函數最大化問題[11]。

3 數值算例研究

3.1 非線性測試函數

圖1所示為Branin-Hoo函數[12]的等高線。由于Bra-nin-Hoo函數在設計空間內不同位置處存在3個局部最優解，表現強非線性。本文將利用該算例分別測試多項式響應面模型、多元自適應樣條回歸模型、徑向基函數模型和高斯隨機過程模型的預測能力。為了對比，選用30個相同的拉丁超立方訓練樣本，使用不同近似模型對Branin-Hoo函數進行近似。如圖2所示，可以看出，相同訓練樣本下，幾種代理模型預測誤差相差較大。本文建立的高斯隨機過程模型精度最高，預測誤差R2=0.9997，RMSE=0.017 5，在整個設計空間內對目標函數具有較好的近似。

3.2 帶噪聲的測試函數

真實的物理實驗數據無可避免存在測量誤差。本算例給數學仿真數據添加εEN（0，σ2）的隨機觀測誤差，以驗證高斯隨機過程模型對噪聲數據的預測能力。圖3 （a）和圖3 （b）分別為在較小和較大噪聲方差下的預測結果。從圖中可以看出，即使在較大的噪聲方差下，高斯隨機過程模型仍然能較好地近似真實響應。同時該算例較好地證明了本文高斯隨機過程建模方法的正確性。

3.3 工程桁架結構

圖4所示為帶有23個構件的工程桁架結構[13]，共10個隨機變量。假設所有水平構件的楊氏模量和橫截面積相同，對角構件為另一種楊氏模量和橫截面積。要求計算圖中觀測點處的變形位移（撓度）超過0.11 m的失效概率。已有數據分為兩部分：實驗設計得到的200個訓練樣本和10 000個蒙特卡洛驗證樣本。真實響應通過有限元軟件ANSYS得到。

通過200個實驗設計樣本對高斯隨機過程模型進行擬合，然后將預測結果與真實響應進行對比，如圖5所示。可以明顯看出，基于有限元模型與基于高斯隨機過程模型的預測響應幾乎完全一致。預測誤差R2= 1.00，RMSE=6.26x10 -5，說明建立好的高斯隨機過程學習模型可以很好地代替原模型進行不確定性傳遞分析。圖6所示為兩種方法得到的概率密度函數對比。可以看出，兩種方法的結果幾乎相同，說明基于高斯過程學習模型的不確定性傳遞方法精度較高。由于基于原有限元模型的蒙特卡洛分析計算量大，這類不確定性分析幾乎無法在工程中廣泛使用，而基于代理模型機器學習的方法可以在保證精度的條件下，大大節省運算時間，提高效率。

4 結束語

本文對不確定性分析理論與描述方法進行了介紹，重點研究了高斯過程機器學習及其在不確定性傳遞研究中的應用。通過數值實例發現，基于高斯過程機器學習的不確定性分析方法結合了基于樣本的不確定性傳遞方法和高斯隨機過程模型技術各白的優點，在保證精度的前提下，明顯降低了計算量。相對于傳統的有限元仿真模型，高斯過程機器學習具有計算效率高和重復性強的特點，可以較好地協助工程人員完成大型結構和多變量復雜結構的不確定性分析。

參考文獻：

[1] Rasmussen C E.Williams C.Gaussian Processes for MachineLearning[M]. MIT Press. 2005.

[2] Forsberg J， Nilsson L.On polynomial response surfaces and Krig-ing for use in structural optimization of crashworthiness[J]. Struc-tural& Multidisciplinary Optimization. 2005. 29（3）： 232-243.

[3]張宇.基于穩健與可靠性優化設計的轎車車身輕量化研究[D].上海：上海交通大學，2009.

[4]張勇，李光耀，鐘志華.基于移動最小二乘響應面方法的整車輕量化設計優化[J].機械工程學報，2008， 44（11）： 198-202.

[5]臧獻國，于德介，姚凌云，響應表面法在結構噪聲優化中的應用研究[J].噪聲與振動控制。2009. 29（4）：116-119.

[6]聶祚興，車身噪聲傳遞函數的全局靈敏度分析及穩健優化設計[D].長沙：湖南大學，2012.

[7] Li Z，Liang X.Vibro-acoustic analysis and optimization of damp-ing structure with Response Surface Method[J]. Materials&de-sign， 2007， 28（7）： 1999-2007.

[8] Wang Y，Qin X， Huang S，et al. Structural-bome acoustics analy-sis and multi-objective optimization by using panel acoustic par-ticipation and response surface methodology[J].Applied Acous-tics.2017 （116）：139-151.

[9]陳世適.基于多源響應信息融合的優化設計理論與方法研究[D].北京：北京理工大學，2016.

[10]魯俊.基于近似模型的結構動力學不確定性傳遞及其降低研究[D].重慶 ：重慶大學. 2020.

[11] Bostanabad R. Keamey T， Tao S， et al. Leveraging the nuggetparameter for efficient Caussian process modeling[J]. Intema-tional Journal for Numerical Methods in Engineering， 2017 （5）：501-516.

[12] Picheny V， Wagner T， Ginsbourger D. A benchmark of kriging-based infill criteria for noisy optimization[J]. Structural and Mul-tidisciplinary Optimization， 2013， 48（3）： 607-626.

[13] Lee S H. Kwak B M. Response surface augmented momentmethod for efficient reliability analysis[J]. Structural safety.2006. 28（3）： 261-272.