針對極端事件估計的高斯主動學習算法

中圖分類號：TU311.41 文獻標志碼：A 文章編號：2096-6717（2025）04-0148-09

Gaussian active learning algorithm for extreme event estimation

YANG Haiting1a， YIN Weihao1a， HUANG Yanwen1a， YANG Cheng ^1b ， HU Ruiqing （l School of Civil Enginering;1b.Land Trafic Geological Disaster Prevention Technology National Engineering Research Center，Southwest Jiaotong University， Chengdu 6lOo31，P.R.China; 2. China Railway First Survey and Design Institute Group Co.，Ltd.，Xi'an7l0O43，P.R.China）

Abstract： Some major key structures willface extreme events during their service life，which may be ignored due to their extremely low probability，but will result in serious losses if they occur.In order to accurately estimate the minimum probability of failure of complex structures，this paper presents a method that can balance the accuracy and cost of calculating the probability of extreme events.Using an active learning strategy based on a Gaussian surrogate metamodel，a search function is constructed that can efectively concentrate the training points on one side of the tail，and the function is beter at finding the maximum error region weighted by the distribution function and re-investing the new training points.To verify the efectivenessof the algorithm，the nonlinear analysis ofa structural crack is taken as an example.The relative error of the proposed algorithm is about 10% compared to MCS.The mean relative error of the estimated random variables is about 10% ， indicating that this method can obtain acceptable statistical results. Compared to the results ofAL-GP，the error expectation of the estimated random variables is reduced by 20% ，indicating that the uncertainty in the tail can be reduced faster.The example proves that the algorithm is more sensitive to the tail and is suitable for the distribution calculation with potential tail risk.

Keywords： Gaussian surrogate model; reliability；active learning;extreme events

大型、復雜、關鍵的工程結構往往需要具備較高的可靠性，雖然這些結構都經歷了規范可靠性設計，結構失效概率已經被控制在較小范圍內，但在全壽命服役期內，仍然可能遭遇極為罕見的外部環境影響，例如，遠超最大設計重現期的地震、極端氣候災害、非法超載或意外撞擊、爆炸等[1-3]。這些極端外部環境導致的小概率危險事件，可能產生巨大的直接或間接損失，對大型基礎設施的運營往往影響深遠[4-5]。對于大型復雜基礎設施系統中的關鍵組件，破壞可能影響其他相關組件的功能，進而產生災害或故障的級聯效應，顯著增大后續損失的系統風險[；大型城市的能源、衛生、交通樞紐破壞可能導致更多的人員損失或基礎設施功能損失。因此，有必要充分估計這類發生概率較小的意外事故引發的工程風險，而能否準確測度極端事件發生的極小概率是解決問題的關鍵。目前常用的計算方法有：蒙特卡羅模擬（MonteCarloSimulation，MCS）、一階可靠性方法（FORM）和二階可靠性方法（SORM）等分析方法。但大型工程結構往往因構件數量較多，結構行為的非線性演化特征更為復雜，其隨機響應具有高維特征。遭遇復雜結構的深度非線性計算時，MCS高昂的計算成本導致其工程應用有限；而對非線性較弱問題來說，FORM和SORM在其漸近區域可能是求解的有效方法，但對于強非線性問題，效果差強人意[7]。因此，有必要提出一種既能降低計算成本，又能適用于強非線性問題的分析方法。

基于代理模型的隨機模擬法日益受到關注[8]。通常將近似原始模型但又更為簡單的模型稱為代理模型。其在降低計算成本的同時，在計算高度非線性結構隨機響應方面也呈現出良好的效果[9]。常見的代理模型有：多項式響應面[10]、神經網絡[11-12]、支持向量機[13-14]、高斯過程（Gaussian Process，GP）[15]等。由于適用于小樣本學習，又能對觀測值插值和預測局部方差做準確性判斷，近年來，GP得到了廣泛應用。Lindgren應用概率方法深入研究了多維高斯過程在可靠性分析中的應用，為后續高斯過程在可靠性領域的應用奠定了堅實的基礎。

單純的GP模型可能沒有考慮到試驗誤差、固定噪聲等不確定性，與主動學習相結合能夠有效改善這些不確定性帶來的影響[17]。Cohn等[18]將主動學習融入高斯過程選擇訓練數據，很大程度上減少了用于學習的樣本數量。杜蓓19通過主動學習結合高斯過程構建了一種非試驗標記樣本挑選算法。這些研究為后續使用主動學習和高斯過程解決可靠性分析問題奠定了重要基礎。

基于主動學習的高斯主動過程算法（activelearning-based Gaussianprocess，AL-GP）不僅能同時估計累積或互補累積分布函數（cumulativeorcomplementarycumulativedistributionfunction，CDF/CCDF），而且對分布全局有更高的求解效率和精度[20]。但AL-GP無法針對性地在概率分布的單側尾部區域投放訓練點，而在工程中極端事件導致結構失效往往發生在單側尾部區域。AL-GP雖能求解災難風險的分布，但求解單側尾部的精度與效率仍待提高。筆者提出一套僅對單側尾部求解的方法 TS-GL（tail-sensitive global learning，TS-GL），通過基于主動學習的高斯過程元建模策略，構建能將訓練點有效集中在單側尾部的搜索函數，該函數更善于主動尋找分布函數誤差最大區域，并在此投入新增訓練點。

1算法介紹

將結構的最大裂縫寬度作為輸出指標，估計對應分布的CDF/CCDF后，使用TS-GL算法對小概率事件進行精確估計。因適用于訓練不同的數據分布、進行不確定性估計等優點，高斯過程代理模型成為常用的模型之一。

1. 1 CDF/CCDF的計算

Y 的累計分布函數（CDF）可以按式（1）計算。

F_Y（y）=P（Y?y）=P（G（x）?y）

式中： P（?） 表示概率。 可簡化為積分

式中： _：fx（x） 是關于 x 的聯合概率分布函數； Y 的互補累計分布函數（CCDF）可以用 1-F_?Y（y） 表示。

1. 2 高斯代理模型

高維高斯過程參數優化前后的示意圖如圖1所示。高斯代理模型經過訓練集的訓練后可預測候

選集的響應量為 ，其中 σ（x_i）），i=1，2…n ，預測代理模型可通過式（3）得到。

式中：k為設置置信水平， k=0=Φ^-1（50%） ， k=2= （ 97.72% ，分別對應預測模型 和 ，其中， ，比如： 使用 替代候選集 x^* 中的實值 Y ，以此類推。

2 全局TS-GL算法

計算單側尾部概率的算法流程圖如圖2所示，框架圖如圖3所示。該框架使用了高斯代理模型，在估計CDF/CCDF的同時，也提高了對單側尾部估計的效率和精度。

AL-GP算法雖然能在單側某區域集中增加訓練點。但在實際工程中，由于極端事件極小的發生概率，對CDF或CCDF的估計精度要求很高，而AL-GP無法滿足這種要求。因此需要針對性地改進，使該算法對尾部的敏感性更高，適用于有潛在尾部風險的分布計算，也就是說，對由罕見外部環境影響導致的極端事件概率有更準確的估計。為此增加權重函數，改造搜索函數，構建了TS-GL算法，步驟如下：

1）生成初始訓練集 {X_s，Y} 。 X_s 是由混凝土彈性模量、鋼筋彈性模量、鋼筋極限強度和養護時間生成的初始訓練集， Y 是通過有限元模擬精確計算出的對應輸出變量，本文為裂縫寬度。

2）使用 {X_s，Y} 訓練高斯代理模型，其中核函數選用高斯核函數。

3）生成備選集 X_c ，計算對應的三重估計 二

4）計算損失函數 若滿足停止準則，則結束算法，否則進入步驟5）。

5）利用新穎的搜索函數，找到誤差最大的 y_*^′

6）在 X_c 中搜索并找到學習函數最大的樣本 x^* 并計算出其對應的真實值 y_* ，形成新增訓練點{x^*，y^*}_c （204號

7）將新增訓練點 {x^*，y^*} 添加到初始訓練集{X_s，Y} 。

8）返回至第2步。

X_s，Xc 均由拉丁超立方抽樣生成，數量級分別 為 10¹，10⁵ 。

2.1 生成初始訓練集

初始訓練集 X_s 由拉丁超立方抽樣得到。最少初始樣本數量可定義為一個二次多項式的最少數量 n 為輸入變量個數，算例中變量數量為4，因算例非線性關系較強，取初始訓練集為50個（ n 個變量的二次多項式具有 [（n+1）（n+2）/2] 個系數，而樣本數量需要大于系數數量）。

為保證估計的失效概率 P_f?10^-3 ，變異系數始終小于 5% ，候選樣本集 X_c 依據變量的概率密度函數（probabilitydensityfunction，PDF），使用直接抽樣法得到，樣本規模為 10⁵ 。

2.2 的三重估計

對結構響應 Y 進行三重估計是為了得到預測結果的置信區間，通過置信區間為判斷代理模型是否需要優化提供相應的依據。失效概率可以簡化為積分

式中： f_x（x） 為向量 x 的聯合概率密度函數，{h（x）?0} 表示失效區域。

因為 f_x（x） 在有限元模型中很難定義，所以式（4）中的積分通常難以求得解析解。假設有一個足夠大的樣本集 ，使用MCS可以估計失效概率為

式中： n_f 為失效樣本的數量； n=|S| 為總樣本量。I_G（xi）?y0 為失效的指示函數，其中， G（x_i）?y₀ 時， I= 1，否則 I=0 。

根據式（4）和式（5）， Y 的CDF三重估計為

式中： a=- 、 0 、 + 分別對應較低、平均、較高預測值，意味著對失效概率的保守、中間、激進預測。這是選擇高斯過程模型作為代理模型的優勢，不僅能給出失效概率的值，還能給出置信區間。用于計算 的備選集 X_c 需保持一致，以確保

2.3 誤差函數

置信區間雖然能在一定程度上反映模型的不確定性，但置信范圍波動較大，可能會影響預測的準確性。因此對置信范圍做積分，判斷是否需要優化模型。

式中

為了避免式（8）中的分母為0，將積分范圍由原始范圍 [-∞，+∞ ]變換為 [y_lower，y_upper] 感興趣的概率區域

算法停止準則為

閾值 ε 可設置為

式中：ε為指定容差，一般設為0.1，式（8）應平均地小于ε。

2.4學習函數

當誤差函數不滿足停止準則時，則需要對代理模型進行優化。使用學習函數的目的是找到最優的訓練點，不斷訓練高斯代理模型，以減少尾部誤差，從而優化高斯過程模型，其定義為

式中： 為標準高斯分布的CDF； 可理解為誤分類概率； 為新增訓練樣本的中心預測值。

式（11）的目的是找到誤分類概率最高的地方并投入訓練點。但在AL-GP算法中，由于閾值 y^′ 不固定，不能直接使用學習函數。因此，如何找到一個最優的y^′ 就成為需要解決的問題。為了準確估計風險尾部概率，使用帶激活函數的搜索函數來尋找 y^′ 。

2.5帶激活函數的搜索函數

為了更加關注單側尾部即極端事件的發生，需要更加關注最大誤差 y^′， 對學習函數進行改造，使新增訓練點盡可能地集中在單側尾部并盡量覆蓋整個區域，以保證對小概率尾部極端事件的估計精度，即將式（8）分母 改為 或 即可實現對左尾或右尾的估計。由于結構響應的風險函數通常是單調的，因此將單調激活函數作為加權，形成新的搜索函數。

根據式（7），最直接的辦法是找到最大化誤差函數 W^?（y） 中的 y^′ ，這意味著代理模型的誤差在 y_*^′ 處最大。同時，利用核函數實現局部化誤差的測量，最關鍵的是使用激活函數來強調感興趣的區域。

式中： 為以 y^′ 為中心、以 ω 為參數的高斯核函數； α（y^′） 為激活函數。

激活函數是為了能更好地估計極端事件導致災害發生的概率，從而對損失函數再次加權，但由于風險與變量間為非線性關系，因此需要根據響應量風險的分布選擇最優的激活函數形式。sigmoid、tanh和relu三種常用的激活函數如圖4所示，其形式是遞增的，意味著關注程度隨響應量的增加而增加，即搜索函數對分布的右尾敏感。

1）sigmoid激活函數

激活函數 ，式（12）展開為

式中： 義域為 [-0.175，0.175]

2） tanh激活函數

激活函數 式 （12）展開為

式中： -ylower；σ（y）的定義域（號

為 [0，1] 。

3） relu激活函數

激活函數 relu（y）=max（y，0） ，式（12）展開為

式中： 的定義域為 [0，0.5]

形式上，求解搜索函數等價于完成一個優化問題，如式（16）所示。得到的最優點記為 y_*^′

式中：高斯核區域被 y^′∈[y_low，y_upper] 截斷。因此，歸一化常數 Z 設置為

σ（y^′） 由式（18）得到，是AL-GP的簡化方法。基本原理是在備選集 X_c 中找到 y^′ 的最近點，用最近點的 σ 代替想要的精確 σ 。

根據學習函數，新增訓練點為

3算例

3.1 試驗設置

為了建立關于裂縫寬度的有限元模型，在楊文瑞[21]、Zhang等[22]進行實驗的基礎上，對蒸養GFRP筋混凝土預制構件進行模擬。混凝土梁尺寸為1 100mm×178mm×178mm 。鋼筋放置于底部縱向，直徑為 19mm ，保護層厚度為 25mm 。荷載施加位置與支座距離 210mm ，以位移控制方式進行加載。有4個輸入變量，分別為混凝土彈性模量、鋼筋彈性模量、鋼筋極限強度和養護時間。其中養護時間與混凝土抗壓和抗拉強度的非線性關系如圖5所示，結構帶裂縫云圖如圖6所示。

3.2 輸入變量的分布

結構隨機變量及其分布形式統計量如表1所示。

3.3 新增訓練點的分布

裂縫寬度是混凝土結構設計和評價中最具實際意義的參數之一。因此，與其他分布區間相比，更需要關注裂縫寬度分布函數的右尾，即將式（8）分母 改為 。

圖7為各方法新增訓練點的頻數分布圖。從圖7中可以看出，與AL-GP相比，TS-GL算法能夠更有效地將訓練集投放在單側尾部，實現對敏感尾部的關注。不同的激活函數會導致樣本點分布不同，與sigmoid和relu函數相比，tanh函數會在極端區域投入更多的訓練點，說明tanh函數更適合估計極小概率的結構響應。

3.4 新增訓練點

圖8為AL-GP和TS-GL的迭代圖。每個樣本均為四維向量，有3個指標與輸出變量高度相關。即混凝土彈性模量與鋼筋極限強度及鋼筋彈性模量，因此用這3個指標繪制散點圖。圖中淺灰色區域為候選樣本，藍色未填充圓圈為初始訓練集，藍色填充圓圈為新增訓練點。比較圖8（a）（b）可以發現，圖8（b）中藍色填充圓圈更集中在左下側區域，表明新增輸入樣本中3個指標的均值更低，意味著迭代過程中選擇了更極端的新增輸入變量，與圖7的結果相一致。圖7表明，與AL-GP相比，TS-GL學習的新增訓練點（裂縫值）極端大，所以圖8對應的3個指標才會極端小。

由于沒有對誤差積分范圍細化，3種激活函數的表現近似，這里僅對比AL-GP和采用tanh激活函數的TS-GL算法的結果。

3.5 分布統計信息

各方法的均值、標準差和相對誤差統計數據見表2。可以觀察到，TS-GL與MCS在對均值的估計上幾乎相同，相對誤差在 10% 以下。此外，TS-GL的抽樣規模明顯小于MCS方法，從而顯著降低了時間成本。盡管二者效果略有差異，但差距不大，可以認為TS-GL能得到基本滿意的統計量結果。

3.6算法效率對比

對多次運行后計算誤差的統計量（表3）進行觀察，避免僅計算一次可能存在的偶然性。TS-GL算法在誤差期望上比AL-GP算法降低了約 20% ，說明高斯代理模型在右側尾部區域的不確定性降低更快，能更精確地估計小概率事件概率。顯而易見，在處理復雜結構的尾部概率估計時，tanh激活函數的TS-GL算法更具有優勢。

注：表3為算法50次獨立運行后，對誤差和運行次數分布函數的統計量。 E[ε_e] 為誤差的期望： ′σ（ε_e） 為誤差的標準差。

表3中，誤差定義 ε_e 為

設置裂縫寬度 y_lower，y_upper] 為

3.7 CCDF的迭代

TS-GL雖能更精確地估計小概率事件概率，但還需驗證經過主動學習后的高斯代理模型是否能得到與真實復雜有限元模型一致的結構響應量分布函數。選擇CCDF[26]以更好地可視化結構響應量右尾區域。圖9（a）、（b分別展示了CCDF在AL-GP和TS-GL算法框架下的迭代過程，比較可得，TS-GL用更低的迭代次數得到了最終結果。圖9（b）中紅線代表的TS-GL與藍線代表的MCS曲線重合度較高，表明代理模型與真實復雜結構模型得到的隨機響應非常接近，驗證了高斯代理模型的正確性。藍線之所以相對紅線較短，是因為MCS的樣本數量為 10⁴ ，所得結果只在 CCDF?10^-2 范圍內有效。比較圖9（b）左圖與右圖可以發現，灰色區域逐漸縮小，表明TS-GL算法訓練的高斯代理模型不確定性在迭代過程中不斷降低。由此可見，該算法適用于實際結構工程，有利于小概率極端事件的風險評估。

4結論

提出的TS-GL算法使用了基于主動學習的高斯過程元建模策略，并將其與非線性分析有限元軟件相結合，形成了估計結構極小失效概率的分析平臺。通過實際工程算例驗證了算法的工程適用性，得出了以下結論：

1）TS-GL算法能對單側尾部施加更大關注，更主動尋找極端事件，以實現代理模型的優化。多次比較TS-GL算法與AL-GP的迭代誤差，誤差期望降低了 20% ，表明TS-GL進行結構響應在單尾上有更快的估計效率。

2）將TS-GL算法與商業有限元軟件結合，驗證了其對非侵入性結構模擬計算的適用性。通過與商業有限元比較，證明了TS-GL算法能夠有效地進行結構模擬計算，具有良好的適應性。

3）將TS-GL算法的輸出結果與MCS進行比較，結果顯示，與MCS相比，TS-GL算法的輸出變量均值誤差小于 10% ，表明TS-GL算法在保持較高精度的同時，能夠顯著降低計算成本，提高計算效率。

參考文獻

[1]ZHANG GJ，LIUYJ，LIUJ，et al.Causes and statistical characteristicsofbridge failures：A review[J]. Journal ofTraffic and Transportation Engineering （English Edition），2022，9（3）：388-406.

[2]SINHA A，CHORZEPA MG，YANGJJ，etal. Cognitive approaches to hyperbolic discounting of highimpact low-probability bridge overload events and liveloadfactors [J].Journal of Performance of Constructed Facilities，2022，36（2）：04022009.

[3]CHANGH，FRANCZYKJ.Climatechange，land-use change，and floods：Toward an integrated assessment [J].Geography Compass，2008，2（5）： 1549-1579.

[4]SANTELLA N，STEINBERG L J，PARKS K. Decision making for extreme events：Modeling critical infrastructure interdependencies to aid mitigation and response planning [J]. Review of Policy Research，2009， 26（4）： 409-422.

[5]MCPHILLIPS L E，CHANGH，CHESTER MV，et al. Defining extreme events： A cross-disciplinary review [J]. Earth's Future，2018，6（3）： 441-455.

[6]MISHRA V， SADHU A. Towards the effect of climate change in structural loads of urban infrastructure： A review [J]. Sustainable Cities and Society，2023，89： 104352.

[7]SCHUELLER G I，STIX R.A critical appraisal of methods to determine failure probabilities [J]. Structural Safety，1987，4（4）： 293-309.

［8］雷永林，王言，于芹章，等.面向復雜仿真元建模的序 貫近鄰探索實驗設計方法[J].系統工程與電子技術， 2021，43（5）：1232-1239. LEI Y L，WANG Y，YU Q Z， et al. Design method of sequential neighbor exploratory experimental for complex simulation metamodeling [J]. Systems Engineering and Electronics，2021，43（5）： 1232-1239.（in Chinese）

[9]BAHRAMIP，SAHARI MOGHADDAMF，JAMES L A. A review of proxy modeling highlighting applications for reservoir engineering [J]. Energies，2O22，15 （14）： 5247.

[10］陶厚永，曹偉.多項式回歸與響應面分析的原理及應用 [J].統計與決策，2020，36（8）：36-40. TAO H Y，CAO W. Principle and application of polynomial regression and response surface analysis [J]. Statisticsamp;.Decision，2020，36（8）：36-40.（in Chinese）

[11] KENNEDY MC，O'HAGAN A.Bayesian calibration of computer models [J]. Journal of the Royal Statistical Society Series B： Statistical Methodology，2OOl，63（3）： 425-464.

[12]李少鵬，李海，李珂.基于深度學習的鈍體斷面外形氣 動性能高效預測方法[J].土木與環境工程學報（中英 文），2024，46（1）： 122-129. LI S P，LI H，LI K.An eficient deep learning prediction method for aerodynamic performance based on the shape of the main beam [J]. Journal of Civil and Environmental Enginering，2024，46（1）：122-129.（in Chinese）

[13]牛帥星，李庶林，劉胤池，等.基于小波變換的 GASVM-ARMA模型在深基坑變形預測中的應用[J]. 土木與環境工程學報（中英文），2023，45（3）：16-23. NIU S X，LI SL，LIU Y C，et al. Application of GASVM-ARMA model based on wavelet transform in deformation prediction of deep foundation pit [J]. Journal of Civil and Environmental Engineering，2O23，45（3）： 16-23. （in Chinese）

[14］田一梅，吳迷芳，王陽.基于SVR的城市供水管網余氯 預測分析[J].重慶建筑大學學報，2006，28（2）：74-78. TIAN Y M，WU MF，WANG Y.Prediction and analyses of residual Chlorine based on Support Vector Regression in urban water distribution system [J]. Journal of Chongqing Jianzhu University，2006，28（2）： 74-78. （in Chinese）

[15]YUAN J，NIAN V，SU B，et al.A simultaneous calibration and parameter ranking method for building energy models [J]. Applied Energy，20l7，206： 657-666.

[16]LINDGREN G. Extreme values and crossings for the X 2-Processand other functions of multidimensional Gaussian processes，byreliability applications [J]. Advances in Applied Probability，1980，12（3）： 746-774.

[17]YUE X W，WEN YC，HUNTJH，et al.Active learning for Gaussian process considering uncertainties with application to shape control of composite fuselage [J]. IEEE Transactions on Automation Science and Engineering，2021，18（1）： 36-46.

[18]COHN D A，GHAHRAMANI Z，JORDAN M I. Active learning with statistical models [J]. Journal of Artificial Intelligence Research，1996，4： 129-145.

[19]杜蓓.基于主動學習的非實驗蛋白數據挖掘方法研究 [D].遼寧大連：大連理工大學，2013. DUB. Research on non-experimental protein date mining with active learning [D]. Dalian，Liaoning： Dalian University of Technology，2Ol3.（in Chinese）

[20] WANG Z Q，BROCCARDO M. A novel active learning-based Gaussian process metamodelling strategy for estimating the full probability distribution in forward UQ analysis [J]. Structural Safety， 202O，84： 101937.

[21]楊文瑞.高速鐵路蒸養GFRP筋混凝土預制構件損傷 研究[D].武漢：武漢理工大學，2016. YANG W R. Damage research on steam-curing GFRP reinforced precast concrete components in high-speed railway [D]. Wuhan： Wuhan University of Technology， 2016.（in Chinese）

[22] ZHANG K，YANG W R，LI H Y，et al.Semireliability probability damage assessment of GFRP bars embedded in steam-curing concrete beams based on the multiple factors related moisture absorption model [J]. Polymers，2021，13（24）： 4409.

[23] KOU S C，POON C S，CHAN D. Properties of steam cured recycled aggregate fly ash concrete[C]//Proceedings of RILEM International Conference on the Use of Recycled Materials in Buildings and Structures，Barcelona，Spain. 2004： 590-599.

[24] BENMOKRANE B，NAZAIR C，SEYNAVE X，et al. Comparison between ASTM D7205 and CSA S806 tensile-testing methods for glass fiber-reinforced polymer bars[J]. Journal of Composites for Construction，2017， 21（5）： 04017038.

[25] KONG JS，ABABNEHA N，FRANGOPOLD M，et al. Reliability analysis of chloride penetration in saturated concrete[J].Probabilistic Engineering Mechanics， 2002，17（3）： 305-315.

[26] HAQUE T U，HOSSEN S. PAPR reduction in OFDM system using clipping and filtering methods based on CCDF [J]. International Journal of Computer Network and Information Security， 2019，11（1O）： 12-18.

（編輯 王秀玲）