基于深度學習模型的伽馬能譜解析方法

趙 日，劉 娜

(1.中國輻射防護研究院，山西 太原 030000；2.核藥研發轉化與精準防護山西省重點實驗室，山西 太原 030000)

傳統伽馬能譜解析方法亦稱為峰分析法，它通過濾波定位、基底扣減、峰擬合等算法分析能譜中的光電峰[1-2]。然而，該方法在弱峰、重峰、高本底等情況下誤差較大，易造成核素漏識別和誤識別，且活度估算不準確。另一些能譜解析方法，如逐道最小二乘法、能譜重建法等對測量條件、標準譜獲取、響應矩陣構建等方面均有較嚴格要求，只能在特定條件下使用，應用范圍較有限。

近期，隨著人工智能技術的快速發展，基于人工神經網絡(artificial neural network, ANN)的伽馬能譜解析方法成為研究熱點。Qi等[3]使用4層全連接神經網絡(fully connected network, FCN)進行了點源測量條件下的NaI探測器低計數伽馬能譜核素識別研究(核素共14種，單能譜只含1種)；Daniel等[4]使用5層卷積神經網絡(convolutional neural network, CNN)實現了CdTe探測器能譜的核素識別(核素共6種，單能譜最多3種)；Kim等[5]基于3層FCN進行了塑料閃爍體能譜解析研究(核素共4種)；Zhang等[6]針對LaBr3(Ce)探測器測量钚和高濃鈾樣品開展了基于3層FCN的核素識別(核素共2種)；Sahiner等[7]將3層FCN應用于中子活化伽馬能譜解析(核素共5種)；Jhung等[8]用4層FCN輔助LYSO探測器識別137Cs和152Eu混合源；Kamuda等[9]報道了3層FCN驅動的NaI探測器自動核素識別(核素共32種，單能譜最多5種)；Chen等[10]報道了2層FCN在NaI探測器能譜解析上的應用結果(核素共8種，單能譜最多2種)。

然而，已有基于ANN的伽馬能譜解析研究存在兩個明顯缺陷：均使用了淺層ANN架構(FCN至多5層，僅1例使用CNN)，而淺層ANN只能實現簡單的輸入輸出映射，無法進行深度、層次性特征提取，從而限制了已有研究對伽馬能譜全譜特征的精細化表征能力；ANN均直接與核素種類關聯，造成其訓練和識別必須依賴預設核素庫。實際測量中難以提前預測對象所含核素種類，而一旦核素庫設置不準確，即會造成核素漏識別、誤識別。

為彌補上述缺陷，本文將深度學習概念引入伽馬能譜分析，構建較已有模型顯著加深、加大的ANN架構，并改進ANN的預測模式，突破對預設核素庫的依賴，提高方法的通用性和應用潛力。

1 深度學習模型的構造

1.1 模型架構設計

本文針對伽馬能譜數據特征，設計了包含51層、超107參數的深度神經網絡模型。模型的輸入為伽馬能譜各道計數，輸出則通過獨特設計直接與放射源出射的伽馬射線能量、數量對應。

相較于已有研究使用的全連接網絡等淺層架構，本模型架構的最大特征是引入了殘差卷積模塊。殘差卷積模塊是當前圖像識別、分類等領域主流深度學習模型的關鍵構成單元[11-13]，它不僅繼承了卷積操作所特有的對樣本特征的多尺度精細化提取能力，同時，通過將前層輸出值跨層連接到后層實現跳躍連接[14]，使目標函數的梯度能跨層反向傳播，避免過擬合和梯度消失，顯著提高模型泛化性能。將殘差卷積模塊應用在伽馬能譜解析中，可全面提取能譜不同尺度的形態特征；同時，能譜數據維度較高，必須進行多層、深度提取才能形成最終清晰、穩定的高層抽象特征，而殘差卷積模塊的數值特性則恰好確保了多層卷積網絡的構建，實現特征深度表征。

在具體實施中，本文構造了兩類殘差卷積模塊R1和R2。R1、R2的具體結構如圖1所示。R1用Din、Dout、Chin、Chout4個參數表征，Din、Dout分別表示R1的輸入、輸出數據維數，Chin、Chout分別表示R1的輸入、輸出數據通道數；R2用D、Ch 2個參數表征，D表示輸入輸出數據的維數(R2的輸入輸出數據維數相等)，Ch表示輸入輸出數據的通道數(R2的輸入輸出數據通道數相等)。R1不僅實現能譜特征提取，還實現數據降維，每次將維數降至1/2并使數據通道加倍；R2作用與R1類似，但保持數據維度和通道數恒定。圖1中，Conv1D(k,s)表示1維卷積，其參數k、s分別表示卷積核寬度和卷積步長；Ch1、Ch2、Ch3分別表示相應卷積核的通道數，R1中Ch1=Ch2=Chout/4，Ch3=Chout；R2中Ch1=Ch2=Ch/4，Ch3=Ch；BN(batch normalization)為批標準化層；ReLU(線性整流單元)為激勵函數。

a——Ⅰ類殘差模塊(R1)；b——Ⅱ類殘差模塊(R2)圖1 所構造深度學習模型中的殘差模塊Fig.1 Residual modules in constructed deep learning model

圖2示出了本文構造的深度學習模型的完整結構。該模型由1個輸入層、4個R1-R2聯合模塊、1個全連接層和1個輸出層串聯構成，其中，輸入層維數取常見伽馬能譜道數值1 024，其他能譜道數可通過分道和并道進行匹配；R1-R2聯合模塊含1層R1和3層R2；R1、R2的內部參數，如卷積核寬度、卷積通道數、卷積層數等是在參考圖像識別領域相關主流模型設計技巧的基礎上，通過大量仿真實驗反復測試優化后確定的。基于簡潔性考慮，本文只給出了模型最終版本，具體優化過程略去。

圖2 所構造的深度學習模型完整結構Fig.2 Complete structure of constructed deep learning model

該模型通過12個殘差卷積模塊實現能譜特征的反復抽象和提取，并將數據維度從輸入的1 024降為16，將數據通道升至256。能譜的全部特征最終包含在該16×256維數據中，最后的全連接層則實現能譜特征與輸出值間的滿射。

由于R1和R2各包含3個卷積層，12個殘差卷積模塊再加上輸入、輸出層以及全連接層，整個模型共包含51層神經網絡，總參數量則超過107個。

1.2 模型輸出設計

已有研究中模型輸出值直接與核素種類對應，雖較直觀、便捷，但也決定了其訓練和識別時須預設核素庫，該庫僅能包含少數幾種核素，且只能根據經驗設置。為彌補該缺陷，本文對模型輸出層進行獨特設計，具體考慮如下：核素出射的初始伽馬射線具有特定的能量，用能譜描述時，該出射譜中僅在少數孤立道有計數，計數值與核素活度、測量時長、射線分支比相關，而其余道計數均為零。如果模型直接輸出核素出射譜，給出更底層的初始伽馬射線信息，則不僅同樣可實現核素識別與活度計算，且無需對核素種類進行范圍限制。

本文在實際實施中，用模型輸出層神經元表示核素出射譜各道，各神經元所表示能量可自由定義，這里基于輸入能譜的能量刻度函數確定神經元序號與能量對應關系，而神經元取值則對應各道計數。模型訓練時，根據仿真能譜生成時所設置的伽馬射線能量和數量設置模型輸出值，通過訓練使模型學習并建立起探測器測量譜與核素出射譜之間的映射關系；應用時，模型根據輸入譜直接給出核素所有伽馬射線信息，但為濾除輸出值較小時帶來預測結果的偏差，設置閾值D，略去小于D的神經元取值，如圖3所示。

圖3 輸出層設置示意圖Fig.3 Illustration of output layer setting

D與模型預測效果直接相關，訓練時通過下述過程得到最優值。

對固定的D，在訓練集上計算該條件下的F1。F1是一權衡了識別敏感度和抗干擾能力的因子，定義如下：

(1)

其中：P為預測精度；R為召回率。P和R的計算公式如下：

(2)

(3)

其中：真陽性數為被正確識別的伽馬射線個數；假陽性數為被錯誤識別的實際不存在的伽馬射線個數；假陰性數為真實存在但未被正確識別的伽馬射線個數。

變化D可得F1曲線，F1取極大值時對應的即為最優D。

1.3 其他參數選擇

根據輸出層各道計數歸一化特性，使用深度學習中常用的softmax函數作為輸出層規范函數；同時，為評價伽馬射線能量和數量的預測值與真值間的接近程度，使用二進制交叉熵(binary cross entropy)作為機器學習損失函數。模型訓練時，采用隨機梯度下降算法，批數據量取32，學習率取10-3，迭代訓練次數取30。

2 測試與應用實驗

2.1 實驗場景

構建的基于深度學習模型的伽馬能譜解析方法具備通用性，不局限于特定場景使用。然而受實驗室條件限制，本文基于現有儀器設備，選取自主搭建的NaI型WBC(全身計數器)測量人體放射性這一場景進行伽馬能譜解析性能測試。

WBC獲取的人體伽馬能譜非常適合于開展能譜解析性能評估[15]，這是因為：首先，NaI探測器的能量分辨率較差，其所測能譜中光電峰展寬嚴重，能譜信噪比低，且重峰現象較普遍，因而對能譜解析方法的靈敏度、準確性有較高要求；其次，人體所含放射性核素活度通常較低，造成能譜中的光電峰很弱，進一步加大了核素識別的難度；最后，人體是一大體積源，對伽馬射線有顯著散射作用，更降低了能譜的峰康比(光電峰和康普頓散射計數幅值比)，從而需更優的能譜解析方法。

2.2 訓練集構建

對2.1節中的測量場景進行精細數字建模，如圖4所示，使用人體模型代表人體，通過計算機蒙特卡羅模擬技術生成該場景下大量仿真伽馬能譜，形成訓練數據集用于模型訓練。

圖4 測量場景數字模型 Fig.4 Digital model of detecting scenario

設置蒙特卡羅模擬參數時，伽馬射線源粒子種類、能量、數量3個參數不與特定核素關聯，而是以隨機抽樣方式產生更豐富、復雜的參數組合。隨機抽樣方式如下：單個能譜模擬中的伽馬射線源粒子種類取隨機整數值(范圍1～10，這里的種類即不同能量)，各種源粒子的能量取隨機浮點數值(范圍0.01～3.00 MeV)，源粒子數量隨機確定，范圍根據真實內污染情況下常規測量時長(一般數分鐘)和常見內污染核素活度(一般102～103Bq)確定。此外，源粒子根據常規實際情況設置為體內均勻分布，伽馬能譜展寬函數取實測擬合值。最終生成了含105個能譜樣本的訓練集，樣本例如圖5所示。

圖5 訓練集能譜示例Fig.5 Example of spectrum in training set

2.3 仿真測試實驗

開展基于仿真能譜的測試實驗。不同于訓練集，構造測試集時為能直接進行核素識別和活度計算的測試，仿真模擬時伽馬射線源粒子與核素直接關聯。具體來說，選定核設施職業內照射監測中常見的9種放射性核素[16-17](表1)，單個能譜中核素種類在9種中隨機選擇1～5種(鑒于已有研究在單能譜的核素設置上均未超過5種)。核素活度在102～103Bq內隨機取值。假定測量時長5 min，根據核素活度、伽馬射線實際能量、分支比，設置源粒子能量、數量。最終生成了含100個能譜樣本的測試集，樣本例如圖6所示。

表1 核設施職業內照射監測常見9種放射性核素及射線信息Table 1 Nine common radionuclides and their radiation informations in occupational internal exposure monitoring of nuclear facilities

圖6 測試集能譜示意Fig.6 Example of spectrum in testing set

測試時，根據深度學習模型預測的核素出射譜進行核素識別和活度計算，具體方法如下。

若預測的伽馬射線能量與真值相對誤差小于3%時，則認為該伽馬射線被正確識別，即：

(4)

其中，E、E′分別為伽馬射線能量預測值與真值。

若某核素所有伽馬射線均被正確識別，則認為該核素被正確識別，否則未被識別。

對被識別的核素，若預測的核素出射伽馬射線數量為N，則核素活度為：

(5)

其中：T為測量時長，取5 min；η為分支比。注意，計算活度時不需探測效率，因為N直接為核素出射射線數量。

當核素有m個伽馬射線時，使用加權最小二乘法確定核素活度：

(6)

為進一步說明本文所構造深度模型的優勢，對測試集同時采用傳統峰分析法[15,18-19]、能譜重建法[20]以及淺層ANN模型進行能譜解析，并與本文所建模型的結果進行比較。

2.4 實測實驗

基于仿真數據完成測試后，開展實測實驗。使用WBC測量一含134Cs、137Cs、57Co、60Co的仿真人體物理模型，核素活度分別為3 849.6、2 879.5、5 498.2、4 023.1 Bq，比較各方法的核素識別和活度估算結果。其中深度學習模型、淺層ANN模型由2.3節訓練而來。實測時測量10次能譜，各方法的核素活度結果取10次的平均值。實驗前已對探測系統進行了能量刻度，效率刻度則采用蒙特卡羅仿真模擬結果。

3 結果

3.1 仿真測試結果

用于測試的100個能譜中共含326個核素(核素類型9種)。本文統計了深度學習模型及3種對比方法的核素總識別率、漏識別率、誤識別率3個指標，分別由被識別核素總數、漏識別核素總數、誤識別核素總數除以核素總數得到；同時，根據各方法給出的核素活度，計算活度計算平均誤差值。

結果列于表2，本文構造的深度學習模型性能最好，其核素識別率達到了93.3%，且漏識別率、誤識別率均小于5%，活度計算的平均誤差小于10%；峰分析法性能最差，核素識別率僅為62.3%，且漏識別情況普遍，誤識別也超過了10%，活度估算誤差高達28.3%；能譜重建法與淺層ANN模型的解析性能較為接近，核素識別率在80%左右，漏識別仍較普遍，誤識別有明顯抑制，均小于10%，活度計算誤差同樣較大。

表2 4種方法在測試集上的性能比較Table 2 Performance comparison of four methods on testing set

3.2 實測實驗結果

對于實測能譜，各種方法的解析效果如圖7所示(取10次中的1次)，其中，深度學習模型、能譜重建法、淺層ANN模型均直接給出核素出射譜，即核素出射伽馬射線的能量和數量，而峰分析法則展示了其峰定位算法的卷積濾波結果(基底扣減與峰區擬合結果未展示)，所得曲線的極小值點即為峰位。峰識別及核素活度計算詳細結果列于表3、4(均為10次分析的平均結果)。表3顯示，深度學習模型、能譜重建法、淺層ANN模型均成功識別出6條伽馬射線，而峰分析法則在83.5 keV處有誤識別情況；對正確識別的射線，峰分析法誤差最大，其余三者較接近；各方法在峰識別中均存在一定誤差，這是由于實測能譜的“溫漂”造成的。表4顯示，深度學習模型的活度估算誤差最小，各核素均小于10%，峰分析法誤差最大，最高達-35%，能譜重建法與淺層ANN模型的誤差也相對較大。

a——深度學習模型效果(實測能譜幅值放大了103倍)；b——峰分析法峰定位效果；c——能譜重建法效果(實測能譜幅值放大了103倍)；d——淺層ANN模型效果(實測能譜幅值放大了103倍)圖7 4種方法在實測能譜上的解析效果對比Fig.7 Analysis comparison of four methods on measured spectrum

表3 4種方法在實測能譜上的峰識別效果對比Table 3 Comparison of peak identification of four methods on measured spectrum

表4 4種方法在實測能譜上的活度估算效果對比Table 4 Comparison of activity estimation of four methods on measured spectrum

4 討論

各種方法在測試集上的性能差異的原因如下。

峰分析法誤差最大，因為它只利用了能譜局部的峰形特征而忽視了大部分區域的計數信息，峰形特征在弱峰、重峰情況下不夠顯著，容易造成漏識別，由散射等因素形成的與光電峰相似的假峰結構也容易被誤識別；同時，峰區基底扣減、凈計數擬合等在低峰康比、大統計漲落條件下誤差也較大。相比而言，能譜重建法、淺層ANN模型、深度學習模型在解析能譜時不局限于峰區計數，利用了全譜信息，信息量更大、更全面，其核素識別的效果也更好；且進行活度推斷時，無需計算峰凈計數，也不顯式地使用探測效率，而是將其蘊含在響應矩陣或神經網絡中，因而也一定程度減少了誤差來源。

然而，能譜重建法、淺層ANN模型同樣有其固有缺陷。能譜重建法依賴于精確的響應矩陣，這在實際難以實現；同時響應矩陣各列高度相關，矩陣高度病態，顯著增大了求解結果的誤差。淺層ANN模型的參數量少、層次性差，嚴重制約了其特征提取能力。此前研究者應用淺層ANN模型時將預測任務限制于少數幾種核素，模型輸入輸出映射關系相對簡單，模型學習難度降低，因而可得到較好效果。本文則需ANN直接預測伽馬射線能量和數量，映射關系復雜，此時，淺層架構的弊端顯現，導致了不可忽視的預測誤差。

深度學習模型則彌補了現有方法各方面的缺陷，以更多的層數和參數量實現對伽馬能譜全譜信息多層次、高精度提取和表征，且殘差結構、梯度下降算法等確保了其數值迭代精度，實現了在訓練集上的充分訓練，大幅提高了在測試集上的準確性。

3.2節實測實驗的測試結果進一步印證了上述分析結論。實測能譜中，在80～100 keV附近出現了由較高能量伽馬射線散射形成的散射峰，峰寬與該區域光電峰非常接近，因此造成了峰分析法的誤識別，進而在擬合峰凈計數時嚴重低估了122.1 keV伽馬射線全能峰凈計數，顯著低估了57Co活度。同時，134Cs的604.7 keV伽馬射線與137Cs的661.7 keV的伽馬射線在能譜中形成較復雜重峰，給峰分析法的基底扣減和峰凈計數擬合帶來很大難度。該方法明顯高估了134Cs活度并低估了137Cs活度。能譜重建法受求解算法精度的影響，得到的核素活度誤差同樣較大，且無明顯規律可循。淺層ANN模型由于其有限的特征提取能力，對能譜中高峰康比的高能區解析精度較高，而在特征復雜的低能區解析誤差較大。

5 結論

本文針對已有伽馬能譜解析方法在精度、通用性上的缺陷，設計、建立了能譜解析專用深度學習模型，利用多個殘差卷積模塊實現對伽馬能譜全譜信息的多層次、精細提取與表征；同時，對模型輸出層進行了獨特設計，使其能夠直接預測核素出射的伽馬射線能量和數量，無需提前預設核素庫，拓寬了識別核素的范圍，增強了方法的通用性。最終建立的深度學習模型含12個殘差卷積模塊、51個神經網絡層、超107個參數，相較已有能譜解析ANN在模型深度、參數規模上大幅提高。測試實驗環節，針對實驗室自建的全身計數器，基于其測量人體放射性場景開展實驗。具體實施上，首先使用蒙特卡羅模擬構造了含105個樣本的訓練集，完成模型訓練后，構造了含核設施職業內照射監測中常見9種放射性核素的仿真伽馬能譜測試集，測試了模型核素識別率和活度預測誤差，并與峰分析法、能譜重建法、淺層ANN模型進行了比較。測試結果表明，深度學習模型核素識別率93.3%、活度計算平均誤差8.6%，相較峰分析法的62.3%、28.3%、能譜重建法的78.2%、18.7%、淺層ANN模型的81.3%、14.8%優勢明顯。實測實驗中，深度學習模型正確識別所有伽馬射線，不存在誤識別情況，且活度預測誤差小于10%，顯著優于其他3種方法。仿真和實測實驗結果證明了方法的準確性、可靠性，說明了深度學習在特征提取與數值穩定性上的突出能力，顯示了該方法未來付諸實際的應用潛力。