




摘 "要: 針對電阻層析成像(ERT)的逆問題存在嚴重的病態性、非線性和欠定性,導致經典算法的重建圖像通常精度偏低的問題,提出一種基于改進DenseNet網絡優化的電阻層析成像重建算法。首先,采用Landweber算法迭代值作為圖像重建初始解;其次,構建了融合CBAM注意力機制的多尺度卷積模塊以獲取不同尺度特征,從而加強對關鍵特征的提取;使用DenseNet作為圖像重建的主干網絡,引入Swish作為網絡的激活函數并融合dropout算法提高網絡的泛化能力;最后,使用余弦退火算法優化學習率,避免模型訓練陷入局部最優。此外,對改進DenseNet網絡進行了抗噪性實驗和靜態實驗。實驗結果表明,采用改進算法進行ERT圖像重建,相對誤差和相關系數均得到提升。該算法不僅具有較高的重建精度和良好的可視化效果,還表現出對抗噪聲干擾的特性。
關鍵詞: 電阻層析成像; DenseNet; CBAM; 圖像重建; 多尺度卷積; 余弦退火
中圖分類號: TN911.73?34 " " " " " " " " " " " 文獻標識碼: A " " " " " " " " " " " " 文章編號: 1004?373X(2024)21?0034?06
Electrical resistance tomography imaging reconstruction algorithm
based on improved DenseNet
TONG Weiguo1, 2, CUI Jianxin1, MEN Guoyue1, CAI Tianjiao1
(1. Department of Automation, North China Electric Power University, Baoding 071003, China;
2. Hebei Technology Innovation Center of Simulation amp; Optimized Control for Power Generation, North China Electric Power University, Baoding 071003, China)
Abstract: In view of the severe ill?posedness, nonlinearity and under?determinedness in the inverse problem of electrical resistance tomography (ERT), which often leads to low accuracy in image reconstruction of the classical algorithms, an ERT imaging reconstruction algorithm based on improved DenseNet is proposed. The Landweber algorithm is employed to generate the iterative value, which is taken as the initial solution for image reconstruction. A multiscale convolutional module incorporating the convolutional block attention module (CBAM) is constructed to capture features of different scales, thereby enhancing the extraction of key features. The DenseNet is utilized as the backbone network for image reconstruction, integrating Swish as the activation function of the network and incorporating the dropout algorithm to enhance the generalization capability of the network. The cosine annealing algorithm is used to optimize the learning rate of the model, preventing the model from getting stuck in local optima during training. Additionally, noise resistance experiments and static experiments are conducted to evaluate the performance of the improved DenseNet. The experimental results demonstrate that both the relative error and correlation coefficient are improved after employing the proposed algorithm for ERT image reconstruction. The algorithm not only achieves higher reconstruction accuracy and superior visualization, but also exhibits robustness against noise interference.
Keywords: ERT; DenseNet; CBAM; image reconstruction; multiscale convolution; cosine annealing
0 "引 "言
氣液兩相流在能源系統、化工、石油工業、動力等工程領域中普遍存在[1],例如電廠鍋爐和油氣管道中都會有氣體和液體同時存在并相互作用的復雜流動現象。對兩相流的深入研究對于工程領域的許多應用具有重要的意義。隨著現代科技的發展,利用圖像重建技術對氣液兩相流進行研究和分析成為了一個備受關注的方向。電阻層析成像(Electrical Resistance Tomography, ERT)技術具有無輻射、響應速度快、結構簡單、非接觸等特點,在多相流檢測領域應用廣泛[2?5]。而ERT圖像重建的質量決定了它能否廣泛應用于工程領域。由于電阻層析成像的圖像重建具有非線性、病態性和欠定性[6],且在測量過程中極易受到外界環境和自身設備的干擾,因此選擇合適的圖像重建算法就顯得尤為重要。圖像重建傳統方法包括以LBP[7]、Tikhonov[8]為主的非迭代算法和以Landweber、共軛梯度算法為主的迭代算法。
由于電阻層析成像邊界電壓的數量遠小于重建圖像截面剖分的網格數[9],使用傳統重建算法難以準確建立測量電壓和介質分布之間的非線性映射關系。而神經網絡的深層結構能夠逐層提取和組合特征,并利用大規模和多樣化的樣本進行訓練,能夠比較精確地建立非線性映射關系[10]。文獻[11]提出了基于數據驅動的CNN圖像重建方法,將ECT系統電容值預處理為二維矩陣作為卷積神經網絡的輸入,提高了模型的泛化能力。文獻[12]提出了一種基于卷積神經網絡的ERT成像算法,獲得了較好的成像效果。文獻[13]提出了一種6層全連接深度網絡圖像重建算法,通過線性與非線性交替訓練獲得了較好的可視化效果。文獻[14]提出了基于迭代重加權最小二乘法的魯棒正則化極限學習機算法,具有良好的泛化性能。
本文采用Landweber算法作為圖像重建初始解,利用多尺度卷積模塊對其進行特征提取,再用改進的DenseNet對融合多尺度信息的特征輸出進行圖像重建,可以減輕Landweber算法所導致的圖像模糊以及存在偽影的問題。實驗結果表明,本文提出的改進算法具有更高的重建精度并且能夠抵抗噪聲干擾。
1 "相關理論
1.1 "ERT工作原理與數學模型
電阻層析成像是一種利用電極陣列在待測物場周圍施加電流信號,通過檢測電極間的電勢分布來獲取場域內電導率分布和相分布的技術[15]。當電流通過兩相流時,由于液體和氣體對電流的電阻性質不同,電位差的測量結果會產生顯著差異。這些電壓差值受氣液兩相流中液體和氣體的分布影響而變化,可以用來分析和推斷流型的狀態和分布情況。
ERT敏感場可以近似認為是似穩場,根據Maxwell方程,敏感場內電導率和電勢分布滿足:
[??(σ??Φ)=0] (1)
式中:“?·”為散度;“?”為梯度;[σ]為場中的電導率分布;[Φ]為場中的電勢分布。ERT的數學模型是經Maxwell方程組和Laplace方程化簡得到,對于有[M]個電極的ERT系統模型,可將敏感場表示為:
[Φ(x)+ρσ(x)?Φ(x)?v=UmEmσ(x)?Φ(x)?vds=Imm=1MUm=0m=1MIm=0m=1,2,…,M] (2)
式中:[ρ]為邊界上的電荷密度;[v]為邊界上點的外法向量;[Im]和[Um]為第[m]個電極上的電壓和電流;[M]為系統電極數量。
1.2 "Landweber迭代算法
Landweber迭代算法是由最速下降法演變來的,主要思路是將ERT圖像重建問題轉化為目標泛函極小值的優化問題。它是ERT領域普遍應用的一種方法。Landweber迭代算法的目標泛函如下:
[minf(g)=12Sg-V2] (3)
[f(g)]下降的梯度為:
[?f(g)=ST(Sg-V)] (4)
最速下降法以負梯度方向為迭代方向,則Landweber算法的迭代公式為:
[g0=STVgk+1=gk+δkST(V-Sgk)] (5)
式中:[gk]為第[k]步迭代圖像的灰度值;[δ]為迭代步長;[g0]為迭代初值;[S]為靈敏度系數矩陣;[V]為測量電壓和空場電壓的差值。
2 "網絡模型與算法
2.1 "融合注意力的多尺度卷積模塊
2.1.1 "多尺度卷積模塊
在特征提取過程中,傳統的卷積神經網絡使用固定大小的卷積感受野,難以捕捉到邊界電壓信號中的多尺度特征,因此存在特征提取不充分的問題。此外,固定大小的卷積核也并不適用于所有的輸入信號。相比之下,多尺度卷積技術能夠有效學習不同尺度的特征,提高模型的特征提取效率。
本文采用如圖1所示的多尺度卷積模塊,該模塊由三個并行的卷積分支組成,分別采用3×3、5×5和7×7大小的卷積核,用以學習不同尺度的特征信息,并生成相應的特征圖。在卷積操作后,添加BN層對特征圖進行處理,以增強模型的穩定性。激活函數方面選擇ReLU函數。卷積操作后的特征圖按通道維度進行連接,并通過殘差連接的方式實現融合多尺度信息的特征輸出。
2.1.2 "CBAM注意力
采用CBAM注意力機制[16]對學習到的多尺度特征進行提取,可以聚焦于不同尺度上更重要的信息,增加目標區域的權重。CBAM是一種輕量級的注意力機制,能夠在不顯著增加計算量的同時提升模型性能。該機制由通道注意力模塊和空間注意力模塊兩個子模塊串行排列,如圖2所示。
通道注意力模塊通過共享的多層感知器(Shared Multilayer Perceptron, Shared MLP)對壓縮擴張后的平均池化和最大池化特征進行處理,并將結果通過Sigmoid函數進行激活,學習到通道注意力權重以區分不同通道間的特征,表達式為:
[Mc(F)=Ψ(MLP(AvgPool(F))+MLP(MaxPool(F)))] (6)
式中[Ψ]為Sigmoid函數。
通道注意力模塊如圖3所示。
空間注意力模塊接收通道注意力模塊的輸出作為輸入,并對其進行最大池化和平均池化操作,然后將兩種池化結果進行拼接,并在經過卷積降維后使用Sigmoid函數進行激活,得到空間注意力權重,表達式為:
[Ms(F)=σf3×3AvgPool(F),MaxPool(F)] (7)
式中[f3×3]為3×3的卷積。
空間注意力模塊如圖4所示。
2.2 "DenseNet網絡
DenseNet是由文獻[17]提出的一種深度神經網絡結構。網絡核心為稠密塊(Dense Block),每個Dense Block有許多瓶頸層采用獨特的密集連接方式進行連接,每一層都會接收前面所有層的輸出作為其輸入,以確保最大程度地傳遞信息。這種結構具有抗擬合能力強和減輕梯度消失問題的優點。稠密塊如圖5所示,瓶頸層如圖6a)所示。
這種密集連接方式提高了特征圖與梯度的傳遞效率,使得網絡深度可以進一步加大。假設網絡中第一層的輸入向量為[x0],輸出向量為[x1],那么網絡中第[i]層的輸出可以表示為:
[xi=Hi[concat(x0,x1,x2,…,xi-1)]] (8)
式中:concat指將輸出特征矩陣進行拼接操作;[Hi]表示三種連續操作的復合函數,包括批規范化(BN)、Swish激活函數和卷積操作。為了降低特征圖的尺寸,在兩個Dense Block之間采用過渡層完成下采樣操作,結構如圖6b)所示。
改進網絡的整體結構如圖7所示,結構中包含了四個Dense Block和三個交替的過渡層。其中,四個Dense Block中的Bottleneck Layer個數分別為3、6、12、8,批量數batch_size為64,增長率設置為32,即網絡每一層輸出特征圖的數量為32。Transition Layer的壓縮系數設置為0.5,將特征圖的維度降低為原來的一半。
損失函數采用均方誤差(MSE)函數,其定義為原始圖像與重建圖像對應像素之間的平方差的平均值,公式為:
[Loss(y,y)=1ni=1n(yi-yi)2] (9)
式中:[y]和[y]分別為原始圖像和重建圖像中第[i]個網格內的灰度值。
2.3 "Swish激活函數
神經網絡的特性決定了其在特征傳遞過程中僅進行線性計算時無法有效擬合復雜多樣的非線性信息,所以要為神經網絡引入激活函數。激活函數作為一種非線性函數,通常被置于卷積操作的前后,以確保神經網絡中單個神經元的輸入與輸出呈現非線性關系。
DenseNet網絡采用ReLU激活函數。在更新偏置和權重時,ReLU激活函數將小于0的偏置直接置為0,這可能導致網絡無法進行有效學習,進而導致神經元壞死和輸入信息的丟失。基于以上原因,本文選取Swish激活函數[18],其表達式為:
[Swish(x)=x?11+e-x] (10)
相比ReLU激活函數,其具有無上界有下界、平滑、非單調的特性,且在整個定義域內都可以求導,避免了梯度消失的問題。
2.4 "余弦退火調整學習率
神經網絡模型的參數需要優化器不斷地進行調整和更新,以最小化損失函數,提高模型的性能。本文選擇Adam優化器優化模型參數,初始學習率為0.002,并采用余弦退火策略調整學習率[19]。
[ηi=ηtmin+12ηtmin+ηtmax1+cosTcurTtπ] (11)
式中:[ηi]為當前的學習率;[ηtmin]和[ηtmax]分別為第[t]次重啟時學習率的最小值和最大值;[Tcur]是當前迭代輪次的epoch次數;[Tt]為第[t]次迭代的epoch次數。
2.5 "dropout算法
在神經網絡的訓練過程中,深層網絡通常能夠有效提取更為豐富的特征。然而,隨著計算復雜度增加,常常會面臨過擬合問題。本文采用dropout算法對DenseNet進行改進,該算法在訓練過程中以一定的概率將神經元隨機丟棄,以降低網絡之間的互相依賴,抑制網絡的過擬合現象并解決訓練過程中的耗時問題。
3 "實驗結果及分析
3.1 "評價指標
為了分析本文采用方法的圖像重建質量,選擇常用的相對誤差和相關系數作為重建圖像的評價指標。
相對誤差是衡量重建圖像與原始圖像之間差異程度的指標,其表達式為:
[RE=g*-g2g2] (12)
式中:[g*]表示原始流型樣本的灰度矩陣;[g]表示重建之后圖像的灰度矩陣。相對誤差越小,則重建圖像的質量越好。
相關系數是衡量重建圖像與原始圖像之間線性相關程度的指標:
[CC=cov(g,g)Var(g)Var(g)] (13)
式中:[g]表示重建圖像的灰度值;cov()為誤差;Var()為均方差,表示重建圖像與原始樣本的離散程度。
3.2 "仿真實驗
為驗證改進算法的收斂性和有效性,選擇四種兩相流型構建數值仿真模型。建模過程中,隨機設置具有不同大小和位置分布的氣泡,以驗證改進算法的性能。設定每個樣本內1 920個像素點的電導率參數,得到每種不同氣泡大小和位置分布的1 600組邊界測量電壓值,共獲取6 400組樣本數據,每組樣本包含120個邊界電壓值和1 920個電導率分布值,構成仿真數據庫。其中訓練集5 600組,測試集800組。從訓練集中隨機選取800組訓練樣本作為驗證集。
為了驗證改進算法的收斂性和有效性,使用本文算法與經典的LBP算法、Landweber迭代算法進行對比,結果如表1和圖8所示。
由重建圖像可以看出,LBP算法在氣泡多時成像效果較差,出現了邊緣模糊的現象,且偽影較多,Landweber迭代算法的成像質量強于LBP算法,但不能將流型輪廓準確的呈現。本文使用的DenseNet算法對于所有的流型均能較好的區分,重建圖像邊緣清晰,并能夠準確呈現氣泡的形狀和位置信息。
由表1可定性地對本文算法進行分析,從表中可以看出,DenseNet算法的相對誤差和相關系數在幾種流型中均最優,重建精度最高,算法的提升效果明顯。
3.3 "抗噪性實驗
由于ERT系統通常工作在環境比較復雜的現場,在測量過程中的噪聲會對重建圖像造成較大的干擾,因此需要對重建算法的抗噪性能進行分析。
抗噪性實驗中,在測試集的四種流型的數據中添加20~40 dB信噪比(Signal?to?Noise Ratio, SNR)的高斯白噪聲來模擬實際的環境,以驗證網絡的抗噪能力和實用性。
[SNR=10lgPs Pn] (14)
式中:[Pn]表示添加噪聲的平均功率;[Ps]表示原始邊界電壓測量信號功率。SNR越大表示添加噪聲的平均功率越小。在不同信噪比下重建圖像的結果如圖9、表2所示。
由圖9可以看出,在信噪比為20 dB時,流型存在偽影,但可以識別各個流型氣泡數量。信噪比為30 dB和40 dB時,已可以較清晰地分辨出各種流型,重建結果與原圖相差不大,表明DenseNet算法具有良好的抗干擾性能。
3.4 "靜態實驗
靜態實驗采用的設備為華北電力大學16電極ERT系統,傳感器管道的直徑為120 mm,電極為導電金屬材料。實驗中使用自來水模擬液相,以直徑為10 mm、20 mm、30 mm的聚氨酯棒模擬氣相。使用DenseNet算法對采集到的數據進行圖像重建,靜態實驗重建結果如圖10所示。
由重建結果可以看出,LBP算法成像結果失真嚴重;Landweber算法不能準確地重建出場域內介質的分布和位置;本文算法相比LBP算法和Landweber算法有明顯的改善,對幾種流型重建出了清晰的場域介質分布,具有更高的精度,能夠較好地區分不同氣泡的位置。
4 "結 "語
針對ERT系統中圖像重建的非線性問題,本文提出了一種基于多尺度卷積模塊和CBAM注意力機制改進的DenseNet網絡重建算法。使用多尺度卷積模塊提取多尺度特征信息,采用CBAM注意力機制增加關鍵區域的權重,再通過DenseNet網絡對融合了多尺度關鍵區域信息特征的輸入進行圖像重建,并通過仿真實驗、抗噪性實驗和靜態實驗與常用算法相比,實驗結果表明,本文方法具有更高的精度和更好的可視化效果,且具備較高的抗噪性能。
參考文獻
[1] 湯亮,蔡凱翼,徐適斐.基于深度學習的上傾管氣液兩相流流型識別[J].熱能動力工程,2023,38(2):64?69.
[2] 顏華,胡麗娟,王伊凡,等.基于改進靈敏度矩陣的ERT圖像重建[J].儀器儀表學報,2018,39(5):241?248.
[3] ZHU L Y, JIANG Y D, LI Y, et al. Conductivity prediction and image reconstruction of complex?valued multi?frequency electrical capacitance tomography based on deep neural network [J]. IEEE transactions on instrumentation and measurement, 2022, 71: 1?10.
[4] WANG C, GUO Q, WANG H X, et al. ECT image reconstruction based on alternating direction approximate Newton algorithm [J]. IEEE transactions on instrumentation and measurement, 2020, 69(7): 4873?4886.
[5] CUI Z Q, WANG Q, XUE Q, et al. A review on image reconstruction algorithms for electrical capacitance/resistance tomo?graphy [J]. Sensor review, 2016, 36(4): 429?445.
[6] 馬敏,李繼偉.基于SENet雙路徑多尺度特征融合的ECT圖像重建[J].振動與沖擊,2023,42(7):180?186.
[7] GAMIO J C, ORTIZ?ALEMAN C, MARTIN R. Electrical capacitance tomography two?phase oil?gas pipe flow imaging by the linear back?projection algorithm [J]. Geofísica internacional, 2010, 44(3): 165?273.
[8] JING L, LIU S, LI Z H, et al. An image reconstruction algorithm based on the extended Tikhonov regularization method for electrical capacitance tomography [J]. Measurement, 2009, 42(3): 368?376.
[9] 仝衛國,曾世超,張立峰,等.基于深度殘差神經網絡的電阻層析成像及流型辨識方法[J].系統仿真學報,2022,34(9):2028?2036.
[10] 姚佳烽,車權齊,李志偉,等.電容層析成像技術研究進展[J].機械制造與自動化,2022,51(5):1?7.
[11] 孫先亮,李健,韓哲哲,等.基于數據驅動的卷積神經網絡電容層析成像圖像重建[J].化工學報,2020,71(5):2004?2016.
[12] TAN C, Lü S H, DONG F, et al. Image reconstruction based on convolutional neural network for electrical resistance tomo?graphy [J]. IEEE sensors journal, 2018, 19(1): 196?204.
[13] 李峰,譚超,董峰,等.全連接深度網絡的電學層析成像算法[J].工程熱物理學報,2019,40(7):1526?1531.
[14] 張立峰,戴力.基于魯棒正則化極限學習機的電容層析成像圖像重建[J].計量學報,2022,43(8):1044?1049.
[15] 黨紅云,劉敏.基于ERT的可視化壓力測量方法[J].無損檢測,2023,45(10):78?84.
[16] WOO S, PARK J, LEE J Y, et al. CBAM: Convolutional block attention module [C]// 2018 15th European Conference on Computer Vision. Heidelberg, Germany: Springer, 2018: 3?19.
[17] HUANG G, LIU Z, WEINBERGER K Q, et al. Densely connected convolutional networks [EB/OL]. [2024?08?20]. http://arxiv.org/abs/1608.06993.
[18] RAMACHANDRAN P, ZOPH B, LE Q V. Searching for activation functions [EB/OL]. [2018?08?13]. http://arxiv.org/abs/1710.05941.
[19] LOSHCHILOV I, HUTTER F. SGDR: Stochastic gradient descent with warm restarts [EB/OL]. [2017?02?23]. https://arxiv.org/abs/1608.03983v3.
作者簡介:仝衛國(1967—),男,河北保定人,博士研究生,副教授,研究方向為先進流量測量技術。
崔建昕(2000—),男,山東聊城人,碩士研究生,研究方向為電阻層析成像與深度學習。