面向殘差網(wǎng)絡(luò)與Adam優(yōu)化算法的醫(yī)學(xué)圖像卷積超分辨率重建

趙小紅 衡春妮 杜淑娟

摘要：文章分析一種醫(yī)學(xué)圖像卷積超分辨率重建方式，其中運(yùn)用到殘差網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)，能夠直接在地分辨率圖像上提取特征，于是簡(jiǎn)化了操作程序，將會(huì)提高圖片處理效率，然后還使用Adam優(yōu)化算法進(jìn)行優(yōu)化。將文章所研究的算法和其他算法進(jìn)行實(shí)驗(yàn)研究，研究結(jié)果表明，本文所研究的算法具有更好精確度和效率，能夠提高收斂速度，更有利于提高醫(yī)學(xué)圖像的檢查結(jié)果。

關(guān)鍵詞：殘差網(wǎng)絡(luò);Adam優(yōu)化算法;卷積神經(jīng)網(wǎng)絡(luò);超分辨率

中圖分類號(hào)：TP391.41;TP183

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1001-5922（2020）12-0078-04

在醫(yī)學(xué)領(lǐng)域中存在很多圖像需要進(jìn)行處理，超分辨率重建技術(shù)屬于一個(gè)熱點(diǎn)問題，主要作用就是對(duì)將低分辨率圖像進(jìn)行重建，然后得到高分辨圖像[1-2]。使用該技術(shù)的最大優(yōu)勢(shì)在于不需要對(duì)硬件設(shè)備進(jìn)行改善，就能實(shí)現(xiàn)提高圖像質(zhì)量的作用[3-4]。由于超分辨率重建技術(shù)在很多領(lǐng)域中能夠發(fā)揮重要作用，于是近幾年來，對(duì)其進(jìn)行了不斷深入研究，Dong等人首先提出了基于超分辨率卷積神經(jīng)網(wǎng)絡(luò)（SRCNN）的方法，相比于傳統(tǒng)的方式具有較好的重建效果[5]。于是在此基礎(chǔ)上，提出了更多不同的重建方法，比如基于反卷積的快速圖像超分辨率重建（FSRCNN）、高效子像素卷積神經(jīng)網(wǎng)絡(luò)（ESPCN）和深度卷積神經(jīng)網(wǎng)絡(luò)模型（VDSR）等[6-7]。在此基礎(chǔ)之上，文章提出了基于深層殘差網(wǎng)絡(luò)的加速圖像超分辨率重建方法（ DRSR）。

1 DRSR算法網(wǎng)絡(luò)結(jié)構(gòu)圖

本文所研究的重建算法應(yīng)用了較深的卷積網(wǎng)絡(luò)，于是在提取特征過程是，可以直接在低分辨率圖像上經(jīng)常操作。另外，深度的增加，也增加了精確度。DRSR算法網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1所示，該算法的主要特點(diǎn)在于使用了2種相結(jié)合的模式，一個(gè)是多權(quán)重的遞歸學(xué)習(xí)，另一個(gè)是多路徑模式的局部殘差學(xué)習(xí)。卷積后圖像會(huì)存在信息丟失的風(fēng)險(xiǎn)，于是文章使用了零填充方式能夠保證信息不丟失[8]。另外，DRSR算法不適用池化層，因?yàn)榕c超分辨率算法目的相違背。

1.1 深層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

由于本算法是直接對(duì)原始圖像進(jìn)行特征提取，于是需要應(yīng)用比較小的卷積核提取相同信息，由于引進(jìn)卷積層，圖像特征提取將會(huì)變多。文章將會(huì)對(duì)基于卷積神經(jīng)網(wǎng)絡(luò)的視覺識(shí)別算法進(jìn)行借鑒，該算法由牛津大學(xué)VCC小組提出，該模型中卷積層為3x3，通道數(shù)量c設(shè)置為1，濾波器的數(shù)量為32，Conv（32，3，1）表示卷積層，公式如下所示：

P（x）的作用就是將低分辨率圖像特征插入到高分辨率圖像中，在放人過程中需要依據(jù)特定位置，然后周期性的讓人。對(duì)圖像進(jìn)行重新排列時(shí)需要使用到子像素卷積層，然后還需要將插值函數(shù)放人到卷積層中，從而達(dá)到自動(dòng)學(xué)習(xí)的目的。圖像變換大小時(shí)是在最后一層上進(jìn)行實(shí)現(xiàn)。由于卷積運(yùn)算直接在原始圖像上進(jìn)行，于是可以提高算法的效率。

1.2 殘差網(wǎng)絡(luò)模型

雖然增加網(wǎng)絡(luò)深度能夠提取更多的特征，但是也會(huì)造成一定的問題，即網(wǎng)絡(luò)難以收斂。于是使用2種學(xué)習(xí)方式相互結(jié)合的模式，如圖2所示。

1.3參數(shù)優(yōu)化

深層卷積神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中，會(huì)對(duì)網(wǎng)絡(luò)進(jìn)行進(jìn)行優(yōu)化，從而使得參數(shù)是最優(yōu)結(jié)果。文章將會(huì)使用Adam優(yōu)化算法對(duì)參數(shù)進(jìn)行優(yōu)化，原本使用的優(yōu)化方法為隨機(jī)梯度下降法，改為Adarn優(yōu)化算法的作用是經(jīng)過偏置校正之后，會(huì)讓參數(shù)變得更加的平穩(wěn)，另外，損失函數(shù)還是使用的均方誤差。梯度的一階矩陣mt和二階矩陣nt用以下公式進(jìn)行表示：

2 實(shí)驗(yàn)結(jié)果和分析

為了驗(yàn)證算法是否具有較好的性能，對(duì)其進(jìn)行實(shí)驗(yàn)研究。實(shí)驗(yàn)首先得到相關(guān)參數(shù)的最優(yōu)設(shè)置，再對(duì)研究該參數(shù)下算法的性能。

2.1 層數(shù)設(shè)置

將放大倍數(shù)設(shè)置為3，然后對(duì)層數(shù)為6、10和12的網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練和測(cè)試，然后進(jìn)行迭代106次。得到圖3所示的變化曲線，從圖中可以看出，曲線變化最終會(huì)趨于平穩(wěn)狀態(tài)，從而可以反映網(wǎng)絡(luò)已經(jīng)完全收斂;并且處于12層的網(wǎng)絡(luò)具有更低的損失函數(shù)，即將網(wǎng)絡(luò)層設(shè)置為12層將會(huì)更利于圖像處理效果。

2.2 激活函數(shù)比較

由于激活函數(shù)會(huì)影響模型的速度和性能，于是在選擇過程中需要選擇最為合適的激活函數(shù)。經(jīng)過對(duì)集中函數(shù)進(jìn)行對(duì)比分析，發(fā)現(xiàn)tanh函數(shù)具有比較復(fù)雜的計(jì)算方式，但是能夠提高收斂速度，好能夠解決梯度容易消失的問題。ReLU也是一種比較復(fù)雜的函數(shù)，但是在應(yīng)用過程中可能會(huì)造成神經(jīng)元壞死。圖4對(duì)為這2種函數(shù)的對(duì)比分析，從結(jié)果中可以看出tanh函數(shù)具有更好的性能，而且收斂速度更快，所以文章選擇tanh作為激活函數(shù)。

2.3 速度比較

殘差網(wǎng)絡(luò)結(jié)構(gòu)直接在原圖上進(jìn)行操作，不僅提高的工作效率，而且還降低了計(jì)算復(fù)雜度。在set 5測(cè)試集情況下，圖5為不同算法處理醫(yī)學(xué)圖像的時(shí)間，從圖中可以看出，即使文章所設(shè)計(jì)的算法增加了深度，但是其速度相比于其他幾個(gè)算法具有明顯的提升作用，且當(dāng)深度為12時(shí)的網(wǎng)絡(luò)模型，其運(yùn)行時(shí)間更快，所以最終選擇深度為12的網(wǎng)絡(luò)模型。

2.4 優(yōu)化方法的比較

文章使用了Adam優(yōu)化算法，為了驗(yàn)證其應(yīng)用效果，將其和其他2種算法進(jìn)行比較，即加速梯度下降法（NAG）和隨機(jī)梯度下降法（SGD）。圖6即為3個(gè)算法的比較，從圖中可以看出，Adam優(yōu)化算法具有更加明顯的效果，所以文章選擇Adam優(yōu)化算法能夠提高醫(yī)學(xué)圖像處理效果。

2.5 濾波器數(shù)量比較

濾波器數(shù)量也會(huì)對(duì)超分辨率性能造成影響，于是文章對(duì)3種不同的濾波器數(shù)量進(jìn)行實(shí)驗(yàn)研究，圖7即為檢驗(yàn)結(jié)果，雖然濾波器增強(qiáng)其數(shù)量能夠提升其性能，但是優(yōu)惠增加模型的計(jì)算量和復(fù)雜度，從而降低運(yùn)行效率，于是設(shè)置濾波器數(shù)目不能過大也不能過小，通過綜合考慮之后，將其設(shè)置為32能夠達(dá)到更好的效果。

2.6 實(shí)驗(yàn)結(jié)果

為了研究本文所分析的算法的優(yōu)勢(shì)，于是將其與其他算法進(jìn)行比較，在測(cè)試時(shí)將倍數(shù)放大為2、3和4倍。最后得到每種算法的PSNR值和SSIM值，分別如表l和表2所示，從表中可以看出，相比于雙3次插值算法，本文所研究的算法明顯提高了PSNR值和SSIM值，相對(duì)于其他算法，本文所研究的算法其PSNR值和SSIM值也有一定程度的提高，所以本文所研究的算法在處于醫(yī)學(xué)圖像上具有更高的效率和精確度。

3 結(jié)語(yǔ)

文章分析了深層殘差卷積神經(jīng)網(wǎng)絡(luò)模型，能夠直接在原始醫(yī)學(xué)圖像中進(jìn)行特征提取，并且使用了Ad-am優(yōu)化算。通過實(shí)驗(yàn)結(jié)果表明，與其他算法相比，文章所分析的算法具有更好的精確度和效率，于是在醫(yī)學(xué)圖像的分析處理中具有更好的效果，更有利于醫(yī)生做出合理的診斷結(jié)果。

參考文獻(xiàn)

[1]黃浩鋒，肖南峰，基于組稀疏表示的醫(yī)學(xué)圖像超分辨率重建[J].計(jì)算機(jī)科學(xué)，2015，42（SI）：151-153+189.

[2]陳敏強(qiáng)，深度卷積神經(jīng)網(wǎng)絡(luò)超分重建技術(shù)驅(qū)動(dòng)的衛(wèi)星遙感影像融合研究[D].南昌：東華理工大學(xué)，2019.

[3]蘇衡，周杰，張志浩.超分辨率圖像重建方法綜述[J].自動(dòng)化學(xué)報(bào)，2013，39（08）：1202-1213.

[4]龍祥.基于深度學(xué)習(xí)的圖像超分辨率重建技術(shù)研究[D].江門：五邑大學(xué)，2019.

[5] Dong Chao， Loy Chen Change， He Kaiming， et al.lm-age Super- Resolution Using Deep Convolutional Net-works [J].IEEE Transactions on Pattern Analysis&Ma-chine Intelligence， 2016， 38（2）：295-307.

[6] Shi Wenzhe， Caballero Jose， Huszar Ferenc， et al.Re-al-Time Single Image and Video Supe-Resolution Us-ing an Efficient Sub-Pixel Convolutional Neural Network[J].IEEE Conference on Computer Vision and PatternRecognition.2016：1874-1883.

[7] Dong Chao ， Loy Chen Change， Tang Xiaoou.Acceler-ating the Super- Resolution Convolutional Neural Net-work[J].European Conference on Computer Vision ， 2016 ：391-407.

[8]孫超，呂俊偉，李健偉，等，基于去卷積的快速圖像超分辨率方法[J].光學(xué)學(xué)報(bào)，2017，037（012）：142-152.