高弘治,閆德勤,楊 伊,劉彩鳳
(遼寧師范大學 計算機與信息技術學院,遼寧 大連 116081)
基于極端學習機的Demons圖像配準
高弘治,閆德勤,楊 伊,劉彩鳳
(遼寧師范大學 計算機與信息技術學院,遼寧 大連 116081)
醫學圖像配準是醫學診斷中的重要研究內容,配準精度和速度也是眾多研究的核心。圖像配準過程可設想為是一種神經網絡的學習過程,基于這種想法,引入極端學習機(ELM)這一系統對圖像完成配準。該方法速度快、魯棒性高,最重要的是它能不依賴梯度信息,從而很好地避開了點周圍間的互相干擾,考慮到其學習過程的準確性,引入魯棒激活函數學習機,以更好地提高配準學習系統的準確度,并提高其穩定性。
圖像配準;極端學習機;魯棒激活函數
近年來,隨著醫學診斷越趨可視化,對于醫學圖像的研究也越發必要,其中圖像配準是醫學診斷和引導治療臨床應用的重要研究方向,不斷出現的研究成果表明該領域已成為研究熱點[1-3],其研究按照圖像形變性質主要分為3個方面,即彈性模型、粘流體模型、微分同胚非線性圖像配準。彈性模型[4-5]由Broit首次提出,該模型將源圖像到目標圖像的形變過程建模為一個彈性形變的物理過程。這個物理過程由內力和外力兩種力來控制,當作用于彈性體上的外力和內力達到平衡時形變過程結束。彈性體的形變可以由Navier線性方程來描述。由于彈性變換模型一般適用于組織形變較小的情況,不適用于大形變。近年來,有關學者結合黎曼彈性能量和微分流形的理論把線性彈性模型進行改進以適于非線性彈性形變的配準[6-7]。粘流體模型由Christensen等[8]提出。該模型允許更大程度的形變,特別適合不同個體之間(Inter-subject)包括圖譜之間的配準。流體形變可以由Navier-Stokes偏微方程表示。但對于約束較強的組織不太適合,該模型的計算效率不高[9]。微分同胚非線性配準方法中基于Demons[10]系列算法以其深刻的物理和數學模型基礎及計算效率優勢備受人們關注[3-5]。微分同胚非剛性配準[11]應用代數結構實現靜態速度場上微分同胚變換[12]所用到的映射具有光滑可逆性且逆映射也是光滑的。其最大特點是保持圖像的拓撲結構在配準前后不發生改變,因此,它對大小形變都適用。但是此系列算法在形變過程中依賴梯度,很容易受到不連續的離群點干擾,而且剛性配準算法在于用線性剛性方程對形變位移正則化。盡管其在計算上是有效的,但是其正則化因子僅僅對小形變是有效的,且對于偏離位移是不持續的。基于Demons模型,較早的有Active Demons[13], 利用對浮動圖像和參考的正力和負力互相約束實現配準;目前研究較廣泛的有Log Demons[14]基于此思想的改進算法如iLog Demons[15]; Spectral Demons[16]即一種基于圖像流形特征圖譜的算法;單隱層前饋神經網絡(Single-hidden Layer Feed Forward Networks,SLFNs) 基于仿生學思想,模擬生物信息處理方法以數學優化形式實現信息的提取。模型學習能力強,能夠很好地逼近復雜的非線性函數,因而廣泛應用于分類及預測等問題,目前此領域中研究的熱點模型是極端學習機(Extreme Learning Machines-ELM)[17-18],采用單隱層前饋神經網絡(Single-hidden Layer Feedforward Networks,SLFNs),利用最小平方回歸優化計算輸出,避免了傳統神經網絡的迭代計算。由于受到極端學習機的學習模型啟發,在神經網絡(Neural Network)[19-20]研究中發現,受訓樣本通過神經網絡可以對學習樣本進行認知和自我反饋,這恰恰在思想上與配準不謀而合,同樣,在醫學圖像配準中也是將待配準圖像對參考圖像的學習和自身調節而達到一致的過程,那么可以認為在圖像上的灰度點是神經元,通過構造神經網絡而實現其向參考圖像形變。在實驗中,對非線性圖像的配準往往要用到圖像間的最優相似性測度實施監督,而這也是配準的一個重要準則,而對于臨床應用,形變點對點的位移映射必須要用高斯平滑,使之平滑配準,這無形中對圖像的原始信息也是一種浪費。為了避免提取圖像信息,同時避免過多地依賴梯度運算,提出魯棒激活函數圖像配準學習機。該方法具有很強的魯棒性,且不過多依賴圖像周邊信息,利用神經中的學習和記憶實現圖像信息最大程度的保留。但是,此方法還在雛形階段,其中有很多缺點和不足,比如算法容易產生像素點離群和脫離情況,因為是對圖像進行訓練映射而不是精準函數映射,所以其恢復程度取決于神經網絡的健全性,希望這一方法在今后可以逐漸完善。
設M是浮動圖像,T是參考圖像。在配準中浮動圖像向參考圖像形變的過程Demons系列最初的能量函數構造如下:
(1)
第一項是對圖像像素灰度值的約束,第二項為形變的約束。當能量函數達到最小時,配準過程完畢。根據此最初想法,SpectralDemons[16]方法對能量函數改進如下:
(2)
三項為圖譜約束,即在配準過程中要考慮對圖像特征圖譜最優的形變量。同樣LogDemons系列算法的能量函數構造為:

(3)
對比發現,在Log Demons[11],指數場exp(u)對形變要保持空間的微分同胚性。
本文提出的基于學習模型的Demons算法的能量函數為:
(4)
配準是通過不斷的形變迭代求得圖像的位移量,在此過程中要考慮每次形變是連續的,并且浮動圖像向參考圖像學習項約束,故構造第三項的約束條件。

(5)

(6)
令隱層像素神經元節點個數為L,上述方程(5)可寫成矩陣形式:HW=T,其中形變隱層輸出矩陣:
(7)

(8)


(9)
式(7)的優化模型可通過拉格朗日方法轉化為無條件最優化問題進行求解[3]。通過以上求解,可以得出對參考圖像的訓練模型H和權值矩陣W,進而讓浮動圖像神經網絡對模型進行很好的學習,實現浮動圖像與參考圖像配準。
fRAF[1]是本文中所用到的魯棒激活函數,將Gaussian核函數中的歐氏距離轉化為Cosined 度量,可以避免離群點對核函數的影響;同時fRAF核具有激活函數的優良性質,不會導致像素點隱層輸出矩陣的病態問題,進而能更好地符合圖像配準的像素神經元學習過程。
為了更好地保證配準的準確度和穩定性,本文選取fRAF,其良好的魯棒性使得像素點的離群率大大減小。圖1、圖2是Lena圖像配準實驗和腦部醫學圖像配準實驗對激活函數效能的分析,其中橫坐標為像素群體比例,縱坐標為學習精度。

圖1 Lena實驗中的激活函數精度分析

圖2 腦部實驗中的激活函數精度分析


2.1 實驗與分析
第1組實驗:利用形變后的Lena圖像作為未形變圖像(見圖3參考圖像)與浮動圖像(見圖4)。不同的配準結果如圖5~圖8所示。

圖3 參考圖像 圖4浮動圖像

圖5 本文方法配準后圖像 圖6 Active Demons配準結果

圖7 Log Demons配準結果 圖8 Spectral Demons配準結果


表1 Lena實驗各算法SSD測度
第2組腦部實驗:實驗的參考圖像如圖9所示,浮動圖像如圖10所示,不同的配準結果如圖11~圖14所示。

圖9 參考圖像 圖10 浮動圖像

圖11 配準圖像 圖12 Active Demons配準結果

圖13 Log Demons配準結果 14 Spectral Demons配準結果
表2 腦部實驗各算法SSD測度

算法名稱計算后的Squareddifference計算前的Squareddifference本文提出方法22.1579288.6278Log?demons149.2658288.6278SpectralDemons124.7426288.6278ActiveDemons69.3579288.6278
2.2 實驗結論
從圖5中可以看到配準的效果是顯而易見的,全局和細節的配準效果都很好,但是實驗很大程度上依賴像素神經隱層輸入個數,所以選取的參數L為10 000,但是從實驗結果還是可以看到配準圖像上有離群點產生。圖11為本文提出方法對醫學腦部圖像的圖像配準,中部和輪廓配準效果很好,也能看到浮動圖像腦中部的結構有病變而產生肥大,配準圖像則對浮動圖像有很好恢復,但是像素神經在訓練過程產生輪廓邊緣像素脫離,希望在日后可以對存在的問題進行改進和修復。
[1] S L LIU,L FENG.Robust activation function and its application:semi-superxised kernel extreme learning method[J].Neurocomputing,2014(144):318-328.
[2] P DUPUIS,U GRENANDER.Variational problems on flows of diffeomorphisms for image matching[J]. Quarterly of Applied Mathematics,1998,56(3):587-600.
[3] A SOTIRAS,C DAVATZIKOS.Deformable medical image registration:a survey[J].IEEE Transactions on Medical Imaging,2013,32(7):1153-1190.
[4] C BROIT.Optimal registration of deformed images[D].Philadelphia:University of Pennsylvania,1981.
[5] R BAJSCY,S KOVACIC.Multiresolution elastic matching[J].Computer Vision, Graphics and Image Processing,1989.
[6] X PENNEC,R STEFANESCU.Riemannian elasticity: a statistical regularization framework for non-linear registration[C].In Proc. Medical Image Computing and Computer Assisted Intervention:MICCAI'05,2005:943-950.
[7] J ASHBURNER.A fast dffeomorphic image registration algorithm[J].NeuroImage,2007(38):95-113.
[8] G E CHRISTENSEN,R D RABBITT.Deformable templates using large deformation kinematics[J].IEEE Transactions on Image Processing,1996,5(10):1435-1447.
[9] M C CHIANG.Fluid registration of diffusion tensor images using information theory[J].IEEE Transactions on Medical Imaging,2008,27(4):442-456.
[10] A BRUHN,J WEICERT.Combining the advantages of local and global optical flow methods. International [J].Journal of Computer Vision,2005,61(3):211-231.
[11] T VERCAUTEREN,X PENNEC.Non-parametric diffeomorphic image registration with the demons algorithm[C].In Proc. Medical Image Computing and Computer-Assisted Intervention:MICCAI'07,2007:319-326.
[12] B FISCHER.Curvature based image registration[J].Journal of Mathematical Imaging and Vision,2003(18):81-85.
[13] H WANG.Validation of an accelerated 'demons' algorithm for deformable image registration in radiation therapy[J].Physics in Medicine and Biology,2005,50(12):2887-2905.
[14] X PENNEC,A PERCHANT.Diffeomorphic demons:efficient non-parametric image registration[J]. Neurolmage,2009,45(1):S61-S72.
[15] X PENNEC.iLogDemons:a demons-based registration algorithm for tracking incompressible elastic biological tissues[J].International Journal of Computer Vision,2011(92):92-111.
[16] H LOMBAERT.Spectral Log-Demons:diffeomorphic image registration with very large deformations[J]. International Journal of Computer Vision,2014,107(3):254-271.
[17] G B HUANG,Q Y ZHU.Extreme learningmachine:theory and applications[J]. Neurocomputing,2006,70(1):489-501.
[18] G B HUANG. An insight into extreme learning machines: random neurons, random features and kernels[J].Cognitive Computation,2014(6):376-390.
[19] D E RUMELHAR,G E HINTON Williams.Learning representations by back-propagating errors[J].Nature,1986,323(6088):533-536.
[20] P J WERBOS.The roots of backpropagation:from ordered derivatives to neural networks and political forecasting[J].New York:Wiley,1994.
(責任編輯:孫 娟)
國家自然科學基金項目(61373127)
高弘治(1988-),男,遼寧大連人,遼寧師范大學計算機與信息技術學院碩士研究生,研究方向為模式識別、圖像配準;閆德勤(1962-),男,遼寧沈陽人,博士,遼寧師范大學計算機與信息技術學院教授,研究方向為模式識別、機器學習;楊伊(1992-),女,遼寧錦州人,遼寧師范大學計算機與信息技術學院碩士研究生,研究方向為模式識別、圖像配準;劉彩鳳(1992-),女,內蒙古豐鎮人,遼寧師范大學計算機與信息技術學院碩士研究生,研究方向為模式識別、圖像配準。
10.11907/rjdk.162601
TP317.4
A
1672-7800(2017)003-0159-04