基于深度遷移學(xué)習(xí)的大鼠肝纖維化診斷①

余文林，陳振洲，范冰冰，黃 穗

(華南師范大學(xué) 計(jì)算機(jī)學(xué)院，廣州 510631)

1 引言

1.1 研究背景

肝纖維化(Hepatic Fibrosis，HF)是許多慢性肝臟疾病的常見表現(xiàn)，是指由各種病因?qū)е碌母闻K損傷而進(jìn)行的組織修復(fù)，最終導(dǎo)致合成大量的膠原和蛋白多糖等細(xì)胞外基質(zhì)(Extra Cellular Matrix，ECM)過(guò)度沉積的病理過(guò)程.

有研究表明，早期輕度肝纖維化是可以治愈，并且肝纖維化S2 期及以上具有明確的治療指征，這也是肝纖維化進(jìn)展的標(biāo)志[1].肝纖維化持續(xù)發(fā)展將會(huì)引發(fā)肝硬化，甚至是引發(fā)肝細(xì)胞癌[2，3].因此早期診斷肝纖維化并且區(qū)分肝纖維化分期及炎癥活動(dòng)度將會(huì)對(duì)臨床治療方案的選擇提供重要依據(jù)及幫助[4].

醫(yī)學(xué)成像技術(shù)因其具有無(wú)創(chuàng)性和能直觀檢測(cè)體內(nèi)器官的特性，現(xiàn)已廣泛的被用于臨床醫(yī)學(xué)當(dāng)中.用于評(píng)估肝纖維化的醫(yī)學(xué)影像主要包括核磁共振成像(Magnetic Resonance Imaging，MRI)、超聲彈性成像、計(jì)算機(jī)斷層成像(Computed Tomography CT).相對(duì)于其他醫(yī)學(xué)成像技術(shù)來(lái)說(shuō)，磁共振成像可以生成多種多參數(shù)的高清軟組織圖像，包括彌散加權(quán)成像(Diffusion Weighted Imaging，DWI)、T1-weighted MRI、T2-weighted MRI 等.在本實(shí)驗(yàn)中根據(jù)醫(yī)生的建議采用了T1-weighted(T1)、T2-weighted TSE(T2)、T1RHOFA(FA)、T1RHO-HS(HS)這4 種MRI 圖像.

1.2 研究現(xiàn)狀

目前國(guó)內(nèi)外對(duì)肝纖維化的診斷方法主要分為有創(chuàng)性診斷和無(wú)創(chuàng)性診斷.其中有創(chuàng)性診斷主要是對(duì)肝臟進(jìn)行肝活組織病理學(xué)檢查，并將其檢測(cè)結(jié)果作為肝纖維化分期階段的“金標(biāo)準(zhǔn)”.然而這種診斷方法具有成本太高、有創(chuàng)性、有幾率導(dǎo)致并發(fā)癥等的弊端[5]；而非創(chuàng)性診斷技術(shù)有臨床評(píng)估、診斷預(yù)測(cè)模型、血清標(biāo)志物、醫(yī)學(xué)成像等.醫(yī)學(xué)成像技術(shù)憑借其相對(duì)無(wú)創(chuàng)性和可以對(duì)肝纖維化直觀評(píng)估的特點(diǎn)，在臨床應(yīng)用中發(fā)揮了關(guān)鍵的作用.

傳統(tǒng)基于醫(yī)學(xué)圖像對(duì)肝纖維化程度診斷的方法主要是先對(duì)圖像進(jìn)行人工特征提取和特征篩選，然后再通過(guò)傳統(tǒng)機(jī)器學(xué)習(xí)的方法訓(xùn)練分類器進(jìn)行肝纖維化分期分類[6，7].雖然傳統(tǒng)方法依舊取得了一定的效果但是由于得到的特征是基于人工提取的，效率不高而且覆蓋的圖像信息不全面.針對(duì)這些局限性，深度學(xué)習(xí)憑借其可以自動(dòng)獲取原始圖像的一系列特征的特性，為醫(yī)學(xué)圖像研究提供了新方向[8，9].Sarraf 等人[10]通過(guò)對(duì)正常大腦和阿爾茨海默患者大腦的磁共振圖像的訓(xùn)練獲得了準(zhǔn)確率高達(dá)96.85%的LeNet模型.Marios 等人[11]基于肺部的高清CT 圖像訓(xùn)練，實(shí)驗(yàn)?zāi)Ｐ妥罡叻诸悳?zhǔn)確率達(dá)到了85.61%.在肝纖維化方面，孟丹等人[12]先利用在ImageNet 上預(yù)訓(xùn)練的VGGNet網(wǎng)絡(luò)提取感興趣區(qū)域肝臟區(qū)域超聲波特征，然后再將特征輸入到他們提出的FCNet中，進(jìn)行對(duì)肝纖維化正常、早期肝纖維化(S1-S3)和晚期肝纖維化(S4)三種階段的判斷，取得了超過(guò)80%的實(shí)驗(yàn)準(zhǔn)確率.Wang 等人[13]通過(guò)肝纖維化患者的超聲彈性成像圖訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)取得了與肝臟穿刺活檢診斷相當(dāng)?shù)男Ч?以上基于醫(yī)學(xué)成像的肝纖維化診斷研究都是基于超聲成像的且沒有對(duì)肝纖維化分期做出具體的判斷.相對(duì)于MRI 來(lái)說(shuō)超聲成像具有圖像分辨率較低的先天劣勢(shì)，且采集可以診斷出肝纖維化分期的超聲圖像對(duì)采集人員有較高的醫(yī)學(xué)專業(yè)要求且圖像質(zhì)量容易受操作者的經(jīng)驗(yàn)影響.因此采集到的超聲圖像已經(jīng)具有高度診斷辨識(shí)度.然而本實(shí)驗(yàn)采用分辨率較高和采集穩(wěn)定的MRI 圖像作為肝纖維化診斷依據(jù)，同時(shí)也針對(duì)MRI 圖像特點(diǎn)和目標(biāo)需求，優(yōu)化設(shè)計(jì)了集成自動(dòng)提取特征和對(duì)肝纖維化各分期診斷的綜合模型.

2 深度遷移學(xué)習(xí)

2.1 深度學(xué)習(xí)

深度學(xué)習(xí)是由Geoffrey Hinton 研究組在2006年提出的一個(gè)機(jī)器學(xué)習(xí)領(lǐng)域的新分支[14].它通過(guò)構(gòu)建具有多層的非線性模型來(lái)進(jìn)行數(shù)據(jù)處理.深度學(xué)習(xí)能利用多層的特性自底層向高層逐步的學(xué)習(xí)自動(dòng)提取特征，摒棄了人工特征提取所帶來(lái)的先驗(yàn)性和不全面性的缺陷.近年來(lái)，深度學(xué)習(xí)在圖像識(shí)別、自然語(yǔ)言處理、計(jì)算機(jī)視覺方面都舉得了優(yōu)秀成績(jī).其基本的網(wǎng)絡(luò)層次圖如圖1所示.

圖1 深度網(wǎng)絡(luò)的層次結(jié)構(gòu)

除了基本的全連接層之外，常見的深度神經(jīng)網(wǎng)絡(luò)層還有:卷積層，池化層，批標(biāo)準(zhǔn)化層，隨機(jī)失活層，激活層等.

自1962年Hubel 和Wiesel 在研究貓腦皮層中用于局部敏感和方向選擇的神經(jīng)元提出感受野(receptive field)概念后[15]，繼而有人提出含有卷積層的卷積神經(jīng)網(wǎng)絡(luò)(CNN).而LeCun 最早將CNN 應(yīng)用于手寫數(shù)字識(shí)別并取得了突破性成績(jī)[16].

卷積神經(jīng)網(wǎng)絡(luò)利用了圖像主體的平移不變性和像素與近距離的像素之間的聯(lián)系大于遠(yuǎn)距離像素的特性，采用不同的卷積核對(duì)圖像進(jìn)行卷積運(yùn)算得到不同的特征圖，在計(jì)算特征圖時(shí)通過(guò)權(quán)值共享大大減少了深度神經(jīng)網(wǎng)絡(luò)的參數(shù)數(shù)量(圖2).

圖2 卷積的工作方式

池化層是根據(jù)特征選擇的區(qū)域按照池化方式提取出特征，同時(shí)能縮小特征圖，減少模型的計(jì)算量，常用的池化方法有最大池化，最小池化，和平均池化.在本文實(shí)驗(yàn)中采用的均為最大池化.

深度模型在訓(xùn)練時(shí)，由于模型層次太深或采用了不適當(dāng)?shù)募せ詈瘮?shù)會(huì)導(dǎo)致模型梯度消失的問題.針對(duì)這一問題，2015年Google 提出了批標(biāo)準(zhǔn)化(Batch Normalization)[17].批標(biāo)準(zhǔn)化將輸入的批次中的每一個(gè)feature map 進(jìn)行標(biāo)準(zhǔn)化操作，使數(shù)據(jù)滿足標(biāo)準(zhǔn)正太分布.這樣降低了數(shù)據(jù)的冗余性和特征的相關(guān)性，使得模型的梯度傳導(dǎo)的更深緩解了梯度消失的問題.

隨機(jī)失活(Dropout)層[18]是一種針對(duì)模型訓(xùn)練過(guò)程中出現(xiàn)的過(guò)擬合問題所提出的.它是在模型的訓(xùn)練中按照一定的概率，隨機(jī)地選擇上層的輸出神經(jīng)元而使其在本次的訓(xùn)練過(guò)程中處于失活的狀態(tài).當(dāng)有多個(gè)隨機(jī)失活層作用時(shí)，每次訓(xùn)練的過(guò)程中實(shí)際訓(xùn)練的模型都不同.這樣大大的提高了模型的多樣性，也讓模型過(guò)度擬合訓(xùn)練數(shù)據(jù)變得困難.

如果不添加激活層，每一層的輸出都是上層輸入的線性函數(shù)，這樣無(wú)論網(wǎng)絡(luò)有多少層，輸出都是輸入的線性組合，無(wú)法擬合非線性函數(shù).激活層將非線性特征引入到了網(wǎng)絡(luò)中，使網(wǎng)絡(luò)可以逼近任意非線性函數(shù)，讓神經(jīng)網(wǎng)絡(luò)可以處理眾多非線性問題.激活層中常用的激活函數(shù)有Sigmoid、Tanh、ReLU 等.

2.2 遷移學(xué)習(xí)

遷移學(xué)習(xí)(transfer learning)是將在源域(source domain)中學(xué)習(xí)到的知識(shí)應(yīng)用于在目標(biāo)域(target domain)知識(shí)學(xué)習(xí)中的一種學(xué)習(xí)方法[19].通常源域和目標(biāo)域的數(shù)據(jù)和任務(wù)都不相同，且目標(biāo)域的數(shù)據(jù)獲取成本較大導(dǎo)致已有數(shù)據(jù)不足以訓(xùn)練出可靠模型.遷移學(xué)習(xí)通過(guò)遷移在源域?qū)W習(xí)的知識(shí)去提升針對(duì)目標(biāo)域任務(wù)建立的模型的效果(圖3).

圖3 遷移學(xué)習(xí)

遷移學(xué)習(xí)按照學(xué)習(xí)方式可以分為基于樣本的遷移、基于特征的遷移、基于模型的遷移和基于關(guān)系的遷移.由于醫(yī)學(xué)影像數(shù)據(jù)的難獲取或者獲取的成本較高的特性，遷移學(xué)習(xí)提供了一個(gè)恰當(dāng)?shù)耐緩?同時(shí)有研究表明在訓(xùn)練好的深度模型中，各層次學(xué)習(xí)到的知識(shí)不同，低層學(xué)習(xí)到的是偏向通用性的知識(shí)，如圖的邊緣、拐角等.而高層學(xué)到的是與學(xué)習(xí)任務(wù)相關(guān)的特征，如在人臉識(shí)別任務(wù)中，模型的高層學(xué)習(xí)到的就有如何識(shí)別眼睛和嘴巴等知識(shí).在實(shí)現(xiàn)模型遷移時(shí)，可以通過(guò)固定不同數(shù)量的低層參數(shù)來(lái)實(shí)現(xiàn)不同程度的模型遷移.

本文中實(shí)踐驗(yàn)證了，通過(guò)遷移在ImageNet 數(shù)據(jù)集上訓(xùn)練的VGGNet-11模型可以提升肝纖維化期數(shù)診斷模型的特征抽取能力和穩(wěn)定性.

3 基于深度遷移學(xué)習(xí)的大鼠肝纖維化診斷

本文采用深度模型遷移學(xué)習(xí)方法，將ResNet-18 和VGGNet-11 作為基本參照模型.基于參照模型針對(duì)MRI 圖像的特點(diǎn)進(jìn)行優(yōu)化，然后對(duì)所有模型訓(xùn)練大鼠肝纖維化MRI 圖像，使模型自動(dòng)提取圖像特征和對(duì)肝肝纖維化期數(shù)診斷.對(duì)數(shù)據(jù)集，本文采用了基于隨機(jī)的鏡像和旋轉(zhuǎn)的數(shù)據(jù)增強(qiáng)策略來(lái)提升模型的泛化性能和魯棒性.同時(shí)在實(shí)驗(yàn)中，對(duì)兩種對(duì)比模型都采用了遷移學(xué)習(xí)方法和不使用遷移學(xué)習(xí)方法分別訓(xùn)練.在使用遷移學(xué)習(xí)方法訓(xùn)練時(shí)，對(duì)模型都進(jìn)行了不同程度的模型遷移對(duì)比實(shí)驗(yàn).

3.1 數(shù)據(jù)集和數(shù)據(jù)增強(qiáng)

3.1.1 數(shù)據(jù)集

本實(shí)驗(yàn)數(shù)據(jù)由南方醫(yī)科大學(xué)提供.采用實(shí)驗(yàn)大白鼠共計(jì)95 只，其中每只白鼠分別采用T1、T2、T1RHO FA 和T1RHO HS 磁共振參數(shù)對(duì)其肝臟的不同部位進(jìn)行核磁共振影像采集.然后將采集到的原始影像通過(guò)RadiAntDICOMViewer 軟件轉(zhuǎn)換成PNG 格式作為我們的數(shù)據(jù)集.數(shù)據(jù)集的中4 種不同參數(shù)的核磁共振影像圖數(shù)量如表1所示.

表1 數(shù)據(jù)集的采集情況

在實(shí)驗(yàn)過(guò)程中，由于對(duì)同一只大鼠的不同肝臟切片采用了相同的采集參數(shù)，因此它們有一定的相似性.為防止相似性對(duì)模型的結(jié)果評(píng)定有影響，在實(shí)驗(yàn)中都先以白鼠為單位隨機(jī)分為7:3的比例.然后將所有由同只白鼠獲取到的影像全部作為訓(xùn)練集數(shù)據(jù)或者測(cè)試集數(shù)據(jù).具體影像圖見圖4.

圖4 從S0 到S4 期大鼠肝纖維化T2 核磁共振影像圖

3.1.2 數(shù)據(jù)增強(qiáng)

由于深度神經(jīng)網(wǎng)絡(luò)模型需要海量的數(shù)據(jù)來(lái)進(jìn)行學(xué)習(xí)，而我們數(shù)據(jù)集中的數(shù)據(jù)量遠(yuǎn)不及海量的要求.所以在實(shí)驗(yàn)時(shí)需要對(duì)數(shù)據(jù)集進(jìn)行適當(dāng)?shù)臄?shù)據(jù)增強(qiáng)方法來(lái)擴(kuò)充數(shù)據(jù)量，這樣訓(xùn)練出的模型具有更高的魯棒性也不容易過(guò)擬合.本實(shí)驗(yàn)采用的數(shù)據(jù)增強(qiáng)方法有以下兩種:

1)圖像翻轉(zhuǎn):圖像翻轉(zhuǎn)分為水平翻轉(zhuǎn)和垂直翻轉(zhuǎn).這是一種常規(guī)的數(shù)據(jù)增強(qiáng)方法.在圖像進(jìn)行翻轉(zhuǎn)后仍然不影響圖像表達(dá)的語(yǔ)義時(shí)，我們應(yīng)盡量采用這種圖像增強(qiáng)方法.在本實(shí)驗(yàn)中對(duì)圖像進(jìn)行水平翻轉(zhuǎn)不會(huì)影響肝纖維化的診斷.所以圖像在訓(xùn)練前都會(huì)隨機(jī)的進(jìn)行水平翻轉(zhuǎn).

2)圖像旋轉(zhuǎn):圖像旋轉(zhuǎn)也是一種常規(guī)的數(shù)據(jù)增強(qiáng)方法.這是將圖像按照中心點(diǎn)進(jìn)行旋轉(zhuǎn)的方法.但是過(guò)量的旋轉(zhuǎn)會(huì)改變圖像的語(yǔ)義表達(dá)，如在文字識(shí)別中，過(guò)量的旋轉(zhuǎn)會(huì)讓圖像產(chǎn)生歧義或者不能識(shí)別.考慮到本數(shù)據(jù)集在獲取數(shù)據(jù)的時(shí)候就存在一定的角度差別，在實(shí)驗(yàn)中，數(shù)據(jù)在訓(xùn)練前都會(huì)隨機(jī)的在-12 度到12 度之間進(jìn)行旋轉(zhuǎn).

同時(shí)采用隨機(jī)水平翻轉(zhuǎn)和隨機(jī)旋轉(zhuǎn)圖像可以讓同一張圖像在輸入到網(wǎng)絡(luò)時(shí)都會(huì)有不同的差異，這讓模型不容易陷入過(guò)擬合而記住單一圖像的特點(diǎn).同時(shí)在網(wǎng)絡(luò)遇到新的圖像時(shí)，能提升圖像的準(zhǔn)確性.為了防止數(shù)據(jù)增強(qiáng)所帶來(lái)的影響，在測(cè)試的過(guò)程中，所有的數(shù)據(jù)增強(qiáng)策略都未使用.這樣保證的模型對(duì)目標(biāo)數(shù)據(jù)預(yù)測(cè)結(jié)果的準(zhǔn)確性.圖像對(duì)比結(jié)果如圖5所示.

圖5 原始圖像和數(shù)據(jù)增強(qiáng)后的圖像

3.2 ResNet-18 和VGGNet-11神經(jīng)網(wǎng)絡(luò)

ResNet的全名是Residual Network，又稱為殘差網(wǎng)絡(luò)[20].通過(guò)在添加低層與高層之間的直通的殘差塊的設(shè)計(jì)，在使用梯度優(yōu)化類方法訓(xùn)練網(wǎng)絡(luò)的時(shí)候這種殘差塊設(shè)計(jì)能讓梯度傳導(dǎo)到更深的層次，因此能訓(xùn)練出層次更深的模型.在2015年的各大圖像算法比賽中，ResNet在保證網(wǎng)絡(luò)精度的前提下，將網(wǎng)絡(luò)深度達(dá)到了152 層，并以絕對(duì)優(yōu)勢(shì)取得了多個(gè)冠軍.ResNet 根據(jù)不同的數(shù)據(jù)規(guī)模有ResNet-18、ResNet-34、ResNet-50、ResNet-101 和ResNet-152 等版本，后面的數(shù)字代表著該模型的最大深度.本文的實(shí)驗(yàn)在數(shù)據(jù)規(guī)模和分類類別數(shù)目上遠(yuǎn)不及比ImagNet 比賽中的規(guī)模，采用的模型是ResNet-18網(wǎng)絡(luò)結(jié)構(gòu).為了方便實(shí)現(xiàn)對(duì)模型的不同程度的遷移，本文將每?jī)蓚€(gè)殘差合并為一個(gè)邏輯層.其網(wǎng)絡(luò)結(jié)構(gòu)圖如圖6所示.

圖6 ResNet-18網(wǎng)絡(luò)結(jié)構(gòu)

VGG 是參加ILSVRC 2014 比賽時(shí)，提交該網(wǎng)絡(luò)的小組Visual Geometry Group，Department of Engineering Science，University of Oxford的縮寫，故該網(wǎng)絡(luò)結(jié)構(gòu)叫做VGG 或者VGGNet[21].該網(wǎng)絡(luò)在當(dāng)年的圖像分類任務(wù)中獲得第二名，而第一名由Google 提出的GoogleNet 獲得.VGGNet 也具有不同的層次版本.主要有VGG-11、VGG-13、VGG-16 和VGG-19，隨著Batch Normalization的提出相繼有了對(duì)應(yīng)的添加Batch Normalization的版本.在本文中所采用的對(duì)比網(wǎng)絡(luò)模型為VGG-11的帶Batch Normalization 版本，同樣為了方便進(jìn)行模型的部分遷移，也進(jìn)行了層次的合并，其網(wǎng)絡(luò)結(jié)構(gòu)如圖7所示.

圖7 VGGNet-11網(wǎng)絡(luò)結(jié)構(gòu)

本實(shí)驗(yàn)將原模型的最后線性層都由原輸出類目數(shù)的1000 調(diào)整為輸出類目為5的線性層.這樣模型的5個(gè)輸出就可以更好的表示模型對(duì)輸入圖像中肝纖維化程度的判斷.在實(shí)驗(yàn)過(guò)程中，本文采用了批量訓(xùn)練的訓(xùn)練方法，每次訓(xùn)練時(shí)都隨機(jī)選擇小批量數(shù)據(jù)進(jìn)行訓(xùn)練.把每張圖像的原始所屬于的分期和模型對(duì)圖像判斷所給的輸出，根據(jù)交叉熵(Cross Entropy)函數(shù)計(jì)算出模型對(duì)本張圖像的輸出和真實(shí)類別之間的差距損失，然后根據(jù)批量數(shù)據(jù)的累加損失，按照梯度反向傳播法則依次調(diào)整模型中的所有未固定且可訓(xùn)練的參數(shù).

4 實(shí)驗(yàn)和結(jié)果

4.1 實(shí)驗(yàn)結(jié)果

如圖6 和圖7所示，本文將ResNet-18 和VGG-11 都分成6個(gè)邏輯層.分別在T1，F(xiàn)A，HS 和T2 每個(gè)數(shù)據(jù)集上進(jìn)行了6 次實(shí)驗(yàn).由未采用遷移學(xué)習(xí)訓(xùn)練和依次遷移模型低層參數(shù)并固定，作為模型特征提取的一部分.具體實(shí)驗(yàn)配置如表2所示.

實(shí)驗(yàn)均在，CPU Intel(R)Core(TM)i7-4790、GPU NVIDIA GeForce GTX 1080，內(nèi)存DDR3 16 GB，Windows 10 專業(yè)版環(huán)境下，使用PyTorch 0.40 實(shí)現(xiàn)模型的構(gòu)建和訓(xùn)練.各組模型訓(xùn)練依次進(jìn)行，每次模型訓(xùn)練的80個(gè)周期共需30 分鐘左右，訓(xùn)練結(jié)果如圖8 至圖11所示.

表2 實(shí)驗(yàn)中模型的遷移設(shè)置

圖8 采用RetNet-18 在各數(shù)據(jù)集上的模型準(zhǔn)確

圖9 ResNet-18 在4 種數(shù)據(jù)集下的訓(xùn)練過(guò)程

圖10 VGG-lock0 在4 種數(shù)據(jù)集上訓(xùn)練過(guò)程

4.1.1 ResNet-18的實(shí)驗(yàn)結(jié)果

采用Res-lock0 配置時(shí)，ResNet-18 在4 種不同數(shù)據(jù)集上訓(xùn)練不同的模型，平均在15個(gè)周期模型都能達(dá)到自己穩(wěn)定后的平均準(zhǔn)確率.其中的采用FA 數(shù)據(jù)訓(xùn)練的模型的平均準(zhǔn)確率最高為86.06%，最高準(zhǔn)確率為89.79%；其次是通過(guò)HS 訓(xùn)練的模型，平均準(zhǔn)確率為81.84%最高準(zhǔn)確率為85.51%；最低準(zhǔn)確率的模型是采用T2 數(shù)據(jù)訓(xùn)練，其最高模型準(zhǔn)確率為79.04%，平均準(zhǔn)確率為73.60%.通過(guò)FA 訓(xùn)練出模型的準(zhǔn)確率具有最高的穩(wěn)定性，其準(zhǔn)確率的方差為5.09.而通過(guò)T1 和HS 訓(xùn)練模型穩(wěn)定后的準(zhǔn)確率的方差為10.04 和10.69，通過(guò)T1 訓(xùn)練的模型最不穩(wěn)定，準(zhǔn)確率方差為32.47.其訓(xùn)練結(jié)果如表3所示.

表3 ResNet-18 在Res-lock0網(wǎng)絡(luò)設(shè)置下模型的結(jié)果

圖11 VGG-11 在4 種數(shù)據(jù)集下的訓(xùn)練過(guò)程

采用FA 數(shù)據(jù)集訓(xùn)練時(shí)，當(dāng)使用Res-lock1 至Reslock4 配置訓(xùn)練，模型的最高準(zhǔn)確率依次為79.58%、77.93%、76.69%和77.24%.采用模型遷移后，模型平均在第7個(gè)周期就能達(dá)到模型的平均準(zhǔn)確率，訓(xùn)練速度提升了一倍.然而模型的準(zhǔn)確率卻是不采用模型遷移時(shí)最優(yōu).而當(dāng)采用其他3 種數(shù)據(jù)集訓(xùn)練時(shí)，適量采用模型遷移均能提升模型的訓(xùn)練速度和提升模型的準(zhǔn)確率.在采用Res-lock4 配置的模型，在3 種數(shù)據(jù)集下模型效果都最優(yōu).在4 種數(shù)據(jù)集中，采用Res-lock5 配置訓(xùn)練的模型效果都明顯低于其他配置的模型，因?yàn)椴捎眠@種配置時(shí)，模型的大部分參數(shù)都已固定，模型的擬合能力大大下降不能擬合出能良好分類的模型，因此其效果與其他模型差距較大.訓(xùn)練結(jié)果如表4所示.

表4 ResNet-18 在4 種數(shù)據(jù)集下的訓(xùn)練結(jié)果

4.1.2 VGG-11的實(shí)驗(yàn)結(jié)果

采用VGG-lock0 配置訓(xùn)練時(shí)，在4 種數(shù)據(jù)集上訓(xùn)練的模型平均在15 周期達(dá)到模型穩(wěn)定后的模型準(zhǔn)確率.在FA 數(shù)據(jù)集上訓(xùn)練的模型準(zhǔn)確率最高，最高準(zhǔn)確率為95.31%平均準(zhǔn)確率為90.11%，.其次是在HS 上訓(xùn)練的模型最高模型準(zhǔn)確率為85.97%，平均準(zhǔn)確率為79.63%.在T1 上訓(xùn)練的模型的準(zhǔn)確率最低，其最高模型準(zhǔn)確率為76.65%，平均準(zhǔn)確率為71.87%.在FA 上訓(xùn)練的模型具有最高的模型穩(wěn)定性，其準(zhǔn)確率方差為4.94，其次是T1 數(shù)據(jù)集，模型準(zhǔn)確率方差為8.34.通過(guò)HS 訓(xùn)練的模型準(zhǔn)確率最差，其模型準(zhǔn)確率方差為16.66，是在FA 上訓(xùn)練模型的3.37 倍.其訓(xùn)練結(jié)果見表5.

表5 VGG-lock0 在4 種數(shù)據(jù)集上訓(xùn)練結(jié)果

在T1 數(shù)據(jù)集下，采用VGG-lock1 至VGGlock5 訓(xùn)練的模型的準(zhǔn)確率均比未使用VGG-lock0 配置訓(xùn)練的模型的準(zhǔn)確率都高.其中在使用VGGlock1 配置時(shí)，模型具有最高的平均準(zhǔn)確率81.52%，較使用VGG-lock0時(shí)的平均準(zhǔn)確率提升了13.42%，但其模型的穩(wěn)定性不及使用VGG-lock0的模型.在使用VGG-lock4時(shí)模型具有最高的穩(wěn)定性，其準(zhǔn)確率的方差為4.88 只為使用VGG-lock0 配置的58.51%.同時(shí)除了使用VGG-lock5 配置時(shí)，所有配置下的模型訓(xùn)練速度都不低于使用VGG-lock0的配置.在T2 數(shù)據(jù)集下，VGG-lock1 致VGG-lock5 配置的模型準(zhǔn)確率和模型穩(wěn)定性都優(yōu)于VGG-lock0 配置下的模型，但是各種配置下的模型結(jié)果之間的差別不大.其中使用VGGlock5 配置下的模型具有最高的模型準(zhǔn)確率84.88%，比不使用模型遷移時(shí)的最高準(zhǔn)確率提升了 3.23%，平均準(zhǔn)確率也提升了6.09%，但是其模型需要30個(gè)周期才能達(dá)到平均準(zhǔn)確率.使用FA 數(shù)據(jù)集訓(xùn)練時(shí)，在使用VGG-lock0 配置訓(xùn)練時(shí)能獲得準(zhǔn)確率高達(dá)95.31%的模型.但是使用VGG-lock3 配置能訓(xùn)練出準(zhǔn)確率超過(guò)原來(lái)1.3%的模型.在使用HS 數(shù)據(jù)集訓(xùn)練時(shí)，使用VGG-lock3 配置訓(xùn)練的模型取得高的模型準(zhǔn)確率和平均準(zhǔn)確率.同時(shí)訓(xùn)練速度最快比不使用模型遷移時(shí)提提升了40%.其訓(xùn)練結(jié)果如表6所示.

表6 VGG-11 在4 種數(shù)據(jù)集下的訓(xùn)練過(guò)程

4.2 結(jié)果分析

在沒有使用模型遷移訓(xùn)練模型情況下.具有最多數(shù)據(jù)的FA 數(shù)據(jù)集在兩種模型下都獲得了最高的模型準(zhǔn)確率，但是VGG-11的效果優(yōu)于ResNet-18.在使用模型遷移訓(xùn)練時(shí)，遷移訓(xùn)練對(duì)ResNet-18 結(jié)果的影響不穩(wěn)定.在FA 數(shù)據(jù)集上，遷移訓(xùn)練的模型結(jié)果都不及未使用遷移的模型結(jié)果，在T2 和HS模型下有模型的準(zhǔn)確率提升.特別在使用Res-lock4時(shí)，模型的訓(xùn)練速度和模型的準(zhǔn)確率在T1，T2 和HS 數(shù)據(jù)集下都優(yōu)于其他配置.對(duì)于VGG-11，在4 種數(shù)據(jù)集上使用遷移訓(xùn)練都能穩(wěn)定地為模型帶來(lái)準(zhǔn)確率和訓(xùn)練速度的提升并且訓(xùn)練結(jié)果都優(yōu)于ResNet-18.在ResNet-18 和VGG-11 使用Res-lock5 和VGG-lock5 配置時(shí)，模型的準(zhǔn)確率和訓(xùn)練速度都遠(yuǎn)不及其他配置.因?yàn)檫^(guò)度的遷移，使模型剩下的可變參數(shù)大量減少，大大消減了模型的表達(dá)能力不能學(xué)到良好的模型.比較分析實(shí)驗(yàn)結(jié)果我們，可以得出結(jié)論使用T1RHO-FA 核磁共振影像具有較其他3 種影像就肝纖維化期數(shù)診斷具有更優(yōu)的區(qū)分特征.同時(shí)在訓(xùn)練核磁共振影像時(shí)，VGG-11網(wǎng)絡(luò)結(jié)構(gòu)比ResNet-18 具有高的模型準(zhǔn)確率，并且在使用在ImageNet 數(shù)據(jù)上訓(xùn)練的模型進(jìn)行遷移時(shí)，能對(duì)結(jié)果有穩(wěn)定的準(zhǔn)確率和訓(xùn)練速度的提升.

5 結(jié)論

本實(shí)驗(yàn)優(yōu)化了ResNet-18 和VGG-11網(wǎng)絡(luò)結(jié)構(gòu)，使用了遷移和未遷移的訓(xùn)練方法對(duì)模型進(jìn)行分組對(duì)比實(shí)驗(yàn).對(duì)實(shí)驗(yàn)結(jié)果分析得出，T1RHO-FA 參數(shù)的核磁共振影像相對(duì)于T1-weighted、T2-weighted TSE、和T1RHO-HS 更適合用于深度模型的訓(xùn)練.同時(shí)相對(duì)于ResNet-18網(wǎng)絡(luò)結(jié)構(gòu)，VGG-11 更適用于核磁共振成像數(shù)據(jù)集的訓(xùn)練，并且可以實(shí)用深度模型遷移提升模型的準(zhǔn)確率和訓(xùn)練速度.對(duì)于今后醫(yī)學(xué)圖像分類模型的訓(xùn)練的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)和影像數(shù)據(jù)的選擇提供了參考因素.對(duì)肝纖維化分期的診斷提供了無(wú)創(chuàng)和全自動(dòng)的參考方案也為肝纖維化分期的診斷提供了研究意義.