基于色彩空間和深度殘差網(wǎng)絡(luò)ResNet-50的復(fù)雜巖性油氣藏巖石樣本智能分類及識(shí)別

劉今子, 杜文穎, 董馳, 秦志清, 楊楠, 廖恩浩

(1.東北石油大學(xué)數(shù)學(xué)與統(tǒng)計(jì)學(xué)院, 大慶 163318; 2.東北石油大學(xué)物理與電子工程學(xué)院, 大慶 163318;3.東北石油大學(xué)石油工程學(xué)院, 大慶 163318; 4.東北石油大學(xué)計(jì)算機(jī)與信息技術(shù)學(xué)院, 大慶 163318; 5.東北石油大學(xué)化學(xué)與化工學(xué)院, 大慶 163318; 6.東北石油大學(xué)電氣信息工程學(xué)院, 大慶 163318)

巖石樣本圖像的分類識(shí)別是油氣和礦產(chǎn)資源勘探的基礎(chǔ)工作,對(duì)儲(chǔ)量計(jì)算和地質(zhì)建模極為重要。常用的傳統(tǒng)分類方法,以重磁、測(cè)井、地震、遙感、電磁及薄片分析方法等方法為主,具有精度差、成本高、應(yīng)用范圍窄等缺點(diǎn)[1-5]。近年來(lái),諸多學(xué)者研究以深度神經(jīng)網(wǎng)絡(luò)模型為代表的機(jī)器學(xué)習(xí)方法,應(yīng)用于解決巖石樣本圖像的分類問(wèn)題,克服了傳統(tǒng)方法的主觀性強(qiáng)、周期長(zhǎng)、成本高等弊端,開(kāi)展了大量的工作。

巖石樣本圖像的局部特征參數(shù)及其分布規(guī)律是巖石巖性類別的重要依據(jù),主要包括:顏色、空間、形狀等特征參數(shù)。其中,色彩空間作為顏色特征的基礎(chǔ)參數(shù),成為巖石數(shù)字圖像分割的主要依賴參數(shù)。國(guó)內(nèi)外研究者對(duì)此開(kāi)展了研究工作,并取得一定的成果[6-13]。Yang等[6]利用閾值法降低顏色空間維數(shù),并應(yīng)用于彩色圖像邊緣檢測(cè)。丁天懷等[7]、湯慧[8]利用多顏色空間融合作為圖像特征提取的手段。張瑩[9]基于多色彩空間,對(duì)切片圖像進(jìn)行閾值分割,利用二值圖像數(shù)學(xué)形態(tài)學(xué)相關(guān)理論,對(duì)巖石圖像中的孔隙進(jìn)行精確識(shí)別。吳擁等[10]基于正交偏光序列圖像的顆粒分割,利用紅綠藍(lán)(red-green-blue,RGB)多閾值分割算法對(duì)圖像進(jìn)行分割,提高了準(zhǔn)確性。程國(guó)建等[11]將灰度圖像分割應(yīng)用于不同顏色空間的每個(gè)顏色分量上,并通過(guò)一定的方式進(jìn)行組合,實(shí)現(xiàn)圖像分割方法。王林林等[12]基于RGB色彩空間的彩色圖像處理技術(shù),對(duì)切片圖像進(jìn)行閾值分割,實(shí)現(xiàn)了花崗巖組成成分邊界曲線識(shí)別與提取。

傳統(tǒng)的機(jī)器學(xué)習(xí)分類算法,分別以無(wú)監(jiān)督的K-means聚類和有監(jiān)督的K-近鄰(K-nearest neighbor,KNN)算法為典型代表,成為兩大類方法。國(guó)內(nèi)學(xué)者研究算法的有效性和應(yīng)用性,并用于巖石圖像分類問(wèn)題的研究與實(shí)踐[13-16]。朱連江等[13]基于輪廓系數(shù)進(jìn)行聚類的有效性分析。梁淑蓉等[14]基于權(quán)重搜索樹(shù)改進(jìn)KNN的高維分類算法。郭超等[15]將圖像形態(tài)學(xué)變換與色彩通道的標(biāo)準(zhǔn)算術(shù)值相結(jié)合,利用神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)算法實(shí)現(xiàn)了巖石圖像分類。劉燁等[16]基于鑄體薄片圖像顏色空間與形態(tài)學(xué)梯度的相關(guān)理論,應(yīng)用支持向量機(jī)算法實(shí)現(xiàn)了巖石分類。

隨著深度學(xué)習(xí)算法引入圖像分類和識(shí)別領(lǐng)域,國(guó)內(nèi)研究者基于巖石圖像的多種特征,提取對(duì)應(yīng)的特征參數(shù),構(gòu)建多層的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),實(shí)現(xiàn)圖像的快速分類[17-18]。胡祺[17]融合多維信息的巖石薄片圖像,利用深度學(xué)習(xí)VGG16算法實(shí)現(xiàn)分類。金書(shū)季[18]基于深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)實(shí)現(xiàn)巖石圖像的分類及圖像特征可視化。

然而,常用的卷積神經(jīng)網(wǎng)絡(luò)模型普遍存在信息丟失、損耗等問(wèn)題,外國(guó)研究者使用了跳躍連接作為深度殘差網(wǎng)絡(luò)(ResNet)內(nèi)部的殘差塊,將輸入信息繞道傳到輸出,確保巖石圖像的局部特征在前向傳播時(shí)受到特征重用,能夠有效提高識(shí)別精度[19-20]。并且,外國(guó)研究者還研究深度殘差網(wǎng)絡(luò)能夠有效解決隨著網(wǎng)絡(luò)層數(shù)的增加而出現(xiàn)的梯度消失或梯度爆炸問(wèn)題,保證了系統(tǒng)的誤差不會(huì)隨著深度增加而增加[21-22]。Kai等[19]采用殘差學(xué)習(xí)訓(xùn)練殘差映射形成改進(jìn)后的DnCNNs網(wǎng)絡(luò)結(jié)構(gòu),進(jìn)行圖像去噪。Glorot等[20]研究訓(xùn)練深度前饋神經(jīng)網(wǎng)絡(luò)的困難,對(duì)比激活函數(shù)和初始化選擇的效果。Bengio[21]驗(yàn)證學(xué)習(xí)梯度下降的長(zhǎng)期依賴關(guān)系。Wang等[22]利用深度殘差神經(jīng)網(wǎng)絡(luò)識(shí)別巖石圖像的類別,并計(jì)算含油量。同時(shí),國(guó)內(nèi)學(xué)者也對(duì)ResNet殘差網(wǎng)絡(luò)的應(yīng)用和實(shí)踐進(jìn)行了大量的研究工作[23-28]。張超群等[23]設(shè)計(jì)新的神經(jīng)網(wǎng)絡(luò)模型與ResNet 50、VGG 16算法進(jìn)行對(duì)比,平均準(zhǔn)確度為75.6%,優(yōu)于ResNet 50和Vgg 16算法。王元東[24]提出了一種隨機(jī)擦除數(shù)據(jù)增強(qiáng)算法,實(shí)現(xiàn)了對(duì)基于ResNet模型的圖像分類方法的改進(jìn)。徐勝軍等[25]提出了一種基于多尺度特征融合空洞卷積ResNet模型用于遙感圖像分類。劉晨等[26]基于ResNet-50網(wǎng)絡(luò)模型和遷移學(xué)習(xí)的巖性識(shí)別與分類方法,首先使用預(yù)訓(xùn)練的ResNet-50殘差網(wǎng)絡(luò)進(jìn)行特征提取,然后利用改進(jìn)的分類模型進(jìn)行訓(xùn)練,最后在測(cè)試集上進(jìn)行巖性識(shí)別分類。劉丹晨[27]應(yīng)用3種算法:ResNet-LSTM、EfficientNet-LSTM和NFNet-LSTM分別進(jìn)行基于多標(biāo)簽圖像分類的礦物識(shí)別。許振浩等[28]比較并驗(yàn)證ResNet算法對(duì)于巖石識(shí)別的穩(wěn)定性和可靠性。

目前,深度學(xué)習(xí)的分類算法已經(jīng)得到廣泛應(yīng)用。巖石樣本圖像具有明顯的差異性特征,同類巖石樣本也具有一定的色差,直接運(yùn)用ResNet-50等神經(jīng)網(wǎng)絡(luò)算法進(jìn)行巖石類型分類,訓(xùn)練集精度可以接近90%,但是驗(yàn)證集往往準(zhǔn)確度85%左右,誤差損失明顯增大[23,26]。現(xiàn)結(jié)合色彩空間和深度殘差網(wǎng)絡(luò)的特征,提取巖石圖像的RGB顏色特征,應(yīng)用無(wú)監(jiān)督K-means聚類算法進(jìn)行顏色類別劃分,再通過(guò)有監(jiān)督精細(xì)KNN算法對(duì)顏色類別進(jìn)行驗(yàn)證,然后對(duì)于不同顏色類別下的巖石樣本,利用深度殘差網(wǎng)絡(luò)ResNet-50進(jìn)行分類識(shí)別。

1 基于色彩空間的K-means聚類和特征提取

1.1 色彩空間

色彩空間是一種用坐標(biāo)系來(lái)描述各類顏色的模型系統(tǒng),通常由3個(gè)或4個(gè)顏色分量構(gòu)成,色彩空間中的每個(gè)點(diǎn)均可看作由多個(gè)分量組合而成。常用的色彩空間以RGB(紅色、綠色、藍(lán)色)和HSV(色調(diào)、飽和度、明度)為主。

RGB色彩空間通過(guò)加法混色法來(lái)產(chǎn)生其他顏色,混合色定義為

C=rR+gG+bB

(1)

式(1)中:C為混合色,lm;R、G、B分別為紅、藍(lán)、綠3個(gè)顏色通道的量值,T;r、g、b分別為匹配時(shí)所需要RGB三基色的量值,取值范圍0～1。

RGB色彩空間坐標(biāo)系可由一個(gè)三維立方體表示,如圖1所示。

圖1 RGB色彩空間坐標(biāo)系Fig.1 RGB color space coordinate system

1.2 基于圖像RGB特征提取

復(fù)雜巖性油氣藏的巖石圖像數(shù)據(jù)集來(lái)源于2021年第九屆“泰迪杯”數(shù)據(jù)挖掘挑戰(zhàn)賽的B題(https://www.tipdm.org:10010/#/competition/1354705811842195456/question)。數(shù)據(jù)集的巖石類別,以淺灰色細(xì)砂巖、深灰色泥巖為主,以深灰色粉砂質(zhì)泥巖、灰色泥質(zhì)粉砂巖和灰黑色泥巖為次,含有少量的灰色細(xì)砂巖和黑色煤,共計(jì)7類315張巖石圖像。巖石樣本圖像共計(jì)兩種格式:一種是整張圖像都是巖石,分辨率為4 096×3 000的BMG格式289張;另一種是背景邊緣不是巖石信息,分辨率為2 448×2 048的JPG格式26張。不同類別巖石的典型圖像,如圖2所示。

圖2 不同類別巖石的典型圖像Fig.2 Typical images of different types of rock

不同類別的巖石樣本圖像數(shù)量并不相同,存在數(shù)據(jù)不均衡的現(xiàn)象。為避免神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程中發(fā)生過(guò)擬合現(xiàn)象,利用圖像分割、隨機(jī)旋轉(zhuǎn)和平移的方法,進(jìn)行數(shù)據(jù)增強(qiáng),見(jiàn)表1。圖像分割選擇3×3的方式,將1張圖像切成9小張,見(jiàn)圖3。BMP格式的圖像直接分割,JPG格式切除邊緣后,再進(jìn)行分割。

表1 各類巖石圖像數(shù)量

圖3 圖像切割Fig.3 Image segmentation

如圖4所示,巖石圖像RGB顏色屬性特征值分布具有不同的離散分布特征,均近似服從瑞利分布,數(shù)值分布主要集中于[0,100]區(qū)間。所以,巖石圖像的RGB顏色屬性的分布特征可以選用像素點(diǎn)的RGB平均值、中位數(shù)和兩個(gè)四分位數(shù),共4種統(tǒng)計(jì)量來(lái)表征和描述圖像的RGB顏色分布規(guī)律。每張巖石圖像提取的RGB平均值、中位數(shù)和兩個(gè)四分位數(shù)的屬性值,如表2所示。

表2 巖石圖像RGB特征數(shù)據(jù)(部分)

圖4 典型巖石圖像及相應(yīng)的RGB顏色數(shù)值分布曲線Fig.4 Typical rock images and corresponding RGB color value distribution curves

1.3 基于圖像RGB特征數(shù)據(jù)的K-means聚類

K-means聚類是將樣本集合劃分為由類似的樣本組成多個(gè)類或簇的學(xué)習(xí)過(guò)程。算法步驟如下。

步驟1在n個(gè)樣本集合X={x1,x2,…,xn}中,隨機(jī)選擇k個(gè)樣本點(diǎn){μ1,μ2,…,μk}作為初始中心。

步驟2分別計(jì)算每個(gè)樣本xi與各聚類中心μj間的歐式距離d(i,j),將樣本歸類到與其最近的類中。

(2)

式(2)中:i=1,2,…,n;j=1,2,…,k。

步驟3根據(jù)類簇內(nèi)的第i個(gè)樣本第j個(gè)中心樣本xij,重新計(jì)算出該j類簇的聚類中心。

(3)

步驟4計(jì)算第i個(gè)樣本點(diǎn)的平方誤差Ei。

(4)

步驟5重復(fù)多次執(zhí)行步驟3～步驟5,直到所有的樣本點(diǎn)的平方誤差Et變化小于所設(shè)定的閾值。

|Et+1-Et|<δ

(5)

式(5)中:δ為迭代閾值。

引入輪廓系數(shù)S作為初始聚類中心,根據(jù)內(nèi)聚度和分離度的組合及其加權(quán),進(jìn)行聚類效果評(píng)價(jià)。輪廓系數(shù)S的取值范圍為[-1,1],取值越接近1,表明聚類效果越好。

假設(shè)樣本集合中的樣本xi被聚類到類簇Kj中,則該樣本xi輪廓系數(shù)為

(6)

式(6)中:ai為樣本xi與其同類簇其他樣本間歐式距離的平均值;bi為樣本xi與其最近的不同類簇中其他樣本間歐氏距離的平均值。ai越小并且bi越大,則說(shuō)明樣本xi越傾向?qū)儆陬惔豄j,而不屬于其他類簇。

計(jì)算樣本集合中所有樣本點(diǎn)xi的輪廓系數(shù)的平均值,可得出聚類的整體輪廓系數(shù)為

(7)

式(7)中:Sk為聚成k類時(shí)的輪廓系數(shù);Si為樣本點(diǎn)xi的輪廓系數(shù)。Sk越接近1,則xi的聚類效果越好;Sk越接近-1,則xi的聚類效果越差。

根據(jù)表2中的數(shù)據(jù),計(jì)算輪廓系數(shù)對(duì)K-means算法聚類效果進(jìn)行評(píng)價(jià),如圖5所示。可以看出,當(dāng)類別數(shù)目為3時(shí),輪廓系數(shù)取得最大值。由此,基于巖石圖像的RGB特征數(shù)據(jù),數(shù)據(jù)集可以聚為3個(gè)顏色類別,其不同聚類結(jié)果的巖石數(shù)量,共計(jì)2 835張,如表3所示。

表3 基于圖像RGB特征數(shù)據(jù)的K-means聚類結(jié)果

圖5 輪廓系數(shù)Fig.5 Profile coefficient

1.4 基于KNN算法的聚類結(jié)果驗(yàn)證

KNN分類算法的核心思想是判斷數(shù)據(jù)之間距離的大小,距離越近則表示兩類數(shù)據(jù)之間的相似性越大。算法步驟如下。

步驟1輸入初始化訓(xùn)練樣本數(shù)據(jù)。

(8)

步驟2計(jì)算測(cè)試數(shù)據(jù)與各個(gè)訓(xùn)練數(shù)據(jù)之間的距離。

(9)

式(9)中:i=1,2,…,n。

步驟3對(duì)測(cè)試數(shù)據(jù)與各個(gè)訓(xùn)練數(shù)據(jù)之間的距離,由小到大進(jìn)行排序。

步驟4計(jì)算距離最近的k個(gè)樣本Xq=(x1,x2,…,xk)所組成的類別v出現(xiàn)的頻率。

(10)

式(10)中:V為聚類類別數(shù);f(xi)為xi分別屬于各個(gè)類別的概率。當(dāng)a=b時(shí),δ(a,b)=1;否則δ(a,b)=0。

基于K-means聚類的類別結(jié)果,將巖石圖像數(shù)據(jù)集劃分為訓(xùn)練集(80%)和驗(yàn)證集(20%),運(yùn)用KNN算法進(jìn)行驗(yàn)證。如圖6所示,KNN算法的綜合分類精度為99%,不同類別的分類精確度分別為98.5%、100%和98.8%。所以,基于巖石圖像RGB特征數(shù)據(jù)的分類結(jié)果具有可靠性和合理性,聚類結(jié)果準(zhǔn)確可信。

TPR表示召回率、真陽(yáng)性率,正樣本總數(shù)占所有正樣本總數(shù)的比例;FNR表示誤識(shí)別率、假陽(yáng)性率,預(yù)測(cè)錯(cuò)的正樣本占全體正樣本的比例

2 基于顏色類別的深度殘差網(wǎng)絡(luò)ResNet-50分類算法

2.1 ResNet-50網(wǎng)絡(luò)基本結(jié)構(gòu)

ResNet-50網(wǎng)絡(luò)結(jié)構(gòu)由輸入模塊、殘差模塊和輸出模塊組成,如圖7所示。輸入模塊,包括conv(卷積層)和max pool(最大池化層),中間使用Relu激活函數(shù)和批歸一化層。殘差模塊,包含Conv Block和IdentityBlock兩種殘差結(jié)構(gòu)。其中,Conv Block輸出的維度與輸入的維度不同,可用于網(wǎng)絡(luò)維度的改變;Identity Block輸出的維度與輸入的維度相同,通過(guò)串聯(lián)加深網(wǎng)絡(luò)。輸出模塊,將特征經(jīng)過(guò)AvgPOOL平均池化層進(jìn)行降采樣,輸入全連接層,由Softmax分類器輸出對(duì)應(yīng)的類別。網(wǎng)絡(luò)結(jié)構(gòu)描述參數(shù)如表4所示。

表4 ResNet-50網(wǎng)絡(luò)結(jié)構(gòu)描述參數(shù)

圖7 ResNet-50網(wǎng)絡(luò)結(jié)構(gòu)描述圖Fig.7 ResNet-50 network structure

2.2 超參數(shù)優(yōu)選

2.2.1 輸入層

起始層為輸入層,將巖石圖像進(jìn)行數(shù)據(jù)化預(yù)處理。經(jīng)過(guò)優(yōu)化,將類型Ⅰ與Ⅱ的輸入層大小調(diào)整為64×64×3,類型Ⅲ的輸入層大小調(diào)整為256×256×3。

2.2.2 卷積層

卷積層通過(guò)建立局部相關(guān)進(jìn)行特征提取,緩解了全連接帶來(lái)的神經(jīng)元數(shù)量迅速增加的問(wèn)題。卷積的計(jì)算過(guò)程,如圖8所示。ResNet-50神經(jīng)網(wǎng)絡(luò)所采用卷積核大小為7×7,在保證模型精度的前提下,一定程度上降低了計(jì)算量。

圖8 卷積模塊Fig.8 Convolution module

(11)

2.2.3 激活函數(shù)

Relu激活函數(shù)具有單側(cè)抑制性,收斂速度快,計(jì)算復(fù)雜度低的特點(diǎn)。其定義式如下。

(12)

式(12)中:x為輸入向量。

2.2.4 池化層

ResNet-50神經(jīng)網(wǎng)絡(luò)的池化方式為最大池化,即取滑動(dòng)窗口內(nèi)的最大元素作為輸出,如圖9所示。滑動(dòng)窗口大小為3×3,步長(zhǎng)為2,有效地增加傳數(shù)據(jù)幀產(chǎn)生精確結(jié)果的概率,提高網(wǎng)絡(luò)的可優(yōu)化性。

圖9 池化模塊Fig.9 Pooling module

2.2.5 殘差模塊

殘差模塊指兩個(gè)卷積層之間建立跳躍連接,使神經(jīng)網(wǎng)絡(luò)向訓(xùn)練精度較好的方向進(jìn)行優(yōu)化,增大了最大允許深度,同時(shí)未增加參數(shù),保持計(jì)算復(fù)雜度在可控水平的范圍內(nèi),解決了網(wǎng)絡(luò)較深時(shí)產(chǎn)生梯度爆炸以及梯度消失的現(xiàn)象。如圖10所示,x表示模塊的輸入,F(x)表示原目標(biāo)函數(shù),H(x)表示模塊的輸出,即H(x)=F(x)+x。殘差模塊通過(guò)跳躍連接傳遞信息,即使代入新的圖像數(shù)據(jù),依然可以避免網(wǎng)絡(luò)退化的現(xiàn)象發(fā)生。

圖10 殘差模塊Fig.10 Residual module

2.2.6 歸一化層

批量歸一化通過(guò)對(duì)數(shù)據(jù)重新進(jìn)行標(biāo)準(zhǔn)化,使數(shù)據(jù)分布恢復(fù)到原始分布,提高網(wǎng)絡(luò)泛化能力。

設(shè)每個(gè)batch的張量形狀為(B,C,H,W),其中B為批量大小,C為進(jìn)行批標(biāo)準(zhǔn)化的次數(shù),H為輸入圖像的高度,W為輸入圖像的寬度。標(biāo)準(zhǔn)化過(guò)程公式如下。

(13)

(14)

(15)

2.2.7 全連接層

全連接層指目標(biāo)空間的神經(jīng)元與隱層特征空間的所有神經(jīng)元相連,是隱層特征空間所有神經(jīng)元的加權(quán)和,如圖11所示。其作為最后一層,將學(xué)習(xí)到的樣本特征,由隱層特征空間向目標(biāo)空間做映射,進(jìn)行分類。由表3可知,類型Ⅰ與Ⅱ的全連接層大小為5×1,類型Ⅲ的全連接層大小為7×1。

圖11 全連接層Fig.11 Fully connected layer

2.2.8 Softmax分類器

(16)

式(16)中:softmax(si)為被分為第i類的概率;si為輸入值x在第i類中的評(píng)分;N為總分類數(shù)。

2.2.9 準(zhǔn)確度

(17)

式(17)中:TPii為將i類正確預(yù)測(cè)為i類的樣本數(shù);FPij(i≠j)為將i類錯(cuò)誤預(yù)測(cè)為j類的樣本數(shù)。

3 實(shí)驗(yàn)結(jié)果

數(shù)據(jù)集劃分比例為訓(xùn)練集90%、驗(yàn)證集10%。基于不同顏色類型的巖石樣本圖像,應(yīng)用ResNet-50算法進(jìn)行識(shí)別,訓(xùn)練集準(zhǔn)確度均高于91%,驗(yàn)證集準(zhǔn)確度均高于84%,平均訓(xùn)練集精度為93.15%,平均驗(yàn)證集精度為88.21%,如表6所示。

表6 分類集準(zhǔn)確度

4 結(jié)論

針對(duì)復(fù)雜巖性油氣藏的巖石樣本圖像智能分類及識(shí)別問(wèn)題,基于色彩空間提取巖石圖像的RGB顏色特征數(shù)據(jù),應(yīng)用無(wú)監(jiān)督K-means聚類算法,進(jìn)行顏色類別聚類。然后,利用有監(jiān)督精細(xì)KNN算法對(duì)顏色類別進(jìn)行驗(yàn)證。最后,對(duì)于不同顏色類別下的巖石樣本圖像,應(yīng)用深度殘差網(wǎng)絡(luò)ResNet-50算法進(jìn)行分類識(shí)別,得到不同顏色類別巖石樣本識(shí)別的平均訓(xùn)練集精度為93.15%,平均驗(yàn)證集精度為88.21%。同時(shí),數(shù)據(jù)集拆分成3個(gè)類別進(jìn)行分類識(shí)別,降低數(shù)據(jù)量和計(jì)算復(fù)雜度,訓(xùn)練時(shí)間較快。表明本方法可以有效地解決巖石圖像智能分類問(wèn)題。