殘差神經(jīng)網(wǎng)絡(luò)模型在木質(zhì)板材缺陷分類中的應(yīng)用1)

凌嘉欣 謝永華

(東北林業(yè)大學(xué)，哈爾濱，150040)

近年來，木材深加工技術(shù)實現(xiàn)了快速發(fā)展，木材表面缺陷檢測水平不斷提高，計算機視覺技術(shù)和模式識別技術(shù)為木材表面缺陷檢測提供了新的路徑與方法，在實踐應(yīng)用中發(fā)揮出良好效用。但木材表面由于具有復(fù)雜的紋理，而且缺陷的種類繁多，根據(jù)國家標(biāo)準(zhǔn)木材缺陷分為木材構(gòu)造缺陷、樹干形狀缺陷、傷疤(損傷)、變色、裂紋、腐朽、蟲眼、木材加工缺陷、節(jié)子、變形10大類，通過機器視覺系統(tǒng)采集木材的圖像，利用傳統(tǒng)的圖像處理算法檢測木材的缺陷，會面對巨大的挑戰(zhàn)[1-2]。針對板材缺陷識別問題，有些傳統(tǒng)算法[3-7]能有效地進行木材表面缺陷自動識別，但在處理大樣本數(shù)據(jù)時，識別精度并不高。隨著卷積神經(jīng)網(wǎng)絡(luò)理論的完善，并在語音、圖像等方面的模式識別算法取得了一些成功[8-10]，這些比較新穎的算法，雖然準(zhǔn)確率達到80%以上，仍不能滿足工業(yè)產(chǎn)業(yè)化在線識別精度需求。因此，提高識別精度仍是業(yè)內(nèi)研究的重點。為此，本研究將超分辨率測試序列(VGG)網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型(GoogLeNet)、殘差神經(jīng)網(wǎng)絡(luò)模型(ResNet)應(yīng)用于木質(zhì)板材表面缺陷分類檢測中，重點研究木材的活節(jié)、死節(jié)、蟲眼3類表面缺陷，并依據(jù)分類精度，遴選識別效果更好的板材缺陷分類方法，旨在為拓展診斷木材板材缺陷途徑和方法提供參考。

1 材料與方法

1.1 樣本數(shù)據(jù)獲取

理論上，在進行樣本庫的制作時應(yīng)含有多種樹種，每種樹種的缺陷圖像越多越好，實際上，尋求樣本的困難較大，也很難獲得每種缺陷的大量樣本。在現(xiàn)有的條件范圍內(nèi)，本研究選取了包括國內(nèi)具有代表性的樹種24科36屬共50種，其中針葉材16種、闊葉材34種；采集到木材缺陷樣本2 630張，裁剪成512×512像素、256級灰度，用數(shù)據(jù)增強的辦法，對2 630張圖片進行旋轉(zhuǎn)、平移、尺度變換、灰度變換等方式處理，使樣本庫擴容到10 687張圖片，選擇其中的7 480張圖片作為訓(xùn)練集、2 137張圖片作為驗證集、1 070張圖片作為測試集。板材缺陷部分樣本見圖1。

圖1 木材板材缺陷樣本

1.2 超分辨率測試序列網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

超分辨率測試序列(VGG)網(wǎng)絡(luò)模型是在亞歷克斯網(wǎng)絡(luò)模型(Alexnet)基礎(chǔ)上，去掉局部響應(yīng)歸一化，去掉7×7的卷積核，使用卷積核和池化核的大小均為3×3，減少了參數(shù)量，得到了超分辨率測試序列網(wǎng)絡(luò)模型。其中，超分辨率測試序列網(wǎng)絡(luò)模型的16層結(jié)構(gòu)常用于分類，16層結(jié)構(gòu)由13層卷積層和3層全連接層組成，是分類性能較為優(yōu)秀的網(wǎng)絡(luò)模型[11]。應(yīng)用超分辨率測試序列-16網(wǎng)絡(luò)模型對像素為224×224×3的木質(zhì)板材缺陷圖片分類(見圖2)。

圖2 超分辨率測試序列-16網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過程

1.3 谷歌網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

谷歌網(wǎng)絡(luò)模型(GoogLeNet)，網(wǎng)絡(luò)共有22層，且包含了非常高效的模塊，它的目的是設(shè)計一種具有優(yōu)良局部拓撲結(jié)構(gòu)的網(wǎng)絡(luò)，即對輸入圖像并行地執(zhí)行多個卷積運算或池化操作，并將所有輸出結(jié)果拼接為一個多層網(wǎng)絡(luò)結(jié)構(gòu)的特征圖。谷歌網(wǎng)絡(luò)模型對木質(zhì)板材缺陷分類流程見圖3。

圖3 谷歌網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過程

1.4 殘差神經(jīng)網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

殘差神經(jīng)網(wǎng)絡(luò)(ResNet)是2015年He et al.[12]提出的，在普通的卷積模型中，加入串聯(lián)機制形成殘差卷積神經(jīng)網(wǎng)絡(luò)模型，模型既有效地降低了網(wǎng)絡(luò)參數(shù)的訓(xùn)練難度，也不會造成精度下降。模型的2層基本塊見圖4；3層基本塊結(jié)構(gòu)是在2層結(jié)構(gòu)基礎(chǔ)上，在主支路上再加1層卷積層結(jié)構(gòu)。這些基本塊單元串聯(lián)形成殘差模塊，多個殘差模塊構(gòu)成殘差神經(jīng)網(wǎng)絡(luò)模型的最小單元[13]。

圖4 2層單元基本塊

殘差神經(jīng)網(wǎng)絡(luò)模型，因網(wǎng)絡(luò)層數(shù)不同，單元結(jié)構(gòu)也略有不同，有18層、34層、50層、101層4種模型結(jié)構(gòu)，具體的網(wǎng)絡(luò)結(jié)構(gòu)配置見表1。

表1 殘差神經(jīng)網(wǎng)絡(luò)模型的4種模型的網(wǎng)絡(luò)結(jié)構(gòu)配置

本研究調(diào)整了殘差網(wǎng)絡(luò)單元結(jié)構(gòu)，形成了新的殘差單元。即：將激活函數(shù)(ReLU)看做是權(quán)重層的“預(yù)激活”，而不是傳統(tǒng)的“激活”，使其產(chǎn)生了1個新的殘差單元。殘差神經(jīng)網(wǎng)絡(luò)改進前后的結(jié)構(gòu)流程對比見圖5。

圖5 改進前后的殘差網(wǎng)絡(luò)結(jié)構(gòu)

2 結(jié)果與分析

本研究將采集到的圖片進行處理，批量轉(zhuǎn)換為JPG格式，對圖片尺寸進行剪裁，通過尺度變換等一系列變換進行數(shù)據(jù)增強，將數(shù)據(jù)集從原始的2 630張圖片擴大到現(xiàn)在的10 687張，構(gòu)成圖像數(shù)據(jù)集。數(shù)據(jù)集通過數(shù)據(jù)增強后，能夠達到試驗的網(wǎng)絡(luò)模型需要的數(shù)據(jù)量，盡量防止網(wǎng)絡(luò)的過擬合現(xiàn)象的發(fā)生。本研究將超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型3種網(wǎng)絡(luò)模型應(yīng)用于木質(zhì)板材缺陷分類中，網(wǎng)絡(luò)模型初始參數(shù)：網(wǎng)絡(luò)模型單次處理數(shù)據(jù)組的數(shù)量為16組數(shù)據(jù)、初始學(xué)習(xí)率為0.001、權(quán)值衰減因子為0.000 5、動量因子為0.9。

(1)超分辨率測試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和識別缺陷的準(zhǔn)確率見圖6，網(wǎng)絡(luò)模型在14次迭代時，測試集分類準(zhǔn)確率達到最高值83.30%。

圖6 超分辨率測試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和準(zhǔn)確率曲線

(2)谷歌網(wǎng)絡(luò)模型損失函數(shù)值和識別缺陷的準(zhǔn)確率見圖7，網(wǎng)絡(luò)模型在16次迭代時，測試集分類準(zhǔn)確率達到最高值89.64%。

圖7 谷歌網(wǎng)絡(luò)模型模型損失函數(shù)值和準(zhǔn)確率曲線

(3)殘差神經(jīng)網(wǎng)絡(luò)模型在18、34、50、101層時，測試集分類準(zhǔn)確率見圖8。18層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第70次迭代時，達到分類準(zhǔn)確率最大值82.11%；34層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第60次迭代時，達到分類準(zhǔn)確率最大值87.75%；50層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第70次迭代時，達到分類準(zhǔn)確率最大值96.68%；101層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第80次迭代時，達到分類準(zhǔn)確率最大值96.81%。

圖8 殘差神經(jīng)網(wǎng)絡(luò)測試集準(zhǔn)確率對比

(4)改進的殘差神經(jīng)網(wǎng)絡(luò)模型，在18、34、50、101層的測試集分類準(zhǔn)確率見圖9。18層網(wǎng)絡(luò)結(jié)構(gòu)，在80次迭代時，達到分類準(zhǔn)確率最大值84.56%；34層網(wǎng)絡(luò)結(jié)構(gòu)，在第80次迭代時，達到分類準(zhǔn)確率最大值93.38%；50層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第80次迭代時，達到分類準(zhǔn)確率最大值98.63%；101層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第60次迭代時，達到分類準(zhǔn)確率最大值91.42%。

圖9 改進的殘差神經(jīng)網(wǎng)絡(luò)測試集準(zhǔn)確率對比

改進的殘差神經(jīng)網(wǎng)絡(luò)模型，針對蟲眼、死節(jié)、活節(jié)3類木質(zhì)板材表面缺陷的分類準(zhǔn)確率見表2，對比數(shù)據(jù)在50層結(jié)構(gòu)時分類精度達到最高。

表2 改進的殘差神經(jīng)網(wǎng)絡(luò)模型對木質(zhì)板材表面缺陷分類準(zhǔn)確率

殘差神經(jīng)網(wǎng)絡(luò)模型改進前后測試集的分類準(zhǔn)確率對比見表3。對比數(shù)據(jù)，改進后的網(wǎng)絡(luò)模型分類準(zhǔn)確率優(yōu)于原模型。

表3 殘差神經(jīng)網(wǎng)絡(luò)模型改進前后對木質(zhì)板材表面缺陷分類準(zhǔn)確率

(5)將本研究選擇的4種網(wǎng)絡(luò)模型對木質(zhì)板材缺陷測試集中分類準(zhǔn)確率進行對比，超分辨率測試序列-16網(wǎng)絡(luò)模型的準(zhǔn)確率為83.30%、谷歌網(wǎng)絡(luò)模型的準(zhǔn)確率為89.64%、50層的殘差神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為96.68%、50層的改進殘差神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確率最高為98.63%。

3 結(jié)論

木質(zhì)板材質(zhì)量受木材自身的缺陷影響很大，為了得到高質(zhì)量的單板板材，需要對板材表面缺陷進行檢測。本研究應(yīng)用超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型、改進的殘差神經(jīng)網(wǎng)絡(luò)模型對木質(zhì)板材樣本缺陷圖片進行分類檢測。結(jié)果表明：改進后的殘差神經(jīng)網(wǎng)絡(luò)模型，與超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型模型相比，在網(wǎng)絡(luò)結(jié)構(gòu)層次增加時，由于自身增加了直連結(jié)構(gòu)，會在網(wǎng)絡(luò)反傳時降低網(wǎng)絡(luò)彌散的概率，并且每一層都能更多地保留原始信息，可有效降低欠擬合現(xiàn)象的發(fā)生，測試集分類準(zhǔn)確率高達98.63%，也更優(yōu)于未改進前自身模型分類準(zhǔn)確率，具有較好的魯棒性和實用推廣性。