深度卷積神經網絡的X射線焊縫缺陷研究*

劉夢溪， 巨永鋒， 高煒欣， 王 征， 武曉朦

(1.長安大學 電子與控制工程學院，陜西 西安 710064； 2.西安石油大學 電子工程學院，陜西 西安 710065)

0 引 言

X射線檢測雖應用廣泛但同時也具有其弊端，如圖像噪聲多,缺陷對比度不高，背景起伏較大等[1～3]，針對所提取的圖像特征是否有效地描述各類型焊縫缺陷的問題，多種理論及方法被提出[4～8]。近幾年，隨著深度學習特征識別的多方應用，卷積神經網絡(convolutional neural networks,CNN)結構解決了傳統神經網絡多層次的局部最優以及梯度彌散等缺點，能夠對焊縫在復雜背景下的缺陷特征進行有效識別，具有較強的判別能力和泛化能力[9,10]，而成為深度學習的主流網絡結構之一[11～13]。

本文針對X射線焊縫缺陷的特點，在 Alex的CUDA-CONVNET經典深層CNN基礎上進行了結構改進和優化,利用改進網絡的多層學習能力，有效提高了焊縫缺陷分類識別的準確度。

1 焊縫采集圖像處理方法

焊縫缺陷一般有幾種類型：裂紋缺陷(橫向裂紋與縱向裂紋)、氣孔、未熔合與未焊透等。

1.1 圖像特征提取

受焊縫缺陷類型、大小、位置等因素的影響，按照一般方式對原始圖像進行處理，存在丟失關鍵信息的可能性。以氣孔缺陷為例，圖1所示的提取方式，由于氣孔所在的幾何位置的不確定性及原始圖像大小的差異，使得圖像提取出現了偏差，遺漏了焊縫缺陷信息。

為避免出現以上情況，本文在圖像預處理階段對長、寬較長的一邊變換成256，較短的一邊進行等比變換[14,15]。將圖像分割為5幅圖像，分別對圖像的4個頂點和中心所截取的227×227圖像塊，如圖2所示。處理后一方面可以實現對圖片的全覆蓋，不遺漏特征信息，另外一方面可以增加樣本數量，保證識別的正確率。

圖1 圖像特征信息提取不完全

圖2 本文提取圖像特征信息方法

1.2 圖像特征提取算法

本文圖像分割算法為：

Input InImage

Output OutImage

1)計算圖像長和寬中較大的一邊，記為ma,較小的一邊記為mi；

2)如果mi>256,以256/mi進行等比變換，變換后的圖像記為Tr；

3)Tr從4個頂點和中心分別截取227×227的圖像塊，產生5張訓練圖像，分別記為OutImage[0]，OutImage[1] ，OutImage[2]，OutImage[3] ，OutImage[4]；

4)輸出OutImage

2 CNN結構設計

在CNN經典結構CUDA-CONVNET的研究基礎上，對焊縫復雜條件下的特征識別進行針對性的改進。

2.1 網絡參數計算

1)卷積計算

卷積的值即為特征圖輸入量，其公式為

(1)

2)卷積梯度計算

(2)

式中β為誤差信號；l為池化層數；α為池化層權值；up(·)為上采樣操作。將l層的誤差信息求和，即得到對應的偏置基梯度

(3)

所有卷積核的梯度計算式為

(4)

3)權值更新計算

卷積神經網絡中t～(t+1)時刻的權值更新計算為

W(t+1)=W(t)+μδ(t)x(t)

(5)

式中μ為學習率；δ(t)為神經元輸入x(t)的誤差項。

4)全連接層計算

全連接層為分類模塊，兩層之間的計算公式為

(6)

最后一層全連接層元素的激活函數Softmax為

(7)

式中i=1,2為分類類別。

2.2 網絡設計

CNN的結構可以概括為

INPUT->[CONV->ReLU]*N->PooL?]*M->[FC->ReLU]*K->FC

式中 *為可重復；M，N為可重復的次數；POOL？為可選擇的層。

改進結構后的深層CNN如圖3所示。

圖3 深層CNN結構

在深層CNN中，卷積、池化和全連接層的參數設置如表1所示，最后一層通過 Softmax 函數連接，輸出每一維圖像所屬的類別概率。Dropout加于全連接之后用于提高網絡的泛化性避免過擬合，取經驗值為0.5，并設初始學習率為0.001，動量為0.9，權重衰減為0.000 5[16]。

表1 深層CNN參數設置

3 實驗分析

圖4 CNN下的樣本缺陷識別錯誤率

對于池化層，有2種池化方式：最大池化(max pooling)和平均池化(average pooling)。2種方式實驗對比結果如表2所示，可知，最大池化方式識別的焊縫缺損正確率較高。

表2 池化方式對于正確率的影響 %

將CNN與經典支持向量機(support vector machine,SVM)進行對比，SVM采用 Liblinear[15]分類器實現分類，圖像的原始樣本大小為 64×64 ，進行梯度特征提取后每個圖像樣本的特征向量轉化為512維，2種方法對于焊縫缺陷的特征識別分別如表3、表4所示。

表3 SVM特征識別正確率 %

表4 CNN 特征識別正確率 %

對比表3 、表4 中的數據可以看到:隨著樣本量的增加，2種方法的訓練樣本與測試樣本的分類錯誤識別率呈下降趨勢，相較而言CNN方式下的焊縫缺陷分類識別的錯誤率更低。說明大樣本條件下， CNN 的特征分類性能提升要優于SVM。這是由于伴隨著樣本量增加，CNN 能夠進行分布式深度學習，自主學習信息有效特征并加以分類，而SVM卻在梯度特征提取運算中遺失了部分的特征信息，不能進行更為精確的分類，導致最終的輸出分類識別結果正確率較低。

表5為2種算法的運算時間對比，可以看出:SVM較快速 ，這是由于SVM是一種2層的淺層網絡結構，其輸入特征的維數(512)較CNN輸入的維數(256×256)低，因此，處理圖像時間較短，而CNN 的處理時間較長是由其深層結構多參數所決定的，隨著樣本的增大，CNN和SVM的處理時間以不同時間函數分布規律增加，而兩者的正確率卻呈現截然相反的趨勢，即CNN的正確率提高而SVM的正確率降低，且樣本越大，該趨勢越明顯，因此，CNN對于大樣本的處理效率顯然高于SVM。

表5 SVM和CNN運算時間對比

4 結 論

本文對經典CNN結構進行了改進，CNN的實驗結果較為理想，主要體現為以下幾點：1)CNN可以進行自主學習，排除了人為評定的主觀因素；2)大樣本下CNN對于圖像的分類與識別的正確率較高，且樣本越大，正確識別率越高且未出現過擬合現象；3)對于焊縫缺陷圖像類型的多樣性和復雜性，CNN能夠進行較好的特征識別，能夠進行更為精準的分類，具有較強的判別能力，效率更高，能夠達到較為滿意的效果。

對于深層CNN，層數越多提取的特征越容易識別，正確率越高，但也存在著參數增多，訓練過程趨于復雜的問題；此外，對于相同的檢測目標，網絡結構設計的差別也會影響特征識別正確率。如何針對特定目標的檢測識別，實現網絡結構和參數的最優同時又能保證較高的正確率還有待做進一步的研究。

參考文獻:

[1] 田 原，都 東，侯潤石，等.基于X 射線圖像序列的焊縫缺陷自動檢測方法[J].清華大學學報:自然科學版，2007，47(8):1278-1281．

[2] 劉 曦，徐光鋒，費躍農.用于相貫線焊縫檢測機器人的圖像處理算法[J].傳感器與微系統，2017，36(7)：142-145．

[3] 趙 存，胡煒薇.一種X射線圖像增強新方法[J].傳感器與微系統，2017，36(5)：71-73．

[4] Cortes C,Vapnik V.Support vector network[J].Machine Lear-ning,1995,20:273-297.

[5] Zapata J,Vilar R,Ruiz R.An adaptive network based fuzzy infe-rence system for classification of welding defects[J].NDT & E International,2010,43(3):191-199.

[6] 劉 曦，徐光鋒，費躍農.用于相貫線焊縫檢測機器人的圖像處理算法[J].傳感器與微系統，2017， 36(7):146-153.

[7] 李昌興，黃艷虎，支曉斌,等.基于加速k均值的譜聚類圖像分割算法改進[J].傳感器與微系統，2016，35(9):137-140.

[8] Wang J,Yang J,Yu K,et al.Locality-constrained linear coding for image classification[C]∥Proceedings of IEEE Conference on Computer Vision and Pattern Recognition,2010:3360-3367.

[9] Donahue J,Jia Y,Vinyals O,et al.DeCAF:A deep convolutional activation feature for generic visual recognition[C]∥ICML,2014:647-655.

[10] Sharif Razavian A,Azizpour H,Sullivan J,et al.CNN features off-the-shelf:An astounding baseline for recognition[C]∥Procee-dings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops,2014:806-813.

[11] 王 純，郭春生.基于真實場景圖像下的卷積神經網絡去噪算法[J].傳感器與微系統，2017，36(10):147-153.

[12] 趙珊珊，何 寧.基于卷積神經網絡的路面裂縫檢測[J].傳感器與微系統，2017，36(10):147-153.

[13] 宣森炎，龔小謹，劉濟林.基于聯合卷積和遞歸神經網絡的交通標志識別[J].傳感器與微系統，2014， 33(8):30-33.

[14] Krizhevsky A,Sutskever I,Hinton G E.Image net classification with deep convolutional neural networks[C]∥Advances in Neural Information Processing Systems,2012:1097-1105.

[15] Jia Y,Shelhamer E,Donahue J,et al.Caffe:Convolutional architecture for fast feature embedding[C]∥Proceedings of the 22nd ACM International Conference on Multimedia,ACM,2014:675-678.

[16] 余永維，殷國富，殷 鷹，等.基于深度學習網絡的射線圖像缺陷識別方法[J].儀器儀表學報，2014，35(9):2012-2019．

[17] Fan R,Chang K,Hsieh C,et al.LIBLINEAR:A library for large linear classification[J].Journal of Machine Learning Research,2008，9:1871-1874.