基于神經網絡的玻璃瓶氣泡和結石分類研究

吳 浪

(1.韶關學院計算機科學學院,廣東韶關 512005; 2.中南大學信息科學與工程學院,湖南長沙 410083)

目前大部分國內玻璃瓶生產廠家仍采用人工檢測方法去檢驗玻璃瓶的氣泡、結石,這種方法的檢驗效果容易受人眼分辨能力和易疲勞等主觀因素的影響,無法保質保量地完成檢測任務.采用數字圖像、模式識別和人工智能技術的計算機在線視覺檢測方法來識別玻璃瓶的氣泡、結石方法既提高了檢測效率又可以使分析結果更具客觀性,同時為工程技術人員提供有價值的統計數據,讓他們在線調整工藝參數,改進生產過程.BP神經網絡是一種反向傳遞并修正誤差的多層神經網絡,它是各種神經網絡模型中具有代表意義的一種神經網絡模型,也是當前獲得廣泛應用的神經網絡模型之一[1].應用BP神經網絡于玻璃瓶氣泡、結石在線檢測使系統具有很強的學習和自適應能力,有較好的分類效果.由于在線視覺檢測系統實時性要求較高,以及生產環境復雜造成圖像預處理后不可避免出現的噪聲點的影響,給識別工作帶來了困難.根據噪聲點與氣泡、結石的明顯特征和結合線性單輸出分類器與BP神經網絡的優缺點,設計在BP神經網絡分類器前加入一級線性單輸出預分類器和采用附加動量的BP網絡改進算法能夠提高訓練速度、檢測速度和識別的精度.

1 前饋神經網絡的兩種應用模型

人工神經網絡按照按照網絡拓撲結構可分為前饋網絡和反饋網絡兩大類[2].所謂反饋網絡是指它的輸出信號通過與輸入連接而返回到輸入端;而前饋網絡的特點是信號的流向從輸入通向輸出.將兩個或多個人工神經元并聯起來,即可組成一個神經網絡,其中每一個神經元產生一個輸出,這樣的網絡就是單層神經網絡;將兩個以上的單層神經網絡級聯起來則組成多層神經網絡,它的第一層稱為輸入層,最后一層稱為輸出層,其他的中間層稱為隱含層,所以一個多層網絡至少有三層,即輸入層、輸出層和一個隱含層.常見的前饋神經網絡的兩種應用模型有感知器與BP神經網絡.

1.1 感知器[3]

感知器是二層前饋網絡,模型如圖1所示.它具有結構簡單、學習過程收斂很快,識別速度快的特點.其輸出函數在本系統中采用一般的閾值函數.

圖1 單輸出感知器

學習算法描述如下：學習的目標是通過改變權值來使神經網絡由給定的輸入得到給定的輸出.作為分類器,可以用已知類別的模式向量作為訓練集,當輸入為屬于第j類的特征向量X時,應使對應于該類的輸出y=1,而其他神經元的輸出則為0(或者-1).假設理想的輸出為：

Y=(y1,y2,…,ym)T

實際的輸出：

為了使實際的輸出逼近理想輸出,可以反復依次輸入訓練樣本集X,并計算出實際的,對權值w做如下修改：

其中：

1.2 BP神經網絡

BP神經網絡是一種具有多層誤差反向傳播的前饋網絡,其學習過程主要由輸入信息的正向傳播和誤差反向傳播組成.正向傳播是輸入信號從輸入層經過隱含層,傳向輸出層,在輸出端產生輸出信號.在信號傳遞的過程中網絡的權值是不變的,每一層神經元的狀態只影響下一層神經元的狀態.如果在輸出層得到的輸出和期望輸出的偏差比較大,則轉入誤差信號的反向傳播.誤差信號的反向傳播就是誤差信號從輸出端傳向輸入端.在這個過程當中,網絡的權值由誤差反饋進行調節.通過不斷的修改網絡的權值從而使得網絡的輸出不斷的逼近期望值.反向傳播算一般采用梯度法修正權值,要求輸出函數可微,一般采用Sigmoid函數.本系統采用三層BP神經網絡來實現二次分類,模型如圖2.

圖2 BP神經網絡模型

其主要學習算法描述如下[4]：

(1)選擇一組訓練樣例,每一個樣例由輸入信息和期望的輸出結果兩部分組成.一般來說,神經網絡的輸入信息是一個向量 (X1,X2,…,XNi),我們稱之為輸入向量,神經網絡的輸出信息也是一個向量(Y1,Y2,…,YNo),我們稱之為輸出向量.

(2)從訓練樣例集當中取一樣例,把輸入信息輸入到網絡中.

(3)分別計算經過神經元處理后的各層節點的輸出.

(4)計算網絡的實際輸出和期望輸出的誤差.

(5)從輸出層反向計算到中間隱層,并按照能使誤差向減小最快的方向的原則,調整網絡中各神經元的連接權值.

(6)對訓練樣例集當中的每一個樣例重復 (3)-(5)的步驟,直到整個訓練樣本的誤差達到要求時為止.

2 玻璃瓶氣泡和結石檢測分類器設計

2.1 氣泡和結石識別問題的描述

計算機在線視覺檢測玻璃瓶氣泡和結石的基本流程如圖3：

圖3 氣泡和結石識別流程圖

圖像預處理：對采集的原始灰度圖像進行濾波、去噪和二值化而后分割處理.經圖像預處理分割后,確定待識別的主要目標有三種,一類為氣泡,一類為結石,一類為噪聲點,如圖4.

圖4 待識別的目標分類

特征提取與選擇：根據原始物理感興趣區域的測量空間提取的多個特征和先驗知識,有效選取可用于分類識別的特征來構成用于分類識別的特征空間.在本系統主要提取平均灰度、周長、圓形度、形狀參數、離心率和面積等六個特征用于分類識別.

神經網絡二級分類識別：由于玻璃瓶生產環境的復雜性,以及圖像預處理帶來的噪聲點干擾點,為實時在線識別氣泡和結石帶來了一定的困難和計算量.根據實時檢測速度要求,用結構簡單的二層單輸出的感知器用于線性預分類器,僅使用平均灰度、面積和圓形度三個特征值構成的三維特征空間可將噪聲點與氣泡、結石用超平面區分開.而后再用BP神經網絡對特征較復雜的氣泡和結石進行二次分類,這時使用的是平均灰度、周長、圓形度、形狀參數、離心率和面積組成的六維特征空間.

2.2 分類器的設計

把噪聲標為一類,氣泡標標為二類,結石為三類,分類流程如圖5.

圖5 氣泡和結石的分類流程

對二層單輸出感知器,我們采用的簡單閾值輸出函數如下：

感知器僅能解決線性可分的分類問題,但輸出結果是輸入值的簡單線性運算,運算速度快,且收斂性不受初始值影響,在這充當預分類器,減輕了不必要的運算負荷,其中θ為閾值.

BP神經網絡具有非線性映射、較強自適應和容錯能力,能適應于復雜分類的環境,在這充當二次分類器.但是由于它的學習算法較為復雜,訓練時間較長,易陷入局部最小點,所以在實際應用中,必須根據問題環境來設計好神經網絡構造參數,采用改進的BP算法.就氣泡和結石的分類問題,我們采用附加動量的BP網絡改進算法,該方法是在反向傳播過程中在每一個權重和閾值的變化上加上一項正比于前次權重和閾值變化量的值,它減小了學習過程的振蕩趨勢,從而改善了收斂性,找到更優的解.構造BP神經網絡分類器過程如下：

(1)確定輸入層、隱含層、輸出層的節點數,分別表示為N、M和K.輸入層N是根據特征向量空間維數而定的,在這里設為6,輸出層K由要區分的類數而定,在這設為2,當然也可采取編碼方式.而確定隱含層中神經元個數是至關重要的,隱含層神經元個數的過少或過多將導致神經網絡的學習能力不夠或歸納能力很差.隱含層神經元數目較少時,網絡每次學習時間相對較短,但有可能因為映射容量不夠,使整個網絡權值矩陣無法包含全部學習樣本中的信息,導致權值疲于來回調整而無法達到全局最小.隱含層神經元數目較大時,學習能力得到增強,但網絡每次所需的學習時間相對較長,網絡需要的存儲容量也隨之變大.網絡隱含層神經元的個數應慎重選擇,使其盡量兼顧各方面的影響[5].目前確定隱含層神經元個數的辦法是對于給定的輸入輸出模式,通過反復調試得到合適的值.隱含層神經元個數選擇經驗公式為：

其中a為1～10之間的整數.這里取M為12.

(2)輸出函數采用S型函數,如下公式所示：

BP神經網絡學習過程如下[6]：

(1)歸一化訓練樣本的特征向量值.由于采集的各數據單位不一致,因而須對數據進行 [-1,1]歸一化處理,以改善訓練網絡的收斂性.

(2)對網絡各層節點的連接權值和閾值進行初始化,將其初始化成 [-1,+1]區間內的隨機數.

(3)正向傳播.設有L個訓練樣例,對每個輸入樣例包括輸入向量X和期望輸出向量Y,逐層正向計算網絡各層節點的實際輸出.對于隱層第i個節點 (i=1,2,…,M)和輸出層第i個節點 (i=1,2,…,K)輸出分別為：

其中,W′ij是隱層第i個節點關于輸入層的第j個節點的連接權值,是來自于輸入層θ′i的第j個節點的輸入值,是隱含層第i個節點的閾θi值;Wij是輸出層的第i個節點關于隱層的連接權值,是輸出層第i個節點的閾值.

(4)計算當前訓練樣例的輸出誤差.設當前的訓練樣例的實際輸出向量O,則當前訓練樣例的輸出誤差為：

(5)反向傳播.根據當前訓練樣例所產生的輸出值,反向逐層計算網絡各節點的偏差信號δ,并根據這個偏差信號來調整網絡各節點的連接權值和閾值.對輸出層第i個節點和隱層第i個節點的偏差分別為：

然后調整輸出層和隱含層的各節點連接權值和閾值如下：

ΔWij(t+1)=η δiOi+α ΔWij(t)

Wij(t+1)=Wij(t)+ΔWij(t+1)Δ

θi(t+1)=η δiOi+α Δ θi(t),

θi(t+1)=θi(t)+Δ θi(t+1)

再調整輸入層和隱含層的各節點連接權值和閾值如下：

ΔW′ij(t+1)=η δ′iHi+α ΔW′ij(t)

W′ij(t+1)=W′ij(t)+ΔW′ij(t+1)

Δ θ′i(t+1)=η δ′iHi+α Δ θ′i(t)

θ′i(t+1)=θ′i(t)+Δ θ′i(t+1)

以上公式中的η為學習率參數,一般取值在0.1～3之間,α為慣性項系數,一般取值在0.9～1之間.

(6)計算神經網絡的輸出誤差：

若E

3 實驗結果

取氣泡、結石、噪聲點訓練樣本各70個,進行訓練.初始化預線性分類器和BP二次分類器各節點間權值于 [-0.3,0.3]間,預線性分類器輸出節點初始閾值設為0.5,學習率參數設置為0.25,最大迭代步數設為100,最后在訓練步數為9時終止;BP二次分類器學習率參數設為0.15,慣性項系數設為0.9,最大迭代步數設500,最后在訓練步數為85時終止,但如果沒有加入慣動量,BP網絡無法收斂.

取氣泡、結石、噪聲點各65個測試樣本對以上訓練好的分類器進行分別測試,其中預線性分類器識別率為98.5%,誤識率為1.5%.BP二次分類器識別率為93.8%,誤識率為3.8%,拒識率為2.4%.

4 結語

實驗表明,用于玻璃瓶氣泡和結石識別的神經網絡分類器前級預線性分類器減輕了不必要的運算負荷,同時后級BP網絡分類器的非線性映射能力能完成樣本特征復雜情況下的分類,基本上能滿足在線檢測的實時速度和分類精度要求.同時兩級分類器可并行訓練,提高了訓練速度.

[1]張義忠,馮振聲.基于神經網絡的復雜電子裝備故障診斷系統的仿真研究 [J].計算機仿真,2000,17(4)：39-42.

[2]HYVARINEN A.Independent component analysis applied to feature extraction from contourand stereo images[J ].Network：Computation in Neural Systems,2002,11(3)191-210.

[3]邊肇祺,張學工,等.模式識別 [M].北京：清華大學出版社,2001：253-254.

[4]王洪元,史國棟.人工神經網絡技術及其應用 [M].北京：中國石化出版社,2003.

[5]黃瀚敏,易正俊,汪先矩,汪瑞芳.基于神經網絡的字符識別技術研究 [J].重慶大學學報 (自然科學版),1999,22(6)：61-62.

[6]胡紀五,王衛東.帶有慣性附加項的神經網絡訓練方法的研究 [J].計算技術與自動化,1999,18(2)：16-22.