基于支持向量機的單分類布匹疵點檢測算法

解祥新,金 彬,魏 燕

(南通理工學院,江蘇 南通 226002)

0 引言

SVM是一個二分類的分類模型,但是在實際應用中,有些時候并不能得到兩種不同類型的樣本,或者其中一類樣本數量太多。例如:在進行布匹檢測正負樣本二分類時,布匹的負樣本即疵點類型樣本過多而標準樣本較少。這些情況都不能進行二分類,所以只能通過一種類型的樣本進行訓練學習進而實現分類,這就是單分類支持向量機(One-class Support Vector Machine,OC-SVM)[1]。

1 單分類支持向量機(OC-SVM)原理

單分類支持向量機的模型描述如下:OC-SVM給定訓練數據集,xi∈RN,給出RN到某高維特征空間χ的非線性映射?(x),通過核函數?映射到高維特征空間,使得?(xi)∈χ,使其具有更好的聚集性[2]。在高維特征空間建立一個超平面W·?(x)-ρ=0,實現目標數據與坐標原點的最大分離。將映射樣本與原點以間隔ρ分開,其中W為超平面的法向量,ρ為超平面的截距,為了使超平面盡可能遠離原點,最大化原點到目標數據間的歐式距離ρ/ω來尋找最優超平面,并允許少部分樣本在坐標原點與分界面之間,與分類超平面的距離為ξi/‖ω‖。經過映射后的OC-SVM在二維空間中找到的最優超平面。

為了使算法具有一定的魯棒性,引入松弛因子ξi≥0,此時OC-SVM的優化問題為:

其中,w∈χ和,ρ∈R為超平面參數。v∈[0,1]是預先定義的百分比參數估計,vn與標準SVM中的懲罰系數C的作用類似,在這里表示邊界支持向量率(分類錯誤率)的上界,全部支持向量率的下界,因此也稱為v屬性。

為了求解二次規劃問題,引入拉格朗日函數:

分別最小化w,ρ和ξi得:

上述3個公式代入拉格朗日函數,可得對偶型:

拉格朗日函數中的參數ρ可由任一滿足0＜ai＜的樣本(將該樣本記為xj,事實上xj即支持向量)求得,即

則決策函數可以寫成:

SVM在遇到線性不可分時,想要將非線性數據進行分離,需要在低維空間中完成計算,將數據從低維輸入空間利用核函數的特性映射到高維空間,最后通過在高維特征空間中構造出最優分離超平面,將不能通過線性分離的非線性數據分開。

而在此之前,未使用核函數,使用原始方法進行劃分,需要先選擇一個非線性特征集,并將數據利用新的表達形式映射到特征空間,并通過線性學習器分割出類型,比如特征集函數類型如下:

這里?:x-＞F是從輸入空間到某個特征空間的映射,因此建立非線性學習器需要分為兩步:第一步,使用一個非線性特征集將數據利用新的表達形式的映射到一個特征空間F;第二步,在特征空間F使用線性學習器分類。

而由于對偶形式就是線性學習器的一個重要性質,這意味著假設可以表達為訓練點的線性組合,因此決策規則可以用測試點和訓練點的內積來表示:

如果有一種方式可以在特征空間中直接計算內積〈?(xi)·?(x)〉,就像在原始輸入點的函數中一樣,就有可能將兩個步驟融合到一起建立一個非線性的學習器,這樣直接計算法的方法稱為核函數方法。

核是一個函數K,對所有x,z∈x,滿足K(x,z)=〈?(x)·?(z)〉,這里φ是從X到內積特征空間F的映射。

本文采用高斯核函數K(x1,x2)=exp,可以將原始空間映射到無窮維空間。若σ的值很大,則高次特征上的權重會因此急速衰減,因此只能相當于一個低維子空間;若σ的值很小,則可以將任意的數據映射為線性可分,但是可能會因此引起過擬合問題。在核函數中,高斯核函數的使用相當廣泛,其具有較高的靈活性,可以通過設置參數σ值的大小來實現控制。

2 實驗步驟及仿真

本文利用OC-SVM對標準布匹圖像樣本進行學習訓練,再將采集到的實際圖像通過訓練完成的OC-SVM分類器進行分類,若有疵點則分割疵點的區域,得到疵點的大小位置等信息[3-4]。本小節算法實現的流程如圖1所示。

圖1 基于OC-SVM的疵點檢測算法流程

具體實驗步驟如下。

步驟1:通過工業相機在現場采集20張標準無缺陷的布匹圖像樣本。

步驟2:對通過工業相機在現場采集20張標準無缺陷的布匹圖像樣本進行圖像預處理,構造雙邊濾波器,權重系數ω(i,j,k,l)取決于定義域核d(i,j,k,l)=與 值 域 核r(i,j,k,l)=的乘積,其中i,j是像素位置,k,l是鄰域內像素位置,σ為方差,運用雙邊濾波器盡可能地保護邊緣部分信息的情況下去除噪聲。

步驟3:建立單分類SVM,將內積用高斯核替換,并將需要進行訓練的數據映射到高維特征空間,在高維特征空間中構造出最優分離函數:

利用該函數能在最大限度降低計算復雜度的基礎上完成分類。其中x為輸入的特征量,α為相應系數,K(xi,x)=為RBF核函數,RBF核函數在實際應用中具有相當高的靈活性。

步驟4:將預處理之后的20張標準無瑕疵的布匹圖像樣本,輸入單分類SVM并通過Laws紋理特征提取方法進行特征提取。Laws紋理能量度量由L(平均)、E(微分)、S(斑點)這3個向量與他們自身以及相互卷積后產生5個向量:EL,LE,ES,SE,EE。這些向量相互乘積,形成5×5的Laws掩模,將原圖像和二維模板圖像進行卷積運算,可得到所對應的紋理圖像,通過觀察Laws紋理看出,所有模板的均值都是0。所以需要對卷積運算后所得到的紋理圖像進行歸一化元運算,得出一個可以描述布匹紋理的特征量。

步驟5:利用單分類SVM對提取的樣本特征量進行訓練。

步驟6:采集現場布匹圖像,對該圖像進行圖像預處理包括濾波處理進行去噪以及圖像增強處理。

步驟7:將預處理之后的現場布匹圖像輸入已建立的單分類SVM,進行Laws紋理特征提取,判斷是否存在缺陷。若無缺陷,則將圖像放入無缺陷圖像容器,并繼續采集下一幀圖像。

步驟8:若存在缺陷,則對圖像進行迭代全局閾值分割,選擇圖像所有像素點的平均灰度值作為全局閾值的初值P;將整幅圖像以P為界限,分成兩個像素組,圖像像素點的灰度值中大于初值P的像素點組成G1,圖像像素點的灰度值中小于初值P的像素點組成G2;計算出G1組中所有像素點灰度值的均值(即平均灰度值)m1,同時計算出G2組中所有像素點的均值m2;計算一個新的閾值:P1=(m1+m2)/2;若P=P1,則所得即為閾值;否則重復步驟2到步驟4,直到連續迭代中的P值間的差小于一個預定義的參數p為止。

步驟9:利用形態學的方法對通過迭代全局閾值分割的圖像缺陷區域先膨脹再腐蝕,以消除各種干擾,使缺陷區域更加清晰。

步驟10:采用最小包圍矩形計算出缺陷的位置以及面積范圍,并進行數據統計。

仿真結果如下:

利用Laws紋理能量度量之后建立單分類SVM分類器進行訓練學習,此時可以得到基于標準樣本的訓練模型。

通過實際檢測,將實際疵點數量和檢測后的檢出疵點數量進行統計分析,得到最終的識別準確率。檢測結果如表1所示。

表1 該算法的檢測效果

通過計算可知,最終的綜合檢測效果可以達到92%。

3 結語

通過Laws紋理能量度量可以得出對圖像的特征描述,便于支持向量機的訓練學習,結合支持向量在小樣本中的優勢,使得算法可以降低計算復雜度,減少運算時間。通過實驗仿真在紋理相對簡單,且樣本數量相對較少的情況下,達到很好的檢測效果。