支持向量機的應用

呂永強

(山東科技大學數學與系統科學學院 山東 青島 266590)

支持向量機的應用

呂永強

(山東科技大學數學與系統科學學院 山東 青島 266590)

支持向量機算法是十大經典算法之一，對于數據分類，數據回歸方便有著極好的應用。在實際操作中，我們常用它來處理分類問題。但傳統的支持向量機存在噪聲太多，數據處理太慢和收斂過快的問題，可通過調整參數進行改進。本文將建立一個模型，實現對支持向量機的簡單應用。

支持向量機;分割超平面

一、模型準備

在實際問題中。我們可以對分類化做數學描述，轉化數量和點的形式，然后對問題進行數學描述，將問題應用到支持向量機中，得到適合支持向量機的求解模型。我們需要得到支持向量機的原始提法。

現在給出分類問題的原始提法。設分類對象可以表示為

x=([x]1,…,[x]n)T,

分類對象有n個特征，[x]i特征i的指標。找出若干個分類對象，構建出原始訓練集

T={(x1,y1),…,(xl,yl)},

(xi,yi),xi=([xi]1,…,[xi]n)T為第i個分類對象對應的訓練點的輸入，yi∈γ={-1,1}為第i個分類對象對應的訓練點的輸出。我們可以依此得出分類問題的原始提法，取實值函數g(x),g(x)∈Rn，用于決策函數f(x)=sgn(g(x))

推斷給出輸入x相對應的y值。接下來進行特征選擇，再進行特征提取，完成構建。

二、問題描述

支持向量機實質是一個判別分類器，通過分類超平面進行判別。支持向量機可以將不同類別的樣本進行空間分隔。工作機理也，把一些標記(label)好的訓練樣本(監督式學習),通過SVM算法，輸出一個最優化的分隔超平面，使平面上的所有點到平面的距離之和最大。

假定在空間中標定了一堆分屬于二類用顏色分類的二維點假設在空間存在兩類用顏色分類的二維點，位置信息就是它的數據。SVM算法的實質是找出一個能夠將某個值最大化的超平面，這個值就是超平面離所有訓練樣本的最小距離。這個最小距離用SVM術語來說叫做間隔(margin)。得到的最優分割超平面噪聲低，敏感性高。

通過SVM最優分割超平面，得到分割特征和分割程序。輸入新的數據，通過特征提取，得到位置信息，就可以找出它應該是哪一種顏色(類別)了。

通過目前已有的點的信息，訓練SVM得到一個所有參數都適用的分區模型。然后 for 循環根據已經訓練好的模型，根據新輸入的值，輸出預測新值以及所這個點所對應的類別。本文通過SVM 進行樣本訓練，通過其判別能力，將整個空間依據SVM分類的結果劃分，并顯示支持向量。

三、步驟

(一)建立訓練樣本

本文中的訓練樣本分為兩類，程序如下：

float labels[4]= {1.0,-1.0,-1.0,-1.0};

float trainingData[4][2]= { {501,10},{255,10},{501,255},{10,501} };

函數 CvSVM::train 訓練數據儲存儲存類型為float儲存在其 Mat 結構中。

Mat labelsMat(3,1,CV_32FC1,labels);

Mat trainingDataMat(3,2,CV_32FC1,trainingData);

(二)SVM參數設定

這些參數保存在類 CvSVMParams 中。

SVM類型，這里我們選擇了 CvSVM::C_SVC 類型，該類型可以用于n-類分類問題(n-2)。這個參數定義在 CvSVMParams.svm_type 屬性中。

SVM核類型，核函數是一個映射函數，通過映射，使訓練后的樣本更容易線性分割，映射后樣本的維度增加。此處我們選擇的核函數類型是CvSVM::LINEAR 表示不需要進行映射。

算法終止條件.SVM訓練的過程是一個通過迭代解決約束下的二次優化問題，我們給出一個最大迭代次數和容許誤差，作為算法的終止準則。

(三)訓練支持向量機

調用函數 CvSVM::train 來建立SVM模型

CvSVM SVM;

SVM.train(trainingDataMat,labelsMat,Mat(),Mat(),params);

(四)SVM區域分割

函數 CvSVM::predict 重建訓練完畢的支持向量機來將輸入的樣本分類。 使用這個函數給對向量空間進行著色，我們將圖中的所有的像素作為卡迪爾平面上的點，每一點的著由于SVM分類類別決定：綠色為標記為1的點，藍色為標記為-1的點。

(五)支持向量

這里用了幾個函數來獲取支持向量的信息。函數 CvSVM::get_support_vector_count 輸出支持向量的數量，函數 CvSVM::get_support_vector 根據輸入支持向量的索引來獲取指定位置的支持向量。 通過這一方法我們找到訓練樣本的支持向量并突出顯示它們。

四、實現圖

程序得到了一個二分類圖像，通過訓練得到SVM，將圖像按照像素分類。分類將圖像分為兩部分。

圖1 最優分割超平面

最后支持向量通過灰色邊框加重顯示。

圖2 支持向量

呂永強(1992-)，男，漢族，山東濰坊人，在讀研究生，山東科技大學數學與系統科學學院，研究方向：系統分析與集成。