基于多分類SVM分類器的晶狀體特征提取

張桐瑞 劉俊男

摘 要 支持向量機（Support Vector Machine， SVM）是Vapnik教授等人在根據多年研究統計學理論基礎上提出的一種基于統計學原理的VC維理論和結構風險最小化理論用以解決線性不可分這樣的分類問題的理論的機器學習方法，對于高維度、非線性、低樣本量訓練集的特征空間具有很好的泛化性能。醫學圖像特征提取和分割是圖像處理在醫學圖像領域兩個重要的課題：本文基于二分類支持向量機原理建立多分類支持向量機模型，應用于生物眼部瞳孔、晶狀體及眼白等不同眼部結構的特征提取，并對實驗結果進行分析。本文建立的數學模型和提出的實驗方法能夠為臨床實驗提供思路。

關鍵詞 醫學特征提取 眼部結構 圖像處理 機器學習 二分類支持向量機 多分類支持向量機

中圖分類號：TP391文獻標識碼：A

1支持向量機概述

支持向量機理論最初用來解決處理數據的分類問題，因此SVM的基本思想是根據訓練集運算出一個滿足要求的分割平面，使此平面兩側的分類點間隔盡可能最大。后來，把尋找最優分類平面等效為求解一個凸規劃問題：基于Mercer核定理進行展開，并通過構造一個非線性映射，把不可分的非線性樣本空間映射到一個高維乃至無窮維的特征空間，使之在新特征空間中可以使用線性理論方法解決原始樣本空間中高維非線性分類和回歸等問題。

SVM分類器是一種基于嚴格的理論推導的機器學習的方法，它已經成為計算機學習、模式識別、智能計算、預測預報等領域的熱點應用，在國內外受到廣泛關注。

2支持向量機函數模型

支持向量機的模型主要由兩部分組成：SVM訓練過程和SVM分類過程。相比而言，二者之間更重要的是訓練過程，其不同的參數輸入直接決定了最終生成的支持向量機的精度與性能。

2.1訓練函數模型

模型的訓練所依據的是二分類支持向量機的變形。

（1）已知訓練集：，，，為特征向量。

（2）選取適當的核函數和適當的參數，構造并求解最優化問題：

上式是一個二次規劃問題，根據輸入參數的不同可以使用不同的求解方法。通常采用二次規劃（Quadratic Programming）、序列最小化最優化（Sequential Minimal Optimization）、最小二乘法（Least-Squares）。

由上得到最優解。

（3）選取的一個正分量，并根據此計算閾值：。

（4）構造決策函數：。

2.2核函數的選取

關于核函數的選取，可以分為現有核函數和推導核函數兩類。現有的核函數有線性核函數（Linear kernel）、二次核函數（Quadratic kernel）、高斯徑向基核函數（RBF kernel）、多項式核函數（Polynomial kernel）和多層感知器核函數（Multilayer Perceptron kernel）。

在本文的驗證過程，使用的是二次多項式核函數，具體形式為：。根據不同領域的特性，也可以實用自定義的核函數完成特定的任務。

3多分類支持向量機

直接應用上面的兩分類支持向量機只能解決兩分類問題，現實中面臨的很多問題都是多分類問題，這時為了解決多分類問題就需要構造一些列兩分類支持向量機。

本節介紹構造多分類支持向量機的方法：設已知訓練集，，其中，，。

首先對所有的進行下列運算：

（1）基于這些樣本點組成一個訓練集。

（2）用求解兩分類問題的支持向量機求得實函數和判定屬于第類和第類的分類機：

然后在需要對給定的一個測試輸入推斷它屬于的第幾類時，考慮上述所有的分類機對所屬類別的意見：一個分類機判定屬于第類就意味著第類獲得一票。得票數最多的類別就是最終判定所屬的類別。

另外一種方法是一類對余類構造支持向量機的方法：對于訓練集，在訓練支持向量機時，可以將所有相等的歸為一類，剩下的歸為一類，這樣訓練好的支持向量機就可以識別類了。按照上述的方法一共可以構造個支持向量機，其中每個支持向量機負責識別相應的第類。

4實驗與分析

實驗分析主要過程：用設計的多分類器對隨機產生的4類數據進行分類的效果測試。測試數據集的數據量從30個數據增長到900個數據。實驗結果表明：在測試數據集數據量很大的情況下，核函數的選擇尤為重要。本實驗的經過大量實驗數據測試對比，在同等條件下，控制變量使核函數變化，徑向基核函數（RBF）分類效果明顯優于線性核函數，更優于d階多項式核函數、Sigmoid核函數，因此在本文中主要徑向基核函數。

900個數據樣本情況下，設計的分類器分類效果良好。但是，對于訓練數據集的數據量較少的情況小，需要驗證其訓練結果是否能代替模型完整的樣本集，因此需要將所設計的分類器進行回歸效果測試。根據測試結果得出以下結論：在小樣本情況下，SVM分類器可以很好進行預測，也即使用小樣本數據訓練的效果接近于完整數據樣本訓練的效;且對比于訓練速度近似的BP神經網絡結構，預測結果好于BP神經網絡結構。SVM分類器的均方誤差和均方誤差相關系數為：0.0032052和0.98815;BP結果分類器的均方誤差和均方誤差相關系數為0.01495和0.94217。

然后對部分人眼部模型進行晶狀體特征提取的效果驗證：

根據眼部模型A建立分類器的訓練數據集對分類器進行訓練，然后將眼部模型A載入訓練數據集訓練的分類器，觀察效果：

由上圖可知，除晶狀體以外，部分背景仍有殘留。對訓練數據集進行補充，再次訓練分類器，多次對訓練數據集進行補充。

進行四次反復訓練與測試之后，就可得到對模型A晶狀體區域提取效果較好的分類器。接下來將此分類器對模型B進行測試驗證。

將模型B載入分類器，第一次提取效果如下圖所示，同樣將模型B部分背景數據補充到訓練數據集中，最后得出效果良好的分類器。將根據模型A、B訓練的分類器對不同模型進行測試驗證，如下圖所示：

由以上測試結果可以看出：

模型A建立的測試數據集可以視為小樣本情況，根據小樣本數據訓練的分類器對模型A進行晶狀體特征提取，效果良好。對于模型B的晶狀體特征提取有部分區域沒有被剔除，因此補充部分數據對B模型進行測試，同樣得到滿意的效果。使用訓練好的分類器提取其余模型，均得到效果良好的提取效果。因此，隨著訓練樣本的增加，對不同角度，不同類型的晶狀體同樣會有令人滿意的效果。

5結論

經過試驗得知，基于SVM建立的多分類器效果分類效果明顯，而且通過對比得出使用RBF核函數進行多分類效果最優的經驗，因此在后續測試使用RBF核函數。對于小樣本訓練，訓練器的回歸性能在很大程度上決定了對于測試集測試的結果，因此需要對分類器的回歸性能進行驗證，并與神經網絡結構分類器進行比較，更直觀得出結論。性能測試后，對于一般圖像進行目標物提取，進行實際情況測試。測試發現，對于目標物提取效果良好，但對于特殊的背景點需要單獨添加進訓練集。最后對于眼部模型進行針對性訓練，使用AB模型作為訓練集，對兩個模型進行交叉測試，特征提取良好。總的來說，采用高效、準確的分類方法，并針對具體的應用，充分利用算法的優勢，實現了眼部晶狀體區域特征自動提取，具有一定的實用價值。

參考文獻

[1] Chang CC CC&Lin C CC.A Library for Support Vector Machines[J].2011.

[2] 龍伶敏.基于Adaboost的人臉檢測方法及眼睛定位算法研究[D].成都：電子科技大學，2008.

[3] 劉祥樓，張明，鄧艷茹.一種人臉對象的區域分割方法[J].科學技術與工程，2011，11（12）：2686-2690.