基于支持向量機的無窮維AdaBoost算法在人臉檢測中的應用

李思琳，邵玉斌

(昆明理工大學信息工程與自動化學院，昆明 650051)

人臉檢測是指給定一幅圖像，然后判斷其中是否存在人臉，如果有人臉存在，則返回其位置坐標和大小［1-6］。在 Viola［4］提出基于 Boosting 的快速人臉檢測系統后，許多學者對基于Boosting的算法提出了改進。目前，另一種得到廣泛應用的學習算法是AdaBoost。該算法的基本思想是:只要找到比隨機猜測略好的弱學習算法，就可以通過一定的方式構造出任意精度的強學習算法。Ada-Boost算法能夠集成多個弱分類器而成為一個強分類器。文獻［2］指出，AdaBoost算法集成有限數量的弱分類器個不利于AdaBoost算法的分類精度進一步改善。文獻［3］指出AdaBoost算法在理論上是可以集成無窮多個弱分類器。文獻［4］提出可用支持向量機的方法實現無窮維AdaBoost算法，即需要建立一個新的支持向量機核函數，使此核函數集成無窮多個AdaBoost算法弱分類器，并用于電路故障檢測。本文在該算法的基礎上，將其方法用于人臉檢測，在很大程度上提高了檢測精度，分類結果優于一般的AdaBoost算法。

1 AdaBoost算法

AdaBoost算法是一種基于弱分類器的分類算法。該算法根據分類結果來調整分類樣本的權值，具體為降低正確分類樣本的權值，增加錯誤分類樣本的權值，以便在下一輪訓練過程中，把主要精力放在前一次分類錯誤的樣本上，最后挑選更新權值后樣本分類錯誤最小的弱分類器，并把得到的弱分類器進行線性組合，最終形成強分類器［5-6］。

給定一個訓練集(xi，yi)，…，(xL，yL)，其中:xi是輸入的訓練樣本;yi是分類類別標志，yi∈(1，0)表示真假樣本。初始化過程中，對所有參加訓練的樣本賦予相同的一個權值，再用Ada-Boost算法對參加訓練的所有樣本進行T輪訓練。每一輪訓練后，都要從很多個分類器中選擇誤差最小的那個作為一個弱分類器hi。在確定好所有的弱分類器后，再將它們進行線性組合，構成最終的強分類器［7］。當T個弱分類器集成時，AdaBoost分類器判別式如式(1)所示［8］。

其中:hi(x)為弱分類器;ωi為弱分類器對應的權值;f(x)為最終強分類器。可以將AdaBoost算法看作樣本映射到高維特征空間，在該高維空間求一個超平面，然后將2類樣本分開，且使2種樣本間的間隔達到最大，如圖1所示。

圖1 AdaBoost算法分類超平面

那么，若要使2種樣本間隔最大，即轉換為求式(2)的最大值問題。

其中:yi(ωTxi+b)≥1;i=1，2，…，N;‖ω‖1=式(2)的優化問題可轉化為求

當弱分類器數量趨于無窮多個，即T→∞時，式(1)可以寫成式(3)的形式，這樣AdaBoost算法就集成了無窮個弱分類器。

2 支持向量機

SVM的基本思想是［15-19］:在二維2類線性可分情況下，會有許多線性分類器將這組數據分開，但只存在1個使該2類的分類間隔最大的分類器，那么這個分類器就是最優分類超平面。wTx+b=0，x∈Rd，它對任意樣本點都滿足［9-10］:

這樣，任意樣本點到分類超平面的距離為margin=2/‖ω‖，因此使margin最大的超平面就是最優分類超平面。要使分類間隔2/‖ω‖最大，就意味著2/‖ω‖最小，且為非零值，。即只有支持向量影響最終的劃分結果。

若訓練樣本為非線性可分，可以通過非線性函數φ(x)將訓練樣本集x映射到一個高維線性特征空間中，在這個空間中構造最優分類超平面，而這個超平面的維數可能是無窮大的［11］。在非線性情況下，分類超平面為ω×φ(x)+b=0。

最優分類面問題可描述為

其中:ξ為線性不可分問題的松弛變量;C為懲罰參數，使得

進而可得到其對偶形式為

最后

式(8)中的 K(xi，xj)=φ(xi)φ(xj)為核函數。

3 基于SVM的無窮維AdaBoost算法

從以上分析可以看出，支持向量機和AdaBoost算法之間是有很大聯系的。可以根據這種關系，用支持向量機的方法實現無窮多個弱分類器的Ada-Boost算法。而要實現這設想，工作重點是要重新建立一個新的核函數，而且該核函數可以集成無窮多個 AdaBoost算法弱分類器［4］。

3.1 核函數

若弱分類器組為 S= {hα:α∈C［a，b ］}，則支持向量機核函數定義為

其中:φx(α)=r(α)hα(x);α 是弱分類器 hα的參數;r為實數。

把定義的新核函數代入支持向量機優化算式和分類器算式，則支持向量機的優化算式可寫為

其中 ξi≥0，i=1，2，…，m。

支持向量機的分類表達式寫為

α∈C［a，b］，當α取不同值時，會產生不同的弱分類器 hα(x)，同時 α 在空間 C［a，b］內連續，所以 α 可以取無窮多個值，因此式(9)核函數可以集成無窮多個AdaBoost算法弱分類器。

3.2 算法具體步驟

基于無窮維AdaBoost算法大部分步驟可通過SVM的方法實現，其具體步驟如下:

1)輸入一個訓練樣本集(xi，yi)，i=1，2，…，N和一個弱分類器組H。

2)根據定義，建立一個支持向量機的新的核函數，并且賦給r一個常數，此核函數集成無窮個AdaBoost算法弱分類器。

3)選擇支持向量機參數C。

4)將第2)步得到的支持向量機核函數代入支持向量機計算式，計算出a和b。

5)輸出判別式

4 該算法應用于人臉檢測

本研究采用的訓練樣本集是從MIT CBCL數據庫中選取的。考慮到大量的樣本將占用很多內存空間，所以本文只選用了庫中的1 000幅人臉圖像，2 000幅非人臉圖像。但MIT CBCL數據庫中的人臉都是白種人臉圖像，所以又采集了500幅黃種人臉圖像，并將其標準化為19×19的尺寸。因此人臉圖像共1 500幅，非人臉圖像共2 000幅。本實驗的測試環境為p4 2.80 GHz CPU，1G內存，操作系統為Windows XP，在Matlab 7.0的平臺上編程實現。表1、圖2列出了基于本文提出的算法與現有算法在MIT+CMU人臉庫的檢測結果比較，可以看出本文的算法較AdaBoost算法在精度上要高一些。

表1 本文算法與傳統算法的對比

圖2 人臉檢測結果ROC曲線

圖3中所有的人臉總共為11個，實際被檢測出為人臉的總共有10個。有1個人臉被漏檢，原因是漏檢的人是側面的，而本次實驗的訓練集都是正面的人臉。

可以看出本文的算法對于側面的人臉檢測情況不適用，但同時可以看出，對于微微低頭的人臉、小角度旋轉的人臉、戴眼鏡的人臉以及微笑的人臉采用本文算法都能被檢測出來。可見，本文算法除精度高以外，魯棒性也得到了很大提升。

圖3 檢測結果

5 結束語

利用支持向量機的方法實現無窮維AdaBoost算法，即建立了一個新的支持向量機核函數，使此核函數集成無窮多個AdaBoost算法弱分類器，從而實現對人臉的檢測。該算法在很大程度上提高了檢測精度和魯棒性，分類結果優于傳統的Adaboost算法。

［1］任成娟，胡淑芳，劉崇文.子模式局部保持映射人臉識別算法［J］.重慶理工大學學報:自然科學版，2011，25(6):84-89.

［2］肖南峰，姚永剛.基于RBF神經網絡的人臉識別算法［J］.重慶理工大學學報:自然科學版，2011，25(6):56-67.

［3］張南南，汪正祥.基于Gabor小波的人臉特征提取［J］.自動化與儀器儀表，2011(6):138-140.

［4］閆常浩.人臉識別算法［J］.四川兵工學報，2011(4):65-67.

［5］薛冰.人臉識別技術綜述［J］.四川兵工學報，2010(7):119-121.

［6］朱超平.基于人臉識別的門禁系統設計與實現［J］.重慶工商大學學報:自然科學版，2011(4):390-393.

［7］Viola P，Jones M.Robust Real-Time Object Detection［C］//Proceeding of IEEE Workshop on SCTV.［S.l.］:［s.n.］，2001.

［8］梁路宏，艾海舟，徐光祐，等.人臉檢測研究綜述［J］.計算機學報，2002，25(5):1-9.

［9］Viola P，Jones M.Fast and Robust Classification Using Asymmetric AdaBoost and a Detector Cascade［EB/OL］.［2002-09-24］.http//www.merl.com/people/viola/research/publications/2002.

［10］劉沖，張均東，曾鴻，等.基于支持向量機的無窮維AdaBoost算法及其應用［J］.儀器儀表學報，2010，31(4):764-768.

［11］Hjelmas E，Low B K.Face detection:A survey［J］.Computer Vision and Image understanding，2001，83(1):236-274.

［12］Yang M H，Kriegan D，Ahuja N.Detection faces in image:a survey［J］.IEEE Transactions on Pattern Analysis and Machine Intelligence，2002，24(1):34-58.

［13］Saml A，Iyentgar P A.Automatic recognition and analysis of human faces and facial expressions:A Survey［J］.Pattern Recognition，1992，25(1):65-77.

［14］Vapnik V N.Statistical learning Theory［M］.Berlin:Springer，1998.

［15］鄔嘯.基于混合核函數的支持向量機［J］.重慶理工大學學報:自然科學版，2011，25(10):66-70.

［16］崔建國.基于支持向量機的飛行器健康診斷方法［J］.壓電與聲光，2009(2):266-271.

［17］鄔嘯.改進的雙隸屬度模糊支持向量機［J］.重慶師范大學學報:自然科學版，2011(5):49-53.

［18］余珺.基于多核優選的裝備費用支持向量機預測法［J］.四川兵工學報，2011(6):118-119.

［19］張瑞環.基于幾何算法的支持向量機分類方法［J］.重慶工商大學學報:自然科學版，2011(5):453-457.

［20］Cristianini N，Shawe-Taylor J.An introduction to support vector machines［M］.Cambridge:Cambridge University Press，2000.

［21］白鵬，張喜斌，張斌，等.支持向量機理論及工程應用實［M］.西安:西安電子科技大學出版社，2008.

［22］Freund Y，Schapire R E.A decision-theoretic generalization of online learning and an application to boosting［C］//Proc Second European Conference on Computational Learning Theory.［S.l.］:［s.n.］，1995:65-70.

［23］劉棟，周激流，郎方年，等.視頻圖像的實時人臉檢測系統［J］.激光雜志，2007(2):52-54.