用于SVM的RCS統計特征集約減方法

王朗寧，侯炎磐，李彥峰

(太原衛星發射中心，山西太原 030027)

0 引言

挖掘窄帶雷達對目標識別的潛力具有重要意義。期望利用窄帶雷達能夠對空間重點目標群和非重點目標類群(碎片等目標)進行初步分類識別和篩選[1-2]，雷達在此基礎上可集中更多的時間和能量資源重點對重要目標進行跟蹤，并為后續跟蹤識別提供重點目標位置信息。目標雷達散射截面(Radar Cross Section，RCS)信息反映了目標的幾何特征和電磁散射特征，還隱含了目標的運動特征，可以從中提取數學特征通過模式識別技術對目標分類識別[3-5]。

支持向量機(Support Vector Machines，SVM)作為一種常用來解決分類和回歸問題的通用機器學習方法[6]，對小樣本、非線性問題和高維問題等方面表現出良好泛化能力與預測能力，能夠避免“維數災難”的弊端，被廣泛地應用于諸多領域，同樣也適用于雷達目標識別[7-8]。SVM算法復雜度與訓練樣本數目成指數關系，而SVM增量算法需要用大數據集訓練迭代，運算的存儲空間和時間代價花費巨大[6, 9-11]。

基于RCS統計特征數據，SVM算法可以對空間目標進行分類識別。如果僅采用單次樣本數據訓練SVM分類器，樣本數據全面性不足，很難保證未來的預測效果。因此，樣本集需要進行初采樣，以節省計算資源同時保證選出的樣本子集能夠實現全集合的SVM分類精度。基于此，本文提出并應用了一種用于RCS統計特征的支持向量機訓練集約減方法，成功縮減了數據樣本集規模，同時保持支持向量機訓練分類的精度。

1 支持向量機算法

支持向量機是建立在結構風險最小化等嚴格堅實的統計學習理論基礎上的。基本數學模型如下：

(1)

s.t.yi(wTXi+b)+δi≥1,δi≥0,i=1,2,…,d

(3)

支持向量是拉格朗日系數不為0所對應的樣本向量。從決策函數的表達式可以看出，最終分類超平面完全由支持向量決定。

2 本文SVM訓練樣本選取策略

通常來講，SVM訓練樣本中非支持向量數目遠大于支持向量的數目，而支持向量集就能夠構造該訓練樣本集的最優分類超平面。Syed等最早開展SVM增量學習研究[9]，每次增量學習將新增樣本集與原樣本集的支持向量構成新樣本集進行訓練，依次不斷循環迭代。曾文華等提出了一種利用KKT(Kaush-Kuhn-Tucher)條件互相檢驗的SVM增量學習方法[10]，分別對舊和新增樣本集訓練后，互相找出違反對方KKT條件的樣本構成新的訓練集。但是，上述方法完全篩選淘汰所有的非支持向量，而在全集訓練條件下，原訓練集的一些非支持向量可能轉化為支持向量，而該部分樣本被忽略將降低分類精度。因此，必須采取有快速高效的采樣方法，淘汰掉每次樣本集中的無用樣本以提高訓練的速度，同時保留重要信息來保證SVM訓練的精度。

支持向量一定是分布在每一類訓練集幾何意義上邊緣的樣本點，而不可能是訓練集內部的點。基于此，本文對每次試驗的樣本集進行初選樣，選取兩類邊界樣本和邊緣樣本構成樣本子集。兩類邊界樣本是兩類樣本的交際區中，那些靠得近卻又不屬同類的樣本，支持向量常常被包含在其中。邊緣樣本是單類樣本空間分布幾何意義上邊緣區域的樣本集，代表了樣本集空間分布的幾何信息，常常包含了那些可能由非支持向量轉化為支持向量的樣本。

2.1 兩類邊界樣本的抽取方法

中心距離就是樣本到樣本中心的距離。已知兩類樣本，那么根據類別就分別有兩個中心點。某一樣本點到所屬類別中心距離稱為自中心距離，到非屬類別中心的距離稱為互中心距離，定義中心距離比值為自中心距離和互中心距離的比值。一般地，兩類邊界向量樣本的中心距離比值較大[11]。

Xi是k維特征的樣本向量，p(Xi)是其多維高斯分布密度函數，表達式如下：

(4)

式中，μ為同類樣本向量的均值向量，β為協方差矩陣。已知兩類樣本，那么根據類別就分別得到兩個相應的多維高斯分布。定義某樣本點高斯模型概率比值為非屬類別與所屬類別的高斯分布概率密度比值。一般地，兩類邊界向量樣本的高斯模型概率比值較大。本文融合考慮中心距離比值和高斯分布概率比值，按照比值從大到小的順序依次穿插排序，然后按所需樣本數量再取樣。

2.2 抽取單類邊緣樣本集

多維高斯分布模型在幾何上根據特征向量維度不同呈現為橢圓或者超橢球體結構。首先對每類樣本求解出其高斯分布模型，對樣本分別沿所屬類別的超橢球軸投影，選擇軸投影軸兩端的樣本，最后按所需樣本數量再取樣。

2.3 直推式實驗設計

直推式實驗設計(Transductive Experimental Design，TED)是一種代表性的適用于無任何標簽信息的無監督主動學習算法。根據無標注樣本所包含的潛在結構分布信息設計合適的采樣策略，來選擇最能代表樣本集結構分布的高價值樣本。在最優實驗設計算法的基礎上，將給定數據集上的預測誤差作為優化目標[12-13]。本文采取直推式實驗設計的采樣算法，對上述兩類邊界樣本集和單類邊緣樣本集進行再采樣，縮減樣本集規模到指定水平。

3 實驗結果與分析

本文使用包含有代表空間重點目標和非重點目標的RCS仿真數據，標記為目標1(Class 1)和目標2(Class 2)。利用上述RCS數據滑窗分段處理提取統計特征：計算每段時間窗內的RCS序列的統計特征，以每個數據段的一組多維特征構成一個特征向量(樣本向量)，最終得到480個樣本。

雷達目標RCS序列的常用統計特征有：(1)位置特征參數，描述了目標RCS時間序列的平均位置和特定位置，常用的有均值、極大/極小值、眾數等；(2)散布特征參數，描述了目標RCS序列的離散程度，極差、方差以及變異系數等；(3)分布特征參數，描述了目標RCS序列統計分布的總體密度函數的特征，標準偏度系數、標準峰度系數、多階中心矩等；(4)變換域特征，把RCS數據變換到其他特征域后重新進行特征統計，提取新的特征以突出目標特性，例如，采用傅里葉變換后的統計特征：頻譜均值、熵、低頻能量比等。

空間重點目標和非重點目標的RCS差異主要體現在群內部成員形狀以及微運動特征上。例如，空間重點目標飛行過程中常常保持姿態穩定特性，而非重點目標(碎片等)會產生翻滾等較為劇烈的微動變化，此時統計特征方差所表述的RCS序列的變化離散特性差異性大，有助于目標分類識別。總之，目標狀態差異可以由RCS統計特征的不同得以體現。本節實驗提取了3組(A，B，C)二維特征(特征為：{A1，A2}，{B1，B2}，{C1，C2})向量構成樣本集，所述特征進行了減去均值再除以標準差的標準化數據處理，避免某一特征值過大或過小。

3.1 兩類邊界樣本的融合抽取實驗

分別采用中心距離比值、高斯分布概率比值和融合方法，抽取訓練集中兩類邊界樣本，抽取樣本的比例為20%。A樣本集({A1，A2})，兩類邊界樣本的抽取結果如圖1所示。B樣本集({B1，B2})情形下，兩類邊界樣本的抽取結果如圖2所示。C樣本集({C1，C2})情形下，兩類邊界樣本的抽取結果如圖3所示。

(a)中心距離比抽樣分布

(a)中心距離比抽樣分布

圖1(a)是采用概率比值方法抽取的樣本分布圖，圖1(b)是本文所述將距離/概率比值融合抽取的樣本分布圖。比較圖1(a)和(b)，圖1(b)顯然更能代表兩類邊界樣本分布特性，圖1(b)所示的融合方法抽取效果顯著高于圖1(a)。

(a)概率比抽樣分布

圖2(a)是采用中心距離比方法抽取的樣本分布圖。圖2(b)是本文所述將距離/概率比值融合抽取的樣本分布圖。此時，圖2(a)所示的采用中心距離比采樣的效果不佳。

圖3(a)和(b)結果表明：采用高斯分布概率比值方法和采用中心距離比值方法抽取的結果都有局限。圖3(d)結果表明：本文所述的二者融合抽取的樣本分布情況最佳。圖3(c)是訓練集樣本全分布與兩類別中心位置圖。綜上所述，與單獨使用中心距離比或者概率比方法對比，本文所述的融合抽取的樣本分布總能取得較好的抽樣結果，融合方法具備更好的適用性。

3.2 單類邊緣樣本的抽取實驗

實驗分析單類邊緣樣本的抽取效果。對樣本分別沿所屬類別的橢圓軸方向投影，選擇軸投影方向兩端的樣本，設抽取樣本數目為134個；然后再使用直推式實驗設計(TED)方法，抽取20個單類邊緣樣本，抽取樣本的結果如圖4所示。文字標號和圈點為TED法抽取樣本的順序與位置，TED法能夠選擇出最能代表樣本集結構分布的樣本。

(a)A樣本集的邊緣樣本TED抽取結果

3.3 不同約減方法下SVM訓練的對比實驗

采用Matlab自帶的C-SVM數學模型，模型參數：Csvm=1，線性核和SMO算法求解。采用本文優化方法與隨機抽樣、TED法抽樣方法，得到不同的樣本子集，對比分析子集和全集之間SVM分類器精度的變化。首先，預設抽取樣本比例，分別用本文優化方法、隨機抽樣與直推式實驗設計方法抽取樣本子集；然后，分別采用抽取的樣本進行SVM訓練，得到3條最優分類線，同時，采用樣本全集也可以得到1條最優分類線。最后，對比分析不同樣本集得到的4條最優分類線：以子集分類線與全集分類線的相似/貼近程度衡量抽樣方法的性能，與全集分類線越相似/貼近的抽樣方法對分類精度影響越小。

圖5為B樣本集下的SVM訓練分類線對比：圖5(a)、(b)、(c)和(d)分別對應10%，20%，30%和50%抽樣比例；兩類目標的全部樣本都被繪制在圖中；圖中所示4條線分別為：中空圓形點線代表本文優化抽樣方法得到的最優分類線，中空方形點線代表隨機抽樣方法得到的最優分類線，中空菱形點線代表TED法得到的最優分類線，虛線代表樣本全集得到的最優分類線。

由圖5知，縱向整體對比圖5(a)、(b)、(c)和(d)的變化：隨著抽樣比例的提高，無論何種抽樣方式，每種方法的分類線都會更加貼近全集的最優分類線，也就意味著分類精度越不受影響。

由圖5(c)和(d)知，在較大樣本采樣比例下(>30%)，采用本文優化的采樣方法得到的樣本子集，其SVM訓練得到的分類線與全集訓練得到的分類線基本完全貼合。而此時，采用隨機方法和TED法得到的分類線與全集訓練出來的分類線尚有距離。

(a)10%抽樣比例

由圖5(a)和(b)知，在小樣本采樣比例下(<20%)，本文優化采樣方法優勢則更加明顯。圖5(a)為在采樣比例10%下不同方法約減樣本集的SVM訓練結果：此時，隨機方法和TED法得到的SVM分類線與全集分類線差距明顯，還錯分了許多樣本，分類精度明顯降低；而與之對比的本文優化采樣方法的分類線則與全集得到分類線較為接近，分類精度降低不顯著。

圖6、圖7分別為A、C樣本集下的SVM訓練分類線對比典型結果。

(a)10%抽樣比例

(a)10%抽樣比例

總之，在本文所述3個樣本集合的算法實驗中，本文優化方法與隨機抽樣、TED法對SVM分類精度的影響規律與圖5保持高度一致：在每個采樣比例下，本文優化方法得到的SVM分類線與全集得到的分類線更加貼近。隨著采樣比例的提升，本文優化方法的分類線能夠在更小的采樣比例下與全集訓練出的分類線貼合。在較低采樣比例下(10%)，本文優化方法的分類線與全集訓練的結果基本吻合，保持較高的分類精度。

4 結束語

本文提出了一種支持向量機訓練集的約減方法，成功應用于基于窄帶RCS統計特征的空間目標分類識別。基于支持向量一定是分布在每一類訓練集幾何意義上邊緣的樣本點的特點，本文用于SVM增量學習的樣本初選方法不依賴于SVM分類界面選取樣本向量，考慮樣本簇的分布情況，不簡單以距離量度決定樣本向量的選取，使用高斯模型的方式，依賴樣本向量的在兩類高斯分布的概率比或者以高斯模型橢圓方向的兩側投影距離，選取邊界支持向量和邊緣支持向量，最后采用TED優化方法，在上述樣本集中再優選出最能代表樣本集結構分布的高價值樣本。實驗結果表明：通過對比抽取樣本方法分析對SVM分類的精度影響，本文優化方法比隨機抽樣、TED法得到的SVM分類線更能貼近全集得到的分類線，特別是在小的采樣比例下，采用本文優化方法得到的樣本子集在SVM訓練出的分類精度保持顯著優于另兩種抽樣方法。綜上所述，使用本文優化方法抽取樣本子集，能夠在保證SVM分類訓練精度的同時，有效地降低樣本集容量并保留原始樣本集中分布在空間幾何邊緣的樣本。