基于集成學習約束能量最小化的高光譜目標檢測算法研究

張 寧，趙 睿，白 郁，鄒征夏，朱新忠，史振威

(1. 上海航天電子技術研究所，上海 201109；2. 北京航空航天大學 宇航學院，北京 100191)

0 引言

高光譜圖像目標檢測是圖像處理領域的研究熱點。高光譜圖像不僅包含了物體的空間信息，而且包含了物體豐富的光譜信息，其中的每個像素都包含一個近似連續的光譜曲線，因此高光譜圖像數據可視為三維數據[1-3]。高光譜圖像光譜分辨率較高，可以通過光譜特性區分不同地物的材質，解決許多利用全色圖像、多光譜圖像不能解決的問題，例如識別軍事偽裝、地下工事，進行資源探測，環境監測等，因此高光譜圖像目標檢測在軍事和民用方面都有重要的應用價值[4-8]。

高光譜圖像目標檢測常見的算法有光譜角度匹配(SAM)算法[4-9]，光譜信息散度(SID)算法[10]，約束能量最小化(CEM)算法[11-12]，匹配濾波器(MF)[13-14]，自適應一致性/余弦估計器(ACE)[15-16]?，F有的算法構造的檢測器大多通過約束最小二乘法或基于高斯分布先驗下的假設檢驗算法獲得，所得的檢測器大多數為線性算子(如CEM/MF)或二次算子(ACE)。然而，真實環境中捕獲的高光譜數據通常受成像噪聲、大氣湍流、光譜混合等效應的影響，通常表現出很強的非線性分布特性，在光譜空間中不滿足高斯分布先驗。這種情況下線性算子或二次算子通常難以獲得滿意的檢測效果。雖然在高光譜目標檢測領域有一些學者將高光譜數據點通過核方法映射到高維或無窮維空間，以獲得較強的非線性表達能力，如核CEM(Kernel CEM)、核ACE(Kernel ACE)等[17-18]，但核方法本身極易受到核函數參數選擇而表現出性能不穩定的現象。從統計機器學習理論來講，算法的表達能力和泛化能力是制約算法精度和穩定性的兩個重要因素，對于傳統算法，例如CEM、MF、ACE，其泛化能力較強而表達能力相對較弱，難以描述非線性分布下的光譜數據，而它們的核化形式則具有很強的表達能力和較弱的泛化性能。通常，設計高光譜目標算法的關鍵在于算法表達能力和泛化能力之間的權衡。

集成學習算法是機器學習中的一類重要方法，其思想在于采用多個弱決策器的集成來對其表達能力和泛化能力進行提升[19]。集成學習中有兩類重要思想，一類叫做Boosting，其作用在于保持弱決策器泛化性能不變的同時對其表達能力進行提升，典型算法為Adaboost算法；另一類叫做Model Combination思想，其在保證弱決策器具有較強表達能力的同時對其泛化性能進行提升，典型算法為Bagging。因此，能夠利用集成學習中的Model Combination的思想，對現有的高光譜目標檢測算法進行改進，使其具有較強非線性光譜表達能力，并提升其穩定性和穩健性?；诖?，本文提出了一種新的高光譜目標檢測算法：集成學習約束能量最小化算法(E-CEM)。該算法通過有放回抽取高光譜圖像中的像元向量組成多個新的樣本集，并利用每一樣本集合構建獨立的檢測器，最終將得到的多個檢測器對感興趣目標在原高光譜圖像中進行檢測。在仿真高光譜圖像及真實高光譜圖像上的實驗結果表明：改進算法性能得到了明顯的提升。在高光譜目標檢測領域中, 采用集成學習思想和軟投票的方法尚未見有公開發表,本文在該方向進行了一些探索。

1 CEM算法

CEM在本質上是一個無限沖擊響應濾波器。其濾波器的系數就是投影向量。CEM通過在對先驗目標光譜的輸出為定值的約束下最小化輸出能量來尋找最佳投影向量。這樣CEM就將目標檢測問題轉化為一個有約束優化問題，通過求解優化問題就可以求出最佳投影向量，繼而完成目標檢測。CEM的本質是在保證目標像素的輸出較大的情況下，壓制背景像素的輸出，從而在投影空間將目標像素和背景像素有效地分開。

記高光譜圖像中的所有像元組成的矩陣S=[r1,r2,…，rN]∈L×N，其中ri=[(ri)1,(ri)2,…，(ri)L]∈L×1為任一像元向量，N為像元的個數，L為圖像的波段數。假設d∈L×1是所感興趣的目標光譜向量，CEM算法的初衷是設計一個最優的有限沖擊響應(FIR)濾波器ωCEM∈L×1，使得經該濾波器后，目標輸出保持一定的幅值，而背景輸出被抑制。具體地，對于每個像素r，經過濾波后輸出的平均“能量”可由所有像素的輸出值的平方和得到

E{y2}=E{(ωTr)2}=ωTRω

(1)

(2)

上述最優化問題的意義是：在保證對目標光譜的輸出一定的情況下，最小化輸出能量，這樣絕大部分背景像素的輸出就會被抑制，目標和背景在輸出中就能被分開，從而檢測出目標。該優化問題的本質其實是一個約束最小二乘問題，是一個凸優化問題，而且具有封閉解。其封閉解[19]如下

(3)

2 基于集成學習約束能量最小化的高光譜目標檢測

CEM算法是線性檢測算法，然而，真實環境中通常表現出很強的非線性分布特性，因此常常難以獲得滿意的檢測效果。為了獲得比CEM算法更強的非線性表達能力和更強的泛化性能，本節介紹基于集成學習約束能量最小化的高光譜目標檢測。本文采用CEM的改進算法——二次約束能量極小化算法[20](QCEM)作為本文的基準算法。QCEM算法的目的同樣是設計一個最優的有限沖擊響應濾波器G=diag(g1,g2,…，gL)∈L×L、ω∈L×1，當輸入為rj時濾波器的輸出yi可表示為

yi=(rj)TGrj+ωTrj

(4)

與CEM算法類似，QCEM算法在極小化能量的期望的同時，強制使得目標光譜的輸出保持恒定值

(5)

式中：β為正則化項系數;G為二次項系數矩陣。G，ω可由以下封閉解得到[20]

(6)

式中：r=[r1,…,rL,(r1)2,…,(rL)2]T∈2L×1，d=[d1,…,dL,(d1)2,…,(dL)2]T∈2L×1。

在QCEM的基礎上，本文沿用了集成學習中Bagging的主要思想，并加以改進，以適應高光譜目標檢測這一特殊問題。Bagging基于自主采樣法，它的基本流程是：給定包含m個樣本的數據集，從中有放回抽取m個樣本，重復以上操作T次，得到T輪、每輪含有m個訓練樣本的采樣集，然后基于每一個采樣集訓練出一個基檢測器，再將這些檢測器進行結合。在對預測輸出進行結合時，Bagging通常對分類任務可以使用簡單平均法或者投票法。由此證明，利用Bagging算法，在檢測器彼此獨立的前提假設下，檢測器總輸出的泛化誤差可以隨基檢測器的數量增多而降低[19]。

具體地，在所提出的算法中，首先假設高光譜數據中的所有光譜樣本構成一個完整的數據集D，在采樣過程中從數據集有放回抽取N個樣本，重復以上操作T次，可得到T個含有N個訓練樣本的采樣集DT={D1,D2,…,DT}，其中Dt={(rt)1,(rt)2,…,(rt)N}為任一采樣集。對于每一采樣集Dt，利用上述QCEM算法可得到一個目標檢測算子Ft(·)，利用該檢測算子，像素r的檢測輸出可以表示為ht=Ft(r)。

為了使該算法避免受到光譜變化等不利因素的影響，在設計集成策略時，本文采用了“軟投票”的思路：為不同的待測光譜賦予不同的加權值，并重點考察與目標光譜相似度較高的光譜數據。具體地，計算數據集中各像元向量r與感興趣目標d之間的夾角余弦，并將其作為Bagging投票時的權重,即

(7)

若像元r與感興趣目標d越相似，則兩向量的夾角余弦φ越大，故投票時權重越高。

最后將所有輪采樣構建的QCEM算子檢測得到的結果以φ作為權重進行軟投票，得到最終集成T個QCEM檢測器的檢測結果。算法描述如下：

基于集成學習約束能量最小化算法輸入:像元矩陣S=[r1,r2,…,rN],感興趣目標光譜d,采樣輪數Tfort=1,2,…,T,dor^=[r1,r2,…,rL,(r1)2,…,(rL)2]T∈?2L×1,d^=[d1,d2,…,dL,(d1)2,…,(dL)2]T∈?2L×1,有放回采樣得到樣本集:Dt={(rt)1,(rt)2,…,(rt)N},基于d和Dt構建QCEM檢測器Ft(·),hit=Ft(ri),(第t輪采樣構成的檢測器對于第i個樣本的輸出)?i=(ri)Td/(‖d‖22‖r‖22)1/2.(第i個樣本的軟投票權重)endfor輸出:yi=1T∑Tt=1?ihit.

3 實驗結果及分析

3.1 仿真高光譜圖像實驗

首先使用仿真高光譜圖像[3]來對本文所提出的算法進行測試。仿真高光譜圖像由美國地質調查局(USGS)數字光譜庫[4]中選擇15種物質的光譜生成，在此基礎上分別加入信噪比(SNR)為20 dB，25 dB，30 dB的高斯白噪聲以測試算法對噪聲的穩健性。USGS光譜數據共有224個波段，光譜范圍是0.4～2.5 μm。本文還將5種經典的高光譜目標檢測算法進行了比較，這5種算法分別是：CEM[11-12]、SAM[4-9]、MF[13-14]、ACE[15-16]、SID[10]。

從數據的生成過程可以看出在仿真高光譜圖像中沒有純像素的存在，所有的像素都為混合像素。圖1(a)顯示了仿真高光譜圖像的第1波段。本文用這個仿真高光譜圖像來檢測其中一種目標，目標的真實分布(Ground-Truth)如圖1(b)所示。圖2顯示了各種算法的檢測輸出，在圖2中輸出值歸一化到了0～1。

圖1 像素圖Fig.1 Pixel figure

圖2 各種算法的檢測輸出Fig.2 Detection output of various algorithms

為了定量地評價算法，使用接收機操作特性(ROC)曲線評價檢測結果。ROC曲線能夠描述虛警率(Fa)和檢測率(Pd)的變化關系。Fa和Pd的定義如下

(8)

式中：Nf表示虛警的像素數，即真實的背景像素被檢測為目標像素的個數；Nc表示正確檢測到的目標像素的個數；N表示高光譜圖像的像素數；Nt表示真實的目標像素的個數。在相同的虛警率的條件下，檢測率越高，算法的性能越好。

圖3給出了各種算法的ROC曲線。ROC 曲線及圖2中的檢測輸出都表明E-CEM算法取得了較好的檢測結果。此外，本文還進一步將ROC曲線下的面積(AUC)作為另一個定量評價指標。AUC數值越大，算法的檢測性能就越好。表1給出了各種算法在不同信噪比情況下的AUC數值。在仿真高光譜圖像中，沒有純像素的存在，目標像素光譜的變化主要是由混合像素導致的，實驗結果表明提出的算法對由混合像素引起的目標光譜變化具有一定的穩健性，取得了較好的檢測結果。

圖3 仿真高光譜圖像實驗各種算法的ROC曲線Fig.3 ROC curves of different algorithms on the simulated hyperspectral image experiment

信噪比CEMSAMMFACESIDE-CEM200.96590.56210.96500.36880.58330.9995250.98150.80720.99160.39540.81301.0000300.99520.97070.99980.59100.97501.0000

3.2 真實高光譜圖像實驗

在本實驗中使用機載可視/紅外成像光譜儀(AVIRIS)采集的圖像進行目標檢測實驗，圖像的采集地點是美國圣地亞哥的一個機場。AVIRIS數據共有224個波段，波段范圍是0.4～2.5 μm。在去除水汽吸收的波段和低信噪比波段后，實驗中實際使用的數據共有189個波段，圖像大小為200 pixel×200 pixel。圖4(a)顯示了實驗用真實高光譜圖像的第1波段圖像，圖4(b)顯示了檢測圖像中飛機目標的位置。圖5顯示了各種算法的檢測輸出(輸出值被歸一化到0～1)。為了進一步定量地評價各種算法的檢測結果，圖6給出了各種算法的ROC曲線，ROC曲線表明E-CEM算法優于CEM算法以及其他改進算法。表2給出了各種算法在該數據上的AUC數值。

圖4 采集的機場圖像Fig.4 Captured airport images

3.3 參數實驗

為了驗證E-CEM算法中參數的穩定性，本實驗對其中兩個重要的參數“采樣集中的樣本像元個數”“采樣輪數”進行了實驗。使用的數據為AVIRIS高光譜圖像，圖7顯示了參數實驗的結果，其中x軸為采樣集中的樣本像元個數mSamples，y軸為采樣輪數esbTimes，z軸為E-CEM算法對應的AUC分值。參數實驗表明:當mSamples及esbTimes較小時，改進算法檢測結果較差，性能不夠穩定，但當兩者逐漸增大時，改進算法的性能逐漸提升最終趨于穩定?？紤]到計算精度與計算復雜度的平衡，最終在實驗中的參數設置為mSamples：1 000，esbTimes：40。

圖6 真實高光譜圖像實驗各種算法的ROC曲線Fig.6 ROC curves of different algorithms of the real hyperspectral image experiment

算法CEMSAMMFACESIDE-CEMAUC0.99260.98610.99180.93510.98580.9982

圖7 參數實驗結果Fig.7 Result of the parameter experiment

4 結束語

本文提出了一種基于集成學習約束能力極小化的高光譜圖像目標檢測改進算法。通過在仿真高光譜圖像與真實高光譜圖像中的實驗，驗證算法在具有較強光譜非線性表達能力的同時具有較高的穩健性，一定程度地解決了在復雜環境光譜變化條件下高光譜檢測的精度和穩定性問題。后續，本文將把集成學習思想和軟投票等技術應用于高光譜目標檢測領域，并將其泛化性能進行提升。

[1] MANOLAKIS D, MARDEN D, SHAW G A. Hyperspectral image processing for automatic target detection applications[J]. Lincoln Laboratory Journal, 2003, 14(1): 79-116.

[2] SHAW G A，BURKE H K. Spectral imaging for remote sensing[J]. Lincoln Laboratory Journal, 2003, 14(1): 3-28.

[3] SHI Z W, QIN Z, YANG S, et al. Spatial multiple materials detection in hyperspectral imagery[C]∥3rd International Conference on Awareness Science and Technology. Dalian: [s.n.], 2011: 76-80.

[4] WINTER E M, MILLER M A, SIMI C G, et al. Mine detection experiments using hyperspectral sensors[J]. Proc SPIE, 2004, 5415: 1035-1041.

[5] DIPIETRO R S, TRUSLOW E, MANOLAKIS D G, et al. False-alarm characterization in hyperspectral gas-detection applications[J]. Proc SPIE, 2012, 8515: 85150I.

[6] KRUSE F A, LEFKOFF A B, BOARDMAN J W, et al. The spectral image processing system (SIPS)—interactive visualization and analysis of imaging spectrometer data[J]. Remote sensing of environment, 1993, 44(2-3): 145-163.

[7] CHANG C I. An information-theoretic approach to spectral variability, similarity, and discrimination for hyperspectral image analysis[J]. IEEE Transactions on Information Theory, 2000, 46(5): 1927-1932.

[8] FARRAND W H, HARSANYI J C. Mapping the distribution of mine tailings in the Coeur d'Alene River Valley, Idaho, through the use of a constrained energy minimization technique[J]. Remote Sensing of Environment, 1997, 59(1): 64-76.

[9] HARSANYI J C. Detection and classification of subpixel spectral signatures in hyperspectral image sequences[D]. Baltimore: University of Maryland Baltimore County, 1993.

[10] KAY S M. Fundamentals of statistical signal processing[M]. New Jersey: Prentice Hall, 1998.

[11] MANOLAKIS D G, INGLE V K, KOGON S M. Statistical and adaptive signal processing: spectral estimation, signal modeling, adaptive filtering and array processing[M]. Boston: McGraw-Hill, 2000.

[12] KRAUT S, SCHARF L L. The CFAR adaptive subspace detector is a scale-invariant GLRT[J]. IEEE Transactions on Signal Processing, 1999, 47(9): 2538-2541.

[13] KRAUT S, SCHARF L L, MCWHORTER L T. Adaptive subspace detectors[J]. IEEE Transactions on Signal Processing, 2001, 49(1): 1-16.

[14] KWON H, NASRABADI N M. Hyperspectral target recognition using kernel spectral matched filter[C]∥Conference on Computer Vision and Pattern Recognition Workshops. Washington: [s.n.], 2004: 425-430.

[15] JIAO X L, CHANG C I. Kernel-based constrained energy minimization (K-CEM)[J]. Proc SPIE, 2008, 6966: 69661S.

[16] ZOU Z X, SHI Z W, WU J, et al. Quadratic constrained energy minimization for hyperspectral target detec-tion[C]∥Geoscience and Remote Sensing Symposium (IGARSS). Milan: [s.n.], 2015: 4979-4982.