基于元學習的雷達小樣本目標識別方法及改進

孫晶明, 虞盛康, 孫 俊

(1. 南京電子技術研究所, 江蘇 南京 210039;2. 中國電子科技集團公司智能感知技術重點實驗室, 江蘇 南京 210039)

0 引 言

雷達自動目標識別(radar automatic target recognition,RATR)是雷達研究與應用的一個重要領域。高分辨距離像(high resolution range profile,HRRP),即一維距離像,能夠反映目標的幾何結構、散射點能量分布等特征,且易于獲取和處理,是實現實時目標識別的重要雷達特征,因此成為國內外備受關注的研究熱點。特別是近年來,隨著機器學習特別是深度學習理論的快速發展,RATR性能也隨之大幅提升。

由于雷達探測的目標、環境極其復雜,雷達系統性能的限制導致獲取的目標信息較為有限。相對于傳統的目標探測,目標識別需要測量更深層次的目標特征,將占用更多的時間、頻譜、能量等雷達資源,給RATR工程實現造成較強的約束。而且,由于當前較成熟的目標識別技術采用的都是有監督學習,需要大量帶標簽樣本進行訓練才能獲得較好的性能。另外,HRRP信號因其數據采集環境的不確定性導致同類樣本之間也存在較大差異。其特點可以歸納為3個敏感性:姿態敏感性、平移敏感性、幅度敏感性。以這3個敏感性為代表的數據特點給RATR帶來巨大挑戰。然而在實際雷達探測過程中,特別是實戰環境下,受不確定環境、時效性約束、資源受限等條件的制約,很難獲取目標的完備數據,使得需要大量且完備數據用于訓練的深度算法在面對小樣本識別任務時無法得到滿意的判別結果,這是深度學習應用于RATR的局限性。

針對RATR的小樣本識別問題,目前主要有3大類解決方法。第1類方法是數據生成。文獻[12-13]都基于生成對抗網絡生成高質量的樣本并實現數據增擴,使判別器在標簽樣本監督學習的基礎上得到進一步優化,提高其在小樣本條件下的識別能力。第2類方法是遷移學習。通過從大量其他任務的數據中充分挖掘各種判別及表示信息,并將其作為知識或者先驗傳遞到小樣本識別任務中,以減輕過擬合問題。文獻[15-16]在多任務學習框架下,只使用一個比較復雜的大模型,使用不分幀的所有樣本對模型參數進行學習,提高了訓練效率,參數估計也更加準確。第3類方法是元學習。元學習的泛化目標和學習內涵使其能夠有效提升小樣本識別性能,特別是其中的度量學習方法非常簡單高效。度量學習的目標是學習一個具有較好泛化能力的圖像到嵌入特征空間的映射,然后在嵌入特征空間中直接求解最近鄰達到預測分類的目的。該嵌入特征空間的顯著特點是:同類之間的圖像嵌入特征距離較近,異類之間的圖像嵌入特征距離較遠。上述三類方法中,數據生成方法可視為從數據角度解決小樣本識別問題的方法,遷移學習和元學習方法可視為從模型角度解決小樣識別問題的方法。

本文借鑒元學習在圖像識別中的應用,建立了適用于HRRP-RATR的基于元學習的小樣本識別框架。以卷積神經網絡(convolutional neural network,CNN)為主干網絡,利用其強大的特征提取和表示學習能力,通過從多個相關任務中學習到的元知識改善新任務的性能。并引入遷移學習思想,提出一種改進的小樣本學習方法,針對新任務對網絡參數進行微調更新,進一步提升識別精度。基于實測HRRP數據,通過詳細的性能對比實驗分析了所提方法和元學習、遷移學習方法的應用邊界條件,獲得了以下有實用價值的結論,可指導算法實際應用:

(1) 訓練集和測試集的類別越相近,用訓練集學習到的特征對新的小樣本識別任務越有用,性能提升越大。類別相關度較大,推薦使用元學習;類別相關度較小,推薦使用遷移學習。

(2) 極小樣本條件下,元學習的識別性能優勢很明顯,其泛化性很突出。當樣本增多時,遷移學習的識別性能更穩健。

(3) 元學習的適用條件較苛刻,要求歷史積累樣本所含目標類別較多。這一點對實測數據積累提出了要求。

(4) 所提方法可顯著提升元學習的綜合識別性能,具有更突出的識別泛化性,不受樣本數和類別相關度的限制。測試集與訓練集的類別越不相近,樣本越多時,性能改善越明顯。

1 兩種典型的小樣本識別方法

小樣本識別在理論上屬于小樣本學習問題。小樣本學習的定義如下:

小樣本學習。小樣本學習是由經驗、任務和性能共同確定的一類典型機器學習問題,其特征是對于任務,經驗僅包含少量的有監督信息樣本。

由定義1可知,解決小樣本學習問題的關鍵是要引入先驗知識,即任何不依賴于當前任務所獲取樣本的信息。下面簡要介紹兩種解決小樣本學習問題的典型方法:元學習和遷移學習。

1.1 基于元學習的小樣本識別方法

針對定義1中的小樣本學習問題,元學習主要通過元學習器跨任務提取的元知識改善新任務的性能。元學習器作為先驗知識用以引導小樣本學習任務。

元學習的代表方法之一為度量學習，也稱為相似度學習,采用距離計算的方式度量樣本間的相似度。距離函數一般采用歐氏距離或余弦距離等。基于度量學習的元學習方法的識別處理框架,即本文提出的適用于HRRP-RATR的基于元學習的小樣本識別框架,如圖1所示。該框架具有兩個核心模塊:特征嵌入模塊和距離度量模塊。特征嵌入模塊將樣本映射到特征向量空間,距離度量模塊計算出待測樣本和已知樣本的相似度,則相似度最大(即距離最近)的已知樣本所屬類別即為待測樣本的識別結果。

圖1 基于度量學習的元學習方法的識別處理框架

從基于度量學習的元學習方法的識別處理流程可以看出,其實現非常簡單,下面結合元學習的學習內涵和泛化目標對元學習方法在小樣本識別任務中具有突出的泛化性進行分析。

在元學習的訓練階段,從原訓練集中隨機采樣了一批子集,每個子集(包括1對支撐集和查詢集)都對應一個類似目標任務的-way-shot分類任務(表示類別數量,表示每一類樣本的數量)。每一輪迭代都對多個任務{}依次進行訓練,每個任務訓練后特征嵌入模塊的參數都會更新。

從元學習的訓練過程可以看出,元學習學習的是多個相似任務間存在的共性,不同任務都有一個與自己適配的最優函數,因此元學習是在整個函數空間上做學習,要學習出這些最優函數遵循的共同屬性。

普通學習和元學習的目標函數分別為

(1)

(2)

通過對比式(1)和式(2)可以看出,與普通學習只考慮最小化給定任務下訓練集上的損失函數不同,元學習的目標函數考慮所有訓練任務,最小化其在各自查詢集上的損失函數之和。

另一方面,從元學習的訓練過程還可以看出,元學習的泛化目標是從多個不同但相關的任務入手,推廣到新任務。

普通學習和元學習的評價指標分別為

(3)

(4)

通過對比式(3)和式(4)可以看出,與普通學習只評估給定任務下測試集上的預測準確率不同,元學習評估的是所有測試任務在各自查詢集上的平均預測準確率。

因此,從上述對普通學習和元學習的學習內涵和泛化目標兩方面的對比可以看出,元學習針對的是小樣本、多任務的學習場景,可解決在小樣本識別任務中快速學習和快速適應的問題,具有突出的泛化性。

1.2 基于遷移學習的小樣本識別方法

不同于元學習,針對定義1中的小樣本學習問題,遷移學習將樣本充足的源任務中所獲取的知識遷移至目標任務,用以改善小樣本學習任務的性能。其中遷移的知識即為先驗知識。

遷移學習的代表方法之一,基于網絡的遷移,即構建參數共享的模型,其中最經典的是微調。首先在源域大樣本訓練集上預訓練一個網絡模型,然后將該模型的較淺層參數直接遷移到目標域的網絡模型上,再用目標域的少量訓練數據進行微調即可,其原理圖如圖2所示。一般來說,源域和目標域之間的關聯性越強,遷移學習從源域數據中學習到的特征(知識)越魯棒,遷移學習的效果就越好。

圖2 基于網絡的深度遷移學習方法原理圖

2 改進的HRRP小樣本識別方法

根據第1節所述的基于元學習的小樣本識別方法,本節提出一種改進的小樣本識別方法,以進一步提升識別精度。先采用元學習的訓練方式,基于源域大樣本訓練集構建以CNN為主干的特征表示網絡,再結合遷移學習思想,針對新任務利用目標域的少量訓練數據對網絡參數進行微調更新,即可獲得適用于目標任務的泛化性突出的識別模型。

需要指出的是,后文中的HRRP均指原始HRRP的幅度信息的簡稱。

圖3給出了改進的元學習小樣本識別方法的流程圖。整套流程分為3個階段:訓練階段、遷移階段和測試階段。其中訓練階段在源域進行,遷移階段和測試階段在目標域進行。訓練階段的數據預處理步驟包括幅度歸一化和樣本平移擴充,而遷移階段和測試階段的數據預處理步驟僅包括幅度歸一化。訓練階段基于源域大樣本訓練集進行網絡模型訓練,訓練完成即得到源域識別模型;遷移階段在源域識別模型上利用目標域的少量訓練數據對網絡參數進行微調更新,即得到目標域識別模型;測試階段利用目標域識別模型對待測樣本一一進行判別,得到識別結果。

圖3 改進的元學習小樣本識別方法流程圖

下面對所提方法采用的數據預處理步驟和網絡模型進行具體介紹。

2.1 數據預處理

針對HRRP的幅度敏感性問題,采用幅度歸一化方式。對于給定的HRRP∈,按極差變換方式進行歸一化處理:

(5)

式中:min(·)表示取最小值;max(·)表示取最大值。歸一化HRRP的動態范圍會統一到[0,1]內。

針對HRRP的平移敏感性問題,采用樣本平移擴充方式。對于歸一化后的HRRP′∈,按循環平移方式,得到平移后的HRRP″∈。″可以是′的左循環平移或右循環平移。采用這種方式,既解決了平移敏感性問題,也起到了數據增擴的效果。

訓練階段采用幅度歸一化和樣本平移擴充兩步是為了保證源域識別模型具有一定的泛化性;而遷移階段僅需針對目標任務對模型進行微調,因此不需要再進行樣本平移擴充。

2.2 網絡模型

所提方法采用的網絡模型如圖4所示。其特征表示網絡(對應圖1中的特征嵌入模塊)采用CNN,包含5個卷積層,每層都后接一個非線性激活層,以及5個最大池化層。分類器部分(對應圖1中的距離度量模塊)采用歐氏距離度量,后接一個Softmax輸出層。在距離度量時,采用每類支撐集樣本特征向量的平均值作為原型,計算查詢集樣本特征向量到原型的歐式距離。模型輸入是經過數據預處理后的HRRP,且每個HRRP的維度是1×1 024。模型輸出是各目標類型的近似后驗概率分布。該模型的顯著特點是采用不同于一般圖像識別的一維卷積核。

圖4 網絡模型結構圖

需要指出的是,在圖3所示的遷移階段,需要對圖4中最后一個卷積層的參數進行微調更新,以適用于特定的目標任務。而前面幾層經過源域大樣本訓練集的訓練,已獲得足夠的共性特征表示能力,因此不需要進行參數微調。

結合圖3和圖4可以看出,所提方法的整套流程沒有繁瑣的數據預處理過程,核心步驟就是網絡模型的訓練、遷移、測試,且網絡模型僅采用5層一維卷積,每層都用64個卷積核,網絡寬度統一,模型參數量較小,因而具有較簡單的算法邏輯和網絡模型,可用于雷達目標識別的工程化應用。

3 性能對比實驗與分析

3.1 實驗設置

實驗數據采用某波段雷達錄取的9種飛機目標的實測寬帶HRRP數據。其中5種飛機屬于P類,另4種飛機屬于Q類。該實測數據的有關參數和實驗設置情況如表1所示。由表1中信息可知,所有HRRP樣本均勻覆蓋0°～180°的目標姿態角,且信噪比水平較高,都被預處理為統一維度1×1 024。由于該數據集包含較多的目標類別,并具有目標姿態完備性,因此可被用來驗證小樣本識別算法的性能,具有一定的代表性。

表1 實驗數據設置

原始數據集總共有9×18 000=162 000個樣本,按不同的目標類別分為訓練集和測試集,然后將訓練集和測試集按目標姿態角均勻隨機抽取樣本,分別分為支撐集和查詢集。表1中的=5,10,20,45,90,180,共有6種樣本數設置。以=180為例,相當于測試集支撐集中每種目標平均每1°有1個樣本,由于HRRP的姿態敏感性,這對于HRRP數據而言屬于小樣本情況。因此,當持續變小直至=5時,這對于HRRP數據而言屬于極小樣本情況。

根據測試集任務不同,將實驗分為3組,具體目標型號設置如表2所示。

表2 實驗分組設置

通過表1和表2可以看出,實驗目的就是要探究支撐集樣本數和任務相關度這兩個關鍵因素對小樣本學習方法的性能影響,以獲得不同方法的應用邊界條件。其中,任務相關度在這里主要體現為類別相關度,即樣本所屬類別的相近程度。例如,P1、P3和Q1的樣本分別屬于3種不同目標,但P1和P3樣本的類別相關度高于Q1和P3樣本的類別相關度,因為P1和P3同屬于P類,而Q1屬于Q類,即從大類上看,P1和P3相近,而Q1和P3不相近。

考慮到數據條件的相似性與可比性,主要對比所提方法與元學習、遷移學習兩種典型小樣本學習方法以及深度學習方法的識別性能。4種方法均采用同樣的特征表示網絡結構,模型參數設置如圖4所示。而且,訓練參數(優化器、學習率等)設置都一樣,且都不使用正則化。

3.2 實驗結果

為了更好地說明方法的性能邊界,也同時給出大樣本情況下的識別性能方便參照。大樣本是指測試集的支撐集樣本數為3×16 200。

采用平均識別率作為識別性能評估指標,其計算公式為

(6)

式中:表示第類正確分類的測試集查詢集樣本數;表示第類總的測試集查詢集樣本數;是測試集的目標類型數。

實驗1的識別性能對比結果如圖5所示。此時,測試集選取的3種飛機都來自P類,訓練集和測試集的類別組成不相近,即任務相關度較小。可以看到遷移學習的性能優于元學習,且隨著樣本增多,優勢越來越明顯。而所提方法的性能始終優于元學習,且性能逼近遷移學習。特別是在樣本較多時,如圖5中虛線橢圓標示區域,所提方法相對于元學習的性能提升非常明顯,最大提升值達到8%。

圖5 實驗1的識別性能對比圖

實驗2的識別性能對比結果如圖6所示。此時,測試集選取的3種飛機都來自Q類,訓練集和測試集的類別組成不相近,即任務相關度小。可以看到元學習、遷移學習、深度學習3種方法的性能曲線相對關系與圖5類似,不過此時遷移學習相對于元學習的性能優勢更加明顯。而所提方法的性能始終優于另外3種方法。特別是在樣本較多時,如圖6中虛線橢圓標示區域,所提方法相對于元學習的性能提升與圖5相比更加明顯,最大提升值達到19%。

圖6 實驗2的識別性能對比圖

結合圖5和圖6所示的識別性能對比結果可知,僅在樣本特別少時,元學習的性能才略優于遷移學習;從整體來看,在任務相關度小時,元學習并不適用,遷移學習性能更優,而所提方法相對于元學習的性能提升十分明顯。

實驗3的識別性能對比結果如圖7所示。此時,測試集選取的3種飛機涵蓋P類和Q類,訓練集和測試集的類別組成相近,即任務相關度大。可以看到在樣本特別少時,如圖7中虛線橢圓標示區域,元學習相對于遷移學習的性能優勢非常明顯,最大性能差達到13%;但隨著樣本增多,元學習的性能逐漸被遷移學習超越。而所提方法的性能始終優于另外3種方法,整體性能提升明顯。

從圖7的識別性能對比結果可知,在任務相關度大時,用源域大樣本訓練集學習到的特征對新任務更有用,元學習較適用,特別是在樣本極少時,元學習的性能優勢十分明顯;在樣本較多時,遷移學習性能更優;而所提方法的整體性能較其他方法提升明顯。

圖7 實驗3的識別性能對比圖

進一步,對圖5～圖7展示的識別結果進行綜合對比可知,在歷史積累樣本類別較多,與目標任務相關度較大的極小樣本情況下,元學習性能優勢十分突出;但元學習的適用條件較苛刻,當任務相關度較小時,遷移學習的性能更穩健;所提方法相對于元學習的性能提升非常明顯,特別是在任務相關度較小時,樣本越多,性能改善越明顯。

3.3 實驗結論

根據上述實驗結果,形成如下基本結論:

(1) 源域和目標域的任務相關度越大,則用源域大樣本訓練集學習到的特征對新的小樣本識別任務越有用,性能提升越大。在任務相關度較大時,元學習性能更優;在任務相關度較小時,遷移學習性能更優。

(2) 極小樣本條件下,元學習的識別性能優勢很明顯,其泛化性很突出。隨著樣本增多,元學習的識別性能逐漸被遷移學習超越。

(3) 元學習的適用條件較苛刻,要求歷史積累樣本所含目標類別較多。

(4) 所提方法可顯著提升元學習的綜合識別性能。源域和目標域的任務相關度越小,樣本越多時,性能改善越明顯。

4 結 論

本文提出了一種改進的基于元學習的小樣本HRRP-RATR方法。以CNN為主干構建特征表示網絡,通過從源域大樣本訓練集中學習到的元知識改善新的小樣本識別任務的性能,并引入遷移學習思想,針對新任務對網絡參數進行微調更新,全面顯著提升識別精度。在實測HRRP數據上進行了詳細的性能測試實驗和結果分析,獲得了4條具有實用價值的結論,可為算法工程化應用提供指導。所提方法與現有技術相比有如下顯著優點:

(1) 具有更突出的識別泛化性,不受支撐集樣本數和任務相關度的限制;

(2) 相對于元學習方法,識別性能整體提升明顯;

(3) 測試集與訓練集的類別越不相近,樣本越多時,性能改善越明顯;

(4) 具有較簡單的算法邏輯和網絡模型,可用于雷達目標識別的工程化應用。

在未來工作中,需重點考慮的兩個小樣本目標識別問題是:在小樣本場景下,能夠達到或者逼近充足樣本下的識別性能;在充足樣本場景下,識別性能仍然有一定提升。另外,元學習+遷移學習的處理方式可為小樣本非合作目標識別提供有效途徑,值得進一步深入研究。