基于深度學(xué)習(xí)的輻射源個體識別方法綜述

李 軍，夏春秋

(1.解放軍91977部隊(duì)，北京 102249；2.深圳市唯特視科技有限公司，深圳 518057)

0 引 言

輻射源個體識別(SEI)技術(shù)是指對信號細(xì)微特征進(jìn)行提取，然后識別出信號來源個體的方法。輻射源的個體識別研究主要應(yīng)用于2類：一類是雷達(dá)輻射源信號的識別；另一類是通信輻射源信號的識別。

傳統(tǒng)的輻射源個體識別方法為：接收輻射源的發(fā)射信號，對接收的信號進(jìn)行預(yù)處理后，以人工或經(jīng)驗(yàn)方式提取信號的細(xì)微特征，再基于這些細(xì)微特征，采用閾值分類或者機(jī)器學(xué)習(xí)分類的方法實(shí)現(xiàn)對輻射源的個體識別。然而，傳統(tǒng)識別方法的識別過程比較繁瑣，并且對于一些復(fù)雜的信號識別效果不太理想。

隨著人工智能技術(shù)的日益成熟，將深度學(xué)習(xí)應(yīng)用于輻射源個體識別成為可能。本文將探討如何將深度學(xué)習(xí)應(yīng)用于輻射源個體識別。

1 基于深度學(xué)習(xí)的輻射源個體識別方法

輻射源個體識別方法的工作流程如圖1所示。

圖1 輻射源個體識別方法的工作流程

輻射源個體識別方法的關(guān)鍵3個過程為：

(1) 信號預(yù)處理；

(2) 信號特征提取；

(3) 信號識別。

其中，步驟(2)和步驟(3)可以采用深度學(xué)習(xí)的方法進(jìn)行。

1.1 信號預(yù)處理

如果將原始信號數(shù)據(jù)直接送入神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，會帶來大量冗余數(shù)據(jù)，增大網(wǎng)絡(luò)訓(xùn)練與識別計(jì)算量的同時也會影響神經(jīng)網(wǎng)絡(luò)對深層特征的挖掘。因此，需要對原始信號進(jìn)行預(yù)處理，得到輻射源的初始信號特征。

輻射源的初始信號特征可以概括為3類：一是基于信號統(tǒng)計(jì)參數(shù)的特征；二是基于信號變換域的特征；三是基于輻射源非線性的特征。

基于信號統(tǒng)計(jì)參數(shù)的特征主要有：時域參數(shù)特征、頻域參數(shù)特征以及高階統(tǒng)計(jì)量參數(shù)特征?；谛盘栕儞Q域特征的信號處理方法包括：小波分析、時頻分析、希爾伯特-黃變換以及固有時間尺度分解變換等方法?；谳椛湓捶蔷€性的特征可以歸為以下2類：一是建立基于發(fā)射機(jī)內(nèi)部器件非線性的模型，這里的器件可以是單個器件，也可以綜合考慮多個器件的相互影響；二是基于輻射源系統(tǒng)的非線性行為，主要利用相空間、分形理論等分析。

以下列出幾種常見種類的初始信號特征：

(1) 時域特征：根據(jù)時間變量描述信號的變化情況，時域特征圖如圖2所示。在時域內(nèi)對信號進(jìn)行濾波、放大、統(tǒng)計(jì)特征計(jì)算、相關(guān)性分析等處理，統(tǒng)稱為信號的時域分析。

圖2 時域特征圖

(2) 頻率特征：大部分信號都可以用傅里葉變換轉(zhuǎn)換成在不同頻率下對應(yīng)的振幅及相位，此種考慮信號或系統(tǒng)頻率相關(guān)部分的分析方式稱為頻域分析。把信號的幅度或相位關(guān)于頻率的變化關(guān)系用圖來表示，就形成如圖3所示的頻譜圖。

圖3 頻譜圖

(3) 多項(xiàng)式擬合特征：對樣本信號采樣處理后，進(jìn)行多項(xiàng)式擬合，得到一條能反應(yīng)信號基本趨勢的擬合曲線。多項(xiàng)式擬合特征圖如圖4所示，多項(xiàng)式擬合的方法是：求一條曲線，使數(shù)據(jù)點(diǎn)均勻分布在此曲線的上方或下方不遠(yuǎn)處。

圖4 多項(xiàng)式擬合特征圖

(4) 功率譜特征：功率譜表示信號功率隨頻率的變化關(guān)系。如圖5所示，功率譜特征圖中，一般采用橫坐標(biāo)為頻率，縱坐標(biāo)為功率。

圖5 功率譜特征圖

(5) 倒頻譜特征：倒頻譜是指信號的對數(shù)功率譜的逆，它具有時間因次，為了與通常頻率的頻譜相區(qū)別，有時稱它為時譜。倒頻譜特征如圖6所示，其橫坐標(biāo)為時間。

圖6 倒頻譜特征圖

(6) 循環(huán)譜特征：對循環(huán)譜函數(shù)估計(jì)樣本頻域特征參數(shù)，繪制循環(huán)譜圖，循環(huán)譜特征如圖7所示。

圖7 循環(huán)譜特征圖

(7) 邊際譜特征：對希爾伯特(Hilbert)變換做積分，顯示邊際譜圖，邊際譜特征圖如圖8所示。邊際譜可以處理非平穩(wěn)信號，如果信號中存在某一頻率的能量出現(xiàn)，就表示一定有該頻率的振動波出現(xiàn)，也就是說，邊際譜能比較準(zhǔn)確地反映信號的實(shí)際頻率成分。相比傅里葉變換，邊際譜可以處理非平穩(wěn)信號。

圖8 邊際譜特征圖

(8) 稀疏表示特征：稀疏意為通過最小數(shù)量的系數(shù)盡可能多地描述信號的能量。稀疏頻譜圖如圖9所示。

圖9 稀疏頻譜圖

(9) 高階譜特征：信號的二階統(tǒng)計(jì)量特征是信號的瞬時特征統(tǒng)計(jì)量。如果信號具有高斯特性，則二階度量工作正常。但是生活中很多信號是非高斯的，高階統(tǒng)計(jì)特征能更好地反映信號的特征。譜中高階隨機(jī)過程的高階累積量屬于高階統(tǒng)計(jì)量。在一二階統(tǒng)計(jì)量無法獲得的信號特征，可以采用更高階的統(tǒng)計(jì)量提取有用的信號信息。高階譜特征圖如圖10所示。

圖10 高階譜特征圖

(10) 小波熵特征：熵是一個能夠反映系統(tǒng)混沌程度的非線性動力學(xué)參數(shù)。信息熵是由信息論的鼻祖Shannon提出的，用于度量信息量，因此信息熵也被稱作Shannon熵。熵的概念最初源自熱物理學(xué)，因此熵的計(jì)算常常和能量聯(lián)系在一起。本文所計(jì)算的小波熵，就是反映小波包分解后各子頻帶信號能量分布情況的特征量，是能量熵。對樣本信號進(jìn)行小波變換，求信號不同尺度上的能量分布，顯示小波熵特征圖。小波熵特征圖如圖11所示。

圖11 小波熵特征圖

(11) 混沌特性：關(guān)聯(lián)維數(shù)是非線性動力學(xué)中一種重要的非線性特征量，用于對非線性動力學(xué)系統(tǒng)高維空間的自相似結(jié)構(gòu)的復(fù)雜度進(jìn)行定量表征。關(guān)聯(lián)維數(shù)越大表示自相似結(jié)構(gòu)越復(fù)雜。換句話說，關(guān)聯(lián)維數(shù)反映了信號時間序列在高維空間下自身的結(jié)構(gòu)相似性。常用的計(jì)算關(guān)聯(lián)維數(shù)的方法被稱為G-P算法。

可以將上述特征中的一種信號特征作為初始信號特征，或者基于任一信號特征進(jìn)行特征變換后作為初始信號特征。甚至，可以把基于2種或2種以上的信號特征，進(jìn)行特征融合后作為初始信號特征。

1.2 信號特征提取

將1.1中得到的初始信號特征直接或者降維后作為輸入向量，輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中，提取輻射源發(fā)射信號的“指紋”特征。以下對輻射源個體識別方法中常用的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行簡單介紹。

(1) 卷積神經(jīng)網(wǎng)絡(luò)(CNN)

卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)元件包括：卷積層、池化層、激活層和全連接層。

卷積層是卷積神經(jīng)網(wǎng)絡(luò)中的核心部件。卷積層通過2個重要的思想來改進(jìn)傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，即局部連接和參數(shù)共享。

池化層也稱為下抽樣層，通常在卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，在連續(xù)的卷積層之間會插入池化層。通過池化層可以逐步減小卷積特征圖的空間大小，以減少網(wǎng)絡(luò)中的參數(shù)量。

激活層將卷積層或者全連接層現(xiàn)行運(yùn)算的輸出做非線性映射，為神經(jīng)網(wǎng)絡(luò)提供非線性能力。激活層通過激活函數(shù)來實(shí)現(xiàn)，常見的激活函數(shù)包括Sigmoid、tanh、ReLu等。

全連接層是卷積神經(jīng)網(wǎng)絡(luò)中另外一個線性運(yùn)算的層，通常連接在卷積神經(jīng)網(wǎng)絡(luò)的尾部，用于構(gòu)建分類器。

典型的卷積神經(jīng)網(wǎng)絡(luò)模型有AlexNet、VGG、GoogleNet、ResNet、DenseNet。近年來部分卷積神經(jīng)網(wǎng)絡(luò)模型的識別性能對比數(shù)據(jù)如表1所示。

表1 卷積神經(jīng)網(wǎng)絡(luò)模型的識別性能對比

在輻射源個體識別領(lǐng)域，卷積神經(jīng)網(wǎng)絡(luò)模型是目前應(yīng)用和研究最多的一種模型。在實(shí)際應(yīng)用中，可根據(jù)需要搭建不同層數(shù)的卷積神經(jīng)網(wǎng)絡(luò)模型，并設(shè)置合適的每層卷積核的數(shù)量與尺寸、激活函數(shù)、代價(jià)函數(shù)與梯度優(yōu)化算法、Droupout比率、初始化方法，以獲得最佳性能的神經(jīng)網(wǎng)絡(luò)模型。

(2) 循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)

循環(huán)神經(jīng)網(wǎng)絡(luò)循環(huán)處理歷史數(shù)據(jù)，以及對記憶進(jìn)行建模，并隨時間動態(tài)地調(diào)整自身的狀態(tài)，通常適用于處理時間和空間序列上有強(qiáng)關(guān)聯(lián)的信息。

針對循環(huán)神經(jīng)網(wǎng)絡(luò)模型基本結(jié)構(gòu)對長序列數(shù)據(jù)的記憶能力不強(qiáng)，并且當(dāng)序列信號在網(wǎng)絡(luò)中多次傳遞后有可能引起梯度問題，人們提出了長短期記憶網(wǎng)絡(luò)(LSTM)、門控循環(huán)單元(GRU)等更加復(fù)雜的循環(huán)神經(jīng)網(wǎng)絡(luò)和記憶單元，使得循環(huán)神經(jīng)網(wǎng)絡(luò)模型可有效處理長序列信號。

(3) 深度波爾茲曼機(jī)(ERDRBM)

深度玻爾茲曼機(jī)由多層受限玻爾茲曼機(jī)疊加而成。文獻(xiàn)[2]提出了一種用于輻射源信號識別的深度波爾茲曼機(jī)模型。通過仿真實(shí)驗(yàn)，證明該模型的有效性，但同時文獻(xiàn)[2]也提出該模型存在計(jì)算復(fù)雜度較高等問題。因此仍需對該模型進(jìn)行進(jìn)一步研究。

(4) 混合神經(jīng)網(wǎng)絡(luò)

李立欣等人提出由卷積層模塊、膠囊層模塊和門控循環(huán)單元層模塊組成的混合神經(jīng)網(wǎng)絡(luò)，以提取無線電信號的特征。

1.3 信號分類

在基于深度學(xué)習(xí)的輻射源個體識別方法中，1.3與1.2通常一起集成在設(shè)計(jì)好的神經(jīng)網(wǎng)絡(luò)中。神經(jīng)網(wǎng)絡(luò)的最后一層設(shè)計(jì)為分類器，如softmax分類器，直接輸出輻射源的類別。

2 改進(jìn)的基于深度學(xué)習(xí)的輻射源個體識別方法

實(shí)際應(yīng)用中，針對不同輻射源信號識別的差異，如實(shí)際測試樣本與訓(xùn)練樣本之間的信噪比不同，需要對傳統(tǒng)的基于深度學(xué)習(xí)的輻射源個體識別方法進(jìn)行改進(jìn)，以提高識別的精度。

2.1 零-小樣本學(xué)習(xí)的弱監(jiān)督學(xué)習(xí)方法

在訓(xùn)練樣本缺乏或?yàn)榱銟颖镜那闆r下，需生成樣本以滿足訓(xùn)練要求，即采用零-小樣本學(xué)習(xí)的弱監(jiān)督學(xué)習(xí)方法。零-小樣本學(xué)習(xí)的弱監(jiān)督學(xué)習(xí)方法具有多種，這里僅介紹幾種典型的方法。

(1) 對抗訓(xùn)練

不同輻射源的細(xì)微硬件差異導(dǎo)致其發(fā)射信號的幅度與相位偏差一般是不明顯的，因此容易受到噪聲干擾而導(dǎo)致誤識別。因此，引入數(shù)據(jù)生成思維，構(gòu)建生成網(wǎng)絡(luò)模型來模擬輸入數(shù)據(jù)的樣本分布狀態(tài)，達(dá)到擴(kuò)大訓(xùn)練樣本總量和提高識別精度的目的。生成對抗網(wǎng)絡(luò)(GAN)模型是一種基于機(jī)器學(xué)習(xí)的全新生成式模型，從結(jié)構(gòu)上看，生成對抗網(wǎng)絡(luò)模型由深度神經(jīng)網(wǎng)絡(luò)的生成器G和判別器D組成。

對抗訓(xùn)練的關(guān)鍵在于對抗樣本的生成。對于一個訓(xùn)練好的用于分類的卷積神經(jīng)網(wǎng)絡(luò)，當(dāng)輸入向量疊加一個細(xì)微擾動Δ后，網(wǎng)絡(luò)損失值最大對應(yīng)的Δ即為對抗樣本。此時的細(xì)微擾動Δ最容易使得原神經(jīng)網(wǎng)絡(luò)出現(xiàn)誤判，因此需要以輸入向量+Δ和真實(shí)標(biāo)簽對神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，提升神經(jīng)網(wǎng)絡(luò)識別對抗樣本的性能，增強(qiáng)魯棒性。

基于現(xiàn)有的樣本生成對抗樣本后，既可以解決輻射源識別中輻射源信號樣本集小而影響識別效果的問題，也可以在一定程度上提升神經(jīng)網(wǎng)絡(luò)的抗噪性能。只有在信噪比較高(大于 16 dB)時，因?yàn)樾盘栙|(zhì)量較好，對抗訓(xùn)練與不進(jìn)行對抗訓(xùn)練的識別效果才會相同。

(2) 遷移學(xué)習(xí)

遷移學(xué)習(xí)(Transfer Learning)是一種機(jī)器學(xué)習(xí)方法，是把一個領(lǐng)域(即源領(lǐng)域) 的知識遷移到另外一個領(lǐng)域(即目標(biāo)領(lǐng)域)，使得目標(biāo)領(lǐng)域能夠取得更好的學(xué)習(xí)效果。

文獻(xiàn)[4]提出了一種基于領(lǐng)域自適應(yīng)的原理，通過設(shè)計(jì)遷移學(xué)習(xí)模型，將有標(biāo)簽單一信噪比下訓(xùn)練的神經(jīng)網(wǎng)絡(luò)遷移到無標(biāo)簽的其他信噪比下，達(dá)到可以有效識別不同信噪比信號的目的。打破由于噪聲干擾造成的隔離，減弱傳統(tǒng)輻射源識別算法對訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)的信道噪聲條件一致的要求。

(3) 數(shù)據(jù)增強(qiáng)

數(shù)據(jù)增強(qiáng)的方法有多種，如：圖像翻轉(zhuǎn)、圖像濾波、灰度變換等，從而使訓(xùn)練樣本的數(shù)量增加多個甚至多倍。

2.2 多特征融合識別

由于輻射源發(fā)射信號的復(fù)雜性日益增強(qiáng)，利用單一的信號特征無法起到好的識別效果；為此，人們提出采用多特征融合識別的方法進(jìn)行輻射源個體識別。

文獻(xiàn)[5]提出分別將多種信號特征輸入到多個神經(jīng)網(wǎng)絡(luò)模型中，獲取多個預(yù)分類結(jié)果數(shù)據(jù)，再將多個預(yù)分類結(jié)果數(shù)據(jù)拼接后輸入到分類器中，獲取最終的分類結(jié)果。

文獻(xiàn)[6]提出了一種基于多特征融合雙階段分類識別方法，利用神經(jīng)網(wǎng)絡(luò)初級分類器分別對多類特征數(shù)據(jù)集進(jìn)行學(xué)習(xí)，得到多個初始分類結(jié)果；然后將多個初始分類結(jié)果同時輸入到次級分類器中，完成最終的分類識別。

3 基于FPGA處理器的深度學(xué)習(xí)加速器

隨著人們對神經(jīng)網(wǎng)絡(luò)的持續(xù)改進(jìn)，神經(jīng)網(wǎng)絡(luò)的性能越來越好，識別精度越來越高。但與此同時，神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)深度和規(guī)模越來越大，由此帶來參數(shù)大、功耗較大，且計(jì)算效率低等問題。因此，有必要設(shè)計(jì)低功耗的神經(jīng)網(wǎng)絡(luò)加速器。

現(xiàn)場可編程門陣列(FPGA)具有可編程和高可靠性等優(yōu)點(diǎn)，已不斷被嘗試用來加速神經(jīng)網(wǎng)絡(luò)的運(yùn)算。利用FPGA 并行計(jì)算的優(yōu)勢，研制基于FPGA的深度學(xué)習(xí)模型加速系統(tǒng)，可在保證模型運(yùn)行效能的前提下實(shí)現(xiàn)小型化、低功耗的目的。

3.1 神經(jīng)網(wǎng)絡(luò)的壓縮技術(shù)

將神經(jīng)網(wǎng)絡(luò)部署到FPGA平臺之前，可采用壓縮技術(shù)對神經(jīng)網(wǎng)絡(luò)進(jìn)行壓縮。神經(jīng)網(wǎng)絡(luò)模型的壓縮方法主要包括如下幾種：參數(shù)剪枝、低秩分解、參數(shù)量化、知識蒸餾。

也可以將以上任一方法進(jìn)行混合，來進(jìn)行神經(jīng)網(wǎng)絡(luò)的壓縮。

3.2 神經(jīng)網(wǎng)絡(luò)的推理加速

出于安全性考慮，在移動設(shè)備上，目前主要采用CPU+FPGA異構(gòu)平臺實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)的推理加速。圖12是一種卷積神經(jīng)網(wǎng)絡(luò)加速器的架構(gòu)圖，該加速器的架構(gòu)設(shè)計(jì)包括CPU處理器部分(PS)和FPGA 邏輯資源部分(PL)。因?yàn)榫矸e神經(jīng)網(wǎng)絡(luò)的計(jì)算密集層主要為卷積層和全連接層，所以在進(jìn)行軟硬件劃分的時候，在FPGA上實(shí)現(xiàn)的主要是網(wǎng)絡(luò)的運(yùn)算。而CPU處理器主要負(fù)責(zé)對輸入數(shù)據(jù)和參數(shù)進(jìn)行預(yù)加載和分配，并執(zhí)行對FPGA初始階段的控制。

圖12 一種卷積神經(jīng)網(wǎng)絡(luò)加速器的架構(gòu)設(shè)計(jì)

越來越多的云服務(wù)商，在數(shù)據(jù)中心部署FPGA云服務(wù)器，提供云端面向深度學(xué)習(xí)推理任務(wù)的解決方案。這樣，使得輻射源個體識別方法能通過網(wǎng)絡(luò)迅速獲取云端計(jì)算的識別結(jié)果。

3.3 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練加速

出于成本和部署的便利性考慮，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練逐漸轉(zhuǎn)向云端，各廠商都展開了采用FPGA云服務(wù)器對神經(jīng)網(wǎng)絡(luò)的訓(xùn)練加速研究。例如，浪潮電子提出了一種深度學(xué)習(xí)模型的FPGA加速執(zhí)行方法，實(shí)現(xiàn)將模型中的卷積核拆分到多個FPGA板卡執(zhí)行計(jì)算，從而實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的加速。

4 結(jié)束語

本文主要總結(jié)了深度學(xué)習(xí)應(yīng)用在輻射源個體識別方法中的情形和發(fā)展趨勢。隨著深度學(xué)習(xí)技術(shù)的進(jìn)步，輻射源個體識別方法也在不斷演化，人們不斷嘗試用新的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行輻射源指紋特征的提取，識別精度和識別速率等性能也在逐漸提高。毫無疑問，基于深度學(xué)習(xí)的輻射源個體識別方法應(yīng)用于移動端和各領(lǐng)域會日趨成熟。