基于Softmax回歸的通信輻射源特征分類識別方法

劉亞沖,唐智靈

(桂林電子科技大學 廣西無線寬帶通信與信號處理重點實驗室,廣西 桂林 541004)

0 概述

由于制造工藝存在隨機性,即使是同一批次生產的不同輻射源電路之間具有細微的個體差異,反映在無線電信號上表現為輻射源的“指紋”特征。這種個體特征為通信輻射源個體的識別提供了可能性。研究通信輻射源個體識別方法在無線通信安全認證、無線電監測、電磁環境感知、信息作戰等領域具有應用價值[1-4]。

通信輻射源特征識別的研究方向有:在理論上探索特征機理,為特征提取提供可靠依據;在技術上設計特征提取和相對應的分類器,作為特征識別系統的核心。目前,在理論和技術上仍然存在很多難點。已經提出的輻射源個體特征大致可分為時域[5-7]、頻域[5,7]、其他變換域[8-9]3類,每一類特征又可包含多維特征,從而形成一個特征向量。但是由這3類特征組成的特征向量往往具有較大的特征維數,這對算法的效率帶來了較大挑戰。針對上述問題,雖然通過神經網絡分類[10]、雙譜特征分析[11]、支持向量機(Support Vector Machine,SVM)[12]等方法解決,但還存在著明顯的不足:隨著訓練樣本數量的增加,神經網絡和SVM的分類效率降低,時間加長。隨著測試樣本數的增加,識別率會有較大下降,識別效果差。

本文設計一種循環譜和Softmax回歸相結合的多分類識別器,在測試樣本數遠大于訓練樣本數的條件下,對輻射源信號進行有效分類識別,并通過聯合主成分分析(Principal Component Analysis,PCA)降維算法提高識別效率。

1 Softmax回歸模型

Softmax回歸模型是logistic回歸模型在多分類問題上的推廣,主要用于解決多分類的問題,即分類識別的輸出結果y可以取2個以上的值。Softmax基本原理:在多分類的問題中,類標簽y有k個不同的值。那么對于訓練集{(x(1),y(1)),(x(2),y(2)),…,(x(m),y(m))},有y(i)∈{1,2,…,k}。對于給定的測試輸入x,Softmax函數針對每一個類別J估算出概率值p(y=j|x),即估計x的每一種分類結果出現的概率。函數hθ(x)形式如下:

(1)

(2)

Softmax函數將k個可能的類別進行了累加,即在Softmax回歸中將x分類為類別J的概率為:

(3)

其中,最大概率所對應的類別即是x的分類類別。

在實際應用中,通常在上訴代價函數中加入權重衰減以解決Softmax回歸的參數冗余導致的數值問題,則式(2)變為:

(4)

利用梯度下降法求解函數中的θ,對式(4)求導后,可以得到梯度公式為:

p(y(i)=j|x(i);θ))]+λθj

(5)

2 信號的循環譜指紋特征提取

2.1 循環譜

循環譜是循環平穩分析的常用手段,它的定義域從頻率擴展到了譜頻率與循環頻率的二維平面,利用循環譜的差異可以對參數不同的信號進行分辨和識別。而且由于平穩噪聲不具有循環平穩特性,因此循環譜分析可以在很大程度上將信號與噪聲區分開,在信號分析中具有很大的優越性[13]。本文采用循環譜手段,通過分析信號中的循環譜特征差異性,從而達到輻射源個體識別的目的。

假設隨機信號為x(t),那么,其自相關函數為[13]:

Rx(t+τ/2,t-τ/2)=E{x(t+τ/2)x*(t-τ/2)}

(6)

如果在時間域Rx(t,τ)是周期為T0的周期函數,滿足下式:

Rx(t+τ/2,t-τ/2)=Rx(t+nT0+τ/2,t+nT0-τ/2)

(7)

則稱信號x(t)具有二階周期平穩特性,并且Rx(t,τ)的Fourier的展開式為:

(8)

(9)

(10)

2.2 循環譜特征的提取

通信信號通常都是調制信號,在調制過程中經常會將某些周期性引入到調制信號中,從而使調制信號具有循環平穩特性。其循環譜不僅在α≠0出存在非零向量,而且在某些特定的循環平率上呈現峰值,所以,通過觀測在循環平率α≠0上的譜峰值的差異可以區分參數不同的通信信號,從而達到識別通信輻射源個體特征的目的。

循環譜特征的提取步驟如下:

1)對信號x(t)以采樣周期Ts均勻采樣N個樣本,得到長度Δt=NTS的離散序列x(n)。

2)對x(n)作離散傅里葉變換得到:xΔt(f)|f=kFs=TsXΔt(k)。

3 主成分分析

如果簡單地將循環譜密度函數作為輻射源特征識別分類器的訓練樣本,往往會面臨樣本維數較高的問題[14]。分類器計算高維數的數據,必然會降低分類識別的效率。因此,需要提取信號的循環譜密度函數作為初始高維特征,然后采用主成分分析法對其進行降維處理。主成分分析是模式識別等領域最為成熟的算法,做為一種線性映射方法引入到分類識別器的構建中來,可實現信號的重構,并最大限度地保留原信號的重要信息。

PCA的基本思想是將數量較多的具有一定相關性的變量變重新組合成一組數量較少的互不相關的變量。通常是將原始變量進行線性加權組合成若干個不相關的綜合變量,從而能夠最大限度的保留原有的數據結構分布,并從中選取最能代表原始數據的幾個成分進行分析,實現對特征空間降維的目的,提升運算效率[15]。

4 Softmax回歸的輻射源特征多分類識別器

分類器的設計是調制信號自動識別技術的重點之一。如何設計出高效率,高識別率的分類器對其相當重要。常見的分類器,如BP神經網絡、徑向基神經網絡,屬于二分類分類器。如果想要對多個類別進行分類,需要增加隱含層的數量,這將大大增加算法的復雜度。同時由于其輸出類別并不互斥,因此對大量相近的樣本分類效果較差。

針對多分類問題,本文構建了循環譜計算與Softmax級聯的多分類識別器,其結構如圖1所示。

圖1 循環譜計算與Softmax級聯的多分類識別器結構

在圖1中,xI是通過循環譜特征提取得到的高維特征向量,XN是經過PCA降維后的最終特征向量,同時作為神經網絡的樣本輸入,wjN是多分類識別器通過樣本訓練后得到的對輻射源信號分類的網絡權值,yJ是經過循環譜與Softmax多分類識別器后得到的已識別信號。識別器對通信輻射源個體特征識別的步驟為:

1)采用循環譜算法對采集的樣本信號進行循環譜密度特征提取,形成特征樣本集。

2)對得到的特征樣本集進行PCA降維。

3)使用降維后的特征樣本集對Softmax多分類識別器進行訓練,得到分類識別模型。

4)對待識別的信號經過第1)步的特征提取,再經過第2)步的PCA降維,最后使用第3)步訓練好的分類識別模型進行特征識別。

5 實驗與分析

實驗采集5部移動電話的輻射信號,每個輻射源采集400個樣本,共2 000個樣本。從每個輻射源的樣本中隨機選取100個樣本組成訓練集,剩下的樣本組成測試集。

首先對每份樣本計算其循環譜密度,得到初始的2 150維特征向量。其中兩部移動電話信號樣本的循環譜密度如圖2所示。因為特征向量維數過多,所以只展示其中3部手機的第19維、20維特征,如圖3所示。由三維圖、等高圖可以看出,即使是兩部工作在相同條件下的手機,它們的循環譜在不同的循環頻率處達到峰值;由特征樣本分布圖可以看出,兩部手機的循環譜密度函數存在一些細微的特征差異。通過分辨這些差異就能達到區分不同輻射源的目的。然后,對初始高維體征進行PCA降維處理,得到的特征值用百分比形式表示如圖4所示。由圖4可見,越靠前的主成份包含的信息量越大。為了充分保留輻射源特征信息,本文選取包含了99%信息量的前899維主成分作為神經網絡的輸入特征集。

圖2 2部手機樣本的循環譜密度函數對比

圖3 3部手機信號的指紋特征樣本分布

圖4 降維特征

最后,對降維獲得的特征向量,使用本文提出的多分類通信輻射源個體分類識別器進行訓練和識別。為了評估新識別器的性能,實現了2種分類識別器對本文的輻射源樣本進行識別:分別為基于BP神經網絡的輻射源識別器,基于Softmax回歸的輻射源多分類識別器,后者直接對未降維的循環譜密度特征進行訓練和識別。對3種方法得到的識別率和識別時間進行了對比,結果如表1所示。從表1可以看出,采用循環譜結合BP神經網絡的方法在測試樣本大于訓練樣本的情況下,識別率會大幅度下降,并且識別率速度慢。本文構建的多分類識別器具有與基于Softmax回歸的輻射源多分類識別器的方法相近的識別率,且不會因為測試樣本數的增加而產生較大變化。同時識別時間明顯縮短,以及識別效率有一定的提高。

表1 各方法性能對比

6 結束語

本文提出一種基于循環譜密度特征的通信輻射源個體識別方法。通過引入Softmax回歸模型實現多分類識別,彌補傳統方法在樣本數大的情況下識別率效果差、識別效率低的不足。在此基礎上,采用PCA算法對特征向量進行降維,進一步縮短識別的時間。實驗結果表明,在大量測試樣本數的情況下,經過降維改進后的識別器仍然能保持較高的識別率,比傳統神經網絡識別器及高維Softmax回歸的多分類識別器的性能有一定改善。

[1] OROSCO E,DIEZ P,LACIAR E,et al.On the Use of High-order Cumulant and Bispectrum for Muscular-activity Detection[J].Biomedical Signal Processing and Control,2015,18:325-333.

[2] 肖樂群,張玉靈,趙擁軍.基于對角積分雙譜的雷達輻射源信號識別[J].信息工程大學學報,2012,13(1):95-99.

[3] OLIVEIRAM D,BITMEAD R R.High-fidelity Modulation Parameter Estimation of Non-cooperative Transmitters:Baud-period and Timing[J].Digital Signal Processing,2011,21(5):625-631.

[4] 陳 紅,蔡曉霞,徐 云,等.基于多重分形特征的通信調制方式識別研究[J].電子與信息學報,2016,38(4):863-869.

[5] 唐 哲,雷迎科,蔡曉霞.通信輻射源的潛在細微特征提取方法[J].電波科學學報,2016,31(5):883-890.

[6] KAWALEC A,PIENIEZNY A.Radar Pulse Trains Classification[C]//Proceedings of Microwaves,Radar and Remote Sensing Symposium.Washington D.C.,USA:IEEE Press,2008:166-169.

[7] 王宏偉,趙國慶,王玉軍.基于脈沖包絡前沿高階矩特征的輻射源個體識別[J].現代雷達,2010,32(10):42-45,49.

[8] 徐書華,黃本雄,徐麗娜.基于SIB/PCA的通信輻射源個體識別[J].華中科技大學學報(自然科學版),2008,36(7):14-17.

[9] ZHANG Jingwen,WANG Fanggang,DOBRE O A,et al.Specific Emitter Identification via Hilbert-huang Transform in Single-hop and Relaying Scenarios[J].IEEE Transactions on Information Forensics & Security,2016,11(6):1192-1205.

[10] 陳 娟.雷達輻射源特征提取與個體識別[D].西安:西安電子科技大學,2013.

[11] TANG Li,JIANG Ting.Target Identification Based on Diagonal Slice of The Complex Bispectrum[C]//Proceedings of IEEE International Conference on Communication Problem-solving.Washington D.C.,USA:IEEE Press,2015:303-306.

[12] SHOTTON J,SHARP T.Real-time Human Pose Recognition in Parts from Single Depth Images[J].Communications of the Association for Computing Machinery,2013,56(1):116-124.

[13] 李世平,陳方超,王 隆,等.多徑信道下基于循環譜特征的調制識別算法[J].計算機應用,2012,32(8):2123-2127.

[14] 陳志偉,徐志軍,王金明,等.一種基于循環譜切片的通信輻射源識別方法[J].數據采集與處理,2013,28(3):284-288.

[15] HAO Zengcao,SINGH V P.Drought Characterization from a Multivariate Perspective:A Review[J].Journal of Hydrology,2015,527:668-678.