基于CWD和殘差收縮網絡的調制方式識別方法

宋子豪, 程 偉,*, 彭岑昕, 李曉柏

(1.空軍預警學院預警情報系, 湖北 武漢 430019; 2.中國人民解放軍95246部隊, 廣西 南寧 530001)

0 引 言

通信輻射源信號的調制方式識別是指在信號接收端對獲取到的調制信號進行處理并識別其調制方式的技術,在非合作通信及電子對抗領域具有重要的研究意義。傳統的調制方式識別方法可分為兩類:基于似然比判決理論的識別方法和基于特征提取的識別方法[1]?；谒迫槐扰袥Q理論的識別方法計算復雜度及對先驗知識依賴度較高,基于特征提取的識別方法存在某些特征提取困難及非高斯信道下所提取特征的準確性難以保證的問題[2]。

近年來,深度學習具有的自動學習樣本深層特征的能力越來越受到調制方式識別領域研究者的關注,一些典型的深度學習方法已經被應用并取得了良好的效果。文獻[3]首次提出將信號的同相/正交(in-phase/quadrature,IQ)信號合并輸入卷積神經網絡(convolutional neural network, CNN)進行通信信號的調制方式識別的方法,并建立了基準數據集。文獻[4]將時域復信號分別直接輸入多種類型的深度學習網絡結構中,通過改變網絡層數及層內參數,研究了各型網絡的識別性能。文獻[3-4]采用一維時域信號作為特征,信號受噪聲影響損失了部分有效特征,使得識別準確率偏低。為了抑制噪聲等干擾對識別性能的影響,提升識別性能,一些變換域上的統計特征也被應用于基于深度學習的調制方式識別方法中,如星座圖[5]、時頻分布矩陣[6-8]、雙譜[9]等。文獻[5]提取了二進制相移鍵控(binary phase shift keying,BPSK)、四進制振幅鍵控(4-order amplitude shift keying,4ASK)等8種類型調制信號的星座圖特征,比較了將星座圖、星座圖灰度圖、星座圖的增強灰度圖、三通道星座圖分別輸入AlexNet中的識別效果,在高斯信道下,信噪比為2 dB時,對8種信號的識別準確率達到了97.3%。文獻[6]利用平滑偽Wigner-Ville分布和Born-Jordan分布得到時頻圖特征,再將其與瞬時特征結合,提出了一種基于CNN和融合特征的自動調制方式識別方案,在高斯信道下,該方案在-4 dB時對2ASK、4ASK等8種信號的識別準確率均超過88%。文獻[9]將雙譜和深度神經網絡用于高斯信道下信號的調制方式識別中,0 dB時對常規脈沖(normal pulse,NP)、線性調頻(linear frequency modulation,LFM)、BPSK、頻移鍵控(frequncy shift keying,FSK)這4種信號的識別準確率達到了97%。文獻[5-6,9]所提出方法在高斯信道下識別性能均優于將時域信號作為輸入樣本的深度學習方法,但是上述方法未對萊斯信道下信號的識別性能進行研究。文獻[7-8]使用短時傅里葉變換(short time Fourier transform, STFT)將萊斯信道下的一維信號轉換為二維時頻譜圖像,將其作為樣本送入深度神經網絡中。仿真結果表明,相對于時域信號作為輸入樣本的深度學習方法,上述方法在高信噪比時性能提升明顯,而低信噪比時性能有待提高。

針對萊斯信道下傳統識別方法特征提取準確性難以保證、深度學習方法在低信噪比下識別率較低的問題,本文提出了一種基于Choi-Williams分布(Choi-William distribution, CWD)和深度殘差收縮網絡(deep residual shrinkage network, DRSN)的通信輻射源信號調制方式識別方法,利用CWD將一維復信號變換為二維時頻分布矩陣,獲取更本質特征,通過殘差網絡、軟閾值化提升低信噪比下的識別能力。

1 輻射源信號及信道模型

本文選用O’Shea于2016年建立的開源基準數據集RadioML2016.10a作為實驗數據集[3],該數據通過GNUradio軟件無線電平臺生成,包含有11種調制信號;信道環境為混有高斯白噪聲的萊斯信道;同一信噪比下各調制方式各有1 000個樣本,信噪比范圍為-20～18 dB,步進2 dB,共有220 000個樣本;每個樣本包含同相和正交分量,采樣點數為128。

數據集信道模型為

(1)

2 數據預處理方法及網絡描述

本文方法運用CWD相關理論對復信號進行時頻變換,得到時頻分布矩陣。利用Z-Score標準化方法對時頻分布矩陣進行標準化,保證數據的可比性。本文運用的深度學習網絡模型為添加軟閾值化的DRSN。

2.1 CWD分布及標準化

傅里葉變換(Fourier transform, FT)是信號分析領域應用廣泛的算法,但是其不能同時進行時間-頻率局域性分析,也不適用于非平穩信號。短時FT(short time FT, STFT)可以同時獲取信號的時頻域特征,但是受測不準定理約束,時頻分辨率有一定局限。針對萊斯信道下信號存在時延及多普勒頻移的情況,Cohen類時頻分析方法因為具有時移不變性和頻移不變性,能在一定程度上規避二者對接收信號特征的影響,更適合對此類信號進行時頻分析。

Cohen類時頻分布可由模糊函數定義[11],即

Cx(t,Ω)=?Ax(θ,τ)g(θ,τ)e-j(tθ+Ωτ)dτdθ

(2)

rx(t,τ)=x(t+τ/2)x*(t-τ/2)

(3)

(4)

式中：x(t)為某一復信號；(·)*表示取共軛；rx(t,τ)、Ax(θ,τ)分別是x(t)的瞬時自相關函數及模糊函數；g(θ,τ)是(θ,τ)平面上的核函數,其目的是為了抑制交叉項。給定不同的核函數,就可以產生不同的Cohen類時頻分析方法。CWD的核函數為e-θ2τ2/σ,表達式[12]為

(5)

(6)

2.2 DRSN

為了解決多層CNN結構模型退化的問題,He提出了跳層連接的深度殘差網絡(residual networks, ResNets)[13]。DRSN作為ResNets的變體,最早用于故障振動信號的分類識別。由于在殘差模塊的基礎上引入了軟閾值化,其在含噪信號的分類識別上有著更好的效果[14]。

軟閾值化是小波降噪算法中的核心步驟,在小波軟閾值降噪算法中,往往需要經過選擇小波基、分解信號得到小波系數和近似系數、選擇固定閾值、估計小波系數等步驟達到數據降噪目的,而選取的固定閾值往往不適應于所有樣本[15]。深度神經網絡提供了解決這個問題的新方法,通過設置子網絡獲取當前層輸出特征圖各通道的閾值,隨后將閾值輸入至軟閾值函數中,軟閾值函數的輸出值即為降噪后的各通道特征圖數值。深度學習和軟閾值的結合可以自適應獲取閾值,消除噪聲相關信息及重構特征,從而有利于分類任務性能的提升。軟閾值函數[15]的表達式為

(7)

式中:din表示輸入特征;y表示輸出特征;τ表示閾值,是一個恒正數。深度殘差收縮模塊(deep residual shrinkage module, DRSM)如圖1所示。

圖1 DRSM結構

輸入經過第l卷積層,通過批標準化(batch normalization, BN)、ReLU函數得到Al+1,將其作為第l+1卷積層的輸入。在第l+1卷積層構造一個獲取閾值的子網絡,對第l+1卷積層的輸出X完成取絕對值操作、全局均值量化得到均值參數β,β為一個一維向量。隨后,經過兩層全連接層,通過Sigmoid函數輸出一組取值在0和1之間的縮放參數α,之后將縮放參數α與β對應項相乘,得到一組閾值τ,其維度為(C,1)。最終,每個特征圖的通道將擁有獨立的閾值。各通道閾值獲取的具體過程表示為

(8)

(9)

τc=αcβc

(10)

(11)

Al+2=As+f(Al)

(12)

本文定義的DRSN結構及參數如圖2所示。其中,Conv代表卷積層,S代表步進數;DRSM代表深度殘差收縮模塊,FCL代表全連接層;(128×128×30)代表上一層輸出特征圖的尺寸為128×128,通道數為30。輸入樣本經過1層卷積層、8層殘差收縮模塊及BN、ReLu函數處理后,多通道特征圖最終展開為一維向量并輸入到全連接層,隨后通過Softmax函數得到調制方式識別結果,其中第一層卷積層的卷積核尺寸為5×5,DRSM塊內卷積層尺寸為3×3。卷積層采用文獻[13]提出的正態分布初始化方法以及l2正則化。利用添加l2正則化項的交叉熵函數計算網絡損失值,以此作為網絡性能指標[16],表達式為

圖2 DRSN結構及參數

(13)

3 調制方式識別流程

調制方式識別的具體步驟如下。

步驟 1隨機初始化DRSN,抽取訓練集規定個數的樣本輸入網絡進行訓練。

步驟 2將網絡最后一層得到的分類結果和實際類型比較,利用添加l2正則化項的交叉熵函數計算網絡損失值,通過優化算法反向調節網絡權值。

步驟 3在每輪訓練開始之前,調取測試集損失值,以此為標準衡量網絡性能。當其5輪之內未下降則中止訓練。

步驟 4重復步驟2～步驟4,直到達到訓練次數上限或滿足提前中止訓練條件,訓練結束后保存權值輸出分類模型。

步驟 5將驗證集輸入分類模型,得到分類結果。

4 仿真實驗與結果分析

4.1 仿真實驗條件

本文使用RadioML2016.10a數據集中八進制相移鍵控(8 phase frequency shift keying, 8PSK)、雙邊帶幅度調制(double-sideband amplitude modulation, AM-DSB)、單邊帶幅度調制(single-sideband amplitude modulation, AM-SSB)、BPSK、連續相移鍵控(continuous phase frequency shift keying, CPFSK)、高斯頻移鍵控(Gauss frequency shift keying, GFSK)、四脈沖振幅調制(4 pulse amplitude modulation, PAM4)、十六進制正交振幅調制(16 quadrature amplitude modulation, 16QAM)、六十四進制正交振幅調制(64 quadrature amplitude modulation, 64QAM)、正交相移鍵控(quadrature phase shift keying，QPSK)、寬帶調頻(wide band frequency modulation, WBFM)的11種信號樣本作為研究對象,信噪比范圍為-20～18 dB,各信噪比下每種調制方式樣本數為1 000,按照0.6∶0.2∶0.2的比例劃分訓練集、測試集、驗證集。本文采用文獻[7]思路,分信噪比建立識別網絡,單次訓練輸入的樣本數為100,網絡優化函數采用Adam算法[17]。迭代次數上限設置為200,為避免網絡過擬合,在訓練過程中設立早停機制,以測試集損失值為監測指標,當其5輪之內未下降則停止訓練,輸出分類模型。

本文利用Matlab 2020a軟件進行信號CWD變換,利用Python及相關庫進行標準化、樣本劃分,依托Tensorflow1.13.1、Keras2.2.4搭建網絡并完成測試分析工作。本文實驗硬件平臺搭載Intel Core i5 10200H型CPU,內存為16 GB,顯卡為Nvidia GTX2060 6 G,硬盤大小為512 GB。

4.2 不同信噪比下的調制方式識別性能仿真

設Nall為樣本總數,Ncorr為分類結果正確的樣本個數,定義總體識別準確率:

(14)

圖3表示本文方法在不同信噪比下總體識別準確率。

圖3 不同信噪比下的總體識別準確率

由圖3可知,總體識別準確率隨信噪比的提高而提高。得益于軟閾值化和殘差網絡的優良表現,本文方法在低信噪比時表現良好。0 dB時,總體識別準確率達到了89.95%;0 dB以上時,總體識別準確率均超過91%。

以此為指標評判對不同調制方式的分類能力。圖4為不同信噪比下各調制方式的召回率。

圖4 各調制方式在不同信噪比下的召回率

由圖3和圖4可知,除AM-DSB、WBFM信號外,各調制方式召回率隨信噪比的提高而提高。得益于軟閾值化和殘差網絡的優良表現,本文方法在低信噪比時表現良好。0 dB時,對除AM-DSB、WB-FM信號外的其他類型調制信號召回率超過89%,總體識別準確率達到89.95%;0 dB以上時,對除AM-DSB、WBFM信號外的其他類型調制信號召回率均超過88%,總體識別準確率均超過91%。

不同信噪比條件下分類混淆矩陣如圖5所示。由圖4及圖5可知,本文方法在區分WBFM和AM-DSB信號時出現困難,這是由于原始數據集中這兩種調制方式的樣本是由實際音頻流生成,在這個過程中有一段音頻流的中斷期,導致這兩種調制方式存在許多相似的樣本,影響了識別的準確率。此外,圖5結果顯示,QAM類信號發生了少量樣本的類內錯判,這是由于QAM類信號相位模式差異細微,載波相位變換在每個周期內僅出現一次,使得雙線性變換后部分時頻圖的相似度較高,區分度受到影響,但召回率仍保持在88%以上。

圖5 不同信噪比條件下分類混淆矩陣

4.3 不同時頻方法下的識別性能仿真

選取Cohen類時頻分析方法中常用的Wigner-Ville分布(Wigner-Ville distribution, WVD)[18]、CWD、Zhao-Atlas-Mark分布(Zhao-Atlas-Marks distribution, ZAMD)[19]、譜圖分布(spectrogram, SP)[11]作為時頻變換方法,窗口大小均設置為21,分別得到維度為128×128的分布矩陣。將4種方法所得時頻矩陣以及原始信號分別輸入網絡中進行訓練,訓練結束后利用驗證集對比不同方法下的識別性能,如圖6所示。

圖6 不同時頻方法下的總體識別準確率

由圖6可知,在絕大多數信噪比下,時頻分布矩陣作為輸入的方法性能要優于將原始信號作為輸入的方法。使用CWD作為時頻分析方法得到的矩陣作為樣本時,識別性能表現最優,而使用WVD獲取的總體識別準確率最低。WVD雖然不受測不準原理限制,時頻分辨率較高,但是其引入了交叉項干擾,從而對識別性能造成了嚴重影響。SP沒有引入交叉項影響,但是其較低的時頻分辨率對識別性能造成了負面影響。ZAMD可消弱交叉項干擾,使得低信噪比下的識別性能得以提升。但是當信噪比大于6 dB時,識別性能出現下滑。綜合來看,CWD時頻聚集度高,抑制交叉項表現好,相同條件下識別性能最優。

4.4 不同數據維度下的識別性能仿真

深度學習訓練中常常利用降維減少訓練時間,但數據降維同樣存在著損失有效信息的風險。本節利用雙三次插值方法對時頻矩陣進行抽樣降維,將維度由128×128分別降至64×64、32×32。將不同維度的時頻分布矩陣輸入至網絡中進行訓練,比較數據維度對性能的影響,如圖7所示。

圖7 不同樣本維度下的總體識別準確率

圖7表明,信噪比為-6 dB以上時,將未進行降維的矩陣輸入網絡的總體識別準確率均顯著優于將降維后的矩陣作為樣本的方法。這說明,降維導致的有效信息的損失,會使得模型總體識別準確率下滑,直接影響分類性能。

4.5 不同模塊個數及模塊內卷積核尺寸下的識別性能仿真

本實驗主要探究殘差模塊個數及模塊內卷積核尺寸對于分類性能的影響。首先,將時頻分布矩陣預處理后作為輸入樣本,改變殘差收縮模塊的個數,對比殘差收縮模塊個數對識別性能的影響。將殘差模塊數量NUM分別設置為2、4、6、8、10。圖8(a)顯示了不同模塊個數下的總體識別率表現。由圖8(a)可知,當NUM為8時,識別性能達到最優。NUM為2或4時,網絡深度不足,模型提取特征的能力受到限制,在0 dB時,總體識別準確率均低于83%。NUM為6時,總體識別準確率得到顯著提升,但是識別性能低于NUM為8的方法。而把NUM提升為10時,網絡復雜度過高,使得其在某些信噪比下出現過擬合,識別性能退化。

圖8 不同模塊個數及卷積核尺寸下的總體識別準確率

將NUM固定為8,改變塊內卷積核尺寸KS, 將KS設為3、5、7,探究改變卷積核尺寸大小對識別性能的影響,如圖8(b)所示。KS=3時,網絡識別性能達到最優。當KS>3時,模型性能未見明顯提升,信噪比大于10 dB時,總體識別準確率甚至出現小幅度下滑。這是由于輸入特征圖維度較低時,較大的卷積核不利于局部特征的提取,引起了網絡退化。

4.6 不同網絡架構下的識別性能仿真

將時頻分布矩陣分別輸入至模塊數相同、塊內卷積核尺寸一致的CNN、ResNets、DRSN進行訓練。圖9為3種不同網絡結構的性能對比。表1為3種網絡結構單批次訓練所需時間及訓練參數個數。本文所采用的DRSN相較于另外兩種網絡,訓練參數更多,單批次訓練時間更長,以增加系統復雜度和訓練時間換取了更優的識別性能。得益于軟閾值的加入,在-2～18 dB時,DRSN識別表現優于另外兩種網絡。

圖9 不同網絡架構下的總體識別準確率

表1 不同網絡架構下單批次訓練時間及訓練參數個數

4.7 本文方法與其他文獻識別性能對比

為了評估本文方法的性能，將本文所提出的方法與將IQ信號作為輸入特征的方法進行對比。文獻[4]運用CNN、密集卷積網絡(dense convolutional network, DenseNet)、ResNets、卷積長短期記憶全連接深度神經網絡(convolutional, long short-term memory, fully connected deep neural networks, CLDNN)等深度神經網絡，提出了IQ-CNN、IQ-DenseNet、IQ-ResNets、IQ-CLDNN等多種方法。文獻[20]將IQ信號輸入至長短期記憶網絡(long short-term memory, LSTM)、添加注意力機制的長短期記憶網絡(LSTM-attention)中，提出了IQ-LSTM及IQ-LSTM-Attention方法。本文方法與復時域信號直接輸入方法的總體識別準確率如圖10(a)所示?？芍?相較于將復時域信號直接輸入的深度學習方法,本文方法的識別性能有較大提升,信噪比在-6～18 dB下總體識別準確率均高于其他文獻方法。信噪比為-2 dB時,本文方法的總體識別準確率較其他方法提升了約7%,信噪比為18 dB時,本文方法的總體識別準確率較其他方法提升了約3%。

圖10 本文方法與其他文獻方法的總體識別準確率對比

將本文所提出的方法與將時頻圖等二維特征圖作為輸入特征的方法進行對比。文獻[6]利用STFT、高斯濾波(Gaussian filter, GF)、模糊函數(ambiguity function，AF)及譜密度函數(spectral density function, SCF)等方法提取二維特征，提出了STFT-CNN、STFT-GF-CNN、AF-CNN、SCF-CNN等方法。文獻[8]將利用STFT得到的時頻特征作為特征向量，提出了基于復數CNN(complex CNN, CCNN)、雙向LSTM(bi-directional LSTM, BiLSTM)的STFT-CCNN-LSTM方法。將本文所提出的方法與上述方法對比，如圖10(b)所示。由10(b)可知,在信噪比大于-6 dB時,本文方法識別性能優于其他方法。在0 dB時,總體識別準確率較其他方法高約10%,在18 dB時,總體識別準確率較其他方法高3%以上。

5 結 論

本文提出了一種萊斯信道下基于CWD及DRSN的通信輻射源信號調制方式識別方法,該方法整合CWD、軟閾值化、ResNets,分信噪比建立識別網絡,實現了對基準數據集RadioML2016.10a中信號的有效識別。在0 dB時,對11類信號的總體識別準確率達到了89.95%;在2 dB及以上時,總體識別準確率均超過91%,優于其他同類深度學習算法。如何進一步建立考慮多載波信號在內的調制識別方法以及結合實測數據的應用將成為下一步的研究方向。