基于卷積神經網絡的通信信號調制識別研究

楊 潔, 夏 卉

(西安郵電大學 通信與信息工程學院， 西安 710121)

0 引言

自動調制識別(automatic modulation recognition，AMR)是一種在不知道接收信號調制類型的情況下，自動對信號調制類型進行分類的過程，AMR在民用和軍事實際應用中發揮著重要作用[1]。AMR算法可以分為兩類：基于似然(likelihood-based,LB)的方法和基于特征(feature-based,FB)的方法。LB方法利用概率論、假設檢驗理論和決策準則等來解決信號調制識別問題,雖然LB方法可以獲得最佳結果，但是計算復雜度很高。FB方法從接收信號中提取若干特征然后用分類器進行識別分類，其中提取的特征包括基于瞬時特征[2]、高階累計量[3]、循環譜技術[4]、時頻分析[5]等，在分類過程中，分類器主要包括決策樹[6]、支持向量機[7]、人工神經網絡[8]等，FB方法大大降低了計算復雜度。但不論是LB方法還是FB方法都需要大量的先驗知識支撐，只適用于特定信號的識別，局限性較大。

針對以上問題深度學習方法被用于自動調制識別。Ao Dai等人[9]使用堆疊稀疏自動編碼器，提出從信號的模糊函數提取特征的方法，S.Jeong等人[10]研究通過短時傅里葉變換生成頻譜圖和卷積神經網絡(convolutional neural network, CNN)模型結合的方法進行識別，李永樂等人[11]研究了一種通過循環譜圖和CNN模型結合的調制識別方法。以上方法缺點是在低信噪比情況下識別率仍然很低。

基于上述分析，本文研究了一種復基帶信號與CNN結合的方法，并提出了CNN模型，這種方法直接從數據中自動學習信號特征。該模型首先仿真生成不同信噪比下的七類調制信號，然后將接收到的信號處理為復基帶IQ兩路信號，對信號進行預處理后作為實驗的數據集，用該數據集來訓練CNN模型、調整超參數，最后利用訓練好的CNN模型對七類通信信號就行識別分類。實驗表明，本文提出的方法在低信噪比情況下有較好的分類準確度，且較文獻[10]中短時傅里葉變換后利用卷積神經網絡進行分類識別的方法準確度有較大提升。

1 信號調制模型

基本的數字調制方式有如下3種：多進制頻移鍵控(multi-band frequency shift keying，MFSK)、多進制振幅鍵控(multi-band amplitude shift keying，MASK)和多進制相移鍵控(multi-band phase shift keying，MPSK)[12]。3種信號可數學建模如下：

(1)

(2)

(3)

在此基礎上，多進制正交調制(multi-band quadrature amplitude modulation,MQAM)同時利用了載波的振幅與相位對傳輸數據進行調制。MQAM表達式：

(4)

由(1)、(2)、(3)和(4)可得調制信號的一般表達式為：

s(t)=A(t)·cos[2πfct+2πf(t)t+θ(t)+θ0]

(5)

其中：s(t)表示連續時間序列信號。根據公式(5)，改變其頻率、相位、振幅或其他參數得到七種調制模型。

2 數據集的生成及預處理

采用數字下變頻(digital down converter，DDC)對公式(5)得到的信號進行處理，得到包括同相分量與正交分量兩部分的復基帶信號，其一般表達式為：

I(n)=A(n)sin(ω0n+nω(n)+φ(n)+φ0)

Q(n)=A(n)cos(w0n+nω(n)+φ(n)+φ0)

(6)

其中：I(n)表示調制信號的同相分量，Q(n)表示調制信號的正交分量。經過信道后，接收信號y(n)可以描述為：

(7)

其中：Ci與ki代表子路徑增益與延遲；fi為多普勒頻率；v(n)表示加性高斯白噪聲(additive white gaussian noise，AWGN)。

在現實中除了存在信道噪聲，調制信號識別的準確性還會受到碼間串擾(inter-symbol interface,ISI)和頻率偏移等因素的影響。由于信道中存在碼間串擾，為了消除碼間串擾對識別準確率的影響，根據奈奎斯特準則，采用升余弦濾波器(raised cosine transmit filter，RCTF )來消除碼間串擾，使每個復值信號經過一個滾降系數為0.4的升余弦濾波器。升余弦濾波器的沖激響應如下：

(8)

其中：α為升余弦濾波器的滾降系數，f0為濾波器的帶寬。

綜上所述，本文考慮在AWGN信道條件下，輸入數據集預處理的過程如圖1。

圖1 數據集生成原理圖

調制識別是將接收到的通信信號的調制類型分類，這是一個n類決策問題。通過根升余弦濾波器后，得到2×N的二維向量矩陣作為輸入的數據集，其中矩陣的第一行是復基帶信號的同向分量，第二行是復基帶信號的正交分量。

3 基于卷積神經網絡的調制識別方式工作原理

3.1 卷積神經網絡的結構

利用卷積神經網絡結構進行調制識別的過程，首先是將預處理過的7類調制信號分別處理為訓練集和測試集，然后通過訓練集訓練CNN模型，并對CNN模型的超參數進行微調，訓練完成后通過輸入測試集對CNN模型進行測試，最后對數字通信信號進行識別分類。

卷積神經網絡是由卷積層、池化層和全連接層組成的前向反饋的多層神經網絡[13]。卷積神經網絡中每層的神經元從輸入的數據中自動進行特征提取特征，從而更新每層神經元的權值。神經元的工作原理如圖2所示，由n個輸入向量[x1,x2,...,xn]與其對應的權重向量[w1,w2,...,wn]作內積，并加上偏倚b，再經過非線性激活函數h(∑iwixi+b)得到輸出f(x;w,b)。卷積神經網絡具有局部感知和權值共享的特點，可以降低訓練參數的個數，減少了計算復雜度。

圖2 神經元的工作原理

1)卷積層是對輸入的數據進行特征提取。輸入的數據一般是特征矩陣，每個卷積層的卷積核尺寸和移動的步長由人工設定，通過卷積核和上一層的特征矩陣進行卷積運算，每計算一個數據窗口后，卷積核平移到下一個位置，通過激活函數得到輸出的特征矩陣。卷積層的計算公式：

(9)

其中:l為網絡層數，f(·)為激活函數，x為輸入向量矩陣，k為卷積核矩陣，b為偏倚量，Y為輸出矩陣，j為特征圖數量。

2)池化層可以有效的縮小矩陣尺寸和緯度，進一步減少全連接層中的參數。池化層前向傳播過程與卷積層類似，需要人工指定滑動窗口矩陣的大小和步長，本文中池化層采用每滑動一次窗口取最大值作為輸出，輸出也是三維矩陣的形式。

(10)

其中:x為池化層中輸入特征的矩陣，N×M為池化滑動窗口的大小。

3)全連接層將所有的神經元與上一層的所有神經元相連，輸出1×N的二維矩陣形式。由于經過全連接層后輸出的維度與原輸入的維度不同，所以最后需要與Softmax相連，對于指定類別的樣本，最終計算得到每個類別的概率。Softmax回歸將樣本x(i)標記為類別j的概率為：

(11)

Softmax交叉熵損失函數為：

(12)

其中:y(i)為one-hot編碼形式，若y(i)=j為真，則I{·}=1，反之I{·}=0,k為類別，M為樣本數。

在訓練神經網絡時，為了使交叉熵損失函數值最小，使用適配性矩估計(Adaptive Moment, Adam)優化算法更新權值。Adam同時具有動量算法(Momentum)和均方根傳播算法(Root Mean Square Propagation,RMSProp)的優點，通過計算損失函數的一階矩估計和二階矩估計為不同參數獨立的自適應性學習率，快速得到全局最優解，具體步驟如下。

步驟1：初始化損失函數梯度的一階矩估計mw=0、損失函數梯度的二階矩估計vw=0、迭代次數t=0,訓練集D={x(i),y(i)},i=1,2,...,N。

步驟2：更新迭代次數t←t+1；

步驟3：隨機從訓練集D中取M個子集，得到Dm，

步驟4：計算損失函數的梯度▽L。

(13)

(14)

(15)

(16)

其中，β1β2為加權指數，取β1=0.9，β2=0.999，η為學習率在訓練過程中進行微調，ε為平滑因子，ε=10-8。

步驟7：重新返回步驟2，繼續訓練下去。直至達到停止條件。

3.2 CNN-IQ卷積神經網絡模型

本文提出一種卷積神經網絡模型，命名為CNN-IQ。CNN的模型框架圖如圖3所示，由1個輸入層(Input)、2個卷積層(Convolution,Conv)，2個最大池化層(Maxpool)，1個全連接層(Fully connected,Fc)和1個Softmax分類器組成，最后將7種信號的調制類型輸出，模型參數見表1。

表1 CNN-IQ模型參數

圖3 CNN-IQ模型

輸入層輸入的是2×1 024大小的2維矩陣；Conv1卷積核大小為1×2、深度為256、步長為1×1，使用全零填充，經卷積計算得到256個2×1 024的特征圖，本層總共有2×512×256×(1×2+1)=786 432個連接。Maxpool1滑動窗口大小為1×2、步長為1×2、使用全零填充，得到256個2×512的特征圖。Conv2中卷積核大小為2×2、深度為128、步長為1×1，不使用全零填充，兩個卷積層使用線性整流函數(Rectified Linear Unit, ReLU)作為激活函數,激活函數使得整個神經網絡模型為非線性，經卷積計算得到256個1×511的特征圖，本層共有1×511×256×(2×2+1)=654 080個連接。Maxpool1滑動窗口大小為1×2，步長為1×1，使用全零填充，得到128個1×128的特征圖。全連接層一共由256個神經元組成，全連接層共有1×128×128×256+256=418 456 0個連接。最后，Softmax層輸出節點的個數為7個。為了避免過擬合，在全連接層處設置p=0.5丟失輸出(Dropout),Dropout方法可以隨機刪掉網絡中一半的神經元，同時保持輸入輸出的神經元不變，可以進一步提升模型可靠性并防止過擬合。

4 仿真實驗和結果分析

4.1 實驗數據集準備

為了訓練卷積神經網絡模型,需要大量的訓練集和測試集樣本數據集，在實驗中利用Matlab產生了7種數字信號模型的IQ數據包括：2FSK、4FSK、BPSK、8PSK、QPSK、QAM16和QAM64。數據集中每類信號由1 024個樣本點組成，保存為2×1 024的矩陣格式，矩陣的第一行為I路信號第二行Q路信號，數據集的具體劃分情況如表1所示。數據集的信噪比由-10 dB到18 db，間隔為2。產生信號的參數：采樣頻率為1 000 Hz,載波頻率為100 Hz，碼元數目為256。其中訓練集包括49 000個樣本，測試集包括4 200個樣本。信號樣本標簽采用one-hot編碼格式。

表2 數據集具體劃分情況

實驗環境如下：顯卡為TITAN X GPU、處理器為Intel(R) Xeon(R) CPU E5-2620 v3 @ 2.40 GHz，內存為10 GB。軟件環境：數據集在window 10下的MATLAB 2016 b下生成，卷積神經網絡的訓練在Ubuntu系統下使用tensorflow1.12框架搭建，開發語言為Python3.6。

4.2 實驗結果分析

實驗中，學習率從0.001開始訓練框架CNN-IQ，在訓練中測試集的損失值大于此時的最大損失值時，讓此時的學習率乘以0.02來進行修正學習率。實驗中共訓練100輪次，每輪次時間約23秒，圖4為訓練損失值與驗證損失值和訓練輪次的曲線圖。訓練損失和驗證損失值隨著輪次的增加，損失值均迅速下降，逐漸兩條曲線趨于一致，說明本實驗模型沒有出現過擬合的現象。epochs=38后損失值基本穩定，并且訓練損失和驗證損失兩條曲線均收斂，epochs=100時，驗證損失值為0.035，此時的損失值已經達到最小值，訓練結束后，將訓練好的卷積神經網絡模型框架和權值保存，方便CNN-IQ模型進行遷移訓練。

圖4 訓練損失和驗證損失隨訓練次數的變化

對訓練好的CNN-IQ模型使用7類通信信號的測試集進行驗證。圖5為CNN-IQ模型7種調制信號平均識別準確率隨SNR變化的曲線。分析識別結果可以發現：隨著SNR的增加，7種信號的平均識別準確率上升，當信噪比為-4 db時，BPSK、2FSK和4FSK識別率均為99%以上。當在信噪比為18 db時，7種信號的總平均準確率可以達到98.85%。

圖5 不同信噪比下的信號識別準確率

圖6為不同信噪比下的混淆矩陣，混淆矩陣對角線上的顏色越深，代表識別準確率越高。圖6(a)為CNN-IQ模型SNR=18 db時測試集的混淆矩陣圖，圖6(b)是SNR=0 dB時的混淆矩陣圖。當SNR=18 db時，除64QAM識別準確率為95%外，其余6種調制信號的準確率都達到99%以上。當SNR=0 db時，7種調制信號的準確率都達到90%以上。

圖6 不同信噪比下的混淆矩陣

為了評估框架的識別性能，在相同數據集下，通過將文獻[10]的方法與本文方法CNN-IQ進行比較，分析了兩種方法隨信噪比的升高對識別準確率造成的影響。

圖7 兩種方法在不同信噪比下的信號平均識別準確率

由圖7分析得出，當信噪比較低時，本文方法較文獻[10]的方法準確率有極大提升。從圖7中的分析結果可以看出，在信噪比小于0 db時，本文方法將準確率提高25.41%左右。當信噪比等于0 dB時，本文平均準確率達到94.61%，而文獻[10]的方法平均準確率為72.13%。當信噪比為18 db時，本文方法準確率達到98.85%，而文獻[10]方法，準確率為95.32%。與文獻[10]提出的方法比較分析得出，CNN-IQ在較低信噪比下準確率有較大幅度的提升，在信噪比較高時準確率也有一定程度的提升。

5 結束語

對于數字通信信號的識別，本文提出一種基于復基帶信號的卷積神經網絡調制識別方法。首先給出了將生成的數字信號處理成為復信號的方法，然后將數據預處理，利用生成好的數據集對搭建的卷積神經網絡進行訓練，通過不斷調整卷積神經網絡的超參數使得損失值最低且收斂，提出一種CNN-IQ模型，最后利用CNN-IQ模型進行遷移學習來識別七類數字通信信號。仿真結果表明，本文方法對數字通信信號識別方法有效，并且在信噪比較低的情況下，信號識別的準確率有大幅度提升。下一步考慮雙通道卷積神經網絡，對如何減少卷積神經網絡結構和參數，同時能保持較高的識別準確率進行研究，進一步提升整個識別過程的運行速度。