基于稀疏自編碼器的混合信號符號檢測研究

郝崇正 黨小宇 李 賽 王成華

(南京航空航天大學電子信息工程學院 南京 210016)

1 引言

盲信號檢測在合作和非合作通信中發揮著重要的作用，例如民用通信中的頻譜管理和認知無線電，軍事通信中的電子偵察和電子對抗等。符號檢測(Symbol Detection, SD)是盲信號檢測中重要且具有挑戰性的任務。SD是指接收機端的檢測器根據概率模型對受噪聲干擾和信道損傷的發送信號進行重建，從而恢復原始的發送信息[1]。傳統的符號檢測算法完全依賴已知的信道模型和調制方式等參數，然而，實際通信系統中信道模型的建立和準確的參數估計面臨較大的挑戰。

目前，深度神經網絡(Deep Neural Network,DNN)在信號檢測和處理中得到了快速的發展[2–6]，基于DNN的信號檢測方法為解決上述挑戰提供了一種途徑。文獻[7]設計了一種基于自編碼器架構的最優發射和接收系統，該系統中信道被認為是自編碼器神經網絡的一層，通過使用準確的條件概率密度函數進行描述。然而，該結構的檢測性能依賴已知的信道模型。文獻[8]利用卷積神經網絡(Convolutional Neural Network, CNN)實現了二進制相移鍵控(Binary Phase Shift Keying, BPSK)信號的解調。然而，該檢測器僅能完成對BPSK一種調制信號的相位檢測。文獻[9]利用DNN對理想信道條件下的多輸入多輸出信號進行檢測，并與傳統的迫零均衡檢測、反饋均衡判決檢測、球譯碼檢測等進行了比較，但是，該研究僅對理想信道條件下的檢測性能進行了分析。文獻[10]提出了一種聯合專家知識和DNN的正交頻分復用接收機，通過使用DNN結構簡化傳統接收機的設計。

以上研究中，使用的DNN結構較復雜(包含較多的神經元數目和層數)，導致網絡的訓練和部署困難，在戰場等實際場景下應用受限。其次，研究中大多使用計算機視覺或自然語言處理等領域成熟的DNN架構，然而，通信信號具有區別于圖像和語言文本的屬性，因此，信號檢測中DNN檢測器的結構應根據通信信號特點進行設計。此外，已知的DNN符號檢測器僅能完成單一調制信號的檢測，無法處理混合信號的符號恢復。同時，大多數檢測是在理想條件下進行的，忽略了DNN檢測器的通用性和信號損傷等因素對檢測性能的影響。

與已有工作不同，本文研究了基于稀疏自編碼器(Sparse AutoEncoder, SAE)神經網絡的混合信號符號檢測方法，提出了基于誤符號率(Symbol Error Rate, SER)度量的稀疏自編碼器檢測器(Sparse AutoEncoder Detector, SAED)結構選擇策略，通過該方法優化SAED的結構，從而降低網絡的復雜度。同時，提出了利用累積量和矩特征向量實現混合信號的符號檢測方案。本文設計的SAED不依賴信道模型和噪聲假設，在加性高斯白噪聲(Additive White Gaussian Noise, AWGN)和Rayleigh衰落信道下對不同調制方式的混合信號均具有較好的檢測性能。此外，SAED在頻率和相位偏移及有限訓練樣本下均具有較強的魯棒性。本文結構安排如下：第2節給出了問題的闡述；第3節給出了SAED結構選擇策略和基于特征向量的混合信號檢測模型；第4節給出了仿真結果和討論；第5節進行了復雜度的分析；第6節總結全文。

2 問題闡述

調制信號經過信道傳播后，接收信號的復基帶模型可表示為

3 SAED結構選擇方法和混合信號符號檢測模型

3.1 SAE檢測模型

自編碼器(AutoEncoder, AE)是一種可以實現在輸出端重建輸入信號的深度神經網絡結構[11]。已知的AE結構通常包含較多的隱藏層數目，從而導致網絡結構復雜[7]。本文利用基于SER度量的SAED結構選擇策略對SAE檢測器的結構進行設計，從而降低符號檢測器的復雜度。

SAED通過式(1)的采樣信號，在接收端重建發送符號。該過程即最小化符號檢測器的最優判別函數的錯誤概率。最小化錯誤概率可等價為最小化符號檢測器的損失函數，根據式(2)，最小化判別函數的錯誤概率問題可表示為

3.2 基于誤符號率度量的SAED結構選擇方法

已知的基于DNN的信號檢測相關文獻中，大多沒有對DNN中每層神經元數目和層數的選擇方法開展研究。然而，DNN檢測器的結構影響網絡的訓練、部署、檢測精度和計算復雜度。為了簡化DNN檢測器的結構，同時保證檢測的精度，本文提出了基于SER度量的SAED節點數目和層數選擇策略。設輸入層節點數目為L，Ni表 示第i個隱藏層上的神經元數目，?(該值通過實驗確定)用以衡量理論SER值κt與 SAED計算的SER值κSAED之間的誤差。基于SER度量的SAED結構選擇策略步驟如下：

3.3 基于累積量和矩特征向量的混合信號符號檢測

累積量和矩是信號處理的重要工具，用以提取信號的有效特征[13]。本文提出一種基于累積量和矩的特征向量(Cumulants and Moments Features Vector, CMFV)方法進行信號的預處理，提取信號的特征以實現混合信號的符號檢測。

圖1 基于CMFV的混合信號符號檢測模型框圖

4 實驗數值仿真和討論

實驗部分分別對SAED的結構選擇策略和SAED在不同信道和非理想條件下的混合信號檢測性能進行數值仿真。仿真參數設置如下：(1)SAED的結構選擇策略仿真中，使用BPSK在AWGN信道下的采樣數據分析不同結構對SAED檢測性能的影響；(2)符號檢測仿真中，在確定SNR下，訓練數據集的大小為D×N×P，其中，D=L=8為輸入層信號的維度(輸入層節點數目與特征向量的數目相同)，N=2為 混合數據集中信號的種類，P是符號觀察周期。混合信號調制方式包括FSK,PSK和QAM，信道包括AWGN和Rayleigh衰落。仿真中的頻率偏移(Frequency Offsets, FO)和相位偏移(Phase Offsets, PO)參照文獻[13]設置，其中，歸一化最大頻偏為 1.4×10?4，最大相位偏移為 π/8。SAED的符號檢測性能與最大似然檢測(Maximum Likelihood, ML)進行比較。表2是符號檢測中SAED的結構和參數設置。其中，激活函數為Linear, ReLU, Softmax，優化算法為L-BFGS。

表2 SAED結構和參數配置

實驗1 為了驗證基于SER度量的SAED結構選擇策略的有效性，使用BPSK在AWGN信道下的采樣數據集作為SAED的輸入信號，分析不同結構的SAED誤符號率性能。根據表1的SAED結構選擇算法，分別驗證了隱藏層節點數目和隱藏層數目對SAED符號檢測性能的影響。由圖2可知，SAED的結構對符號檢測性能具有較大的影響。當僅有1個隱藏層時，SAED 符號檢測性能明顯低于BPSKML理論值。具體來說，當輸入層節點數目為8個，隱藏層節點數目為4個時，SAED的檢測性能不穩定，SER曲線的波動較大；當隱藏層節點數目為6個時，SAED在0～5 dB的檢測性能與ML相比約有1 dB的損失。這是因為，SAED的隱藏層神經元數目較少時，其無法從輸入數據中提取足夠的信號特征進行符號的恢復。同時，當SAED具有兩個隱藏層時，其符號檢測性能接近ML檢測理論值，即采用(8,7,3)結構時，SAED誤符號率性能與ML理論值最大誤差僅為0.3 dB。

表1 基于SER度量的SAED結構選擇策略

圖2 SAED結構對符號檢測性能的影響

實驗2 圖3是SAED在AWGN信道下BFSK和BPSK混合信號的SER性能曲線。原始采樣數據經過歸一化和CMFV預處理形成BFSK和BPSK混合信號訓練數據集，數據集大小為8×2×20 K。由圖3可知，在理想條件下，CMFV-SAED-BFSK和CMFV-SAED-BPSK的SER性能幾乎可達到ML的理論值。具體來說，CMFV-SAED-BFSK與MLBFSK的最大性能差約0.2 dB；CMFV-SAEDBPSK與ML-BPSK的最大性能差僅為0.1 dB左右。此外，在頻偏條件下，SAED具有較好的魯棒性，當歸一化頻偏為1.4×10?4時，SAED-BPSKFO和ML-BPSK在–6～7 dB上的最大性能損失約為0.3 dB。

圖3 AWGN信道下BFSK和BPSK混合信號的SER性能曲線

實驗3 圖4是AWGN信道下16QAM和BFSK混合信號的SER性能曲線。BFSK和16QAM的符號觀察周期均為20 K。由圖4可知，SAED對BFSK和16QAM混合信號具有較好的檢測性能，CMFVSAED-BFSK和CMFV-SAED-16QAM的SER性能基本可以達到ML理論值。具體來說，CMFVSAED-16QAM與ML-16QAM相比，在整個SNR范圍內的最大的性能損失約為0.2 dB；CMFV-SAEDBFSK在–6～6 dB 上與ML理論值的性能差小于0.1 dB。同時，當最大相位偏移為π /8時，CMFVSAED-16QAM-PO比ML-16QAM約有0.3 dB的性能損失。

圖4 AWGN信道下16QAM和BFSK混合信號的SER性能曲線

實驗4 圖5是Rayleigh衰落信道下QPSK和16QAM混合信號的SER性能曲線。QPSK和16QAM混合信號經過CMFV預處理后作為SAED的輸入，其中，QPSK的符號觀察周期為20 K，16QAM的符號觀察周期為30 K。由圖5可知，CMFV-SAEDQPSK和CMFV-SAED-16QAM在Rayleigh信道中的SER性能曲線與ML-QPSK和ML-16QAM曲線分別有0.5 dB和1 dB左右性能差異，該性能損失可能是由時變信道和高階調制引起的。此外，CMFVSAED-16QAM使用8×30 K樣本的SER性能，可以達到原始16QAM采樣信號使用8×40 K樣本的性能，從而說明，CMFV預處理可以從原始數據中提取更多的信號特征，從而降低SAED符號檢測對樣本數目的需求。

圖5 Rayleigh衰落信道下QPSK和16QAM混合信號的SER性能曲線

5 復雜度分析和討論

為了對DNN符號檢測器的復雜度進行分析，本部分將SAED與文獻[15]的SD-DNN檢測器和文獻[16]的SD-DenseNet檢測器進行復雜度的對比分析。DNN符號檢測器的復雜度分析中，分別從節點數目和1次迭代過程中執行乘法運算的次數兩方面進行對比。

表3 SAED復雜度對比分析

6 結論

針對已知的DNN符號檢測器結構復雜且無法實現混合信號的符號檢測問題，本文首先提出了一種基于誤符號率度量的SAED結構選擇策略；然后，提出了基于累積量和矩特征向量的混合信號符號檢測方法。本文設計的符號檢測器不依賴信道模型和噪聲假設，通過采樣數據可重建發送符號。實驗結果表明，SAED在AWGN和Rayleigh信道下符號檢測性能接近ML理論值；在頻率偏移、相位偏移和有限訓練樣本條件下具有較好的魯棒性。此外，相比于已知的DNN符號檢測器，本文設計的SAED具有較低的計算復雜度。