基于卷積神經網絡的信道均衡算法

陳敏華 李 楊 張武雄

(中國科學院上海微系統與信息技術研究所 上海 201210)

基于卷積神經網絡的信道均衡算法

陳敏華 李 楊 張武雄

(中國科學院上海微系統與信息技術研究所 上海 201210)

在現代無線通信系統中，為了克服由傳輸信道的非線性以及多徑效應引起的符號間干擾，解決傳統信道均衡算法難以適應的時變信號均衡問題，提出一種基于卷積神經網絡的信道均衡算法。通過采集實際通信系統中發送端的相位偏移調制QPSK(quadrature phase shift keying)發送符號序列及接收端的接收符號序列，并將其分割為訓練集和測試集來訓練及測試卷積神經網絡均衡器。實驗結果驗證了在相同信噪比條件下，基于卷積神經網絡的信道均衡算法對QPSK恢復的誤符號率相比RLS算法和MLP算法分別降低了20%和5%。

信道均衡 卷積神經網絡 無線通信 深度學習

0 引 言

信道均衡技術可以有效降低符號間干擾對通信系統的影響，對數字通信技術的發展起著關鍵作用。常用的信道均衡技術主要分為兩類，一類是基于訓練的信道均衡，包括最小均方濾波LMS(least mean square)[1]和迭代最小二乘法RLS(recursive least square)[2]等；另一類為盲均衡算法，主要有恒模算法CMA(constant modulus algorithm)[3]，多模算法MMA(multi-modulus algorithm)[4]等。傳統的信道均衡技術往往將信道建模為一個線性系統，通過迭代算法不斷逼近最優的線性模型來找到最優參數。但是非線性特性強烈及多徑豐富的環境下，傳統的信道均衡算法由于無法擬合非線性系統，因而并不能保證較低的誤碼率。

人工神經網絡由于其擬合非線性系統的能力在信道均衡領域吸引了很多關注。文獻[5-6]分別使用不同結構的神經網絡進行信道均衡，并證明在相同信噪比條件下，神經網絡算法能達到更低的誤比特率。文獻[7]提出了一種搜索優化的方法來訓練神經網絡，提升了網絡的訓練速度。文獻[8-9]提出用神經網絡解決5G通信和可見光通信等不同場景下的信道均衡問題的方法。但是由于受到無線數據采集能力的限制，這些工作都只在理論和計算機仿真角度驗證了神經網絡解決信道均衡問題的可行性，缺乏在實際數據集上的驗證。

鑒于此，本文提出了一種基于卷積神經網絡的信道均衡算法，并在實際采集的QPSK調制發送符號序列及接收符號序列組成的數據集上進行測試。

1 問題建模

1.1 信道均衡

本文將自適應信道均衡問題建模為一個可以用神經網絡求解的多分類問題，并基于softmax回歸分析[10]方法計算分類的條件概率。

圖1 信道均衡總體結構

1.2 softmax回歸模型

傳統的邏輯回歸只能解決二分類問題，而 softmax回歸模型是邏輯回歸在多分類問題上的一種推廣。假設采用softmax回歸模型，對應每組特定的接收端信號Y(n)，均衡器輸出的條件概率分布函數為：

(1)

式中ω=[ω1,ω2,…,ωk]為模型的參數。根據式(1)，可以得到總的概率分布函數為：

(2)

1.3 模型求解

求解模型的過程就是不斷優化模型參數以降低代價函數值，從而降低誤判率的過程，通過對大量實際采集數據的訓練，可以不斷提高均衡器的準確性。在開始模型的訓練前，需要先選定優化的代價函數。softmax回歸模型采用極大似然估計的方法來求解模型的參數，代價函數為：

(3)

式中，m表示訓練網絡所用的樣本總數。1{*}函數為一個特殊函數，當其參數為真時返回1，否則返回0。將式(1)代入式(3)可以得到：

(4)

根據式(4)很難直接求解代價函數的極小值點，但是由于代價函數并非嚴格非凸函數，因此，可以利用梯度下降的方法來求解代價函數的極小值點，表示為：

(5)

通過式(5)，可以計算損失函數的梯度方向，在每一次樣本訓練結束后，沿著代價函數的梯度方向更新模型的參數ω直到收斂。經過訓練迭代，不斷降低代價函數的值，直到代價函數J(ω)收斂，并將這組參數ω作為系統的參數[11]。

2 卷積神經網絡結構設計

卷積神經網絡[12]是一種前饋人工神經網絡，最初在圖像識別[13]領域取得廣泛應用。卷積神經網絡通過卷積層遍歷每個樣本的方式，能夠有效地提取出樣本中的特征，克服非線性變換對樣本特征的影響。在實際的無線通信系統中，也面臨著非線性時變系統響應的問題。傳統的信道均衡方法往往無法考慮信道的非線性時變特性對信號傳輸的影響。我們可以利用卷積神經網絡模擬非線性系統的能力來提升信道均衡的性能。

圖2是為信道均衡問題設計的神經網絡。網絡的輸入層為接收天線得到的信號通過固定長度的滑動窗口采集下來的訓練數據。具體而言，每個輸入樣本的大小都為2×N，其中N表示滑動窗口的長度，2表示分別采集信號的實部與虛部。輸入層后接了兩個卷積層。卷積層是卷積神經網絡中最關鍵的環節，用于提取輸入樣本的特征[14]，每個卷積層都有若干個不同的卷積核。如圖3所示，每個卷積核都會以一定的步長遍歷整個卷積層輸入并進行卷積運算。每一個卷積核都會生成一張特征圖，這就是卷積層提取特征的過程。

圖2 卷積神經網絡結構

圖3 卷積層示意圖

卷積運算的結果并不會直接存儲在神經網絡中，而是通過一個激活函數進行計算后作為特征保存下來。常用的激活函數有Sigmoid函數，ReLU函數，tanh函數[15]等。Sigmoid函數適用于特征相差不是特別大時，tanh函數適合于特征相差比較明顯的樣本，而ReLU函數適用于特征較為稀疏的情況[16]。本文在卷積層選擇tanh函數作為激活函數，而在全連接層采用ReLU函數作為激活函數。

在構建網絡的過程中，需要注意卷積核的大小決定了神經感受野的大小。卷積核過大或過小，都將導致無法提取有效的局部特征。除卷積核的大小外，卷積核的個數，卷積核移動的步長等，都是需要調整的關鍵參數。第二個卷積層的結構與第一個卷積層類似，也存在若干個不同的卷積核。神經網絡通過級聯卷積層的方式擴大感知野的范圍。

神經網絡在最后接入softmax層以計算當前樣本在網絡中被判為每個類別的概率。每次訓練后，都將softmax層的輸出與樣本對應的真實類別向量進行比較，并利用梯度下降法更新網絡參數，經過不斷的訓練可以提升網絡的性能。

3 實 驗

3.1 數據采集

為了保證測試數據的真實性和均衡算法的可靠性，同時保證采集數據的多樣化，本文在多個典型室內通信環境下分別采集無線信道數據，并在各個不同數據集上對算法進行測試。如圖4所示，本文用一種并行架構的信道探測儀在一些典型的室內無線通信環境中采集了大量數據。

圖4 數據采集設備與環境

本文采用QPSK調制信號作為發送信號，并在發送端疊加-10～20 dB的噪聲。每次采集過程以100 M/s的碼片速率連續發送4 096個QPSK碼片200次，并將相應的收發數據以TDMS文件的形式存儲在本地。并行信道探測儀主要組件如表1所示。

表1 并行信道探測儀主要組件

3.2 實驗結果與分析

完成數據采集后，將各個數據集最后的五分之一分割出來作為測試集，剩余的部分作為訓練集。其中訓練集用于訓練卷積神經網絡以計算網絡參數，測試集用于對訓練后的深度神經網絡進行測試以驗證算法的有效性。本文還在相同數據集上使用RLS和MLP算法進行對比了實驗。圖5為在信噪比為20 dB的環境下，三種算法訓練的均衡器從接收信號恢復出來的星座圖。從圖中可以看出，在20 dB信噪比環境下，基于神經網絡算法恢復出來的星座圖比RLS恢復出來的星座圖收斂的更好。需要注意，由于CNN算法使用的是softmax分類模型，其恢復出的符號將被固定在星座圖上特定的位置。

圖5 RLS,MLP以及CNN恢復信號的星座

為了能夠更直觀地表現這三種信道均衡算法的準確性，分別對信噪比-10～20 dB范圍內的數據集進行了實驗，并記錄不同信噪比環境下三種算法恢復信號所得到的誤符號率。結果如圖6所示。

圖6 不同信噪比下的誤符號率

從圖中可以看到，在不同的信噪比環境下，CNN的誤符號率都要低于MLP和RLS。當信噪比低于0 dB時，RLS和MLP算法誤符號率都很高，幾乎不能恢復出發送符號，CNN得到的誤符號率要低于另外兩種算法，但是也不理想。當信噪比在0 dB到15 dB范圍內時，三種算法的誤符號率都隨著信噪比的提高而有所降低，但是RLS的誤符號率還是明顯高于另外兩種算法。同時，CNN的誤符號率始終比MLP低，并且隨著信噪比的提升，兩者的誤符號率越來越接近。當信噪比在10 dB以上時，三種算法都能夠達到接近于0的誤符號率。

如前文所述，卷積核的大小對卷積神經網絡的性能有著至關重要的影響。在卷積神經網絡的設計中，調節卷積核的尺寸是研究人員非常重要的一項工作。本文分別嘗試使用多種不同尺寸的卷積核來構建卷積層，并使用信噪比為5 dB時采集的無線數據進行測試。實驗結果如表2所示。

表2 不同尺寸卷積核的測試結果

從表2中可以看出，當卷積核較小時，無法準確提取特征，而當卷積核過大時，準確性并沒有提升，并且由于卷積計算的復雜度變大，影響算法性能。

除了卷積核大小之外，另一個對卷積神經網絡性能影響較大的參數是訓練集的大小。本文分別使用多個信噪比為5 dB的不同大小的訓練集對神經網絡進行訓練，實驗結果如表3所示。

表3 不同訓練集的測試結果

實驗結果表明，訓練集越大，訓練的效果越好，但是當訓練集大小超過20 000后，繼續提高訓練集大小并不能明顯提高神經網絡的性能，反而會增加訓練過程的計算復雜度。

4 結 語

本文提出了一種基于卷積神經網絡的算法來解決非線性時變信道的均衡問題，并在實際的通信系統中采集QPSK調制的發送符號序列及接收符號序列組成的數據集，用來訓練卷積神經網絡。實驗結果表明，相比RLS算法以及MLP算法，卷積神經網絡能夠更好地處理真實通信環境中非線性時變信道的均衡，在信噪比較低的情況下能夠達到更低的誤符號率。如何通過網絡結構的調整優化算法的計算復雜度將是我們下一步的研究方向。

[1] Umer M.Adaptive LMS Based Channel Equalization[J].International Journal of Technology and Research,2014,2(4):111-113.

[2] Sahoo S K,Mohanty M N.Effect of BER Performance in RLS Adaptive Equalizer[J].International Journal of Advanced Computer Research (IJACR),2012,2(4):208-211.

[3] Singh J M,Khan A,Gupta A,et al.Performance evaluation of CMA blind channel equalization for 4-QAM modulation[J].International Journal of Emerging Trends & Technology in Computer Science,2014,3(2):117-120.

[4] Silva M T M,Arenas-Garcia J.A soft-switching blind equalization scheme via convex combination of adaptive filters[J].IEEE Transactions on Signal Processing,2013,61(5):1171-1182.

[5] Lavania S,Kumam B,Matey P S,et al.Adaptive channel equalization using recurrent neural network under SUI channel model[C]//Innovations in Information,Embedded and Communication Systems (ICIIECS),2015 International Conference on.IEEE,2015:1-6.

[6] Das G,Pattnaik P K,Padhy S K.Artificial Neural Network trained by Particle Swarm Optimization for nonlinear channel equalization[J].Expert Systems with Applications,2014,41(7):3491-3496.

[7] Panda S,Mohapatra P K,Panigrahi S P.A new training scheme for neural networks and application in non-linear channel equalization[J].Applied Soft Computing,2015,27:47-52.

[8] Sarker M A L,Lee M H,Chung J G.ISI Free Channel Equalization for Future 5G Mobile Terminal Using Bio-inspired Neural Networks[J].Wireless Personal Communications,2015,83(4):2899-2923.

[9] Haigh P A,Ghassemlooy Z,Rajbhandari S,et al.Visible light communications:170 Mb/s using an artificial neural network equalizer in a low bandwidth white light configuration[J].Journal of Lightwave Technology,2014,32(9):1807-1813.

[10] Taddy M.Distributed multinomial regression[J].The Annals of Applied Statistics,2015,9(3):1394-1414.

[11] Reverdy P,Leonard N E. Parameter Estimation in Softmax Decision-Making Models With Linear Objective Functions[J].IEEE Transactions on Automation Science & Engineering,2015,13(1):54-67.

[12] 李彥冬,郝宗波,雷航.卷積神經網絡研究綜述[J].計算機應用,2016,36(9):2508-2515.

[13] Krizhevsky A,Sutskever I,Hinton G E.Imagenet classification with deep convolutional neural networks[C]//Advances in neural information processing systems,2012:1097-1105.

[14] Klein B,Wolf L,Afek Y.A Dynamic Convolutional Layer for short range-weather prediction[C]//2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR),Boston,MA,2015:4840-4848.

[15] Lecun Y,Bengio Y,Hinton G.Deep learning[J].Nature,2015,521(7553):436-444.

[16] 尹寶才,王文通,王立春.深度學習研究綜述[J].北京工業大學學報,2015,41(1):48-59.

CHANNELEQUALIZATIONALGORITHMBASEDONCONVOLUTIONALNEURALNETWORK

Chen Minhua Li Yang Zhang Wuxiong

(ShanghaiInstituteofMicrosystemandInformationTechnology,ChineseAcademyofSciences,Shanghai201210,China)

In modern wireless communication system, in order to reduce the influences of InterSymbol Interference (ISI) introduced by nonlinear channel and multipath effect and solve the problem that the traditional channel equalizer cannot adapt to time-varying signals, a channel equalization algorithm based on convolutional neural network (CNN) is proposed. The quadrature phase shift keying (QPSK) dataset collected from the transmitting side and the receiving side of real wireless communication system is split into training set and test set to train and test the CNN algorithm. We thus conclude that the SER performance for QPSK systems with the CNN equalizer outperforms that of recursive least square (RLS) and multilayer perceptron (MLP) by in average 20% and 5% at low signal to noise ratio.

Channel equalization Convolutional neural network Wireless communication Deep learning

TP183

A

10.3969/j.issn.1000-386x.2017.09.050

2016-11-12。國家自然科學基金項目(61471346)；國家科技重大專項(2014ZX03005001)；上海市自然科學基金項目(14ZR1439700)。陳敏華，碩士生，主研領域：數據挖掘。李楊，博士生。張武雄，博士。