基于深度學習和AMP的MIMO檢測算法

朱嘯豪 孫超 姜述超

摘 要：大規模多輸入多輸出（multiple-input multiple-output，MIMO）是5G和未來移動無線網絡的關鍵技術之一。但是，“大規模”帶來顯著性能增益的同時，也給接收機設計帶來了挑戰。基于深度學習和近似信息傳遞（approximate message passing，AMP）檢測算法，提出了一種新的深度學習網絡AMP-net，用于MIMO檢測。在提出的算法中，將AMP算法的每一次迭代作為單層網絡的基礎架構，同時加入非線性神經單元及可訓練權重系數，以實現在固定網絡層數時得到更低的誤碼率。仿真結果證明，對比迭代次數為L的AMP算法，網絡層數也為L的AMP-net可以得到較低的誤碼率，但和無限迭代的AMP算法還是有差距。同時也討論了可訓練的閾值函數對AMP-net的影響。仿真結果證明，使用一個小的全連接網絡來作為閾值函數，比較其余閾值函數可以得到更低的誤碼率。

關鍵詞：大規模MIMO;深度神經網絡;5G;信號檢測

Abstract：Massive multiple-input multiple-output （MIMO） is one of the key technologies for 5G and future mobile wireless networks. However， "large scale" brings significant performance gains， but also poses challenges for receiver design. Based on deep learning and AMP （approximate message passing） detection algorithms， this paper proposes a new deep learning network AMP-net for MIMO detection. In the algorithm， each iteration of the AMP algorithm is used as the infrastructure of the single-layer network， and the nonlinear neural unit and the trainable weight coefficient are added to achieve a lower error rate when the network layer is fixed. The simulation results show that comparing the AMP algorithm with the number of iterations L， the AMP-net with the network layer number L can get a lower bit error rate， but there is still a gap between the AMP algorithm of infinite iteration. At the same time， we also discuss the impact of the trainable threshold function on AMP-net. The simulation results show that using a small fully connected network as the threshold function can achieve a lower bit error rate compared with the remaining threshold functions.

Key words：massive MIMO;deep neural network;5G;signal detection

0 引言

與第四代（4G）無線網絡相比，第五代（5G）無線網絡的數據速率有望提高約1 000倍[1]。 高頻譜效率和足夠的空間自由度使大規模多輸入多輸出（MIMO）成為5G和未來移動無線網絡的關鍵技術之一。但是，大規模MIMO面臨許多挑戰，特別是在接收器的檢測方面[2]。盡管最大似然（maximum likelihood， ML）檢測算法可以獲得最低的誤碼率（bit error rate，BER），但是隨著天線數量的增加，計算復雜度也隨之增加。例如，對于一個具有64個發射天線的MIMO系統，使用BPSK調制，ML檢測算法需要經過檢索1.84×1019個不同的情況才能獲得最佳檢測結果。傳統的線性檢測算法，例如迫零（zero-forcing， ZF）檢測和線性最小均方誤差（linear minimum mean square error， LMMSE）檢測算法，具有較低的復雜度，但其獲得的BER與ML算法之間存在較大差距。更高級的檢測器包括決策反饋均衡（decision feedback equalization，DFE），近似消息傳遞（AMP）[3]和半確定松弛（semidefinite relaxation，SDR）[4-5]，在許多實際情況下，AMP和SDR均可提供接近最佳的精度，并且AMP在實踐中實現簡單。

近年來，深度學習在計算機視覺和自然語言除了等領域取得了成功的應用，也有部分學者開始研究在通信上應用深度學習，這些網絡通常是具有許多非線性操作單元和層的神經網絡。有一種設計深層架構的有前途的方法是展開現有的迭代算法[6]。每次迭代都被視為一個層，這種迭代算法就變成了一個網絡。

本文將傳統的AMP迭代檢測算法與深度學習相結合，提出了一種新的深度學習網絡AMP-net，用于MIMO檢測。傳統的AMP算法在不同信噪比和不同信道時，迭代至收斂的次數不一致。在本文提出的算法中，將AMP算法的每一次迭代作為單層網絡的基礎架構，同時加入非線性神經單元及可訓練權重系數，以實現在固定網絡層數時得到更低的誤碼率。仿真結果表明，對比迭代次數為L的AMP算法，網絡層數也為L的AMP-net可以得到較低的誤碼率，但和無限迭代的AMP算法還是有差距。同時本文也討論了可訓練的閾值函數對AMP-net的影響，仿真結果表明，使用一個小的全連接網絡來作為閾值函數，對比其余閾值函數可以得到更低的誤碼率。

論文接下來將首先介紹大規模MIMO的系統模型;然后在第2部分簡單介紹AMP檢測算法，第3部分基于AMP算法和深度學習提出了AMP-net架構;在第4部分，對AMP-net和不同閾值函數進行了仿真分析;最后進行總結。

1 大規模MIMO系統模型

在上行鏈路中，一個大規模MIMO系統一般由具有Nr個天線的基站（base station， BS）和Nt個單天線用戶組成。系統原型如圖1所示。

此外，為了進一步提高AMP-net的性能，受ResNet[9]啟發，引入了殘差的概念，其中每一層的輸出是與前一層輸出的加權平均值。

4 仿真結果

此部分通過仿真實驗驗證所提出的算法的優異性能，仿真場景如下：

收發天線數：Nr=Nt=32，

訓練集信噪比：5-15 dB，

測試集信噪比：0-16 dB。

仿真中使用Adam Optimizer[10]優化神經網絡。在每次迭代中使用5 000個隨機數據樣本進行批處理訓練，并對網絡進行50 000次迭代訓練。每個樣本是根據x，H和噪聲的統計從（1）獨立生成的。關于噪聲，其方差是未知的，因此也是隨機產生的，因此SNR將均勻地分布在U（SNRmin，SNRmax）上。這種方法使本文提出的算法能夠檢測更加廣泛的SNR值，如圖3所示。

圖3展示了在不同收發天線數量的情況下，6層AMP-net比6次迭代的AMP算法對比，誤碼率為10-3時信噪比提高了1.7 dB，與無限迭代直至收斂的AMP算法只落后1 dB，如圖4所示。

圖4是L=6時，不同閾值函數的AMP-net對比。結果說明采用一個全連接網絡作為閾值函數可以達到更好的檢測效果，誤碼率為10-3時比其余閾值函數提高至少0.5 dB。

5 總結

本文基于深度學習和AMP檢測算法提出了AMP-net網絡架構，對比同樣迭代次數的AMP算法，檢測效果有顯著提高，且可預見的是可以通過改善網絡結構和閾值函數進一步提高算法性能。鑒于提出這種結構的思路，傳統的迭代檢測算法都可以展開成深度神經網絡，這給當下檢測算法和深度學習網絡架構的研究提供了一個新的思路。這也將是我們未來的工作。

參考文獻

[1] Andrews-J-G.， Buzzi-S.， Choi-W. What will 5G be？. IEEE Journal on selected areas in communications， 2014，32（6）， 1065-1082.

[2] E G Larsson. MIMO detection methods：How they work[J]. IEEE Signal Process. Mag.， 2009，26（3）：91-95.

[3] C Jeon， R Ghods， A Maleki， et al. Optimality of large mimo detection via approximate message passing[C]// IEEE International Symposium on Information Theory （ISIT）. IEEE， 2015：1227-1231.

[4] Z Q Luo， W K Ma， A M So， et al. Semidefinite relaxation of quadratic optimization problems[J]. IEEE Signal Processing Magazine， 2010， 27（3）：20-34.

[5] J Jalden， B Ottersten. The diversity order of the semide？nite relaxation detector[J]. IEEE Transactions on Information Theory，2008，54（4）：1406-1422.

[6] J R Hershey， J L Roux， F Weninger. Deep unfolding：Model-based inspiration of novel deep architectures[J]. arXiv preprint arXiv：1409.2574， 2014.

[7] Senel K， Larsson E G. Device activity and embedded information bit detection using AMP in massive MIMO[J]. arXiv preprint arXiv：1709.05161， 2017.

[8] Donoho D L， Maleki A， Montanari A. Message-passing algorithms for compressed sensing[J]. Proceedings of the National Academy of Sciences of the United States of America， 2009， 106（45）：18914.

[9] K. He， X Zhang， S Ren， et al. Deep residual learning for image recognition[C]. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition， 2016：770-778.

[10] Kingma-D-P， Ba-J. Adam：A Method for Stochastic Optimization. international conference on learning representations， 2015.

（收稿日期：2019.11.14）