基于深度學習的無線通信接收方法研究進展與趨勢

李攀攀，謝正霞，樂光學，劉鑫

綜述

基于深度學習的無線通信接收方法研究進展與趨勢

李攀攀1，謝正霞2，樂光學1，劉鑫3

（1.嘉興學院信息科學與工程學院，浙江 嘉興 314001；2.嘉興學院建筑工程學院，浙江 嘉興 314001；3.大連理工大學信息與通信工程學院，遼寧 大連 116024）

隨著無線通信應用邊界的不斷擴展，無線通信應用環境也日趨復雜多樣，面臨射頻損傷、信道衰落、干擾和噪聲等負面影響，給接收端恢復原始信息帶來挑戰。借鑒深度學習方法在計算機視覺、模式識別、自然語言處理等領域取得的研究成果，基于深度學習的無線通信接收技術受到學術界和產業界的廣泛關注。首先闡述了國內外基于深度學習無線通信接收技術的研究現狀；接著概述了信號大數據背景下無線通信接收所面臨的技術挑戰，并提出基于深度神經網絡的無線通信智能接收參考架構；最后探討了信號大數據背景下無線通信智能接收方法的發展趨勢。為基于深度學習無線通信技術的研究和發展提供借鑒。

無線通信；信號大數據；深度學習；深度神經網絡；信號接收

0 引言

通信系統是利用自然界的基本規律和人類的基礎感官可達性建立的信息系統，通信手段和技術的提升是人類不斷探索的動力[1]。近年來，以5G、6G、物聯網、邊緣計算等為代表的新一代信息技術拓展了無線通信應用場景，特別是在以高密度無線網絡（high density wireless network，HDWN）技術、大規模多輸入多輸出（multiple input multiple output，MIMO）技術、毫米波技術等為代表的新興技術的推動下，無線通信技術得到了迅猛發展[2-4]。

無線通信技術始終圍繞著如何提高傳輸速率和通信質量展開，作為信息接收的關鍵，無線通信接收技術是構建整個無線通信系統的基礎之一[5]。但是，當前信號體制種類及數量呈指數級增長、信息系統結構愈加復雜、電磁應用環境愈發惡劣，無線電在開放環境中亦面臨著射頻損傷、信道衰落、干擾和噪聲等因素的影響，無線通信接收端如何從各種復雜因素及其相互疊加影響的含噪聲和干擾的海量信號中精確地恢復得到原始信息，逐漸成為當前無線通信接收所面臨的嚴峻挑戰。因此，無線通信系統中能夠有效抑制干擾的智能接收技術備受學術界和產業界的關注[6-7]。

近年來，以深度神經網絡為代表的人工智能技術（如監督學習、無監督學習、強化學習、遷移學習等）在計算機視覺、自然語言處理、模式識別等領域取得了巨大成功。深度神經網絡具有自組織、自適應和自學習等能力，適合處理因素眾多（特別是涉及信息模糊和不精確）的問題。將深度神經網絡應用于無線通信系統接收成為探索智能通信的有效方法，將給智能通信信號接收與處理技術的發展帶來活力[8]。借鑒深度學習方法中自動特征提取、可持續學習的思想，部署在接收端的深度神經網絡能夠使用海量射頻數據樣本集自動提取信號特征，識別射頻信號在開放、復雜信道環境中所受到的噪聲和干擾，并感知信道時變，提升無線通信接收端恢復信息的能力[9-13]。

1 無線通信接收模型與深度學習

傳統的無線通信系統發射端完成信號信源編碼、信道編碼等工作。無線通信系統框架結構如圖1所示，將基帶信號經過調制后，以射頻載波形式發射出去，射頻信號經過無線信道后由接收端經過解調、信道譯碼、信源譯碼等流程恢復得到比特流信息。

圖1 無線通信系統框架結構

從圖1可以看出，信號從發射端經過含噪聲的無線信道到達接收端，電磁波不可避免會受射頻損傷、信道衰落、噪聲和干擾等因素的影響，到達接收端的信號將失真[14]；從理論方面看，現有的通信理論體系結構在利用信號大數據和深度學習方面有著固有的局限性，難以從信號大數據中深層次挖掘隱藏的、有價值的信息，這都給接收端精確地恢復得到原始信息帶來了理論和技術上的挑戰[15]，特別是在當前大帶寬、高速率、低時延的應用場景下。因此，將神經網絡應用到接收端是解決上述問題的關鍵技術之一。

近年來，深度學習已成功應用到無線通信領域，如信道估計[15]、信道狀態信息（channel state information，CSI）反饋與信號檢測[16]、端到端聯合優化[17]等。神經網絡應用在無線通信接收端的發展歷程如圖2所示，從2015年至今，深度學習在計算機視覺、模式識別等領域取得的成果給無線通信智能接收研究帶來了新的機遇。

基于深度學習的無線通信接收端框架如圖3所示。把I/Q（in-phase/quadrature）信號描述為二維或三維圖像，使用深度神經網絡部分或全部替代傳統接收端中信道估計、均衡、信號檢測與譯碼、CSI檢測與反饋等步驟，恢復得到原始信息。隨著深度學習取得的大量研究成果及其在各領域的廣泛應用，將深度學習應用于通信系統的接收端并精確處理復雜信號已成為學術界和產業界關注的重點[13]。

2 研究現狀及關鍵技術

近年來，深度學習及其衍生技術的出現為信號處理注入了新的活力，基于深度學習的無線通信接收技術呈現出神經網絡替代接收端單模塊、多模塊，乃至接收端整個端到端的聯合優化趨勢。根據神經網絡模型層數不同，應用到無線通信接收端的深度學習模型可分為人工神經網絡（artificial neural network，ANN）、卷積神經網絡（convolutional neural network，CNN）以及循環神經網絡（recurrent neural network，RNN）等。

2.1 接收端信道估計、均衡、解調、解碼技術

2.1.1 信道估計

能否準確地獲取CSI直接影響無線通信系統的整體性能，現代無線通信系統的能量效率、頻譜利用率和系統容量獲得了前所未有的提升，但是通信系統導頻污染嚴重，通信環境復雜多變導致信道快時變、非平穩特性等因素，這都導致難以獲取精確的CSI。因此，在接收端研究基于深度學習的信道估計變得極為重要[18-19]。

圖2 神經網絡在無線通信接收端的發展歷程

圖3 基于深度學習的無線通信接收端框架

文獻[20]借鑒深度學習模型特征提取的能力，較早將深度學習引入信道估計研究，在信道向量為條件高斯隨機變量的情況下，為了消除協方差矩陣不具備平移不變性所導致的信道估計復雜度高的問題，采用最小均方誤差（minimum mean squared error，MMSE）并利用CNN模型補償誤差，將信道估計復雜度降低到(log)。文獻[21]基于DNN模型的自適應信道估計方法，在有信噪比（signal-to-noise ratio，SNR）先驗知識的前提下，使用歸一化最小平方誤差方法解決了傳統基于線性最小均方誤差信道估計精確度低的問題。與文獻[21]的假設條件不同，文獻[22]在無須信道模型和統計性先驗知識的情況下，針對時變瑞利衰落信道環境，提出了基于深度學習的信道估計，能夠以較小的均方誤差動態追蹤信道狀態。

文獻[23]針對正交頻分復用（orthogonal frequency division multiplexing，OFDM）信道估計研究提出一種基于DNN的雙選擇性信道衰落估算方法：首先采用模擬數據離線訓練DNN模型，然后在線動態調整以提高DNN學習模型的泛化能力，之后將訓練模型的參數具體化，以減少DNN模型隨機初始化所導致的性能下降。該方法無須信道的先驗統計知識，適用于有模型誤差或非平穩信道的通信系統。借鑒深度學習在圖像與模式識別領域取得的研究成果，ChannelNet[24]將時頻響應視為二維圖像，將導頻值視為低分辨率圖像，使用基于深度神經網絡的超分辨率圖像修復去噪技術進行信道估計。

傳統DNN訓練時間過長，難以適用于時變性較強的OFDM信道估計。為降低DNN模型的訓練復雜度，RoemNet[25]采用多元學習器（meta-learner）的信道估計方法，這些元學習器能并行、跨渠道地從多個環境中學習信道狀態特征。隨著各元學習器的更新，RoemNet具有足夠的魯棒性，僅用少量的導頻數據就可實現對無先驗知識信道估計的學習，在減輕普勒擴展帶來的負面影響的同時還能降低不同信道環境下的比特誤碼率（bit error rate，BER）。針對OFDM信道環境下信道頻域選擇性衰落導致下行鏈路信道估計性能受限的問題，DL-CE（deep learning-based channel estimation，基于深度學習的信道估計）方法[26]采用自回歸方法對信道建模，利用深度學習模型求解信道響應函數及其相關頻域系數。通過迭代訓練，DL-CE能夠學習到自回歸方法的最優估計系數。進一步，文獻[27]采用生成對抗網絡（generative adversarial network，GAN）模型近似表示無線信道響應沖擊函數，通過訓練GAN模型得到更準確的信道隨機特征概率分布函數。

在MIMO信道估計領域，高計算復雜度和高空間復雜度給提升MIMO系統信道特征估計準確性帶來了極大的挑戰[28]。針對此，文獻[29]對DNN進行離線輔助訓練和在線學習相結合的方法，實現了較高精度的超分辨率信道估計和波達方向估計。在高速移動環境中，無線信道受多徑效應和多普勒效應共同影響，信道響應具有時/頻域選擇性衰落（雙衰落）和非平穩的特性，傳統信道估計方法通常需要大量的導頻和前同步碼，性能不高。為解決此問題，決策導向信道估計（decision directed channel estimation，DD-CE）方法[30]使用了兩個DNN分別用于訓練和學習MIMO信道衰落函數的實部和虛部，并預測空時分組碼的步信道，能在無須精確信道數學模型的情況下，以低時間復雜度實現對高速MIMO信道衰落的估計。為進一步提高信道估計的效率，ChanEstNet[31]首先使用CNN模型提取信道響應特征矢量，接著再使用RNN模型進行信道估計，最后使用最大池化（max-pooling）網絡對待訓練的參數進行二次降維，提高信道估計的性能。

此外，基于去噪的近似消息傳遞（denoising- based approximate message passing，D-AMP）算法在圖像壓縮恢復領域的優越性能[32]，部分文獻利用D-AMP進行信道估計。文獻[33]較早將深度學習技術用于波束空間信道估計，它把信道矩陣視作二維圖像，并將其作為訓練集訓練LDAMP（learned D-AMP，一種基于D-AMP算法的神經網絡模型）進行信道估計。進一步地，將去噪CNN（denoising CNN，DnCNN）[34]融合到稀疏信號重構算法中進行信道估計，其性能優于傳統基于壓縮感知的信道估計方法。CSI反饋是影響通信系統性能的重要指標之一，DNNet[35]通過深度學習方法將CSI降維，以獲得更好的反饋鏈路性能，采用類似思路的還有CsiFBnet[36]、AnciNet[37]、BCsiNet[38]以及ENet[39]等方法。

2.1.2 信道均衡

無線電信號傳播過程中不可避免地受到符號間干擾（inter symbol interference，ISI）和加性高斯白噪聲（additive white Gaussian noise，AWGN）的影響，這些干擾會使信號到達接收端時發生畸變，不僅影響信號的解調和解碼性能，還會嚴重降低通信系統容量。傳統信道均衡技術主要用來消除信道對信號的各種干擾，提高通信質量。從深度學習的視角來看，無線信道均衡可被看成如何將接收端符號（存在各種因素干擾的數據集）盡可能精確地恢復出發射符號集（原始發送比特流）的問題。

文獻[40]較早將人工神經網絡技術應用到信道均衡，其核心是將多層感知機應用到非線性信道的自適應均衡過程。文獻[41]將信道均衡視為二分類問題，并使用函數連接型人工神經網絡解決該問題。針對傳統的判決反饋均衡器（decision feedback equalizer，DFE）收斂緩慢的問題，文獻[42]將多層神經網絡應用到DEF，不僅加快了DFE的收斂性，還能較好地處理信道均衡中各種非線性因素的影響。Chebyshev均衡器[43]是面向4-QAM信號星座圖的自適應信道均衡方法，與基于多層感知器（multi-layer perceptron，MLP）以及基于線性最小均方（least mean square，LMS）的均衡器相比，Chebyshev因CNN單層結構具有較好的收斂性和較低的計算復雜度。文獻[44]將改進的CNN模型用于低分辨率的MIMO系統的信道均衡和估計，通過引入多標簽的前置分類架構，使用隱式均衡和數據規模線性擴展的方法，進一步加快了深度神經網絡的收斂性，在高SNR環境下該方法仍有較好的性能表現。此外，文獻[45]提出了采用極限學習機（extreme learning machine，ELM）信道均衡方法，將毫米波信號作為ELM的輸入，訓練ELM在接收端直接獲得均衡符號，該方法優于傳統基于MLP的信道均衡方法。

不同于僅從接收端考慮信道均衡，有些方法從收發雙方的符號映射來解決信道均衡問題。如CRNN信道均衡器[46]將信道均衡過程表示成條件概率分布模型，使用數據驅動的CNN學習得到匹配濾波器，然后將訓練好的CNN模型置入后續的RNN模型中進行時域建模，實現對信號的分類。類似的數據驅動信道均衡的方法還有文獻[47]所提方法。

2.1.3 信號解調

無線通信應用環境復雜、服務類型多樣，其所面臨的多徑衰落（包含快衰落、頻率選擇性衰落等）、ISI影響亦日益嚴重，傳統的解調方法難以適用于當前復雜的無線信道。而DNN模型擁有對強時變信號的自適應性，能有效補償數字調制信號的失真。因此，學術界和產業界已廣泛展開了基于深度學習的信號解調的研究。

針對近距離多徑信道中信號解調的問題，文獻[48]提出了基于深度信任網絡和堆疊式自編碼器的信號解調方法，由數據采集、特征提取和深度學習檢測器3個關鍵步驟組成，并在BPSK（binary phase shift keying）通信體制下通過仿真實驗驗證了該方法的可行性。針對信號在超奈奎斯特（faster-than-Nyquist，FTN）速率傳輸過程中所產生嚴重的ISI問題，文獻[49]利用CNN局部感受視野、池化和權值共享的方法，提出了6層的CNN解調器來解調擴展的二進制相移鍵控（bipolar EBPSK）調制信號，解決嚴重的ISI問題，提高了信號在高速傳播環境中頻譜資源的利用率。文獻[50]在AWGN瑞利衰落信道上使用深度卷積神經網絡（deep convolutional neural network，DCNN）模擬了FSK（frequency shift key）解調方法，與標準解調方法和傳統基于機器學習的解調方法相比，該方法具有較低的符號誤碼率（symbol error rate，SER）。自動調制分類（automatic modulation classification，AMC）在動態頻譜接入中發揮著重要的作用。不同于傳統基于CNN的AMC方法中針對時域或頻域的單模模式，文獻[51]利用波形—頻譜多模態融合的策略實現了基于深度殘差網絡（ResNet）的AMC方法，在使用ResNet從多模態調制信號中提取特征后，采用特征融合的方法實現多模態信號的識別，實驗結果驗證了該方法可以實現16種調制信號的分類。類似的方法還有文獻[52]，采用了基于CNN的逼零均衡（zero-forcing equalization）AMC方法，取得了較好的實驗效果。

文獻[53]將信號變換為特定表征序列，以此構建完備的訓練集，對深度置信網絡進行逐層的無監督學習和全局有監督的微調反饋學習，在深度置信網絡的權重參數優化過程中實現對信號的特征提取與識別。文獻[54]提出了基于棧式稀疏自編碼器（stacked sparse auto-encoder，SSAE）網絡的碼元判決方法，從信號中提取特征信息并識別碼間干擾，并使用深度學習方法訓練SSAE網絡，提升了SSAE網絡在惡劣信道環境下對碼元進行正確分類與解調的能力。此外，它還將“多碼元聯合判決”策略引入SSAE網絡的訓練中，提升了解調的性能。

高階正交振幅調制（quadrature amplitude modulation，QAM）信號所面臨的多徑衰落一直是調制識別領域中具有挑戰性的問題。文獻[55]所提方法采用了1個盲均衡輔助模塊和1個ResNet，其中盲均衡輔助模塊根據調制格式預設搜索步長，ResNet在多徑信道中進行訓練。實驗結果表明：與沒有均衡化的傳統DL方法相比，在多徑以及高SNR情況下，該方法提高了30%左右的識別精度，并減少了對訓練集的依賴。類似的研究方法還有采用雙路徑網絡（dual path network，DPN）的調制模式識別方法[56]。

與上述方法不同，深度神經網絡可用于軟解調[57]，在降低計算復雜度的同時還能提高解調性能。為了進一步提升信號解調的性能，文獻[58]使用AlexNet[59]和GoogLeNet[60]兩種CNN提升調制分類的精度，并用軟件無線電實現了該方法[61]。借鑒深度學習在圖形圖像領域強大的特征提取能力，FEM[62]方法的主要思想是將待處理的無線電信號映射成圖像，使用LSTM提取無線電信號的特征后，再使用自學習的GAN神經網絡將特征集映射成圖像實現調制模式分類。實驗結果表明該方法優于傳統方法。

2.1.4 信道解碼

無線通信中的編碼和解碼技術主要用來抵抗信息傳輸過程中的噪聲和干擾的影響，降低誤碼率。編碼與解碼通常作為一個整體研究，信道編碼通常研究如何在原始信息中隨機地加入冗余信息來提高信息傳遞過程中的可靠性，信道解碼則是編碼的逆過程，以盡可能地還原得到原始信息為主要研究目標。

在深度神經網絡或深度學習興起之前，受算力和技術等方面的限制，傳統的信道解碼研究往往側重于理論研究，如高斯回歸過程（Gaussian processes for regression，GRP）貝葉斯機器學習方法。文獻[63]將GPR方法引入均衡器中，通過最大似然估計來優化模型中的超參數，從而極大地提高了訓練性能。大多數通道均衡器專注于降低誤碼率，而忽視后驗概率估計的問題，文獻[64]又將高斯分類過程（Gaussian processes for classification，GPC）貝葉斯非線性分類方法引入信道均衡過程，發揮GPC方法所具有的貝葉斯非線性分類的能力，可使用較短的訓練序列提供較為精確的后驗概率估計。

與傳統方法使用貝葉斯等進行信道解碼不同，文獻[65]將解碼器視作“黑盒”，使用基于DNN的信道解碼方法實現了從接收碼字到信息比特的映射轉換，對隨機碼和結構化碼字進行譯碼，實現了最大后驗概率（maximum a posteriori，MAP）的譯碼性能。在理想情況下，DNN取得了與傳統方法類似的性能，但是隨著訓練次數的增加，DNN結構也變得非常復雜，特別是當碼長發生改變時，DNN需要重新調整訓練集并重新訓練，導致該方法的復用性不高，難以適用于隨機碼及其較長的碼字。文獻[66]提出了一種新穎的神經解碼器算法，該算法基于信念傳播算法和自同構群方法，通過將信念傳播與自同構組的置換相結合，提高了對高密度奇偶校驗碼（high density parity check，HDPC）的解碼能力。

為解決傳統的基于置信傳播（belief propagation，BP）算法的譯碼性能普遍不高的問題，BP-DNN[67]通過給Tanner圖的邊緣節點分配不同的權重系數，并利用DNN訓練這些參數，解決了傳統BP算法在HDPC中解碼性能低下的問題。進一步，BP-CNN[68]將CNN與標準BP解碼器串聯，構成一種迭代的信道解碼方法，其性能比傳統的BP算法具有更低的復雜度。仿真實驗表明：在噪聲高度相關的情況下，BP-CNN的性能表現更優，但是在噪聲非相關的情況下，BP-CNN的性能則稍遜于BP算法。針對脈沖信道下BP算法對短碼的低密度奇偶校驗碼（low density parity check code，LDPC）譯碼性能不高的問題，文獻[69]提出了一種基于深度學習的BP譯碼方法，首先根據Tanner圖構建兩種深度神經網絡模型，通過對Tanner圖中邊的權重重新賦值來提升譯碼性能，然后簡化信道對數似然比（log-likelihood ratio，LLR）計算方法，通過模型訓練優化參數，提升了譯碼模型的魯棒性。

為進一步降低神經網絡解碼器的復雜度，文獻[70]使用DNN模型在低BER環境下獲得更快的收斂速度，并使用基于權重共享壓縮DNN的通道解碼器有效降低計算復雜度并加快收斂速度，能達到與傳統方法接近的解碼性能。此外，還有采用定制化硬件提升深度學習效率的方法[71]。為了進一步提升性能，BP-RNN方法[72]將RNN與BP算法結合，在BP-RNN算法中使用改進的隨機冗余迭代算法（modified random redundant iterative algorithm，mRRD），能以較低的計算復雜度取得較好的糾錯性能，且解碼能力優于mRRD算法。

針對面向計算機視覺應用的專用MIMO系統，文獻[73]為減少非線性通道效應（包括透視畸變、環境光和顏色混合）和增加系統吞吐量提出了基于DNN的解碼方法。方法核心思想是使用DNN從海量的圖像數據中找到用于均衡的最佳非線性內核，然后根據經過訓練的非線性內核對增量獲取的圖像中的原始位進行解碼，提升了該專用MIMO系統的性能。為了解決傳統神經網絡難以適用于長碼的解碼過程，文獻[74]將編碼圖劃分為若干較小的子塊后，再使用神經網絡對每個子塊進行訓練，提升神經網絡解碼器對長碼的解碼能力。

2.2 接收端多模塊與端到端聯合優化技術

理論上，接收端從帶噪聲或畸變的調制信號中盡可能精確地恢復發送的原始比特流信息。傳統方法主要通過信道估計、信道均衡、信號解調與解碼等關鍵步驟實現，但是每個步驟的性能達到最佳，并不意味著整個接收端的性能也達到最佳，更不用說各模塊間依次迭代的累計誤差。因此，接收端的端到端聯合優化用統一的深度學習模型將整個接收端打通并進行端到端的聯合統一優化，摒除傳統的信道估計、均衡、解調、解碼4個步驟依次獨立優化或部分聯合優化的思路，突破了單一模塊獨立優化所導致的固有弊端[17,75]。

文獻[75]將發射端、信道和接收端作為一個自編碼器，用DNN重建接收端中端到端的系統，自編碼器能在沒有先驗知識的情況下具有自學習的能力，并使得DNN達到了與漢明碼及最大似然譯碼相似的性能。文獻[76]提出使用深度神經網絡替代均衡和解碼模塊的方法，通過處理信道失真大幅提升多徑信道的性能，將信道均衡和信道解碼聯合優化，其優點是一次性訓練均衡和解碼神經網絡，無須迭代計算，更適用于并行計算的場景?；诖耍現C-DNN[77]將OFDM接收端視為一個“黑盒”，用深度神經網絡代替OFDM接收端中的信道均衡和符號檢測模塊，利用信道仿真數據離線訓練深度學習模型，然后直接對在線傳輸數據進行恢復，獲得了比傳統方法更好的性能。文獻[78]將訓練好的滑動雙向遞歸神經網絡（sliding bidirectional recurrent neural network，SBRNN）檢測器部署在接收端，用于實時檢測接收的射頻數據集并進行譯碼，其性能高于維特比（Viterbi）譯碼器的性能。此外，該研究成果指明：在強時變的信道環境下，特別是無須考慮信道模型或CSI的前提下，直接從信號大數據中開展通信系統的檢測和譯碼成為可能。

FC-DNN方法[77]僅簡單地將OFDM接收端視為一個“黑盒”，并用DNN來實現端到端聯合優化。不同于FC-DNN數據驅動（data-driven）的方法，ComNet[79]引入了模型驅動（model-driven）的思想，使用深度學習簡化傳統的接收端模型，用于信道估計或信號檢測，而不是用整個深度學習模型完全代替接收端。ComNet采用逐塊信號處理方法，構建了基于RefineNet[80]的信號估計子網和基于雙向LSTM（Bi-LSTM）網絡[81]信號檢測子網，按照模型驅動的思想，每個子網完成相對獨立的功能，能有效縮小各子網參數的初始值區間，提升了收斂性能。需要指出的是，信號估計子網的輸出不僅可以用于CSI監測，還支持發射端的拓展功能，擴大了子網的應用范圍及并提高了其靈活性，這是FC-DNN方法所不具備的。從實驗結果來看，ComNet接收端僅需少量的參數，即可達到與FC-DNN方法相近的誤碼率，且具有較好的收斂速度。但文獻[79]僅在64QAM調制模式下做了仿真實驗，其他調制模式的性能尚不明確。

與前述方法使用單個DL模型在接收端上處理隨機非線性信道的問題不同，文獻[82]首先在接收端使用CNN替代均衡器，并訓練CNN模型學習得到信道衰落的趨勢，接著再使用深度神經網絡代替解碼器恢復得到信息流，無須任何CSI即可實現盲均衡和解碼，也能適用于復雜度為()的長序列。文獻[83]使用基于無監督神經網絡的變分自編碼器（variational auto-encoder，VAE）方法實現均衡和解碼，在不使用導頻符號以及未知脈沖響應的情況下，對含有噪聲和碼間干擾的未編碼數據集進行重構，使得計算復雜度不依賴于信道脈沖響應函數。在無監督深度學習端到端優化的探索領域，文獻[84]使用自動編碼器將編碼和解碼進行聯合優化，用于優化無線信道損傷模型（瑞利衰落信道）。實驗結果表明：當SNR>15 dB時，自動編碼器系統的性能超過文獻[85]的方法。

在信道估計和均衡聯合優化方面，文獻[86]提出了一種基于深度學習的FBMC（filter bank multi-carrier，濾波器組多載波）模型，使用DNN模型學習CSI以及星座圖映射方法，實現對失真頻域序列的隱式均衡，直接獲得二進制比特信息。文獻[87]研究了基于深度學習的FBMC系統的信道估計與檢測方法，采用ResNet-DNN對信道符號檢測模塊建模，還采用“CNN+NN”模型對信道估計、均衡、符號檢測模塊進行統一建模和聯合優化。但該方法僅適用于AWGN信道和時不變信道環境，不適用于時變信道。

與基于神經網絡的自編碼器解決端到端的優化方法不同，文獻[88]提出了在接收端監督訓練與發射端增強學習模型之間進行迭代優化的方法，無須精確的信道模型和先驗知識實現端到端的聯合優化。但是該方法在訓練期間需要可靠的通道將損耗從接收端反饋到發射端，提高了使用成本并限制了應用場景。為了提升智能接收方法的靈活性，Deep-Waveform[89]將深度復雜卷積神經網絡（deep complex convolutional network，DCCN）作為OFDM接收端，包含一個基本的OFDM接收器和一個獨立的信道均衡器，在無須采用外部離散傅里葉變換的情況下，能在AWGN信道中8QAM和16QAM調制模式上達到與傳統接收端接近的誤碼率。此外，與目前現有的由全連接層組成的深度神經元網絡不同，Deep-Waveform使用了大量的線性卷積層。

在以信號數據為驅動的端到端聯合優化方面，近年來也取得一定的研究進展。文獻[90]使用條件生成對抗網絡（conditional generative adversarial network，cGAN）對信道條件分布(|)進行建模，并在發射機編碼過程中加入信號條件信息，為了獲得用于接收端通過信號所檢測的CSI，將導頻數據及其接收信號也添加到條件信息中。從仿真結果來看，該方法對AWGN和瑞利衰落信道有顯著效果。DeepReceiver方法[17]將一維密集連接卷積網絡替代接收端信道估計、均衡、信號解調和解碼的全過程。該模型的輸入是接收I/Q信號，輸出則是恢復得到的信息比特流，DeepReceiver使用接收的I/Q信號樣本集進行訓練，使得網絡模型能夠通過信號大數據感知通信系統所遭受的射頻損傷、信道衰落、噪聲和干擾等，在接收端實現了端到端的聯合優化及信息恢復。與DeepReceiver思路類似，文獻[91]提出的數據驅動的端到端無線通信系統，包括編碼、解碼、調制和解調過程，使用cGAN表示信道狀態信息，設計了發射端DNN和接收端DNN，采用數據驅動的cGAN對信道效應建模，在AWGN、瑞利衰落信道以及頻率選擇信道模型環境下，取得了較好的端到端聯合優化效果。類似的方法還有Deepwiphy[92]、DeepRx[93]、DeepRx MIMO[94]以及HybridDeepRx[95]等。

仿真實驗通常難以模擬實際應用環境，許多細節容易被忽略，限制研究成果的可用性。因此，能支持在實際環境中在線自適應學習的端到端聯合優化方法成為一個研究方向，SwitchNet方法[96]融合了數據驅動的FCDNN接收器[77]和模型驅動的ComNet接收器[79]，通過預處理大幅減少FCDNN和ComNet中待訓練的參數，具備輕量級在線學習的能力，并在不同信道模型下提供了可離線脫機訓練的子網，使得SwitchNet方法在不同實際環境中均具有自適應學習的能力。

此外，也有從語義級實現端到端聯合優化的通信系統。不同于傳統以降低誤碼率為目標的研究思路，面向文本通信的語義通信系統DeepSC[97-98]使用深度學習方法恢復語義，采用遷移學習來確保DeepSC能適用于不同的應用環境，并使用語句相似性指標量化了DeepSC系統的性能。實驗表明：在低SNR環境下，DeepSC仍能取得較好的性能。

3 技術挑戰

無線通信一直朝著高可靠性、高魯棒性和超高容量的方向發展，特別是以當下5G、6G、毫米波、邊緣計算為代表的新一代無線通信技術的廣泛應用，作為無線通信的關鍵技術之一，無線通信接收技術也面臨著新的挑戰，具體來講有以下幾點。

（1）傳統基于先驗知識的方法限制復雜通信系統的信號接收

傳統的基于先驗知識、統計模型的信號接收方法通常以單一體制信號作為研究對象，如對單一體質信號的盲均衡技術、盲譯碼等。但是在多復雜體制信號情況下，電磁波之間的互相干擾、隨機噪聲等，使得傳統使用先驗知識特征工程的方法在無線通信智能接收領域難以適用。

目前的研究方法大多集中于淺層機器學習方法，在實現過程中往往存在著以下3個問題：其一，傳統方法對人工特征依賴度較高，需要依賴復雜的人工特征提取技術以滿足不同信號的識別需求；其二，在復雜電磁環境下，傳統方法魯棒性較低，復雜的電磁環境對識別結果影響較大；最后，傳統方法模型復雜度較高，無法滿足信號識別的輕量化部署需求。

（2）復雜環境給多業務模式、多體制信號的接收帶來挑戰

在多體制信號融合通信的場景下，難以設計得到適用性較強的接收端智能接收方法。無線通信呈現向多行業滲透和多標準集成的發展趨勢，不斷滲透到各個行業，成為一種不可或缺的功能，如物聯網、邊緣計算網絡等。無線通信通常承載數據、圖像、語音等業務需求，這些需求的服務目標不一，如超低時延通信、大通道容量通信等。當前無線通信場景多元化、多樣性，服務要求個性化，特別是各種服務需求對通信保密性、安全性、魯棒性需求不一，這些都給無線通信的智能接收帶來技術挑戰。

（3）用于特定場景接收端端到端的聯合優化研究的實測數據缺失

在高速鐵路無線通信、海洋無線通信、礦井無線通信等特定領域，信號的傳播方式和衰減規律有各自獨有的特征。接收端端到端的聯合優化依賴于深度模型的學習及推理的能力，而學習能力的提升來自于大量實測數據，需要大量數據對DNN進行訓練[11]。當前的成果大多基于仿真數據進行訓練，仿真數據與實際應用環境有一定的差距[96]，這導致訓練好的聯合優化模型可用性、實用性和靈活性嚴重受限。因此，特定場景實測數據的缺失將會成為制約未來端到端的聯合優化神經網絡研究進一步發展的因素。

4 基于深度學習的無線通信接收端聯合優化架構

目前，學術界對基于深度學習的無線通信接收端端到端的聯合優化的研究仍處于起步階段。針對該領域的挑戰性問題，本文使用通用軟件無線電外設（universal software radio peripheral，USRP），USRP是具有開放性、標準型、模塊化的通用軟件無線電平臺，在信號發收、信號數據高速流盤等方面具有極高的靈活性?；诖耍竟澾M一步嘗試提出基于深度學習的無線通信接收端聯合優化的參考架構。

在圖4所提的基于深度學習的無線通信接收端聯合優化參考架構中，由USRP發射端和USRP接收端在實際應用環境中發射和接收信號，并以此作為離線訓練聯合優化神經網絡的訓練集和測試集，利用離線平臺的高性能存儲和計算能力，使用信號大數據離線訓練接收端中的DNN，將離線訓練的DNN再部署到實際環境中運行的USRP接收端，進行二次在線訓練和優化。因此，在算力、存儲和能源均受限的USRP接收端中，通過在線數據實時、輕量地對DNN進行二次訓練，提升端到端聯合優化的DNN對無線通信環境的感知能力。

進一步，基于深度學習的無線信號智能接收離線訓練參考架構如圖5所示。在圖5中，由虛擬化資源池將硬件平臺的計算、存儲等資源進行抽象化管理，形成統一的資源管理平臺，服務上層的信號大數據管理層，再通過信號智能接收層對信號大數據進行訓練和學習。

綜合圖4和圖5可以看出，基于深度學習的無線通信智能接收參考架構主要由5個層次組成，包括：硬件平臺、虛擬化資源池、資源管理層、信號大數據管理層與智能信號接收層。與已有的無線通信接收系統模型相比，本文提出的參考架構具有以下顯著優勢。

圖4 基于深度學習的無線通信接收端聯合優化參考架構

圖5 基于深度學習的無線通信接收端神經網絡離線訓練參考架構

（1）本文參考架構具有更好的自適應性和可持續演進性

本架構以信號大數據為基礎，具備開放式存儲、計算和處理的能力，不僅能適應無線通信網絡中強時變的信道環境，還能夠整合不同的信號大數據處理模型，使得本架構能夠適用于各類復雜應用場景，如海洋無線通信場景、礦井無線通信場景等。

（2）本文參考架構以信號數據為中心

考慮從信號大數據挖掘信道模型的特征，能從時空等多個特征維度，基于時空、環境上下文信息，從信號大數據的角度刻畫和描述無線信道模型，而非傳統基于統計方法或從信道局部特征出發展開研究的智能接收方法。通過對信號大數據的抽取—轉換—加載（extract-transform-load，ETL）過程，本架構盡可能多地獲取實測數據中的隨機因素，提升信息接收與解碼的準確性。

（3）本文參考架構能更好地利用存儲、算力等IT資源

系統采用數據ETL方法對信號大數據進行清洗、轉換、持久化存儲等，使用Docker和虛擬機雙資源管理池工具，可實現對資源的快速彈性負載均衡，特別是本架構中的信號大數據內存計算模型，能顯著提升對信道全局特征處理和感知的能力。

（4）本文參考架構使得智能接收端DNN模型具備可持續學習的能力

隨著新興技術的不斷發展，特別是無線通信技術向生產生活縱深領域全面滲透，無線通信系統應用場景愈加復雜，業務類型也愈加多樣，本架構中的DNN模型具有自主學習能力，能感知新的應用場景和應用類型的特征，并自主調整模型相關參數，持續提升接收端中端到端聯合優化過程信息恢復的能力。

本節提出的基于深度學習的無線信號智能接收參考架構，從無線通信接收端信號處理的全局視角出發，探究接收端端到端的聯合優化，包括信號數據采集、規則化處理、持久化存儲、彈性資源分配、基于深度學習的信號大數據處理等關鍵環節，期望本參考架構能為本領域學者提供一定的參考。

5 發展趨勢與展望

深度學習理論與技術的突破推動了無線通信智能接收技術的發展，以當下新技術的研究成果探討無線通信智能接收技術的發展趨勢與展望，以期為本領域的學者、專家提供參考。

5.1 模型驅動的無線通信智能接收方法

數據驅動的深度學習方法在計算機視覺、模式識別等領域中取得了廣泛的應用，因為在這些領域中，任務通常難以用精確的數學模型來描述，而深度學習方法將任務視作非依賴數學模型的“黑箱”，并靠大量數據訓練深度神經網絡解決問題，這通常需要海量的數據集及較高的時間復雜度。

但是在無線通信智能接收領域，完備的帶標簽數據集通常難以獲取，模型驅動的無線通信智能接收方法需要綜合考慮深度學習與通信領域知識的深度融合，從訓練目標、通信領域知識、先驗知識出發，形成一個學習代價函數，用最小化代價函數的方法解決問題[11,79,99]。通過接收端對海量信號的處理與恢復的過程建立足夠精確的模型，使模型驅動的接收方法只需較少的訓練數據集及較低的時間復雜度即可達到最優解。但是，從理論上，無線通信接收方法中的模型難以精確描述，如何面向深度學習精確地描述接收端的數學模型，并使之成為模型驅動的無線通信智能接收方法，將成為未來熱點研究方向之一。

5.2 數據驅動的無線通信智能接收方法

當前，5G、6G、毫米波通信等廣泛使用的高頻段通信、大規模天線陣列等高復雜技術，為接收端實時接收和處理海量通信提供基礎。但是，隨著物聯網、邊緣計算等技術的發展，作為基礎支撐技術，無線通信向著生產、生活領域快速全面滲透，多場景的極端差異化需求，使得以單一技術為基礎通常難以形成面向所有應用場景的解決方法。因此，如何在開放復雜環境下，研究數據驅動，并支持多通信體制信號的智能接收方法，將成為未來一個熱點研究方向。

開放復雜場景所帶來的數據接收的挑戰，主要表現在信號大數據集的無結構化、蘊含大量關聯關系、噪聲隨機等因素，導致難以提出適用性強的智能通信接收方法，因此，在開放復雜場景中，圖6所示的基于深度學習的跨場景數據驅動的無線通信智能接收方法，將成為未來智能通信領域研究的熱點之一。

圖6 跨場景特征融合驅動的無線通信智能接收方法

在圖6中，基于數據驅動的無線通信智能接收方法主要涉及跨應用場景的信號統一特征描述、應用場景間知識表示方法等，實現不同應用場景的智能通信接收方法的技術共享，打破各特定場景下異構通信技術之間的壁壘。然而，當前深度學習一般適用于封閉的系統，因此，通過數據驅動遷移學習與對抗式信號樣本生成技術拓展基于深度學習的無線通信的應用場景。針對多類型、復雜的無線通信環境，采用融合學習以及遷移學習為基礎的信號智能接收方法，研究能針對未知場景的對抗式自主學習的無線通信智能接收方法將是未來的研究熱點之一。此外，隨著當前學術界對以深度學習為代表的人工智能技術研究的深入，將模型驅動和數據驅動相融合的無線通信智能接收方法或許成為未來一個重要的研究趨勢。

6 結束語

隨著移動互聯網、邊緣計算、智能通信等新一代無線通信技術的廣泛應用，基于深度學習的無線通信接收技術在信道估計、均衡、解調、解碼和聯合優化方面等方面提升了無線通信的接收性能并促進了無線通信接收技術的智能化。本文對基于深度學習的無線通信接收技術進行了系統性的分析和總結，綜述了無線通信接收技術的研究現狀及關鍵技術，討論了信號大數據背景下的無線通信接收技術的挑戰和參考架構，并進一步指出了未來該研究的發展方向。

[1] RESTUCCIA F, MELODIA T. Physical-layer deep learning: challenges and applications to 5G and beyond[J]. arXiv preprint arXiv: 2004.10113, 2020.

[2] 謝維信, 陳曾平, 裴繼紅, 等. 大數據背景下的信號處理[J]. 中國科學: 信息科學, 2013, 43(12): 1525-1546.

XIE W X, CHEN Z P, PEI J H, et al. Signal processing in the context of big data[J]. Scientia Sinica (Informationis), 2013, 43(12): 1525-1546.

[3] 章堅武, 王路鑫, 孫玲芬, 等. 人工智能在5G系統中的應用綜述[J]. 電信科學, 2021, 37(5): 14-31.

ZHANG J W, WANG L X, SUN L F, et al. An survey on application of artificial intelligence in 5G system[J]. Telecommunications Science, 2021, 37(5): 14-31.

[4] 夏明華, 朱又敏, 陳二虎, 等. 海洋通信的發展現狀與時代挑戰[J]. 中國科學: 信息科學, 2017, 47(6): 677-695.

XIA M H, ZHU Y M, CHEN E H, et al.The state of the art and challenges of marine communications[J]. Scientia Sinica (Informationis), 2017, 47(6): 677-695.

[5] WANG T Q, WEN C K, WANG H Q, et al. Deep learning for wireless physical layer: opportunities and challenges[J]. China Communications, 2017, 14(11): 92-111.

[6] WANG F X, ZHANG M, WANG X X, et al. Deep learning for edge computing applications: a state-of-the-art survey[J]. IEEE Access, 2020(8): 58322-58336.

[7] 尤肖虎, 張川, 談曉思, 等. 基于AI的5G技術: 研究方向與范例[J]. 中國科學:信息科學, 2018, 48(12): 1589-1602.

YOU X H, ZHANG C, TAN X S, et al. AI for 5G: research directions and paradigms[J]. Scientia Sinica (Informationis), 2018, 48(12): 1589-1602.

[8] SALH A, AUDAH L, SHAH N S M, et al. A survey on deep learning for ultra-reliable and low-latency communications challenges on 6G wireless systems[J]. IEEE Access, 2021(9): 55098-55131.

[9] MAO Q, HU F, HAO Q. Deep learning for intelligent wireless networks: a comprehensive survey[J]. IEEE Communications Surveys & Tutorials, 2018, 20(4): 2595-2621.

[10] 張靜, 金石, 溫朝凱, 等. 基于人工智能的無線傳輸技術最新研究進展[J]. 電信科學, 2018, 34(8): 46-55.

ZHANG J, JIN S, WEN C K, et al. An overview of wireless transmission technology utilizing artificial intelligence[J]. Telecommunications Science, 2018, 34(8): 46-55.

[11] HEH T, JIN S, WENC K, et al. Model-driven deep learning for physical layer communications[J]. IEEE Wireless Communications, 2019, 26(5): 77-83.

[12] QIN Z J, YE H, LI G Y, et al. Deep learning in physical layer communications[J]. IEEE Wireless Communications, 2019, 26(2): 93-99.

[13] LEE W, JO O, KIM M. Application of end-to-end deep learning in wireless communications systems[J]. arXiv preprint arXiv: 1808.02394, 2018.

[14] 彭德義. 基于機器學習的5G無線通信物理層關鍵技術研究[J].湖南工程學院學報(自然科學版), 2019, 29(3): 37-43.

PENG D Y. Research for key technology of 5G wireless network PHY based on machine learning[J]. Journal of Hunan Institute of Engineering (Natural Science Edition), 2019, 29(3): 37-43.

[15] 高向堃. 基于深度學習的物理層無線通信技術機遇與挑戰[J]. 中國新通信, 2019, 21(14): 96.

GAO X K. Opportunities and challenges of deep learning based physical layer wireless communication techniques[J]. China New Telecommunications, 2019, 21(14): 96.

[16] ZHANG C Y, PATRAS P, HADDADI H. Deep learning in mobile and wireless networking: a survey[J]. IEEE Communications Surveys & Tutorials, 2019, 21(3): 2224-2287.

[17] ZHENG S L, CHEN S C, YANG X N. DeepReceiver: a deep learning-based intelligent receiver for wireless communications in the physical layer[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 7(1): 5-20.

[18] 劉留, 張建華, 樊圓圓, 等. 機器學習在信道建模中的應用綜述[J]. 通信學報, 2021, 42(2): 134-153.

LIU L, ZHANG J H, FAN Y Y, et al. Survey of application of machine learning in wireless channel modeling[J]. Journal on Communications, 2021, 42(2): 134-153.

[19] 王承祥, 黃杰, 王海明, 等. 面向6G的無線通信信道特性分析與建模[J]. 物聯網學報, 2020, 4(1): 19-32.

WANG C X, HUANG J, WANG H M, et al. 6G oriented wireless communication channel characteristics analysis and modeling[J]. Chinese Journal on Internet of Things, 2020, 4(1): 19-32.

[20] NEUMANN D, WIESE T, UTSCHICK W. Learning the MMSE channel estimator[J]. IEEE Transactions on Signal Processing, 2018, 66(11): 2905-2917.

[21] GIZZINI A K, CHAFII M, NIMR A, et al. Adaptive channel estimation based on deep learning[C]//Proceedings of 2020 IEEE 92nd Vehicular Technology Conference. Piscataway: IEEE Press, 2020: 1-5.

[22] BAI Q B, WANG J T, ZHANG Y, et al. Deep learning-based channel estimation algorithm over time selective fading channels[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 6(1): 125-134.

[23] YANG Y W, GAO F F, MA X L, et al. Deep learning-based channel estimation for doubly selective fading channels[J]. IEEE Access, 2019(7): 36579-36589.

[24] SOLTANI M, POURAHMADI V, MIRZAEI A, et al. Deep learning-based channel estimation[J]. IEEE Communications Letters, 2019, 23(4): 652-655.

[25] MAO H X, LU H C, LU Y J, et al. RoemNet: robust meta learning based channel estimation in OFDM systems[C]// Proceedings of ICC 2019 - 2019 IEEE International Conference on Communications. Piscataway: IEEE Press, 2019: 1-6.

[26] 廖勇, 花遠肖, 姚海梅. 基于深度學習的OFDM信道估計[J]. 重慶郵電大學學報(自然科學版), 2019, 31(3): 348-353.

LIAO Y, HUA Y X, YAO H M. Channel estimation based on deep learning for OFDM systems[J]. Journal of Chongqing University of Posts and Telecommunications (Natural Science Edition), 2019, 31(3): 348-353.

[27] O’SHEA T J, ROY T, WEST N. Approximating the void: learning stochastic channel models from observation with variational generative adversarial networks[C]//Proceedings of 2019 International Conference on Computing, Networking and Communications (ICNC). Piscataway: IEEE Press, 2019: 681-686.

[28] ZAMANIPOUR M. A survey on deep-learning based techniques for modeling and estimation of massive MIMO channels[J]. arXiv preprint arXiv: 1910.03390, 2019.

[29] HUANG H J, YANG J, HUANGH, et al. Deep learning for super-resolution channel estimation and DOA estimation based massive MIMO system[J]. IEEE Transactions on Vehicular Technology, 2018, 67(9): 8549-8560.

[30] MEHRABI M, MOHAMMADKARIMI M, ARDAKANI M, et al. Decision directed channel estimation based on deep neural network-step predictor for MIMO communications in 5G[J]. IEEE Journal on Selected Areas in Communications, 2019, 37(11): 2443-2456.

[31] 廖勇, 花遠肖, 姚海梅, 等. 高速移動環境下基于深度學習的信道估計方法[J]. 電子學報, 2019, 47(8): 1701-1707.

LIAO Y, HUA Y X, YAO H M, et al. Channel estimation method based on deep learning in high-speed mobile environments[J]. Acta Electronica Sinica, 2019, 47(8): 1701-1707.

[32] METZLER C, MOUSAVI A, BARANIUK R. Learned D-AMP: principled neural network based compressive image recovery[C]//Proceedings of the 31st International Conference on Neural Information Processing Systems 2017. New York: ACM Press, 2017:1772-1783.

[33] HE H T, WEN C K, JIN S, et al. Deep learning-based channel estimation for beamspace mmWave massive MIMO systems[J]. IEEE Wireless Communications Letters, 2018, 7(5): 852-855.

[34] ZHANG K, ZUO W M, CHEN Y J, et al. Beyond a Gaussian denoiser: residual learning of deep CNN for image denoising[J]. IEEE Transactions on Image Processing, 2017, 26(7): 3142-3155.

[35] YE H Y, GAO FF, QIAN J, et al. Deep learning-based denoise network for CSI feedback in FDD massive MIMO systems[J]. IEEE Communications Letters, 2020, 24(8): 1742-1746.

[36] GUO J J, WEN C K, JIN S. Deep learning-based CSI feedback for beamforming in single- and multi-cell massive MIMO systems[J]. IEEE Journal on Selected Areas in Communications, 2021, 39(7): 1872-1884.

[37] SUN YY, XU W, FAN L S, et al. AnciNet: an efficient deep learning approach for feedback compression of estimated CSI in massive MIMO systems[J]. IEEE Wireless Communications Letters, 2020, 9(12): 2192-2196.

[38] LU Z L, WANG J T, SONG J. Binary neural network aided CSI feedback in massive MIMO system[J]. IEEE Wireless Communications Letters, 2021, 10(6): 1305-1308.

[39] SUN Y Y, XU W, LIANG L, et al. A lightweight deep network for efficient CSI feedback in massive MIMO systems[J]. IEEE Wireless Communications Letters, 2021, 10(8): 1840-1844.

[40] CHEN S, GIBSON G J, COWAN C F N, et al. Adaptive equalization of finite non-linear channels using multilayer perceptrons[J]. Signal Processing, 1990, 20(2): 107-119.

[41] PATRA J C, PAL R N. A functional link artificial neural network for adaptive channel equalization[J]. Signal Processing, 1995, 43(2): 181-195.

[42] CHANG P R, WANG B C. Adaptive decision feedback equalization for digital satellitechannels using multilayer neural networks[J]. IEEE Journal on Selected Areas in Communications, 1995, 13(2): 316-324.

[43] PATRA J C, POH W B, CHAUDHARI N S, et al. Nonlinear channel equalization with QAM signal using Chebyshev artificial neural network[C]//Proceedings of 2005 IEEE International Joint Conference on Neural Networks. Piscataway: IEEE Press, 2005: 3214-3219.

[44] KLAUTAU A, GONZáLEZ-PRELCIC N, MEZGHANI A, et al. Detection and channel equalization with deep learning for low resolution MIMO systems[C]//Proceedings of 2018 52nd Asilomar Conference on Signals, Systems, and Computers. Piscataway: IEEE Press, 2018: 1836-1840.

[45] CARRERA D F, VARGAS-ROSALES C, YUNGAICELA- NAULA N M, et al. Comparative study of artificial neural network based channel equalization methods for mmWave communications[J]. IEEE Access, 2021(9): 41678-41687.

[46] 楊旸, 李揚, 周明拓. 基于數據驅動深度學習方法的無線信道均衡[J]. 中興通訊技術, 2018, 24(2): 25-29.

YANG Y, LI Y, ZHOU M T. The wireless channel equalization based on data-driven deep learning method[J]. ZTE Technology Journal, 2018, 24(2): 25-29.

[47] KUMARI S, SRINIVAS K K, KUMAR P. Channel and carrier frequency offset equalization for OFDM based UAV communications using deep learning[J]. IEEE Communications Letters, 2020, 25(3): 850-853.

[48] FANG L T, WU L N. Deep learning detection method for signal demodulation in short range multipath channel[C]//Proceedings of 2017 IEEE 2nd International Conference on Opto-Electronic Information Processing. Piscataway: IEEE Press, 2017: 16-20.

[49] OUYANG X C, WU L N. Faster-than-Nyquist rate communication via convolutional neural networks-based demodulators[J]. Journal of Southeast University (English Edition), 2016, 32(1): 6-10.

[50] MOHAMMAD A S, REDDY N, JAMES F, et al. Demodulation of faded wireless signals using deep convolutional neural networks[C]//Proceedings of 2018 IEEE 8th Annual Computing and Communication Workshop and Conference. Piscataway: IEEE Press, 2018: 969-975.

[51] QI P H, ZHOU X Y, ZHENG S L, et al. Automatic modulation classification based on deep residual networks with multimodal information[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 7(1): 21-33.

[52] WANG Y, GUI J, YIN Y, et al. Automatic modulation classification for MIMO systems via deep learning and zero-forcing equalization[J]. IEEE Transactions on Vehicular Technology, 2020, 69(5): 5688-5692.

[53] 黃媛媛, 張劍, 周興建, 等. 應用深度學習的信號解調[J]. 電訊技術, 2017, 57(7): 741-744.

HUANG Y Y, ZHANG J, ZHOU X J, et al. Demodulation with deep learning[J]. Telecommunication Engineering, 2017, 57(7): 741-744.

[54] 楊耀棟, 吳樂南. 相移鍵控信號的深度神經網絡解調器[J]. 電子測量與儀器學報, 2018, 32(4): 144-150.

YANG Y D, WU L N. Realization of SSAE demodulator of MPPSK communication system[J]. Journal of Electronic Measurement and Instrumentation, 2018, 32(4): 144-150.

[55] JI X F, WANG J, LI Y, et al. Modulation recognition in maritime multipath channels: a blind equalization-aided deep learning approach[J]. China Communications, 2020, 17(3): 12-25.

[56] HANNA S, DICK C, CABRIC D. Signal processing based deep learning for blind symbol decoding and modulation classification[J]. arXiv preprint arXiv:2106.10543, 2021.

[57] SHENTAL O, HOYDIS J. “Machine LLRning”:learning to softly demodulate[J]. arXiv preprint arXiv:1907.01512, 2019.

[58] PENG S L, JIANG H Y, WANG H X, et al. Modulation classification based on signal constellation diagrams and deep learning[J]. IEEE Transactions on Neural Networks and Learning Systems, 2018, 30(3): 718-727.

[59] KRIZHEVSKY A, SUTSKEVER I, HINTON G E. Imagenetclassification with deep convolutional neural networks[C]//Advances in Neural Information Processing Systems. [S.l.:s.n.], 2012: 1097-1105.

[60] SZEGEDY C, LIU W, JIA Y Q, et al. Going deeper with convolutions[C]//Proceedings of 2015 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2015: 1-9.

[61] 陳錚, 彭盛亮, 李煥煥, 等. 基于深度學習與軟件無線電的盲解調系統研究[J]. 信號處理, 2019, 35(4): 649-655.

CHEN Z, PENG S L, LI H H, et al. Research on blind demodulation system based on deep learning and software defined radio[J]. Journal of Signal Processing, 2019, 35(4): 649-655.

[62] CHEN J Y, CUI H, MIAO S H, et al. FEM: Feature extraction and mapping for radio modulation classification[J]. Physical Communication, 2021, 45: 101279.

[63] PEREZ-CRUZ F, MURILLO-FUENTES J J, CARO S. Nonlinear channel equalization with Gaussian processes for regression[J]. IEEE Transactions on Signal Processing, 2008, 56(10): 5283-5286.

[64] OLMOS P M, MURILLO-FUENTES J J, PEREZ-CRUZ F. Joint nonlinear channel equalization and soft LDPC decoding with Gaussian processes[J]. IEEE Transactions on Signal Processing, 2009, 58(3): 1183-1192.

[65] GRUBER T, CAMMERER S, HOYDIS J, et al. On deep learning-based channel decoding[C]//Proceedings of 2017 51st Annual Conference on Information Sciences and Systems (CISS). Piscataway: IEEE Press, 2017: 1-6.

[66] NACHMANI E, BACHAR Y, MARCIANO E, et al. Nearmaximum likelihood decoding with deep learning[J]. arXiv preprint arXiv:1801.02726, 2018.

[67] NACHMANI E, BE'ERY Y, BURSHTEIN D. Learning to decode linear codes using deep learning[C]//Proceedings of 2016 54th Annual Allerton Conference on Communication, Control, and Computing (Allerton). Piscataway: IEEE Press, 2016: 341-346.

[68] LIANG F, SHEN C, WU F. An iterative BP-CNN architecture for channel decoding[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 144-159.

[69] 潘睿, 袁磊. 脈沖信道下基于深度學習的BP譯碼方法[J]. 系統工程與電子技術, 2020, 42(9): 2116-2122.

PAN R, YUAN L. BP decoding method based on deep learning in impulsive channels[J]. Systems Engineering and Electronics, 2020, 42(9): 2116-2122.

[70] DENG C H, YUANS B L. Reduced-complexity deep neural network-aided channel code decoder: a case study for BCH decoder[C]//Proceedings of ICASSP 2019-2019 IEEE International Conference on Acoustics, Speech and Signal Processing. Piscataway: IEEE Press, 2019: 1468-1472.

[71] LUGOSCH L, GROSS W J. Neural offset min-sum decoding[C]// Proceedings of 2017 IEEE International Symposium on Information Theory. Piscataway: IEEE Press, 2017: 1361-1365.

[72] NACHMANI E, MARCIANO E, LUGOSCH L, et al. Deep learning methods for improved decoding of linear codes[J]. IEEE Journal of Selected Topics in Signal Processing, 2018, 12(1): 119-131.

[73] FUJIHASHI T, KOIKE-AKINO T, WATANABE T, et al. Nonlinear equalization with deep learning for multi-purpose visual MIMO communications[C]//Proceedings of 2018 IEEE International Conference on Communications. Piscataway: IEEE Press, 2018: 1-6.

[74] CAMMERER S, GRUBER T, HOYDIS J, et al. Scaling deep learning-based decoding of polar codes via partitioning[C]//Pro- ceedings of GLOBECOM 2017-2017 IEEE Global Communications Conference. Piscataway: IEEE Press, 2017: 1-6.

[75] O’SHEA T, HOYDIS J. An introduction to deep learning for the physical layer[J]. IEEE Transactions on Cognitive Communications and Networking, 2017, 3(4): 563-575.

[76] YE H, LI G Y. Initial results on deep learning for joint channel equalization and decoding[C]//Proceedings of 2017 IEEE 86th Vehicular Technology Conference. Piscataway: IEEE Press, 2017: 1-5.

[77] YE H, LI G Y, JUANG B H. Power of deep learning for channel estimation and signal detection in OFDM systems[J]. IEEE Wireless Communications Letters, 2018, 7(1): 114-117.

[78] FARSAD N, GOLDSMITH A. Neural network detection of data sequences in communication systems[J]. IEEE Transactions on Signal Processing, 2018, 66(21): 5663-5678.

[79] GAO X X, JIN S, WEN C K, et al. ComNet: combination of deep learning and expert knowledge in OFDM receivers[J]. IEEE Communications Letters, 2018, 22(12): 2627-2630.

[80] LIN G S, MILAN A, SHEN C H, et al. RefineNet: multi-path refinement networks for high-resolution semantic segmentation[C]// Proceedings of 2017 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE Press, 2017: 5168-5177.

[81] GRAVES A, SCHMIDHUBER J. Framewise phoneme classification with bidirectional LSTM and other neural network architectures[J]. Neural Networks, 2005, 18(5/6): 602-610.

[82] XU W H, ZHONG Z W, BE'ERY Y, et al. Joint neural network equalizer and decoder[C]//Proceedings of 2018 15th International Symposium on Wireless Communication Systems (ISWCS). Piscataway: IEEE Press, 2018: 1-5.

[83] CACIULARU A, BURSHTEIN D. Unsupervised linear and nonlinear channel equalization and decoding using variational autoencoders[J]. IEEE Transactions on Cognitive Communications and Networking, 2020, 6(3): 1003-1018.

[84] O'SHEA T J, ERPEK T, CLANCY T C. Deep learning based MIMO communications[J]. arXiv preprint arXiv: 1707.07980, 2017.

[85] ALAMOUTI S M. A simple transmit diversity technique for wireless communications[J]. IEEE Journal on Selected Areas in Communications, 1998, 16(8): 1451-1458.

[86] CHENG X, LIU D J, WANG C, et al. Deep learning-based channel estimation and equalization scheme for FBMC/OQAM systems[J]. IEEE Wireless Communications Letters, 2019, 8(3): 881-884.

[87] 汪周飛, 袁偉娜. 基于深度學習的多載波系統信道估計與檢測[J]. 浙江大學學報(工學版), 2020, 54(4): 732-738.

WANG Z F, YUAN W N. Channel estimation and detection method for multicarrier system based on deep learning[J]. Journal of Zhejiang University (Engineering Science), 2020, 54(4): 732-738.

[88] AOUDIA F A, HOYDIS J. End-to-end learning of communications systems without a channel model[C]// Proceedings of 2018 52nd Asilomar Conference on Signals, Systems, and Computers. Piscataway: IEEE Press, 2018: 298-303.

[89] ZHAO Z Y, VURAN M C, GUO F J, et al. Deep-waveform: a learned OFDM receiver based on deep complex-valued convolutional networks[J]. IEEE Journal on Selected Areas in Communications, 2021, 39(8): 2407-2420.

[90] YE H, LI G Y, JUANG B H F, et al. Channel agnostic end-to-end learning based communication systems with conditional GAN[C]//Proceedings of 2018 IEEE Globecom Workshops. Piscataway: IEEE Press, 2018: 1-5.

[91] YE H, LIANG L, LI G Y, et al. Deep learning-based end-to-end wireless communication systems with conditional GANs as unknown channels[J]. IEEE Transactions on Wireless Communications, 2020, 19(5): 3133-3143.

[92] ZHANG Y, DOSHI A, LISTON R, et al. DeepWiPHY: deep learning-based receiver design and dataset for IEEE 802.11ax systems[J]. IEEE Transactions on Wireless Communications, 2020, 20(3): 1596-1611.

[93] HONKALA M, KORPI D, HUTTUNEN J M J. DeepRx: fully convolutional deep learning receiver[J]. IEEE Transactions on Wireless Communications, 2021, 20(6): 3925-3940.

[94] KORPI D, HONKALA M, HUTTUNEN J M J, et al. DeepRx MIMO: convolutional MIMO detection with learned multiplicative transformations[J]. arXiv preprint arXiv: 2010.16283, 2020.

[95] PIHLAJASALO J, KORPI D, HONKALA M, et al. HybridDeepRx: deep learning receiver for high-EVM signals[J]. arXiv preprint arXiv: 2106.16079, 2021.

[96] JIANG P, WANG T, HANB, et al. Artificial intelligence-aided OFDM receiver: design and experimental results[J]. arXiv preprint arXiv: 1812.06638, 2018.

[97] YE H, LI G Y, JUANG B H. Deep learning based end-to-end wireless communication systems without pilots[J]. IEEE Transactions on Cognitive Communications and Networking, 2021, 7(3): 702-714.

[98] XIE H Q, QIN Z J, LI G Y, et al. Deep learning enabled semantic communication systems[J]. IEEE Transactions on Signal Processing, 2021, 69: 2663-2675.

[99] XU Z B, SUN J. Model-driven deep-learning[J]. National Science Review, 2018, 5(1): 22-24.

Research progress and trends of deep learning based wireless communication receiving method

LI Panpan1, XIE Zhengxia2, YUE Guangxue1, LIU Xin3

1．College of Information Science and Technology, Jiaxing University, Jiaxing 314001, China 2．College of Civil Engineering and Architecture, Jiaxing University, Jiaxing 314001, China 3．School of Information and Communication Engineering,Dalian University of Technology, Dalian 116024, China

With the continues expansion of the application boundary for wireless communications, the application environment of wireless communications is becoming increasingly complex and diverse, which faces negative impacts such as radio frequency (RF) damage, channel fading, interference and noise. It brings difficulties to recover the original information at the receiver. Drawing from the research results of deep learning methods in computer vision, pattern recognition, natural language processing and other fields, wireless communication reception technology based on deep learning has

wide attentions from both academia and industry. Firstly, the current research status of wireless communication reception technology based on deep learning at home and abroad was described. Secondly, the current technical challenges of wireless communication reception in the context of signal big data were outlined, and a reference architecture of intelligent wireless communication reception based on deep neural network was proposed. Finally, the development trend of intelligent wireless communication reception method in the context of signal big data was discussed. It is expected to provide reference for the research and development of wireless communication technology based on deep learning.

wireless communication, signal big data, deep learning, deep neural network, signal reception

TN929.5

A

10.11959/j.issn.1000?0801.2022025

2021?12?01；

2022?02?04

國家自然科學基金資助項目（No.U19B2015, No.U1833102）

The National Natural Science Foundation of China (No.U19B2015, No.U1833102)

李攀攀（1983?），男，博士，嘉興學院講師，主要研究方向為智能通信、深度學習、網絡空間安全等。

謝正霞（1982?），女，嘉興學院工程師，主要研究方向為智能通信、網絡空間安全等。

樂光學（1963?），男，博士，嘉興學院教授，主要研究方向為多云融合與協同服務、無線mesh網絡與移動云計算、嵌入式系統等。

劉鑫（1984?），男，博士，大連理工大學副教授，主要研究方向為認知無線電、無人機通信和衛星通信等。