基于高斯過程回歸的光纖非線性信道補償方法

吳 彪, 李嘉浩, 張召才

(1.國網電力科學研究院武漢南瑞有限責任公司，武漢 430074； 2. 武漢大學 電氣與自動化學院，武漢 430072；3. 北京空間科技信息研究所，北京 100094)

0 引 言

非線性信道均衡是光纖傳輸系統中一個熱門的研究方向，非線性效應從根本上限制了當前光纖通信系統的信息速率和傳輸距離[1]。目前，用于強度調制和直接檢測 (Intensity Modulation Direct Detection，IMDD) 光纖鏈路的最流行的非線性信道均衡器(Channel Equalizer，CE)是最大似然序列均衡器 (Maximum Likelihood Sequence Equalization, MLSE)[2]和基于 Volterra 級數的非線性濾波器[3]。然而，這些非線性CE的計算復雜度很高，隨著通道響應的維度呈指數增長。

最近，基于機器學習的非線性CE在提高 IMDD 光纖鏈路中的非線性容限方面顯示出了巨大的潛力，例如神經網絡 (Neural Network，NN)[4-5]、徑向基函數網絡 (Radial Basis Function Network，RBFN)[6]、支持向量機 (Support Vector Machine，SVM)[7]和長短期記憶遞歸神經網絡 (Long Short Term Memory-Recurrent neural network，LSTM-RNN)[8]。與這些非線性CE相關的一個常見問題是這些機器學習模型中參數的物理意義尚不清楚。由于機器學習技術被用作“黑匣子”，因此模型中的參數是否已被調整為最優，或者參數如何影響系統性能尚不清楚。

本文使用基于高斯過程回歸(Gaussian Processes for Regression，GPR)的非線性通道均衡。在線性損傷得到補償的條件下，提出了用于非線性噪聲抑制的GPR模型。在實驗演示中，在100 km標準單模光纖(Standard Single Mode Fiber，SSMF)上傳輸 28-GBaud 4幅度脈沖幅度調制 (4-level Pulse Amplitude Modulation，PAM4)信號來構建IMDD鏈路。實驗結果表明，基于GPR的非線性CE與傳統的基于線性或非線性CE相比具有更好的性能。本文還比較了GPR和NN模型在非線性信道均衡方案中的性能，結果表明，GPR模型的輸出可以看作是具有優化參數和無限寬度的NN模型輸出的均值。

1 GPR的原理

多徑通信系統中的非線性效應可以用函數g(·)建模為

在無線通信系統中，以下協方差矩陣已被應用于GPR[10]中來實現非線性信道均衡：

式中：θ=[α1,α2,α3,γ1,γ2,…,γn]T為超參數，將在訓練階段確定；δij為Kronecker的delta函數。在式(5)中，第1項是平方指數協方差函數，它是無限可微的。由于平方指數協方差函數是xi-xj的函數，它持有監督學習中的關鍵假設：若輸入數據xi和xj較接近，則可以認為他們會有類似的目標輸出y。參數α1與目標y的方差有關。在平方指數協方差函數中，參數γl確定元素xi和xj之間的依賴程度。等式第2項表示線性回歸，也稱為點積協方差函數。等式第3項表示高斯白噪聲的方差α3=σ2。

在實際場景中，超參數的值θ通常是未知的。為了解決這個問題，首先引入邊際似然函數log[9]：

式中，Const.=(m/2)·log(2π)。由式(6)可知，超參數的最優設置θ對應于log函數的最大化。通過計算log函數θ的偏導數，一般采用了一種有效的計算方法，其中超參數可表示為[9]

2 GPR輔助的數字信號處理算法

圖1 GPR輔助的非線性CE的數字信號處理流程Figure 1 DSP scheme of the proposed GPR-aided nonlinear CE

式中：Pch為測試數據集的信道功率；Pref為訓練集的信道功率。因此，當輸入功率值發生變化時，無需重新訓練 GPR 模型。

3 實驗結果

為了驗證GPR輔助非線性CE在噪聲估計模式和符號估計模式中的有效性，本文進行了IMDD的實驗，并在100 km SSMF中傳輸了28-GBaud的PAM4 信號。實驗裝置如圖2所示。信號幀由200個用于時間同步的開關鍵控(On-Off Key，OOK)符號和60 000個數據PAM4符號組成。數字信號是離線生成的，過采樣因子為2，滾降因子為0.1。將數字信號加載到以56 GSa /s采樣率運行的任意波形發生器中，以實現數/模轉換。模擬信號的峰峰值電壓最大為1 V。模擬電信號在1 550.8 nm、帶寬為18 GHz的直接調制激光器中轉換為光信號。直接調制激光器的線性度通過設置偏置電壓來優化。為了克服光纖色散引起的功率衰落效應，采用光帶通濾波器(Optical Bandpass Filter，OBPF)來產生光單邊帶信號。然后用摻鉺光纖放大器(Erbium Doped Fiber Application Amplifier，EDFA)來補償由OBPF引起的功率損耗，并將光信號輸入到長度為100 km的SSMF中。經過光纖傳輸后，光信號由另一個 EDFA進行放大，然后由帶寬為40 GHz 的光電探測器 (Photodetector，PD)轉換為電信號。需要注意的是，EDFA可用于調整接收端PD的光功率。這主要是因為PD沒有集成跨阻放大器，只能在輸入功率>0 dBm的情況下正常工作。最后，模擬信號在數字采樣示波器(Digital Storage Oscilloscope，DSO)中以80 GSa/s的采樣率實現模/數轉換。如圖 1 所示，離線的數字信號處理過程包括重采樣到過采樣、時間同步、FFE、使用GPR 的非線性CE、解映射和判決以及BER計算。為了更好地評估基于GPR非線性CE的有效性，FFE的工作方式主要基于線性濾波器，濾波器抽頭數設置為 67。為了公平比較，我們還在實驗演示中考慮了基于NN模型的非線性CE，如圖1所示[4]。

圖2 56 Gbit/s 100 km IMDD實驗裝置圖Figure 2 Experimental setup of the 56 Gbit/s IMDD fiber transmission link over 100 km

為了避免過擬合問題并確保訓練/測試集的隨機性，每個PAM4傳輸序列是通過將SIGN(·)函數應用于兩個獨立的二進制隨機序列生成的，每個隨機序列都來自一個AWGN序列。在實驗演示中，使用長度為4 000的PAM4序列作為訓練集。然后生成另外3個長度為60 000的不同PAM4序列作為測試集。BER是通過在測試過程之后對所有3個PAM4序列的BER進行平均來計算的。

通過在信道均衡階段應用線性CE，當針對每個發射功率單獨訓練GPR 模型時，具有兩種操作模式的GPR CE的性能如圖3(a)所示。如圖所示，經過線性CE之后，基于GPR模型的CE比沒有使用GPR模型的CE的性能更好。兩種GPR模式的性能相似。接下來，我們僅使用發射功率為16 dBm時獲得的GPR模型來測試所有發射功率范圍內的信號。如圖3(b) 所示，噪聲估計模式可以提供比符號估計模式更好的性能。當真實發射功率和參考發射功率之間的差異變大時，符號估計模式的性能會迅速下降。

圖3 GPR輔助CE的BER性能Figure 3 BER performances of GPR-aided CEs versus launch power with GPR models trained at

然后，我們考慮線性均衡之后的NN非線性CE，將其性能與基于GPR的非線性CE進行比較。NN模型由具有維數 (9×1) 向量的輸入層、具有200個節點的隱藏層和一個與估計噪聲對應的輸出節點構成。我們選擇整流線性單位函數作為激活函數。如圖4(a) 所示，使用GPR的非線性CE的性能優于使用NN的非線性CE，使用NN的非線性CE相比于線性CE也有一定程度的性能提升。

圖4 GPR輔助CE的性能與參數的關系Figure 4 Relationship between GPR-aided CE performance and parameters

對于圖4(a)中結果的解釋是，若NN模型的寬度是無限的，則NN模型計算的函數是從多維中心極限定理意義上的高斯過程得出的函數。因此，當NN模型進行隨機優化訓練時，可以認為GPR在非線性建模中的表現優于NN。接下來，我們對隱藏層中節點數量的影響進行評估。具體來說，BER是通過對每個節點數量使用不同的隨機初始化運行NN模型100次來平均的。如圖4(b) 所示，隨著節點數量的增加，NN模型的性能不斷接近GPR模型。因此，GPR輔助非線性CE的輸出可以看作是具有無限寬度和優化參數的NN輔助非線性CE輸出的平均值。

我們還研究了訓練數據的長度和維數n如何影響GPR在訓練階段的表現。如圖5(a)所示，訓練數據長度越大，性能越好。這主要是因為，如果在訓練階段應用更多的訓練符號，多維高斯分布的逼近會更準確。由圖 5(b) 可知，發射功率為13和16 dBm兩種情況的最優維數n均為9。需要指出的是，式(5)中的協方差函數假設輸入向量中的元素具有相同的長度尺度xl。在我們看來，維數n與符號之間的相關程度有關，可以根據光纖長度進行優化。

圖5 GPR輔助CE的參數對BER性能的影響Figure 5 BER versus length of training symbols and number of dimensions n in GPR model

4 結束語

本文提出了GPR輔助的CE來減輕IMDD光纖鏈路中的非線性噪聲。研究結果表明，GPR模型可用于在常規線性均衡后進一步提高系統性能。此外，本文還對GPR和NN模型在CE中的性能進行了比較，以證明GPR模型相對于NN模型的優越性。