基于SCFNN之PAM非線性信道均衡器成效研究

李慶海，林瑞昌

(浙江工貿職業技術學院 電子工程系，浙江 溫州 325003)

基于SCFNN之PAM非線性信道均衡器成效研究

李慶海，林瑞昌

(浙江工貿職業技術學院 電子工程系，浙江 溫州 325003)

自組織型模糊類神經網絡(SCFNN)可依據一定的法則自我構建神經網絡的組織結構，從而適用于當前控制對象；多層神經元是傳統的類神經網絡，廣泛應用于各個領域；倒傳遞學習法與最陡坡降法相結合,可使以上兩種類神經網絡進行有效的融合；目前，信道均衡器上的系統架構種類非常多，各種類神經網絡應用于信道均衡器也頗為普遍；在研究SCFNN的基礎上，將其應用于通道均衡器確實可行，效果良好；比較了SCFNN與MLP在通道均衡器的成效；仿真表明，在相同通道環境下，SCFNN的訓練收斂速度、位錯誤率與系統敏感度優于MLP，完成結構學習后SCFNN的結構也頗為精簡。

自組織型模糊類神經網絡；均衡器；多層神經元；最陡坡降法

0 引言

在信道中傳送數字信號，難免會遭受到噪聲的干擾及產生符際干擾(ISI)，或是信號能量在傳送過程中衰減，使接收端收到的是失真的信號，因此，我們必須在接收端補償或修正收到的信號，希望能恢復失真的信號。過去以線性信道均衡器解決此類問題，慢慢的通道環境日趨復雜，線性信道均衡器難以恢復嚴重的非線性失真信號[1]。

經過學習的類神經網絡可以在輸入信號與輸出信號間行成復雜的決策邊界(decision boundary)，所具有的復雜映對(Mapping)能力能解決非線性或高度非線性分類問題，所以，多采用類神經網絡解決信道非線性失真的問題[2-3]。在復數類神經網絡方面，Chen 等專家[3-9]證實各種類神經網絡均衡器可以產生復數非線性隔離曲線，亦即等化高度非線性信道。上述這些類神經網絡都是訓練架構已經確定的神經網絡，訓練期間調整其前后層間鏈接權重(link weight)，或神經元的偏權值(Bias)，或同一層間神經元的鏈接權重，經過數十次甚至于上萬次學習循環網絡收斂后，才是一個可以工作的類神經網絡。

圖1 自組織型模糊類神經網絡應用于均衡器

圖1的自組織型模糊類神經網絡(self-constructing fuzzy neural network，SCFNN)最早由Faa-Jeng Lin等提出并實現于永久磁鐵式同步馬達速度控制[10]。本文將SCFNN加上Hard decision之后，應用在有ISI效應、非線性與噪聲的信道失真后衰敗信號重建，我們去仿真ISI、非線性、與噪聲不同組合模型，經過一再測試，SCFNN所建出來的類神經網絡均衡器，有很好的信號恢復能力且硬件需求簡單。以目前均衡器所使用的類神經系統架構來說，圖2的多層神經元(multi-layer perceptron,MLP)結構[11-12]是信號恢復程度相當高的一種，雖然MLP存在收斂容易落入局部極小值與訓練周期數過長的問題普遍也有專家學者改善傳統MLP后，將其應用于通道均衡器[5-13]。本文除了測試SCFNN在通道均衡器的表現之外，并以MLP信道均衡器為比照對象,來驗證SCFNN在信號恢復上能否比MLP更為強健(Robustness)。

圖2 多層神經元類神經網絡

1 數字傳輸系統

具有均衡器的數字通信系統如圖3所示，在時間KT時傳送的信號t(k)，k=0、1、2表示原始數字序列，假設其具有統計獨立與機率相等的特性，其中，1/T代表符號率，信道(Channel)表示信號行經路線特性，一個被廣泛使用的線性分散信道模型是有限長度脈沖響應(finite impulse response, FIR)模型，在時間kT時通道的輸出a(k)可表示為[4]:

(1)

h(i),i=0…nh-1為通道的脈沖響應而nh是FIR通道的長度。傳送設備的電子組件可能會引起信號產生非線性失真，a(k)經NL后的輸出b(k)可表示為:

b(k)=f[a(k),a(k-1),...,a(k-nk+1),

h(0),h(1),...h(nk-1)

(2)

φ(…)表示NL產生的非線性函數。通道也可能受具有變異數σ2平均值為0的白色高斯噪聲影響，所以，當我們考慮白色高斯噪聲時，均衡器收到的信號r(k)=b(k)+q(k)，q(k)即代表白色高斯噪聲，y*(k)是經均衡器補償后的輸出，y*(k)與正確信號y(k)比較，產生一個誤差信號e(k)=y(k)-y*(k)，若所有訓練數字序列的e(k)均方根值超出可容許的誤差范圍，則持續訓練修正均衡器的參數，直至e(k)均方根值在許可范圍之內為止。

圖3 具有均衡器的數字傳輸系統

在本研究中所采用的信道模型有以下3種，其轉移函數分別表示如下[6-8]：

CH=1:1.0

CH=2:0.447+0.89z-1

CH=3:0.2.9+0.995z-1+0.2.9z-2

(3)

CH=1因具單位脈沖響應所以相當于是一個沒有任何ISI的通道，CH=2相當于是一個不具最小相的通道。CH=3表示目前的位數受后續兩個位影響的信道。ISI效應產生主要是因為數據在高速傳輸時需要相當高的符元速率，然而在多重傳輸環境中，由于時間的不準確性，頻寬不足，振幅失真，相位失真，而受到嚴重的“相鄰符元互相干擾”，如圖4所示。為了處理由ISI所引起的有限頻寬通道，首先必須要有此ISI之離散時間模型。如圖5所示，為有ISI之通道離散時間截線濾波器(transversal filter)模型，其跳階增益為XK，時間區間為2LT，其輸入信號為In，輸出信號為yn，噪聲信號為vn。

圖4 ISI效應

圖5 ISI效應的通道離散時間模型

在本研究中，采用的非線性現象有以下4種[6-8]：

NL=0:b(k)=a(k)

NL=1:b(k)=tanh(a(k))

NL=2:b(k)=a(k)+0.2a2(k)-0.1a3(k)

NL=3:b(k)=a(k)+0.2a2(k)-0.1a3(k)+0.5cos(πa(k))

(4)

NL=0相當于一個線性信道模型，NL=1相當于是傳輸系統放大器飽和的非線性信道，NL=2與NL=3則是兩個任意非線性信道。本研究中仿真各種信道模型、非線性模型、訊號噪聲強度比(SNR=8-18，間隔2)不同組合條件下，研究SCFNN所建出來的結構與信號恢復情形。

2 自組織型模糊類神經網絡應用在信道均衡器

圖1自組織型模糊類神經網絡系統[10]，運作之始就是三個輸入節點與一個輸出節點，隨著訓練動作的進行逐步加入第二層歸屬函數(membership function)節點與第三層乘積運作節點，并逐步調整第二層每一個高斯型歸屬函數的平均值(Mean)mji、標準差(Deviation)σji與第三層、輸出節點間的鏈接權重(link weight)ωj，直至所有訓練樣本的推論輸出值與期望輸出值差的均方根值收斂為止。訓練周期視訓練樣本的復雜度而異，可能需數個至數十個訓練周期，所謂一個訓練周期表示所有的訓練樣本執行過一次。

我們逐步說明自組織型模糊類神經網絡推論輸出值的計算過程與學習方法，訓練樣本逐筆進入自組織型模糊類神經網絡，經過逐層運算得到一個推論輸出值。以下是各層的計算過程。

Layer 1：此層是輸入節點，序列r(k)、r(k-1)、r(k-2)透過此節點傳到下一層，沒有計算動作。其中:

r(k)：非線性模型輸出加上白色高斯噪聲后的數字序列；

r(k-1)：較r(k)延遲1個位的數字序列；

r(k-2)：較r(k)延遲2個位的數字序列。

Layer 2：此層的每一節點相當于是第一層輸入變量的語意項(linguistic label)，亦即算出輸入變量i屬于此歸屬函數的程度Aji，本研究中采用高斯函數作為歸屬函數(membership function)，

(5)

mji：信號r(k-i)對第j個歸屬函數的中點(Mean)。

σji：信號r(k-i)對第j個歸屬函數的標準差(Standard deviation)。

Layer 3：此層的每一節點表示模糊規則的命題部(Precondition part)，其函數是:

uj=Aj1(r(k))·Aj2(r(k-1))·Aj3(r(k-2))

(6)

亦即第二層三個輸入歸屬函數群中第j個歸數函數值進入此節點相乘，得一乘積為此層的輸出。

Layer 4：此層僅有一個節點主要的動作是解模糊化(Defuzzify)，若以y*表示推論輸出值，則:

(7)

uj(1<=j<=M)表示第三層的輸出，ωj(1<=j<=M)表示第三層每一節點與第四層輸出節點之間的鏈接權重，M是系統學習過程中已建立的規則數目。

SCFNN的特色之一是在線學習(on-line learning)，SCFNN在初始狀態僅有n個輸入節點與一個輸出節點，經由結構學習(structure learning)建立系統，經由參數學習(parameter learning)將系統每個規則的3個參數調到最佳狀態。開始結構學習之后，每一訓練樣本進入SCFNN輸入節點，對每一輸入值產生每一個歸屬函數的激發量，若發現激發量的值都小于設定值，則在第二層為每一個輸入變量增加一個節點，第三層也增加一個節點，亦即增加一條規則，完成結構學習后系統可以將輸入變量的論域(universe of discourse)，做合理的模糊分割(fuzzy partition)，當然我們希望建立最少的規則也希望產生最少的模糊集合(fuzzy sets)。

接著我們說明學習過程的參數學習，倒傳遞(back propagation)算法是參數學習的主要精神，我們將一筆三位的數據r(k)、r(k-1)、r(k-2)輸入給自組織型模糊類神經網絡經過計算得到一個推論輸出值的同時，也有一個位的正確輸出值y(k)傳到自組織型模糊類神經網絡以比較兩者的差，進而推論出3個要修正參數(鏈接權重ωj、歸屬函數的平均值mji與標準差σji的修正量然后進行修正。這個動作在每一筆數據進入系統就做一次，直至系統學習完成，完成學習后系統可以工作。我們以求輸出值相反方向說明上述3個參數修正量的公式。首先定義能量函數E如下：

(8)

y：對應每一訓練樣本的正確輸出值。

y*：r(k)、r(k-1)、r(k-2)進入系統之后的推論輸出值。

Layer 4：

鏈接權重ωj變化量及更新方式如下：

ηw(y-y*)uj

(9)

wj(N+1)=wj(N)+Δwj

(10)

N為學習樣本編號；j為第三層節點編號。

由(8)式可看出每輸入一筆訓練樣本給自組織型類神經網絡得到推論輸出值后，調整計算正確輸出值與推論輸出值差后進行參數調整。

歸屬函數的中間值與標準差之調整量公式如下：

Layer 3：

(11)

(12)

式中，ηm、ησ是參數，可調整以得到較佳的結果。接著實際進行歸屬函數參數的調整，

mji(N+1)=mji(N)+Δmji

(13)

σji(N+1)=σji(N)+Δδji

(14)

經過了結構學習與參數學習，系統也收斂，表示這是一個可以工作的自組織型模糊類神經網絡，即可切換進入傳輸模式進行信息接收工作。在模擬過程中，我們另外隨機產生100,000位PAM{+1，-1}測試數據，逐筆進入系統進行運算，求推論輸出值并計算位錯誤率。

3 總結自組織型模糊類神經網絡為基礎的信道均衡器算法

為仿真通道的ISI現象，本研究以r(k)、r(k-1)、r(k-2)三個數字序列作為自組織型模糊類神經網絡的輸入信號，圖1與圖3是本研究之系統結構。以下總結本研究的算法：

1)學習部分。

(a)若是第一筆數據則分別對n個輸入變量建立n個高斯型歸屬函數，以輸入變量值為高斯函數中點m，偏離值(Deviation)σ采固定值。計算3個激發量(firing strength)Aj1、Aj2、Aj3的乘積u1，u1與輸出端間之鏈接權重ω1(link weight)初始時采隨意值。j在本論文中表示圖一第二層每一群歸屬函數編號，亦是第三層乘積運作節點編號。

(b)第二筆數據起，對已建立之歸屬函數求出u1、u2、…un并找出這中間最大值Umax，將此值與既定值Umin做比較，若小于Umin則建立一個新的規則，亦即第二層每群增加一個高斯歸屬函數。歸屬函數的平均值mji=r(k)、r(k-1)、r(k-2)，標準差σji則采隨機值，因為后續尚需調整)，第三層增加一個乘積運作節點，鏈接權重值ωj亦采隨機值。

(c)計算推論輸出值y*=u1ω1+u2ω2+u3ω3+…+uMωM，M表示目前歸屬函數的數目。

(d)調整每一個高斯型歸屬函數中點mij、偏離值(Deviation)σij與鏈接權重(Link Weight)ωj。

(e)計算所有訓練樣本之推論輸出值與正確輸出值誤差之均方根值。

2)重復步驟(b)～(e)直至所有訓練樣本之推論，輸出與正確輸出之均方根值收斂至設定值或訓練次數已達一定次數為止。

3)使用另一數字序列，測試已訓練好的自組織型類神經網絡均衡器計算其位錯誤率(Bit Error Rate)。

4 模擬結果

我們仿真3種主要的信道模型搭配非線性模型、不同信號噪聲強度比，每一種狀況都以500位PAM信號{+1，-1}進行20個學習循環的訓練，再以100000位PAM信號{+1，-1}進行測試，記錄均方根值收斂曲線、位錯誤率與SCFNN完成學習后的規則數。在上一節曾提到訓練樣本進入輸入節點之后，若激發量小于設定值，則需建立一個規則，此最小激發量我們設定為0.125。在參數學習過程中，更新鏈接權重、高斯函數平均值與標準差時有三個重要的參數ηw、ηm、ησ，我們分別設定為0.025。本文以信道轉移函數CH=3，非線性模型(NL=0-3)與噪聲(SNR=8-18)作為模擬條件。在仿真過程中SCFNN所建立的規則數列于表1。 圖6～7是MLP與SCFNN的MSE值、由圖中可看出SCFNN的收斂較為快速，亦即可在較短訓練周期下達到相等程度信號恢復。NL=3加上低SNR值會產生收斂不是很理想情況。圖8～9是MLP與SCFNN的位錯誤率值，本文發現相對于MLP，我們可看出，SCFNN對此4種非線性現象變化較大，亦即SCFNN對不同的非線性現象，展現出其高敏感度。

表1 SCFNN在CH=3、NL=0-3、最小激發量0.125 經500 bit/20cycle訓練的最后規則數

圖6 MLP-CH=3，NL=3，訓練期間均方根值收斂曲線

圖7 SCFNN-CH=3,NL=3，訓練期間均方根值收斂曲線

圖10～13是SCFNN與MLP 位錯誤率的比較，我們可以發現，SCFNN的位錯誤率都在MLP之下，亦即SCFNN的信恢復能力比較高 。

圖8 MLP-CH=3，NL=0-3，位錯誤率

圖9 SCFNN-CH=2，NL=0-3，位錯誤率

圖10 MLP與 SCFNN CH=3，NL=0，位錯誤率比對

圖11 MLP與 SCFNN CH=3，NL=1位錯誤率比對

圖12 MLP與SCFNN CH=3，NL=2位錯誤率比對

圖13 MLP與 SCFNN CH=3，NL=3位錯誤率比對

5 結論

本研究以自組織型模糊類神經網絡(SCFNN)設計數字傳輸系統非線性均衡器，在適度非線性搭配不同程度SNR仿真條件組合下，檢視SCFNN在數字傳輸系統非線性均衡器的成效。證實SCFNN在信號恢復程度明顯優于MLP，且其M.S.E曲線收斂狀況亦比較快速。系統敏感度是目前各個架構所欠缺的能力，本文驗證了SCFNN在系統敏感度優于MLP。SCFNN架構雖簡單但也不是很精簡，再進一步，為了使硬件成本降低，將結構數降低乃是必要途徑，也是后續可努力改善的目標之一。

[1] Haykin S. Communication Systems[A].4thed[C].,New york:Wiley,2001.

[2] Lee C C,Fuzzy logic in control system:Fuzzy logic controller-Part I and part II[J].IEEE Trans.Syst.,Man,Cybern,1990, 20(9):404-436.

[3] Bernard Mulgrew.Applying radial basis functions[J].IEEE Signal Processing Magazines,1996,23(6):50-65.

[4] Jean-pierre Martens,Nico Weymaere,An equalized error back-propagation algorithm for the on-line training of multilayer perceptrons[J].IEEE Trans.Neural Networks.,2002,13(6):532-541.

[5] Azzedine zerguine,Ahmar shafi,and Maamar bettayeb,Multilayer perceptron-based lattice structure[J].IEEE Trans.Neural Networks, 2001,9(12):532-545.

[6] Deng Jianpimg,P.Saratchandran,Communication channel equalization using complex-valued minimal radial basis function neural networks[J].IEEE Trans.Neural Networks, 2003,13(6):687-696.

[7] Kechriotis G, ZervasE, Manolakos E S. Using recurrent neural networks for adaptive communication channel equalization[J].IEEE Trans.Neural Networks,1994,9(19):267-278.

[8] Chen S, Gibson G, Cowan C,et al. Reconstruction of binary signals using an adaptive radial-basis-function equalizer[J].Signal Processing,1991,22(6):77-93.

[9] Chen S, Gibson G, Cowan C,et al. Adaptive equalization of finite non-linear channels using miltilayer perceptron[J].Signal Processing,1990,20(6):107-119.

[10] Faa-Jeng Lin,Chih-Hing Lin, Po-Hung Shen.Self-constructing fuzzy neural network speed controller for permanent-magnetic synchronous motor drive[J].IEEE Tran.Fuzzy Syst,2001,9(5):751-759.

[11] 暴 春,謝邦昌.淺談類神經網絡[J].山西科技,2006，10(1):132-132.

[12] 趙 娟,高正明.基于BP神經網絡的盲均衡器設計[J].聲學技術,2013,32(2):141-145.

[13] 董玉華,張俊星.修正的解相關前饋神經網絡盲均衡算法研究[J].大連民族學院學報,2012,14(5):460-462.

A SCFNN Based PAM Channel Equalizer Performance Research

Li Qinghai,Lin Ruichang

(Department of Electronic Engineering, Zhejiang Industry & Trade Vocational College,Wenzhou 325003,China)

Self-Constructing Fuzzy Neural Network(SCFNN)can create a fuzzy neural network for a target in accordance with a dedicated algorithm.Multi-layer Perceptron(MLP)neural network is a very traditional neural network and many applications were developed in different fields.Back Propagation(BP) combined with steepest descent method make the SCFNN and MLP learned efficiently.Today, many kinds of channel equalizers were constructed, and many kinds channel equalizers based on neural network were also constructed.We prove that the SCFNN can be a superior equalizer. We also compare the performance of SCFNN and MLP applied in channel equalizer. The simulation results show the SCFNN is superior than the MLP in convergence speed, bit error rate and sensitivity. When the SCFNN learning processes is completed the, we found the structure is very simpler.

self-constructing fuzzy neural network(SCFNN);equalizer; multi-layer perceptron(MLP);steepest descent method

2016-12-27；

2017-01-19。

李慶海(1980-)，男，黑龍江哈爾濱人，研究生，講師，主要從事自動化控制，神經網絡方向的研究。

1671-4598(2017)03-0222-05

10.16526/j.cnki.11-4762/tp.2017.03.060

TP911.5

A