系數比例自適應算法的研究

作者簡介：曾明（1987.6），男，遼寧省錦州人，大學本科，助理工程師，主研方向：光電信息。

摘要：系數比例自適應算法是利用系統的稀疏特性而發展起來的一種新的算法。這類算法為每一個濾波器系數引入一個成比例步長參數，使得成比例步長參數與濾波器系數的估計值成正比，保證了大系數獲得大步長，縮短了算法的收斂時間。本文首先介紹了系數比例自適應算法的研究背景及研究現狀，然后詳細描述了典型的系數比例歸一化最小均方（PNLMS）算法，最后重點介紹幾種改進的PNLMS算法。

關鍵字：稀疏 PNLMS 步長控制 比例步長參數

中圖分類號：TN2 文獻標識碼：A 文章編號：1672-3791（2015）03（c）-0000-00

Research of Proportionate Adaptive Algorithm

Zeng Ming1 ， Zhang Ting2

（Opto-electronics Research Academy of China Electronics Technology Group Corporation， Tianjin 300308 China）

Abstract： The proportionate adaptive algorithm is a new developed algorithm with the sparse characteristics of the system. Such algorithms introduce a proportional step-size parameter for each filter coefficient， so that the proportional step-size parameter is proportional to the estimated value of filter coefficients， to ensure that the large coefficients obtains stride length and shortens the convergence time. This paper introduces the research background and research status coefficient of the proportionate adaptive algorithm， and then it describes a typical proportionate normalized least-mean-squares adaptation （PNLMS），and finally focuses on several improved PNLMS.

Key words： Sparse PNLMS Step control Proportional step-size parameter

1、引言

隨著信號處理技術的發展，自適應信號處理在諸多領域得到廣泛的應用，例如：電信、雷達和聲納處理、地球信號處理以及醫學信號處理等。系數比例自適應算法，又稱稀疏的自適應濾波算法，在處理稀疏沖激響應時非常有效。稀疏沖激效應，是指僅有少量系數具有顯著的值，而其他系數值全為0或者非常小的沖激響應，比如，網絡回聲路徑，盡管需要用大量的濾波器系數來建模網絡回聲路徑，但僅有很小一部分的系數值非零（可稱為“活動系數“），而其它的都為0或者值很小可以忽略（可稱為“非活動系數”）。對于一個具體的長度為64ms或者128ms的網絡回聲路徑，僅僅有4ms至12ms的系數是活動系數，而其它的則是為了建模網絡傳輸時延，這些系數值都非常接近于0。除了網絡回聲路徑外，地層的沖激響應以及水下的地震沖激響應也都是典型的稀疏沖激響應[1]。

本文詳細描述了典型的系數比例歸一化最小均方（PNLMS）算法，最后重點介紹幾種改進的PNLMS算法。

2、系數比例自適應算法（PNLMS）

在傳統自適應濾波器算法中，沒有考慮到未知線性系統沖激響應的結構特點，簡單的為每一個權重系數分配一個相同的步長參數，結果對于小的權重系數被分配給較大步長參數，迭代較少次數就可以收斂到其最優值，而對大的權重系數分配同樣大小的步長參數，這個同樣大小的步長參數相對于大權重系數值顯得較小，因此需要更多的迭代次數才可以收斂到期最優值，于是最大權重系數值決定了自適應濾波器整體收斂速度。針對這個問題，Duttweiler提出了 Proportionate NLMS（PNLMS）算法[2]。PNLMS算法將一個步長控制矩陣G（n）引入NLMS算法中，該控制矩陣在n時刻為每一個濾波器權重系數分配一個與其絕對值成正比的步長參數。這樣不同的濾波器權重得到與其自身收斂要求相適應的步長參數，從而顯著提高了算法的收斂速度。步長控制矩陣G（n）定義為：

（1）

可以通過下式得到G（n）

（2）

式中gi（n）為每一個濾波器權重系數收斂相適應的步長參數， 的作用是在所有系數為零時防止算法的凍結，其值一般為0.01， 的作用是在某個系數過小或為零時防止算法的凍結，綜上所述，系數比例LMS算法的權重系數更新方程可以寫為

W（n + 1） = W（n） + G（n）X（n）e（n） （3）

上式為非歸一化的形式。一般更新方程的歸一化有兩種形式。一種形式是使用輸入信號向量X（n）的二范數對輸入信號X（n）進行歸一化，得到正是Duttweiler所提出的歸一化形式系數比例NLMS算法即

（4）

式中 的作用是防止由過小輸入信號引起的算法發散。另一種形式是使用以系數矩陣G（n）的加權后的輸入信號向量X（n）的二范數范數對輸入信號X（n）進行歸一化，表示如下：

（5）

式中 的作用也是防止由過小輸入信號引起的算法發散。

由以上可知，比例系數NLMS算法的關鍵是它為每一個濾波器權重系數分配了一個與其絕對值成正比的系數，這樣在算法的迭代中，較大系數得到了與其相適應的較大的步長參數，從而提高了算法的收斂速度。可惜這種方法的快收斂速度只是在收斂過程前期出現，并不會貫穿整個收斂過程。因為它為大權重系數分配大系數的同時也加劇了大小權重系數所分配比例系數的差異性，那么在收斂過程后期較小權重系數因得不到足夠的比例系數收斂速度過慢而成為算法收斂速度的最終主導因素。

自從第一個比例系數NLMS算法提出后，學者提出了各種不同的比例系數NLMS算法，它們的主要不同的在于使用系數比例步長矩陣G（n）的新定義或新的權重系數更新策略來減小大小權重系數得到比例系數的差異性。

3、改進的系數比例自適應算法

3.1 IPNLMS 算法

IPNLMS算法中定義的比例系數步長參數g i（n）為

（6）

式中 [-1，1]是一個調節參數，它的作用是將PNLMS算法與NLMS算法進行調整切換。當 變小時，IPNLMS算法逼近NLMS算法，直到； =-1時，兩種算法等價；當 變大時，IPNLMS算法逼近NLMS算法，直到 = 1時，兩種算法等價。一種簡單的做法是使用 代替 來求得g i（n），因為 范數是非連續的，需要采用一個近似函數來代替，即

（7）

上式中 是一個較大的正整數，以保證對 范數的近似度。因此式（6）可以寫為： （8）

這就是基于 范數的IPNLMS算法。在每一個系數比例參數中加入當前時刻濾波器權重系數向量估計值的均值，這樣在計算比例系數矩陣G（n）時，濾波器權重系數的估計誤差帶來的負面作用可以得到部分消除。因此，無論未知系統沖激響應稀疏度度如何，IPNLMS算法都可以保證了相當快的收斂速度。

3.2 MPNLMS 算法

在MPNLMS算法中g i（n）定義為

（9）

式中 是一個經驗值，一般取1000。

相比于其他的比例系數自適應算法，MPNLMS算法具有更快的收斂速度，更重要的是當未知系統的沖激響應稀疏度不夠時其收斂性能不會像PNLMS算法惡化的那么嚴重。但是它存在一個致命的缺點：無論對于專用DSP器件還是FPGA，每次迭代中的L次對數運算都是極高的計算量，尤其是對于長階數的稀疏沖激響應自適應濾波器。總得來說它理論價值很高卻難以工程應用。

3.3 IMPNLMS 算法

為了使算法也能夠處理不同稀疏度下的沖激響應，Ligang Liu提出了IMPNLMS算法該算法的比例步長參數為：

（10）

通過進行大量的仿真，發現 和 之間存在一定的關系，為

（11）

（12）

對于稀疏度的定義為[9]

（13）

其中， 不再像在IPNLMS算法中是一常數；在此， 是一個與稀疏度 相關的變量，或者說，它會隨著稀疏度的變化而變化。因此，該算法能夠自動檢測到沖激響應的稀疏變化情況，然后自適應地去調整相應的參數，從而能在稀疏度多變的環境下獲得較好的性能。Ligang Liu的仿真實驗也證實了 IMPNLMS算法的有效性。在稀疏度較低的情況下，IMPNLMS算法要比MPNLMS算法收斂更快；在沖激響應時變的環境下，IMPNLMS算法跟蹤能力要比MPNLMS算法好。

3.4 SPNLMS 算法

為了使MPLNMS算法便于工程應用，必須降低該算法的計算量，Deng采用一個折線函數來替代對數運算，進而提出了 SPNLMS算法。該折線函數主要分為兩段，第一段是可以保證小系數得到與之相適應的比例步長參數，從而確保算法的后期收斂速度；第二段是可以保證大系數得到與之相適應的比例步長參數，即保證大小權重系數的比例系數差異性不至于過大。這個分段函數定義如下：

（14）

使用上式替代式（9）中的對數函數即可得到SPNLMS算法。該算法收斂速度幾乎與MPNLMS算法相當，而計算量幾乎與PNLMS算法以及IPNLMS算法相當。

4、結束語

系數比例自適應算法利用了長沖激響應的稀疏結構特征，為每一個濾波器系數引入一個新的步長參數，即比例步長參數。本文詳細闡述了典型系數比例自適應（PNLMS）算法的基礎上，分別介紹了幾種改進的PNLMS算法：IPNLMS、MPNLMS、IMPNLMS及SPNMLS。這些算法通過比例步長參數，使其在處理稀疏沖激響應具有良好的性能。

參考文獻

[1] Z. Chen， S. L. Gay，and S. Haykin. Proportionate Adaptation：New Paradigms in Adaptive Filters，in S. Haykin and B. Widrom Eds. Advances in LMS Filters，ch. 8. Wiley，2005.

[2] Hongyang Deng， Doroslovacki， Proportionate adaptive algorithms for network echo cancelers， IEEE Transactions on Signal Processing， vol：54，pp.1794-1803， May 2006.

[3] S.L Gay，An efficient， fast converging adaptive filter for network echo cancellation， the 32nd

Asilomar conference on signals，systems and computers （ACSSC 1998），Pacific Grove，Calif，USA， pp.394-398， Nov.1998.

[4] H.Deng and M.Doroslovacki， Improving convergence of the PNLMS algorithm for sparse impulse response identification，IEEE Signal Processing Letter，vol.12， no.3，pp.181-184，Mar.2005.

[5] J. Benesty， S.L. Gay，“An improved PNLMS algorithm”， Proceedings of the IEEE International Conference on Acoustic， Speech and Signal Processing， pp. 1881-1884， 2002， Orlando， Florida， USA.

[6] Zhengxing Huang， Guan Guit，Anmin Huang， Dong Xiang， and Fumiyki Adachi，Regularization Selection Method for LMS-Type Sparse Multipath Channel Estimation，2013 19th Asia-Pacific Conference on Communications （APCC），Bali - Indonesia.

[7] H.Deng and M.Doroslovacki ， Proportionate adaptive algorithms for network echo cancellation，IEEETrans Signal Processing， vol.54， no.5，pp. 1794-1803， May.2006.

[8] H.Deng， Adaptive algorithm of sparse impulse response identification， Doctoral Dissertation，

Dept. of electrical and computer engineering，George Washington University， Washington，DC， Mar.2005.

[9] Ligang Liu， Fukumoto and M. Saiki.s， An improved mu-law proportionate NLMS algorithm，

Acoustics， Speech and Signal Processing ICASSP， Las Vegas， NV， March 31 2008：pp.3797-3800.