新的變步長LMS算法在系統辨識中的應用

張炳婷，趙建平，馬淑麗

(曲阜師范大學 物理工程學院,山東 曲阜 273165)

摘　要：在分析最小均方誤差(LMS)自適應濾波算法和變步長LMS算法的基礎上，提出了一種新的變步長算法，該算法用誤差的平均值來控制步長的變化，進一步的解決了收斂速度和穩態誤差的矛盾。講述了新算法的具體改進方式，并將該算法和變步長G-SVSLMS算法以及固定步長算法分別應用到系統辨識中，通過MATLAB進行仿真，結果證實文中提出的算法在明顯提高收斂速度的同時,并擁有好的穩態誤差。

關鍵詞：LMS算法；變步長；系統辨識；收斂速度

doi:10.3969/j.issn.1002-0802.2015.06.005

新的變步長LMS算法在系統辨識中的應用

張炳婷，趙建平，馬淑麗

(曲阜師范大學 物理工程學院,山東 曲阜 273165)

摘要：在分析最小均方誤差(LMS)自適應濾波算法和變步長LMS算法的基礎上，提出了一種新的變步長算法，該算法用誤差的平均值來控制步長的變化，進一步的解決了收斂速度和穩態誤差的矛盾。講述了新算法的具體改進方式，并將該算法和變步長G-SVSLMS算法以及固定步長算法分別應用到系統辨識中，通過MATLAB進行仿真，結果證實文中提出的算法在明顯提高收斂速度的同時,并擁有好的穩態誤差。

關鍵詞：LMS算法；變步長；系統辨識；收斂速度

doi:10.3969/j.issn.1002-0802.2015.06.005

收稿日期：Received date:2015-01-18；Revised date：2015-04-29

基金項目：山東省自然科學基金資助(No.ZR2014FM011) Foundation Item:Natural Science Foundation of Shandong Province (No.ZR2014FM011)

中圖分類號：TN929.5

文獻標志碼：碼：A

文章編號：號：1002-0802(2015)06-0653-04

Abstract：Based on analysis of LMS (Least Mean Square Error) adaptive filtering algorithm and variable step size LMS algorithm, a novel variable step algorithm is proposed. The error mean of this algorithm is used to control the step variation, and further to mitigate the contradiction of between convergence rate and steady-state error. The specific improved method to modify the novel algorithm is described, and the proposed algorithm, variable step size G-SVSLMS algorithms and fixed-step algorithm are respectively applied to the system identification. Simulation with MATLAB indicates that this algorithm could significantly improve convergence rate while having a fair steady-state error.

作者簡介：

Application of Novel Variable Step Size LMS Algorithm

in System Identification

ZHANG Bing-ting，ZHAO JIAN-ping，MA SHU-Li

(College of Physics Engineering ，Qufu Normal University ， Qufu Shandon 273165，China )

Key words：LMS algorithm; variable step size; system identification; convergence rate

0引言

最小均方誤差LMS(Least Mean Square)算法最早是由Windrow和Hoff提出的[1]，是在維納濾波器的基礎上建立的，以最小均方差準則下，運用最速下降法來獲得最優的維納解。其主要過程就是通過調整自適應濾波器的權系數，使濾波器的輸出信號和期望信號之間的誤差最小。自適應濾波器根據提取期望響應的不同，又分為系統辨識、干擾消除、預測和信道均衡四種應用。LMS算法憑借其計算量小、結構簡單，被廣泛的用于自適應控制、信號處理等多種工程領域[2]。其中收斂速度和穩態誤差是衡量該算法的兩個重要標準，然而LMS算法的收斂速度和穩態誤差間存在矛盾[3]。具體來說算法的收斂速度主要受迭代步長的影響，在迭代步長滿足算法的收斂條件時，步長越大，收斂速度加快，但同時會帶來較大的穩態誤差；反之，要想有較小的穩態誤差，就必須采用小的迭代步長，但同時降低了收斂速度。為了解決這一矛盾，眾多的學者提出了各種變步長算法，改進的算法主要有兩個方向，一個方向是利用誤差信號來進行步長迭代，另一方向是利用梯度向量來進行步長迭代[4]。目的都是為了在算法的出收斂階段，采用大的步長，加快收斂速度，等到收斂穩定后，采用小的步長，來降低穩態誤差。

1LMS算法

1.1傳統的LMS算法

最小均方誤差(LMS)算法，它是以期望響應和濾波器輸出信號之間誤差的均方最小值為準則，并使用誤差來控制自適應濾波器的權系數，是最終輸出的權系數達到最佳的權系數。LMS算法的表達式：

y(n)=w(n)Tx(n)

(1)

e(n)=d(n)-y(n)

(2)

w(n+1)=w(n)+ue(n)x(n)

(3)

式中，x(n)是輸入信號,d(n)是期望響應的輸出信號,y(n)是實際輸出的信號,w(n)是濾波器的抽頭系數。e(n)是誤差信號。式(3)是抽頭權向量的遞推公式，u是步長因子，當滿足0

J(n)=E{|e(n)|2}=E{|d(n)-y(n)|2}

(4)

即使濾波器的輸出信號與期望信號之間的誤差最小。并以此穩態誤差作為衡量LMS算法的性能。在滿足收斂條件下，u越大，收斂速度越大，相應的穩態誤差也越大；u越小，穩態誤差小，但相應的收斂速度也小。

穩態誤差和收斂速度是衡量算法收斂性能的兩個重要標準，為了獲得好的穩態誤差和快的收斂速度，對于迭代步長的調整最為關鍵，所以人們提出來變步長算法，在算法的收斂階段，采用大的迭代步長，獲取較快的收斂速度，等算法達到穩態后，采用小的迭代步長來減小穩態誤差。

1.2變步長算法

本文研究的變步長算法，是利用誤差信號進行迭代，建立誤差信號與迭代步長的某種函數關系，在文獻[5]中提出的基于G-SVSLMS函數的變步長算法，該算法的表達式：

w(n+1)=w(n)+u(n)e(n)x(n)

(5)

式(5)中u(n)=β(1-exp(-α|e(n)|2))，β控制步長函數的取值范圍，α控制步長函數的形狀。算法的輸出信號和誤差信號的表達式如式(1)、式(2)。該算法具有較小的穩態誤差和較快的收斂速度。并且在誤差信號e(n)接近零時具有變化緩慢的特性。但是在外界噪聲嚴重的情況下，步長函數u(n)中的e(n)容易受到外界噪聲的影響，使u(n)不能達到最小的值，從而使抽頭系數只是無限地的接近最優解，不能達到最優的維納解。針對這種算法的不足之處，在文獻[6]中提出的一種新的改進算法，就是在步長函數中不直接使用誤差信號e(n)的平方，而是使用前一時刻的誤差信號e(n-1)與當前時刻的誤差信號e(n)的乘積即e(n-1)e(n)來代替，降低了G-SVSLMS算法對噪聲的敏感度，該算法記為NG-SVSLMS算法。

NG-SVSLMS算法的步長函數表達式：

u(n)=β(1-exp(-α|e(n)e(n-1)|))

(6)

該算法在低信噪比下有低的穩態誤差，但是收斂速度不十分理想。

2本文提出的算法

本文提出的算法在G-SVSLMS基礎上結合塊自適應濾波器文獻[7]中的塊平方誤差的思想，利用前面所有時刻的誤差信號與當前時刻誤差信號的平均值記為eav(n)，來建造與步長的函數關系。

表達式如下式

u(n)=β(1-exp(-α|eav(n)|))

(7)

(8)

圖1本文算法的步長隨迭代次數的變化

3算法在系統辨識中的應用分析

3.1系統辨識的分析

系統辨識是根據系統的輸入與輸出信號，建立系統模型的理論和方法。當給定一個未知的系統時，通過自適應濾波器可以逼近這個系統，進而得到這個動態系統，從而達到系統辨識的目的[8]，下面給出改進的LMS算法在系統模型辨識中的應用實例，其中算法的收斂速度是衡量算法的重要標準。圖2是系統辨識的原理圖。

圖2　系統辨識原理框

假設自適應濾波器的階數與未知系統的階數相同，輸入隨機信號為x(n),對未知系統測量得到的輸出信號是,d(n)它是由未知系統的輸出信號y(n)與噪聲信號v(n)疊加，其中噪聲信號是測定的高斯白噪聲，并且與輸入信號不相關。在圖中y∧(n)是自適應濾波器的輸出，它與對未知系統的輸出信號d(n)間的差值是誤差信號e(n)。新的算法在系統辨識中的表達式：

(9)

d(n)=y(n)+v(n)

(10)

y∧(n)=WT(n)X(n)

(11)

e(n)=d(n)-y∧(n)

(12)

u(n)=β(1-exp(-α|eav(n)|))

(13)

通過以上的算法，通過公式進行迭代運算，當e(n)趨近于零時，自適應濾波器的權系數即是未知系統的濾波器系數，從而達到系統辨識的目的。

3.2不同算法的分析

將本文的算法、固定步長的LMS算法和NG-SVSLMS算法應用到圖中的系統辨識模型，定義系統辨識中的未知系統是8階的橫向濾波器，濾波器的抽頭系數Hn=[0.878 3-0.580 60.653 7-0.322 30.657 7-0.058 20.289 5-0.271 0]。測量的輸入信號與測量的噪聲信號的信噪比設置為20 dB。在比較三種算法的性能優劣時，將具體的參數定義如下：固定步長的LMS算法中，步長u設置為0.01，為了更好地對另外兩種變步長算法性能的比較，將其中的參數定為相同的數值，β=0.08、α=0.8，每種算法獨立做200次仿真，然后對其求平均值，得到的仿真結果如圖3所示。

圖3　三種算法的收斂曲線比較

從圖3中可以清楚地看到，在相同的信噪比下，文獻[6]中的NG-SVSLMS算法，要比固定步長算法的收斂速度快，但在一定程度上增加了穩態誤差，而本文中提出的算法，與這兩種算法相比，收斂速度要優于固定步長LMS算法和NG-SVSLMS算法。本文中的算法在經過50次迭代時，均方誤差就已經達到最小值，在沒有增加穩態誤差的前提下，同時提高了收斂速度。固定步長LMS算法的收斂速度要比NG-SVSLMS算法和本文算法的收斂速度小，其主要原因就是在算法收斂的初始階段，它的步長是最小的且是固定的，這與前面圖2中步長隨迭代次數變化時推出的結論一致，證明了本文的算法實施的正確性和高的性能。

為了進一步的驗證本文算法的收斂速度要快于其他兩種算法，分別選取系統辨識中FIR濾波器的前4個系數[0.878 3-0.580 60.653 7-0.322 3]，將其進行仿真比較。結果見圖4、圖5、圖6。

圖4固定步長LMS算法的系統辨識結果

圖5　NG-SVSLMS算法的系統辨識結果

圖6　本文算法的系統辨識結果

通過比較可以清楚地看到本文算法辨識的結果最先與理論上的系數相同。因此仿真證實，在系統辨識的應用中，本文提出的算法的收斂速度要明顯的比固定步長算法、NG-SVSLMS算法快，而且相應的穩態誤差也十分的穩定。

4結語

文中在固定步長LMS算法的基礎上，分析了變步長G-SVSLMS算法及改進的NG-SVSLMS算法，結合時域上的塊步長算法的思想，提出了一種新的變步長算法，用不同時刻的誤差的均值來控制步長的變化。仿真結果證明，在系統辨識的應用中，本文提出的算法加快了算法的收斂速度，要優于現有的算法。但是沒有大幅度的減小穩態誤差，需要進一步的研究改進。在接下來的研究當中，會對本文的算法進一步的改進，并在硬件當中進行實施。

參考文獻：

[1]WIDROW B, MCCOOL J M, ARIMOER M G. Stationary and No Stationary Learning Characteristic of the LMS Adaptive Filter[J],ProcIEEE,1976,64(8):1151-1162.

[2]聶聰,呂振肅.一種新的變步長NLMS自適應算法[J].通信技術，2007,40(12)：87-89.

NIE Cong, LV Zhen-Su. A New Variable Step Size NLMS Adaptive Algorithm[J].Communications Technology, 2007,40(12)：87-89.

[3]吳怡.基于LMS算法的語音增強系統的研究[D].北京：北京郵電大學，2011.

WU Yi. A Speech Enhancement based on LMS Algorithm[D].Beijing: Beijing University of Posts and Telecommunications,2011.

[4]李寧. LMS自適應濾波算法的收斂性能研究與應用[D].哈爾濱：哈爾濱工程大學，2009.

LI Ning. Convergence Performance Analysis and Application of the Adaptive Lease Mean Square Algorithm [D].Harbin: Harbin Engineering University, 2009.

[5]高鷹,謝勝利．一種變步長LMS自適應濾波算法及分析[J].電子學報，2001,29(08)：1094-1097．

GAO Ying, XIE Sheng-li. A Variable Step Size LMS Adaptive Filtering Algorithm and Its Analysis [J].Act Electronic Sinica,2001,29(08)：1094-1097．

[6]呂強,馮馳.一種變步長LMS算法及其Matlab 仿真[J].應用科技，2006,33(06)：80 - 82.

LV Qiang, FENG Chi.A Variable Step Size LMS Algorithm and Its Matlab Simulation [J].Applied Science and Technology, 2006, 33(6):80-82.

[7]肖海英，何方白.一種時域變步長BLMS自適應算法[J].西南科技大學學報，2006,21(02)：30 - 35.

XIAO HAI-ying, HE FANG-bai. A Variable Step Size BLMS Adaptive Algorithm in Time Domain [J].Journal of Southwest University of Science and Technology, 2006,21(02)：30 - 35.

[8]李竹,楊培林,行小帥.一種改進的變步長LMS算法及其在系統辨識中的應用[J].儀器儀表學報，2007,28(07)：1340 - 1344.

LI Zhu，YANG Pei-lin, HANG Xiao-shuai. Modified Variable Step Size LMS Algorithm and Its Application in System Identification [J].Chinese Journal of Scientific Instrument, 2007,28(07)：1340-1344.

張炳婷(1990—)，女，碩士研究生，主要研究方向為無線通信技術；

趙建平(1964—)，男，教授，主要研究方向為無線通信技術；

馬淑麗(1989—)，女，碩士研究生，主要研究方向為無線傳感器網絡、無線通信技術。