基于粒子群的LMS算法在信號濾波降噪中的應(yīng)用

趙軼驍, 汪鐳(同濟(jì)大學(xué) 電子與信息工程學(xué)院, 上海 201804)

基于粒子群的LMS算法在信號濾波降噪中的應(yīng)用

趙軼驍, 汪鐳
(同濟(jì)大學(xué) 電子與信息工程學(xué)院, 上海 201804)

在自適應(yīng)濾波算法中，LMS算法是最常用的算法之一，因為具備結(jié)構(gòu)簡單，易于實現(xiàn)，性能穩(wěn)定，計算復(fù)雜度低等特點。然而，LMS算法也存在缺點，比如，收斂速度較慢，收斂精度低的問題，這就影響LMS算法在收斂性要求較高的領(lǐng)域中的應(yīng)用。使用粒子群算法對LMS算法進(jìn)行改進(jìn)，可以將LMS濾波設(shè)計變成對LMS濾波參數(shù)優(yōu)化的問題， 利用粒子群算法的優(yōu)化能力，使得濾波參數(shù)得到全局最優(yōu)解。以此可以提高LMS濾波算法的收斂性能，從而提高濾波性能。

自適應(yīng)濾波; LMS算法; 粒子群算法

Abstract： In the adaptive filter algorithms, LMS algorithm is one of the most common algorithms because of its simple structure, facile realization and stability, low computational complexity. But， LMS algorithm has also some defects, for example, low rate of convergence and convergence precision. Those problems have impacted on the application in high convergence fields. PSO algorithm can be used to improve the LMS algorithm. The designation of the LMS filter can be transferred to optimization problem for the parameters of LMS filter. The optimization of PSO algorithm is utilized to get the global optimal solution of filter parameters. In this way, convergence of LMS algorithm can be improved, and the performance of filter also can be improved.

Keywords： Adaptive filter; LMS algorithm; PSO algorithm

0 引言

自適應(yīng)濾波算法在目前數(shù)字信號處理應(yīng)用中，是非常重要的組成部分。其中，基于最小均方差理論發(fā)展起來的LMS算法(Least mean square)是目前自適應(yīng)濾波中應(yīng)用最廣泛的一種。它使用梯度下降的原理，讓均方差達(dá)到最小。在LMS算法中，算法的收斂速度和收斂精度是自相沖突的指標(biāo)，兩者通過調(diào)整收斂因子μ達(dá)到平衡。所以，如何更好的提高LMS算法的收斂性能一直是被研究的問題。，諸如，變長LMS算法，變階數(shù)LMS等等，這些改進(jìn)一步步完善了LMS算法，但是只在特別的情況下有效果，通用能力弱。

粒子群算法是基于群體智能的搜索優(yōu)化算法，通過在搜索空間內(nèi)的對多點搜索，通過搜索到當(dāng)前最優(yōu)值來找到空間內(nèi)的全局最優(yōu)點。這種算法以其實現(xiàn)容易、精度高、收斂快等優(yōu)點。文獻(xiàn)[1]中將PSO運用到LMS中去，在多重模態(tài)的問題上，解決了收斂速度和收斂精度的沖突的問題。本文正是利用該算法的諸多優(yōu)點，對LMS算法進(jìn)行改進(jìn)，彌補算法收斂性存在的不足能力，提高它的濾波性能，并將它用于信號降噪中去。

信號降噪是一直被廣泛使用的技術(shù)，在尤其是聲音信號的方面，也常被叫做語音增強，語音增強是指當(dāng)語音信號被各種各樣的噪聲干擾、甚至淹沒后，從噪聲背景中提取有用的語音信號，抑制、降低噪聲干擾的技術(shù)。一句話，從含噪語音中提取盡可能純凈的原始語音。

本文會將粒子群算法改進(jìn)后的LMS濾波算法與其他常用的維納濾波算法以及譜減算法進(jìn)行減噪性能比對，以此來評估算法的降噪性能。

1 LMS自適應(yīng)濾波算法

1.1 MS自適應(yīng)濾波基本概念

1959年，有Widrow和Hoff在研究自適應(yīng)線性元素的模式識別方案時提出了LMS算法，從而奠定了自適應(yīng)濾波的理論基礎(chǔ)。之后，各種各樣的自適應(yīng)濾波算法相繼被提出，并是自適應(yīng)濾波器在跟多領(lǐng)域中得以更為廣泛的應(yīng)用和發(fā)展。如，大約1965年，來自貝爾電話實驗室的Kelly首先提出把自適應(yīng)濾波器用于回音消除中。同年，Widrow和其他的自斯坦福大學(xué)的合作一起發(fā)明了自適應(yīng)譜線增強器，它可用于消除譯碼器輸出端的60Hz及心電圖放大器等。

LMS濾波器的基本結(jié)構(gòu),如圖1所示。

根據(jù)如圖1所示，該圖為LMS濾波器的基本原理框圖。

圖1 LMS濾波器基本結(jié)構(gòu)

初始化時，如式(1)。

w(0)=w(0)=[0 0 0 … 0]T

(1)

當(dāng)k≥0時,如式(2)、式(3)。

e(k)=d(k)-xT(k)w(k)

(2)

w(k+1)=w(k)-2μe(k)x(k)

(3)

其中，(k)為瞬時的誤差，μ為收斂因子，e(k)是誤差信號，w(k)為的濾波器系數(shù)。按照梯度特性，w(k)在每次迭代運算中會自動調(diào)整，逐步是均值E[e2(k)]最小化，E[e2(k)]就是最小均方差。

1.2 自適應(yīng)濾波在降噪中的應(yīng)用

當(dāng)自適應(yīng)濾波被應(yīng)用在降噪應(yīng)用中是，它的結(jié)構(gòu)框圖,如圖2所示。

圖2 信號降噪結(jié)構(gòu)

與看見的自適應(yīng)濾波器結(jié)構(gòu)是不同的。信號x(k)受到噪聲n1(k)的影響。而信號n2(k)是與噪聲相關(guān)的信號，它可以被測量到的信號。n2(k)也作為自適應(yīng)濾波器的輸入信號，受到干擾的信號x(k)+n1(k)作為期望信號。

輸出信號y(k)與輸入信號n2(k)的數(shù)學(xué)關(guān)系式根據(jù)圖1是式(4)

(4)

按照均方誤差方程,可以得到式(5)。

E[e2(k)]=E[x2(k)]+E{[n1(k)-y(k)]2}

(5)

假如x(k)與n1(k)和n2(k)無關(guān)，那么該函數(shù)的最小MSE為式(6)。

ξmin=E[e2(k)]=E[x2(k)]

(6)

其中x(k)就是我們?yōu)V波所要得到的信號。

以該信號降噪模型和LMS基本濾波結(jié)構(gòu)進(jìn)行降噪濾波處理。以信噪比(Signal-Noise Ratio,SNR)評估。

收斂因子2μ=0.000 1，處理結(jié)果如下圖3所示。

圖3 普通LMS濾波效果(2μ=0.000 1)

設(shè)定帶噪信號的SNR為5.0，LMS濾波后的信號的SNR為20.1。

可以很明顯地看出，在使用LMS算法濾波后，噪聲信號在信號的剛開始的部分仍然存在，而且噪音很大，但是后半段的信號濾波效果很好。如果提高的值，濾波信號前端噪音會有所減少，但是會造成整體的濾波效果不理想。

當(dāng)收斂因子2μ=0.01，濾波效果,如圖4所示。

設(shè)定帶噪信號SNR為5.0, LMS濾波后的信號的SNR為7.7。

可以看出,在使用LMS濾波后，前端的信號噪聲消除了，但是之后的信號噪聲仍然很大，說明收斂速度提升，會影響收斂的精度，濾波效果變得更差。

這就是收斂速度慢和收斂精度之間矛盾。提高收斂精度勢必會造成收斂速度降慢，提高收斂速度結(jié)果造成收斂精度低。本文利用粒子群算法來解決這一矛盾。

2 粒子群算法

2.1 粒子群算法的基本概念

粒子群算法，也稱粒子群優(yōu)化算法(Particle Swarm Optimization)，縮寫為PSO，是近年來發(fā)展起來的一種新的進(jìn)化算法(Evolutionary Algorithm-EA)。PSO算法屬于進(jìn)化算法的一種，它是從隨機(jī)解出發(fā)，通過迭代尋找最優(yōu)解，它也是通過適應(yīng)度來評價解的品質(zhì)，但它比遺傳算法規(guī)則更為簡單，它沒有遺傳算法的“交叉”(Crossover)和“變異”(Mutation)操作，它通過追隨當(dāng)前搜索到的最優(yōu)值來尋找全局最優(yōu)。這種算法以其實現(xiàn)容易、精度高、收斂快等優(yōu)點引起了學(xué)術(shù)界的重視，并且在解決實際問題中展示了其優(yōu)越性。

假定搜索空間E內(nèi)有N個粒子，i(i=1～N)對應(yīng)搜索空間內(nèi)一個粒子，設(shè)定粒子在該搜索空間E內(nèi)對應(yīng)的位置地址表示為xi=(xi1,xi2,…,xE-2,xE-1,xE)，設(shè)定粒子在該搜索空間E內(nèi)的運動速度表示為vi=(vi1,vi2,…,viB,viE-1,viE)，建立所有粒子在搜索空間E內(nèi)的速度和更新方程為式(7)、式(9)

vid(t+1)=ωvidI(t)+c1rand1[pid-

xid(t)]+c1rand2[pgd-xid(t)]

(7)

(8)

xid(t+1)=xid(t)+vid(t)

(9)

在式(7)中，t表示算法的迭代次數(shù)。c1和c2是加速因子(acceleration coefficient)，加速因子一般也設(shè)為恒定的常量。ω是慣性權(quán)重(inertia weight)，慣性權(quán)重一般設(shè)為一個恒定常量。pid代表粒子在之前的迭代進(jìn)程中在搜索空間內(nèi)最優(yōu)的位置，而pgd代表當(dāng)前迭代次數(shù)下粒子在搜索空間內(nèi)最優(yōu)的位置。通過計算pid和pgd與所有粒子現(xiàn)在所在位置xid(t)之差來更新接下去所有粒子在搜索空間內(nèi)的速度與移動趨勢，因此所有粒子能向著它現(xiàn)在最優(yōu)位置和粒子群目前最優(yōu)的位置運動。此外方程中設(shè)定了隨機(jī)數(shù)rand1和rand2,它們是是在[0,1]之的隨機(jī)數(shù)。通過設(shè)定隨機(jī)數(shù)，從而讓所有粒子更新帶有一定的隨機(jī)性。

基本的粒子群算法的工作流程是如下圖5所示。

圖5 粒子群算法基本流程

1)算法進(jìn)入初始階段，生成粒子群，在設(shè)定的空間范圍內(nèi)，對粒子的初始位置和速度賦值。

2)使用適應(yīng)度函數(shù)對所有粒子進(jìn)行評估值，記錄個體歷史上的最優(yōu)值和群體中最優(yōu)值。

3)根據(jù)更新方程，更新所有粒子的位置和速度。

4)判斷迭代是否完成，或者達(dá)到計算的要求，如果沒有完成或達(dá)到要求，轉(zhuǎn)到第二步繼續(xù)迭代操作。如果達(dá)到迭代上限，或者達(dá)到計算要求結(jié)束迭代。

5)輸出評估出的最優(yōu)結(jié)果，結(jié)束程序。

其中，適應(yīng)度函數(shù)是用于評估粒子目前所在的位置。利用該函數(shù)可以評估出目前最優(yōu)的粒子位置。

3 粒子群算法對LMS濾波算法的改進(jìn)

式2和式3所示的更新方程是LMS算法的最重要的工作步驟。根據(jù)梯度特性E[e2(k)]會不斷趨于最小均方差。其中。從式2能夠推倒出下式(10)。

e(k+1)=d(k+1)-xT(k+1)[w(k)-2μe(k)x(k)]

(10)

e(k)是瞬時誤差，根據(jù)式10所示，收斂因子2μ決定了E[e2(k)]的最小值。許多研究都是針對2μ，通過動態(tài)調(diào)整2μ使得E[e2(k)]值逐步達(dá)到最小，從而提高收斂性。而本文則使用粒子群算法優(yōu)化能力，使得E[e2(k)]在每次迭代中做到最小化，實現(xiàn)LMS濾波的最優(yōu)收斂效果，從而提升濾波降噪能力。

首先將收斂因子μ設(shè)為搜索空間內(nèi)的粒子，那么對μ的調(diào)整操作就轉(zhuǎn)換為尋找粒子在空間的最優(yōu)位置。

根據(jù)式(10)，本文設(shè)定適應(yīng)度函數(shù)，如下式(11)。

F=min(e(k+1))

(11)

該適應(yīng)度函數(shù)能夠?qū)崿F(xiàn)瞬時誤差的最小化，從而是最小均方差MSE達(dá)到最小。

本文將基于粒子群改進(jìn)的LMS算法與其他濾波算法進(jìn)行比對。

當(dāng)使用PSO改進(jìn)的LMS算法濾波是。效果如圖6所示。

圖4.1 基于PSO的LMS算法濾波效果

設(shè)定帶噪信號SNR為5.0, LMS濾波后的信號的SNR為30.3。

當(dāng)使用維納濾波時，效果如圖4.2所示。

圖6 維納濾波效果

設(shè)定帶噪信號的SNR為5.0，LMS濾波后的信號的SNR為17.2。

當(dāng)使用譜減濾波時，效果如如圖7所示。設(shè)定帶噪信號的SNR為5.0，LMS濾波后的信號的SNR為14.8。

圖7 譜減濾波效果

4 總結(jié)

基于PSO的LMS算法相比于其他算法，在濾波降噪上擁有更好的收斂性，更好的濾波效果。該算法能夠在前期保證收斂速度，也能保證后期的收斂精度。

基于PSO的LMS算法擁有很好的收斂效果，能夠有效地降低噪音信號，提取有用的信號數(shù)據(jù)。對于語音信號和音樂信號的提取還原有著非常大的作用。

[1] D. J. Krusienski, W. K. Jenkins. A Particle Swarm Optimizat ionleast Mean Squares Algorithm for Adap-

tive Filter[C]. IEEE 38th Asilomar Conference on, Signals, Systems and Computers, 2004, 1(11): 241-245.

[2] 李輝,張安,趙敏,等. 粒子群優(yōu)化算法FIR數(shù)字濾器設(shè)計中的應(yīng)用[J]. 電子學(xué)報, 2005, 33(7): 1338-1341.

[3] 黃媛媛,王友人,崔江,等.基于粒子群算法的自適應(yīng)LMS濾波器設(shè)計及可重構(gòu)硬件實現(xiàn)[J].佳木斯大學(xué)學(xué)報(自然科學(xué)版),2010,28(1):1-4.

[4] 吳怡.基于LMS算法的語音增強系統(tǒng)的研究[D]. 北京:北京郵電大學(xué)，2011.

[5] 宋智用. MATLAB在語音信號分析與合成中的應(yīng)用[M]. 北京：北京航天航空大學(xué)出版社,2013.

[6] T.Mvsr, K.Meghashyam, A.Verma.Comprehensive Analysis of LMS and NLMS Algorithms using Adaptive Equalizers[C].IEEE 2014 International Conference on,Communications and Signal Processing (ICCSP), 2014,1101-1104.

[7] 迪尼. 自適應(yīng)濾波算法與實現(xiàn)[M]. 劉郁林,譯. 北京： 電子工業(yè)出版社，2014.

LMSAlgorithmBasedonPSOandApplicationintheFieldofNoise-reduceFilter

Zhao Tiexiao, Wang Lei
(Collge of Electronics and Engineering, Tongi University, Shanghai 201804, China)

TP393.04

A

2017.06.25)

趙軼驍(1990-)，男，工程碩士，研究方向：電子通信工程. 汪鐳(1970-)，男，教授，研究方向:智能控制，智能計算，CIMS和系統(tǒng)工程方面.

1007-757X(2017)09-0071-03