基于定步長自然梯度算法盲混合信號分離技術研究

李留青，陳中良

（黃淮學院 河南 駐馬店 463000）

基于定步長自然梯度算法盲混合信號分離技術研究

李留青，陳中良

（黃淮學院 河南 駐馬店 463000）

本文利用自然梯度算法對盲混合方波、正弦波、調幅波和噪聲等信號進行盲分離實驗，通過仿真，驗證了自然梯度盲分離算法在復雜信號分離中的準確性。比較了不同步長下，自然梯度算法的分離性能，得出步長的選擇對算法收斂性及穩態誤差的重要性，文章分析了算法在步長變化情況下的收斂速度，穩態性能等。

盲信號；分離技術；自然梯度算法；穩態性能；收斂速度

盲分離技術[1]是指源信號未知以及在進行盲混合過程未知的情況下，將盲混合在一起的信號分離出混合前源信號的一種方法。在當今的信號處理研究領域中，信號的盲源分離研究是目前一個具有極大挑戰性的信號分離研究的熱點，“雞尾酒會”問題，是人們對盲分離問題的深入研究[2]。當人們在一個噪音嘈雜的環境中，如果若干人在同一時間同時說話，如何實現僅憑探測器檢測到的噪音加語音的混合語音信號，就能從混合語音信號中分離出人們所需要的聲音信號呢？這就是信號分離研究的熱點：盲源分離問題[3]。盲分離問題的有非線性混合、線性瞬時混合和線性卷積混合3種基本模型。無監督學習法是進行盲分離最常用的方法，該方法首先根據一定的理論，來構造出合適的目標函數，在確定了目標函數后，然后通過合適的尋優算法就能夠求解得到需要的解混矩陣。本文研究一種固定步長的自然梯度盲分離算法在不同類型信號的盲混合模型中的分析和應用，并研究步長在算法性能中的作用。

1 盲分離模型

1.1 ICA模型

圖 1 為 ICA 盲源分離模型圖[4]，圖中 S1（t），S2（t）， ...，Sn（t）表示未知的源信號，混合系統A是信號的傳輸通道，N表示噪聲，x1（t），x（t），...，xm（t）表示觀測到的混合信號，W 是需要求解的分離系統，通過分離系統能夠很好的得到未知源信號的最佳估計，y1（t），y2（t），...，yn（t）即為所求源信號的最佳估計。

圖1 盲信號分離框圖Fig.1 Fanaticism separation diagram

如果從噪聲信號有無的角度來分，可分為：有噪模型和無噪模型兩類。由于有噪模型、線性卷積混合和非線性混合模型，其混合方式和算法較復雜，因此，針對本文研究對象選擇線性瞬時混合有噪模型。

ICA模型進行盲源分離的數學表達式如（1）所示：

式（1）中，s表示一組源信號，由n個獨立信號源組成的。

s=[s1（t），s2（t），…，sn（t）]T，在經過未知傳輸通道 A 后，通過傳感器接收到的觀測信號 x=[x1（t），x2（t），…，xm（t）]T，共有m個觀測信號，假設m≥n，這里系統簡化為m=n。式中，s是一個由n個獨立源信號構成的矩陣，A是一個未知的m×m混合矩陣，與混合系統模型密切相關[5]。

式（1）中，x是觀測到了混合信號矩陣，W是求解出的的解混矩陣，Y則是通過ICA方法得到的源信號s的估計。因此說，運用ICA方法進行盲源分離的關鍵就在于如何求解出解混矩陣W。

1.2 ICA求解一般過程

ICA求解的一般過程主要包括：1）預處理；2）確立優化目標函數；3）選擇最優的優化算法共3個步驟。其中目標函數的選取很關鍵，它決定了ICA的一致性和魯棒性等等。并且目標函數的選取及收斂速度以及對計算機的內存要求等息息相關。

常用的目標函數有：高階累積量、負熵、互信息、最大似然估計，程序基于最大似然估計進行目標函數的選取。對于ICA問題的求解來說，在選取了合適的目標函數之后，下一步工作就是要選擇合適的優化算法來對已經選好的目標函數進行學習，使其達到最大值或最小值，從而求得合適的解混矩陣w，使得分離出的獨立分量，與各個源信號盡可能的相等。從不同的角度來進行優化算法分類，可以分成很多類別，本文設計程序利用最大似然估計最為目標函數的選取，基于梯度的自然梯度優化算法進行盲混合信號的分離實踐。

2 算法分析

隨機梯度算法是一種常用來求目標函數L（W）極值的方法，其工作步驟：

Step1：選取一初始解混矩陣，將其代入目標函數，求出L（W）在 W（0）處的梯度，

Step2：在負梯度方向（如果求解最大值，則取正梯度方向），增加一個合適的步長，計算出新的分離矩陣形W（1），重復上述步驟。故求解W的隨機梯度算法的計算公式為：

式（1）是常見的一種梯度下降法的迭代公式，對選取的目標函數L（W）不同時，可以得到不同的迭代公式。因此，本文目標函數選用最大似然估計，將Y=Wx代入最大似然估計公式：

通過對其求導，得到：

將式（4）帶入式（1）可得到，解混矩陣W的迭代公式為：

式（5）是隨機梯度算法的離線批處理迭代公式，如果用瞬時值替代期望值，可得到隨機梯度算法的在線自適應迭代公式：

當選取目標函數L（W）不同時，得到迭代公式是不同的。這里，μ（k）為步長；g（·）為給定的非線性函數；通常，該函數與源信號概率密度函數密切相關，對于超高斯信號，g（·）=tanh（y），對于亞高斯信號，g（·）=y3。

Infomax算法可有效的分離了多個超高斯分布的源信號。但是，這一算法的主要缺點是：收斂速度慢，同時由于涉及分離矩陣W的求逆，一旦W在更新過程中條件數變差，算法就可能發散。對這一問題，Amari提出了基于黎曼（Riemann）空間的自然梯度算法。對于在矩陣空間中討論的ICA問題來說，自然梯度與隨機梯度之間存在如下關系：

經過整理，用瞬時值 φ（y）yT代替期望值 E{φ（y）xT}時，自然梯度算法可表示為：

與隨機梯度相比，自然梯度算法可以避免對矩陣進行求逆運算，實際數量明顯降低，同時也加快了收斂速度。通過實踐證明，自然梯度算法是一種具有很好分離效果的學習算法，同時該算法并不要求對觀測信號進行白化處理，從而使信號處理步驟簡化，已經成為了一種很常用的學習算法。

在本文中，采用以全局傳輸矩陣中元素獨立性表示的串音誤差來衡量分離性能的優劣。串音誤差是由Amari最先提出來的，表示分離矩陣W的逆矩陣和混合矩陣A的偏離程度，串音誤差定義為：

式（9）中，gij表示全局傳輸矩陣G=WA的元素。E是一個不小于0的數，僅當信號完全分離時E=0，實際中，當算法收斂后，串音誤差是一個非常小的值[8]。

4 仿真實驗

假設初始信號由方波信號、正弦波信號、調幅波信號以及噪聲信號等構成，如圖2所示，采樣頻率為1 MHz。

圖2 初始新號波形Fig.2 Initial new waveform

采樣4 000個點進行觀測分析計算，初始信號通過隨機矩陣盲混合后，其波形雜亂無章，很難識別，如圖3所示。

圖3 盲混合信號波形Fig.3 Blind mixed signal waveform

在對采集到的觀測信號進行盲分離時，采用初始步長μ=0.005的自然梯度算法對盲混合信號進行分離實踐。算法中，采用非線性函數y3。分離結果波形如圖4所示。

圖4 分離波形圖Fig.4 Separate waveform figure

從圖4可以看出，本文算法能夠準確的分離出盲混合后的信號。串音誤差如圖5所示。

圖5 串音誤差（步長 =0.005）Fig.5 Crosstalk error （step length=0.005）

從串音誤差圖5可以看出，算法在迭代1 200次后基本實現收斂，穩態后最大串音誤差為1.959。為了研究步長對分離性能的影響，采用步長0.01的自然梯度盲分離算法。算法同樣能夠實現對信號的盲分離，其串音誤差如圖6所示。

由圖6串音誤差圖中可以看出，步長為0.01時，迭代不到1 000次即實現收斂，說明選擇較大步長時，算法收斂速度快，但穩態性能較差，穩態后最大串音誤差為3.453。由此看出，梯度算法對步長的選擇十分敏感，微小的差異都會帶來不同的分離結果。通過仿真試驗可以看出，梯度算法的步長選擇是一個關鍵的問題。今后將從步長自適應的角度進一步對自然梯度在盲混合信號分離中的作用進行研究。

圖6 串音誤差（步長μ=0.01）Fig.6 Crosstalk error （step length=0.01）

5 結束語

本文介紹了自然梯度算法在盲混合信號分離中的作用，通過仿真實驗表明，該算法能夠對盲混合的信號進行有效分離，通過實驗分析，自然梯度算法在盲分離時，具有等變化性，其順序及相位不能確定，另外，由于算法的計算量、收斂速度和穩態性能是相互矛盾的，在步長的選取上要進行綜合考慮，這也是今后研究的方向之一。

[1]馬建倉，牛奕龍，陳海洋.盲信號處理[M].北京：國防工業出版社，2006.

[2]Choi S，Cichocki A.Adaptive Blind Separation of Speech Signals:Cocktail Party Problem，Korea:In Pro[C]//International Conference on Speech Processing，1997：617-622.

[3]A Bronkhorst.The Cocktail Party Phenomenon:A Review of Research on Speech Intelligibility in Multiple-talker Conditions[J].ACUST ICA，2000，86（1）：117-128.

[4]史習智.盲信號處理——理論與實踐[M].上海:上海交通大學出版社，2008.

[5]Hyvarinen A，Karhunen J.獨立成分分析[M].周宗潭，董國華，等譯.北京:電子工業出版社，2007.

[6]Hyv?rinen A，Oja E.A Fast Fixed-Point Algorithm for Independent Component Analysis[J].Neural Computation，1997，9（7）：1483-1492.

[7]楊福生，洪波.獨立分量分析的原理與應用[M].2版.北京:清華大學出版社，2006：20-24.

[8]Amari S，Cichocki A，Yang H H.A new learning algorithm for blind signal separation[C]//in Advances in Neural Information Processing Systems.NIPS’1995.Cambridge，MA:MIT Press，1995：757-763.

Research of natural gradient algorithm blind signal separation

LI Liu-qing，CHEN Zhong-liang
（Huanghuai University， Zhumadian 463000， China）

In this paper， using the natural gradient algorithm for blind mixed Fang Bo，sine wave， amplitude modulation wave and noise signal blind separation experiments， simulation， verified the accuracy of the natural gradient blindseparation algorithm in complex signal separation.Comparison of differentsteps，the separation performance of the natural gradient algorithm，thestep size selection on the importance of convergence and steady-state error，this paper analyzes the convergence speed in step variationalgorithm，steady-state performance etc.

blind signal； separation technology； natural gradient algorithm；steady state performance； convergence speed

TN911.6

A

1674-6236（2014）15-0027-03

2014-04-09 稿件編號：201404095

河南省科技攻關計劃項目（122102210510）

李留青（1981—），女，河南駐馬店人，講師。研究方向：計算機應用。