沖擊噪聲下任意稀疏結構的MMV重構算法

彭軍偉，韓志韌，游行遠，楊平

(1.哈爾濱工程大學 信息與通信工程學院，黑龍江 哈爾濱 150001； 2.武漢船舶通信研究所，湖北 武漢 430079)

沖擊噪聲下任意稀疏結構的MMV重構算法

彭軍偉1,2，韓志韌2，游行遠1,2，楊平2

(1.哈爾濱工程大學 信息與通信工程學院，黑龍江 哈爾濱 150001； 2.武漢船舶通信研究所，湖北 武漢 430079)

針對現有多測量向量(multiple measurement vectors，MMV)模型稀疏重構算法在沖擊噪聲背景下存在的魯棒性不強、適用性不廣等問題，本文提出了一種沖擊噪聲下任意稀疏結構的MMV模型(ASS-MMV)稀疏重構算法。該算法利用Lorentzian范數和矩陣平滑零范數正則化構造稀疏優(yōu)化目標函數，建立沖擊噪聲背景下ASS-MMV重構模型；結合固定步長公式和具有充分下降性質的共軛梯度算法，在統(tǒng)一參數框架下并行重構，以提高算法收斂速度和運行效率。仿真結果表明：本文算法能夠在沖擊噪聲背景下高質量的重構任意稀疏結構的MMV信號，對噪聲具有一定的魯棒性，并且收斂速度較快、計算開銷更小。

壓縮感知； 稀疏重構； 多量測向量； 目標函數； 沖擊噪聲； 共軛梯度方法

在經典的壓縮感知(compressed sensing，CS)理論中[1],未知的稀疏信號由單一的觀測向量恢復,被稱為單測量向量(single measurement vector，SMV)模型。然而在諸多場合，多測量向量(multiple measurement vector，MMV)模型有著更為廣泛的應用，如腦磁圖數據處理、合成孔徑雷達成像、稀疏寬帶信號MWC采樣等[2]問題，均需要完成對稀疏目標信號多次或并行壓縮采樣的數據進行整體重構。

MMV模型的稀疏重構(sparse reconstruction，SR)算法主要分為兩類：一類是分解MMV問題為多個獨立的SMV問題[3]；另一類算法則建立了MMV聯合稀疏模型，將SMV模型的SR算法推廣到MMV模型中應用。Eldar Y C等證明了相對于SMV模型算法，MMV模型可以顯著提高未知稀疏信號的成功重構的概率[4-6]。常規(guī)的MMV模型算法，如凸優(yōu)化算法MMV-proc[7]、M-FOCUSS[8]、貪婪算法MMV-OMP[9]、MSBL[10]等，在收斂速度和重構精度上都有較好的性能，但都假設原稀疏信號不同量測列的稀疏度和支撐集相同。針對在信號模型不滿足嚴格的聯合稀疏約束條件下常規(guī)算法性能顯著下降的問題，文獻[11]提出了一種多量測向量快速重構算法(MMVFR)，該算法利用最速下降法在統(tǒng)一框架下重構信號支撐集，能夠適用于任意稀疏結構的MMV模型的求解，但MMVFR算法的稀疏優(yōu)化目標函數沒有考慮噪聲的影響，尤其當噪聲為方差很大的非高斯沖擊噪聲時，重構性能將急劇下降。文獻[12]提出了一種基于SMV模型的Lorentzian-ISL0重構算法，提高了在沖擊噪聲背景下的壓縮感知雷達參數估計精度。

針對常規(guī)MMV模型算法對聯合稀疏結構的限制和MMVFR算法噪聲魯棒性不足的問題，本文提出了一種沖擊噪聲下任意稀疏結構的MMV模型稀疏重構算法(MMVLL2-ISL0)。該算法首先構建了矩陣平滑l0范數優(yōu)化目標函數，利用Lorentzian范數擬合噪聲的誤差項；然后利用固定步長共軛梯度法進行優(yōu)化求解。

1 任意稀疏結構的MMV信號模型

SMV是CS框架下常用信號模型，即已知測量矩陣Φ∈RM×N(M?N)以及未知信號x在該矩陣下的線性測量值y∈RM，即

y=Φx

(1)

測量值y是信號x從N維空間到M維空間的線性投影，包含了重構原始信號x所需要的全部信息。

然而在許多實際應用中常涉及多個測量向量，每個測量向量均與一個未知信號向量相對應，并且各個未知向量均是具有公共支撐集的稀疏信號。針對這種聯合稀疏結構信號模型的重構問題稱之為多測量向量問題，其模型可表示如下

Y=ΦX

(2)

式中：X=[x(1),x(2),…,x(L)],x(l)∈RN×1由L個稀疏的列向量組成，且假設這些向量具有K個公共非零行，即聯合K稀疏；Y=[y(1),y(2),…,y(L)],y(l)∈RM×1為采樣值矩陣；L為測量向量的總列數。MMV重構問題本質上是通過求解具有稀疏約束的優(yōu)化問題來獲得最稀疏解：

(3)

式中：x(l)表示矩陣X的第l個列向量；y(l)表示矩陣Y的第l個列向量。MMV模型的求解實際上可以視為求解一系列的具有稀疏約束的SMV問題，屬于典型組合優(yōu)化問題，并且由于MMV問題中增加了測量向量數量和未知向量間的聯合稀疏結構，相比SMV問題，可以改進重構性能。

通常，由于信號的稀疏結構具有時變性和特殊的信號結構，傳統(tǒng)MMV模型的聯合稀疏性假設不能準確描述此類信號的稀疏特性。本文假設MMV模型具有任意稀疏結構(MMV of arbitrary sparse structure, ASS-MMV)，即矩陣X的不同列向量的稀疏度和支撐集均不要求相同，更符合實際應用。圖1給出了傳統(tǒng)MMV模型和任意稀疏結構的MMV模型示意圖。

圖1 MMV模型示意圖Fig.1 Schematic of MMV model

2 沖擊噪聲下重構問題描述

式(2)為壓縮感知無噪聲MMV模型，而在實際應用中，由于存在不可忽略的測量噪聲或者模型噪聲，測量值矩陣受到噪聲和干擾影響。因此存在噪聲的MMV模型可表示為

Y=ΦX+W

(4)

式中：W=[w(1),w(2),…,w(L)],w(l)∈RM×1，W為加性噪聲。在壓縮感知框架下，噪聲W主要分為兩類：高斯白噪聲和沖擊噪聲。對于噪聲模型下MMV求解問題可以將式(3)修正為如下形式：

(5)

式中：loss(y(l)-Φx(l))為誤差項，λ≥0為正則化參數，控制著允許誤差和稀疏性之間的平衡。當W為高斯噪聲時，可以采用l2范數來擬合誤差項，此時式(5)有如下表示

(6)

由文獻[13]可知，壓縮感知最優(yōu)重構下的信號的最小均方誤差與噪聲的方差成正比，當W為脈沖噪聲時，其特點是方差很大，誤差項中會出現較大幅值元素，存在離散的異值點，l2范數將會線性放大殘差的影響。

Carrillo等在文獻[14]中指出：利用Lorentzian范數來擬合誤差項時，由于導函數的有界軟回降特性，對誤差項中幅值較大的元素懲罰較重，其作用與l1范數相同；對誤差項中幅值較小的元素懲罰較輕，其作用與l2范數相同，能夠魯棒性地削弱異值點對重構結果的影響。Lorentzian范數的定義如下

(7)

式中：u∈RM×1為列向量，‖·‖LL2,γ表示向量u的Lorentzian范數；γ為Lorentzian范數的尺度參數，并決定了LL2范數對誤差項異常值的魯棒性。定理1給出了l2范數和LL2范數之間的關系。

定理1對于任意u∈RM和γ>0，下面不等式都成立：

(8)

(9)

式(8)的第一個不等式成立。

根據Lorentzian范數的定義有：

(10)

另外，Lorentzian范數為連續(xù)可導函數，在求解式(6)問題時，可以利用最優(yōu)化算法迭代求解。本文利用Lorentzian范數替換式(6)中l(wèi)2范數來擬合誤差項，沖擊噪聲下MMV模型求解問題可表示成如下混合L0-LL2范數優(yōu)化模型：

(11)

式中：‖y(l)-Φx(l)‖LL2,γ表示測量值矩陣第l列重構誤差項的Lorentzian范數，可表示為

(12)

3 MMVLL2-ISL0算法

3.1 ASS-MMV快速重構算法

壓縮感知MMV模型信號重構可以歸納為目標函數L(X)最優(yōu)化問題：

(13)

式(13)中l(wèi)0范數屬于偽范數，具有高度不連續(xù)性，導致無法用解析方法求解，屬于NP-Hard問題。SL0算法是通過一類光滑的高斯函數逼近零范數，把零范數問題轉化為求函數極值，從而用解析方法直接求解l0范數最小問題，不僅提高了重構概率，與凸優(yōu)化算法(l1范數代替l0范數)相比，大大縮短了運算時間。基于平滑l0范數和Lorentzian范數的最優(yōu)化目標函數為

‖y(l)-Φx(l)‖LL2,γ

(14)

fσ(s)=exp(-s2/2σ2)

(15)

3.2固定步長共軛梯度法

求解式(14)最優(yōu)解通常采用迭代方法：

xk+1=xk+akdK

(16)

式中：xk為第k次迭代點，dk為第k次搜索方向，ak為第k次迭代步長，不同的ak和dk構造方法決定了算法復雜度和精確度。本文采用一種基于固定步長公式的共軛梯度算法，搜索方向dk的定義為

(17)

式中：-gk為負梯度方向，k為當前迭代步數，參數βk表達式為

(18)

為了保證ASS-MMV模型快速重構算法迭代過程能在統(tǒng)一的參數設置下進行，避免對每一列向量獨立進行步長因子ak的線搜索，式(19)給出了一個無需矩陣運算的固定步長更新公式：

(19)

式(17)和式(19)中只需計算函數值和梯度值，不存在二階導數計算和矩陣操作，可以顯著減小ASS-MMV模型重構過程的計算量和存儲量。目標函數L(X)的梯度為

(20)

式(20)中等號右邊第一項為

(21)

式中：P=diag{fσ(x(l))}∈RN×N，為對角矩陣。式(20)中等號右邊第二項為

ΦHQ(Φx(l)-y(l))

(22)

式中：Q=diag{γ2/[γ2+(y(l)-Φx(l))2]}∈RM×M為對角矩陣。經過上述分析，MMVLL2-ISL0算法的具體步驟如下：

輸入：采樣矩陣Φ，測量值矩陣Y；

1)取σ=σi，判斷σ>σmin是否成立，若成立，重構結束，否則繼續(xù)執(zhí)行循環(huán)迭代；

3)計算固定步長共軛梯度法的搜索方向dk和迭代步長ak；

5)判斷k

3.3運算量分析

下面通過運算量分析比較算法的重構速度，以一次加法或乘法為運算量單位。分別與SMV-SL0算法、Lorentzian-ISL0算法、OMPMMV算法和MMVFR算法進行比較。

若使用SMV-SL0算法逐列求解MMV模型問題，則計算出運行一次SL0算法運算量之后，總的運算量為其L倍，約為

O(MNLK+L(M3+2M2N+4MN))

Lorentzian-ISL0算法同樣需要逐列求解MMV模型問題，總的運算量約為

O(MNLK+L(M3+2M2N+4MN+M))

OMPMMV算法求解MMV模型，其運算量主要集中在求逆運算，運算量約為

O(M2NK+M3+2MNL)

MMVFR算法運算量包括兩部分：支撐集初始重構和貝葉斯組檢驗。支撐集初始重構部分經過K次迭代后的運算量約為O(MNLK+M3)，忽略影響較小的步驟，總的運算量約為

O(MNLK+M3+4MN+2M2NL)

MMVLL2-ISL0算法運算量主要集中在步驟3和步驟4中的搜索方向、迭代步長、可行域投影及初始的求偽逆運算，迭代K次后總的運算量約為

O(MNLK+M3+2MNL+2M2NL)

當迭代次數一樣時，5種算法運算量關系為

COMPMMV

CSMV-SL0

由于MMVLL2-ISL0算法采用了固定步長的共軛梯度法，可以提高收斂速率，迭代次數的降低減少了算法的運算量，仿真實驗將進一步分析。

4 實驗仿真與分析

本節(jié)將采用Matlab仿真試驗平臺，對本文提出算法的性能進行驗證分析。在仿真中，采用對稱參數α=0的對稱α穩(wěn)定分布(symmetric alpha stable，SαS)對沖擊噪聲進行建模，由于α穩(wěn)定分布沒有封閉的PDF表達式，用其特征函數定義來表示：

φ(t)=exp{jμt-γ|t|α}

式中：α(0<α≤2)為特征指數，決定了α穩(wěn)定分布的拖尾厚度，α越小對應的尖峰噪聲越嚴重，PDF的拖尾越厚重，非高斯程度也越強；γ(γ≥0)為分散系數，類似于高斯分布的方差，決定了穩(wěn)定分布變量偏離其均值的程度；μ(-∞<μ<∞)對應于分布的位置參數。特別地，當α=2時α穩(wěn)定分布對應于高斯分布。同時，由于α穩(wěn)定分布(α<2)只存在分數低階矩，沒有有限的二階矩，其方差也不存在，因此采用以下的廣義信噪比：

SNR=10lg(‖x‖2/Nγ)

實驗1不同信號稀疏結構下各算法重構性能對比。任意稀疏結構的MMV模型的信號維度為N=256，列數為[3,6,…,36]，稀疏度為[1,16]任意值，且每列的稀疏位置任意，壓縮比ρ=M/N=0.5，感知矩陣為高斯矩陣。圖2為特征指數α=2，信噪比15 dB時，各算法重構誤差隨信號向量數變化的曲線，其中蒙特卡洛仿真次數為500。相對重構誤差定義為

從圖3可以看出，不同算法運行時間均隨著信號列數的增加而增加。由于SMV-SL0算法和Lorentzian-ISL0算法分解MMV問題為多個獨立的SMV問題，算法運行時間較長，且隨信號列數的增加而顯著增加。由于修正牛頓算法收斂速度優(yōu)于最速下降法，在向量列數大于15時SMV-SL0算法運行時間超過Lorentzian-ISL0算法；而MMVFR和MMVLL2-ISL0算法采用矩陣形式的處理方法在統(tǒng)一參數框架下并行重構，不需要每列逐一重構，算法耗時較少。MMVLL2-ISL0算法每次迭代運算量略大于MMVFR算法，前者由于采用了固定步長的共軛梯度算法，提高了收斂速率，減少了運行耗時。從圖1、2中可以看出，本文算法在重構精度和運算速度上具有較好的性能。

圖2 不同算法重構誤差對比Fig.2 Comparison of recovery error for different algorithms

圖3 不同算法重構速度對比Fig.3 Comparison of recovery speed for different algorithms

實驗2不同沖擊噪聲背景下各算法重構性能對比。任意稀疏結構的MMV模型的信號列數為16，其他參數與實驗1相同。圖4描繪的是兩種特征指數的沖擊噪聲條件下，不同算法重構誤差隨信噪比的變化，其中蒙特卡洛仿真次數為500。

圖4 不同算法重構誤差隨信噪比的變化曲線Fig.4 The variation curves of reconstruction error for different algorithms with SNR

圖4(a)沖擊噪聲特征指數為α=1.6，可以看出，各算法的重構誤差均隨著信噪比的提高而呈現遞減趨勢。MMVLL2-ISL0和Lorentzian-ISL0算法采用Lorentzian范數作為約束條件，其軟回降特性可以魯棒性地去除觀測向量中的異值元素對于重構結果的影響，重構性能最優(yōu)。圖4(b)沖擊噪聲特征指數為α=1.2，可以看出隨著噪聲非高斯強度增大，各算法的重構性能均有不同程度的下降，但受沖擊噪聲影響的程度不同。本文所提算法性能波動較小，且沖擊噪聲越強，優(yōu)勢越明顯。在高信噪比時，MMVFR、MMVLL2-ISL0、Lorentzian-ISL0算法重構誤差接近。仿真驗證了本文算法的有效性和實時性。

5 結論

1)基于Lorentzian范數約束的矩陣平滑零范數最小化構造了稀疏優(yōu)化目標函數，建立了沖擊噪聲背景下任意稀疏結構的多量測向量重構模型。

2)推導了具有固定步長的共軛梯度算法，實現了ASS-MMV模型的快速重構。

3)與已有算法相比，本文算法降低了對信號模型聯合稀疏度的要求，實現了任意稀疏結構的MMV問題的高效重構；由于采用Lorentzian范數擬合誤差項，其軟回降特性有效降低了沖擊噪聲對重構性能的影響。

正則化參數控制著允許誤差和稀疏性之間的平衡，下一步有必要研究不同沖擊噪聲分布下正則化參數的估計問題。

[1] DONOHO D L. Compressed sensing[J]. IEEE transactions on information theory, 2006, 52(4): 1289-1306.

[2] 金堅, 谷源濤, 梅順良. 壓縮采樣技術及其應用[J]. 電子與信息學報, 2010, 32(2): 470-475.

JIN Jian, GU Yuantao, MEI Shunliang. An introduction to compressed sampling and its applications[J]. Journal of electronics & information technology, 2010, 32(2): 470-475.

[3] ELDAR Y C, MISHALI M. Robust recovery of signals from a structured union of subspaces[J]. IEEE transactions on information theory, 2009, 55(11): 5302-5316.

[4] FANG Hao, VOROBYOV S A, JIANG Hai, et al. Permutation meets parallel compressed sensing: how to relax restricted isometry property for 2D sparse signals[J]. IEEE transactions on signal process, 2014, 62(7): 196-210.

[5] ELDAR Y C, RAUHUT H. Average case analysis of multi-channel sparse recovery using convex relaxation[J]. IEEE transactions on information theory, 2010, 56(1): 505-519.

[6] TANG G, NEHORAI A. Performance analysis for sparse support recovery[J]. IEEE transactions on information theory, 2010, 56(3): 1383-1399.

[7] SUN L, LIU J, CHEN J, et al. Efficient recovery of jointly sparse vectors[C]// Advances in Neural Information Processing Systems. Vancouver, British Columbia, Canada, 2009: 1812-1820.

[8] 韓學兵,張顥. 模型噪聲中的稀疏恢復算法研究[J]. 電子與信息學報, 2012, 34(8): 1813-1818.

HAN Xuebing, ZHANG Hao. Research of sparse recovery algorithm based on model noise[J]. Journal of electronics & information technology, 2012, 34(8): 1813-1818.

[9] PENG Xiyuan, ZHANG Miao, ZHANG Jingchao, et al. An alternative recovery algorithm based on SL0 for multiband signals[C]// Instrumentation and Measurement Technology Conference (I2MTC), 2013 IEEE International. IEEE, 2013: 114-117.

[10] WIPF D P, RAO B D. An empirical bayesian strategy for solving the simultaneous sparse approximation problem[J]. IEEE transactions on signal processing, 2007, 55(7): 3704-3716.

[11] 李少東, 陳文峰, 楊軍,等. 任意稀疏結構的多量測向量快速稀疏重構算法研究[J]. 電子學報, 2015, 43(4): 708-715.

LI Shaodong, CHEN Wenfeng, YANG Jun, et al. Study on the fast sparse recovery algorithm via multiple measurement vectors of arbitrary sparse structure[J]. ACTA electronica sinica, 2015, 43(4): 708-715.

[12] 代林, 崔琛, 余劍,等. 沖擊噪聲下基于Lorentzian范數的CSR參數估計[J]. 華中科技大學學報：自然科學版, 2015(7): 66-71.

DAI Lin, CUI Chen, YU Jian, et al. Parameter estimation for CSR under inpulsive noise based on Lorentzian norm[J]. Journal of Huazhong University of Science and Technology：natural science edition, 2015(7): 66-71.

[13] CANDES E, TAO T. The Dantzig selector: statistical estimation when is much larger thann[J]. Annals of statistics, 2007, 35: 2313-2351.

[14] CARRILLO R E, BARNER K E, AYSAL T C. Robust sampling and reconstruction methods for sparse signals in the presence of impulsive noise[J]. IEEE transactions on selected topics in signal processing, 2010, 4(2):392-408.

[15] HUANG Jinhong, ZHOU Genjiao. A conjugate gradient method without line search and the convergence analysis[C]// 2013 Fourth International Conference on Emerging Intelligent Data and Web Technologies. Xi′an, China, 2013: 734-736.

本文引用格式：

彭軍偉，韓志韌，游行遠，等. 沖擊噪聲下任意稀疏結構的MMV重構算法[J]. 哈爾濱工程大學學報， 2017， 38(11): 1806-1811.

PENG Junwei, HAN Zhiren, YOU Xingyuan, et al. A signal recovery algorithm on multiple measurement vectors of arbitrary sparse structure with impulsive noise[J]. Journal of Harbin Engineering University， 2017， 38(11): 1806-1811.

Asignalrecoveryalgorithmonmultiplemeasurementvectorsofarbitrarysparsestructurewithimpulsivenoise

PENG Junwei1, 2, HAN Zhiren2, YOU Xingyuan1, 2, YANG Ping2

(1.College of Information and Communication Engineering, Harbin Engineering University, Harbin 150001, China; 2.Wuhan Maritime Communication Research Institute, Wuhan 430079, China)

A novel sparse signal recovery algorithm on multiple measurement vectors of arbitrary sparse structure (ASS-MMV) with impulsive noise was proposed to deal with the robustness and universality issues within most existing sparse signal recovery algorithms. In the beginning, the objective function for sparse optimization was built based on smoothed L0-norm constrained Lorentzian norm regularization, and the ASS-MMV recovery model was set up in the presence of impulsive noise. After that, a parallel recovery which speeds up the convergence and improves the operating efficiency was implemented in a unified parametric framework by combining the fixed-step formula and the conjugate gradient algorithm with sufficient decent property. Simulation results demonstrate that the proposed algorithm can effectively recover the MMV signal with arbitrary sparse structure in impulsive noise environment. It is also proved that the proposed algorithm has faster recovery speed and less computing cost, but better robustness against the noise.

compressed sensing; signal recovery; multiple measurement vectors; objective functions; impulsive noise; conjugate gradient method

10.11990/jheu.201610074

http://www.cnki.net/kcms/detail/23.1390.u.20171017.0442.002.html

TN911

A

1006-7043(2017)11-1806-06

2016-10-20.

網絡出版日期：2017-10-17.

船舶工業(yè)國防科技預研基金項目(11J3.4.2).

彭軍偉(1987-), 男, 博士研究生；

韓志韌(1963-), 男, 研究員, 博士生導師.

彭軍偉，E-mail:pengjunwei@hrbeu.edu.cn.