語音信號的分塊稀疏表示分類研究

畢 超,馮玉田,李園輝,王 瑞

(上海大學 通信與信息工程學院，上海 200444)

語音信號的分塊稀疏表示分類研究

畢 超,馮玉田,李園輝,王 瑞

(上海大學 通信與信息工程學院，上海 200444)

傳統稀疏表示分類算法(SRC)在處理復雜多維的向量的時候，需要對稀疏后的每個信號單獨處理求殘差，會導致處理時間過長，無法有效地運用于實際的工程應用中。為解決這一問題，提出將圖像處理的分塊稀疏應用于語音稀疏表示分類的方法。該方法在傳統稀疏表示分類的基礎上，引入分塊稀疏思想，將語音信號按指定的長度處理，從而將若干個稀疏系數組成稀疏組來進行進一步分類識別。驗證實驗表明，源于圖像處理的分塊稀疏表示分類法同樣適用于語音信號的處理。實驗結果表明，在識別率接近的情況下，語音信號分類識別所花費的時間比圖像處理明顯降低。這是因為圖像稀疏分類的系數之間相關性較強，因而分類的識別率較高；而語音信號是典型的非平穩過程，各種特征參數隨時間快速變化，因而根據長度分類的相關性顯著減少。因此，語音信號識別的準確率雖然會有所降低，但其效率顯著提升。

稀疏表示分類；分塊稀疏；聲頻傳感器；語音信號處理

0 引 言

傳統的信號采集來源于模擬系統，采集的信號是一個連續的模擬信號，傳統的奈奎斯特采樣定理需要根據原始信號的帶寬大小決定采樣頻率，而隨著信息技術的飛速發展，數據量的急劇增大，帶寬也不斷變大，因此對于設備的要求也越來越高，迫切需要一種新的信號采集方法。在這樣的背景下，壓縮感知理論一經提出便受到了廣泛研究，研究信號的稀疏表達的目的是尋求信號在某一特定空間下的某種基的最優逼近，將原來的連續信號轉化成只有若干個參數的信號，通過降維來提供一種直接、簡便的分析方式。信號變換的本質就是透過不同角度不同方式去觀察和認識一個信號。信號的稀疏表示就是在變換域上用盡量少的基函數來表示原始信號。而分類問題一直是機器學習和模式識別研究的一個焦點問題，各種研究成果層出不窮。近年來，由于壓縮感知技術的提出和研究的深入，產生了一種新的基于稀疏表示的分類方法，即稀疏表示分類[1](SRC)。該方法一經提出，立刻在圖像識別領域產生了巨大影響，并引入到了音頻[2]等多個領域。但是稀疏表示分類方法更多地用于科學研究過程中，在實際應用中并不廣泛，主要是因為這種方法在處理大樣本時運算復雜度過高，耗費的時間過長。

文中在稀疏表示分類的基礎上，對原始的訓練樣本，采用分塊稀疏的思想，將訓練樣本和測試樣本按照預先設定好的分塊數量進行等大小地劃分，對各個分塊進行稀疏表示分類。實驗中，通過在原始樣本中取不同的組長度進行分塊后，結合語音信號樣本，再對各種稀疏表示方法的實驗比較來證明分塊稀疏表示分類對于語音信號分類的有效性和合理性。

1 SRC算法

稀疏表示分類算法的本質是用盡可能少的能包含原始信號絕大多數信息的非零系數構成的矩陣來表示原始信息。這是基于壓縮感知理論引申而來的一種算法，由Wright J等[1]在圖像領域最先提出，并取得了不錯的實驗效果，其基本原理如下：

(1)輸入一個包含L個類的訓練矩陣D=[D1,D2,…,DL]∈RM×N,再輸入一個訓練樣本y∈RM，以及一個可選的容錯度ε,其中ε>0。

(2)歸一化D的列，得到單位2范數。

(1)

由于N>M，此式是個無窮解問題，即NP問題，難以求得滿足條件的最稀疏解。E.Candes[3]提出，在滿足一定條件下，可以用1代替0，由于求解1是一個凸松弛的問題，可以采用線性算法進行求解。所以式(1)也能轉化成解決1范數最小化的問題：

(2)

在實驗中考慮到誤差的影響，求解式變為：

(3)

SRC算法將原始數據進行特征提取之后，將訓練集構成冗余字典，實現測試集的稀疏表示，得到了不錯的識別效果。但是對于整個算法的步驟進行觀察分析可以發現，在將測試集映射到訓練集的過程中，需要遍歷訓練集的每個向量來計算殘差，使得計算復雜度非常高，無形中也增加了將稀疏表示分類算法推廣到實際工程領域的困難度。

近些年，由于結構化稀疏思想的提出，將訓練集和測試集按照一定的結構進行處理，再將其用于稀疏重構領域中，獲得了比稀疏重構更理想的效果。

文中基于結構化稀疏的思想，將分塊和若干稀疏重構算法相結合，配合稀疏表示分類算法，得到若干種分塊稀疏表示分類算法。通過實驗將這些分塊稀疏表示分類算法與傳統的未分塊稀疏表示分類的識別率和識別速度進行對比，以顯示其優越性。

2 分塊稀疏表示分類

2.1 分塊稀疏思想

傳統的稀疏表示分類將稀疏性作為唯一的先驗信息，而忽略了樣本之間的內在聯系。而在實際中，非零元的出現往往是相關的，結構化稀疏正是利用了這一點，將結構先驗的知識運用到這一領域。通過結構化稀疏，將若干具有相似結構的向量，通過取某個特征或者某種計算方法，構成一個新的向量來代替原始向量組，從而縮減解的自由度，減少計算復雜度。目前基于結構化稀疏的研究并不多，主要集中于分塊稀疏、樹稀疏和組稀疏[4-5]。

分塊稀疏是結構化稀疏中最簡單的一種，它將若干個連續向量捆綁在一起組成一個塊，最終的稀疏結果必然是非零元成塊出現，如圖1所示[6]。

圖1 分塊稀疏

在實際中也能找到這樣的例子，如圖2所示的多頻帶信號。原始的窄帶信號經過高頻載波調制以后，窄帶信號的頻譜相對于高頻載波信號是稀疏的，但是每個窄帶信號都要占據一段連續的頻段[7]。三個載波頻率不同的原始射頻信號，在接收方會看成是一個多頻帶的通信信號，實際中信號包含6個頻帶，而現有的信號發射器的調制技術只確定了最大預期帶寬B，而沒有考慮到窄帶信號內部的這種連續性，這些都為分塊稀疏的研究提供了現實意義。

圖2 分塊稀疏實例(多頻帶通信信號)

2.2 分塊稀疏模型

假設稀疏向量x∈Rn，取塊長度為d，d需要滿足能被n整除的條件，即n=d×N。這時，就將測試向量分成N塊，即：

(4)

顯然，當d取1時，分塊稀疏就和傳統意義上的稀疏一樣，因此傳統稀疏可以看作是分塊稀疏的一種特例。與此同時，也將冗余字典按照d的長度來分塊，即將原始的冗余字典A∈Rm×n分解成N個矩陣，每個矩陣的大小是m×d，即：

(5)

類似于傳統稀疏表示問題，從欠定方程y=Ax尋找x向量的稀疏表示，分塊稀疏求解的問題變成了從欠定方程y=Ax中求解塊的某個特征值的非零元最小個數。EldarYC[8]等提出了基于塊2范數的0范數的優化問題，即

(6)

2.3 分塊稀疏方法

文中采用的分塊稀疏方法，將原有的訓練樣本和測試樣本按照統一的d進行劃分后，以塊為單位，和各種稀疏重構算法進行結合，通過和原始測試向量的比較，不斷迭代尋找最小的殘差，找到模擬識別的類別，最后看與原始訓練向量的類別是否相同。經過多次實驗，對于聲音信號，對該方法的識別率和識別速度相較于未分塊稀疏表示分類進行比較。

3 實驗與分析

分塊稀疏提出在圖像處理中[10]，為了證明這種方法與聲音信號結合后有非常好的效果，文中特別將其用于聲頻信號處理。實驗數據集來源于國防高等研究計劃署DARPA/IXOsSensIT計劃于2001年9月在美國加州進行的真實世界無限分布傳感網絡實驗時采集的傳感器數據，其中包含了兩種軍事車輛，履帶車(AAV)和重型輪式卡車(DW)的聲波、地震波和紅外波數據[11]，該實驗通過對聲波數據進行處理來對車輛進行識別。

在原始數據樣本中，每次獨立實驗各個樣本點的數據并不完全。為保證實驗的準確性，文中選取了兩類車輛相同車次和相同采樣點的數據作為實驗原始數據，即取第三輛到第十一輛車的第51，52，53，54，55，56，58，59，60，61個采樣點，共180個采樣數據，其中采樣頻率為4 960Hz。由于原始數據過長，這里選擇截取前7 000個數據作為改進后的原始數據。實驗采用了文獻[2]中的聲音信號特征提取方法，即梅爾頻率倒數(MFCC)提取特征信號。為了證明實驗的有效性，將長度D取不同的值，再與傳統的貪婪重構算法結合分塊稀疏的方法進行對比，以比較其計算效率。

下面簡單介紹實驗中用到的各種貪婪重構算法：

(1)塊正交匹配追蹤算法(BOMP)。

正交匹配追蹤(OMP)和分塊相結合的算法[12]，所不同的是將測試樣本與分塊過后的訓練字典以塊為單位進行匹配，再進行最小二乘法得出與測試樣本最接近的訓練塊，并一直循環迭代下去，直到誤差小于某個設定的值。

(2)組正交匹配追蹤算法(GOMP)。

組稀疏又稱群稀疏，與傳統OMP[13]相比，其主要不同點在于對稀疏系數(向量)進行分組，每組的大小可人為劃分。一般的處理方法是先標記后分群，每次迭代取一個群向量絕對值的平均值。

(3)正則化組正交匹配追蹤算法(REGOMP)。

這是由正則化正交匹配追蹤算法(ROMP)[14]引申出來的一種分塊稀疏算法。正則化正交匹配追蹤算法流程與OMP的最大不同之處在于選擇列向量的標準。OMP每次只選擇與殘差內積絕對值最大的那一列，而ROMP則是先選出內積絕對值最大的K列(若所有內積中不夠K個非零值，則將內積值非零的列全部選出)，然后再從這K列中按正則化標準再選擇一遍，即為本次迭代選出的列向量(一般并非只有一列)。正則化標準意思是選擇各列向量與殘差內積絕對值的最大值不能比最小值大兩倍以上，且能量最大的一組，因為滿足條件的子集并非只有一組。

(4)分段式組正交匹配追蹤(STGOMP)。

這是由分段式正交匹配追蹤算法(STOMP)[15]引申出來的一種分塊稀疏算法。STOMP算法采用分階段的思想，首先根據相關原則篩選向量，利用閾值的方法從向量集合中選擇和迭代余量匹配的向量。與OMP算法不同的是，它并不是每次固定選擇一個匹配向量，而是根據輸入門限來決定選擇向量的范圍，同時降低了匹配效率[16]。

最后進行分類實驗，在進行實驗之前，將待分類樣本中的前90個編號設為1，而后90編號設為2。實驗中可以將N個值設置為訓練樣本，那么另外的90-N樣本則為測試樣本。分類識別具有很大的偶然性，為了盡量避免這種偶然性，實驗中采取多次測量求平均值的方法。

將特征提取后的信號在固定的塊長度D下分別進行稀疏表示分類，即分別取D=2,D=5和D=10，實驗結果如表1～3所示。

表1 分塊稀疏表示分類下的識別率(D=2) %

表2 分塊稀疏表示分類下的識別率(D=5) %

表3 分塊稀疏表示分類下的識別率(D=10) %

從實驗結果可以看出，除了REGOMP-SRC與原始的SRC算法識別效率差距過大以外，其他的分塊稀疏表示分類算法和原始的稀疏表示分類識別效率相近，分塊的大小對于識別效率的影響不明顯。所以用分塊稀疏表示分類來代替傳統的稀疏表示分類，從識別效率上看是沒有任何問題的。

表4顯示了各種分塊識別算法相對于原始稀疏表示分類算法在計算時間上的差別。

表4 分塊稀疏表示分類下的識別率 s

從表4可以清楚地看出，分塊稀疏表示分類所花費的時間相比稀疏表示分類大大下降，這與前面提到的分塊可以降低解的自由度相吻合。而且隨著塊長度D的增加，分塊稀疏表示分類的計算時間明顯下降。這里可以把原始的SRC看成D=1的方法，則隨著D的增加，塊的數量減少，遍歷的組數減少，自然導致了計算復雜度的下降。其中STGOMP算法由于本身遍歷的條件不是誤差小于某個固定值，而是有固定的迭代次數，所以這里的計算時間相對變化不大。這也可以看出，迭代次數是影響稀疏表示分類計算復雜度的主要因素。而分塊稀疏表示分類正是通過減少迭代次數的方法來提高識別速度的。

4 結束語

文中提出了將分塊稀疏思想與聲音信號結合加以分類的方法，以解決稀疏表示分類對于實際應用場合識別速度過慢，難以應用到工程項目中的問題。實驗結果表明，雖然短時平穩特性使聲音信號的相關性相比于圖像信號大打折扣，但是通過分塊稀疏和多種重構算法相結合的稀疏表示分類算法，大大降低了算法的復雜度，在不降低識別率的情況下，提高了計算效率，十分適合實際工程應用。

[1]WrightJ,YangAY,GaneshA,etal.Robustfacerecognitionviasparserepresentation[J].IEEETransactionsonPatternAnalysisandMachineIntelligence,2009,31(2):210-227.

[2]WangK,WangR,FengY,etal.Vehiclerecognitioninacousticsensornetworksviasparserepresentation[C]//IEEEinternationalconferenceonmultimediaandexpoworkshops.[s.l.]:IEEE,2014:1-4.

[3]CandesEJ,RombergJK,TaoT.Stablesignalrecoveryfromincompleteandinaccuratemeasurements[J].CommunicationsonPureandAppliedMathematics,2006,59(8):1207-1223.

[4] 劉 芳,武 嬌,楊淑媛,等.結構化壓縮感知研究進展[J].自動化學報,2013,39(12):1980-1995.

[5] 曾 輝.壓縮感知塊稀疏信號重構算法研究[D].湘潭:湘潭大學,2014.

[6] 鄒 健.分塊稀疏表示的理論及算法研究[D].廣州:華南理工大學,2012.

[7]MishaliM,EldarYC.Blindmultibandsignalreconstruction:compressedsensingforanalogsignals[J].IEEETransactionsonSignalProcessing,2009,57(3):993-1009.

[8]EldarYC,MishaliM.Robustrecoveryofsignalsfromastructuredunionofsubspaces[J].IEEETransactionsonInformationTheory,2009,55(11):5302-5316.

[9]ElhamifarE,VidalR.Robustclassificationusingstructured

sparse representation[C]//IEEE conference on computer vision and pattern recognition.[s.l.]:IEEE,2011:1873-1879.

[10] 殷愛菡,姜輝明,朱 明.改進的BOMP算法在人臉識別中的應用[J].計算機工程與應用,2014,50(6):175-178.

[11] Duarte M F,Hu Y H.Vehicle classification in distributed sensor networks[J].Journal of Parallel and Distributed Computing,2004,64(7):826-838.

[12] Eldar Y C,Kuppinger P,B?lcskei H.Block-sparse signals:uncertainty relations and efficient recovery[J].IEEE Transactions on Signal Processing,2010,58(6):3042-3054.

[13] Lozano A C,Swirszcz G,Abe N.Group orthogonal matching pursuit for logistic regression[C]//International conference on artificial intelligence and statistics.[s.l.]:[s.n.],2011:452-460.

[14] Needell D,Vershynin R.Uniform uncertainty principle and signal recovery via regularized orthogonal matching pursuit[J].Foundations of Computational Mathematics,2009,9(3):317-334.

[15] Donoho D L,Tsaig Y,Drori I,et al.Sparse solution of underdetermined systems of linear equations by stagewise orthogonal matching pursuit[J].IEEE Transactions on Information Theory,2012,58(2):1094-1121.

[16] 楊真真,楊 震,孫林慧.信號壓縮重構的正交匹配追蹤類算法綜述[J].信號處理,2013,29(4):486-496.

Investigation of Voice Signal Classification with Block Sparse

BI Chao,FENG Yu-tian,LI Yuan-hui,WANG Rui

(School of Communication and Information Engineering,Shanghai University,Shanghai 200444,China)

In dealing with complex multidimensional vector,traditional Sparse Representation Classification (SRC) has spent too much time on computing the residual error by sparse signal after each individual treatment，which is unable to be applied in practical engineering effectively.In order to solve this problem,the block sparse method of image processing has been introduced to the voice of the sparse representation classification,which is based on the traditional sparse representation classification and merged with idea of block sparse.Audio signal is treated via given length so that a sparse group has been constructed with several sparse coefficients for further classification in the voice field.Validation experiments have been conducted and its results show that block sparse representation classification stemmed from image processing can be applied in speech signal processing and that time consumption of audio signal classification is less than image processing under the condition of the same recognition rate,due to high correlativity among the coefficients of image sparse classification and thus high recognition rate.This is also because speech signal is classical non-stationary process and its characteristic parameters vary with time rapidly,thus the correlativity of classification with length has been reduced significantly.Therefore,although accuracy of speech signal recognition could decrease,recognition efficiency would be exalted notably.

sparse representation classification;block sparse;audio sensor；voice signal processing

2016-05-09

2016-08-11

時間：2017-02-17

國家青年科學基金項目(61301027)

畢 超(1991-),男,碩士研究生，研究方向為壓縮感知、語音信號處理;馮玉田,副教授，研究方向為水聲學、壓縮感知。

http://www.cnki.net/kcms/detail/61.1450.TP.20170217.1632.080.html

TP391.4

A

1673-629X(2017)03-0044-04

10.3969/j.issn.1673-629X.2017.03.009