二維雙原型完全過(guò)采樣DFT調(diào)制濾波器組的快速設(shè)計(jì)方法

蔣俊正 郭 云 歐陽(yáng)繕

?

二維雙原型完全過(guò)采樣DFT調(diào)制濾波器組的快速設(shè)計(jì)方法

蔣俊正*郭 云 歐陽(yáng)繕

(桂林電子科技大學(xué)信息與通信學(xué)院 桂林 541004)

傳統(tǒng)的2維大規(guī)模濾波器組的設(shè)計(jì)方法具有復(fù)雜度高的缺點(diǎn)。該文提出一種設(shè)計(jì)2維雙原型濾波器組的快速方法，該方法利用近似完全重構(gòu)的條件，并采用完全過(guò)采樣的離散傅里葉變換(DFT)調(diào)制濾波器組來(lái)設(shè)計(jì)。新算法將兩個(gè)原型濾波器的設(shè)計(jì)問(wèn)題歸結(jié)為一個(gè)無(wú)約束優(yōu)化問(wèn)題，其中目標(biāo)函數(shù)為濾波器組的總體失真(傳遞失真和混疊失真)與原型濾波器阻帶能量的加權(quán)和，利用目標(biāo)函數(shù)的梯度向量，通過(guò)雙迭代機(jī)制求解該優(yōu)化問(wèn)題。單步迭代中，利用矩陣求逆的等效條件和塊Toeplitz矩陣求逆的快速算法，顯著地降低了計(jì)算復(fù)雜度。理論分析和數(shù)值實(shí)驗(yàn)表明，新算法可以得到整體性能更好的濾波器組，計(jì)算復(fù)雜度大幅度降低，故可以快速設(shè)計(jì)大規(guī)模的2維濾波器組。

2維離散傅里葉變換；無(wú)約束優(yōu)化；完全過(guò)采樣；塊Toeplitz矩陣求逆；雙迭代算法

1 引言

多速率濾波器組已廣泛應(yīng)用于圖像處理、音視頻信號(hào)處理、數(shù)字通信、計(jì)算機(jī)視覺(jué)和紋理識(shí)別與分類(lèi)等領(lǐng)域中。1維情況下M帶均勻?yàn)V波器組的理論與設(shè)計(jì)方法已達(dá)到一個(gè)相當(dāng)成熟的階段。在2維情況下，和2維可分濾波器組相比，2維不可分濾波器組有著更好的方向選擇性、靈活的頻域劃分和更多的自由度。其中2維DFT調(diào)制濾波器組又有設(shè)計(jì)簡(jiǎn)單和實(shí)現(xiàn)代價(jià)小的特點(diǎn)，呈現(xiàn)了越來(lái)越多的優(yōu)勢(shì)。

相比于1維濾波器組，2維濾波器組存在幾個(gè)方面的困難，特別是在設(shè)計(jì)大規(guī)模濾波器組時(shí)，更具有挑戰(zhàn)性。在雙迭代二階錐規(guī)化(BI-SOCP)算法[12]中，提出了一種設(shè)計(jì)2維雙原型DFT調(diào)制濾波器(DMFB)的方法，設(shè)計(jì)問(wèn)題歸結(jié)為一個(gè)帶約束的優(yōu)化問(wèn)題。由于BI-SOCP算法的計(jì)算量包括線性約束的系數(shù)矩陣的計(jì)算和SOCP的求解，前者由相應(yīng)閉區(qū)域內(nèi)離散點(diǎn)的數(shù)目決定，后者取決于優(yōu)化變量的個(gè)數(shù)和約束個(gè)數(shù)，故BI-SOCP難以設(shè)計(jì)2維大規(guī)模的DMFBs。為了克服這種缺陷，提出了設(shè)計(jì)2維DMFBs的修正牛頓法[13]和共軛梯度法[14]以及文獻(xiàn)[15]的方法，但這3種方法都是用來(lái)設(shè)計(jì)2維單原型濾波器組。

本文所考慮的濾波器組是2維雙原型完全過(guò)采樣的DMFB。在完全過(guò)采樣條件下，所有的混疊傳遞函數(shù)才有可能被消除或抑制到可以接受的水平，所以本文采用完全過(guò)采樣來(lái)設(shè)計(jì)。根據(jù)濾波器組的性能指標(biāo)，將原型濾波器的設(shè)計(jì)問(wèn)題歸結(jié)為一個(gè)無(wú)約束的優(yōu)化問(wèn)題，目標(biāo)函數(shù)是濾波器組的混疊失真、傳遞失真和原型濾波器阻帶能量的加權(quán)和，利用目標(biāo)函數(shù)梯度向量的零向量解，最后運(yùn)用雙迭代算法[16]求解原型濾波器。并且單步迭代中，運(yùn)用矩陣求逆的等價(jià)條件[17]和塊Toeplitz矩陣求逆的快速算法[18]極大減小了所求逆矩陣的階數(shù)，進(jìn)而顯著降低了計(jì)算的復(fù)雜度。通過(guò)仿真實(shí)驗(yàn)表明，該算法靈活度更高，具有更低的計(jì)算代價(jià)，可以快速而有效地設(shè)計(jì)2維大規(guī)模的濾波器組。

2 兩維DFT調(diào)制濾波器組的基本結(jié)構(gòu)

相應(yīng)的頻率響應(yīng)為

圖1 2維DFT調(diào)制濾波器組的基本結(jié)構(gòu)

分析和綜合濾波器的2維DFT調(diào)制公式為

相應(yīng)地，分析和綜合濾波器的頻率響應(yīng)為

子帶信號(hào)的表達(dá)式為

濾波器組的輸入輸出關(guān)系為

其中，傳遞函數(shù)和混疊傳遞函數(shù)分別為

與1維DFT濾波器組的設(shè)計(jì)相似，2維雙原型完全過(guò)采樣DFT調(diào)制濾波器組設(shè)計(jì)的性能指標(biāo)主要包括濾波器組的傳遞失真和混疊失真，這兩項(xiàng)決定了濾波器組的重構(gòu)誤差。另外還包括原型濾波器組的阻帶能量，設(shè)計(jì)時(shí)期望得到高的阻帶衰減。傳遞失真[14]可以表示為

或

根據(jù)式(9a)，式(10a)和式(10b)，可以推出2維雙原型DMFB無(wú)失真的唯一條件為

另外，分析和綜合原型濾波器的阻帶能量表示為

3 2維雙原型過(guò)采樣DFT調(diào)制濾波器組的設(shè)計(jì)

3.1原型濾波器的設(shè)計(jì)

基于前面的分析，原型濾波器的目標(biāo)函數(shù)為總失真和阻帶能量的加權(quán)和，設(shè)計(jì)問(wèn)題歸結(jié)為一個(gè)無(wú)約束的優(yōu)化問(wèn)題，表示為

或

式(15a)和式(15b)的優(yōu)化問(wèn)題可以利用雙迭代來(lái)求解，當(dāng)固定時(shí)，目標(biāo)函數(shù)是關(guān)于綜合原型濾波器的無(wú)約束的凸二次函數(shù)。

令目標(biāo)函數(shù)梯度為零向量，表示為

令目標(biāo)函數(shù)梯度為零向量，表示為

當(dāng)設(shè)計(jì)的濾波器組通道數(shù)較多，濾波器空域支撐較大時(shí)，式(22)涉及到對(duì)大型矩陣求逆，運(yùn)算量巨大。因此，為了減少矩陣求逆的運(yùn)算量，可以利用式(22)的矩陣求逆的等效條件：

綜上所述，本文設(shè)計(jì)原型濾波器的算法步驟如下：

該算法中，初始分析原型濾波器可以通過(guò)最小二乘方法[13]或利用MATLAB的2維窗口方法(‘fwind2’)快速設(shè)計(jì)。為了更加有效實(shí)現(xiàn)最終結(jié)果，選擇使用文獻(xiàn)[15]中算出來(lái)的(在相同的條件下仿真得到的)作為本算法中初始的分析原型濾波器。

3.2計(jì)算復(fù)雜度分析

本文算法的計(jì)算復(fù)雜度主要由求解分析和綜合原型濾波器構(gòu)成，由式(21)得，需要求解和矩陣的逆，在式(23)中，是一個(gè)的矩陣，極大降低了所求逆矩陣的階數(shù)，又，所以矩陣逆的復(fù)雜度從減小到。特別當(dāng)濾波器組具備很大通道數(shù)以及濾波器空域支撐較大時(shí)(即和都很大時(shí))，本文算法的計(jì)算量會(huì)明顯減少，適用于計(jì)算2維大規(guī)模的濾波器組。

4 仿真結(jié)果與分析

在本節(jié)，在相同的環(huán)境下將本文算法與現(xiàn)有算法進(jìn)行仿真對(duì)比。一般而言，濾波器組的性能是通過(guò)傳遞失真(用表示)，混疊失真(用表示)和原型濾波器的阻帶衰減(分析原型濾波器的阻帶衰減用表示，綜合原型濾波器的阻帶衰減用表示)來(lái)測(cè)量的。由于重構(gòu)誤差是由傳遞失真和混疊失真聯(lián)合決定的，故在仿真時(shí)可以忽略。

例1 考慮設(shè)計(jì)一個(gè)2維完全過(guò)采樣的DFT調(diào)制濾波器組，調(diào)制矩陣、采樣矩陣和空域支撐分別為

例2 設(shè)計(jì)一個(gè)2維大規(guī)模的DFT調(diào)制濾波器

組滿(mǎn)足下面的參數(shù)設(shè)置：

表1本文算法與BI-SOCP算法的性能對(duì)比

設(shè)計(jì)算法SAA (dB)SAS (dB) (dB) (dB)迭代次數(shù)所耗CPU時(shí)間 (s) BI-SOCP-24.01-28.50-48.50-48.33208280.60 本文算法-36.28-36.28-61.55-44.41 8 0.42

圖2 原型濾波器的沖激響應(yīng)和歸一化幅度響應(yīng)

本文算法中得到的原型濾波器的歸一化幅度響應(yīng)如圖3所示。表2給出了兩種算法的性能對(duì)比，本算法在8次迭代中CPU所耗時(shí)間為45.40 s。同時(shí)由于本文算法采用雙原型濾波器組來(lái)設(shè)計(jì)，可以調(diào)整分析和綜合濾波器為不同的空域支撐，設(shè)分析濾波器不變，綜合原型濾波器的空域支撐增加為，得到的原型濾波器的幅度響應(yīng)如圖4所示。表3給出了改變空域支撐時(shí)濾波器的性能指標(biāo)，同樣在8次迭代中所耗CPU時(shí)間為69.34 s，綜合表2和表3可以看出，綜合原型濾波器的阻帶衰減以及傳遞失真都有減少，并且本文算法的頻率選擇更加靈活，更適合快速設(shè)計(jì)兩維雙原型大規(guī)模的濾波器組。

5 結(jié)束語(yǔ)

本文圍繞設(shè)計(jì)2維雙原型完全過(guò)采樣DFT調(diào)制濾波器組的設(shè)計(jì)問(wèn)題，提出了一種基于無(wú)約束優(yōu)化的快速有效的算法。理論分析和仿真結(jié)果表明，本文算法得到的濾波器組相比于現(xiàn)有設(shè)計(jì)方法設(shè)計(jì)復(fù)雜度更低，有著更好的整體性能。并且，當(dāng)濾波器組具備很大通道數(shù)以及空域支撐較大時(shí)，本文算法的計(jì)算效率有著顯著優(yōu)勢(shì)，由單原型到雙原型的特點(diǎn)也增加了設(shè)計(jì)原型濾波器時(shí)的靈活性，因此本算法很適合2維雙原型大規(guī)模濾波器組的快速設(shè)計(jì)。

圖3 空域支撐相等時(shí)原型濾波器歸一化幅度響應(yīng)

表2本文算法與文獻(xiàn)[15]算法的性能對(duì)比

設(shè)計(jì)算法SAA (dB)SAS (dB) (dB) (dB)迭代次數(shù) 文獻(xiàn)[15]算法-48.43-48.43-51.61-67.0518 本文算法-47.65-47.58-53.08-69.30 8

表3改變綜合原型濾波器空域支撐時(shí)的性能

設(shè)計(jì)算法SAA (dB)SAS (dB) (dB) (dB)迭代次數(shù) 本文算法-48.88-50.94-60.34-68.928

圖4 空域支撐不等時(shí)原型濾波器歸一化幅度響應(yīng)

[1] VAIDYANATHAN P P. Multirate Systems and Flter Banks[M]. Englewoo Cliffs: N.J.,Prentice Hall, 1993: 188-272.

[2] LIN Y P and VAIDYANATHAN P P. Theory and design of two-dimensional filter bank: A review[J].&, 1996, 7(3-4): 263-330. doi: 10.1007/BF01826246.

[3] GAWANDE J P, RAHULKAR A D, and HOLAMBE R S. Design of new class of regular biorthogonal wavelet filter banks using generalized and hybrid lifting structures[J]., 2015, 9(1): 265-273. doi: 10.1007/s11760-015-0814-0.

[4] SHUI Penglang. Image denoising using 2-D separable oversampled DFT modulated filter banks[J]., 2009, 3(3): 163-173. doi: 10.1049/iet-ipr.2007.0218.

[5] SUZUKI T and KUDO H. Two-dimensional non-separable block-lifting-based M-channel biorthogonal filter banks[C]. European Signal Processing Conference, Lisbon, 2014: 291-295.

[6] RAJAPAKAHA N, MADANAYAKE A, and BRUTON LT. 2D space-time wave-digital multi-fan filter banks for signals consisting of multiple plane waves[J]., 2014, 25(1): 17-39. doi: 10.1007/s11045-012-0183-6.

[7] SUZUKIT and KUDO H. Two-dimensional non-separable block-lifting structure and its application to M-channel perfect reconstruction filter banks for lossy-to-lossless image coding[J]., 2015, 24(12): 4943-4951. doi: 10.1109/TIP.2015.2472294.

[8] WILBUR M R, DAVIDSON T N, and REILLY J P. Efficient design of oversampled NPR GDFT filter banks[J]., 2004, 52(7): 1947-1963. doi: 10.1109/TSP.2004.828936.

[9] SHUI Penglang and JIANG Junzheng. Two-dimensional 2×oversampled DFT modulated filter banks and critically sampled modified DFT modulated filter banks[J]., 2010, 58(11): 5597-5611. doi: 10.1109/TSP.2010.2059016.

[10] JIANG Junzheng and ZHOU Fang. Iterative design of two-dimensional critically sampled MDFT modulated filter banks[J]., 2013, 93(11): 3124-3132. doi: 10.1016/j.sigpro.2013.03.022.

[11] JIANG Junzheng, ZHOU Fang, SHUI Penglang,Theory and design of two-dimensional DFT modulated filter bank with arbitrary modulation and decimation matrices[J]., 2015, 44(1): 123-130. doi: 10.1016/ j.dsp.2015.05.012.

[12] JIANG Junzheng and SHUI Penglang. Design of 2D linear phase DFT modulated filter banks using bi-iterative second-order cone program[J]., 2010, 90(12): 3065-3077. doi: 10.1016/j.sigpro.2010.05.011.

[13] JIANG Junzheng and SHUI Penglang. Design of 2D oversampled linear phase DFT modulated filter banks via modified Newton’s method[J]., 2012, 92(6): 1411-1421. doi: 10.1016/j.sigpro.2011.11.029.

[14] JIANG Junzheng, ZHOU Fang, and OUYANG Shan. Design of two-dimensional large-scale DFT modulated filter banks[J]., 2013, 7(9): 807-813. doi: 10.1049/ iet-spr.2012.0327.

[15] ZHOU Fang, JIANG Junzheng, and SHUI Penglang. Fast design of 2D fully oversampled DFT modulated filter bank using Toeplitz-block Toeplitz matrix inversion[J]., 2015, 111: 194-198. doi: 10.1016/j.sigpro.2014.12.021.

[16] 蔣俊正, 王小龍, 水鵬朗. 一種設(shè)計(jì)DFT調(diào)制濾波器組的新算法[J]. 西安電子科技大學(xué)學(xué)報(bào), 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

JIANG Junzheng, WANG Xiaolong, and SHUI Penglang. Novel method for designing DFT modulated filter banks[J]., 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

[17] PETERSEN K B and PETERSEN M S. The Matrix Cookbook[OL]. http://www2.imm.dtu.dk/pubdb/p.php,2012.11.

[18] WAX M and KAILATH T. Efficient inversion of Toeplitz-block Toeplitz matrix[J]., 1983, 31(5): 1218-1221. doi: 10.1109/TASSP.1983.1164208.

Fast Design of 2D and Double-prototype Fully Oversampled DFT Modulated Filter Banks

JIANG Junzheng GUO Yun OUYANG Shan

(,,541004)

Traditional design methods of two-dimensional large-scale filter banks suffer from high-complexity. This paper presents an algorithm to design two-dimensional double-prototype fully oversampled Discrete Fourier Transform (DFT) modulated filter bank with Nearly Perfect Reconstruction (NPR). The algorithm is based on bi-iterative scheme, where the design issue is formulated into an unconstrained optimization issue whose objective function is the weighted sum of the transfer distortion and the aliasing distortion of the filter bank, and the stopband energy of the Prototype Filters (PFs). By exploiting the gradient information, the optimization problem can be efficiently solved by utilizing the bi-iterative scheme. The matrix inverse identity and the fast algorithm for Toeplitz-block Toeplitz matrix inversion are employed to dramatically reduce the computational cost of the iterative procedure. The theoretical analysis and numerical experiments are carried out to show that compared with the existing methods, the new algorithm possesses much lower computational cost and can be used to designlarge-scale two-dimensional filter bank with better overall performance.

Two-dimensional Discrete Fourier Transform (DFT); Unconstrainedoptimization; Fully oversampled; Toeplitz-block Toeplitz matrix inversion; Bi-iterative scheme

TN911 .72

A

1009-5896(2016)11-2753-07

10.11999/JEIT160125

2016-01-26；改回日期：2016-06-20；

蔣俊正jzjiang@guet.edu.cn

國(guó)家自然科學(xué)基金(61261032, 61371186)，廣西區(qū)自然科學(xué)基金(2013GXNSFBA019264)

The National Natural Science Foundation of China (61261032, 61371186), The Guangxi Natural Science Foundation (2013GXNSFBA019264)

2016-09-08

蔣俊正： 男，1983年生，副教授，碩士生導(dǎo)師，研究方向?yàn)槎嗨俾蕿V波器組理論與應(yīng)用、通信信號(hào)處理.

郭 云： 女，1991年生，碩士生，研究方向?yàn)槎嗨俾蕿V波器組的設(shè)計(jì)及應(yīng)用.

歐陽(yáng)繕： 男，1960年生，教授，博士生導(dǎo)師，研究方向?yàn)樽赃m應(yīng)信號(hào)處理、通信信號(hào)處理.