二維雙原型完全過采樣DFT調制濾波器組的快速設計方法

蔣俊正 郭 云 歐陽繕

?

二維雙原型完全過采樣DFT調制濾波器組的快速設計方法

蔣俊正*郭 云 歐陽繕

(桂林電子科技大學信息與通信學院 桂林 541004)

傳統的2維大規模濾波器組的設計方法具有復雜度高的缺點。該文提出一種設計2維雙原型濾波器組的快速方法，該方法利用近似完全重構的條件，并采用完全過采樣的離散傅里葉變換(DFT)調制濾波器組來設計。新算法將兩個原型濾波器的設計問題歸結為一個無約束優化問題，其中目標函數為濾波器組的總體失真(傳遞失真和混疊失真)與原型濾波器阻帶能量的加權和，利用目標函數的梯度向量，通過雙迭代機制求解該優化問題。單步迭代中，利用矩陣求逆的等效條件和塊Toeplitz矩陣求逆的快速算法，顯著地降低了計算復雜度。理論分析和數值實驗表明，新算法可以得到整體性能更好的濾波器組，計算復雜度大幅度降低，故可以快速設計大規模的2維濾波器組。

2維離散傅里葉變換；無約束優化；完全過采樣；塊Toeplitz矩陣求逆；雙迭代算法

1 引言

多速率濾波器組已廣泛應用于圖像處理、音視頻信號處理、數字通信、計算機視覺和紋理識別與分類等領域中。1維情況下M帶均勻濾波器組的理論與設計方法已達到一個相當成熟的階段。在2維情況下，和2維可分濾波器組相比，2維不可分濾波器組有著更好的方向選擇性、靈活的頻域劃分和更多的自由度。其中2維DFT調制濾波器組又有設計簡單和實現代價小的特點，呈現了越來越多的優勢。

相比于1維濾波器組，2維濾波器組存在幾個方面的困難，特別是在設計大規模濾波器組時，更具有挑戰性。在雙迭代二階錐規化(BI-SOCP)算法[12]中，提出了一種設計2維雙原型DFT調制濾波器(DMFB)的方法，設計問題歸結為一個帶約束的優化問題。由于BI-SOCP算法的計算量包括線性約束的系數矩陣的計算和SOCP的求解，前者由相應閉區域內離散點的數目決定，后者取決于優化變量的個數和約束個數，故BI-SOCP難以設計2維大規模的DMFBs。為了克服這種缺陷，提出了設計2維DMFBs的修正牛頓法[13]和共軛梯度法[14]以及文獻[15]的方法，但這3種方法都是用來設計2維單原型濾波器組。

本文所考慮的濾波器組是2維雙原型完全過采樣的DMFB。在完全過采樣條件下，所有的混疊傳遞函數才有可能被消除或抑制到可以接受的水平，所以本文采用完全過采樣來設計。根據濾波器組的性能指標，將原型濾波器的設計問題歸結為一個無約束的優化問題，目標函數是濾波器組的混疊失真、傳遞失真和原型濾波器阻帶能量的加權和，利用目標函數梯度向量的零向量解，最后運用雙迭代算法[16]求解原型濾波器。并且單步迭代中，運用矩陣求逆的等價條件[17]和塊Toeplitz矩陣求逆的快速算法[18]極大減小了所求逆矩陣的階數，進而顯著降低了計算的復雜度。通過仿真實驗表明，該算法靈活度更高，具有更低的計算代價，可以快速而有效地設計2維大規模的濾波器組。

2 兩維DFT調制濾波器組的基本結構

相應的頻率響應為

圖1 2維DFT調制濾波器組的基本結構

分析和綜合濾波器的2維DFT調制公式為

相應地，分析和綜合濾波器的頻率響應為

子帶信號的表達式為

濾波器組的輸入輸出關系為

其中，傳遞函數和混疊傳遞函數分別為

與1維DFT濾波器組的設計相似，2維雙原型完全過采樣DFT調制濾波器組設計的性能指標主要包括濾波器組的傳遞失真和混疊失真，這兩項決定了濾波器組的重構誤差。另外還包括原型濾波器組的阻帶能量，設計時期望得到高的阻帶衰減。傳遞失真[14]可以表示為

或

根據式(9a)，式(10a)和式(10b)，可以推出2維雙原型DMFB無失真的唯一條件為

另外，分析和綜合原型濾波器的阻帶能量表示為

3 2維雙原型過采樣DFT調制濾波器組的設計

3.1原型濾波器的設計

基于前面的分析，原型濾波器的目標函數為總失真和阻帶能量的加權和，設計問題歸結為一個無約束的優化問題，表示為

或

式(15a)和式(15b)的優化問題可以利用雙迭代來求解，當固定時，目標函數是關于綜合原型濾波器的無約束的凸二次函數。

令目標函數梯度為零向量，表示為

令目標函數梯度為零向量，表示為

當設計的濾波器組通道數較多，濾波器空域支撐較大時，式(22)涉及到對大型矩陣求逆，運算量巨大。因此，為了減少矩陣求逆的運算量，可以利用式(22)的矩陣求逆的等效條件：

綜上所述，本文設計原型濾波器的算法步驟如下：

該算法中，初始分析原型濾波器可以通過最小二乘方法[13]或利用MATLAB的2維窗口方法(‘fwind2’)快速設計。為了更加有效實現最終結果，選擇使用文獻[15]中算出來的(在相同的條件下仿真得到的)作為本算法中初始的分析原型濾波器。

3.2計算復雜度分析

本文算法的計算復雜度主要由求解分析和綜合原型濾波器構成，由式(21)得，需要求解和矩陣的逆，在式(23)中，是一個的矩陣，極大降低了所求逆矩陣的階數，又，所以矩陣逆的復雜度從減小到。特別當濾波器組具備很大通道數以及濾波器空域支撐較大時(即和都很大時)，本文算法的計算量會明顯減少，適用于計算2維大規模的濾波器組。

4 仿真結果與分析

在本節，在相同的環境下將本文算法與現有算法進行仿真對比。一般而言，濾波器組的性能是通過傳遞失真(用表示)，混疊失真(用表示)和原型濾波器的阻帶衰減(分析原型濾波器的阻帶衰減用表示，綜合原型濾波器的阻帶衰減用表示)來測量的。由于重構誤差是由傳遞失真和混疊失真聯合決定的，故在仿真時可以忽略。

例1 考慮設計一個2維完全過采樣的DFT調制濾波器組，調制矩陣、采樣矩陣和空域支撐分別為

例2 設計一個2維大規模的DFT調制濾波器

組滿足下面的參數設置：

表1本文算法與BI-SOCP算法的性能對比

設計算法SAA (dB)SAS (dB) (dB) (dB)迭代次數所耗CPU時間 (s) BI-SOCP-24.01-28.50-48.50-48.33208280.60 本文算法-36.28-36.28-61.55-44.41 8 0.42

圖2 原型濾波器的沖激響應和歸一化幅度響應

本文算法中得到的原型濾波器的歸一化幅度響應如圖3所示。表2給出了兩種算法的性能對比，本算法在8次迭代中CPU所耗時間為45.40 s。同時由于本文算法采用雙原型濾波器組來設計，可以調整分析和綜合濾波器為不同的空域支撐，設分析濾波器不變，綜合原型濾波器的空域支撐增加為，得到的原型濾波器的幅度響應如圖4所示。表3給出了改變空域支撐時濾波器的性能指標，同樣在8次迭代中所耗CPU時間為69.34 s，綜合表2和表3可以看出，綜合原型濾波器的阻帶衰減以及傳遞失真都有減少，并且本文算法的頻率選擇更加靈活，更適合快速設計兩維雙原型大規模的濾波器組。

5 結束語

本文圍繞設計2維雙原型完全過采樣DFT調制濾波器組的設計問題，提出了一種基于無約束優化的快速有效的算法。理論分析和仿真結果表明，本文算法得到的濾波器組相比于現有設計方法設計復雜度更低，有著更好的整體性能。并且，當濾波器組具備很大通道數以及空域支撐較大時，本文算法的計算效率有著顯著優勢，由單原型到雙原型的特點也增加了設計原型濾波器時的靈活性，因此本算法很適合2維雙原型大規模濾波器組的快速設計。

圖3 空域支撐相等時原型濾波器歸一化幅度響應

表2本文算法與文獻[15]算法的性能對比

設計算法SAA (dB)SAS (dB) (dB) (dB)迭代次數 文獻[15]算法-48.43-48.43-51.61-67.0518 本文算法-47.65-47.58-53.08-69.30 8

表3改變綜合原型濾波器空域支撐時的性能

設計算法SAA (dB)SAS (dB) (dB) (dB)迭代次數 本文算法-48.88-50.94-60.34-68.928

圖4 空域支撐不等時原型濾波器歸一化幅度響應

[1] VAIDYANATHAN P P. Multirate Systems and Flter Banks[M]. Englewoo Cliffs: N.J.,Prentice Hall, 1993: 188-272.

[2] LIN Y P and VAIDYANATHAN P P. Theory and design of two-dimensional filter bank: A review[J].&, 1996, 7(3-4): 263-330. doi: 10.1007/BF01826246.

[3] GAWANDE J P, RAHULKAR A D, and HOLAMBE R S. Design of new class of regular biorthogonal wavelet filter banks using generalized and hybrid lifting structures[J]., 2015, 9(1): 265-273. doi: 10.1007/s11760-015-0814-0.

[4] SHUI Penglang. Image denoising using 2-D separable oversampled DFT modulated filter banks[J]., 2009, 3(3): 163-173. doi: 10.1049/iet-ipr.2007.0218.

[5] SUZUKI T and KUDO H. Two-dimensional non-separable block-lifting-based M-channel biorthogonal filter banks[C]. European Signal Processing Conference, Lisbon, 2014: 291-295.

[6] RAJAPAKAHA N, MADANAYAKE A, and BRUTON LT. 2D space-time wave-digital multi-fan filter banks for signals consisting of multiple plane waves[J]., 2014, 25(1): 17-39. doi: 10.1007/s11045-012-0183-6.

[7] SUZUKIT and KUDO H. Two-dimensional non-separable block-lifting structure and its application to M-channel perfect reconstruction filter banks for lossy-to-lossless image coding[J]., 2015, 24(12): 4943-4951. doi: 10.1109/TIP.2015.2472294.

[8] WILBUR M R, DAVIDSON T N, and REILLY J P. Efficient design of oversampled NPR GDFT filter banks[J]., 2004, 52(7): 1947-1963. doi: 10.1109/TSP.2004.828936.

[9] SHUI Penglang and JIANG Junzheng. Two-dimensional 2×oversampled DFT modulated filter banks and critically sampled modified DFT modulated filter banks[J]., 2010, 58(11): 5597-5611. doi: 10.1109/TSP.2010.2059016.

[10] JIANG Junzheng and ZHOU Fang. Iterative design of two-dimensional critically sampled MDFT modulated filter banks[J]., 2013, 93(11): 3124-3132. doi: 10.1016/j.sigpro.2013.03.022.

[11] JIANG Junzheng, ZHOU Fang, SHUI Penglang,Theory and design of two-dimensional DFT modulated filter bank with arbitrary modulation and decimation matrices[J]., 2015, 44(1): 123-130. doi: 10.1016/ j.dsp.2015.05.012.

[12] JIANG Junzheng and SHUI Penglang. Design of 2D linear phase DFT modulated filter banks using bi-iterative second-order cone program[J]., 2010, 90(12): 3065-3077. doi: 10.1016/j.sigpro.2010.05.011.

[13] JIANG Junzheng and SHUI Penglang. Design of 2D oversampled linear phase DFT modulated filter banks via modified Newton’s method[J]., 2012, 92(6): 1411-1421. doi: 10.1016/j.sigpro.2011.11.029.

[14] JIANG Junzheng, ZHOU Fang, and OUYANG Shan. Design of two-dimensional large-scale DFT modulated filter banks[J]., 2013, 7(9): 807-813. doi: 10.1049/ iet-spr.2012.0327.

[15] ZHOU Fang, JIANG Junzheng, and SHUI Penglang. Fast design of 2D fully oversampled DFT modulated filter bank using Toeplitz-block Toeplitz matrix inversion[J]., 2015, 111: 194-198. doi: 10.1016/j.sigpro.2014.12.021.

[16] 蔣俊正, 王小龍, 水鵬朗. 一種設計DFT調制濾波器組的新算法[J]. 西安電子科技大學學報, 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

JIANG Junzheng, WANG Xiaolong, and SHUI Penglang. Novel method for designing DFT modulated filter banks[J]., 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

[17] PETERSEN K B and PETERSEN M S. The Matrix Cookbook[OL]. http://www2.imm.dtu.dk/pubdb/p.php,2012.11.

[18] WAX M and KAILATH T. Efficient inversion of Toeplitz-block Toeplitz matrix[J]., 1983, 31(5): 1218-1221. doi: 10.1109/TASSP.1983.1164208.

Fast Design of 2D and Double-prototype Fully Oversampled DFT Modulated Filter Banks

JIANG Junzheng GUO Yun OUYANG Shan

(,,541004)

Traditional design methods of two-dimensional large-scale filter banks suffer from high-complexity. This paper presents an algorithm to design two-dimensional double-prototype fully oversampled Discrete Fourier Transform (DFT) modulated filter bank with Nearly Perfect Reconstruction (NPR). The algorithm is based on bi-iterative scheme, where the design issue is formulated into an unconstrained optimization issue whose objective function is the weighted sum of the transfer distortion and the aliasing distortion of the filter bank, and the stopband energy of the Prototype Filters (PFs). By exploiting the gradient information, the optimization problem can be efficiently solved by utilizing the bi-iterative scheme. The matrix inverse identity and the fast algorithm for Toeplitz-block Toeplitz matrix inversion are employed to dramatically reduce the computational cost of the iterative procedure. The theoretical analysis and numerical experiments are carried out to show that compared with the existing methods, the new algorithm possesses much lower computational cost and can be used to designlarge-scale two-dimensional filter bank with better overall performance.

Two-dimensional Discrete Fourier Transform (DFT); Unconstrainedoptimization; Fully oversampled; Toeplitz-block Toeplitz matrix inversion; Bi-iterative scheme

TN911 .72

A

1009-5896(2016)11-2753-07

10.11999/JEIT160125

2016-01-26；改回日期：2016-06-20；

蔣俊正jzjiang@guet.edu.cn

國家自然科學基金(61261032, 61371186)，廣西區自然科學基金(2013GXNSFBA019264)

The National Natural Science Foundation of China (61261032, 61371186), The Guangxi Natural Science Foundation (2013GXNSFBA019264)

2016-09-08

蔣俊正： 男，1983年生，副教授，碩士生導師，研究方向為多速率濾波器組理論與應用、通信信號處理.

郭 云： 女，1991年生，碩士生，研究方向為多速率濾波器組的設計及應用.

歐陽繕： 男，1960年生，教授，博士生導師，研究方向為自適應信號處理、通信信號處理.