六角變換方法在視頻編碼中的應(yīng)用

程 武，趙海武，2，李亞珂，王國中，2，騰國偉，2

(1.上海大學(xué)通信與信息工程學(xué)院，上海 200072;2.上海國茂數(shù)字技術(shù)有限公司，上海 201204)

責(zé)任編輯:魏雨博

基于塊的變換編碼已經(jīng)在圖像和視頻編碼領(lǐng)域有著廣泛的應(yīng)用。在眾多的正交變換編碼中，離散余弦變換(Discrete Cosine Transform，DCT)被視為是最接近正交變換中的最佳變換——K-L變換(Karhunen-Loeve Transform，KLT)。離散余弦變換(DCT)是N.Ahmed等人在1974年提出的正交變換方法［1］。DCT變換可以在變換域中極大地消除圖像元素之間的相關(guān)性。由于KL變換計算復(fù)雜，而且很難滿足實(shí)時處理的要求，因此，DCT常被認(rèn)為是對視頻和圖像信號進(jìn)行變換的最佳方法，被廣泛應(yīng)用于各種視頻圖像編碼標(biāo)準(zhǔn)中，而且已被證明是在實(shí)踐中是一個更好的選擇［2］。

然而，DCT的變換矩陣是用浮點(diǎn)數(shù)表示，浮點(diǎn)運(yùn)算量較大，在通用芯片上乘法計算將會消耗更多的系統(tǒng)資源，并需要更多的計算時間［3］。在有限字長的條件下，浮點(diǎn)運(yùn)算的精度不是很高，而且會產(chǎn)生截斷誤差，這就使得在具體實(shí)現(xiàn)時會導(dǎo)致編解碼的不匹配［4-5］。因此，在實(shí)際運(yùn)用中大多使用整數(shù)變換來代替DCT變換，其核心是用整數(shù)變換矩陣代替DCT的浮點(diǎn)數(shù)變換矩陣，這樣變換過程完全是整數(shù)運(yùn)算，不存在精度誤差，保證了編碼的可逆性［6］。因此，下一代音視頻壓縮標(biāo)準(zhǔn) H.264/AVC［7］和中國國家音視頻編碼標(biāo)準(zhǔn)AVS［8］均使用整數(shù)DCT變換。

在本文中，筆者提出六角變換方法及其快速整數(shù)實(shí)現(xiàn)方法，其不僅具有相比浮點(diǎn)DCT實(shí)現(xiàn)復(fù)雜度低、解碼端無誤差累積的優(yōu)點(diǎn)，而且能提供相比其他整數(shù)近似變換更高的編碼性能。

1 離散余弦變換

在離散余弦變換中，二維8×8變換可以描述為Y=TXTT，其中X是幀內(nèi)或幀間預(yù)測后的殘差矩陣，Y是變換之后的矩陣，變換矩陣T可以用公式(1)來描述［4］。

由于DCT變換的實(shí)現(xiàn)復(fù)雜度高，不同的解碼器采用近似的整數(shù)實(shí)現(xiàn)則可能帶來誤配問題。而在視頻編碼中，由于時域預(yù)測的使用，誤差的累積會降低視頻的質(zhì)量［4］。于是在新一代的視頻編碼標(biāo)準(zhǔn)中均廣泛采用了近似于DCT的整數(shù)變換以降低實(shí)現(xiàn)復(fù)雜度并使解碼器操作具有一致性。

2 六角變換方法及其整數(shù)實(shí)現(xiàn)過程

本文提出了一種六角變換方法，其變換方法可以描述為Y=PXPT，其中，變換矩陣P可以按如下方法得到:設(shè) α1，α2，α3，α4，α5，α6 是所選取的 6 個角度，令 C=cosα1，D=sin α1;E=cosα2，F(xiàn)=sin α2;G=cosα3，H=sin α3;I=cosα4，J=sin α4;K=cosα5，L=sin α5;M=cosα6，N=sin α6。

變換矩陣P可以用公式(3)來描述

在本文中，選 取 α1 = arccos(0.6367)，α2 =arccos(0.6836)，α3=arccos(0.6914)，α4=arccos(0.4141)，α5=arccos(0.2148)，α6=arccos(0.7930)。

代入上述計算公式可以得到如下變換矩陣［9］

其中，a00=0.3113，a01=0.3492，a02=0.3729，a03=0.3770;a04=0.4397，a05=0.4441，a06=0.3121，a07=0.1098;a08=0.4963，a09=0.2137，a10=0.2002，a11=0.4098;a12=0.4324，a13=0.0220，a14=0.4731，a15=0.2979;a16=0.3253，a17=0.3342，a18=0.3568，a19=0.3939;a20=0.3322，a21=0.4823，a22=0.0819，a23=0.3877;a24=0.2258，a25=0.4698，a26=0.4400，a27=0.1864;a28=0.0967，a29=0.2640，a30=0.4148，a31=0.4989。

由上述矩陣可知:與離散余弦變換和既有的整數(shù)變換相比，本文提出的六角變換方法的一大特點(diǎn)在于變換矩陣第一行的系數(shù)是不同的，中間值比邊緣值較大，增大了數(shù)據(jù)塊中心附近數(shù)據(jù)的權(quán)重，可以有效地提高編碼的效率。

同時，矩陣T具有對稱性質(zhì)，利用其對稱性可以將矩陣T分解成一系列的蝶形和旋轉(zhuǎn)角度［10］以簡化計算，其蝶形變換快速算法如圖1所示［11］。

圖1 蝶形變換快速算法

在具體實(shí)現(xiàn)中，由于浮點(diǎn)算法具有較大的開銷，通常轉(zhuǎn)化為整數(shù)實(shí)現(xiàn)。針對浮點(diǎn)系數(shù)0.6367和0.7711，選取一個整數(shù)，使得浮點(diǎn)數(shù)轉(zhuǎn)換為整數(shù)，其計算結(jié)果如式(5)所示

式中:ɑ≈2n×0.6367，b≈2n×0.7711。

當(dāng)選擇的整數(shù)越大，就可以得到更高的精確度。在具體實(shí)施中，數(shù)據(jù)的大小是由硬件的性能決定的［12］。在本文中，選擇n=8，則ɑ=163，b=197，這樣可以得到

本文的其他系數(shù)可以用上述同樣的方法整數(shù)化得到，最終的快速變換整數(shù)實(shí)現(xiàn)方法如圖2所示［11］。

圖2 正向整數(shù)變換蝶形圖

在量化方面，采用了如下的量化方法［13］

C是變換后的系數(shù)，Cq是量化后的系數(shù)，數(shù)組Q_TAB的值如表1所示。

表1 數(shù)組Q_TAB的取值

3 實(shí)驗(yàn)結(jié)果及分析

將上述六角變換方法嵌入到中國國家標(biāo)準(zhǔn)AVS加強(qiáng)檔MM1.1v2版本中用以測試本文提出方法的編碼效率，分別對不同分辨率的視頻序列進(jìn)行了測試，在測試中，使用了“IBBPBBP…”編碼結(jié)構(gòu)，選擇適當(dāng)?shù)腝P，使得最后輸出碼流在常用的比特率范圍內(nèi)。表2～表4是實(shí)驗(yàn)的測試條件和實(shí)驗(yàn)數(shù)據(jù)。

表2 實(shí)驗(yàn)測試條件

表3 低分辨力視頻序列測試數(shù)據(jù)

其中，在表3的低分辨力視頻測試序列中，運(yùn)動搜索的最大范圍設(shè)置在±32，而在高清視頻中，往往運(yùn)動范圍比較大，需要對搜索范圍進(jìn)行擴(kuò)大，所以在表4高清視頻測試序列中，將運(yùn)動搜索的最大范圍設(shè)置在±64已進(jìn)行更精確的運(yùn)動搜索。從表中可以看出，與AVS現(xiàn)有的整數(shù)變換相比，本文提出的方法在低分辨力視頻測試序列中亮度可提高1.8%的編碼效率，色度可以分別提高3.9%和2.1%的編碼效率;在高清序列中，亮度可以提高1.9%的編碼效率，色度分別提高了4.2%和4.8%的編碼效率。

表4 高清視頻序列測試數(shù)據(jù)

圖3繪出了測試序列的RD曲線圖［14］，從圖中可以直觀地看出本文提出的方法相比AVS現(xiàn)有整數(shù)變換在編碼效率上有了一定的提升。

圖3 測試序列RD曲線圖

4 結(jié)論

在本文中，筆者提出一種六角變換方法及其快速整數(shù)實(shí)現(xiàn)方法，其不僅具有相比浮點(diǎn)DCT實(shí)現(xiàn)復(fù)雜度低、解

碼端無誤差累積的優(yōu)點(diǎn)，而且能提供相比其他各種整數(shù)近似變換更高的編碼效率。

［1］AHMED N，NATARAJAN T，RAO K R.Discrete cosine transform［J］.IEEE Trans.Computer，1974，23(1):90-93.

［2］梁岑.基于DCT的圖像壓縮技術(shù)研究與仿真實(shí)現(xiàn)［D］.鄭州:河南工業(yè)大學(xué)，2010.

［3］戴聲奎，劉建國，汪國有，等.一種無乘法的整數(shù)DCT快速實(shí)現(xiàn)方法［J］.微電子學(xué)與計算機(jī)，2008，25(5):11-13.

［4］WU Junqin，LI Yanli.A new type of integer DCT transform radix and its rapid algorithm［C］//Proc.International Conference on Electric Information and Control Engineering(ICEICE)，2011.［S.l.］:IEEE Press，2011:601-604.

［5］周恒.H.264的研究與軟件實(shí)現(xiàn)［D］.南京:南京郵電大學(xué)，2007.

［6］張新安，宮彥軍，陳愛武，等.一種AVS-M運(yùn)動搜索快速算法［J］.計算機(jī)工程，2011，37(9):260-261.

［7］ITU-T H.264|ISO/IEC 14496-10 Information technology-Generic Coding of Moving Pictures and Associated Audio Information:Advanced Video Coding［S］.2003.

［8］GB/T 20090.2—2006，信息技術(shù)-先進(jìn)音視頻編碼 第2部分:視頻［S］.2006.

［9］CHENG Wu，ZHAO Haiwu，LIGuoping，etal.A Novel8×8 Transform Method Applied in Video Coding［C］//Proc.2011 IET International Communication Conference on Wireless Mobile＆Computing(IET CCWMC2011).Shanghai:IET Press，2011:14-16.

［10］LIANG Jie TRAN T D.Fast Multiplierless Approximation of the DCT with the Lifting Scheme［J］.IEEE Trans.Signal Processing，2001，4(12):3032-3044.

［11］程武，殷汶杰，趙海武，等.AVS視頻提案A AVS_M2881:一種新的視頻編碼變換與量化方法［EB/OL］.［2012-03-10］.http://www.avs.org.cn/FileList.asp?meetingid=64＆filetype=proposal.

［12］XIN Jun，VETRO A，SUN Huifang.Converting DCT coefficients to H.264/AVC transform coefficients［C］//IEEE Pacific-Rim Conference on Multimedia(PCM)，2004.［S.l.］:IEEE Press，2004:939.

［13］程武，趙海武，滕國偉，等.AVS視頻提案B-1 AVS_M2928:對提案AVS_M2881的進(jìn)一步分析與測試［EB/OL］.［2012-03-10］.http://www.avs.org.cn/FileList.asp?meetingid=65＆filetype=proposal.

［14］BJONTEGAARD G.Calculation of average PSNR differences between RD-Curves［R］.ITU-T SG16 Q.6/SG16 DOCUMENT VCEG-M33，Austin，TX，2001.