一種基于HEVC幀內預測模式快速選擇算法

袁國良，陳 慧

(上海海事大學 信息工程學院，上海 201306)

一種基于HEVC幀內預測模式快速選擇算法

袁國良，陳 慧

(上海海事大學 信息工程學院，上海 201306)

在保證編碼性能前提下減少幀內編碼復雜度是當前研究的熱點。因此一種幀內預測模式快速選擇算法被提出。首先基于邊緣方向強度，將幀內預測模式按照基本方向進行初篩，然后結合累積梯度和最終確定幀內預測模式，從而降低了率失真優化所帶來的計算復雜度。實驗結果表明，整體編碼時間相對于參考算法減少大約20%～25%。

HEVC；幀內預測；率失真性能；方向強度

0 引言

2013年1月25日，國際電信聯盟ITU正式宣布推出新一代視頻編解碼標準ITU-T H.265 / ISO/IEC 23008-2。H.265又名HEVC(High Efficiency Video Coding)，基于ITU-T H.264 / MPEG-4 AVC標準，由ITU與MPEG兩大組織合作開發，提供了更加靈活、可靠和穩定的視頻解決方案。HEVC繼承了H.264/AVC基于塊的混合編碼結構，同時對一些技術作了改進，其中包括靈活的編碼塊結構、采樣點自適應偏移、自適應環路濾波、并行化設計等技術。在保證視頻編碼性能的同時，降低編碼計算復雜度、節省編碼時間是當前視頻編碼領域的研究熱點。

針對這一研究熱點，國內外學者提出了大量的幀內預測模式快速算法。文獻[1]通過Sobel算子獲得圖像的邊緣方向信息,并以此為依據確定相應的最優、次優預測模式,有效減少了候選模式數。文獻[2]提出了一種基于邊緣方向強度檢測的快速幀內預測模式決策算法，將35種預測模式按方向強度減少為11種。上述的幾種算法都只是從減少幀內預測模式數量的角度進行性能優化的。本文進一步引入累積梯度和，從而減少了耗時的率失真代價計算過程，達到了降低整體幀內預測計算復雜度的目的。

1 本文提出的算法

1.1幀內預測模式

幀內預測技術是利用相鄰像素之間的空間相關性對當前編碼塊進行預測的一種編碼技術，能夠有效地去除空間冗余信息。在H.264視頻編碼標準中，幀內預測模式采用的是16×16和4×4兩種預測模式，且分別只有9種和4種預測方向。而在HEVC 視頻標準中，為了能夠提供更精確的預測并提高幀內預測的編碼效率，增加了多種幀內預測模式，分別包括33種角度預測模式、DC模式以及平面(planar)模式。各模式的編號[3]如圖1所示。

圖1 幀內預測模式編號

1.2預測模式的分組劃分

由于幀內預測模式與視頻圖像塊內的邊緣方向是密切相關的，因此可以將33種角度預測模式根據邊界方向劃分為4類，每類包含9種角度預測模式[4],如表1所示。

表1 預測模式分類

接下來利用邊界方向強度來為當前待編碼塊選定邊界方向。

1.3邊界方向的選定

由于PU塊的紋理方向與預測模式方向具有相似性[5]。因此，可以計算出各PU塊的紋理方向來確定最終的預測方向。邊界方向強度可以很好地體現圖像塊的紋理方向，其算法過程如下：

首先將4×4的PU塊劃分成4個2×2的塊，每個子塊灰度值可以用其中包含的4個像素的平均值Sxy表示[6]。計算過程如式(1)：

(1)

其中：p()表示4×4 PU塊的各像素值。

每個方向角度分組的邊界方向強度的計算[7]依次如下：

E0=|(S00+S11)/2-(S01+S10)/2|

(2)

Eπ/4=max{|S00-(S01+S10+S11)/3|,

|S11-(S00+S10+S01)/3|}

(3)

Eπ/2=|(S00+S10)/2-(S01+S11)/2|

(4)

E3π/4=max{|S01-(S00+S10+S11)/3|,

|S10-(S00+S01+S11)/3|}

(5)

分別計算4個方向角度分組的邊界方向強度值，最大值所對應的方向角度分組即為選定的模式分組。

經上述計算過程后，將候選預測模式從35種減少到11種，本文接下來采用累積梯度和的方法進一步確定最終預測模式。

1.4最終預測模式的選定

根據待編碼原始塊的方向性，與待編碼原始塊有相同方向的預測模式則有可能是最優預測模式[8]。本文中，首先通過計算每個預測方向上的累計梯度和來判斷原始塊的方向。

dxij=pi-1, j+1+2pi,j+1+pi+1,j+1-pi-1,j-1-2pi,j-1-pi+1,j-1

(6)

dyij=pi+1,j-1+2pi+1,j+pi+1,j+1-pi-1,j-1-2pi-1,j-pi-1,j+1

(7)

(8)

(9)

表2 幀內預測模式的角度區間

通過查表來確定各個像素的預測方向，然后根據式(8)分別計算每個像素的梯度，并根據查表結果計算每個預測方向上像素的梯度和，稱為累積梯度和AGM。如式(10)所示：

(10)

其中，M表示1.3節中選定的11種預測方向。在計算過程中可能會出現預測方向不在上述的11種之內，這種預測方向將不予計算在內。

接下來，計算每個預測方向模式對應預測塊的SATD值，計算方法如式(11)所示：

(11)

其中M為方陣的大小，X為預測模式對應的預測塊，H為歸一化的M×MHadamard矩陣。

通常情況下，SATD值越小，AGM越大，其對應的預測方向越接近實際的預測方向。因此，本文利用SATD值與累積梯度和來聯合確定最終的預測模式。定義S為某個預測模式對應預測塊的SATD值與整體11種預測模式的SATD值總和的比，G為某個預測模式的累積梯度和的倒數與整體11種預測模式的倒數和的比。如式(12)所示：

(12)

其中k、j的取值為所對應的預測方向模式。由式(12)可以看出Sj正比于SATD,Gj反比于AGM。進而定義一個特征向量fj=[Sj,Gj]T,計算特征向量的歐幾里得范數。如式(13)所示：

(13)

其中fj=(Sj,Gj)T。則范數越小，對應的預測模式為最可能的預測模式。

1.5本文算法流程

根據前面的分析，本文算法的具體流程如下：

(1)首先根據1.2節所描述的先將預測模式按邊界方向劃分為4組。

(2)然后通過邊界強度的計算(見1.3節)來確定邊界方向，將預測方向從35種減少到11種。

(3)根據1.4節所述，首先通過式(10)計算出累積梯度和，通過式(11)計算對應預測塊的SATD值。

(4)根據式(12)與式(13)的計算結果來選定最佳的預測模式。

2 實驗平臺與仿真結果分析

仿真采用的是HM10.0代碼，實驗平臺為CPU 2.4 GHz Intel Core i5、內存6 GB、操作系統為Windows 7的32位計算機，運行環境是Microsoft Visual Studio 2010，分別在QP值為28、32、36三種情況下對5組視頻序列進行測試，各

序列的分辨率如表3所示。

表3 5組視頻序列分辨率測試結果

對每個序列的前50幀進行編碼。比較編碼效率的參數指標有PSNR增量(ΔPSNR)，碼率增量(ΔBitrate)和編碼時間(ΔTime)，計算公式如下：

從表4中可以看出，本文算法和文獻[8]算法相對于HM10.0，在保證率失真性能沒有明顯下降的前提下，整體編碼時間都大大縮短。本文算法相比于文獻[8]，由于采用了SATD值與累積梯度和來聯合確定最終的預測模式，避免了率失真優化過程帶來的高計算復雜度，因此編碼時間進一步減少，與HM10.0相比降低了大約15%～23%。

表4 實驗結果

3 結束語

本文首先將35種預測模式按方向進行分類，根據邊界方向強度將預測模式限定在11種以內，在此基礎之上利用SATD與累積梯度和來聯合確定最優幀內預測模式，省去了對預測模式的率失真優化(RDO-Cost)計算，從而降低了視頻編碼的計算復雜度。仿真結果表明，在確保率失真性能的條件下，大大減少了編碼時間。

[1] 王嵩,王青,薛全. 幀內預測的模式選擇快速算法研究及其實現[J]. 浙江理工大學學報, 2005,22(1)：57-60.

[2] 雷海軍，危雄，楊張，等.一種快速HEVC幀內預測模式決策算法[J].計算機工程，2014，40(5)：270-273.

[3] SULLIVAN G J, OHM J R, HAN W J, et al. Overview of the high efficiency video coding(HEVC) standard[J]. IEEE Trans. Circuits Syst. Video Technol., 2012, 22(12): 1649-1668.

[4] 趙曉燕,李金良.一種用于H.264的快速幀內預測模式判別方法[J].計算機工程與設計, 2005，26(4): 1031-1035.

[5] 揭月馨, 劉浩, 王登程，等.基于SATD準則的HEVC快速幀內預測算法[J].計算機工程與應用，2016,52(11):185-189.

[6] LAINEMA J, BOSSEN F, HAN W J, et al. Intra coding of the HEVC standard[J]. IEEE Transactionson Circuits and Systems for Video Technology, 2012, 22(12): 1792-1801.

[7] AHMED N, NATARAJAN T, RAO K R. Discrete cosine transform[J]. IEEE Transactions on Computers, 1974, 23(1): 90-93.

[8] CHANG K, MEN A D, ZHANG W H. Fast intra-prediction mode decision for H.264/AVC[J].ISECS International Colloquium on Computing, Communication, Control and Management, 2009, 3(14): 69-73.

A fast-intra prediction mode selection algorithm based on HEVC

Yuan Guoliang, Chen Hui

(College of Information Engineering, Shanghai Maritime University, Shanghai 201306, China)

In the premise of ensuring encoding performance, reducing intra-frame coding complexity is a current research focus. This paper presents a fast intra prediction mode selection algorithm. Based on edge directional strength, the intra-prediction mode is screened in accordance with the basic direction of the prediction modes. Then, combined with the accumulated gradient to finalize the intra-prediction mode, which reduces the computational complexity caused by rate distortion optimization. Experimental results show that the overall encoding time reduces by about 20% to 25% compared with the reference algorithm.

HEVC; intra prediction; rate distortion performance; direction of strength

TN919.81

A

10.19358/j.issn.1674- 7720.2017.19.015

袁國良，陳慧.一種基于HEVC幀內預測模式快速選擇算法[J].微型機與應用，2017,36(19)：52-54，61.

2017-03-07)

袁國良(1965-)，男，碩士，副教授，碩士研究生導師，主要研究方向：視頻壓縮編碼及多媒體通信。陳慧(1991-)，通信作者，女，碩士，主要研究方向：視頻壓縮編碼及多媒體通信。E-mail：630998214@qq.com。