H.264幀間預測模式選擇的快速算法優化

孟雷

摘 要：在H.264視頻編碼器幀內預測模式下，為確定一個宏塊的幀內預測模式，會帶來很大的運算復雜度，基于圖像差分的幀間預測模式快速選擇算法，采用測定圖像序列平坦度的思想，能夠實現快速幀間模式選擇。可以有效減少模式搜索次數并能保證視頻編碼的質量，從而可大幅度降低編碼時間和視頻壓縮的計算量，有效地減少了幀間模式選擇算法運算復雜度，有利于實際應用。

關鍵詞：H.264；圖像差分；模式選擇；邊緣信息；幀間預測

中圖分類號：TP391.41 文獻標識碼：A

Abstract：With the intra-frame prediction mode of H.264 video encoder，determining an intra-prediction mode of a macro block will bring great computational complexity.The paper proposes an efficient fast intra-prediction mode selection algorithm based on image difference.It adopts the idea of determination image sequence's flatness to achieve fast inter-frame mode selection.This algorithm can reduce the times of search mode effectively and ensure the quality of video encoding，which can greatly decrease the encoding time and the computation of video compression and reduce the computational complexity of the inter-frame mode selection algorithm.It is conducive to real-time application.

Keywords：H.264；image difference；mode selection；edge information；intra-prediction

1 引言（Introduction）

隨著移動通信和網絡的發展，視頻通信成為了移動通信的重要組成部分。視頻壓縮也制定了諸多標準，H.264/AVC[1]是國際視頻編碼標準之一，其能有效地提高視頻編碼效率，并具有良好的網絡的適配性，其編碼算法可廣泛應用視頻流媒體服務、數字電視、無線視頻通信、IP視頻會議和實時視頻監控等領域，有著非常廣泛的應用前景。

然而H.264/AVC在其良好性能提升的同時，算法的復雜度也大大地增加了，給視頻通信帶來了困難，不利于實際應用[2]。因此如何在保證幀間預測的編碼效率情況下，采用實用有效的算法來提高H.264預測幀的編碼速度，成為滿足實時視頻通信的要求的重要課題。通過分析研究H.264中的幀間模式選擇算法，本文提出一種能夠進行快速幀間模式預測的基于圖像差分的選擇算法。通過仿真實驗，并與X264的測試結果進行對比，結果表明，圖像差分快速算法可以在保證視頻編碼質量并能有效地減少搜索模式數，從而可大幅度降低編碼時間和視頻壓縮的計算量，可應用于實際的視頻通信中。

2 H.264 幀間模式選擇算法（Intra-prediction mode

selection algorithm based on H.264）

最新的視頻編碼標準H.264與以往的編碼標準相比具有良好的編碼效率，例如，在相同的重建圖像質量下，能夠比H.263、MPEG4等節約50%左右的碼率，這是因為H.264標準引入了如統一的VLC符號編碼，高精度、多模式運動估計技術[3]。所謂多模式運動估計[4]，就是將一個16×16宏塊劃分成16×16、16×8、8×16、8×8、8×4、4×8、4×4或者采用SKIP模式進行運動估計，如圖1所示。

編碼器遍歷所有的模式，以公式計算RDO[5]（率失真）為判決依據來尋求最佳匹配塊，也就是在搜索范圍內尋找使得公式達到最小值的參考幀中的宏塊。

式中，=為運動矢量，是拉格朗日（Lagrange）乘數因子，是個常數[6]，和量化參數QP和待編碼塊的類型有關，SAD為絕對誤差和，s表示原視頻信號，c表示解碼視頻信號，=為預測的運動矢量，R（m-P）為表示運動矢量差值所需的比特數。

多模式運動估計能夠極大地提高了編碼的效率，但同時在進行幀編碼時，所有宏塊都要按照每一種模式分別計算一次率失真代價，然后選中率失真代價最小的模式進行編碼，這樣編碼器運算的復雜性極大增加了[7]。由于視頻傳輸需要滿足實時性的要求，而H.264的編碼計算量又比MPEG-4、H.263等高出很多[8]，成為了視頻編碼的瓶頸。因此，在盡可能小的質量損失前提下，盡可能的減少宏塊做運動估計時的預測模式，成為了問題的關鍵，也是當前研究的焦點。

3 基于圖像差分的快速模式選擇算法（Fast mode

selection algorithm based on image difference）

為了快速的確定當前宏塊的最佳幀間預測模式，有效降低模式選擇時的運算量，在這里提出利用當前圖像和參考圖像匹配部分的差值分布來選擇最佳模式的算法。利用當前視頻圖像信息和前幀視頻圖像的信息在時域上進行分析、比較，前期只需要少量的計算便能確定一種預測模式，從而減少了幀間預測的計算量，同時還可以避免分析單個圖像無法包含序列運動特點的缺陷[9]。

3.1 算法改進思想

采用測定圖像序列平坦度的思想實現快速幀間模式選擇。根據當前圖像和參考圖像匹配部分的差值計算圖像的平坦程度，由差值的分布情況確定當前宏塊的最佳幀間預測模式。

具體思路如下：

（1）搜索16×16宏塊的匹配塊，如果小于閾值則無需再分。

（2）否則將宏塊分為4×4的子塊，并計算差值分布。

（3）根據步驟（2）所得差值分布，來確定新的閾值。

（4）對得到的所有閾值進行比較，選擇圖像的最佳預測模式。

3.2 算法的具體實現

（1）預設16×16模式的SAD值初始閾值。

（2）以當前宏塊上方、右上、左邊宏塊的運動矢量mv0、mv1、mv2的均值為中心在參考幀中搜索最佳匹配塊和運動矢量mvp。

（3）計算絕對誤差和SAD，并同閾值進行比較，若大于閾值則跳至（4）；若小于閾值則宏塊采用16×16模式，并按如下公式更新閾值。

式中，為當前宏塊的絕對誤差和SAD；為小于閾值宏塊的總的SAD之和；N為更新閾值的次數；為新的閾值，為下一次判斷做準備。

（4）計算當前宏塊的殘差值并將殘差取絕對值，可以求得一個16×16的差值矩陣。然后把將差值矩陣劃分為16個4×4的子塊，并對子塊求殘差的均值（i=0—15），例如：。從而得到當前宏塊的差值矩陣，當前宏塊和匹配宏塊的差值分布情況便可以用差值矩陣表示。

（5）計算差值S的平均值，并求出圖像的分布特征值。搜索周圍宏塊中mvp的值與當前宏塊最接近的塊，并計算該塊的分布特征值。

（6）計算閾值。考慮到差值分部還與幀間預測模式相關，因此將其按照以下五類進行樹狀精度劃分，用J來表示[10]，若16×16模式，則J=1；若16×8和8×16模式，J=2；若8×8模式，J=4；若8×4和4×8模式，J=8；若4×4模式，J=16；閾值/J。

（7）確定最佳預測模式。以的預測模式8×8為例，其他模式算法類似。

如果C≤，則說明當前宏塊比平坦，因此候選模式有8×8、16×8、8×16和16×16模式。如果C>，則說明當前宏塊中的圖像細節比更多，需要選用更為細小的模式劃分，因此候選模式

在基于DM642的硬件平臺和ccs仿真環境下，對改進后的算法和X264進項仿真測試。得到表2的實驗數據。

通過圖像序列的測試數據可以看出本文的算法相對于X264而言在PSNR和比特率幾乎不變的情況下，幀間預測的時間大大縮短。實驗結果表明，該算法平均節省編碼時間達37%，有利于實時應用；同時PSNR平均下降約0.16dB，不會影響主觀視覺效果。

4 結論（Conclusion）

研究H.264/AVC的幀間預測編碼模式的快速選擇算法，在保證編碼器視頻編碼質量的同時對降低編碼器的運算量和運算復雜度，就有著非常重要的積極意義。本文提出的基于圖像差分的幀間宏塊模式快速選擇算法，根據當前圖像和參考圖像匹配部分的差值計算圖像的平坦程度，由差值的分布情況確定當前宏塊的最佳幀間預測模式。通過對改進算法的仿真實驗，對比與X264的編碼時間，PSNR值等，表明采用本文算法后，在視頻圖像質量基本上不變的情況下，運算的復雜度大大降低，編碼器的編碼時間也大大地減少，有效地提高了視頻壓縮的編碼效率，有利于實際的應用。

參考文獻（References）

[1] X-P.Xia，E-H.Liu，J-J.Qin.Improved SAP Based on Adaptive Directional Prediction for HEVC Lossless Intra Prediction[J].Visual Communication and Image Representation，2015，33（C）：78-84.

[2] Jiang Wei，Chen Yaowu，Tian Xiang.Fast Transcoding from H.264 to HEVC Based on Region Feature Analysis[J].Multimedia Tools and Applications，2013，73（3）：2179-2200.

[3] WU J J，et al.K-means-based Consensus Clustering：a Unified View[J].IEEE Transactions on Knowledge and Data Engineering，2015，27（1）：155-169.

[4] 夏定元，周艷芬.復雜度可伸縮的幀間模式選擇[J].計算機應用，2010，30（03）：625-627.

[5] 周洪敏，龔建榮.視頻壓縮編碼的新發展——H.264[J].信息技術，2005（09）：91-93.

[6] 楊金，孫宇，孫世新.H.264可伸縮視頻編碼層間碼率控制算法[J].計算機應用，2011，31（09）：2457-2460.

[7] 蔣煒，田翔，陳耀武.H.264到HEVC的低復雜度視頻轉碼算法[J].浙江大學學報（工學版），2014，48（06）：994-1003.

[8] 王啟文，黃樂軍.H.264中4×4塊的快速幀內預測算法[J].計算機工程，2010，36（02）：217-219.

[9] 畢厚杰.新一代視頻壓縮編碼標準[M].北京：人民郵電出版社，2005.

[10] 孫力帆，普杰信.基于H.264的快速幀間模式選擇算法[J].計算機工程，2010，2（36）：220-222.

[11] 蔣潔，等.利用平滑區域檢測的HEVC幀內編碼快速算法[J].西安電子科技大學學報（自然科學版），2013，40（03）：194-200.

[12] 周承濤.HEVC編碼快速算法關鍵技術研究[D].杭州：浙江大學，2014.

作者簡介：

孟 雷（1981-），男，碩士，講師.研究領域：數字圖像處理.