基于H.264 碼率控制算法的優化

周易龍

（上海海事大學 信息工程學院，上海 201306）

碼率控制就是調整視頻編碼輸出碼率，使之與傳輸帶寬相匹配，同時獲取最小的解碼失真，以保證良好并且穩定的接收解碼質量。因此，在給定的比特流的條件下，編解碼器采用碼率控制可以獲得高質量和高平滑的視頻。量化是視頻數據壓縮的重要過程，QP（量化參數）是影響碼率的關鍵因素。

量化參數反映了空間細節壓縮情況，QP 減小，大部分細節會被保留，同時碼流比較大，QP 增大，大部分細節會丟失，此時碼流較小。為了保證緩沖區的碼流既不上溢也不下溢，可以通過二次率失真模型進行預測QP 的值，調節QP 的大小來調整碼率。二次率失真模型中采用MAD 計算QP 時，在圖像內容變換較大時，會導致估算的目標比特數與實際輸出之間誤差很大，并且相鄰兩幀圖像之間的劇烈波動將嚴重影響圖像的主觀質量。為了有效地解決這個問題，本文提出了在像素差值計算基礎上加入hadamard 變換即SATD，用SATD 來代替MAD 計算QP，可以很好地解決了這一問題。

1 標準的碼率控制算法

碼率控制主要包括3 步，首先，目標比特數的分配，然后，根據目標比特數進行編碼參數的選擇，最后，參數更新過程。標準中的碼率控制方案共分3 層：GOP（groupof pictures）層碼率控制，幀層碼率控制，基本單元層碼率控制。

QP 在現在的標準（JVT-K049）中通過二次率失真模型進行計算Qstep，再通過QP 與Qstep 的關系來計算QP[1]。

其中Tsrc為目標比特數，α1，α2為預測模型系數，初值分別為1 和0，通過線性回歸統計計算得到。Headbit為頭比特數表示編碼信息。

采用線性模型來預測MAD，即當前基本單元的MAD 計算是通過前一幀在此位置上的MAD 中計算得出，公式（2）[1]

其中MADcb表示當前位置上的MAD，MADpb表示前一幀在相同位置上的MAD，a1、a2為預測模型的參數，初值分別為1、0。

2 改進的碼率控制算法

二次率失真模型中采用MAD 來計算量化步長Qstep，再通過QP 與Qstep 的關系來計算QP，此種情況計算所得到的QP 在圖像內容變換較大時，會導致估算的目標比特數與實際輸出之間誤差很大，并且相鄰兩幀圖像之間的劇烈波動將嚴重影響圖像的主觀質量。本文在計算像素差值的基礎加上hadamard 變換即SATD，采用SATD 替代MAD 以此計算QP，

改進的Qstep 計算[2-4]：

其 中 SATD為 sum of absolute hadamard transformed differences。

SATD 的預測：

其中SATDc表示當前幀的SATD，SATDp表示前一幀的SATD，λ1，λ2初值分別為1 和0，采用線性回歸的方法進行更新。

用式（4）計算量化步長Qstep：

其中s 代表SATD，

本文采用新的方法[5-6]計算SATD，此種方法已被驗證可以快速計算SATD，有利于實時通信的應用。其中4X4 階SATD

其中H4×4代表4×4 階hadamard 變換系數矩陣，D4×4代 表4×4 階像素差值矩陣，上述公式表示像素差值矩陣先進行hadamard 變換再求其絕對值，最后求其和。

H4×4系數矩陣為：

SATD 具體每列的計算如下：

SATD（D4×4）=2·[max（|d1+d3|，|d2+d4|）+max（|d-d3|，|d2-d4|）]

其中d1，d2，d3，d4代表列向量的4個元素。

根據下式可以將4×4 階推導出8×8 階和16×16 階，

3 實驗測試結果

本試驗結果在VS2010 開發環境中，JM18.0 平臺上去實現本文提出的碼率控制策略，并與JM18.0 采用的標準碼率控制方案作比較。實驗使用標準的qcif 測試序列：bridge，highway，hall，suzie，akiyo 幀率為30 幀/ s，共編碼100 幀，目標碼率為32 kb/s。給定第1 幀的QP為30，RCUpdateMode[7]值為2 即I 和B 片（包括分層）原件加上智能QP 選擇。

圖1 視頻序列bridge（左）和highway（右）幀率與比特數的關系Fig.1 Frame rate relationship with the number of bits of the video sequence Bridge（left）and highway（right）

從圖1 中可以看到bridge 和highway 比特流隨幀數變化狀況，新算法比原算法在視頻序列復雜度激烈變化的地方有更好的表現。

從圖2 中可以看到bridge 和highway 峰值信噪比隨幀數變化狀況，新算法比原算法在視頻序列信噪比波動較小，有更好的表現。

圖2 視頻序列bridge（左）和highway（右）幀率與信噪比的關系Fig.2 relationship between the frame rate and signal-to-noise ratio of the video sequence Bridge（left）and highway（right）

表1 視頻序列比特率和峰值信噪比測試結果Tab.1 The bit rate of the video sequence and peak signal-tonoise of the test results

表2 視頻序列信道信噪比和MSE 測試結果Tab.2 Video sequence of channel signal-to-noise ratio and MSE test results

從圖中和表中可以看出，新的碼率控制算法可以更為準確地控制碼率，可見本文提出的用SATD 代替MAD 在二次率失真模型中計算Qstep，最終計算出QP 有更好的表現，獲得更好的峰值信噪比值、比特流、信道信噪比和MSE，

4 結束語

文中基于最新視頻編碼標準H.264 中采用的碼率控制方案，提出一種改進的碼率控制算法，用SATD 代替MAD 在二次率失真模型中計算Qstep，最終計算出QP。實驗結果表明，本文的算法在較好地控制碼率的同時視頻序列的峰值信噪比、比特流、信道信噪比和MSE 有很好的提高，達到了更好地控制碼流的效果，便于接收端獲得良好穩定的視頻流。

[1]Joint Video Team of ISO/IECMPEG and ITU-T VCEG.JVTK049.Text description of joint model reference encodingmethods and decoding concealment methods [S].Munish，Germany..Keng-Pang Kim，Gary Sullivan，Thomas Wiegand，Mar.2004.

[2]Kwon D K，Shen M Y，Kuo C C J.Rate control for H.264 video with enhanced rate and distortion models [J].IEEE Transactions on Circuits and Systems for Video Technology，2007，17（5）：517-529.

[3]ZHU Tao，ZHANG Xiong-wei.A novel rate control scheme for H.264/SVC base layer [C]//Wireless Communication &Signal Processing，WCSP，International Conference on，2009：1-5.

[4]LIU li，ZHUANG Xin-hua.A Novel Square Root Rate Control Algorithm for H.264/AVC Encoding，Multimedia and Expo，ICME 2009 [C]//IEEE International Conference，2009：814-817.

[5]ZHU Ce，XIONG Bing.Transform-Exempted calculation of sum of absolute hadamard transformed differences [J].IEEE Ttansactions on Circuits and Systems for Video Technology，2009，19（8）：1183-1188.

[6]XIN Shu-ping.Optimization of the SATD Function in AVSM [C]//Networking and Digital Society（ICNDS），2nd International Conference on，2010：613-616.

[7]Joint Video Team（JVT）of ISO/IEC MPEG &ITU-T VCEG，JVT-W042，Rate Control reorganization in the Joint Model（JM）reference software [S].Athanasios Leontaris，Alexis Michael Tourapis.23rd Meeting：San Jose，California，USA，21-27 April，2007

[8]韓崢，唐昆，崔慧娟.基于H.264的碼率控制算法[J].清華大學學報：自然科學版，2008，48（1）：59-61.HAN Zheng，TANG Kun，CUI Hui-juan.Rate control method based on the standard H.264 [J].Journal of Tsinghua University：Natural Science，2008，48（1）：59-61.

[9]鄧中亮，段大高，催巖松，等.基于H.264的視頻編/解碼與控制技術[M].北京：北京郵電大學出版社，2010.