范 敏
(杭州職業技術學院,浙江杭州310018)
隨著視頻業務蓬勃發展,視頻已經成為網絡中的主要流量,VBR(Variable Bit Rate)作為網絡視頻通信的主要方式,對其建立準確的預測模型,有利于設計緩沖區、合理分配帶寬,防止網絡擁塞產生,從而為用戶提供可靠的QoS(Quality of Service)保障,因此,VBR視頻流量建模和預測成為當前研究的重要課題[1]。
針對VBR視頻流量預測問題,國內外學者對其進行了大量的研究,提出一些預測模型[2]。傳統預測模型主要基于時間序列分析,并基于線性建模,然而由于VBR視頻流量受到多種因素影響,具有非線性、突變性等變化特點,難以建立精確的數學模型,因此時間序列預測模型的預測誤差較大,在實際應用中存在著很大的局限性[3]。大量研究表明,VBR視頻流量具有混沌特性,因此近年來出現了基于混沌理論的人工智能VBR視頻流量預測,首先對VBR視頻流量數據進行相空間重構,然后采用神經網絡對數據進行學習,建立VBR視頻流量預測模型,獲得較高的預測精度[4-5]。神經網絡是一種基于經驗風險最小化原則的機器學習算法,要求樣本數量大,且存在一些自身難以克服的缺陷,如:網絡結構復雜,收斂速度慢,易陷入局部極小,對VBR視頻流量預測結果產生不利影響[6]。支持向量機(Support Vector Machine,SVM)是一種針對小樣本、高維數的機器學習方法,泛化性能優異,解決了神經網絡存在的缺陷,被公認為是較好的替代神經網絡的非線性預測方法[7]。然而VBR視頻流量具有多尺度特性,SVM僅在一個尺度上對樣本數據進行預測,對VBR視頻流量數據的逼近性能并不能令人滿意[8]。
由于VBR視頻流量具有時變、非線性和突發性等特征,單一的模型已經不適合預測這種復雜流量,小波核函數具有多尺度學習性能,可以描述多分形的VBR視頻流量特性,為此,采用小波核函數來構造SVM的核函數,利用小波分析和SVM的優點,建立一種基于小波支持向量機的VBR視頻流量預測模型(WSVM),并通過仿真實驗測試WSVM模型的預測性能。
對于 VBR 視頻流量時間序列:x(t),t=1,2,…,N,通過選擇合適的嵌入維(m)和延遲時間(τ)就可對其進行重構,產生一個多維的VBR視頻流量時間序列

式中,M=N-(m-1)τ。
設含有n個樣本的VBR視頻流量訓練集:{(xi,di),i=1,2,…,n},xi∈ Rd是第 i個訓練樣本的輸入列向量,xi=[x1i,x2i,…,xdi]T,di∈R為相應的輸出值,SVM通過利用非線性映射函數φ(x)將輸入數據映射到線性空間中進行線性估計

式中:ω 為權值,b為偏置項[9]。
通過對式(2)進行最小化估計,得到ω和b的值

式中:yi為SVM的輸出;ε為不敏感損失函數。
通過引入松弛變量,找到ω和b的值

式中,ξi為松弛變量。
引入Lagrange乘子,式(3)的決策函數變為

式中:k(xi,x)為核函數;ai和a*i為Lagrange乘子。
小波分析是由一個母小波函數φ(x)通過平移和伸縮變換產生一系列小波函數的疊加。

式中:α是伸縮因子;b是平移因子[10]。
設母小波函數為ψ(x),那么滿足平移不變核定理的小波核函數為

對于VBR視頻流量預測問題,采用Morlet小波,即

因此,可以得到相應的小波核函數

綜合上述可知,VBR視頻流量預測的WSVM回歸函數為

WSVM的VBR視頻流量預測模型結構見圖1,WSVM的結構具體為:1)第1層為VBR視頻流量輸入數據{x1,x2,…,xn},通過為m和τ重構而成的訓練集;2)第2層為輸入數據向量和SVM核函數計算;3)第3層為WSVM的輸出結果。

圖1 VBR視頻流量的WSVM結構
1)收集VBR視頻流量數據,進行預處理,并劃分為訓練集和測試集兩部分。
2)根據互信息法和虛假最近臨點算法計算VBR視頻流量數據的m和τ。
3)采用m和τ對VBR視頻流量的訓練集和測試集進行相空間重構。
4)初始化WSVM參數,主要包括Lagrange乘子ai和、伸縮和平移因子α,b的初始值。
5)將訓練集輸入到SVM建立式(4)的VBR視頻流量預測目標函數,然后采用SMO(Sequential Minimal Optimization)算法對其進行求解,得到最優的ai和a*i,b值。
6)將ai和a*i,b值代入式(10),建立VBR視頻流量預測模型,然后采用測試集對模型性能進行檢驗。
7)計算測試集的預測誤差,如果誤差滿足預先設定的閾值,則表示建立了最優VBR視頻流量預測模型,否則返回步驟5)繼續學習,找到更優的ai和a*i,b值。
8)采用建立的最優VBR視頻流量預測模型對未來某一時刻的視頻流量進行預測。WSVM的VBR視頻流量預測模型工作流程見圖2。

圖2 VBR視頻流量預測模型的工作流程
采用Berlin大學的MPEG-4視頻跡(trace)數據庫的“Silence of lambs”,幀速率為 30 f/s(幀/秒),連續采集280幀數據,前200數據作為訓練集,最后80個數據作為測試集,數據見圖3。在AMD 3.0 GHz CPU、2Gbyte RAM、Windows XP的平臺上,采用MATLAB 2010a編寫程序實現仿真實驗。

圖3 VBR視頻流量數據
為了使WSVM的仿真結果具有可比性,采用徑向基核函數支持向量機(RBF-SVM)、小波神經網絡(WBPNN)作為對比模型,并采用平均相對誤差(MAPE)和均方根誤差(RMSE)以及訓練時間作為模型性能的評價指標。MAPE,RMSE分別定義如下

式中:yi和yi分別為VBR視頻流量的實際值和預測值;n為測試集的樣本數。
WSVM對區間[0,1]的數據最為靈敏,為了提高WSVM的訓練效率,對重構后的訓練集進行歸一化處理,具體為

式中:x和x'分別表示原始數據和歸一化后的數據;xmin和xmax分別表示最小值和最大值。
采用互信息法計算VBR視頻流量的τ,得到τ=1,用虛假最近鄰點法計算最優m,得到m=5,然后根據τ=1,m=5對VBR視頻流量數據訓練樣本集和測試樣本集進行重構,得到多維的VBR視頻流量時間序列。
將重構后的VBR視頻流量訓練集分別輸入到WSVM,RBF-SVM,WBPNN進行學習,建立相應的VBR視頻流量預測模型,然后對訓練集進行擬合,擬合結果的絕對誤差見圖4。從圖4可知,WSVM的擬合精度最高,擬合值與實際值最吻合,擬合誤差遠遠小于對比模型RBFSVM,WBPNN,對比結果表明WSVM是一種有效、擬合精度高的VBR視頻流量預測模型。

圖4 各模型的VBR視頻流量擬合誤差對比
評價一個預測模型性能的優劣,主要考察其預測能力,為此建立VBR視頻流量模型對測試集進行預測,均采用一步預測,具體方式:采用前200個VBR視頻流量數據作為最原始的訓練集,對第201個數據進行預測,然后采用滾動方式將第201個數據合到訓練集,對第202個數據進行預測,依次類推,最后得到全部80個測試樣本的預測結果,WSVM、RBF-SVM、WBPNN的預測結果見圖5。各模型對測試集預測結果的MAPE、RMSE和訓練時間見表1。

圖5 各模型的預測結果對比

表1 WSVM和RBF-SVM,WBPNN的綜合性能對比
從圖4、圖5和表1可知,在所有模型中,WSVM的綜合性能最優,擬合精度最高,預測誤差最小,其優越性主要體現在3個方面:
1)在所有模型中,WSVM擬合精度最高,與VBR視頻流量值最吻合,擬合結果比較穩定,WBPNN模型的擬合精度要優于RBF-SVM,這表明,采用小波核函數的多尺度學習性能能夠更加準確地對VBR視頻流量變化趨勢進行擬合。
2)WSVM的預測精度高于WBPNN和RBF-SVM,WBPNN雖然擬合精度高,但是其預測精度低,泛化能力差,這主要是由于WBPNN易出現過擬合現象,而WSVM訓練實際上是一個二次凸規劃問題,在有限樣本情況下,可以建立全局最優的VBR視頻流量模型。
3)訓練速度。WSVM的訓練時間為10.5 s,遠遠小于WBPNN、RBF-SVM的訓練時間,提高了VBR視頻流量訓練速度。
由于受到多種因素的影響,VBR視頻流量具有突變性、非線性等變化特點,傳統方法難以建立高精度的VBR視頻流量預測模型,本文利用小波核函數多尺度學習性能和SVM的優異的非線性預測能力,在分析VBR視頻流量多重特性的基礎上,提出一種基于WSVM的VBR視頻流量預測模型,結果表明,WSVM提高了VBR視頻流量的預測精度,加快了模型的訓練速度,更加準確地刻畫了VBR視頻流量特性的變化特點,預測結果更加穩定、可靠。
[1]王升輝,裘正定.MPEG-4視頻流量多重分形建模[J].通信學報,2006,27(10):44-50.
[2]王生輝,襲正定.基于多重分形的VBR視頻流量多步預測方法[J].計算機研究與發展,2007,44(1):92-98.
[3]LEEM.Video traffic prediction based on source information and preventive channel rate decision for RCBR[J].IEEE Trans.Broadcasting,2006,52(2):173-183.
[4]王以寧,李興華,遲學芬.基于神經網絡VBR視頻流量建模及預測[J].吉林大學學報:信息科學版,2008,26(5):509-513.
[5]蘇曉星,常勝江,熊濤,等.用神經網絡實現VBR視頻通信量的在線預測[J].電子學報,2005,33(7):1163-1167.
[6]胡志剛,楊廣全,喬現玲.基于小波支持向量機的電梯交通流預測模型[J].系統仿真學報,2009,21(19):6321-6324.
[7]AMIR F,MOHAMED A,ALEXANDER G.Sparse basis selection:new results and application to adaptive prediction of video source traffic[J].IEEE Trans.Neural Network,2005,16(5):1136-1146.
[8]趙露,白光偉,孫勇.基于小波變換的MPEG視頻流預測模型[J].計算機工程與設計,2011,32(5):1531-1534.
[9]羅會蘭,杜連平.一種SVM集成的圖像分類方法研究[J].電視技術,2012,36(23):39-42.
[10]HUANG X,ZHOU Y,ZHANG R.A multi-scale model for MPEG-4 varied bit rate video traffic[J].IEEE Trans.Broadcasting,2004,50(3):323-334.