基于概率圖模型的圖像紋理模型*

楊 關(guān)，馮國燦，陳偉福，羅志宏

(中山大學(xué)數(shù)學(xué)與計(jì)算科學(xué)學(xué)院，廣東省計(jì)算科學(xué)重點(diǎn)實(shí)驗(yàn)室,廣東 廣州 510275)

紋理分析已在圖像分析中顯示了它的重要性，比如遙感圖像分析、醫(yī)學(xué)圖像分析、模式識別、計(jì)算機(jī)視覺和基于內(nèi)容的圖像修復(fù)。紋理是表現(xiàn)圖像內(nèi)容的基本視覺特征之一,可被看作是一種區(qū)域?qū)傩?，包含的信息也不僅僅來源于單個(gè)像素,而是與像素鄰域的灰度分布狀況有關(guān)，不同尺度和分辨率的紋理，其特征是有差異的。紋理分析需要提取合適的特征用于紋理分類、分割和識別，特征提取就是將圖像信息簡化為一個(gè)小的特征描述集。因此，提取特征是紋理分析中重要的一步。大量的紋理特征和分類方法被提出，這些方法包括灰度共生矩陣[1]、小波、旋轉(zhuǎn)不變算子、Gabor濾波器[2]、馬爾科夫隨機(jī)場(Markov Random Fields， MRF)模型和譜直方圖等[2-4]。

概率圖模型(Probabilistic Graphical Models)是關(guān)于圖的多元統(tǒng)計(jì)模型[5-6]，是概率論和圖論的結(jié)合，概率論描述各部分的依賴性，圖論則直接指定各部分之間的關(guān)系，其主要前提就是用幾個(gè)因子的乘積來表達(dá)一個(gè)隨機(jī)變量集合的聯(lián)合概率，每個(gè)因子僅僅依賴這個(gè)隨機(jī)變量的一個(gè)小的子集。圖模型是描述復(fù)雜高維系統(tǒng)的不確定性和復(fù)雜度的一個(gè)有力工具。對一個(gè)圖模型，首先就是如何簡潔地表現(xiàn)一個(gè)聯(lián)合概率分布，然后再給定一些觀察值推斷出未知部分地狀態(tài)，繼而通過學(xué)習(xí)推斷系統(tǒng)的結(jié)構(gòu)和參數(shù)，最后根據(jù)推斷出的結(jié)果做出決策。圖模型根據(jù)基于有向圖和無向圖定義的概率分布集合，分為有向圖模型(Directed Graphical Model)和無向圖模型(Undirected Graphical Model)。圖模型中的節(jié)點(diǎn)表示隨機(jī)變量。無向圖模型可以描述隨機(jī)變量間的非因果聯(lián)系。

高斯圖模型(Gaussian Graphical Models，GGM)是一種特殊的圖模型[5-7]，即模型中隨機(jī)變量的聯(lián)合概率分布服從高斯分布，這樣就簡化了圖模型結(jié)構(gòu)的學(xué)習(xí)過程,為描述紋理圖像的空間特征和關(guān)聯(lián)特征提供了一種簡潔一致的建模方法。高斯圖模型的模型選擇是統(tǒng)計(jì)學(xué)研究的一個(gè)熱點(diǎn)，但在圖像紋理分析中應(yīng)用較少。本文主要將高斯圖模型應(yīng)用于紋理分析并取得較好的實(shí)驗(yàn)結(jié)果。

要在一個(gè)規(guī)則圖像網(wǎng)格上利用高斯圖模型構(gòu)建紋理模型，就需要找到某個(gè)點(diǎn)的灰度級與它的鄰域點(diǎn)的灰度級之間的聯(lián)系。這就帶來兩個(gè)問題，一是如何選擇合適的鄰域，另一個(gè)就是如何在大量的圖像數(shù)據(jù)中估計(jì)參數(shù)。通過懲罰正則化進(jìn)行模型選擇是一個(gè)很好的方法。本文利用最小絕對選擇和收縮算子(The least absolute selection and shrinkage operator，Lasso)[8]，彈性網(wǎng)格(Elastic Net)算法和自適應(yīng)Lasso(Adaptive Lasso，aLasso)算法分別選擇高斯圖模型的鄰域和估計(jì)參數(shù)[9-10]，建立新的紋理模型并用于紋理分析。本文中的高斯圖模型是無向圖模型。

1 高斯圖模型

設(shè)零均值觀察值X=(xs:s=(i,j)∈S)表示一個(gè)隨機(jī)變量，且定義在一個(gè)有循環(huán)邊界的M×N維圖像網(wǎng)格S={(i,j):0≤i≤M-1,0≤j≤N-1}上。這里，要強(qiáng)調(diào)的是高斯隨機(jī)變量的局部馬爾科夫性和條件回歸性之間的聯(lián)系。

設(shè)無向圖G=(S,E)，s∈S是圖中的節(jié)點(diǎn)，設(shè)x-s={xr,r∈Ss}，考慮xs的條件分布p(xs|x-s)。利用標(biāo)準(zhǔn)的高斯性質(zhì)[5]，條件分布p(xs|x-s)服從一個(gè)以x-s的線性權(quán)值和為均值且方差不依賴x-s的高斯分布。則可以分解xs為

(1)

使用對于方程(1)，可將其改寫為如下矩陣型

A(θ)X=e

(2)

(3)

這里，X=(xs,s∈S)T是一個(gè)長度為MN的列向量，矩陣Xr是MN×(MN-1)維的矩陣，它的列由(xr,r∈Ss)T給出， 則高斯圖模型的最小二乘估計(jì)就是

(4)

2 懲罰正則化方法

多元高斯圖模型是根據(jù)馬爾科夫性即條件獨(dú)立性來定義，這種獨(dú)立性反應(yīng)在圖上就是節(jié)點(diǎn)之間沒有邊相連。因而，變量選擇也可通過檢驗(yàn)獨(dú)立性來完成， 即所對應(yīng)的部分相關(guān)系數(shù)為零。從上節(jié)可看出，高斯圖模型包含一個(gè)非因果的二維自回歸過程，因此，懲罰性回歸可被用于高斯圖模型中選擇鄰域和估計(jì)參數(shù)。

由上節(jié)可知，最小二乘估計(jì)很不穩(wěn)定。因此，懲罰性正則化技巧被提出用于改進(jìn)最小二乘估計(jì)。L1懲罰項(xiàng)鼓勵(lì)稀疏性(即將一些系數(shù)變?yōu)榱?并同時(shí)給出變量選擇后的參數(shù)估計(jì)。 最小收縮和選擇算子(Least absolute shrinkage and selection operator,Lasso)就是將回歸系數(shù)的殘差平法和與L1懲罰項(xiàng)之和最小化[8]，因而Lasso算法可用于變量選擇。Lasso估計(jì)就是能使下式最小化的參數(shù)

(5)

這里，λ是調(diào)諧參數(shù)(Tuning Parameter)。鄰域選擇(由λ所控制)通過L1懲罰回歸的非零系數(shù)所定義。Lasso同時(shí)進(jìn)行連續(xù)的減少和自動選擇變量。

Zou等[9]提出一種新的正則化技巧，被叫做彈性網(wǎng)估計(jì)(Elastic net)，即對任意固定的非零參數(shù)λ1和λ2

λ2‖θ‖2

(6)

方程(6)是一個(gè)Lasso懲罰項(xiàng)和脊懲罰項(xiàng)(Ridge Penalty，即L2懲罰項(xiàng))的凸性和[11]。同Lasso算法相類似，彈性網(wǎng)格估計(jì)也是同時(shí)自動選擇變量和連續(xù)縮小。

被稱作Adaptive Lasso(aLasso)估計(jì)[10]?！?/”表示兩個(gè)矩陣中位置相同的元素相除。值得強(qiáng)調(diào)的是方程(7)仍然是一個(gè)凸優(yōu)化問題，因此，不會出現(xiàn)多個(gè)局部最小值，且全局最小值可被有效解出。如果有一個(gè)合理的初始估計(jì)可利用，則在合適的條件下，aLasso可正確的選擇變量。aLasso算法有兩個(gè)優(yōu)點(diǎn)：①選擇過程是連續(xù)的，因而是穩(wěn)定的；②這個(gè)優(yōu)化問題仍然是凸性的，因而更利于計(jì)算高維數(shù)據(jù)，比如圖像。

3 算法的提出

3.1 基于高斯圖模型的紋理特征提取

高斯圖模型的模型選擇對于建立紋理模型是非常重要的，模型的鄰域應(yīng)該包含那些最相關(guān)的像素點(diǎn)。不同的高斯圖模型應(yīng)該有不同的鄰域結(jié)構(gòu)。

(8)

aLasso估計(jì)即可求出。以LARS算法為基礎(chǔ)的LARS-EN算法則被用于求解彈性網(wǎng)格估計(jì)[9]。

每一個(gè)調(diào)諧參數(shù)λ將確定一個(gè)鄰域和一組參數(shù)。λ越大，則非零系數(shù)的個(gè)數(shù)越少，若λ變小，則非零系數(shù)的個(gè)數(shù)越多，即鄰域點(diǎn)的數(shù)目更多，當(dāng)λ=0，這就是一般的LSE。利用上面所提到的LARS算法和LARS算法的變形分別求解Lasso、aLasso和彈性網(wǎng)格估計(jì)，得到所有λ對應(yīng)的解。因此，要得到合適的鄰域和參數(shù)就必須選擇一個(gè)適當(dāng)?shù)恼{(diào)諧參數(shù)λ。本文使用貝葉斯信息準(zhǔn)則(Bayesian Information Criterion，BIC)的一個(gè)變形選擇合適的λ[13]

(9)

3.2 紋理合成算法

得到高斯圖模型的鄰域結(jié)構(gòu)和參數(shù)估計(jì)后，基于高斯圖模型的紋理特征參數(shù)的紋理合成算法將被討論。為計(jì)算的方便，需要加一個(gè)平穩(wěn)性的約束，平穩(wěn)性是一種特殊的性質(zhì)，它對于圖G和高斯隨機(jī)變量的逆協(xié)方差矩陣的元素是一個(gè)很強(qiáng)的假設(shè)[7]。對于方程(2)，圖G定義在一個(gè)循環(huán)網(wǎng)格上，全條件概率p(xs|x-s)不依賴于點(diǎn)s位置的變化，這就使得A(θ)是一個(gè)塊循環(huán)矩陣，塊循環(huán)矩陣的特征結(jié)構(gòu)也可被充分利用，因此，可利用塊循環(huán)矩陣的特征值和特征向量與傅里葉變換的關(guān)系[7]來合成紋理，這樣可充分利用塊循環(huán)矩陣的特征結(jié)構(gòu)。合成方程如下

(10)

這里，θ是塊循環(huán)矩陣A(θ)的基，DFT2表示二維離散傅里葉變換。

從方程(10)中看到，要合成紋理就必須要確定高斯噪聲e。e的相關(guān)矩陣是

E(eeT)=σ2A(θ)

(11)

VT[σ2A(θ)]V=Λ

(12)

這里，V是一個(gè)由σ2A(θ)的特征向量(正交的)組成的矩陣，Λ是對角矩陣，其對角線上的元素對應(yīng)σ2A(θ)的特征值。因此，可以將e變換成為另一個(gè)隨機(jī)變量，這個(gè)隨機(jī)變量的元素是不相關(guān)的，即就是

ε1=VTe

(13)

其中，變量ε1的相關(guān)矩陣為VT[σ2A(θ)]V=Λ。此外，Λ1/2是一個(gè)對角矩陣，其元素是σ2A(θ)的特征值的平方根，則e可由下述方程所確定

e=VΛ1/2ε,

(14)

這里，ε～N(0,I)，I是一個(gè)M×N維的單位矩陣，將(14)式代入方程(10)中即可合成紋理。

3.3 紋理分類算法

(15)

這里xs是s點(diǎn)的灰度值，xr是點(diǎn)s的鄰域點(diǎn)的灰度值。采用最大后驗(yàn)概率分類測試紋理圖像，哪一類紋理的后驗(yàn)概率最大，即上式最小，則測試紋理圖像就屬于哪一類。

4 實(shí)驗(yàn)結(jié)果

為了檢驗(yàn)所提算法的有效性，這里設(shè)計(jì)了兩組實(shí)驗(yàn)，一個(gè)是紋理合成實(shí)驗(yàn)，另一個(gè)就是紋理分類實(shí)驗(yàn)。這兩組實(shí)驗(yàn)都是基于高斯圖模型和4階高斯馬爾科夫隨機(jī)場模型[2-3]。

實(shí)驗(yàn)中的紋理樣本均來自Brodatz 紋理庫[14]。

4.1 紋理合成

這組實(shí)驗(yàn)使用四種Brodatz紋理，分別是D19、 D49、 D68和 D84。利用前面介紹的GGM的模型選擇的方法提取紋理特征，并隨機(jī)生成一個(gè)高斯隨機(jī)白噪聲ε～N(0,I)，然后通過方程(10)獲得合成的紋理圖像。這里采用高斯馬爾科夫隨機(jī)場紋理特征與基于GGM的紋理特征相比較[2-3]，圖1顯示了利用兩種紋理特征合成紋理圖像的結(jié)果。

圖 1 紋理合成的實(shí)驗(yàn)結(jié)果

從圖1中可以看出，使用基于高斯圖模型的紋理特征合成的紋理(第三行到第五行)比基于高斯馬爾科夫隨機(jī)場紋理特征合成的紋理(第二行)更接近真實(shí)紋理。三種高斯圖模型的模型選擇方法很好的反應(yīng)了紋理的方向特點(diǎn)，其中，基于aLasso的紋理特征最接近真實(shí)紋理。從統(tǒng)計(jì)角度來看，每個(gè)像素點(diǎn)的鄰域是由與該點(diǎn)最相關(guān)的點(diǎn)構(gòu)成而不一定是與該點(diǎn)距離最近的那些點(diǎn)。因此，圖模型的鄰域點(diǎn)更好地反應(yīng)了像素點(diǎn)之間的相關(guān)性。

4.2 紋理分類

從Brodatz 紋理庫中挑選25個(gè)不同的紋理圖像組成一個(gè)紋理庫，25個(gè)紋理圖像如圖2所示。

圖 2 紋理圖像

每幅圖像的大小是640×640像素，且每幅圖像可被看成是一類紋理。從每幅紋理圖像中采集128×128像素的子圖像81幅，則測試紋理集就由2 025(81×25=2 025)幅圖像構(gòu)成。所有2 025幅紋理圖像樣本都被放在訓(xùn)練集中，并計(jì)算出每一類訓(xùn)練樣本的紋理特征。同樣采集2 025幅128×128像素的子圖像構(gòu)成測試集，并計(jì)算出每一個(gè)測試樣本的紋理特征。實(shí)驗(yàn)中我們分別使用高斯圖模型紋理特征，小波紋理特征和4階高斯馬爾科夫隨機(jī)場紋理特征進(jìn)行紋理分類[2]，實(shí)驗(yàn)結(jié)果如表1所示，顯然基于高斯圖模型的紋理分類效果更好，同紋理合成實(shí)驗(yàn)的結(jié)果相類似，基于aLasso估計(jì)的紋理特征更接近真實(shí)紋理，因而分類準(zhǔn)確率最高。

5 結(jié) 論

高斯圖模型具有完備的數(shù)學(xué)理論，包容性很強(qiáng)，內(nèi)涵很廣，可以充分利用建模對象的先驗(yàn)知識，有非常廣闊的應(yīng)用前景，高斯圖模型在統(tǒng)計(jì)學(xué)研究中發(fā)展很快，但在圖像分析應(yīng)用較少。本文對高斯圖模型在圖像紋理分析的應(yīng)用進(jìn)行了探討，利用高斯圖模型建立新的紋理模型并用于紋理合成和紋理分類。Lasso估計(jì)、彈性網(wǎng)格估計(jì)和aLasso估計(jì)被用于學(xué)習(xí)高斯圖模型的結(jié)構(gòu)，即選擇鄰域和估計(jì)參數(shù)。這三種變量選擇方法都是凸優(yōu)化問題，因而有很高的計(jì)算效率，且模型選擇是一個(gè)動態(tài)的適應(yīng)性過程，可根據(jù)模型的不同自動調(diào)整。紋理合成和紋理分類實(shí)驗(yàn)顯示基于高斯圖模型的紋理特征更加有效，因而，利用高斯圖模型來構(gòu)建紋理模型是有意義的，同時(shí)也有很大的發(fā)展前景。

表1 不同方法的紋理分類結(jié)果比較(準(zhǔn)確率%)1)

1)F0=基于小波的紋理特征；F1=基于4階GMRF的最小二乘估計(jì)的紋理特征；F2=基于GGM的Lasso估計(jì)的紋理特征；F3=基于GGM的elastic net的紋理特征；F4=基于GGM的aLasso的紋理特征

參考文獻(xiàn)：

[1]HARALICK R M, SHANMUGAN K, DINSTEIN I. Texture features for image classification [J]. IEEE Trans Syst, Man Cybern, 1973, 3(6): 610-621.

[2]PORTER R, CANAGARAJAH N. Robust rotation-invariant texture classification: wavelet, Gabor filter and GMRF based schemes [J]. IEE Proceedings in Vision, Image and Signal Processing, 1997, 144(3): 180-188.

[3]CHELLAPPA R, CHATTERJEE S. Classification of textures using Gaussian Markov random fields [J]. IEEE Trans Acoust, Speech, Signal Processing, 1985, 33(4): 959-963.

[4]LIU X, WANG D. Texture classification using spectral histograms [J]. IEEE Trans Image Processing, 2003, 12(6): 661-670.

[5]LAURITZEN S. Graphical models [M]. Oxford Statistical Science Series.Oxford:Oxford University Press, 1996.

[6]JORDAN M I. Graphical models[J]. Statistical Science,Special Issue on Bayesian Statistics, 2004, 19: 140-155.

[7]RUE H, HELD L. Gaussian Markov random fields: theory and applications [M]. Chapman & Hall/CRC, 2005.

[8]TIBSHIRANI R. Regression shrinkage and selection via the lasso [J]. J Roy Stat Soc, B, 1996, 58: 267-288.

[9]ZOU H, HASTIET. Regularization and variable selection via the elastic net [J]. J Roy Stat Soc, B, 2005, 67: 301-320.

[10]ZOU H. The adaptive Lasso and its oracle properties [J]. J American Stat Assoc, 2006, 101(476):1418-1429.

[11]HOERAL A, KENNARD R. Ridge regression [M]. In Encyclopedia of Statistical Sciences. New York: Wiley, 1988:129-136.

[12]EFRON B, HASTIE T, JOHNSTONE I, et al. Least angle regression [J]. Ann Stat, 2004, 32(2): 407-451.

[13]WANG H, LI B L, LENG C. Shrinkage tuning parameter selection with a diverging number of parameters [J]. J Roy Stat Soc, B, 2009, 71(3): 671-683.

[14]WEBER A G. The USC-SIPI image database [M]. Version 5. USC-SIPI Report, Signal and Image Processing Institute, 2006.