條件隨機(jī)場(chǎng)框架下基于隨機(jī)森林的城市土地利用/覆蓋遙感分類(lèi)

楊耘， 徐麗， 顏佩麗

(1.長(zhǎng)安大學(xué)地質(zhì)工程與測(cè)繪學(xué)院，西安 710054； 2.長(zhǎng)安大學(xué)西部礦產(chǎn)資源與工程教育部重點(diǎn)實(shí)驗(yàn)室，西安 710054； 3.長(zhǎng)安大學(xué)信息工程學(xué)院，西安 710061； 4.西安長(zhǎng)慶科技工程有限責(zé)任公司，西安 710018)

0 引言

在利用高分辨率遙感圖像進(jìn)行土地利用/覆蓋分類(lèi)中，空間上下文及語(yǔ)義信息的描述及利用是項(xiàng)關(guān)鍵技術(shù)。馬爾科夫隨機(jī)場(chǎng)(markov random fields，MRFs)可對(duì)圖像的空間關(guān)系進(jìn)行建模，但它需要假設(shè)或估計(jì)圖像的條件和先驗(yàn)概率[1]。條件隨機(jī)場(chǎng)(conditional random fields，CRFs)是Lafferty于2001年針對(duì)自然語(yǔ)言處理問(wèn)題提出的一種判別式概率模型框架。在圖像處理中，CRFs在空間上下文的表達(dá)及后驗(yàn)概率建模方面有其獨(dú)特優(yōu)勢(shì)[2]，已被廣泛應(yīng)用到計(jì)算機(jī)視覺(jué)領(lǐng)域的自然圖像目標(biāo)類(lèi)分割、視頻目標(biāo)跟蹤[3-6]等方面。CRFs僅是一個(gè)模型框架，如果待處理的數(shù)據(jù)或目的不同，以及采用的圖像分析方法不同，則模型具體形式也不盡相同。近年來(lái)，國(guó)內(nèi)外學(xué)者[7-9]開(kāi)展了CRFs在遙感領(lǐng)域的應(yīng)用研究，但針對(duì)高分辨率遙感圖像分類(lèi)的研究相對(duì)較少。前人利用不同傳感器圖像(如多光譜、高光譜及SAR圖像等)提取土地利用/覆蓋分類(lèi)信息并圍繞如何有效表達(dá)目標(biāo)空間上下文及語(yǔ)義信息這一關(guān)鍵技術(shù)開(kāi)展了CRFs模型研究，為CRFs在遙感領(lǐng)域的推廣應(yīng)用作出了重要貢獻(xiàn)，但大多集中在基于超像素的CRFs模型研究上。同其他面向?qū)ο蠓诸?lèi)方法一樣，基于超像素的CRFs模型也存在分割質(zhì)量對(duì)分類(lèi)精度影響大的問(wèn)題。在這一背景下，本文開(kāi)展了“考慮空間上下文信息的基于像素的CRFs模型能否在m級(jí)分辨率的IKONOS和QuickBird等多光譜遙感圖像分類(lèi)中表現(xiàn)良好”這一問(wèn)題的研究。

另一方面，已有研究[10-11]表明，隨機(jī)森林(random forests，RF)算法[12]在多光譜、高光譜遙感圖像分類(lèi)中能與支持向量機(jī)(support vector machine，SVM)算法相競(jìng)爭(zhēng)。在這種情況下，本文提出了適用于城市土地利用/覆蓋高分辨率遙感分類(lèi)的基于像素的RF-CRFs模型。

1 基于像素的RF-CRFs模型

1.1 概率圖的建立

概率圖的建立是基于CRFs模型分類(lèi)的前提和基礎(chǔ)。本文中，以圖像的每個(gè)像素為結(jié)點(diǎn)建立一個(gè)概率圖G(V,E)，如圖1(a)所示。其中，V是像素表示的結(jié)點(diǎn)集合{nri,i=1,…,9}，每個(gè)結(jié)點(diǎn)包含觀測(cè)變量的結(jié)點(diǎn)(圖1(b)深灰色表示)和其標(biāo)簽變量的結(jié)點(diǎn)(圖1(b)淺灰色表示)；E是結(jié)點(diǎn)i與其相鄰結(jié)點(diǎn)j的連線表示的無(wú)向邊集合(i,j)∈E，每個(gè)結(jié)點(diǎn)都具有4/8鄰域(本文采用8鄰域結(jié)構(gòu))。與不規(guī)則概率圖模型相比，這類(lèi)圖模型更容易推理。

(a) 以像素為結(jié)點(diǎn)的4鄰域概率圖(b) 4鄰域概率圖的立體表示

1.2 特征提取

對(duì)于高分辨率遙感圖像分類(lèi)來(lái)說(shuō)，除了光譜特征以外，紋理也是一項(xiàng)重要的特征[13]。其中，Texton 濾波器可產(chǎn)生多尺度多方向的紋理特征； 與Gabor濾波器相比，它同時(shí)描述了目標(biāo)的紋理、空間位置以及上下文信息多種特征[3]。本文選用5像素×5像素大小為窗口的Texton 濾波器來(lái)描述目標(biāo)多尺度多方向的空間結(jié)構(gòu)。

方向梯度直方圖(histogram of oriented gradient，HOG)是計(jì)算局部圖像梯度方向信息統(tǒng)計(jì)值的圖件(目標(biāo)的色調(diào)和形狀能夠被梯度或邊緣的方向密度分布很好地描述)。在城區(qū)，主要土地利用類(lèi)型是建筑物和道路，用方向梯度直方圖可較好地反映這些特征。

上述特征可用一個(gè)高維特征向量來(lái)表示，并作為各結(jié)點(diǎn)的觀測(cè)值，但存在特征維數(shù)過(guò)高及特征分量之間相關(guān)的問(wèn)題。提升(boosting)技術(shù)是一種常用的特征優(yōu)化方法。但本文實(shí)驗(yàn)表明： 該技術(shù)對(duì)復(fù)雜場(chǎng)景遙感圖像的分類(lèi)效果改善不大，反而會(huì)增加分類(lèi)的時(shí)間代價(jià)； 而RF算法具有降低特征分量之間相關(guān)性的優(yōu)勢(shì)，其分類(lèi)效果能與常用的SVM算法相競(jìng)爭(zhēng)。因此，本文將RF與CRFs框架有機(jī)集成來(lái)定義RF-CRFs模型，用于高分辨率圖像分類(lèi)。

1.3 勢(shì)函數(shù)的定義

1.3.1 基于隨機(jī)森林的關(guān)聯(lián)勢(shì)函數(shù)

二階CRFs模型的一般形式[2]為

，

(1)

式中：xi，yi分別表示概率圖中第i個(gè)結(jié)點(diǎn)的觀測(cè)值及其類(lèi)標(biāo)簽；Z(x)為歸一化常數(shù)；w,v分別表示關(guān)聯(lián)勢(shì)函數(shù)和交互勢(shì)函數(shù)的參數(shù)向量；β為調(diào)節(jié)關(guān)聯(lián)勢(shì)能和交互勢(shì)能的權(quán)重。關(guān)聯(lián)勢(shì)函數(shù)?i表達(dá)了第i個(gè)觀測(cè)變量xi取標(biāo)簽yi的概率，交互勢(shì)函數(shù)φij反映了變量xi與其相鄰變量xj之間的相關(guān)性及其各自標(biāo)簽yi與yj的相關(guān)性。

關(guān)聯(lián)勢(shì)函數(shù)的定義對(duì)CRFs模型的分類(lèi)起主要作用，它通常利用某判別分類(lèi)器的直接或間接概率輸出來(lái)定義。常見(jiàn)的判別分類(lèi)器有： 邏輯回歸、SVM及RF等。其中RF是一種采用集成策略的分類(lèi)器[12]，在遙感圖像分類(lèi)中得到了較好應(yīng)用。與其他分類(lèi)器相比，RF分類(lèi)器具有3個(gè)特點(diǎn)： ①RF可適用于大數(shù)據(jù)量的分類(lèi)，在高維數(shù)據(jù)分類(lèi)中更能體現(xiàn)出其速度快、精度高以及對(duì)噪聲魯棒的優(yōu)勢(shì)[14]； ②與SVM不同，RF的輸出是個(gè)概率值，它可直接集成到CRFs模型框架中； ③RF可以直接擴(kuò)展到多值分類(lèi)中(RF分類(lèi)原理參見(jiàn)文獻(xiàn)[10])。

本文引入RF分類(lèi)器來(lái)定義關(guān)聯(lián)勢(shì)函數(shù)?i。對(duì)于變量xi及其標(biāo)簽yi，當(dāng)yi=l，?l∈L(L為標(biāo)簽集合)時(shí)，則有

(2)

式中:K是決策樹(shù)總數(shù)；Tk(xi,θk)中k=1,…，K；θk是描述第k個(gè)決策樹(shù)的獨(dú)立同分布參數(shù)向量；δ為示性函數(shù)，其定義參見(jiàn)文獻(xiàn)[14]。

利用式(2)定義的RF后驗(yàn)概率可將CRFs關(guān)聯(lián)勢(shì)函數(shù)定義為

?i(yi,xi)=logP(yi|xi)。

(3)

本文對(duì)決策樹(shù)總數(shù)、決策樹(shù)最大深度和最大特征數(shù)這3個(gè)參數(shù)分別取經(jīng)驗(yàn)值為50，2和10。

1.3.2 特征對(duì)比度加權(quán)Potts函數(shù)的交互勢(shì)函數(shù)

本文采用對(duì)圖像特征對(duì)比度敏感的Potts模型來(lái)定義交互勢(shì)函數(shù)，其表達(dá)式為

φij(yi,yj,xi,xj,v’)=v’Tu(xi,xj)δ’(yi,yj) ,

(4)

式中：v’是待學(xué)習(xí)的參數(shù)向量；δ’是Potts函數(shù)，其定義參見(jiàn)文獻(xiàn)[2]；u(xi,yj)是特征函數(shù)。

u(xi,xj)的定義是交互勢(shì)函數(shù)定義的關(guān)鍵。對(duì)于城區(qū)高分辨率遙感圖像，房屋與道路的光譜、紋理、形狀特征相近，而高程信息是鑒別這兩類(lèi)目標(biāo)的有效特征。但目前獲取高分辨率的高程數(shù)據(jù)成本較高，因此要融合多種特征(如光譜、多尺度多方向的紋理及方向梯度直方圖等)才能提高分類(lèi)的精度。基于以上分析，本文將u(xi,xj)定義為

u(xi,xj)=1-exp(-‖f(xi,xj)‖2) ,

(5)

式中f(xi,xj)為廣義特征對(duì)比度向量，其形式為

f(xi,xj)=[1,|xi1-xj1|,…,|xim-xjm|,…,|xiM-xjM|],

(6)

其中xim，xjm分別表示觀測(cè)變量xi，xj的第m(m=1,2,…,M)維分量。組合式(5)(6)，便構(gòu)成了完整的RF-CRFs模型。

2 模型實(shí)現(xiàn)

選取一定數(shù)量的訓(xùn)練樣本，采用分項(xiàng)學(xué)習(xí)法[3]對(duì)RF-CRFs模型參數(shù)集{w,v,β}進(jìn)行訓(xùn)練。模型參數(shù)學(xué)習(xí)后，便可對(duì)標(biāo)簽未知的圖像數(shù)據(jù)進(jìn)行分類(lèi)，即模型推理。本模型屬于多標(biāo)簽的二階CRFs模型，對(duì)應(yīng)的Gibbs能量是非亞模(non-submodular)的。因此，常用的模型推理方法僅能實(shí)現(xiàn)近似推理。考慮到圖模型中結(jié)點(diǎn)數(shù)眾多，本文采用基于圖割(graph cut)的α-膨脹算法[2]進(jìn)行快速推理。

上述過(guò)程是基于Darwin機(jī)器視覺(jué)庫(kù)[15]，用Matlab和C++混合編程方式二次開(kāi)發(fā)實(shí)現(xiàn)的。

3 實(shí)驗(yàn)及分析

3.1 實(shí)驗(yàn)

選取2005年7月武漢城區(qū)QuickBird多光譜圖像為測(cè)試數(shù)據(jù)(如圖2(a))，圖像大小為412像素×412像素。SVM，RF和RF-CRFs模型對(duì)該圖像進(jìn)行分類(lèi)的結(jié)果如圖2(c)—(e)所示。

(a) QuickBird多光譜圖像(b) 分類(lèi)地面參考數(shù)據(jù)(c) 基于像素的SVM分類(lèi)(d) 基于像素的RF分類(lèi)

(e) 基于RF-CRFs模型(f) (d)與(e)類(lèi)標(biāo)記結(jié)果(g) (c)與(e)類(lèi)標(biāo)記結(jié)果(h) (e)相對(duì)于(b)的分類(lèi)的分類(lèi)差異圖差異圖錯(cuò)誤示意圖

從上述分類(lèi)結(jié)果來(lái)看，與RF分類(lèi)器相比，RF-CRFs模型的分類(lèi)效果有所改善，改善之處可以從圖2(f)看出： 黑、白點(diǎn)分別表示了2種分類(lèi)器對(duì)同一個(gè)結(jié)點(diǎn)輸出標(biāo)簽的不一致性和一致性。其中，不一致性主要是由于RF-CRFs模型考慮了空間上下文信息，而RF分類(lèi)器沒(méi)有考慮而造成的。因此，RF-CRFs模型的分類(lèi)效果更好。

圖2(g)給出SVM與RF-CRFs模型分類(lèi)結(jié)果的差異，可以看出二者的標(biāo)記結(jié)果差異較大，其原因之一是SVM與RF-CRFs的分類(lèi)原理存在較大差異，同時(shí)也間接反映了二者分類(lèi)精度的差異。與其相比，RF與RF-CRFs的分類(lèi)原理更相似，因此它們的標(biāo)記結(jié)果差異較小，如圖2(f)所示。

從圖2(h)可以看出， RF-CRFs模型仍存在分類(lèi)錯(cuò)誤： 除目標(biāo)邊緣像素外，目標(biāo)內(nèi)部存在錯(cuò)分現(xiàn)象，錯(cuò)誤主要在建筑物與陰影，以及建筑物與道路的混分上，如圖2(e)箭頭所示。

3.2 定量評(píng)價(jià)及分析

隨機(jī)選取訓(xùn)練和檢驗(yàn)樣本，利用混淆矩陣的總精度及Kappa進(jìn)行精度評(píng)價(jià)，上述3種方法的分類(lèi)精度如表1所示。

表1 3種方法分類(lèi)精度對(duì)比

分析圖2和表1，可以得出：

1)對(duì)比RF與SVM這2種分類(lèi)器的分類(lèi)結(jié)果，RF的分類(lèi)精度比SVM提高了4.56%，分類(lèi)可靠性也有所增加。

2)圖2(d)(e)表明,與RF和SVM的分類(lèi)結(jié)果相比，RF-CRFs模型分類(lèi)結(jié)果中的“分類(lèi)噪聲”減少，其分類(lèi)精度比RF分類(lèi)精度提高了3.35%，比SVM分類(lèi)器提高了7.91%，表明交互勢(shì)能項(xiàng)對(duì)于緩解分類(lèi)噪聲，提高分類(lèi)精度有一定作用。

3)從圖2(f)可以看出，對(duì)于CRFs模型，關(guān)聯(lián)勢(shì)能對(duì)分類(lèi)起主要作用，而交互勢(shì)能僅用于進(jìn)一步改善分類(lèi)效果。

4 結(jié)論

憑借CRFs在目標(biāo)空間上下文特征建模及分類(lèi)方面的獨(dú)特優(yōu)勢(shì)，針對(duì)城區(qū)高分辨率遙感圖像的土地利用/覆蓋分類(lèi)問(wèn)題，本文開(kāi)展了集成光譜、多尺度、多方向Texton紋理等多種線索的基于像素的RF-CRFs模型的定義研究。

實(shí)驗(yàn)中，以典型城區(qū)的QuickBird多光譜圖像為實(shí)驗(yàn)數(shù)據(jù)，開(kāi)展了該模型的測(cè)試與分析。結(jié)果表明： 上述多特征融合的RF-CRFs模型的分類(lèi)精度達(dá)82.52%以上，比無(wú)交互勢(shì)能的RF分類(lèi)器提高了3.35%。因此，若特征及關(guān)聯(lián)勢(shì)函數(shù)定義合適，基于像素的RF-CRFs模型在m級(jí)分辨率的遙感圖像分類(lèi)中表現(xiàn)良好，可作為高分辨率圖像的分類(lèi)方法。

本文方法仍存在建筑物、道路以及陰影之間的混分現(xiàn)象。若無(wú)高程信息，這些現(xiàn)象很難避免。更重要的是，本文方法仍屬于基于像素的分類(lèi)，仍不能夠表達(dá)大尺度的空間上下文信息(特別是語(yǔ)義信息)。因此，今后要開(kāi)展多級(jí)空間上下文特征融合的CRFs模型研究。

參考文獻(xiàn)(References)：

[1] 楊紅磊,彭軍還.基于馬爾可夫隨機(jī)場(chǎng)的模糊c-均值遙感影像分類(lèi)[J].測(cè)繪學(xué)報(bào),2012,41(2):213-218.

Yang H L,Peng J H.Remote sensing classification based on Markov random field and fuzzy c-means clustering[J].Acta Geodaetica et Cartographica Sinica,2012,41(2):213-218.

[2] Sutton C,Mccallum A.An introduction to conditional random fields[J].Machine Learning,2011,4(4):267-373.

[3] Shotton J,Winn J,Rother C,et al.Textonboost for image understanding:Multi-class object recognition and segmentation by jointly modeling texture,layout,and context[J].International Journal of Computer Vision,2009,81(1):2-23.

[4] Baloch S,Cheng E,Fang T.Shape based Conditional Random Fields for Segmenting Intracranial Aneurysms[M]//Image-based Geometric Modeling and Mesh Generation.Netherlands:Springer,2013:55-67.

[5] 高琳,唐鵬,盛鵬,等.復(fù)雜場(chǎng)景下基于條件隨機(jī)場(chǎng)的視覺(jué)目標(biāo)跟蹤[J].光學(xué)學(xué)報(bào),2010,30(6):1721-1728.

Gao L,Tang P,Sheng P,et al.Visual object tracking based on conditional random fields under complex scene[J].Acta Optica Sinica,2010,30(6):1721-1728.

[6] 李玲玲,金泰松,李翠華.基于局部特征和隱條件隨機(jī)場(chǎng)的場(chǎng)景分類(lèi)方法[J].北京理工大學(xué)學(xué)報(bào),2012,32(7):720-724.

Li L L,Jin T S,Li C H.Scene classification based on local feature and hidden conditional random fields[J].Transactions of Beijing Institute of Technology,2012,32(7):720-724.

[7] Zhong P,Wang R.Modeling and classifying hyperspectral imagery by CRFs with sparse higher order potentials[J].IEEE Transactions on Geoscience and Remote Sensing,2011,49(2):688-705.

[8] Su X,He C,Feng Q,et al.A supervised classification method based on conditional random fields with multiscale region connection calculus model for SAR image[J].IEEE Geoscience and Remote Sensing Letters,2011,8(3):497-501.

[9] Hoberg T,Rottensteiner F,Heipke C.Context models for CRF-based classification of multitemporal remote sensing data[C]//ISPRS Annals of the Photogrammetry,Remote Sensing and Spatial Information Sciences.Melbourne,2012，1/7:129-134.

[10]劉毅,杜培軍,鄭輝,等.基于隨機(jī)森林的國(guó)產(chǎn)小衛(wèi)星遙感影像分類(lèi)研究[J].測(cè)繪科學(xué),2012,37(4):194-196.

Liu Y,Du P J,Zheng H,et al.Classification of China small satellite remote sensing image based on random forests[J].Science of Surveying and Mapping,2012,37(4):194-196.

[11]雷震.隨機(jī)森林及其在遙感影像處理中應(yīng)用研究[D].上海:上海交通大學(xué),2012.

Lei Z.The research on random forests and its application to remote sensing image processing[D].Shanghai:Shanghai Jiaotong University,2012.

[12]Breiman L.Random forests[J].Machine Learning,2001,45(1):5-32.

[13]王東廣,肖鵬峰,宋曉群,等.結(jié)合紋理信息的高分辨率遙感圖像變化檢測(cè)方法[J].國(guó)土資源遙感,2012,24(4):76-81.

Wang D G,Xiao P F,Song X Q,et al.Change detection method for high resolution remote sensing image in association with textural and spectral information[J].Remote Sensing for Land and Resources,2012,24(4):76-81.

[14]Kontschieder P,Bulò S R,Bischof H,et al.Structured class-labels in random forests for semantic image labelling[C]//International Conference on Computer Vision.Barcelona:IEEE,2011:2190-2197.

[15]Gould S.Darwin:A framework for machine learning and computer vision research and development[J].Journal of Machine Learning Research,2012,13:3533-3537.