


摘 ?要: 對于遙感圖像分類過程中的問題,提出遺傳算法LVQ神經(jīng)網(wǎng)絡來實現(xiàn)遙感圖像的分類。將LVQ神經(jīng)網(wǎng)絡結合遺傳算法,使用遺傳算法最優(yōu)閾值與權值實現(xiàn)網(wǎng)絡訓練,使分類精度得到提高。之后融合相似灰度值創(chuàng)建分類圖像特征矢量,使特征矢量在神經(jīng)網(wǎng)絡中輸入實現(xiàn)訓練。學習矢量量化神經(jīng)算法對初值非常敏感,對遙感圖像分類精度具有一定影響。最后,為了對性能進行測試,在實驗過程中對比本文分類方法和SVM決策樹分類方法,通過實驗結果表示,文中提出的分類方法的遙感圖像分類精度為95.82%,與其他分類方法相比,分類精度得到進一步提高。
關鍵詞: 遙感圖像分類; 遺傳算法; LVQ神經(jīng)網(wǎng)絡; 網(wǎng)絡訓練; 性能測試; 精度評估
中圖分類號: TN911.73?34 ? ? ? ? ? ? ? ? ? ? ? ? 文獻標識碼: A ? ? ? ? ? ? ? ? ? ? ?文章編號: 1004?373X(2020)01?0040?04
Application of genetic algorithm LVQ neural network
in remote sensing image classification
DENG Lingyun
Abstract: In order to solve the problems in the process of remote sensing image classification, a genetic algorithm LVQ ?(learning vector quantization) neural network is proposed to realize remote sensing image classification. The LVQ neural network is combined with genetic algorithm, and the optimal threshold and weight of genetic algorithm are used to train the network, so that the classification accuracy is improved. Then, similar gray values are fused to create characteristic vector of classified images, which are input into the neural network for training. LVQ neural algorithm is very sensitive to initial values and has a certain impact on the classification accuracy of remote sensing images. Finally, in order to test the performance, the classification method proposed in this paper was compared with the SVM decision tree classification method in the experimental process. The experimental results show that the classification accuracy of remote sensing images with the proposed method is 95.82%, and has been further improved in comparison with other classification methods.
Keywords: remote sensing image classification; genetic algorithm; LVQ neural network; network training; performance testing; accuracy assessment
0 ?引 ?言
在現(xiàn)代圖像處理技術不斷發(fā)展的過程中,遠距離遙控圖像目標識別技術備受人們的重視,此技術被廣泛應用到工業(yè)、探測和軍事領域中。神經(jīng)網(wǎng)絡分類方法被廣泛應用到圖像目標識別和遙感圖像分類過程中,但是此方法存在局部最佳解與識別效率比較低的問題。從70年代開始,遙感圖像分類都是遙感技術和相應領域學者所重視的問題。在現(xiàn)代遙感圖像分類過程中主要使用模糊數(shù)學分類法、統(tǒng)計模式識別法、語句法、模式識別法[1]。目前,人工神經(jīng)網(wǎng)絡(ANN)在遙感圖像分類過程中廣泛使用,主要包括自組織特征映射、BP和ART等。在1990年,Kohonen提出了學習矢量量化(LVQ)算法,能夠實現(xiàn)聚類中心的監(jiān)督和學習,也能夠使此中心代表數(shù)據(jù)都歸類到中心所屬類別中。但是常用LVQ神經(jīng)網(wǎng)絡存在部分問題,比如具有未被充分使用的神經(jīng)元,并且算法對于初值比較敏感,也就是假如選擇初值偏差比較大,就不會具有良好聚類效果,對遙感圖像分類精度造成影響[2]。為了使上述問題得到解決,本文提出使用遺傳算法對LVQ神經(jīng)網(wǎng)絡初始值進行優(yōu)化,利用量化共軛梯度方法對標準BP算法進行改進,使用遺傳算法(GA)對BP網(wǎng)絡隱層神經(jīng)元數(shù)量和初始權重進行優(yōu)化,實現(xiàn)快速搜索網(wǎng)絡最優(yōu)解,使BP網(wǎng)絡局限性問題得到解決,從而能夠迅速得到最佳網(wǎng)絡初始權值向量。
1 ?標準神經(jīng)網(wǎng)絡算法局限性
1.1 ?BP網(wǎng)絡誤差權空間分析
BP神經(jīng)網(wǎng)絡誤差指的是各層權重與輸入樣本數(shù)據(jù)的函數(shù),簡單表示為:
[E=F(X,W,θ,T)]
即多維空間復雜曲面,此多維空間就是誤差權空間,二維權空間誤差曲面如圖1所示。
通過圖1可以看出,誤差曲面分布的主要特點有兩個,也就是標準BP算法典型的局限性:
1) 在誤差曲面中部分區(qū)域較為平坦,這時誤差對于權重變化并不敏感,誤差的梯度變化比較小,調(diào)整的時間比較長,收斂速度較為緩慢。
2) 網(wǎng)絡訓練過程中會陷入局部極小點,相關研究表示,在BP網(wǎng)絡尋優(yōu)過程中與網(wǎng)絡初始點權重具有較大的關系,假如初始點和全局最優(yōu)點比較接近,網(wǎng)絡就會收斂到全局最優(yōu)解。
1.2 ?BP網(wǎng)絡隱層神經(jīng)元數(shù)量
利用增加隱層神經(jīng)元數(shù)量提高誤差精度,其訓練效果比增加網(wǎng)絡層數(shù)更加容易調(diào)整與觀察。將有限輸入模式映射到輸出模式中,并不需要大量隱層神經(jīng)元。但是目前如何選擇隱層神經(jīng)元數(shù)量并沒有良好解析式,都是以實驗或者前人設計經(jīng)驗進行確定。為了使上述BP網(wǎng)絡局限性問題得到解決,本文利用遺傳算法和LVQ神經(jīng)網(wǎng)絡相互結合進行實現(xiàn)[3]。
2 ?遺傳算法LVQ神經(jīng)網(wǎng)絡的原理和算法
2.1 ?LVQ神經(jīng)網(wǎng)絡
學習矢量量化LVQ神經(jīng)網(wǎng)絡是由Kohonen提出的,能夠實現(xiàn)模式分類的監(jiān)督自組織神經(jīng)網(wǎng)絡模型,能夠指定輸入分到哪個類中。LVQ網(wǎng)絡通過輸出層、輸入層構成,輸入層只能實現(xiàn)輸入樣本的接收,輸出層屬于競爭層,能夠實現(xiàn)輸入樣本的聚類,此兩層神經(jīng)元相互連接。LVQ神經(jīng)網(wǎng)絡其實就是改進的傳統(tǒng)K?近鄰分類器,能夠使K?近鄰分類器有大量空間存儲全部訓練樣本和長時間分類的問題得到解決,并且網(wǎng)絡學習速度比較快[4]。LVQ的神經(jīng)網(wǎng)絡基本結構如圖2所示。
LVQ學習算法步驟如下:
1) 假設訓練樣本集設置為[A],訓練樣本為[X=[x1,x2,…,xp]T],[X]所屬的類別為[r],輸出層神經(jīng)元[j]初始權值矢量表示為[Wj],學習步長設置為[η](0),[T]表示最大的迭代次數(shù),[ε]指的是允許誤差。
2) 輸入矢量[X],在輸出陣列中尋找和[X]具備最近匹配神經(jīng)元,表示為[i],神經(jīng)元[i]的類別表示為[Ci]。
3) 調(diào)整權值:
假如[r=Ci],則:
[Wi(t+1)=Wi(t)+η(t)[X-Wi(t)]]
假如[r≠Ci],則:
[Wi(t+1)=Wi(t)-η(t)[X-Wi(t)]]
式中學習步長[η(t)]在0~1之間,能夠對網(wǎng)絡權值趨于無限大進行抑制。
4) 通過訓練樣本集選擇下個輸入矢量,提供給LVQ網(wǎng)絡,返回步驟2),直到全部矢量都能夠提供一遍。
5) 對停止條件是否滿足進行測試,假如滿足則停止訓練,否則降低學習步長,返回到步驟2)[5]。
通過上述策略表示,在被選中輸出神經(jīng)元[i]所對應類別與輸出矢量[X]一樣時,權向量就會越來越接近輸入矢量。相反,就會偏離。所以,LVQ網(wǎng)絡本質就是聚類。
LVQ網(wǎng)絡是基于LVQ神經(jīng)網(wǎng)絡,為了使分類性能得到提高,從而對類間混疊模式分類問題進行處理,其能夠設計降低分類錯誤的Bayes分類器,其不僅能夠充分考慮和某個輸入向量[X]最優(yōu)匹配神經(jīng)元[Wk],并且還會對次優(yōu)匹配神經(jīng)元[Wr]進行考慮。假如以下三個條件都能夠滿足,算法就會調(diào)整[Wk]與[Wr],否則就根據(jù)標準LVQ算法對[Wk]進行調(diào)整。
1) [Wk]和[Wr]為不同分類;
2) [Wr]和[X]代表同個分類;
3) [Wk]和[Wr]到[X]的距離是一樣的。
調(diào)整的公式為:
[Wk(t+1)=Wk(t)-η(t)[X-Wk(t)]Wr(t+1)=Wr(t)-η(t)[X-Wr(t)]]
LVQ2算法利用對兩個權向量[Wk]和[Wr]進行考察,能夠促進算法的收斂。
LVQ2神經(jīng)網(wǎng)絡的設計和算法優(yōu)勢能夠快速收斂,局部搜索能力良好。但是存在的主要問題就是初值敏感,假如選擇初值偏差比較大,就無法出現(xiàn)良好聚類效果,以此降低分類精度。為了解決LVQ2算法對于初值敏感性,本文使用遺傳算法改進LVQ2算法,得到神經(jīng)網(wǎng)絡初始權值。
2.2 ?遺傳算法
利用遺傳算法優(yōu)化權值和閾值的過程為:首先通過GA搜索網(wǎng)絡近似最優(yōu)與最優(yōu)的閾值和連續(xù)權重,然后通過RBF調(diào)整最終的權重。在評估所有染色體之后,通過算法的選擇,提取當前染色體創(chuàng)建中間群體。本文在對算子選擇過程中利用排序算法進行輪盤選擇。最后,通過中間種群染色體的交叉算子與突變算法創(chuàng)建下個群體,通過選擇評估,復制兩者為全新的染色體,評估全部的染色體和再現(xiàn)的程序,直到停止標準得到滿足。遺傳算法的優(yōu)化流程如圖3所示。
首先,初始化圖像數(shù)據(jù),之后,利用測量總均方誤差值對每個染色體適應度進行評估:
[Xj=tanh(i=1nxiwji+wjo)y=i=1nxiwji+wko]
式中:[xi]指的是輸入變量值;[wji]指的是輸入連接權重[6]。
2.3 ?神經(jīng)網(wǎng)絡訓練
通過遺傳算法對RBF神經(jīng)網(wǎng)絡訓練步驟如圖4所示。
神經(jīng)網(wǎng)絡訓練步驟具體如下:
1) 初始化群體。GA為種群染色體,染色體相對應需求可變數(shù)組。那么,[h]隱藏節(jié)點也就是染色體,并且能夠初始化徑向中心作為隨機值。染色體公式表示為:
[C=[c1,c2,…,ch]]
群體中的染色體一共有[Npop]條。
2) 計算適應度。以RBF響應評估[Npop]條染色體適應性值,本文的最小平方誤差為基函數(shù)。
[δ(t)=12d(t)-y(t)2]
式中:[d(t)]是指利用訓練集得到的期望輸出;[y(t)]是指利用網(wǎng)絡在測試數(shù)據(jù)中得到的輸出。
3) 選擇。[Npop]染色體通過適應度函數(shù),以降序的方式排列,將最好的染色體進行保存,丟棄其他的染色體。將幸存的群體作為[Nkeep],從中選擇兩名雙親生成彈簧。本文在雙親中使用加權等級,將其作為概率方法,利用染色體[n]對染色體概率計算為:
[Pn=Nkeep-n+1n=1Nkeepn]
選擇最高概率的兩條頂級染色體進行交叉。
4) 突變。此屬于遺傳算法,主要應用到組合信息中,能夠產(chǎn)生全新彈簧,基于兩個父母組合信息,產(chǎn)生全新彈簧決定交叉率。
5) 在終止條件滿足時,重復步驟2)~步驟4)[7]。
3 ?實驗結果和分析
1) 數(shù)據(jù)預處理。本文研究使用Landsat TM圖像,將武漢市作為研究中心。圖像包括1 000[×]1 000個像素點。通過處理之后得到如圖5所示的合成圖。
2) 創(chuàng)建BP神經(jīng)網(wǎng)絡。以BP神經(jīng)網(wǎng)絡基本模型創(chuàng)建單隱層三層BP神經(jīng)網(wǎng)絡。輸入層神經(jīng)元節(jié)點數(shù)為特征樣本點數(shù),隱含層設置成為10個神經(jīng)元,輸出層設置為三維矩陣[1 0 0],[0 1 0],[0 0 1]。
3) BP神經(jīng)網(wǎng)絡仿真和訓練。通過預處理待分類圖像加載到已經(jīng)訓練之后的BP神經(jīng)網(wǎng)絡模型中,利用網(wǎng)絡記憶能力實現(xiàn)圖像中不同地物的分類和識別。三種不同地物樣本如圖6所示。
4) 神經(jīng)網(wǎng)絡仿真和訓練。此研究過程中設置遺傳算法的參數(shù)為:最大的遺傳代數(shù)設置為20,種群的大小為10,變量二進制位數(shù)設置為15,交叉概率設置為0.3,變異概率設置為0.1,代溝設置為0.95。
圖7為本文研究方法的分類效果,圖8為SVM決策樹的分類效果。
通過圖7和圖8可以看出,使用遺傳算法分類圖能夠清楚地對長江中的橋進行識別,但是SVM圖中橋識別效果不如遺傳算法,導致橋面在水中擁堵。另外,也能夠利用類別精度對分類效果進行分析。
類別精度是利用分類圖像中類別并且參考圖像中相應類別對照實現(xiàn)的,表示為混淆矩陣[8]。表1為精度評定結果。
4 ?結 ?論
一直以來,通過神經(jīng)網(wǎng)絡實現(xiàn)遙感圖像分類都是遙感領域中研究的重點。LVQ神經(jīng)網(wǎng)絡結構比較簡單,并且具備局部搜索及快速收斂的能力,被廣泛應用到多領域中。在標準LVQ神經(jīng)網(wǎng)絡作為基礎所發(fā)展的LVQ2神經(jīng)網(wǎng)絡能夠對類間混淆進行處理,所以能夠在遙感圖像分類中使用。但是,LVQ2神經(jīng)網(wǎng)絡對于初值較為敏感,不同初值對于分類結果具有較大的影響,遺傳算法屬于自適應啟發(fā)式的全局尋優(yōu)算法,具備較強的通用優(yōu)化能力與魯棒性。本文使用遺傳算法得到LVQ2神經(jīng)網(wǎng)絡初始權值,并且通過實地遙感圖像分類,與傳統(tǒng)分類實現(xiàn)綜合性對比,表明此方法能夠使LVQ2神經(jīng)網(wǎng)絡對于初值敏感性降低,使遙感圖像分類精度得到提高。
參考文獻
[1] 楊劍,宋超峰,宋文愛,等.基于遺傳算法的模糊RBF神經(jīng)網(wǎng)絡對遙感圖像分類[J].小型微型計算機系統(tǒng),2018,12(3):621?624.
[2] 李雋,王偉.遺傳算法優(yōu)化神經(jīng)網(wǎng)絡在圖像目標識別中的應用研究[J].現(xiàn)代電子技術,2017,40(20):111?113.
[3] 謝麗蓉,王晉瑞,穆塔里夫·阿赫邁德,等.基于LVQ?GA?BP神經(jīng)網(wǎng)絡的煤礦瓦斯涌出量預測[J].煤礦安全,2017,48(12):85?86.
[4] 包龍生,葉學峰,李強,等.基于遺傳算法的神經(jīng)網(wǎng)絡在樁基檢測中的應用研究[J].公路交通科技(應用技術版),2017,21(3):236?239.
[5] 梁思琦,柳炳祥,楊怡涵.一種基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡的古陶瓷分類方法[J].信息與電腦(理論版),2018(12):18?22.
[6] 金修鵬,李春生.基于遺傳算法的BP神經(jīng)網(wǎng)絡在水利定額編制中的應用[J].水電能源科學,2018,14(2):156?159.
[7] 楊怡涵,柳炳祥.一種基于遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡的陶瓷原料分類方法[J].陶瓷學報,2018,39(3):85?86.
[8] 墨蒙,趙龍章,龔嬡雯,等.基于遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡研究應用[J].現(xiàn)代電子技術,2018,41(9):41?44.
作者簡介:鄧凌云(1982—),女,重慶忠縣人,碩士,講師,主要研究方向為信號處理。