混合遺傳BP算法及其在影像分類中的應(yīng)用

曾紹炳，李小龍

（1.東華理工大學(xué)長江學(xué)院，江西 撫州 344000；2.中核撫州金安鈾業(yè)有限公司，江西 撫州 344000）

1 概述

由于BP 神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的信息處理能力而應(yīng)用廣泛，但其基本思想是最小二乘法，采用梯度搜索技術(shù)，故存在收斂速度慢、局部極小等缺陷。遺傳算法（GA）基于生物自然選擇和基因遺傳學(xué)原理的優(yōu)化搜索方法，具備并行計算優(yōu)勢，有利于提高計算速度。本文綜合BP神經(jīng)網(wǎng)絡(luò)和遺傳算法各自的優(yōu)點(diǎn)，采用遺傳算法來優(yōu)化BP 神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值的遺傳神經(jīng)網(wǎng)絡(luò)模型，并將其應(yīng)用于遙感影像分類，試驗(yàn)結(jié)果證明該算法具有較強(qiáng)的收斂性和魯棒性，其應(yīng)用效果很好。

2 遺傳算法

遺傳算法（GA）以一種群體中的所有個體為對象，并利用隨機(jī)化技術(shù)指導(dǎo)對一個被編碼的參數(shù)空間進(jìn)行高效搜索，是具有“生存+檢測”的迭代過程的搜索算法。選擇、交叉和變異構(gòu)成了遺傳算法的遺傳操作；參數(shù)編碼、初始群體的設(shè)定、適應(yīng)度函數(shù)的設(shè)計、遺傳操作設(shè)計、控制參數(shù)設(shè)定五個要素組成了遺傳算法的核心內(nèi)容。遺傳算法能在搜索中自動獲取和積累有關(guān)搜索空間知識，并自適應(yīng)的控制搜索過程以求得最優(yōu)解。與傳統(tǒng)搜索方法相比，遺傳算法具有很多優(yōu)越性，如簡單通用、魯棒性很強(qiáng)、易于與別的技術(shù)（如神經(jīng)網(wǎng)絡(luò)、模糊推理、混沌行為和人工生命等）相結(jié)合，形成性能更優(yōu)的問題求解方法。

3 BP神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)（NN）系統(tǒng)理論是仿效生物處理模式以獲得智能性能處理功能的理論。其著眼于腦的微觀網(wǎng)絡(luò)結(jié)構(gòu)，通過大腦神經(jīng)元的復(fù)雜連接，采用由底到頂?shù)姆椒ǎㄟ^自學(xué)習(xí)、自組織和非線性動力學(xué)所形成的分布方式，來處理難于語言化的模式信息。

前饋型BP 網(wǎng)絡(luò)是目前應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)。其優(yōu)勢主要表現(xiàn)在模式匹配、模式分類、模式識別與模式分析等方面，具有相當(dāng)強(qiáng)的輸入輸出映射能力；當(dāng)輸入和輸出之間是非線形關(guān)系以及訓(xùn)練樣本充足的情況下，該算法非常有效。同時，在實(shí)踐中，BP算法也暴露出自身缺點(diǎn)，如訓(xùn)練速度非常慢、全局搜索能力差、局部極小點(diǎn)的逃離問題并且算法不一定收斂。由于BP算法自身存在的缺點(diǎn)，使得它在實(shí)際中應(yīng)用很艱難，制約了其發(fā)展，需要進(jìn)一步的優(yōu)化和改進(jìn)。

4 遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合

GA 和BP 可以有不同的組合方法。可以先使用GA反復(fù)優(yōu)化神經(jīng)網(wǎng)絡(luò)的權(quán)值，直到這一代群體的平均值不再有意義地增加為止，也就是說進(jìn)化狀態(tài)停止。此時解碼得到的參數(shù)組合己經(jīng)充分接近最佳參數(shù)組合，在此基礎(chǔ)上再用BP 算法對它們進(jìn)行精調(diào)，就能快速得到最優(yōu)解。這種基于遺傳算法的遺傳進(jìn)化和基于梯度下降的反訓(xùn)練結(jié)合被稱為神經(jīng)網(wǎng)絡(luò)的混合訓(xùn)練。也可以采用自適應(yīng)交叉率和變異率來改善GA 的運(yùn)行性能。在較理想的情況下，交叉率Pc與變異率Pm的取值應(yīng)在算法運(yùn)行過程中隨著適應(yīng)值的變化而自適應(yīng)改變。用適應(yīng)值來衡量算法的收斂狀況，對于適應(yīng)值高的解，取較低的Pc和Pm，使該解進(jìn)入下一代的機(jī)會增大；而對于適應(yīng)值低的解，則應(yīng)取較高的Pc和Pm，使該解被淘汰；當(dāng)成熟前收斂發(fā)生時，應(yīng)加大Pc和Pm以加快新個體的產(chǎn)生。

5 混合遺傳BP算法進(jìn)行影像分類的步驟

（1）確定影像分類的樣本，提取相應(yīng)的特征。特征可以由所定義的模板與影像做卷積所獲得的一種由局部方差表示能量和一種由均值表示的能量組成；本文的數(shù)據(jù)是已經(jīng)過提取得到的光譜能量特征值。

（2）在結(jié)構(gòu)配置數(shù)、權(quán)值和偏置值范圍內(nèi)隨機(jī)產(chǎn)生N組結(jié)構(gòu)配置數(shù)、權(quán)值和偏置值，并將它們進(jìn)行編碼，形成規(guī)模為N的一個初始群體V11，…，V1N。

（3）計算誤差函數(shù)，確定其適應(yīng)度函數(shù)值，一般誤差越大，適應(yīng)度越小。由下式：

式中：N——樣本個數(shù)；

YK——訓(xùn)練樣本標(biāo)準(zhǔn)值；

（4）根據(jù)基于轉(zhuǎn)輪法的選擇策略，選擇用于繁殖的群體V′11，…，V′1N。

（5）對于群體V′11，…，V′1N，按下式求出的交叉率和變異率進(jìn)行點(diǎn)式的交叉和變異，從而產(chǎn)生新的群體V21，…，V2N。

（2）式基本思想是：交叉概率Pc變異概率Pm隨適應(yīng)度值自動改變，即當(dāng)群體各個體趨于一致或局部最優(yōu)時，使Pc和Pm增加，而當(dāng)群體適應(yīng)度比較分散時，使Pc和Pm減少。由此對遺傳概率的修正，以有效防止遺傳算法“早熟”。式中fmax為當(dāng)前群體中最大適應(yīng)度值，f′為待交叉?zhèn)€體中適應(yīng)度較大的值或待變異的個體適應(yīng)度值，fˉ為當(dāng)前群體的平均適應(yīng)度值，K1、K2、K3和K4為常數(shù)，一般地，取K1=K2=1，K3=K4=0.5。

（6）計算新群體中各個個體的適應(yīng)度值，并檢驗(yàn)停機(jī)準(zhǔn)則是否滿足，若滿足則停止GA運(yùn)算，轉(zhuǎn)向步驟⑹，否則，轉(zhuǎn)向步驟⑷。

（7）將最后一代的群體適應(yīng)度最大的個體作為GA所尋求的最優(yōu)結(jié)果，將這個個體進(jìn)行編碼，即可得到經(jīng)遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)。

（8）根據(jù)GA 所得到的神經(jīng)網(wǎng)絡(luò)，對待分的類影像進(jìn)行影像的分類。

6 算例分析

算例采用遙感圖像地物波譜特征數(shù)據(jù)（數(shù)據(jù)源自南京大學(xué)）。遺傳神經(jīng)網(wǎng)絡(luò)模型及其L-M 訓(xùn)練的BP算法均在MATLAB 環(huán)境下編程實(shí)現(xiàn)。算法的編程實(shí)現(xiàn)充分運(yùn)用了MATLAB軟件工具箱（遺傳算法和神經(jīng)網(wǎng)絡(luò)工具箱）強(qiáng)大功能，程序簡潔易操作。

運(yùn)用GA-BP 算法和L-M 改進(jìn)BP 算法分別對同一訓(xùn)練樣本和測試樣本進(jìn)行訓(xùn)練和測試，試驗(yàn)結(jié)果的相關(guān)圖表信息如下。

圖1 為運(yùn)用L-M 算法訓(xùn)練BP 算法得到的測試樣本實(shí)際輸出值與目標(biāo)輸出值之間的匹配圖。可以看出這種改進(jìn)算法可以成功應(yīng)用于遙感影像分類中。

圖2表明算法在訓(xùn)練了242步后，實(shí)際輸出與目標(biāo)輸出之間的匹配程度很大，說明運(yùn)用L-M 算法訓(xùn)練BP 網(wǎng)絡(luò)得到的模型在模型優(yōu)化方面已經(jīng)有了很大程度的提高。這種進(jìn)化的BP算法是所有進(jìn)化BP算法中收斂最快的，但是它需要很大的內(nèi)存，收斂速度的提高也很大程度上依賴于隱層神經(jīng)元的數(shù)目。如果這種網(wǎng)絡(luò)模型中沒有足夠多的隱層神經(jīng)元則在進(jìn)行樣本訓(xùn)練時，誤差平方和的值會停留在某一數(shù)量級而無法跳過這個閾值。如圖3，模型選用50個隱層神經(jīng)元，誤差曲線圖形收斂在10-1精度級附近而無法跳出這個可能的局部極值范圍。然而，隨著隱層神經(jīng)元數(shù)目的增加，網(wǎng)絡(luò)較快收斂到設(shè)計的精度閾值。圖2 中，選取隱層神經(jīng)元的數(shù)目為80訓(xùn)練242步后誤差平方和小于10-6級。

圖4 表示GA-BP 算法測試樣本實(shí)際輸出與目標(biāo)輸出之間的匹配情況，可以看出運(yùn)用GA-BP算法能得到與L-M算法訓(xùn)練的BP算法相當(dāng)精度的結(jié)果。

圖5 表明GA-BP算法運(yùn)用傳統(tǒng)GA訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值過程中，遺傳訓(xùn)練有較好的收斂能力。它根據(jù)適應(yīng)度函數(shù)，遺傳算法以相應(yīng)的擇優(yōu)軌跡得到最優(yōu)的解向量。圖5中當(dāng)遺傳一定代數(shù)后種群平均值的變化趨勢幾乎與最優(yōu)解的變化趨勢重合，說明遺傳操作已經(jīng)趨于收斂，也表明遺傳BP具有一定的穩(wěn)健特性。

表1 為L-M 訓(xùn)練BP 算法和GA-BP 算法兩種模型分別對同一測試樣本的測試結(jié)果（部分），結(jié)果顯示運(yùn)用遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值，優(yōu)化得到的混合遺傳BP 算法與L-M 算法改進(jìn)的BP 算法具有相當(dāng)?shù)木取６鳯-M算法改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)是一種進(jìn)化算法，其模型優(yōu)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)。

表1 兩種模型分別對同一測試樣本的測試結(jié)果

從以上對比分析中，可以看出這種遺傳算法與BP神經(jīng)網(wǎng)絡(luò)的結(jié)合，有相互補(bǔ)充和彼此增強(qiáng)的一面。它具有很強(qiáng)的收斂性和穩(wěn)定性。因此，將其應(yīng)用于測繪遙感影像分類識別是可行的。

7 結(jié)束語

本文對遺傳算法（GA）和BP神經(jīng)網(wǎng)絡(luò)各自優(yōu)缺點(diǎn)進(jìn)行簡單的對比分析之后，提出運(yùn)用遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值得到遺傳神經(jīng)混合算法（GABP）。在MATLAB 環(huán)境下實(shí)現(xiàn)GA-BP 算法和L-M 改進(jìn)BP 算法的計算程序，并對同一算例進(jìn)行試驗(yàn)，得到了精度相當(dāng)?shù)慕Y(jié)果，論證了遺傳神經(jīng)網(wǎng)絡(luò)有很強(qiáng)的收斂能力、穩(wěn)健性及收斂速度快的優(yōu)點(diǎn)和在影像分類應(yīng)用中表現(xiàn)出的優(yōu)越性。