一種模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)的確定方法

摘要：結(jié)合FGP（FuzzyGridPartition，模糊網(wǎng)格劃分）和FNN(FuzzyNeuralNetwork，神經(jīng)網(wǎng)絡(luò))提出一種有效確定模糊神經(jīng)網(wǎng)絡(luò)模型中結(jié)構(gòu)及參數(shù)的方法。該方法首先從樣本數(shù)據(jù)中采用模糊網(wǎng)格劃分確定出最佳規(guī)則數(shù)，從而可確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)；然后采用BP算法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行調(diào)節(jié)，從而確定出模糊神經(jīng)網(wǎng)絡(luò)的參數(shù)。采用這種方法構(gòu)建我國經(jīng)濟(jì)增長的模糊模型。研究表明這種方法構(gòu)建的模糊神經(jīng)網(wǎng)絡(luò)具有更高的精度。

關(guān)鍵詞：模糊神經(jīng)網(wǎng)絡(luò)；模糊網(wǎng)格劃分；反向傳播學(xué)習(xí)算法

中圖分類號(hào)：TP393文獻(xiàn)標(biāo)志碼：A

文章編號(hào)：1001—3695(2007)03—0247—03

在構(gòu)建FNN(FuzzyNeuralNetwork，模糊神經(jīng)網(wǎng)絡(luò))[1—4]時(shí)，由于事先不知道模糊規(guī)則數(shù)，而使網(wǎng)絡(luò)結(jié)構(gòu)無法確定，一般的方法是考慮覆蓋所有可能規(guī)則來構(gòu)造神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。由于規(guī)則的冗余性和不精簡性，當(dāng)前件語言變量個(gè)數(shù)及每個(gè)語言變量劃分的模糊子集比較多時(shí)，將導(dǎo)致神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)非常復(fù)雜[5]。采用FGP（FuzzyGridPartition，模糊網(wǎng)格劃分)[6]可得到精簡的規(guī)則數(shù)，但模糊網(wǎng)格劃分在對(duì)語言變量進(jìn)行模糊劃分時(shí)，對(duì)隸屬函數(shù)選取有較高的要求，否則很難應(yīng)用于高精度的系統(tǒng)，但通常很難得到準(zhǔn)確的隸屬度函數(shù)，而且，僅僅采用模糊網(wǎng)格劃分，后件部分參數(shù)也不準(zhǔn)確，這樣得到的模糊系統(tǒng)通常沒有好的性能[7]。

1網(wǎng)絡(luò)結(jié)構(gòu)的確定

通過模糊網(wǎng)格劃分來提取最優(yōu)規(guī)則數(shù)及參數(shù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)如圖1所示。規(guī)則的提取主要靠前三層，即A層至C層來確定，A層為輸入層，B層為隸屬度函數(shù)生成層，即產(chǎn)生每個(gè)語言變量的各個(gè)模糊子集的隸屬度值，C層為規(guī)則提取層，具體操作見第1.2節(jié)，D層、E層主要是結(jié)構(gòu)確定后用于調(diào)節(jié)網(wǎng)絡(luò)參數(shù)。

1.1確定初始隸屬度函數(shù)

在模糊系統(tǒng)中，系統(tǒng)行為的好壞取決于控制與決策規(guī)則的準(zhǔn)確與否，而控制與決策規(guī)則主要取決于隸屬函數(shù)，對(duì)于一個(gè)沒有先驗(yàn)知識(shí)的系統(tǒng)，確定準(zhǔn)確的隸屬函數(shù)不是一件容易的事[7]。

通常，人們描述一種事物的屬性，往往用三個(gè)語言來表示，如“大”“中”“小”，“高”“中”“低”等，而模糊系統(tǒng)正是使用這樣的語言變量來描述模糊規(guī)則的。以下取一個(gè)簡單的兩輸入單輸出系統(tǒng)為例來說明隸屬度函數(shù)的構(gòu)成。假設(shè)有N組輸入—輸出采樣數(shù)據(jù)對(duì):（x₁，x₂，y)₁，(x₁，x₂，y)₂，…，(x₁，x₂，y)N。其中x₁和x₂為輸入，y為輸出。假設(shè)所有輸入、輸出、變量均為正值，下面以輸入變量x1為例，給出計(jì)算隸屬函數(shù)的步驟:

（5）對(duì)所有N組采樣數(shù)據(jù)重復(fù)以上四個(gè)步驟。

（6）計(jì)算每條規(guī)則的置信度，可由該規(guī)則前件的出現(xiàn)次數(shù)（pn）與總樣本個(gè)數(shù)(N)之比來表示：

該值越大，表明該規(guī)則的重要程度越大。對(duì)于規(guī)則層的九個(gè)節(jié)點(diǎn)，可分別計(jì)算pn值，并從大到小進(jìn)行排序，排在前面的規(guī)則的重要度優(yōu)于排在其后的。如果根據(jù)經(jīng)驗(yàn)或?qū)嶋H情況，給出一個(gè)小的正數(shù)ε，如果一條規(guī)則中pnN≤ε，則可忽略，這樣就可以得到k(k≤9)個(gè)有效規(guī)則，即k條最佳規(guī)則。

(7)確定得到的k條規(guī)則的Then部分。

對(duì)于If部分相同的幾條規(guī)則，Then部分同時(shí)為“L”，“M”，“H”的情況很少，大多數(shù)情況是Then部分為一個(gè)或兩個(gè)相鄰的語言變量。Then部分為一個(gè)語言變量時(shí)，該語言變量就是Then部分的輸出；當(dāng)Then部分為兩個(gè)相鄰的語言變量時(shí)，就要同時(shí)考慮這兩個(gè)語言變量所對(duì)應(yīng)規(guī)則的各自的出現(xiàn)概率及最大激活程度，語言變量所對(duì)應(yīng)規(guī)則的出現(xiàn)概率及最大規(guī)則度均大于另一個(gè)語言變量的，則該語言變量即為Then部分的輸出，反之，則計(jì)算每條規(guī)則的出現(xiàn)概率與最大激活程度的乘積，該乘積大的規(guī)則為所選定的規(guī)則。

通過以上七個(gè)步驟，可以直接從樣本數(shù)據(jù)中獲取If-Then形的模糊規(guī)則，并可對(duì)規(guī)則進(jìn)行提取，得到有用的規(guī)則，去掉沒有或很少得到計(jì)算的規(guī)則。

2網(wǎng)絡(luò)參數(shù)的調(diào)整

從N組采樣數(shù)據(jù)中提取了k條規(guī)則。利用這些規(guī)則可以得到從輸入到輸出的模糊神經(jīng)網(wǎng)絡(luò)構(gòu)成的模糊系統(tǒng)。系統(tǒng)精度取決于前件隸屬函數(shù)及后件參數(shù)是否準(zhǔn)確。如果一個(gè)系統(tǒng)很復(fù)雜或關(guān)于該系統(tǒng)的信息不充分，就很難得到準(zhǔn)確的前件隸屬函數(shù)及后件參數(shù)。當(dāng)系統(tǒng)的推理精度不夠高時(shí)，就需要調(diào)整前件隸屬函數(shù)及后件的參數(shù)。可以利用神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)功能來調(diào)整隸屬函數(shù)的參數(shù)，使推理精度得到提高。這里采用反向傳播學(xué)習(xí)算法——BP（Back-Propagation）算法進(jìn)行學(xué)習(xí)。訓(xùn)練過程包括七步。對(duì)于第i組采樣數(shù)據(jù)(x₁，x₂，y):

3我國經(jīng)濟(jì)增長的模糊模型

設(shè)有n個(gè)投入要素，則產(chǎn)出Y與投入要素之間的關(guān)系為[8]

式中α，β，γ是常數(shù)，并假設(shè)σ+β=1（即產(chǎn)出的規(guī)模效益不變），這里，K，L分別代表資本投入、勞動(dòng)投入。基于這種投入產(chǎn)出關(guān)系，以我國31個(gè)省、市為樣本，指標(biāo)為：GDP，固定資產(chǎn)，人力資本(具體計(jì)算見文獻(xiàn)［9，10])，如表1所示。下面就采用前面介紹的方法來構(gòu)建我國經(jīng)濟(jì)增長的模糊模型。

3.1提取模糊規(guī)則

按照第1.1節(jié)介紹的方法產(chǎn)生變量x₁(固定資產(chǎn))，x₂(人力資本)，y(經(jīng)濟(jì)產(chǎn)出GDP)初始的隸屬度函數(shù)，圖3、4虛線部分表示x₁，x₂的隸屬度函數(shù)。按照第1.2節(jié)介紹的算法，對(duì)31個(gè)樣本得到可能的九條規(guī)則情況如表2所示。從表2可以看到規(guī)則2和規(guī)則6是冗余的，在樣本數(shù)據(jù)中，x₁屬于L，x₂屬于H或x₁屬于H，x₂屬于L的情況是不存在的，這樣只有七條規(guī)則是有用的。

3.2調(diào)整參數(shù)

用第3.1節(jié)得到的結(jié)果構(gòu)成的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。A至D層產(chǎn)生隸屬度函數(shù)，E層的七個(gè)節(jié)點(diǎn)代表七條規(guī)則，D層到E層的連接由具體規(guī)則來確定，E層到F層的連接權(quán)值由規(guī)則后件確定。

根據(jù)規(guī)則構(gòu)成的網(wǎng)絡(luò)由于前件隸屬度函數(shù)的不精確性和后件參數(shù)值的不準(zhǔn)確性，所能達(dá)到的精度不高，通過BP算法對(duì)網(wǎng)絡(luò)參數(shù)進(jìn)行調(diào)整，訓(xùn)練1000步后，網(wǎng)絡(luò)基本收斂，目標(biāo)函數(shù)err=1/2∑(y-y_i)2=0.363，前后的參數(shù)值如表3所示，圖3、4實(shí)線部分表示訓(xùn)練后x₁、x₂隸屬度函數(shù)。

4結(jié)束語

本文提出了一種有效的模糊神經(jīng)網(wǎng)絡(luò)模型中結(jié)構(gòu)及參數(shù)確定的方法，主要分兩部分：①運(yùn)用模糊網(wǎng)格劃分確定最佳規(guī)則數(shù)，得到最精簡的網(wǎng)絡(luò)結(jié)構(gòu)；②采用BP算法調(diào)整網(wǎng)絡(luò)的前件及后件部分的參數(shù)，得到優(yōu)化的網(wǎng)絡(luò)參數(shù)。運(yùn)用這種方法來構(gòu)建我國經(jīng)濟(jì)增長的模糊模型，得到如下的仿真結(jié)果：

圖5表示訓(xùn)練前后的樣本點(diǎn)擬合圖，從圖中可以看出，訓(xùn)練后的網(wǎng)絡(luò)模型其輸出（產(chǎn)出GDP）對(duì)實(shí)際樣本點(diǎn)值有更好的逼近效果，即比參數(shù)訓(xùn)練前擬合得更好。

圖6表示訓(xùn)練前后的絕對(duì)誤差ab_err=|y_i-y|。參數(shù)訓(xùn)練前，平均絕對(duì)誤差為0.2181；訓(xùn)練后平均絕對(duì)誤差達(dá)到0.0823，從圖中可看出，整體上樣本誤差明顯下降了。

圖7表示訓(xùn)練前后的相對(duì)誤差re_err=|（y_i-y）/y_i|。參數(shù)訓(xùn)練前，平均相對(duì)誤差為0.2724，相對(duì)誤差絕大多數(shù)都在0.15以上，超過0.15的有23個(gè)樣本點(diǎn)；訓(xùn)練后，平均相對(duì)誤差達(dá)到了0.0817，相對(duì)誤差絕大多數(shù)都在0.15以下，超過0.15的僅有4個(gè)樣本點(diǎn)，顯然，訓(xùn)練后的模糊神經(jīng)網(wǎng)絡(luò)具有更高的精度和更好的性能。

本文中所涉及到的圖表、注解、公式等內(nèi)容請(qǐng)以PDF格式閱讀原文。