基于量子粒子群方法訓練ANFIS模型

張正金 吳劍威

（1 巢湖學院，安徽 巢湖 238000）（2 合肥師范學院，安徽 合肥 230601）

基于量子粒子群方法訓練ANFIS模型

張正金1吳劍威2

（1 巢湖學院，安徽 巢湖 238000）（2 合肥師范學院，安徽 合肥 230601）

論文提出一種基于量子行為粒子群算法優化自適應模糊推理系統模型(ANFIS)參數，與之前使用梯度下降方法（Gradient Decent Method）不同，論文使用QPSO方法來訓練ANFIS模型中隸屬度函數的參數。經過訓練后的ANFIS模型可以應用到非線性系統模型和混沌時序的預測。通過幾組仿真實驗結果表明基于量子粒子群方法訓練ANFIS模型要優于基于粒子群算法方法訓練ANFIS模型。

粒子群；量子粒子群；模糊系統；ANFIS

1 介紹

模糊系統[1-2]已經成功的應用在了多個領域，例如系統建模和控制。許多神經學習或者統計學習方法中提出了利用自動生成模糊規則的方法來減輕系統的設計并提高系統性能。模糊推理系統采用ifthen規則的模型來對人類知識和推理過程中對那些不能進行精確的定量分析來進行定性的建模。Takagi和Sugeno首次提出模糊建模和模糊識別理論，Kang實際應用于控制、預測和推理過程中[3]。

論文采用基于自適應神經網絡模糊推理系統（簡稱ANFIS）[4]，它可以作為構造模糊if-then規則的依據，來生成一組適當的隸屬度函數來生成輸入輸出對。通過訓練過程生成的自適應模糊系統被稱為進化模糊系統，也是近些年的研究熱點。ANFIS是其中的一個代表。TSK是一個新的方法并且應用于復雜應用。已經證明利用適當的規則，TSK系統可以接近于任何目標。因此，TSK系統已經ANFIS模型中得到廣泛應用，具有良好的適應性，它的優點可以用于局部線性化建模和傳統線性狀態估計與控制技術。

ANFIS同時具有神經網絡和模糊系統二者的優點[5]。然而，ANFIS訓練參數時遇到的一個主要問題是真值的實際應用。ANFIS最主要的訓練方法是基于梯度下降法，在每一步計算梯度時因為使用鏈式規則可能會導致局部最小值問題。在局部搜索方法使用梯度方法是有效的，其搜索性能也取決于參數的初始值，這樣也使得很難找到全局最優的學習速率。模糊系統的設計主要用于解決優化問題，研究人員已經提出在模糊系統設計中使用遺傳算法（GA）和粒子群優化算法（PSO）[6]和多粒子協同優化算法[7]。但是由于基本PSO算法不能保證全局的收斂性，孫俊等人提出了基于量子行為的粒子群算法（QPSO）[8]以及改進量子粒子群算法[9-10]。QPSO算法是一種變異的PSO，方法和靈感來源于量子力學。

QPSO的迭代方程優于PSO，它是全局收斂的。除此之外，與PSO不同的是，QPSO不需要速度矢量同時需要更少的參數調整，從而更容易實現。QPSO算法已經成功應用于廣泛的連續優化問題。許多實證研究表明，QPSO具有較強的全局搜索能力，解決了許多連續優化問題。

2 模糊系統和ANFIS模型

2.1 模糊系統

本節主要講述模糊系統在優化方面的研究和數學模型。TSK模糊模型是由Takagi，Sugeno和Kang等人提出的。用形式化的方法來從一個輸入—輸出數據集中生成模糊規則。Takagi-Sugeno-Kang（TSK）模糊系統能夠實現零階和一階。第i條規則用Ri來表示，TSK模糊系統的表示形式如下所示：

Rj:if x1（k） is Ai1and…and xn（k） is Ainthen y（k） is fi，i=1，…，r

這里，k 表示的是時間步長，x1（k），…，xn（k） 表示輸入變量，y（k）是系統輸出變量，Aij表示模糊集合，fi表示相應的功能。模糊集合Aij使用鐘形隸屬度函數，公式如下所示

其中，ai，bi和 ci是模糊集合Aij的參數，ai表示寬度的一半，bi（連同ai） 用來控制交叉點的斜率，Cij表示隸屬度函數相應的中心。在模糊推理機中模糊與運算由模糊理論中的代數積來實現的。因此給出一個輸入數據集合 x=（x1，…，xn），第 i條規則的隸屬度函數 μ（x）由以下計算得出

對于零階和一階TSK類型模糊系統，其相應函數fi分別設置為真值pi0，輸入變量的線性函數為假設有在一個模糊系統中有r條規則，則由以下方法進行加權平均后得出系統的輸出，

QPSO算法提出在每一個規則中去優化參數ai，bi和 ci。

2.2 ANFIS系統結構的概述

1993年，由Jang首次提出神經模糊網絡，即ANFIS模型。ANFIS是自適應網絡，節點是自適應的一部分，這意味著它們的輸出取決于參數屬于這些節點。兩種學習算法在訓練參數期間去改變參數來優化性能。為了簡單起見，系統采用兩個輸入和一個輸出。TSK模糊模型的規則機包含兩個模糊if-then規則。一個典型的TSK模糊模型表示的兩個模糊規則如下：

其中，x，y表示ANFIS的輸入，A和B表示模糊集合，fi表示一階多項式，同時也代表了輸入一階TSK模糊推理系統。在上述的規則中，pi，qi和ri表示的是參數集合，也是隨之需要討論的參數問題。ANFIS結構如圖1所示，在每一層節點功能如下所述：第一層：這一層節點包含了自適應功能，描述如下：

其中，x，y表示輸入節點，A和B表示語言標簽，μ（x）和μ（y）表示隸屬度函數，通常采用一個鐘形來表示最大值是1，最小值是0

其中，ai，bi和 ci是集合參數，隨著這些參數值的改變，鐘形函數也會發生相應的變化，從而在語言標簽A和B方面表現出不同的隸屬度函數的形式。事實上任何連續和分段可微函數在這一層都具有河溝的候選節點，如常用的梯形或者三角隸屬度函數。參數在這一層稱為前提參數。

第二層：這一層為固定節點，節點用圓圈來表示，標記為Π，與節點函數乘以輸入信號作為輸出輸出ωi表示規則的觸發強度，節點輸出表示模糊規則的觸發強度。

第三層：該層為固定節點，節點用圓圈表示，并標記為Ni，每個節點使用歸一化函數來計算第i個節點的觸發強度除以所有節點的觸發強度之和。

方便起見，這一層的輸出稱為歸一化觸發強度。

第五層：該層也為固定節點。整體輸出用線性組合來表示后件參數。

圖1 ANFIS結構

2.3 混合學習算法

可以看出有兩個可修改的參數集合，即{ai，bi，ci}表示前件參數，{pi，qi，ri}表示后件參數。這種結構的訓練目的是通過調整上述兩個參數集合來使得ANFIS輸出合適的訓練數據。每個混合學習算法都是有兩個傳遞：一個向前傳遞，一個向后傳遞。在向前傳遞中，前件參數是為BP算法，利用最小二乘法來確定后件參數。找出最優參數時，固定后件參數并向后傳遞。輸出節點的錯誤率傳播東輸出端到輸入端，前件參數利用梯度下降法進行更新。

更新前件參數的方法主要使用梯度下降法或者卡爾曼濾波方法，缺點是容易陷入局部最優解。因此，該文主要采用QPSO算法來訓練ANFIS參數的目的主要是為了獲取全局最優解。

3 量子行為粒子群優化算法

對于M個個體，在PSO算法中，每個粒子在D維空間中被看成是沒有質量和體積的，在n次迭代中第 i個粒子的當前位置和速度表示為粒子的移動通過以下方程來完成：

for i=1，2，…，M； j=1，2，…，D， c1和 c2為加速因子，w 為慣性權重，向量Pi，n= （P1i，n，P2i，n…PDi，n）表示群體 i先前最優值的位置，Gn= （G1n，G2n…GDn）表示最優群體的位置和所有群體中全局最優位置，稱為最優最優值。不失一般性，我們考慮以下最大化問題：

f（x）是一個連續的目標函數，S是一個可行性空間，因此Pi，n的更新如下：

修建智慧樓宇，實現綠色校園 在很多高校，智慧樓宇可將建筑物的電力、照明、空調、排水、消防、弱電和安保等自動化地進行集中監視、控制和管理，為用戶提供安全舒適、便捷高效的工作與生活環境，改變以往的教學樓使用效率不高，有時擁擠、有時閑置，中央空調、照明、電器等能源沒有得到及時合理控制，造成很大浪費的情況。通過建設智能教學樓，使整個系統和各種設備處在最佳的工作狀態，并保證系統運行的經濟性，以及管理的現代化、信息化和智能化，實現能耗的有效控制，減少能源浪費，實現綠色校園，提升和改善師生的校園生活品質。

或

在QPSO算法中，每個單粒子被認為在量子空間是受限的粒子。粒子群的狀態以波段函數Ψ為特征，其中 Ψ2表示位置的概率密度函數。假設在i個粒子中的在D維空間的第n次迭代中，潛在的中心在第 j維中（1≤j≤D）。 Vji，n+1= Xji，n-pji，n，可以得出在第n+1次歸一化的波動函數為

滿足的約束條件是如果 Yji，n+1→∞ 那么 Ψ（Yji，n+1）→0。 Lji，n是波段函數的特征長度。 通過波段函數的統計描述，給出的概率密度函數如下：

因此概率分布函數如下：

使用蒙特卡羅方法，在第n+1次迭代中可以測量出第i個粒子位置的第j維組成

3.1 量子粒子群算法如下：

步驟1：在空間中初始化粒子群中粒子的位置；

步驟2：計算出粒子群的平均最優位置；

步驟3：計算粒子的當前適應值，并與前一次迭代的適應值比較，如果當前適應于前一次迭代的適應值，則根據粒子的位置更新為粒子當前的位置，即如 f[Xi（t）]＜ f[Pi（t）]，則 Pi（t）=Xi（t）；

步驟 4：計算群體當前的全局最優位置，即 G（t） =Pg（t）， g=argmin {f [Pi（t）]}

步驟5：若當前全局最優位置優于上一次迭代的全局最優位置，則群體的全局最優位置更新為該當前全局最優值；

步驟6：通過對粒子的每一維進行計算得到一個隨機點的位置；

步驟7：根據進化公式得出粒子新的位置；

步驟8：重復步驟2-7，直至循環結束。

3.2 量子粒子群優化ANFIS算法過程：

步驟1：迭代次數t=1，初始化粒子群，第i個粒子的位置為Xi（t）；

步驟2：將ANFIS的前件參數設置為每個粒子的位置，然后根據公式（1-6）計算規則的適應度函數wj和歸一化適應度值（（1≤j≤l，l為規則數），根據公式計算得出系數矩陣A；然后采用公式（12），計算出后件參數；最后根據公式（14）計算出該粒子所對應的RMSE（即均方根誤差），作為該粒子的當前適應度值 fitness（Xi（t））=RMSEi（t）；

步驟3：計算得出粒子群平均最優位置；

步驟4：計算粒子的當前適應值，若優于上一次迭代的適應值比較，則將更新為當前的粒子位置，即如果

f[Xi（t）]＜ f[Pi（t）]，則 Pi（t）=Xi（t）；

步驟 5：計算群體當前的全局最優位置，即 G（t）=Pg（t）；g=argmin{f[Pi（t）]}；

步驟6：若當前全局最優位置優于上一次迭代的全局最優位置，則將群體的全局最優位置更新為當前值；

步驟7：對粒子的每一維，計算得到一個隨機點的位置；

步驟8：根據進化公式計算粒子新的位置；

步驟9：重復步驟2-7，直至循環結束。

4 系統仿真實驗

接下來將通過兩組仿真實驗來驗證基于量子粒子群算法來訓練ANFIS模型的有效性和可行性。實驗主要利用非線性系統辨識、多峰函數以及對于混沌時間序列的預測。對于誤差分析，這里采用統一的均方根誤差（root mean squared error，RMSE）方法，

其中f（i）為實際的輸出，f0（i）為模糊系統的輸出，n為系統輸入輸出數據的總個數。

PSO算法和QPSO算法的粒子群規模為50個，QPSO算法的α值從1遞減到0.5，PSO算法中的參數設置為三種算法ω=0.7，c1=1.5，c2=1.5，三種算法ANFIS，PSO-ANFIS和QPSO-ANFIS的迭代次數均取為2000次。

模型1：非線性單輸入單輸出系統

非線性系統方程為：

其中x為輸入變量，y為輸出變量，在ANFIS模型中，我們取五個隸屬度函數，則將會產生五條模糊規則，隸屬度函數取為高斯函數，高斯函數中包含兩個參數，則我們分別對模糊系統的前件參數的個數設置為10，后件的參數個數也設置為10，同時我們在區間選取100個數值作為模糊系統輸入變量x的輸入數據。

圖2 系統實際輸出與QPSO-ANFIS輸出誤差

模型2：非線性多輸入單輸出系統

非線性系統方程為：

其中x1，x2，x3是非線性系統的三個輸入變量，y為輸出變量，對每個輸入變量分別取兩個隸屬度函數來進行建模，則該系統是由八條模糊規則組成，隸屬度函數取為高斯函數。則我們對該模糊推理系統的前件參數設置為16，后件參數個數也設置為32個。對區間范圍[-1，1]×[-1，1]×[-1，1]中選取500個點作為系統的輸入數據。對于這500組數據，其中250組用于訓練數據，另外250組用于測試。

圖3 實際輸出與模糊系統輸出誤差

從表1中所列出的結果可以我們看出，使用了QPSO訓練ANFIS模型后的模糊系統的均方根誤差要比ANFIS模型的均方根誤差要小。如圖3所表示的是模糊系統的訓練數據誤差與模糊系統在QPSO-ANFIS方法后的訓練數據的誤差。如圖4所表示的是模糊系統的測試數據誤差與模糊系統在QPSO-ANFIS方法后的測試數據的誤差。

表1 ANFIS，PSO-ANFIS與QPSO-ANFIS數據對比

模型3：QPSO-ANFIS在混沌時間序列中的預測Machey-Glass的微分方程是：

其中 τ為時延參數；t為時間，x（t）為混沌信號

因為初始條件設置的敏感性，這里給定的混沌時間序列的初始值是x（0）=1.2；時延τ=17。取D=4，k=p=6，則對于模糊系統訓練數據的輸入變量具有如下：

在本次實驗的模糊系統訓練的輸入輸出數據形式如下：

data（t） =[x（t-18） x（t-12） x（t-6） x（t） x（t+6）]

其中 x（t-18），x（t-12），x（t-6），x（t）為系統的輸入變量，x（t+6）為系統的預測輸出。

該非線性系統有4個輸入變量，對每個變量分別取2個隸屬度函數進行建模。從t=118～1117，可以從中選中選取1000個點作為系統的輸入數據。

由此我們得到了1000組符合這一非線性系統關系的數據對，其中前500組用于訓練，另外500組用于測試。使用兩種算法分別用于識別此非線性系統。三種算法的迭代次數均取為2000次，系統在x（624）～x（1124）的數據與模糊系統在QPSO-ANFIS算法下的預測輸出。

圖4 期望輸出與QPSO-ANFIS方法下的模糊系統輸出對比圖

5 結論

在本文中，提出了一種利用量子粒子群算法應用于ANFIS模型中去，同時分別將QPSO應用到不同的輸入系統、以及混沌時間的序列預測，根據實驗的仿真結果表明，QPSO-ANFIS的誤差要明顯優于ANFIS和PSO-ANFIS，提高了全局尋優能力。

參考文獻：

[1]ZADEH L A.Fuzzy sets[J].Information and Control，l965，（8）:338-353.

[2]王立新.模糊系統與模糊控制教程[M].北京:清華大學出版社，2003:70-98.

[3]謝季堅.模糊數學方法及其應用（第三版）[M].武漢:華中科技大學出版社，2005.

[4]JANG J R.ANFIS:adaptive-network-based fuzzy inference system[J].IEEE Transactions on Systems Man&Cybernetics，1993，（3）:665-685.

[5]張小娟.自適應神經模糊推理系統（ANFIS）及其仿真[J].電子設計工程，2012，（5）:11-13.

[6]李愛國，覃征，鮑復民，等.粒子群優化算法[J].計算機工程與應用，2002，（21）:1-3.

[7]李愛國.多粒子群協同優化算法[J].復旦學報（自然科學版），2004，（5）:923-925.

[8]SUN J，XU W，FENG B.A global search strategy of quantum-behaved particle swarm optimization[C]//Proceedings of the 2004 IEEE Conference on Cybernetics and Intelligent Systems， Singapore， 2004:111-115.

[9]LI P,XIAO H.An improved quantum-behaved particle swarm optimization algorithm[J].Applied Intelligence，2014，（3）:1-3.

[10]CHEN W，ZHOU D，SUN J，at el.Improved quantum-behaved particle swarm optimization algorithm based on comprehensive learning strategy[J].Control&Decision,2012，（27）:719-712.

A STUDY ON TRAINING ANFIS MODEL BASED ON THE METHOD OF QUANTUM PARTICLE SWARM

ZHANG Zheng-jin1WU Jian-wei2
（1 Chaohu College， Chaohu Anhui 238000）（2 Hefei Normal University， Hefei Anhui 230601）

This paper proposes a parameter of self-adaptive fuzzy inference system （ANFIS） based on quantum particle swarm optimization algorithm, different from the previous Gradient Decent Method. It uses Quantum-behaved Particle Swarm Optimization （QPSO） method to train the parameters of membership function in ANFIS model.The ANFIS trained by the proposed method can be applied to nonlinear system modeling and chaotic prediction.The several simulation results show that training ANFIS model based on QPSO method performs much better than the original Particle Swarm Optimization （PSO）method.

Particle swarm；Quantum particle swarm；Fuzzy system；ANFIS

TP399

A

：1672-2868（2017）03-0042-08

責任編輯：陳 侃

2017-03-05

巢湖學院校級科研項目（項目編號：XLY-201613）；國家自然科學基金項目（項目編號：11401056）

張正金（1985-），男，安徽合肥人。巢湖學院信息工程學院，助教。研究方向：模糊系統與進化計算。