模糊認(rèn)知圖學(xué)習(xí)算法及應(yīng)用綜述

劉曉倩 張英俊 ,3 秦家虎 李卓凡 梁偉玲 李宗溪

模糊認(rèn)知圖(Fuzzy cognitive map,FCM)作為一種強(qiáng)有力的軟計算方法,兼具神經(jīng)網(wǎng)絡(luò)和模糊邏輯的優(yōu)勢,是不確定性人工智能理論核心工具之一[1–4].由于FCM 在抽象性、靈活性、適應(yīng)性、可解釋性和模糊推理等方面的優(yōu)勢,目前已廣泛應(yīng)用于眾多領(lǐng)域,如時間序列分析[5]、決策支持[6–8]、模式識別[9]、醫(yī)療診斷[10–12]等.

從拓?fù)浣Y(jié)構(gòu)上來看,FCM 是表示因果關(guān)系的模糊有向圖,圖中的節(jié)點(diǎn)可以表示真實(shí)世界中的概念(事件、動作、值、目標(biāo)等),加權(quán)邊則表示概念節(jié)點(diǎn)之間的因果連接.從功能上來看,FCM 是模糊邏輯和神經(jīng)網(wǎng)絡(luò)結(jié)合而來的產(chǎn)物,具有知識表示和模糊推理的優(yōu)勢.FCM 通過強(qiáng)調(diào)結(jié)構(gòu)化的因果關(guān)系,觀測概念節(jié)點(diǎn)隨時間的演化狀態(tài),以一種接近人類認(rèn)知的方式建模高度非線性系統(tǒng)中的不確定性.更準(zhǔn)確地說,FCM 可以通過對原始觀測數(shù)據(jù)的學(xué)習(xí)與挖掘,抽象出更高級的數(shù)據(jù)表示和演化模式,模擬特定場景,支持決策過程和預(yù)測模擬系統(tǒng)的未來狀態(tài),為復(fù)雜系統(tǒng)的靜態(tài)和動態(tài)分析提供必要的手段.FCM 通常具有如下特點(diǎn):

1)對不確定和不完全信息的強(qiáng)大的語義表示和解釋能力;

2)概念間的動態(tài)的、可組合的、可調(diào)的和潛在的表示關(guān)系的捕獲能力[13];

3)面向復(fù)雜系統(tǒng)和時間序列分析等不確定性人工智能模型的建模能力[4].

FCM 在給定初始狀態(tài)向量和初始權(quán)重矩陣的情況下,能夠模擬復(fù)雜動態(tài)系統(tǒng)隨時間的演化過程或狀態(tài),從而為因果“假設(shè)”問題提供直接的推理結(jié)果.然而,推理結(jié)果的穩(wěn)健性和準(zhǔn)確性高度依賴于給定FCM 的權(quán)重矩陣.因此,FCM 的權(quán)重矩陣學(xué)習(xí)問題是FCM 理論和應(yīng)用研究的焦點(diǎn)之一.早期從學(xué)習(xí)范式的角度,權(quán)重矩陣學(xué)習(xí)方法主要分為赫布(Hebbian)學(xué)習(xí)算法、進(jìn)化學(xué)習(xí)算法以及混合學(xué)習(xí)算法[14].在上述學(xué)習(xí)算法分類基礎(chǔ)上,Stach 等[15]梳理和總結(jié)2012 年之前的研究工作,將其分為基于專家的方法和計算方法.Felix 等[16]在2019 年總結(jié)和分析FCM 在學(xué)習(xí)算法方面的研究成果,其分類模式類似于早期基于學(xué)習(xí)范式的分類.2020 年,Shen 等[17]從專家和數(shù)據(jù)驅(qū)動的角度概述近期的一系列從不同角度提出的FCM 學(xué)習(xí)算法.

以上文獻(xiàn)從不同角度歸納和總結(jié)FCM 的相關(guān)研究工作,但目前缺乏對FCM 變體及其最新研究進(jìn)展的學(xué)術(shù)文獻(xiàn).為更全面地掌握FCM 的發(fā)展現(xiàn)狀及其面臨的挑戰(zhàn),本文重點(diǎn)梳理、歸納和總結(jié)其近年來的研究成果,為開展相關(guān)理論和應(yīng)用研究提供支持.從理論和應(yīng)用角度而言,FCM 研究框架如圖1 所示.本文的主要貢獻(xiàn)概括如下:

1)系統(tǒng)總結(jié)FCM 的拓展模型,比較分析各類模型的特點(diǎn)及優(yōu)缺點(diǎn).

2)依據(jù)FCM 現(xiàn)有學(xué)習(xí)范式,將FCM 學(xué)習(xí)算法劃分為3 類: 專家知識驅(qū)動的學(xué)習(xí)算法、自動學(xué)習(xí)算法和半自動學(xué)習(xí)算法.歸納總結(jié)每類算法的時間復(fù)雜度及優(yōu)缺點(diǎn).此外,本文從圖節(jié)點(diǎn)規(guī)模的角度,討論不同規(guī)模下的學(xué)習(xí)算法.

3)從FCM 學(xué)習(xí)算法分類的角度,總結(jié)各類算法的應(yīng)用場景.

4)系統(tǒng)地歸納和總結(jié)用于實(shí)施、測試和驗(yàn)證FCM 建模性能的軟件工具.

5)討論當(dāng)前FCM 學(xué)習(xí)算法及應(yīng)用研究面臨的挑戰(zhàn)以及未來的發(fā)展方向.

本文的結(jié)構(gòu)安排如下: 第1 節(jié)回顧FCM 的基本理論和概念;第2 節(jié)系統(tǒng)地闡述FCM 的學(xué)習(xí)算法,并對各類算法的原理、特點(diǎn)、優(yōu)缺點(diǎn)及發(fā)展現(xiàn)狀進(jìn)行了深入討論和分析;第3 節(jié)給出FCM 學(xué)習(xí)算法的相關(guān)應(yīng)用場景,并對應(yīng)用研究進(jìn)行分類總結(jié);第4 節(jié)總結(jié)目前現(xiàn)有的FCM 建模工具;第5 節(jié)給出FCM 學(xué)習(xí)算法的未來發(fā)展趨勢.

1 模糊認(rèn)知圖

FCM 是一種融合模糊邏輯和神經(jīng)網(wǎng)絡(luò)的概念推理圖,提供一種靈活、強(qiáng)有力的框架來表示人類知識和推理.與傳統(tǒng)的專家系統(tǒng)相比,FCM 能夠明確地描述“If-Then”規(guī)則,利用概念推理圖實(shí)現(xiàn)復(fù)雜系統(tǒng)的靜態(tài)和動態(tài)分析,具有兩類顯著特征[3]:

1)FCM 可表示節(jié)點(diǎn)間更為靈活的因果關(guān)系;

2)FCM 推理過程具有動態(tài)性和反饋性,導(dǎo)致其面臨時間復(fù)雜度高的挑戰(zhàn).

下面從FCM 的拓?fù)浣Y(jié)構(gòu)、推理機(jī)制、轉(zhuǎn)換函數(shù)和結(jié)構(gòu)拓展4 個方面展開詳細(xì)介紹.

1.1 拓?fù)浣Y(jié)構(gòu)

FCM 是一個4 元組 (C,W,A,f).C={C1,C2,···,CN} 表示圖的N個概念(節(jié)點(diǎn)).W:C×C→[-1,1],表示概念節(jié)點(diǎn)之間的因果權(quán)重矩陣.wij表示節(jié)點(diǎn)Ci對節(jié)點(diǎn)Cj的影響程度.狀態(tài)向量A:表示每個概念節(jié)點(diǎn)Ci在每個離散時間點(diǎn)t(t∈{1,2,···,T})的激活程度,.最后,轉(zhuǎn)換函數(shù)(傳遞函數(shù))f:R→I將多個因果事件對目標(biāo)概念的影響聚合起來,并將結(jié)果映射到預(yù)定義的取值區(qū)間.圖2 是一個6 節(jié)點(diǎn)模糊認(rèn)知圖及其權(quán)重矩陣.

圖2 6 個概念節(jié)點(diǎn)的FCM 案例的FCM 案例Fig.2 An FCM example with 6 concept nodes

節(jié)點(diǎn)Ci和節(jié)點(diǎn)Cj的因果權(quán)重解釋如下:

1)如果wij>0,則表示概念節(jié)點(diǎn)Ci對Cj產(chǎn)生積極的影響,節(jié)點(diǎn)Cj的值會隨著Ci值增加(減少)而增加(減少);

2)如果wij<0,則表示概念節(jié)點(diǎn)Ci對Cj產(chǎn)生消極的影響,節(jié)點(diǎn)Cj的值隨著Ci值增加(減少)而減少(增加);

3)如果wij=0,則表示概念節(jié)點(diǎn)Ci和節(jié)點(diǎn)Cj之間不存在因果關(guān)系.

1.2 推理機(jī)制

推理機(jī)制是指從已知的事實(shí)和規(guī)則中推導(dǎo)出新結(jié)論的過程.在FCM 中,推理規(guī)則(激活規(guī)則)用一種簡單而直觀的方式來描述模糊概念之間的關(guān)系,并支持基于這些關(guān)系推理出新的知識,幫助人們解決各種模糊性和不確定性的問題.從本質(zhì)上來看,FCM 的推理過程是一個“What-If”問題的回答過程[18].對于一個輸入到FCM 中的狀態(tài)向量,等價于生成這樣一個問答事件,即如果該事件(輸入這個狀態(tài)向量)發(fā)生,將會產(chǎn)生什么樣的影響.輸出則為這個狀態(tài)向量更新后的值即對該問題的回答,而做出這個回答的過程即為推理過程.如圖3 所示,FCM 的推理是用前向節(jié)點(diǎn)對后向節(jié)點(diǎn)的遞推作用實(shí)現(xiàn)推理.節(jié)點(diǎn)在t+1 時刻的狀態(tài)值由權(quán)重矩陣和t時刻迭代后所有概念節(jié)點(diǎn)的狀態(tài)向量決定.整個推理過程體現(xiàn)FCM 的動態(tài)特性,反映系統(tǒng)的演化過程,且隨著時間的推移FCM 能夠?qū)ο到y(tǒng)的狀態(tài)進(jìn)行實(shí)時建模和更新.在實(shí)際工程應(yīng)用中,推理規(guī)則的選擇取決于問題本身,并且通常需要對所研究的模擬系統(tǒng)有深入的了解.下面將介紹一些典型的模糊認(rèn)知圖推理規(guī)則.

圖3 模糊認(rèn)知圖推理過程Fig.3 Reasoning process of fuzzy cognitive map

式 (1)描述FCM 的Koskos 激活規(guī)則[3],目前廣泛應(yīng)用于基于FCM 的相關(guān)方法中.FCM 根據(jù)Koskos 激活規(guī)則不斷地迭代重復(fù),在每個離散時間步上生成一個包含所有概念的狀態(tài)向量,直到滿足停止條件.該激活規(guī)則定義為

其中,A(0)表示概念節(jié)點(diǎn)的初始狀態(tài)(激活向量),wji為概念Cj和節(jié)點(diǎn)Ci之間因果關(guān)系的值,為概念Ci在第t+1 時刻的激活值.f為轉(zhuǎn)換函數(shù),一般為sigmoid 函數(shù),其作用是將概念的狀態(tài)值約束在范圍[0,1].

Stylios 等[19]對Koskos 激活規(guī)則做出修正,刪除Koskos 激活規(guī)則中i≠j的約束.當(dāng)前概念節(jié)點(diǎn)除了考慮其對應(yīng)的因果權(quán)重及來自其他概念節(jié)點(diǎn)的激活值外,還受其自身過去狀態(tài)值的影響.當(dāng)更新不受其他概念影響的節(jié)點(diǎn)時,改進(jìn)后的推理機(jī)制更能體現(xiàn)FCM 的特性.式 (2)給出該規(guī)則的數(shù)學(xué)描述,即

Papageorgiou[20]在式 (2)的基礎(chǔ)上,在轉(zhuǎn)換函數(shù)中引入適當(dāng)?shù)膮?shù)設(shè)置,解決在沒有概念節(jié)點(diǎn)的初始狀態(tài)信息的情況下如何進(jìn)行后續(xù)狀態(tài)演化的問題.推理規(guī)則描述如下:

Nápoles 等[21]提出擬非線性推理規(guī)則(Quasi nonlinear reasoning rule,QNRR),利用類似標(biāo)準(zhǔn)化的傳遞函數(shù)防止神經(jīng)元飽和.在每次迭代中更新神經(jīng)元的激活值時,可以很容易地通過調(diào)節(jié)非線性程度來控制它.此外,基于該推理機(jī)制的FCM 模型能夠量化結(jié)構(gòu)化數(shù)據(jù)集中的隱式偏差,即

FCM 根據(jù)推理機(jī)制不斷地迭代更新復(fù)雜系統(tǒng)中概念節(jié)點(diǎn)的狀態(tài)向量,直到其收斂于一個定點(diǎn)吸引子或達(dá)到最大迭代次數(shù).前者意味著節(jié)點(diǎn)狀態(tài)達(dá)到一個平衡狀態(tài).而后者則表明,FCM 是不穩(wěn)定的且輸出處于有限循環(huán)或者完全混亂的狀態(tài).以上狀態(tài)的數(shù)學(xué)描述如下:

1)定點(diǎn).(?tα∈{1,2,···,T-1}:A(t+1)=A(t),?t ≥tα): 在tα次迭代后,FCM 生成相同的狀態(tài)向量,即Atα=Atα+1=Atα+2=···=At.

2)有限環(huán).(?tα,P∈{1,2,···,T-1}:A(t+P)=A(t),?t ≥tα): 在tα次迭代后,FCM 定期產(chǎn)生相同的狀態(tài)向量.表明Atα=Atα+P=Atα+2P=···=Atα+jP,其中,tα+jP ≤T且j∈{1,2,···,T-1}.

3)混沌狀態(tài).FCM 在后續(xù)迭代過程中繼續(xù)產(chǎn)生不同的狀態(tài)向量.表明此時系統(tǒng)并沒有處于一個穩(wěn)定的狀態(tài)或者循環(huán)穩(wěn)定的狀態(tài).

FCM 最終的收斂狀態(tài)反映狀態(tài)演化趨勢和圖的推理性能.因此,對FCM 的動力學(xué)特性和穩(wěn)定性問題的探討具有十分重要的研究意義.研究者提出廣義模糊認(rèn)知圖(Generalised fuzzy cognitive maps,GFCM)[22]用于解決FCM 中原因和結(jié)果之間的時間差而產(chǎn)生的滯后問題.研究表明,包含時間滯后的GFCM 能夠提高FCM 對復(fù)雜系統(tǒng)動力學(xué)定量建模手段的可靠性.k值模糊認(rèn)知圖 (k-valued fuzzy cognitive maps,k-valued FCM)[23]在廣義模糊認(rèn)知圖的基礎(chǔ)上進(jìn)行時間上的擴(kuò)展,利用半張量乘積建立帶控制的數(shù)學(xué)表示,并提出控制依賴網(wǎng)絡(luò)過渡矩陣的廣義公式.2021 年,Harmati 等[24]證明FCM 達(dá)到全局漸進(jìn)穩(wěn)定性的新條件,即從每個初始向量迭代到相同點(diǎn)的條件.如果模型是全局漸進(jìn)穩(wěn)定的,則定點(diǎn)是唯一的,即FCM 的每個初始狀態(tài)都將收斂到這個點(diǎn).然而,并不是對于所有的FCM 模型,全局穩(wěn)定都是必要的.對于一些復(fù)雜的FCM 應(yīng)用場景,收斂到多個定點(diǎn)可能是最佳選擇.因此,在這兩種情況下應(yīng)該根據(jù)實(shí)際場景優(yōu)先考慮或避免對應(yīng)的參數(shù)集,以使FCM 達(dá)到最佳平衡狀態(tài).此外,FCM 模型中傳遞函數(shù)的動態(tài)行為決定FCM 模型在可行激活空間的覆蓋和接近度,對其最終的收斂狀態(tài)同樣具有重要影響.因?yàn)?任何配備傳遞函數(shù)的FCM 模型的狀態(tài)空間都會無限縮小,且不能保證FCM 收斂到一個定點(diǎn),而是收斂到其極限狀態(tài)空間[25].

綜上,選擇合適的概念節(jié)點(diǎn)和推理規(guī)則是FCM建模動態(tài)系統(tǒng)的一個關(guān)鍵因素.這些因素都會影響網(wǎng)絡(luò)產(chǎn)生有意義和準(zhǔn)確結(jié)果的能力.因此,在FCM建模過程中根據(jù)系統(tǒng)的特性、擬解決問題的需求、模型的應(yīng)用場景等,有反饋的進(jìn)行特征提取,構(gòu)建合理的推理規(guī)則具有重要研究意義.

1.3 轉(zhuǎn)換函數(shù)

轉(zhuǎn)換函數(shù)的選擇對FCM 建模的準(zhǔn)確性至關(guān)重要.常見的轉(zhuǎn)換函數(shù)主要有二值函數(shù)、三值函數(shù)、雙曲正切函數(shù)和 s igmoid 函數(shù).其表達(dá)形式如下所述.

1)二值函數(shù).離散函數(shù),僅產(chǎn)生兩種狀態(tài)的響應(yīng).被二值函數(shù)激活的FCM 將收斂到一個定點(diǎn)吸引子或進(jìn)入有限環(huán)模式,即

2)三值函數(shù).離散函數(shù),能夠產(chǎn)生有限數(shù)目的狀態(tài)響應(yīng).與二值函數(shù)類似,三值函數(shù)同樣收斂于一個定點(diǎn)吸引子或者進(jìn)入有限環(huán)模式.二值函數(shù)和三值函數(shù)的缺點(diǎn)均在于表示能力有限.

3)雙曲正切函數(shù).連續(xù)函數(shù),能產(chǎn)生無限個自由分布在 [0,1]N超立方體的狀態(tài).可用于定性和定量場景建模.

4)s igmoid 函數(shù).連續(xù)函數(shù),能產(chǎn)生無限個不同的狀態(tài),這些狀態(tài)在 [0,1]N超立方體中自由分布[16].在 s igmoid 函數(shù)中,λ>0,用來控制函數(shù)的斜率.λ值越高,坡度越陡峭,x的波動更加敏感.因此,隨著激活值的增大,導(dǎo)數(shù)也隨之增大.

Bueno 等[26]基于相同的決策模型對比分析了FCM 中的各類激活函數(shù)的推理性能,證明sigmoid 函數(shù)功能比其他函數(shù)具有更大的優(yōu)勢.因此,與其他函數(shù)相比,s igmoid 函數(shù)的使用范圍更廣泛.

1.4 結(jié)構(gòu)拓展

FCM 在將近40 年的發(fā)展歷程中,已經(jīng)成功地應(yīng)用于眾多領(lǐng)域.但隨著信息社會的蓬勃發(fā)展,經(jīng)典FCM 仍面臨以下局限性[27]:

1)FCM 模型未考慮概念之間交互的時間滯后性;

2)FCM 不能表示多語義(灰色)環(huán)境,難以處理概念之間多對一的語義映射關(guān)系;

3)FCM 未能準(zhǔn)確地表征不確定的信息;

4)FCM 未能有效地描述概念間復(fù)雜因果關(guān)系;

5)FCM 未考慮現(xiàn)實(shí)應(yīng)用問題存在的長期時間依賴性;

6)FCM 未能有效地解決狀態(tài)的隨機(jī)動態(tài)性;

7)FCM 及其變體缺乏多圖有效集成方法.

以上局限性導(dǎo)致FCM 在某些特定領(lǐng)域中無法實(shí)現(xiàn)有效建模.FCM 的擴(kuò)展旨在增強(qiáng)其在復(fù)雜系統(tǒng)建模時的靈活性以及對環(huán)境的適應(yīng)性.已有的擴(kuò)展認(rèn)知圖在知識表示、不確定性建模、動態(tài)性等方面做出有效的改進(jìn).根據(jù)模型應(yīng)用領(lǐng)域環(huán)境的不同,本文將拓展認(rèn)知圖模型分為以下兩類:

第1 類是基于不同模糊理論提出的一系列拓展認(rèn)知圖模型,代表性的模型歸納如下.

1)基于規(guī)則的模糊認(rèn)知圖(Rule-based fuzzy cognitive maps,RBFCM)[28].RBFCM 基于模糊累積算子在定性挖掘模糊因果關(guān)系的同時保持FCM的多功能性和簡單性.該模型涵蓋多種概念關(guān)系(因果、推斷、選擇、概率、相反、連接等),以處理動態(tài)系統(tǒng)的復(fù)雜性.此外,RBFCM 利用隱含時間和時間延遲等重要概念,保證建模系統(tǒng)時的時間細(xì)節(jié)被模擬,以形成完整的認(rèn)知表示關(guān)系.

2)模糊灰色認(rèn)知圖(Fuzzy grey cognitive maps,FGCM)[29].FGCM 基于灰色系統(tǒng)理論處理多語義(灰色)環(huán)境下的復(fù)雜系統(tǒng)建模問題,利用不精確的概念表示因果關(guān)系,以及概念之間的灰色加權(quán)關(guān)系來表示非結(jié)構(gòu)化知識.該模型中因果關(guān)系的強(qiáng)度由灰色數(shù)來衡量(灰色數(shù)指已知數(shù)值取值范圍但是準(zhǔn)確值未知),以信息粒的形式表示關(guān)系權(quán)重,相比傳統(tǒng)的FCM 更能表達(dá)概念之間不明確的關(guān)系和不完整的信息,容忍專家對判斷的不確定性.

3)直覺模糊認(rèn)知圖(Intuitionistic fuzzy cognitive maps,IFCM)[30].IFCM 考慮專家在描述概念之間關(guān)系時的猶豫程度,引入直覺模糊集加強(qiáng)直覺推理,提高FCM 的適應(yīng)性.直覺模糊集作為模糊集的一種拓展形式,將隸屬度和非隸屬度推廣為隸屬度、非隸屬度和猶豫度,更準(zhǔn)確地衡量節(jié)點(diǎn)間因果關(guān)系的不確定程度.

4)區(qū)間值模糊認(rèn)知圖(Interval-valued fuzzy cognitive maps,IVFCM)[31].IVFCM 考慮非結(jié)構(gòu)化環(huán)境相關(guān)的不確定性、語言的不確定性、專家之間的分歧或數(shù)據(jù)中的噪聲,在概念及其因果關(guān)系的設(shè)計中提供理想的額外自由度,最大限度地減少上述不確定性的影響,使決策者能夠?qū)Ω叨葟?fù)雜的業(yè)務(wù)決策制定問題進(jìn)行建模.

5)證據(jù)認(rèn)知圖(Evidential cognitive maps,ECM)[32].ECM 通過結(jié)合認(rèn)知圖和Dempster-Shafer 證據(jù)理論來表示因果推理.不僅保留表示不確定性的能力,而且有助于聚合來自不同來源(專家)的知識.

6)粗糙認(rèn)知網(wǎng)絡(luò)(Rough cognitive networks,RCN)[33].RCN 以粗糙集為基礎(chǔ)構(gòu)建因果關(guān)系的信息粒表示,解決不確定(由不一致引起)情況下的決策問題.該模型不像以往的方法根據(jù)可能的決策類對新實(shí)例進(jìn)行分類,而是嘗試計算每個決策的偏好程度.在決策者必須評估額外的外部因素(如成本、可靠性、可用性等)的決策場景中更能凸顯出模型的優(yōu)越性.

7)灰色粗糙認(rèn)知網(wǎng)絡(luò)(Fuzzy-rough cognitive networks,FRCN)[34].FRCN 利用遞歸神經(jīng)網(wǎng)絡(luò)將屬性空間轉(zhuǎn)化為模糊粗糙空間.可用信息首先被劃分為具有軟邊界的信息粒.然后,使用所得的模糊粗糙結(jié)構(gòu)來構(gòu)建神經(jīng)網(wǎng)絡(luò).與RCN 模型相似,輸入神經(jīng)元表示正或負(fù)的模糊粗糙區(qū)域,而輸出神經(jīng)元則包括針對當(dāng)前問題的決策類.值得注意的是,在初步模擬過程中,將模糊粗糙邊界區(qū)域納入模型并不能顯著地提高分類器的辨別能力.因?yàn)樵诖嘈源植诘沫h(huán)境中,與來自模糊粗糙粒子的證據(jù)相比,猶豫的證據(jù)更具有決定性.

8)基于z切片的二型模糊認(rèn)知圖(Fuzzy cognitive maps of type 2 fuzzy sets based onzslices,zT2FSs-FCM)[35].在不確定數(shù)據(jù)存在的情況下,傳統(tǒng)FCM 依賴于一型模糊集,建模和推理能力受到限制.zT2FSs-FCM 使用基于z切片的二型模糊集來建模連接FCM 概念的不確定權(quán)重,同時引入一種新的推理算法,擴(kuò)展FCM 的能力,以捕捉模型化概念之間更大的不確定性.此外,算法在推理過程結(jié)束時實(shí)現(xiàn)FCM 取值的去模糊化,盡可能地保留值的不確定性.

第2 類是針對復(fù)雜系統(tǒng)動態(tài)性[36]提出的一系列拓展認(rèn)知圖,歸納如下:

1)動態(tài)認(rèn)知網(wǎng)絡(luò)(Dynamic cognitive network,DCN)[37].該模型通過量化概念和引入非線性動態(tài)函數(shù)來改進(jìn)FCM,定義概念之間的動態(tài)因果關(guān)系,支持與時間相關(guān)的特性,能夠處理復(fù)雜的動態(tài)因果系統(tǒng).每個DCN 中的概念都有自己的值集且取決于它在網(wǎng)絡(luò)中需要描述的精確程度.在結(jié)構(gòu)上,DCN 比FCM 具有更強(qiáng)的可擴(kuò)展性和靈活性.但是,由于DCN 依賴于拉普拉斯框架來描述因果關(guān)系.模糊知識與拉普拉斯函數(shù)之間的轉(zhuǎn)換給系統(tǒng)設(shè)計者帶來更多的建模工作.因此,后續(xù)研究在此基礎(chǔ)上通過簡化DCN,進(jìn)一步擴(kuò)展建模FCM 的功能[38].

2)動態(tài)隨機(jī)模糊認(rèn)知圖(Dynamic random fuzzy cognitive maps,DRFCM)[39].DRFCM 通過量化概念激活的概率并在推理過程中加入非線性動態(tài)函數(shù)來改進(jìn)FCM.DRFCM 的貢獻(xiàn)集中在學(xué)習(xí)動態(tài)因果關(guān)系上.在FCM 運(yùn)行期間,根據(jù)因果模型中的反饋機(jī)制,邊的值被更新以適應(yīng)新的條件.因此,DRFCM 可以像現(xiàn)實(shí)生活中以問題驅(qū)動的模型一樣在線適應(yīng)程序.

3)模糊時間認(rèn)知圖(Fuzzy time cognitive maps,FTCM)[40].FTCM 是在FCM 的基礎(chǔ)上考慮節(jié)點(diǎn)關(guān)系中的時間性.該模型建立一個突觸前節(jié)點(diǎn)對突觸后節(jié)點(diǎn)影響的延遲模型,每條邊都有兩種相對權(quán)重: 強(qiáng)度和時間滯后.FTCM 和FCM 模型動態(tài)結(jié)果分析說明FTCM 可以根據(jù)時間的推移來分析系統(tǒng)的行為.

4)進(jìn)化模糊認(rèn)知圖(Evolutionary fuzzy cognitive maps,E-FCM)[41].該模型采用檢查機(jī)制模擬動態(tài)復(fù)雜的因果相關(guān)的環(huán)境變量,將每個時間狀態(tài)建模為概念值的集合.概念狀態(tài)則取決于其內(nèi)部狀態(tài)、外部分配以及實(shí)時演變的外部因果關(guān)系.此外,E-FCM 針對每個概念節(jié)點(diǎn)設(shè)置對應(yīng)的更新時間表,概念節(jié)點(diǎn)以變異概率異步更新其內(nèi)部狀態(tài),以便它們能以動態(tài)和隨機(jī)的方式演變.E-FCM 使上下文概念的自我變異成為不斷發(fā)展的行為,反映不同概念之間的現(xiàn)實(shí)世界關(guān)系.

5)高階模糊認(rèn)知圖(Higher-order fuzzy cognitive maps,HFCM)[42].FCM 的一階動態(tài)性限制其對復(fù)雜系統(tǒng)建模的能力,尤其是對于一些不能用模型準(zhǔn)確描述的系統(tǒng).因?yàn)樵谶@些模型中,當(dāng)前的狀態(tài)只根據(jù)先前的狀態(tài)來計算.HFCM 將FCM 拓展到多階動態(tài),提高建模能力.

6)基于時間自動機(jī)的模糊認(rèn)知圖(Time automara-based fuzzy cognitive maps,TAFCM)[43].TAFCM 引入定時自動機(jī)理論使FCM 能夠有效地應(yīng)對雙層的時間粒度,通過擴(kuò)展B-Time 的標(biāo)準(zhǔn)思想,提供檢查技術(shù)來評估設(shè)計框架的認(rèn)知能力.一個FCM 只是代表一個認(rèn)知系統(tǒng)的靜態(tài)視圖,TAFCM 利用一個能夠轉(zhuǎn)換認(rèn)知結(jié)構(gòu)的操作符集合構(gòu)建認(rèn)知/動態(tài)模型.通過遵循添加/刪除概念和因果關(guān)系的規(guī)則,以及放大/縮小因果關(guān)系的強(qiáng)度和系統(tǒng)概念的水平,來改變特定代理的FCM 的認(rèn)知配置.

7)深度模糊認(rèn)知圖(Deep fuzzy cognitive maps,DFCM)[44].DFCM 將深度神經(jīng)網(wǎng)絡(luò)模型在高性能預(yù)測方面的優(yōu)勢引入到可解釋性FCM 框架中,利用全連接神經(jīng)網(wǎng)絡(luò)來建模系統(tǒng)概念之間的非線性和非單調(diào)影響,引入循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent neural network,RNN)來建模對系統(tǒng)動力學(xué)具有潛在影響的未知外生因素.DFCM 在時間序列預(yù)測方面比基本FCM 具有更大的功效.

8)自適應(yīng)模糊認(rèn)知圖(Adaptive fuzzy cognitive maps,AFCM)[45].在原始的基于FCM 的預(yù)測模型中,概念之間的因果關(guān)系在整個數(shù)據(jù)集的訓(xùn)練過程中保持不變,但在現(xiàn)實(shí)中,這種因果關(guān)系可能會隨著概念的狀態(tài)而改變.AFCM 利用粒計算方法建立具有時變性的因果關(guān)系來預(yù)測不同狀態(tài)的概念,預(yù)測時間序列的總體趨勢、波動幅度和趨勢持續(xù)性,大幅降低累積誤差.

表1 歸納總結(jié)以上兩類拓展認(rèn)知圖的特點(diǎn)和應(yīng)用領(lǐng)域.可以看出,雖然現(xiàn)有的拓展認(rèn)知圖利用灰色數(shù)、直覺模糊集、區(qū)間模糊集等信息粒建模節(jié)點(diǎn)間的因果關(guān)系,一定程度上捕獲信息的不確定性,但由于當(dāng)前大數(shù)據(jù)時代背景下的數(shù)據(jù)往往呈現(xiàn)多源、多模態(tài)、非線性、非平穩(wěn)性、噪聲等特征,如何改進(jìn)圖結(jié)構(gòu),合理有效地表示這些信息中所包含的知識,仍然是目前FCM 研究面臨的主要挑戰(zhàn).此外,由于FCM 的網(wǎng)絡(luò)結(jié)構(gòu)和單層神經(jīng)網(wǎng)絡(luò)類似,非線性映射能力有限,如何從理論層面擴(kuò)展其網(wǎng)絡(luò)結(jié)構(gòu),克服其局限性,提升知識表示和推理能力同樣是值得探究的研究方向.

表1 拓展認(rèn)知圖模型對比Table 1 Comparison of extension cognitive map models

表2 基于學(xué)習(xí)范式的模糊認(rèn)知圖學(xué)習(xí)算法分類Table 2 Classification of fuzzy cognitive map learning algorithms based on the learning paradigm

2 學(xué)習(xí)算法分類

FCM 的學(xué)習(xí)目標(biāo)是選擇一個能精確描述節(jié)點(diǎn)因果關(guān)聯(lián)關(guān)系的權(quán)重矩陣.學(xué)習(xí)算法可以像神經(jīng)網(wǎng)絡(luò)的突觸一樣調(diào)整概念之間的連接強(qiáng)度(權(quán)重).根據(jù)學(xué)習(xí)范式(知識類型)的不同,本文將學(xué)習(xí)算法歸納為3 類: 專家知識驅(qū)動的學(xué)習(xí)算法、自動學(xué)習(xí)算法和半自動學(xué)習(xí)算法.此外,從圖規(guī)模的角度,提出一種學(xué)習(xí)算法分類方式.

2.1 專家知識驅(qū)動的學(xué)習(xí)算法

專家知識驅(qū)動的學(xué)習(xí)算法是一種無監(jiān)督學(xué)習(xí)算法,基于Hebbian 規(guī)則[46]自適應(yīng)地學(xué)習(xí)專家知識生成的FCM 權(quán)重矩陣,促使FCM 收斂到給定的決策狀態(tài)或特定目標(biāo)問題的可接受區(qū)域.圖4 給出專家知識驅(qū)動的學(xué)習(xí)算法的基本流程.首先,由領(lǐng)域?qū)＜腋鶕?jù)經(jīng)驗(yàn)和專業(yè)知識給出初始權(quán)重矩陣.其次,輸入初始狀態(tài)向量并根據(jù)式 (1)計算該狀態(tài)向量下一時刻的取值.然后,依據(jù)基于Hebbian 規(guī)則的專家知識驅(qū)動學(xué)習(xí)算法更新FCM 權(quán)重矩陣.最后,判斷當(dāng)前狀態(tài)是否滿足預(yù)定義的終止條件來確定是否進(jìn)行上述過程的迭代,最后得到目標(biāo)權(quán)重矩陣.

圖4 專家知識驅(qū)動的學(xué)習(xí)算法的基本流程Fig.4 The basic process of expert knowledge-driven learning algorithms

微分Hebbian 學(xué)習(xí)算法(Differential Hebbian learning,DHL)[47]是由Dickerson 等最早提出的一種專家知識驅(qū)動的學(xué)習(xí)算法.DHL 算法假設(shè),如果原因概念Ci和結(jié)果概念Cj同時改變激活值,則這兩個概念連接邊上的權(quán)重就會增加.否則,因果關(guān)系不會在該次迭代中被修改.式(9)是該算法的權(quán)重更新規(guī)則,表示概念Ci在第t次迭代時的激活值,參數(shù)ηt表示學(xué)習(xí)率,是一個非常小的非負(fù)學(xué)習(xí)因子,在每次迭代時利用實(shí)驗(yàn)試錯法調(diào)整.

在DHL 學(xué)習(xí)過程中,權(quán)重值會迭代更新,直到找到符合條件的權(quán)重矩陣.然而該方法在每一次權(quán)重更新時只考慮當(dāng)前兩個概念,忽略了其他概念對當(dāng)前概念產(chǎn)生的影響.

平衡微分算法(Balanced differential algorithm,BDA)[48]是一種改進(jìn)的DHL 學(xué)習(xí)算法,在權(quán)重更新的同時改變所有的概念值,消除DHL 方法的局限性.具體來說,該方法考慮在同一時間步長內(nèi)產(chǎn)生的具有相同方向性的所有概念的變化.權(quán)重更新規(guī)則表示如下:

但是由于其更改后的結(jié)構(gòu)限制,BDA 只適用于二進(jìn)制編碼的模式識別問題,無法廣泛應(yīng)用.

Papageorgiou 等[49]提出激活Hebbian 學(xué)習(xí)算法 (Active Hebbian learning,AHL),利用人工干預(yù)來修改每個迭代步驟的所有權(quán)值,并通過保持Hebbian 規(guī)則的主要原則來確定激活概念的序列.所需的概念、概念的初始結(jié)構(gòu)和相互連接,以及激活概念的順序都是由專家確定的.與僅更新非零權(quán)重的算法不同,在AHL 方法中所有權(quán)重(與自連接相關(guān)的權(quán)重除外)都會被更新.式(11)是AHL 的權(quán)重更新規(guī)則,表示第j個概念的激活值,γ(t)是第t次迭代的衰減權(quán)重.隨著時間的推移,權(quán)重衰減和學(xué)習(xí)率都呈指數(shù)下降趨勢.

非線性Hebbian 學(xué)習(xí)算法(Non-linear Hebbian learning,NHL)[50]進(jìn)一步對基本Hebbian 規(guī)則進(jìn)行擴(kuò)展.NHL 方法需要專家進(jìn)行初步的干預(yù),如輸入和輸出概念的確定,概念取值范圍的說明以及每條加權(quán)邊的符號表示.引入這3 個特征是為了在保留初始符號的同時,更新相應(yīng)的連接權(quán)重.在NHL學(xué)習(xí)過程中,保留最初由專家設(shè)定的圖形結(jié)構(gòu),使得最終學(xué)習(xí)到的FCM 保持合理的物理解釋.NHL的權(quán)重更新規(guī)則如式(12)所示

當(dāng)滿足以下兩個標(biāo)準(zhǔn),權(quán)重停止更新: 1)已達(dá)到與預(yù)定義滿意解足夠接近的解決方案;2)收斂到穩(wěn)定狀態(tài)(定點(diǎn)).NHL 方法不涉及計算量大的操作,因此其優(yōu)勢在于速度快.但是對專家標(biāo)準(zhǔn)的依賴仍然是該算法的主要缺點(diǎn).

Li 等[51]提出改進(jìn)后的NHL 算法(Improved nonlinear Hebbian learning,INHL),在更新規(guī)則中添加一個稱為脈沖的術(shù)語,以避免陷入誤差表面平穩(wěn)區(qū)域的局部最小值.式(13)是改進(jìn)后的更新規(guī)則.

其中,α∈(0,1] 表示誤差下降表面時的加速度,且

數(shù)據(jù)驅(qū)動的非線性Hebbian 學(xué)習(xí)算法(Datadriven non-linear Hebbian learning,DDNHL)[52]與NHL 的學(xué)習(xí)原理相同,但其基于歷史觀測數(shù)據(jù)來提高學(xué)習(xí)質(zhì)量.與NHL 方法相比,如果有歷史數(shù)據(jù)可用,DDNHL 方法能夠生成更好的FCM 模型.帶終端約束的NHL 算法[53]將系統(tǒng)反饋引入到權(quán)值迭代過程中,使權(quán)值的迭代有監(jiān)督地向系統(tǒng)真實(shí)值不斷靠近,以此提高學(xué)習(xí)質(zhì)量.Carvalho 等[54]基于模糊布爾網(wǎng)絡(luò)(Fuzzy Boolean nets,FBN)的學(xué)習(xí)和推理能力更新FCM 權(quán)重矩陣.由于模糊布爾網(wǎng)絡(luò)具有從原始定量數(shù)據(jù)中自動提取隸屬度函數(shù)的能力,因此將模糊布爾網(wǎng)絡(luò)用于模糊因果規(guī)則(Fuzzy causal rule,FCR)的優(yōu)化.FBN 基于每個神經(jīng)元隨機(jī)輸入樣本,其學(xué)習(xí)是一個概率過程.每個后端神經(jīng)元的內(nèi)部二進(jìn)制記憶是根據(jù)輸入(每個前端)的神經(jīng)元數(shù)量和后端神經(jīng)元的激活狀態(tài)而修改的.因?yàn)橥挥|前和突觸后的活動是由激活率決定的,所以這種類型的FBN 學(xué)習(xí)也被認(rèn)為是基于Hebbian 的學(xué)習(xí)方法.

除以上基學(xué)習(xí)器外,Papageorgiou 等[55]受集成思想的啟發(fā),提出基于bagging 增強(qiáng)的非線性Hebbian 學(xué)習(xí)算法,使用NHL 算法作為基礎(chǔ)分類器訓(xùn)練模型,最后將NHL 學(xué)習(xí)產(chǎn)生的FCM 集成,以提高分類精度.

總體來說,專家知識驅(qū)動的學(xué)習(xí)算法能夠在有限的迭代次數(shù)下對權(quán)重矩陣實(shí)現(xiàn)微調(diào),與專家初始提供的經(jīng)驗(yàn)知識有很小的偏差.調(diào)整后的權(quán)重能夠盡可能保留其因果意義,符合人類認(rèn)知和系統(tǒng)真實(shí)情況.此類方法的不足之處在于需要專家對概念和權(quán)重矩陣進(jìn)行初步干預(yù),在專家知識缺乏的情況學(xué)習(xí)比較困難.另外,該類算法的泛化能力較差,不適合包括兩個或更多類別的預(yù)測問題[16].

2.2 自動學(xué)習(xí)算法

針對專家知識驅(qū)動的學(xué)習(xí)算法的局限性,自動學(xué)習(xí)算法相繼被引入量化權(quán)重矩陣.自動學(xué)習(xí)方法利用歷史數(shù)據(jù)替代專家知識,根據(jù)系統(tǒng)輸入的狀態(tài)向量或模式序列的歷史數(shù)據(jù)來訓(xùn)練FCM.圖5 給出自動學(xué)習(xí)算法的基本流程.針對不同的研究問題,自動學(xué)習(xí)算法采用相應(yīng)的目標(biāo)函數(shù)最小化輸入序列與響應(yīng)序列之間的誤差,迭代優(yōu)化FCM 權(quán)重矩陣.最后,利用學(xué)習(xí)到的FCM 最優(yōu)權(quán)重矩陣指導(dǎo)復(fù)雜系統(tǒng)的動態(tài)分析,獲取特定概念所需的激活狀態(tài)值.本文將自動學(xué)習(xí)算法分為3 類: 基于進(jìn)化的學(xué)習(xí)方法、基于傳統(tǒng)約束優(yōu)化的學(xué)習(xí)方法和基于回歸的學(xué)習(xí)方法.

圖5 自動學(xué)習(xí)算法的基本流程Fig.5 The basic process of automatic learning algorithms

2.2.1 基于進(jìn)化的學(xué)習(xí)方法

基于進(jìn)化的學(xué)習(xí)算法將FCM 權(quán)重矩陣轉(zhuǎn)化為生物種群,并應(yīng)用多種進(jìn)化技術(shù)來優(yōu)化FCM,使其收斂到穩(wěn)定狀態(tài).該類算法的具體流程如下: 首先,隨機(jī)初始化預(yù)定義數(shù)量個FCM 權(quán)重矩陣,并將這些二維權(quán)重矩陣通過行拼接的方式轉(zhuǎn)換為一維權(quán)重向量即進(jìn)化過程中的個體.然后,利用進(jìn)化算子如選擇、交叉、變異等,通過優(yōu)化適應(yīng)度函數(shù)來迭代優(yōu)化這些個體.適應(yīng)度函數(shù)在預(yù)測任務(wù)中為預(yù)測誤差,分類任務(wù)中則為分類準(zhǔn)確率.最后,當(dāng)滿足最大迭代次數(shù)時,輸出適應(yīng)度最好的個體.將該個體轉(zhuǎn)換為二維矩陣即可得到學(xué)習(xí)到的FCM 權(quán)重矩陣.2005年二進(jìn)制編碼的遺傳算法(Genetic algorithm,GA)[56]首次被用來生成和搜素最佳FCM 權(quán)重矩陣.該方法隨機(jī)選擇初始個體構(gòu)成種群,采用二進(jìn)制編碼的形式迭代更新個體,在參與的概念節(jié)點(diǎn)中搜索滿足兩個或多個激活水平的最優(yōu)權(quán)重矩陣.隨后,Stach 等[57]在此基礎(chǔ)上提出實(shí)數(shù)編碼遺傳算法(Real code genetic algorithm,RCGA)來模擬給定的輸入歷史數(shù)據(jù),搜索優(yōu)化FCM 結(jié)構(gòu).RCGA 可以在連續(xù)迭代中使用一組或多組概念值,與一次性使用整個數(shù)據(jù)集的方法相比,具有更好的收斂性.繼遺傳算法之后,粒子群優(yōu)化算法(Particle swarm optimization,PSO)[58]也應(yīng)用于學(xué)習(xí)FCM.PSO的學(xué)習(xí)過程需要專家知識來指定適當(dāng)?shù)募s束,限制搜索空間,以此來確保FCM 模型中的關(guān)系保留專家定義的物理意義[59].自組織遷移算法(Self-organizing migrating algorithm,SOMA)[60]在每一次循環(huán)中對FCM 的候選解決方案進(jìn)行填充,基于目標(biāo)函數(shù)來搜索和優(yōu)化FCM 權(quán)重矩陣.類似的基于進(jìn)化的FCM 學(xué)習(xí)算法還有蟻群優(yōu)化(Ant colony optimization,ACO)算法[61]、人工蜂群(Artificial bee colony,ABC)算法[62]、帝國主義競爭算法(Imperialist competitive algorithm,ICA)[63]、差分進(jìn)化算法(Differential evolution,DE)[64]、模擬退火算法(Simulated annealing,SA)[65-66]、大爆炸-大緊縮算法(Big bang-big crunch,BB-BC)[67]以及文化算法(Cultural algorithm,CA)[68]等.胡運(yùn)杰等[69]提出利用蟻群優(yōu)化算法建立FCM 模型,并引入變異算子對算法進(jìn)行改進(jìn),以提高算法的全局和局部搜索能力.基于互信息的模因算法分兩個階段來學(xué)習(xí)FCM[70].在第1 階段,算法檢測系統(tǒng)的概念之間是否存在因果交互,將系統(tǒng)的密度保持在較低的水平.在第2 階段,利用模因算法優(yōu)化邊的權(quán)重,得到最終的FCM 權(quán)重矩陣.Salmeron 等[71]提出無性繁殖優(yōu)化(Modified asexual reproduction optimization,MARO)算法,根據(jù)規(guī)則對個體進(jìn)行變異和選擇,并引入模擬退火的原理,擴(kuò)大對個體更新的容忍度來解決局部收斂問題.

上述學(xué)習(xí)算法由于受到編碼形式、計算能力等限制,適用于解決節(jié)點(diǎn)數(shù)量較少的FCM 的學(xué)習(xí).然而,隨著人工智能、大數(shù)據(jù)技術(shù)的發(fā)展,復(fù)雜網(wǎng)絡(luò)節(jié)點(diǎn)不斷擴(kuò)增、數(shù)據(jù)呈指數(shù)型爆炸增長,FCM 的學(xué)習(xí)效率面臨嚴(yán)峻的挑戰(zhàn).于是,分解和并行的思想被引入FCM 的學(xué)習(xí)過程來減緩模型的計算壓力.Chen等引入修正的誤差函數(shù),使用分解的RCGA 執(zhí)行優(yōu)化過程,學(xué)習(xí)多達(dá)300 個概念的大規(guī)模網(wǎng)絡(luò)[72].Stach 等[73]基于并行計算來加速FCM 的學(xué)習(xí)即分治RCGA (Divided and conquer RCGA,D&C RCGA),通過8 個處理器并行優(yōu)化FCM,緩解算法的可擴(kuò)展性問題.當(dāng)圖的大小和處理器數(shù)量增加時,由分治方法生成的FCM 權(quán)重矩陣的總體質(zhì)量會下降.學(xué)習(xí)時間隨著網(wǎng)絡(luò)規(guī)模的增加而增加,而當(dāng)使用更多處理器時則減少.因此,分治RCGA 算法雖然在原來的RCGA 上有一些改進(jìn),但仍存在一些問題需要克服[74].Liu 等[75]基于動態(tài)多智能體遺傳算法 (Dynamic multiagent genetic algorithm,dMAGA)從時間序列中學(xué)習(xí)FCM.Chi 等[76]結(jié)合模因算法(Memetic algorithm,MA)和神經(jīng)網(wǎng)絡(luò)(Neural network,NN)來學(xué)習(xí)大規(guī)模FCM.MA 用于確定基因調(diào)控網(wǎng)絡(luò)(Gene regulatory networks,GRN)中的連接,NN 用于確定連接的因果強(qiáng)度.Liu 等[77]結(jié)合集成策略和多目標(biāo)進(jìn)化算法(Multiobjective evolutionary algorithm,MOEA)學(xué)習(xí)FCM 權(quán)重矩陣,從而重構(gòu)GRN.該模型首先利用MOEA 分析歷史數(shù)據(jù)來學(xué)習(xí)一系列具有不同結(jié)構(gòu)的網(wǎng)絡(luò),獲得具有不同最優(yōu)局部信息的目標(biāo)網(wǎng)絡(luò).然后,從Pareto 前沿選擇在訓(xùn)練集上獲得最小模擬誤差的FCM,并提供有效的集成策略將選擇的子圖組合成最終的FCM.Liang 等[78]提出基于改進(jìn)多因子粒子群優(yōu)化算法(Improved multifactorial particle swarm optimization,IMFPSO)學(xué)習(xí)FCM,將一個完整的FCM 分解為多個節(jié)點(diǎn)的局部連接(子FCM).FCM 的學(xué)習(xí)問題被建模為多任務(wù)優(yōu)化問題,通過同時優(yōu)化這些子FCM 共享不同任務(wù)間有價值的信息.該算法不僅對傳統(tǒng)粒子群優(yōu)化算法的參數(shù)設(shè)置和搜索過程進(jìn)行改進(jìn),而且考慮到不同任務(wù)間可能會出現(xiàn)知識的負(fù)遷移,加入特殊的任務(wù)選擇機(jī)制來選擇合適的任務(wù),從而減少負(fù)遷移的影響.

FCM 的結(jié)構(gòu)同樣是研究者關(guān)注的重點(diǎn).因?yàn)樽詣訉W(xué)習(xí)算法產(chǎn)生的FCM 在結(jié)構(gòu)上與專家知識確定的FCM 有很大不同.Stach 等[15]證明從數(shù)據(jù)中學(xué)習(xí)的FCM 密度更高(密度超過 90%,而專家定義的FCM 密度約為40%).而圖結(jié)構(gòu)的稀疏性與可解釋性息息相關(guān): FCM 中的連接數(shù)越少,說明圖的透明度越高、復(fù)雜性越低.稀疏實(shí)數(shù)編碼遺傳算法利用密度參數(shù)來指導(dǎo)訓(xùn)練過程,從而形成某個預(yù)定義密度的FCM[15].當(dāng)密度估計未知時,稀疏實(shí)數(shù)編碼遺傳算法可以使用默認(rèn)值以自動化方式生成性能超過或等于其他方法的模型.Poczeta 等[79]設(shè)計一種遺傳算法,可以在考慮系統(tǒng)密度的同時優(yōu)化系統(tǒng)的性能,通過這種方式只保留節(jié)點(diǎn)之間最重要的邊,自動構(gòu)建密度較小的FCM.Chi 等[80]將FCM 學(xué)習(xí)問題建模為多目標(biāo)優(yōu)化問題,從輸入的歷史數(shù)據(jù)中學(xué)習(xí)不同密度的FCM,為決策者提供具有不同屬性的候選解.該方法不僅可以在沒有專家知識的情況下高精度地重建FCM,而且可以創(chuàng)建由不同密度的FCM 組成的多樣化Pareto 最優(yōu)前沿.多任務(wù)多目標(biāo)模因算法(Multitasking multiobjective memetic algorithm,MMMA)在學(xué)習(xí)過程中考慮FCM 的測量誤差和稀疏性[17],基于模因算法和Lasso 初始化算子的進(jìn)化多任務(wù)框架提高算法性能并加速收斂.MMMA 方法不僅可以學(xué)習(xí)種群中的單一FCM,還可以利用相似模式的基因轉(zhuǎn)移來提高相似任務(wù)的準(zhǔn)確性.

綜上所述,在數(shù)據(jù)驅(qū)動下基于進(jìn)化的學(xué)習(xí)算法利用元啟發(fā)式思想,不受專家知識的約束,是目前FCM 研究領(lǐng)域發(fā)展最深遠(yuǎn)、應(yīng)用最廣泛的學(xué)習(xí)方法.然而這類方法在克服專家知識驅(qū)動類學(xué)習(xí)算法的局限性的同時,仍存在容易陷入局部收斂、需要選擇合適的參數(shù)、執(zhí)行速度慢等缺點(diǎn),導(dǎo)致算法在準(zhǔn)確率和速度上仍達(dá)不到理想的狀態(tài).

2.2.2 基于傳統(tǒng)約束優(yōu)化的學(xué)習(xí)算法

基于進(jìn)化的學(xué)習(xí)算法已經(jīng)在許多應(yīng)用中表現(xiàn)出良好的性能.然而,隨著FCM 的節(jié)點(diǎn)數(shù)量的增加,權(quán)重矩陣學(xué)習(xí)面臨指數(shù)級復(fù)雜度的嚴(yán)峻挑戰(zhàn).當(dāng)學(xué)習(xí)具有數(shù)百個節(jié)點(diǎn)的大規(guī)模FCM 時,算法則需要在高維超立方體空間中搜索合適的權(quán)重值,這個過程極其耗時且具有很高的計算負(fù)荷.因此,基于傳統(tǒng)約束優(yōu)化的學(xué)習(xí)算法將FCM 權(quán)重矩陣學(xué)習(xí)問題轉(zhuǎn)換成凸優(yōu)化問題,以一種簡單直觀的方式從歷史數(shù)據(jù)中快速高效地學(xué)習(xí)權(quán)重矩陣,以此解決上述局限性.對于一個含有N個變量,M個初始狀態(tài)向量(其中每個序列包含k個狀態(tài)值)的系統(tǒng),首先將這些初始狀態(tài)向量和對應(yīng)的響應(yīng)序列表示為矩陣的形式,得到M個大小為 (k+1)×N的響應(yīng)矩陣.然后將每個節(jié)點(diǎn)的局部連接學(xué)習(xí)問題建模為一個線性方程,最終形成一個含有N個未知變量和M×k個線性方程組的約束線性方程組.權(quán)重通過迭代求解該約束凸優(yōu)化問題確定.Wu 等[81]基于壓縮感知(Compressed sensing,CS)的框架,將大規(guī)模稀疏FCM 學(xué)習(xí)問題建模為凸優(yōu)化問題.首先將FCM 學(xué)習(xí)任務(wù)分解為多個稀疏信號重構(gòu)的子任務(wù),然后利用CS 恢復(fù)稀疏信號的能力學(xué)習(xí)FCM.該方法能夠從少量數(shù)據(jù)中學(xué)習(xí)到具有良好性能的模型,可以有效地學(xué)習(xí)1 000 個甚至更多節(jié)點(diǎn)的稀疏FCM.Lu等[82]將FCM 的學(xué)習(xí)問題轉(zhuǎn)化為帶約束的凸優(yōu)化問題,調(diào)用經(jīng)典的內(nèi)點(diǎn)法求解優(yōu)化問題,快速有效地從帶噪聲的歷史數(shù)據(jù)學(xué)習(xí)和優(yōu)化FCM 權(quán)重矩陣.Feng 等[83]同樣將FCM 的學(xué)習(xí)問題等價地轉(zhuǎn)化為經(jīng)典約束凸優(yōu)化問題,并在優(yōu)化目標(biāo)函數(shù)中引入最小二乘項(xiàng)和最大熵項(xiàng),前者用以確保FCM 的魯棒性,后者則規(guī)范FCM 權(quán)重矩陣的分布.為解決FCM 學(xué)習(xí)過程中的結(jié)構(gòu)化稀疏問題,基于迭代平滑算法的大規(guī)模FCM 魯棒學(xué)習(xí)方法引入彈性和全變分(Total variation,TV)懲罰項(xiàng)構(gòu)建目標(biāo)函數(shù),捕捉FCM 的稀疏結(jié)構(gòu)信息,提高網(wǎng)絡(luò)重構(gòu)的魯棒性[84].針對基于FCM 的預(yù)測模型在長期、多步預(yù)測中的性能不足,Vanhoenshoven 等[85]提出一種基于Moore-Penrose 逆的FCM 學(xué)習(xí)算法,減少訓(xùn)練FCM 所需的處理時間.

總體來說,基于傳統(tǒng)約束優(yōu)化的學(xué)習(xí)算法的優(yōu)勢在于能夠在訓(xùn)練過程中快速收斂到固定點(diǎn),但是不能保證得到的結(jié)果是全局最優(yōu).此外,需要強(qiáng)調(diào)的是這類算法能夠執(zhí)行的前提是問題結(jié)構(gòu)必須可導(dǎo)可微,否則無法求解.

2.2.3 基于回歸的學(xué)習(xí)算法

基于回歸的學(xué)習(xí)算法通過最小化輸入數(shù)據(jù)和輸出數(shù)據(jù)之間的擬合誤差,迭代更新FCM 權(quán)重矩陣.這類算法的核心是回歸算法,如基于 Lasso 回歸[86]、嶺回歸[87]的學(xué)習(xí)算法,增加 L1 正則化項(xiàng)或 L2 正則化項(xiàng)來構(gòu)建目標(biāo)函數(shù),通過最小化擬合誤差來學(xué)習(xí)FCM 的權(quán)重矩陣.針對多變量非平穩(wěn)時間序列的預(yù)測問題,基于彈性網(wǎng)絡(luò)回歸的學(xué)習(xí)算法被用來訓(xùn)練HFCM[88].為進(jìn)一步增強(qiáng)HFCM 對異常值的魯棒性,支持向量回歸的思想被引入訓(xùn)練HFCM來模擬生成的所有子序列與原始時間序列之間的關(guān)系[89].基于貝葉斯嶺回歸的HFCM 學(xué)習(xí)算法,能夠從數(shù)據(jù)中估計常規(guī)參數(shù),模型對超參數(shù)更加魯棒和不敏感且不需要人為手動設(shè)置[90].Wu 等將FCM學(xué)習(xí)擴(kuò)展到實(shí)時在線復(fù)雜系統(tǒng)分析,基于跟隨正則化領(lǐng)導(dǎo)者(Follow the regularized leader,FTRL)的有效算法,解決FCM 的在線學(xué)習(xí)問題[91].

2.3 半自動學(xué)習(xí)算法

半自動學(xué)習(xí)方法結(jié)合上文提到的兩種FCM 學(xué)習(xí)機(jī)制: 專家知識驅(qū)動的學(xué)習(xí)方法和自動學(xué)習(xí)算法.在半自動學(xué)習(xí)方法中,學(xué)習(xí)目標(biāo)是在專家初始知識和歷史數(shù)據(jù)的基礎(chǔ)上,分兩階段修改或者更新權(quán)重矩陣.圖6 展示半自動學(xué)習(xí)算法的基本流程.首先由領(lǐng)域?qū)＜叶xFCM 的輸入節(jié)點(diǎn)和初始拓?fù)浣Y(jié)構(gòu)(權(quán)重矩陣).在第1 階段,采用專家知識驅(qū)動的學(xué)習(xí)算法學(xué)習(xí)當(dāng)前FCM 權(quán)重矩陣,使其收斂到定點(diǎn)吸引子或者達(dá)到最大迭代次數(shù).在第2 階段,自動學(xué)習(xí)算法根據(jù)輸入數(shù)據(jù)在每個時間步長更新初始權(quán)重矩陣.下一時刻狀態(tài)向量的取值由第1 階段生成的權(quán)重矩陣和第2 階段生成的權(quán)重矩陣共同決定.

圖6 半自動學(xué)習(xí)算法的基本流程Fig.6 The basic process of semi-automatic learning algorithms

半自動模糊認(rèn)知圖學(xué)習(xí)方法研究工作相對較少,本文盡可能詳盡地歸納和總結(jié)相關(guān)研究成果.Papageorgiou 等[92]利用進(jìn)化算法的全局搜索能力和NHL 的有效性提出基于差分進(jìn)化算法和NHL算法的半自動學(xué)習(xí)方法.這種混合學(xué)習(xí)技術(shù)能夠有效地訓(xùn)練FCM,從而使系統(tǒng)達(dá)到期望的狀態(tài),并為每個具體問題確定合適的權(quán)重矩陣,已成功地應(yīng)用于現(xiàn)實(shí)的決策問題.Zhu 等[93]利用隨機(jī)遺傳算法的群體學(xué)習(xí)能力和NHL 算法的學(xué)習(xí)效率優(yōu)勢,將專家知識和數(shù)據(jù)特征相結(jié)合學(xué)習(xí)FCM,避免因人為因素而導(dǎo)致的訓(xùn)練偏差[94].基于NHL 和擴(kuò)展大洪水算法(Extended great deluge algorithm,EGDA)的FCM 學(xué)習(xí)方法[95]利用這兩種算法的優(yōu)點(diǎn)來創(chuàng)建更精確的FCM 模型.EGDA 的優(yōu)點(diǎn)在于能夠?qū)崿F(xiàn)全局搜索,較少依賴于參數(shù).而NHL 則工作效率更高,速度更快,可以處理連續(xù)范圍的概念值.Natarajan 等[96]結(jié)合DDNHL 和遺傳算法提出一種新的FCM 混合學(xué)習(xí)算法.提高了基于FCM 的分類器的分類精度和推理能力,準(zhǔn)確建模影響甘蔗產(chǎn)量預(yù)測的各種土壤和氣候參數(shù).不同于算法中提出的進(jìn)化算法與Hebbian 學(xué)習(xí)機(jī)制的混合模式,Madeiro 等[97]將實(shí)數(shù)編碼遺傳算法和差分進(jìn)化相結(jié)合,利用梯度信息自動構(gòu)建FCM,建模太陽能發(fā)電問題.這種混合學(xué)習(xí)方法既結(jié)合梯度方法的開發(fā)能力又利用進(jìn)化算法的探索能力.

綜上所述,在正確選擇一種合理的FCM 學(xué)習(xí)方法時,需要考慮可用數(shù)據(jù)的類型、領(lǐng)域知識和應(yīng)用場景等.專家知識驅(qū)動的學(xué)習(xí)算法適用于特定類型的數(shù)據(jù),并且在專家的知識可用時速度更快.然而該類算法由于受到專家經(jīng)驗(yàn)的限制,模型的泛化能力較差.當(dāng)系統(tǒng)中存在大量概念時,該類算法無法在模糊認(rèn)知圖學(xué)習(xí)中有效應(yīng)用.自動學(xué)習(xí)算法在復(fù)雜系統(tǒng)動態(tài)行為相似的情況下能夠提供更高質(zhì)量的學(xué)習(xí)模型.李慧等[98]指出FCM 的自動學(xué)習(xí)方式注重權(quán)重的自動調(diào)整和模型的自動構(gòu)建,減少FCM 對于專家的依賴性.研究表明,自動學(xué)習(xí)方法,例如RCGA,在處理一些涉及FCM 靜態(tài)和動態(tài)特性的問題中比專家知識驅(qū)動的學(xué)習(xí)算法更具有可行性[73].因此,在以建模系統(tǒng)動態(tài)行為的質(zhì)量為唯一評價標(biāo)準(zhǔn)或者在專家的知識和技能有限時,自動學(xué)習(xí)算法相比其他算法更具有優(yōu)勢.然而,自動學(xué)習(xí)方法的關(guān)鍵缺陷在于,提供難以解釋的解決方案可能導(dǎo)致不正確的靜態(tài)分析,且由于進(jìn)化算子、參數(shù)設(shè)計等因素?zé)o法保證解決方案的最優(yōu)性.半自動學(xué)習(xí)算法既利用專家知識學(xué)習(xí)的有效性,又引入基于種群的算法的全局搜索能力,一定程度上平衡兩者的缺陷.但考慮到仍舊需要使用專家知識,這類算法的發(fā)展可能會受到知識工程師有限的知識和技能的顯著影響,因此在處理真實(shí)數(shù)據(jù)和大量變量時無法應(yīng)用.表 2 中歸納和總結(jié)了上述3 類學(xué)習(xí)算法的主要文獻(xiàn)及對應(yīng)算法的特點(diǎn)及優(yōu)缺點(diǎn).

2.4 基于圖規(guī)模的學(xué)習(xí)算法分類方式

在前文中基于學(xué)習(xí)范式的不同,學(xué)習(xí)算法劃分為專家知識驅(qū)動的學(xué)習(xí)算法、自動學(xué)習(xí)算法、半自動學(xué)習(xí)算法三大類.本文從圖規(guī)模的角度提出一種新的劃分方式,即小規(guī)模圖學(xué)習(xí)算法和大規(guī)模圖學(xué)習(xí)算法,供讀者們研究探討.需要注意的是這里的規(guī)模大小表示FCM 中節(jié)點(diǎn)數(shù)量的多少,與實(shí)際問題的數(shù)據(jù)量無關(guān).當(dāng)然,這兩種分類方式也存在交叉.專家知識驅(qū)動的學(xué)習(xí)算法、基于進(jìn)化的學(xué)習(xí)方法、半自動學(xué)習(xí)算法大多適用于解決小規(guī)模FCM學(xué)習(xí)問題,基于傳統(tǒng)約束優(yōu)化和基于回歸的學(xué)習(xí)方法則更適用于解決大規(guī)模FCM 學(xué)習(xí)問題.

大規(guī)模圖學(xué)習(xí)算法又可以分為基于暴力求解的方法、基于維度縮減的方法和基于分解策略的方法.基于暴力求解的方法利用高維優(yōu)化方法直接求解大規(guī)模FCM 優(yōu)化問題(Large-scale FCM learn-ing problems,LSFCMP),其局限性在于未考慮圖的任何特性.雖然該類方法也能從歷史數(shù)據(jù)中自動學(xué)習(xí)FCM,但由于搜索空間的高維度,使得其在LSFCMP 上的性能表現(xiàn)不佳.此外,由于搜索空間充足,這些方法僅用于學(xué)習(xí)不超過40 個節(jié)點(diǎn)的FCM[99].如對于具有400 個節(jié)點(diǎn)的FCM,則需要優(yōu)化160 000個權(quán)重值.基于維度縮減的方法[70,100-101]可從概念縮減和邊縮減的角度繼續(xù)細(xì)分.概念縮減是指將相似的概念合并到集群中來減少概念的數(shù)量.邊縮減則是通過調(diào)整圖中連接邊的密度來實(shí)現(xiàn).該類算法的優(yōu)勢在于簡單易實(shí)現(xiàn),但是由于維度縮減需要具備一定的先驗(yàn)知識,因此圖的物理意義可能在縮減過程中被破壞.基于分解的學(xué)習(xí)方法[102-104]將高維復(fù)雜問題分解為多個低維子任務(wù)進(jìn)行求解.最常用的分解方式是將FCM 分解為多個節(jié)點(diǎn)的局部連接,然后利用自動學(xué)習(xí)算法中的優(yōu)化器分別優(yōu)化求解,最后將局部連接拼接為完整的圖結(jié)構(gòu),從而得到最終的優(yōu)化結(jié)果.這類方法可解釋性強(qiáng)但是時間復(fù)雜度高.表3 歸納和總結(jié)現(xiàn)有大規(guī)模FCM 學(xué)習(xí)算法的分類現(xiàn)狀.

表3 大規(guī)模模糊認(rèn)知圖學(xué)習(xí)算法分類Table 3 Large-scale fuzzy cognitive map learning algorithm classification

3 學(xué)習(xí)算法的應(yīng)用

3.1 專家知識驅(qū)動的學(xué)習(xí)算法的應(yīng)用

專家知識驅(qū)動的學(xué)習(xí)算法在模式分類、疾病診斷(前列腺癌、乳腺癌、帕金森病等)、風(fēng)險評估、結(jié)構(gòu)損傷預(yù)測等場景中應(yīng)用較多.例如,Douali 等[105]利用前列腺癌的臨床診斷數(shù)據(jù)構(gòu)建FCM,并基于構(gòu)建的模型預(yù)測病人的健康情況.Zhai 等[106]在AHL 算法的基礎(chǔ)上研究如何利用FCM 對上市公司信用風(fēng)險評估問題進(jìn)行建模和模擬.類似地,基于NHL 的決策系統(tǒng)訓(xùn)練的FCM 用于解決自閉癥預(yù)測問題[107].NHL 的預(yù)測結(jié)果可作為確定預(yù)防和規(guī)劃特殊兒童適當(dāng)治療的指南.Beena 等[108]開發(fā)一種基于FCM 的結(jié)構(gòu)損傷檢測算法,使用連續(xù)介質(zhì)力學(xué)方法將結(jié)構(gòu)損壞建模為損壞位置的剛度損失.懸臂梁的有限元模型用于計算由于結(jié)構(gòu)損壞導(dǎo)致的前6 個梁的頻率變化,其中FCM 的輸入概念是頻率偏差,輸出是沿梁的5 個可能損壞位置.Anninou 等[109]基于FCM 建立帕金森病的數(shù)學(xué)模型,并利用專家知識和NHL 算法訓(xùn)練該模型,為帕金森病的預(yù)防和治療提供參考數(shù)據(jù)[110].Sivabalaselvamani 等[111]提出自適應(yīng)NHL 算法訓(xùn)練FCM 模型,開發(fā)新的基于知識的系統(tǒng)應(yīng)用,提高FCM 建模和預(yù)測事故成因的效率.Senniappan 等[112]基于FCM構(gòu)建裂縫嚴(yán)重程度分級模型來評估支撐柱中裂紋的嚴(yán)重程度.然后利用NHL 和DDNHL 學(xué)習(xí)方法提高模型在結(jié)構(gòu)健康監(jiān)測應(yīng)用中的分類和預(yù)測能力.所提出的裂紋嚴(yán)重程度分級模型將支撐柱中的裂紋分為3 類,即細(xì)裂紋、中裂紋和重裂紋,可幫助非專業(yè)研究人員分析裂縫產(chǎn)生的可能原因并將其報告給結(jié)構(gòu)工程師,以便在適當(dāng)?shù)碾A段使用各種裂縫控制技術(shù)進(jìn)行維護(hù).Subramanian 等[113]基于FCM 構(gòu)建乳腺癌風(fēng)險評估模型,將給定女性的初始篩查乳房X 光片的結(jié)果與其人口統(tǒng)計學(xué)風(fēng)險因素相結(jié)合,以預(yù)測發(fā)生乳腺癌的風(fēng)險.

3.2 自動學(xué)習(xí)算法的應(yīng)用

自動學(xué)習(xí)算法在時間序列預(yù)測和分類中應(yīng)用最為廣泛,同時也拓展應(yīng)用在其他領(lǐng)域,如復(fù)雜網(wǎng)絡(luò)重構(gòu)、病情趨勢預(yù)測、能耗預(yù)測、操作評估、情景意識評估[114]等.Orang 等[115]系統(tǒng)地綜述FCM 在時間序列預(yù)測領(lǐng)域的應(yīng)用.根據(jù)特征維數(shù)的不同,時間序列可以分為多變量時間序列和單變量時間序列.同樣,不同類型時間序列的建模和預(yù)測方法也因結(jié)構(gòu)差異而具有不同的針對性.利用FCM 進(jìn)行時間序列預(yù)測的相關(guān)方法通常具有類似的思路: 首先,需要確定多個概念節(jié)點(diǎn),用于構(gòu)建基本的FCM預(yù)測框架.其次利用學(xué)習(xí)算法訓(xùn)練FCM 權(quán)重矩陣.最后利用FCM 推理機(jī)制得到預(yù)測結(jié)果.對于多變量時間序列預(yù)測,變量通常可認(rèn)為是FCM 中的概念節(jié)點(diǎn).例如,Froelich 等[116]基于遺傳算法和FCM 構(gòu)建預(yù)測模型,以提高多變量時間序列預(yù)測的效果.Luo 等[117]基于IFCM 構(gòu)建時間序列預(yù)測模型并利用PSO 算法訓(xùn)練模型.針對時間序列的多樣性,該算法直接從原始時序數(shù)據(jù)構(gòu)建認(rèn)知圖和權(quán)重矩陣的概念結(jié)構(gòu),通過減少人為參與有效擴(kuò)大應(yīng)用范圍.Wang 等[44]基于FCM 的拓展模型DFCM 來提高模型對多變量時間序列的預(yù)測能力.Liu 等[118]從時空融合的角度,提出一種基于FCM和證據(jù)推理理論的多源多變量臭氧預(yù)測模型.該方法將多變量臭氧預(yù)測問題建模為通過RCGA 學(xué)習(xí)的FCM,其中每個節(jié)點(diǎn)表示一類污染物.所構(gòu)建的FCM 預(yù)測既能反映臭氧的復(fù)雜演化趨勢,又能反映交叉干擾現(xiàn)象.

基于FCM 的單變量時間序列預(yù)測方法類似于多變量時間序列預(yù)測[119],不同之處在于首先需要將一維時間序列映射到多維空間或?qū)⑵浞纸鉃槎囝l子序列,然后建立基于FCM 的預(yù)測模型.目前,已有一些信號處理方法和函數(shù)映射方法應(yīng)用于單變量時間序列的分解.例如,Yang 等[87]提出一種基于HFCM 和冗余小波變換的時間序列預(yù)測模型,應(yīng)用冗余Haar 小波變換將原始非平穩(wěn)時間序列分解為多元時間序列.Liu 等[90]應(yīng)用經(jīng)驗(yàn)?zāi)B(tài)分解對原始序列進(jìn)行特征提取,得到多個序列來表示HFCM 的節(jié)點(diǎn).Homenda 等[120]提出一種時間序列建模技術(shù),該技術(shù)通過移動窗口方法將基于FCM設(shè)計的概念連接在一起.將模糊化后的時間序列按照移動窗口方案傳遞到FCM 上.此外,提出基于核映射和HFCM 的框架用來預(yù)測單變量時間序列,其中核映射方法將原始一維時間序列映射為多維特征時間序列[121].類似地,Gao 等[89]提出基于FCM和經(jīng)驗(yàn)小波變換的單變量時間序列預(yù)測模型.利用經(jīng)驗(yàn)小波變換將原始時間序列分解成不同的層次,從而捕獲不同頻率的信息.然后,利用支持向量回歸算法訓(xùn)練HFCM,對生成的所有子序列與原始時間序列之間的關(guān)系進(jìn)行建模.以上方法雖然能夠捕捉時間序列的變化規(guī)律和趨勢,獲得比模糊時間序列更好的性能,但是沒有考慮時間序列的本質(zhì)特征和潛在表征,導(dǎo)致預(yù)測精度不高.因此,Feng 等[122]提出一種將模糊C 均值聚類、時間序列分割和FCM相結(jié)合的單變量時間序列長期預(yù)測方法.引入動態(tài)時間規(guī)整來評估線段間的距離,將時間序列劃分為合適且內(nèi)部同質(zhì)的片段.然后,利用動態(tài)時間規(guī)整的改進(jìn)模糊C 均值算法對這些片段進(jìn)行模糊化,從而將片段轉(zhuǎn)化為模糊時間序列和語義向量.最后,基于凸優(yōu)化的方法快速魯棒地學(xué)習(xí)FCM.Wu 等[123]基于稀疏自動編碼器和HFCM 學(xué)習(xí)原始時間序列的良好表示,更好地利用潛在特征的重要信息.Feng等[124]提出一種基于劃分策略的FCM 預(yù)測模型來描述時間序列的變化特征[125].該模型首先采用模糊C 均值聚類將時間序列劃分為若干子序列,隨后利用這些子序列分別構(gòu)建FCM 模型并利用最小二乘法訓(xùn)練.最后,通過模糊規(guī)則對FCM 模型進(jìn)行融合.構(gòu)建的模型不僅在數(shù)值預(yù)測上表現(xiàn)良好,而且具有可解釋性.此外,考慮到在傳統(tǒng)的基于FCM 的預(yù)測模型中,FCM 的概念之間的因果關(guān)系保持不變.然而,在現(xiàn)實(shí)生活中因果關(guān)系可能在時間上發(fā)生變化.Wang 等[126]提出一種基于知識引導(dǎo)學(xué)習(xí)機(jī)制和PSO 相結(jié)合的方法更新FCM,預(yù)測大規(guī)模單變量時間序列.當(dāng)新數(shù)據(jù)不斷產(chǎn)生時,依據(jù)知識引導(dǎo)規(guī)則更新基于舊數(shù)據(jù)建立的預(yù)測模型,從而避免從頭開始重新訓(xùn)練FCM 的額外計算開銷.Salmeron 等[127]提出FCM 結(jié)構(gòu)的動態(tài)優(yōu)化方法即在每次預(yù)測之前選擇FCM 模型中涉及的概念.整個FCM模型在訓(xùn)練過程中需要不斷適應(yīng)預(yù)測時間序列的當(dāng)前局部特征.

除時間序列預(yù)測之外,基于FCM 的模型也可以被用于分類任務(wù).因?yàn)镕CM 分類器的拓?fù)浣Y(jié)構(gòu)(即概念和因果關(guān)系)必須包含被建模系統(tǒng)的連貫含義,所以構(gòu)建基于FCM 的分類器時面臨的挑戰(zhàn)之一在于如何連接輸入和輸出概念[128].基于FCM 的時間序列分類器通過比較基于同一組概念的權(quán)重矩陣來區(qū)分屬于不同類別的時間序列映射并評估FCM 的相似性,時間序列的每個數(shù)據(jù)點(diǎn)都與每個概念相關(guān).其中權(quán)重矩陣描述圖中概念之間的關(guān)系,隸屬度函數(shù)則評估關(guān)系的強(qiáng)度[5].Szwed 等[129]提出一種基于全連接圖結(jié)構(gòu)的FCM 分類器.與期望在推理過程中達(dá)到穩(wěn)定系統(tǒng)狀態(tài)的方法不同,該方法選擇在收集輸出標(biāo)簽之前執(zhí)行幾個FCM 迭代(步驟),然后使用對數(shù)損失或交叉熵作為代價函數(shù)通過梯度算法學(xué)習(xí)權(quán)重.Wu 等[130]開發(fā)由基于稀疏自動編碼器的特征提取塊、基于HFCM 的時空信息聚合塊以及一個基于多層感知機(jī)的預(yù)測層組成的FCM 系統(tǒng)來解決時間序列分類問題.特征提取塊旨在捕獲底層核心演化模式,時空信息聚合塊旨在對底層因果關(guān)系和上下文依賴性進(jìn)行建模,多層感知機(jī)則將特征表示映射到時間序列的輸出標(biāo)簽.Jastrzebska 等[131]使用移動窗口技術(shù)分階段捕獲訓(xùn)練過程中的時間序列數(shù)據(jù)流,并基于反向誤差傳播算法來計算模型的超參數(shù),最后將訓(xùn)練好的FCM用于分類決策.Zhou 等[132]在基于相似度的粗糙集和FCM 的基礎(chǔ)上提出一種文本分類方法,用FCM權(quán)重矩陣表達(dá)的因果關(guān)系代替相關(guān)關(guān)系生成文本分類器.Kannappan 等[133]提出一種基于人工免疫系統(tǒng)(Artificial immune systems,AIS)的智能方法學(xué)習(xí)FCM 來解決自閉癥分類任務(wù).

此外,自動學(xué)習(xí)算法在除時間序列預(yù)測和分類之外的其他領(lǐng)域也具有豐富的應(yīng)用前景.Froelich等[134]使用自適應(yīng)學(xué)習(xí)算法挖掘時態(tài)醫(yī)學(xué)數(shù)據(jù).該算法考慮兩種類型的簡單概念,即醫(yī)療干預(yù)(如開藥)和由病人病情變化表達(dá)的健康狀況,挖掘醫(yī)學(xué)概念之間的時間依賴性.在之后的研究中,該作者又利用真實(shí)的臨床數(shù)據(jù)構(gòu)建前列腺癌的FCM 模型,提出一種改進(jìn)的RCGA 用于FCM 模型的學(xué)習(xí),并將該模型應(yīng)用于患者健康狀態(tài)的長期預(yù)測[135].Papageorgiou 等[136]基于結(jié)構(gòu)優(yōu)化遺傳算法自動構(gòu)建應(yīng)用于需水量預(yù)測的FCM.所提出的方法對歷史需水量相關(guān)的5 個變量,即平均氣溫、高溫、降水、風(fēng)速和旅游活動進(jìn)行多元分析與預(yù)測.Poczeta等[137]構(gòu)建一個基于FCM 的嵌套結(jié)構(gòu)來解決電器能耗預(yù)測的決策任務(wù).通過結(jié)構(gòu)優(yōu)化遺傳算法學(xué)習(xí)這種嵌套結(jié)構(gòu),推導(dǎo)每個嵌套級別的圖概念之間的重要關(guān)系,并根據(jù)可用時間序列確定這些關(guān)系的權(quán)重,發(fā)現(xiàn)和描述圖中重要概念之間的隱藏關(guān)系.Trappey 等[138]使用FCM 和遺傳算法研究一種混合定性和定量方法,對支持射頻識別的逆向物流操作的性能進(jìn)行建模和評估.

3.3 半自動學(xué)習(xí)算法的應(yīng)用

半自動學(xué)習(xí)方法由于受到專家知識的限制,在解決現(xiàn)實(shí)問題中沒有自動學(xué)習(xí)算法應(yīng)用廣泛.本文在前文中已經(jīng)盡可能地列舉該類算法的應(yīng)用,故在此只做簡單介紹.Georgopoulos 等[139]提出用于鑒別醫(yī)學(xué)診斷任務(wù)中的診斷支持的半自動學(xué)習(xí)算法,有助于醫(yī)護(hù)人員調(diào)整預(yù)期的決策.Natarajan 等[96]結(jié)合DDNHL 和遺傳算法提高基于FCM 的分類器的分類精度和推理能力,準(zhǔn)確建模影響甘蔗產(chǎn)量預(yù)測的各種土壤和氣候參數(shù)之間的因果關(guān)系.表4 歸納總結(jié)各類學(xué)習(xí)算法的應(yīng)用場景.

表4 模糊認(rèn)知圖學(xué)習(xí)算法的應(yīng)用文獻(xiàn)總結(jié)Table 4 Literature review on the application of fuzzy cognitive map learning algorithms

綜上所述,根據(jù)FCM 學(xué)習(xí)算法的特點(diǎn)以及其在各類實(shí)際場景中的應(yīng)用效果,可以得出專家知識驅(qū)動的學(xué)習(xí)算法憑借其簡單、快速的優(yōu)勢,適用于小規(guī)模復(fù)雜系統(tǒng)建模,特別是建模過程中專業(yè)性要求高,對結(jié)果的穩(wěn)定性有需求的場景.自動學(xué)習(xí)算法以數(shù)據(jù)驅(qū)動,應(yīng)用范圍廣、普適性高,在實(shí)際應(yīng)用中限制較少,根據(jù)實(shí)際問題的需求可以有偏好(精度、速度、計算能力等)地選擇合適的學(xué)習(xí)算法應(yīng)用于預(yù)測、決策、分類等任務(wù).半自動學(xué)習(xí)算法適用于在領(lǐng)域知識工程師存在的前提下,利用FCM 研究系統(tǒng)控制或性能因素之間的因果關(guān)系,如工業(yè)過程控制問題、作業(yè)車間仿真控制問題等.因此,半自動學(xué)習(xí)算法類似于專家知識驅(qū)動的學(xué)習(xí)算法,其也適用于小規(guī)模的工程問題,應(yīng)用場景有限.

4 模糊認(rèn)知圖建模工具總結(jié)

目前FCM 研究領(lǐng)域缺乏一個完整且系統(tǒng)的建模工具的總結(jié),存在軟件工具不健全、編程語言差異化以及多平臺交互困難等問題,使得大部分研究者花費(fèi)太多精力于重復(fù)的建模工作,甚至有時所有工作需要推倒重建.這樣既浪費(fèi)時間和資源,還導(dǎo)致眾多工作難以集成,無法相互比較.本文詳細(xì)總結(jié)用于創(chuàng)建和測試FCM 的軟件工具,完善各類建模工具的使用說明,以便于研究者使用,旨在縮小基于FCM 的系統(tǒng)發(fā)展與科學(xué)理論進(jìn)步之間的差距.

FCM Modeler 是由Mohr[144]開發(fā)的用于設(shè)計基于FCM 的系統(tǒng)的通用性建模軟件.該軟件由一個簡單的界面組成,支持在定性靜態(tài)模型上實(shí)現(xiàn)群體決策.其主要功能包括直觀的用戶界面,基于FCM 的系統(tǒng)的設(shè)計和存儲,以及基于FCM 對觀測概念和連續(xù)狀態(tài)向量進(jìn)行推斷.FCM Modeler 是FCM 研究領(lǐng)域的一個開創(chuàng)性成果,為后續(xù)建模工作提供思路.

FCMappers.net 是面向?qū)CM 及其網(wǎng)絡(luò)分析和系統(tǒng)建模感興趣的研究者而開發(fā)的網(wǎng)站[145].該網(wǎng)站基于Microsoft Excel 實(shí)現(xiàn)一個名為FCMapper 的復(fù)雜工具,可用于對FCM 的建模、模擬和分析.由于它完全基于Excel 和應(yīng)用程序視覺基礎(chǔ)元素(Visual basic for applications,VBA),因此可以檢查、修改和增強(qiáng)其源代碼.該工具目前仍在積極開發(fā)中,并定期發(fā)布新版本.此外,作為一個非商業(yè)項(xiàng)目,其使用是免費(fèi)的.

FCM Tool 是León 等[146]建模比利時公共交通真實(shí)決策問題時開發(fā)的.該軟件能夠通過交互式圖形可視化地設(shè)計基于FCM 的復(fù)雜模型,能夠通過選擇要使用的傳遞函數(shù)和停止標(biāo)準(zhǔn)的種類來自定義更新規(guī)則,還能分析場景及其對系統(tǒng)整體的影響.FCM Tool 提供一種基于進(jìn)化的學(xué)習(xí)算法,用于從歷史數(shù)據(jù)中自動學(xué)習(xí)因果權(quán)重.其另一個相關(guān)功能是利用聚合算子將幾種基于FCM 的系統(tǒng)組合成一個具有單一知識表示的系統(tǒng).

FCM Designer[147]在FCM Modeler 的基礎(chǔ)上拓展一些新的功能,包括交互式圖形可視化,設(shè)計FCM 模型的圖形支持,能夠使用可用因果知識模擬新場景.雖然相比于FCM Modeler 具有更好的圖像界面和功能,但是該軟件仍然很難與用戶友好交互且學(xué)習(xí)算法也無法添加預(yù)定義的參數(shù).Aguilar等[148]在2016 年擴(kuò)展FCM Designer 工具的功能,支持創(chuàng)建多層FCM,稱為FCM Designer Version 2.0.該軟件考慮到對于同一個問題可以有若干個FCM,每個FCM 都表達(dá)對所研究系統(tǒng)的不同層次但又相互關(guān)聯(lián)的知識.因此,可以先對具有特定信息的系統(tǒng)進(jìn)行詳細(xì)的抽象,然后再進(jìn)行更一般的建模.此外,開發(fā)者認(rèn)為FCM 可以有不同的層次,其中一個層次的變量依賴于另一個層次的變量.也就是說,多層方法通過層與層之間的信息流來豐富所建模的系統(tǒng),從其他層的概念中推導(dǎo)出當(dāng)前層所涉及概念的信息.在多層方法中,不同層次的認(rèn)知圖之間的關(guān)系可以通過多種方式進(jìn)行,如模糊規(guī)則、權(quán)重連接以及數(shù)學(xué)方程.作為FCM Designer 工具的擴(kuò)展,該軟件還開展不同領(lǐng)域的測試用例: 用于分析維基百科緊急屬性的FCM,用于醫(yī)學(xué)診斷分析的FCM,以及一個類似推薦系統(tǒng)的FCM.

Mental Modeler[149]是面向非IT 人員的一款軟件,能夠基于Web 建模并支持群體決策.該軟件將給定領(lǐng)域的利益相關(guān)者納入模型構(gòu)建和分析過程中,設(shè)計一個簡單的認(rèn)知圖(具有符號和加權(quán)關(guān)系)并模擬其在某些場景下的行為,使決策者能夠理解正在管理的環(huán)境系統(tǒng)中的重要概念組成部分.此外,它能夠在不同的競爭群體之間建立信任和共識,并通過挖掘可能不屬于環(huán)境系統(tǒng)的一部分信息來減少不確定性,從而允許專家協(xié)作驗(yàn)證和測試他們對系統(tǒng)的假設(shè).由于Mental Modeler 是基于Web 實(shí)現(xiàn)的方法,方便用戶訪問和實(shí)施,特別是被該領(lǐng)域的不熟練用戶使用.該工具的不足之處在于缺乏FCM學(xué)習(xí)算法以及可行實(shí)驗(yàn)方案的選擇性.

Java 模糊認(rèn)知圖(Java fuzzy cognitive maps,JFCM)[150]是一個用Java 編寫的用于FCM 建模的開源庫.該庫小而簡單,可用于創(chuàng)建各種基于FCM的模型.JFCM 對其他庫的依賴性很小,可直接從XML 文件中加載網(wǎng)絡(luò),且無需更改便可以在許多操作系統(tǒng)上運(yùn)行.JFCM 是從面向?qū)ο缶幊痰慕嵌葮?gòu)想的,如果標(biāo)準(zhǔn)組件集不足以滿足更復(fù)雜的項(xiàng)目或理論建議,則可以相應(yīng)地擴(kuò)展源代碼.但是由于需要直接解讀源代碼,對于沒有編程技能的研究者來說,軟件利用率有限.JFCM 在軟件發(fā)布時也強(qiáng)調(diào),它的目標(biāo)用戶是: 愿意學(xué)習(xí)FCM 的學(xué)生,可以試驗(yàn)新的學(xué)習(xí)算法和FCM 變體的研究人員,需要簡單、經(jīng)過測試和可擴(kuò)展的庫的應(yīng)用程序開發(fā)人員,以及開發(fā)基于FCM 技術(shù)的應(yīng)用程序的公司.

基于認(rèn)知圖的智能專家系統(tǒng)(Intelligent expert system based on cognitive maps,ISEMK)是一種基于FCM 和人工神經(jīng)網(wǎng)絡(luò)的決策支持系統(tǒng)建模軟件[151].ISEMK 由4 個基本塊組成,即: 知識處理、FCM 運(yùn)算分析、神經(jīng)網(wǎng)絡(luò)工具和圖形用戶界面[152].它具有以下功能: 初始化FCM 模型歷史數(shù)據(jù),可視化FCM 模型,基于多步梯度法和歷史數(shù)據(jù)學(xué)習(xí)FCM 模型,使用基于進(jìn)化的學(xué)習(xí)算法(RCGA,SOGA)和歷史數(shù)據(jù)學(xué)習(xí)FCM 模型,根據(jù)歷史數(shù)據(jù)測試FCM 學(xué)習(xí)的準(zhǔn)確性,將學(xué)習(xí)和測試結(jié)果導(dǎo)出到.csv文件,以圖表形式可視化學(xué)習(xí)和測試結(jié)果.此外,神經(jīng)網(wǎng)絡(luò)模塊還能夠?qū)崿F(xiàn)用于時間序列預(yù)測的多層神經(jīng)網(wǎng)絡(luò)以及兩種學(xué)習(xí)算法: Levenberg-Marquardt方法[153]和帶動量的反向傳播方法.

FCM Expert[154]是一個Java 軟件工具,拓展FCM Tool 的功能,為基于FCM 的系統(tǒng)建模提供一個通用且更完整的軟件平臺.FCM Expert 繼承FCM Tool 中最強(qiáng)的特性(決策),并增加幾種用于調(diào)整權(quán)重矩陣的無監(jiān)督和有監(jiān)督學(xué)習(xí)算法.該軟件工具包括用于優(yōu)化網(wǎng)絡(luò)拓?fù)鋄155]和改進(jìn)系統(tǒng)融合[156]而不丟失相關(guān)信息的技術(shù).此外,用戶可以配置模型參數(shù)(例如傳遞函數(shù)、推理規(guī)則或停止標(biāo)準(zhǔn))并具有友好的圖形界面設(shè)計[157].

FCMpy 是一個用于構(gòu)建和分析FCM 的開源Python 模塊[158].該模塊能夠從定性數(shù)據(jù)或模擬系統(tǒng)行為中得出模糊因果權(quán)重,為涉及FCM 的端到端項(xiàng)目提供工具.它嵌入NHL、ANL、遺傳算法等方法來調(diào)整FCM 的因果權(quán)重矩陣并解決分類問題.用戶可以通過模擬假設(shè)干預(yù)(即分析假設(shè)場景)輕松實(shí)現(xiàn)場景分析.該模塊的目的是使來自不同領(lǐng)域(如心理學(xué)、認(rèn)知科學(xué)或工程學(xué))的研究人員能夠在不深入了解編程知識的情況下,輕松高效地開發(fā)和測試所提出的FCM 模型.

表5 總結(jié)現(xiàn)有FCM 建模軟件,并從受眾定位、適用場景、應(yīng)用形式、是否包含圖形頁面等多個維度進(jìn)行系統(tǒng)的分析.由表5 及以上分析可以得出,FCM Designer、Mental Modeler 和 FCM Tool 在分析場景和試驗(yàn)新情況時為專家提供合適的圖形支持,而JFCM 適合開發(fā)可在更復(fù)雜的解決方案中重復(fù)使用的FCM 模塊.然而,這些軟件仍然缺乏實(shí)驗(yàn)選項(xiàng)或不允許處理機(jī)器學(xué)習(xí)問題.這大大阻礙它們在面對現(xiàn)實(shí)情況時的可用性.相比之下,FCM Expert 和FCMpy 是開發(fā)基于FCM 的系統(tǒng)最便捷的軟件工具.FCM Expert 優(yōu)化基于FCM 的稠密系統(tǒng)中的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)并在不丟失相關(guān)信息的情況下提高學(xué)習(xí)算法的收斂性,應(yīng)用于模擬和模式分類場景.FCMpy 提供開發(fā)FCM 所需的開源功能模塊,研究者只需要調(diào)用相關(guān)程序包便可以實(shí)現(xiàn)相關(guān)FCM 學(xué)習(xí)算法,具有強(qiáng)大的可移植性和可用性.

表5 模糊認(rèn)知圖建模工具對比Table 5 Comparison of fuzzy cognitive map modeling tools

綜上所述,現(xiàn)有的面向FCM 開發(fā)的軟件工具,存在學(xué)習(xí)能力不足、FCM 結(jié)構(gòu)單一、功能模塊耦合性低等局限性,難以彌補(bǔ)FCM 領(lǐng)域的理論進(jìn)展與良好的實(shí)際應(yīng)用之間的差距.因此,開發(fā)一款功能豐富、圖形界面友好、可操作性強(qiáng)的FCM 建模工具有利于改善FCM 相關(guān)領(lǐng)域研究者的用戶體驗(yàn),進(jìn)一步推動模糊認(rèn)知圖技術(shù)的應(yīng)用和發(fā)展,為各個領(lǐng)域提供更加準(zhǔn)確和可靠的決策支持和智能化解決方案.一款科學(xué)有效的FCM 軟件建模工具需支持以下功能:

1)支持調(diào)用多種學(xué)習(xí)算法優(yōu)化FCM 結(jié)構(gòu)并保證算法效率和精度.目前的FCM 軟件開發(fā)工具最多只嵌入6 種學(xué)習(xí)算法,學(xué)習(xí)能力不足,難以滿足復(fù)雜系統(tǒng)建模、多模態(tài)數(shù)據(jù)挖掘的處理需求.同時,可引入并行計算和分布式計算等技術(shù),提高模糊認(rèn)知圖軟件開發(fā)工具的算法效率和精度,以滿足各種實(shí)際應(yīng)用需求.

2)支持多種數(shù)據(jù)格式.FCM 建模工具需支持多種數(shù)據(jù)格式,例如時序數(shù)據(jù)、文本、圖像等,以將FCM 更加靈活地應(yīng)用于多個領(lǐng)域,滿足用戶的多樣化需求.

3)具有可視化展示和用戶交互功能.建模工具需提供圖形用戶界面和可視化編輯器等功能,以方便用戶構(gòu)建和調(diào)整FCM 模型.

5 結(jié)束語

FCM 學(xué)習(xí)算法是不確定性人工智能領(lǐng)域一個具有重要研究意義的研究分支,致力于分析FCM及其特性,旨在從先驗(yàn)知識或數(shù)據(jù)中學(xué)習(xí)FCM,從而為復(fù)雜系統(tǒng)建模和動態(tài)分析提供參考依據(jù).本文系統(tǒng)地梳理、歸納和分析FCM 理論和學(xué)習(xí)算法的發(fā)展現(xiàn)狀.1)介紹FCM 的拓?fù)浣Y(jié)構(gòu)和推理機(jī)制的發(fā)展,分析FCM 的轉(zhuǎn)換函數(shù)和動態(tài)特性,并總結(jié)和分析近年來FCM 結(jié)構(gòu)的拓展模型.2)提出FCM學(xué)習(xí)方法可以根據(jù)學(xué)習(xí)范式的不同分為3 類: 專家知識驅(qū)動學(xué)習(xí)算法、自動學(xué)習(xí)算法和半自動學(xué)習(xí)算法.并詳細(xì)闡述這3 類算法的研究現(xiàn)狀,探討每類算法優(yōu)缺點(diǎn).此外,從圖規(guī)模的角度為讀者提供一個FCM 學(xué)習(xí)算法分類的新方式.3)歸納近年來每類學(xué)習(xí)算法的應(yīng)用領(lǐng)域.4)總結(jié)用于FCM 構(gòu)建和學(xué)習(xí)的軟件工具.

通過對已有FCM 學(xué)習(xí)算法及應(yīng)用進(jìn)行全面調(diào)研與綜述,學(xué)習(xí)算法的發(fā)展對FCM 在知識表示和推理、復(fù)雜系統(tǒng)的建模和決策、時間序列預(yù)測和分類等方面的性能提升均已取得一定的成效.本文從FCM 與其他研究領(lǐng)域交叉融合發(fā)展的角度出發(fā),總結(jié)FCM 學(xué)習(xí)算法在理論框架和應(yīng)用領(lǐng)域方面的探索方向和發(fā)展趨勢:

1)學(xué)習(xí)算法

a)專家知識驅(qū)動的學(xué)習(xí)算法受限于專家經(jīng)驗(yàn)和先驗(yàn)知識,利用集成學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等策略降低人類決策過程中的不確定性是一個具有潛力的研究思路.

b)基于進(jìn)化的學(xué)習(xí)算法是目前FCM 研究領(lǐng)域最廣泛使用的自動學(xué)習(xí)方法,但仍存在參數(shù)優(yōu)化耗時、計算代價高、局部收斂等共性問題且在處理高維稀疏問題時具有局限性.利用啟發(fā)式算法、分布式計算方法以及偏好優(yōu)化、約束多目標(biāo)優(yōu)化、進(jìn)化多任務(wù)等技術(shù),探索科學(xué)高效的進(jìn)化學(xué)習(xí)方法是當(dāng)前FCM 研究的焦點(diǎn)之一.

c)半自動學(xué)習(xí)算法能夠平衡專家知識驅(qū)動的學(xué)習(xí)算法和自動學(xué)習(xí)算法之間的局限性,既考慮圖結(jié)構(gòu)的物理特性又保證學(xué)習(xí)結(jié)果的最優(yōu)性.然而其依然受專家知識的限制,難以在現(xiàn)實(shí)領(lǐng)域中廣泛應(yīng)用.因此,如何自動獲取專家知識是專家知識驅(qū)動的學(xué)習(xí)算法和半自動學(xué)習(xí)算法需要解決的核心問題.自然語言處理技術(shù)、遷移學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)等技術(shù)為這一核心問題提供可能的解決思路.如自然語言處理技術(shù)能夠通過對文本數(shù)據(jù)的理解和分析,構(gòu)建模型所需專家知識.遷移學(xué)習(xí)技術(shù)可將源域的知識遷移至目標(biāo)域以解決專家知識有限的問題.深度強(qiáng)化學(xué)習(xí)則可通過算法與專家交互,逐步獲得專家知識.

d)現(xiàn)有的FCM 學(xué)習(xí)算法大多聚焦于單一視圖的學(xué)習(xí),比如獨(dú)立的復(fù)雜系統(tǒng)建模或從單個角度(時間維度或者空間維度)的時間序列分析,然而在現(xiàn)實(shí)生活中復(fù)雜系統(tǒng)常常是由多個具有相互作用的子系統(tǒng)組成.因此,從多視圖的角度學(xué)習(xí)FCM 將成為未來FCM 研究領(lǐng)域的發(fā)展趨勢之一.

e)有向無環(huán)圖(Directed acyclic graph,DAG)、回聲狀態(tài)網(wǎng)絡(luò)(Echo state network,ESN)和FCM的網(wǎng)絡(luò)結(jié)構(gòu)類似,DAG 和ESN 的網(wǎng)絡(luò)更新方式能夠?yàn)镕CM 的學(xué)習(xí)提供一種新穎的研究思路.例如,引入反向傳播算法、動態(tài)調(diào)整機(jī)制和深度學(xué)習(xí)方法等技術(shù),來優(yōu)化模糊系統(tǒng)的輸出,提高其適應(yīng)性和泛化能力.

2)應(yīng)用領(lǐng)域

a)目前FCM 已成功應(yīng)用于健康醫(yī)療、工業(yè)過程與控制、環(huán)境、農(nóng)業(yè)和交通運(yùn)輸?shù)阮I(lǐng)域,然而作為一種智能工具其應(yīng)用仍存在發(fā)展空間.與其他技術(shù)的有機(jī)融合,能夠使FCM 在分布式智能、數(shù)據(jù)挖掘、智能決策與控制等領(lǐng)域?qū)崿F(xiàn)更深入和更廣泛的應(yīng)用.

b)由于當(dāng)前基于FCM 的模型訓(xùn)練過程大部分采用離線數(shù)據(jù)驅(qū)動模式,難以滿足流數(shù)據(jù)的實(shí)時更新需求,限制了FCM 的多樣化發(fā)展和應(yīng)用.因此,如何引入代理模型,建立合理的數(shù)據(jù)轉(zhuǎn)換方式,將FCM 的學(xué)習(xí)拓展為在線模式,增強(qiáng)FCM 的數(shù)據(jù)處理能力,對拓展FCM 應(yīng)用至更多領(lǐng)域至關(guān)重要.