基于局部集成和克隆選擇的多目標(biāo)聚類(lèi)算法

曹萌萌，郭曉磊，劉曉斐

（1.開(kāi)封大學(xué) 信息工程學(xué)院，河南 開(kāi)封475004；2.中國(guó)礦業(yè)大學(xué) 安全工程學(xué)院，江蘇 徐州221116）

0 引 言

目前遺傳算法通過(guò)優(yōu)化相應(yīng)的相似度準(zhǔn)則，已經(jīng)被廣泛用于數(shù)據(jù)的聚類(lèi)識(shí)別［1，2］。傳統(tǒng)的方法通常只優(yōu)化某個(gè)單一準(zhǔn)則，存在對(duì)樣本固有數(shù)據(jù)結(jié)構(gòu)描述不全面的缺點(diǎn)［3］。演化多目標(biāo)聚類(lèi)技術(shù)可以用來(lái)更加全面地評(píng)價(jià)聚類(lèi)的效果，在優(yōu)化過(guò)程中容易產(chǎn)生一些無(wú)意義的聚類(lèi)結(jié)果，出現(xiàn)極少量樣本為一類(lèi)的情況，影響了優(yōu)化方向和最優(yōu)解的選取。人工免疫算法通常具有良好的全局性能和優(yōu)化速度［4，5］，在多目標(biāo)聚類(lèi)中已經(jīng)有一些應(yīng)用［6－8］，但未能充分考慮聚類(lèi)問(wèn)題在優(yōu)化過(guò)程中的特殊情況，如在整數(shù)型編碼中，每個(gè)基因位的整數(shù)取值對(duì)應(yīng)一個(gè)樣本的類(lèi)標(biāo)號(hào)，若直接進(jìn)行克隆和單點(diǎn)變異，由于某一基因位的取值變化只能影響單個(gè)樣本，使得克隆個(gè)體所代表的數(shù)據(jù)結(jié)構(gòu)變化不大，產(chǎn)生了一些無(wú)意義的聚類(lèi)結(jié)果，又使得聚類(lèi)劃分的調(diào)整過(guò)程十分緩慢。為此，提出了一種基于局部集成和克隆選擇的多目標(biāo)聚類(lèi)算法 （MCALC），采用兩目標(biāo)的模糊相似度準(zhǔn)則來(lái)評(píng)價(jià)聚類(lèi)解的優(yōu)劣，設(shè)計(jì)了一種局部集成方法用以綜合目標(biāo)函數(shù)取值相近的個(gè)體，得到某一類(lèi)數(shù)下代表性的解，并重新設(shè)計(jì)了免疫克隆選擇中的變異算子，得到了加性變異算子 （解代表的聚類(lèi)類(lèi)數(shù)增加）、減性變異算子 （解代表的聚類(lèi)類(lèi)數(shù)減少）和保持變異算子 （僅調(diào)整樣本的歸屬情況）。

1 相關(guān)概念描述

聚類(lèi)算法、多目標(biāo)優(yōu)化以及免疫克隆選擇算法三者之間的相互關(guān)系如圖1所示。

圖1 相關(guān)概念的關(guān)系

對(duì)于一組數(shù)據(jù)D＝ ｛aij｜i＝1，2，…，n；j＝1，2，…，m｝，n表示樣本數(shù)量，m 表示樣本維數(shù)，聚類(lèi)算法依據(jù)某一相似度準(zhǔn)則Ψ將數(shù)據(jù)劃分為C 類(lèi)，使得D＝C1∪C2∪…∪CC且Ci∩Cj為空，i≠j。在聚類(lèi)算法中用于評(píng)價(jià)數(shù)據(jù)劃分質(zhì)量的目標(biāo)函數(shù)是關(guān)于數(shù)據(jù)樣本取值以及相似度準(zhǔn)則的函數(shù)，記為F＝ （D，Ψ）。在多目標(biāo)聚類(lèi)中，由于高維目標(biāo)函數(shù)的優(yōu)化難度較大，目標(biāo)函數(shù)通常為兩個(gè)，即F1＝（D，Ψ1）和F2＝ （D，Ψ2），其中Ψ1和Ψ2可能相同也可能不同。而基于群體智能的優(yōu)化算法采用編碼的方式將數(shù)據(jù)D的劃分描述轉(zhuǎn)換為一個(gè)向量編碼x，進(jìn)而將多目標(biāo)聚類(lèi)問(wèn)題轉(zhuǎn)化成一個(gè)多目標(biāo)數(shù)值優(yōu)化問(wèn)題F1（x）和F2（x）。優(yōu)化所得的每一個(gè)解x即對(duì)應(yīng)數(shù)據(jù)D的一個(gè)聚類(lèi)劃分結(jié)果，其中x屬于數(shù)據(jù)D映射而得的一個(gè)實(shí)數(shù)域φ（D），具體與x的編碼方式有關(guān)。

在多目標(biāo)優(yōu)化中，同時(shí)獲得F1和F2的最小值是無(wú)法實(shí)現(xiàn)的，二者之間通常存在一定的矛盾關(guān)系，一個(gè)函數(shù)值的變小會(huì)引起來(lái)令一個(gè)函數(shù)值的增大，最終得到的是一個(gè)折中解集S，稱(chēng)為Pareto解集。對(duì)于除了S以外的域φ（D）中的任意解x，都存在解x0∈S解使得Fi（x0）≤Fi（x）且至少在一個(gè)目標(biāo)函數(shù)上嚴(yán)格滿(mǎn)足Fi（x0）＜Fi（x），這一關(guān)系稱(chēng)為Pareto支配。而在Pareto解集S的內(nèi)部，則任意兩個(gè)解x1和x2都無(wú)法對(duì)對(duì)方形成Pareto支配關(guān)系，故稱(chēng)為互不支配，這樣的解則稱(chēng)為非劣解。

免疫克隆選擇算法則是通過(guò)在解域中不斷的搜索以找到最終的Pareto解集。其產(chǎn)生新解的方式為：首先將現(xiàn)有解x 進(jìn)行克隆，得到多個(gè)復(fù)制個(gè)體Θ1（x），Θ2（x），…，Θp（x），再對(duì)每個(gè)復(fù)制個(gè)體獨(dú)立的執(zhí)行變異操作，得到變異個(gè)體Θ1（x’），Θ2（x’），…，Θp（x’），最后從所有變異個(gè)體和原個(gè)體x 中依據(jù)Pareto支配關(guān)系以及密度評(píng)估方法選取最好的個(gè)體進(jìn)入下一代種群中。

2 MCALC的設(shè)計(jì)

所提算法MCALC 采用整數(shù)型編碼，解x1＝ ｛x11，x12，…，x1n｝共有n個(gè)基因位，每個(gè)基因位的取值為1和C 之間的整數(shù)，x1i＝j(luò)即表示第i個(gè)樣本屬于第j 個(gè)類(lèi)。由于描述樣本的m 維特征中可能存在無(wú)關(guān)特征，因此各類(lèi)樣本在m 維空間中的分布往往是不規(guī)則的，會(huì)影響聚類(lèi)算法的識(shí)別效果。為此，采取兩種方式去除樣本原始分布對(duì)聚類(lèi)的影響。首先對(duì)數(shù)據(jù)進(jìn)行主成分分析，以特征值累積貢獻(xiàn)率超過(guò)85%為標(biāo)準(zhǔn)，將原始m 維樣本映射為q 維樣本（q≤m），得到轉(zhuǎn)換后的數(shù)據(jù)D＝ ｛bij｜i＝1，2，…，n；j＝1，2，…，p｝，樣本的相似度準(zhǔn)則Ψ即在q維空間上進(jìn)行。其次，采用模糊的概念設(shè)計(jì)了兩個(gè)目標(biāo)函數(shù)，進(jìn)一步去除樣本不規(guī)則分布和類(lèi)重疊的影響。

2.1 目標(biāo)函數(shù)設(shè)計(jì)

算法所設(shè)計(jì)的第一個(gè)目標(biāo)函數(shù)用于評(píng)價(jià)各類(lèi)樣本內(nèi)部的緊密程度，如式 （1）所示

式中：uki——第i個(gè)樣本與第k 類(lèi)的隸屬程度，vk——第k個(gè)類(lèi)的類(lèi)中心，其計(jì)算方法為解x 所表示的屬于第k 類(lèi)樣本的均值，Ψ（vk，bi）表示vk與bi的相似度準(zhǔn)則，此處采用歐式距離準(zhǔn)則，numk為屬于第k 類(lèi)樣本的個(gè)數(shù)。

第二個(gè)目標(biāo)函數(shù)借鑒文獻(xiàn) ［9］的連接性指標(biāo)，其思想是相鄰樣本應(yīng)當(dāng)盡可能多的被劃分為同一類(lèi)，若未被劃分到同一類(lèi)則對(duì)該劃分做出相應(yīng)的懲罰，增大目標(biāo)函數(shù)的取值。本文在此基礎(chǔ)上，有選擇的僅對(duì)部分樣本進(jìn)行考察，并且引入了模糊隸屬度，具體如式 （2）所示

式中：nn（i，j）——將樣本i的近鄰樣本按照距離遠(yuǎn)近升序排列后第j 個(gè)近鄰樣本的序號(hào)，L——總的近鄰數(shù)量，E——需要進(jìn)行連接性指標(biāo)計(jì)算的樣本集合。

集合E 的構(gòu)建方法如下：依次檢驗(yàn)每一個(gè)類(lèi)的樣本，對(duì)于屬于第k類(lèi)的所有樣本，計(jì)算其到類(lèi)中心的歐式距離的均值，將大于該均值的樣本加入集合E。該方法的思想是：小于均值的樣本可認(rèn)為是構(gòu)成該類(lèi)的核心成員，它們屬于其它類(lèi)的可能性不大，通常是其它類(lèi)樣本的遠(yuǎn)鄰 （往往大于L）。若將這些樣本納入計(jì)算范圍，不僅意義不大，還會(huì)增大計(jì)算量，因此在連接性指標(biāo)的計(jì)算中應(yīng)予忽略。

2.2 局部集成方法的設(shè)計(jì)

由于智能算法中隨機(jī)搜索等因素，使得進(jìn)化過(guò)程中出現(xiàn)一些不合理解，它們會(huì)誤導(dǎo)進(jìn)化的方向，還會(huì)影響最終類(lèi)數(shù)的確定，如圖2所示。

圖2 不合理解

圖2中解 “2”是理論上最合理的劃分，其鄰近解 “1”和解 “3”都包含有一個(gè)樣本的類(lèi)，這些解在目標(biāo)函數(shù)值上的變化是細(xì)微的。在選取最終劃分時(shí)，判別方法對(duì)這些解很敏感，容易受到干擾而認(rèn)為解 “3”或解 “1”是最合理的。但解 “3”表示的類(lèi)數(shù)是大于真實(shí)類(lèi)數(shù)的，而解 “1”盡管所得類(lèi)數(shù)正確，但樣本劃分卻是不合理的。

為此，提出在進(jìn)化過(guò)程中采用局部集成的方法對(duì)當(dāng)前的解集進(jìn)行實(shí)時(shí)綜合，及時(shí)的過(guò)濾掉上述不合理的解。局部集成方法的操作流程為：

（1）算法從t0代開(kāi)始，每隔t1代，將當(dāng)前解集S中的所有解按照其所表示的類(lèi)數(shù)分別劃入不同的子集中，其中Bi表示類(lèi)數(shù)為i 的解所在的集合，i＝2，3，…，C，類(lèi)數(shù)為1的解自動(dòng)予以剔除；

（2）對(duì)于第i個(gè)解集Bi，選擇一個(gè)類(lèi)數(shù)小于i且最近的非空解集Bj和一個(gè)類(lèi)數(shù)大于i且最近的非空解集Bk，組成用于局部集成的集合B＝ ｛Bj，Bi，Bk｝，利用圖分割算法（本文選擇超圖分割算法HGPA［10］）根據(jù)集合B 中的樣本關(guān)系分別在指定類(lèi)數(shù)為i－1，i和i＋1時(shí)進(jìn)行圖分割，得到相應(yīng)類(lèi)數(shù)下的聚類(lèi)結(jié)果，需要指出的是對(duì)于邊界上的解集 （即i＝2 和i＝C），則不在類(lèi)數(shù)為1 或C＋1 下進(jìn)行圖分割；

（3）這樣，類(lèi)數(shù)i下將會(huì)得到兩個(gè)解y1和y2，計(jì)算其目標(biāo)函數(shù)值并依照Pareto［11］支配關(guān)系得到支配解，若二者互不支配，則任選一個(gè)解，記為y，然后計(jì)算當(dāng)前解集S中類(lèi)數(shù)為i的所有解與y 的相似程度，并用y替換最不相似的一個(gè)解；

（4）所有類(lèi)數(shù)下均完成上述操作后，按照Pareto支配關(guān)系更新解集S，剔除其中受支配的解。上述集成方法的思想是：鄰域解構(gòu)成的集合B 能較為正確反映樣本的相互關(guān)系，而圖分割算法是完全依據(jù)樣本相似關(guān)系進(jìn)行的，所以與解y不相似的個(gè)體往往對(duì)應(yīng)不合理的劃分結(jié)果。

2.3 變異算子的設(shè)計(jì)

變異操作是克隆選擇算法產(chǎn)生新解的途徑。對(duì)于每一個(gè)解，將其克隆p 個(gè)，然后對(duì)每一個(gè)克隆個(gè)體進(jìn)行變異。本文設(shè)計(jì)了3種變異算子，均依據(jù)同等的概率被選中，并用以變異操作。其中加性變異算子的操作方法為：選取解中某一類(lèi)標(biāo)號(hào)的所有樣本，按照k均值方法將這些樣本聚類(lèi)為兩類(lèi)，其中一類(lèi)賦予原先的標(biāo)號(hào)，另外一類(lèi)賦予新的類(lèi)標(biāo)號(hào)。減性變異算子的操作方法為：首先計(jì)算各類(lèi)樣本下的類(lèi)中心v1，v2，…，vi，任意選取其中兩類(lèi)樣本進(jìn)行合并，并計(jì)算合并后的類(lèi)中心vk，然后計(jì)算合并后的每一個(gè)樣本與類(lèi)中心vk的距離以及與其它類(lèi)中心的距離，按照距離最近原則調(diào)整樣本的歸屬。而保持變異算子的操作方法為：依據(jù)2.1節(jié)中目標(biāo)函數(shù)設(shè)計(jì)的方法得到集合E，對(duì)于其中的樣本以設(shè)定概率r改變其對(duì)應(yīng)的類(lèi)標(biāo)號(hào)，對(duì)應(yīng)在表現(xiàn)型基因的操作上，即相應(yīng)的基因位取值發(fā)生改變，由取值i變?yōu)閖，i∈ ［2，C］，j∈ ［2，C］，j≠i。

2.4 算法流程的設(shè)計(jì)

MCALC的算法流程為：

（1）生成｜P｜個(gè)個(gè)體構(gòu)成種群P，其中要求｜P｜＞C，從類(lèi)數(shù)i＝2～C，每個(gè)類(lèi)數(shù)下隨機(jī)生成一個(gè)個(gè)體，其余｜P｜－C＋1個(gè)個(gè)體則指定任意類(lèi)數(shù)隨機(jī)生成，另外設(shè)置一個(gè)初始為空的集合A 用于存取Pareto支配解，設(shè)定當(dāng)前代數(shù)t＝0；

（2）對(duì)P中每個(gè)個(gè)體執(zhí)行克隆選擇和變異操作，得到由原個(gè)體和克隆個(gè)體組成的集合P’；

（3）將集合P’與A 合并，并按照Pareto支配關(guān)系和擁擠距離概念［12］更新集合A，只保留Pareto支配解，若超出集合A 的最大限定個(gè)數(shù)時(shí)，優(yōu)先保留擁擠距離大的個(gè)體；

（4）若t＝t0或 （t－t0）%t1＝0，則對(duì)集合A 執(zhí)行局部集成操作；

（5）更新種群P，具體為從更新后的集合A中選取｜P｜／2個(gè)解放入P中，另外｜P｜／2個(gè)個(gè)體隨機(jī)生成；

（6）若達(dá)到最大迭代代數(shù)T，則停止并輸出集合A 中的解，否則t＝t＋1，繼續(xù)執(zhí)行步驟 （2）～步驟 （5）。

3 實(shí)驗(yàn)與分析

選擇3 組人工數(shù)據(jù)集AD＿10＿2、Mixed＿5＿2 和Sym＿3＿2［13］，以及3組UCI數(shù)據(jù)集Wine、Newthyroid和Vehicle［14］驗(yàn)證所提算法的有效性，這些數(shù)據(jù)的詳細(xì)信息見(jiàn)表1。

表1 測(cè)試數(shù)據(jù)集的信息描述

此外，選擇了兩種有代表性的算法來(lái)進(jìn)行對(duì)比分析，分別為基于進(jìn)化計(jì)算的多目標(biāo)聚類(lèi)算法MOCK 和基于模擬退火的多目標(biāo)聚類(lèi)算法AMOSA。在參數(shù)設(shè)置方面，MCALC的設(shè)置為：種群P 大小為20，集合A 為100，克隆個(gè)數(shù)p 為9，近鄰數(shù)L 為10，變異概率r為0.3，最大代數(shù)T 為200，參數(shù)t0和t1分別20和5。為了使對(duì)比更為有效，設(shè)定MOCK 和AMOSA 的停止條件為最大函數(shù)調(diào)用次數(shù)為1.9×104，與MCALC 的調(diào)用次數(shù)相近。對(duì)每一組數(shù)據(jù)，每種算法獨(dú)立運(yùn)行30次，計(jì)算每次所得Pareto解集中每個(gè)解的RI指標(biāo)，選擇類(lèi)數(shù)正確且RI值最大的解作為該次的最優(yōu)結(jié)果，再統(tǒng)計(jì)30次的均值，記為RIB。再利用控制線(xiàn)方法CDL （control data line）來(lái)從Pareto解集中自動(dòng)選取最優(yōu)解并確定類(lèi)數(shù)，記自動(dòng)選取最優(yōu)解的RI均值為RIA，正確確定類(lèi)數(shù)的次數(shù)為Cn。RIB和RIA均取值越大，說(shuō)明結(jié)果越好。RIB取值表明了聚類(lèi)算法所能找到最佳聚類(lèi)結(jié)果的能力，而RIA取值則表明了聚類(lèi)算法在不依靠類(lèi)數(shù)等先驗(yàn)信息條件下確定最佳聚類(lèi)結(jié)果的能力。表2 是3種算法所得Pareto解集中最好解的測(cè)試結(jié)果，表3則是在自動(dòng)選擇方法CDL下所確定的最好解的測(cè)試結(jié)果。

表2 3種算法所得最好解的測(cè)試結(jié)果

從表2和表3的結(jié)果可以得出以下結(jié)論：①M(fèi)CALC所能找到的最佳聚類(lèi)結(jié)果優(yōu)于MOCK；②雖然MCALC 和AMOSA 在所能找到的最佳聚類(lèi)結(jié)果上性能相近，但MCALC 具有更好的自動(dòng)確定能力。首先，MCALC 在CDL方法下所確定的最佳聚類(lèi)結(jié)果幾乎均好于對(duì)比算法（除Sym＿3＿2略差于AMOSA），并且與算法實(shí)際所能找到的最佳結(jié)果十分接近。其次，MCALC 在30次測(cè)試中正確判別類(lèi)數(shù)的次數(shù)明顯高于對(duì)比算法，其中MCALC 在Sym＿3＿2數(shù)據(jù)上判別類(lèi)數(shù)的準(zhǔn)確率λ（準(zhǔn)確次數(shù)與總次數(shù)的比值）為86.67%，而MOCK 僅為40%，高出46.67%；MCALC 在AD ＿10 ＿2 數(shù)據(jù)上判別類(lèi)數(shù)的準(zhǔn)確率為93.33%，而AMOSA 則為63.33%，最多高出30%。

表3 3種算法自動(dòng)確定最好解的測(cè)試結(jié)果

此外，為了說(shuō)明局部集成方法和變異算子的效力，還進(jìn)行了相應(yīng)的測(cè)試。在測(cè)試中，保持MCALC 的各項(xiàng)設(shè)置不變，改變調(diào)用局部集成方法的周期t1，其取值分別為1，2，…，10，以數(shù)據(jù)集Newthyroid為研究對(duì)象，結(jié)果如圖3所示。

圖3 周期t1 對(duì)局部集成方法效能的影響分析

圖3中RIA取值在t1取值偏小時(shí)明顯較差，說(shuō)明頻繁的集成操作影響了正常的群體隨機(jī)搜索過(guò)程，使算法傾向于圖分割所得的局部極值。而類(lèi)數(shù)判別的準(zhǔn)確率λ在t1取值偏大時(shí)明顯較差，這是由于集成操作強(qiáng)度不夠而使得算法未能有效去除不合理的解，最終對(duì)自動(dòng)選取過(guò)程產(chǎn)生了誤導(dǎo)。本文還以數(shù)據(jù)集Sym＿3＿2和Vehicle為研究對(duì)象，將MCALC中的變異算子替換為單點(diǎn)變異，記為MCALCone，還將變異算子替換為只采用保持變異算子，記為MCALC－r，結(jié)果見(jiàn)表4。

表4中結(jié)果顯示MCALC 所得RIB的取值更好，表明在整數(shù)型編碼下采用常規(guī)變異算子所得個(gè)體在改觀聚類(lèi)劃分結(jié)果上的能力較差，導(dǎo)致算法尋優(yōu)緩慢。

表4 變異算子對(duì)尋優(yōu)速度影響的測(cè)試結(jié)果

4 結(jié)束語(yǔ)

設(shè)計(jì)的多目標(biāo)聚類(lèi)算法提出了局部集成的方法并在進(jìn)化過(guò)程中周期性的使用，有效消除了不合理解對(duì)尋優(yōu)結(jié)果的影響；還設(shè)計(jì)了3種新的變異算子，加強(qiáng)了克隆選擇算法的尋優(yōu)能力和速度。通過(guò)多組人工數(shù)據(jù)和UCI數(shù)據(jù)的實(shí)驗(yàn)結(jié)果驗(yàn)證了算法的性能，該算法使得聚類(lèi)結(jié)果的RI指標(biāo)得到提升，顯著提高了類(lèi)數(shù)判別的準(zhǔn)確率，使得聚類(lèi)算法有效避免了對(duì)類(lèi)數(shù)需預(yù)先指定等先驗(yàn)知識(shí)的需求，增強(qiáng)了算法的實(shí)用性。進(jìn)一步的實(shí)驗(yàn)測(cè)試給出了用以控制局部集成強(qiáng)度的參數(shù)t1的變化規(guī)律，減輕了相應(yīng)參數(shù)的設(shè)置難度。

［1］HOU Yong，ZHENG Xuefeng.Enhanced clustering ensemble algorithm based on characteristics of data sets ［J］.Journal of Computer Applications，2013，33 （8）：2204－2207 （in Chinese）.［侯勇，鄭雪峰.基于數(shù)據(jù)集特點(diǎn)的增強(qiáng)聚類(lèi)集成算法［J］.計(jì)算機(jī)應(yīng)用，2013，33 （8）：2204－2207.］

［2］MENG Ying，LUO Ke，LIU Jianhua，et al.K－medoids clustering algorithm method based on differential evolution ［J］.Application Research of Computers，2012，29 （5）：1651－1653（in Chinese）.［孟穎，羅可，劉建華，等.一種基于差分演化的K－medoids 聚類(lèi)算法［J］.計(jì)算機(jī)應(yīng)用研究，2012，29（5）：1651－1653.］

［3］Hruschka E R，Campello R J G B，F(xiàn)reitas A A，et al.A survey of evolutionary algorithms for clustering ［J］.IEEE Transactions on Systems Man and Cybernetics Part C－Applications and Reviews，2009，39 （2）：133－155.

［4］MO Hongwei，ZUO Xingquan，BI Xiaojun.Advances in artificial immune systems ［J］.CAAI Transactions on Intelligent Systems，2009，4 （1）：21－29 （in Chinese）. ［莫宏偉，左興權(quán)，畢曉君.人工免疫系統(tǒng)研究進(jìn)展 ［J］.智能系統(tǒng)學(xué)報(bào)，2009，4 （1）：21－29.］

［5］WANG Jianwen，TAO Rui.Application of artificial immune algorithm in wavelength choice for spectra analysis［J］.Com－puter Engineering and Design，2010，31 （10）：2287－2289 （in Chinese）.［王建文，陶瑞.基于人工免疫算法的波長(zhǎng)選取在光譜分析中的應(yīng)用 ［J］.計(jì)算機(jī)工程與設(shè)計(jì)，2010，31 （10）：2287－2289.］

［6］TAO Xinmin，F(xiàn)U Dandan，LIU Furong，et al.Multi－scale parallel immune clone optimization clustering algorithm ［J］.Control and Decision，2012，27 （6）：819－826 （in Chinese）.［陶新民，付丹丹，劉福榮，等.基于多尺度并行免疫克隆優(yōu)化聚類(lèi)算法 ［J］.控制與決策，2012，27 （6）：819－826.］

［7］QI Yutao，LIU Fang，LIU Jingle，et al.Hybrid immune algorithm with EDA for multi－objective optimization ［J］.Journal of Software，2013，24 （10）：2251－2266 （in Chineses）. ［戚玉濤，劉芳，劉靜樂(lè)，等.基于免疫算法和EDA 的混合多目標(biāo)優(yōu)化算法 ［J］.軟件學(xué)報(bào)，2013，24 （10）：2251－2266.］

［8］SHANG Ronghua，JIAO Licheng，WU Jianshe，et al.Immune clonal multi－objective algorithm for unsupervised feature selection ［J］.Journal of Xidian University，2010，37 （1）：18－22 （in Chinese）.［尚榮華，焦李成，吳建設(shè)，等.用于非監(jiān)督特征選擇的免疫克隆多目標(biāo)優(yōu)化算法 ［J］.西安電子科技大學(xué)學(xué)報(bào)，2010，37 （1）：18－22.］

［9］ZHAO Xinyuan，WANG Neng.Overlap－based connectivity restoration approach for wireless sensor and actor network ［J］.Journal of Computer Applications，2011，31 （10）：2638－2643（in Chinese）.［趙新元，王能.基于重疊區(qū)域的無(wú)線(xiàn)傳感反應(yīng)網(wǎng)絡(luò)連接性恢復(fù)機(jī)制 ［J］.計(jì)算機(jī)應(yīng)用，2011，31 （10）：2638－2643.］

［10］Strehl A，Ghosh J.Cluster ensembles：A knowledge reuse framework for combining multiple partitions ［J］.Journal of Machine Learning Research，2008，3 （3）：583－617.

［11］HU Wang，Gary G YEN，ZHANG Xin.Multiobjective particle swarm optimization based on pareto entropy ［J］.Journal of Software，2014，25 （5）：1025－1050 （in Chinese）. ［胡旺，Gary G YEN，張?chǎng)?基于Pareto熵的多目標(biāo)粒子群優(yōu)化算法 ［J］.軟件學(xué)報(bào)，2014，25 （5）：1025－1050.］

［12］YANG Lingen.Adaptive mutation evolutionary algorithm based on dynamic crowding distance ［J］.Computer Applications and Software，2012，29 （1）：280－283 （in Chinese）.［楊林根.基于動(dòng)態(tài)擁擠距離的自適應(yīng)變異演化算法 ［J］.計(jì)算機(jī)應(yīng)用與軟件，2012，29 （1）：280－283.］

［13］Saha S，Bandyopadhyay S.A symmetry based multiobjective clustering technique for automatic evolution of clusters ［J］.Pattern Recognition，2010，43 （3）：738－751.

［14］University of California，Irvine.UCI machine learning repository［EB／OL］.［2013－02－05］.http：／／archive.ics.uci.edu／ml／datasets.html.