綜合維度學(xué)習(xí)的多群協(xié)作粒子群優(yōu)化算法

摘要：針對維度學(xué)習(xí)策略（dimensional learning strategy，DLS）中存在的過度開發(fā)問題，提出了一種綜合維度學(xué)習(xí)的多群協(xié)作粒子群優(yōu)化算法（CDL-MCPSO）。為提高種群搜索效率，采用基于主從范式的集群結(jié)構(gòu)，將種群劃分為一個主群和四個從群，主群執(zhí)行綜合學(xué)習(xí)策略在搜索空間進行大范圍探索，從群執(zhí)行綜合維度學(xué)習(xí)策略（comprehensive dimensional learning，CDL）在局部最優(yōu)解附近進行高精度的開發(fā)，主從群通過執(zhí)行具有不同職能的算法能夠有效實現(xiàn)其在勘探和開發(fā)之間的平衡；同時為保持種群多樣性，提出了一種新的解交換機制（SEM）用于在主從群獨立運行各自算法若干代之后進行信息的交流與協(xié)作，以指導(dǎo)粒子后期進行更準確的搜索；最后，針對初始化過程隨機性過高，運用拉丁超立方體采樣方法對算法重建輸入分布。為驗證CDL-MCPSO的有效性，將其與五種粒子群算法變體在10個測試函數(shù)上進行實驗對比，結(jié)果表明該算法總是可以找到優(yōu)于或相當于對比算法的解，在求解復(fù)雜函數(shù)時具有可行性和高效性。

關(guān)鍵詞：粒子群算法（PSO）; 綜合維度學(xué)習(xí)策略; 主從范式; 多群協(xié)作

中圖分類號：TP301.6文獻標志碼：A

文章編號：1001-3695（2022）08-022-2369-07

doi：10.19734/j.issn.1001-3695.2022.01.0019

Multi-swarm collaborative particle swarm optimization algorithm based on comprehensive dimensional learning

Zhang Qiwen， Wang Yangting

（School of Computer amp; Communication， Lanzhou University of Technology， Lanzhou 730050， China）

Abstract：Aiming at the problem of over-exploitation in dimensional learning strategy（DLS）， this paper proposed a multi-swarm collaborative particle swarm optimization algorithm with comprehensive dimension learning（CDL-MCPSO）. The cluster structure of master-slave paradigm divided the population into a master group and four slave groups， in which the master group executed a comprehensive learning strategy to conduct a large-scale exploration in the search space， and the slave groups executed a comprehensive dimensional learning strategy（CDL） to exploit high-precision solutions near the local optimal. The master-slave groups could effectively achieve the balance between exploration and exploitation by executing algorithms with different functions. At the same time， in order to maintain the diversity of the population， the CDL-MCPSO proposed a new solution exchange mechanism（SEM）. It could accomplish information exchange and cooperation after the master-slave groups running their respective algorithms for several generations independently， so as to guide the particles to conduct more accurate searches in the later stage. Finally， for the high randomness of the initialization process， the algorithm adopted Latin hypercube sampling to reconstruct the input distribution. In order to verify the effectiveness of CDL-MCPSO， compared with 5 kinds of PSO variants in 10 test functions. The results show that the algorithm can always find better or equivalent solutions. It is feasible and efficient in solving complex functions.

Key words：particle swarm algorithm（PSO）; comprehensive dimensional learning strategy; master-slave paradigm; multi-group collaborative

0引言

近些年來，智能優(yōu)化算法逐漸成為解決科研和工程應(yīng)用領(lǐng)域中許多復(fù)雜優(yōu)化問題的首選方法。常見的主要包括粒子群算法（PSO）、和聲搜索算法（HS）、文化算法（CA）、基于教與學(xué)的算法（TLBO）以及重力搜索算法（GSA）等。其中最經(jīng)典的當屬模擬生物行為機制的粒子群優(yōu)化算法（particle warm optimization，PSO）［1］，它是由Kennedy和Eberhart博士于1995年正式提出的一種基于種群的元啟發(fā)式優(yōu)化算法，由于其實現(xiàn)簡單、控制參數(shù)少，吸引了大量學(xué)者研究并涌現(xiàn)出了許多變體。針對它的改進主要有四個方面：參數(shù)設(shè)置、拓撲結(jié)構(gòu)、算法融合以及學(xué)習(xí)策略。

參數(shù)的取值對于平衡算法的勘探和開發(fā)能力有著重要的作用。Shi等人［2］通過研究發(fā)現(xiàn)粒子對先前速度的繼承能力對算法性能的提升有很大作用，進而在基本粒子群算法中引入了慣性權(quán)重；Afia等人［3］為平衡算法的全局與局部搜索能力，提出一種基于隱性馬爾可夫模型狀態(tài)估計的慣性權(quán)重控制機制，實驗結(jié)果證明了算法的收斂優(yōu)勢；2017年，Gou等人［4］根據(jù)每個粒子之間的個體差異動態(tài)調(diào)整參數(shù)的值，同時采用重啟策略再生粒子，實驗結(jié)果證明了該算法具有魯棒性和可擴展性。在拓撲結(jié)構(gòu)的選擇方面，Nasir等人［5］提出了一種動態(tài)鄰域?qū)W習(xí)粒子群優(yōu)化算法（DNLPSO），該算法從鄰域（包括自身）的最佳位置選擇一個樣本粒子；文獻［6］為了從根源上克服PSO算法易陷入局部最優(yōu)的問題，針對多種拓撲結(jié)構(gòu)進行實驗分析，最終提出了一種全局探索與局部開發(fā)相融合的混合拓撲粒子群算法。

利用不同的進化算法來提高PSO的性能是研究人員的又一重點。最早的算法融合是Gong等人［7］將遺傳算法中的三個經(jīng)典操作選擇、變異和交叉引入到PSO中，每個粒子根據(jù)遺傳操作生成一個有希望的樣本，然后以標準PSO的方式從樣本中學(xué)習(xí)；2018年，Aydilek［8］將螢火蟲算法與粒子群算法的概念進行融合，實驗結(jié)果證明了該算法不僅能有效平衡算法的探索與開發(fā)能力，而且運行時間和解的精度都有明顯提升；Senel等人［9］將PSO的開發(fā)能力與灰狼優(yōu)化算法的探索能力相結(jié)合，在同一測試環(huán)境下，該算法在短時間內(nèi)獲得較好的成效，實驗結(jié)果表明該算法能在更短的時間內(nèi)找到更好的優(yōu)化方案。

根據(jù)以上各種改進，可以明確PSO變體的主要目標是保持種群勘探和開發(fā)能力的平衡，并在保持種群多樣性的同時提高算法的收斂速度以及解的質(zhì)量，但現(xiàn)實生活中大多數(shù)優(yōu)化問題往往都比較復(fù)雜。在多樣性方面，單維問題需要較小的種群多樣性以便快速收斂，而多模態(tài)問題需要較好的種群多樣性來避免算法陷入局部極值，由此可見只采用單一策略無法滿足不同優(yōu)化問題的需求。因此一些研究人員提出了分而治之的策略來解決復(fù)雜優(yōu)化問題，針對不同的優(yōu)化目標運用不同的學(xué)習(xí)策略。陳躍剛等人［10］基于綜合學(xué)習(xí)策略對多目標問題進行求解，通過分解方法更新主導(dǎo)粒子以增強解的分布;采用存檔機制存儲優(yōu)化過程中的非支配解，并采用多項式變異來避免陷入局部最優(yōu)。Mendes等人［11］提出了完全知情粒子群優(yōu)化算法（FIPS），F(xiàn)IPS利用完全聯(lián)通鄰域中所有鄰居的個人最佳信息的平均值更新粒子的位置。文獻［12］在考慮了種群結(jié)構(gòu)、多模式學(xué)習(xí)和個體間博弈等因素之后，提出了具有博弈概率選擇的多子群粒子群算法。Parsopoulos等人［13］提出了統(tǒng)一粒子群優(yōu)化算法（UPSO），通過選擇合理的鄰域大小，利用全局鄰域和局部鄰域的最佳信息來更新粒子位置。袁小平等人［14］將種群動態(tài)地劃分為三個不同階層，并根據(jù)不同階層的粒子特性，分別采用局部學(xué)習(xí)模型、標準學(xué)習(xí)模型以及全局學(xué)習(xí)模型來改善算法性能。文獻［15］開發(fā)了兩種新的學(xué)習(xí)策略，一方面，提出了適應(yīng)度景觀中的局部稀疏度度量方法來估計粒子的擁塞和分布情況，并在此基礎(chǔ)上通過引導(dǎo)粒子到稀疏區(qū)域來建立探測策略；另一方面，基于多群策略和自適應(yīng)子群大小調(diào)整，提出了一種自適應(yīng)開發(fā)策略。Zhou等人［16］提出了一種自適應(yīng)分層更新粒子群優(yōu)化算法，為兩個群分別生成兩層和三層更新公式，并引入了多項選擇綜合學(xué)習(xí)策略。Cülcü等人［17］基于綜合學(xué)習(xí)和主從范式提出了并行綜合學(xué)習(xí)粒子群優(yōu)化算法（PCLPSO），它基于主從范式，并在不同范式之間進行解信息的協(xié)作。文獻［18］受天體學(xué)和植物學(xué)啟發(fā)，提出一種多策略融合的粒子群優(yōu)化算法，其中三黑洞系統(tǒng)捕獲策略和多維隨機干擾策略用來增強粒子的全局搜索能力，而協(xié)調(diào)因子用來完成從全局尋優(yōu)向局部搜索的轉(zhuǎn)變，以提高收斂速度。文獻［19］根據(jù)PSO算法的收斂特性和Logistic映射的混沌思想，提出一種粒子置換的雙種群綜合學(xué)習(xí)PSO算法（PP-CLPSO）。

從以上改進方法不難看出，大多數(shù)針對參數(shù)、拓撲結(jié)構(gòu)、算法融合的改進僅僅是針對其中一兩個目標進行優(yōu)化，沒有平衡好多個目標之間的關(guān)系，多種策略分而治之的思想是根據(jù)算法不同的優(yōu)化目標設(shè)計不同的學(xué)習(xí)策略，不僅能夠?qū)崿F(xiàn)勘探和開發(fā)的平衡，還能有效避免早熟收斂、提高收斂速度以及解的質(zhì)量。

CDL-MCPSO與以上多策略融合的改進一致，也采用了分而治之的思想，但是考慮了絕大多數(shù)算法沒有考慮到的振蕩和維度退化現(xiàn)象，例如文獻［21］提出的維度學(xué)習(xí)策略，雖然解決了維度退化現(xiàn)象，但在不同群體中由于使用的學(xué)習(xí)策略并不完全適配子群職能而產(chǎn)生了新的開采過度問題，原因在于公式第二項的學(xué)習(xí)樣本是全局最優(yōu)，在少數(shù)迭代之后，會與公式第三項完全一致共同發(fā)揮開發(fā)作用，開發(fā)能力變成之前的兩倍，種群多樣性逐漸喪失。針對此不足，CDL-MCPSO通過融合綜合學(xué)習(xí)策略（CLS）和維度學(xué)習(xí)策略（DLS）各自的優(yōu)點，提出綜合維度學(xué)習(xí)策略（CDL），去掉公式第三部分對全局最優(yōu)項的學(xué)習(xí)，引入CLS中對所有其他粒子概率性學(xué)習(xí)的思想，使粒子在開發(fā)的同時也可以適當探索；并基于信息流動原理提出了一種新的解交換機制（SEM），在提高算法收斂速度的同時也優(yōu)化了解的質(zhì)量；最后通過拉丁超立方體采樣對算法重建輸入分布，有效避免了初始化過程由于隨機性過高給算法帶來的負面影響。通過對改進思路產(chǎn)生原因的描述可以看出，CDL-MCPSO具備新穎性和前沿性。

1相關(guān)工作

1.1粒子群優(yōu)化算法

PSO［2］源于對鳥群覓食共享個體知識社會行為的研究。種群中的每個個體稱為粒子，代表搜索空間中的一個潛在解，粒子通過跟隨自身個體最優(yōu)和種群全局最優(yōu)來更新自己的速度和位置，直到得到滿足終止條件的最優(yōu)解。粒子速度和位置更新公式為

Vi，j（t+1）=ωVi，j（t）+c1r1，j（Xpbesti，j（t）－

Xi，j（t））+c2r2，j（Xgbestj（t）－Xi，j（t））（1）

Xi，j（t+1）=Vi，j（t+1）+Xi，j（t）（2）

其中：i=1，2，…，m;j=1，2，…，n；m和n分別是種群規(guī)模和維數(shù)；ω指慣性權(quán)重；c1和c2分別是自我認知和社會認知；r1，j和r2，j是第j維上［0，1］間均勻分布的兩個隨機數(shù)；Xpbesti，j和Xgbestj分別代表粒子個體最優(yōu)和全局最優(yōu)。

1.2綜合學(xué)習(xí)策略（CLS）

在2006年Liang等人［20］提出的CLPSO采用新的學(xué)習(xí)策略，通過利用所有其他粒子的個體最優(yōu)信息來更新速度，為粒子提供了更多的學(xué)習(xí)標本和潛在的搜索空間。在綜合學(xué)習(xí)策略中，粒子的更新由學(xué)習(xí)樣本Xcli，j（t）來指導(dǎo)，速度更新公式為

Vi，j（t+1）=ωVi，j（t）+cr（Xcli，j（t）－Xi，j（t））（3）

位置更新如式（2）所示。其中Xcli，j（t）表示粒子i個體最優(yōu)pbest的第j維通過向所有其他粒子個體最優(yōu)的第j維進行學(xué)習(xí)（包括粒子i自身個體最優(yōu)的第j維）后產(chǎn)生的樣本。樣本Xcli，j（t）的學(xué)習(xí)過程為：粒子i個體最優(yōu)每一維具體向誰學(xué)習(xí)取決于學(xué)習(xí)概率pc，不同的粒子學(xué)習(xí)概率不同，首先為每一維生成一個隨機數(shù)rand，若隨機數(shù)大于pc，則向自己個體最優(yōu)相應(yīng)維度學(xué)習(xí)，否則向其他粒子個體最優(yōu)相應(yīng)維度學(xué)習(xí)。學(xué)習(xí)概率pc更新公式為

P=0.05+0.45×（exp（10（i－1）ps－1）－1）exp（10）－1（4）

其中：ps代表種群規(guī)模。在綜合學(xué)習(xí)策略中，其他粒子先前的最佳位置是任何粒子可以學(xué)習(xí)的樣本，并且粒子的每個維度都可以從不同的樣本中學(xué)習(xí)，這種融合來自不同學(xué)習(xí)樣本信息的策略擴大了粒子的潛在搜索空間，極大地提高了種群的全局搜索能力，所以在解決多模態(tài)問題效果優(yōu)異，但由于去掉了對全局最優(yōu)項的學(xué)習(xí)，導(dǎo)致在求解單峰問題上效果不佳。

1.3維度學(xué)習(xí)策略（DLS）

Xu等人［21］針對CLPSO的不足以及標準PSO在種群更新中存在的振蕩［22］和“兩步走，一步回頭”［23］問題，提出了維度學(xué)習(xí)策略，利用構(gòu)造的學(xué)習(xí)樣本Xdli和全局最優(yōu)Xgbest更新速度。區(qū)別于綜合學(xué)習(xí)策略中學(xué)習(xí)樣本Xcli的每一維來自其自身或所有其他粒子的相應(yīng)維度，DLS學(xué)習(xí)樣本Xdli的每一維來自其自身或全局最優(yōu)Xgbest的相應(yīng)維度，學(xué)習(xí)與否取決于維度替換后粒子適應(yīng)度值是否變好。這種策略可以將Xgbest的優(yōu)秀信息傳遞給樣本Xdli，促進Xgbest編碼模式的傳播和保護。維度學(xué)習(xí)策略速度更新公式為

Vi，j（t+1）=ωVi，j（t）+c1r1，j（Xdli，j（t）－Xi，j（t））+c2r2，j（Xgbestj（t）－Xi，j（t））（5）

位置更新按照標準粒子群更新式（2），維度學(xué)習(xí)策略讓個體最優(yōu)Xpbesti整合全局最優(yōu)Xgbest有前途維度上的信息，保證了學(xué)習(xí)后的樣本不會比個體最優(yōu)差，同時將對全局最優(yōu)Xgbest的學(xué)習(xí)項添加了回來，不僅解決了振蕩和維度退化現(xiàn)象，也大大加快了算法的收斂速度。由于公式后兩項在更新幾代之后相差不大，均側(cè)重于開發(fā)，極易出現(xiàn)過度開發(fā)的問題。

2綜合維度的多群協(xié)作粒子群優(yōu)化算法

現(xiàn)有多群學(xué)習(xí)策略由于忽略了維度退化現(xiàn)象，使得粒子位置在更新過程中會出現(xiàn)“前進兩步，后退一步”的問題，即使粒子適應(yīng)度變好了，也只是因為在有些維度上粒子靠近全局最優(yōu)的程度大于其他維度上粒子遠離全局最優(yōu)的程度，導(dǎo)致粒子在靠近和遠離全局最優(yōu)之間反復(fù)橫跳，降低了算法搜索效率，也影響了解的質(zhì)量；同時本文在對DLS速度更新公式演算之后發(fā)現(xiàn)，公式第二項的Xpbesti在向Xgbest學(xué)習(xí)幾代后構(gòu)造的學(xué)習(xí)樣本Xdli會慢慢地非常接近全局最優(yōu)Xgbest的值，此時對于后面粒子的更新，公式后兩項的學(xué)習(xí)樣本均為全局最優(yōu)，賦予公式最后一項的開發(fā)能力由于后兩項的無限接近變成了兩倍，而且粒子在更新過程中沒有向其他粒子學(xué)習(xí)，沒有可以幫助粒子逃離局部最優(yōu)的條件，極易出現(xiàn)開發(fā)過度的問題。為解決此問題并提升算法運行效率，本文首先采用主從范式的集群結(jié)構(gòu)，即一個主群和四個從群；其次在主從群中分別執(zhí)行全局探索能力強的CLS和開發(fā)能力強的改進策略CDL；最后針對初始化隨機性過高問題，采用拉丁超立方體采樣對算法重建輸入分布，在多群和適應(yīng)子群職能更新規(guī)則雙策略的加持下，算法的搜索效率會極大提升，同時從群更新規(guī)則的提出不僅可以解決維度退化問題，還避免了過度開發(fā)。

2.1主從范式集群結(jié)構(gòu)

為了提高算法勘探和開發(fā)之間的平衡，采用基于主從范式的集群結(jié)構(gòu)將整個種群劃分為一個主群（master）和四個從群（slave）兩類群體，主群執(zhí)行全局搜索能力強的綜合學(xué)習(xí)策略，在搜索空間內(nèi)進行大范圍的探索，從群執(zhí)行改進策略—綜合維度學(xué)習(xí)策略，在已經(jīng)找到的較優(yōu)解附近進行高精度的開發(fā)。主從范式集群結(jié)構(gòu)如圖1所示。

2.2主從群更新策略

為了使從群能夠在局部最優(yōu)附近進行高精度的開發(fā)，選擇改進后的DLS（CDL）作為其更新規(guī)則，未被改進的DLS在文獻［19］中被證明具有很強的開發(fā)能力，但是它存在過度開發(fā)問題，極易導(dǎo)致粒子陷入局部最優(yōu)。通過對其改進，去掉DLS速度更新公式中對全局最優(yōu)的學(xué)習(xí)項，防止粒子個體最優(yōu)Xpbesti經(jīng)過幾代學(xué)習(xí)產(chǎn)生的樣本Xdli和第三項無限接近而導(dǎo)致快速向全局最優(yōu)Xgbest靠攏，加入CLS公式第二項粒子個體最優(yōu)對其他所有粒子個體最優(yōu)的學(xué)習(xí)，使得到的CDL可以適當削弱DLS的開發(fā)程度，避免粒子過早陷入局部最優(yōu)，發(fā)揮出DLS最好的優(yōu)化效果。速度更新公式具體如下：

Vi，j（t+1）=ωVi，j（t）+c1r1，j（Xcli，j（t）－Xi，j（t））+c2r2，j（Xdli，j（t）－Xi，j（t））（6）

位置更新如式（2）所示。所提策略是對標準粒子群算法更新公式第二項和第三項換種思維的改進，可以使算法在具有優(yōu)秀開發(fā)能力的前提下適度探索。由于CDL學(xué)習(xí)樣本對粒子搜索方向的強大指引，整體上開發(fā)能力更勝一籌，所以在集群結(jié)構(gòu)中用來對從群進行更新；主群負責在大范圍搜索空間進行探索，選擇全局搜索能力強的CLS。

2.3多群協(xié)作

主群在大范圍搜索空間進行探索，不僅能夠得到較高質(zhì)量的解，而且還能很好地保持種群多樣性，但是會使算法的收斂速度變慢；從群負責在較好解附近進行高精度的開發(fā)，能夠大大加快算法收斂速度，若此時靠近的全局最優(yōu)是局部最優(yōu)，會使粒子無法逃離此區(qū)域。綜上分析，需要利用從群搜索到的信息來指導(dǎo)主群加快收斂速度，也需要利用主群搜索的信息來幫助從群粒子逃離局部最優(yōu)。因此主從群之間進行信息交流是必要的，交流過程需要考慮以下四個問題，同時為解決以上問題，提出了一種新的解交換機制（SEM）。

a）遷移周期。表征的是主從群在獨立執(zhí)行各自算法多少代之后開始進行信息的交流與協(xié)作，不管什么算法在優(yōu)化一個具體問題時都要在解的精度和計算效率之間做折中，如果信息交換得過于頻繁，算法運行時間會大大增加，效率低下；如果交換的間隔過長，又會使解的質(zhì)量大打折扣。在SEM中遷移周期設(shè)置為7。

b）要交流的對象。如果在太多群集之間交流會影響算法的運行效率，但若交流得太少，又會有很大的陷入局部最優(yōu)的風險，影響解的質(zhì)量。同時由于從群主要負責在局部最優(yōu)解附近進行高精度的開發(fā)，執(zhí)行的均為DLS，如果陷入局部最優(yōu)，利用具有勘探能力的主群搜索到的信息即可幫助其逃離，所以從群之間無須進行交流，如果交流反而會增加算法運行時間。SEM只在主從群之間進行信息的交流。

c）需要交換的信息。群集之間通常交換的信息可以為全局最優(yōu)、局部最優(yōu)以及粒子鄰居最優(yōu)。在CDL-MCPSO中，主從群只在各自迭代時涉及對其他粒子的學(xué)習(xí)，協(xié)作過程只是用來改善從群可能出現(xiàn)的局部最優(yōu)和主群由于多樣性強、收斂速度不夠快的情形，所以無須交換鄰居最優(yōu)信息，只需交換主群全局最優(yōu)和各從群本地最優(yōu)信息。

d）整合策略。處理交流后的信息用來指導(dǎo)粒子的后續(xù)搜索。整個解交換機制的詳細過程總結(jié)如下：主群更新策略，在主從群獨立執(zhí)行各自的算法7代之后，所有從群發(fā)送自己的本地最優(yōu)lbesti（i=1，2，3，4）給主群，主群根據(jù)所有從群本地最優(yōu)lbesti（i=1，2，3，4）中最優(yōu)的那個XSgbest（sbest）、主群自己的本地最優(yōu)XMgbest、主群粒子自身個體最優(yōu)XMPbesti對粒子進行更新，這種更新策略是基于主群和從群之間的競爭來調(diào)整粒子運行軌跡。速度更新公式如下：

VMi，j（t+1）=ωVMi，j（t）+c1r1，j（XMPbesti，j（t）－XMi，j（t））+φc2r2，j（PMgbest，j（t）－XMi，j（t））+（1－φ）c3r3，j（PSgbest，j（t）－XMi，j（t））（7）

φ=0GbestMlt;GbestS0.5GbestM=GbestS1GbestMgt;GbestS （8）

其中：φ是協(xié)作因子，位置更新仍然采用式（2）。將所有從群全局最優(yōu)pSgbest與主群全局最優(yōu)pMgbest進行比較，挑選出較優(yōu)的那個替換在所有從群中隨機選擇出的一個粒子，這樣從群在間接進行了信息共享的同時也不會對算法的效率產(chǎn)生很大影響；所提出的新的解交換機制不僅平衡了算法的勘探和開發(fā)，還加快了算法的收斂速度，同時解的質(zhì)量也得到了很大提升。表1展示了多群協(xié)作相關(guān)變量。

解交換機制描述如下：

a）所有從群S發(fā)送自己的本地最優(yōu)lbesti（i=1，2，3，4）給主群M;

b）計算GbestS=min（f（lbesti（i=1，2，3，4）））;

c）將XMPbesti、pMg、pSg按照式（7）和 （2）對主群更新;

d）計算Gbest=min（pMgbest，pSgbest）；

e）在每個從群中隨機選出一個粒子Xi（i=1，2，3，4）；

f）令Xi（i=1，2，3，4）=Gbest。

2.4基于拉丁超立方采樣的初始化策略

拉丁超立方體抽樣最早由McKay等人［24］于2000年提出，與普通抽樣方法蒙特卡羅相比，它通過對輸入搜索空間進行等間隔劃分并在每個區(qū)間中隨機地抽取樣本，抽樣被強制地代表每個區(qū)間的值，具有均勻分布的特點，能夠保證在擁有較少樣本的前提下具備比普通樣本更好的高效性。圖2展示了在二維搜索空間中拉丁超立方體采樣示意圖。通過拉丁超立方體采樣產(chǎn)生的樣本能更好地均勻分布在整個空間，可以有效避免算法出現(xiàn)早熟收斂的現(xiàn)象。

圖3為所提算法的流程示意圖，其具體采樣步驟如下：a）確定抽樣規(guī)模H；b）將每維變量Xi的定義域區(qū)間［Xil，Xih］劃分成H個相等的小區(qū)間，一共有Hn個小超立方體產(chǎn)生；c）產(chǎn)生一個H×n的矩陣A，A的每列均是數(shù)列{1，2，…，n}的一個隨機全排列；d）A的每行就只有一個小超立方體被選中，在每個小超立方體內(nèi)產(chǎn)生一個樣本，這樣共有H個樣本被選出，且選出的樣本互不相同。

3CDL-MCPSO算法合理性分析

3.1CLS中去掉對全局最優(yōu)項學(xué)習(xí)操作的合理性

由于CDL是基于DLS速度更新公式開發(fā)的，所以首先需要對DLS速度更新所采用策略存在的問題進行詳細分析，再闡述為何要進行CDL改進的原因。具體分析如下：與大多數(shù)PSO變體速度更新公式一樣，DLS速度更新公式也包含三個部分：慣性部分ωVi，j（t），個體最優(yōu)向全局最優(yōu)學(xué)習(xí)構(gòu)造學(xué)習(xí)樣本，向樣本學(xué)習(xí)部分c1r1，j（Xdli，j（t）－Xi，j（t））、向全局最優(yōu)學(xué)習(xí)部分c2r2，j（Xgbestj（t）－Xi，j（t））。一般需要對公式后兩項分別賦予種群探索和開發(fā)能力，DLS更新公式最后一項對全局最優(yōu)Xgbestj（t）的學(xué)習(xí)毫無疑問是賦予了種群開發(fā)能力，那么在種群已經(jīng)具備開發(fā)能力的前提下，公式第二項個體最優(yōu)Xpbesti，j（t）的學(xué)習(xí)對象仍然選擇了會進一步增強種群開發(fā)能力的全局最優(yōu)，即使個體最優(yōu)向全局最優(yōu)學(xué)習(xí)后得到的新位置不是全局最優(yōu)，但是從其具體的學(xué)習(xí)過程來看，它是逐維度進行學(xué)習(xí)，每一次的學(xué)習(xí)并不一定只學(xué)習(xí)一個維度，當?shù)玫降男挛恢玫倪m應(yīng)度值優(yōu)于個體最優(yōu)適應(yīng)度值時學(xué)習(xí)過程才會停止。這種學(xué)習(xí)過程即使放在高維問題中，也會在若干代的學(xué)習(xí)之后使得公式第二項最終得到的學(xué)習(xí)樣本Xdli，j（t）變成全局最優(yōu)，而不是介于個體最優(yōu)和全局最優(yōu)之間的一個值。此時對于后續(xù)粒子的更新公式后兩項將會完全一樣，賦予公式最后一項的開發(fā)能力由于后兩項的接近甚至完全一致而變成兩倍，若此時粒子找到的全局最優(yōu)是局部最優(yōu)，并且迭代過程中沒有向其他粒子進行學(xué)習(xí)，毫無疑問種群將面臨陷入局部最優(yōu)并且無法逃逸的風險。需要說明的是，公式第二項的學(xué)習(xí)樣本在變成全局最優(yōu)時經(jīng)歷的迭代次數(shù)與本文設(shè)置的最大迭代次數(shù)相比，只會占一小部分比例。

針對以上分析存在的不足，本文提出了CDL改進策略，具體原因在于：為削弱粒子在之后大部分迭代時期里擁有的兩倍開發(fā)能力，需要去掉其中一項（對全局最優(yōu)的學(xué)習(xí)），同時需要為種群引入增強探索能力的策略。針對多模態(tài)問題研發(fā)的CLS策略被證明在探索方面效果顯著，它能夠在含有多個峰值的優(yōu)化問題中找到最優(yōu)解，需要說明的是，本文之所以去掉對全局最優(yōu)的學(xué)習(xí)項而不是構(gòu)造的學(xué)習(xí)樣本項，是因為在初始迭代過程中，為了不遺漏任何可能包含最優(yōu)解的期望區(qū)域，希望算法在整體上是探索能力大于開發(fā)能力的，而留下來的學(xué)習(xí)樣本項在初始階段，學(xué)習(xí)樣本的值還不是全局最優(yōu)，所以對粒子的牽引力不明顯，種群中的粒子可以在搜索空間進行最大范圍地探索；在后期學(xué)習(xí)樣本變?yōu)槿肿顑?yōu)之后，完全可以取代去掉的全局最優(yōu)項來發(fā)揮其開發(fā)能力，能夠使算法在不同迭代時期最大程度地發(fā)揮勘探或開發(fā)能力。綜上所述，CDL策略中去掉對全局最優(yōu)項的學(xué)習(xí)是合理的。

3.2CDL-MCPSO克服過度開發(fā)問題的能力及理論性依據(jù)

CDL-MCPSO具備克服過度開發(fā)問題能力的理論性依據(jù)主要有三個：a）基于主從范式的多群策略能夠彌補單個種群出現(xiàn)過度開發(fā)情形時，沒有其他種群信息指導(dǎo)的缺點；b）從群的執(zhí)行策略，在取消一半開發(fā)能力的前提下加入對其他粒子的學(xué)習(xí)，不易出現(xiàn)過度開發(fā)；c）解交換機制（SEM）的加持，即使開發(fā)過度陷入局部最優(yōu)，也可以通過信息的交流協(xié)作來幫助實現(xiàn)逃逸。具體說明如下：基于主從范式的多子群相比單個種群具有更好的多樣性，能夠減小粒子出現(xiàn)過度開發(fā)陷入局部最優(yōu)的可能性，因為可以利用其他種群搜索到的信息來進行指導(dǎo)；其次是在每個子群運行算法的選擇上，讓主群執(zhí)行在多模態(tài)問題中優(yōu)化效果顯著地綜合學(xué)習(xí)策略（CLS）以賦予主群進行大范圍探索的能力，顯而易見，主群不易出現(xiàn)過度開發(fā)的情形；對于每個從群執(zhí)行優(yōu)化后的DLS，即CDL著重賦予算法開發(fā)能力，還加入了對所有其他粒子進行學(xué)習(xí)的部分，更不會使算法出現(xiàn)過度開發(fā)的情形，即使出現(xiàn)了，新提出的解交換機制（SEM）也可以通過信息的交換來增加種群多樣性，而種群多樣性的增加可能避免出現(xiàn)過度開發(fā)的情形或改善。

3.3CDL-MCPSO不同迭代時刻尋優(yōu)能力的變化以及勘探和開發(fā)能力的平衡性

算法迭代前期，將種群劃分為多個子群并采用拉丁超立方體采樣方法對種群進行初始化，保證了種群粒子在搜索空間中是均勻分布的，多樣性好、算法具有很好的勘探能力。迭代過程中主群執(zhí)行CLS策略的學(xué)習(xí)樣本，由于是粒子的個體最優(yōu)，通過向所有其他粒子的個體最優(yōu)進行概率性學(xué)習(xí)，綜合了所有其他粒子到目前為止找到的優(yōu)異信息，從群的速度更新公式中雖然加入了個體最優(yōu)向全局最優(yōu)的學(xué)習(xí)項，但是在算法前期的迭代過程中，從群學(xué)習(xí)樣本Xdli對粒子的指引作用相比Xcli以及主群著重于勘探的學(xué)習(xí)策略在前期迭代過程中發(fā)揮不明顯，能夠保證種群可以在搜索空間進行充分的勘探。

算法迭代中期，此時種群中每個粒子找到的個體最優(yōu)值相比迭代前期已經(jīng)有了很大的改善，這是由于迭代前期種群優(yōu)秀的勘探能力所發(fā)揮的作用而產(chǎn)生的結(jié)果，此時不論是對于主群還是從群學(xué)習(xí)樣本的產(chǎn)生，由于被學(xué)習(xí)對象的解變優(yōu)，使得學(xué)習(xí)樣本的值也隨之變好，整個種群的更新都在朝最終的最優(yōu)解慢慢靠近，種群勘探和開發(fā)能力并存，優(yōu)化了解的質(zhì)量，但不會使粒子過快收斂，也保留了部分勘探能力能夠繼續(xù)探索可能的較優(yōu)解。

算法迭代后期，隨著種群搜索到的解質(zhì)量的進一步提高，從群中學(xué)習(xí)樣本Xdli的值越來越接近直至等于全局最優(yōu)，而另外的學(xué)習(xí)樣本Xcli即是向其他粒子的個體最優(yōu)進行學(xué)習(xí)所得。由于迭代過程已經(jīng)到達整個迭代周期的后期，此時每個粒子找到的個體最優(yōu)解的質(zhì)量已經(jīng)離問題的最終解很近了，Xcli的值浮動逐漸減小，種群不再進行大范圍的探索，主要圍繞在當前找到的最優(yōu)解附近進行優(yōu)化。因為前期良好的勘探能力和中期適應(yīng)的勘探能力，使得粒子對問題空間已經(jīng)進行了高度的探索，所以在后期粒子靠近全局最優(yōu)的過程中不存在靠近的是局部最優(yōu)的情形，所以在后期整個種群主要發(fā)揮的是開發(fā)能力。

綜上，改進粒子群算法的尋優(yōu)能力能夠根據(jù)算法不同、迭代時刻的不同需求，分別發(fā)揮勘探或開發(fā)能力或同時發(fā)揮勘探和開發(fā)能力，實現(xiàn)了兩者之間的有效平衡。

3.4CDL-MCPSO算法的收斂性分析

Solis等人［25］的研究結(jié)果證明了隨機優(yōu)化算法以概率1收斂于全局最優(yōu)解的條件，主要有以下結(jié)論：

假設(shè)1若f（D（x，ζ））≤f（x），并且如果ζ∈S，則有f（D（x，ζ））≤f（ζ）。其中，f為目標函數(shù)，D為產(chǎn)生問題解的函數(shù)，x為S中搜索到的一個點，ζ為從概率空間（Rn，B，μk）產(chǎn)生的隨機向量，S為問題的約束空間。

假設(shè)2S的任意Borel子集A，若其測度v（A）gt;0，則有∏∞t=0（1－μt（A））=0。其中，v（A）gt;0為子集A的n維閉包，μt（A）為由測度μt產(chǎn)生A的概率。

定理1假設(shè)目標函數(shù)f為可測函數(shù)，問題的約束空間S為可測子集，{xt}∞0為隨機算法產(chǎn)生的解序列，則當滿足假設(shè)1和2時有l(wèi)imt→∞P［xt∈Rε］=1。其中，Rε為全局最優(yōu)點的集合。

因此，對任一隨機優(yōu)化算法，只要能夠滿足假設(shè)1和2，就可以保證它能以概率1收斂于全局最優(yōu)解。

定理2CDL-MCPSO算法能夠以概率1收斂于全局最優(yōu)解。

證明CDL-MCPSO算法滿足假設(shè)1。

設(shè)CDL-MCPSO算法的迭代函數(shù)D可以表示為

D（pg，t，xi，t）=pg，tf（pg，t）≤f（xi，t）xi，tf（xi，t）≤f（pg，t）

容易證明CDL-MCPSO滿足假設(shè)1。

CDL-MCPSO算法滿足假設(shè)2。

設(shè)規(guī)模為N的粒子群的樣本空間的并必須包含S，即S∪Ni=1Mi，t。其中，Mi，t為第t代粒子i的樣本空間的支撐集。對于滿足xi0，t=pt=pg的粒子i0，Mi0，t=S，其他粒子i則滿足：

對標準PSO算法，設(shè)φ1=c1r1，φ2=c2r2，將速度更新公式代入位置更新公式后，代入Mi，t可得

Mi，t=xi，j，t－1+ω（xi，j，t－1－xi，j，t－2）+φ1（pi，j，t－1－xi，j，t－1）+φ2（pg，j，t－1－xi，j，t－1）

其中：0≤φ1≤c1，0≤φ2≤c2。顯然，Mi，t表示一個由φ1、φ2所確定的超矩形，其中一個端點為φ1=φ2=0，另一個為φ1=c1，φ2=c2。

當max（c1|pi，j，t－1－xi，j，t－1|，c2|pg，j，t－1－xi，j，t－1|）lt;0.5×diamj（S）成立時，顯然有v（Mi，t∩S）lt;v（S）。其中，diamj（S）表示S在第j維分量的長度。由于xi→（c1pi+c2pg）/（c1+c2），limt→∞Mi，t=0，隨迭代次數(shù)t的增加，v（Mi，t）不斷減少，其并v（∪Ni=1Mi，t）也在減少，從而v（∪Ni=1Mi，t∩S）lt;v（S），表示存在整數(shù)t′，當tgt;t′，存在集合AS，使得∑Ni=1μi，t（A）=0，這表明標準PSO算法不滿足假設(shè)2，不能以概率1收斂于全局最優(yōu)解。

CDL-MCPSO算法是在標準PSO算法的基礎(chǔ)上，運用多子群、不同學(xué)習(xí)策略以及種群之間的協(xié)作交換機制產(chǎn)生新的粒子。因此，對正常進化的粒子，設(shè)其支撐集的并集為α，利用以上改進策略產(chǎn)生的粒子，設(shè)其支撐集的并集為β。

由于改進策略的指導(dǎo)性，必然存在整數(shù)t1，當tgt;t1時，βS。所以對于CDL-MCPSO算法，存在整數(shù)t2，當tgt;t2時，α∪ βS。

定義S的任意Borel子集A=Mi，t，則有v（A）gt;0，μt（A）=∑Ni=1μi，t（A）=1，即∏∞i=0（1－μi（A））=0，所以CDL-MCPSO算法滿足假設(shè)2。

結(jié)論CDL-MCPSO算法是全局收斂算法。

證明設(shè){pg，t}∞t=0為CDL-MCPSO算法生成的解序列，由于CDL-MCPSO算法滿足假設(shè)1和2，通過定理可知，limt→+∞P［pg，t∈Rε］=1成立，故CDL-MCPSO算法能夠以概率1收斂于全局最優(yōu)解。

3.5算法的時間復(fù)雜度分析

傳統(tǒng)PSO算法主要包括初始化、適應(yīng)度值的評估以及速度和位置更新幾部分，它們的復(fù)雜度分別為O（ND）、O（ND）和O（ND）。N和D分別表示種群規(guī)模和維度。因此，PSO的時間復(fù)雜度為O（ND）。與傳統(tǒng)PSO相比，CDL-MCPSO算法需要構(gòu)建學(xué)習(xí)樣本、主從群信息交流時評估所有從群本地最優(yōu)。由于主從群只有在連續(xù)迭代次數(shù)達到刷新間隙時才進行信息交流，并且評估的本地最優(yōu)分別來自四個從群，每次交流只評估四組數(shù)據(jù)，所以多群協(xié)作過程的時間復(fù)雜度為O（1），并且只有當粒子的個人最佳位置更新或個人最佳位置在幾代內(nèi)沒有更新時才需要重建學(xué)習(xí)樣本。構(gòu)建學(xué)習(xí)樣本的最壞情況時間復(fù)雜度為O（ND），判斷迭代是否達到刷新間隙以及是否停止的時間復(fù)雜度為O（1），因此，CDL-MCPSO的最壞情況時間復(fù)雜度也是O（ND），包括初始化O（ND）、評估O（ND）、更新O（ND）。根據(jù)以上分析可以得知，CDL-MCPSO算法的時間復(fù)雜度與基本PSO算法處于同一水平。

4實驗驗證與分析

4.1典型迭代時刻的個體分布圖及種群多樣性的分析

給出了種群分別在50、500和900代時的個體分布圖，如圖4～6所示。圖4代表種群在迭代前期的大致分布，主從群獨立執(zhí)行CLS和DLS，CLS學(xué)習(xí)對象為所有其他粒子的個體最優(yōu)，DLS公式第二項學(xué)習(xí)對象雖為全局最優(yōu)，但得到的樣本距離成為全局最優(yōu)還要些許迭代時間，種群多樣性良好，粒子基本均勻散落在搜索空間。圖5代表種群在迭代中期的大致分布，從群迭代DLS公式第二項得到的樣本已經(jīng)接近全局最優(yōu)，但主群中其他粒子個體最優(yōu)的差異仍然保持學(xué)習(xí)后的樣本具備較好的多樣性。DLS的一部分開發(fā)能力被中和，加上種群每隔一定迭代次數(shù)就會進行解信息的交換，粒子只是慢慢開始出現(xiàn)收斂的趨勢，但仍具備較好的種群多樣性。圖6代表種群在迭代后期的大致分布，從群迭代DLS公式第二項的學(xué)習(xí)樣本等于全局最優(yōu)，后兩項均發(fā)揮開發(fā)作用，種群多樣性減弱，大部分粒子聚集在全局最優(yōu)解附近，但CLS的存在仍然會使個別粒子散落在距離全局最優(yōu)解不太遠的位置。

4.2測試函數(shù)

為驗證CDL-MCPSO的性能，采用Benchmark測試函數(shù)集中的10個函數(shù)進行求解驗證，其中包括兩個單峰函數(shù)f1、f2，五個多峰函數(shù)f3～f7，三個組合函數(shù)f8～f10，測試函數(shù)的具體信息如表2所示。

4.3對比算法

為了驗證CDL-MCPSO算法在求解復(fù)雜問題時的性能，將其與統(tǒng)一粒子群算法（unified particle swarm optimization，UPSO）［13］、完全知情粒子群算法（fully informed particle swarm，F(xiàn)IPS）［11］、維度學(xué)習(xí)粒子群算法（particle swarm optimization based on dimensional learning strategy，DLPSO）［21］、并行綜合學(xué)習(xí)粒子群優(yōu)化算法（parallel comprehensive learning particle swarm optimization，PCLPSO）［17］及標準粒子群算法（modified particle swarm optimizer，PSO-W）［2］五種改進粒子群算法進行對比實驗。為了保證測試的公平性，算法的參數(shù)設(shè)置均相同：種群規(guī)模為40，迭代次數(shù)為1 000，所有算法分別在D=10、30、50三個維度下在每個測試函數(shù)上獨立運行30次。實驗環(huán)境設(shè)置如下：AMD Ryzen 5350H with Radeon Vega Mobile Gfx 2.10 GHz，RAM 16 GB，Windows 10操作系統(tǒng)，MATLAB R2016b。所有對比算法的參數(shù)設(shè)置如表3所示。

4.4算法性能分析

表4、5表示在D=30、50兩種維度情況下，每種算法在測試函數(shù)上的平均值和標準偏差。六種算法的最佳結(jié)果均以粗體顯示。從表中數(shù)據(jù)可以看出，CDL-MCPSO算法除了在測試函數(shù)f2上的性能略顯不足外，能夠在其他絕大多數(shù)不管是單峰函數(shù)、多模態(tài)函數(shù)還是組合函數(shù)上找到更好的或相當?shù)膬?yōu)化結(jié)果，只在個別函數(shù)上穩(wěn)定性稍顯不足。產(chǎn)生以上實驗結(jié)果的主要原因是，主從群采用的綜合學(xué)習(xí)策略（CLS）和綜合維度學(xué)習(xí)策略（CDL）在算法迭代前期發(fā)揮了優(yōu)秀的勘探能力，探索了可能存在較優(yōu)解的所有區(qū)域，為最終解質(zhì)量的提高奠定了基礎(chǔ)。

圖7～12分別展示了CDL-MCPSO算法在f1（單峰）、f4（多模態(tài)）和f9（組合）三個函數(shù)上30、50維下的收斂曲線圖。針對函數(shù)f1的收斂曲線圖，從圖7可以觀察到，改進算法明顯優(yōu)于PSO-W、UPSO、FIPS，與PCLPSO相比，改進算法找到了全局最優(yōu)解，而PCLPSO不僅沒有找到全局最優(yōu)解，而且從50代左右就開始收斂，收斂速度過快，圖10和7的情況大致類似。針對函數(shù)f4的收斂曲線圖，尤其是圖11，CDL-MCPSO性能明顯優(yōu)于其他對比算法，從f9的收斂曲線圖可以直觀地看出，CDL-MCPSO不僅在找到的解上明顯優(yōu)于其他對比算法，而且收斂速度也快于其他算法，在迭代后期沒有出現(xiàn)振蕩現(xiàn)象，解決了維度退化問題，雖然CDL-MCPSO也存在不足，其算法穩(wěn)定性在個別測試函數(shù)上相比其他算法略顯不足，但總的來說，CDL-MCPSO與其他算法相比，在優(yōu)化結(jié)果上都大有提升。

為了進一步驗證CDL-MCPSO算法的性能，借鑒數(shù)據(jù)統(tǒng)計與分析方法，采用顯著性水平為0.05的Wilcoxon秩檢驗方法來判斷算法性能，結(jié)果如表6所示。其中“+”“-”“≈”分別表示CDL-MCPSO算法的結(jié)果優(yōu)于、劣于、相當于對應(yīng)算法的測試結(jié)果。從表6的測試結(jié)果來看，在α=0.05時，CDL-MCPSO算法在測試函數(shù)上相較于對比算法均有一定優(yōu)勢。

根據(jù)以上對比分析，CDL-MCPSO可以保持更好的多樣性開發(fā)原始空間來獲得高質(zhì)量的解，并且具備最佳的達到最優(yōu)的能力使算法快速收斂。因此，CDL-MCPSO是一種能夠有效提升PSO性能的可行方法。

5結(jié)束語

為提高算法運行效率、平衡算法的勘探和開發(fā)能力，本文基于主從范式集群結(jié)構(gòu)，提出了綜合維度學(xué)習(xí)的多群協(xié)作粒子群優(yōu)化算法（CDL-MCPSO）。主從群獨立執(zhí)行具有不同職能的學(xué)習(xí)策略，其中從群學(xué)習(xí)策略是針對DLS存在的過度開發(fā)問題而開發(fā)，同時為提升解的質(zhì)量，還提出了一種新的解交換機制，用于群體之間的信息共享。實驗結(jié)果證明，CDL-MCPSO算法不僅能夠在絕大多數(shù)單峰、多峰和組合函數(shù)上找到更好的或相同的優(yōu)化結(jié)果，而且在收斂速度和解的質(zhì)量上均有明顯優(yōu)勢，不僅解決了振蕩和維度退化問題，還有效避免了過度開發(fā)。下一階段工作主要是提高算法在部分測試函數(shù)上的穩(wěn)定性并將其應(yīng)用于實際復(fù)雜問題中進行有效性的驗證。

參考文獻：

［1］Eberhart R， Kennedy J. A new optimizer using particle swarm theory ［C］// Proc of the 6th International Symposium on Micro Machine and Human Science. Piscataway， NJ： IEEE Press， 1995： 39-43.

［2］Shi Y， Eberhart R. A modified particle swarm optimizer ［C］// Proc of IEEE International Conference on Evolutionary Computation Proceedings. Piscataway， NJ： IEEE Press， 1998： 69-73.

［3］Afia A E， Sarhani M， Aoun O. Hidden Markov model control of inertia weight adaptation for particle swarm optimization ［J］. IFAC-PapersOnLine， 2017， 50（1）： 9997-10002.

［4］Gou Jin， Lei Yuxiang， Guo Wangping， et al. A novel improved particle swarm optimization algorithm based on individual difference evolution ［J］. Applied Soft Computing， 2017， 57（8）： 468-481.

［5］Nasir M， Das S， Maity D， et al. A dynamic neighborhood learning based particle swarm optimizer for global numerical optimization ［J］. Information Sciences， 2012， 209（11）： 16-36.

［6］焦重陽， 周清雷， 張文寧. 混合拓撲結(jié)構(gòu)的粒子群算法及其在測試數(shù)據(jù)生成中的應(yīng)用研究［J］. 計算機科學(xué)， 2017， 44（12）： 249-254. （Jiao Chongyang， Zhou Qinglei， Zhang Wenning. MPSO and its application in test data automatic generation ［J］． Computer Science， 2017， 44（12）： 255-260.）

［7］Gong Yuejiao， Li Jingjing， Zhou Yicong， et al. Genetic learning particle swarm optimization ［J］. IEEE Trans on Cybernetics， 2015， 46（10）： 2277-2290.

［8］Aydilek I B. A hybrid firefly and particle swarm optimization algorithm for computationally expensive numerical problems ［J］. Applied Soft Computing， 2018， 66（5）： 232-249.

［9］瘙塁enel F A， Gke F， Yüksel A S， et al. A novel hybrid PSO-GWO algorithm for optimization problems ［J］. Engineering with Computers， 2019， 35（4）： 1359-1373.

［10］陳躍剛， 許奕. 基于綜合學(xué)習(xí)策略的多目標分解粒子群算法 ［J］. 微電子學(xué)與計算機， 2018， 35（10）： 75-79. （Chen Yuegang， Xu Yi. Multi-objective decomposition particle swarm optimization algorithm based on comprehensive learning strategy ［J］. Micro-electronics and Computer， 2018， 35（10）： 75-79.）

［11］ Mendes R， Kennedy J， Neves J. The fully informed particle swarm： simpler maybe better ［J］. IEEE Trans on Evolutionary Computation， 2004， 8（3）： 204-210.

［12］田夢丹， 梁曉磊， 符修文， 等. 具有博弈概率選擇的多子群粒子群算法 ［J］. 計算機科學(xué)， 2021， 48（10）： 67-76. （Tian Mengdan， Liang Xiaolei， Fu Xiuwen， et al. Multi-subgroup particle swarm optimization algorithm with game probability selection ［J］. Compu-ter Science， 2021， 48（10）： 67-76.）

［13］Parsopoulos K E， Vrahatis M N. UPSO： a unified particle swarm optimization scheme ［C］// Proc of International Conference of Computational Methods in Sciences and Engineering. ［S.l.］： CRC Press， 2019： 868-873.

［14］袁小平， 蔣碩. 基于分層自主學(xué)習(xí)的改進粒子群優(yōu)化算法［J］. 計算機應(yīng)用， 2019， 39（1）： 148-153. （Yuan Xiaoping， Jiang Shuo. Improved particle swarm optimization algorithm based on hie-rarchical autonomous learning ［J］. Computer Applications， 2019， 39（1）： 148-153.）

［15］Li Dongyang， Guo Weian， Lerch A， et al. An adaptive particle swarm optimizer with decoupled exploration and exploitation for large scale optimization ［J］. Swarm and Evolutionary Computation， 2021， 60（2）： 100789.

［16］Zhou Shangbo， Sha Long， Zhu Shufang， et al. Adaptive hierarchical update particle swarm optimization algorithm with a multi-choice comprehensive learning strategy ［J］. Applied Intelligence， 2022， 52（2）： 1853-1877.

［17］Gülcü瘙塁， Kodaz H. A novel parallel multi-swarm algorithm based on comprehensive learning particle swarm optimization ［J］. Enginee-ring Applications of Artificial Intelligence， 2015， 45（10）： 33-45.

［18］廖瑋霖， 程杉， 尚冬冬， 等. 多策略融合的粒子群優(yōu)化算法［J］. 計算機工程與應(yīng)用， 2021， 57（1）： 69-76. （Liao Weilin， Cheng Shan， Shang Dongdong， et al. Particle swarm optimization algorithm integrated with multiple-strategies［J］. Computer Engineering and Applications， 2021， 57（1）： 69-76.）

［19］紀偉， 李英梅， 季偉東， 等. 粒子置換的雙種群綜合學(xué)習(xí)PSO算法 ［J］. 計算機科學(xué)與探索， 2021， 15（4）： 766-776. （Ji Wei， Li Yingmei， Ji Weidong， et al. Two-population comprehensive learning PSO algorithm based on particle per-mutation ［J］. Journal of Frontiers of Computer Science amp; Technology， 2021， 15（4）： 766-776.）

［20］Liang J J， Qin A K， Suganthan P N， et al. Comprehensive learning particle swarm optimizer for global optimization of multimodal functions ［J］. IEEE Trans on Evolutionary Computation， 2006， 10（3）： 281-295.

［21］Xu Guiping， Cui Quanlong， Shi Xiaohu， et al. Particle swarm optimization based on dimensional learning strategy ［J］. Swarm and Evolutionary Computation， 2019， 45（3）： 33-51.

［22］Parsopoulos K E， Vrahatis M N. On the computation of all global minimizers through particle swarm optimization ［J］. IEEE Trans on Evolutionary Computation， 2004， 8（3）： 211-224.

［23］Van den Bergh F， Engelbrecht A P. A cooperative approach to particle swarm optimization ［J］. IEEE Trans on Evolutionary Computation， 2004， 8（3）： 225-239.

［24］Mckay M D， Beckman R J， Conver W J. A comparison of three methods for selecting values of input variables in the analysis of output from a computer code ［J］. Technometrics， 2000， 42（1）： 55-61.

［25］Solis F J， Wets R J B. Minimization by random search techniques ［J］. Mathematics of Operations Research， 1981， 6（1）： 19-30.

收稿日期：2022-01-22；修回日期：2022-03-14基金項目：國家自然科學(xué)基金資助項目（62063021，62162040）；浙江省基礎(chǔ)公益研究計劃資助項目（LQ20F020011）

作者簡介：張其文（1975-），男，山西臨汾人，副教授，碩導(dǎo)，碩士，主要研究方向為智能信息技術(shù)處理、知識發(fā)現(xiàn)、大數(shù)據(jù)等；王楊婷（1996-），女（通信作者），陜西渭南人，碩士，主要研究方向為智能優(yōu)化算法、模式識別與人工智能（nanxun070610@163.com）.