







摘 要: 針對算術優化算法(arithmetic optimization algorithm, AOA)存在的收斂速度慢、易陷入局部最優等問題,提出了自適應t分布變異和動態邊界策略改進的算術優化算法(t-CAOA)。利用引入自適應t分布變異策略提高種群的多樣性和質量可以有效提升算法的收斂速度,同時通過引入余弦控制因子的動態邊界策略優化AOA的尋優過程,從而協調AOA的全局勘探和局部開發能力。對10個單模態和多模態函數進行尋優實驗,并與鯨魚優化算法、灰狼優化算法等算法進行對比,實驗結果表明,經過改進的算術優化算法具有更高的尋優精度和穩定性。進一步對t-CAOA進行求解大規模優化問題的實驗,實驗結果表明,改進過的t-CAOA可以有效地解決大規模優化問題。
關鍵詞: 算術優化算法; 余弦控制因子; 自適應t分布變異; 大規模優化問題
中圖分類號: TP301"" 文獻標志碼: A
文章編號: 1001-3695(2022)05-020-1410-05
doi:10.19734/j.issn.1001-3695.2021.09.0428
Arithmetic optimization algorithm based on adaptive t-distribution and improved dynamic boundary strategy
Zheng Tingting, Liu Sheng, Ye Xu
(School of Management, Shanghai University of Engineering Science, Shanghai 201620, China)
Abstract: In order to solve the problems of slow convergence and easy to fall into local optimization in arithmetic optimization algorithm(AOA),this paper proposed an arithmetic optimization algorithm with adaptive t-distribution mutation and dynamic boundary strategy improvement(t-CAOA).The introduction of adaptive t-distribution mutation strategy to improve the diversity and quality of the population could effectively improve the convergence speed of the algorithm.At the same time,it introduced the dynamic boundary strategy of cosine control factor to optimize the optimization process of AOA,so as to coordinate the global exploration and local development ability of AOA.It performed of optimization experiments on 10 optimal modal and multi-modal functions,and compared them with whale optimization algorithm,grey wolf optimizer and other algorithms.The experimental results show that the improved arithmetic optimization algorithm has higher optimization accuracy and stability.Further experiments on t-CAOA to solve large-scale optimization problems,the experimental results show that the improved t-CAOA can effectively solve large-scale optimization problems.
Key words: arithmetic optimization algorithm; cosine control factor; adaptive t-distribution mutation; large-scale optimization problem
元啟發式算法(meta-heuristic)是基于計算智能的機制求解復雜優化問題最優解或滿意解的方法,有時也被稱為智能優化算法(intelligent optimization algorithm),智能優化通過對生物、物理、化學、社會、藝術等系統或領域中相關行為、功能、經驗、規則、作用機理的認識,揭示優化算法的設計原理,在特定問題特征的引導下提煉相應的特征模型,設計智能化的迭代搜索型優化算法。早期有學者提出了遺傳算法(generic algorithm,GA)[1]和粒子群優化算法(particle swarm optimization,PSO)[2],近年來又提出了許多新穎的算法如海洋捕食者算法(marine predators algorithm,MPA)[3]、平衡優化算法(equilibrium optimizer,EO)[4]、哈里斯鷹優化算法(Harris hawks optimization,HHO)[5]、黏液霉菌算法(slime mould algorithm,SMA)[6]、堆陣優化算法(heap-based optimizer,HBO)[7]等。元啟發式算法在較多的領域得到了廣泛的應用,如工程優化、粒子濾波、參數整定和多目標優化等。但由于實際應用的復雜性,根據無免費午餐定理[8],需提出性能更為優越的新算法或是改進原有的算法,來更高效地解決實際應用問題。
Abualigah等人[9]于2021年提出了算術優化算法(AOA),其靈感來源于算術運算符(即乘法、除法、減法和加法)在解決算術問題中的使用[10],該算法討論算術運算符的行為并揭示其在算法中的影響。
基本AOA操作簡單且尋優時間較短,即AOA的尋優精度好,但仍存在易陷入局部最優等問題。針對這些問題,本文提出了一種自適應t分布變異和動態邊界策略改進的算術優化算法(t-CAOA),通過求解10個函數優化問題驗證其有效性,實驗結果表明該算法在求解函數優化問題上表現優秀并能有效處理大規模優化問題。
1 算術優化算法
基于群體的優化算法從隨機生成的一組候選解開始其優化過程,通過一組優化規則對這組生成的解增量進行改進,并通過特定的目標函數進行迭代評估。算術優化算法是一種新穎的基于群體的元啟發式算法,根據文獻[9],AOA使用兩個階段即勘探階段和開發階段來闡釋其優化過程。AOA機制如圖1所示。
2 算術優化算法的改進
2.1 引入余弦控制因子的動態邊界策略
與其他群智能優化算法類似,基本算術優化算法在尋優過程中同樣會遇到全局搜索能力和局部開發能力不平衡的現象。在基本算術優化算法中,MOA的取值決定了算法優化過程中的階段選擇,MOA越大,算法的局部搜索能力越強;MOA越小,算法的全局搜索能力越強,式(2)描述的MOA是線性增長的,即算法的全局搜索能力線性減小。然而,AOA在進化探索過程中卻是非線性變化的,線性增長的MOA不能準確貼近實際迭代過程,引入余弦控制因子將MOA的變化轉換為非線性,可以更貼近算法實際的迭代過程,以下將引入余弦控制因子的自適應系數命名為CMOA。由圖1可知,AOA定義的MOA線性增長僅局限于[0.2,1],而引入余弦控制因子的CMOA在算法迭代前期,CMOA較小并緩慢增大以充分進行全局搜索;在算法后期,CMOA急速增大以進行局部搜索。
AOA作為一種新型群體智能算法,如何平衡其全局搜索和局部搜索對提高算法的性能至關重要。若全局搜索和局部搜索協調不好,在進化過程中可能會導致算法出現早熟收斂現象[11],本文根據圖2體現的特點對式(2)進行調整。本文在MOA更新公式中加入由余弦因子控制的非線性慣性權重來動態調節算法全局搜索與局部搜索的平衡,提高算法尋優精度和穩定性。
CMOA(C_iter)=min+(max-min)×cosπ×C_iter2M_iter(6)
2.2 自適應t分布變異策略
t分布又稱學生分布[12],含有參數自由度,當t(n→∞)→N(0,1),當t(n=1)=C(0,1),其中N(0,1)為高斯分布,C(0,1)為柯西分布,即標準高斯分布和柯西分布是t分布的兩個邊界特例分布,三者函數的分布圖像如圖3所示。其中,柯西變異的全局搜索能力較強,能夠有效地保持種群的多樣性;而高斯變異的局部開發能力較強,可以保證進化后期的收斂速度[13]。t分布綜合了柯西分布和高斯分布的優點,本文受到文獻[14]啟發,采用以迭代次數iter為t分布的自由度參數的t分布變異算子對解的位置進行擾動,使得算法在迭代前期具有較好的全局開發能力,在迭代后期具有良好的局部探索能力,并提高算法的收斂速度,具體的位置更新方式如下:
Xji+1=Xjbest+t(C_iter)×Xjbest(7)
其中:Xji+1為自適應t分布變異擾動后最優解在第j維的位置;Xjbest為變異擾動前最優解在第j維的位置,迭代次數作為t分布的自由度參數。
在元啟發式算法中,在算法中引入變異有利于進一步提升算法跳出局部最優解的能力,因為通過引入變異算子能夠使算法具有一定的局部隨機搜索能力。一方面,在求解的后期,加速向最優解收斂,另一方面也維持解的多樣性。本文對三種常見的變異相應的機理進行剖析,綜合考慮之后,引入自適應t分布變異改進算法搜索策略,有效增強了算法的尋優性能并避免局部最優能力。在引入自適應t分布變異的同時引入余弦控制因子的動態邊界策略以更好地平衡全局搜索和局部搜索。結合兩種策略對AOA進行改進,可通過實驗驗證其有效性。
2.3 改進算法的流程
t-CAOA的具體執行流程如圖4所示。
a)初始化參數,包括種群規模為30,迭代次數為500;
b)隨機生成初始解和計算適應度值;
c)根據式(6)更新CMOA的參數值,使得勘探和開發階段之間的轉換動態且非線性;
d)若r1lt;CMOA,根據式(3)實行勘探并更新位置;若r1≥CMOA,根據式(5)實行開發并更新位置;
e)對當前全局最優解進行自適應t分布變異,更新最優解;
f)判斷是否滿足結束條件,如果滿足,則結束程序,不滿足則轉至步驟b)。
3 仿真實驗與結果分析
3.1 仿真實驗環境
本文的仿真實驗基于Intel CoreTM i7-7500U CPU @ 2.70 GHz 2.90 GHz,12 GB內存配置的平臺,以及Windows 10操作系統,仿真軟件為MATLAB R2017a。
3.2 比較對象和參數設置
根據控制變量原則,參考文獻[9],本文的實驗過程將MOA更新式(2)中的max和min固定為1和0.2,將勘探階段中的控制參數μ固定為0.5,將數字優化器式(4)中的敏感系數α固定為5。
本文選取基本算術優化算法(AOA)[9]、海洋捕食者算法(marine predators algorithm,MPA)[3]、灰狼優化算法(grey wolf optimizer,GWO)[15]、鯨魚優化算法(whale optimization algorithm,WOA)[16]與本文所提的t-CAOA進行對比。為保證實驗的公平性,所有算法的種群規模設為30,迭代次數設為500,其他參數設置如表1所示。
3.3 測試函數
為了驗證改進算法具有更好的尋優性能,本文選取了10個不同特點的基準測試函數進行函數優化的對比實驗,具體函數信息如表2所示。
3.4 實驗結果與分析
本文將選取的五個對比算法和提出的t-CAOA,分別在10個基本測試函數上獨立運行30次,具體結果如表3所示。由表3可知,總體上t-CAOA的尋優性能最強。對于全部10個測試函數,無論是單模態還是多模態函數,t-CAOA的最優值、平均值和標準差都較為理想。函數f1~f5是單模態函數,用來檢測算法的局部尋優能力。從實驗結果可知,對于f1~f3,t-CAOA均可以直接探索到最優值,且尋優效果達到了100%,對于f4,t-CAOA的標準差也遠遠小于其他算法,說明其具有較高的穩定性且一定程度上說明了自適應t分布變異策略一定程度上提高了算法的尋優精度;對于f5,其被稱為“香蕉函數”,很難找到全局最優值。函數f6~f10是多模態函數,用來檢測算法的全局尋優能力,對于f6,t-CAOA的尋優效果相比其他算法并不顯著;對于f7,五種算法對該函數的尋優效果均不理想;對于f8~f10,t-CAOA的尋優性能和穩定性相對于其他算法有一定程度的提高。以上分析表明,t-CAOA的整體尋優性能優于其他四種算法。
為了更加直觀地對比算法的收斂精度和收斂速度,本文根據迭代次數和適應度值繪制了測試函數的收斂曲線圖,由于篇幅限制,此處僅選取四個基準測試函數的迭代收斂曲線圖進行展示,具體如圖5所示。觀察測試函數收斂曲線可知,本文所提改進算法t-CAOA在收斂精度和收斂速度上要優于AOA、MPA、WOA以及GWO。f1和f2為高維單峰函數,主要用來檢測算法的全局探索能力和收斂能力;在引入余弦因子的動態邊界策略中余弦因子用來控制全局和局部尋優,能夠綜合提高算法的尋優能力,使之達到平衡,由這兩個函數(f1和f2)的收斂曲線可以看出,t-CAOA具有較高的收斂速度和收斂精度,相比其他算法,t-CAOA皆高出300個數量級,一定程度上說明了引入余弦因子的動態邊界策略改善了AOA全局搜索能力不強的問題。f7屬于高維多峰函數,主要用來檢測算法的局部開發能力,由其收斂曲線可以看出,t-CAOA表現出了優越的性能,較其他四個算法高出130個數量級且不易陷入局部最優,改善了基本算法易陷入局部最優的缺陷。對于函數f10,t-CAOA具有更快的收斂速度;相比基本AOA、WOA及GWO在收斂精度上有一定程度的改進,在第二次迭代的收斂精度就無限接近函數的理論最優值。
綜上,t-CAOA對10個基準測試函數的尋優性能有明顯的提高,并且具有較強的穩定性,t-CAOA具有較快的收斂速度,在高維多峰函數尋優中,既能保持原算法強大的局部開發能力,又能及時跳出局部最優。至此,t-AOA的可行性和有效性得以證明。
3.5 統計檢驗
在各算法的優化性能比較中,僅以最優值、平均值和標準差為算法有效性的評估依據不夠完善,為進一步比較各算法的尋優效果,對各算法基于表3的測試結果進行顯著性水平為0.05的Wilcoxon秩和檢驗。在10個不同的測試函數上將t-CAOA與AOA、WOA、GWO、MPA四個算法逐一進行對比,表4為t-CAOA與各算法的尋優結果秩和檢驗的p值。當p值小于0.05時,說明兩個算法的尋優效果有差異性,反之則沒有。
從表4中可以看出,相比于AOA,t-CAOA在f5、f10上表現出更好的尋優性能;相比于WOA,t-CAOA在f2、f4、f5、f6、f8及f9上表現出更好的尋優性能;相比于GWO,t-CAOA在f2、f4及f6上表現出更好的尋優性能;相比于MPA,t-CAOA在f1、f5及f6上表現出更好的尋優性能;對于在函數中出現NaN,是因為參與對比的算法之間沒有明顯的差異,即算法都找到了全局最優值。結合圖5中的測試函數收斂曲線可知,t-CAOA在總體性能上優于其他基本算術優化算法、鯨魚優化算法、灰狼優化算法以及海洋捕食者算法,進一步驗證了本文算法經改進后的有效性。
3.6 求解高維函數的實驗分析
由上述低維測試函數的實驗結果可以看出,本文改進后的t-CAOA在低維測試函數上取得了較好的收斂效果。但是在實際應用中普遍存在的是復雜的優化問題,群智能算法在處理較為復雜的問題,尤其是在高維測試函數時容易失效,為證明本文改進方法的有效性和利用改進后的t-CAOA解決高維函數的可行性,本文對t-CAOA進行高維函數測試,將本文改進的t-CAOA與基本的AOA及文獻[17]中提出的精英反向學習的黃金正弦鯨魚優化算法(EGolden-SWOA)對測試函數在200、500和1 000維條件下測試結果進行對比,實驗結果如表5所示。從實驗結果可以看出,t-CAOA在求解大規模函數上表現良好,尋優精度與低維函數相比變化不大,均能得到較理想的尋優結果,f1、f3、f8和f10可以直接找到最優值,未出現維數災難[18]的問題,說明經改進的算法t-CAOA的穩定性較好。
4 結束語
算術優化算法是近年來提出的一種新穎算法,基本AOA尋優性能較好,為使該算法表現更為優越,本文提出了一種自適應t分布變異和動態邊界策略改進的算術優化算法,實驗結果表明,t-CAOA具備一定的優勢。另外,本文的高維實驗分析表明,t-CAOA在求解大規模問題中表現良好,因此下一步的研究重點是將改進過的AOA應用于解決大規模、復雜的多目標優化和實際工程管理應用等問題。
參考文獻:
[1]Holland J H.Genetic algorithms[J].Scientific American,1992,267(1):66-72.
[2]Kennedy J,Eberhart R.Particle swarm optimization[C]//Proc of IEEE International Conference on Neural Networks.Piscataway,NJ:IEEE Press,1995:1942-1948.
[3]Faramarzi A,Heidarinejad M,Mirjalili S,et al.Marine predators algorithm:a nature-inspired metaheuristic[J].Expert Systems with Applications,2020,152:113377.
[4]Faramarzi A,Heidarinejad M,Stephens B,et al.Equilibrium optimizer:a novel optimization algorithm[J].Knowledge-Based Systems,2020,191:105190.
[5]Heidari A A,Mirjalili S,Faris H,et al.Harris hawks optimization:algorithm and applications[J].Future Generation Computer Systems,2019,97:849-872.
[6]Li Shimin,Chen Huiling,Wang Mingjing,et al.Slime mould algorithm:a new method for stochastic optimization[J].Future Generation Computer Systems,2020,111:300-323.
[7]Askari Q,Saeed M,Younas I.Heap-based optimizer inspired by corporate rank hierarchy for global optimization[J].Expert Systems with Applications,2020,161:113702.
[8]Wolpert D H,Macready W G.No free lunch theorems for optimization[J].IEEE Trans on Evolutionary Computation,1997,1(1):67-82.
[9]Abualigah L,Diabat A,Mirjalili S,et al.The arithmetic optimization algorithm[J].Computer Methods in Applied Mechanics and Engineering,2021,376:113609.
[10]Habib M K,Cherri A K.Parallel quaternary signed-digit arithmetic operations:addition,subtraction,multiplication and division[J].Optics amp; Laser Technology,1998,30(8):515-525.
[11]Long Wen,Jiao Jianjun,Liang Ximing,et al.An exploration-enhanced grey wolf optimizer to solve high-dimensional numerical optimization[J].Engineering Applications of Artificial Intelligence,2018,68:63-80.
[12]王梓坤.概率論基礎及其應用[M].北京:科技出版社,1979. (Wang Zikun.Probability theory and application[M].Beijing:Science Press,1979.)
[13]Lan K T,Lan C H.Notes on the distinction of Gaussian and Cauchy mutations[C]//Proc of the 8th International Conference on Intelligent Systems Design and Applications.Piscataway,NJ:IEEE Press,2008:272-277.
[14]韓斐斐,劉升.基于自適應t分布變異的緞藍園丁鳥優化算法[J].微電子學與計算機,2018,35(8):117-121. (Han Feifei,Liu Sheng.Adaptivesatin bower bird optimization algorithm based on t-distribution mutation[J].Microelectronics amp; Computer,2018,35(8):117-121.)
[15]Mirjalili S,Mirjalili S M,Lewis A.Grey wolf optimizer[J].Advances in Engineering Software,2014,69:46-61.
[16]Mirjalili S,Lewis A.The whale optimization algorithm[J].Advances in Engineering Software,2016,95(5):51-67.
[17]肖子雅,劉升.精英反向黃金正弦鯨魚算法及其工程優化研究[J].電子學報,2019,47(10):2177-2186. (Xiao Ziya,Liu Sheng.Study on elite opposition-based golden-sine whale optimization algorithm and its application of project optimization[J].Acta Electronica Sinica,2019,47(10):2177-2186.)
[18]Wang Yong,Cai Zixing,Zhou Yuren,et al.Constrained optimization based on hybrid evolutionary algorithm and adaptive constraint-handing technique[J].Structural amp; Multidisciplinary Optimization,2009,37(4):395-413.