999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

融合振幅隨機補償與步長演變機制的改進原子搜索優化算法

2022-06-19 03:24:16劉威郭直清劉光偉靳寶王東
智能系統學報 2022年3期
關鍵詞:優化實驗

劉威,郭直清,劉光偉,靳寶,王東

(1.遼寧工程技術大學 理學院,遼寧 阜新 123000;2.遼寧工程技術大學 智能工程與數學研究院,遼寧 阜新 123000;3.遼寧工程技術大學 數學與系統科學研究所,遼寧 阜新 123000;4.遼寧工程技術大學 礦業學院,遼寧阜新 123000)

元啟發式算法是指研究者受仿生學啟發,從自然界中的隨機現象獲取靈感,將隨機算法與局部算法相結合來求解復雜優化問題的一類算法[1]。此類算法相對于啟發式算法的最大改進在于引入了隨機因素的影響,從而使算法存在一定概率跳出局部最優,更有可能得到問題全局最優解,同時由于其對目標函數、初始值等無任何特殊要求,因此成為了最優化問題研究的熱點問題之一。根據算法啟發機制不同,元啟發式算法可歸結于兩類:模仿生物學過程的算法和基于物理學原理的算法。其中模仿生物學過程的算法又可分為兩類:基于生物進化的演化算法和基于動物社會性行為的群智能算法。基于生物進化的演化算法主要以遺傳算法 (genetic algorithm,GA)[2]為代表,同時還有進化策略(evolutionary strategies,ES)[3]、文化基因算法 (memetic algorithm,MA)[4]等;基于動物社會性行為的群智能算法是近年來元啟發式算法研究的熱點,有模擬鳥群捕食的粒子群算法(particle swarm optimization,PSO)[5]、基于烏鴉智能行為的烏鴉搜索算法 (crow search algorithm,CSA)[6]、模擬樽海鞘聚集行為的樽海鞘群算法 (Salp swarm algorithm,SSA)[7]、模擬蝴蝶覓食和求偶行為的蝴蝶優化算法(butterfly optimization algorithm,BOA)[8]、模擬飛蛾飛行行為的飛蛾撲火優化算法 (mothflame optimization,MFO)[9]等;基于物理學原理的算法有模仿固體退火的模擬退火算法 (simulated annealing,SA)[10]、模仿萬有引力原理的引力搜索算法 (gravitational search algorithm,GSA)[11]、模仿多元宇宙理論中黑洞、白洞及蟲洞概念的多元宇宙優化算法 (multi-verse optimizer,MVO)[12]等。

原子搜索優化算法(atom search optimization,ASO)是Zhao 等[13-14]受分子動力學啟發提出的一種以物理學為靈感的基于原子運動的新型智能元啟發式優化算法。該算法模仿由相互作用和約束力控制的原子運動,通過Lennard-Jones(L-J)勢產生的相互作用力和原子共價鍵產生的約束力共同作用于原子,使不同質量的原子具有不同的速度和加速度,從而不斷地更新原子所在位置,直到原子處于最優位置時,算法迭代完成。由于其啟發機制簡單、參數少、探索(exploration)和挖掘(exploitation)性強等特點已被應用于地下水中的彌散系數估計[13]、水文地質參數估計[14]、自動聚類[15]、燃料電池模型參數估計[16]等多個領域。

為提高ASO 算法的收斂速度、求解精度及跳出局部最優能力,本文從原子群多樣性、模型參數設置和原子位置更新角度提出了一種融合混沌優化、振幅隨機補償和步長演變機制的模擬原子位置更新過程的改進ASO 算法(improved atom search optimization,IASO),并將其應用于BP 神經網絡參數優化。通過對10 個可變維基準測試函數在不同維度下以及10 個固定多維度基準測試函數與5 種元啟發算法進行仿真實驗對比,數值實驗結果不僅驗證了IASO 相對于傳統ASO 算法和對比算法具有更好的尋優精度和全局性能,而且在對BP 神經網絡參數優化時表現出更高的分類性能。

1 原子搜索優化算法(ASO)

對于ASO 算法,其基本理論主要包含3 個部分[13-14]:原子運動約束方程、L-J 勢產生的相互作用力以及鍵長勢引起的約束力。假設一個分子系統是由N個原子構成的D維空間,為第i個原子在第d個維度下第t次迭代時的位置,為第i個原子在第d個維度下第t次迭代時的加速度,為第i個原子在第d個維度下第t次迭代時的速度,為第i個原子在第d個維度下第t次迭代時由L-J 勢產生的相互作用力,為第i個原子在第d個維度下第t次迭代時由原子共價鍵產生的約束力。

1.1 原子運動約束方程

ASO 算法中假設原子運動滿足牛頓第二定律,由于原子受L-J 勢產生的相互作用力和原子共價鍵產生的約束力共同作用,故帶約束的原子運動方程表示為

對于最小化問題,Fiti(t)是第i個原子在第t次迭代時的函數適應度值,Fitbest(t)=與Fitworst(t)=分別表示在第t次迭代時最差原子和最佳原子的目標函數適應值。

在ASO 算法的整個尋優過程中,原子的加速度決定了原子所處位置和速度,其主要來源于兩個部分:由L-J 勢引起的相互作用力和由鍵長勢引起的約束力。但在分子動力學理論框架下,原子間的相互排斥相對于平衡距離的變化幅度(r=1.12)遠大于相互吸引的變化幅度(見圖1),這表明了算法隨著迭代次數的增加,ASO 并沒有獲得更多的正吸引和更少的負排斥,這就導致不能直接使用L-J 勢引起的相互作用力和鍵長勢引起的約束力來處理優化問題,因此Zhao 等[13-14]在分子動力學的原有模型基礎上重新定義了原子系統的相互作用力和約束力。

圖1 原子力曲線Fig.1 Force curve of atoms

1.2 L-J 勢產生的相互作用力

式中 η(t)是調整排斥和吸引區的深度函數,即

式中:α為深度權重;T為最大迭代次數。h與F′的關系由圖2 顯示,從圖2 中可以看出:對于不同η值,當h介于0.9~1.12 時發生排斥,當h在1.12~2 時發生吸引,而當h=1.12時發生平衡。從平衡(h=1.12)開始,吸引力隨著h的增加先逐漸增加并達到最大值(h=1.24),然后再逐漸減小,直到h=2時,吸引力約等于零。

圖2 F′、h和 η函數關系Fig.2 F′,h and η functional relation

因此,為保證ASO 算法的全局有效性將函數值較小的排斥力下限設置為h=1.1,函數值較大的吸引力上限設置為h=1.24,即

式中:hmin和hmax分別是h的下限和上限;長度標度,Kbest是原子總體的一個子集,由具有最佳函數適應值的前k個原子組成。

式中g(t)是使算法保證全局性的漂移算子,表示為

因此,由L-J 勢產生的相互作用力為

式中:d代表當前搜索空間維度,d=1,2,···,D;randij是[0,1]中的一個隨機數。

1.3 鍵長勢引起的約束力

只依靠L-J 勢引起的相互作用力只能描述簡單分子的運動,對于更復雜的分子或原子系統,需引入一種幾何約束的分子動力學方法并結合原子內部運動來模擬原子尋優過程。在ASO 算法中,假設每個原子都與最佳原子有共價鍵且每個原子都受到來自最佳原子的約束力,則第i個原子約束為

式中:xbest(t)是第t次迭代時最佳原子的位置;bi,best是第i個原子與最佳原子之間的固定鍵長。故第i個原子的約束力為

式中:d代表當前搜索空間維度,且d=1,2,···,D;λ(t)為拉格朗日乘子,令 2λ→λ,則共價鍵引起的約束力可重新定義為

式中:d代表當前搜索空間維度,且d=1,2,···,D;,β是乘數權重。故在相互作用力和幾何約束下,第i個原子在t時刻的加速度為

為簡化ASO 算法,在算法的全局尋優過程中,第t+1次迭代時第i個原子在第d維的位置和速度分別表示為

式中:d代表當前搜索空間維度,且d=1,2,···,D;為第i個原子在第d個維度下第t次迭代時的位置;為第i個原子在第d個維度下第t次迭代時的加速度;為第i個原子在第d個維度下第t+1次迭代時的速度。

2 改進的原子搜索優化算法(IASO)

2.1 初始原子種群的混沌優化

最優化問題的解集大多都存在于多參數表示的多維空間中,沒有任何先驗知識能夠表明全局最優解所處位置,因此對于元啟發式智能優化算法來說,最優化問題求解結果的好壞往往與初始種群存在較大關系,初始種群多樣性越豐富得到的結果越有可能接近于全局最優解甚至會使得收斂速度加快[17-18]。故初始化種群在整個空間的均勻覆蓋性顯得極為重要,ASO 算法在設計初就盡量保證種群覆蓋整個優化問題的解空間,但在其種群實際初始化時仍采用隨機初始化方法,這導致初始種群對整個解空間覆蓋能力不夠強進而影響ASO 算法性能。

混沌序列隨機性和遍歷性等特點使得生成的初始解在整個解空間中分布更加均勻,有利于求解最優問題的全局最優解,現已被廣泛應用于元啟發式優化算法的種群初始化中,故本文也將混沌序列引入ASO 算法用于初始化原子種群。目前常用的混沌序列生成方法主要有Logstic 映射和Tent 映射,趙欣[19]的研究已指出Tent 映射生成的混沌序列具有更好的均勻分布性,更符合元啟發智能算法的初始種群生成,其序列生成函數為

對式(17)進行伯努利位移變化后,得

式中N為原子個數,初始種群的大小由原子個數N和搜索空間維度D決定。利用式(18)生成初始種群用以代替ASO 算法中隨機生成的初始種群從而豐富初始種群的多樣性,促使算法尋優結果更接近于全局最優解。

2.2 振幅函數隨機參數優化

ASO 在尋覓最優解的過程中,深度函數 η(t)與拉格朗日乘子 λ(t)作為其中重要的兩個參數被用于調整原子自身和原子之間的力相互作用以增強或加快算法全局搜索和局部開發能力,更有利于求解全局最優解。但ASO 算法在實際尋優過程中,η(t)與 λ(t)均僅使用非線性遞減函數來加快算法收斂速度,而對算法的全局性探索沒有相應策略。

為提高算法的全局探索能力,本文受簡諧振動啟發影響引入振幅函數對算法參數 η(t)與λ(t)進行修正,利用振幅函數波動跳躍的性質增強算法跳出局部最優的可能。引入的振幅函數s(t)定義為

式中:N為原子個數;t為迭代次數;d為原子搜索空間維度;rand()為隨機函數,表示在振幅函數生成的數中隨機選擇一個作為最終作用于參數η(t)與λ (t)的波動因子。

根據振幅函數波動性質易知:當算法中引入振幅因子修正參數時,參數繼承其跳躍波動性,加強了算法跳出局部最優的可能。但由于引入的振幅因子屬于[0,1],導致搜索步長僅在原有解鄰域內進行探索開發,對整個全局解空間的探索性不夠強,故對式(19)進行修正,得到修正后振幅函數為

式(20)是由式(19)經過平移后得到的,其不僅保留了振幅函數本身波動性質促使算法跳出局部最優,而且還加大了算法對解空間的搜索半徑,增強了算法對全局的尋優能力。

經過振幅函數作用后的深度函數 η(t)與拉格朗日乘子 λ(t)可重新定義為

式中s稱為振幅因子,由式(20)計算得出。故第i個原子在t時刻加速度可被重新定義為

2.3 步長演變搜索機制

根據式(16)可知,ASO 算法中原子個體位置的更新等于上一次原子自身位置和本次原子運動后的速度之和。而原子運動的一般過程表明:當原子個體逐漸接近于最優原子個體時,由于原子做變速運動,原子位置也隨其速度的變化而不斷變化。根據原子間相互作用力和約束力作用可知,若想使原子位置快速趨近于最佳原子位置,原子速度應逐漸降低直至為0,也即是說,原子位置變化應逐漸變慢直至不再發生改變。

因此,為解決ASO 算法收斂速度慢的問題,本文從原子位置更新過程出發,引入步長演變因子 ω(t)對原子位置更新公式進行修正,使原子位置更新過程隨算法迭代次數增加而逐漸變慢直至不再變化。ω(t)定義為

式中:t為迭代次數;d為原子搜索空間維度;T為最大迭代次數。由式(24)可知,ω(t)∈[0,1]且是一個隨著解空間維度和算法迭代次數增加而快速演變的因子。

綜上所述,得出新原子位置更新策略為

由于 ω(t)∈[0,1],故式(25)的含義為:隨著原子個體不斷運動逐漸接近于原子最優個體時,其位置動態更新過程隨著算法尋優過程逐漸變慢直至其位置與最優原子個體重合,此時得到的原子個體的位置分布即為原子群的最優解。

2.4 IASO 算法的實現

綜上所述,IASO 算法求解最優化問題的尋優過程如圖3 所示。

圖3 IASO 算法流程Fig.3 Flow chart of the IASO algorithm

3 數值實驗與結果分析

為探究和驗證IASO 算法的尋優性能,本文選取20 個經典基準測試函數,其中設計了3 組實驗,主要包括以下3 個部分:

1)30 維度和100 維度下IASO 與4 種元啟發式算法的數值實驗對比,即選擇10 個經典基準測試函數與4 種元啟發式算法在兩個維度下分別進行對比實驗并以其數值實驗結果對比驗證改進算法擁有較好的優化性能。

在節水灌溉技術選擇過程中,要按照因地制宜的模式,制定科學的節水灌溉發展規劃,避免盲目引進不適合本地區農業生產的節水灌溉技術,不盲目搞所謂的樣子工程。針對本地區存在大量中低產田的現狀,應該進一步重視中低產田改造,將中低產田改造列為今后農業的主攻方向。通過利用合適的灌溉技術,將中低產田的低產向著高產轉變。進一步促進節水灌溉技術在中低產田推廣應用,提升農業生產效益。

2)混合多維度基準測試函數下IASO 與4 種元啟發式算法的數值實驗結果對比,即選擇10 個混合多維度的經典基準測試函數與4 種元啟發式算法進行對比實驗并以其數值實驗結果對比驗證改進算法擁有較好的優化性能。

3)Wilcoxon 秩和檢驗與算法時間對比,即計算Wilcoxon 秩和檢驗p值以及統計各對比算法運行時間,通過數值實驗結果驗證IASO 比其他算法具有更好的穩定性和優化性。

3.1 實驗環境及初始參數設置

1)實驗環境

操作系統Windows 10,CPU 為Intel(R)Core(TM)i7-5557U,主頻3.10 GHz,內存為8 GB,實驗平臺為MATLAB2016a。

2)實驗初始參數設置

為保證實驗的客觀和公平性,本文將所有對比算法的種群規模統一設置為50,最大迭代次數統一設置為1 000,其中ASO 算法和IASO 算法的參數 α=50,β=0.2;各實驗組均獨立進行100 次數值實驗,并計算100 次實驗結果的均值(Mean)、標準差(Std)及100 次實驗中的最優值(Best)作為算法評價指標。

3)經典基準函數

為驗證改進算法具有更高的收斂性和全局性,本文選取20 個經典基準函數進行數值實驗,其中f1f10為可變維度基準函數(每組基準函數的最優值均為0,詳細描述見表1);f11~f20為混合多維度的經典基準函數,具體函數名如下:f11為Shekel Foxholes1,f12為Kowalik,f13為Six-Hump,f14為Branin,f15為 Goldstin-Price,f16為Hartman1,f17為 Hartman 2,f18為 shekel Foxholes2,f19為shekel Foxholes3,f20為shekel Foxholes4。

表1 基準測試函數Table 1 Benchmark function

3.2 不同算法在30 維和100 維下的對比實驗

為驗證IASO 算法尋優性能,以BOA、MFO、MVO、SSA 和傳統ASO 作為實驗對比算法,分別對D=30 維和D=100 維下的10 個基準測試函數進行仿真對比實驗。對比算法參數設置及評價指標以3.1節為準,得到具體實驗統計結果見表2 和表3。

表2 6 種算法對10 個基準函數的統計指標對比結果(D=30)Table 2 Comparison of the statistical indexes of ten benchmark functions via six algorithms (D=30)

續表 2

表3 6 種算法對10 個基準函數的統計指標對比結果(D=100)Table 3 Comparison of statistical indexes of 10 benchmark functions by six algorithms(D=100)

續表 3

由表2 和表3 可以看出:與其他元啟發算法相比,本文改進的ASO 算法(IASO)具有較好的尋優性能。

1)在同等種群規模、迭代次數和相同維度下,除f7和f9函數外,IASO 在其余基準測試函數上的計算精度相較于對比算法均高出數個、數百個數量級甚至達到了最優值,數值實驗結果體現了IASO 具有更好的計算效果和尋優能力;雖然在f7函數上IASO 的Best 指標比BOA 算法差,但通過對比Mean 和Std 兩個指標可以發現,IASO 算法的穩定性高于BOA,進一步驗證了IASO 算法的可靠性和穩健性;同時IASO 無論是在單峰函數(f1、f3和f4)還是多峰函數(f6、f8和f10)上都尋得了3 個指標的最優計算精度,顯示了IASO 不僅具有更強的局部開發能力和收斂精度,而且還擁有更好的全局探索能力。

2)在相同種群規模、迭代次數,但不同的維度下,由表2 和表3 對比可知:IASO 在30 維和100 維下對10 個測試函數的尋優結果并無顯著差異甚至效果更佳(f2),而其余5 個對比算法在100 維度時的尋優能力明顯弱于30 維時的尋優能力,這表明改進算法在高維度時表現出更好的穩定性和適用性,說明IASO 在解決高維度函數時的優越搜索性能。

3)通過圖4 迭代曲線可知:無論是在30 維還是100 維下,IASO 都顯現出更好的尋優能力和穩定性。由迭代曲線圖可知,IASO 算法不僅在迭代前期就表現出好的搜索性能,而且還能讓這種優勢一直保持到算法迭代終止直到逼近函數的理論最優值。綜上所述,在對可變維度的10 個基準測試函數上進行仿真實驗時,IASO 在100次獨立重復實驗中表現出更好的收斂精度和局部開發能力且具有更好的全局探索能力和算法穩健性。

圖4 IASO 與5 種算法的最佳適應度對數對比曲線Fig.4 Logarithmic comparison curve of optimal fitness between IASO and five algorithms

3.3 不同算法在混合多維度函數下的對比實驗

為更近一步評估IASO 有效性和穩定性,以BOA、MFO、MVO、SSA 和ASO 作為實驗對比算法,對經典的10 個混合多維度基準測試函數進行仿真對比實驗,對比算法參數設置及評價指標以3.1 節為準,得到具體實驗統計結果見表4。

表4 6 種算法對10 個混合多維度基準函數的統計指標對比結果Table 4 Comparison of statistical indexes of ten mixed multi-dimensional benchmark functions by six algorithms

由表4 可知,IASO 在f11~f17上尋優效果顯著且在Best 指標上已經尋得了函數的最優值,但在f18、f19和f20上的尋優效果弱于對比算法,這是由于IASO 利用非線性快速收斂因子加快原子位置更新方程,而f18、f19和f20函數最優值在小范圍內波動,故導致其不能跳出局部最優。

若想增加IASO 在f18、f19和f20函數上的尋優精度,可將快速收斂因子函數值在1 附近波動,但此時IASO 在其余所有測試函數上的尋優精度都會降低,同時從圖5 的迭代收斂曲線可知:IASO 在求解混合多維函數的迭代過程中顯現出更好的尋優能力和更快的迭代速度。因此,從整體上來說,IASO 相較于其余算法表現出更好的尋優性能。

圖5 IASO 與5 種算法的最佳適應度對數對比曲線Fig.5 Logarithmic comparison curve of optimal fitness between IASO and five algorithms

3.4 Wilcoxon 秩和檢驗

100 次獨立重復實驗計算所得均值和標準差在整體上衡量了算法優越性,但并不能反饋算法每次運行結果。為更好地評估改進算法的有效性和穩定性,Derrac 等[20]提出算法應該進行統計檢驗。本文采用Wilcoxon 秩和檢驗在5%的顯著性水平下進行并給出30 維和100 維下的f2、f4、f6、f8、f10以及混合多維度f12、f14、f16、f18、f20的IASO和其他算法的Wilcoxon 秩和檢驗中計算的p值。例如,若最佳算法是IASO,則在IASO vs.ASO、IASO vs.BOA 等之間進行比較。表5 中N/A 為“不適用”,表示相應算法可以在秩和檢驗中無統計數據與自身進行比較;符號“+”、“?”和“=”分別表示IASO 性能優于、劣于和相當于對比算法;當統計檢驗值p<0.05 時被認為是拒絕零假設的有力驗證[21],表5 中標粗部分表示p>0.05。

表5 基準函數的威爾科克森秩和檢驗p 值Table 5 p-value of the Wilcoxon rank-sum test of benchmark functions

續表 5

由表5 可知,IASO 僅在30 維與f4的IASO vs.BOA 時p值大于0.05,而在其余所有對比算法的測試函數上的秩和檢驗結果p值都小于0.05。從整體上來說,IASO 在統計上是顯著的,也即IASO 相對于對比算法具有更高收斂精度。

3.5 時間對比分析

算法運行時間一定程度上反應了算法時間復雜度大小,故本文對6 種不同算法在20 個基準測試函數上進行了100 次獨立重復實驗,分別記錄了f1~f10在30 維和100 維下各算法平均運行時間以及f11~f20在各算法下的平均運行時間,圖6 表示6 個算法在部分基準測試函數上的運行時間柱狀圖。

圖6(a)、(b)分別表示6 種算法在f2、f4、f6、f8、f10在30 和100 維下的平均運行時間,圖6(c)表示6 種算法在f12、f14、f16、f18及f20上的平均運行時間,圖6(d)表示6 種算法在30 和100 維下20 個基準測試函數的平均運行時間之和。由圖6(a)、6(b)、6(c)、6(d)可知,在給出的5 個基準函數中,IASO 在100 次獨立重復實驗下的平均運行時間遠高于BOA、MFO、MVO 和SSA 算法,這是由于ASO 自身導致,而IASO 平均運行時間略高于ASO(因為改進算法過程中引入了非線性因子,導致算法復雜度升高),但當維度增加時,相較于其余對比算法IASO 平均運行時間的增加幅度更小,這表明IASO 更適用于求解高維測試函數;同時,雖然IASO 算法平均運行時間略高于ASO 算法,但綜合其尋優能力IASO 具有更好尋優性能。

圖6 不同智能優化算法運行時間對比Fig.6 Running time comparison of different intelligent optimization algorithms

4 基于IASO 的BP 神經網絡參數優化方法

通過上述對比實驗可知:IASO 在不同基準測試函數和不同維度下的尋優結果相較于其余對比算法具有更好的優越性和更快的收斂性,故本文將IASO 求解復雜優化問題時具有的性能優勢引入到BP 神經網絡參數優化中,提出了一種基于IASO 方法的BP 神經網絡參數優化方法(IASOBP),并將其用于UCI 數據集分類。

4.1 算法設計步驟

針對分類問題,本文以BP 神經網絡的分類準確率最大化為優化原則,將BP 神經網絡的訓練過程轉化為優化問題尋優過程,利用IASO 對優化目標進行求解[22]。其基本思想是:通過IASO算法優化BP 神經網絡初始權值和閾值,并將BP 神經網絡的訓練誤差作為個體的適應度值,最后選擇最優初始權值和閾值構建BP 神經網絡分類模型。其對應的神經網絡分類數學模型為[23-25]

式中:Z為分類精度值;ω為BP 神經網絡權值;b為閾值;F表示選擇BP 神經網絡權值和閾值時的分類精度。

設數據集為Dataset,神經網絡輸入層節點為a,隱含層節點為b,輸出層節點為c,個體維度為Dim,IASO-BP 具體實現步驟如下:

1)數據預處理及參數初始化。

2)權值與閾值參數編碼。利用BP 神經網絡進行初始網絡訓練得到網絡權值和閾值,進行實值編碼,得到初始原子種群。

3)計算初始原子種群適應度。將BP 神經網絡的訓練誤差作為個體適應度值,則適應度函數fi(x)可表示為

4)原子種群尋優更新。根據IASO 算法更新原子種群并采用式(27)計算適應度值。

5)判定是否滿足終止條件。若滿足則輸出最優個體xi及最優權值 ω和閾值b;反之跳轉到4)繼續執行優化。

6)更新BP 神經網絡的權值 ω 和閾值b并利用更新后的網絡對數據集進行分類。

4.2 仿真實驗

為驗證IASO-BP 在進行分類時具有更高的精度,本文采用UCI 數據集中的8 個數據集進行數值實驗,并將IASO-BP 與一般BP 神經網絡和ASO-BP 進行仿真實驗,具體實驗過程如下。

1)數據集說明

為驗證IASO-BP 的有效性,本文從UCI 數據集中選取8 個數據集進行數值對比實驗,包括皮膚科數據集(Dermatology)、糖尿病數據集(Diabetes)、肝臟疾病數據集(Bupa)、玻璃數據集(Glass)、印度人數據集(Indian)、植物葉片數據集(Leaf)、帕金森數據集(Parkinsons)及手寫數字數據集(Pendigits),數據集信息詳見表6。

表6 UCI 中8 個數據集物理屬性Table 6 Physical attributes of eight datasets in UCI

2)實驗環境及初始化參數

為保證實驗的公平性,本文所采用的仿真環境為:操作系統Windows 10,CPU 為Intel(R)Core(TM)i7-5557U,主頻3.10 GHz,內存為8 GB,實驗平臺為MATLAB2016a。針對同一數據集,本文初始參數為:最大迭代次數統一為20 次,種群數量為20,權值和閾值邊界范圍為[?10,10],ASO 與IASO 參數為 α=50,β=0.2。分別對8 個數據集進行100 次實驗并計算100 次實驗結果的均值(Mean)、標準差(Std)及最大值(Max)和最小值(Min)作為實驗最終評價指標,得到實驗結果如表7 所示。

表7 不同算法分類準確率Table 7 Classification accuracy of different algorithms %

續表 7

5 結束語

本文針對原子優化算法收斂速度慢、求解精度低和易陷入局部最優等問題,圍繞算法的改進與應用進行了研究,通過不同數值實驗結果對比分析得到以下結論:

1)提出了一種融合混沌優化并基于振幅隨機補償和步長演變策略模擬原子位置動態演變更新過程的改進ASO 算法(IASO),數值實驗結果表明:IASO 相較于5 種對比算法在求解精度、收斂速度、局部極值逃逸能力和算法穩定性方面均有顯著性提高,通過Wilcoxon 秩和檢驗p值結果進一步驗證了IASO 的可行性和有效性。

2)將IASO 引入BP 神經網絡優化過程中,設計出一種融合IASO 和BP 神經網絡的分類模型(IASO-BP),并將其用于分類任務,數值實驗結果表明:IASO-BP 能對BP 神經網絡權值和閾值進行有效優化,優化后網絡模型與BP 神經網絡和ASO-BP 相比顯示出更高的分類準確性。

本文所研究工作是對元啟發式算法優化神經網絡結構參數的一次有益嘗試,數值實驗結果充分表明了IASO 算法和IASO 算法的可行性和有效性。后續研究將圍繞基于IASO(或其他元啟發式算法)優化其他淺層神經網絡參數,以及搜索最優深度神經網絡架構等方面來開展工作。

猜你喜歡
優化實驗
記一次有趣的實驗
超限高層建筑結構設計與優化思考
房地產導刊(2022年5期)2022-06-01 06:20:14
微型實驗里看“燃燒”
民用建筑防煙排煙設計優化探討
關于優化消防安全告知承諾的一些思考
一道優化題的幾何解法
由“形”啟“數”優化運算——以2021年解析幾何高考題為例
做個怪怪長實驗
NO與NO2相互轉化實驗的改進
實踐十號上的19項實驗
太空探索(2016年5期)2016-07-12 15:17:55
主站蜘蛛池模板: 国产伦片中文免费观看| 国产精品成人免费视频99| 在线观看无码av五月花| 国产在线无码一区二区三区| 最新国产高清在线| 日韩欧美成人高清在线观看| 1024你懂的国产精品| 99久久精品美女高潮喷水| 国产午夜在线观看视频| 中文天堂在线视频| 亚洲婷婷丁香| 456亚洲人成高清在线| 国产精品xxx| a欧美在线| 一区二区影院| 国产欧美日韩一区二区视频在线| 亚洲精品国产首次亮相| 欧美国产三级| 国产亚洲成AⅤ人片在线观看| 亚洲制服中文字幕一区二区| 欧美精品影院| 国产精品久久久久久搜索| 精品国产网站| 久久99国产综合精品1| 国产网站黄| 欧美翘臀一区二区三区| 国产午夜人做人免费视频| 久久无码高潮喷水| 亚洲国产精品无码久久一线| 亚洲精品色AV无码看| 久久久久久高潮白浆| 在线日韩一区二区| 久草网视频在线| 被公侵犯人妻少妇一区二区三区| www中文字幕在线观看| 亚洲伊人天堂| 丝袜美女被出水视频一区| 色欲色欲久久综合网| 日本一区二区三区精品视频| 精品欧美视频| 国产成人精品亚洲日本对白优播| 亚洲AV无码乱码在线观看裸奔| 成年午夜精品久久精品| 亚洲另类色| 亚洲欧洲日韩综合| 制服丝袜国产精品| 日韩精品免费在线视频| 无码中文字幕精品推荐| 青青青草国产| 伊人激情久久综合中文字幕| 无码日韩视频| 四虎永久免费在线| 天天综合网亚洲网站| 国产Av无码精品色午夜| 在线色国产| 26uuu国产精品视频| 手机在线看片不卡中文字幕| 亚洲va欧美ⅴa国产va影院| 91丝袜在线观看| 久久福利网| 精品人妻无码中字系列| 国产欧美中文字幕| 伊人中文网| 久久精品只有这里有| yy6080理论大片一级久久| 国产剧情无码视频在线观看| 亚洲大学生视频在线播放| 久久久国产精品无码专区| 国产激情在线视频| 亚洲第一成年免费网站| 欧美一级色视频| 国产精品熟女亚洲AV麻豆| 亚洲高清无码久久久| 欧美午夜视频| 成人a免费α片在线视频网站| 亚洲欧美国产五月天综合| 成人亚洲视频| 手机永久AV在线播放| 中文字幕色站| 天堂在线亚洲| 久久香蕉国产线看精品| 国产主播在线一区|