999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

基于改進蜣螂優化算法優化BP神經網絡

2024-12-31 00:00:00曹同宇喬棟郭子瑜朱守健
無線互聯科技 2024年22期
關鍵詞:優化模型

摘要:文章提出了一種利用改進蜣螂優化(IDBO)算法優化BP神經網絡的新方法,通過Chebyshev混沌映射初始化種群,結合黃金正弦策略及動態權重系數實現高效搜索?;贛ATLAB R2024a進行仿真,結果表明IDBO-BP模型在訓練集和測試集上均表現優異,顯著提升擬合度、泛化能力和預測精度,且收斂速度更快。此方法有效提升了神經網絡性能,為解決復雜數據處理問題提供了新途徑,展現了廣闊應用前景。

關鍵詞:BP神經網絡;蜣螂優化算法;黃金正弦策略;Chebyshev混沌映射

中圖分類號:TP3-05" 文獻標志碼:A

基金項目:大同市科技計劃項目;項目編號:202305。2022年山西省高等學校教學改革創新項目;項目編號:J20220888。山西省教育科學“十四五”規劃;項目編號:GH-220403。

作者簡介:曹同宇(1995— ),男,碩士研究生;研究方向:地下空間技術。

0" 引言

隨著近年來科技的不斷進步,現代社會面臨越來越復雜的工程問題。在當今復雜多變的數據處理領域,反向傳播(Back Propagation,BP)神經網絡憑借其強大的非線性映射能力和自學習能力,已成為處理分類、回歸等任務的重要工具。然而,BP神經網絡在訓練過程中易陷入局部最優解,且存在收斂速度較慢的問題,這一直限制了其在實際應用中的效果。為了解決這些問題,研究者們不斷探索新的優化算法。近年來,受蜣螂生物習性的啟發,Xue等[1]提出了一種新型群智能優化算法——蜣螂優化(Dung Beetle Optimization,DBO)算法。該算法模擬了蜣螂的滾球、跳舞、覓食等行為,展現出強大的全局搜索能力和快速的收斂速度。因此,本文提出將DBO算法應用于BP神經網絡的訓練過程中,旨在通過DBO算法優化BP神經網絡的權重和閾值,以期提高神經網絡的性能,為解決復雜的數據處理問題提供新的思路和方法。DBO算法以其卓越的收斂速度和出色的穩定性在眾多優化算法中脫穎而出[2-5]。與粒子群優化(Particle Swarm Optimization,PSO)算法[6]、鯨魚優化算法(Whale Optimization Algorithm,WOA)[7]和哈里斯鷹優化(Harris Hawks Optimization,HHO)算法相比[8],DBO算法憑借其獨特的蜣螂集群行為模擬機制,能夠迅速且穩定地逼近全局最優解。無論是處理連續、離散還是多模態等復雜優化問題,DBO均展現了其強大的適應性。

1" 理論基礎

1.1" BP神經網絡

BP神經網絡,全稱為反向傳播神經網絡,是由Rumenlhart團隊提出的一種基于誤差反向傳播算法的人工神經網絡模型[9-10]。其通過模擬生物神經網絡的結構和功能,實現了對輸入數據的非線性映射和分類。BP神經網絡由輸入層、隱藏層和輸出層組成,如圖1所示。通過前向傳播計算輸出結果并利用反向傳播算法根據輸出結果與實際標簽之間的誤差調整網絡權重和偏置,以優化網絡性能。BP神經網絡采用梯度下降法來更新權重,因此在訓練過程中可能會陷入局部最優解。若使用該算法去解決實際問題,則須要對BP神經網絡進行進一步的優化[11]。

1.2" 蜣螂優化算法

蜣螂優化算法是一種新型的群體智能優化算法。該算法受到自然界中蜣螂的生存行為啟發,通過模擬蜣螂行為來尋找優化問題的最優解。

1.2.1" 滾球行為

蜣螂在無障礙物的情況下,利用太陽導航使糞球沿直線滾動。該過程的公式為:

Xi(t+1)=xi(t)+a×k×xi(t-1)+b×Δx(1)

Δx=|xi(t)-Xw|(2)

其中,t為當前迭代次數,xi(t)表示第i只蜣螂在第t次迭代時的位置信息,α為自然系數(取-1或1),k∈(0,0.2]為偏轉系數,Xw表示為全局最差位置,b∈(0,1)為常數。|xi(t)-Xw|表示光線強度,其值越高,則光線強度越弱。

1.2.2" 跳舞行為

當蜣螂遇到障礙物無法前進時,可變換方向獲得新的移動路線。該過程的公式為:

Xi(t+1)=xi(t)+tan(θ)×|xi(t)-xi(t-1)|(3)

其中,θ為偏轉角,在區間[0,π]內取值。當θ為0、π/2、π時,蜣螂的位置不更新。|xi(t)-xi(t-1)|代表第i只蟑螂在第t次與t-1次的位置偏移量。

1.2.3" 繁殖行為

研究采用邊界選擇策略模擬雌性蜣螂的產卵區域,動態調整產卵區。該過程的公式(產卵區選擇)為:

L*b=max(X*×(1-R),Lb)(4)

U*b=min(X*×(1+R),Ub)(5)

其中,X*為當前局部最優位置,L*b和U*b分別為產卵區的下限和上限,R=1-tTmax,Tmax為最大迭代次數,Lb和Ub分別為優化問題的下限和上限。

成熟的蜣螂從地下鉆出尋找食物,覓食區域動態更新。該過程的公式(覓食區選擇)為:

Lbb=max(Xb×(1-R),Lb)(6)

Ubb=min(Xb×(1+R),Ub)(7)

其中,Xb為全局最優位置,Lbb和Ubb分別為最佳覓食區域的下限和上限。小蜣螂的位置更新公式為:

xi(t+1)=xi(t)+C1×(xi(t)-Lbb)+C2×(xi(t)-Ubb)(8)

其中,C1為遵循正態分布的隨機數,C2∈(0,1)為隨機向量。

1.2.4" 偷竊行為

偷竊作為一種競爭行為,在蜣螂種群中常見。該過程的公式為:

xi(t+1)=Xb+S×g×{|xi(t)-X*|+|xi(t)-Xb|}(9)

其中,Xb為食物競爭的最佳位置,xi(t)為第i只小蜣螂在第t次迭代的位置信息,g為一個遵循正態分布的大小為1×D的隨機向量,S表示一個常數值。

1.3" 基于改進蜣螂優化算法的BP神經網絡優化方法

由于BP神經網絡生成時,初始權值和閾值一般為隨機初始化。這會導致訓練穩定性和收斂速度下降,神經網絡需要經過多次迭代和調整才能找到合適的權值和閾值,并且伴隨陷入局部最小值的風險。為解決這個問題,采用IDBO算法優化BP神經網絡的初始權值和閾值。BP神經網絡的權值和閾值作為IDBO算法中蜣螂的位置信息。然后,使用訓練數據來評估BP神經網絡的性能(如預測誤差),并將該性能作為蜣螂的適應度值。采用IDBO算法優化BP神經網絡的流程如圖2所示。

2" 改進蜣螂優化算法

2.1" Chebyshev混沌映射

Chebyshev混沌映射是一種基于Chebyshev多項式的混沌映射方法[12],通常在數值分析和逼近論中使用,具有良好的偽隨機特性以及對初始參數敏感的特性。相較于常見的集中離散混沌映射[13],Chebyshev混沌映射更具優勢。本文選取Chebyshev混沌映射對DBO進行種群初始化生成混沌變量,如式(10)所示。

xn+1=cos(k×arcosxn),xn[-1,1](10)

Chebyshev混沌映射蜣螂優化算法步驟如下。

規定蜣螂種群數量為i,網絡節點個數為d,生成式(11)所示矩陣。

X=X1,1" X1,2" …" X1,d

X2,1" X2,2" …" X2,d

" """

Xi,1" Xi,2" …" Xi,d

(11)

利用Chebyshev混沌映射對矩陣迭代初始化,將混沌值映射到指定的上下界,如式(12)所示。

Xid=|Xid×(Ub-Lb)+Lb|(12)

其中,Ub、Lb分別優化參數的目標上限與下限,Xid為第i只蜣螂第d維,Xid為第i只蜣螂在搜索空間中第d維坐標值。

2.2" 黃金正弦策略

黃金正弦策略是一種由Tanylidizi等[14]于2017年提出的新型元啟發式優化算法。該算法的設計源于數學中的正弦函數,并結合黃金分割比例來提高搜索效率和優化能力。

初始化:在算法的初始階段,隨機生成一個包含s個個體的種群。每個個體在d維解空間中都有一個位置,用Xti=(Xi1,Xi2,…,Xid)表示第t次迭代中第i個個體的位置。此外,為每個個體維護一個最優位置Pti=(Pi1,Pi2,…,Pid),用于記錄該個體到目前為止找到的最佳解。隨著迭代的進行,不斷更新這些位置和最優位置,直到滿足算法的終止條件。

位置更新公式如下:

Xti=Xti×|sin(R1)|+R2×sin(R1)×|x1×Pti-x2×Xti|(13)

x1=-π+(1-τ)×2π(14)

x2=-π+τ×2π(15)

其中,R1[0,2π]為下次迭代隨機移動的距離,R2[0,π]為下次迭代移動的方向。引入黃金正弦策略進行每一次迭代后,蜣螂個體都會與最優個體進行交流,利用最優解信息解決原算法中的個體缺乏交流的情況。黃金正弦策略擴大了搜索空間,對原算法陷入局部最優解的問題進行了優化,提升了算法尋求最優解的能力。

2.3" 位置更新動態權重系數

為避免陷入局部最優解,本文引入位置更新動態權重系數的公式如下:

Xti=k1×Bx+k2×(|Rti-Bxx|+|Rti-Bx|)

k1=1-t3T3

k2=t3T3(16)

其中,t為當前迭代次數,T為最大迭代次數,Bx為當前最優解,Bxx為全局最優解,Rti為當前迭代次數第i個蜣螂位置的信息。在迭代優化過程中,權重系數k1初期較大,隨著迭代進行,權重系數k2逐漸增大,引導蜣螂在已發現的最優區域附近進行深入開發,以實現全局搜索與局部開發的平衡。

3" 仿真實驗

3.1" 仿真實驗環境搭建和實驗參數設置

為了保證實驗的準確性和嚴謹性,本文基于Mircosoft windows 11、CPU硬件配置為3th Gen Intel(R) Core(TM) i9-13900HX 2.20 GHz、32 GB內存的仿真平臺進行實驗。代碼程序在MATLAB R2024a上實現。IDBO參數設置如表1所示。

3.2" 結果分析

為了驗證IDBO-BP模型預測的準確性,本文實驗采用隨機生成的數據集,并將其在IDBO-BP模型和DBO-BP模型中進行比較。IDBO-BP與DBO-BP的收斂性如圖3所示。

隨著迭代次數的增加,模型的適應度不斷下降,適應度值越小說明越接近問題的最優解。相較于DBO-BP,IDBO-BP的初始適應度值更小,適應度下降速率更快,這說明IDBO-BP算法能更快地接近最優解。

如表2—3所示,本文比較了3種不同的神經網絡模型(BP、DBO-BP、IDBO-BP)在訓練集和測試集上的性能,使用4種不同的評估指標:R2(決定系數)、平均絕對誤差(Mean Absolute Error,MAE)、平均偏差誤差(Mean Bias Error,MBE)和平均絕對百分比誤差(Mean Absolute Percentage Error,MAPE)。

下面是對這些數據的詳細分析:IDBO-BP模型在評估中表現卓越,其訓練集與測試集的R2值均接近1,MAE最低,MBE接近0,且MAPE顯著優于BP和DBO-BP模型。這些指標共同表明IDBO-BP不僅擬合度高,還具備強大的泛化能力和高精度的預測性能,在三者中最優。

BP、DBO-BP、IDBO-BP測試集預測結果如圖4所示。從圖中可以明顯看出,IDBO-BP模型的預測值更加接近真實值。對比3種模型測試集的均方根誤差(Root Mean Square Error,RMSE)可以看出,IDBO-BP模型的RMSE小于BP、DBO-BP模型,這說明其在測試集上的預測誤差更低,預測更加準確。

3種模型的測試預測集誤差曲線如圖5所示。由圖可知:IDBO-BP模型的預測誤差是三者中最低的。預測誤差越低,則模型能更好地捕捉數據中的規律并作出更精確的預測。這表明IDBO-BP模型在預測未知或測試數據時的準確性更高。

神經網絡訓練回歸曲線如圖6所示。由圖可知:IDBO-BP模型在訓練集、驗證集和測試集上的R2值均極高,分別為0.99999、0.99968和0.9948,這表明" 其擬合度卓越且泛化能力強,整體R2為0.99979,顯示了模型高準確性和可靠性。

4" 結語

本文提出并驗證了IDBO優化BP神經網絡的新方法,通過Chebyshev混沌映射初始化、黃金正弦策略更新位置及動態權重系數,解決了BP網絡易陷局部最優和收斂慢的問題。實驗結果顯示,IDBO-BP模" 型在訓練與測試集上的表現均優于傳統BP模型及DBO-BP模型,具備更快的收斂速度和全局搜索能力。其預測準確性高、誤差低,為復雜數據處理提供了新思路與有效手段。

參考文獻

[1]XUE J,SHEN B. Dung beetle optimizer:a new meta-heuristic algorithm for global optimization[J]. The Journal of Supercomputering,2023(7):7305-7336.

[2]王蓮霞,李麗敏,任瑞斌,等.基于STM32和DBO-BP的滑坡預警系統[J].國外電子測量技術,2023(8):139-146.

[3]ZHANG R Z,ZHU Y J. Predicting the mechanical properties of heat-treated woods using optimization-algorithm-based BPNN[J]. EI,2023(5):1-35.

[4]WU C L,FU J C,HUANG X R,et al. Lithium-ion battery health state prediction based on VMD and DBO-SVR[J]. EI,2023(10):1-27.

[5]周亞中,何怡剛,邢致愷,等.基于IDBO-ARIMA的電力變壓器振動信號預測[J].電子測量與儀器學報,2023(8):11-20.

[6]LI B,TIAN X T,ZHANG M. Thermal error modeling of machine tool spindle based on the improved algorithm optimized BP neural network[J]. The international Journal of Advanced Manufacturing Technology,2019(9):1497-1505.

[7]丁藝鼎,蔣名亮,徐力剛,等.基于鯨魚優化算法的長短期記憶模型水庫洪水預報[J].湖泊科學,2024(1):320-332.

[8]李天翔,李江,盧亞峰.基于HHO-LSSVM的露天煤礦拋擲爆破效果預測研究[J].中國安全生產科學技術,2023(增刊1):110-116.

[9]RUMELHART D E,HINTON G E,WILLIAMS R J. Learning representations by back-propagating errors[J]. Nature,1986(6088):533-536.

[10]RUMLHART D E,MCCLELLAND J L,CORPORATE PDP Research Group. Parallel distributed processing:explorations in the microstructure of congnition,volume 1:foundations[M]. Cambridge:MIT Press,1986.

[11]焦李成,楊淑媛,劉芳,等.神經網絡七十年:回顧與展望[J].計算機學報,2016(8):1697-1716.

[12]CHATTERJEE S,ROY S,DAS A K,et al. Secure biometric-based authentication scheme using Chebyshev chaotic map for multi-server environment[J]. IEEE Transactions on Dependable and Secure Computing,2016(5):824-839.

[13]隗小斐,何如龍,陳津.基于混沌加密的水聲擴頻通信技術[J].艦船科學技術,2022(5):101-104.

[14]TANYLIDIZI E,DEMIR G. Golden sine algorithm:a novel math-inspired algorithm[J]. Advances in Electrical and Computer Engineering,2017(2):71-78.

(編輯" 沈" 強)

Optimize BP neural network based on improved dung beetle optimization algorithm

CAO" Tongyu1, QIAO" Dong2, GUO" Ziyu1, ZHU" Shoujian1

(1.School of Coal Engineering,Shanxi Datong University, Datong 037009, China; 2.School of Architecture

and Surveying Engineering, Shanxi Datong University, Datong 037009, China)

Abstract: A new method of optimizing BP neural network by using improved dung beetle optimization(IDBO) algorithm is proposed in this paper. The population is initialized by Chebyshev chaotic map, and the efficient search is realized by combining golden sine strategy and dynamic weight coefficient. Based on the MATLAB R2024a, the simulative result shows that the IDBO-BP model performs well on both the training set and the testing set, which significantly improves the fitting degree, generalization ability and prediction accuracy, and the convergence speed is faster. This method effectively improves the performance of neural networks, provides a new way to solve the complex data processing problems, and shows a broad application prospect.

Key words: BP neural network; dung beetle optimization algorithm; golden sine strategy; Chebyshev chaotic map

猜你喜歡
優化模型
一半模型
超限高層建筑結構設計與優化思考
房地產導刊(2022年5期)2022-06-01 06:20:14
民用建筑防煙排煙設計優化探討
關于優化消防安全告知承諾的一些思考
一道優化題的幾何解法
由“形”啟“數”優化運算——以2021年解析幾何高考題為例
重要模型『一線三等角』
重尾非線性自回歸模型自加權M-估計的漸近分布
3D打印中的模型分割與打包
FLUKA幾何模型到CAD幾何模型轉換方法初步研究
主站蜘蛛池模板: 国模极品一区二区三区| 国产Av无码精品色午夜| 亚洲高清无码精品| 亚洲精品色AV无码看| 99久久精品国产麻豆婷婷| 久久无码av三级| 欧美国产日韩在线| 真实国产精品vr专区| 欧美色视频日本| 日韩午夜片| 欧美国产另类| 亚洲欧美日韩中文字幕一区二区三区| 亚洲丝袜第一页| 精品无码日韩国产不卡av | 久久免费视频6| 99久久精品视香蕉蕉| 六月婷婷激情综合| 国产黄在线观看| 国产在线第二页| 久久精品免费看一| 国产91麻豆免费观看| 在线观看免费AV网| 欧美性色综合网| 国产福利一区在线| 在线亚洲小视频| 免费高清a毛片| 青青草国产精品久久久久| 九九久久99精品| 亚洲三级视频在线观看| 欧美视频在线第一页| 久久久久亚洲精品无码网站| 美女被操黄色视频网站| 99成人在线观看| 在线欧美日韩| 97成人在线视频| 国产精品中文免费福利| 精品精品国产高清A毛片| 91亚洲精选| 日韩av无码DVD| 中文字幕va| 真人免费一级毛片一区二区| 鲁鲁鲁爽爽爽在线视频观看| 9啪在线视频| 久久亚洲国产最新网站| 免费国产高清精品一区在线| 国产不卡在线看| 自拍偷拍欧美日韩| 老色鬼久久亚洲AV综合| 午夜三级在线| 国产午夜精品鲁丝片| 婷婷综合在线观看丁香| 欧美性猛交一区二区三区| 国产午夜无码片在线观看网站| 国产黄网永久免费| 91一级片| 成人免费一级片| 成年A级毛片| 亚洲性色永久网址| 国产福利小视频高清在线观看| 欧美区一区| 国产69囗曝护士吞精在线视频| 日韩精品毛片人妻AV不卡| 国产乱码精品一区二区三区中文 | 国产精品美女自慰喷水| 欧美午夜在线观看| 日日碰狠狠添天天爽| 99久久精品国产自免费| 亚洲AV一二三区无码AV蜜桃| 一本色道久久88| 国产av一码二码三码无码| 女人18一级毛片免费观看| 九九热精品在线视频| 亚洲精品你懂的| 91无码人妻精品一区二区蜜桃| 激情无码字幕综合| 国产人碰人摸人爱免费视频| 成人在线综合| 伊人成色综合网| 成人国产精品2021| 久久这里只有精品国产99| 在线观看国产精品日本不卡网| 亚洲精品va|