基于單形進化的多項式神經網絡訓練算法

魏巍 王慧

摘 要： 在多項式神經網絡訓練算法中，當采用智能優化算法進行學習優化時，智能優化算法的控制參數對學習效果有很大影響，針對這一問題，本文提出了一種多項式神經網絡的智能優化方法，其的控制參數是通過對單形領域的完全隨機搜索來使用的，且粒子的多樣性是通過種群的多特征狀態來維持的，以避免算法陷入局部最優解，試驗結果表明，該算法訓練的神經網絡不僅能有效提高識別率，而且能減小控制參數對學習性能的影響，提高算法的整體魯棒性。

關鍵詞：多項式神經網絡;識別率;進化策略;分類

Abstract： In the polynomial neural network training algorithm， when the intelligent optimization algorithm is used for learning optimization， the control parameters of the intelligent optimization algorithm have a great impact on the learning effect. In order to solve this problem， this paper proposes an intelligent optimization method of polynomial neural network， whose control parameters are used by completely random search in the simplex field， The experimental results show that the neural network trained by the algorithm can not only effectively improve the recognition rate， but also reduce the influence of control parameters on the learning performance， and improve the overall robustness of the algorithm.

Key words： polynomial neural network; Recognition rate; Evolutionary strategy; classification

1 引言

隨著信息技術的不斷發展，人工智能也在不斷發展。在20世紀40年代，一個跨學科的人工神經網絡被開發出來。它是一個簡化的人工智能系統，模擬生物神經系統的結構、過程和功能[1]，作為人類智能研究的重要組成部分，生物神經系統的處理和功能可以應用于許多學科，因此，它已成為許多學科關注的焦點[2]。由于人工神經網絡是一種最接近人類實現的機器學習算法，目前已有近40種神經網絡模型[3-7]。雖然人類學習如何區分事物很容易，但生物學的過程非常簡單。另外，參數對神經網絡有很大的影響。

多項式神經網絡（PNN）是根據用戶的需要自動生成網絡層和節點的一種神經網絡學習算法，具有很強的自適應能力。在高度非線性系統仍然存在一些缺陷，網絡變得非常復雜[8]。

目前，大多數學者對全局優化問題感到困惑，提出了許多不同的全局優化算法，但該算法仍存在一些不足。例如，為了避免在搜索過程中陷入局部最優，大多數算法都是通過設置多個控制參數來實現的。同時，大多數改進算法都是通過增加算法的復雜度或引入更多的控制參數來實現的。這必然導致計算速度的降低和計算時間的延長。

在此基礎上，本文將單形進化智能優化算法引入到多項式神經網絡中進行學習。

2 多項式核函數神經網絡

考慮到實際應用數據的相關性，本文選取具有全局性的多項式核函數[9]，設d為正整數，則d階齊次多項式函數為：

3 基于單形進化的多項式神經網絡訓練算法

3.1 一種新的智能優化算法

本文提出了一種新的智能優化算法，對新的智能優化算法的具體性能和原理、算法的理解在文獻[10]中有較好的認識。該新的優化算法的目的是提高智能優化算法的收斂性和穩定性。新的智能優化算法訓練多項式神經網絡的基本步驟如下[17-18]：

（1）根據搜索空間的均勻分布，將X個粒子進行初始化和隨機定位;

4 仿真實驗

4.1 數據集概述

為了保證實驗結果的可靠性和準確性，本文在UCI數據庫中選取了兩組數據集，對特征進行測試。

（1）乳房組織數據集[11]

測量了64名婦女106個乳腺樣本的電阻抗特性[12]。測量了所有乳腺標本在7個頻率下的電阻抗特性，提取了9個特征。根據樣本數量和阻抗特性，將其分為六類，如表所示。

（2）葡萄酒數據集[13]

對同一地區種植的3種不同葡萄品種的13種成分進行了化學分析。這13個分量的個數作為特征向量。葡萄酒品種分為三大類，分別用數字1、2和3表示。其中，第一類樣本59個，第二類樣本71個，第三類樣本48個。

4.2 實驗結果

（1）乳房組織數據集

表2顯示實驗訓練測試的樣本總數為9個，每個類的樣本數為14個，與現有一些方法的識別率進行了比較。

（2）葡萄酒數據集

表3顯示了這些數據的不同識別率，結果1nn（Z變換數據）的識別率來源于對葡萄酒識別數據集的描述。

通過以上數據的比較，得出以下分析結果：

1）從表2和表3可以看出，新算法的識別率高于大多數現有算法，但略低于一些已成熟的算法。