帶有高斯激活函數(shù)的復(fù)值神經(jīng)網(wǎng)絡(luò)的動力學(xué)分析

摘 ?要：本文基于實值神經(jīng)網(wǎng)絡(luò)模型，研究了復(fù)值神經(jīng)網(wǎng)絡(luò)的動力學(xué)分析。利用不動點(diǎn)定理以及不等式技術(shù)，討論了復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)的存在性以及穩(wěn)定性問題，給出了網(wǎng)絡(luò)平衡點(diǎn)存在的充分判據(jù)并證明了部分平衡點(diǎn)的局部穩(wěn)定性。

關(guān)鍵詞：高斯函數(shù)，指數(shù)穩(wěn)定性，不動點(diǎn)定理

1943年，美國神經(jīng)生理學(xué)家McCulloch和數(shù)學(xué)家Pitts提出了神經(jīng)元的MP模型，奠定了計算機(jī)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)是一種模仿人腦結(jié)構(gòu)及其功能的智能信息處理系統(tǒng)，由于其高容錯率，學(xué)習(xí)能力強(qiáng)以及自適應(yīng)能力強(qiáng)等特點(diǎn)，已成功應(yīng)用于機(jī)器學(xué)習(xí)，優(yōu)化計算，自動控制等多個領(lǐng)域。

在利用神經(jīng)網(wǎng)絡(luò)解決實際問題中，穩(wěn)定性是動力系統(tǒng)研究的關(guān)鍵。眾所周知，神經(jīng)網(wǎng)絡(luò)穩(wěn)定性問題與激活函數(shù)的類型密切相關(guān)。在現(xiàn)有的文獻(xiàn)中討論的大多是分段線性或單調(diào)不減的激活函數(shù)，連續(xù)非單調(diào)線性激活函數(shù)的穩(wěn)定性問題，如文獻(xiàn)[1]研究了帶有分段線性激活函數(shù)的合作神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。文獻(xiàn)[2]研究了帶有2r 個拐點(diǎn)、單調(diào)不減分段線性函數(shù)的神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。文獻(xiàn)[3]研究了帶有非單調(diào)分段線性函數(shù)的神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性。研究發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)對于既非單調(diào)也非線性的激活函數(shù)的討論較少，高斯函數(shù)是一種既非單調(diào)也非線性的徑向基函數(shù)，其網(wǎng)絡(luò)具有快速學(xué)習(xí)能力，已被廣泛應(yīng)用于分類，預(yù)測，函數(shù)近似等眾多領(lǐng)域。

本文研究一類帶有高斯函數(shù)的復(fù)值神經(jīng)網(wǎng)絡(luò)的動力學(xué)行為，利用Brouwers不動點(diǎn)定理及不等式技術(shù)得出帶有高斯激活函數(shù)的復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)存在的充分判據(jù)以及穩(wěn)定性判據(jù)。

即平衡點(diǎn) 在 是局部穩(wěn)定的。由 的任意性可知，帶有高斯激活函數(shù)的CNNs在 中有 個局部穩(wěn)定的平衡點(diǎn)。定理證明完成。

參考文獻(xiàn)

[1] ?M. Marco，M. Forti，M. Grazzini and L. Pancioni.（2012）Limit set dichotomy and multistability for a class of cooperative neural networks with delays. IEEE Transactions on Neural Networks and Learning Systems，23（9）：1473–1485.

[2] ?Z. Zeng，T. Huang and W. Zheng.（2010）Multistability of recurrent neural networks with time-varying delays and the piecewise linear activation function. IEEE Transactions on Neural Networks，21（8）：1371– 1377.

[3] ?L. Wang and T. Chen.（2012）Multistability of neural networks with Mexican-hat-type activation functions.

[4] ?IEEE Transactions on Neural Networks and Learning Systems，23（11）：1816–1826.

作者簡介：查曼玉，（1995，5-），女，安徽省滁州市，碩士研究生，畢業(yè)東南大學(xué)。