一種提高神經(jīng)網(wǎng)絡(luò)泛化性能的罰項(xiàng)最優(yōu)腦外科模型

摘 要：最優(yōu)腦外科過(guò)程是一種訓(xùn)練后網(wǎng)絡(luò)剪枝算法，計(jì)算的復(fù)雜度非常高，通過(guò)把剪枝條件以懲罰項(xiàng)的形式納入神經(jīng)網(wǎng)絡(luò)的訓(xùn)練目標(biāo)函數(shù)中，把正則化方法的結(jié)構(gòu)優(yōu)化蘊(yùn)涵于網(wǎng)絡(luò)訓(xùn)練過(guò)程，構(gòu)建面向最優(yōu)腦外科過(guò)程的計(jì)算模型，實(shí)現(xiàn)網(wǎng)絡(luò)訓(xùn)練過(guò)程和最優(yōu)腦外科過(guò)程并行剪枝，既保持了最優(yōu)腦外科過(guò)程的準(zhǔn)確性，又具有正則化的高效性，提高了神經(jīng)網(wǎng)絡(luò)模型的泛化性能。該模型在理論上具有收斂性，其有效性和可行性通過(guò)給出的LevenbergMarquardt方案仿真實(shí)驗(yàn)也得到了說(shuō)明。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)； 罰項(xiàng)最優(yōu)腦外科模型； LevenbergMarquardt方案； 泛化能力; 收斂性

中圖分類號(hào)：TP183

文獻(xiàn)標(biāo)志碼：A文章編號(hào)：10013695(2010)04128004doi:10.3969/j.issn.10013695.2010.04.021