一種激勵函數(shù)的硬件仿真實現(xiàn)

摘 要：現(xiàn)在對神經(jīng)網(wǎng)絡(luò)的研究以神經(jīng)網(wǎng)絡(luò)模型及算法的模擬實現(xiàn)為主，較少考慮硬件實現(xiàn)問題。以模擬器件為主，分析設(shè)計了BP神經(jīng)網(wǎng)絡(luò)各環(huán)節(jié)的硬件電路。介紹其中的一種Sigmoid激勵函數(shù)電路實現(xiàn)，該電路以差分器件為主要部分，通過調(diào)整相應(yīng)的參數(shù)可以調(diào)節(jié)輸入電壓的范圍和改變激勵函數(shù)的增益，并在EDA環(huán)境下仿真驗證了電路的有效性。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；激勵函數(shù)；硬件仿真；差分電路

中圖分類號：TP183 文獻(xiàn)標(biāo)識碼：B 文章編號：1004-373X(2008)02-077-02

Hardware Simulation Implementation of Active Function

LIU Liqiang，YU Fugong

(Information Engineering School，Inner Mongolia Polytechnic University，Huhhot，010051，China)

Abstract：With the development of information technology，artificial neural network is used widely in many fields.But most researchers give priority to neural network algorithms software implementation and seldom considers hardware implementation.The paper designs the hardware circuits of Backward Propagation(BP) neural network based on analog circuits.The circuit of active function is introduced.The differential structure is mostly used in it.The range of input voltage and function gain can be adjusted by varying correlated parameters.And its effectiveness is demonstrated by EDA simulation.

Keywords：neural network;active function;hardware simulation;differential circuit

1 引 言

近年來，隨著信息技術(shù)的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)技術(shù)在自動控制、人工智能、信號處理、故障診斷、模式識別、圖像壓縮等領(lǐng)域都得到了廣泛的應(yīng)用。在進(jìn)行神經(jīng)網(wǎng)絡(luò)的理論研究時，多數(shù)研究者將神經(jīng)網(wǎng)絡(luò)模型及算法在通用的串行或并行計算機(jī)上編程模擬實現(xiàn)，很少考慮硬件實現(xiàn)問題［1-5］。構(gòu)造實際的神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)時，必須考慮到硬件實現(xiàn)問題，特定應(yīng)用下的專用神經(jīng)網(wǎng)絡(luò)硬件應(yīng)是神經(jīng)網(wǎng)絡(luò)研究的最終目標(biāo)。

關(guān)于神經(jīng)網(wǎng)絡(luò)的硬件實現(xiàn)，目前在國際上已出現(xiàn)多種方法，如模擬電路實現(xiàn)、數(shù)字電路實現(xiàn)、模數(shù)混合電路實現(xiàn)等。作者以模擬電路為主，分析設(shè)計BP神經(jīng)網(wǎng)絡(luò)各環(huán)節(jié)硬件實現(xiàn)電路，并在EDA環(huán)境下進(jìn)行仿真，得到了較好的效果。本文主要介紹其中的一種激勵函數(shù)硬件電路的仿真實現(xiàn)。

2 激勵函數(shù)硬件仿真實現(xiàn)

2.1 電路結(jié)構(gòu)描述

神經(jīng)網(wǎng)絡(luò)激勵函數(shù)的常見類型有閥值函數(shù)、分段線性函數(shù)和Sigmoid函數(shù)。本文選擇Sigmoid函數(shù)作為BP網(wǎng)絡(luò)的激勵函數(shù)，并利用常用模擬器件設(shè)計了實現(xiàn)該函數(shù)的電路結(jié)構(gòu)，如圖1所示。

觀察表1和圖2，發(fā)現(xiàn)該電路的輸入輸出特性與Sigmoid函數(shù)的曲線極為相似，實際運(yùn)算時可用該電路模擬BP神經(jīng)網(wǎng)絡(luò)的激勵函數(shù)。

3 結(jié) 語

本文以差分電路為主要器件設(shè)計Sigmoid函數(shù)的硬件電路，通過仿真驗證了該電路的有效性。在該電路中，通過調(diào)整vref可以得到所需的輸入電壓范圍，而改變Q3周圍的電阻值又可以調(diào)整Sigmoid函數(shù)的增益。在Multisim環(huán)境下，該電路與BP神經(jīng)網(wǎng)絡(luò)的其他環(huán)節(jié)相結(jié)合，仿真模擬實現(xiàn)了異或問題的求解。

該電路雖然較好地實現(xiàn)了Sigmoid函數(shù)，但在整體BP神經(jīng)網(wǎng)絡(luò)硬件電路綜合中還存在著一些問題，需在后續(xù)的研究中不斷改進(jìn)。

參 考 文 獻(xiàn)

［1］全鋼，郭江華，梁述海.基于VHDL的神經(jīng)網(wǎng)絡(luò)模型庫的建立與實現(xiàn)［J］.微計算機(jī)信息，2002，18(7)：70-71.

［2］盧純，石秉學(xué)，陳盧.一種學(xué)習(xí)速率自適應(yīng)的可編程片上學(xué)習(xí)BP神經(jīng)網(wǎng)絡(luò)電路系統(tǒng)的設(shè)計［J］.電子學(xué)報，2001，29(5)：701-703.

［3］盧純，石秉學(xué).采用遺傳算法的一種可重構(gòu)ANN的電路設(shè)計［J］.半導(dǎo)體學(xué)報，2001，22(5)：664-669.

［4］陳盧，石秉學(xué).一種改進(jìn)的PWM型VLSI神經(jīng)網(wǎng)絡(luò)設(shè)計［J］.清華大學(xué)學(xué)報，2001，41(1)：115-118.

［5］Sina Balkir，Ethen Alpaydin.ANNSYS：An Analog Neural Network Synthesis System［J］.Neural Network，1999，(12)：325-338.

注：本文中所涉及到的圖表、注解、公式等內(nèi)容請以PDF格式閱讀原文。