基于卷積計算的多層脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習*

張玉平，藺想紅

(西北師范大學計算機科學與工程學院，甘肅 蘭州 730070)

1 引言

隨著人們對神經(jīng)網(wǎng)絡的深入研究，目前人工神經(jīng)網(wǎng)絡已經(jīng)發(fā)展到了第三代——脈沖神經(jīng)網(wǎng)絡(Spiking Neural Network)階段[1]。脈沖神經(jīng)網(wǎng)絡應用精確定時的脈沖序列對神經(jīng)信息進行編碼和處理，這種包含時間計算元素的計算模型更具生物解釋性，是進行復雜時空信息處理的有效工具[2]。相比傳統(tǒng)的基于脈沖頻率編碼的人工神經(jīng)網(wǎng)絡，基于脈沖精確定時特性的脈沖神經(jīng)網(wǎng)絡擁有更強大的存儲和計算能力，它能夠模擬各種神經(jīng)元信息和任意的連續(xù)函數(shù)，非常適合于大腦神經(jīng)信息的處理問題[3]。

神經(jīng)網(wǎng)絡目前主要使用兩種編碼方法：頻率編碼和時間編碼[4]。在頻率編碼中假設信息是由在某段時間內(nèi)出現(xiàn)的脈沖數(shù)目表示，該方法主要應用于傳統(tǒng)的人工神經(jīng)網(wǎng)絡。另一種方法是時間編碼，它是應用脈沖的精確時間進行的信息編碼，該編碼方式已被神經(jīng)科學的大量實驗成果證實。例如，實驗證據(jù)顯示大腦的巨大記憶容量主要依賴于神經(jīng)信息處理的精確脈沖時間編碼機制[5]。此外，一些模式識別問題，例如顏色識別、視覺形態(tài)識別、氣味識別和聲音辨別等，在基于頻率編碼的人工神經(jīng)網(wǎng)絡模型中不能得到很好的解決，但在基于時間編碼的脈沖神經(jīng)網(wǎng)絡中能夠得到理想的求解效果[6]。同時，脈沖時間編碼還能夠減少所需執(zhí)行給定任務的神經(jīng)元數(shù)量。因此，考慮脈沖神經(jīng)網(wǎng)絡基于脈沖精確定時編碼神經(jīng)信息的特征，構(gòu)建高效的脈沖神經(jīng)網(wǎng)絡監(jiān)督學習算法非常關(guān)鍵，同時也是該研究領(lǐng)域的重要問題，日益受到廣大研究者的關(guān)注。

然而，由于脈沖神經(jīng)網(wǎng)絡模型內(nèi)在的復雜性和脈沖序列的離散特性，使得脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習算法構(gòu)造和實際應用非常困難。Bohte S M等人[7]首次提出了適用于多層前饋脈沖神經(jīng)網(wǎng)絡的誤差反向傳播算法，稱為SpikeProp算法，為了克服神經(jīng)元內(nèi)部狀態(tài)變量由于脈沖發(fā)放而導致的不連續(xù)性，限制網(wǎng)絡中所有層神經(jīng)元只能發(fā)放一個脈沖。其他研究者進一步擴展了SpikeProp算法，給出了對神經(jīng)元脈沖發(fā)放個數(shù)不作限制的多脈沖學習算法[8,9]。SpikeProp及其擴展算法是一類數(shù)學分析方法，在學習規(guī)則的推導過程中，要求所使用的神經(jīng)元模型中的狀態(tài)變量必須能夠解析，且解析能夠用表達式來表示。在最近的研究中，研究者給出了更具生物解釋性的脈沖神經(jīng)網(wǎng)絡監(jiān)督學習算法，能夠?qū)γ}沖序列復雜時空模式進行學習，主要的算法有ReSuMe[10]、Chonotron[11]、PSD[12]算法等。Mohemmed A和Schliebs S[13,14]基于核函數(shù)卷積思想給出了SPAN(Spike Pattern Association Neuron)算法，其主要特點是應用核函數(shù)將脈沖序列轉(zhuǎn)換為卷積信號，通過轉(zhuǎn)化后的輸入脈沖序列、神經(jīng)元目標輸出和實際輸出脈沖序列，應用Widrow-Hoff規(guī)則調(diào)整突觸權(quán)值。這些監(jiān)督學習算法雖然對網(wǎng)絡中所采用的神經(jīng)元模型沒有限制，但算法并不具備誤差反向傳播機制，僅適用于單層神經(jīng)網(wǎng)絡或遞歸網(wǎng)絡輸出層突觸權(quán)值的學習。

本文在SPAN算法的基礎上，提出了一種把核函數(shù)卷積應用于多層脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習算法。該算法通過脈沖序列的卷積計算表示形式，將離散的脈沖序列轉(zhuǎn)換為連續(xù)函數(shù)的分析過程，并解釋為特定的神經(jīng)生理信號。在多層前饋網(wǎng)絡結(jié)構(gòu)中，應用梯度下降思想推導得到隱含層和輸出層的突觸權(quán)值學習規(guī)則。該算法在多層脈沖神經(jīng)網(wǎng)絡中通過突觸權(quán)值的調(diào)整，能夠?qū)崿F(xiàn)脈沖序列時空模式的學習，并應用于非線性模式分類問題中，具有更高的分類準確率。

2 監(jiān)督算法的學習規(guī)則

2.1 脈沖序列的卷積表示

脈沖神經(jīng)網(wǎng)絡監(jiān)督學習的目標是對于輸入神經(jīng)元任意給定的脈沖序列模式，通過突觸權(quán)值的調(diào)整，神經(jīng)元最終輸出所要求的目標脈沖序列模式。脈沖序列S={tf∈Γ:f=1,…,F}表示脈沖神經(jīng)元在區(qū)間Γ=[0,T]所發(fā)放脈沖時間的有序數(shù)列，而脈沖信號用來表示信息或載波，是一種離散信號。其形狀多種多樣，常見的有矩形波。脈沖序列可形式化地表示如下：

(1)

其中，tf表示第f個脈沖發(fā)放時間，δ(x)表示Dirac delta函數(shù)，當x = 0時，δ(x)=1，否則δ(x)=0。

由于脈沖序列是由神經(jīng)元發(fā)放脈沖時間所構(gòu)成的離散事件集合，為了方便分析和計算，選擇特定的核函數(shù)κ(t)，應用卷積將脈沖序列唯一地轉(zhuǎn)換為一個連續(xù)函數(shù)：

(2)

其中s(t)為公式(1)，通過對脈沖序列基于核函數(shù)的卷積計算，可將脈沖序列解釋為特定的神經(jīng)生理信號，比如神經(jīng)元的突觸后電位或脈沖發(fā)放的密度函數(shù)。該算法中，核函數(shù)為κ(t)=eτ-1te-t/τH(t)，H(t)表示Heaviside函數(shù)，當x ≥ 0時,H(x)=1，否則H(x)=0;τ是一個實值常數(shù)。因此，本文中用卷積的形式表示的脈沖序列為：

(3)

為了分析神經(jīng)元輸入和輸出脈沖序列之間的關(guān)系，本文使用廣義的線性泊松神經(jīng)元模型(Linear Poisson Neuron Model)[15]。將神經(jīng)元的突觸后脈沖序列So(t)表示為突觸前脈沖序列的線性加權(quán)形式：

(4)

其中，o表示第o個輸出神經(jīng)元且o∈O；n表示突觸前神經(jīng)元的個數(shù)，即輸入到神經(jīng)元脈沖序列的數(shù)量；Si(t)為公式(3)表示的突觸前脈沖序列；wi表示連接神經(jīng)元的突觸權(quán)值。

2.2 網(wǎng)絡中權(quán)值的調(diào)整

(5)

其中，o∈O表示輸出層的神經(jīng)元數(shù)量。

為了使網(wǎng)絡誤差最小化，使用梯度下降方法來調(diào)整權(quán)值：

其中，η表示學習率,Δw(t)表示誤差E(t)在時間t對于突觸權(quán)值w的梯度下降值。

對于輸出層突觸權(quán)值woh調(diào)整這部分，使用梯度下降及鏈式規(guī)則進行推導。突觸權(quán)值woh隨時間更新的公式可表示為：

(6)

公式(6)右邊的第一部分可以做如下處理：

(7)

由神經(jīng)元突觸前后脈沖序列的關(guān)系公式(4)，公式(6)右邊的第二部分可表示為：

這里nh表示隱含層神經(jīng)元的數(shù)目。

于是可以推導出輸出層神經(jīng)元突觸權(quán)值的調(diào)整公式為：

(8)

考慮公式(2)的脈沖序列核函數(shù)卷積計算，可將公式(8)重寫為如下的表示形式：

(9)

將公式(9)積分，可得到輸出層的突觸權(quán)值總的更新規(guī)則為：

對于隱含層突觸權(quán)值whi調(diào)整這部分，誤差導數(shù)的計算使用類似于輸出層的計算方法。

突觸權(quán)值whi隨時間更新的公式可表示為：

(10)

上面公式(10)右邊的第一部分可使用鏈式法則擴展到每個輸出神經(jīng)元，其規(guī)則如下：

(11)

公式(11)中右邊的第二部分可由公式(4)計算得到：

(12)

將公式(7)和公式(12)代入公式(11)，可得：

公式(10)右邊第二部分可推導得出：

這里ni表示輸入層神經(jīng)元的數(shù)目。

因此，綜合上述公式可得到隱含層突觸權(quán)值的調(diào)整公式為：

將上式積分，可得離線的突觸權(quán)值更新規(guī)則為：

3 實驗結(jié)果與分析

為了闡述該算法的特征，這里將執(zhí)行一些仿真實驗。在本文中共設計兩個實驗，第一個實驗是學習多個輸入脈沖序列模式到單個目標輸出脈沖序列的映射，這個實驗的目的是驗證該學習算法產(chǎn)生脈沖序列的功能。第二個實驗是將該算法應用到非線性模式分類問題中，實現(xiàn)對Iris數(shù)據(jù)集的分類任務，在這個實驗中將驗證該算法的模式識別能力。

3.1 單脈沖序列的學習

Figure 1 Spike train model圖1 脈沖訓練模型

從圖1中可以看到，在早期的迭代中實際輸出的脈沖與期望目標脈沖存在著較大的誤差，在隨后的迭代中輸出的脈沖朝著期望脈沖收斂；注意到在迭代50次內(nèi)神經(jīng)元能夠非常精確地產(chǎn)生所期望的脈沖輸出序列；迭代50次后，在期望的時間內(nèi)接近目標脈沖的輸入脈沖被加強，同時，在不期望的時間內(nèi)脈沖的輸出被抑制，在該實驗中，可以推斷該學習算法確實能夠訓練多個隨機輸入脈沖序列模式映射到一個單目標脈沖序列。

圖2表示的是單脈沖序列學習在[0 ms，100 ms]誤差的進化過程，其誤差值使用實際輸出序列與目標序列之間的差值進行計算。該實驗迭代100次。從圖2中可以看出誤差值隨著迭代次數(shù)的增加而減小，誤差函數(shù)值在進化開始時，誤差值迅速收斂，出現(xiàn)了一個快速減小的過程，迭代到70次后誤差值趨于平穩(wěn)，收斂到一個穩(wěn)定的值，從圖2中可以看出該算法具有較好的收斂性。

Figure 2 Evolution of error圖2 平均誤差進化

3.2 分類問題

在這個實驗中，本文采用多層前饋型脈沖神經(jīng)網(wǎng)絡結(jié)構(gòu)，并將該算法應用到非線性模式分類問題中，實現(xiàn)對Iris數(shù)據(jù)集的分類，目的是學會分類三類輸入脈沖序列模型。在實驗中，從Iris數(shù)據(jù)集的三類花中每類隨機抽取10個樣本組成訓練集(共30個樣本)，每類花中剩余的40個樣本組成測試集(共120個樣本)，輸入特征值采用線性編碼方案。

對于每一類輸入脈沖序列模型，首先把每個樣本的四個特征值分別歸一化后線性編碼在[10 Hz，40 Hz]的頻率。接著把每個頻率轉(zhuǎn)化為[0 ms，100 ms]的脈沖序列。然后再把每個樣本的四個特征值分別編碼成四個線性輸入脈沖序列。在Iris數(shù)據(jù)集中把每一類的輸出值1、2和3分別編碼成10 Hz、20 Hz和30 Hz的目標脈沖序列。經(jīng)過學習后，輸出神經(jīng)元為每個分類訓練產(chǎn)生一個脈沖序列。本文設定該學習方法在[0 ms，100 ms]進行學習，在學習過程中分別計算輸入脈沖序列與三個目標脈沖序列的誤差值，根據(jù)誤差值來確定輸入脈沖所屬類別。該實驗訓練100次，在每次訓練中都選擇不同的隨機數(shù)初始化突觸權(quán)重。

圖3顯示了訓練100次后，Iris數(shù)據(jù)集的訓練集在學習過程中三類輸入脈沖序列模型各自與目標脈沖序列的平均誤差率的進化。在剛開始時誤差迅速減小,然后出現(xiàn)了一個波動過程，隨后開始穩(wěn)定下來并且慢慢減小。在分類過程中，一些類的學習誤差減小較快，這是由于這些類的分類速度快于其他的類，例如類2。為了測試分類情況，本文分別對Iris數(shù)據(jù)集的訓練集和測試集進行測試。在分類中神經(jīng)元能夠?qū)崿F(xiàn)訓練集和測試集的分類，且訓練集平均分類正確率達到94.6%，測試集平均分類正確率達到93.7%，很好地實現(xiàn)了對Iris數(shù)據(jù)集的分類效果。

Figure 3 Iris training set average error rate evolution圖3 Iris訓練集平均誤差率變化曲線

另外，本文所提算法在Matlab 7.0環(huán)境下進行仿真計算，與BP算法對Iris分類結(jié)果比較如表1所示。

Table 1 Fisher Iris data classification comparisonunder different learning algorithms

從表1中可以看出，本文所提算法在對Iris這樣簡單的數(shù)據(jù)集進行分類時，測試集和訓練集在分類正確率上優(yōu)于傳統(tǒng)的BP算法。

4 結(jié)束語

應用核函數(shù)的卷積計算將脈沖序列轉(zhuǎn)換為連續(xù)的函數(shù)，通常用來比較和解釋脈沖模型，或是在單層網(wǎng)絡結(jié)構(gòu)中進行學習。本文針對脈沖神經(jīng)元精確定時的編碼信息特點，提出基于卷積計算的多層脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習算法，該算法在核函數(shù)卷積計算的基礎上產(chǎn)生脈沖序列，并將其推廣到多層前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)中。在網(wǎng)絡中權(quán)值的調(diào)整是在基本的Widrow-Hoff規(guī)則上進行推導的。需要注意的是，核函數(shù)是在權(quán)值調(diào)整之前進行計算的，而在網(wǎng)絡中輸出層和隱含層的權(quán)值是應用梯度下降的方法進行調(diào)整的。因此，核函數(shù)的應用并不依賴于某種神經(jīng)模型。在實驗部分，構(gòu)造多層前饋網(wǎng)絡結(jié)構(gòu)，實驗的第一部分，其結(jié)果顯示應用該算法能夠產(chǎn)生預期的脈沖序列，實驗的第二部分，應用該算法對Iris數(shù)據(jù)集進行分類測試，并對測試結(jié)果進行了分析，實驗結(jié)果證實了該算法的有效性。

作為未來的研究工作，該學習算法可應用到真實世界的時間計算任務中。可繼續(xù)學習使用該算法作為液態(tài)機制的讀出函數(shù)。并且，可構(gòu)造遞歸結(jié)構(gòu)的脈沖神經(jīng)網(wǎng)絡，進一步研究將該算法應用于該網(wǎng)絡結(jié)構(gòu)中的可行性，豐富遞歸脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習算法。研究該算法在線學習的可行性及動態(tài)突觸和LIF神經(jīng)元參數(shù)關(guān)聯(lián)的效果。

[1] Gerstner W,Kistler W M.Spiking neuron models:Single neurons,populations, plasticity[M]. Cambridge:Cambridge University Press, 2002.

[2] Bohte S M. The evidence for neural information processing with precise spike-times:A survey[J]. Natural Computing, 2004, 3(2):195-206.

[3] Ghosh-Dastidar S, Adeli H. Spiking neural networks[J]. International Journal of Neural Systems, 2009, 19(4):295-308.

[4] Quiroga R Q,Panzeri S.Principles of neural coding[M]. Boca Raton, Florida:CRC Press,2013.

[5] Szatmry B , Izhikevich E M. Spike-timing theory of working memory[J]. PLoS Computational Biology, 2010, 6(8):1.

[6] Hu J, Tang H, Tan K C, et al. A spike-timing-based integrated model for pattern recognition[J]. Neural Computation, 2013, 25(2):450-472.

[7] Bohte S M, Kok J N, La Poutré J A. Error-backpropagation in temporally encoded networks of spiking neurons[J]. Neurocomputing, 2002, 48(1-4):17-37.

[8] Ghosh-Dastidar S, Adeli H. A new supervised learning algorithm for multiple spiking neural networks with application in epilepsy and seizure detection[J]. Neural Networks, 2009, 22(10):1419-1431.

[9] Xu Y,Zeng X,Han L,et al.A supervised multi-spike learning algorithm based on gradient descent for spiking neural networks[J]. Neural Networks, 2013, 43:99-113.

[10] Ponulak F, Kasinski A. Supervised learning in spiking neural networks with ReSuMe:Sequence learning, classification, and spike shifting[J]. Neural Computation, 2010, 22(2):467-510.

[11] Florian R V. The Chronotron:A neuron that learns to fire temporally precise spike patterns[J]. PLoS One, 2012, 7(8):e40233.

[12] Yu Q, Tang H, Tan K C, et al. Precise-spike-driven synaptic plasticity:Learning hetero-association of spatiotemporal spike patterns[J]. PLoS One, 2013, 8(11):e78318.

[13] Mohemmed A, Schliebs S. SPAN:Spike pattern association neuron for learning spatio-temporal spike patterns[J]. International Journal of Neural Systems, 2012, 22(4):1250012.

[14] Mohemmed A, Schliebs S, Matsuda S, et al. Training spiking neural networks to associate spatio-temporal input--output spike patterns[J]. Neurocomputing, 2013, 107:3-10.

[15] Gütig R, Aharonov R, Rotter S, et al. Learning input correlations through nonlinear temporally asymmetric hebbian plasticity[J]. The Journal of Neuroscience, 2003, 23(9):3697-3714.