基于隨機HH神經元模型的權重訓練

陳祁 呂玉琳

摘要：本文將遞歸最小二乘法（RLS）推廣到具有生物意義的隨機HH神經元模型，通過訓練網絡的突觸連接，對直線型和正弦型的目標函數進行學習. 發現離子通道的隨機開關引起的內噪聲會影響學習表現. 只有在適中的膜面積下，通過RLS訓練的隨機HH神經元網絡才會取得良好的學習表現.

關鍵詞：遞歸最小二乘法; 隨機Hodgkin-Huxley模型; 神經網絡; 內噪聲; 膜面積.

中圖分類號：G642;TN96-4文獻標識碼：A

文章編號：1009-3044（2022）02-0104-03

近年來，遞歸神經網絡（RNN）的規模和應用更是與日俱增[1]。2001年，Jaeger提出了ESN方法[2]。2009年，Abbott等人改進并提出了FORCE方法[3]，后續表明FORCE方法是一種富有潛力的研究方法[4]。

人工神經網絡的研究往往離不開神經科學的發展. 1952年，Hogkin等人利用改進的電壓鉗方法，分析電流得到了HH模型[5]。后續表明內噪聲源于離子通道是以隨機的方式打開或關閉，這啟發了本文對一定膜面積上內噪聲的建模與研究[6]。

本文采用FORCE方法中常見的遞歸最小二乘法（RLS），對內含噪聲的隨機HH神經元構成的遞歸網絡進行權重修改，從而討論了不同膜面積下的網絡學習表現。

1 模型

1.1 神經元電位模型

網絡中第[i]個隨機HH神經元的膜電位方程為

[CmdVitdt=-gLVit-VL-gNam3hVit-VrevNa-gKn4Vit-VrevK-Isynit-Iextit，]

其中[Cm]是膜電容，[Vit]是膜電位，[gL]和[VL]分別是泄漏通道的電導系數和反轉電位，[gNa]和[VrevNa]分別是[Na+]通道的最大電導系數和反轉電位，[gK]和[VrevK]分別是和[K+]通道的最大電導系數和反轉電位，[m]、[h]和[n]分別為相應通道的門控變量，[Isynit]和[Iextit]分別是內部突觸電流和外部輸入電流。其中，外部輸入電流[Iextit]采用的是泊松輸入：

[Iextit=Qdtdt，]

其中，[Q]為單位面積上外部輸入的電荷量，[t]是強度為[λ]的泊松過程。

1.2 門控變量模型

在式中，門控變量[m]、[h]和[n]的Langevin方程為

[dm=αmV1-m-βmVmdt+2αmVβmVNNaαmV+βmVdWm，dh=αhV1-h-βhVhdt+2αhVβhVNNaαhV+βhVdWh，dn=αnV1-n-βnVndt+2αnVβnVNKαnV+βnVdWn.]

其中[αmV]、[αhV]和[αnV]是門控變量打開速率，[βmV]、[βhV]和[βnV]是門控變量關閉速率，[NNa]和[NK]分別是[Na+]通道和[K+]通道的總數目，[Wmt]、[Wht]和[Wnt]是互相獨立的維納過程。其中門控變量[m]、[h]和[n]的打開速率與關閉速率根據以下經驗公式

[αmV=0.1V+401-exp-V+40/10，βmV=4exp-V+65/18，αhV=0.07exp-V+65/20，βhV=1exp-V+35/10+1，αnV=0.01V+551-exp-V+55/10，βnV=0.125exp-V+65/80，]而離子通道的總數目為離子通道密度與膜面積[S]之積，即[NNa=ρNaS，NK=ρKS]。

1.3 突觸電流模型

由[N]個神經元構成一個循環神經網絡，神經元之間采用稀疏度為[p]的循環連接。本文中[N]取[200]，[p]取[0.5]。

網絡中第[i]個神經元所受到來自其他神經元的突觸電流為：

[Isynit=j=1Nwijrjt.]

在式中，[wij]是第[i]個神經元接收到來自第[j]個神經元的連接權重強度，[rjt]表示在[t]時刻時第[j]個神經元的發放速率，它滿足

[τrdrjtdt=-rjt+sjt;τddsjtdt=-sjt+i=1Ntki<tδt-tki. ]

其中，[τr]和[τd]分別表示突觸rise和decay的時間常數，[δt]是Dirac-delta函數，[tki]是第[i]個神經元第[k]次脈沖發放時刻。

1.4 遞歸最小二乘法

遞歸最小二乘法（RLS）已被推廣至速率神經網絡[3]和脈沖神經網絡[4]，用于對突觸權重進行訓練，使得網絡輸出目標信號，進而對大腦活動與肢體行為之間的關系做出解釋。

對于網絡中第[i]個神經元的突觸連接向量[wi=wi1，…，wiN]，有

[witK+1=witK+fitK+1-witKrtK+1rTPtK+1]

其中末項[PtK+1=k=1K+1rtkrTtk+μIN-1]采用迭代計算

[PtK+1=PtK+PtKrtK+1rTtK+1PtKrTtK+1PtKrtK+1+1，]

2 主要結果

本節通過RLS方法訓練隨機HH神經元網絡中的突觸電流從而達到學習的目的，如果訓練成功，訓練后給神經元同樣的刺激就能誘發出預期的反應。

訓練時間軸與刺激電流參數如下：[0ms～450ms]是訓練前的情況，[450ms～900ms]是訓練結束后的情況，其中在[100ms～150ms]和[550ms～600ms]對給所有神經元施加外部泊松刺激。當刺激結束后的[200ms]內對網絡內部連接權重使用RLS方法進行更新，共計訓練[30]次。

2.1 目標函數的學習

對正弦函數進行學習。在膜面積[S=10μm2]時，目標函數[fit=Asinωit+φi]，其中[ωi～U8π，10π]，[φi～U0，2π]，[A=0.2]。 在訓練前后神經元所受突觸電流（圖 1A）和膜電位水平（圖 1B）也大不相同。

在圖 1中，訓練前給神經元刺激，神經元的突觸電流曲線與目標函數完全不吻合。 訓練[30]次后，給神經元同樣的刺激，神經元的突觸電流曲線與目標函數完全吻合，即誘發出了預期的反應（圖1A）。 訓練前神經元發放是毫無規律的，訓練[30]次后，神經元在目標函數取負值時不發放（圖1B）。 隨著訓練次數的增加，突觸權重的修改量總體上呈減小趨勢，并且前幾次訓練的權重更新更加迅速（圖1C）。

2.2 膜面積對學習的影響

在隨機HH神經元中，細胞膜上離子通道的打開與關閉是隨機的，由此產生的通道噪聲的影響是不可忽略的。 為進一步探究膜面積與學習表現的關系，對當膜面積[S=0.5μm2，1μm2，3μm2，5μm2，][8μm2，9μm2，10μm2，20μm2，30μm2，50μm2]時分別做[30]次實驗，記錄相應的訓練前誤差[Isynpre-f]和訓練后誤差[Isynpost-f]以及訓練前后誤差之比[Isynpost-fIsynpre-f] （圖 2）。這表明當膜面積[5μm2<S<20μm2]時，學習表現較優。 這與文獻[8]中的結果一致，只有當膜面積適中時，隨機HH神經元內部噪聲既不足以干擾學習，又能打破脈沖發放同步性，還有助于避免過擬合，RLS方法將取得較好的學習表現。

3 討論

在文獻[4]中，由Theta模型，Leaky IF模型和Izhikevich模型構成的脈沖循環網絡均能使用RLS方法更新權重以學習預先給定的目標函數。本文對更具有生物意義的隨機HH神經元構成的循環脈沖網絡也得到了類似的學習結果。 如果給予一定的刺激，神經元網絡在訓練后能給出預期的響應。 正如大腦的學習與記憶機制，給予恰當的刺激便能喚起相應記憶。

數值結果表明訓練后的網絡神經元發放具有一定規律，但當目標函數取得負值時，網絡神經元幾乎不發放（圖 1B）。 而圖 1C表明突觸權重的改變量與學習誤差均會隨著訓練次數的增加而越來越小并趨于穩定。這與文獻[3]中的結果一致，符合RLS方法主要依賴前幾次權重更新的特點。進一步研究發現，由離子通道內噪聲會顯著影響學習效果：只有當膜面積適中（[5μm2<S<20μm2]）時，學習表現較理想（圖 2C）。

參考文獻：

[1] Robinson T，Fallside F.A recurrent error propagation network speech recognition system[J].ComputerSpeech&Language，1991，5（3）：259-274.

[2] Jaeger， Herbert. The “echo state” approach to analysing and training recurrent neural networks-with an erratum note. Bonn， Germany： German National Research Center for Information Technology GMD Technical Report 148.34 （2001）： 13.

[3] Sussillo D，Abbott L F.Generating coherent patterns of activity from chaotic neural networks[J].Neuron，2009，63（4）：544-557.

[4] Nicola W，Clopath C.Supervised learning in spiking neural networks with FORCE training[J].Nature Communications，2017，8：2208.

[5] Hodgkin A L，Huxley A F，Katz B.Measurement of current-voltage relations in the membrane of the giant axon of Loligo[J].The Journal of Physiology，1952，116（4）：424-448.

[6] Skaugen E，Wall?eL.Firing behaviour in a stochastic nerve membrane model based upon the Hodgkin-Huxley equations[J].Acta Physiologica Scandinavica，1979，107（4）：343-363.

[7] StrassbergAF，DeFeliceLJ.Limitations of the Hodgkin-Huxley formalism：effects of single channel kinetics on transmembrane voltage dynamics[J].Neural Computation，1993，5（6）：843-855.

【通聯編輯：李雅琪】

1296501705345