極簡的神經網絡

摘要：本文提出了一種用相當簡短的Python代碼實現的基于離散信號的神經網絡框架，介紹了如何借助MemBrain軟件的神經網絡自主學習所生成的數據，來為這個簡單的神經網絡框架設置參數，使之成為可運行的神經網絡模型，并介紹了如何將這個框架用于實現具有一定的探索性、趣味性的教學實驗。

關鍵詞：神經網絡；人工智能；教學實驗

神經元負責處理和傳遞信息，大腦中的神經元以離散的方式進行工作。神經元細胞膜的兩側存在電位差，稱為膜電位，當神經元接收到足夠的興奮性刺激時，細胞膜上的離子通道會打開，使細胞內外離子的分布發生變化，這種變化會導致膜電位迅速變化，形成一個電脈沖，這個電脈沖沿著神經元的軸突傳播。當某神經元接收到來自其他神經元的電信號后，根據輸入信號的強度調整自身的膜電位，產生相應的輸出信號。電脈沖一旦產生，其幅度和形狀在傳播過程中基本保持不變，不會因為刺激的強弱而改變，電脈沖的強度主要體現在頻率上，即單位時間內電脈沖產生的次數，頻率越高，傳遞的信息強度就越大。在神經網絡工作過程中，神經元并不是單純的單向傳遞信號，而是存在著復雜的相互作用，其中，抑制性神經元是一種能夠降低其他神經元活動水平的神經元，當抑制性神經元受到刺激并產生電脈沖時，會釋放抑制性神經遞質，降低神經元接收信號的強度。

以上文字主要由某人工智能語言工具生成，筆者略微做了一些整理。人的大腦的神經網絡中的神經元處理的是離散的信號，但它在被激發后的信號發送時，又通過某種頻率來產生出一種能模擬特定信號強度的效果。根據人腦神經網絡的工作情況，可以設立這樣的一種神經網絡模型：每個神經元只用“0”和“1”兩種數字表示，分別代表靜息和興奮兩種狀態，而被激發為興奮狀態的神經元，則用某個“-1”到“1”之間的浮點數來代表電脈沖頻率強度，其中的負數代表抑制信號，正數代表加強信號。本文給出的案例試圖將二進制數編碼、數據處理、算法等教學內容與神經網絡的教學內容融合在一起，帶領學習者利用已學習到的基礎算法及程序代碼的知識和技能，搭建簡單的軟件模型來模擬人腦神經網絡的運作過程，這樣就實現了一種學科內的知識和技能的整合。

實現異或邏輯運算的極簡神經網絡

首先，以非線性函數異或邏輯運算的實現為目標，來構建神經網絡。該神經網絡由兩個輸入層神經元、兩個隱藏層神經元和一個輸出層神經元組成。其輸入層神經元用列表I表示，Python代碼為：

I=[0，1] # 或[0，0]，[1，0]，[1，1]

隱藏層神經元用列表L表示，其中“Lr0”和“Lr1”是兩個等待著按特定規則對輸入層神經元數據進行處理并獲取到值的變量，Python代碼為：

L=[Lr0，Lr1]

輸出層神經元用列表O表示，其中“Or0”是等待著按特定規則對隱藏層神經元數據進行處理并獲取到值的變量，Python代碼為：

O=[Or0]

隱藏層或輸出層神經元按規則獲取數值的代碼也很簡單，每個神經元的數值都只需要一句代碼，用來實現根據設定的閾值確定是否興奮的功能，被激發為興奮的神經元則輸出特定的電脈沖強度，如下面的代碼表示當來自兩個輸入層神經元的信號總強度超過1.25時激發為興奮并輸出電脈沖強度為1，Python代碼為：

Lr0=\"1 if （I[0]+I[1]）gt;1.25 else 0\"

該神經網絡的完整程序代碼及對應代碼功能的可視化結構圖可參見圖1。若不算上輸入和輸出，只有9行程序代碼，堪稱極簡。但哪怕是這樣簡單的代碼，也能夠體現出神經網絡解決問題的完整流程，這里將其稱為Python的極簡神經網絡框架。

自主學習的神經網絡四像素圖片的0或1的識別

有了用神經網絡實現異或邏輯運算的經驗，可以試著搭建稍微復雜一些但功能也稍微有趣一些的神經網絡。例如，有一個包含了1到4號的四個輸入神經元、5到7號的三個隱藏層神經元、12到14號的三個輸出神經元組成的神經網絡（這里序號不連續，是另有用意，后文會說明），其中，輸入層神經元是“0”或“1”的二進制數據，輸出層神經元是在“-1”到“1”之間變化的數字。

這個神經網絡的功能是檢測四個像素的單色圖像更像0還是更像1，假如運算結果中12號神經元數值最大，則表示圖像既不像“0”也不像“1”，如13號神經元數值最大，則表示圖像最像“0”，如14號神經元數值最大，則表示圖像最像“1”。例如，當輸入的是“0”“1”“0”“1”時，整體圖案看上去更像“1”，14號神經元最興奮，數值最大。四像素圖對應“0”“1”“0”“1”輸入信號時的形態以及神經網絡的可視化結構如圖2所示。

接下來，最大的難題是如何為輸入層和隱藏層神經元設置輸出權重，以及如何為隱藏層和輸出層神經元設置被激發為興奮狀態的閾值。盡管這個神經網絡從圖示看還是相當簡單，但總共涉及21個輸出權重值數據和6個閾值數據，如果只靠人腦來推測設定，就相當困難了。這時，就需要依靠計算機算法，在與預定規則目標的對比過程中，通過反向傳播來調整神經元參數，這就是神經網絡的自主學習過程。具體的參數調整過程涉及梯度下降的數學方法，對于數學水平有限的學習者，可以暫且將數學運算過程封裝成為黑箱，只觀察每一次數學運算對權重值數據和閾值數據調整迭代的效果。

有多款不同的軟件可以將神經網絡自主學習過程可視化地顯現出來，這里推薦的是MemBrain軟件，之前所給出的神經網絡可視化效果圖也是由該軟件生成的。MemBrain軟件的基本使用方法，可參考《神經網絡自己搭》（本刊2019年第19期刊發的文章），這里就不再贅述了。為了能更貼近人腦神經網絡工作原理，在搭建神經網絡時，需要將隱藏層神經元設置為“BINARY”類型，使之僅能表現為非“0”即“1”的離散的狀態；將輸出層神經元設置為“IDENTICAL”類型，用以對應人最終感受的連續性。

在進行自主學習前，首先要設定作為學習目標的輸入神經元和輸出神經元的對應規則，這個規則可以從CSV文件導入，如圖3所示的CSV文件設置了四條規則，雖然說，四個輸入神經元可以有十六種變化形式，但除了必要的目標，并不需要將全部規則都作設定，神經網絡自身可以很好地處理模糊的輸入數據（可以試著輸入一個不在規則內的數據并觀察神經網絡運行結果）。

神經網絡經過自主學習后，得到可供參考的權重值數據和閾值數據，由于學習開始時的起始數據是隨機生產的，所以每次自主學習的結果都是不同的，圖4所示的是某次自主學習的結果，同樣是用CSV文件表示的。

然后，就可以將數據寫入Python的極簡神經網絡程序框架，如圖5所示。可以看出，盡管神經元增加了，但程序仍然非常簡短。實際上，只要是由一個輸入層、一個隱藏層、一個輸出層組成的神經網絡，神經元的數據就都只要在相應層的列表中設定，不需要改變程序的框架結構。接下來，是將MemBrain自主學習生成的數據寫入程序框架中（當然可以另編代碼，將MemBrain自主學習生產的數據自動生成為列表數據）。完整的程序代碼如圖5所示。

從邏輯推斷到模擬仿真

在實驗中可以發現，剛才這個神經網絡的學習能力并不強，每次在自主訓練后，神經網絡常常只能正確實現四個預定規則目標中的兩個或三個。例如，上頁圖5所示的神經網絡的程序代碼能夠正確判斷“0”“0”“0”“0”為無效數字，“1”“1”“1”“1”為數字0，“0”“1”“0”“1”為數字1，但在判斷“1”“0”“1”“0”時卻將其判定為數字0，與預設規則不符。那么，如果在神經網絡中增加神經元，能否讓學習效果變得更好呢？

圖6所示的是額外增加四個神經元到隱藏層中的神經網絡結構圖示，這樣就用到從1號到14號連續編號的共14個神經元組成為神經網絡。多次實驗可以發現，神經網絡的學習情況仍然不理想，添加神經元的效果非常有限。

然而，若將新增加的四個神經元設置成一個新的隱藏層，如圖7所示，神經網絡的學習能力就得到了明顯的提升，雖然有時候預定規則目標仍然不能達成，但稍許訓練幾次，就能生成達成所有四條預設規則目標的參數了。關于如何合理地假設神經網絡結構才能得到更好的自主學習效果，可以組織成為讓學習者自主探索的實驗活動。

有多個隱藏層的神經網絡，比只有單層隱藏層的神經網絡有更強大的函數學習能力。然而，如果不是利用計算機的反復迭代，人的頭腦很難通過單純的邏輯推斷，來確定略微復雜一些的神經網絡中神經元的被激發興奮閾值以及輸出權重值（至少筆者認為自己是難以僅靠邏輯推理作出推斷的）。從這里可以引出一個有趣的推論，如果人腦的神經網絡的工作過程的確和計算機的神經網絡工作過程相似，那么就會存在這種情況，盡管頭腦可以做出正確的判斷，但僅憑自己的邏輯思考，還是難以知道自己究竟是如何做出這樣的判斷的，這也暗示了，人的所謂的直覺也好，“只可意會，難以言傳”也好，其實都是有物理上的依據的。人造的神經網絡提示了真正人腦工作原理的一種可能性，當然也引出了更多有趣的問題，如若能將人造的神經元補充到人的頭腦中，是否就能使得人的智能得到提升，或者用以治愈阿爾茲海默癥等？當人造的神經元占據人腦的主導地位時，這個人是否仍然是原來的自己？人的所謂的“自我意識”是否就是一種由底層神經元計算模擬出來的“幻覺”？這些問題在當前自然還不會有明確的答案，但這些未知無疑能促使大家更多地去思考，去探索。

參考文獻：

陳凱.神經網絡自己搭[J].中國信息技術教育，2019（19）：25-27.