夏浩杰,肖 劍,盛 亮
(江蘇大學電氣信息工程學院,江蘇鎮江 212013)
1990 年,Eckhorn 等[1]發現了貓視覺皮層的神經元同步振蕩性;之后Johnson 等[2]基于此提出了脈沖耦合神經網絡(Pulse Coupled Neural Network,PCNN),并將其應用于圖像處理。PCNN 作為一種接近生物學的第三代人工神經網絡,具有同步脈沖、動態閾值和脈沖耦合高等優良特點。Zhan 等[3]對PCNN 進行了全面綜述,深入分析了PCNN 的計算原理。如今,PCNN 在圖像分割[4]、圖像去噪[5]、圖像融合[6]、圖像邊緣檢測[7]等領域均有著廣泛應用。雖然PCNN是由參數控制的網絡模型,但是它的固有參數估計問題被認為是影響圖像處理性能的重要原因。如果設置的人工參數不合適,PCNN 的處理效果就會變得很差。基于此,Li等[8]提出了一種自適應參數的確定策略,并成功實現了圖像分割任務。文獻[9]中,連接參數的改變取決于輸入刺激的清晰度。但是,這些自適應參數設置方法都是由計算機仿真得到的,會產生執行時間長和效率低下等問題。因此,在PCNN 硬件層次上實現自適應動態參數是非常值得研究的方向。
1971 年,Chua[10]首次提出了第4 種電路元件,也即憶阻器,它首次標明了電荷和磁通之間的關系。2008 年,HP實驗室宣布首次實現了物理層面的憶阻器,為后續研究奠定了堅實的基礎[11]。隨著科技的發展,基于各種材料的憶阻器被研制出來。如今,憶阻器已廣泛應用于神經網絡、圖像處理、電阻存儲等各種計算機科學領域[12-13]。憶阻器具有的非易失性、記憶性和納米級結構等優良特性,將對神經網絡硬件化發展產生巨大的推動作用。
隨著現代信息社會數據量的飛速增長,需要處理的圖像復雜度越來越高。文獻[14]提出基于憶阻器的神經網絡可以依靠電流和電壓的關系實現計算加速,在圖像處理領域具有非常廣闊的應用前景。傳統PCNN 網絡硬件化模型實現龐大且復雜[15],鑒于此,本文提出基于憶阻器的改進PCNN 網絡,實現了閾值發生器的閾值動態更新和連接參數的自適應動態變化。
經典憶阻器的物理結構如圖1 所示,它由兩個鉑電極之間的兩層二氧化鈦組成。

Fig.1 Physical structure model of amnesia resistor圖1 憶阻器物理結構模型
其中,D 為二氧化鈦薄膜層,該薄膜層分為2 層。缺少部分氧原子的薄膜層叫作摻雜層,用w 表示;另外一層純二氧化鈦層叫作未摻雜層;D 表示薄膜層的總厚度。在接入電源后,摻雜層與未摻雜層之間的寬度會產生變化,從而影響整體電阻變化。則憶阻器的阻值可表示為:

式(1)中,RL是x=0 時的極小憶阻值,RH是x=1 時的極大憶阻值。其中x=w/D,它是在[0,1]范圍內的活動狀態變量。從式(2)中可以看出,理想狀態下,摻雜層邊界的移動速率和經過憶阻器的電流是線性關系。其中,μv是離子的平均遷移率,因此式(2)是憶阻器的線性漂移模型。
Gale[16]在2014 年提出了摻雜層的電阻會隨時間而變化的觀點。則摻雜層的移動速率可以表示為:

式(3)中,將式(2)的RH用R(t)代入。之后將式(3)積分并將式(1)代入得:

計算得:

當w=0,q=0 時,可以計算出c:

將c的值代入式(5),得:

由式(8)得到憶阻器模型,之后對該模型系統進行離散化。使用T 作為最小采樣周期,可以得到:

外部施加一個恒直流I接通到憶阻器上,可以得到憶阻器的迭代公式:

最后設置模擬參數:RH=100Ω,RL=160Ω,μv=1*10-4m2s-1v-1,D=1× 10-3m。將直流電流I=1mA 施加到憶阻器上。可得到v-t曲線,如圖2 所示。

Fig.2 v-t curve of the exponential amnesic resistor圖2 指數憶阻器的v-t 曲線
PCNN 模型對生物學行為的模仿性更高,并且PCNN 不需要學習和訓練就能從復雜的背景中提取出有效信息,因此在圖像處理方面PCNN 有著更為優良的特性。經典PCNN 網絡模型一共分為4 部分:輸入模塊、連接模塊、脈沖發生器和閾值發生器[17],如圖3 所示。
接受域由輸入信號和連接輸入信號組成。輸入信號接收外部輸入信號的激勵,即Sij,連接輸入信號用來接受相鄰神經元的輸入。式(10)、式(11)中,(i,j)表示每個神經元的位置,(k,l)指相鄰神經元的位置。在PCNN 圖像處理過程中,坐標代表圖像每個像素點的位置。αf和αl是衰減時間常數,Vf和Vl分別是輸入信號Fij和連接輸入信號Lij的放大系數,M和W是突觸權重矩陣,Ykl是上一次迭代相鄰神經元的輸出。

Fig.3 PCNN model framework diagram圖3 PCNN 模型框架

在連接模塊,將輸入信號和連接輸入信號進行耦合調制,得到神經元的內部狀態信號,即神經元的內部狀態信號Uij由Fij和Lij非線性組合而成,β是放大連接輸入影響的系數。

在脈沖發生器部分,脈沖的產生取決于神經元的內部狀態信號Uij是否大于動態閾值θij。式(14)中,當Uij大于θij時,神經元發生放電現象,從而輸出脈沖。神經元的這種行為被稱為點火。

在閾值發生器部分,閾值的電位會隨著迭代過程逐漸衰減。當Uij>Yij時,Yij=1,閾值θij會很快被提高到一個較大的值。當θij大于Yij時,脈沖發生器關閉,則輸出信號Yij=0。閾值開始呈指數型下降,下降到一定數值時又會導致脈沖發生器打開。該過程會一直循環到迭代次數結束為止。

上式給出了經典的脈沖耦合神經網絡框架。任何接受外部刺激的神經元在第一次迭代中都會被激活,產生一個大的閾值電位。接下來,需要數次迭代才能使閾值衰減到足以再次激活神經元。
根據憶阻器模型的v-t 曲線可知,憶阻值會在外部激勵下隨時間指數衰減[18]。如果在沒有動態更新的情況下,將無法重新發送閾值電位。本文基于憶阻器設計了PCNN的閾值發生器電路,可以動態調整PCNN 的閾值。動態閾值發生器電路設計如圖4 所示。
該電路在憶阻器的基礎上使用NMOS 和PMOS 構成了一對互鎖式電路。從式(14)可得,當電路沒有脈沖輸入時(即Yij(n-1)=0),NMOS 關閉并且PMOS 打開。這時一個正的恒定電流I1通過憶阻器,讓憶阻器的憶阻值開始呈指數衰減。因此,閾值電位θij也開始呈指數衰減。當有一個脈沖輸入(Yij(n-1)=1)進入電路時,NMOS 打開且PMOS關閉。同時,一個大的負的恒定電流I2通過憶阻器,讓憶阻迅速上升到一個較大的值,因此閾值電位也會升高到一個很大的值,從而導致NMOS 關閉且PMOS 打開,這時憶阻器的阻值和閾值電位又會開始呈指數衰減。

Fig.4 Dynamic threshold generator circuit圖4 動態閾值發生器電路
在傳統的PCNN 網絡模型中,連接參數β是由人工設置的固定參數,而修改此參數會對該網絡的圖像邊緣檢測效果產生很大影響,如果參數設置不適合會導致輸出效果變得很差。本文使用兩個憶阻器反向并聯重構了神經元連接參數的輸出電路,讓神經元之間的的連接強度可以根據外部輸入刺激的大小自適應調整變化,如圖5 所示。

Fig.5 Adaptive connection parameters framework圖5 自適應連接參數框架
由于憶阻器的憶阻值可以隨輸入電流變化,由圖可得式(15)。將可變電流源I作為電路的輸入,I由外部輸入Sij和映射函數f決定。憶阻電路則將外部輸入刺激的大小和連接參數β直接相關聯,既減少了模型相關參數,又能讓連接系數的表達更加簡單。

邊緣是圖像最重要的特征之一,圖片大部分重要信息都集中在邊緣部分[19]。基于本文基于憶阻器的PCNN 網絡模型,可以實現圖像邊緣檢測,并能夠獲得優良的檢測效果。M-PCNN 模型處理圖像邊緣流程如圖6 所示。
將圖像輸入M-PCNN 模型時,對應的神經元會發出脈沖,接著會通過連接突觸激發相鄰神經元產生脈沖,即尖峰神經元會將刺激傳遞給鄰近的神經元,促使它們釋放脈沖[20]。因此,對于一個神經元簇,任何一個尖峰神經元的刺激行為都會觸發整個簇的集體尖峰行為。

Fig.6 M-PCNN edge detection flow圖6 M-PCNN 邊緣檢測流程
基于本文提出的M-PCNN 模型,在MATLAB 上進行仿真實驗,將該模型應用于圖像邊緣檢測任務,并與其他算法的邊緣檢測效果進行對比,結果如圖7 所示。
從不同算法的邊緣檢測圖可以看出,相對于傳統的邊緣檢測算法,基于憶阻器的PCNN 模型在邊緣檢測中具有較高性能,有效地抑制了圖像背景噪聲的干擾,在有著完整輪廓的同時,又保留了邊緣處的細節。此外,利用憶阻器改進PCNN 模型后,圖像處理的迭代次數有效減少,與傳統PCNN 模型相比,圖像處理效率提高了13%。
由上述實驗結果可以得出,M-PCNN 模型提取圖像邊緣相對于其他方法可以獲得更豐富的邊緣信息,輸出效果明顯優于傳統的邊緣檢測算法。同時,在實驗過程中發現,在邊緣提取中,邊緣不是提取得越多,效果就越好。因此,要設置適當的憶阻器參數以獲得合適的邊界條件。
本文在具體的理論和公式推導基礎上,探討出了一種更加實用的憶阻器模型,建立了憶阻和電流的映射關系,并利用憶阻器設計了閾值發生器的電路結構,可以實時動態改變閾值電位。此外,針對傳統PCNN 模型存在的固有參數估計問題,通過反向并聯憶阻器模擬連接系數β隨外部輸入信號變化,讓神經元之間的模擬連接更加逼近生物學的范疇。最后,通過MATLAB 仿真將該模型應用于圖像邊緣檢測任務,并與其他算法輸出結果對比,證明了該模型在圖像邊緣檢測任務中有著更加優越的性能和實用性。
通過對脈沖耦合神經網絡和憶阻器的深入研究,對PCNN 硬件化構建和自適應參數設置方法有了更深的認識。但仍然存在一些不足:①本文所提出的自適應參數設置方法過于依賴圖像的外部輸入激勵,沒有足夠地展現出生物神經網絡的特性,接下來將作進一步研究,使連接參數設置更加合理;②對于憶阻器模型的自身數學特性分析不夠全面,不能很好地揭示憶阻器模型的全部特性。因此,在后續研究中,將針對憶阻器的記憶和離散特性作進一步研究與分析。
隨著憶阻器研究的不斷深入,人們對生物神經網絡的認知也在不斷地迭代和進步。因此,應實時關注憶阻器和生物神經學的新發現,進一步優化網絡模型,使得憶阻器能夠更好地與神經網絡相結合,促進圖像處理技術發展。