基于脈沖神經網絡的聚類算法研究

張振敏

(福建農林大學金山學院，福州　350002)

?

基于脈沖神經網絡的聚類算法研究

張振敏

(福建農林大學金山學院，福州350002)

結合脈沖神經元網絡的生物機制與改進的灰度共生矩陣算法，嘗試模擬大腦提取關鍵信息的能力，并且使用這些提取到的信息實現紋理圖像的分割。實驗結果表明：這種利用灰度共生矩陣算法訓練的脈沖神經元網絡可以有效地提取圖像的共生特征，并且可獲得較好的紋理圖像分割效果。

灰度共生矩陣；脈沖神經元網絡；特征提取；紋理聚類

clustering

紋理是區分一幅圖像中的物體或區域的重要指標[1]。紋理是指諸如粗糙、光滑或凹凸不平等觸覺信息[2]。紋理分析在紋理分類領域有著重要的地位，它被定義為利用數學進程提取紋理圖像中特征信息的算法，基于這種方法可以獲得很多空間結構信息。最近，很多紋理分析領域的重要研究成果相繼出現[3-5]。

因為圖像的隨機性和在準周期性及方向性方面的差異導致紋理分析是一個非常復雜的過程[6-7]。在很多情況下，統計學方法被用于紋理分析。這些方法提供了一幅圖像灰度的空間分布統計信息。GLCM算法在1970年由Haralick提出，是對一幅圖像中像素亮度值(灰度值)的不同組合頻次的表格統計[8]。這種方法逐漸成為了一種經典的統計學方法，同時也成為圖像紋理分析的支撐性算法[1]。

近年來，神經元網絡快速發展并且實現了在多方面的應用。首先，在生物機制方面，大量科研人員通過研究推進了相關理論，例如：Kuebler等[9]提出了混沌神經元網絡激勵信號的差異性；Xue等[10]研究了激勵型突觸和抑制型突觸的關系；Sadtler等[11]研究了一個現有的神經元網絡約束模型是否可以表示神經元子集的行為以及這種行為的生物原理是什么。另外，在實際應用方面，關于神經元網絡也有著廣泛的研究，例如：Kosik[12]將神經元網絡應用于阿茲海默癥的相關研究中；Beck等[13]將神經元網絡應用于生物監控；Nazemi等[14]利用神經元網絡方法解決了支持向量機的分類問題。

Hodgkin-Huxley脈沖神經元模型由Hodgkin和Huxley在1952年提出，可以很好地仿真生物神經元的行為[15]。但是由于該模型計算量龐大，如果應用在大型網絡模型中會進一步增加計算的復雜度，所以通常研究人員針對脈沖神經元網絡(spiking neuron network，SNN)中的單個神經元使用簡化的基于電導率的累積放電模型。首先，這個簡化后的模型結構非常接近于Hodgkin-Huxley模型結構；其次，在運算中計算量會大幅度下降。眾所周知，在人類視覺系統中，從初級視覺皮層中的細胞到視網膜和外側膝狀體核中的簡單細胞都有著不同的感受野。在視網膜中，信號傳輸的起始點是兩極細胞，最終信號會傳輸至神經節細胞[16-17]。

本文提出了一種利用改進的GLCM算法訓練的脈沖神經元網絡SNN-GLCM。由于待測試的紋理圖像尺寸較大，以及GLCM應用于神經元網絡時對窗口大小有限制，最終GLCM矩陣中個別單元由于過量累加而使得其值過大，同時這些單元相應的神經網絡中的神經元激發率也會過高。在這種情況下，傳統的GLCM算法必須被改進以適應該網絡訓練，同時避免以上問題出現。本文提出了一種新的機制來減少神經元網絡中神經元的激發率，同時使得訓練之后的激發率與靈長類大腦中的神經元激發率非常類似。這種方法也使得SNN模型在應用過程中適當忽略一些次要信息，使后續的特征提取和紋理分析著重于關鍵信息，另外計算效率也得到了大幅度提高。本文提出的網絡將被用于圖像紋理的分割。

1　灰度共生矩陣

灰度共生矩陣GLCMP定義為一個大小為M×N的圖像I在給定偏置(Δx，Δy)時的灰度共生值的分布狀態統計結果。當計算灰度圖像的GLCM矩陣時，首先應該定義窗口寬度、圖像的灰度級、偏置以及方向。一般窗口寬度可以設置為3×3，5×5或7×7，也可以根據實際的圖片大小進行設置。如果圖像的灰度級為L，那么該圖像的GLCM矩陣的維度將會是L×L。同樣，灰度級也可以根據實際情況和計算需求進行重新量化或調整。通常更大的窗口需要配備更大的偏置值。另外，方向性有4種不同的選擇方式：0°，45°，90°和135°。從數學的角度上來說，圖像I的GLCMP定義為：

(1)

其中：1≤i≤L； 1≤j≤L。

GLCM的窗口寬度、偏置和方向示意圖如圖1所示。

圖1　GLCM的窗口寬度、偏置和方向示意圖

在某些情況下，紋理計算時需要將GLCM的形式轉化為歸一化對稱矩陣，可參考文獻[4,6,18]。常用的GLCMP紋理測量參數定義如下：

角二階距(ASM)

(2)

能量(ENG)

(3)

對比度(CON)

(4)

差異性(DIS)

(5)

同質性(HOM)

(6)

最大概率(MAX)

MAX=maxPi,j

(7)

熵(ENT)(假設0*ln(0)=0)

(8)

均值(Mean)

(9)

方差(Variance)

(10)

相關性(Correlation)

(11)

其中i和j分別是GLCMP的行向量和列向量。

2　構建基于GLCM算法的脈沖神經元模型

本文基于GLCM算法，并結合視覺系統的生物機制，構建了一個脈沖神經元網絡，如圖2所示。構建該網絡的目標是最終通過網絡獲得關于圖像信號的紋理特征信息，基于這些信息最終實現圖像分類。

圖2　關鍵特征提取神經網絡SNN-GLCM

在圖2的脈沖神經元網絡模型中共有3個神經元陣列，這些陣列會由突觸電流引發脈沖信號。輸入神經元層的突觸電流來自神經元的光接收器，每一個光接收器都將圖像的像素亮度或灰度信息轉化為突觸電流[19-20]。該陣列的維度是M×N。陣列中的每一個神經元都被認為是一個光接收器，表述為IN(m,n)，m=1，…，M；n=1，…，N。假設fm,n(t)函數表示圖像像素的灰度值，光接收器將這些灰度值轉化輸出的突觸電流用Im,n(t) 表示，則該累積放電模型的Im,n(t)可用式(12)表示。

(12)

其中：α是轉化常數；τ是時間常數，表示突觸電流的衰減速率。神經元膜電壓vm,n(t)可用以下方程表示：

(13)

其中：gl是膜電導；El是反轉電勢；c表示膜電容；I0是背景噪聲。

如果膜電壓超過了門限值vth，那么神經元就發出一個脈沖，令Sm,n(t)表示這個神經元所產生的脈沖訓練：

(14)

該網絡模型的底層由橫向神經元陣列和縱向神經元陣列組成。如果圖像的灰度級為L，那么橫向和縱向神經元陣列中的神經元可以分別表示為HOUT(p,q)和VOUT(p,q)，其中：p=1,…,L；q=1,…,L。這2個神經元陣列通過激勵型突觸進行脈沖訓練。假設突觸強度為WHOUT(p,q)和WVOUT(p,q)，根據對稱性GLCM算法，突觸強度分布可以表示為：

其中：1≤p≤L； 1≤q≤L； 1≤m≤M； 1≤n≤N。

突觸電流IHOUT(p,q)(t)和IVOUT(p,q)(t)可以表示為：

(18)

(19)

神經元膜電壓可以表示為：

(20)

(21)

在2個輸出層中，神經元的脈沖訓練用SOUT(t)表示：

(22)

最終將獲得2個神經元陣列HOUT和VOUT，它們的激發率可用以下函數表示：

(23)

通過打印rOUT(m,n)(t)可以獲得激發率譜圖，它們對應于對稱橫向GLCM矩陣和縱向GLCM矩陣。

3　基于SNN-GLCM網絡提取圖像特征并分類

在實驗中，首先基于GLCM算法對Lena圖像進行測試。在圖像處理領域，Lena圖像作為基準圖像被廣泛使用。由于原始圖像的灰度級過高，所以首先將圖像量化為16級灰度圖以避免GLCM矩陣維度過大。圖3(a)是原始圖像，圖3(b)是16級量化圖像。

圖3　Lena原始圖像和16級量化圖像

針對上述16級量化圖像，設置窗口寬度為5×5，像素偏置為1，并使用歸一化對稱橫向GLCM 算法提取到圖像的部分紋理信息。圖4(a)～(f)是最終提取到的GLCM最大二階矩、熵、對比度、平均值、方差和相關性圖像。

圖4　GLCM紋理特征

在使用窗口GLCM算法時會產生邊緣問題。由于窗口內所有元素必須全部位于灰度圖像內，致使每一個窗口的中心像素無法位于圖像的4個邊帶。如果窗口的維度是n×n，則沿著圖像的邊緣有(n-1)/2像素帶寬未被處理。針對這種情況，常見的處理方法是在這些區域內填入最相鄰的紋理特征值。

本文中將利用Matlab軟件對所構建的脈沖神經元網絡SNN-GLCM進行仿真測試。在實驗中根據Euler方法，步長設置為0.1 ms。根據生物神經元特性將參數設置如下：vth=-60 mV，El=-70 mV，gl=1.0 μs/mm2，c=8 nF/mm2，τ=16 ms，T=400 ms，α=0.02，β=4.3，I0=7 μA。

在該實驗中，首先從標準紋理庫Brodatz album 中選取了一些待測試的紋理圖像[21]。每個測試樣本的大小為256×256。之后將這些樣本依次輸入SNN-GLCM網絡。網絡通過運算輸出每個樣本的橫向和縱向GLCM矩陣，并計算出各個樣本的二階矩、對比度、熵、平均值、方差和相關系數。這些計算結果將被看作每個測試圖像的特征值。基于這些特征值和k-means算法，最終實現了紋理分割。實驗結果如圖5所示。

從結果可以看出：本文中所提出的基于SNN-GLCM網絡的圖像分割算法可以很好地實現圖像分割，同時可以精確定位圖像邊界。

圖5　基于SNN-GLCM網絡針對5幅圖像的

4　結束語

本文提出了一個結合生物機制和GLCM算法的脈沖神經元網絡來提取視覺圖像的特征信息。基于獲得的特征信息，最終很好地實現了紋理圖像的分割。

[1]HARALICK R M,SHANMUGAM K,DINSTEIN I H.Textural features for image classification[J].IEEE Trans Syst Man Cybern,1973,3(6):610-621.

[2]TAMURA H,MORI S,YAMAWAKI T.Textural features corresponding to visual perception[J].IEEE Trans Syst Man Cybern,1978,8(6):460-473.

[3]BERGOUNIOUX M.Second-order variational models for image texture analysis[J].Advances in Imaging and Electron Physics,2014,181:35-124.

[4]BENCO M,HUDEC R,KAMENCAY P,et al.An advanced approach to extraction of colour texture features based on GLCM[J].International Journal of Advanced Robotic Systems,2014,11(1):129-163.

[5]MIRZAPOUR F,GHASSEMIAN H.Using GLCM and Gabor filters for classification of PAN images[C]// 21st Iranian Conference on Electrical Engineering.Iran:Electrical Engineering,2013:1-6.

[6]ZHANG J,LI G L,HE S W.Texture-based image retrieval by edge detection matching GLCM[J].IEEE Computer Soc,2008,22:782-786.

[7]王衛星,楊記明.一種基于圖像處理的巖石裂隙粗糙度幾何信息算法[J].重慶郵電大學學報(自然科學版),2010,22(4):454-457.

[8]BENCO M,HUDEC R.Novel method for color textures features extraction based on GLCM[J].Radioengineering,2007,16(4):64-67.

[9]KUEBLER E S,BONNEMA E,CORRISTON J,et al.Stimulus discrimination in networks of spiking neurons[C]//2013 International Joint Conference on Neural Networks.Dallas:Ablex Pub.Corp.,2013:1-8.

[10]XUE M S,ATALLAH B V,SCANZIANI M.Equalizing excitation-inhibition ratios across visual cortical neurons[J].Nature,2014,511(7511):596-600.

[11]SADTLER P T,QUICK K M,GOLUB M D,et al.Neural constraints on learning[J].Nature,2014,512(7515):423-426.

[12]KOSIK K S.Study neuron networks to tackle Alzheimer’s[J].Nature,2013,503(7474):31-32.

[13]BECK M W,WILSON B N,VONDRACEK B,et al.Application of neural networks to quantify the utility of indices of biotic integrity for biological monitoring[J].Ecological Indicators,2014,45(5):195-208.

[14]NAZEMI A,DEHGAN M.A neural network method for solving support vector classification problems[J].Neurocomputing,2015,152:369-376.

[15]HODGKIN A L,HUXLEY A F.The dual effect of membrane potential on sodium conductance in the giant axon of Loligo[J].The Journal of physiology,1952,116(4):497-506.

[16]MASLAND R H.The fundamental plan of the retina[J].Nature Neuroscience,2001,4(9):877-886.

[17]SCHULTZ S K.Principles of neural science[J].American Journal of Psychiatry,2001,158(4):662.

[18]SAROJA G A S,SULOCHANA C H.Texture analysis of non-uniform images using GLCM[C]//2013 IEEE Conference on Information and Communication Technologies.Gulin:Information and Communication Technologies,2013:1319-1322.

[19]ZHANG Z M,WU Q X,ZHUO Z Q,et al.Fast wavelet transform based on spiking neural network for visual images[J].Communications in Computer and Information Science,2013,375:7-12.

[20]ZHANG Z M,WU Q X,ZHUO Z Q,et al.Wavelet transform and texture recognition based on spiking neural network for visual images[J].Neurocomputing,2015,151(3):985-995.

[21]BRODATZ P.Texture:A Photographic Album for Artists & Designers[M].New York:Dover Publications,1966.

(責任編輯楊文青)

Clustering Algorithm Based on Spiking Neural Network

ZHANG Zhen-min

(Jinshan College of Fujian Agriculture and Forestry University, Fuzhou 350002, China)

Based on gray level co-occurrence matrix algorithm of biological mechanisms and improvement of the neural network of the pulse, we tried to simulate the brain’s ability to extract key information and used these to extract information of texture image segmentation. The experimental results show that the use of pulse the graylevel co-occurrence matrix algorithm for training neural networks can effectively extract the image of the symbiotic characteristics of texture image segmentation and gain good results.

grey-level co-occurrence matrix; spiking neuron network; feature extraction; texture

2016-01-15

福建省中青年教師教育科研項目(JB13286)

張振敏(1982—),女,湖南長沙人,博士,講師,主要從事神經網絡和模式識別方面的研究，E-mail:min1011@126.com。

format：ZHANG Zhen-min.Clustering Algorithm Based on Spiking Neural Network[J].Journal of Chongqing University of Technology(Natural Science)，2016(8):99-104.

10.3969/j.issn.1674-8425(z).2016.08.016

TP183

A

1674-8425(2016)08-0099-06

引用格式：張振敏.基于脈沖神經網絡的聚類算法研究[J].重慶理工大學學報(自然科學)，2016(8):99-104.