鄭偉范, 張繼業
(西南交通大學牽引動力國家重點實驗室,四川成都,610031)
具有無窮時滯高階模糊Cohen-Grossberg神經網絡的穩定性
鄭偉范, 張繼業
(西南交通大學牽引動力國家重點實驗室,四川成都,610031)
利用M矩陣理論和矩陣不等式、矢量Lyapunov函數法,研究了一類具有無窮時滯的高階模糊Cohen-Grossberg神經網絡的全局指數穩定性.在不要求神經網絡激活函數的單調遞增性、可微性及Lipschitz連續等假設條件下,得到了該類神經網絡平衡點的存在性和唯一性,以及全局指數穩定性的代數判據.該判據為M矩陣的顯式形式,與系統的時間滯后以及反應擴散無關,易于在應用中進行檢驗.最后,通過仿真算例,驗證了該方法的正確性和有效性.
神經網絡;時間滯后;穩定性;M矩陣
自1983年M.A.Cohen與S.Grossberg提出可用于聯想記憶與并行計算的神經網絡以來[1],由于其較好的學習和非線性逼近能力,可以應用于解決模式分類、圖像處理、線性規劃、信號處理以及復雜優化問題等,使得Cohen-Grossberg神經網絡得到了深入的研究和廣泛應用.然而,神經網絡的這些應用依賴于其動力學行為,如穩定性行為等.如對于聯想記憶神經網絡,應具有多個與需要存儲的記憶模式對應的平衡點,且這些平衡點都是穩定的.而用于優化計算的神經網絡在理想情況下是有且只有一個全局穩定的平衡點,且其平衡點一般對應于具有物理意義的某一最優途徑.因此,構造神經網絡的目的是通過網絡解的漸進性,使其趨于平衡點,從而找到最優途徑[2].通常情況下,神經網絡的平衡點是事先不知道的.平衡點的存在性成為神經網絡的重要問題之一,且也是穩定性研究的前提.因此,神經網絡的設計與應用之前均需要分析其網絡系統的平衡點的存在性和穩定性,已有許多文獻討論了神經網絡的定性行為[3-14].一般來說,人工神經網絡系統模型由積分-微分等數學方程表示.而用數學模型來表示現實世界問題時,經常會碰到諸如復雜性、不確定性和模糊性等問題.為了考慮實際的不確定性和模糊性,Yang T.等人首先將模糊邏輯引入神經網絡系統中[15],隨后出現了大量考慮模糊性對神經網絡系統定性行為的影響結果,如文獻[13,16]討論的結果.
在神經網絡的實際設計過程,以及VLSI(very large scale integration)的硬件實現過程中,神經網絡通常由于存在不同大小和長度的神經軸突組成的并行路徑而具有空間特性,由于電子擴散或信號傳輸延遲等的存在,沿并行路徑的傳播并不是即時完成的,因而導致系統存在連續分布的時間滯后.從系統狀態變化來看,即時間滯后導致當前狀態會受到之前狀態的影響;可能會出現系統的整個歷史狀態會影響當前的狀態,這樣的時間滯后即為無窮時滯的情況[4,6-7,9,14,16].而由于時間滯后的引入會很大程度地影響系統的穩定性,甚至導致系統不穩定[3-4],因而有必要對具有無窮時滯的神經網絡系統進行定性分析.最近的一些文章得到了一些具有時間滯后的神經網絡系統的定性分析結果,如文獻[3-4]研究了具有時變時滯的一階神經網絡的穩定性;文獻[6]研究了具有時變時滯和無窮時滯的一階模糊Cohen-Grossberg神經網絡的指數穩定性;文獻[7]在文獻[6]的基礎上,進一步考慮反應擴散的影響,得到了系統穩定性的結果.
與一階等低階神經網絡系統比較起來,高階神經網絡[5]具有逼近能力強、收斂速度快、存儲能力大及容錯性高等特點,使得高階神經網絡系統的研究受到廣泛關注[8-14].文獻[8]研究了具有時變時滯高階聯想記憶的Cohen-Grossberg神經網絡周期解的穩定性,但在高階項中不含有時變時滯;文獻[9]考慮了離散時滯和分布時滯的影響,研究了具有離散時滯和分布時滯高階神經網絡的穩定性;文獻[10,14]分別研究了具有時變時滯和S型無窮時滯的Hopfield型高階神經網絡的穩定性,得到了指數穩定的判據;文獻[11-12]研究了具有時變時滯的高階Cohen-Grossberg神經網絡的穩定性;文獻[13]研究了具有反應擴散項、時變時滯項和隨機影響的高階模糊Cohen-Grossberg神經網絡的同步條件;不僅如此,文獻[16]進一步考慮了脈沖、隨機性,以及反應擴散項對神經網絡系統穩定性的影響,針對一階神經網絡模型,研究了具有時變時滯和無窮時滯的模糊Cohen-Grossberg神經網絡系統穩定性的影響,得到了指數穩定性的判據.
綜上所述,現有文獻對于一階的神經網絡系統,考慮了無窮時滯影響的穩定性判據結果已經比較多,但是對于高階Cohen-Grossberg神經網絡系統研究的文獻多數考慮了時變時滯的影響,較少考慮無窮時滯的影響.本文在文獻[3-4,6-7,16]等具有無窮時滯的一階神經網絡的穩定性結果的基礎上,考慮無窮時滯對高階神經網絡穩定性的影響,討論帶有反應擴散項的具有無窮時滯的高階模糊Cohen-Grossberg神經網絡平衡點的存在性及其全局穩定性,在不要求神經網絡激活函數的嚴格單調增或全局Lipschitz連續等條件,只需在滿足上確界條件的情況下,利用M矩陣理論、矩陣不等式,矢量Lyapunov函數法,得到了該類神經網絡系統指數穩定的充分條件.得到的結果獨立于系統的時間滯后,推廣了現有文獻的一些結果.
結合無窮時間滯后,模糊和反應擴散項的影響,本文考慮如下微分-積分方程描述的具有無窮時滯的高階模糊Cohen-Grossberg神經網絡模型:

式中:ui為第i個神經元的狀態變量;n為神經元的個數,i=1,2,…,n;aij為常數,j=1,2,…,n;Dil(t,x,ui(t,x))≥0為反應擴散函數;xl為空間變量,l=1,2,…,m;A=(aij)n×n為一階連接權矩陣;為模糊反饋項連接權系數;J=(J1,J2,…,Jn)T為輸入向量;f(u)=(f1(u1),f2(u2),…,fn(un))T,g(u)=(g1(u1),g2(u2),…,gn(un))T和h(u)=(h1(u1),h2(u2),…,hn(un))T為神經元激活函數;“∧”和“∨”分別為模糊邏輯中的“與”和“或”操作;di(ui)為系統的放大函數;ρi(ui)為保持系統(1)有界的適當行為函數;τij(t)和τik(t)為有界的時變時滯函數,0≤τij(t),τik(t)≤τ,其中,i,j,k=1,2,…,n;核函數kij∶[0,∞)→[0,∞)為[0,∞)上的分段連續函數,令k=(kij)n×n,包含該核函數的無窮積分項表示無窮時間滯后.
系統(1)的核函數需要滿足假設A和B:
假設Ai,j=1,2,…,n.
假設B+∞,i,j=1,2,…,n,β≥0.
為了研究系統(1)的指數穩定性,進一步要求核函數滿足如下包含了假設A和B[4]的假設C:
假設C…,n.這里的Nij(β)是[0,δ),δ>0上的連續函數,且Nij(0)=1.方程(1)的初始條件為ui(s)=φi(s),s≤0,φi在(-∞,0]上有界連續.方程(2)是方程(1)的邊界條件,其中是光滑邊界的一個緊集,且mes Ω>0,?Ω是Ω的邊界,t∈I=[0,+∞).


因此,系統(3)與(1)具有相同的穩定性特性.對系統(1)的激活函數和放大函數,作如下假設:
假設D對于任意j∈{1,2,…,n},fj∶R→R,gj∶R→R和hj∶R→R,存在實數pj>0,qj>0,rj>0,Mi>0,使得激活函數滿足Lipschitz常數的上確界,即


其中Mk為假設D中定義的常數.
假設E對任意i∈{1,2,…,n},ei∶R→R是嚴格單調遞增的,即存在一個正的對角矩陣ˉρ=diag(ρ1,ρ2,…,ρn)使得下式成立:
[ρi(u)-ρi(v)]/(u-v)≥ρi, u≠v.
假設F對任意i∈{1,2,…,n},di∶R→R是連續函數,且0<σi≤di,其中σi為常數.
假設G(文獻[10]的假設2及注釋2) 對任意,且與激活函數獨立.
本節利用M矩陣、不等式、同胚映射等理論方法,討論神經網絡系統(1)的平衡點的存在性與唯一性.為方便討論,引入如下的一些定義及引理.
定義1[4]對于系統(1)的平衡點u*(t),如果存在常數λ>0和η>0,使得對所有t>0,式

成立,,則稱系統(1)的平衡點為全局指數穩定的.
定義2[17]實矩陣A=(aij)稱為M矩陣,如果aij≤0,i,j=1,2,…,n,i≠j,aii>0且A的所有主子式為正.
n

則由于?u*i/?x=0,系統(4)與(3)具有相同的平衡點.因此,系統(4)與(1)具有相同的平衡點.
首先考察與系統(1)相關的如下非線性映射:

令H(u)=(H1(u1),H2(u2),…,Hn(un))T,則系統(5)與系統(1)具有相同的平衡點,即H(u)=0的解是系統(1)的平衡點.如果映射H(u)=0是Rn上的同胚映射,則系統(1)具有唯一的平衡點u*[2].下面討論保證H(u)=0為同胚映射的條件.
引理1[4]如果H(u)∈C0滿足如下兩個條件,則H(u)是Rn上的同胚映射.
(1)H(u)是Rn上的單射;(2)當時
引理2[15]假設x與y是神經網絡系統(1)的兩個狀態變量,則

引理3[8]對于平衡點u*=(u1*,u2*,…,u*)T,且g∶R→R連續可微,則有下式成立:
ni

式中:ξk位于uk與uk之間.
因此,由引理2和引理3,可得如下引理:
引理4假設x與y是系統(1)的兩個狀態變量,則由引理2和引理3可得:

定理1 設高階神經網絡系統(1)的滿足假設D、E、F和G,如果
證明 為了證明對任意的輸入J,高階神經網絡系統(1)存在唯一平衡點u*,只需證明H(u)是Rn上的同胚映射.如下分兩步證明.
步驟1 首先證明上述引理1中的條件(1)成立.如果該條件不成立,則存在不相等的狀態標量x≠y,x,y∈Rn使得H(x)=H(y).
使得ρi(xi)-ρi(yi)=βi(xi-yi)對于任意i=1,2,…,n成立.由方程式(5)可得:

再由假設D、E、F和G,可得如下不等式成立:

由引理2和4,可得如下不等式成立:


式中:En為單位矩陣.
通過計算

由式(9)及Schwartz不等式,可得

由上述兩個步驟的證明,根據引理1,對于任意輸入J,H(u)是Rn上的同胚.因此,高階神經網絡系統(1)存在唯一的平衡點u*.
證畢.
本節利用矩陣不等式、矢量Lyapunov方法,分析高階神經網絡系統(1)的全局指數穩定性.
定理2設系統(1)的滿足假設D、E、F和G,如果為M矩陣,則對任意的輸入J,高階神經網絡系統(1)存在的唯一平衡點為指數穩定的.
證明 由于α為M矩陣,由定理1可知,高階神經網絡系統(1)存在唯一平衡點u*.令z(t)=u(t)-u*,設

則高階神經網絡模型(1)可寫為如下形式,

其中:

根據假設D以及假設G,可得:

式中:#=1,2.
方程(11)的初始條件為ψ(s)=φ(s)-u*,s≤0,且z=0為其平衡點.因此,根據假設D,可得:


由假設F可知,0≤σi≤di(zi(t)+u*i).顯然可得di(zi(t)+u*i)/σi≥1.
因此,存在常數λ>0,使得如下不等式成立,

式中:τ是系統(1)滿足假設條件的常數.



由式(11)和(14),根據假設D和G、引理4、邊界條件(2)以及mes Ω>0,可得計算如下:



其中:η=(1+δ)ξmax/ξmin,易見η>1.由指數穩定的定義1,高階神經網絡系統(11)的零解是全局指數穩定的,即對應的高階神經網絡系統(1)的平衡點是全局指數穩定的.證畢.
注1本文中的激活函數只需滿足假設D引入的Lipschitz常數的上確界,該條件不要求激活函數可微性、單調遞增性和Lipschitz連續,擴展了系統的應用范圍.因此,分段線性和S型激活函數都是滿足假設D的激活函數的特殊情況.
注2上述結果包含了最近一些文獻的研究結果.如果二階激活函數,則系統(1)成為一般的模糊Cohen-Grossberg神經網絡系統,如文獻[7]中的神經網絡系統;進一步如果反應擴散項為零,即Di(t,x,ui)=0,則系統(1)如文獻[6]中討論的系統一樣.進一步如果放大函數di(ui)為零,則系統為文獻[15,2-4]研究的一般意義上的細胞神經網絡系統.
注3 若取無窮時滯項系數c(ijk1)=0與c(ijk2)=0,則高階神經網絡系統成為不含無窮時滯,而只含有時變時滯的神經網絡系統,如文獻[8,11-13]中系統一致,換句話說,上述文獻的神經網絡系統只是本文研究系統的特殊情況.因而,本文的結論都可以應用于這些文獻的系統.
注4 如果同時取反應擴散項為零,即Di(t,x,ui)=0,無窮時滯項系數c(ijk1)=0與c(ijk2)=0,且di(ui(t))=1,則系統變為文獻[10]研究的具有時變時滯的Hopfield型高階神經網絡系統;因此,本文的結果也可以應用于Hopfield型神經網絡系統的情況.
例1 考慮如下三維無窮時滯模糊高階Cohen-Grossberg神經網絡系統,即對于系統(1),取n=3;m=1;i,j,k=1,2,3.其余參數與取值如下:

假設系統的模糊關聯矩陣分別如下:


可以計算得到

由定義2知α為M矩陣,由定理2知,具有上述參數的神經網絡系統(1)存在唯一穩定平衡點,且是全局指數穩定的.
由此可知,算例1的高階神經網絡系統若不考慮模糊的影響,取無窮時滯項為0,反應擴散項為零,以及放大系數di(ui(t))=1時,則系統為文獻[10]的算例1表示的高階神經網絡系統(用其文獻中的D(1)i為本文系統(1)中的c(1)i=c(2)i),然而用該文獻中的方法則不能得到本文系統(1)的判定;而且,本文得到的判據更直觀,而不是LMI方法得到的隱性判據,應用中便于檢驗.
高階神經網絡,與一階等低階神經網絡系統相比,具有更快的收斂速度、更強的逼近能力、更大的存儲能力及更高的容錯性等優點,使其成為當前研究的熱點.本文主要基于M矩陣理論,以及泛函同胚理論,不要求高階神經網絡系統的激活函數具有單調遞增性、可微性及Lipschitz連續性等條件,只需滿足Lipschitz常數的上確界的條件下,研究了一類具有無窮時滯的模糊高階Cohen-Grossberg神經網絡的平衡點的存在條件.進一步利用M矩陣理論、矩陣不等式方法、矢量Lyapunov函數法相關理論,通過構造適當的Lyapunov函數,引入適當的曲線,得到了該類模糊高階神經網絡的全局指數穩定性的充分條件.得到的代數判據推廣了現有大多數神經網絡,如含有模糊項、不含模糊項細胞神經網絡,以及一階神經網絡的穩定性結果.該判據獨立于系統的時間滯后,而且是顯式判據,便于在應用中檢驗.仿真算例結果驗證了結論的正確性和有效性.得到的判據與反應擴散項無關,沒有體現反應擴散的影響,具有一定的保守性,下一步可以進一步研究反應擴散相關的模糊高階神經網絡的穩定性.
[1] COHEN M A,GROSSBERG S.Absolute stability and global pattern formation and parallel memory storage by competitive neural networks[J].IEEE Trans.Syst.Man Cybern.,1983,13(5):815-825.
[2] FORTI M,TESI A.New conditions for global stability of neuralnetworkswithapplicationtolinearand quadraticprogrammingproblems[J].IEEETrans.Circuits Syst.I,1995,42(7):354-366.
[3] CIVALLERI P P,GILLI M,PANDOLFI L.On stability of cellular neural networks with delay[J].IEEE Trans.Circuits Syst.I,1993,40(3):157-164.
[4] ZHANG JIYE,SUDAY,IWASAT.Absolutely exponential stability of a class of neural networks with unbounded delay[J].Neural Networks,2004,17(3):391-397.
[5] MILENKOVIC S,OBRADOVICZ,LITOVSKIV.Annealing baseddynamiclearninginsecond-order neural networks[C]∥IEEE International Conference on Neural Networks.Washington D.C.:IEEE,1996:458-463.
[6] 龍蘭,徐曉惠,張繼業.時滯Cohen-Grossberg神經網絡的全局穩定性[J].西南交通大學學報,2008,43(3):381-386.LONG Lan,XU Xiaohui,ZHANG Jiye.Global stability analysisofCohen-Grossbergneuralnetworkswith unboundedtimedelays[J].JournalofSouthwest Jiaotong University,2008,43(3):381-386.
[7] 施繼忠,徐曉惠,張繼業.擴散反應脈沖Cohen-Grossberg神經網絡的魯棒穩定性[J].西南交通大學學報,2010,45(4):596-602.SHI Jizhong,XUXiaohui,ZHANGJiye.Robust stability of impulsive Cohen-Grossberg neural networks with reaction-diffusion terms[J].Journal of Southwest Jiaotong University,2010,45(4):596-602.
[8] KE Yunquan,MIAO Chunfang.Periodic solutions for high-order Cohen-Grossberg-type BAM neural networks with time-delays[C]∥ISNN 2011,PartⅠ,LNCS 2011.[S.l.]:Springer-Verlag,6675:375-384.
[9] WANG Zidong,FANG Jian'an,LIU Xiaohui.Global stability of stochastic high-order neural networks with discrete and distributed delays[J].Chaos,Solitons and Fractals,2008,36(2):388-396.
[10] ZHENGChengde,ZHANGHuaguang,WANG Zhanshan.Novel exponential stability criteria of highorder neural networks with time-varying delays[J].IEEE Trans.Syst.ManCybern-B:Cybernetics,2011,41(2):486-496.
[11] REN Fengli,CAO Jinde.Periodic solutions for a class of higher-order Cohen Grossberg type neural networks with delays[J].Computers and Mathematics with Applications,2007,54(6):826-839.
[12] JI Yan,CUI Baotong.Novel stability analysis of highorder Cohen-Grossberg neural networks with timevarying delays[C]∥Proceedings of the 26th Chinese Control Conference.Zhangjiajie:[s.n.],2007:176-180.
[13] YANPing,LüTeng,LEIJingsheng,etal.Synchronization of fuzzy high-order Cohen-Grossberg neuralnetworkswithreaction-diffusiontermand time-varying[J].Journal of Computational Information Systems,2011,7(11):4145-4152.
[14] WANG Yangfan,LU Chunge,JI Guangrong,et al.Global exponential stability of high-order Hopfield-type neuralnetworkswithS-typedistributedtime delays[J].Commun.NonlinearSci.Numer.Simulat.,2011,16(8):3319-3325.
[15] YANG Tao,YANG Linbao.The global stability of fuzzy cellular network[J].IEEE Trans.Circuits Syst.I,1996,43(10):880-883.
[16] WANG Changhong,KAO Yonggui,YANG Guowei.Exponential stabilityofimpulsivestochasticfuzzy reaction-diffusionCohen-Grossbergneuralnetworks withmixeddelays[J].Neurocomputing,2012,89(15):55-63.
[17] SILJAK D D.Large-scale dynamic systems-stability and structure[M].New York:Elsevier North-Holland Inc.,1978:394-406.
(中文編輯:唐 晴 英文編輯:周 堯)
Stability of High Order Fuzzy Cohen-Grossberg Neural Networks with Unbounded Time Delays
ZHENG Weifan, ZHANG Jiye
(State Key Laboratory of Traction Power,Southwest Jiaotong University,Chengdu 610031,China)
Using M-matrix theory,matrix inequality and vector Lyapunov methods,the global exponential stability of a class of high-order fuzzy Cohen-Grossberg neural networks with unbounded time delays was investigated.Without assuming the monotonicity,differentiability and Lipschitz continuity of the active functions,the algebraic criteria ensuring existence,uniqueness and exponential stability of the equilibrium point in the neural networks were obtained.The criteria is independent to the reaction diffusion and the time delays of neural networks by the explicit form of M-matrix,and easy to be checked in application.Finally,the correctness and validity of the methods was verified by a numerical example.
neural networks;time delays;stability;M-matrix
TP183
:A
0258-2724(2014)06-1052-09
10.3969/j.issn.0258-2724.2014.06.017
2013-08-16
國家自然科學基金資助項目(11172247,61273021,61100118,61373009);中央高校基本科研業務費專項資金資助項目(SWJTU11BR091);四川省科技支撐計劃資助項目(2013GZX0166)
鄭偉范(1973-),男,講師,研究方向為神經網絡、復雜系統穩定性與控制、交通信息工程與控制,E-mail:wfzheng@swjtu.edu.cn
鄭偉范,張繼業.具有無窮時滯高階模糊Cohen-Grossberg神經網絡的穩定性[J].西南交通大學學報,2014,49(6):1052-1060.