常青
【摘要】混合時滯神經網絡是神經網絡的一個非常重要的組成部分,它在信號處理、人工智能、全局優化以及動態圖像處理等方面有著廣泛的應用。本文從混合時滯神經網絡的發展脈絡著手進行論述,分析了混合時滯神經網絡穩定性的發展情況,并結合實例對混合時滯神經網絡的穩定性進行了分析。
【關鍵詞】混合時滯 神經網絡 穩定性分析
【中圖分類號】G642 【文獻標識碼】A 【文章編號】2095-3089(2016)04-0237-02
人工神經網絡是基于人腦的功能,通過建構與生物神經元類似的電路結構,從而在微觀的層次上實現對人類智能的仿真。神經網絡是由神經元的相互連接而形成的,反映在數學中,神經元實質上就是適當的函數,也被稱為激活函數。神經網絡在模式識別、優化計算、智能控制以及聯想記憶等領域得到了廣泛的應用,發展前景非常的廣闊[1]。
一、混合時滯神經網絡發展的脈絡
穩定性研究的開始可以追溯到十九世紀末期的Lyapunov理論和Poincare理論,在我國對穩定性進行充分研究的是著名物理學家錢學森,錢學森在其著名的《工程控制論》中,明確指出,穩定性是系統控制的第一要求。美國的著名數學家LsSalle也說過,吸引全世界的數學家注意的點就是穩定性。由此可見,穩定性在數學研究中具有極其重要的作用[2]。
大部分的動力系統都會隨著時間的演化不僅依賴于系統的當前狀態,并且還會依賴于系統過去的某個時刻,這就是被科學家們稱作的時滯動力系統。在工程系統中,時滯一般是指對測控過程中的測量時滯、形成控制決策所需要的時滯以及信號傳輸中的時滯等,這也是為什么大部分的動力學系統都需要時滯動力系統來進行描述的主要原因。事實上,時滯系統的初始狀態空間是一個無限維的空間,而且沒有特殊的性質,因此對其進行理論分析非常困難 [3]。
二、混合時滯神經網絡穩定性的發展研究分析
系統的穩定性在神經網絡的應用中非常的廣泛,如最優化的問題研究、模式識別研究以及圖像處理研究等,都需要運用系統的穩定性。在上個世紀,有很多文獻都給出了不同類型神經網絡的穩定性判據,最著名的當屬Hopfield神經網絡。神經網絡規模的應用范圍也在不斷的擴大,人們對時滯神經網絡模型的研究也越來越深入。時滯通常是由定時的時滯發展到連續分布的時滯。當前神經網絡穩定性的研究領域運用的主要方法就是Lyapunov泛函,然后再利用不同的不等式來對不等式進行分析,從而得到具有穩定性的數據[4]。
在優化問題的應用中,需要根據問題的基本特征,對設計所要求的神經網絡達到唯一的、全局的漸進穩定的平衡點。當神經網絡應用于實時的計算時,為了有效的提高收斂的速度,就需要神經網絡必須具有非常高的指數收斂度。這也是時滯神經網絡的全局漸近穩定性與全局指數穩定性研究如此吸引人的最為主要的原因。時滯反饋網絡的應用和研究需要大量的具有穩定性的數據作為基礎,因此,人們需要在不斷擴展的網絡模型的條件下放寬對網絡中所有參數和激勵函數的限制。只有這樣,才能更好的促進神經網絡研究的快速發展[5]。
目前,對時滯反饋神經網絡解的穩定性進行判別和分析的主要方法是Lyapunov方法,在進行判別和分析時,需要同時結合泛函數的分不等式穩定性理論來推導網絡解的穩定性,通過這一方法能夠將穩定性的研究放到某個適當的定義系統的軌跡上,而且通過對這些泛函數的研究分析,能夠得到穩定性的相應條件。這些穩定性條件的最常用的表述形式就是我們經常用的線矩不等式、系數矩陣的范數不等式以及Hanalay微分不等式。在這一研究領域,由于線矩不等式方法對系統的參數的限制比其它方法要少,而且比較容易驗證,因此,這種方法在穩定性理論的研究中應用的非常的廣泛[6]。
三、混合時滯神經網絡的穩定性分析研究
最近幾年,隨著人們對穩定性研究的進一步發展,人們對于驅動-響應系統的同步問題更加的重視,而且經過大量的實踐和理論分析,人們發現驅動-響應系統是包含同樣的激活函數的。但是,在實際的模型中,驅動-響應系統卻含有不同的激活函數,需要對非恒同的情況進行分析研究,也就是說驅動-響應系統的激活函數含有不相匹配的參數,致使對混沌系統的同步控制變得更加的復雜。由此可知,研究混合時滯神經網絡的穩定性是非常有必要的[7]。
如下混合時滯神經網絡
其中,是神經元的狀態,
。在(1)中,是定義在上的實值內部函數。代表離散時滯,表示分布時滯;代表外部輸入;;,,,分別代表連接權矩陣,離散時滯連接權矩陣和分布時滯連接權矩陣。
對于如下兩種情形的時滯,
第一種情形是,如果所有的和給定的標量 、h>0和,
是一個可微函數,且滿足以下條件:,,
是一個連續函數且滿足以下條件
。 。
第二種情形是,如果所有的和給定的標量 、h>0和,且和都是連續的函數,且函數和函數滿足以下條件:
。
假設是系統(1)的平衡點,那么會得到如下系統
根據上面的條件我們可以得出對于混合時滯神經網絡系統(2), 在滿足一定條件的第一種情況和第二種情況下,它的平衡點是全局指數穩定的 [8]。
時滯神經網絡的穩定性在理論和實踐方面都得到了廣泛的研究,但是對混合時滯的神經網絡模型穩定性的研究并不是很多。除此之外,在神經網絡穩定性的研究領域,雖然有很多大量的判別條件,不過由于大部分的條件都需要采用計算矩陣范數的方法來進行,在進行驗證的時候也比較的困難,而且限制條件也非常的嚴格,在實際中的應用比較少。通過利用線性矩陣不等式研究神經網絡的穩定性能夠在很大程度上克服以上提及的缺點,所得到的條件更少保守,并且更容易得到充分的驗證[9]。
線性矩陣不等式的研究在最近幾年受到人們的廣泛關注的原因,既有理論方面的原因,也有實踐方面的原因。從理論上來說,人們可以利用很多的矩形運算技巧來對線性矩陣不等式問題進行研究和推理;但是,從實際的觀點來說,線性矩陣不等式問題也可以憑借數值算法并借助電腦的強大的運算能力從而快速、有效的求出數值解,最終使得線性矩陣不等式的求解變得更加的容易控制,從而使問題的解決更加可行。假設可以將一個復雜的問題轉換成線性矩陣不等式問題,那么就能夠利用Matab的LMI Toolbox進行求解了。endprint
運用線性矩陣的不等式對混合時滯條件下的神經網絡的穩定性進行研究分析,可以充分掌握神經網絡的全局指數的穩定性。通過建構新的Lyapunov-Krasovkii泛函,利用隨機微分與矩陣變換技巧導出線性矩陣不等式的穩定性數據。由于線性矩陣不等式的穩定性數據比利用矩陣范數進行估計的判據更為保守,因此,人們可以利用MATLAB提供的線性矩陣不等式工具箱進行求解驗證,從而真正應用于實踐[10]。
人們按照Lyapunov的穩定性理論,建構了新型的Lyapunov-Krasovskii泛函。從而對混合時滯條件下神經網絡的穩定性進行了科學、合理的分析。在對混合時滯條件下的神經網絡的穩定性進行分析時,線性矩陣不等式的應用為對時滯穩定性的進一步研究提供了有利的條件。同時,對網絡中所包含的隨機擾動采用了隨機微分公式的討論模式,從而使得混合時滯條件下的神經網絡能夠應用Lyapunov的穩定性討論技巧與方法。在模型中對激活函數或者連接權矩陣的限制對混合時滯條件下的神經網絡的研究深有幫助,而且采用線性矩陣不等式的表示方式,比之前的矩陣范數的判別條件要更加的有利。
四、結語
綜上所述,混合時滯條件下的神經網絡的穩定性分析是以Lyapunov的穩定性理論與線性矩陣不等式技術為基礎,同時利用積分不等式的方法,對混合時滯條件下的神經網絡的穩定性進行了科學、合理的分析,并給出了時滯依賴指數穩定性的基本準則,從而將對混合時滯條件下的神經網絡的穩定性的研究又向前推進了一大步。
參考文獻:
[1]武志鵬.帶有混合時滯的神經網絡的穩定性分析[D].山西大學,2008.
[2]劉曉琳.混合變時滯神經網指數穩定性分析[D].曲阜師范大學,2009.
[3]王寧,孫曉玲.基于LMI的混合時滯隨機神經網絡指數穩定性[J].計算機仿真,2010,07:125-129.
[4]張金.具混合時滯的隨機神經網絡的穩定性分析[J].蘇州大學學報(自然科學版),2011,02:16-22.
[5]吳文娟,劉德友,張靜文,劉海濤.具有混合時滯的隨機Hopfield神經網絡的穩定性分析[J].蘭州理工大學學報,2011,03:89-93.
[6]陳一鳴,徐增輝,趙所所,周志全.具有混合時滯隨機離散神經網絡的漸近穩定性分析[J].鄭州大學學報(理學版),2011,04:33-38.
[7]耿立杰,李海穎,張曉靜,蘇廣.具有混合時滯的隨機反應擴散神經網絡指數穩定性[J].工程數學學報,2014,05:687-696.
[8]龍述君,張永新,向麗.具有混合時滯的隨機細胞神經網絡的穩定性分析[J].四川師范大學學報(自然科學版),2012,06:796-801.
[9]毛凱,時寶.具有混合時滯的BAM神經網絡全局指數穩定性分析[J].哈爾濱理工大學學報,2012,06:6-13.
[10]汪群芳.混合時滯模糊神經網絡的穩定性與同步研究[D].暨南大學,2013.endprint