基于MATLAB的動態(tài)神經(jīng)網(wǎng)絡(luò)穩(wěn)定性仿真研究

田曉偉

摘 要 動態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進行最優(yōu)化運算和聯(lián)想記憶，研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后，借助于MATLAB及LMI編寫了仿真程序進行了實例驗證。

關(guān)鍵詞 動態(tài)神經(jīng)網(wǎng)絡(luò)；穩(wěn)定性；仿真

中圖分類號：TP391 文獻標識碼：A 文章編號：1671-7597（2014）05-0051-02

1 緒論

動態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛，為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施，以往的方法主要是靠進行繁瑣的數(shù)學運算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準確的對既定的神經(jīng)網(wǎng)絡(luò)進行仿真分析，具有快速準確的特點。

2 穩(wěn)定性分析理論

動態(tài)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks 簡稱RNNs）是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型，它已被廣泛應(yīng)用到許多不同領(lǐng)域，諸如，圖像處理、模式識別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為：

（1）

其中，是狀態(tài)向量，是一個狀態(tài)值非線性活化函數(shù)，，W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣，是一個常數(shù)向量。

網(wǎng)絡(luò)的動態(tài)行為決定著動態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用，全局指數(shù)穩(wěn)定是動態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動態(tài)屬性之一。近些年來，動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點。首先介紹下述的動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。

定義一：對于式（1）所描述的系統(tǒng)平衡點 來說，如果它在李亞普諾夫意義下是局部穩(wěn)定的，則該系統(tǒng)是全局漸進穩(wěn)定的。如果存在和，對于任意的，并滿足下式。那么平衡點u*被認為是全局指數(shù)穩(wěn)定的。

引理一：活化函數(shù)是全局連續(xù)和單調(diào)非減的，存在常數(shù)標量，對于任意的并且。

（2）

為簡化式（1）的穩(wěn)定性分析，需對式（1）做如下變換：

（3）

式中，u*是式（1）所表示的系統(tǒng)的平衡點，經(jīng)變換后式（1）式可寫為：

（4）

其中，

顯然，，，并且對于任意的，滿足：

（5）

穩(wěn)定性分析結(jié)論：

定理：若存在一個矩陣P>0和三個正對角矩陣H>0，Q>0，S>0，滿足下式（6），那么（4）式所表示神經(jīng)網(wǎng)絡(luò)的原點是網(wǎng)絡(luò)唯一的平衡點并且網(wǎng)絡(luò)關(guān)于該點是全局指數(shù)穩(wěn)定的。

（6）

3 仿真程序?qū)崿F(xiàn)

針對上述理論成果，在MATLAB的程序編寫窗口中編寫仿真程序，保存后在MATLAB的操作窗口中運行該文件即可查看結(jié)果。

1）仿真程序代碼段及定義解釋：

A=[2，0；0，1] %輸入A矩陣

W=1.7*[1，-2；2.29，0.5] %輸入W矩陣

第一步，首先初始化新的LMI系統(tǒng)，并定義變量P、S、Q、H。

[n，y]=size（A）

cigma=[1，0；0，0.5]

setlmis（[]）； %初始化新的LMI

P=lmivar（1，[n 1]）； %定義變量：P

b=zeros（n，2）

b（1：n，1）=ones（n，1）

S=lmivar（1，b）； %定義變量：S

Q=lmivar（1，b）； %定義變量：Q

H=lmivar（1，b）； %定義變量：H

第二步，定義LMI和不等式中的、等其他幾項。

BRL=newlmi

lmiterm（[BRL 1 1 P]，-1，A，'s'）

lmiterm（[BRL 1 2 P]，1，1）

lmiterm（[BRL 1 2 S]，-A*W'，1）

lmiterm（[BRL 1 2 H]，W'*cigma，1）

lmiterm（[BRL 1 2 Q]，W'，1）

lmiterm（[BRL 2 2 S]，W'，1，'s'）

lmiterm（[BRL 2 2 Q]，-2，inv（cigma））

lmiterm（[BRL 2 2 H]，-2，1）

第三步，定義LMI，并對P、S、Q、H進行描述。

Xpos=NEWLMI

lmiterm（[-Xpos 1 1 P]，1，1） %定義右項P

lmiterm（[-Xpos 2 2 S]，1，1） %定義右項S

lmiterm（[-Xpos 3 3 Q]，1，1） %定義右項Q

lmiterm（[-Xpos 4 4 H]，1，1） %定義右項H

第四步，返回內(nèi)部描述，進行求解。

lmisys=getlmis

[TMIN，XFEAS]=feasp（lmisys）

P=DEC2MAT（lmisys，XFEAS，P）

S=DEC2MAT（lmisys，XFEAS，S）

Q=DEC2MAT（lmisys，XFEAS，Q）

H=DEC2MAT（lmisys，XFEAS，H）

2）為檢驗仿真程序的準確性需要進行實例驗證，為此設(shè)定穩(wěn)定性理論當中的A、W的值如下：

系統(tǒng)中，

在MATLAB的桌面命令窗口中運行該仿真分析程序，具體數(shù)據(jù)如下：

TMIN=-0.0026（滿足式（6））

P =0.1400 0.0732

0.0732 4.2873

S =0.3564 0

0 0.4844

Q = 0.3715 0

0 0.5670

H = 0.3715 0

0 0.8680

當把上述預(yù)設(shè)值進行調(diào)整時，仿真分析結(jié)論及對應(yīng)程序運算結(jié)果都會發(fā)生變化。

TMIN =2.9441e-011（不能滿足式（6））

P =1.0e-008 *

0.2425 0.0045

0.0045 -0.0022

S =1.0e-010 *

-0.1890 0

0 0.0393

Q =1.0e-009 *

0.0170 0

0 0.1605

H = 1.0e-009 *

0.0170 0

0 0.3514

4 結(jié)束語

通過對仿真程序的預(yù)設(shè)值進行適當?shù)脑O(shè)定，仿真運算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化，前者滿足穩(wěn)定性表達式，說明此時網(wǎng)絡(luò)是穩(wěn)定的，調(diào)整后結(jié)果無法滿足穩(wěn)定性表達式，此時網(wǎng)絡(luò)是不穩(wěn)定的。

參考文獻

[1]Shengyuan Xu，James Lam，DanielW.C.Ho，Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A，2004（325）：124-133.endprint

摘 要 動態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進行最優(yōu)化運算和聯(lián)想記憶，研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后，借助于MATLAB及LMI編寫了仿真程序進行了實例驗證。

關(guān)鍵詞 動態(tài)神經(jīng)網(wǎng)絡(luò)；穩(wěn)定性；仿真

中圖分類號：TP391 文獻標識碼：A 文章編號：1671-7597（2014）05-0051-02

1 緒論

動態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛，為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施，以往的方法主要是靠進行繁瑣的數(shù)學運算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準確的對既定的神經(jīng)網(wǎng)絡(luò)進行仿真分析，具有快速準確的特點。

2 穩(wěn)定性分析理論

動態(tài)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks 簡稱RNNs）是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型，它已被廣泛應(yīng)用到許多不同領(lǐng)域，諸如，圖像處理、模式識別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為：

（1）

其中，是狀態(tài)向量，是一個狀態(tài)值非線性活化函數(shù)，，W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣，是一個常數(shù)向量。

網(wǎng)絡(luò)的動態(tài)行為決定著動態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用，全局指數(shù)穩(wěn)定是動態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動態(tài)屬性之一。近些年來，動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點。首先介紹下述的動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。

定義一：對于式（1）所描述的系統(tǒng)平衡點 來說，如果它在李亞普諾夫意義下是局部穩(wěn)定的，則該系統(tǒng)是全局漸進穩(wěn)定的。如果存在和，對于任意的，并滿足下式。那么平衡點u*被認為是全局指數(shù)穩(wěn)定的。

引理一：活化函數(shù)是全局連續(xù)和單調(diào)非減的，存在常數(shù)標量，對于任意的并且。

（2）

為簡化式（1）的穩(wěn)定性分析，需對式（1）做如下變換：

（3）

式中，u*是式（1）所表示的系統(tǒng)的平衡點，經(jīng)變換后式（1）式可寫為：

（4）

其中，

顯然，，，并且對于任意的，滿足：

（5）

穩(wěn)定性分析結(jié)論：

定理：若存在一個矩陣P>0和三個正對角矩陣H>0，Q>0，S>0，滿足下式（6），那么（4）式所表示神經(jīng)網(wǎng)絡(luò)的原點是網(wǎng)絡(luò)唯一的平衡點并且網(wǎng)絡(luò)關(guān)于該點是全局指數(shù)穩(wěn)定的。

（6）

3 仿真程序?qū)崿F(xiàn)

針對上述理論成果，在MATLAB的程序編寫窗口中編寫仿真程序，保存后在MATLAB的操作窗口中運行該文件即可查看結(jié)果。

1）仿真程序代碼段及定義解釋：

A=[2，0；0，1] %輸入A矩陣

W=1.7*[1，-2；2.29，0.5] %輸入W矩陣

第一步，首先初始化新的LMI系統(tǒng)，并定義變量P、S、Q、H。

[n，y]=size（A）

cigma=[1，0；0，0.5]

setlmis（[]）； %初始化新的LMI

P=lmivar（1，[n 1]）； %定義變量：P

b=zeros（n，2）

b（1：n，1）=ones（n，1）

S=lmivar（1，b）； %定義變量：S

Q=lmivar（1，b）； %定義變量：Q

H=lmivar（1，b）； %定義變量：H

第二步，定義LMI和不等式中的、等其他幾項。

BRL=newlmi

lmiterm（[BRL 1 1 P]，-1，A，'s'）

lmiterm（[BRL 1 2 P]，1，1）

lmiterm（[BRL 1 2 S]，-A*W'，1）

lmiterm（[BRL 1 2 H]，W'*cigma，1）

lmiterm（[BRL 1 2 Q]，W'，1）

lmiterm（[BRL 2 2 S]，W'，1，'s'）

lmiterm（[BRL 2 2 Q]，-2，inv（cigma））

lmiterm（[BRL 2 2 H]，-2，1）

第三步，定義LMI，并對P、S、Q、H進行描述。

Xpos=NEWLMI

lmiterm（[-Xpos 1 1 P]，1，1） %定義右項P

lmiterm（[-Xpos 2 2 S]，1，1） %定義右項S

lmiterm（[-Xpos 3 3 Q]，1，1） %定義右項Q

lmiterm（[-Xpos 4 4 H]，1，1） %定義右項H

第四步，返回內(nèi)部描述，進行求解。

lmisys=getlmis

[TMIN，XFEAS]=feasp（lmisys）

P=DEC2MAT（lmisys，XFEAS，P）

S=DEC2MAT（lmisys，XFEAS，S）

Q=DEC2MAT（lmisys，XFEAS，Q）

H=DEC2MAT（lmisys，XFEAS，H）

2）為檢驗仿真程序的準確性需要進行實例驗證，為此設(shè)定穩(wěn)定性理論當中的A、W的值如下：

系統(tǒng)中，

在MATLAB的桌面命令窗口中運行該仿真分析程序，具體數(shù)據(jù)如下：

TMIN=-0.0026（滿足式（6））

P =0.1400 0.0732

0.0732 4.2873

S =0.3564 0

0 0.4844

Q = 0.3715 0

0 0.5670

H = 0.3715 0

0 0.8680

當把上述預(yù)設(shè)值進行調(diào)整時，仿真分析結(jié)論及對應(yīng)程序運算結(jié)果都會發(fā)生變化。

TMIN =2.9441e-011（不能滿足式（6））

P =1.0e-008 *

0.2425 0.0045

0.0045 -0.0022

S =1.0e-010 *

-0.1890 0

0 0.0393

Q =1.0e-009 *

0.0170 0

0 0.1605

H = 1.0e-009 *

0.0170 0

0 0.3514

4 結(jié)束語

通過對仿真程序的預(yù)設(shè)值進行適當?shù)脑O(shè)定，仿真運算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化，前者滿足穩(wěn)定性表達式，說明此時網(wǎng)絡(luò)是穩(wěn)定的，調(diào)整后結(jié)果無法滿足穩(wěn)定性表達式，此時網(wǎng)絡(luò)是不穩(wěn)定的。

參考文獻

[1]Shengyuan Xu，James Lam，DanielW.C.Ho，Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A，2004（325）：124-133.endprint

摘 要 動態(tài)神經(jīng)網(wǎng)絡(luò)的主要適用范圍在于進行最優(yōu)化運算和聯(lián)想記憶，研究它的穩(wěn)定性顯得十分必要。文章主要是在分析了動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析理論之后，借助于MATLAB及LMI編寫了仿真程序進行了實例驗證。

關(guān)鍵詞 動態(tài)神經(jīng)網(wǎng)絡(luò)；穩(wěn)定性；仿真

中圖分類號：TP391 文獻標識碼：A 文章編號：1671-7597（2014）05-0051-02

1 緒論

動態(tài)神經(jīng)網(wǎng)絡(luò)應(yīng)用范圍比較廣泛，為了分析它的穩(wěn)定性及提出改善穩(wěn)定性的措施，以往的方法主要是靠進行繁瑣的數(shù)學運算。本文通過MATLAB及LMI編寫的仿真程序能夠快速準確的對既定的神經(jīng)網(wǎng)絡(luò)進行仿真分析，具有快速準確的特點。

2 穩(wěn)定性分析理論

動態(tài)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks 簡稱RNNs）是應(yīng)用的最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型，它已被廣泛應(yīng)用到許多不同領(lǐng)域，諸如，圖像處理、模式識別、聯(lián)想記憶、最優(yōu)化問題等其他領(lǐng)域。它可被描述為：

（1）

其中，是狀態(tài)向量，是一個狀態(tài)值非線性活化函數(shù)，，W是神經(jīng)網(wǎng)絡(luò)權(quán)值系數(shù)矩陣，是一個常數(shù)向量。

網(wǎng)絡(luò)的動態(tài)行為決定著動態(tài)神經(jīng)網(wǎng)絡(luò)的應(yīng)用，全局指數(shù)穩(wěn)定是動態(tài)神經(jīng)網(wǎng)絡(luò)中最受關(guān)注的動態(tài)屬性之一。近些年來，動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析已經(jīng)成為理論研究的熱點。首先介紹下述的動態(tài)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性理論。

定義一：對于式（1）所描述的系統(tǒng)平衡點 來說，如果它在李亞普諾夫意義下是局部穩(wěn)定的，則該系統(tǒng)是全局漸進穩(wěn)定的。如果存在和，對于任意的，并滿足下式。那么平衡點u*被認為是全局指數(shù)穩(wěn)定的。

引理一：活化函數(shù)是全局連續(xù)和單調(diào)非減的，存在常數(shù)標量，對于任意的并且。

（2）

為簡化式（1）的穩(wěn)定性分析，需對式（1）做如下變換：

（3）

式中，u*是式（1）所表示的系統(tǒng)的平衡點，經(jīng)變換后式（1）式可寫為：

（4）

其中，

顯然，，，并且對于任意的，滿足：

（5）

穩(wěn)定性分析結(jié)論：

定理：若存在一個矩陣P>0和三個正對角矩陣H>0，Q>0，S>0，滿足下式（6），那么（4）式所表示神經(jīng)網(wǎng)絡(luò)的原點是網(wǎng)絡(luò)唯一的平衡點并且網(wǎng)絡(luò)關(guān)于該點是全局指數(shù)穩(wěn)定的。

（6）

3 仿真程序?qū)崿F(xiàn)

針對上述理論成果，在MATLAB的程序編寫窗口中編寫仿真程序，保存后在MATLAB的操作窗口中運行該文件即可查看結(jié)果。

1）仿真程序代碼段及定義解釋：

A=[2，0；0，1] %輸入A矩陣

W=1.7*[1，-2；2.29，0.5] %輸入W矩陣

第一步，首先初始化新的LMI系統(tǒng)，并定義變量P、S、Q、H。

[n，y]=size（A）

cigma=[1，0；0，0.5]

setlmis（[]）； %初始化新的LMI

P=lmivar（1，[n 1]）； %定義變量：P

b=zeros（n，2）

b（1：n，1）=ones（n，1）

S=lmivar（1，b）； %定義變量：S

Q=lmivar（1，b）； %定義變量：Q

H=lmivar（1，b）； %定義變量：H

第二步，定義LMI和不等式中的、等其他幾項。

BRL=newlmi

lmiterm（[BRL 1 1 P]，-1，A，'s'）

lmiterm（[BRL 1 2 P]，1，1）

lmiterm（[BRL 1 2 S]，-A*W'，1）

lmiterm（[BRL 1 2 H]，W'*cigma，1）

lmiterm（[BRL 1 2 Q]，W'，1）

lmiterm（[BRL 2 2 S]，W'，1，'s'）

lmiterm（[BRL 2 2 Q]，-2，inv（cigma））

lmiterm（[BRL 2 2 H]，-2，1）

第三步，定義LMI，并對P、S、Q、H進行描述。

Xpos=NEWLMI

lmiterm（[-Xpos 1 1 P]，1，1） %定義右項P

lmiterm（[-Xpos 2 2 S]，1，1） %定義右項S

lmiterm（[-Xpos 3 3 Q]，1，1） %定義右項Q

lmiterm（[-Xpos 4 4 H]，1，1） %定義右項H

第四步，返回內(nèi)部描述，進行求解。

lmisys=getlmis

[TMIN，XFEAS]=feasp（lmisys）

P=DEC2MAT（lmisys，XFEAS，P）

S=DEC2MAT（lmisys，XFEAS，S）

Q=DEC2MAT（lmisys，XFEAS，Q）

H=DEC2MAT（lmisys，XFEAS，H）

2）為檢驗仿真程序的準確性需要進行實例驗證，為此設(shè)定穩(wěn)定性理論當中的A、W的值如下：

系統(tǒng)中，

在MATLAB的桌面命令窗口中運行該仿真分析程序，具體數(shù)據(jù)如下：

TMIN=-0.0026（滿足式（6））

P =0.1400 0.0732

0.0732 4.2873

S =0.3564 0

0 0.4844

Q = 0.3715 0

0 0.5670

H = 0.3715 0

0 0.8680

當把上述預(yù)設(shè)值進行調(diào)整時，仿真分析結(jié)論及對應(yīng)程序運算結(jié)果都會發(fā)生變化。

TMIN =2.9441e-011（不能滿足式（6））

P =1.0e-008 *

0.2425 0.0045

0.0045 -0.0022

S =1.0e-010 *

-0.1890 0

0 0.0393

Q =1.0e-009 *

0.0170 0

0 0.1605

H = 1.0e-009 *

0.0170 0

0 0.3514

4 結(jié)束語

通過對仿真程序的預(yù)設(shè)值進行適當?shù)脑O(shè)定，仿真運算的結(jié)果及數(shù)據(jù)都發(fā)生了相應(yīng)變化，前者滿足穩(wěn)定性表達式，說明此時網(wǎng)絡(luò)是穩(wěn)定的，調(diào)整后結(jié)果無法滿足穩(wěn)定性表達式，此時網(wǎng)絡(luò)是不穩(wěn)定的。

參考文獻

[1]Shengyuan Xu，James Lam，DanielW.C.Ho，Yun Zou. global robust exponential stability analysis for interval recurrent neural networks. Physics Letters A，2004（325）：124-133.endprint