孫穎倩,周立群,王 宇,張詩茹,張渝佶
(天津師范大學數學科學學院,天津 300387)
二次規劃問題是一類非線性規劃問題,其在投資組合、決策規劃和資源分配等方面具有廣泛應用.由于非線性規劃問題難以求得精確解,多數情況采用近似或局部最優解代替.文獻[1]給出了一類利用神經網絡求解線性規劃問題的良好方案,但僅能保證局部最優解.為優化非線性規劃問題的求解方案,文獻[2]引入了時滯項,利用Lagrange函數構造時滯神經網絡,解決了一類等式約束的二次規劃問題,給出了解的存在性和系統漸近穩定性的判定準則.文獻[3]在不涉及Lagrange乘子,不考慮原始對偶問題的情況下,利用投影的方法求解了一類有界約束的凸二次優化問題.文獻[4-7]利用不同的時滯投影神經網絡對二次規劃問題進行求解,分別利用線性矩陣不等式、Lyapunov泛函和內積的性質研究了神經網絡平衡點的穩定性.
比例時滯是一種無界時變時滯,其無界性給比例時滯系統的動力學研究帶來許多困難.2011年,周立群將比例時滯引入到神經網絡中,對比例時滯項的處理提出了一些較好的方法.目前,比例時滯神經網絡動力學研究已經取得了一些進展.如,文獻[8-9]分別利用特殊線性變換和Poincaré映射證明了比例時滯神經網絡平衡點的存在性,利用M矩陣的性質和Lyapunov泛函研究了全局漸近穩定性和多項式穩定性.文獻[10]利用同胚映射證明了多比例時滯神經網絡平衡點的存在性,并利用時滯微分不等式給出全局指數穩定性的判定準則.文獻[11]利用不動點定理的方法證明了比例時滯神經網絡的周期解的存在性,通過構造時滯微分不等式得到了系統反周期解的指數穩定性的判定準則.文獻[12]應用Lyapunov泛函的方法給出了具比例高階廣義細胞神經網絡全局指數周期性的充分條件.文獻[13-14]利用Lyapunov泛函和非線性矩陣不等式,討論了比例時滯神經網絡的指數同步性、多項式同步性和無源性.此外,文獻[15]利用內積性質和Lyapunov泛函分析了一類具比例時滯細胞神經網絡的散逸性.
本文在文獻[6,15]的基礎上,針對一類二次規劃問題,利用Lagrange函數法和鞍點定理構建比例時滯投影神經網絡,利用范數性質研究該網絡的解的存在性,通過非線性變換和構造合適的Lyapunov泛函以及內積的性質探討了比例時滯投影神經網絡的全局漸近穩定性,并說明神經網絡平衡點即為二次規劃問題的最優解.最后通過數值算例及其仿真驗證了所得準則的合理性和有效性.
記I∈Rn×n為單位矩陣.對任意矩陣X∈Rn×n,X>0表示X為正定矩陣.C([qt0,t0],Rn)表示從[qt0,t0]到Rn的所有連續函數φ構成的集合.PΩ:Rn→Ω為一個投影算子,且對任意x〈·,·〉表示內積,〈y,y〉=‖y‖2,y∈Rn.‖·‖為歐幾里得范數,對任意,其中λmax(ATA)為矩陣ATA的最大特征值.
考慮二次規劃問題

其中:x=(x1,x2,…,xn)T為決策變量,b∈Rn,Q為半正定矩陣,可行域Ω?Rn為一閉凸集.
針對問題(1)構造具比例時滯神經網絡:

其中:x(t)=(x1(t),x2(t),…,xn(t))T為神經元在t時刻的狀態變量為比例時滯因子,滿足0<q≤1,qt=t-(1-q)t,(1-q)t=τ(t)為時滯函數,當q≠1,t→+∞時,(1-q)t→+∞,即時滯函數為無界函數;x(s)=φ(s)為初值函數,t0≥1,φ(s)∈C([qt0,t0],Rn).
定義1設稱為Q的對稱分支.若M(Q)為實對稱正定矩陣,則稱Q為亞對稱正定矩陣;若M(Q)為半正定矩陣,則稱Q為亞半正定矩陣.
定義2[16]稱系統(2)的解x*是全局漸近穩定的,若x*是穩定的,且對任意初始函數ξ(t),有

定義3對于二次規劃問題

其中h(x,v)=x-v.問題(3)的Lagrange函數定義為

其中:v=(v1,v2,…,vn)T,w=(w1,w2,…,wn)T,wi<0,i=1,2,…,n.滿足

的(x*,v*,w*)稱為L(x,v,w)的鞍點.
引理1[6](投影定理)x*是變分不等式問題(xx*)TG(x*)≥0的解,當且僅當x*滿足投影方程

其中ε為任意正數.
引理2[17]令x(s)和u(t)為定義在[a,b]上的非負實值連續函數,u(t)≥0且在[a,b]上可積,若對任意t∈[a,b],有成立,且g(t)是單調不減的函數,則有
引理3[18]設Ω?Rn為一閉凸集,投影算子PΩ有如下性質:
(1)對任意x、y∈Rn,有

(2)對任意w∈Rn,r∈Ω,有

引理4[16]對任意φ(t)∈C([qt0,t0],Rn),系統(2)在[t0,T]上存在唯一的連續解x(t),滿足初始條件x(t)=φ(t),t∈[qt0,t0],且x(t)在[t0,T]上有界,從而系統(2)的解的存在區間可以延拓到[t0,+∞).
引理5問題(3)的解x*=(x*1,x*2,…,x*n)T滿足(x*,v*,w*)是L(x,v,w)=f(x)-wTh(x,v)的鞍點,其中v*=(v*1,v*2,…,v*n)T,當且僅當存在x*∈Ω(Ω?Rn為非空凸集),w*=(w*1,w*2,…,w*n)T,w*i≤0,滿足如下條件:

證明首先證明,若存在x*、v*和w*,使得(x*,v*,w*)滿足引理5的條件(1)~(3),其中x*為問題(3)的解,則(x*,v*,w*)是L(x,v,w)的鞍點.
由條件(1)可得

由條件(2)以及Lagrange乘子w≤0可得

將x*和v*代入L(x,v,w),由式(5)可得

因此,由式(4)和式(6)可得

由定義3知,(x*,v*,w*)為L(x,v,w)的鞍點.
下面證明若(x*,v*,w*)為L(x,v,w)的鞍點,則x*為問題(3)的解.
設(x*,w*,v*)為L(x,v,w)的鞍點,則(x*,v*,w*)滿足

由式(7)的第1個不等式,對任意w∈Rn,有(w-w*)T·(x*-v*)≤0成立,所以x*=v*,x*∈Ω.由式(7)的第2個不等式得

將x*=v*代入式(8),得

由w*i≤0,i=1,2,…,n,x-v≤0可得f(x*)<f(x).因此x*是問題(3)的解.引理證畢.
注1由上述證明可知,問題(3)的Lagrange函數的鞍點(x*,v*,w*)滿足x*∈Ω,且f(x*)≤f(x),x∈Rn.因此x*也是問題(1)的解,求解問題(1)即求解問題(3)的Lagrange函數的鞍點.
下面證明問題(1)的解x*為系統(2)的平衡點.
由引理5的證明知,若(x*,v*,w*)為問題(3)的Lagrange函數L(x,v,w)的鞍點,由式(8)有



所以,對于x∈Rn,f(x)-(w*)Tx在x=x*取得最小值.
對任意x∈Rn,xTQx=xTM(Q)x,M(Q)是正定矩陣,因而當x=x*時,凸函數(x-Q)取最小值.所以x*和w*滿足

假設存在v,使得(w*)T(v-v*)<0.由式(8),對任意x∈Rn,有

而當x=x*時上式不成立.所以,對任意v∈Ω,(w*)T(v-v*)≥0.根據投影定理,上式等價于

將v*=x*代入式(11)得

將式(10)代入式(12)得

因此,由式(13)可給出問題(1)的比例時滯投影神經網絡模型(2).
綜上,系統(2)的平衡點為問題(1)的解,當神經網絡的平衡點穩定時,該平衡點為二次規劃問題的最優解.
定理1對任意φ(t)∈C([qt0,t0],Rn),系統(2)在[t0,+∞)上存在唯一的連續解x(t).
證明設

若φ、γ∈Rn同時為系統(2)的解,則有

故g(x(t))在C([qt0,t0],Rn)上是Lipschitz連續的.從而對于φ(t)∈C([qt0,t0],Rn),系統(2)在[t0,T]上存在符合初始條件的唯一的連續解x(t).
記x*為系統(2)的平衡點,則有

其中:λ1=4+ε‖M(Q)‖,λ2=3+ε‖M(Q)‖.
對任意t∈[t0,T],有和x(t)=φ(t),t∈[qt0,t0],從而有

由引理2可得

故x(t)在[t0,T]有界.根據引理4,系統(2)在[t0,+∞)存在連續解x(t).定理證畢.
定理2若M(Q)是半正定的,則系統(2)的解x*是全局漸近穩定的.
證明設y(t)=x(et),求導得

取τ=-lnq≥0,則系統(2)變換為

構造Lyapunov函數

其中:

設y*為系統(14)的平衡點,容易驗證y*=x*.
對V1(t)沿系統(14)的軌跡求導,得


利用內積的性質可得

結合式(17)和式(18),利用引理4可得

對V2(t)求導可得

對式(15)求導,并將式(19)和式(20)代入,得

當且僅當y(t)=y*時,,此時x(t)=x*.由定義2知,系統(14)的解是漸近穩定的.當t→+∞時,‖y(t)‖→+∞,此時V(t)→+∞,又因為y(t)=x(et),則系統(2)的解是全局漸近穩定的,此時的平衡點就是二次規劃問題(1)的全局最優解.定理證畢.
注2由式(13)可以給出問題(1)的形式更一般的比例時滯投影神經網絡:

其中μ、σ均為正數.若M(Q)為半正定矩陣,則系統(22)是全局漸近穩定的.事實上,只需將定理2證明中的Lyapunov函數的V2(t)改為

其余部分及證明過程同定理2一致.
注3在系統(2)中取q=1,或在系統(22)中取q=μ=σ=1,則得到無時滯投影神經網絡:

對于神經網絡(23),本文的結論仍然成立.
例1考慮二次規劃問題:


圖1 問題(24)對應的比例時滯投影神經網絡的相軌跡Fig.1 Phase trajectories of projection neural network with proportional delays corresponding to Problem(24)

圖2 問題(24)對應的比例時滯投影神經網絡的時間響應曲線Fig.2 Time response curves of projection neural network with proportional delays corresponding to Problem(24)
例2考慮二次規劃問題:


故M(Q)為正定矩陣,從而矩陣Q為亞正定矩陣,由定理2可知,二次規劃問題(25)有唯一的最優解,該最優解為問題(25)對應的比例時滯投影神經網絡(2)的平衡點x*=(-2.747 0,1.417 9,2.655 4)T,并且它是全局漸近穩定的.問題(25)對應的投影神經網絡的相軌跡和時間響應曲線分別見圖3和圖4,可以看出,不同初值的解軌跡最終收斂到平衡點x*.

圖3 問題(25)對應的比例時滯投影神經網絡的相軌跡Fig.3 Phase trajectories of projection neural network with proportional delays corresponding to Problem(25)

圖4 問題(25)對應的比例時滯投影神經網絡的時間響應曲線Fig.4 Time response curves of projection neural network with proportional delays corresponding to Problem(25)
本文針對一類閉凸集上的二次規劃問題,利用投影定理和Lagrange函數法構造比例時滯神經網絡模型,說明了比例時滯神經網絡的平衡點就是二次規劃問題的最優解.基于變換后的系統構造Lyapunov泛函,證明了該網絡在一定條件下是全局漸近穩定的.本文結果是對以往的凸二次規劃問題的推廣,并且給出了比例時滯神經網絡模型平衡點和二次規劃問題最優解的關系.最后通過數值算例及仿真驗證了全局漸近穩定性準則的有效性.