非線性模型的全局方差分析*

包文清

(浙江師范大學 數(shù)理與信息工程學院,浙江 金華 321004)

0 引 言

設有獨立變量x1,x2,…,xm構成的自變量x,應變量y，則非線性回歸的一般形式為

y=f(x1,x2,…,xm)+ε,E(ε)=0,Var(ε)=g(x1,x2,…,xm)≥0.

然而，如果考慮到描述現(xiàn)實世界的數(shù)學模型中各因數(shù)的隨機性，則上述模型可表述成

E[Y|X1,X2,…,Xm]=f(X1,X2,…,Xm),Var[Y|X1,X2,…,Xm]=g(X1,X2,…,Xm)≥0.

(1)

式(1)中:Y是隨機變量;X1,X2,…,Xm是相互獨立的隨機變量元.

對于高維回歸問題，人們主要關心的是模型中變量的選擇和模型的有效表示，常用方法可歸納為：從局部到全部的綜合法或從全部到局部的分析法.局部到全部的綜合法由Whitney[1-2]等開創(chuàng)，主要借助可微結構進行綜合;后經(jīng)Allen等努力得到了長足的發(fā)展[3];21世紀初，Sobol等[4-5]在該方面取得了一大批新成果.全部到局部多指標分析法以集合論、群論、矩陣理論為工具，在20世紀末由張應山[6]提出，且廣泛應用于正交設計、工業(yè)質(zhì)量管理等方面[7-11].筆者以多邊矩陣理論為基礎，以集合論為工具(主要用集合表示多指標組),研究了全局方差分析的問題.研究發(fā)現(xiàn),源于物理問題的全局分析法在變量選擇和模型的有效表示方面有很大的優(yōu)勢.

假設模型(1)中的f(x1,x2,…,xm)平方可積.

1 主要結果

首先,根據(jù)文獻[6]定義一些概念和記號.

設Ω={1,2,…,m}.對?M?Ω,令XM={Xi:i∈M},HM=E[Y|XM]，特別地,Hφ=E[Y],HΩ=f(XΩ),其中E[Y|XM]是Y關于XM的期望.

定義EXM(*)=E[*|XMc]，其中Mc=Ω-M.根據(jù)條件期望的性質(zhì)和X1,X2,…,Xm的獨立性假設，有

(2)

對于?M?Ω,M≠φ,?Xj,Yj∈R，易得:

(3)

(4)

其中|*| 表示集合的基數(shù).

定義δM,N=δM-NδN-M，則當M=N時δM,N=1,否則δM,N=0.換言之,δM,N是Kronecker記號，且有δM=δM,φ.

另外,還有:

(5)

(6)

證明 由式(4) 可得

證明 由式(5)和式(2)可得

證明 由式(2)可得

證明 由式(4)，式(5)，式(2)及引理1可得

2 全局ANOVA

由SM=0可知P(JM=0)=1.借助于敏感性指標可以對JM進行排序，并根據(jù)要求刪除一些不重要的JM.

下面通過一個典型實例說明全局敏感性分析的有效性.

(7)

因此，對?M?Ω,M≠φ,

由定義2及定義3可得

不妨設m=6,(p1,p2,…,p6)=(0,1,4.5,9,99,99),可得(STot{1},STot{2},…,STot{6})=(0.787,0.242,0.010 5,1.05E-04,1.05E-04).這一結果與X1,X2,…,X6中的pi(i=1,2,…,6)指標說明一致，這說明可以通過計算每個變量的全局敏感性總指標來確定這些變量對模型的影響，從而可根據(jù)具體要求剔除一些不顯著指標，達到降維簡化模型的目的.

另外，表1按降序列出了部分JM的全局敏感性指標.從表1看出：雖然定理1中的正交分解式有2|Ω|項，但對于實際問題而言，模型的近似表示式往往只需其中一小部分而已.

表1 降序列出部分

[1]Whitney H.Differentiability of the remainder term in Taylor′s formula[J].Duke Math J,1943,10(1):153-158.

[2]Whitney H.Differentiable even functions[J].Duke Math J,1943,10(1):159-160.

[3]Allen K N.Undaunted genius[J].Clark News,1988,11(1):9-11.

[4]Sobol I M.Theorems and examples on high dimensional model representation[J].Reliability Engineering and system safety,2003,79(2):187-193.

[5]Sobol I M,Tarantola S,Gatelli D,et al.Estimating the approximation error when fixing unessential factors in global sensitivity analysis[J].Reliability Engineering and system safety,2007,92(7):957-960.

[6]張應山.多邊矩陣理論[M].北京：中國統(tǒng)計出版社,1993.

[7]張應山,茆詩松，張從贊，等.具有兩種因果關系邏輯分析模型的穩(wěn)定性結構[J].應用概率統(tǒng)計，2005，21(4)：366-374.

[8]馮乃勤，邱玉輝，張應山，等.基于生態(tài)學的復雜系統(tǒng)穩(wěn)定性邏輯分析模型[J].計算機科學，2006，33(7)：213-216.

[9]Zhang Yingshan,Lu Yiqiang,Pang Shanqi.Orthogonal arrays obtained by orthogonal decomposition of projection matrices[J].Statistica Sinica,1999,9(2):595-604.

[10]Zhang Yingshan,Pang Shanqi,Jiao Zhengming,et al.Group partition and systems of orthogonal idempotents[J].Linear Algebra and its Applications,1998,278(1/2/3):249-262.

[11]Zhang Y S,Pang S Q,Wang Y P.Orthogonal arrays obtained by generalized Hadamard product[J].Discrete Mathematics,2001,238(1)：151-170.