變系數(shù)部分非線性模型的分位數(shù)回歸估計(jì)

梁美娟,羅雙華,張成毅

(1. 西安工程大學(xué) 理學(xué)院, 西安 710048; 2. 西安交通大學(xué) 經(jīng)濟(jì)與金融學(xué)院, 西安 710049)

為了能夠獲得響應(yīng)變量和協(xié)變量之間更多的復(fù)雜關(guān)系,LI和 MEI[1]在變系數(shù)部分線性模型的基礎(chǔ)上提出了變系數(shù)部分非線性模型,其標(biāo)準(zhǔn)形式為

Y=XTα(U)+g(Z,β)+ε,

(1)

其中:(X,Z)∈Rp×Rq和U∈R是協(xié)變量,Y是響應(yīng)變量,α(·)=(α1(·),…,αp(·))是未知系數(shù)函數(shù),g(·,·)是給定的非線性函數(shù),β=(β1,…,βs)T是未知參數(shù)向量,且β和Z不一定有相同的維數(shù),ε是期望為零,方差為σ2的隨機(jī)誤差,且與(U,X,Z)相互獨(dú)立．該模型具有靈活的解釋性,還能避免一些高維數(shù)據(jù)帶來的不便,因此成為當(dāng)今研究的熱門話題．文獻(xiàn)[1]給出了模型的參數(shù)與非參的截面非線性最小二乘估計(jì)．目前,已有一些統(tǒng)計(jì)學(xué)者對(duì)模型(1)做了許多研究．縱向數(shù)據(jù)是指對(duì)同一個(gè)受試個(gè)體在不同時(shí)間點(diǎn)上重復(fù)觀測(cè)若干次,從而得到的由截面數(shù)據(jù)和時(shí)間序列數(shù)據(jù)結(jié)合在一起的數(shù)據(jù)．它在經(jīng)濟(jì)學(xué)、生物醫(yī)學(xué)、傳染病學(xué)以及其他的自然科學(xué)領(lǐng)域都有著廣泛的應(yīng)用,受到統(tǒng)計(jì)學(xué)家們的廣泛關(guān)注．如LIU[2]研究了縱向數(shù)據(jù)下的變系數(shù)變量誤差模型;YAN等[3]針對(duì)縱向數(shù)據(jù)對(duì)部分線性誤差模型進(jìn)行了經(jīng)驗(yàn)似然推斷．然而,在研究縱向數(shù)據(jù)時(shí),其中一些數(shù)據(jù)可能會(huì)丟失,所以對(duì)于一些缺失數(shù)據(jù)的處理是統(tǒng)計(jì)學(xué)家關(guān)注的熱點(diǎn)．處理隨機(jī)缺失最常用的方法有完全數(shù)據(jù)法、逆概率加權(quán)法和插補(bǔ)法等．XU等[4]利用逆概率加權(quán)法研究了協(xié)變量隨機(jī)缺失的變系數(shù)部分非線性變量誤差模型;WANG等[5]提出一個(gè)逆概率加權(quán)輪廓非線性最小二乘估計(jì)協(xié)變量缺失的變系數(shù)部分非線性模型中未知參數(shù)和非參數(shù)函數(shù)．除此之外,文獻(xiàn)[6-8]也有研究．對(duì)于回歸模型的估計(jì)問題,大多是基于最小二乘回歸法,最小二乘法效果雖然很好,但當(dāng)數(shù)據(jù)存在顯著的異方差,或者存在尖峰、厚尾等情況時(shí),最小二乘估計(jì)的穩(wěn)健性比較差．因此,人們?cè)谑褂媒?jīng)典方法的同時(shí),也在不斷地探索更好的方法．KOENKER和 BASSETT[9]提出的分位數(shù)回歸,不需要對(duì)誤差項(xiàng)的分布作假設(shè),適應(yīng)性更強(qiáng)．TANG等[10]結(jié)合分位數(shù)信息和最小二乘方法方程構(gòu)造無偏估計(jì)方程來提高模型的估計(jì)效率;YANG等[11]針對(duì)變系數(shù)部分非線性模型采用分位數(shù)回歸估計(jì)并且進(jìn)行了變量選擇;TANG等[12]研究了協(xié)變量隨機(jī)缺失的變系數(shù)復(fù)合分位數(shù)模型的估計(jì)問題．基于以上研究,針對(duì)縱向數(shù)據(jù)缺失情況的變系數(shù)部分非線性分位數(shù)回歸模型的估計(jì)還有很多問題值得研究．因此,本文考慮使用逆概率加權(quán)法來討論縱向數(shù)據(jù)隨機(jī)缺失的變系數(shù)部分非線性分位數(shù)回歸模型的估計(jì)問題．

1 估計(jì)方法

考慮如下變系數(shù)部分非線性分位數(shù)回歸模型

(2)

假設(shè){Yij,Xij,Zij,Uij,i=1,…,n,j=1,…,ni}是來自模型(2)的一組隨機(jī)樣本,i和j表示第i個(gè)個(gè)體的第j次觀測(cè)值．響應(yīng)變量Yij隨機(jī)缺失 (MAR),即δij=1時(shí),Yij可以觀測(cè)到;當(dāng)δij=0時(shí),Yij缺失,且滿足

P(δij=1|Yij,Uij,Xij,Zij)=

P(δij=1|Uij,Xij,Zij)=π(Uij,Xij,Zij)

(3)

(4)

進(jìn)一步有α(·)改進(jìn)后的估計(jì)量

(5)

然而,在一些實(shí)際應(yīng)用中,缺失概率π(Vij)一般是未知的,本文選擇logistic回歸模型作為缺失機(jī)制,即

(6)

(7)

2 主要結(jié)果

此外,給出一些證明過程中所需要的條件,如下常見的條件可參考文獻(xiàn)[1,13]．

C1 對(duì)任意的z,g(z,β)是β的連續(xù)函數(shù),并且g(z,β)關(guān)于β的二階連續(xù)導(dǎo)數(shù)．

C4 隨機(jī)變量U具有有界支撐Ω,其密度函數(shù)fU(·)在Ω上Lipschitz連續(xù)且大于零．

C5 變系數(shù)函數(shù)α1(·),…,αp(·)在Ω上二階連續(xù)可導(dǎo)．

C6 條件密度函數(shù)f(·|X,Z,U)大于零,其導(dǎo)函數(shù)連續(xù)一致有界．

C7 選擇概率π(u,x,z)有界且大于零,并且有連續(xù)二階偏導(dǎo)數(shù)．

2.1 參數(shù)部分漸近性質(zhì)

定理1 假設(shè)π(V)是已知的,在C1-C8條件下,有

定理2 假設(shè)π(V)符合(7)且參數(shù)θ未知,在C1-C8條件下,有

其中:Λ2=Λ1-JTΩ-1J．

2.2 非參數(shù)部分漸近性質(zhì)

定理3 假設(shè)π(V)是已知的,在C1-C8條件下,有

定理4 假設(shè)π(V)符合(7)且參數(shù)θ未知,在C1-C8條件下,有

其中:Ψ2=Ψ1-J*TΩ-1J*．

3 定理的證明

該引理證明細(xì)節(jié)可詳見文獻(xiàn)[14]．

該引理證明細(xì)節(jié)可詳見文獻(xiàn)[15]．

定理1的證明

由KNIGHT[16]提出的恒等式

(8)

可得

又因?yàn)锽n(γ)-E[Bn(γ)|U,X,Z]=oP(1),所以

由Cramer-Wold理論和中心極限定理可得

最后根據(jù)Lindeberg-Feller中的極限定理有

定理1證畢．

定理2的證明

根據(jù)式(8)可得

(9)

(10)

其中:π′(Vij,θ)=π(Vij,θ)(1-π(Vij,θ))Vij．根據(jù)式(9)、(10)可得

因此

定理3的證明

根據(jù)恒等式(8)有

與定理1證明類似,求Nn(ξ)的條件期望,即

Wij(u)T．

因?yàn)镋[Rn(u)]=fU(u)R(u)+O(h2),R(u)=diag(R1(u),R2(u)),

(11)

此外,與TANG[12]的定理1證明過程類似,

定理3證畢．

定理4的證明

根據(jù)中心極限定理,最終有

定理4證畢．

4 數(shù)值模擬

本節(jié)過數(shù)值模擬來驗(yàn)證所提方法的有限樣本性．考慮如下模型

i=1,…,n,j=1,…,ni,

模擬1

根據(jù)上述模型,選擇如下三種選擇概率函數(shù)

π1(u,x,z)=P(δ=1|U=u,X=x,Z=z)=

{1+exp(u+x+2z+4.5)}-1

π2(u,x,z)=P(δ=1|U=u,X=x,Z=z)=

{1+0.6exp(u+x+z+1.4)}-1

π3(u,x,z)=P(δ=1|U=u,X=x,Z=z)=

{1.5+exp(u-x-z-2)}-1

以上三種情形對(duì)于數(shù)據(jù)的平均缺失概率分別約為10%,30%,50%．在模擬過程中,誤差服從標(biāo)準(zhǔn)正態(tài)分布, 樣本容量分別取n=300,500,800,并且重復(fù)觀測(cè)次數(shù)為ni=3,且對(duì)每一種情況實(shí)驗(yàn)重復(fù)1 000次．表1、2分別為分位數(shù)τ=0.5,0.75時(shí)參數(shù)估計(jì)量的均值(Mean),偏差(Bias),標(biāo)準(zhǔn)差(SD)和均方誤差(MSE)的結(jié)果．

表1 τ=0.5時(shí)和的均值(Mean),偏差(Bias),標(biāo)準(zhǔn)差(SD)和均方誤差(MSE)

表2 τ=0.5時(shí)和的均值(Mean),偏差(Bias),標(biāo)準(zhǔn)差(SD)和均方誤差(MSE)

由表1、2可以看出:

1) 當(dāng)缺失概率函數(shù)和分位數(shù)一定時(shí),隨著樣本量的增加,參數(shù)估計(jì)量的標(biāo)準(zhǔn)差和均方誤差都在減小;

3) 當(dāng)缺失概率函數(shù)和樣本容量一定時(shí),相比在τ=0.5時(shí)參數(shù)的估計(jì)效果,τ=0.75時(shí)的參數(shù)估計(jì)效果較好．

模擬2

基于上述模型,考慮在相同缺失概率大約為30%,分位數(shù)為0.75,n=800時(shí)比較2種情形下分位數(shù)回歸估計(jì)的優(yōu)越性,且考慮3種誤差分布(N(0,1),U(0,1),C(0,1))．表3為缺失概率相同且在三種誤差分布下的參數(shù)估計(jì)效果．

表3 缺失概率相同時(shí)和的均值(Mean),偏差(Bias),標(biāo)準(zhǔn)差(SD)和均方誤差(MSE)

由表3可以看出:

2) 當(dāng)誤差分布相同時(shí),誤差分布為標(biāo)準(zhǔn)正態(tài)分布的參數(shù)估計(jì)量,相比概率已知的結(jié)果,概率未知的結(jié)果較好,而其他兩種誤差下參數(shù)估計(jì)量的結(jié)果相差不大．

5 結(jié) 語

本文利用逆概率加權(quán)法給出了縱向數(shù)據(jù)缺失下變系數(shù)部分非線性分位數(shù)回歸模型的2種參數(shù)估計(jì),即選擇概率已知、選擇概率未知時(shí)的參數(shù)估計(jì);并且在一定條件下證明了所給估計(jì)量的漸近正態(tài)性．通過數(shù)值實(shí)驗(yàn)說明了所得估計(jì)的有效性．