函數帶誤差的部分線性模型約束下的統計推斷

李夢含，夏小超

(重慶大學數學與統計學院，重慶401331)

0 引言

近年來，半參技術發展迅速并廣泛應用到經濟、金融、政治、生態等科技領域.一方面，參數模型常因設定錯誤引起較大偏差，而半參技術可以減少設定錯誤的風險從而避免所謂的“維數災難”;另一方面，半參技術還擁有非參模型的靈活性.而在半參模型中，部分線性模型發展尤為迅速，為研究溫度和用電量的關系，Engle等率先提出了以下形式的這種模型［1］

這里T代表向量或矩陣的轉置，Y∈R1為響應變量，X∈Rp和T∈R1是協變量，g(·)是定義在［0，1］上的未知函數，β=(β1，…，βp)T是未知參數變量.在協變量給定時，誤差項ε獨立且條件均值為零.但在實際應用中，可能由于測量工具或環境因素的影響，使得協變量的測量存在誤差，例如血清膽固醇水平、尿鈉氯化物水平和接觸污染物程度往往受測量誤差影響［2］.

當協變量的測量存在誤差時，模型(1)被稱為協變量誤差模型或EV模型.一般有3種EV模型:

(i)只有X存在測量誤差，即W=X+ξ;

(ii)只有T存在測量誤差，即U=T+η;

(iii)X和T都存在測量誤差，即W=X+ξ，U=T+η.

致力于研究EV模型參數估計和統計推斷的文獻也很多.為處理情形(i)，Liang等利用常用的衰減參數校正(parametric correction for attenuation)研究參數估計和非參估計的性質，并證明了估計值的漸近正態性和一致性［3］;Cui和Li利用最近鄰廣義二乘法(nearest neighbor-generalized least square method)得到了參數估計值、模型誤差的方差和平滑函數［4］，Cui考慮了反復測量觀察值時的參數估計問題［5］;趙和周利用最小二乘和拉格朗日乘子檢驗進行了統計推斷［6］;You等檢驗了統計推斷的3個方面:帶寬選擇技術、擬合優度的檢驗、基于非凹懲罰似然法的變量選擇［7］;這些文獻都是針對點估計進行的，當然也有很多基于經驗似然構造參數置信區間的文獻［8-10］.總的來說，非參誤差問題比參數誤差更難處理，更涉及了非參回歸模型中的反卷積技術.為研究參數估計的性質，Liang首先將該方法推廣到函數帶誤差的部分線性模型中［11］.為了處理情形(ii)，Huang則采用經驗似然法構造了參數的置信區間［12］;此外Zhu和Cui也構造了參數估計值和非參核估計［13］.

此處重點研究參數包含輔助信息的情形(ii).在統計應用中，樣本外得到的輔助信息可提高參數估計的有效性，正如Rao等在線性模型中所述，當參數的先驗信息表示成線性約束時，約束最小二乘估計比普通最小二乘更有效［14］.而當線性部分的協變量存在測量誤差時，Wei對變系數部分線性模型做了統計推斷［15］.

受Wei的啟發，對情形(ii)在如下約束條件下作統計推斷:

A是k×p的已知矩陣，b是k×1的已知常數向量，并假定rank(A)=k＜p.

第2節提出參數分量的約束估計和其主要性質;第3節對約束條件的合理性進行檢驗;第4節是數值模擬;主要結論的假設和證明則在第5節給出.

1 約束估計值的構造及其性質

為完成各種證明，需假設一些條件成立.

令 xij為 Xi的第 j個分量，hj(t)=E(xij|Ti=t)，ζij=xij-hj(Ti)，ζi=(ζi1，…，ζip)T，1≤i≤n，1≤j≤p.首先提出平滑和超平滑的定義.

定義1［16］u的誤差分布被稱為α階平滑的，如果它的特征函數φu(·)滿足t→∞時，

其中 d0，d1，α 均為正數.

定義2［16］u的誤差分布被稱為α階超平滑的，如果它的特征函數φu(·)滿足t→∞時，

這里 d0，d1同，α，γ 均為正數，α0和 α1為常數.

然后指出如下假設條件:

(C1)g(·)和hj(·)(1≤j≤p)一階Lipschitz連續;

(C2)不可觀測協變量T的邊緣密度在區間［0，1］上從零到無窮有界，且有有界的m階導數，m是正整數;誤差u的分布是平滑或超平滑的，且其特征函數φu(·)不為0;

(C3)核函數K(·)對稱，且為 m階對稱，即滿足 K(-t)=K(t)(t)d t≠0，t)d t=0，其中 j=1，2，…，m-1.

(C4)誤差分布滿足下列兩個條件之一:

(i)誤差分布是 α 階平滑的，取平滑參數 h=dn-1/(2m+2α+1)，其中 d＞0，2m＞2α+1，并假定對于常數 c≠0，當t→∞ 時(t)=O(1)，且有

這里，測量誤差 ui均值為零，獨立同分布，且獨立于(Ti，Xi，εi)，β∈Θ?Rp，(X，T)給定時 εi的條件均值為零，并假定εi同方差.另外為使模型(3)可識別，進一步要求u有已知分布的特征函數φu(·).

記T和U的密度函數分別為fT(·)，fU(·)，定義fT(t)的反卷積核估計為［16］

下面的定理將說明式(7)和式(8)的一致性.

定理1 假設條件(C1)-(C6)成立，有

下面將用兩種方法構造參數的約束估計.

1.1 拉格朗日乘數法

Liang證明了PLS估計值的一致性和漸進正態性［11］，但并沒有考慮約束條件的存在，而有效的約束可以減少估計偏差.本節考慮約束條件(2)并在第3節對約束條件的合理性進行檢驗.首先，應用拉格朗日乘數法構造懲罰函數

最小化式(11)得到參數估計值.通過求解最優化問題，即把Q(β，λ)分別對β和λ求偏導令其為零，得到

由式(5)，定義g(t)的非參約束估計為

定理2(i)假設(C1)-(C5)成立，則有

推論1 在定理2的條件下，若β接近參數的真值，則有

接下來介紹另一種構造β約束估計值的方法.

1.2 方法 2

將Wei在部分線性EV模型中得到的參數約束估計方法應用到本文的模型中［15］，過程如下.

定義 p×(p-k)矩陣 R 使得 QT=^(AT，R)滿秩且 AR=0，此時 R 存在但不唯一［17］.記 Q-1=［AT(AAT)-1，R(RTR)-1］，再令 θ=Qβ，則有 θ=(，其中 θ1=Aβ，θ2=RTβ.

令 G=(g(T1)，…，g(Tn))T，ε=(ε1，…，εn)T，知模型(1)的矢量形式為 Y=Xβ+G+ε.再由 Aβ=b，則模型可改寫為

這里X*和Y*如式(6)中所定義，但權重Wnj(·)的Kn(·)卻是一般核函數的重新排列.當替代變量U可觀測時，類似于式(6)有θ2的估計值

2 參數的約束條件檢驗

考慮模型(3)線性部分參數帶有約束條件的情形，對約束條件的合理性進行檢驗.不失一般性的考慮如下帶有線性假設的檢驗:

Fan和Huang提出部分變系數模型參數的profile廣義極大似然比檢驗［18］，并證明了Wilks現象的存在，即原假設成立時該統計量近似服從與σ2無關的卡方分布.應用該方法檢驗模型(3)的式(22)，發現Wilks現象仍然存在，但當線性部分存在測量誤差時卻不存在Wilks現象［15］.本節檢驗過程如下:

原假設成立，即Aβ=b時，參數的約束估計βr和非參估計gnr(t)分別由式(13)和式(14)給出.相應的殘差平方和為

如果H0為真，直觀上RSS0和RSS1不應相差過大.所以當GLR統計量較大時，應拒絕原假設.理論說明由定理4給出.

定理4 若檢驗式(22)的原假設和(C1)-(C6)成立，則有，，這里是自由度為k的卡方分布.

定理5 若檢驗式(22)的備則假設和(C1)-(C6)成立，則有(δ)，這里(δ)代表自由度為k，非中心化的卡方隨機變量，其中非中心參數為

注:定理4說明原假設成立時，Tn與σ2，β和g(·)無關，近似服從自由度為k的卡方分布.這個定理既提供函數帶誤差的部分線性模型參數分量檢驗的方法，也說明了Wilks現象依然存在.雖然只考慮了約束參數分量的檢驗，但也可用類似的方法進行非參函數的檢驗.

3 數值模擬

為對約束估計值和統計量Tn進行檢驗，本節在有限樣本下作數值模擬，數據由下產生

這里(xi1，xi2)由相關系數為 0.4 的二維標準正態分布產生，Ti～N(0.5，0.252)，g(t)=.為研究誤差分布對參數估計值的影響，檢驗如下兩種情形:ui由雙指數分布(平滑情況)產生;ui由正態分布(超平滑情況)產生.假設為誤差ui的方差，并取)，則該信噪比可達 0.7［16］.

例1 雙指數誤差

假設誤差u有如下雙指數密度函數

核函數K(·)是高斯核，即標準正態密度.簡單計算可知式(4)中的核Kn(·)可由如下定義

根據條件(C4)(i)選取 h=1.16·sd(T)·n-1/9［19］.

例2 正態誤差

根據(C4)(ii)選取 h=1.1σ0(log n)-1/2.

3.1 約束估計的一致性檢驗

在模型(26)中，令β1=1，β2=3.考慮約束3β1+β2=6和模型誤差ε分別是均勻分布、正態分布、學生t-分布、卡方分布的情形，分別給出約束估計的樣本均方誤差(MSE)和樣本標準差(SD)，其中

表1 和的均方誤差和標準差

表1 和的均方誤差和標準差

?

續表1

由表1知，當樣本量增加時，均方誤差和標準差在遞減.說明隨著樣本量增多，約束估計逐漸接近真實的參數，與結論一致.

3.2 檢驗統計量有效性檢驗

對模型式(26)，考慮如下檢驗:

關于β1=2，β2=2-c，c=0表示原假設，否則就是備則假設.

原假設成立時，對樣本量為n=100的情形運行1 000次來檢驗統計量Tn是否服從定理4的(k=1).圖1，2分別描繪了均勻誤差下例1，例2的誤差Q-Q圖，也揭示了1 000個GLR統計量的四分位數和分布四分位數的關系，可以看出GLR統計量可以很好的擬合期望的卡方分布，也與之前結果一致.

圖1 例1的Q-Q圖

圖2 例2的Q-Q圖

為評估第3節提出檢驗過程的有效性，重復1 000次得到檢驗統計量的功效曲線.圖3描繪了GLR檢驗的功效曲線，拒絕率是根據顯著水平α=0.05在不同的樣本量下計算的，從圖3可以看出當樣本量增大時檢驗效果變好，這也說明了檢驗過程是有效性.圖4描繪了固定樣本量n=100時施加不同模型誤差的情形，如圖所示，模型誤差時正態分布、卡方分布、學生t-分布的情形相似，但當c離0較近時，均勻分布下的情形有所不同.例2的結論類似可得(圖5，6).

圖3 不同樣本量下例1的功效曲線

圖4 不同模型誤差下例1的功效曲線

圖5 不同樣本量下例2的功效曲線

圖6 不同模型誤差下例2的功效曲線

4 主要結論的假設和證明

最后在證明結論前，先介紹如下引理.

(ii)如果 U是超平滑誤差，X和 T獨立，(i)的結論對于 j=1，…，p仍然成立，但是

定理1的證明 首先證明式(9).由

再由式(9)就得到了(ii)的第一個結論.

由引理2和引理3知

所以，在原假設成立即 H0∶Aβ-b=0時，可得.證畢.

定理5的證明 證明方法和定理4的證明相同，此處省略.

［1］ENGLE R，GRANGER C，RICE J，et al.Nonparametric Estimates of the Relation Between Weather and Electricity Sales［J］.Journal of American Statistical Association，1986(81):310-320

［2］YOU J H，ZHOU Y，CHEN G M.Corrected Local Polynomial Estimation in Varying-coefficient Models with Measurement Errors［J］.The Canadian Journal of Statistics，2006(34):391-410

［3］LIAN H，H?RDLEW，CARROLL R J.Estimation in a Semiparametric Partially Linear Errors-in-variables Model［J］.The Annals of Statistics，1999(27):1519-1535

［4］CUI H J，LI R C.On Parameter Estimation for Semi-linear Errors-in-variable Models［J］.Journal of Multivariable Analysis，1998(64):1-24

［5］CUI H J.Estimation in Partial Linear EV Models with Replicated Observations［J］.Science China Mathematics，Series A.2004(34):467-482

［6］趙培信，周小雙.線性誤差協變量下部分線性模型的約束統計推斷［J］.山東大學學報:理學版，2014，49(7):69-74

［7］YOU J H，XU Q F，ZHOU B.Statistical Inference for Partially Linear Regression Models with Measurement Errors［J］.Chinese Annals of Mathematics，Series B，2008(29):207-222

［8］LI G R，XUE L G.Empirical Likelihood Confidence Region for the Parameter in Partially Linear Errors-in-variables Model［J］.Communications in Statistics-Theory and Methods，2008(37):1552-1564

［9］WONG H，LIU F，CHEN M，et al.Empirical Likelihood Based Diagnostics for Heteroscedasticity in Partially Linear Errors-invariables Models［J］.Journal of Statistical Planning and Inference，2009(139):916-929

［10］LIU Q，XUE L G.Empirical Likelihood Confidence Regions of Parameters in Nonlinear EV Models under Missing Data［J］.Acta Mathematica Scientia，Chinese Series A，2012(32):233-245

［11］LIANGH.Asymptotic Normality of Parametric Part in Partially Linear Models with Measurement Errors in the Nonparametric Part［J］.Journal of Statistical Planning and Inference，2000(86):51-62

［12］HUANG Z S.Empirical Likelihood for the Parametric Part in Partially Linear Errors-in-function Models［J］.Statistics and Probability Letters，2012(82):63-66

［13］ZHU L X，CUI H J.A Semi-parametric Regression Model with Errors in Variables［J］.Board of the Foundation of the Scandinavian Journal of Statistics，2003(30):429-442

［14］RAO CR，TOUTENBURG H，SHALABH，et al.Linear Models and Generalizations:Least Squares and Alternatives［M］.Berlin:Springer，2008

［15］WEI C H.Statistical Inference for Restricted Partially Linear Varying Coeficient Errors-in-variables Models［J］.Journal of Statistical Planning and Inference，2012(142):2464-2472

［16］FAN J Q，TRUONG Y.Nonparametric Regression with Errors in Variables［J］.The Annals of Statistics，1993(21):1900-1925

［17］AMEMIYA T.Advanced Econometrics［M］.Boston:Harvard University Press，1985

［18］FAN J Q，HUANG T.Profile Likelihood Inferences on Semiparametric Varying-coefficient Partially Linear Models［J］.Bernoulli，2005(11):1031-1057

［19］CHEN X，CUI H J.Empirical Likelihood Inference for Parameters in a Partially Linear Errors-in-variables Model［J］.Statistics，2011(46):745-757