幾乎無偏劉估計的不可容許性

王艷，華晶晶(.重慶大學數(shù)學與統(tǒng)計學院，重慶4033;.重慶電信研究院，重慶40336)

幾乎無偏劉估計的不可容許性

王艷1，華晶晶2
(1.重慶大學數(shù)學與統(tǒng)計學院，重慶401331;2.重慶電信研究院，重慶401336)

考慮了線性回歸模型中，在Fisherian和Mahalanobis損失函數(shù)下，幾乎無偏劉估計對于最小二乘估計的不可容許性;結論表明:幾乎無偏劉估計在Mahalanobis損失函數(shù)下是不可容的;最后進行了數(shù)值模擬來表明結果.

幾乎無偏劉估計;最小二乘Mahalanobis損失函數(shù);Fisherian損失函數(shù)

0　引言

考慮如下線性回歸模型:

其中y是n×1的觀測向量，X是秩為p的n×p設計矩陣，β是p×1未知參數(shù)向量，ε是n×1隨機誤差向量，β的普通最小二乘估計(OLSE)如下:

最小二乘估計過去很長一段時間被認為是線性模型中最好的估計，存在復共線性時，最小二乘估計便失去了它的最優(yōu)地位.為了克服復共線性，很多學者做了大量的努力，有一種方法是考慮有偏估計，如嶺估計［1］、劉估計［2］、兩參數(shù)估計［3-4］.

Liu［2］提出的劉估計定義如下:

Akdeniz和Kaciranlar［6］討論了在均方誤差意義下，AULE在一定條件下優(yōu)于OLSE.

盡管在均方誤差意義下，在一定條件下AULE優(yōu)于OLSE，但更想知道在其他準則下是否還有這一結論.此處在Fisherian和Mahalanobis損失函數(shù)下比較了這兩種估計的優(yōu)越性.

第2部分給出了線性模型的典則形式，第3部分在Fisherian和Mahalanobis損失函數(shù)下比較了AULE和OLSE，最后進行了數(shù)值模擬和結論標注.

1　模型和估計

考慮線性模型(1)，令Λ=diag(λ1，λ2，…，λp)對角線上元素是X'X的特征值，T是由X'X的特征向量組成的p×p矩陣，滿足T'X'XT=Λ，TT'=T'T=I，λ1≥λ2≥…≥λp.原來的回歸模型可寫成如下典則形式:

其中Z=X T，α=T'β.顯然Z'Z=Λ，最小二乘估計和幾乎無偏估計寫成如下形式:

2　Fisherian和Mahalanobis損失函數(shù)下的風險比較

這一部分將比較AULE和OLSE在Fisherian和Mahalanobis損失函數(shù)下的風險.

2.1 Fisherian損失函數(shù)下的風險比較

由于ε～N(0，σ2I)，有，即表示β的協(xié)方差矩陣.

OLSE的Fisherian損失函數(shù)是

AULE的Fisherian損失函數(shù)是

定理1在Fisherian損失函數(shù)下，AULE優(yōu)于OLSE，當且僅當

證明由方程(10)可得出

2.2 Mahalanobis損失函數(shù)下的風險比較

所以

同理可得

因此有

由方程(16)、(19)，得到

因此由如下定理2.

定理2在Mahalanobis損失函數(shù)下AULE對于OLSE是不可容的.

3　數(shù)值模擬

為了進一步表明理論結果，在這部分進行一個數(shù)值模擬.根據(jù)McDonald和Galarneau［7］和Liu［8］，解釋變量如下:

其中zij和zi(p+1)是獨立標準正態(tài)隨機變量.給定γ，兩解釋變量之間的相關系數(shù)是γ2.考慮n=25，p=4，γ=0.8，0.9，0.99，觀測變量如下產(chǎn)生(式(22)):

表1～表6給出了估計值的Fisherian損失和Mahalanobis損失.

表1　γ=0.8，κ=10.391 4，OLSE和AULE的Fisherian損失

表2　γ=0.9，κ=48.495 1，OLSE和AULE的Fisherian損失

表3　γ=0.99，κ=469.315 4，OLSE和AULE的Fisherian損失

表4　γ=0.8，κ=10.391 4，OLSE和AULE的Mahalanobis損失

表5　γ=0.9，κ=48.495 1，OLSE和AULE的Mahalanobis損失

表6　γ=0.99，κ=469.315 4，OLSE和AULE的Mahalanobis損失

從表1～表6所給出的模擬結果來看，隨著復共線性的增加，AULE和OLSE的損失函數(shù)增加;隨著σ2的增加;AULE的Fisherian損失和Mahalanobis損失減少.由表4～表6，OLSE總是優(yōu)于AULE，與定理2相吻合.

［1］HOERL A E，KENNARD RW.Ridge Regression:Biased Estimation for Non-orthogonal Problems［J］.Technometrics，1970(12): 55-67

［2］LIU K.A New Class of Biased Estimate in Linear Regression［J］.CommunStat Theory Methods，1993(22):393-402

［3］?ZKALE M R，KAIRANLAR S.The Restricted and Unrestricted Two-Parameter Estimators［J］.CommunStat Theory Methods，2007 (32):1009-1020

［4］汪國平.線性模型中的一類新的k-d類估計［J］.重慶工商大學學報:自然科學版，2013，30(7):12-15

［5］IRAY Gü，SAKALLOLU.Inadmissibility of the Liu Estimator to the Ordinary Least Squares Estimator［J］.Advances and Applications in Statistics，2010(19):21-32

［6］AKDENIZ F，KA?IRANLAR S.On the Almost Unbiased Generalized Liu Estimator and Unbiased Estimation of the Bias and MSE［J］.Commun Stat Theory Methods，1995(24):1789-1797

［7］MCDONALD M C，GALARNEAU D I.A Monte Carlo Evaluation of Ridge-type Estimators［J］.Journal of the American Statistical Association，1975(70):407-416

［8］LIU K.Using Liu-Type Estimator to Combat Collinearity［J］.CommunStat Theory Methods，2003(32):1009-1012

Inadmissibility of the Almost Unbiased Liu Estimator

WANG Yan1，HUA Jing-jing2
(1.School of Mathematics and Statistics，Chongqing Universtity，Chongqing 401331，China; 2.West Institute，China Academy of Telecommunication Research，Chongqing 401336，China)

This paper considers the admissibility of the almost unbiased Liu estimator to the ordinary least squares estimator of linear regression model in the Fisherian and Mahalanobis loss functions.The results show that the almost unbiased Liu estimator is inadmissible under Mahalanobis loss function.Finally，a simulation study is given to show the theoretical results.

almost unbiased Liu estimator;ordinary least squares estimator;Mahalanobis loss function; Fisherian loss function

O212.1

A

1672－058X(2015)09－0026－05

10.16055/j.issn.1672－058X.2015.0009.007

2015－01－10;

2015－02－20.

王艷(1990-)，女，湖北荊州人，碩士研究生，從事參數(shù)估計與變量選擇研究.