關于充分統計量相關理論的一點補充

賈俊霞，劉 淼

(伊犁師范大學 數學與統計學院,新疆 伊寧 835000)

0 引言

在解決一個具體問題時，往往需要對樣本進行“加工”和“提煉”，針對不同的問題構造出樣本的某種函數，為此，引進統計量的概念[1].由于樣本中所包含的關于總體分布的信息可分為兩部分：一部分是關于總體的結構信息；另一部分是關于總體的未知參數信息.在用統計量代替樣本作統計推斷時，樣本中所含的信息可能有所損失，為了便于推斷總體的未知參數信息且保證能將樣本中的未知參數信息全部提煉出來，需要一個“不損失信息”的統計量，充分統計量由此誕生，它是英國著名統計學家費希爾(R.A.Fisher)在1922年提出，并在后續MIMO雷達檢測性能[2]、假設檢驗、最小方差無偏估計、最大似然估計、區間估計[3]等方面研究中起到了重要的作用.此外，把愈“精”愈“好”的充分統計量稱之為最小充分統計量[4].

基于此，本文將運用因子分解定理和條件分布的理論知識，通過推理得到證明充分統計量更加便捷的方法[5]，并對最小充分統計量的相關結果加以補充.

1 預備知識

定義1設(X1,X2,X3,…,Xn)為總體X的一個樣本，若f(X1,X2,X3,…,Xn)為一個函數，且在f中不含任何有關總體分布的未知參數，則稱f(X1,X2,X3,…,Xn)為一個統計量[1].

定義2[1]設(X1,X2,X3,…,Xn)是來自總體X具有分布函數F(x,θ)的一個樣本，T=T(X1,X2,X3,…,Xn)為一個(一維或多維)統計量，當給定T=t時，若樣本(X1,X2,X3,…,Xn)的條件分布(離散總體為條件概率，連續總體為條件密度)與參數θ無關，則稱T是θ的充分統計量.

引理1(因子分解定理)[1]設連續型隨機變量X，總體的分布密度為f(x,θ)，(X1,X2,X3,…,Xn)是樣本，T(X1,X2,X3,…,Xn)是一個統計量，則T為θ的充分統計量的充要條件是：樣本函數的聯合分布密度函數可以分解為

h(x1,x2,…,xn)g(T(x1,x2,…,xn),θ)，

其中：h是(x1,x2,x3,…,xn)的非負函數且與θ無關；g僅通過T依賴于(x1,x2,x3,…,xn).

離散型隨機變量的因子分解法情況類似[7].

引理2(最小充分統計量的存在定理)假定分解定理中的條件成立，且樣本空間為歐氏的，則最小充分統計量必存在[6].

2 主要結果

定理1對于離散型隨機變量X，若X的分布律為

P{X=x(i)}=p(xi,θ)(i=1,2,…)，

(X1,X2,X3,…,Xn)是一樣本，T(X1,X2,X3,…,Xn)是一個統計量，對于任意的未知參數θ和任意的一組樣本觀測值，當

(x1,x2,…,xn)∈T′(t)=

{(x1,x2,…,xn)|T(x1,x2,…,xn)=t}

時，有

P{X1=x1,X2=x2,…,Xn=xn,T=t,θ}=

P{X1=x1,X2=x2,…,Xn=xn,θ}.

證明若

T′(t)=

{(x1,x2,…,xn)|T(x1,x2,…,xn)=t}，

有一組觀測值(x1,x2,…,xn)∈T′(t)，則有

T′(t)=

{T=t}?{X1=x1,X2=x2,…,Xn=xn}.

于是

{X1=x1,X2=x2,…,Xn=xn,T=t}=

{X1=x1,X2=x2,…,Xn=xn}∩{T=t}=

{X1=x1,X2=x2,…,Xn=xn},

所以

P{X1=x1,X2=x2,…,Xn=xn,T=t,θ}=

P{X1=x1,X2=x2,…,Xn=xn,θ}.

定理2對于連續型隨機變量X，設總體X分布密度為f(x,θ)，(X1,X2,X3,…,Xn)是樣本，T(X1,X2,X3,…,Xn)是一個統計量，對于任意的未知參數θ和任意的一組樣本觀測值，當

(x1,x2,…,xn)∈T′(t)=

{(x1,x2,…,xn)|T(x1,x2,…,xn)=t}

時，有

f(x1,x2,…,xn,θ|T=t)=

證明若

T′(t)=

{(x1,x2,…,xn)|T(x1,x2,…,xn)=t}，

有一組觀測值(x1,x2,…,xn)∈T′(t)，則有

T′(t)={T=t}?{x1,x2,…,xn}.

于是

{x1,x2,…,xn,T=t}=

{x1,x2,…,xn}∩{T=t}={x1,x2,…,xn},

所以

f(x1,x2,…,xn,θ|T=t)=

證明由于X的概率密度函數為

則(X1,X2,X3,…,Xn)的聯合分布密度為

L(x1,x2,x3,…,xn,θ)=

h(x1,x2,…,xn)g(T(x1,x2,…,xn),θ),

證明(X1,X2,X3,…,Xn)的條件概率為

P{X1=x1,X2=x2,…,Xn=xn,

T=t,p|T=t}=

例3設(X1,X2,X3,…,Xn)是來自正態總體N(θ,1)的一個樣本，則

是未知參數θ的充分統計量.

證明(X1,X2,X3,…,Xn)的條件密度為

f(x1,x2,…,xn,θ|T=t)=

定理3設T=T(X1,X2,X3,…,Xn)是θ的一個充分統計量，s(t)是單值可逆函數，則s(T)也是θ的充分統計量.

證明下面以連續型隨機變量為例進行證明，對于離散型隨機變量的結果用類似方法可得.

h(x1,x2,…,xn)g(T(x1,x2,…,xn),θ)=

h(x1,x2,…,xn)g(s-1(s(T(x1,x2,…,xn))),θ)=

h(x1,x2,…,xn)q(s(x1,x2,…,xn),θ).

由因子分解定理可知，s(x1,x2,…,xn)是θ的充分統計量.由此可知一個總體的參數θ的充分統計量不唯一.

定理4設X為總體分布為f(x,θ)的隨機變量，(X1,X2,X3,…,Xn)為一樣本，T(X1,X2,X3,…,Xn)為一個統計量，若

(1)L(x1,x2,…,xn,θ)=

g(T(x1,x2,…,xn),θ)；

(2)對一切θ∈Θ，T(x)=T(y),當且僅當fx(θ)=fy(θ)，且T(x)往往直接表示為x的函數，則T(x)是最小充分統計量.

證明(X1,X2,X3,…,Xn)的聯合分布密度為

L(x1,x2,…,xn,θ)=

g(T(x1,x2,…,xn),θ).

(Y1,Y2,Y3,…,Yn)的聯合分布密度為

h(y1,y2,…,yn)g(T(y1,y2,…,yn),θ).

由于g僅通過T分別依賴于(x1,x2,…,xn)與(y1,y2,…,yn)，對一切θ∈Θ，若T(x)=T(y)，可得g(T(x1,x2,…,xn),θ)=g(T(y1,y2,…,yn),θ)，h是非負函數且與θ無關，由此可知fx(θ)=fy(θ)；若fx(θ)=fy(θ)，則T(x)=T(y)顯然成立，故T(x)是最小充分統計量.

例4設(X1,X2,X3,…,Xn)是來自正態總體N(μ,σ2)的一個樣本，參數為θ=(μ,σ2)，對βn上的L測度μ，T(x)是一個最小充分統計量.

證明由于X的概率密度函數為

則(X1,X2,X3,…,Xn)的聯合分布密度為

易見，對一切θ∈Θ，若fx(θ)=fy(θ)，當且僅當T(x)=T(y)，故T(x)是一個最小充分統計量.