基于奇異矩陣的廣義嶺估計(jì)與主成分估計(jì)的比較

李春雨

(華北理工大學(xué)礦業(yè)工程學(xué)院，河北 唐山 063210)

引言

通常，對(duì)于一般的平差模型，待測值的最小二乘估計(jì)具有無偏性，均方誤差最小的優(yōu)點(diǎn)。但由于外業(yè)測量中不可避免的出現(xiàn)觀測值之間不獨(dú)立、參數(shù)近似線性相關(guān)、法方程存在嚴(yán)重復(fù)共線性等問題。因此，有必要對(duì)β進(jìn)行修正[1]。國內(nèi)外學(xué)者對(duì)此進(jìn)行廣泛的研究，徐文科等[2]對(duì)于可估函數(shù)在均方誤差意義下，提出了廣義嶺估計(jì)優(yōu)于最小二乘估計(jì)且在二次損失函數(shù)下廣義嶺估計(jì)具有可容許性的優(yōu)點(diǎn)；錢峰等[3]在有偏估計(jì)的基礎(chǔ)上提出了一種新的有偏估計(jì)壓縮廣義嶺估計(jì)的方法，驗(yàn)證了有偏壓縮嶺估計(jì)的可行性和優(yōu)良性；葉松林等[4]針對(duì)函數(shù)模型結(jié)構(gòu)差提出了奇異值分解法和廣義嶺估計(jì)法處理有偏數(shù)據(jù)；胡靜等[5]應(yīng)用主成分估計(jì)方法，對(duì)Logistic回歸模型進(jìn)行參數(shù)估計(jì)，達(dá)到了消除多重共線性影響的目的。

而廣義嶺估計(jì)作為經(jīng)典病態(tài)模型正則化的一種有效方法[6]通過改進(jìn)典則參數(shù)進(jìn)行有偏估計(jì)；主成分估計(jì)從消除自變量之間的復(fù)共線性入手，通過選擇合適的主成分個(gè)數(shù)，使得主成分估計(jì)比最小二乘估計(jì)有較小的均方差的效果[7]。因此在控制測量中，應(yīng)用和比較廣義嶺估計(jì)和主成分估計(jì)等有偏估計(jì)在大地測量反演、控制網(wǎng)平差、GPS快速定位、航空重力向下延拓[8]等大地測量數(shù)據(jù)處理領(lǐng)域中具有重要意義。

1 有偏估計(jì)

1.1 廣義嶺估計(jì)

廣義嶺估計(jì)討論問題的方式：模型設(shè)計(jì)矩陣列向量之間近似線性相關(guān)，系數(shù)矩陣接近奇異。通過在典則形式的法方程系數(shù)陣主對(duì)角線元素上加上不同的k值，期望對(duì)嶺估計(jì)加以改進(jìn)[9]。

廣義嶺估計(jì)定義：

(1)

式中，G為正交方陣，且：

GT(βTβ)G=diag(λi,…λt)

K=diag(k1,…kt)

(2)

式中，k1,…,kt為t個(gè)嶺參數(shù)或稱廣義嶺參數(shù)。

則參數(shù)Y的廣義嶺估計(jì)：

(3)

廣義嶺估計(jì)的均方誤差：

(4)

對(duì)式(4)中的ki求偏導(dǎo)，并令其為0，可得到：

(5)

(6)

(7)

上述方法也稱直接法求廣義嶺估計(jì)。

1.2 主成分估計(jì)

主成分估計(jì)作為一種線性有偏估計(jì)，其中矩陣BTB的特征根λi度量了第i個(gè)主成分Ai在總方差中所占的分量，若某個(gè)λi≈0，說明這個(gè)主成分在總方差中所占分量很小，故可以把其看成常數(shù)并從模型剔除[6]。當(dāng)BTB矩陣奇異時(shí)，存在一些特征根λi等于0或者接近于0，此時(shí)相當(dāng)于用0去估計(jì)多余觀測量，而必要觀測量仍采用LS估計(jì)，根據(jù)關(guān)系式定出X的估計(jì)。而BTB的特征值為λ1≥λ2≥…≥λp，求得標(biāo)準(zhǔn)正交化特征向量為G1、G2…Gp,則新變量為XGi。

主成分估計(jì)公式：

L=A1Y(1)+A2Y(2)+Δ

(8)

(9)

得到X的估計(jì)：

(10)

1.3 精度評(píng)定

在二維以上的空間，向量或矩陣通過范數(shù)映射到實(shí)數(shù)空間，以函數(shù)的本質(zhì)，把不能比較的向量和矩陣轉(zhuǎn)換成可以比較的實(shí)數(shù)，成為衡量比較距離的標(biāo)準(zhǔn)。在實(shí)際測量工作中，誤差矩陣的二范數(shù)越小，表明其收斂速度越快，精度越高，待測點(diǎn)的估計(jì)值越逼近真值。

本文假定初始值，計(jì)算估值和假定真值之差的二范數(shù)，對(duì)所得二范數(shù)進(jìn)行大小比較。

計(jì)算公式：

(11)

1.4 計(jì)算流程

計(jì)算流程見圖1。

圖1 流程圖

2 數(shù)據(jù)處理及分析

如表1所示，數(shù)據(jù)為控制測中選取的5個(gè)參數(shù)[10]。其中，X1、X2、X3、X4、X5所對(duì)應(yīng)的列向量為系數(shù)列；β為系數(shù)矩陣；l為其常數(shù)項(xiàng)。

表1 實(shí)驗(yàn)數(shù)據(jù)

其中，系數(shù)矩陣：

其中，常數(shù)項(xiàng)：

l=[-10.512 10.443 1.4485 11.94 14.085-0.1535 21.192 1.6535 8.9494 11.865]T

可算得βTβ的特征值：λ1=0.0292020340149471，λ2=0.116446485269018，λ3=27.4316345387204，λ4=140.832273335337，λ5=608.474551196659；假定待求點(diǎn)的真值：X1=1、X2=1、X3=1、X4=1、X5=1,設(shè)計(jì)誤差方程，組成法方程，判斷條件數(shù)：

(12)

式中，λmax為最大特征值；λmin為最小特征值。

若0<ρ<100則認(rèn)為模型正常；若100≤ρ≤1000則認(rèn)為模型存在中等程度病態(tài)；若ρ>1000則認(rèn)為模型有嚴(yán)重病態(tài)性。

表2 3種方法估值及精度分析

表3 二范數(shù)比較

針對(duì)病態(tài)法方程數(shù)據(jù)，二范數(shù)越小，其收斂速度越快、越逼近真值。通過3種真值比較得知，廣義嶺估計(jì)和主成分估計(jì)都在一定程度上改善了最小二乘估計(jì)，其中廣義嶺估計(jì)效果最好，主成分估計(jì)次之。

圖2 估值示范圖

3 結(jié)論

通過以上最小二乘、廣義嶺估計(jì)和主成分估計(jì)的直觀對(duì)比以及二范數(shù)精度，可得出以下結(jié)論。

針對(duì)設(shè)計(jì)矩陣奇異，廣義嶺估計(jì)和主成分估計(jì)等有偏估計(jì)均在一定程度上改進(jìn)了最小二乘估計(jì)。

針對(duì)本次法方程奇異的實(shí)驗(yàn)數(shù)據(jù)，廣義嶺估計(jì)的改進(jìn)效果優(yōu)于主成分估計(jì)，且廣義嶺估計(jì)改進(jìn)效果最好。其缺點(diǎn)是迭代次數(shù)較多，收斂速度較慢，整體計(jì)算過程相對(duì)主成分估計(jì)而言較為復(fù)雜。

主成分估計(jì)會(huì)在個(gè)別單個(gè)點(diǎn)偏離假定真值，且偏差較大。但整體二范值要優(yōu)于最小二乘估計(jì)。

由于主成分估計(jì)、廣義嶺估計(jì)等有偏估計(jì)更適合于矩陣病態(tài)情形下，當(dāng)沒有發(fā)現(xiàn)法方程奇異時(shí)，最小二乘估計(jì)效果更佳。