最小二乘與嶺估計在沉降數據處理的應用

程海港

(華北理工大學，河北 唐山 063210)

引言

最小二乘估計在回歸分析中應用較為廣泛,但當自變量自身之間存在某種復共線性關系,使得最小二乘估計的法方程系數矩陣N奇異,最終的參數估計與真實值相差很大,使得建立的模型很不穩定,最小二乘估計法在這類問題應用中無法得到較為準確的結果[1,2]。而嶺估計是針對處理復共線性數據分析的有偏估計手段,其是以犧牲最小二乘法的無偏性和局部精確度為代價，從而找到效果略次于此但更加接近實際情況的回歸過程,最終得到較為準確的模型結果[3]。

嶺估計方法于1962由A E Hoerl首次提出，后來通過R W Kennard在1970年進行系統完善發展，該方法可以在很大程度上降低設計矩陣列復共線時最小二乘估計量的均方誤差，增強估計的穩定性。嶺估計的研究和應用得到廣泛的重視是自1970年開始的，此后嶺估計便在有偏估計這一領域占有了一席之地。嶺估計之所以區別于常態的最小二乘估計是因其帶有約束條件線性模型回歸系數，屬于嶺估計理論的內容。模型回歸系數的最小二乘估計的分量有偏大的趨勢的原因是設計陣呈病態而導致其性質變差，故通過對其千分量加以約束的方法而獲得的估計來改善這一不足。嶺估計相對于非約束病態模型的最小二乘估計確實有所改進，但并不能改變其不唯一性這一特性。

1 嶺估計

嶺估計作為對最小二乘估計的一種改進的有偏估計，參數X的嶺估計為：

(1)

嶺估計的中心思想是一種改良的最小二乘估計法,嶺估計方法的目的主要是在減少均方誤差的同時盡可能提高估計量的穩定性，但其缺點是估計量是有偏的。估計量的方差與k值的大小呈反比，同時，k的引入也導致偏性發生變化使其成為有偏估計量，偏誤趨勢的大小與k值呈正比。一個優質的估計量雖然應同時具備無偏性、方差最小這2個標準，但是由于這2個標準是相互矛盾的，因此選k的值擇成了一個難點。雖然許多專家學者已提出多種確定k值的方法，但是，還沒有一種大家公認的、最優的確定k值的方法。

1.1 嶺跡法

方程的各回歸系數的嶺估計大概率呈平穩狀態；進行一般最小二乘法估計時，正負號的出現使回歸系數出現病態，嶺估計可以使其符號變得合理，即嶺估計方法的使用改善了回歸方程參數估計的效果，嶺估計相對于非約束病態模型的最小二乘估計確實有所改進，但并不能改變其不唯一性這一特性；回歸系數的符號全部合理；估計量沒有損失太多的精度，即殘差項的平方和增量很小。

1.2 雙h公式法

一種確定隨機嶺參數的公式稱為雙h公式，可簡化h1=t，h2=0。

(2)

式中，A>0為已知矩陣，此公式因含有h1，h22個可自定義的參數，故有“雙h公式”之名。其是由Vinod和UIIah等歸納總結一系列結果而提出的一種方法。若使用式(2)來確定嶺參數，一般稱相對的嶺估計為雙h類嶺估計(Double h-class ridge estimate)，若取A=I，h1=p，h2=0，式(2)即為Hoerl-Kennard- Baldwin迭k公式。

(3)

若取A=X′X，h1=p，h2=0，則式(2)即為Lawless-Wang迭k公式。

(4)

在式(2)中，若Q′AQ為對角陣，h1，h2滿足：

(5)

則對一切β，σ2，雙h類嶺估計比LS估計有較小的均方誤差。這里ηp為式(2)中A的最小特征根。證明考慮β的任雙h類嶺估計：

(6)

(7)

(8)

由式(7)、式(8)可得：

(9)

(10)

(11)

這里ηi為W的對角元，欲

(12)

一個充分條件為h1>0，且式(11)的第2項均值部分小于0。假設h1>0，h2≥0，則

△g>0

(13)

于是式(12)成立的一個充分條件為：

(14)

將式(11)對i求和，從式(14)可知:

1.3 方差擴大因子法

(15)

此外，還可以根據Hoerl、Kernard和Baldwin提出的方法取k的固定值。具體確定方法如下。標準化的回歸模型為：

(16)

k的計算公式：

(17)

1.4 迭代法

迭代法是將上面計算的k的固定取值作為k的初始值，記為k0，然后建立回歸方程，估計回歸方程的參數，并計算新的k：

(18)

按同樣的方法，用k計算k2，重復這一過程，直到k的前后2個估計值之間的差異不是很明顯為止。

2 應用實例

2.1 數據選取

為了對監測網的變形分析更加深入地了解驗證方法的可行性，選取某區域地面沉降水準測量基準網作為試驗網形，對4個點位其進行10個周期的觀測，得到各個點位的觀測值并通過計算得到其沉降量。數據來源于呂棟的《基于秩虧自由網平差的變形分析與C#程序設計》。原始數據如表1所示。在MATLAB中使用雙h法，選取h1=4，h2=0，計算結果如表2所示。

表1 原始數據

2.2 數據對比分析

表2 ABCD 4點高程的最小二乘估值

表3 ABCD 4點高程嶺估計估計值

圖1 嶺估計結果

由圖1可知，嶺估計在k取得最大值時效果最優，即k=10時。圖2直觀地描述出了最小二乘估計與嶺估計值的差值(相同顏色的實線虛線為同一點的估計值，實線表示的是最小二乘估計值，虛線表示嶺估計值)，可以看出最小二乘估計值略高于嶺估計值。

由表1、表2可知，最小二乘估計的殘差較大，原因是法方程出現病態，從而歪曲了參數求解的穩定性，導致轉換結果不穩定。為此，本文利用嶺估計平差方法進行多項式曲面擬合，消除法方程病態以后，轉換結果得到了有效的改善。因此，利用嶺估計法進行沉降數據處理，能有效克服法方程的病態性，提高數據處理的穩定性。

圖2 不同方法計算結果對比

3 結論

通過計算可得二者均方誤差，最小二乘的MSE=73.2382 ，嶺估計的MSE=0.1463，對比均方誤差可以看到，由于數據存在共線性，最小二乘回歸得到的均方誤差大于嶺估計方法，說明計算結果存在一定的偏差，說明嶺估計確實在均方誤差意義下改進了LS估計。本文通過實例計算驗證了嶺估計方法在二次曲面模型在高程擬合中的優越性，表明雙h公式法求嶺參數是可行的，而且效果顯著。可以看出，嶺估計法不僅可以解決變形監測計算點位高程時出現的法方程病態情況，而且擬合精度也有所提高。