混合總體最小二乘法在平面坐標轉換中的相對有效性

楊 瑛

(西安市不動產登記服務中心，陜西 西安 710002)

0 引言

在平面坐標轉換中，針對觀測值誤差，一般都是按照最小二乘法(LS法)進行解算,但是LS法只考慮了觀測向量L上的隨機誤差，卻沒有考慮由觀測值組成的系數矩陣A中的隨機誤差，這在實際情況中并不合理。總體最小二乘法(TLS法)的產生解決了上述問題，TLS法同時對系數矩陣A和觀測向量L進行平差誤差處理，參照文獻[2]。隨之出現的問題便是：TLS法在坐標轉換的解算中，對系數矩陣進行改正的同時改正了其常數列，這使得TLS法對系數矩陣A的改正顯得很不合理。汪奇生和楊德宏也注意到了這個問題，他們提出了顧及常數列的總體最小二乘法，但是這種方法也有一定的局限性，其在于每次迭代過程中的觀測值單位權中誤差并不是真實的單位權中誤差。混合總體最小二乘法(LS-TLS法)應運而生，在解決了上述問題的同時，遵循一定的平差準則，對系數陣中常數列不加改正，使其在迭代過程中保持不變，文獻[1]詳細推導了混合總體最小二乘的迭代步驟，并證明了在二元線性回歸中，LS-TLS法解算出的參數要優于LS法和TLS法。

本文將LS-TLS法運用在平面坐標轉換中。通過算例和仿真實驗的方法，運用LS,TLS,LS-TLS3種方法解算不同觀測值個數、不同誤差模型的平面四參數坐標轉換參數，比較了三種方法的優劣，并對其進行了分析。

1 坐標轉換模型

A原坐標系下坐標轉換到B目標系統下的坐標的四參數轉換模型：

(1)

式中：XA，YA——坐標系統下的坐標；

XB,YB——B坐標系統下的坐標；

x0,y0,k,a——A坐標系統轉換到B坐標系統的坐標轉換參數。

這四個轉換參數是由兩坐標的重合點算得，設兩個坐標系有n個重合點，則觀測值個數為m=2n，參數個數t=4，自由度r=2m-4，則四參數模型坐標轉換的誤差方程為：

(2)

2 LS-TLS數學模型及比較指標

混合最小二乘的數學模型為：

(3)

3 實驗與分析

3.1 實驗數據

3.2 算例

本文算例只是接下來3.3中仿真實驗的一次計算過程，計算步驟如下：

1)從表1中選取P1～P5已加入隨機誤差的5個重合點，組成系數矩陣A和常數項矩陣L。

2)按照2.1中闡述的LS-TLS法的迭代步驟進行迭代。參照文獻[2]和文獻[6]，分別用LS，TLS進行解算，得出參數X估值及相應L的改正數。

3)計算這3種方法的四個轉換參數X、觀測向量L的均方誤差MSRTE以及其余兩種方法相對于LS法的均方誤差之比(RR)(見表2，表3)。

表1 15個重合點原坐標系下XA,YA和

表2 參數X的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表3 觀測向量L的真值、估值、殘余真誤差、均方誤差以及均方誤差之比

表4 基于LS,TLS,LS-TLS解算得到轉換參數和觀測向量的MSRTE

3.3 仿真實驗

A,B兩坐標系下的坐標(XA,YA,XB,YB)分別加入3類不同中誤差的隨機誤差(ΔxA,ΔyA,ΔxB,ΔyB)來模擬實驗數據，其中隨機誤差絕對值的最大值小于2.5倍的中誤差。

1)隨機誤差服從σ0=5 mm的正態分布，|ε|≤2.5σ0。

2)隨機誤差服從σ0=1 cm的正態分布，|ε|≤2.5σ0。

3)隨機誤差服從σ0=5 cm的正態分布，|ε|≤2.5σ0。

3.4 實驗分析

1)由表4明顯可以看出，隨著隨機誤差中誤差的增加，經過LS,TLS,LS-TLS 3種方法解算之后的轉換參數和觀測向量的殘余真誤差均方誤差呈現變大的趨勢，有效性也隨之減少。

2)表5中，當隨機誤差中誤差為0.5 cm和1 cm時，經過TLS和LS解算之后的轉換參數的殘余真誤差均方誤差之比RR略大于1.05,當隨機誤差中誤差為5 cm時，其RR大于1.05。就觀測估值而言，TLS與LS法的RR始終大于1.05。LS-TLS與LS解算之后的轉換參數和觀測向量的RR均大于0.95，小于1.05。

表5 基于LS，TLS，LS-TLS解算得到轉換參數和觀測向量的RR

4 結語