正則化方法的統(tǒng)一

郭淑妹 郭 杰 張 寧

1 信息工程大學(xué)理學(xué)院，鄭州市科學(xué)大道62號，450001

不適定問題廣泛存在于大地測量領(lǐng)域如航空重力向下延拓、衛(wèi)星測量等，Tikhonov［1－2］正則化方法是處理不適定問題的有效手段。Phillips［3］在1962年提出正則化方法，對不適定問題的解的研究進(jìn)入新的階段［4－11］。不適定問題的研究主要針對兩個(gè)問題：一是最佳正則化參數(shù)的選取，一是正則矩陣的合理化。Tikhonov 正則化方法適用于解不適定方程，但對于某些具有特殊結(jié)構(gòu)的算子和初始數(shù)據(jù)具有某些特殊信息時(shí)，一般很難獲得最佳的解。本文綜合利用最小二乘解的無偏性和模型參數(shù)的先驗(yàn)誤差協(xié)方差陣，得到一個(gè)新的估計(jì)。一方面保有最小二乘解的優(yōu)良性，另一方面由先驗(yàn)信息的約束得到自適應(yīng)因子，具有一定的統(tǒng)計(jì)意義。

1 新估計(jì)

大地測量常用的線性模型為：

L為n×1觀測向量，A為n×m設(shè)計(jì)矩陣，Δ為誤差向量，X為m×1未知參數(shù)向量。其中E（Δ）＝0，cov（Δ）＝CΔ。由此模型可得到參數(shù)最小二乘估計(jì)。最小二乘估計(jì)具有很多優(yōu)良的性質(zhì)，但是當(dāng)不適定問題存在時(shí)，最小二乘估計(jì)的精度較差，表現(xiàn)出相當(dāng)?shù)牟环€(wěn)定。為了獲得穩(wěn)定可靠解，必須對病態(tài)方程作正則化處理。眾多的正則化方法得到的估計(jì)一般都是有偏的。增加先驗(yàn)信息的約束，可以提高解的精度。

對最小二乘估計(jì)作線性變換：

當(dāng)設(shè)計(jì)陣病態(tài)時(shí)，最小二乘估計(jì)不再是一個(gè)好的估計(jì)。對最小二乘估計(jì)作線性變換，此時(shí)的R是待確定的正則化矩陣。修正最小二乘估計(jì)，添加的約束條件就可以轉(zhuǎn)化為以下矩陣方程：

2 新估計(jì)與最小二乘比較

新的估計(jì)是一個(gè)有偏估計(jì)，偏差向量為：

對法矩陣進(jìn)行正交對角分解：

其中Λ＝diag（λ1，λ2，…，λm），其對角元是法矩陣N的特征值λi，i＝1，2，…，m；U＝［u1，u2，…um］，由法矩陣N的特征向量規(guī)范正交化得到。分別表示為：

這里m為A的秩。

偏差的范數(shù)為：

根據(jù)E2（Z）≤E（Z2），Z為隨機(jī)變量，得：

對不適定方程進(jìn)行正則化處理時(shí)，如果正則化方法不適當(dāng)，可能導(dǎo)致比最小二乘更為嚴(yán)重的不穩(wěn)定。為此，必須在均方誤差框架下將與均方誤差進(jìn)行比較，以對正則化解與最小二乘解的優(yōu)劣進(jìn)行判別。

知：

3 正則化方法形式的統(tǒng)一

線性模型反演的正則化過程的核心是選取合適的正則化參數(shù)，比如在航空重力測量數(shù)據(jù)向下延拓中，通過選取合適的正則化參數(shù)來抑制觀測噪聲高頻部分對參數(shù)估值的影響。現(xiàn)有解決離散反問題的正則化方法相當(dāng)于對病態(tài)法矩陣N＝增加一個(gè)濾波因子。最小二乘估計(jì)的分解形式為當(dāng)法矩陣病態(tài)時(shí)，為了得到穩(wěn)定解，通常增加一個(gè)濾波因子δi。改進(jìn)的估計(jì)一般形式為：

濾波因子δi起到了正則化參數(shù)的作用，不同的正則化準(zhǔn)則就有形式不同的濾波因子，可以得到不同的正則化方法。由文獻(xiàn)［12］知，，可得R＝U（D1／2Λ1／2）UT。新估計(jì)可表示為：

得到：

吉洪諾夫正則化方法：

廣義嶺估計(jì)法：

Stein估計(jì)：

濾波因子為δi＝α，協(xié)方差陣的特征值為

截?cái)嗥娈愔捣ǎ?/p>

雙參數(shù)正則化方法：

4 結(jié) 語

本文就線性模型不適定問題提出一種先驗(yàn)信息的正則化方法，該方法是基于最小二乘估計(jì)的一種線性變換，并滿足兩個(gè)基本要求：一是最小二乘估計(jì)的最優(yōu)擬合，因?yàn)樽钚《斯烙?jì)具有無偏性；二是包含了一個(gè)外部約束，即待估參數(shù)的誤差協(xié)方差矩陣。在一定橢圓區(qū)域內(nèi)，新估計(jì)的均方誤差小于最小二乘估計(jì)的均方誤差，顯示新估計(jì)的精度良好。現(xiàn)有正則化方法可以表示成一個(gè)統(tǒng)一的形式，通過選擇不同的誤差協(xié)方差矩陣特征值濾波因子，可得到不同的正則化方法。

［1］Tikhonov A N.On Stability of Inverse Problems［J］.Dokl Acad Nauk USSR，1943，39（5）：195

［2］Tikhonov A N.On Solving Incorrectly Posed Problems and Method of Regularization［J］.Dokl Acad Nauk USSR，1963，151（3）－198

［3］Phillips D L.A Technique for the Numerical Solution of Certain Integral Equations of the First Kind［J］.J Assoc Comput Mach，1962（9）：84－97

［4］Engl H W.Discrepancy Principles for Tikhoov Regularization of Ill－Posed Problems Leading to Optimal Convergence Rates［J］.J Optim Theory Appl，1987（52）：209－215

［5］Engl H W，Hanke M，Neubauer A.Regularization of Inverse Problems［M］.Dordrecht：Kluwer Academic Publishers，1996

［6］Hansen P C.Numerical Tools for Analysis and Solution of Fredholm Integral Equations of the First Kind［J］.Inverse Problems，1992（8）：849－872

［7］Hanke M，Hansen P C.Regularization Methods for Large－Scale Problems［J］.Surv Math Ind，1993（3）：253－315

［8］Hansen P C.Rank－deficient and Discrete Ill－Posed Problems：Numerical Aspects of Linear Nnversion Philadelphia［M］.SIAM Publishers，1998

［9］Kusche J，Klees R.On the Regularization Problem in Gravity Field Determination from Satellite Gradiometric Data［C］.IAG Assembly，Budapest，2001

［10］Xu P，Rummel.A Simulation Study of Smoothness Methods in Recovery of Regional Gravity Fields［J］.Geophysical Journal International，1994，117：472－486

［11］Xu P.Truncated SVD Methods for Discrete Linear Ill－Posed Problems［J］.Geophysical Journal International，1998，135：505－514

［12］Kotsakis C.A Covariance－Adaptive Approach for Regularized Inversion in Linear Models［J］.Geophys，2007，171：509－522