LM算法在二階過阻尼系統參數估計中的應用

Application of LM Algorithm in Parameter Estimation for Second-order Over-damped System

李敏花　柏　猛　呂英俊

(山東科技大學電氣信息系，山東 濟南　250031)

LM算法在二階過阻尼系統參數估計中的應用

Application of LM Algorithm in Parameter Estimation for Second-order Over-damped System

李敏花柏猛呂英俊

(山東科技大學電氣信息系，山東 濟南250031)

摘要：針對二階過阻尼系統傳遞函數的參數辨識問題，提出一種根據二階過阻尼系統階躍響應估計系統傳遞函數未知參數的新方法。該方法首先求解出二階過阻尼系統的階躍響應表達式，然后定義模型輸出與觀測數據的差值作為代價函數，將參數估計問題轉換為非線性最小二乘問題。通過采用Levenberg-Marquarat算法極小化代價函數，估計出系統未知參數。為確定參數估計的初值，給出采用兩點法的參數初值估計方法。仿真結果表明，在含有觀測噪聲的情況下，提出的方法能有效解決過阻尼二階系統未知參數的估計問題。

關鍵詞：二階過阻尼系統傳遞函數參數估計階躍響應非線性最小二乘Levenberg-Marquarat算法觀測噪聲

Abstract：Aiming at the problem of parameter identification for transfer function of two order over damping system, a novel method for estimating unknown parameters in transfer function of the second order over-damped system in accordance with its step response is proposed. With this method, firstly, the expression of the step response of the second order over-damped system is solved, then defining the difference between the model output and observed data as the cost function, the issue of parameter estimation is converted into a nonlinear least square topic. The cost function is minimized through using Levenberg-Marquarat (L-M) algorithm, to estimate unknown parameters of the system. In order to determine that initial value for parameter estimation, the estimation method of initial value two-point method is given. The results of simulation demonstrate that the method proposed can effectively solve the problem for unknown parameter estimation of such system under observation noises exist.

Keywords：Second-order over-damped systemTransfer functionParameter estimationStep responseNonlinear least square

Levenberg-Marquarat algorithmObservation noise

0引言

在基于模型的控制系統設計中，建立系統動態模型是控制器設計的前提,模型的精確程度直接影響所設計控制系統的性能。在眾多的系統模型中，二階系統模型被廣泛應用于慣導系統[1]、化工過程、機電設備等系統的建模,在實際應用中，獲得這些系統模型最有效的途徑是系統辨識。雖然近年來在采用系統辨識方法獲取二階系統傳遞函數的研究方面已取得較大進展[1-4]，但對一些化工過程和無法實現頻繁啟動的機電設備，現實的建模方法依然是通過系統階躍響應數據獲取系統模型。目前，由階躍響應曲線辨識二階系統傳遞函數參數的經典方法主要有兩點法、相良節夫法、半對數法和面積法等[2]。但這些方法的精度受觀測噪聲的影響較大,對此，本文提出一種基于數據擬合的二階過阻尼系統參數辨識方法。該方法通過將二階系統的參數辨識問題轉換為階躍響應數據的擬合問題，采用非線性最小二乘方法解決含有觀測噪聲情況下二階過阻尼系統的參數辨識問題。

1非線性最小二乘參數估計方法

1.1　算法原理

在不考慮時間滯后的情況下，典型二階過阻尼系統傳遞函數可表示為：

(1)

式中：T1和T2為時間常數，且T1≥T2。在零初始狀態下，二階過阻尼系統的單位階躍響應可表示為：

(2)

假設在ti時刻，系統階躍響應y(ti)的觀測值為z(ti)，且有：

z(ti)=y(ti)+v(ti)

(3)

式中：v(ti)為觀測噪聲，i=1，2，…，N。

令z(i)=z(ti)、y(i)=y(ti)、θ=[T1,T2]T，則二階系統未知參數θ的估計問題可轉化為如下函數的極小化問題：

(4)

式中：J(θ)為代價函數。

(5)

顯然，代價函數J(θ)的極小化問題是典型的非線性最小二乘問題。令fi(θ)=z(i)-y(i)，則式(5)可表示為：

(6)

假設f(θ)具有連續的二階偏導數，則f(θ)在θ附近的Taylor展開可表示為：

f(θ+Δθ)=f(θ)+s(θ)Δθ+O(‖Δθ‖2)≈

f(θ)+s(θ)Δθ=l(Δθ)

(7)

式中：s(θ)為Jacobian矩陣。

(8)

將式(7)代入式(6)，可得：

(9)

sT(θ)s(θ)Δθ=-sT(θ)f(θ)

(10)

當sT(θ)s(θ)為正定矩陣時，求解式(10)可得經典Guass-Newton方法迭代步長：

(11)

當s(θ)Ts(θ)為半正定矩陣時，為使式(10)有解，采用阻尼Guass-Newton方法可得：

(12)

式中：μ>0為阻尼系數。

一般情況下，對于算法的每一步迭代，希望在保證算法函數值有一定下降量的情況下，步長盡可能大，以便盡快接近最優點。因此，μ的取值非常關鍵。為解決μ的取值問題，本文采用Levenberg-Marquarat(LM)算法解決代價函數的極小化問題。LM算法結合了Guass-Newton算法和梯度下降法的優點[5]，可較好地解決非線性最小二乘問題，被廣泛應用于各類最優化問題的求解[6-9]。在LM算法中，(k+1)次迭代的μ值取決于k次迭代和(k-1)次迭代J(θk)和J(θk-1)的值，即：

(13)

式中：λ>1為增長因子，一般取λ=2或10。

(14)

由上述參數迭代過程可見，采用式(14)估計二階系統未知參數時，需要設置參數初值。由于非線性最小二乘法為局部收斂，參數初值會直接影響算法的收斂，因此有必要考慮參數初值的估計問題[5]。

1.2　參數初值估計

為確定待辨識參數初值，本文采用兩點法計算二階系統參數[10]。該方法選取系統階躍響應(2)中的兩個典型點，通過聯立方程組計算T1和T2的值。

對于二階過阻尼系統單位階躍響應曲線，一般取y(t1)=0.4和y(t2)=0.8兩個點作為典型點。將這兩點代入式(2)，可得方程組：

(15)

該方程組的近似解為：

(16)

通過求解上式可得T1和T2的估計值。在求解過程中，對于二階系統，t1和t2應滿足關系[10]：

(17)

綜上所述，本文提出的采用LM算法對二階過阻尼系統進行參數辨識的方法步驟如下。

(2) 參數初值估計。取z2(tk)在0.4和0.8位置附近滿足式(17)的時間t1和t2，代入式(16)，求出T1和T2作為參數θ的初值，即θ0=[T1,T2]T。

(3) 設置阻尼系數初值μ0、增長因子λ>1和迭代次數kmax。其中，本文取λ=10。

(4) 分別采用式(8)和式(12)計算sk(θ)和Δθk。

2仿真結果與分析

為檢驗本文所提出二階過阻尼系統參數辨識方法的有效性，對以下典型二階過阻尼系統進行參數辨識。

(1) 直流電機模型參數辨識

直流電動機的數學模型可表示[11]：

(18)

式中：Tm和Tl分別為機電時間常數和電磁時間常數；Ce為直流電機在額定磁通下的電動勢系數。試驗中，模型取Ce=0.192 5，Tm=0.075，Tl=0.017，迭代次數kmax=20。參數辨識結果如表1和圖1所示。其中，表1為根據歸一化后直流電機階躍響應得到的參數辨識結果。圖1為根據含有觀測噪聲數據辨識得到的系統模型與真實模型階躍響應的比較結果。

表1　參數辨識結果

由試驗結果可見，當無觀測噪聲時，采用直流電機階躍響應數據可準確辨識出電機電磁時間常數和機電時間常數。當觀測數據含有噪聲時，本文提出的算法依然可以較好地估計出電機時間常數，具有較高的參數估計精度。

圖1　直流電機單位階躍響應

(2) 雙慣性系統參數辨識

試驗采用式(1)所示的雙慣性系統作為二階過阻尼系統。試驗中，取T1=11，T2=3，kmax=20。采用單位階躍響應數據得到的參數估計結果如表2所示，辨識模型與真實模型階躍響應的比較結果如圖2所示。

表2　參數估計結果

圖2　雙慣性系統單位階躍響應

由試驗結果表2和圖2可見，采用本文提出的方法可有效估計出具有較大時間常數的過阻尼系統參數。

雖然在含有觀測噪聲時系統參數的估計精度略低于無觀測噪聲時的情況，但辨識得到的系統模型依然具有較好的階躍響應擬合精度。綜上所述，本文提出的方法可根據系統單位階躍響應有效估計出二階過阻尼系統參數，適用于工業系統建模。

3結束語

本文提出的參數辨識方法是將二階系統參數辨識問題轉換為系統階躍響應數據的非線性函數擬合問題，通過采用LM算法可有效解決參數估計中的非線性最小二乘問題。該方法適用于過程控制系統或無法實現頻繁啟動的控制系統的模型辨識。由算法推導過程可見，該方法同樣適用于一階和二階欠阻尼系統的參數估計問題。在給定參數初值的情況下，該方法同樣適用于多變量系統的參數辨識問題。另外，提出的方法實現簡單，適用性強，便于工程應用。

參考文獻

[1] 胡鋼墩,李發澤.慣性系統的時域在線辨識[J].控制與決策,2010,25(1):133-136.

[2] 嚴德昆.二階過阻尼系統傳遞函數辨識的新方法[J].控制理論與應用,2001,18(4):638-640.

[3] Bajarangbali,Somanath M.Relay based identification of systems[J].International Journal of Scientific & Engineering Research,2012,3(6):1-4.

[4] Soltesz K,Hagglund T,Astrom K J.Transfer function parameter identification by modified relay feedback[C]//Proceedings of the American Control Conference,2010:2164-2169.

[5] 張光澄,王文娟,韓會磊.非線性最優化計算方法[M].北京:高等教育出版社,2005:146-168.

[6] Fan J.The modified Levenberg-Marquardt method for nonlinear equations with cubic convergence[J].Mathematics of Computation,2012,81(277):447-466.

[7] Sugihara T.Solvability-unconcerned inverse kinematics by the Levenberg-Marquardt method[J].IEEE Transactions on Robotics,2011,27(5):984-991.

[8] Chan K Y,Dillon T S,Singh J,et al.Neural-network-based models for short-term traffic flow forecasting using a hybrid exponential smoothing and Levenberg-Marquardt algorithm[J].IEEE Transactions on Intelligent Transportation Systems,2012,13(2):644-654.

[9] Kleefeld A,Reiβel M.The Levenberg-Marquardt method applied to a parameter estimation problem arising from electrical resistivity tomography[J].Applied Mathematics and Computation,2011,217(9):4490-4501.

[10]黃德先,王京春,金以慧.過程控制系統[M].北京:清華大學出版社,2011:39-44.

[11]阮毅,陳伯時.電力拖動自動控制系統-運動控制系統[M].4版.北京:機械工業出版社,2010:26-29.

中圖分類號：TP273

文獻標志碼：A

DOI:10.16086/j.cnki.issn1000-0380.201507024

山東省自然科學基金資助項目(編號：ZR2011FQ022、ZR2012FQ018)；

中國科學院自動化研究所開放課題資助項目(編號：20140109)。

修改稿收到日期：2015-01-16。

第一作者李敏花(1981-)，女，2009年畢業于中國科學院自動化研究所模式識別與智能系統專業，獲博士學位，副教授；主要從事機器人控制、圖像處理、機器視覺等方面的研究。