維納過程單變點模型的貝葉斯參數估計

何朝兵

(安陽師范學院數學與統計學院,中國 安陽　455000)

?

維納過程單變點模型的貝葉斯參數估計

何朝兵

(安陽師范學院數學與統計學院,中國 安陽455000)

摘要通過引入潛在變量,利用正態分布的重要性質得到了維納過程單變點模型比較簡單的似然函數.結合Metropolis-Hastings算法對參數進行Gibbs抽樣,基于Gibbs樣本對參數進行估計.隨機模擬的結果表明估計的精度較高.

關鍵詞潛在變量;可加性;滿條件分布;Gibbs抽樣;Metropolis-Hastings算法

變點問題成為近年來比較熱的研究方向,它在經濟、質量控制和醫學等領域應用廣泛[1-5].變點分析方法主要有非參數方法、最小二乘法和貝葉斯方法等.而隨著統計計算技術的發展,貝葉斯變點分析方法越來越受到人們的歡迎,而復雜性的計算是貝葉斯方法的難點.貝葉斯計算方法中的Markov chain Monte Carlo (MCMC) 方法是最近發展起來的一種簡單有效的計算方法.MCMC方法中的Gibbs抽樣和Metropolis-Hastings算法使變點分析變得非常方便[6-9].Gibbs抽樣可以簡化變點問題,例如,未知參數的滿條件分布可轉化為無變點的后驗分布,變點的滿條件分布可轉化為分布參數已知的后驗分布.維納過程是具有平穩獨立增量的二階矩過程,是一種特殊的擴散過程,它在純數學、應用數學、經濟學與物理學中都有重要應用.維納過程不只是布朗運動的數學模型,在應用數學中,維納過程可以描述高斯白噪聲的積分形式;在電子工程中,維納過程是建立噪音的數學模型的重要部分;控制論中,維納過程可以用來表示不可知因素.對擴散過程變點模型的研究較多[10-13],雖然維納過程是特殊的擴散過程,但對維納過程變點模型的研究卻較少[14-15],并且這些文獻都是基于隨機微分方程的求解來進行參數估計,計算比較繁瑣,但基于似然函數并且利用MCMC方法研究此模型還不多見.

本文主要利用MCMC方法研究維納過程單變點模型的參數估計問題.通過添加潛在變量得到了比較簡單的似然函數,結合Metropolis-Hastings算法對參數進行Gibbs抽樣,基于Gibbs樣本對參數進行估計.隨機模擬的結果表明估計的精度較高.

1維納過程單變點模型

定義1隨機過程W(t)如果滿足:

1)W(0)=0,具有獨立增量;

2)對任意s,t>0,W(s+t)-W(s)服從正態分布N(0,σ2t),σ>0,則稱W(t)為以σ2為參數的維納過程.

當維納過程的參數σ2在某個時刻改變時,有如下定義.

定義2隨機過程W(t)如果滿足:

1)W(0)=0,具有獨立增量,

(1)

在n個時刻t1

W(ti)-W(ti-1)=zi,t0=0,i=1,2,…,n.

假設已知在觀察時間區域(0,tn]內有一個變點,即0<τ

τ∈(tm,tm+1],0≤m≤n-1,實際上m是τ的函數.

由式(1)知

由正態分布的可加性得

W(tm+1)-W(tm)的觀察值為zm+1.

下面介紹概率論中一個很重要的結果,即下面的引理1.

當m=0時,D1=?, 當m=n-1時,D2=?.記x為X的取值,添加潛在變量后的似然函數為

2模型的貝葉斯估計

下面給出參數的先驗分布.

1) 取τ的先驗分布為均勻分布,即π(τ)∝1,0<τ

下面介紹MCMC方法的具體步驟.

3隨機模擬

下面進行隨機模擬試驗.

表1　各參數的貝葉斯估計

圖1　τ的Gibbs抽樣迭代　　　　　　　　　　　　　　　圖2　τ的兩條迭代鏈　　　　　Fig.1　Gibbs sampling iterations of τ　　　　　　　　　　　　　　　Fig.2　Two iterative chains of τ

參考文獻：

[1]PAGE E S. Continuous inspection schemes[J]. Biometrika, 1954,41(1):100-115.

[2]CHERNOFF H, ZACKS S. Estimating the current mean of a normal distribution which is subjected to changes in time[J]. Ann Math Stat, 1964,35(3):999-1018.

[3]CS?RG? M, HORVTH L. Limit theorems in change-point analysis[M]. New York: Wiley, 1997.

[4]PERREAULT L, BERNIER J, BOBéE B,etal. Bayesian change-point analysis in hydrometeorological time series. Part 1. The normal model revisited[J]. J Hydrol, 2000,235(3):221-241.

[5]FEARNHEAD P. Exact and efficient Bayesian inference for multiple changepoint problems[J]. Stat Comput, 2006,16(2):203-213.

[6]LIANG F, WONG W H. Real-parameter evolutionary Monte Carlo with applications to Bayesian mixture models[J]. J Am Stat Assoc, 2001,96(454):653-666.

[7]LAVIELLE M, LEBARBIER E. An application of MCMC methods for the multiple change-points problem[J]. Sig Pro, 2001,81(1):39-53.

[8]KIM J, CHEON S. Bayesian multiple change-point estimation with annealing stochastic approximation Monte Carlo[J]. Comput Stat, 2010,25(2):215-239.

[9]YUAN T, KUO Y. Bayesian analysis of hazard rate, change point, and cost-optimal burn-in time for electronic devices[J]. IEEE Trans Rel, 2010,59(1):132-138.

[10]ABBAS-TURKI L A, KARATZAS I, LI Q. Impulse control of a diffusion with a change point[J]. Stoch Int J Probab Stoch Process, 2015,87(3):382-408.

[11]MISHRA M N, PRAKASA RAO B L S. Estimation of change point for switching fractional diffusion processes[J]. Stoch Int J Probab Stoch Process, 2014,86(3):429-449.

[12]GAPEEV P V, SHIRYAEV A N. Bayesian quickest detection problems for some diffusion processes[J]. Adv Appl Probab, 2013,45(1):164-185.

[13]NEGRI I, NISHIYAMA Y. Asymptotically distribution free test for parameter change in a diffusion process model[J]. Ann Inst Stat Math, 2012,64(5):911-918.

[14]VOSTRIKOVA, L YU. Detection of a “disorder” in a Wiener process[J]. Theor Probab Appl, 1981,26(2):356-362.

[15]HADJILIADIS O, MOUSTAKIDES V. Optimal and asymptotically optimal CUSUM rules for change point detection in the Brownian motion model with multiple alternatives[J]. Theor Probab Appl, 2006,50(1):75-85.

(編輯HWJ)

DOI:10.7612/j.issn.1000-2537.2016.04.014

收稿日期：2015-11-12

基金項目：國家自然科學基金(61174099); 河南省高等學校重點科研項目(16A110001)

*通訊作者,E-mail：chaobing5@163.com

中圖分類號O212.8; O212.4

文獻標識碼A

文章編號1000-2537(2016)04-0084-05

Bayesian Parameter Estimation of Wiener Process with a Change-Point

HEChao-bing*

(School of Mathematics and Statistics, Anyang Normal University, Anyang 455000, China)

AbstractBy introducing a latent variable, the simple likelihood function of Wiener process with a change-point is obtained according to the important property of the normal distribution. All the parameters are sampled by Gibbs sampler together with Metropolis-Hastings algorithm, and the parameters are estimated based on the Gibbs samples. Random simulation results show that the estimations are fairly accurate.

Key wordslatent variable; additivity; full conditional distribution; Gibbs sampling; Metropolis-Hastings algorithm