MCMC方法分析

[摘 要]本文主要介紹了Monte Carlo integration和 Markov Chain的構成原理，闡述了Metropolis-Hastings算法和Gibbs抽樣法兩種算法的基本原理。

[關鍵詞]MCMC方法；M-H算法；Gibbs抽樣

1949年，Metropolis和Ulam共同發表了第一篇關于蒙特卡羅方法的論文，其基本思想是：當所求解問題是某種隨機事件出現的概率或者是某個隨機變量的期望值時，通過某種“實驗”的方法，以這種事件出現的頻率估計這一隨機事件的概率，或者得到這個隨機變量的某些數字特征，并將其作為問題的解。

1953年6月，Nicolas Metropolis與Marshall N等在《The Journal of Chemical Physics》上發表了一篇題為“Equations o f State Calculations by Fast Computing Machines”的文章，標志著Markov Chain Monte Carlo（MCMC）方法的誕生。MCMC方法的基本思想是構造一個概率轉移矩陣，建立一個以分布π（x）為平穩分布的Markov鏈來得到π（x）的樣本，通過隨機抽樣得到的這些樣本然后進行各種統計推斷。

1 MCMC的構成

1.1 Monte Carlo integration

但是如果后驗概率函數難以得到時，該方法則不適用。

1.2 Markov Chain

3 結 論

近年來，統計學家逐漸把研究重點轉向了MCMC方法，這種方法應用甚廣，可靠性強，主要用來模擬復雜的、非標準化的多元（多變量）分布，特別是當信息不全或者數據缺失時，可以通過Gibbs抽樣，根據條件分布來推導聯合分布，可以有效改善以往方法不能考慮總體情況的缺陷，在大樣本情況下，能夠很好地將已知的總體分布信息納入到對缺失數據的處理當中；當然仿真導致的偽隨機的算法再好也不是真正隨機，因此，應用MCMC方法時應加以注意。

參考文獻：

[1]茆詩松.貝葉斯統計[M].北京：中國統計出版社，1999.

[2]朱嵩，毛根海，劉國華，黃躍飛.改進的MCMC方法及其應用[J].水利學報，2009（8）：1019-1023.

[3]劉樂平，高磊，楊娜.MCMC方法的發展與現代貝葉斯的復興[J].統計與信息論壇，2014（2）：3-11.

[4]劉樂平，袁衛.現代貝葉斯分析與現代統計推斷[J].經濟理論與經濟管理，2004（6）：64-69.