無限狄利克雷混合模型的變分學習

曾凡鋒，陳 可，王寶成，肖 珂

(北方工業大學，北京 100144)

無限狄利克雷混合模型的變分學習

曾凡鋒，陳 可，王寶成，肖 珂

(北方工業大學，北京 100144)

有限高斯混合模型廣泛應用于模式識別、機器學習和數據挖掘等領域，但現實中的許多數據都具有非高斯性，而高斯混合模型無法準確地描述這些數據。此外，有限高斯混合模型還存在參數估計和模型選擇困難的問題。為了更好地擬合非高斯數據，解決有限高斯混合模型的參數估計和模型選擇困難的問題，在研究一種適合于建模非高斯數據的無限狄利克雷混合模型的學習方法的基礎上，提出了一種高效的變分近似推理算法。該算法能夠同時解決參數估計及模型選擇的問題。為了驗證該算法的有效性，在合成數據集上進行了大量實驗。驗證實驗結果表明，該算法能夠很好地解決模型選擇及參數估計的問題。所提出的無限狄利克雷混合模型還可應用于目標檢測、文本分類、圖像分類等方面。

狄利克雷；無限混合模型；變分貝葉斯；模型選擇；參數估計

1 概 述

有限混合模型[1-2]是分析復雜數據的一個簡便和優秀的概率建模工具，它可以通過使用多個分量描述一個復雜的數據分布。其中，高斯混合模型具有便于學習、形式簡單和描述能力強、聚類精度高等優點，成為研究最為深入的有限混合模型，在模式識別、機器學習、統計模型、計算機視覺以及數據挖掘等領域應用廣泛[3]。文獻[4]利用高斯混合模型建模研究預測智能控制交通、輔助駕駛系統、軍事數字化戰場中移動對象的不確定性軌跡。……