信息論中關于互信息的三種不同理解的統一性

摘要：信息論是一門新興學科，是在長期的通信工程實踐中，又由通信技術與概率論、隨機過程和數理統計相結合逐步發展起來的一門學科。互信息是信息論中的一個重要概念，它表達了由于信道中存在噪聲而帶給的通信系統的發送、接收的不確定性，本文將從信源、信道以及整個通信系統三種不同的角度給出互信息的定義，并證明這三種定義的統一性。

關鍵詞：信息論 自信息 互信息

注：本文中所涉及到的圖表、注解、公式等內容請以PDF格式閱讀原文