《信息論基礎》課程的教學探討

胡愛花

摘要：根據《信息論基礎》的教學內容，靈活采用多種教學方法，結合多媒體技術，應用相關計算軟件，有助于提高對課堂教學內容的理解。進一步探索信息論與其他學科的關聯，加強實踐環節，增強學生學習的趣味性與主觀能動性。最后，豐富課程的考核方式，使學生加深對相關知識的掌握，拓寬課堂學習內容。

關鍵詞：信息論基礎；信息；教學方法；Matlab

中圖分類號：G642.41 文獻標志碼：A 文章編號：1674-9324（2017）08-0161-02

一、引言

我們人類生活在信息的海洋之中，如古代的“烽火告警”。可以說，我們一時一刻都離不開接受信息、傳遞信息與利用信息。信息論圍繞信息這一基本概念展開，是由通信技術與概率論、隨機過程和數理統計相結合而逐步發展起來的一門學科。目前，信息論在通信、計算機、自動控制、生物學、語言學、統計學、社會學、物理等眾多領域取得廣泛的應用。

《信息論基礎》是高等院校數學類信息與計算科學專業、通信類專業的核心課程，以香農（Shannon）經典信息論為主要學習對象，內容豐富、理論性強。課程開設的目的在于使學生掌握信息理論的相關概念與計算方法，了解信息論的研究目的與實際應用。通過本課程的學習，培養學生的創新思維，分析并解決相關問題。雖然信息科學涉及到眾多學科，實用性比較強，但學生普遍反映不好學，學了也不知道如何用，學習過程比較被動，學習效果也不明顯。因此，教師很有必要對《信息論基礎》課程的教學方法進行思考、研究與探討，以期提高教學質量，增強學生學習的主觀能動性，掌握相關知識，達到學以致用。

二、教學改革方案

首先，根據《信息論基礎》的教學內容，靈活采用多種教學方法。《信息論基礎》理論性強，如果完全圍繞課本，以板書為主要手段展開教學，會使得課堂氛圍比較呆板，很難有效激發學生地學習興趣。因此，課堂內容應該結合多媒體技術，應用相關計算軟件進行教學。例如：緒論是整個課程的引入部分，涉及到信息的概念，信息論的研究對象、研究目的以及發展簡史等，內容比較豐富。如果采用多媒體技術，認真制作課件，添加形象有趣的動畫，豐富教學內容體現形式，不僅使整個緒論部分的框架脈絡分明，而且可以展示目前關于信息論的實際應用，圖文描繪出信息論發展史上相關學者的研究工作與意義，從而調動課堂氣氛，極大提高學生學習的趣味性，讓學生明白“學好了信息論我可以做什么”，學習的目標就比較明確。另外，相關計算軟件的應用也有必要，可以借助Matlab、C之類的計算軟件語言來計算《信息論基礎》中的信息測度等，這樣既有助于加強課程之間的融合鞏固，也能通過學生自己動手編寫語言進行計算，強化理論概念，從而提高教學內容的易理解性。例如：利用Matlab軟件，實現熵的計算。簡單例子：給出信源X的概率分布為P=[0.1，0.3，0.6]，試計算信源X的信息熵H（X）。編寫如下語言：P=[0.1，0.3，0.6]；

for i=1：1：3

P（i）=-P（i）*log2（P（i））；

end；

H=sum（P）

很快得出H（X）=1.2955（比特/符號）。依此類推，可以編程實現聯合熵、互信息等信息測度。進一步，在《信息論基礎》編碼這一塊，可以要求學生編程實現霍夫曼（Huffman）碼，培養學生的動手能力，使學生加深對編碼的理解，更易于相關知識的掌握。

其次，《信息論基礎》中涉及到的概念比較多，僅信源的信息測度就涉及到自信息I（x）、熵H（X）、聯合熵H（X，Y）、條件熵H（X|Y）、相對熵D（p||q）、互信息I（X；Y）等，部分信息測度之間也具有相互關系，如熵的強可加性（熵的鏈法則）表明聯合熵等于單個信源的熵與條件熵之和。因此，在課堂教學時，既要把單個知識點講解清楚，又要系統地介紹知識點之間的關聯。例如：解題時，涉及到熵、聯合熵、條件熵都要計算的時候，利用強可加性，只要計算出其中的任意兩個值即可，既節省計算時間，又保證計算正確性。另外，可以結合圖表法進行講解，如涉及到互信息I（X；Y）時，利用集合的表示方法，給出互信息與熵、聯合熵、條件熵之間的關系：I（X；Y）=H（X）+H（Y）-H（X，Y）；

I（X；Y）=H（X）-H（X|Y）；

I（X；Y）=H（Y）-H（Y|X）。

因此，在涉及互信息具體計算的時候，可以提供四種解法：按互信息的定義求，按上面三個等式求。課堂教學時，給出一個具體例子，舉一反三，加深學生對于互信息的掌握，進一步清楚熵與互信息之間的關系。同時，除了具體計算時可以用多種方法，在證明熵的性質時同樣有不同的途徑。比如證明條件熵H（X|Y）小于等于單個信源的熵H（X），以及聯合熵H（X，Y）小于等于兩個信源熵之和H（X）+H（Y）時，除了從定義出發，利用凸函數的性質以外，還可以利用互信息的非負性得到。因此，課堂教學時不僅要把各個知識點講透，還要善于系統整合，具體例子講解時盡可能做到舉一反三，幫助學生建立比較清晰的知識網絡。

再次，針對學生專業的特點和學習規律，努力做到因材施教。《信息論基礎》課程一般設置在本科階段第六學期（即三年級下學期）。雖然學生培養了一定的學習自主性和分析解決問題的能力，但不可否認學生對于課程的重視程度和學習熱情存在明顯下降。造成這一現象的客觀原因是：這一時期大部分同學開始把精力傾注于考研、考證、考公等方面，為畢業后擇業做準備；而主觀原因則是：三年級學生學習熱情不高，對所學課程往往抱著只要考試能過就行的心理，學習積極性大打折扣，在這樣的情況下，要求學生課外做到充分的預習與復習比較困難。事實上，由于《信息論基礎》課程理論性比較強，如果不付出相應的努力，學生學習理解起來相當不容易，久而久之，學生會發現課程越學越難，越難越不想學。為了避免陷入這樣的惡性循環，提高學習的主動性，增強學生學習的趣味性就顯得尤為重要。教師可以嘗試從以下三個方面著手：（1）精心設計教學切入點。一個好的切入點能減少突兀感，自然引導學生的思路從過往的教學內容向新的知識點過渡，增加教學內容的連貫性，并幫助學生梳理所學的內容，增強條理性和關聯性，幫助學生更容易的學習理解新的內容。（2）加強互動，調節課堂氛圍。教學過程具有雙向性，如果只是一味地講解，忽略與學生之間的互動，那么教學就變質為灌輸，教學質量很難提高。良好的課堂氛圍有助于改善教學效果，教師要善于創設情境，積極鼓勵學生互動參與，通過設置一些教學相關問題，引導學生積極思考，主動參與解決問題。（3）教師應加強與學生的溝通，就教學方式等征求學生的建議意見，并適時適當加以改進，創建適合學生的教學模式。強化實踐環節，提高學生學習的興趣。由于《信息論基礎》理論性較強，因此有必要增設適當的實踐內容，調整學習節奏，既培養學生的實際應用能力，又能避免學習過程過于枯燥，影響教學效果。例如：在學習“互信息”時，指導學生利用互信息建立復雜網絡模型。眾所周知，復雜網絡無處不在，如Internet、WWW、基因調控網絡等，因此建立網絡模型具有實際意義。另一方面，互信息越大表明關系越強，那么可以根據互信息的大小來確定網絡節點之間是否存在連接，連接的權重也可以根據互信息衡量，從而構造出網絡模型，由此提高學習的趣味性與課程的實用性。

最后，豐富課程的考核形式。通常，《信息論基礎》的考核方式以閉卷書面測試為主，這樣做的好處在于能夠比較全面完整地測試學生對于重要知識點的掌握程度，缺點在于容易陷入應試教學的桎梏，死記硬背相關知識點不利于靈活掌握。因此，有必要采取多樣化的考核方式，打破以一場考試定優劣的僵化形式，合理引入“課程實踐”、“創新報告”等考核環節，形成較為科學的綜合考核體系。變“教師”為“導師”，根據理論教學內容分類擬定相關研究課題，由學生自主選擇，查閱資料，分析并解決問題，以答辯、書面報告等形式提交研究成果，以此培養學生解決實際問題的能力，更好、更全面地反映學生對所學知識的掌握程度。

三、結語

《信息論基礎》是一門重要的專業核心課程，理論性較強。除了豐富和完善教師自身的知識結構和能力水平外，本文分析了教學過程中常見的問題，從教學方法、考核形式等方面入手，探討提升教學效果的方式途徑。筆者經過數年的教學實踐，教學質量明顯提升，教學效果令人滿意。

參考文獻：

[1]韓貴春.關于“信息論基礎”課程的教學探討[J].課程教材改革，2014，（6）：73-74.

[2]陳燕燕.《信息論與編碼技術》課程中平均互信息的教學探討[J].教育教學論壇，2014，（28）：91-93.

[3]蔣霞，周保平.小組討論式教學在信息論與編碼課程中的應用與探索[J].吉林省教育學院學報，2014，（9）：46-47.