信息論與應用數學關聯教學法研究

劉宴濤 秦娜 朱向慶

摘? 要：信息論是電子信息工程和通信工程的專業課，以香農信息論和編碼學為主要教學內容。現行的信息論教學凸顯出孤立封閉教學的問題，缺少與其他學科和課程的知識關聯，不利于拓展知識的廣度和深度。為此，提出一種信息論與應用數學的關聯教學法，重點在于設計關聯案例，給出三個教學案例解釋關聯案例的設計過程。教學實踐證明該方法有助于學生理清學科知識的內在聯系，建立立體化網狀知識體系。

關鍵詞：信息論;關聯教學法;應用數學;概率論;線性代數;近世代數

中圖分類號：G642? ? ? ? 文獻標志碼：A? ? ? ? ? 文章編號：2096-000X（2023）31-0115-04

Abstract： Information Theory is a specialty course for the majors of electronic information engineering and communication engineering. It takes classical Shannon information theory and coding as main contents. Present teaching activity of Information Theory exposed the problem of isolated closed teaching， which is deficient of knowledge correlation to other disciplines and courses， thence is lack of breadth and depth of knowledge. To solve this problem， this paper proposed a correlative teaching method for Information Theory and applied mathematics， which emphasized designing teaching cases. Three teaching cases are given to illustrate the designing procedure of correlative teaching. Teaching practices show that the method helps students figure out the inner connection of disciplines and knowledge， as well as build a solid mesh knowledge system.

Keywords： Information Theory; correlative teaching; applied mathematics; probability theory; linear algebra; modern algebra

信息論是通信工程、電子信息工程等相關專業的專業核心課，其重要性可以和信號與系統以及通信原理等課程相比擬。以通信工程專業為例，該專業是非常典型的工科專業，具有鮮明的理論與實踐相結合、硬件與軟件相結合的特點。圖1給出了該專業本科生培養的課程架構和知識地圖，把本科階段所學的課程分為硬件課程、軟件課程和理論課程，從知識層次上看，下層課程是上層課程的基礎和先修課，對上層課程起到支撐作用。另外，通信專業本科生的就業方向大致可以分為硬件工程師、軟件工程師和系統工程師，三類人才在課程選取和修習上對圖1所示的課程各有側重。然而，無論是哪種人才培養方向和目標，通信工程專業的學生都要打下堅實的理論基礎，尤其是應用數學基礎。由圖1可見，高等數學、線性代數和概率論三門數學課對專業課的學習具有強支撐作用，學生在低年級如果沒有掌握基本的微積分計算和矩陣運算，不理解概率的基本概念，那么在高年級將很難學習和透徹理解信號與系統、通信原理、信息論等專業課程的思想和精髓。因此，對于工科專業的本科教學應該大力提倡專業知識和數學知識的關聯教學。

信息論在圖1中處于中間位置，對本科生知識體系的構建起到承上啟下的作用，其地位和信號與系統及通信原理等課程同等重要。但是從課程特點上看，信息論比這些課程更抽象[1]，信號與系統、通信原理中涉及的概念或技術往往非常具體，比如波形和頻譜都是可觀測的，采樣、量化、調制和解調等技術也都很直觀和具象。從數學工具上看，微積分、線性代數和概率論中比較簡單的數學運算對于學習和理解這些課程已經足夠。然而，信息論中的概念往往非常抽象，比如至今尚無法給出對于“信息”的完美的或者公理化的定義，熵和互信息等都是看不見摸不著的抽象量。此外，信息論具有與應用數學緊密結合的特點，比如漸進等分割性的證明需要用到概率極限理論，信道編碼和網絡編碼又需要具備有限域等近世代數的數學基礎，這些都是本科生學得比較差甚至是沒有學習過的內容，對有效地學習信息論構成了巨大障礙。

盡管抽象難懂，但信息論對于信息技術相關學科和相關專業的知識體系的構建卻是至關重要的。信息論是信息科學的奠基石，熵和信道容量等概念從認識論的層面上幫助學生透過現象看本質，揭示了信息的根本特征和通信的關鍵問題，信源編碼和信道編碼則從方法論的層面上幫助學生理解如何提高通信的有效性和可靠性，直接服務于工程應用。因此，學習信息論，了解其基本概念和理論，建立信息論的思維和視角對于通信和電子信息等專業的學生和從業者是非常必要的。

一? 信息論的教學現狀分析

目前國內高校的信息論課程有些開設在本科階段，有些開設在碩士研究生階段，課程和教材內容大多是以經典香農信息論為主，也有一些涉及現代網絡信息論[1]。近年來，教學工作者一直對信息論課程進行改革探索。陳燕[2]基于問題引導思路探討了信息論課程的混合教學方法和多維評價體系。劉建剛等[3]從5G移動通信的角度，探討了信息論與應用數學課程的內在聯系。黃英等[4]基于此課程探討了研究生教學中課程思政的可行路徑。孫兵等[5]以平均互信息量的知識點教學為例，幫助學生體會信息的涵義。龐宏[6]從該課程的內容、方法、思政三方面論述了教學改革思路。楊樹偉[7]探索了如何在信息論課程中兼顧理論教學和提高學生動手實踐、解決問題的能力的思路。周蘿魚[8]提出了一種基于任務驅動的信息論與編碼的教學方法。陳婧等[9]針對此課程給出了關于教學內容、方法、師資、考試的一攬子改革方案。車書玲等[10]探索了MOOC和翻轉課堂在信息論教學中的應用。林愿等[11]基于CDIO（Conceive-Design-Inplement-Operate）理念對該課程合理選擇教學內容，改進教學方法，提出了改革思路。李如瑋等[12]針對信息論的課程特點在教學過程中引入OBE（Outcome Based Education）理念，采用基于問題的教學方法并在考核方式中引入過程性評價。

盡管上述研究對信息論教學從不同角度給予了改進，但分析該課程的特點和教學現狀并結合教學實踐可以發現，信息論課程在教學大綱制訂和教學實施過程中仍然凸顯的問題是封閉孤立式教學，缺少與其他課程和知識的關聯教學。目前本科教育的現狀是各個專業之間、各門課程之間存在嚴重的藩籬，課程體系表現出明顯的“煙囪效應”，即各門課程孤立封閉地按照本門課程的教學大綱進行授課，課程之間存在嚴重的藩籬隔閡。

這一問題在信息論教學中尤其凸顯，現行的信息論教學只講授本課程的內容，缺少與其他課程、理論、技術、行業的關聯。事實上，信息論是20世紀初隨著通信由模擬技術向數字技術轉變而建立的，在這個過程中隨著人們越來越從統計科學的視角看待通信工程，越來越應用概率統計、隨機過程的方法建模和分析通信問題，需要建立一套關于信息的統計理論。在這個背景下，香農應用概率論的思想和方法構建了信息論大廈。此外，信息論和編碼學與隨機過程、線性代數、近世代數等應用數學分支有著千絲萬縷的聯系，無論是教學還是科研工作都不能把信息論和應用數學割裂開來，也不應該把信息論孤立封閉在自己的學科體系內。高等教育好的教學內容組織方式應該是幫助學生建立一張立體化網狀的知識地圖，而不是各門課程孤立存在的“煙囪式”的知識體系。為此應加強信息論與應用數學的關聯教學，提高學生的綜合素質。

二? 信息論與應用數學的關聯教學法

信息論與應用數學具有千絲萬縷的聯系，為了促進兩者的交叉融合，拓展知識的廣度和深度，提高學生的綜合素質，建立完善的知識體系，本文提出了一種信息論和應用數學的關聯教學法，其主要內容包括設計信息論與應用數學的關聯案例，建立關聯案例集，進行關聯教學。

首先，關聯教學法的核心是發掘和設計信息論和應用數學之間的關聯案例。這需要授課教師具有豐富的教學經驗和廣闊的專業知識，必須對專業知識體系非常熟悉，能找到關聯案例的切入點，并準確洞悉學生的迷茫困惑所在。

其次，匯總關聯案例，建立關聯案例集，并對其進行持續滾動更新。這是一項長期工作。教師應該秉持發展的理念，在自己的教學和科研工作中發現和發掘新的案例，通過學生的理解程度和課堂反饋隨時優化和更新老的案例。

最后，應用關聯案例進行實踐教學。教學形式可以非常靈活，不必拘泥于課堂教學，可以采用論壇、講座、培訓班、頭腦風暴和Case Study等多種靈活的教學方式，而且教學地點也不必限于教室，可以在實驗室、會議室甚至是草坪或餐廳，這種靈活甚至是松散的學習方式更能激發學生的發散思維和學習興趣，更適用于臨時性的、非系統教學的、以啟發興趣和發現問題為主要目的的學習。

為了解釋和演示關聯教學法的實施過程，下節將通過三個關聯案例來說明如何在信息論和應用數學之間建立關聯。

三? 關聯案例

（一）? 信息論與概率論相關聯

在應用數學的各個分支中，概率論與信息論具有天然的密切聯系，事實上香農信息論就是建立在概率論基礎之上的，因此有必要在信息論教學過程中凸顯概率論元素。下面以離散熵的概念為例闡釋信息論與概率論的關聯。

在信息論中，離散信源被定義為如下離散隨機變量X，其取值個數可以有限或無限（即n=∞）

為了度量X蘊含的信息量，首先定義X取某個具體取值（比如ai）的信息量如下

I（X=ai）=log

=-log[P（ai）]。

上式中對數如果取以2為底，則信息量的單位為bit（比特）。上式取P（ai）的倒數是符合直觀感覺的，即事件發生的概率越小，其蘊含的信息量越大;上式取對數的原因在于信息對概率要滿足可加性，即兩個獨立事件ai和aj同時發生所蘊含的信息量I（ai∩aj）應該等于這兩個事件各自信息量的和I（ai）+I（aj），即

I（ai∩aj）=log

=log

=log

+log

=I（ai）+I（aj）。

進一步，信源X的信息量被定義為a1到an的信息量的統計平均值（數學期望），把這個值稱為信源X的離散熵，記為H（X），即

H（X）=E[I（X=ai）]=-P（ai）logP（ai）。

可見，作為信息論核心概念的熵正是應用概率的方法定義和度量的。不僅如此，信息論中還存在大量與概率論的關聯，比如漸進等分割性與大數定律、信道矩陣與條件概率、譯碼準則與平均錯誤概率，等等。教學過程中突出這些關聯能夠幫助學生尋根溯源，構建立體化網狀的知識體系。

（二）? 信息論與線性代數相關聯

編碼學是信息論的重要組成部分，包括信源編碼、信道編碼和密碼在內的各種編碼都離不開線性代數計算。

圖2示意了（n，k）線性分組碼的編譯碼流程，編碼是將一個k比特的二進制信息序列u一一映射為一個n比特的碼序列v，v也被稱為許用碼字。這個映射過程是通過下式矩陣乘積完成的，其中G表示線性分組碼的生成矩陣。

v經過信道傳輸后，在接收端收到一個n比特的碼序列r，由于噪聲的影響，接收碼字r和發送碼字v可能相同也可能不同，后者表示傳輸過程出現了錯誤。譯碼是將接收到的n比特碼序列r還原成信源發送的k比特序列u，此過程需要通過下式矩陣乘積計算伴隨式s，H表示線性分組碼的校驗矩陣。

譯碼器通過s來判斷傳輸過程是否發生了錯誤，如果s=0則表示沒有錯誤，即r=v，根據u和v的一一映射即可還原u;如果s≠0則表示出現了錯誤，即r≠v，此時需要通過概率計算估計與r最接近的v。

可見，信道編譯碼的核心是生成矩陣G和校驗矩陣H，是通過線性代數中矩陣運算完成的。通過信息論與線性代數相關聯有助于幫助學生理解編碼的本質屬性。

（三）? 信息論與近世代數相關聯

進一步，編碼學的理論基礎是近世代數，尤其是有限域，這是一種建立在有限集合上能進行加減乘除四則運算的完備的代數系統。具體定義（有限域）：非空有限集合F中，定義了兩種代數運算加法“+”和乘法“·”，如果滿足

1）F關于加法構成交換群，其加法單位元記為0。

2）F中非零元素關于乘法構成交換群，其乘法單位元記為1。

3）乘法對于加法分配律成立，即對于?a，b，c∈F，滿足

a·（b+c）=a·b+a·c，

（b+c）·a=b·a+c·a，

則稱集合F關于代數運算“+”和“·”構成一個有限域。任意元素a在加法下的逆元記作（-a），在乘法下的逆元記作（a-1）。

作為有限域的例子，{0，1，2，3，4，5，6}關于模7加和模7乘構成有限域，加法表和乘法表如圖3所示，記該域為GF（7）。

推而廣之，對于任意的素數p，{0，1，…，p}關于模p加和模p乘都構成有限域GF（p）。其中最有代表性的就是{0，1}關于模2加和模2乘構成有限域GF（2），如圖4所示。這是數字通信的基礎。把信息論與有限域相關聯有助于幫助學生理解編碼學的數學基礎。

四? 結束語

現行的本科教育體系存在明顯的藩籬效應，各個專業、各門課程只是孤立封閉地講授本專業、本課程的知識，缺少學科、專業和課程之間的交叉、融合、關聯。針對此問題，本文以信息論課程為例，探討了如何在信息論和應用數學之間設計關聯案例進行關聯教學。通過三個關聯案例演示了關聯教學法的思想和實施過程。教學實踐證明，關聯教學法有助于在學科之間、專業之間、課程之間形成助力，幫助學生理解知識的內在聯系，知其然亦知其所以然，突破課程之間的藩籬，在學科之間、專業之間融會貫通，最終構建立體化網狀的知識體系。

參考文獻：

[1] 劉宴濤，王雪冰，秦娜.信息論-經典與現代[M].北京：電子工業出版社，2019.

[2] 陳燕.基于問題引導式的信息論與編碼課程“線上+線下”混合式教學探索[J].高教學刊，2022，8（24）：132-135.

[3] 劉建剛，胡桔洲.面向5G網絡的信息論與編碼課程教學探討[J].計算機時代，2019（11）：102-105.

[4] 黃英，雷菁，劉嚴，等.工科研究生課程思政改革實踐探索研究——以“信息論與編碼”課程為例[J].工業和信息化教育，2022（9）：53-56.

[5] 孫兵，李建楠，李景文，等.平均互信息量的案例式教學方法研究[J].電氣電子教學學報，2022，44（4）：78-81.

[6] 龐宏.信息論與編碼課程教學改革[J].西部素質教育，2022，8（12）：128-130.

[7] 楊樹偉.信息論與編碼技術課程教學研究[J].濰坊學院學報，2022，22（2）：107-110.

[8] 周蘿魚.任務驅動下的信息論與編碼課程的教學實踐[J].大學教育，2018（9）：1028-110.

[9] 陳婧，鄒海林，張玉玲，等.信息論與編碼課程教學改革的探討與實踐[J].大學教育，2018（9）：99-101.

[10] 車書玲，孫蓉，劉剛.《信息論基礎》慕課和翻轉課堂相結合的教學探索[J].教育現代化，2020，7（9）：46-48.

[11] 林愿，周細鳳.基于CDIO理念的“信息論與編碼”課程的改革與實踐[J].科教文匯，2016（11）：54-55.

[12] 李如瑋，趙德群，黎海濤.本科生“信息論基礎”課程建設與教學改革探索[J].教育現代化，2019，6（82）：94-95.

基金項目：2023年度廣東省教育科學規劃課題（高等教育專項）“新工科電子信息類專業的關聯教學研究”（2023GXJK486）;2021年度廣東省本科高校高等教育教學改革項目“面向工程認證的網絡信息工程相關新工科專業的應用數學教育研究”（粵教高函[2021]29號）;2021年度廣東省高等學校教學管理學會課程思政建設項目“信息理論與編碼”（粵高校教管學會[2022]1號）;2022年度廣東省高等教育學會實驗室管理專業委員會基金項目“粗細顆粒度相結合的《計算機網絡》實驗教學方法”（GDJ20220290）;2020年度廣東省課程思政示范課堂項目“物聯網技術（傳感器網絡）”（粵教高函[2021]4號）;2022年度廣東省自然科學基金面上項目“基于網絡信息論的均勻分數網絡容量域研究”（2022A1515011345）;2021年度廣東省普通高校特色創新項目“基于網絡編碼的云存儲編碼研究”（2021KTSCX124）;2023年度梅州市自組網與云計算工程技術研究中心（2023GC03）;2022年度梅州市社會發展科技計劃項目“基于OPNET的森林火險監防傳感網和災害救助應急通信網仿真研究”（2022B110）;2022年度嘉應學院課程思政示范課程項目“物聯網技術”（嘉院教[2022]48號）;2020年度嘉應學院高等教育教學改革項目“網絡信息工程相關新工科專業的應用數學教育研究”（JYJG20200102）;2022年度嘉應學院高等教育教學改革項目“面向工程認證的計算機網絡實驗教學體系”（JYJG2022222）;2021年度嘉應學院質量工程項目“計算機網絡”（嘉院教[2021]20號）;2023年嘉應學院科研項目“基于OPNET的移動自組網MAC協議研究”（2023KJY020）

第一作者簡介：劉宴濤（1975-），男，漢族，吉林蛟河人，博士，副教授，碩士研究生導師。研究方向為網絡通信、網絡信息論、物聯網、云計算等。

*通信作者：秦娜（1982-），女，漢族，遼寧葫蘆島人，博士，助理實驗師。研究方向為教育技術學、計算機網絡等。