學習《概率論與數理統計》應該注意的若干問題（3）——隨機變量的數字特征和作用

許道云，秦永彬，劉長云

（ 貴州大學 計算機科學與技術學院，貴州 貴陽 550025 ）

學習《概率論與數理統計》應該注意的若干問題（3）
——隨機變量的數字特征和作用

許道云，秦永彬，劉長云

（ 貴州大學 計算機科學與技術學院，貴州 貴陽 550025 ）

隨機變量形式上是定義在樣本空間上的一個實值函數，與普通函數相類似，利用某些參數足以刻畫函數的內在本質特征。隨機變量數字特征的引入，其目的是想用某些特征參數刻畫隨機變量。數學期望是隨機變量數字特征參數的一個基礎的核心概念，常見的隨機變量數字特征形式上是隨機變量函數的數學期望。數學期望本質上是加權平均計算，這為隨機變量數字特征的統計（近似）計算提供了計算模型。

數字特征； 計算； 作用

為幫助工科學生理解《概率論與數理統計》中的一些基本而且重要的問題，并為教授這門課程的教師提供一些有用的參考，我們按照授課的內容和順序，以系列文章的形式闡明本課程教學大綱要求內容中的若干問題，以及這些問題在支撐整個教學內容中的聯系和地位。

我們所選內容限于《概率論與數理統計》（浙江大學 盛驟等編， 高等教育出版社，第三版）的第一章至第八章，將以 6篇系列教學研究文章完成我們對《概率論與數理統計》中若干問題和知識點的見解，其中不乏一些在相關參考文獻或教科書上沒有見到的新見解。教學實踐證明：這些見解對教與學是非常有效的。此系列文章的全部內容都融進了我們的教學過程中，整理出來的目的是讓后續學生在學習時參考，其主要讀者對象是學生。

《概率論與數理論計》作為一門應用數學課程，與其他數學課程一樣，有自身的一套“概念建立、性質和定理提煉、計算公式、實際應用”的體系。把握住其中關鍵概念的內涵以及延伸的邏輯體系和方法，對于本課程的教與學至關重要。

通常，多數學生認為：《概率論與數理統計》由于研究的是隨機現象及其統計規律，所以該課程難學。實質上，只要悟透其中每一部分的概念和計算公式的內涵。從計算的角度而言，只需用到中學階段已經學過的排列組合、以及大學一二年級學過的《高等數學》中的微積分計算，就足夠完成大綱要求的學習內容。

我們將以一系列教學研究文章的形式，向學生進一步澄清《概率論與數理統計》中的一些基本概念的內涵，幫助學生進一步悟透這些概念和相關的計算公式以及知識點之間的聯系，化難為易，使學生感受到《概率論與數理統計》課程中要求的計算難度不會高于已經學過的《高等數學》，消除學生對這門課程的“畏難”心態，讓學生覺得這門課易學，其計算難度沒有超過《高等數學》中的計算難度。同時，提高學生對這門課程的學習興趣，認識到它在以后實際工作中的作用。

該系列文章由如下六個部分構成：

（1）概率概念的內涵與分解計算；

（2）隨機變量與概率分布；

（3）隨機變量的數字特征和作用；

（4）正態分布在抽樣分析中的地位；

（5）三大分布在數理統計中的地位；

（6）極限性質及其應用。

本文為該系列教學研究文章之三，闡述隨機變量以及隨機變量之間關系的特征表示。與一般事物一樣，抓住對象特征就能了解對象。

隨機變量形式上是定義在樣本空間上的一個實值函數，與普通函數相類似，利用某些參數足以刻畫函數的內在本質特征。數學期望是隨機變量數字特征參數的一個基礎而核心的概念，常見的隨機變量數字特征形式上是隨機變量函數的數學期望。數學期望本質上是加權平均計算，這為隨機變量數字特征的統計近似計算提供了計算模型。

隨機變量、分布、總體客觀上是對同一對象的不同表述，隨機變量數字特征參數決定了隨機變量。所以，數理統計中主要是對隨機變量數字特征參數計算估計進行研究。

1.隨機變量的數字特征

所謂特征：是想用少量的信息（近似地或完全地）表示一個大信息量對象。

比如：人的指紋特征是用少量的數據點去表現整個指紋圖像，只要滿足區分要求就足夠了；一條直線由無窮多個點構成，然而從直線方程y=kx+b可知，只需用一對實數（k,b）就足以刻畫該直線；等等。

隨機變量通常表現為一個函數。但是，對于給定類型的分布，只要知道其中的某些參數，就足以刻畫該隨機變量。而這樣的參數往往代表隨機變量某種內在特性或物理背景，或隨機變量之間的某種內在聯系。

在《概率論與數理統計》中，主要研究隨機變量的如下幾類數字特征（參數）。

1.1. 信息量

直觀上，一個常規事件的發生不提供任何信息，而一個未在預料中的事件的發生提供有信息。

對應概率論中的確定與非確定事件，確定事件發生的結果預先可知道，所以，這樣的事件發生不提供任何信息。而非確定事件發生的結果預先不可知，于是非確定事件發生的結果提供有信息。1948年，香農提出了“信息熵”概念，解決了對信息的量化問題。一條信息的信息量大小和它的不確定性有直接的關系。比如說，我們要搞清楚一件非常不確定的事，或是我們一無所知的事情，就需要了解大量的信息。相反，如果我們對某件事已經有了較多的了解，則不需要太多的信息就能把它搞清楚。從這個角度，信息的度量可以刻畫事件發生的不確定性。

我們知道：概率論主要研究非確定事件發生的規律。隨機變量是用于描述非確定事件發生的基本數學工具。不同的隨機事件的發生提供有不同信息。如何量化這樣的信息是一個基本問題。

設X為一個離散型隨機變量，其分布為：

圖 1 事件發生概率與信息量關系

可見，事件發生的概率越小，信息量越大。事件發生的概率為1時，信息量為0。即確定事件發生不提供信息。

設X，Y為兩個離散型隨機變量，其分布分別為

事件X=xi，Y=yj的發生所提供的互信息量定義為：互信息量提供一種兩個事件發生的相互依賴信息量。

（1）如果事件X=xi，Y=yj獨立，則I（xi,yj）=0。

（2）如果事件Y=yj發生時，X=xi必然發生，則有I（xi,yj）=I（xi）。

1.2. 熵

用隨機變量描述不確定事件，那么如何量化整個隨機變量的不確定性呢？香農提出的“信息熵”概念有效地解決了這個問題。他用事件發生的平均信息量定義熵，即，

其函數曲線見圖2。

可見，當分布參數p=0.5時，對應的0-1隨機變量X的熵最大，即事件發生的結果最不確定。而當靠近0（或1）時，熵趨近于0。此表明：隨機變量X幾乎退化為一個確定量。

對于兩個隨機變量X，Y，如果H（X）＜H（Y），則Y的不確定性比X的不確定性高。

1.3. 數學期望

隨機變量的數學期望形式上表現為隨機變量取值以概率值為權重的加權平均：

數理統計中將用到離散型加權平均的思想，用于數學期望參數的統計量估算方法。

數學期望的如下兩條性質對計算有用：

1.4. 方差

方差用于刻畫隨機變量X取值與平均值E（X）的總體誤差。

方差的如下三條性質對計算有用：

1.5. 協方差

相關系數用于刻畫隨機變量X，Y的線性相關程度。可以證明：

2.常見分布的數字特征

由概率分布的定義，我們知道：

通常，我們只考慮某些具有代表性的分布類型。一般，分布中含有某些參數，分布類型己知的情形下，不同參數對應不同的分布。隨機變量的數字特征與這些分布參數有密切聯系。

隨機變量的數字特征可以用一個多項式形式的隨機變量函數的數學期望表示，如 k階原點矩E[Xk]，k階中心矩E[（X?E（X））k]，k+m階原點混合矩E[Xk Ym], k+m階中心混合矩E[（X?E（X））k（Y?E（Y））m]。

可見，數學期望在數字特征計算中是一個中心概念。基于這一點，根據加權平均與數學期望的關系，數理統計中的矩估計方法和其他統計方法基本是源于這些關系。

為方便學生參考，我們將常見分布的數字特征總結在表1中。

3.數字特征的應用

隨機變量的數字特征之所以稱為特征，其理由是：在分布類型己知的情形下，一旦數字特征知道，分布就能決定。所以，數理統計中絕大部分內容是在對分布類型及其參數進行近似估算和分析研究。

對于分布參數，參數的單點值近似，或取值范圍近似是數理統計關心的基本問題。在數理統計中，單點值和取值范圍的近似是用概率信度刻畫，即在什么樣的概率信度下，確保近似結果。這方面的分析我們將在另文中專題討論。

這里，我們考慮一種最簡單的近似方法：對同一試驗重復進行，然后用實驗結果的平均值近似數學期望。

對于一個隨機變量X，如果它的數學期望E（X）=和方差D（X）=σ2均存在（注意：并非一定是正態分布），即使不知道分布的任何信息，數學期望和方差仍可近似計算，其原理來自于大數定律。對X對應隨機試驗獨立地重復進行，試驗n次的結果分別用 n個隨機變量X1,X2,......,Xn表示。則X1,X2,......,Xn為相互獨立，且與X同分布。從而有

切比雪夫大數定理從理論上解釋了為什么可以用頻率近似地作為概率的基本思想。我們以0-1分布為例解釋這一現象。

設事件A發生的概率為p,引入一個一個0-1隨機變量X：

表1 常見分布的數字特征

對于分布類型，根據中心極限定理，其近似估計與分布類型無關，最終均可統一在正態分布（仍至標準正態分布）的框架之下。所以，我們可以這樣認為：數理統計中的最核心的基礎分布是標準正態分布。這就是數理統計中只研究標準正態分布抽樣的各種組合的原因。

中心極限定理：設X1,X2,......,Xn,......為相互獨立的隨機變量序列，?i≥1，

值得注意的是：在此是固定的，從而當n→+∞時，np→+∞并非是一個常數或有界。

4.結束語

本文是我們有關《概率論與數理統計》系列教學研究文章的第 3篇。主要闡述隨機變量的數字特征。用量化參數刻畫隨機變量的某些內在特征。數學期望在數字特征計算中是一個中心概念，把握加權平均與數學期望的關系，對于理解其他特征參數的計算和估計、以及數理統計中的矩估計方法和其他統計法具有十分重要的意義。

[1] 盛驟，謝式千，潘承毅.概率論與數理統計（第3版）[M].北京：高等教育出版社，2001.

[2] 盛驟，謝式千，潘承毅.概率論與數理統計——學習輔導與習題選解（第2、3版）[M].北京：高等教育出版社，2003.

[3] 謝婧，鈕鍵，趙輝.概率論與數理統計——全程導學及習題全解（第3版）[M].北京：高等教育出版社，2006.

[4] M. Mitzenmacher, E. Upfal.概率與計算[M].史道濟，譯.北京：機械工業出版社，2007.

Several Issues on Studying Probability Theory and Mathematical Statistics （3）--- Numerical characteristics of random variables and it’s role

XU Dao-yun, QIN Yong-bin, LIU Chang-yun
（ College of Computer Science and Technology, Guizhou University, Guiyang, Gouzhou 550025, China ）

Random variable is formally a real-valued function defined in the sample space. Much the same as normal function, the use of certain parameters is sufficient to describe the function of intrinsic characteristics. The purpose of introduction of digital features about random variables is to use some of the characteristic parameters characterize the random variable. Mathematical expectation is a basic core concepts of numerical characteristic parameters about random variable. Common numerical characteristics of random variables is formally mathematical expectation of random variable function. Mathematical expectation is essentially a weighted average basis, which provides a computational model for statistics （approximate） calculation about numerical characteristic of random variable.

numerical characteristics;calculation;function

（責任編輯 毛志）

O211 < class="emphasis_bold">文獻標識碼：A

A

1673-9639 （2011） 02-0126-06

2010-12-11

許道云（1959-），男，教授、南京大學博士，貴州大學計算機科學與技術學院院長，博士研究生指導教師。主要研究方向為計算復雜性、可計算分析。