學(xué)習(xí)《概率論與數(shù)理統(tǒng)計(jì)》應(yīng)該注意的若干問(wèn)題（6）——極限性質(zhì)及其應(yīng)用

許道云，秦永彬，劉長(zhǎng)云

（ 貴州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，貴州 貴陽(yáng) 550025 ）

學(xué)習(xí)《概率論與數(shù)理統(tǒng)計(jì)》應(yīng)該注意的若干問(wèn)題（6）
——極限性質(zhì)及其應(yīng)用

許道云，秦永彬，劉長(zhǎng)云

（ 貴州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，貴州 貴陽(yáng) 550025 ）

闡述《概率論與數(shù)理統(tǒng)計(jì)》中極限性質(zhì)及其在近似計(jì)算中的應(yīng)用。馬爾科夫不等式是許多概率不等式的基礎(chǔ)，從馬爾科夫不等式很容易得到切比雪夫不等式，從切比雪夫不等式得到大數(shù)定理，大數(shù)定理從理論上解釋了用頻率近似地作為事件發(fā)生概率的基本思想。中心極限定理則說(shuō)明：獨(dú)立同分布隨機(jī)序列的前n項(xiàng)和可以用正態(tài)分布近似。 這些結(jié)果所表現(xiàn)的是一種極限性質(zhì)，為某些分布下概率的近似計(jì)算提供了便捷方法。

概率不等式； 極限性質(zhì)； 近似計(jì)算； 大數(shù)定理； 中心極限定理

為幫助工科學(xué)生理解《概率論與數(shù)理統(tǒng)計(jì)》中的一些基本而且重要的問(wèn)題，并為教授這門(mén)課程的教師提供一些有用的參考，我們按照授課的內(nèi)容和順序，以系列文章的形式闡明本課程教學(xué)大綱要求內(nèi)容中的若干問(wèn)題，以及這些問(wèn)題在支撐整個(gè)教學(xué)內(nèi)容中的聯(lián)系和地位。

我們所選內(nèi)容限于《概率論與數(shù)理統(tǒng)計(jì)》（浙江大學(xué)盛驟等編，高等教育出版社，第 3版）的第一章至第八章，將以 6篇系列教學(xué)研究文章完成我們對(duì)《概率論與數(shù)理統(tǒng)計(jì)》中若干問(wèn)題和知識(shí)點(diǎn)的見(jiàn)解，其中不乏一些在相關(guān)參考文獻(xiàn)或教科書(shū)上沒(méi)有見(jiàn)到的新見(jiàn)解。教學(xué)實(shí)踐證明：這些見(jiàn)解對(duì)教與學(xué)是非常有效的。此系列文章的全部?jī)?nèi)容都融進(jìn)了我們的教學(xué)過(guò)程中，整理出來(lái)的目的是讓后續(xù)學(xué)生在學(xué)習(xí)時(shí)參考，其主要讀者對(duì)象是學(xué)生。

《概率論與數(shù)理論計(jì)》作為一門(mén)應(yīng)用數(shù)學(xué)課程，與其他數(shù)學(xué)課程一樣，有自身的一套“概念建立、性質(zhì)和定理提煉、計(jì)算公式、實(shí)際應(yīng)用”的體系。把握住其中關(guān)鍵概念的內(nèi)涵以及延伸的邏輯體系和方法，對(duì)于本課程的教與學(xué)至關(guān)重要。

通常，多數(shù)學(xué)生認(rèn)為：《概率論與數(shù)理統(tǒng)計(jì)》由于研究的是隨機(jī)現(xiàn)象及其統(tǒng)計(jì)規(guī)律，所以該課程難學(xué)。實(shí)質(zhì)上，只要悟透其中每一部分的概念和計(jì)算公式的內(nèi)涵。從計(jì)算的角度而言，只需用到中學(xué)階段已經(jīng)學(xué)過(guò)的排列組合、以及大學(xué)一二年級(jí)學(xué)過(guò)的《高等數(shù)學(xué)》中的微積分計(jì)算，就足夠完成大綱要求的學(xué)習(xí)內(nèi)容。

我們將以一系列教學(xué)研究文章的形式，向?qū)W生進(jìn)一步澄清《概率論與數(shù)理統(tǒng)計(jì)》中的一些基本概念的內(nèi)涵，幫助學(xué)生進(jìn)一步悟透這些概念和相關(guān)的計(jì)算公式以及知識(shí)點(diǎn)之間的聯(lián)系，化難為易，使學(xué)生感受到《概率論與數(shù)理統(tǒng)計(jì)》課程中要求的計(jì)算難度不會(huì)高于已經(jīng)學(xué)過(guò)的《高等數(shù)學(xué)》，消除學(xué)生對(duì)這門(mén)課程的“畏難”心態(tài)，讓學(xué)生覺(jué)得這門(mén)課易學(xué)，其計(jì)算難度沒(méi)有超過(guò)《高等數(shù)學(xué)》中的計(jì)算難度。同時(shí)，提高學(xué)生對(duì)這門(mén)課程的學(xué)習(xí)興趣，認(rèn)識(shí)到它在以后實(shí)際工作中的作用。

該系列文章由如下六個(gè)部分構(gòu)成：

（1）概率概念的內(nèi)涵與分解計(jì)算；

（2）隨機(jī)變量與概率分布；

（3）隨機(jī)變量的數(shù)字特征和作用；

（4）正態(tài)分布在抽樣分析中的地位；

（5）三大分布在數(shù)理統(tǒng)計(jì)中的地位；

（6）極限性質(zhì)及其應(yīng)用。

本文為該系列教學(xué)研究文章之六，闡述《概率論與數(shù)理統(tǒng)計(jì)》中極限性質(zhì)及其在近似計(jì)算中的應(yīng)用。馬爾科夫不等式是許多概率不等式的基礎(chǔ)，從馬爾科夫不等式很容易得到切比雪夫不等式、切爾諾夫不等式等眾多重要的概率不等式。

從切比雪夫不等式得到大數(shù)定理，大數(shù)定理從理論上解釋了用頻率近似地作為事件發(fā)生概率的基本思想。中心極限定理則說(shuō)明：獨(dú)立同分布隨機(jī)序列的前n項(xiàng)和可以用正態(tài)分布近似。中心極限定理是數(shù)理統(tǒng)計(jì)的理論基礎(chǔ)，從另一角度解釋了為什么在抽樣分析中我們只考慮由標(biāo)準(zhǔn)正態(tài)分布的組合形成的三大分布（χ2（n）-分布、t-分布、F-分布）。此外，泊松分布是二項(xiàng)分布序列的另一種極限表示。

這些結(jié)果所表現(xiàn)的是一種極限性質(zhì)，為某些分布下概率的近似計(jì)算提供了便捷方法。

1.基本不等式（Markov不等式）

馬爾科夫（Markov）不等式雖然證明簡(jiǎn)單，但它是許多概率不等式的“根”，因?yàn)樵S多重要的概率不等式可以由馬爾科夫不等式產(chǎn)生（或證明）。

概率不等式中，通常涉及到隨機(jī)變量的數(shù)學(xué)期望和方差。為便于閱讀，我們?cè)诖私o出隨機(jī)變量的數(shù)學(xué)期望和方差的定義。

數(shù)學(xué)期望：設(shè)X為一個(gè)隨機(jī)變量，其數(shù)學(xué)期望定義為

度函數(shù)。（條件：積分絕對(duì)收斂）

兩種類型的聯(lián)系：

定理1.1. （Markov不等式）設(shè)X為一個(gè)隨機(jī)變量，且X≥0，則對(duì)于任意實(shí)數(shù)v＞0, 成立：

證明：（以連續(xù)型隨機(jī)變量情形進(jìn)行證明）

由于X≥0，設(shè)X的概率密度為f（x）, 我們有：

由Markov不等式，容易得到Chebyshev不等式。

定理1.2. （切比雪夫Chebyshev不等式）設(shè)X為一個(gè)隨機(jī)變量，則對(duì)于任意實(shí)數(shù)δ＞0, 成立：

切比雪夫（Chebyshev）不等式的幾何表示見(jiàn)圖1。

圖1 概率估計(jì)

由此， 我們得到：

切比雪夫大數(shù)定理從理論上解釋了為什么可以用頻率近似地作為概率的基本思想。我們借助0-1分布為例解釋這一現(xiàn)象。

設(shè)事件A發(fā)生的概率為,引入一個(gè)0-1隨機(jī)變量X：

2.二項(xiàng)分布的近似計(jì)算

如下的中心極限定理提供了二項(xiàng)分布概率的一個(gè)近似計(jì)算方法。該定理的結(jié)果比泊松定理強(qiáng)得多。其原理是：借助極限分布是標(biāo)準(zhǔn)正態(tài)分布，用標(biāo)準(zhǔn)正態(tài)分布作近似計(jì)算。

3.切爾諾夫界

然而，在各種限制下的 0-1隨機(jī)變量序列X1,X 2,…… ,Xn,……可以用來(lái)描述許多隨機(jī)變化過(guò)程。在此，我們考慮一種非常自然、而且常見(jiàn)的限制：獨(dú)立、同分布。

由馬爾科夫不等式，通過(guò)構(gòu)造適當(dāng)?shù)膯握{(diào)函數(shù)，可以證明許多非常有用的不等式。它們?cè)诟怕使浪銜r(shí)是相當(dāng)有用的。

定理 3.1.（Chernoff不等式）設(shè)X1,X2,……,Xm為一組相互獨(dú)立同分布的 0-1隨機(jī)變量，其中，Pr[Xi=1]=p。作X=X1+X2+……+Xm，則對(duì)任意的0＜δ＜1，成立：

我們知道：0-1分布可以說(shuō)是最簡(jiǎn)單的概率分布。

4.結(jié)束語(yǔ)

本文是我們有關(guān)《概率論與數(shù)理統(tǒng)計(jì)》教學(xué)研究文章的最后一篇，闡述《概率論與數(shù)理統(tǒng)計(jì)》中極限性質(zhì)及其在近似計(jì)算中的應(yīng)用。我們?cè)俅螐?qiáng)調(diào)：馬爾科夫不等式是許多概率不等式的基礎(chǔ)，大數(shù)定理從理論上解釋了用頻率近似地作為事件發(fā)生概率的基本思想，中心極限定理是數(shù)理統(tǒng)計(jì)的理論基礎(chǔ)，獨(dú)立同分布隨機(jī)序列的部分和的極限分布是正態(tài)分布。在抽樣分析中，三大分布其源頭是標(biāo)準(zhǔn)正態(tài)分布。參數(shù)估計(jì)、假設(shè)檢驗(yàn)實(shí)質(zhì)上是圍繞三大分布展開(kāi)的。

至此，我們有關(guān)《概率論與數(shù)理統(tǒng)計(jì)》教學(xué)研究的 6篇文章已全部完成，其中的一些見(jiàn)解對(duì)教與學(xué)具有一定的參考價(jià)值。當(dāng)然，有些內(nèi)容是要靠反復(fù)領(lǐng)悟才有效果的，我們也在不斷的領(lǐng)悟之中。我們的經(jīng)驗(yàn)是：講過(guò)一遍后，回過(guò)頭來(lái)看才發(fā)現(xiàn)有些內(nèi)容下次再講還可以講得更好、更簡(jiǎn)單一些。老師的責(zé)任便是如此：將難的東西講簡(jiǎn)單，講透徹。

[1] 盛驟，謝式千，潘承毅.概率論與數(shù)理統(tǒng)計(jì)（第3版）[M].北京：高等教育出版社，2001.

[2] 盛驟，謝式千，潘承毅.概率論與數(shù)理統(tǒng)計(jì)——學(xué)習(xí)輔導(dǎo)與習(xí)題選解（第2、3版）[M].北京：高等教育出版社，2003.

[3] 謝婧，鈕鍵，趙輝.概率論與數(shù)理統(tǒng)計(jì)——全程導(dǎo)學(xué)及習(xí)題全解（第3版）[M].北京：高等教育出版社，2006.

[4] M. Mitzenmacher, E. Upfal.概率與計(jì)算[M].史道濟(jì)，譯.北京：機(jī)械工業(yè)出版社，2007.

Several Matters on Learning “Probability Theory and Mathematical Statistics”（6）—— Limit Nature and Its Application

XU Dao-yun, QIN Yong-bin, LIU Chang-yun
（ College of Computer Science and Technology, Guizhou University, Guiyang, Guizhou 550025, China ）

It introduces limit nature and its application in approximate calculation in the course of “Probability Theory and Mathematical Statistics”. Markov Inequality is the root of many probability inequalities. Chebyshev Inequality, easily derivated from Markov Inequality, can infer Rout Theorem, which theoretically gives explanation to the fundamental thought that rate is taken approximately as event happening probability. Central Limit Theorem demonstrates that the firstnitems under independent and identically distribution is approximate with that under normal distribution. Those results show a kind of limit nature, which provides convenient ways for approximate calculation on probability under some distributions.

probability inequality;limit nature;approximate calculation;Rout Theorem;Central Limit Theorem

（責(zé)任編輯 毛志）

O211 < class="emphasis_bold">文獻(xiàn)標(biāo)識(shí)碼：A

A

1673-9639 （2011） 06-0134-07

2010-12-11

許道云（1959-），男，教授、南京大學(xué)博士，貴州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院院長(zhǎng)，博士研究生指導(dǎo)教師。主要研究方向?yàn)橛?jì)算復(fù)雜性、可計(jì)算分析。