張軍霞 石倩
一、隨機過程發展簡述
在當今社會的廣闊天地里,人們可以看到一種叫作隨機過程的數學模型:一些看似毫無規律的偶然現象經過隨機理論的研究發現竟然有章可尋,從銀河亮度的起伏到星系空間的物質分布、從分子的布朗運動到原子的蛻變過程,從化學反應動力學到電話通訊理論、從謠言的傳播到傳染病的流行、從市場預測到密碼破譯,隨機過程理論及其應用幾乎無所不在。
馬爾可夫經多次觀察試驗發現,一個系統的狀態轉換過程中第n次轉換獲得的狀態常決定于前一次(第n-1次)試驗的結果。目前,馬爾可夫鏈理論與方法已經被廣泛應用于自然科學、工程技術和公用事業中。
二、馬爾可夫過程發展
2.1 馬爾可夫過程簡介
馬爾科夫過程(MarKov Process)是一個典型的隨機過程。設X(t)是一隨機過程,當過程在時刻t0所處的狀態為已知時,時刻t(t>t0)所處的狀態與過程在t0時刻之前的狀態無關,這個特性成為無后效性。無后效的隨機過程稱為馬爾科夫過程。
2.2 馬爾可夫鏈的定義
[定義] 設有隨機過程 { Xn,n∈T }, 若對于任意的整數n∈T 和任意的 i0,i1,…,in+1∈I,其中:
T={0,1,2…}為離散的時間集合,
I ={i0,i1,…,in+1 }為Xn 所有可能取值的全體組成的狀態變量
P{Xn+1=in+1|X0=i0,X1=i1,Xn=in}
P{Xn+1=in+1|Xn=in}
若條件概率滿足
則稱 { Xn,n∈T } 為馬爾可夫鏈,簡稱馬氏鏈。
經過推導所知,Markov鏈的統計特性完全由條件概率P{Xn+1=in+1|Xn=in}決定,所以確定條件概率及如何利用是Markov鏈重點解決的問題。
2.3 馬爾可夫鏈的算法
2.3.1 轉移概率
·馬爾可夫鏈 { Xn,n∈T }在時刻n的一步轉移概率為P{Xn+1=in+1|Xn=in},i,j∈I所以pij(n)與時刻n有關
·當轉移概率pij(n)與時刻n無關時,則稱馬爾可夫鏈是齊次的,并記為pij(n)為pij
·設P為一步轉移概率pij組成的矩陣,稱為一步轉移概率矩陣P=p
p
…
p …
p
p
…
p …
… … … … …
該矩陣滿足:
(1)pij≥0,i,j∈I
(2)pij=1,i∈I
2.3.2 n步轉移概率
·[定義]稱條件概率
·p=P{Xm+n=j|Xm=i},(i,j∈I,m≥0,n≥1)為馬爾可夫鏈 { Xn,n∈T }的n步轉移概率,并稱P=
p
為馬爾可夫鏈的n步轉移概率。
·同樣有
(1)pij≥0,i,j∈I
(2)pij=1,i∈I
特別的
p=0 i≠j
1 i=j
2.3.3 推論1—C-K方程
·[定義]設 { Xn,n∈T }為馬爾可夫鏈,則對于任意整數n≥0,0≤l p=pp稱為C-K方程 2.3.4 推論2 p=… pp…p 2.3.5 推論3 P=P·P 2.3.6 推論4 P=P 三、馬爾可夫過程在移動通信中的應用 馬爾可夫隨機過程的發展史說明了理論與實際之間的密切關系,其研究方向的提出是有其實際背景的。當這個方向被深入研究后,可指導實踐,進一步擴大和深化應用范圍。以移動網為例,對馬爾可夫過程進行應用簡單應用如下: 1996年ITU制訂了一種語音質量的主觀評測標準MOS(Mean Opinion Score)測試,將用戶接聽和感知語音質量的行為進行調研和量化,由不同的調查用戶分別對原始標準語音和經過無線網傳播后的衰退聲音進行主觀感受對比,評出MOS分值,實際網絡測試中,一般市區內MOS值達到3以上的時候,就表明網絡質量處于較好的水平。現對某無線網絡進行等時間間隔的觀測,發現當級別為優后即以概率1保證維持在優,當級別為劣后即以概率1保證維持在劣,在其他級別分別以概率1/3向上一個級別遷移、維持當前級別、向下一個級別遷移。設每個觀測間隔為一步轉移,可利用馬爾可夫鏈的知識對該問題進行分析。 根據上述描述可以求得馬爾可夫鏈的一步轉移概率矩陣為 根據其一步轉移矩陣可得出其二步轉移概率矩陣,假設該無線網絡當前時刻的語音級別為中,可以計算出經過二步轉移后級別還為中的概率。 二步轉移概率矩陣如下: 若該無線網絡當前時刻的語音級別為中,則經過二步轉移后級別還為中的概率是1/3。 計算任意階轉移矩陣,發現任意階轉移矩陣中總有零元存在,所以沒有平穩分布。 四、與馬爾可夫過程相關的歷史事件 (1)1997年提出在因果馬爾科夫條件下,可以由網絡的條件獨立和條件相關關系推斷因果關系。(2)夸(Qllah)于 1993年采用馬爾科夫漣模型 對歐洲經濟的發展作了進一步分析,認為以前傳統的經驗方法對研究收斂性有時可能有 誤導作用。(3)1991年Cohen等采用高斯一馬爾科夫隨機場(GMRF)紋理模型對織物疵點的檢測進行了研究,從正常紋理中提取模型參數,再通過統計假設檢驗判別疵點。(4)1990年撰寫“馬爾科夫鏈預測技術的應用”等論文 1992年之后撰寫成“現代控制理論在森林資源動態預測中的應用”和“森林資源動態系統Kalman濾波”等文章。(5)1973年Dudley“和Burt把動態規劃應用于灌溉水庫的管理上,利用馬爾科夫鏈的轉移概率對遞推動態方程加權。(6)直到 1971年 Hammersly等提出H C定理 從理論上證明了馬爾科夫性與吉布斯分布等價性以吉布斯為代表的隨機場理論才得到空前發展與運用。7()1948年,Shannon首先證明遍歷齊次馬爾科夫鏈的極限是存在的;1957年,Briemann證明了平穩遍歷的馬爾科夫鏈的極限是存在的。(8)1940年克拉默斯(Kramers)將裂變過程看作復合核內部的各種可能的分裂碎片的無規運動行為,但不是完全隨機行為,而是僅保持對前一步記憶的馬爾科夫無規運動,例如布朗運動。