機率論與隨機過程

1、機率分佈(probability distribution)

機率分佈是機率論的基本概念之一，用以表述隨機變量取值的機率規律。

機率密度函數：一個連續型隨機變量的機率密度函數（在不至於混淆時能夠簡稱爲密度函數）是一個描述這個隨機變量的輸出值在（某一個肯定的取值點）附近的可能性的函數。而隨機變量的取值落在（某個區域以內的機率）則是機率密度函數在這個區域上的積分。當機率密度函數存在的時候，累積分佈函數是機率密度函數的積分。

在相同條件下進行n次重複試驗，若是隨機事件A發生的次數爲m，那麼m/n稱爲隨機事件A的頻率（frequency）；當試驗重複數n逐漸增大時，隨機事件A的頻率愈來愈穩定地接近某一數值p，那麼就把p稱爲隨機事件A的機率。這樣定義的機率稱爲統計機率（statistics probability），或者稱後驗機率（posterior probability）

一、離散型隨機變量機率分佈

（1）兩點分佈

若一個隨機變量X只有兩個可能取值，其分佈爲P{X=x1}=p,P{X=x2}=1-p(0<p<1)

（2）二項分佈（Binomial Distribution，Bernoulli Experiment）

二項分佈是n個獨立的是/非試驗中成功的次數的離散機率分佈。 重複n次的伯努利試驗。在每次試驗中只有兩種可能的結果，並且是互相對立的，是獨立的，與其它各次試驗結果無關，結果事件發生的機率在整個系列試驗中保持不變，則這一系列試驗稱爲伯努力試驗。

P(ξ=K)= C(n,k) * p^k * (1-p)^(n-k), 其中C(n, k) = n!/(k! * (n-k)!)；

記做ξ~B(n,p) 指望：Eξ=np 方差:Dξ=npq

（3）泊松分佈 若隨機變量x服從參數爲λ的指數分佈，則記爲 X~ P(λ). 泊松分佈的參數λ是單位時間(或單位面積)內隨機事件的平均發生率（泊松分佈適合於描述單位時間（或空間）內隨機事件發生的次數）。 其數學指望與方差相等，同爲參數λ： E(X)=V(X)=λ

二、連續型隨機變量機率分佈

（1）指數分佈：

是一種連續機率分佈，能夠用來表示 機率密度函數： 若隨機變量x服從參數爲λ的指數分佈，則記爲 X~ e(λ).

累積機率分佈：

指望：

方差：

【指數分佈和泊松分佈】：

若是單位時間事件發生的次數服從參數爲r的泊松分佈，泊松事件流的等待時間，則任連續發生的兩次時間的間隔時間序列服從參數爲r的指數分佈!

（2）正態分佈

3、馬爾可夫過程

一、馬爾可夫性，又無後效性

按參數空間與狀態空間分，離散參數集，離散狀態集的馬爾可夫過程，稱爲馬爾可夫鏈； 利用馬爾可夫過程分析系統當前狀態並預測將來狀態的決策方法，稱爲馬爾可夫決策；

隱馬爾可夫模型（Hidden Markov Model，HMM）是統計模型，它用來描述一個（含有隱含未知參數）的馬爾可夫過程。其難點是從可觀察的參數中肯定該過程的隱含參數。而後利用這些參數來做進一步的分析，例如模式識別。

假設你有一個住得很遠的朋友,他天天跟你打電話告訴你他那天作了什麼.你的朋友僅僅對三種活動感興趣:公園散步,購物以及清理房間.他選擇作什麼事情只憑天氣.你對於他所住的地方的天氣狀況並不瞭解,可是你知道總的趨勢.在他告訴你天天所作的事情基礎上,你想要猜想他所在地的天氣狀況. 你認爲天氣的運行就像一個馬爾可夫鏈.其有兩個狀態 "雨"和"晴",可是你沒法直接觀察它們,也就是說,它們對於你是隱藏的.天天,你的朋友有必定的機率進行下列活動:"散步", "購物", 或 "清理". 由於你朋友告訴你他的活動,因此這些活動就是你的觀察數據.這整個系統就是一個隱馬爾可夫模型HMM. http://zh.wikipedia.org/wiki/%E9%9A%90%E5%90%AB%E9%A9%AC%E5%B0%94%E7%A7%91%E5%A4%AB%E6%A8%A1%E5%9E%8B

二、轉移機率、轉移機率矩陣 定義：稱P{X m+n=j|Xm=i}爲馬氏鏈在m時刻處於狀態i條件下，在m+n時刻轉移到狀態j的轉移機率；當P{X m+n=j|Xm=i}只與i,j及n有關，且與m無關時，稱轉移機率具備平穩性，同時稱此馬氏鏈爲齊次的或時齊的。time homogeneous..

n步轉移機率《一步轉移機率

homogeneous均勻的；齊次的，同種的

二、知足馬氏性質的隨機過程 2.1獨立隨機過程爲馬爾可夫過程 (1)n次投擲一枚硬幣，第n次爲止正面的次數； 2.2獨立增量過程 （1）（二項分佈）設在每次試驗中，事件A發生的機率爲p(0<p<1)，獨立重複進行這項試驗，以X（n）表示第n次爲止A發生的機率，則{X（n），n=1,2,.....n} （2） 3 馬氏過程的n維分佈函數是由一些條件分佈函數與初 始時刻對應的隨機變量的分佈函數的乘積得出 2、有限狀態機 http://www.cnblogs.com/p2pstream/archive/2012/01/31/2333773.html