似然與機率的異同

1. 極大似然估計

假設有一枚硬幣，咱們想肯定這枚硬幣是否質地均勻。即想知道拋這枚硬幣，正反面出現的機率各是多少？因而咱們將這枚硬幣拋了10次，獲得的數據x0是：反正正正正反正正正反。咱們想求的正面機率θ是模型參數，而拋硬幣模型能夠假設服從二項分佈。

那麼，出現實驗結果x0（反正正正正反正正正反）的似然函數是多少呢？

而極大似然估計，顧名思義，就是要最大化這個函數。

 

咱們能夠畫出f(θ)的圖像：

從圖像中能夠觀察到，θ=0.7時，函數取值最大。也就是說，咱們經過最大化似然函數後，獲得了模型參數的值，相應的，正反面出現的機率也就求出了。  

極大似然估計須要保證全部的採樣都是獨立同分布的。

2. 容易混淆的概念 

• 極大似然估計就是最大似然估計。
• 極大似然機率這個名詞描述是不許確的，筆者查閱了整個英文互聯網，都沒有找到  ‘Maximum likelihood probability’這個詞。因此，不存在「極大似然機率」這個說法。

3. 最大後驗機率  

與極大似然估計相比，使用最大後驗機率估計θ時，首先認爲θ自己存在一個分佈，即θ有先驗分佈。

仍是以判斷一枚硬幣是否質地均勻爲例。假設正面機率θ知足均值爲0.5，方差爲1的先驗分佈，即：

那麼，將這枚硬幣拋了10次，獲得的數據x0是：反正正正正反正正正反。

由於考慮了先驗分佈，因此實驗結果x0的函數能夠表示爲：

 所以，咱們能夠經過最大化這個後驗機率函數求得θ，咱們能夠畫出f(θ)的圖像：

計算獲得θ = 0.696。也就是說，採用最大後驗機率計算獲得硬幣正面朝上的機率爲0.696。

4. 似然與機率分別指的什麼

似然： 英文單詞爲likelihood，有道翻譯的翻譯結果爲：十有八九。

機率： 若是我有一枚質地均勻的硬幣，那麼它出現正面朝上的機率是0.5。

似然： 若是我拋一枚硬幣100次，正面朝上52次，那麼它十有八九是質地均勻的。

 

再舉一個例子加深理解。 假設有人向我挑戰一個「有利可圖的賭博遊戲」。

機率： 幫助咱們計算預期的收益和損失(平均值、衆數、中值、方差、信息比率、風險值、賭徒破產等等)。

似然： 幫助咱們量化是否首先應該相信那些機率。

實際上，似然幾乎能夠等價於置信度。