貝葉斯統計

貝葉斯統計是基於貝葉斯定理的一種經典的統計學習方法。假定樣本爲X，參數爲θ，則貝葉斯統計爲：P(θ|X)=P(X|θ)*P(θ)/P(X)。其中，P(θ)爲先驗分佈，P(X|θ)表示似然機率，P(θ|X)表示後驗分佈。在貝葉斯統計中，最重要的一個問題是關於先驗分佈的選擇，它會在很大程度上影響最終結果的好壞。貝葉斯分析要求先驗分佈可以儘量準確的反映先驗信息。

在貝葉斯統計中，有一個名詞叫作共軛分佈，之因此採用共軛分佈的緣由是使得先驗分佈和後驗分佈形式相同，一方面能夠知足人們的直觀感受，另一方面能夠造成一個鏈式結構，使得如今的後驗分佈做爲下一次的先驗分佈加入計算鏈中。所以，爲了使得先驗分佈和後驗分佈形式相同，咱們定義：若是先驗分佈和似然機率可以使先驗分佈和後驗分佈形式相同，則稱先驗分佈和似然函數式共軛的。