指數族分佈(1)——背景及高斯分佈指數族形式

一、背景 機器學習經常要做這樣一件事：給定一組訓練數據 D，我們希望通過 D 得到我們研究的空間的概率分佈。 但是在沒有任何假設的情況下，直接學習概率分佈是不現實的。直接學習概率分佈最簡單的方法，就是把空間分成很多很多小的單元，然後統計樣本落在每個單元的頻率，作爲每個單元的概率分佈。但是這種方法會面臨着數據不足、有噪音、存儲能力受限等問題。 所以在大多數情況下，我們都會人爲指定某種概率分佈的形式（

>>阅读原文<<