最大熵模型的簡單理解

基本思想 在只掌握了關於未知分佈的部分信息的狀況下，符合已知知識分佈的機率分佈可能有多個，可是熵值最大的機率分佈最真實低反映了事件的分佈狀況。html 最大熵原理指出，當咱們須要對一個隨機事件的機率分佈進行預測時，咱們的預測應當知足所有已知的條件，而對未知的狀況不要作任何主觀假設。在這種狀況下，機率分佈最均勻，預測的風險最小。由於這時機率分佈的信息熵最大，因此人們稱這種模型叫「最大熵模型」。咱們常

>>阅读原文<<