圖解最大熵原理(The Maximum Entropy Principle)

這個「熵「並不是指熱力學上熵的概念,而是由信息論男神克勞德·艾爾伍德·香農(Claude Elwood Shannon )在1948年提出的「信息熵「,用來描述信息的不確定程度。 信息熵公式: 這個聽起來很神奇的概念,其實蘊含着最樸素最簡潔的思想,看下去你就能體會這一點了。 先來問個問題,如果給你一顆骰子,你覺得分別擲到1,2,…,6的概率是多少? 我覺得你肯定會立刻就回到我,答案是1/6。 很好
相關文章
相關標籤/搜索