什麼是熵，信息熵以及粗糙熵

 熵        熵（描述事物的混亂程度），最早起源於熱力學第二定律。—— 不可能把熱從低溫物體傳到高溫物體而不產生其他影響，或不可能從單一熱源取熱使之完全轉換爲有用的功而不產生其他影響，或不可逆熱力過程熵的微增量總是大於零。又稱「熵增定律」，表明了在自然過程中，一個孤立系統的總混亂度（即「熵」）不會減小。違反熱力學第二定律的永動機又稱爲第二類永動機。       以物理學的角度來講，物體都是由

>>阅读原文<<