信息熵 entropy

熵 最早是由熱力學定義的一個函數，是普朗克來中國講學的時候引入的。英文是「entropy」這個字，中文詞彙中沒有相關的字眼。當時是一個有名的姓胡的學者作爲普朗克的翻譯。因爲這個熵「S」是定義爲熱量Q與溫度的比值，所以當時他翻譯是立刻創造出熵這個字，從火，從商。 1、爲什麼有的信息量大有的信息量小？ 有些事情本來不是很確定，例如明天股票是漲還是跌。如果你告訴我明天NBA決賽開始了，這兩者似乎沒啥關係

>>阅读原文<<