10.決策樹

熵越大，數據的不確定性越高；熵越小，數據的不確定性越低。 在每一個結點上，都希望在某一個維度上基於某一個閾值進行劃分，讓數據劃分成兩部分後，系統整體的信息熵降低（也就是讓系統變的更加確定）。 基尼係數： 基尼係數的意義和信息熵相同。 二分類基尼係數函數： CART ： Classification And Regression Tree 決策樹中的超參數:

>>阅读原文<<