決策樹算法梳理

決策樹算法梳理 一 信息論基礎 1.1 信息量的定義 1.2 熵 1.3 兩點分佈的熵 1.4 聯合熵 1.5 條件熵 1.6 相對熵 也稱KL散度 (Kullback–Leibler divergence) 1.7 信息增益 1.8 基尼不純度 二 決策樹的不同分類算法 2.1 ID3 2.2 C4.5算法 2.3 Cart樹 三 迴歸樹原理 四 決策樹防止過擬合手段 五 模型評估 六 skle

>>阅读原文<<