機器學習筆記（參考吳恩達機器學習視頻筆記）16_決策樹

16 決策樹 決策樹是一種監督學習算法，以樹狀圖爲基礎，其輸出結果爲一系列簡單實用的規則。它就是一系列的if-then語句，既可以用於分類問題，也可以用於迴歸問題。構建決策樹之通常包括三個步驟：        1）特徵選擇        2）決策樹生成        3）決策樹剪枝 在介紹具體步驟之前首先介紹信息熵的概念。 16.1 信息熵 信息熵，是一個與信息有關的概念，一般而言，是可以量化的。

>>阅读原文<<