k近鄰法 kd樹 平衡kd樹

k近鄰法 k近鄰法的思想： k近鄰法是一種基本分類與迴歸方法。輸入爲實例的特徵向量，輸出爲實例的類別（可取多類）。具體過程是：給定一個已經分好類的數據集，對於新的實例，加入此數據集，以離這個點最近（距離度量）的k個點（k值選取）的類別進行多數表決（分類策略）去決定這個新的實例的類別。 k近鄰法三要素： k值的選擇： k小，用於訓練的點少，只有新實例點旁邊的點起作用（表決），近似誤差小，估計誤差大；

>>阅读原文<<