統計學習方法(3)——KNN,KD樹及其Python實現

1 k近鄰算法 k近鄰算法是一種基本的分類算法，它的思想很是的簡單直觀，即一個樣本的類別應該和訓練數據集中和它距離最近的k個樣本中多數樣本所屬的類別相同，所以，k近鄰法分類時沒有顯式的學習過程。k近鄰法的模型實際是一種對特徵空間的劃分，模型由距離度量、k值的選擇和決策規則決定，對於決策規則，咱們通常使用多數表決的原則，所以模型的表現主要由距離度量和k值決定。node 1.1 距離度量 特徵空間中兩

>>阅读原文<<