統計學習筆記之K近鄰法

  K近鄰作爲基本的分類和迴歸方法。在分類中，對新的實例，根據k個最近鄰得訓練實例的類別，通過多數表決進行預測。 一、算法 輸入：，爲實例的特徵向量，爲實例的類別。 輸出：實例的的所屬的類y。 （1）根據給定距離度量，在訓練集中找出與最近鄰的k個點，涵蓋這k個點的x的領域記作。 （2）在 根據分類決策規則（類似多數投票）決定x屬於哪一類。 二、相關概念 值得一提的是關於距離度量的幾個概念。 距離通

>>阅读原文<<