統計學習方法（第三章）k近鄰算法

K近鄰算法   KNN是通過測量不同特徵值之間的距離進行分類。它的的思路是：如果一個樣本在特徵空間中的k個最相似(即特徵空間中最鄰近)的樣本中的大多數屬於某一個類別，則該樣本也屬於這個類別。K通常是不大於20的整數。KNN算法中，所選擇的鄰居都是已經正確分類的對象。該方法在定類決策上只依據最鄰近的一個或者幾個樣本的類別來決定待分樣本所屬的類別。下圖紅色，藍色，代表不同類別的樣本，綠色代表待分樣本。

>>阅读原文<<