k近鄰

在樣本有限的情況，樣本分佈不規律且含有噪聲的情況下，用最近鄰來做決策難免有一定風險，因此對其引入打分機制，對未知樣本的決策，不僅僅只依賴於最近的那一個已知樣本，更可靠的做法是選擇k個距離未知樣本最近的已知樣本，然後在這k個類別中進行打分來決定最後應該決策給誰。顯然，最近鄰就是1近鄰。  另外，回顧下前面在講概率密度函數的非參數估計時，是不是也提到了k近鄰，沒錯，這篇文章就來認真的學習下k近鄰。 2

>>阅读原文<<