K近鄰（KNN）算法

一、k近鄰 三大要素：距離判別公式、k的選取、分類決策 1、距離度量 2、k取值 取值小，結構複雜，相似誤差小，但容易過擬合； 取值大，結構簡單，相似誤差大。 二、kd樹 思想：通過不斷比較父節點分割線與目標點的距離與 已經找到的點與目標點的距離，進行比較，來確定要不要對該父節點下的數據進行搜索。 舉個例子，設我們想查詢的點爲 p=(−1,−5)，設距離函數是普通的 距離，我們想找距離問題點最近的

>>阅读原文<<