李航統計學習方法-K鄰近法

k鄰近簡單的理解一下就是，給定一部分帶標籤樣本和一個未知標籤樣本，將未知標籤樣本和帶標籤樣本一一比較求距離，然後根據最近k個樣本來決定未知標籤樣本的類別。 如上圖：確定圓圈的類別，如K=3，則爲三角；若K=5，則爲正方形。 那麼怎麼求距離？選擇何種求距離算法。 書中給出了Lp距離的求解： 除了距離度量外，K鄰近法的K值如何選取也很重要，書中介紹如下： K值較小，模型較複雜，易過擬合；K值較大，模型

>>阅读原文<<