對knn、決策樹、邏輯迴歸、神經網絡的初步理解

k近鄰法（KNN） knn是一種基本的分類與迴歸方法，其分類思想在於給定一個訓練數據集，對一個新的輸入實例，如果能在訓練數據集中找到與該實例最鄰近的k個實例，並且這k個實例的多數屬於某個類，那麼就把這個新的輸入實例分爲這個類。knn需要注意的幾個術語：鄰域、距離、位置、維度(影響着模型的複雜度)，下面是knn大致的一個內容。 補充：   設特徵空間X是n維實數向量空間Rn，xi，xj∈X，xi=(

>>阅读原文<<