線性迴歸、感知機、邏輯迴歸、SVM

線性迴歸 線性迴歸是一個迴歸問題，即用一條線去擬合訓練數據。 模型：根據訓練數據學習一個特徵的線性組合，作爲預測函數。 學習策略：最小化均方誤差損失函數，求解參數w；（注意與感知機的區別，此處誤分類點與座標軸垂直） 求解方法： 最小二乘法，梯度下降法（兩者的區別） 最小二乘法：對目標損失函數求導，導數爲零的點對應的參數，就是待求參數： 均方誤差函數： 目標函數對參數的偏導： 導數爲零的點，就是極值

>>阅读原文<<