《機器學習實戰（基於scikit-learn和TensorFlow）》第五章內容學習心得

本章在講支持向量機(Support Vector Machine)。

支持向量機，一個功能強大的機器學習模型，可以執行線性或非線性數據的分類、迴歸甚至異常值檢測的任務。它適用於中小型數據集的分類。

• 線性SVM分類

     線性SVM分類大致分爲兩類，一種叫硬間隔分類，另外一種叫軟間隔分類。二者間的區別在因而否必定要把數據所有正確分類。

     SVM分類器的目標能夠等價視做爲在類別之間擬合最寬的街道的工做。而肯定街道的數據點就是分類器的支持向量。

     SVM對特徵的縮放很敏感，所以是否進行特徵縮放對於SVM最終的決策邊界的形狀會產生很大影響。

     在SVM的軟間隔分類中，因爲咱們容許分類產生個別錯誤，所以就有一個超參數能夠控制錯誤的程度，就是C。C值越小，間隔越大，間隔中的違例越多；C值越大，間隔越小，違例越少。同時C也能夠對過擬合化的SVM分類器產生相似正則化的影響。

• 非線性SVM分類

　不少數據集都是線性不可分的，咱們須要進行一些操做使得數據線性可分。

　有一個假設咱們認爲線性不可分的數據在高維空間上能夠變得線性可分。所以，咱們能夠經過增長數據維度來達到一種可分的狀況，即添加特徵或使用核方法。

• SVM迴歸

　SVM是支持迴歸任務的。SVM迴歸的任務就是儘量讓實例在街道內部，街道的寬度由超參數ε控制。