機器學習(八)--------支持向量機 (Support Vector Machines)

與邏輯迴歸和神經網絡相比,支持向量機或者簡稱 SVM,更爲強大。
人們有時將支持向量機看做是大間距分類器。網絡

這是個人支持向量機模型代價函數
這樣將獲得一個更好的決策邊界
函數

理解支持向量機模型的作法,即努力將正樣本和負用最大間距分開。3d

實際上應用支持向量機的時候, 當𝐶不是很是大的時候, 它能夠忽略掉一些異點影響獲得更好的決策界。blog

𝐶=1/𝜆,所以: ,所以:
𝐶 較大時,至關於 𝜆 較小,可能會致使過擬合高方差。
𝐶 較小時,至關於𝜆 較大,可能會致使低擬合高誤差。神經網絡

爲了更好的構建高階多項式,高斯核函數 (Gaussian Kernel)
im

下面是 支持向量機的兩個參數 𝐶和𝜎的影響: 𝐶=1/𝜆
𝐶 較大時,至關於 𝜆較小,可能會致使過擬合高方差;
𝐶 較小時,至關於 𝜆較大,可能會致使低擬合高誤差;
𝜎較大時,可能會致使低方差高偏;
𝜎較小時,可能會致使低誤差高方。db

相關文章
相關標籤/搜索