機器學習問與答(四):支持向量機學習(下)

問題五:
在這裏插入圖片描述
爲什麼要滿足這個不等式約束?

在這裏插入圖片描述
問題六:
在這裏插入圖片描述
二次規劃算法有哪些?序列最小化優化算法具體是什麼樣的?

二次規劃(QP):是求解一類特殊的數學優化問題的過程,它是一個線性約束的二次優化問題,即多個變量的二次函數在這些變量上受線性約束的優化(最小化或最大化)問題。二次規劃是一類特殊的非線性規劃。
二次規劃求解方法:拉格朗日方法、Lemke方法、內點法、有效集法、橢球算法等。
SMO詳見:https://blog.csdn.net/miscclp/article/details/8565814

問題七:
在這裏插入圖片描述
怎樣選擇合適的核函數?

在選用核函數的時候,如果我們對我們的數據有一定的先驗知識,就利用先驗來選擇符合數據分佈的核函數;如果不知道的話,通常使用交叉驗證的方法,來試用不同的核函數,誤差最小的即爲效果最好的核函數,或者也可以將多個核函數結合起來,形成混合核函數。
在吳恩達的課上,也曾經給出過一系列的選擇核函數的方法:
如果特徵的數量大到和樣本數量差不多,則選用LR或者線性核的SVM;
如果特徵的數量小,樣本的數量正常,則選用SVM+高斯核函數;
如果特徵的數量小,而樣本的數量很大,則需要手工添加一些特徵從而變成第一種情況。
出處:https://blog.csdn.net/ningyanggege/article/details/84072842