支持向量機（SVM）之數學公式詳細推導

1、概述

一、含義：

支持向量機（support vector machine，SVM）是一種二類分類器，它的基本模型是定義在特徵空間上的間隔最大化的線性分類器，經過引入核函數，也能夠做爲非線性分類器來解決非線性數據集的分類問題。

二、求解：

支持向量機的學習策略是間隔最大化，可轉化爲一個求解凸二次規劃的問題。

三、模型：

支持向量機模型從簡單到複雜可分爲：線性可分支持向量機、線性支持向量機和非線性支持向量機。

線性可分支持向量機：訓練數據線性可分，經過硬間隔最大化，學習一個線性分類器；

線性支持向量機：訓練數據近似線性可分，經過軟間隔最大化，學習一個線性分類器；

非線性支持向量機：訓練數據線性不可分，經過使用核技巧（kernel trick）及軟間隔最大化，學習一個非線性分類器。

本次數學推導就是推導以上三個模型，不涉及SMO算法的推導。考慮到公式比較多，因此是用手寫筆記的形式進行整理。

2、數學推導