超平面與法向量

超平面

常見的平面概念是在三維空間中定義的：$Ax+By+Cz+D=0$，
而d維空間中的超平面由下面的方程肯定：$w^Tx+b=0$，其中,w與x都是d維列向量$,x=(x_1,x_2,…,x_d) $爲平面上的點, $w(w_1,w_,\dots,w_d)$爲平面的法向量。$b$是一個實數, 表明平面與原點之間的距離.

點到超平面的距離：

假設點x′爲超平面$A：w^Tx+b=0$上的任意一點, 則點$x$到$A$的距離爲$x−x'$在超平面法向量$w$上的投影長度：

$$d=\frac{|w^T(x-x')|}{||w||}=\frac{|w^Tx+b|}{||w||}$$

超平面的正面與反面：

一個超平面能夠將它所在的空間分爲兩半, 它的法向量指向的那一半對應的一面是它的正面, 另外一面則是它的反面。

若將距離公式中分子的絕對值去掉, 讓它能夠爲正爲負. 那麼, 它的值正得越大, 表明點在平面的正向且與平面的距離越遠. 反之, 它的值負得越大, 表明點在平面的反向且與平面的距離越遠。

 

 法向量的意義

 

在空間裏，向量能夠看作是一個點（以原點爲起始點的向量），對於分離超平面方程裏的向量$x$，就能夠看作由座標原點到超平面任意「點」的向量，法向量的大小是座標原點到分離超平面的距離，垂直於分離超平面，方向有分離超平面決定。

支持向量機的一些理解

首先若是超平面的形式爲:$w_1x_1+w_2x_2+\cdots+w_Nx_N+b=0$,向量化表示爲：$w^Tx+b=0$

Notes:

  統一超平面的形式：即在$w$,$b$同時擴大或縮小相同倍數後獲得不一樣的超平面形式，但其實表明同一超平面。此時能夠經過找到離這條直線最近的點$x_0$，方程兩邊同時除以$w^Tx+b$，注意離超平面最近的點使得$w^Tx+b=1$，其餘的點都是$w^Tx+b\geqslant 1$，再利用樣本的標籤+1,−1使獲得的超平面方程統一化。此時數據集到求出的超平面的最短距離是$\frac{1}{||w||}$