多層神經網絡與反向傳播算法

感知機 感知機就是我們前面學過的線性分類器加上一個激活函數。 線性分類器: v=wTx+b=(∑iwixi)+b 很多實際問題並不是線性可分的,所以需要用一個非線性函數將上述結果變爲非線性的。 y=φ(v) 常用的激活函數有sigmoid 、tanh、ReLU、Softplus: 它們的函數圖像分別是: sigmoid(x)=11+e−x tanh(x)=ex−e−xex+e−x ReLU(x)=
相關文章
相關標籤/搜索