神經網絡中的激活函數

一、爲什麼需要激活函數? 首先回憶一下單層感知器的結構。 在前面的文章中,我們提到了感知器,單層感知器的基本表達式如式(1)所示,假設該表達式中如果去除激活函數f,則每一層輸出的都是上一層輸入的線性函數,無法解決非線性問題,因此我們需要通過激活函數將非線性因素引入網絡中。 還記得之前的異或問題嗎?我們採用的是多層感知器去進行分類,其中使用的激活函數是step激活函數(即階躍函數),因此基於這一點我
相關文章
相關標籤/搜索