神經網絡回顧-Relu激活函數

1. 神經元模型 以下引用自Poll的筆記：神經網絡基礎。 　　神經元是神經網絡中最基本的結構，也可以說是神經網絡的基本單元，它的設計靈感完全來源於生物學上神經元的信息傳播機制。我們學過生物的同學都知道，神經元有兩種狀態：興奮和抑制。一般情況下，大多數的神經元是處於抑制狀態，但是一旦某個神經元收到刺激，導致它的電位超過一個閾值，那麼這個神經元就會被激活，處於「興奮」狀態，進而向其他的神經元傳播化學

>>阅读原文<<