[AI 筆記] 激活函數

[AI 筆記] 激活函數 神經元 Sigmoid tanh ReLu Leaky ReLu 及 PReLu ELU 總結 參考資料： CS231n課程 神經元 下圖是神經網絡中的單個神經元。 它有輸入、權值、線性函數，以及一個激活函數 f。 神經元的輸入通過線性函數得到一個值，再通過激活函數產生輸出。激活函數可以理解爲爲神經網絡引入了非線性。 Sigmoid Sigmoid函數是較老的激活函數，形

>>阅读原文<<