激活函數學習筆記

一、什麼是激活函數 神經網絡中的每個神經元節點接受上一層神經元的輸出值作爲本神經元的輸入值，並將輸入值加權求和後傳遞給下一層，在多層神經網絡中，上層節點的輸出和下層節點的輸入之間具有一個函數關係，這個函數稱爲激活函數（又稱激勵函數）。 二、激活函數的作用——爲什麼要使用激活函數 沒有激活函數，無論神經網絡有多少層，輸出都是輸入的線性組合。 激活函數給神經元引入了非線性因素，使得神經網絡可以逼近任何

>>阅读原文<<