一步一步分析講解神經網絡基礎-activation function

activation function：在神經網絡中經常，看到它的身影。那現在問題來啦。它是什麼？爲什麼需要它？ 有些回答：增加非線性特徵。解決線性無法分割的難題，…。嚴格來講這些回答太籠統。 第一個問題：先來回答它是什麼？ 它是一個non-linear function. 是一個連續的函數， 並且在定義域內處處可微。 （可微，不一定可導。這是微分的基礎知識，不太清楚的童鞋，一定要把斷點，可（偏）

>>阅读原文<<