淺談深度學習中的激活函數

激活函數的作用 首先，激活函數不是真的要去激活什麼。在神經網絡中，激活函數的作用是能夠給神經網絡加入一些非線性因素，使得神經網絡可以更好地解決較爲複雜的問題。 比如在下面的這個問題中： 如上圖，在最簡單的情況下，數據是線性可分的，只需要一條直線就已經能夠對樣本進行很好地分類。 但如果情況變得複雜了一點呢？在上圖中，數據就變成了線性不可分的情況。在這種情況下，簡單的一條直線就已經不能夠對樣本進行很好

>>阅读原文<<