深度學習常見的激活函數

一，什麼的激活函數 激活函數是神經網絡中對數據做非線性變換的函數。如下所示： 輸入的x值，經過權值相乘合併之後再經過‘激活函數’得到一個映射值。 二，激活函數的作用 因爲線性的數據表達過於單一，若沒有激活函數，再多層的網絡也不過是多套了幾層的線性函數而已。以分類爲例，線性函數只能處理線性可分的問題，對於複雜點的就無能爲力了。而使用激活函數對線性數據改變之後，數據就是非線性的了。理論上網絡層數足夠的

>>阅读原文<<