深度學習之激活函數總結

深度學習中激活函數的作用是能夠給神經網絡加入一些非線性因素，使得神經網絡可以更好地解決較爲複雜的問題。沒有激活函數，即便有再多的隱藏層，其整個網絡跟單層神經網絡也是等價的，可見激活函數的重要性如此之大。下面，分別介紹深度學習中常用的激活函數。 1. sigmoid sigmoid的公式如下：                   函數對應的圖像如下：            優點：  1. sigmo

>>阅读原文<<