一文概覽深度學習中的激活函數

一文概覽深度學習中的激活函數 本文從激活函數的背景知識開始介紹，重點講解了不同類型的非線性激活函數：Sigmoid、Tanh、ReLU、LReLU、PReLU、Swish，並詳細介紹了這些函數的優缺點。 本文介紹了多種激活函數，並且對比了激活函數的優劣。本文假設你對人工神經網絡（AAN）有基本瞭解，如果沒有，推薦先閱讀機器之心介紹過的相關文章： 神經網絡快速入門：什麼是多層感知器和反向傳播？ DN

>>阅读原文<<