一文概覽深度學習中的激活函數

本文從激活函數的背景知識開始介紹，重點講解了不一樣類型的非線性激活函數：Sigmoid、Tanh、ReLU、LReLU、PReLU、Swish，並詳細介紹了這些函數的優缺點。 本文介紹了多種激活函數，而且對比了激活函數的優劣。本文假設你對人工神經網絡（AAN）有基本瞭解，若是沒有，推薦先閱讀機器之心介紹過的相關文章：網絡 神經網絡快速入門：什麼是多層感知器和反向傳播？ DNN 概述論文：詳解前饋、

>>阅读原文<<