激活函數選擇

概述 本篇中你將瞭解幾種常見的激活函數，並看到在淺層神經網絡中向後傳播及梯度下降是如何進行的。 原文地址：深度學習（五）激活函數的選擇 & 淺層神經網絡的梯度下降 5.0 上篇回顧 在上一篇中，你見到了一個單輸出的淺層（雙層）神經網絡是如何進行向前傳播的，就同 Logistic 迴歸網絡一樣，不過多重複了幾次單層網絡的向前傳播過程而已。 對於隱藏層而言，所有的隱藏單元與輸入層都構成了簡單的單層網絡

>>阅读原文<<