帶你深入AI（2）- 深度學習激活函數，準確率，優化方法等總結

1 引言 深度學習訓練的基本步驟相信大家都很清楚，本節着重來講解訓練中使用到的激活函數，準確率函數，優化函數都有哪幾種，以及它們之間的比較。 2 激活函數 根據奧卡姆剃刀法則，神經網絡採用的是最簡單的線性模型 f(x) = wx+b, 並且線性模型的組合仍然爲線性模型。但我們要解決的大部分問題又不僅僅是一個線性問題，因此在線性模型中增加非線性元素就顯得尤其重要了。激活函數正是增加非線性的一個重要手

>>阅读原文<<