深層神經網絡(DNN)的一些基本概念

本文介紹一些DNN的概念，包括激活函數、損失函數、優化算法等 聲明：本文的主要內容及代碼主要來源於實戰Google深度學習框架html 1 激活函數 DNN的最大突破就是引入了非線性激活函數，若是沒有激活函數，那麼不管神經網絡深度如何，它與一個1層網絡本質上是沒有區別的。經過增長網絡的層數，而且在層與層之間添加非線性項以及偏置項 f ( ∑ i x i w i + b ) f( \sum \lim

>>阅读原文<<