關於Sigmoid數據輸出不是zero-centered的理解

講到Sigmoid函數時，有一個缺點是Sigmoid函數的輸出不是零中心的，那麼爲什麼我們更需要一個零中心的激活函數呢？ 在上cs231n的時候，對老師關於這部分內容的講解雲裏霧裏，在查閱一些資料後，放上自己的理解： 假設我們現在有兩個函數，分別是一個線性加權函數和一個激活函數，我們知道在一個神經網絡中這樣的函數將會一層層重疊，例如 ( f -> L ) * n。對於sigmoid函數來說，它的輸

>>阅读原文<<