深度學習中經常使用的激勵函數

轉自：http://blog.csdn.net/rogerchen1983/article/details/79380567html   咱們知道深度學習的理論基礎是神經網絡，在單層神經網絡中（感知機），輸入和輸出計算關係以下圖所示：   可見，輸入與輸出是一個線性關係，對於增長了多個神經元以後，計算公式也是相似，以下圖：   這樣的模型就只能處理一些簡單的線性數據，而對於非線性數據則很難有效地處

>>阅读原文<<