王小爬之初學深度學習筆記（一）

運用於計算隱藏層的激活函數 爲什麼要引入激活函數？    如果不用激活函數，系統的每層輸出都是上層輸入的線性函數，無論神經網絡有多少層，輸出跟輸入都是線性關係，沒有隱藏層的出現，這種情況就是最原始的感知機，因此要引入激活函數。 什麼是感知機？    感知機對應於輸入空間中將實例劃分爲兩類的分離超平面。感知機旨在求出該超平面，力求得超平面導入了基於誤分類的損失函數，利用梯度下降法對損失函數進行最優化

>>阅读原文<<