神經網絡筆記1

1. 快速簡介   非線性函數在神經網絡的計算上是至關重要的，如果略去這一步，那麼兩個矩陣將會合二爲一，對於分類的評分計算將重新變成關於輸入的線性函數。 2. 作爲線性分類器的單個神經元   一個單獨的神經元可以用來實現一個二分類分類器，比如二分類的Softmax或者SVM分類器。在SVM/Softmax的例子中，正則化損失從生物學角度可以看做逐漸遺忘，因爲它的效果是讓所有突觸權重 w 在參數更新

>>阅读原文<<