9 神經網絡算法之梯度下降

優化（optimization）是人類歷史上的重大突破, 他解決了很多實際生活中的問題.  比如說牛頓法 (Newton’s method), 最小二乘法(Least Squares method), 梯度下降法 (Gradient Descent) 等等. 而我們的神經網絡就是屬於梯度下降法這個分支中的一個. 初學神經網絡的時候, 我們通常會遇到這樣一個方程, 叫做誤差方程 (Cost Func

>>阅读原文<<