機器學習（二十一）——Optimizer, 單分類SVM&多分類SVM, 時間序列分析

http://antkillerfarm.github.io/ Optimizer 在《機器學習（一）》中，我們已經指出梯度下降是解決凸優化問題的一般方法。而如何更有效率的梯度下降，就是本節中Optimizer的責任了。 Momentum Momentum是梯度下降法中一種常用的加速技術。其公式爲： vt=γvt−1+η∇θJ(θ) θ=θ−vt 從上式可以看出，參數的更新值 vt ，不僅取決於當

>>阅读原文<<