2.7 RMSprop-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

RMSprop (Root Mean Square Rrop) 你們知道了動量（Momentum）可以加快梯度下降，還有一個叫做RMSprop的算法，全稱是root mean square prop算法，它也可以加速梯度下降，我們來看看它是如何運作的。 回憶一下我們之前的例子，如果你執行梯度下降，雖然橫軸方向正在推進，但縱軸方向會有大幅度擺動，爲了分析這個例子，假設縱軸代表參數 b b b ，橫軸

>>阅读原文<<