深度學習優化入門：Momentum、RMSProp 和 Adam

轉自：機器學習算法與Python學習 雖然局部極小值和鞍點會阻礙我們的訓練，但病態曲率會減慢訓練的速度，以至於從事機器學習的人可能會認爲搜索已經收斂到一個次優的極小值。讓我們深入瞭解什麼是病態曲率。 機器學習交流羣 進羣的小夥伴請添加微信 MLAPython 備註（姓名-單位-方向）   病態曲率 考慮以下損失曲線圖。 **病態曲率** 如你所知，我們在進入一個以藍色爲標誌的像溝一樣的區域之前是隨

>>阅读原文<<