2.10 局部最優的問題-深度學習第二課《改善深層神經網絡》-Stanford吳恩達教授

局部最優的問題 (The Problem of Local Optima) 在深度學習研究早期，人們總是擔心優化算法會困在極差的局部最優，不過隨着深度學習理論不斷髮展，我們對局部最優的理解也發生了改變。我向你展示一下現在我們怎麼看待局部最優以及深度學習中的優化問題。 這是曾經人們在想到局部最優時腦海裏會出現的圖，也許你想優化一些參數，我們把它們稱之爲 W 1 W_1 W1​ 和 W 2 W_2 W

>>阅读原文<<