深度學習---之梯度爲什麼垂直於等高線

爲什麼梯度的方向與等高線切線方向垂直？ 2017-07-12 22:48 爲什麼梯度的方向與等高線切線方向垂直 在三維曲面上的梯度更新過程中，很多地方出現梯度的下降方向是如下這樣走的： 圖片來源於百度百科 從圖上能夠看出，也經常聽老師同學說起，梯度下降的方向與等高線的切線方向垂直。 那麼爲什麼會垂直呢？其實是一個高數問題。 解釋 假設我們的損失函數爲z=f(x,y)，在幾何上表示是一個曲面，該曲面

>>阅读原文<<