從零開始深度學習 T2. Gradient Descent

上一篇文章中介紹了迴歸分析，其中提到了求解最優參數的梯度下降法(Gradient Descent)，這篇文章中，我們將針對Gradient Descent進行展開說明。 如圖，Gradient Descent是沿着Loss function的等高線的法線方向更新參數的 Gradient Descent的原理十分簡單，但是在實際操作過程中可能會遇到一些問題，對此有一些針對性的tips。關於梯度下降優

>>阅读原文<<