李宏毅學習筆記3.1Gradient Decent

文章目錄 複習 梯度下降法的一些小技巧Tips Tip 1: Tuning your learning rates 自適應調整LR的思想 Tip 2: Stochastic Gradient Descent Tip 3: Feature Scaling 梯度下降的推導 梯度下降其他缺陷 複習 先是複習之前課程中梯度下降的過程，回顧了大概的符號表示 黃色部分就是梯度。作圖表示出來就變成下面這個圖：

>>阅读原文<<