2.2 梯度下降和反向傳播

梯度下降和反向傳播 目標 知道什麼是梯度下降 知道什麼是反向傳播 1. 梯度是什麼? 梯度:是一個向量,導數+變化最快的方向(學習的前進方向) 回顧機器學習 收集數據 ,構建機器學習模型,得到 判斷模型好壞的方法: 目標:通過調整(學習)參數,儘可能的降低,那麼我們該如何調整呢? 隨機選擇一個起始點,通過調整,讓loss函數取到最小值 的更新方法: 計算的梯度(導數) 更新 其中:  <0 ,意味
相關文章
相關標籤/搜索