【cs231】反向傳輸與神經網絡

文章目錄 反向傳輸 簡介 鏈式法則 小結 神經網絡 簡介 神經元 激活函數 全連接層 反向傳輸 簡介 上一章介紹了使用梯度下降法求目標損失函數的最小值。在神經網絡模型中反向傳播算法的作用就是要求出這個梯度值,從而後續用梯度下降去更新模型參數。反向傳播算法從模型的輸出層開始,利用函數求導的鏈式法則,逐層從後向前求出模型梯度。使用反向計算可以避免重複計算,從而加快計算速度。優化的對象是參數,反向傳播算
相關文章
相關標籤/搜索