BP梯度下降公式推導筆記

這篇是西瓜書第五章的公式推導筆記,主要在於對公式推導過程說明的筆記,但是博客標註轉載需要原文鏈接,我沒有啊,所以寫了原創,愧疚。       下面開始是推導過程的近一步的解釋。 首先:BP算法的梯度下降(gradient descent)是梯度的反方向,所以有個負號。  先看  η是學習率,後面是偏導數,再乘以-1(梯度反方向嘛) 根據鏈式法則,求偏導一個一個分解過程,所以這個鏈式法則應該都能看懂
相關文章
相關標籤/搜索