cs231n 學習筆記(4)- 反向傳播

1. Introduction 本節主要介紹反向傳播的直觀理解:使用鏈式法則進行遞歸求導的梯度計算方式。 給定一個函數,其中是輸入變量,我們要計算函數關於的梯度,即:。 可以是損失函數。我們知道,是關於輸入樣本和權重與偏置的函數,其中是固定不變的,和是算法要去學習和確定的。通過計算損失函數關於和的導數,可以迭代更新權重和偏置。 2. Simple expressions and interpret
相關文章
相關標籤/搜索