CS231n學習筆記--1.Backpropagation

1. 反向傳播能夠對數據X和權重W都求導,但是在機器學習領域只考慮對W的導數,但是在一些場合對數據X的導數也有意義(如解釋和可視化神經網絡在做什麼); 2. 深度學習中常見函數的導數: 3.複合函數求導鏈式法則例子: f(x,y,z) = (x+y)z q=x+y, f=qz ==>df/dx=(df/dq)*(dq/dx)  注:實際中這些都是數字相乘 代碼實現:   4. circuit中的每
相關文章
相關標籤/搜索