李飛飛計算機視覺筆記(3)--反向傳播與神經網絡初步

當前梯度值:上一層傳入當前層的梯度值 兩層神經網絡:除開輸入層總共爲2層的神經網絡 單層隱藏層的神經網絡:與兩層神經網絡結構一致,我們描述神經網絡的層數是通過有多少層的權值來定的,所以輸入層不計入層數裏面。 梯度計算 前一篇文章說了梯度計算有兩種方法,一種數值方法,直接簡單但速度慢,第二種就是解析方法,通過微積分進行計算,計算速度快,但有時候的結果是錯誤的,所以一般會進行梯度檢查的操作。我們一般使
相關文章
相關標籤/搜索