Lecture 4: Backpropagation and computation graphs

文章目錄 求梯度的小提示 重新訓練詞向量會出現的問題 問題 如何解決 反向傳播 計算圖 反向傳播 單個節點的計算( h = f ( z ) h=f(z) h=f(z)) 若有多個輸入的節點 計算效率 自動微分 爲什麼要學習反向傳播 一些其他知識點 求梯度的小提示 Tip1:小心定義變量,並保持跟蹤他們的維度 Tip2:使用鏈導法則,弄清楚哪些變量輸入到計算中 Tip3:對於一個模型頂層的softm
相關文章
相關標籤/搜索