Pytorch auto_grad學習心得

如上有向無環圖中， X \textbf{X} X和 b \textbf{b} b是葉子節點（leaf node），這些節點通常由用戶自己創建，不依賴於其他變量。 z \textbf{z} z稱爲根節點，是計算圖的最終目標。利用鏈式法則很容易求得各個葉子節點的梯度。 ∂ z ∂ b = 1 ,   ∂ z ∂ y = 1 ∂ y ∂ w = x , ∂ y ∂ x = w ∂ z ∂ x = ∂ z

>>阅读原文<<