Pytorch的backward()相關理解

最近一直在用pytorch作GAN相關的實驗，pytorch 框架靈活易用，很適合學術界開展研究工做。 這兩天遇到了一些模型參數尋優的問題，才發現本身對pytorch的自動求導和尋優功能沒有深入理解，致使沒法靈活的進行實驗。因而查閱資料，同時本身作了一點小實驗，作了一些總結，雖然好像都是一些顯而易見的結論，可是若是不能清晰的理解，對於實驗複雜的網絡模型程序會形成困擾。如下僅針對pytorch 0.

>>阅读原文<<