機器學習之——自動求導

作者:葉虎 小編:張歡 隨機梯度下降法(SGD)是訓練深度學習模型最常用的優化方法。在前期文章中我們講了梯度是如何計算的,主要採用BP算法,或者說利用鏈式法則。但是深度學習模型是複雜多樣的,你不大可能每次都要自己使用鏈式法則去計算梯度,然後採用硬編程的方式實現。 而目前的深度學習框架其都是實現了自動求梯度的功能,你只關注模型架構的設計,而不必關注模型背後的梯度是如何計算的。不過,我們還是想說一說自
相關文章
相關標籤/搜索