【Pytorch Tutorial】 兩個標誌:requires_grad 和 volatile

所有的Variable都有requires_grad 和 volatile這兩個標誌。 1. requires_grad requires_grad = True,則說明需要求梯度;= False,則不需要求梯度。 利用requires_grad可以節省計算資源,提高效率,比如:當我們只優化新的fc層,那麼只需要新的fc的梯度,中間層(fc之前的層)則不需要求梯度,那麼就可以將中間層的requir
相關文章
相關標籤/搜索