PyTorch學習DAY5優化器

優化器 通過損失函數得出的loss值也就是模型輸出和真實標籤的差異後,loss經常會通過自動梯度求導求出每一個可學習參數的梯度,有了梯度,優化器就開始幹活了!拿到梯度後進行一系列的優化策略去更新模型參數,並使得loss值下降。 總而言之優化器的作用是,採用梯度去更新模型的可學習參數,使得模型輸出和真實標籤的差異更小,即loss值下降。 pytorch的優化器 作用:管理並更新模型中可學習參數的值,
相關文章
相關標籤/搜索