深度學習: 學習率 (learning rate)

深度學習: 學習率 (learning rate) Introduction 學習率 (learning rate),控制 模型的 學習進度 :  lr 即 stride (步長) ,即反向傳播算法中的 ηη : ωn←ωn−η∂L∂ωnωn←ωn−η∂L∂ωn 學習率大小   學習率 大 學習率 小 學習速度 快 慢 使用時間點 剛開始訓練時 一定輪數過後 副作用 1.易損失值爆炸;2.易振盪。
相關文章
相關標籤/搜索