3.1tensorflow參數調整-學習率(learning rate)

1. 什麼是學習率 調參的第一步是知道這個參數是什麼,它的變化對模型有什麼影響。 (1)要理解學習率是什麼,首先得弄明白神經網絡參數更新的機制-梯度下降+反向傳播。參考資料:https://www.cnblogs.com/softzrp/p/6718909.html。 總結一句話:將輸出誤差反向傳播給網絡參數,以此來擬合樣本的輸出。本質上是最優化的一個過程,逐步趨向於最優解。但是每一次更新參數利用
相關文章
相關標籤/搜索