loss波動變化,準確率變化也不大

最近在做多分類,然後訓練的時候發現loss在慢慢下降(越到後面越慢),但是準確率卻一直在一個區間內上下波動 解決方法:調整學習率,調大或調小一點,自己試試。 爲什麼這樣子可以解決? 答:在學習梯度下降的時候,要使得目標函數最小,則我們需要尋找最優的參數theta, theta的更新方式爲: theta = theta - a*梯度(其中a是學習率) 當學習率不合適的時候,可能就會出現如圖的情況 (
相關文章
相關標籤/搜索