優化學習率 - 1 - 回溯線性搜索和二次插值線性搜索

本章總結優化學習率的知識,而前置知識就是「線性迴歸、梯度下降算法」,因此如果這一章你看的雲裏霧裏甚至連學習率是什麼都不知道的話就需要先吧前置知識搞定了。 其他說明       因爲本總結的前置知識是「線性迴歸、梯度下降算法」,所以之後的內容都是以「求目標函數f(x)的極小值」爲目的。       不過不用擔心求極大值的話該怎麼辦,因爲直接給f(x)加個負號就將問題轉換爲了求極小值問題了。     
相關文章
相關標籤/搜索