學習筆記:學習率和術語解釋

詳細瞭解理想的學習速率。 一維空間中的理想學習速率是 1f(x)″(f(x) 對 x 的二階導數的倒數)。 二維或多維空間中的理想學習速率是海森矩陣(由二階偏導數組成的矩陣)的倒數。 廣義凸函數的情況則更爲複雜。 學習率的優化: 學習率爲0.1 的情況 學習率爲1的情況 練習 2 您可以使用更高的學習速率更快地到達最低點嗎?將學習速率設爲 1,然後不斷按「STEP」(步)按鈕,直到梯度下降法到達最
相關文章
相關標籤/搜索