機器學習筆記(二)

上節我們說到了用梯度下降法求參數最小值。 這節我們介紹幾種快速梯度下降的方法: 1.梯度下降法實踐 1-特徵縮放:該方法就是將特徵的尺度歸一化 由上圖可以看出,歸一化能後幫助梯度下降算法更快的收斂。 梯度下降法實踐 2-學習率 梯度下降算法的每次迭代受到學習率的影響,如果學習率𝑎過小,則達到收斂所需的迭 代次數會非常高;如果學習率𝑎過大,每次迭代可能不會減小代價函數,可能會越過局部最 小值導致
相關文章
相關標籤/搜索