斯坦福機器學習筆記二

在上一篇裏講到，求最優化目標的常用方法有梯度下降法和標準方程法和其它一些高級算法。這裏重點介紹梯度下降法和標準方程法。 批量梯度下降法 梯度下降法是一個用來求函數最小值的算法，梯度算法的思想是：隨機選擇一個參數的組合 ( θ 0, θ 1, θ 2…) 計算代價函數，然後尋找下一個能讓代價函數值下降最多的參數組合，直到找到一個局部最優解。選擇不同的初始參數，可能會找到不同的局部最小值。梯度下降算法

>>阅读原文<<