機器學習入門筆記(二)----線性迴歸

1. 目標 : 找到使代價函數最小的函數h。 2. 代價函數:cost function,J。 平方誤差代價函數: ... 3. 梯度下降法:將代價函數J取值最小化。 定義: α:速率、步長。太小導致速度慢。太大,導致不能收斂、甚至發散。 常規做法:θ同步更新。 導數:爲正時:θ減小;爲負時:θ增加;越接近局部最優解時,導數絕對值越小,修正幅度越小。 步驟:重複,直到收斂。步長a後面是函數J對θ0
相關文章
相關標籤/搜索