機器學習#2：最優化與反向傳播

1.最優化 最優化的過程就是不斷更改W的參數使目標函數更小的過程，換句話說，對於公式 ，我們的目標就是找到一個能使Loss取到最小值的W。 那應該如何找到這個W呢？ 算法一：隨機生成多個W，選擇Loss最小的，這個方法簡單易行，但效率過於低下。 算法二：對於某個隨機生成W，每次隨機生成一個微小值，當的Loss更小時更新W，雖然比算法一好，但效率還是太低。 算法三：跟隨梯度。實際上可以通過計算得到W

>>阅读原文<<