【深度學習理論】煉丹術——聊聊Optimization

1. 前言 機器學習的本質是在一個function set中選擇最優的function： f ∗ f^* f∗（又被稱爲model）。其中，挑選最優function的過程被轉換爲求損失函數的最小值問題，損失函數可能的圖像以下圖所示（在實際問題中損失函數的圖像會複雜的多的多的多的多）。html 尋找最優function的過程以下圖所示，其中黑線表示可能存在的尋找路徑。 web 2. 問題 假設當前問

>>阅读原文<<