深度學習中的優化簡介

  深度學習算法在許多狀況下都涉及到優化。git         1. 學習和純優化有什麼不一樣github         在大多數機器學習問題中，咱們關注某些性能度量P，其定義於測試集上而且多是不可解的。所以，咱們只是間接地優化P。咱們系統經過下降代價函數J(θ)來提升P。這一點與純優化不一樣，純優化最小化目標J自己。訓練深度模型的優化算法一般也會包括一些針對機器學習目標函數的特定結構進行的特

>>阅读原文<<