李宏毅機器學習筆記（8）：backpropagation

0 引言        回顧一下之前學習過的，在求解神經網絡時，我們通常使用梯度下降算法進行求解。        首先，先自定義一組參數作爲我們的起始值，之後計算我們需要使用的梯度，有了梯度之後就可以利用它進行迭代求解了，如圖0-1。        顯而易見的是，在一個神經網絡中，可能參數數目成千上萬，遠超過我們的想象，那麼這麼龐大的計算量，我們就需要一些可以輔助我們的工具。backpropaga

>>阅读原文<<