計算圖上的微積分：Backpropagation

計算圖上的微積分：Backpropagation 引言 Backpropagation (BP) 是使得訓練深度模型在計算上可行的關鍵算法。對現代神經網絡，這個算法相較於無腦的實現可以使梯度下降的訓練速度提升千萬倍。而對於模型的訓練來說，這其實是 7 天和 20 萬年的天壤之別。 除了在深度學習中的使用，BP 本身在其他的領域中也是一種強大的計算工具，例如從天氣預報到分析數值的穩定性——只是同一種

>>阅读原文<<