梯度下降法、Epoch、Batchsize、Iterations

張量運算的導數：梯度 梯度（gradient）是張量運算的導數。它是導數這一改你那向多元函數導數的推廣。多遠函數是以張量作爲輸入的函數。 對於一個函數f(x)，你可以通過將x嚮導數的反方向移動一小步來減小f(x)的值。同樣，對於張量的函數f(w)，你也可以通過將w向梯度的反方向移動來減小f(w)，比如W1 = W0 - step*gradient(f)(W0) ，其中step是一個很小的比例因子。

>>阅读原文<<