AI學習筆記——Tensorflow中的Optimizer(優化器)

在使用Tensorflow搭建神經網絡的時候，最後一步總會用到tf.train.XxxOptimizer(). 然後會有很多Optimizer()如下圖 其實這些Optimizer 都是優化算法下面重點介紹幾個常見的 1. Gradient Decent 這是最基礎的梯度下降算法，更新權重W，不多解釋。 W += - α * dx 其中 α是learning rate(學習速率)。我們可以把下降的

>>阅读原文<<