加速梯度降低法

Nesterov’s Accelerated Gradient Descentweb 通常的梯度降低算法的收斂速率爲 o(1/t) , t 表示迭代的次數。可是人們已經證實了隨着迭代次數 t 的增長。收斂速率能夠到達 o(1/t2) .算法 1.簡介: 加速梯度算法(AGD)是梯度算法(GD)的一個改進的版本。Nesterov 在1983年首次提出。人們已經證實AGD算法是全部基於梯度算法（或者說

>>阅读原文<<