caffe：debug之參數更新過程（接上篇反向傳播）

  隨後便要根據後向傳播中得到得diff更新權重和偏置  ApplyUpdate（位於sgd_solver.cpp）  上圖便爲update函數，可見，參數學習得步驟爲：得到學習率，正則化梯度後    歸一化，正則化，然後更新數據。    首先來看GetLearningRate()  (sgd_solver.cpp)  函數封裝了各種樣式的學習率衰減方式      繼續往下   筆者猜測本例爲是否

>>阅读原文<<