論文閱讀SGD A Stochastic Approximation Method

前言 雖然這個算法大家都知道，但是具體如何證明的，這個有幾個知道，我查了半天，毛都沒？？？本文記錄學習這篇論文的過程。 主體 part1 解釋：要解決的問題是要知道x得多少時，M(x)=a。而且M(x)得方程不知道。 part 2 這個我想了倆小時大概弄懂了，H是一個概率函數，而非概率密度函數，dH(y|x)對y求導得話就得到關於y的概率密度函數，因此M(x)其實是給定x時y的期望值。這不就是概率

>>阅读原文<<