吳恩達神經網絡和深度學習課程自學筆記（六）之優化算法

Mini-batch梯度下降法 簡要介紹 訓練集向量化： 將訓練集分爲小集合，子集取名爲Mini-batch。假設訓練集總共5000000個，小集合爲1000，則有： 其中，1-1000爲x^{1}，1001-2000爲x^{2}，……最後一個爲x^{5000}。y也是一樣。 設t爲Mini-batch個數，則有x^{t}，y^{t}。 傳統（batch）梯度下降一次訓練整個訓練集，而Mini-b

>>阅读原文<<