吳恩達-深度學習筆記《改善深層神經網絡：超參數調試、正則化以及優化》

數據劃分-訓練/驗證/測試集 模型估計-偏差/方差 正則化(regularization) 正則化是在成本函數中加入一個正則化項，懲罰模型的複雜度。正則化可以用於解決低方差的問題。 dropout 正則化 梯度消失和梯度爆炸 batch梯度下降法 Mini-Batch梯度下降法 指數平均加權 動量梯度下降法 RMSProp算法 Batch Normalization

>>阅读原文<<