CNN神經網絡優化經常使用函數範式一覽(損失函數loss,學習率learning_rate,滑動平均ema,正則化regularization)

來源: 學習北大曹健老師Tensorflow課程後作的學習筆記,整理後在此分享給你們. 以前是抄在本子上的, 可能存在一些抄寫錯誤或是標記缺失, 若發現了能夠評論告訴我.謝謝. ###一. 損失函數(loss):預測值y與已知答案y_的差距 神經網絡優化目標即找到適合的w以減少loss, 有三種減少loss的方法git 1. 均方偏差mse(Mean Squared Error) 2. 自定義損失

>>阅读原文<<