tensorflow之神經網絡實現流程總結

tensorflow之神經網絡實現流程總結

• 1.數據預處理preprocess
• 2.前向傳播的神經網絡搭建(包括activation_function和層數)
• 3.指數降低的learning_rate
• 4.參數的指數滑動平均EMA
• 5.防止過擬合的正則化regularization
• 6.loss損失函數構造(loss_ + regularization)
• 7.後向傳播和梯度降低(learning_rate + loss)
• 8.評價函數的構造(accuracy + EMA)
• 9.run 模型(用variable 而不是 EMA)
• 10.模型保存