深度學習框架Tensorflow學習筆記(二)

交叉熵函數 權值和偏置值的調整與 無關，另外，梯度公式中的 表示輸出值與實 際值的偏差。因此當偏差越大時，梯度就越大，參數w和b的調整就越快，訓練的速度也就越快。  若是輸出神經元是線性的，那麼二次代價函數就是一種合適的選擇。若是輸出神經元是S型函數， 那麼比較適合用交叉熵代價函數 spa 初始化權值:tf.truncated_normal(shape=[10,10], mean=0, stdd

>>阅读原文<<