深度學習框架Tensorflow學習筆記(二)

交叉熵 權值和偏置值的調整與 無關，另外，梯度公式中的 表示輸出值與實 際值的誤差。所以當誤差越大時，梯度就越大，參數w和b的調整就越快，訓練的速度也就越快。  如果輸出神經元是線性的，那麼二次代價函數就是一種合適的選擇。如果輸出神經元是S型函數， 那麼比較適合用交叉熵代價函數 初始化權值:tf.truncated_normal(shape=[10,10], mean=0, stddev=1)一

>>阅读原文<<