4.TensorFlow代價函數 擬合 優化器

一、二次代價函數、交叉熵代價函數、對數似然代價函數 （一）二次代價函數  相當於把誤差求平方累加再除以樣本總數，求平均  （二）交叉熵代價函數  （三）對數似然代價函數  激活函數：見博文 早期研究神經網絡主要採用sigmoid函數或者tanh函數，輸出有界，很容易充當下一層的輸入。  近些年Relu函數及其改進型（如Leaky-ReLU、P-ReLU、R-ReLU等）在多層神經網絡中應用比較 見

>>阅读原文<<