softmax函數及交叉熵損失函數求導

1.softmax函數 使用softmax函數主要是爲了解決多分類問題，在一個分類神經網絡中，該函數可以將多個神經元的輸出轉換到（0,1）之間，能夠當機率來理解，這樣就能夠取其中最大值當作被分到哪一類。 假設一組神經元的輸出爲 a [ n ] a[n] a[n]，那麼 p i p_i pi​就能夠表示爲： p i = e a i ∑ j = 1 n e a j p_{i}=\frac{e^{a_i

>>阅读原文<<