softmax做激活函數，crossentropy做損失函數時softmax的求導問題

首先crossentropy的定義爲 softmax的直觀定義（摘於李宏毅教授主頁http://speech.ee.ntu.edu.tw/~tlkagk/courses.html） softmax它將多個神經元的輸出，映射到（0,1）區間內，可以看成概率來理解，從而來進行多分類！以手寫數字圖像識別爲例。softmax輸出的是一個十維的vector，比如待識別的數字是2，則我們希望的是在索引爲2處的

>>阅读原文<<