Softmax 以及 交叉熵損失函數 的求導

Ouput layer & 代價函數 網絡結構 Output later 有K個神經元，有K個輸入和輸出。爲了分別標記輸入和輸出，用 ai∈[1,K] 來表示Output layer的輸入數據， yj∈[1,K] 來表示Output layer輸出點數據。每個輸入數據 ai∈[1,K] 和隱藏層的H個塊之間是全連接的。 輸入和輸出數據 每個Output layer層的輸入數據是 ai=∑Hh=1w

>>阅读原文<<