SoftMax推導,SoftMax-Loss推導

全連接層的輸入是最後一個卷積層的輸出, 假設是100x4x4(通道數chanel = 100, featureMap = 4x4)的tensor, 輸入到全連接層之前需要平展爲N*1的向量(N=100x4x4), 這就是X. W是全連接層的參數, T是類別數.得到一個Tx1向量,其值爲(-無窮, +無窮). 將Logits輸入到SoftMax層,輸出向量prob(Tx1), 其值爲此樣本屬於每個類

>>阅读原文<<