softmax 簡單講解

1. softmax 的位置 softmax（軟最大輸出函數），可以將輸入序列映射到 0-1 之間，且映射後的序列和爲 1，這樣就可以理解爲，將輸入序列轉化爲分別對應屬於某些分類的概率，因此常常用來作爲多分類任務中的激活函數，同時使用交叉熵作爲損失函數。 2.  softmax函數及導數 softmax 函數  softmax 求導時分兩種情況： 當 i = j 時： 當 i ≠ j 時： 暫時先

>>阅读原文<<