【機器學習】softmax函數總結

原本以爲softmax函數求導沒啥難度的,結果自己寫CNN的時候,梯度算的一直不對,查了半天才發現是因爲softmax求導沒求對。索性就開一篇Blog把softmax相關的都給記錄一下。 softmax的定義 softmax函數如下: aLj=ezLj∑kezLk 其可以看成sigmoid函數在多元分佈中的一個推廣 至於softmax這個公式具體是怎麼來的呢? 可以參照廣義線性模型(GLM)裏,通
相關文章
相關標籤/搜索