softmax 、softmaxt loss、cross-entropy

softmax 把輸入的x值進行e(e的x次方)操作,使大的更大小的更小,然後再對輸入值求概率,則大的概率也大,小大概率也小,具體操作入下圖 softmax計算公式如下: S i = e i ∑ j e j S_i = \dfrac{e^i}{\sum_j{e^j}} Si​=∑j​ejei​ softmax loss softmax loss就是經過softmax激活之後計算的loss值,公式如
相關文章
相關標籤/搜索