softmax解釋

sigmoid函數只能分兩類,而softmax能分多類,softmax是sigmoid的擴展 以下是Softmax函數的定義: 這個函數與hard max(即大家通常用的max函數)有相似之處,在其中某個x顯著大於其他x時,返回值接近這個x,即max 下圖爲softmax(x, 0)和hardmax(x,0)的圖形: 差別就在於softmax是連續可導的,消除了拐點,這個特性在機器學習的梯度下降法
相關文章
相關標籤/搜索