softmax函數理解

該節課中提到了一種叫作softmax的函數,因爲之前對這個概念不瞭解,所以本篇就這個函數進行整理,如下: 維基給出的解釋:softmax函數,也稱指數歸一化函數,它是一種logistic函數的歸一化形式,可以將K維實數向量壓縮成範圍[0-1]的新的K維實數向量。函數形式爲:   (1) 其中,分母部分起到歸一化的作用。至於取指數的原因,第一是要模擬max的行爲,即使得大的數值更大;第二是方便求導運
相關文章
相關標籤/搜索