常用激活函數小總結

文章目錄 一,什麼是激活函數?爲什麼需要激活函數? 1,單個神經元網絡模型 2,激活函數的來源 二,四種常用的激活函數與理解 1,Sigmod函數(非線性激活函數) 2,Tanh函數(非線性激活函數) 3,ReLU函數 4,Swish函數 三,激活函數的學習感想 以上若有錯誤或不足歡迎批評指出,謝謝! 一,什麼是激活函數?爲什麼需要激活函數? 1,單個神經元網絡模型 上圖是一張比較簡明的單個神經元
相關文章
相關標籤/搜索