深度學習之幾種常見的激活函數及其用法

在深度學習中,常常要用到激活函數,激活函數在深度學習模型中非常重要,激活函數的選取極大地關係到模型的好壞,在此介紹一些常用的激活函數及其最常用的使用場景。圖源網絡,侵刪。 什麼是激活函數 激活函數顧名思義,就是將深度學習中的線性加權激活,引入非線性的因素。如果沒有激活函數,神經網絡只是簡單地矩陣相乘,無論疊加了多少層,仍然是矩陣相乘,都只是線性的變換,但是在矩陣相乘後,引入一個激活函數,便引入了一
相關文章
相關標籤/搜索