常用激活函數介紹

爲什麼在神經網絡中需要用到激活函數呢,而且是用非線性激活函數呢,原因很簡單,假如我們用的是線性激活函數的話,假設在多層神經網絡,爲某個神經元的計算結果,使用線性激活函數後的結果 則相當於使用了激活函數後仍然爲一個線性組合,相當於多次組合,毫無意義,則多層神經網絡的最終結果相對於最開始的輸入而言也只是做了多次線性組合和用一層線性組合是一個意思,所以爲了讓多層神經網絡達到能擬合任意函數的目的,我們的激
相關文章
相關標籤/搜索