常用的**函數彙總-Sigmoid, tanh, relu, elu

**函數(又叫激勵函數,後面就全部統稱爲**函數)是模型整個結構中的非線性扭曲力,神經網絡的每層都會有一個**函數。那他到底是什麼,有什麼作用?都有哪些常見的**函數呢?   深度學習的基本原理就是基於人工神經網絡,信號從一個神經元進入,經過非線性的 activation function,傳入到下一層神經元;再經過該層神經元的 activate,繼續往下傳遞,如此循環往復,直到輸出層。正是由於這
相關文章
相關標籤/搜索