常用激活函數

常用激活函數 Sigmoid函數 tanh函數 Relu函數 Leaky Relu函數(PRelu) ELU (Exponential Linear Units) 函數 應用中如何選擇合適的激活函數? Sigmoid函數 數學形式: f ( z ) = 1 1 + e − z f(z)={1\over1+e^{-z}} f(z)=1+e−z1​ 幾何圖像: 特點: 它能夠把輸入的連續實值變換爲0和
相關文章
相關標籤/搜索