深度學習常用激活函數

在感知器模型、神經網絡模型、深度學習模型中均會看見激活函數的聲影。激活函數又被稱爲轉移函數、激勵函數、傳輸函數或限幅函數，其作用就是將可能的無限域變換到一指定的有限範圍內輸出，這類似於生物神經元具有的非線性轉移特性。 常用的激活函數有：線性函數、斜坡函數、階躍函數、符號函數、Sigmoid函數、雙曲正切函數、Softplus函數、Softsign函數、Relu函數及其變形、Maxout函數等。 線

>>阅读原文<<