TensorFlow常用激活函數及其特點和用法（6種）詳解

每個神經元都必須有激活函數。它們爲神經元提供了模擬複雜非線性數據集所必需的非線性特性。該函數取所有輸入的加權和，進而生成一個輸出信號。你可以把它看作輸入和輸出之間的轉換。使用適當的激活函數，可以將輸出值限定在一個定義的範圍內。 如果 xi 是第 j 個輸入，Wj 是連接第 j 個輸入到神經元的權重，b 是神經元的偏置，神經元的輸出（在生物學術語中，神經元的激活）由激活函數決定，並且在數學上表示如下

>>阅读原文<<