機器學習入門——常用激活函數(Activation Function)表格形式總結

圖片摘自高揚,衛崢所著的《白話深度學習與TensorFlow》 激活函數(activation function)——也有翻譯成激勵函數,變換函數的,是神經元中重要的組成部分,如果不用激勵函數,每一層輸出都是上層輸入的線性函數,無論神經網絡有多少層,輸出都是輸入的線性組合,這種情況就是最原始的感知機(Perceptron)。如果使用的話,激活函數給神經元引入了非線性因素,使得神經網絡可以任意逼近任
相關文章
相關標籤/搜索