引入ReLu激活函數原因

一、概念 1、激活函數 激活函數是神經網絡中每一層輸入和輸出之間的映射函數。 2、relu激活函數 一種非線性函數，可以表達爲 f ( x ) = max ⁡ ( 0 , x ) f(x)=\max (0, x) f(x)=max(0,x) 二、引入原因 引入relu激活函數的原因從以下三個層次論證 1.爲何引入非線性的激活函數？ 在神經網絡中，每一層輸出與輸入之間都是線性關係，若不處理這種情況，

>>阅读原文<<