One PUNCH Man——激活函數和梯度消失/爆炸

文章目錄 什麼是激活函數 激活函數介紹 梯度消失/爆炸 首先推薦一個寫公式的網站：https://www.codecogs.com/latex/eqneditor.php 什麼是激活函數 如下圖，在神經元中，輸入的 inputs 通過加權，求和後，還被作用了一個函數，這個函數就是激活函數 Activation Function。 如果不用激勵函數，每一層輸出都是上層輸入的線性函數，無論神經網絡有多

>>阅读原文<<