激活函數、損失函數與超參數

激活函數： 激活函數的特點： 輸入：標量， 輸出；標量 很多激活函數如果畫圖，都是S形的，稱爲Sigmoid函數。 常見的有6種： 1.線性變換Linear：f(x) = Wx，用於輸入層。直線。 2.Sigmoid函數：可以減少極端值而不用移除它們。0-1之間的S形漸近線。把x的正負無窮轉爲y的0-1，大多數都在0或1附近。爲每個類輸出一個獨立概率。 人還是車？用sigmoid函數 ，是人嗎？是

>>阅读原文<<