激活函數介紹

ReLU對比Sigmoid主要變化： 1.單側抑制 2.相對寬闊的興奮邊界 3.稀疏激活性 (1) sigmoid函數（曲線很像「S」型） 公式： 曲線： 也叫 Logistic 函數，用於隱層神經元輸出 取值範圍爲(0,1) 它可以將一個實數映射到(0,1)的區間，可以用來做二分類。（它不像SVM直接給出一個分類的結果，Logistic Regression給出的是這個樣本屬於正類或者負類的可能

>>阅读原文<<