邏輯迴歸算法

它能夠把輸入的連續實值「壓縮」到0和1之間。特別的,如果是非常大的負數,那麼輸出就是0;如果是非常大的正數,輸出就是1. sigmoid 函數曾經被使用的很多,不過近年來,用它的人越來越少了。主要是因爲它的一些 缺點: 當輸入非常大或者非常小的時候,這些神經元的梯度是接近於0的,從圖中可以看出梯度的趨勢。Sigmoid 的 輸出不是0均值,這會導致後一層的神經元將得到上一層輸出的非0均值的信號作爲
相關文章
相關標籤/搜索