深度學習中的激活函數與梯度消失

轉載自https://blog.csdn.net/shwan_ma/article/details/76252355 https://www.cnblogs.com/willnote/p/6912798.html Sigmoid激活函數 sigmoid函數在歷史上很受歡迎，因爲他很符合神經元的特徵，  優點是： 能夠把輸出控制在[0,1]之間， 直觀  缺點是：1）他的飽和區和未激活區的梯度均爲0

>>阅读原文<<