激活函數Tanh

激活函數Tanh 系列文章：   Tanh的誕生比Sigmoid晚一些，sigmoid函數我們提到過有一個缺點就是輸出不以0爲中心，使得收斂變慢的問題。而Tanh則就是解決了這個問題。Tanh就是雙曲正切函數。等於雙曲餘弦除雙曲正弦。函數表達式和圖像見下圖。這個函數是一個奇函數。   對tanh函數求導需要一定的數學基礎，這裏直接給出結果。 t a n h ′ ( x ) = 1 − t a n

>>阅读原文<<