PyTorch學習筆記（三）——激活函數

  一、什麼是 Activation （激活函數） 一句話概括激活函數：就是讓神經網絡可以描述非線性問題的步驟，使神經網絡功能變得更強大。如果還不是特別瞭解, 可以參看莫煩製作的動畫短片，淺顯易懂的闡述了激勵函數的作用。 二、Torch 中的激勵函數  Torch 中的激勵函數有很多，不過我們平時要用到的就這幾個。relu、sigmoid、tanh和softplus。那我們就看看他們各自長什麼樣啦

>>阅读原文<<