神經網絡的激勵函數

** 激勵函數 並不是每個神經網絡都需要激勵函數 爲什麼要使用激勵函數呢？ 因爲現實生活中並不是所有問題都能被線性方程所解決，就是說有些問題是需要用到非線性方程的。 首先要了解的是激勵函數其實就是一個非線性方程，往往非線性問題所需要的非線性方程就是用 激勵函數X線性方程得到的。 上圖中的y=wx就是一個線性方程，AF（activation function）爲非線性方程 激勵函數一般爲relu，s

>>阅读原文<<