**函數總結(一)

Introduce **函數可以理解爲非線性映射,增加網絡的複雜性。爲什麼這麼說? 如圖所示: 第一部分是對輸入的加權求和的過程,是一個線性化表示。如果不用激勵函數,每一層輸出都是上層輸入的線性函數,無論神經網絡有多少層,輸出都是輸入的線性組合。如果使用的話,**函數給神經元引入了非線性因素,可以證明可以任意逼近任何非線性函數,這樣神經網絡就可以應用到衆多的非線性模型中。 都有哪些**函數?有什麼
相關文章
相關標籤/搜索