激勵函數

一、深層神經網絡爲什麼需要激活函數? 1.非線性激活函數的主要作用 提供網絡的非線性建模能力,增強模型的表達能力,雙隱層神經網絡能夠解決任意複雜的分類問題 將原始特徵從低維空間映射到高維空間(從多項式角度看------它隱含的找到了所需的高次特徵項(更好的特徵),從而簡化了繁重的計算) 如果不用激勵函數(其實相當於激勵函數是f(x) = x),在這種情況下你每一層節點的輸入都是上層輸出的線性函數,
相關文章
相關標籤/搜索