深度學習: **函數 (Activation Functions)

Introduction **函數（activation function）層又稱 非線性映射 (non-linearity mapping) 層，作用是 增加整個網絡的非線性（即 表達能力 或 抽象能力）。 深度學習之所以擁有 強大的表示能力 ，法門便在於 **函數 的 非線性 。 然而物極必反。由於 非線性設計 所帶來的一系列 副作用（如 期望均值不爲0、死區），迫使煉丹師們設計出種類繁多的*

>>阅读原文<<