激活函數（ activation function）的理解筆記

筆記1來自知乎網友lee philip的回答：     激活函數是用來加入非線性因素的，因爲線性模型的表達能力不夠。比如異或問題，激活函數我們選擇閥值函數（threshold function），也就是大於某個值（如0）輸出1（被激活了），小於等於則輸出0（沒有激活），這個函數是非線性函數。 其中直線上的數字爲權重。圓圈中的數字爲閥值。第二層，如果輸入大於1.5則輸出1，否則0；第三層，如果輸入大

>>阅读原文<<