讀書筆記1-DL

       1. 爲什麼要激活函數？ 由於神經網絡的正向傳播是通過線性組合實現的，導致神經網絡是一個線性的模型。 將神經網絡的輸出，輸入到非線性的激活函數裏，使得整個神經網絡不再是線性的， 可以處理非線性的問題。 P69：   2. 常用的激活函數有哪些？ P70：   3. 交叉熵的作用？ 判斷輸出向量和期望向量的接近程度，刻畫了兩個概率分佈的距離。 P74：   4. Softmax激活函數

>>阅读原文<<