深度學習：神經網絡

一 感知機 感知機的結構如下圖所示： 添加激活函數後，感知機可以用來完成二分類任務。階躍函數和符號函數由於不連續導致了導數爲0，因此無法利用梯度下降算法來參數優化，與此同時，以感知機爲代表的線性模型不能解決異或(XOR)等線性不可分問題，所以在應用上受到很大的限制。 二 全連接層 下圖的網絡結構可看出，每個輸出節點都和全部的輸入節點相連接，那麼這種網絡層就叫做全連接層。 三 神經網絡 這種由神經元

>>阅读原文<<