神經網絡發展概述

1.  感知機：     擁有輸入層，輸出層和一個隱藏層，無法執行異或操作； 2.  多層感知機（神經網絡）：     擁有多個隱藏層，全連接結構；     使用sigmoid或tanh等連續函數模擬神經元對激勵的相應；     訓練上使用反向傳播BP算法。     解決：異或邏輯無法模擬問題。     問題：（1）優化函數越來越容易陷入局部最優解，偏離全局最優解；          （2）「梯度

>>阅读原文<<