深度學習的萬能近似原理--從圖像來形象的理解這一概念

所謂萬能近似原理（niversal approximation theorem） 就是說不管一個模型多麼的複雜和多變，只要通過足夠多的層數和足夠多的神經單元進行訓練，就能近似的得到這個模型。要了解這個原理首先要從單個單元和單層單元入手。如下定義： RD → R x 􏰌→ σ(w · x + b), w ∈ RD , b ∈ R, and σ : R → R. 上面的公式是一個單元的完整參數和映射

>>阅读原文<<