(轉載)局部連接與權值共享

下圖是一個很經典的圖示，左邊是全連接，右邊是局部連接。 對於一個1000 × 1000的輸入圖像而言，如果下一個隱藏層的神經元數目爲10^6個，採用全連接則有1000 × 1000 × 10^6 = 10^12個權值參數，如此數目巨大的參數幾乎難以訓練；而採用局部連接，隱藏層的每個神經元僅與圖像中10 × 10的局部圖像相連接，那麼此時的權值參數數量爲10 × 10 × 10^6 = 10^8，將

>>阅读原文<<