深度學習 - ResNet

1. 深度網絡的退化問題 ResNet最初的想法在於: 在一個訓練集上，深層網絡不應該比淺層網絡性能差，因爲只需要將多出來的層全部優化爲恆等映射，則深層網絡等價於淺層網絡。但論文中的試驗又表明無論是在訓練集還是在測試集上，50層的網絡性能遠差於20層的網絡，這似乎是一個悖論。這一問題被稱爲深度網絡的退化問題（degradation problem）。   2. ResNet基本網絡結構 如圖所示x

>>阅读原文<<