2017-CVPR-DenseNet

idea來源: 在隨機深度網絡(deep networks with stochastic depth)paper中,提出一種類似dropout的方法改進ResNet,作者發現在訓練時每一步被隨機丟掉一些層,可以顯著提高ResNet的泛化性能。這帶給作者兩點啓發: 神經網絡的設計並不一定要是一個遞進層次結構,也就是說網絡中的某一層可以不僅僅依賴於緊鄰的上一層的特徵,而可以更依賴於更之前學到的特徵。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息