ResNet相關論文筆記

1.Deeply-Supervised Nets      網絡結構如下圖所示。在DSN中，每一個卷積層/全連接層後，模型都會爲他們接一個旁路的全連接層，並用輸出的結果和數據的真實結果做比較，計算預測結果和真實結果的誤差，並將由此產生的梯度回傳給前面的參數。      另外，模型中間的旁路目標函數需要降權（提升各模型層的合作能力，弱化獨立能力。因爲如果不降權，每一層和目標函數近距離相連，模型層會具

>>阅读原文<<