殘差連接skip connect

文章目錄 1. 來源 1.LSTM的控制門 2.ResNet進一步簡化和實驗驗證 2.解決：梯度消失 2.1.梯度消失 2.2.使用殘差連接 3.解決：網絡權重矩陣的退化 3.1.網絡退化 3.2.使用殘差連接 4.殘差連接的有效性 5.解釋角度 5.1.使得信息前後向傳播更加順暢 5.2.集成學習 5.3.解決梯度破碎問題 參考 Skip block：將輸出表述爲輸入X和輸入的一個非線性變換F(

>>阅读原文<<