神經網絡算法：ResNet手寫數字識別

ResNet手寫數字識別 Kaiming He博士在ResNet論文中提出了這個思想,用於解決深層神經網絡很差訓練的問題. 上圖是論文中關於傳統神經網絡很差識別的描述,能夠看到.隨着神經網絡的深度增大,訓練的錯誤率逐漸上升.因而他提出了利用殘差學習的思想,就是機器再也不學習整個分佈,而是學習當前網絡生成的分佈與原始分佈的差別.在CIFAR-10上的網絡結構以下: 他使用以下的偏差訓練公式,y-x即

>>阅读原文<<