【經典神經網絡】-AlexNet/VGG/GoogLeNet/ResNet

1 AlexNet(2012,ImageNet冠軍， CNN用於圖像分類的開山之作） 結構：5 卷積層+3個全連接層（卷積核size:11,5,3） 特點： ReLU 激活函數 （避免了sigmoid的梯度消失-反向傳播的時候會連乘sigmoid的導數，初始值很大的話導數接近於0，導致前層網絡梯度越來越小；計算量減小，加快了訓練速度） LRN（Local Response Normalizatio

>>阅读原文<<