論文理解：AlexNet(一)

alexnet發表於2012年 是非常經典的網絡。 他的主要貢獻有： 1.使用relu激活函數，加快了模型收斂。 2.使用雙層結構，進行了gpu並行加速。屬於計算圖並行。 3.提出LRN層，局部歸一化。 4.overlapping pooling 5.基於PCA的圖像增強。 一、relu激活函數 這裏不多說了，前面博客裏說過，加relu激活函數可以避免梯度消失，因爲relu是非飽和函數。 首先看一

>>阅读原文<<