深度學習算法之AlexNet和VGGNet

AlexNet： 1 模型特性css 該模型主要的特性以下： 1.1 激活函數——ReLUweb （1）激活函數使用ReLU，解決了梯度彌散問題;算法 什麼是梯度彌散?一樣還有一個概念叫作梯度爆炸？網絡 直觀的解釋： app 能夠看出sigmod函數在靠近0的附近的時候梯度變化比較明顯，到靠近1的地方梯度逐漸趨近與0，根據梯度降低算法，此時權值等參數變化不明顯，函數很難收斂。ide 本質的解釋：s

>>阅读原文<<