深度學習算法的幾個難點

一、局部最優問題。算法 深度學習算法的目標函數，幾乎全都是非凸的。而目前尋找最優解的方法，都是基於梯度降低的。稍微有點背景知識的人都知道，梯度降低方法是解決不了非凸問題的。所以，若是找到最優解，將是深度學習領域，很是值得研究的課題。服務器 andrew在google的工做，也就是那隻貓，其實訓練過程是讓人很費解的。爲了縮短訓練時間，項目組採用了分佈式訓練的方式。採用了1000臺計算機，在不一樣的計

>>阅读原文<<