深度學習——優化方法

【優化方法】 （1）激活函數，有邏輯函數、sigmoid函數、softmax函數、Rectified Linear等。 （2）反向傳播更新w和b的函數有：實際值與預測值之差的二次函數、cross-entropy函數、log-likelyhood函數等。 （3）overfitting指的是在training set中結果很好，但在test set中結果不好，解決方法有擴大training set（比

>>阅读原文<<