深度學習的挑戰和策略

文章目錄 1. 正則化 1.1 過擬合概念 1.2 L二、L1正則化 1.2.1 L2正則化 1.2.2 L1正則化 1.3 增長數據量 1.4 梯度裁剪 1.5 提早終止 1.6 共享參數 1.7 dropout 1.7.1 概念 1.7.2 dropout的原則 2. 預處理 2.1 初始化 2.2 歸一化 3. 批量化 4. 並行化 4.1 深度學習並行模式 5. 選擇合適的激活函數 6.

>>阅读原文<<