NLP第一課: 深度學習簡介和常識

FP和BP和消失爆炸 梯度消失和爆炸簡化解釋- -link 梯度消失及其解決方法- -link 解決零: relu, clip, loss正則化. BN. 數值 relu、leakrelu、elu等激活函數 clip 正則化 BN着重瞭解. BN 解決一: [DBN]大話解釋和應用. 預訓練 link 要用一次 1.用PCA監督訓練各層也可以, 類似於RBM. 隱含着等維度, 不同表示的轉換和信息
相關文章
相關標籤/搜索