【NLP複習】CNN（TextCNN）、RNN、LSTM、GRU

時間 2021-01-15

標籤 NLP校招總複習简体版

原文原文鏈接

一、CNN（TextCNN） TextCNN跟傳統CNN的區別：卷積核不是正方形的，寬度跟詞向量維度相等。二、RNN 缺陷：長期依賴不大行；反向傳播時前面梯度爲後面梯度聯乘，依賴於激活函數和網絡初始參數，可能會梯度消失（sigmoid）或者爆炸（relu）。三、LSTM 第一步：忘記門，決定細胞狀態需要丟棄哪些信息。ft輸出0-1的數。極端情況，0表示不保留，1表示都保留。第二步，輸入門，決

>>阅读原文<<

1. TextCNN/RCNN/LSTM/GRU
2. RNN,LSTM,GRU學習
3. RNN、LSTM、GRU
4. RNN&LSTM&GRU
5. RNN - LSTM - GRU
6. RNN、GRU、LSTM
7. 【深度學習】RNN | GRU | LSTM
8. 【深度學習】RNN、GRU、LSTM
9. RNN-LSTM-GRU學習筆記
10. LSTM、GRU、 BRNN、Hierarchical RNN
更多相關文章...
• ionic 複選框 - ionic 教程
• XSD 複合元素 - XML Schema 教程
• Tomcat學習筆記（史上最全tomcat學習筆記）
• Kotlin學習（二）基本類型

相關標籤/搜索