NLP學習17_Attention

時間 2021-01-12

標籤 nlp 機器學習简体版

原文原文鏈接

注意力機制用在圖像處理、NLP領域看圖說話我們要從CNN識別結果中選擇一個向量作爲meaning vector 一般選擇倒數第二層的向量，因爲倒數第一層的向量更適合分類，而倒數第二層的向量更具泛化能力使用attention：如果要看圖說話，比如我要生成girl這個單詞，那麼我的關注點肯定是圖片中的小女孩，而不是整張圖片 Seq2Seq 編碼部分，首先要對每個單詞進行pretrain emb

>>阅读原文<<

1. NLP學習DAY1
2. NLP學習（一）
3. nlp學習--點滴
4. NLP學習路徑
5. NLP學習筆記
6. nlp-bert學習1
7. NLP學習15_RNN、LSTM
8. NLP學習-清洗
9. NLP學習記錄
10. 視頻教程-NLP——深度學習-NLP
更多相關文章...
• 您已經學習了 XML Schema，下一步學習什麼呢？ - XML Schema 教程
• 我們已經學習了 SQL，下一步學習什麼呢？ - SQL 教程
• Tomcat學習筆記（史上最全tomcat學習筆記）
• 適用於PHP初學者的學習線路和建議

相關標籤/搜索

每日一句

每一个你不满意的现在，都有一个你没有努力的曾经。