NLP實踐九:HAN原理與文本分類實踐

文章目錄 HAN原理 代碼實踐 HAN原理 參考多層注意力模型 用於文本分類的注意力模型 整個網絡結構包括五個部分: 1)詞序列編碼器 2)基於詞級的注意力層 3)句子編碼器 4)基於句子級的注意力層 5)分類 整個網絡結構由雙向GRU網絡和注意力機制組合而成,具體的網絡結構公式如下: 1)詞序列編碼器 給定一個句子中的單詞 w i t w_{it} wit​,其中 i 表示第 i 個句子,t 表
相關文章
相關標籤/搜索