【NLP實踐】使用Pytorch進行文本分類——Transformer

文章目錄 前言 網絡結構 代碼實現 實踐經驗 相關文章 前言 文本分類不是生成式的任務，所以只使用Transformer的編碼部分（Encoder）進行特徵提取。若是不熟悉Transformer模型的原理請移步。python 網絡結構 代碼實現 自注意力模型： class TextSlfAttnNet(nn.Module): ''' 自注意力模型 ''' def __init__

>>阅读原文<<