ElitesAI·動手學深度學習PyTorch版Task02

ElitesAI·動手學深度學習PyTorch版 Task02 文本預處理 文本是一類序列數據，一篇文章可以看作是字符或單詞的序列，本節將介紹文本數據的常見預處理步驟，預處理通常包括四個步驟： 讀入文本 分詞 建立字典，將每個詞映射到一個唯一的索引（index） 將文本從詞的序列轉換爲索引的序列，方便輸入模型 用現有工具進行分詞 我們前面介紹的分詞方式非常簡單，它至少有以下幾個缺點: 標點符號通常

>>阅读原文<<