《動手學深度學習Pytorch版》Task2-文本預處理、語言模型、循環神經網絡

課程鏈接:https://www.boyuai.com/elites/course/cZu18YmweLv10OeV 文本預處理 文本是一類序列數據,一篇文章可以看作是字符或單詞的序列,本節將介紹文本數據的常見預處理步驟,預處理通常包括四個步驟: 讀入文本 分詞 建立字典,將每個詞映射到一個唯一的索引(index) 將文本從詞的序列轉換爲索引的序列,方便輸入模型 有很多現成的分詞工具包可以使用。
相關文章
相關標籤/搜索