自然語言處理時,通常的文本清理流程是什麼?

  自然語言處理文本清理流程,主要分爲二步:   1.文本預處理,我們的文本基本都是網絡文本,主要是網頁html的形式,網頁中存在很多不必要的信息,比如說一些廣告、導航欄,html、JS代碼,註釋等等,無用的價值信息,可以合理的清理掉,如果需要正文提取,可以利用標籤用途、標籤密度判定、數據挖掘思想、視覺網頁塊分析技術等等策略抽取出正文。   2.文本流的語言學處理,主要分爲3小步:   1.分詞經
相關文章
相關標籤/搜索