《Spelling Error Correction with Soft-Masked BERT》閱讀筆記

會議：ACL2020 機構：字節跳動、復旦大學 摘要：拼寫錯誤檢測很重要但是具有挑戰性，因爲其需要人類水平的語言理解能力。目前一個SOTA是用BERT在句子的每個位置的候選列表中選擇一個字符，以進行修改（或不修改）。然而，這個方法的準確性可能不是最優的，因爲BERT沒有足夠的能力去識別某個位置的字符是不是錯誤的，因爲他使用mask language model的訓練方式。我們提出了一個新的神經網絡

>>阅读原文<<