Soft-Masked-Bert網絡細節解讀

大家好，我是隔壁小王。 Soft-Masked-Bert是復旦大學和字節跳動聯合發佈的在bert基礎上針對文本糾正的網絡模型，這裏對其細節進行一個梳理。 考慮到我另外一個網絡中有講過bert的細節，因此這裏姑且把bert作爲一個黑盒，詳細介紹下smbert相比與bert改動的部分。 首先上圖： 別看它這個圖挺唬人，其實改動非常簡單，該網絡主要加入的是一個錯別字的檢測網絡部分也就是圖中的Detect

>>阅读原文<<