拋開約束,增強模型:一行代碼提升 ALBERT 表現

©PaperWeekly 原創 · 作者|蘇劍林 單位|追一科技 研究方向|NLP、神經網絡 本文標題看起來有點「標題黨」了,不過所作改動放到 bert4keras 框架 [1] 下,確實是一行代碼的變動,至於是否有提升,這個筆者不敢打包票,不過測了幾個算是比較有代表性的任務,均顯示持平甚至有提升,所以標題說的也基本是事實。 那究竟是什麼改動呢?其實一句話也能講清楚: 在下游任務中,放棄 ALBE
相關文章
相關標籤/搜索