BERT模型的優點

BERT 模型是將預訓練模型和下游任務模型結合在一起的,也就是說在做下游任務時仍然是用BERT模型,而且天然支持文本分類任務,在做文本分類任務時不需要對模型做修改。谷歌提供了下面七種預訓練好的模型文件。 BERT模型在英文數據集上提供了兩種大小的模型,Base和Large。Uncased是意味着輸入的詞都會轉變成小寫,cased是意味着輸入的詞會保存其大寫(在命名實體識別等項目上需要)。Multi
相關文章
相關標籤/搜索