谷歌BERT預訓練源碼解析（二）：模型構建

目錄 前言 源碼解析 模型配置參數 BertModel word embedding embedding_postprocessor Transformer self_attention 模型應用 前言 BERT的模型主要是基於Transformer架構（論文：Attention is all you need）。它拋開了RNN等固有模式，直接用注意力機制處理Seq2Seq問題，體現了大道至簡的思

>>阅读原文<<