BERT基礎（一）：self_attention自注意力詳解

BERT中的主要模型爲Transformer，而Transformer的主要模塊就是self-attention。爲了更好理解bert，就從最基本的self-attention 開始。以後的博文則一步一步推動到bert。html 參考：李宏毅2019年新增課程 week 15 transformer 課程筆記web 視頻及課件地址：https://www.bilibili.com/video/av

>>阅读原文<<