ELMO/BERT/ERNIE/GPT簡單概述

原文鏈接: http://chenhao.space/post/3b65b065.html Embedding 我們希望給不同意思的token也要給它們不同的embedding。 比如說這裏的「bank」，過去我們的做法是，作爲「銀行」的意思，就給它一個embedding，作爲「河岸」的意思，也給它一個embedding。但是人類的語言是很奇妙的，如 The hostpital has its o

>>阅读原文<<