吳恩達《深度學習》第五課第二週

序列模型——自然語言處理與詞嵌入 2.1 詞彙表徵 1.通常在序列模型中我們設置詞彙表 表徵一個詞彙的集合,對某個具體的單詞,使用one-hot形式表示,比如: 這樣表徵雖然思路簡單,但是存在一個缺陷:由於任意兩個詞彙one-hot進行內積所得的結果均爲0,因此無法描述詞彙之間的某些聯繫。比如apple和orange都是水果,那麼在預測下面兩句話時本應該有借鑑作用。 2.特徵化表徵:詞嵌入 爲解決
相關文章
相關標籤/搜索