以解數學題的方式來理解word2vec

1 one-word context 假設: 詞彙表裏面有3個單詞 ‘今天’,‘天氣’,‘不錯’;  即V=3 隱藏層具有2個節點;即N=2 目的是當輸入一個單詞,我們來預測其下一個單詞? 則在input layer由one-hot編碼:   今天······[1,0,0] 天氣······[0,1,0] 不錯······[0,0,1] 接着我們需要初始化一下輸入矩陣和輸出矩陣 這裏的值你可以任意
相關文章
相關標籤/搜索