基於 Hierarchical Softmax 的 CBOW 模型

關注:如何構造 P(w | context(w)) ? 1. 網絡結構 樣本: (context(w),w) ,假設 context(w) 由 w 的前後各 c 個詞構成。 輸入層:包含 (context(w)) 中的 2c 個詞向量: v(context(w)1),v(context(w)2),⋯,v(context(w)2c)∈Rm 其中, m 表示詞向量的長度。 投影層:將輸入層的 2c 個
相關文章
相關標籤/搜索