fastText原理

fastText的模型結構 x 1 , x 2 , . . . , x N − 1 , x N x_1,x_2,...,x_{N−1},x_N x1​,x2​,...,xN−1​,xN​表示一個文本中的n-gram向量，每個特徵是詞向量的平均值。這和前文中提到的cbow相似，cbow用上下文去預測中心詞，而此處用全部的n-gram去預測指定類別。 hierarchical Softmax 層次So

>>阅读原文<<