序列模型筆記

EOS標記可以添加到訓練集每一個句子的結尾。 計算機對於自然語言的理解只能通過把文本轉化爲向量、矩陣的形式，通過計算來獲取有用的信息，詞嵌入應運而生。 詞嵌入（WordEmbedding）的目的在於把某個詞語、短語映射到高維空間，讓相同、相近含義的字詞在空間距離上距離相近 RNN的每一個神經元的softmax的輸出就是詞典的大小，每個詞都有對應的概率。 下面是RNN從左到右依次預測每個詞的過程。

>>阅读原文<<