《動手學深度學習》第二十四天---語言模型,循環神經網絡

(一)語言模型 給定一個長度爲T的詞的序列w1,w2,…,wT,語言模型將計算該序列機率:P(w1,w2,…,wT)。語言模型(language model)可用於提高語音識別和機器翻譯的性能,根據序列的機率選擇輸出的序列。 例如,一段含有4個詞的文本序列的機率 其中,P(w1)能夠計算爲w1在訓練數據集中的詞頻(詞出現的次數)與訓練數據集的總詞數之比。P(w2∣w1)能夠計算爲w1,w2兩詞相鄰
相關文章
相關標籤/搜索