深度學習-NLP應用

語言模型的核心思想是按照特定的訓練方式,從語料中提取所蘊 含的語言知識,應用於詞序列的預測。 包括 基於規則的語言模型 和 統計語言模型 •統計語言模型處於主流地位,通過對語料庫的統計學習,歸納出 其中的語言知識,獲得詞與詞之間的連接概率,並以詞序列的概 率爲依據來判斷其是否合理。 序列S={w1,w2,w3…}的概率就是: 這樣後面就是指數級增長,所以後面考慮N-gram,只考慮當前詞的前n-1
相關文章
相關標籤/搜索