語言模型中常見的平滑處理技術

1 爲什麼需要平滑處理技術？ 在使用語言模型直接計算某個句子出現的概率時，可能會由於某個單詞或單詞對出現的概率爲0而導致整個句子出現的概率爲0。 例如下面這個場景： 在上面的場景中，由於部分單詞對出現的概率爲0，導致最終兩句話出現的概率均爲0。但實際上，s1=「今天沒有訓練營」比s2=「今天訓練營沒有」更符合語法習慣，我們也更希望計算出來的P(s1)大於P(s2)。 2 常見的平滑處理技術 爲了解

>>阅读原文<<