語言模型困惑度的兩種形式及python實現

在天然語言處理中，對於一個語言模型，通常用困惑度來衡量它的好壞，困惑度越低，說明語言模型面對一句話感到困惑的程度越低，語言模型就越好。python 在網上關於語言模型困惑度的介紹文章中，通常會看到如下兩種形式：web 實際上兩種形式是同樣的，只不過是不同的表達：svg 對於左邊的式子，兩邊取對數以後，再反解出 PP(S) 就能夠獲得右式的結果。函數 上面式子中的 S 就是一句話，N 是這句話的長度

>>阅读原文<<