語言模型評價指標Perplexity

語言模型(Language Model,LM),給出一句話的前k個詞,但願它能夠預測第k+1個詞是什麼,即給出一個第k+1個詞可能出現的機率的分佈p(xk+1|x1,x2,...,xk)。3d 在報告裏聽到用PPL衡量語言模型收斂狀況,因而從公式角度來理解一下該指標的意義。 orm Perplexity定義 PPL是用在天然語言處理領域(NLP)中,衡量語言模型好壞的指標。它主要是根據每一個詞來估
相關文章
相關標籤/搜索