A Diversity-Promoting Objective Function for Neural Conversation Models

該論文提出了基於最大互信息(Maximum Mutual Information—MMI)的期望計算思想。 傳統的生成模型計算方式是:target = argmax(logP(T|S)),即在source給定的條件下,尋找出最大概率的target。 這樣的計算方式所帶來的問題是會生成一般性的,具有大概率事件的target,失去了target的多樣性。 由互信息公式得: 該論文基於MMI思想,提出了
相關文章
相關標籤/搜索