gan 的要點 （弱點與改進、推土距離）

1、如何度量兩個分佈的相似度 kl散度，分佈的對數差異的數學期望（兩個分佈在所有取值上的加權平均）。 2、極大似然估計可以看作最小化模型分佈的kl散度距離等價。 使得對數似然函數最大>等價轉換（引入負號)>引入常數項>相除形式>kl散度定義 3 、kl散度作爲損失函數的模式塌陷問題：因爲p(x)爲其中一個分佈的加權，所以不具有對稱性，假設p(x) q(x)一個爲單峯、一個爲雙峯，用雙峯逼近的時容易

>>阅读原文<<