理解JS散度(Jensen–Shannon divergence)

文章目錄 1.KL散度 1.1 KL散度的性質 1.2 KL散度的問題即JS散度的引出 2. JS散度 爲什麼會出現兩個分佈沒有重疊的現象 參考文獻 1.KL散度 用來衡量兩個分佈之間的差異，等於一個交叉熵減去一個信息熵（交叉熵損失函數的由來） 1.1 KL散度的性質 非負性（用Jenson‘s inequality 證明） 不對稱性，即KL(P||Q)≠KL(Q||P) 1.2 KL散度的問題即

>>阅读原文<<