一文了解KL散度(KL Divergence)

時間 2020-12-25

標籤葫蘆爺救娃娃简体版

原文原文鏈接

在概率論和統計學中,我們經常用一個簡單的近似分佈來代替觀測數據或複雜的分佈.KL散度幫助我們衡量當我們選擇一個簡單近似的分佈來代替複雜的數據或複雜的分佈的時候有多少信息損失了. 一個例子假設我們是太空科學家並在參觀一個遙遠的新星球,我們發現了一些蠕蟲,我們想要研究他們.我們發現這些蠕蟲都有10個牙齒,但是由於某些原因牙齒會進行脫落,從而導致每個蠕蟲最後的牙齒個數各不相同.通過收集一系列數據,我們

>>阅读原文<<

1. KL Divergence KL散度
2. KL散度(Kullback-Leibler Divergence)
3. KL散度
4. KL-divergence
5. KL divergence
6. KL 散度理解
7. 關於KL距離（KL Divergence）
8. 熵(Entropy),交叉熵(Cross-Entropy),KL-鬆散度(KL Divergence)
9. Kullback–Leibler divergence(相對熵，KL距離，KL散度)
10. 淺談KL散度
更多相關文章...
• *.hbm.xml映射文件詳解 - Hibernate教程
• ARP報文格式詳解 - TCP/IP教程
• 三篇文章瞭解 TiDB 技術內幕 —— 談調度
• 三篇文章瞭解 TiDB 技術內幕——說存儲

相關標籤/搜索