KL散度，JS散度，餘弦距離，歐式距離

散度：量化兩種概率分佈P和Q之間差異的方式；相當於衡量兩個函數之間的關係 GAN是最小化JS散度 VAE是最小化KL散度 KL散度（不對稱）：設p爲隨機變量X的概率分佈，即p(x)爲隨機變量X在X=x處的概率密度函數值。兩個概率分佈p和q的KL散度（Kullback–Leibler divergence）也稱爲相對熵，用於刻畫概率分佈q擬合概率分佈p的程度。 JS散度（對稱）： 距離：兩個特徵向量

>>阅读原文<<