ICLR 2020|互信息視角下的表徵學習

兩篇和互信息相關的論文 點擊查看ICLR更多論文信息 互信息（MI）在表徵學習中廣泛被用到，但由於其intractable的性質，很多方法只是將其一個下界作爲優化的目標。本文簡單闡述了兩篇文章，其中一篇將如今的詞表示學習方法統一到MI的視角下，另一篇首次提出了近似MI的導數而非直接近似MI來得到更好的近似效果。   A Mutual Information Maximization Perspec

>>阅读原文<<