KDD2019 | DeepGBM:使用樹蒸餾提升在線預測任務下深度模型效果

「 本文從以下3個方面介紹了微軟提出的DeepGBM方法:  1.闡述了樹模型以及神經網絡模型的優缺點,各自適合的場景和優勢;   2.蒸餾技術:一個巧妙的地方就是,我們知道神經網絡能夠擬合各種函數,在這篇文章裏並不是直接擬合樹模型的輸出,而是擬合樹模型索引的輸出,間接的得到樹模型單位輸出,從而在神經網絡中學習到了樹結構的知識。  3.用嵌入表示學習對衆多的葉子節點降維,使得模型能夠高效運行。」
相關文章
相關標籤/搜索