ICLR2019最佳論文: ON LSTM (RNN陣營對抗Attention的利器)

該文是2019年ICLR兩篇最佳論文之一,由蒙特利爾大學MILA實驗室(後面會介紹)和微軟加拿大研究院聯合發表。 該文最主要的貢獻即是採用巧妙的有序神經元將序列中的樹結構建模進去,得到了更高抽象水平的層次表示,必定程度上解決Long term dependency problem,提升了模型訓練效率。 看完這篇論文,被做者巧妙的想法所打動,一個簡單地改進,不只僅帶來了LSTM效果上的極大提高,還能
相關文章
相關標籤/搜索