ReFormer論文解讀(THE EFFICIENT TRANSFORMER)

文章目錄 Reformer要解決的問題 Reformer怎麼解決以上三個問題 Reformer時間、空間複雜度彙總 我們接下來詳解以上三個改進 一. hash近似Attention 二. 可逆網絡 三. 可逆網絡分塊 四. 總結一下,Reformer確實在內存、性能優化方面明顯改進,提出或借鑑的方法比較有意思。 如有不對地方,歡迎指出,謝謝。 參考鏈接: 論文:https://arxiv.org/
相關文章
相關標籤/搜索