Compressing Recurrent Neural Network with Tensor Train論文翻譯

摘要 遞歸神經網絡(RNN)是建模時間和順序任務的熱門選擇,並在各種複雜問題上實現許多最新的性能。然而,大多數最先進的RNNs都有數百萬個參數,並且需要大量的計算資源來訓練和預測新數據。本文提出了一種基於張量列(TT)格式表示權值參數的備選RNN模型,以顯著減少參數的數量。在本文中,我們實現了幾種神經網絡結構的tt格式表示,如簡單神經網絡和門控循環單元。在序列分類和序列預測任務方面,比較和評價了我
相關文章
相關標籤/搜索