FastFormers 論文解讀：可以使Transformer 在CPU上的推理速度提高233倍

自Transformers誕生以來，緊隨其後的是BERT，在幾乎所有與語言相關的任務中，無論是問題回答，情感分析，文本分類還是文本生成，都佔據着NLP的主導地位。 與RNN和LSTM消失的梯度問題（不影響長數據序列的學習）不同，Transformers在所有這些任務上的準確性更高。 RNN和LSTM不可擴展，因爲它們必須考慮先前神經元的輸出。 現在，《Transformers》的主要問題是它們在訓

>>阅读原文<<