谷歌推出新模型「pQRNN」，少量參數下進行文本分類，性能堪比BERT

近日，谷歌推出了新模型「pQRNN」，它是由去年推出的「PRADO」進一步使用小模型改進而得，達到了SOTA結果。pQRNN的新穎之處在於，它可以結合一個簡單的映射和一個quasi-RNN編碼器來進行快速並行處理。同時，谷歌證明了該模型能在參數較少的情況下進行文本分類任務，並達到BERT級別的性能表現。 深層神經網絡的快速發展在過去的十年中徹底改變了自然語言處理(NLP)領域 。同時，諸如保護用戶

>>阅读原文<<