A Time Delay Neural Network with Shared Weight Self-Attention for Small-Footprint Keyword Spotting淺析

文章:A Time Delay Neural Network with Shared Weight Self-Attention for Small-Footprint Keyword Spotting 中心思想:通過共享自注意力機制的權重,在維持性能不變的情況下,減少模型參數 本文的創新點:一是,用前饋神經網絡代替在注意力機制中常用的迴歸神經網絡,加速模型計算;二是,自注意力機制中的三個矩陣進行
相關文章
相關標籤/搜索