推薦系統與深度學習(三)——Attention機制原理​

作者:livan 來源:數據python與算法 緣起     注意力機制模仿了人類觀察事物的過程,將其應用到深度學習中,人觀察事物會分爲兩個過程:掃描全局,獲取重點關注區域;對重點關注區域深化研究,並抑制其他無用信息。     如上圖,查看整個圖形分兩步:掃描重點文字,重點觀看文字。 注意力機制沿用了這一思路:先通過一個深度學習框架,實現掃描重點信息的功能,將重點信息存儲在一箇中間網絡中,然後再通
相關文章
相關標籤/搜索