深度學習與推薦系統千字文——Attention機制

緣起       注意力機制模仿了人類觀察事物的過程，將其應用到深度學習中，人觀察事物會分爲兩個過程：掃描全局，獲取重點關注區域；對重點關注區域深化研究，並抑制其他無用信息。     如上圖，查看整個圖形分兩步：掃描重點文字，重點觀看文字。 注意力機制沿用了這一思路：先通過一個深度學習框架，實現掃描重點信息的功能，將重點信息存儲在一箇中間網絡中，然後再通過另一個深度學習框架解讀並深化中間網絡中的信

>>阅读原文<<