注意力機制學習

如上圖所示，人在看一些事物時，往往注意到的地方是不一樣的。其中紅色區域表明視覺系統更關注的目標，很明顯對於圖1所示的場景，人們會把注意力更多投入到人的臉部，文本的標題以及文章首句等位置。   1.Encoder-Decoder框架   在語言處理的場景下，上圖可以理解爲，在給定一些文本的情況下，生成其他的文本的通用架構。 如果Source是中文句子，Target是英文句子，那麼這就是解決機器翻譯問

>>阅读原文<<