注意力之雙線性模型注意力

本文主要針對兩篇論文：雙線性注意力網絡模型和深度模塊化注意力進行總結，加上自己對其的理解。若有不足，還望指出。 論文地址： 雙線性注意力網絡 深度模塊化注意力 項目地址： 雙線性注意力網絡 深度模塊化注意力 0. 寫在前面 首先我們要知道什麼是注意力機制和什麼是雙線性模型 0.1 注意力機制 注意力一詞來源與我們自身的視覺系統，現實生活中，我們觀察事物傾向於將信息集中進行分析而忽略掉圖像中的無關信

>>阅读原文<<