Attention機制原理總結和應用(一)

Attention機制原理總結和應用(一) 1、attention機制的概述和常用attention類型 注意力機制(attention)是借鑑於人類的視覺選擇性的一種機制。這種機制通過對於全局的掃描，將人類的注意力着重分配在重點的區域。在計算機科學中，這種機制通過權重分配的方式進行實現。對於attention機制，常見的類型包括以下幾種 1. soft-attention機制 3. global

>>阅读原文<<