非局部神經網絡，打造未來神經網絡基本組件

將非局部計算作爲獲取長時記憶的通用模塊，提高神經網絡性能在深度神經網絡中，獲取長時記憶（long-range dependency）至關重要。對於序列數據（例如語音、語言），遞歸運算（recurrent operation）是長時記憶建模的主要解決方案。對於圖像數據，長時記憶建模則依靠大型感受野，後者是多層卷積運算堆疊的結果。  卷積和遞歸運算處理的都是一個局部鄰域，可以是空間局部鄰域，也可以是時

>>阅读原文<<