attention 機制

deep learning中的Attention mecanism是參考人腦的注意力模型，例如我們看到一張照片時，雖然我們可以看到整張全貌，但當我們仔細觀察的時候，我們的眼睛只聚焦在照片中比較小的一部分，大腦主要也是關注這一區域，換句話說這個時候人腦對照片的關注並不是均衡的，是有一定的權重區分，這就是attention的 RNN多輸入與多輸出N VS M (encoder-decoder模型)，

>>阅读原文<<