《Same Representation,Different Attentions:Shareable Sentence Representation》閱讀筆記

之後會不定期分享論文筆記。 摘要 不同的任務句子表示不同，而且句子表示受限於不多的訓練數據。論文提出一個橘子表示的模型可以用於多種任務。所有任務分享相同的句子表示，每個任務可以從共享的句子表示中利用attention機制抽取任務特定的信息。每個任務注意力機制的問題向量可以是靜態的參數也可以是動態的。論文在16個不同的文本分類任務中做實驗，並取得了很好的效果。 背景 詞向量在多個任務中已經有成熟的表

>>阅读原文<<