論文閱讀筆記《On First-Order Meta-Learning Algorithms》

核心思想   本文是在MAML的思路上進一步改進，提出一種基於參數優化的小樣本學習算法Reptile。首先我們一起回憶一下MAML是如何進行元學習的，在之前的文章中，我們有提到MAML的訓練可以分爲兩個層次：內層優化和外層優化，內層優化就與普通的訓練一樣，假設網絡初始參數爲 θ 0 \theta^0 θ0，在數據集 A A A上採用SGD的方式進行訓練後得到參數 θ ′ \theta' θ′。如果

>>阅读原文<<