論文閱讀筆記《Auto-Meta: Automated Gradient Based Meta Learner Search》

核心思想   本文提出一種基於NAS的小樣本學習算法(Auto-Meta),基本思路就是將NAS算法PNAS和元學習算法Reptile相結合。首先將網絡結構固定住,利用Reptile算法訓練網絡參數;然後基於幾個效果較好的網絡結構,再去搜索更復雜的結構;最後反覆重複上述兩個步驟,直到搜索到最優的網絡結構和網絡參數,訓練的目標函數如下 其中 θ \theta θ表示網絡參數, A A A表示網絡結構
相關文章
相關標籤/搜索