ICLR2021 | 從50篇投稿,看模型搜索最新進展

本文從模型搜索NAS的問題出發,整理了最新ICLR2021相關投稿論文。    神經網絡除了權重(W)之外,其通道數、算子類型和網絡連接等結構參數需要設定,而模型搜索NAS即是確定結構參數的自動方法。最初NASNet中每種結構參數的模型單獨訓練帶來的巨大開銷,最近兩年基於權重共享的NAS方法中,不同結構參數模型複用權重組成代理模型(SuperNet)一起訓練,然後評測子模型指標並通過RL , EA
相關文章
相關標籤/搜索