論文筆記：Progressive Neural Architecture Search

Progressive Neural Architecture Search

2019-03-18 20:28:13

 

Paper：http://openaccess.thecvf.com/content_ECCV_2018/papers/Chenxi_Liu_Progressive_Neural_Architecture_ECCV_2018_paper.pdf 

Code (PyTorch version)：https://github.com/chenxi116/PNASNet.pytorch 

Video Tutorial from ECCV 2018: https://www.youtube.com/watch?v=mUHHdzPSleQ&t=73s 

 

1. 摘要：

本文提出一種新的方法進行網絡結構的學習，比常見的基於 RL 和 進化算法的方法，都要高效。咱們的方法採用 a sequential model-based optimization (SMBO) strategy,  在增長複雜度的角度來搜索結構，同時學習一個 surrogate model 來引導搜索。直接與擁有一樣搜索空間的模型相比較，咱們的方法比 RL 的方法，在評價的模型 和 總計算量相比，分別要高效 5 倍 和 8倍。經過做者搜索出來的網絡結構，在 CIFAR-10 和 ImageNet 上，都取得了比現有模型要好的效果。

 

2.