Progressive Neural Architecture Search(論文閱讀)

一、代理模型介紹 代理模型顧名思義就是用來代替某個模型的模型。由於大型卷積網絡模型的計算成本非常高,在神經架構搜索任務中如果每一個備選模型個體都要從頭開始訓練的話,計算代價是會非常高的。以NASNet爲例,它採用了500張V100顯卡經過5天的時間纔得到其論文中提出的效果,這個計算成本在實際應用中是絕對不可能接受的(價值數千萬的硬件設備,5天內只能完成一個任務)。代理模型的使用可以在一定程度上緩和
相關文章
相關標籤/搜索