DARTS論文閱讀

DARTS論文閱讀 搜索空間 連續鬆弛與優化 傳統的NAS不適合小微實驗室,DARTS提供了一種新的思路——利用梯度下降算法來進行模型結構搜索。 一,網絡的結構用有向無環圖表示。 二,引入了一個簡單的搜索空間連續鬆弛方案,從而爲體系結構及其權重的聯合優化提供了一個可微學習目標 三,最後,提出了一種近似技術,使算法在計算上可行和有效 搜索空間 搜索一個計算單元作爲最終體系結構的構建塊。一個計算單元是
相關文章
相關標籤/搜索