DARTS+ 論文筆記

DARTS+解決的問題： DARTS[1]的雙層優化問題（網絡結構與網絡參數一起優化）隨着訓練epoch增加而使得權重耦合和權重之間的互相競爭加劇，使得最終skip-connection的權重越來越高（最終便選擇跳躍連接），DARTS+[2]認爲這是DARTS訓練到最後導致網絡性能奔潰（collapse）的原因。 跳躍連接過多可能會損害DARTS的性能。DARTS+則旨在解決這個問題，利用早停（e

>>阅读原文<<