目標檢測之五:隨機權值平均(Stochastic Weight Averaging,SWA)---木有看懂

隨機權值平均(Stochastic Weight Averaging,SWA) 隨機權值平均只需快速集合集成的一小部分算力,就可以接近其表現。SWA 可以用在任意架構和數據集上,都會有不錯的表現。根據論文中的實驗,SWA 可以得到我之前提到過的更寬的極小值。在經典認知下,SWA 不算集成,因爲在訓練的最終階段你只得到一個模型,但它的表現超過了快照集成,接近 FGE(多個模型取平均)。 左圖:W1、
相關文章
相關標籤/搜索