DeepMind提出新型超參數最優化方法:性能超越手動調參和貝葉斯優化

近日,DeepMind 發表論文提出一種新型的超參數調優方法,該方法從遺傳算法獲得啓發大大提升了最優超參數搜索的效率。它的性能要比貝葉斯優化好很多,且在各種前沿模型的測試中很大程度上提升了當前最優的性能。 從圍棋、Atari 遊戲到圖像識別與語言翻譯,神經網絡都取得了巨大的成功。但我們常常忽略的是,神經網絡在特定應用上的成功通常取決於研究開始時所做的一系列選擇,包括使用什麼樣的神經網絡架構、數據與
相關文章
相關標籤/搜索