對Rethinking ImageNet Pre-training的理解

Kaiming He的這篇論文提出了一個新問題，在目標檢測、實例分割和人體關鍵點檢測等領域，預訓練的模型是否真的起了做用？經過實驗，得出結論：迭代次數較少時，使用預訓練模型效果更好；可是隻要迭代次數充分多，使用預訓練的模型和使用隨機初始化的模型效果差距不大。可見預訓練模型並非那麼重要。