8.無監督學習: SimCLRv2

v2框架整體還是沿用了在NLP中流行的unsupervised pretrain外加10% 的有監督label進行微調的範式。 預訓練階段在沒有先驗的情況下學習沒有標籤的數據。論文中也提到了使用較深和較寬的神經網絡可以提高label-efficient,並極大地提高準確性。 與SimCLRv1採用ResNet-50的策略不同,SimCLRv2中的Large model直接上152層的ResNet,
相關文章
相關標籤/搜索