DINO

SimDINO 借助编码比率正则化简化DINO并提升性能

作者

本文介绍了一种简化DINO和DINOv2训练流程的方法，通过编码率正则化提升模型性能。该方法提出SimDINO和SimDINOv2模型，减少了复杂的调整步骤和超参数设置，实验结果表明新模型在多种下游任务中性能优于原版模型，并且对不同设计选择表现出更强的鲁棒性。