CVPR满分论文！一块2080Ti搞定数据蒸馏，GPU占用仅2G
上交大EPIC实验室提出的新方法NCFM，利用辅助神经网络将数据集蒸馏转化为极小化极大优化问题。该方法在多个基准数据集中实现了显著性能提升，并展示了出色的可扩展性和下游任务应用能力。
数据集蒸馏
上交CVPR 满分论文数据蒸馏技术，直接把 GPU 显存 “砍掉” 300 倍
一项研究提出了一种新的数据集蒸馏方法NCFM (Neural Characteristic Function Matching)，大幅提升了性能并实现了资源效率的飞跃。它通过引入神经特征函数差异度量指标，解决了现有方法的局限性，仅需2.3GB显存即可在单张GPU上完成CIFAR-100无损蒸馏，并显著超越了现有的SOTA方法。