量化压缩80%!160GB就能运行671B的DeepSeek R1
671B参数的DeepSeek R1在UnslothAI团队的技术优化下成功压缩至131GB,仅需160GB显存即可运行。该模型在多项基准测试中表现出色,为开发者和用户提供了一种新的量化压缩思路。
671B参数的DeepSeek R1在UnslothAI团队的技术优化下成功压缩至131GB,仅需160GB显存即可运行。该模型在多项基准测试中表现出色,为开发者和用户提供了一种新的量化压缩思路。
阿里千问家族迎来了新的旗舰级成员Qwen2.5-VL,重点提升视觉理解、智能体能力和长视频理解能力。亮点包括精准图像识别、智能交互与任务完成、长时间视频内容理解和结构化数据输出等。