压缩技术
谷歌大神首次揭秘Gemini预训练秘密:52页PPT干货,推理成本成最重要因素
谷歌内部分享揭秘Gemini预训练背后逻辑与挑战,提出优化模型大小、数据量及推理效率的新方法。强调硬件感知优化、蒸馏技术应用以及引入更多维度的低成本研究机遇。
Pixel Converter 是一个开源的简单快速图像格式转换器
Pixel Converter 是一个开源的图像格式转换器,可通过 https://pixel-converter.app/ 使用,并基于 GitHub 项目 (https://github.com/katbella/pixel-converter)。
量化压缩80%!160GB就能运行671B的DeepSeek R1
671B参数的DeepSeek R1在UnslothAI团队的技术优化下成功压缩至131GB,仅需160GB显存即可运行。该模型在多项基准测试中表现出色,为开发者和用户提供了一种新的量化压缩思路。