Unsloth AI发了一个动态1bit的DeepSeek-R1-0528量化模型,将模型大小从原始的 715GB 缩小到了 185GB。


参考文献:
[1] https://unsloth.ai/blog/deepseekr1-dynamic
[2] https://huggingface.co/unsloth/DeepSeek-R1-GGUF
[3] https://zhuanlan.zhihu.com/p/23510711346
知识星球服务内容:Dify源码剖析及答疑,Dify对话系统源码,NLP电子书籍报告下载,公众号所有付费资料。加微信buxingtianxia21进NLP工程化资料群。
(文:NLP工程化)