KTransformers开源项目

清华大学KVCache.AI团队联合趋境科技发布KTransformers开源项目，支持24G显存在本地运行DeepSeek-R1、V3的671B满血版，预处理和推理速度提升。