1200行代码逆袭!DeepSeek工程师开源轻量级vLLM,吞吐量逼近原版
Nano-vLLM 是一个由 DeepSeek AI 研究者俞星凯构建的轻量级 vLLM 实现,代码简化至 1200 行。其亮点包括快速离线推理、简洁易读的代码库以及优化套件等功能。与 vLLM 相比,Nano-vLLM 在输出 token 和时间上表现相近,但略逊于 vLLM 的吞吐量。
Nano-vLLM 是一个由 DeepSeek AI 研究者俞星凯构建的轻量级 vLLM 实现,代码简化至 1200 行。其亮点包括快速离线推理、简洁易读的代码库以及优化套件等功能。与 vLLM 相比,Nano-vLLM 在输出 token 和时间上表现相近,但略逊于 vLLM 的吞吐量。
清华大学与银河通用联合发布全开源OpenWBT操作系统,支持多种机型、跨虚实控制,实现高效机器人数据采集。论文提出Real-world-Ready Skill Space框架解决仿真实验室到实际应用的迁移问题。
抖音内容技术团队开源了ContentV,一种高效训练视频生成模型的方案,在有限资源下取得了与现有主流方案相近的生成效果。