让DeepSeek模型变更强!SGLang团队将吞吐量提高5倍,API成本降到官方五分之一

SGLang团队在开源技术博客中介绍了如何优化DeepSeek模型,在96个H100 GPU上实现了显著性能提升。通过引入PD分解、TBO以及专家重新平衡等策略,提高了预填充和解码阶段的吞吐量,并减少了不平衡现象对性能的影响。

车企“智驾”集体更名“辅助驾驶”背后:合规与责任如何归位

多家车企调整智能驾驶宣传口径,小米汽车将‘智驾’修改为辅助驾驶。工信部要求车企明确功能边界并禁止夸大宣传,强调驾驶员必须全程参与控制。此次更名背后反映行业责任与安全的博弈,旨在重建公众对智能驾驶技术的信任。