分布式训练

榨干每一块 GPU！DeepSeek 开源第二天，送上降本增效神器

作者

DeepSeek 开源周第二天，带来了 DeepEP 通信库，旨在优化混合专家系统和专家并行模型的高效通信。其亮点包括高效的全员协作通道、专为训练和推理预填充设计的核心以及灵活调控GPU资源的能力，显著提升MoE模型的性能和效率。